Checklist: come capire se un’attività è pronta per essere automatizzata con l’IA

Automatizzare un’attività con l’intelligenza artificiale (IA) non significa iniziare scegliendo uno strumento, ma verificare se il processo può essere delegato in modo controllato. Una valutazione preliminare aiuta a evitare progetti che non risolvono un problema chiaro, dipendono da dati inadeguati o non dispongono di meccanismi per rilevare e correggere gli errori.

La checklist seguente è pensata per le direzioni e i responsabili delle operazioni. È una guida alla valutazione, non una certificazione né un sostituto degli obblighi legali applicabili. La normativa dipende, tra gli altri fattori, dal territorio, dall’uso previsto, dai dati trattati e dalle persone interessate.

1. Definite l’obiettivo e delimitate l’attività

• Quale problema concreto si vuole risolvere? Descrivete il risultato atteso, per esempio classificare le richieste, estrarre informazioni dai documenti o preparare una bozza da sottoporre a revisione.
• Quale parte del processo sarà automatizzata e quale resterà in mano a una persona? Delimitate input, output, eccezioni e decisioni che l’IA non deve prendere.
• Esiste una misura per confrontare i risultati? Definite come osservare la qualità, i tempi, i costi e altri indicatori rilevanti prima di provare il sistema.
• È stata presa in considerazione un’alternativa più semplice? Una regola automatizzata, un miglioramento del flusso di lavoro o uno strumento convenzionale potrebbero essere sufficienti.

Se l’obiettivo non può essere espresso chiaramente, sarà difficile determinare se l’IA funziona meglio del processo attuale o se apporta valore.

2. Verificate i dati prima di valutare il modello

• I dati necessari sono disponibili e possono essere utilizzati per questo scopo? Verificatene l’origine, i permessi, le restrizioni contrattuali e le condizioni di accesso.
• Sono pertinenti, sufficientemente completi e aggiornati? Individuate duplicati, errori, lacune e cambiamenti prevedibili nei dati.
• Contengono informazioni personali, riservate o sensibili? Stabilite quali informazioni vengono inserite, chi può accedervi, dove vengono elaborate e per quanto tempo vengono conservate.
• È noto il percorso dei dati? Documentate quali informazioni entrano ed escono e quali fornitori o sistemi intervengono.
• Il fornitore spiega i limiti del sistema e l’uso che fa dei dati? Se non ci sono informazioni sufficienti per valutare questi aspetti, registratelo come un’incertezza da risolvere.

La disponibilità tecnica non equivale all’autorizzazione a qualsiasi uso. Le questioni di privacy, sicurezza, proprietà intellettuale e conservazione devono essere esaminate caso per caso e in base alla giurisdizione applicabile.

3. Confrontate le prestazioni con quelle del processo attuale

• Il sistema è stato provato con esempi rappresentativi del lavoro reale? Includete casi abituali, eccezioni e situazioni difficili.
• I criteri di accettazione sono stati definiti prima della prova? Per esempio, quali tipi di errore sono tollerabili e quali impongono di interrompere o rivedere il processo.
• Si valuta qualcosa oltre alla rapidità? Considerate la precisione, la coerenza, la robustezza rispetto a input diversi e il comportamento in gruppi o situazioni rilevanti.
• Si conoscono i limiti della valutazione? Un buon risultato in un campione di prova non garantisce le stesse prestazioni in altri contesti o dopo cambiamenti nei dati o nel sistema.

Confrontate l’IA con l’alternativa attuale usando criteri equivalenti. Se non migliora un risultato importante o introduce errori difficili da rilevare, l’automazione potrebbe non essere giustificata.

4. Misurate le conseguenze di un errore

• Chi potrebbe essere interessato da un risultato errato? Individuate clienti, dipendenti, fornitori o altre persone coinvolte nel processo.
• Quali danni operativi, economici, reputazionali o personali potrebbe causare l’errore? Distinguete tra un risultato facilmente correggibile e uno che innesca una decisione difficile da revocare.
• Quali decisioni dipendono dal risultato? Chiarite se l’IA propone informazioni, stabilisce le priorità dei casi o influisce su una decisione finale.
• Esiste un modo per contestare o correggere il risultato? Stabilite come vengono esaminati gli output e come vengono gestiti reclami o incidenti.

Quanto più gravi sono le conseguenze potenziali, tanto più solida deve essere la valutazione e tanto più diretta la supervisione. Se non è possibile identificare chi è interessato dal sistema o come rimediare a un malfunzionamento, è opportuno risolvere queste lacune prima di implementarlo.

5. Assegnate le responsabilità e definite la supervisione umana

• C’è una persona responsabile del sistema e del processo? Deve essere chiaro chi autorizza l’uso, chi lo gestisce e chi decide in caso di incidente.
• La persona incaricata della supervisione dispone delle informazioni e della capacità di intervenire? La revisione umana deve consentire di rilevare, correggere o segnalare i risultati, non limitarsi ad approvarli automaticamente.
• Sono state definite le situazioni che richiedono una revisione obbligatoria? Per esempio, risultati incerti, casi al di fuori dei criteri previsti o decisioni con effetti importanti.
• Il personale comprende i limiti e gli usi consentiti? Fornite istruzioni e formazione adeguate a chi utilizza o esamina il sistema.

La supervisione deve essere commisurata al livello di impatto. Per un’attività a basso rischio può essere sufficiente una revisione a campione; nei processi con un impatto maggiore potrebbe essere necessario verificare ogni risultato rilevante prima di agire.

6. Esaminate i rischi e i requisiti applicabili

• Sono stati individuati i rischi per la privacy e la sicurezza, i bias, gli usi impropri e gli errori sistematici? Registrate anche le misure che riducono ciascun rischio e gli aspetti ancora irrisolti.
• Sono state esaminate le condizioni del fornitore? Verificate le responsabilità, l’accesso ai dati, le modifiche del servizio, la notifica degli incidenti e le possibilità di porre fine al rapporto.
• Sono noti gli obblighi legali applicabili? La risposta dipende dal territorio e dall’uso specifico. Prima dell’implementazione, determinate se si applicano norme in materia di protezione dei dati, lavoro, consumo, sicurezza o altri ambiti.
• Sono stati documentati la finalità, le decisioni e i controlli? Conservate registrazioni sufficienti a spiegare come è stato valutato e autorizzato il sistema.

Il NIST AI Risk Management Framework fornisce indicazioni per affrontare la fiducia e i rischi dell’IA. Il quadro di rendicontazione del Processo di Hiroshima del G7 (HAIP) promosso dall’OCSE consente invece alle organizzazioni partecipanti di comunicare volontariamente le pratiche di gestione dei rischi. Secondo le informazioni disponibili, il Segretariato dell’OCSE verifica che le risposte e i materiali di supporto siano presenti e accessibili, ma non verifica il contenuto sostanziale delle dichiarazioni. Partecipare a tale quadro o figurarvi non equivale a una certificazione né a un’approvazione delle pratiche di un’organizzazione.

Questi riferimenti possono quindi aiutare a strutturare una valutazione, ma non sostituiscono la verifica delle norme vincolanti applicabili. Gli obblighi non si determinano unicamente adottando una guida volontaria.

7. Calcolate il costo totale e il valore atteso

• Sono stati inclusi i costi di integrazione, licenza e utilizzo? Aggiungete infrastruttura, archiviazione ed eventuali servizi esterni.
• È stato stimato il lavoro necessario per esaminare e correggere i risultati? Anche la supervisione, la gestione delle eccezioni e l’aggiornamento del processo richiedono risorse.
• Sono presi in considerazione sicurezza, formazione, audit e manutenzione? Non limitate il calcolo al costo iniziale dello strumento.
• Il beneficio atteso può essere misurato rispetto a questi costi? Considerate il risparmio di tempo, la capacità liberata o i miglioramenti della qualità, senza dare per scontato che si realizzeranno.

Un’automazione può accelerare una fase e, al tempo stesso, trasferire il lavoro alla revisione o alla gestione degli errori. La valutazione deve riguardare l’intero processo.

8. Sperimentate in modo controllato e preparate il monitoraggio

• Si inizierà con una prova circoscritta? Definite l’ambito, la durata o le condizioni di conclusione, le persone responsabili e i criteri per decidere se proseguire.
• Le prestazioni saranno monitorate dopo l’implementazione? Stabilite indicatori, revisioni e avvisi per rilevare cambiamenti, malfunzionamenti o usi non previsti.
• Esiste una procedura per la gestione degli incidenti? Stabilite come registrare, segnalare e correggere i problemi e quando sospendere il sistema.
• La valutazione sarà riaperta se cambiano il modello, i dati o il processo? Un’approvazione iniziale non copre automaticamente le modifiche successive.
• Esistono condizioni chiare per ampliare, modificare o ritirare la soluzione? La decisione di estenderla deve basarsi sui risultati osservati e sui rischi controllati.

Decisione finale: procedere, modificare o rinviare

Procedete con una prova limitata se l’obiettivo e i criteri sono definiti, i dati e i permessi sono stati verificati, c’è una persona responsabile e sono presenti meccanismi di supervisione e gestione degli incidenti.

Modificate il progetto se il caso sembra fattibile, ma mancano controlli, dati rappresentativi, formazione o chiarezza sulle responsabilità.

Rinviate l’implementazione se non è possibile valutare le conseguenze degli errori, proteggere i dati, assistere le persone interessate o rispettare i requisiti applicabili. La decisione di automatizzare non è solo tecnica: richiede di poter spiegare che cosa fa il sistema, chi è responsabile del suo utilizzo e come si agirà in caso di malfunzionamento.