Dove serve una persona, e dove no
La domanda giusta non è “quanto posso automatizzare”, ma “dove posso permettermi di non guardare”.
Ci sono decisioni che un sistema può prendere in autonomia: classificare una richiesta, inserire un ordine standard, rispondere a una domanda ricorrente. E ce ne sono altre dove l’errore costa troppo per correre il rischio: un’eccezione contrattuale, un reclamo delicato, un importo fuori scala.
Distinguere le due categorie è una scelta di gestione del rischio, non una scelta tecnica. Per questo la facciamo insieme a te, processo per processo, prima di configurare qualsiasi automazione.
Due modi di lavorare, non due filosofie
- Human-in-the-loop: il sistema prepara la risposta o l’azione, una persona conferma prima che venga eseguita. Si guadagna tempo mantenendo il controllo.
- Human-out-of-the-loop: il sistema decide ed esegue da solo, entro limiti che hai definito tu. Si guadagna scala dove il rischio è basso.
Il livello di autonomia non è un interruttore ma un parametro configurabile per tipo di caso: lo stesso processo può essere completamente automatico sulle pratiche ordinarie e completamente supervisionato sulle eccezioni.
Come decide il sistema quando fermarsi
Ogni decisione automatica porta con sé un punteggio di affidabilità. Sotto una certa soglia il caso non viene eseguito ma messo in coda a un operatore, con già pronta la proposta di risposta e il motivo per cui il sistema l’ha formulata. Sopra la soglia, il caso prosegue da solo.
Le regole di instradamento non dipendono solo dall’affidabilità tecnica, ma anche da criteri di business che imposti tu: importo oltre una soglia, cliente in una certa categoria, richiesta che contiene determinati argomenti, orario o carico di lavoro. Un caso può essere tecnicamente semplice e richiedere comunque una firma umana.
Il percorso di adozione
- Osservazione: il sistema propone, nessuna azione viene eseguita automaticamente. Si misura solo l’accordo tra proposta e decisione umana.
- Supervisione totale: ogni azione richiede conferma, ma la proposta arriva già pronta. Il risparmio di tempo comincia qui.
- Autonomia selettiva: le categorie con accordo consolidato passano in automatico, il resto resta supervisionato.
- Supervisione a campione: controllo periodico su un sottoinsieme dei casi, non più su ognuno.
Nessuno di questi passaggi è irreversibile: la soglia si può sempre riportare indietro.
Tutto tracciato, per l’audit e per il miglioramento
Ogni decisione — automatica o supervisionata — produce un registro con l’input ricevuto, l’azione proposta, il punteggio, la regola applicata, l’esito e, in caso di intervento umano, chi è intervenuto e cosa ha cambiato.
Serve tanto per l’audit quanto per il miglioramento: le correzioni degli operatori sono la fonte più affidabile per capire dove il sistema sbaglia e dove invece può essere lasciato libero di lavorare.
Un requisito, non solo una buona pratica
Il Regolamento europeo sull’intelligenza artificiale prevede, per i sistemi classificati ad alto rischio, una sorveglianza umana effettiva: la persona incaricata deve poter comprendere l’output, interpretarne i limiti e intervenire o interrompere il sistema.
Un’architettura che espone motivazione, punteggio e possibilità di correzione non è quindi solo una scelta progettuale prudente — è il presupposto tecnico della conformità. La classificazione di rischio va valutata sul singolo impiego, e la valutiamo con te in fase di analisi.