Human in the Loop nel Customer Service: perché il ruolo umano resta decisivo nell’era dell’AI

di  Andrea Bocerani, Chief Operations Officer e Chief Information Security Officer, Base Digitale Platform

L’intelligenza artificiale può gestire una parte crescente delle interazioni con i clienti, ma automatizzare non significa necessariamente eliminare l’intervento umano. Il vero tema è stabilire quando l’AI può agire in autonomia, quando deve chiedere conferma e quando è necessario passare il controllo a un operatore.

È qui che entra in gioco l’Human in the Loop: un modello in cui la supervisione umana non viene aggiunta a valle come misura di sicurezza, ma viene progettata insieme al processo. Nel Customer Service significa definire il perimetro dell’automazione, le condizioni di escalation e le informazioni che devono accompagnare il cliente nel passaggio dall’AI alla persona.

Takeaways

• Human in the Loop non significa controllare manualmente ogni risposta dell’AI, ma stabilire quali attività possono essere automatizzate e quali richiedono validazione o intervento umano.
• L’escalation verso un operatore può dipendere dai limiti della tecnologia, ma anche da una precisa scelta aziendale su temi sensibili o rilevanti per il business.
• Il passaggio dall’AI alla persona deve garantire continuità del contesto, evitando che il cliente debba ricominciare la conversazione da zero.
• Supervisione, verifica e correzione delle interazioni automatizzate devono diventare parte costante del flusso operativo del Customer Service.
• Progettare l’Human in the Loop significa definire concretamente quando, come, da chi e con quali strumenti viene verificato l’output dell’AI.
• Con l’AI il ruolo dell’operatore si sposta progressivamente verso le situazioni in cui servono interpretazione, contesto, controllo e capacità di gestire le eccezioni.

Human in the Loop nel Customer Service: perché il ruolo umano resta decisivo nell’era dell’AI

L’intelligenza artificiale sta diventando una componente strutturale del Customer Service. Può comprendere le richieste dei clienti, recuperare informazioni, generare risposte, classificare conversazioni, suggerire azioni agli operatori e, in alcuni casi, gestire autonomamente interi processi. Di fronte a questa evoluzione, però, la domanda più interessante non è soltanto quanto possiamo automatizzare, ma dove vogliamo che l’automazione si fermi. È qui che entra in gioco il concetto di Human in the Loop: la presenza dell’essere umano all’interno di un processo supportato dall’AI, con la possibilità effettiva di comprenderne l’operato, validarlo, correggerlo o riprendere il controllo.

Nel Customer Service questo principio assume un significato particolare, perché una conversazione con un cliente non è una sequenza sempre prevedibile di input e output: può cambiare mentre avviene, assumere implicazioni diverse a seconda del contesto e arrivare a un punto nel quale una risposta tecnicamente plausibile non coincide necessariamente con quella che l’azienda vuole o può fornire. Per questo l’Human in the Loop non dovrebbe essere considerato semplicemente il meccanismo da attivare quando l’AI fallisce, ma una scelta da compiere mentre si progetta il processo.

Human in the Loop non significa controllare ogni risposta dell’AI

Mettere l’essere umano “nel loop” non significa chiedere a un operatore di verificare sistematicamente tutto ciò che produce l’intelligenza artificiale. Un modello del genere cancellerebbe buona parte dei benefici dell’automazione e trasformerebbe la supervisione in un ulteriore passaggio operativo. La questione è piuttosto capire quali decisioni possono essere affidate all’AI, quali richiedono una conferma e quali devono rimanere sotto il controllo diretto di una persona.

Ci sono richieste frequenti, ben delimitate e sostenute da dati affidabili che possono essere gestite in modo automatico, come la verifica dello stato di una pratica, la richiesta di un documento, l’apertura e lo smistamento di un ticket o la prenotazione di un appuntamento. Esistono però anche conversazioni nelle quali il contesto diventa più ambiguo, la richiesta esce dal perimetro previsto oppure entrano in gioco implicazioni economiche, contrattuali o relazionali che l’azienda decide di non affidare completamente all’automazione. In questi casi il passaggio all’operatore non rappresenta necessariamente un fallimento del sistema: può essere una delle evoluzioni previste del processo e deve essere progettato come tale.

Quando deve intervenire una persona

L’intervento umano può diventare necessario per ragioni differenti. La prima riguarda i limiti della tecnologia: i sistemi di intelligenza artificiale non interpretano sempre correttamente ciò che il cliente sta comunicando e, nel caso dell’AI generativa, esiste anche il rischio che venga prodotta una risposta plausibile ma non corretta. È un aspetto sul quale occorre mantenere il controllo, soprattutto quando l’output dell’AI entra direttamente nella relazione fra azienda e cliente.

Ma il limite tecnologico non è l’unico criterio. Un’azienda può scegliere deliberatamente che determinati argomenti non vengano gestiti in autonomia dall’intelligenza artificiale, anche quando questa sarebbe tecnicamente in grado di farlo. Alcuni temi possono essere particolarmente delicati o rilevanti per il business e richiedere quindi l’intervento di un operatore in grado di interpretare più approfonditamente l’esigenza del cliente.

Questo sposta il ragionamento dalla sola capacità della tecnologia alla governance dell’automazione. La domanda, quindi, non è soltanto se l’AI sia capace di svolgere una determinata attività, ma se l’azienda voglia che quella stessa attività venga gestita autonomamente in quello specifico contesto.

L’escalation funziona solo se il contesto segue il cliente

Prevedere un passaggio all’operatore non è sufficiente. Se, dopo aver interagito per alcuni minuti con un sistema automatico, il cliente deve ripartire da zero, spiegare nuovamente il problema e ripetere informazioni già fornite, l’escalation esiste dal punto di vista tecnico ma interrompe la Customer Experience.

L’operatore deve invece ricevere il contesto necessario per comprendere immediatamente ciò che è avvenuto prima del suo intervento: la richiesta iniziale, le informazioni già raccolte, i passaggi completati e ciò che ha determinato il trasferimento. È un errore che conosciamo bene dai vecchi IVR: il cliente attraversava diversi passaggi automatici e, una volta arrivato all’operatore, era costretto a ricominciare da capo. Con l’AI non possiamo permetterci di replicare quello stesso problema.

L’Human in the Loop diventa quindi realmente efficace quando l’intelligenza artificiale prepara l’intervento umano invece di limitarsi a cedergli il posto. È anche qui che gli assistenti AI a supporto dell’operatore possono produrre un cambiamento importante: durante una conversazione possono recuperare informazioni, predisporre documenti, suggerire una risposta o un’azione coerente con il contesto, lasciando però alla persona la possibilità di valutare e decidere.

È il principio sul quale è costruito, per esempio, coDriver di Base Digitale Platform: l’assistente lavora al fianco dell’operatore, comprende il contesto e suggerisce informazioni e azioni, mantenendo il controllo della conversazione in capo alla persona.

Avere un essere umano nel processo non basta

Anche la supervisione deve essere progettata in termini concreti. Non è sufficiente prevedere genericamente che un operatore controllerà l’AI: occorre stabilire quando deve farlo, come viene coinvolto, quali informazioni ha a disposizione, quali strumenti può utilizzare e quali azioni può intraprendere.

All’interno di un progetto bisogna dunque definire chi verifica gli output dell’intelligenza artificiale, in quale momento, con quali strumenti e come vengono individuati gli eventuali correttivi. La persona chiamata a intervenire deve quindi essere realmente nelle condizioni di esercitare il controllo, e questo comporta inevitabilmente anche un tema di competenze. La formazione delle persone che utilizzano e governano sistemi AI diventa parte della governance stessa e deve essere commisurata al ruolo che ciascuno svolge nel processo. La mappatura delle necessità formative e la definizione di piani di formazione devono quindi entrare a pieno titolo nella governance dell’AI.

Dalla supervisione a valle alla progettazione del processo

L’errore sarebbe occuparsi del ruolo umano soltanto alla fine del progetto, una volta costruita la componente di AI, chiedendosi dove inserire qualche forma di controllo. L’approccio deve partire prima, già nella fase di disegno del processo, individuando quali attività verranno automatizzate, quali dati saranno utilizzati, quali azioni il sistema potrà compiere autonomamente e quali richiederanno una validazione.

Allo stesso modo vanno stabilite le condizioni di escalation: cosa accade se il sistema non comprende una richiesta, se non dispone delle informazioni necessarie, se il cliente cambia argomento o se emerge una casistica che l’azienda considera sensibile? E quali informazioni vengono trasferite all’operatore nel momento in cui prende in carico la conversazione? In altre parole, bisogna progettare non soltanto ciò che l’AI sa fare, ma anche il suo perimetro di autonomia.

Questo perimetro, inoltre, non può essere definito una volta per tutte. La governance deve accompagnare l’intero ciclo di vita del progetto, perché le tecnologie AI evolvono rapidamente e anche modifiche apparentemente limitate possono produrre impatti significativi.Analisi, controllo e compliance devono quindi restare parte costante dell’erogazione del servizio.