AI compliance nella Customer Experience: cosa cambia con l’AI Act?

di Massimo Veutro, CTO & Managing Director, Base Digitale Platform

Siamo entrati in una fase nuova. Nel 2022, con l’arrivo di ChatGPT, una tecnologia complessa è diventata accessibile a chiunque. Da quel momento ogni azienda si è posta la stessa domanda: “Dobbiamo usare l’AI?”. Nel 2023 la risposta è stata ovvia: sì. Nel 2024 è arrivata la domanda più difficile: come? Chi controlla i dati? Chi risponde quando il modello sbaglia? Chi garantisce che le conversazioni con i clienti restino dentro il perimetro aziendale? Nel 2025 quella domanda ha un nome preciso: AI Act. E le aziende europee non possono più ignorarla.

Noi ce la siamo posta prima, molto prima. E la risposta che abbiamo scelto è un principio di lavoro: “Compliance first, innovation always.”

Takeaways

• L’AI Act rende inevitabile la domanda su dati, responsabilità ed errori del modello.
• “Compliance first” non è un freno: è un modo per portare l’AI nei processi in modo misurabile e sicuro.
• La scelta di modelli open deployati internamente serve a mantenere i dati nel perimetro aziendale.
• AI deterministica e AI generativa possono lavorare insieme: controllo e contesto non si escludono.

Perché l’AI compliance oggi è una questione operativa

Quando parliamo di compliance nella Customer Experience, non parliamo di un documento da mettere in un cassetto. Parliamo di come far funzionare l’AI nella vita reale, dentro conversazioni vere con clienti veri. Se l’AI entra in quel momento, deve farlo con confini chiari. È per questo che, quando un’azienda passa dal “se” al “come”, le domande diventano sempre le stesse, e sono tutte legittime: chi controlla i dati? chi si assume la responsabilità dell’output? cosa succede quando il modello sbaglia? e, soprattutto, come faccio a essere certo che le conversazioni restino dentro il perimetro aziendale?

Qui sta il punto: la Customer Experience è un processo continuo, e non può trasformarsi in un esperimento permanente. La compliance serve a rendere l’innovazione ripetibile, affidabile, governabile. E con l’AI Act questa esigenza diventa esplicita: non perché “cambia tutto”, ma perché ti obbliga a dare risposte concrete a domande che fino a ieri molti lasciavano sullo sfondo, finché non diventavano un problema.

La scelta tecnologica: modelli open, dentro la nostra infrastruttura

C’è una scelta che racconta bene il nostro modo di lavorare. Mentre il mercato si affollava attorno a GPT e ai grandi cloud americani, noi abbiamo scelto un’altra strada: modelli open, deployati internamente. Parlo di modelli come LLaMA, Gemma, BERT, Whisper: strumenti potenti, selezionati per casi d’uso specifici, non “un unico modello che fa tutto”.

Il motivo è semplice: se il modello gira nella nostra infrastruttura, i dati non escono mai. L’intero processo, dall’input all’output, è governato internamente. Nessuna dipendenza esterna, nessun compromesso. Non è una limitazione tecnica: è una scelta di responsabilità. Quando parliamo di AI compliance nella Customer Experience, questo è un punto di partenza: sapere dove stanno i dati e come vengono trattati non è un dettaglio “da addetti ai lavori”, è una condizione per potersi fidare.

Cosa succede davvero in una conversazione: due intelligenze, un unico risultato

Proviamo a entrare in una conversazione reale. Un cliente chiama, un operatore risponde. In quel momento, nella piattaforma, lavorano simultaneamente due livelli di intelligenza artificiale che non si escludono: si completano. Da una parte c’è l’AI deterministica, che riconosce intenti, classifica e smista con precisione; dall’altra c’è l’AI generativa, che interpreta, contestualizza e gestisce le situazioni non previste mantenendo coerenza con la Knowledge Base.

Questa distinzione non è teorica: è uno dei modi più concreti per tenere insieme innovazione e controllo. La deterministica rende prevedibile ciò che deve esserlo; la generativa aiuta a gestire ciò che non è mai perfettamente “a flusso”. Nella Customer Experience, dove l’eccezione è la regola, la differenza tra una demo e un’operatività affidabile sta proprio qui: non scegliere “una sola intelligenza”, ma costruire un sistema in cui ogni componente fa ciò che sa fare meglio.

Brain e coDriver: automazione e supporto umano, senza confusione di ruoli

Quando si parla di AI nel contact center, un errore frequente è pensare che tutto debba essere automatizzato nello stesso modo. In realtà esistono almeno due modalità operative. La prima riguarda i processi che l’azienda decide di gestire in autonomia, senza operatore umano: qui entra Brain, descritto non come un semplice chatbot, ma come un “operatore virtuale” che conosce il copione, mantiene il contesto e orchestra l’interazione dall’inizio alla fine, attingendo a fonti certificate e alla Knowledge Base.

La seconda riguarda i processi in cui l’operatore umano resta al centro: qui entra coDriver, che lavora a fianco dell’operatore, con trascrizione in tempo reale, predisponendo documenti, suggerendo risposte e proponendo azioni; all’operatore basta confermare. In questo modello l’AI non toglie scena alle persone: le mette in condizione di fare meglio ciò che conta davvero. Non a caso la nostra posizione è chiara: “L’AI non sostituisce le persone. Le rende più umane”.

iFlow: quando l’AI non “risponde”, ma chiude processi reali

C’è un altro pezzo fondamentale, spesso sottovalutato: chi decide come deve svolgersi un’interazione automatizzata dall’inizio alla fine? Chi costruisce il percorso? La risposta, nel nostro caso, si chiama iFlow: un modulo che permette di progettare flussi conversazionali complessi senza scrivere codice, non per costruire chatbot semplici, ma per orchestrare processi reali.

Pensate a cosa significa, per un cliente, poter chiamare o scrivere e in pochi secondi attivare un servizio, fissare un appuntamento, verificare la situazione dell’account: iFlow verifica condizioni, chiama le API dei sistemi interni, invia conferme, apre ticket e li assegna al team giusto, smistando verso l’operatore solo quando serve davvero. È qui che la compliance diventa concreta: perché un processo “chiuso bene” riduce errori, riduce passaggi inutili e rende più chiaro dove finiscono dati e responsabilità.