Responsabilità errore AI: se il centralino sbaglia, chi risponde nel 2026
Lettura 8 min · AstraLoop Studio
Un cliente chiama alle sette di sera, l'assistente vocale risponde e gli dice che puoi disdire fino al giorno prima, mentre la tua regola è due giorni. Oppure gli dà un prezzo che non esiste più. Il giorno dopo il cliente si presenta con quell'informazione in mano. A quel punto nessuno ti chiede chi fosse l'AI. Lo chiedono a te.
È l'obiezione che blocca più contratti di quanto si ammetta, e merita una risposta onesta: la responsabilità per un errore dell'AI non sparisce perché a rispondere è un software. Non sono un avvocato e per il tuo caso specifico serve un professionista. Ma il ragionamento di fondo si può spiegare senza giuridichese, e ti permette di arrivare a quella conversazione con le domande giuste.
Il punto di partenza: l'AI non è un soggetto, tu sì
Un assistente vocale è uno strumento. Non è una persona, non è un'azienda, non risponde di nulla. Quello che dice al telefono lo dice sul tuo numero, a nome della tua attività, dentro il tuo processo. Per il cliente non c'è differenza tra una segretaria che sbaglia un orario e un assistente che lo sbaglia: ha ricevuto un'informazione da chi ha risposto.
Questo non significa che ogni errore diventi un danno da risarcire. Un orario sbagliato corretto in dieci minuti è una seccatura. Un preventivo detto a voce, una promessa su un trattamento, un'indicazione sanitaria o legale sono un'altra faccenda. Quanto pesa un errore dipende da cosa è stato detto, da cosa il cliente ha fatto fidandosi e da cosa hai fatto tu per evitare che succedesse. Sull'ultimo punto hai margine di manovra, ed è la parte pratica di questo articolo.
Dichiararsi AI non ti solleva dagli errori
Dal 2 agosto 2026 è applicabile l'obbligo di trasparenza dell'articolo 50 dell'AI Act (Regolamento UE 2024/1689): un sistema che interagisce con le persone deve far capire che dall'altra parte c'è un'AI. L'obbligo è già in vigore da due mesi. La Legge 132/2025, in vigore dal 10 ottobre 2025, è la prima legge italiana organica sull'AI e porta nel nostro ordinamento principi di trasparenza e conoscibilità sull'uso di questi sistemi, anche verso clienti e lavoratori. Come applicarli alla telefonata lo trovi in questo approfondimento sull'obbligo di dichiarare l'AI al telefono.
Qui interessa un equivoco che circola: la dichiarazione serve a far sapere al chiamante con cosa sta parlando. Non è pensata come una formula di esonero. Dire "sono l'assistente virtuale dello studio" adempie a un obbligo di trasparenza, ma di norma non trasforma tutto ciò che segue in informazioni senza valore. Se vuoi limitare l'affidamento che il cliente fa su quello che sente, lo fai con il disegno del sistema: l'assistente dice solo cose che puoi garantire e rimanda il resto a una persona. Un avviso generico non sostituisce un processo fatto bene. E se oggi il tuo assistente non si dichiara, hai un problema di trasparenza prima ancora di avere un problema di errori.
Come sbaglia davvero un assistente vocale
Capire dove nascono gli errori è il modo più rapido per non subirli. Sono di tre tipi, con rimedi diversi.
- Capisce male. Rumore di fondo, un accento, un nome o una data detti di corsa. Il sistema scrive "il quindici" al posto del "il cinquanta" o scambia due cognomi. Il rimedio è la riconferma: l'assistente ripete i dati critici (giorno, ora, nome, recapito) e li fa confermare a voce. Sul tema abbiamo scritto di accenti, dialetti e rumore al telefono.
- Inventa. I modelli linguistici producono risposte plausibili, e se non trovano il dato possono generare una frase che suona giusta e non lo è. Succede soprattutto quando lasci all'assistente la libertà di rispondere con conoscenza generale. Il rimedio è ancorarlo a una base di conoscenza chiusa e scrivere cosa deve fare quando il dato non c'è.
- Dice una cosa che era vera. Il listino cambia, parte l'orario estivo, un collaboratore se ne va, e la base di conoscenza resta indietro. Qui l'errore non è dell'AI ma del processo di aggiornamento, ed è il più comune, perché è lo stesso errore che farebbe un collega a cui nessuno ha detto niente.
Guarda la terza voce: molte volte, quando "l'AI ha sbagliato", ha ripetuto fedelmente ciò che le avevi dato. Verso il cliente la tua posizione non cambia, ma cambia dove devi lavorare per non ripetere l'errore.
Vuoi un centralino AI con regole chiare su cosa può dire e cosa no? Raccontaci come gestisci oggi il telefono e ti diciamo cosa ha senso automatizzare.
Cosa riduce il rischio, in pratica
Nessun sistema azzera gli errori, nemmeno una persona lo fa. Quello che puoi fare è renderli rari, riconoscibili e poco costosi. Queste sono le misure che contano, in ordine di effetto.
- Una base di conoscenza chiusa, con un responsabile. Ogni informazione che l'assistente può dare ha una fonte e una persona che la aggiorna quando cambia. Come si costruisce è spiegato in questa guida alla knowledge base del centralino AI.
- Un elenco di cose che l'assistente non dice mai. Prezzi fuori listino, diagnosi, pareri legali, promesse di risultato, tempi garantiti. Se il chiamante le chiede, l'assistente raccoglie la domanda e dice che a rispondere sarà una persona. È la regola più importante per studi medici e professionali.
- Un passaggio a una persona che funziona davvero. Non basta scrivere che esiste: serve che l'assistente sappia quando attivarlo, a chi trasferire e cosa fare se nessuno risponde. Parti da cosa fa l'AI quando non capisce.
- Una conferma scritta dopo la chiamata. Un SMS o un messaggio WhatsApp con data, ora, sede e condizioni di disdetta dà al cliente un testo da verificare e a te una traccia. Se c'è un errore, emerge subito e non il giorno dell'appuntamento.
- Un registro di cosa è stato detto. Trascrizioni o registrazioni ti permettono di ricostruire una conversazione contestata. Vanno però gestite con informativa e tempi di conservazione chiari: ne parliamo in registrazione delle chiamate e GDPR.
- Un collaudo con le domande scomode. Prima di mettere l'assistente in linea, prova a farlo sbagliare: dati contraddittori, richieste fuori ambito, un chiamante che insiste. Un metodo per farlo è in come testare il centralino AI prima della produzione.
Dopo l'attivazione il lavoro continua. Una persona dovrebbe ascoltare o leggere un campione di chiamate ogni settimana, almeno all'inizio, e annotare dove l'assistente ha esitato. È il momento in cui le regole si aggiustano sul traffico vero e non su quello che immaginavi.
Il contratto: cosa chiedere a chi installa l'assistente
Il rapporto con il cliente non lo scarica nessuno. Quello con il fornitore invece lo scrivi tu, e conviene scriverlo bene. Prima di firmare chiedi, e fatti rispondere per iscritto.
- Chi controlla gli errori dopo l'attivazione, e con quale frequenza? Se la risposta è "nessuno, è automatico", annotalo.
- Chi decide cosa può e cosa non può dire l'assistente, e tu puoi vedere e modificare queste regole?
- Hai accesso ai registri delle conversazioni, e per quanto tempo restano disponibili?
- Come è regolata la responsabilità del fornitore? Controlla se i termini la limitano per i contenuti generati e fai leggere la clausola al tuo consulente.
- Dove finiscono i dati delle chiamate e chi li tratta per tuo conto?
Non è diffidenza. È la stessa diligenza che useresti con un nuovo collaboratore a cui affidi il telefono: vuoi sapere come lo formi, come lo controlli e chi risponde se qualcosa va storto.
Soluzione pronta o su misura: cosa cambia sul rischio
Le soluzioni pronte all'uso hanno un vantaggio reale: partono in fretta e costano poco. Per un'attività con richieste semplici (orari, indirizzo, un numero a cui richiamare) possono bastare. Il rovescio è che sono configurate in modo generico, conoscono poco del tuo processo e lasciano all'assistente più spazio per improvvisare dove la base di conoscenza non arriva.
Un centralino costruito sul processo della tua attività lavora diversamente. L'assistente non "ricorda" la disponibilità: la legge dal calendario vero e dal gestionale al momento della chiamata. Le regole su cosa dire, cosa rimandare e quando passare la linea a una persona si scrivono insieme a te, partendo dalle telefonate che ricevi davvero. Se vuoi vedere come funziona il servizio nel suo insieme, parti dalla pagina sul centralino AI su misura.
Un sistema su misura non azzera gli errori. Li rende prevedibili, limitati a ciò che hai deciso di far dire e tracciabili quando succedono. Per la responsabilità è la differenza che conta: puoi dimostrare di aver messo regole, controlli e un percorso di correzione.
Quando l'AI non è la risposta giusta
Se la telefonata tipica del tuo lavoro è una consulenza (cosa devo fare con questo sintomo, posso recedere da questo contratto), l'assistente non deve rispondere nel merito. Può raccogliere il motivo della chiamata, fissare un richiamo e basta. Se una sola frase sbagliata può costarti più di un mese di chiamate perse, in quel punto del processo fa meglio una persona.
E se in azienda nessuno ha tempo di tenere aggiornate le informazioni, è meglio rimandare l'automazione finché qualcuno non se ne occupa. Un assistente che ripete dati vecchi con voce sicura è peggio di una segreteria che dice "ti richiamiamo". Decidere cosa non delegare fa parte della responsabilità, tanto quanto decidere cosa delegare.
Da dove cominciare
Prendi le dieci domande che i clienti ti fanno più spesso al telefono e dividile in tre gruppi: quelle a cui l'assistente può rispondere con un dato certo, quelle che richiedono una persona, quelle che riguardano soldi, salute o diritti e quindi non vanno mai improvvisate. Se riesci a fare questa divisione, hai già scritto la metà delle regole di un assistente sicuro.
Con AstraLoop questo lavoro lo facciamo insieme: guardiamo come gestisci oggi il telefono, definiamo cosa l'assistente può dire e cosa no, lo colleghiamo al calendario e al gestionale che usi e lo collaudiamo con te prima di accendere la linea. Se vuoi capire se per la tua attività ha senso, raccontaci la tua situazione: te lo diciamo anche quando la risposta è che serve ancora una persona.
Domande frequenti
Se l'assistente vocale AI dà un'informazione sbagliata, chi risponde?
In linea generale risponde l'attività per conto della quale l'assistente parla, perché per il cliente è la tua azienda a dare l'informazione. L'AI è uno strumento e non un soggetto. Il rapporto con il fornitore si regola nel contratto. Per il tuo caso specifico serve un professionista.
Dire al chiamante che parla con un'AI mi protegge dagli errori?
No, di norma non funziona come esonero. L'obbligo di trasparenza dell'articolo 50 dell'AI Act, applicabile dal 2 agosto 2026, serve a far sapere al chiamante che parla con un'AI. Per ridurre il rischio devi limitare ciò che l'assistente può dire e prevedere il passaggio a una persona.
Come si evita che l'assistente inventi risposte?
Ancorandolo a una base di conoscenza chiusa, con fonti e un responsabile dell'aggiornamento, e scrivendo cosa fare quando il dato manca: ammettere di non saperlo e passare la richiesta a una persona. Il collaudo con domande scomode prima dell'attivazione aiuta a trovare i punti deboli.
Cosa devo chiedere al fornitore sulla responsabilità?
Chiedi chi monitora gli errori dopo l'attivazione, chi decide le regole su cosa l'assistente può dire, se hai accesso ai registri delle conversazioni, come sono limitate le responsabilità del fornitore nei termini e dove vanno i dati. Fai leggere la clausola al tuo consulente legale.
Ci sono telefonate che l'AI non dovrebbe mai gestire da sola?
Sì: richieste di consulenza nel merito, indicazioni sanitarie o legali, preventivi fuori listino e promesse di risultato. L'assistente può raccogliere la richiesta e fissare un richiamo, ma la risposta deve darla una persona.
Parliamo del tuo caso: AstraLoop progetta il centralino AI sul processo della tua attività e ti prepara un preventivo su misura, senza impegno.