Tre dei principali fornitori di chatbot basati su intelligenza artificiale generativa, DeepSeek, Mistral AI e il servizio cross-platform Nova AI, sviluppato dalla società turca Scaleup Yazilim Hizmetleri, hanno assunto impegni formali con l’Autorità Garante della Concorrenza e del Mercato dopo l’avvio di altrettante istruttorie sul rischio di allucinazioni. Le società hanno garantito la produzione di contenuti inesatti o fuorvianti presentati con apparente sicurezza. I procedimenti si sono chiusi senza accertamento di infrazione ai sensi dell’articolo 27, comma 7, del Codice del consumo, ma con obblighi precisi che entreranno direttamente nelle interfacce di utilizzo.
Dalle istruttorie agli impegni, ecco cosa cambia per gli utenti italiani
Le società dovranno inserire disclaimer permanenti nelle chat, visibili durante l’utilizzo e redatti in lingua italiana, corredati da hyperlink che rimandano a informazioni di approfondimento sui limiti dei sistemi generativi.
Il perimetro degli impegni va oltre la sola interfaccia di utilizzo. L’informativa precontrattuale, quella che l’utente incontra prima di acquistare un abbonamento o completare la registrazione, sarà rafforzata con avvertenze esplicite sull’affidabilità dei contenuti prodotti e sulla necessità di verificarli prima di utilizzarli per decisioni rilevanti. Nel caso specifico di DeepSeek, la società ha anche previsto un investimento tecnologico per contenere il fenomeno, pur riconoscendo che, allo stato attuale della ricerca, eliminarlo completamente rimane fuori portata. Per Nova AI, gli impegni includono una precisazione aggiuntiva agli utenti sulla natura stessa del servizio: la piattaforma offre accesso a diversi chatbot di terze parti attraverso un’unica interfaccia, senza svolgere attività propria di aggregazione o elaborazione autonoma delle risposte, un dettaglio che incide sulla percezione del servizio e sulla distribuzione delle responsabilità informative tra provider e utente finale.
Il punto di partenza dell’intera operazione è una scelta interpretativa precisa da parte dell’AGCM che intende le allucinazioni non più come un limite tecnico interno ai modelli, ma come un rischio concreto per le decisioni economiche degli utenti. Su questa base, la mancata comunicazione chiara di tale rischio può integrare una pratica commerciale scorretta secondo il Codice del consumo.
Un precedente che ridefinisce la soglia della trasparenza nel mercato AI
L’assenza di sanzioni formali rende l’esito meno visibile rispetto a un provvedimento sanzionatorio, ma il ragionamento giuridico che sorregge le istruttorie vale come riferimento per l’intero settore. L’AGCM ha stabilito che l’affidabilità dei sistemi di intelligenza artificiale generativa rientra già oggi nel perimetro del diritto dei consumatori vigente in Italia, senza attendere l’applicazione piena dell’AI Act europeo. Lo schema che emerge costruisce una forma di responsabilità dichiarativa anticipata. In pratica i provider dovranno comunicare ex ante i limiti dei propri strumenti, collocando sull’utente una quota definita di consapevolezza sul funzionamento reale di ciò che sta usando. Questo approccio potrebbe consolidarsi come standard di riferimento nel mercato europeo dei servizi AI rivolti ai consumatori, soprattutto nella fase in cui gli strumenti applicativi dell’AI Act sono ancora in corso di definizione.
