La proposta di legge presentata alla Camera introduce un elemento inedito nel modo in cui il diritto affronta l’intelligenza artificiale, spostando il focus dalla gestione dei dati alla qualità della relazione tra utenti e sistemi digitali. Il tema emerge con forza quando si osserva l’uso crescente dei chatbot da parte dei minori, spesso percepiti come interlocutori disponibili e privi di giudizio, capaci di accompagnare momenti quotidiani e stati emotivi complessi.
La relazione tra minori e chatbot entra nel diritto
Il punto centrale riguarda la costruzione di legami che, pur essendo mediati da software, assumono caratteristiche simili a quelle delle interazioni umane. I sistemi generativi sono progettati per mantenere coerenza nel dialogo e questo favorisce una continuità narrativa che rafforza il coinvolgimento dell’utente. In questo scenario, il legislatore interviene sulla memoria delle conversazioni, individuando proprio nella persistenza del dialogo uno degli elementi che contribuiscono alla stabilità del rapporto tra minore e chatbot.
L’obbligo di cancellare le conversazioni entro cinque giorni introduce un meccanismo operativo pensato per interrompere questa continuità. La scelta incide direttamente sulla struttura dei servizi digitali, perché richiede una revisione delle modalità con cui le piattaforme gestiscono i dati conversazionali. La memoria algoritmica diventa così un elemento regolabile, collegato al grado di vulnerabilità dell’utente, con possibili effetti anche su altri ambiti in cui l’interazione uomo-macchina si sviluppa nel tempo.
I limiti tecnici della cancellazione dei dati
Dal punto di vista tecnico, l’applicazione concreta di questa misura presenta diversi livelli di complessità. I modelli di intelligenza artificiale non archiviano le informazioni secondo schemi tradizionali, ma operano attraverso sistemi distribuiti in cui i dati possono essere rielaborati e integrati in modi difficili da isolare. Questo rende meno immediata la distinzione tra ciò che viene memorizzato temporaneamente per l’interazione e ciò che contribuisce al funzionamento complessivo del sistema.
Le piattaforme devono quindi separare in modo chiaro le diverse tipologie di dati, come le informazioni necessarie per il dialogo in tempo reale, i registri tecnici utilizzati per la sicurezza e gli elementi che possono essere impiegati per migliorare i modelli. Questa distinzione esiste già in alcune architetture, ma non è uniforme e varia a seconda del servizio. L’introduzione di un obbligo normativo uniforme comporta quindi un adattamento infrastrutturale che potrebbe incidere sui costi, sui tempi di sviluppo e sulle strategie di gestione dei dati, soprattutto per operatori che lavorano su scala globale.
Parallelamente, alcune aziende stanno adottando soluzioni alternative, come la limitazione delle risposte con contenuto emotivo o l’integrazione di sistemi che rilevano situazioni di fragilità, orientando l’utente verso supporti esterni. Questi approcci mostrano come il settore stia già sperimentando strumenti diversi per gestire il rapporto tra tecnologia e vulnerabilità.
Verifica dell’età e contesto europeo
Il tema della verifica dell’età rappresenta un elemento decisivo per l’efficacia della proposta. Le iniziative in corso a livello nazionale ed europeo puntano a creare sistemi integrati che consentano di identificare l’età degli utenti senza esporre dati personali sensibili. L’idea è quella di costruire un’infrastruttura condivisa, in grado di supportare l’applicazione di regole specifiche per i minori in diversi servizi digitali, dai social media alle piattaforme basate su intelligenza artificiale.
In questo contesto, la diffusione dei chatbot tra gli adolescenti evidenzia dinamiche già consolidate, con utenti che utilizzano questi strumenti come alternativa o integrazione alle relazioni tradizionali. La percezione di uno spazio privo di giudizio favorisce l’uso continuativo, mentre la consapevolezza degli effetti sull’isolamento non sempre si traduce in un cambiamento dei comportamenti. Questo divario tra percezione e azione rappresenta uno degli elementi che rendono complesso l’intervento normativo e contribuisce a definire il contesto in cui la proposta si inserisce.
