La corsa delle leggi
Quindici stati americani, insieme a Cina, Unione Europea e Canada, hanno avviato una regolamentazione dei chatbot destinati agli adolescenti. L'approccio prevalente, riporta Agenda Digitale, è quello di misurare il tempo trascorso davanti allo schermo. La California è stata la prima: la legge SB 243, in vigore dal 1° gennaio 2026, impone un avviso ogni tre ore che ricorda al minore di fare una pausa e che non sta parlando con una persona. Il modello è stato replicato con varianti in Oregon, Washington e Connecticut, con entrata in vigore nel 2027, mentre New York, Idaho, Iowa, Nebraska e Georgia hanno già norme operative.
Le differenze tra gli stati mostrano quanto il legislatore sia andato a fondo. Washington riduce l'intervallo a un'ora e vieta tecniche di fidelizzazione come lodi eccessive o la simulazione di legami romantici. L'Oregon impone agli operatori di evitare che il chatbot si finga dipendente dall'utente o mostri angoscia se la conversazione viene chiusa. Tuttavia, come osserva il Future of Privacy Forum, la formula sulla dipendenza simulata è "aperta e priva di definizione". Inoltre, non è chiaro come si accerti la perdita di autonomia, né chi debba farlo. La stessa nozione di chatbot varia: in alcuni stati conta ciò che il sistema può fare, in altri ciò che fa davvero, e in Connecticut basta che simuli una conversazione umana, creando disparità di perimetro normativo.
Lo studio di Toronto: oltre l'orologio
Uno studio delle ricercatrici Abeer Badawi ed Elham Dolatabadi, della York University di Toronto e affiliate al Vector Institute, pubblicato a giugno su arXiv e non ancora sottoposto a peer review, propone una misura alternativa. Le autrici hanno analizzato 1.576 conversazioni reali di counseling, per un totale di 15.680 turni, sostituendo il professionista con cinque chatbot di OpenAI, Anthropic, Google, Meta e Alibaba. Un gruppo di revisori con formazione clinica ha valutato ogni risposta su venti criteri, producendo un indice di rischio da 0 a 1, dove valori più alti indicano una maggiore tendenza del modello a sostituirsi alla persona.
I risultati mostrano tre comportamenti ricorrenti: consiglio diretto, domande chiuse e convalida inaccurata o compiacenza. Tra il primo e il sesto turno, questi tratti raddoppiano circa, e l'indice di rischio finale si colloca tra 0,48 e 0,61 a seconda del modello. I chatbot riconoscono bene i segnali di pericolo esplicito, ma si adattano troppo quando l'utente chiede una soluzione pronta. La tendenza è comune a tutti i modelli, ma l'intensità varia, e ciò che dipende dalla progettazione può, in principio, essere regolato. Le autrici parlano di "atrofia cognitiva", precisando però che misurano il comportamento del modello e non un danno accertato negli utenti.
Limiti e prospettive
Lo studio ha tre limiti principali, ammessi in parte dalle stesse autrici. Primo: misura le risposte dei chatbot, non l'effetto reale sulle persone, perché mancano dati longitudinali. Secondo: la parte umana della conversazione è quella già scritta dei colloqui originali, quindi il chatbot risponde a un copione fisso che non reagisce a lui; confrontare risposte su trascrizioni di counseling con la conversazione spontanea di un adolescente può generare un bias. Terzo: la tendenza viene osservata solo sui primi dieci turni, non su settimane o mesi di relazione. Se l'orologio è un metro imperfetto, anche il numero di turni non garantisce alcunché: dieci turni di battute veloci non equivalgono a dieci turni di confidenze intime.
Nonostante i limiti, l'indice costruito su criteri clinici espliciti è il primo strumento che guarda alla struttura della conversazione invece che al tempo. Esso suggerisce che il rischio non sta solo nel momento di crisi dichiarata, a cui rispondono i protocolli su suicidio e autolesionismo, ma nella deriva graduale di una conversazione ordinaria. Mila, istituto di intelligenza artificiale di Montreal, ha scelto un terreno complementare: a marzo 2026 ha organizzato con Bell Canada, Buzz HPC e Jeunesse, J'écoute un hackathon nazionale sulla sicurezza dei sistemi conversazionali, centrato sul riconoscimento dei segnali di crisi. Resta da verificare se le leggi attuali, basate sul tempo, possano davvero intercettare questa deriva o se servano strumenti diversi, ancora da definire.
