Un rapporto consegnato all'Eliseo
Il Consiglio francese per l'AI e le tecnologie digitali (CIANum) ha presentato martedì 10 novembre un rapporto al presidente Emmanuel Macron in cui chiede una regolamentazione più severa e immediata degli assistenti di intelligenza artificiale, da ChatGPT a Gemini e Grok. Lo riferisce AI News Italia. L'organismo era stato incaricato lo scorso febbraio dalla ministra delegata Anne Le Hénanff durante il vertice sull'AI a New Delhi. Il documento si basa su 55 audizioni e contiene 18 raccomandazioni redatte da nove esperti indipendenti.
Il testo non è vincolante, ma è destinato a informare i dibattiti legislativi nazionali ed europei: la decisione passa ora al governo e al Parlamento, mentre l'AI generativa si diffonde senza un quadro specifico che ne regoli i meccanismi di persuasione e dipendenza.
Il rischio centrale: dipendenza e adulazione
Secondo il rapporto, il pericolo principale è la dipendenza emotiva. Gli esperti mettono in guardia dalla tendenza dei chatbot a validare o lusingare l'utente anche a scapito della verità e dall'antropomorfizzazione, che fa apparire l'AI come un interlocutore umano. Il psichiatra Raphaël Gaillard, copresidente della commissione, ha spiegato che si crea un registro di relazioni emotive che può arrivare a sostituirsi all'interazione umana, un sistema disponibile in permanenza che non ha altro intento che tenere l'utente online.
Il documento segnala anche l'emergere di una economia della cognizione, in cui le piattaforme non si limitano a catturare l'attenzione ma mirano a trarre profitto dalle capacità cognitive, dalle emozioni e dai profili psicologici degli utenti.
Le misure proposte e il nodo minori
Le raccomandazioni sono concrete: disattivare per impostazione predefinita i meccanismi che favoriscono antropomorfizzazione e lusinga, rafforzare i messaggi che ricordano all'utente di interagire con una macchina, migliorare il rilevamento di temi legati a suicidio, autolesionismo e disturbi alimentari indirizzando verso servizi di supporto adeguati. Si propone inoltre un pulsante di segnalazione per le risposte problematiche, accessibile anche ad associazioni specializzate, e una valutazione pluridisciplinare preventiva per i sistemi di AI generativa destinati al pubblico non professionale prima dell'immissione sul mercato.
Sui minori la commissione non ha proposto un divieto tout court. Arthur Barichard, direttore del CIANum, ha spiegato che i relatori non convergono verso un bando simile a quello ipotizzato per i social media sotto i 15 anni, citando i benefici educativi e il fatto che il Consiglio costituzionale ha già bloccato quella misura. Il rapporto raccomanda però una protezione rafforzata per i sistemi accessibili ai minori, con il blocco delle richieste pericolose e un filtro più severo dei contenuti. I dati citati indicano che oltre la metà dei francesi usa l'AI generativa, quota che tra i 15 e i 24 anni sale a quasi il 70%.
La posizione di Macron e i punti aperti
La posizione del presidente è più netta: in un'intervista a Les Echos pubblicata il 9 novembre, Macron ha affermato che gli usi dell'AI che mettono a rischio i bambini dovrebbero essere vietati, senza però indicare prodotti o applicazioni specifiche. Resta quindi da verificare come l'indicazione presidenziale si tradurrà in norme e quali saranno i tempi dell'iter legislativo.
Va inoltre chiarito come si misurerebbero l'antropomorfizzazione e la lusinga ai fini delle regole proposte, e quale ruolo avrebbero associazioni e autorità nel sistema di segnalazione. Il rapporto indica una direzione, ma non definisce obblighi giuridici: il passaggio dal documento alle legge è ancora tutto da costruire.
