L'accusa dei genitori
Una coppia del North Carolina ha citato in giudizio Google sostenendo che la figlia tredicenne abbia usato per mesi gli strumenti di intelligenza artificiale dell'azienda, su un Chromebook fornito dalla scuola, per parlare di ansia, depressione e condotte suicidarie. Secondo quanto riporta IT之家 citando Bloomberg, la ragazza avrebbe scambiato migliaia di messaggi con Gemini, il modello di punta di Google, e avrebbe usato con frequenza la funzione «AI Mode» della ricerca. La famiglia avrebbe scoperto la situazione solo quando la scuola l'ha informata.
Il cuore della contestazione non riguarda la singola conversazione, ma il modo in cui l'AI sarebbe stata introdotta negli strumenti scolastici. I genitori sostengono che Google non abbia avvertito adeguatamente famiglie e dirigenti scolastici dei rischi connessi all'esposizione dei minori a questi sistemi. L'avvocato della famiglia accusa l'azienda di aver presentato i Chromebook come dispositivi sicuri mentre vi inseriva Gemini per recuperare terreno sui concorrenti, sfruttando la fiducia di cui gode nel settore dell'istruzione primaria e secondaria.
La risposta di Google e il nodo delle scuole
Google ha fatto sapere tramite il portavoce José Castañeda di stare esaminando le accuse. L'azienda sostiene di aver collaborato con esperti medici e accademici per sviluppare funzioni che indirizzino i giovani verso risorse di aiuto e sostegno, e ricorda che da anni, in presenza di possibili crisi legate alla salute mentale, i risultati di ricerca mostrano direttamente i numeri delle linee di assistenza. Lo stesso meccanismo, secondo Google, è ora integrato anche nelle funzioni AI della ricerca.
Sul piano delle misure concrete, Google ha annunciato questa settimana che per gli account degli studenti K-12 gli strumenti AI, inclusa la ricerca, saranno disattivati per impostazione predefinita. L'azienda presenta la scelta come un modo per dare alle scuole maggiore controllo sull'AI in classe e cita la nuova funzione «Guided Learning», pensata per scomporre i passaggi di un problema invece di fornire subito la risposta. La misura, però, contiene una condizione: se una scuola riattiva la ricerca di Google, deve accettare anche le funzioni AI abbinate. È su questo punto che si concentra la critica dell'organizzazione Fairplay, per voce del suo direttore esecutivo Josh Golin, secondo cui la policy finirebbe per costringere gli istituti ad accettare l'AI di Google.
Perché è rilevante e cosa resta da verificare
Il caso intreccia due questioni distinte. La prima è giuridica: stabilire se un fornitore tecnologico debba rispondere dei danni legati all'uso dei propri strumenti da parte di minori in contesto scolastico, e se l'informazione fornita a famiglie e scuole sia stata sufficiente. La seconda è di mercato: il canale scolastico è da anni un vantaggio competitivo per Google, che secondo i dati di Futuresource Consulting citati dalla fonte copre il 58% dei tablet spediti alle scuole K-12, contro il 22% di Microsoft. La vicenda mostra come la spinta a diffondere l'AI in quel canale possa entrare in attrito con le cautele richieste per un pubblico di minori.
Restano da chiarire diversi elementi. Non è noto l'esito atteso del ricorso né se altre famiglie abbiano avviato azioni simili. Non è documentato come Gemini abbia effettivamente risposto ai messaggi della ragazza, né quali misure di sicurezza fossero attive in quel contesto scolastico. Non è inoltre precisato in che modo le scuole possano oggi riattivare o configurare gli strumenti AI dopo l'annuncio di Google. La fonte indica infine che, oltre a Google, nel mercato dei modelli sono citati Anthropic e OpenAI come concorrenti, senza ulteriori dettagli sul caso.
La notizia va letta come una controversia in corso: le accuse sono quelle contenute in una causa, la posizione di Google è una dichiarazione aziendale, e la valutazione sulle responsabilità spetterà alle autorità giudiziarie.
