Il nuovo capitalismo della psiche
Secondo l'articolo pubblicato da Agenda Digitale, che riporta un estratto del libro “La bolla dell'intelligenza artificiale”, i chatbot non sono strumenti neutrali: trasformano pensieri, emozioni e preferenze in materia commerciale, estendendo ai modelli conversazionali il modello di business che i social media hanno già affermato. L'analisi dell'autore sostiene che il monitoraggio diventa ancora più penetrante quando l'interfaccia viene incorporata in dispositivi indossabili come orologi, occhiali e auricolari, in grado di incrociare dati ambientali e personali.
Questa estensione del capitalismo di sorveglianza, secondo la fonte, rischia di eliminare la privacy delle opinioni: ciò che l'utente confida alla macchina può diventare materiale di apprendimento o essere esposto a terzi, per violazioni di sicurezza o per accesso a pagamento. Agenda Digitale cita una newsletter di Quartz del dicembre 2025 in cui Mark Zuckerberg descrive un futuro in cui gli inserzionisti forniscono solo un obiettivo commerciale e l'IA genera contenuti personalizzati per i singoli utenti.
Perché la manipolazione non si vede
La caratteristica che rende il fenomeno difficile da riconoscere è la segretezza del messaggio. Quando tutti vedono lo stesso annuncio, spiega l'articolo, è possibile discutere se sia manipolativo; quando invece il contenuto è su misura e privato, non c'è modo di confrontarlo con altri. La profilazione, secondo la fonte, riesce a tracciare emozioni, intenzioni e credenze in poche interazioni.
Lo studio del maggio 2026 del Centro per la Democrazia e la Tecnologia, citato nell'articolo, ha mappato 37 “modelli oscuri” applicabili ai chatbot, distinguendo criticità comuni ai social da altre specifiche dei modelli conversazionali, tra cui la compromissione dell'autonomia, la falsa connessione emotiva e la monetizzazione manipolativa. Nel campo politico, la fonte ricorda che la Mit Review ha sintetizzato come i chatbot possano influenzare gli elettori più della pubblicità tradizionale e riporta una ricerca su Nature condotta prima delle elezioni americane del 2024: elettori sostenitori di Trump, dopo aver conversato con un modello favorevole a Kamala Harris, si sono spostati verso di lei in circa il 4% dei casi, un effetto quattro volte superiore a quello della pubblicità politica del 2016 e del 2020. In esperimenti analoghi sulle elezioni canadesi e polacche del 2025 l'effetto è risultato ancora maggiore, intorno al 10%, ottenuto anche inventando “fatti”.
Fiducia, discernimento e questioni aperte
Uno studio del Media Lab del Mit, sempre secondo Agenda Digitale, ha rilevato che chi usa l'IA per approfondire le notizie vede calare del 15,3% la propria capacità di discernimento dopo quattro settimane, dopo una fase iniziale positiva. Su Science, un team ha testato 19 modelli linguistici su circa 77mila partecipanti britannici e oltre 700 temi politici: il modello più persuasivo ha portato a dichiararsi d'accordo sul 26,1% di chi inizialmente dissentiva, e la tecnica più efficace è risultata condire gli argomenti con fatti e prove, anche inventati.
La fonte sottolinea un punto cruciale: i partecipanti non si sono accorti della manipolazione e, informati, hanno mantenuto le proprie opinioni, suggerendo che avvisare gli elettori non basti. Ricercatori della Wharton School descrivono i chatbot come un sistema cognitivo esterno alla mente, a cui chi ha più fiducia nell'IA tende ad abbandonarsi, rimodellando autonomia e responsabilità. Google DeepMind avrebbe confermato che un modello può indurre cambiamenti di convinzioni e comportamenti in condizioni specifiche, mentre Anthropic segnala una ricerca empirica ancora limitata sugli effetti sull'empowerment umano. Restano da chiarire, osserva la fonte, le soglie tra persuasione legittima e manipolazione e le misure efficaci per ridurre i rischi, temi su cui il materiale non offre conclusioni definitive.
