Il caso e le contestazioni
Secondo un'analisi di GPTZero ripresa da IT之家, un rapporto pubblicato da Accenture con ricercatori della IE University di Madrid conterrebbe 15 citazioni non veritiere e casi di studio del tutto inventati. Il documento, intitolato «Leapfrogging Development», affronta il modo in cui l'intelligenza artificiale potrebbe accrescere la produttività dell'agricoltura africana. È la natura delle fonti citate, più che il tema, a essere finita sotto esame.
GPTZero, che ha diffuso l'analisi, sostiene che le citazioni fabbricate rappresentino una minaccia concreta per ricercatori, accademici, consulenti, studenti e per chiunque cerchi informazioni online: il rischio è che risposte e sintesi generate dai chatbot diffondano contenuti falsi e finiscano per «inquinare» le fonti informative. La società di analisi non ha reso noto, nel materiale disponibile, il metodo con cui è giunta alle sue conclusioni.
La posizione di Accenture
Accenture contesta la lettura dei risultati di GPTZero. Un suo portavoce ha dichiarato che le verifiche interne indicano come origine degli errori l'attività umana e che non esistono prove che essi derivino da «allucinazioni» dell'intelligenza artificiale. L'azienda ha aggiunto di essere al lavoro per correggere il rapporto e di volerlo ripubblicare solo a correzioni completate.
Il caso assume un rilievo particolare per la posizione pubblica della società. L'amministratore delegato Julie Sweet aveva avvertito l'anno scorso che i consulenti incapaci di usare l'intelligenza artificiale sarebbero stati «eliminati» nel quadro della trasformazione aziendale. Il mese scorso, inoltre, Accenture è stata costretta a introdurre nuovi limiti all'uso degli strumenti di intelligenza artificiale, perché la domanda dei dipendenti era così alta che alcune bollette mensili legate a strumenti come Claude superavano i 1.000 dollari.
Un problema che riguarda tutto il settore
Quello di Accenture non è un caso isolato. Secondo il materiale, anche Deloitte, EY, KPMG e PwC sono stati accusati in passato di errori riconducibili all'intelligenza artificiale nei loro rapporti. Il fenomeno ha toccato anche il mondo legale: lo studio britannico Pinsent Masons ha ammesso che un documento depositato presso l'Alta Corte inglese conteneva contenuti generati da «allucinazioni» dell'intelligenza artificiale, e lo studio statunitense Sullivan & Cromwell ha riconosciuto errori analoghi in atti presentati a un tribunale di New York.
Restano però diversi punti aperti. Non è noto, sulla base delle informazioni disponibili, quali citazioni o casi di studio siano contestati nel dettaglio, né quali controlli interni Accenture abbia applicato prima della pubblicazione. Non è chiaro neppure se GPTZero abbia reso pubblico il proprio rapporto per intero. La versione corretta del documento non è ancora stata diffusa: sarà quella a consentire di verificare l'entità effettiva delle modifiche e la solidità delle fonti.
