La tesi: la speranza del mutualismo
Un articolo pubblicato su arXiv, nella categoria Artificial Intelligence, mette in discussione l'idea che una cooperazione duratura tra esseri umani e intelligenza artificiale possa da sola garantire un futuro positivo per entrambi. Secondo gli autori, questa speranza si indebolisce man mano che le capacità dell'AI crescono. La conclusione, annunciata già nel titolo, è che il mutualismo tra umani e AI è instabile in presenza di asimmetria di capacità.
Il ragionamento parte da un principio contrattuale: in una trattativa ciascuna parte ottiene solo ciò che avrebbe se la trattativa fallisse. Applicato al rapporto con l'AI, questo significa che il benessere degli umani dipende da quanto l'AI avrebbe da perdere senza di loro, non dalla reciproca convenienza in sé.
La leva come condizione del benessere
Nel modello di teoria dei giochi proposto, gli umani restano in una condizione non peggiore rispetto a prima dell'AI, anche senza allineamento, soltanto finché conservano una leva sull'AI. Gli autori ne individuano due forme: l'AI dipende da ciò che gli umani le forniscono, oppure gli umani sono in grado di imporle costi elevati rispetto a quanto l'AI riesce a produrre.
Quando nessuna delle due forme di leva è più disponibile, secondo il modello il mantenimento del benessere passa necessariamente dall'allineamento dell'AI con gli interessi umani. È il punto centrale dell'argomentazione: il mutualismo non sostituisce l'allineamento, ma al più lo rimanda.
Obiettivi insaziabili e varianti che si diffondono
Il modello aggiunge una condizione più stringente: se gli obiettivi dell'AI sono insaziabili, il grado di allineamento richiesto si avvicina a quello perfetto con l'aumentare delle capacità. Inoltre, se le varianti di AI che trattengono più risorse si diffondono più rapidamente, l'allineamento dura solo finché le varianti non allineate vengono sanzionate in modo affidabile.
Gli autori riassumono questi due aspetti come le ragioni per cui il mutualismo umano-AI è instabile. Si tratta di risultati di un modello teorico, non di osservazioni empiriche: il materiale non riporta esperimenti, misurazioni né casi studio, e non indica quali applicazioni o quali sistemi di AI siano stati considerati. Resta quindi da verificare in che misura le ipotesi del modello descrivano scenari reali e quali condizioni di leva siano concretamente disponibili.
