Che cosa è cambiato in dieci anni
La IEEE Standards Association celebra il decimo anniversario del primo documento di Ethically Aligned Design (EAD), il rapporto pubblicato nel quadro del Global Initiative for Ethical Considerations in Autonomous and Intelligent Systems, avviato nel 2016. Secondo quanto ricostruisce IEEE Spectrum, l'obiettivo dichiarato era spostare l'attenzione etica dalla fase successiva al rilascio dei sistemi autonomi e intelligenti a quella della loro progettazione. Il rapporto individuava otto principi di fondo, tra cui diritti umani, benessere delle persone e trasparenza.
La fonte riferisce che alla prima versione contribuirono oltre cento esperti di etica dell'IA e che la seconda versione arrivò nel 2017. John C. Havens, direttore esecutivo fondatore dell'iniziativa e oggi global director di IEEE Planet Positive 2030, afferma che entrambe le versioni raccolsero centinaia di pagine di osservazioni pubbliche e che entro il 2019 i contributori superavano i 400. A lui si deve anche la dichiarazione, riportata dal giornale, secondo cui EAD fu il primo documento del suo genere perché non si limitava a un elenco di principi e proveniva da un'organizzazione con la credibilità di IEEE.
Dai principi agli standard e alle certificazioni
Il passaggio più rilevante riguarda la traduzione dei principi in strumenti operativi. Sempre secondo la fonte, dalla cornice di EAD è nata la serie di standard IEEE 7000: attualmente conta 29 progetti, di cui 11 pubblicati, e altri in corso di aggiunta. I temi coperti vanno dal modello di processo per la progettazione etica dei sistemi (IEEE 7000-2021) alla trasparenza dei sistemi di IA (IEEE 7001-2021), dalla privacy dei dati (IEEE 7002-2022) alle considerazioni sui bias algoritmici (IEEE 7003-2024), fino all'impatto sul benessere delle persone (IEEE 7010-2020), ai requisiti di privacy leggibili dalle macchine (IEEE 7012-2025) e ai sistemi che simulano l'empatia umana (IEEE 7014-2024).
Sul fronte della verifica, IEEE SA offre programmi di etica dell'IA tra cui CertifAIEd, con due certificazioni: una per le persone e una per i prodotti. La prima forma individui capaci di valutare sistemi autonomi e intelligenti rispetto alla metodologia e ai criteri etici IEEE; la seconda valuta se lo strumento o sistema di un'organizzazione rispetta i criteri delle specifiche ontologiche IEEE, con un assessore che esamina il prodotto e un programma di valutazione della conformità che può rilasciare il marchio. È stato inoltre introdotto il programma Responsible AI for Children, che certifica prodotti per l'infanzia testati e verificati in modo indipendente rispetto a requisiti di progettazione ed etica.
La rete e ciò che resta da osservare
La dimensione collaborativa è cresciuta: il gruppo AI Systems for Global Flourishing Collaborative Industry Collections, riferisce la fonte, supera i 200 membri e lavora a un quadro sistemico per tradurre il concetto di flourishing in metodi, metriche e strumenti applicabili lungo tutto il ciclo di vita dei sistemi. Havens collega esplicitamente questo lavoro al capitolo sul benessere di EAD e allo standard IEEE 7010, sostenendo che se benessere umano e sostenibilità planetaria non vengono affrontati in fase di progetto restano questioni accessorie.
Per il decimo anniversario IEEE SA ha lanciato un sito, un blog e una serie podcast in cinque puntate, avviata il 21 ottobre con uscite ogni due settimane, dedicata alla visione di EAD, alla scelta dei principi e alla loro traduzione negli standard 7000.
Il materiale, però, è una ricostruzione celebrativa prodotta dalla stessa organizzazione: non contiene valutazioni indipendenti sull'efficacia dei standard né dati sull'adozione effettiva delle certificazioni da parte delle imprese. Le dichiarazioni di Havens sul carattere pionieristico di EAD sono attribuite e non verificate; resta quindi da accertare, con fonti terze, quanto la cornice abbia inciso sulle pratiche di sviluppo e non solo sulla produzione documentale.
