Etica e governance dell'AI, tema caldo che ha visto recentemente anche un atto dell'Unione europea, con la messa in campo di limiti di vario genere all'uso della nuova tecnologia. Sul punto, interviene la professoressa Mariarosaria Taddeo, docente di Digital Ethics and Defence Technologies all'Università di Oxford, che, in una lettura dal titolo "Dai principi alle prassi. Il banco di prova della governance etica dell'Intelligenza Artificiale" organizzata dalla Scuola di Scienze Politiche "Cesare Alfieri", analizza il rapporto fra etica ed intelligenza artificiale, mettendo in luce la necessità che l'etica intervenga nella relazione fra umanità e AI. l lavoro della studiosa si concentra sull'analisi etica dell'intelligenza artificiale, dell'innovazione digitale, della sicurezza informatica e dei conflitti informatici. Le sue principali aree di competenza sono filosofia ed etica dell'informazione.
Mariarosaria Taddeo ha ricevuto il Simon Award 2010 for Outstanding Achievements in Computing and Philosophy e nel 2016 il World Technology Award for Ethics. Nel 2018, InspiringFifty l'ha selezionata tra le prime 50 donne italiane che lavorano sui temi della tecnologia e della sua governance, mentre nel 2020 ComputerWeekly l'ha inserita tra le 100 donne più influenti nella tecnologia del Regno Unito.
Inoltre, Taddeo figura nella lista ORBIT delle prime 100 donne attive sulle tematiche relative all'etica dell'intelligenza artificiale nel mondo e nella Hall of Fame de Brilliant Women in AI Ethics. Dal 2020 rappresenta l'Italia nell' Expert Pool on Cyber del European Centre of Excellence for Countering Hybrid Threats.
Il primo passo per andare a fondo sul tema, spiega la professoressa Taddeo, è chiarire di cosa si parla, quando si parla di Intelligenza Artificiale. "C'è tanta attenzione su questa tecnologia – dice Taddeo – ma ritengo che questa massa di attenzione possa risultare anche fuorviante, o meglio, posta in termini non corretti o scientificamente validi. Chiariamo dunque subito in che direzione andiamo. Successivamente, guardiamo all'etica nell'intelligenza artificiale, un'area di ricerca che segue il suo . L'AI esiste sin dagli anni '50, anche se non è stata una tecnologia di successo fino al 2012, così come anche l'etica dell'IA è esistita, seppure arrancando, fin dal 2012.".
Perché parlare di "etica dell'AI"? In realtà, si tratta di una domanda che caratterizza la prima fase della ricerca sull'etica dell''AI, il secondo passo è capire di cosa parliamo quando evochiamo l'etica dell'intelligenza artificiale, che si interseca continuamente con la governance di questa nuova tecnologia. Infine, vedremo come si applica, che è la fase in cui viviamo ora.Adesso la questione è diventata se riusciamo ad applicarla correttamente.
Cos'è l'Intelligenza Artificiale. "Nell'ultimo anno e mezzo, da quando i modelli come ChaptGBT sono diventarti popolari, il discorso sulla IA è stato un po' viziato da quelle che chiamo "distrazioni". Partendo dall'affermazione di svariati personaggi più o meno rilevanti, che spiegano che l'IA avrebbe portato a risultati strabilianti, ci si è divisi fra ottimisti, che ritengono che l'IA ci renderà immortali, in quanto potremmo fare il cosiddetto binding out loading, ovvero scaricare il nostro cervello su un computer che ci permetterà di vivere anche quando il nostro supporto biologico non funzionerà più, e i pessimisti, che ritengono che l'IA ci distruggerà, dal momento che occuperà tutti i posti di lavoro, in modo che gli esseri umani non sapranno più cosa fare delle proprie vite, oppure addirittura che l'IA vorrà dominare sugli esseri umani distruggendo l'umanità.
Due approcci fantascientifici; non abbiamo supporti scientifici per supportare né l'una né l'altra tesi. Faccio un esempio concreto: quando si parla dell'impatto dell'AI sul mondo del lavoro, le stime prodotte vanno prese cum grano salis, perché modellare l'impatto di una tecnologia come questa sul mondo del lavoro tanto da poter produrre proiezioni, è molto complicato., in quanto è un sistema complesso, che ha delle dipendenze, subisce variazioni che non possiamo prevedere al giorno d'oggi, e quindi sono stime che lasciano il tempo che trovano. Qualche tempo fa, si diceva in America che , con le macchine autonome, il primo settore a subire conseguenze molto gravi sarebbe stato quello degli autotrasportatori, che sarebbero stati sostituiti dalle macchine autonome a lunga percorrenza. Ad oggi, in America mancano due o tremila autotrasportatori, dal momento che non solo non abbiamo ancora macchine a guida autonoma completa, ma soprattutto, anche se si automatizza la funzione di guida, la professione dell'autotrasportatore prevede anche molti altri compiti, come quelli burocratici, sovrintendere a carico e scarico, compiti che non possono essere svolti dall'AI. Quindi, primo punto: quando si parla di intelligenza artificiale, non stiamo parlando di fantascienza.
L'AI è una tecnologia un po' particolare perché ha delle caratteristiche che le tecnologie prodotte fino ad ora non hanno. Tornando a ChaptGPT, negli scorsi mesi molto è stato detto sulla "creatività" della nuova tecnologia. Si è spiegato che ChaptGPT ora scrive libri, scriverà saggi , possiamo, in definitivi, utilizzare questa tecnologia anche per assolvere a funzioni intellettuali. Non è così. L'AI che sta alla base dei modelli generativi, è semplicemente una tecnologia che si basa su due cose: grandissime capacità di calcolo, e quantità estese di dati, mai viste prima. ChaptGPT3 , che è il modello precedente a quello che utilizziamo adesso, ChaptGPT4 , funziona così bene è stata allenata utilizzando 45 terabyte di dati. Per dare un senso al dato, se noi stampassimo e rilegassimo 45 terabyte di date, ci occorrerebbe uno scaffale lungo più di 300 km. Inoltre, il modello analizza questi dati utilizzando almeno (non lo sappiamo perché la tecnologia non è open source, un triliardo di parametri. Ciò che questa tecnologia fa, è mettere in atto calcoli statistici molto complessi e molto precisi, sulla base di questi dati e di questi parametri, per capire, data una parola, qual è quella più probabile che segue.
Non c'è nessuna comprensione del significato dei simboli che ChaptGPT manipola, non capisce le frasi che le vengono comunicate e quelle che dà in risposta; semplicemente, riesce a fare calcoli statistici basati su regole matematiche che, date le parole, indicheranno quale sarà quella che molto probabilmente, al 99%, segue. Chapt GTP, come tutte le forme di IA, è un motore sintattico. Significa che manipola i simboli, in questo caso le parole, seguendo regole che sono quelle della statistica, riuscendo a generare contenuti nuovi sulla base di quelli imparati prima. Non c'è in realtà niente di intelligente" come una risorsa di agenti autonomi, con la capacità di interagire e imparare,
Il punto dunque diventa: cos'è questa tecnologia. "Ci sono tante definizioni di Intelligenza Artificiale, perché in realtà la frase indica una categoria di tipologie, non una sola tipologia", L'AI si può definire, per gli scopi di un'analisi etica, dice Taddeo, "come una risorsa di agenti autonomi, capaci di interagire e di imparare, e che possono essere utilizzati per eseguire compiti che altrimenti richiederebbero l'intelligenza umana per essere eseguiti con successo". Dalla definizione data, si capisce che "dobbiamo escludere la fantascienza: sono macchine che possono eseguire compiti che altrimenti richiederebbero l'intelligenza umana per essere eseguiti con successo, ovvero, si tratta di macchine che fanno senza intelligenza ciò che noi facciamo utilizzando invece la nostra intelligenza". Ciò significa, secondo Taddeo, che "possiamo escludere tranquillamente l'intelligenza per concentrarci su quattro aspetti: è una tecnologia che produce degli agenti, non degli strumenti; agenti capaci di interagire e di imparare da queste interazioni in maniera autonoma; questi sono due dati che rendono l'AI un alleato cruciale per assolvere a compiti complessi, facilitare le nostre azioni e interazioni con l'ambiente , ma sollevano anche quei rischi etici di cui si sta discutendo".
Perché serve l'Etica dell'Intelligenza Artificiale. "Negli ultimi 12 anni abbiamo capito sia le potenzialità che i rischi etici e sociali di questa tecnologia – spiega la professoressa – un esempio recente è quello dell'accesso ai servizi di salute pubblica in Usa, dove l'accesso era gestito dall'AI. Un'analisi degli algoritmi utilizzati, eseguita nel 2019, ha dimostrato che il sistema discriminava gli afroamericani. Non è una novità. dal momento che l'AI è addestrata dai dati forniti, e se i dati provengono da una società che contiene pregiudizi razziali, l'AI non farà che ripeterli". Insomma, l'ambivalenza della tecnologia è evidente; da un lato, processa senza sforzo, nell'0esempio, i dati di 200mila persone all'anno, dall'altro prospetta una vera e propria discriminazione razziale (dipendenti dalle informazioni su cui è stata allenata, il che aprirebbe una seria riflessione sul carattere reale delle nostre civiltà occidentali). Nel presentare questa tecnologia come portatrice di benefici e rischi, dice la docente, "si dava l'impressione che, pareggiandosi rischi e benefici, l"intelligenza artificiale avesse un impatto etico neutro". .
Se questa è l'osservazione, "si potrebbe dedurne che la tecnologia è eticamente neutra". Ma se questo fosse vero, "l'etica della tecnologia e la governance della stessa non sarebbero necessarie". Anzi, se la tecnologia è tecnicamente neutra, qualsiasi forma di governance della tecnologia" finisce per diventare un freno all'innovazione". Argomenti simili sono stati utilizzati da alcuni Paesi (fra cui l'Italia) nella dialettica che nell'UE ha preceduto l'adozione dell'atto di regolamentazione dell'AI. "Secondo questa analisi, i problemi etici sorgono con l'uso di questa tecnologia. Perciò, la governance e anche l'etica non devono riguardare la tecnologia, ma gli usi che se ne fanno". Insomma, sarebbe un po' come dire "che non sono i cucchiai che bevono il brodo, ma sono le persone, o che non sono le pistole che ammazzano le persone ma sono persone che ammazzano altre persone". Una posizione che porterebbe a pensare che "dato il ciclo di vita dell'AI, (di design, progettazione, di sviluppo e di uso), l'etica deve riguardare solo gli usi. Ma se è così, in realtà può arrivare in un momento secondario, quando si sia già sviluppata questa tecnologia e magari già adottata".
Un ragionamento fallace nella sua premessa, spiega la professoressa, "Non è vero infatti che i rischi e le opportunità dell'Intelligenza Artificiale si bilancino, e non è vero che si bilancino in ogni circostanza. Non è vero che la tecnologia sia eticamente neutra. Da un punto di vista filosofico, il vizio di questo ragionamento è che si perde la distinzione fra un artefatto naturale e un artefatto tecnologico", Ovvero: i cucchiai (artefatto tecnologico) si spiegano con l'intenzione, il cuore con l'evoluzione. L'intenzione spiega l'esistenza dei cucchiai (x) con le caratteristiche y. L'esistenza x del cuore si spiega con le caratteristiche y legate all'evoluzione nel corso del tempo. L'intenzione, tornando ai cucchiai, di chi e di cosa?
"Intenzione e tecnologia hanno due relazioni: una diretta e una indiretta. Quando la relazione è diretta, l'intenzione caratterizza il design, la progettazione che determina l'esistenza di una certa tecnologia (artefatto) con una determinata funzione. L'intenzione caratterizza la tecnologia anche in modo indiretto, quando afferisce all'uso; l'uso di una tecnologia può poi determinarne la funzione. Si parla spesso del dual-use, quando si progetta una tecnologia per un certo utilizzo, ma poi i fruitori ne fanno, in maniera intenzionale, un uso diverso e non previsto. Un esempio? Progettati i cucchiai per bere il brodo, qualcuno li utilizza come oggetti contundenti ". Il meccanismo è lo stesso con l'AI. "Ho realizzato un sistema di rilevamento delle perdite di gas metano per ridurre l'impatto del metano sull'ambiente, e poi lo stesso sistema viene utilizzato con le AI, per identificare, in un sistema di guerra, dei target da bombardare".
"L'intenzione caratterizza dunque sia la progettazione che l'utilizzo. Ciò è importante perché l'intenzione ha sempre un aspetto normativo, è sempre eticamente connotabile. C'è inevitabilmente un impatto etico rispetto all'intenzione. Se l'intenzione è connotabile, allora anche il design è un momento eticamente collocato, anche il design ha un aspetto normativo. E di fatto, si progetta sempre secondo dei valori, qualsiasi sia l'oggetto della progettazione.".
Ciò vale anche per la tecnologia, soprattutto per la tecnologia digitale. "Questa tecnologia è definita "tecnologia trasformativa" . Questa trasformazione non è eticamente neutra," tanto più una tecnologia trasformativa che ha un valore normativo ed etico, dal momento che cambia le cose e le mette in una nuova forma , che poi ha un impatto etico-sociale. Se alleno un'AI con dati che rispecchiano una discriminazione razziale, quella tecnologia ha imparato a propagare e amplificare quella discriminazione. La progettazione ha un valore normativo. Ma se questo è vero, è lì che si giustifica l'importanza e il valore dell'etica dell'intelligenza artificiale.
Tornando alla domanda iniziale, perché l'etica delle AI, ecco la risposta: "Ci serve per poter guidare la progettazione e anche l'uso dell'AI secondo i valori che stanno alla base della nostra civiltà".
"L'etica non è un strumento di divieto – continua Taddeo – è invece un'analisi concettuale, molto importante quando parliamo di tecnologie trasformative che cambiano il mondo intorno a noi, per identificare strategie per mitigare i rischi e massimizzare le opportunità. L'etica dell'AI non è contro l'innovazione, è per l'innovazione eticamente buona. Ed è un'etica che non si può fare solo col tasto di utilizzo, ma che deve guardare all'intero ciclo di vita dell'AI, perché, come si diceva, tutte queste fasi sono eticamente connesse".
Un punto importante, perché "se si parla di etica dell'AI in tutte le sue fasi, anche in quella di design e in quella fase consideriamo gli aspetti etici, si può fare un buon design, buono in termini etici, che rispetti dall'inizio i valori della nostra società. Se il design è buono, allora si riesce a controllare meglio anche l'intenzione indiretta., le pressioni di dual-use".
Un punto cruciale, anche considerando che le analisi dell'impatto sulla società dell'uso sempre più allargato di questa tecnologia trasformativa, non sono ancora molto avanzate.
Andando nel merito dell'etica dell'AI, negli ultimi anni ci si è concentrati in particolare sui rischi e i problemi che questa tecnologia comporta. Fra le criticità rilevate, il fatto che la tecnologia in questione ampli gli errori umani, goda di poco controllo in quanto opaca, impatta in modo critico sulle nostre capacità, ovvero, delegando sempre più compiti all'AI, il rischio è perdere la capacità di eseguire autonomamente quei compiti stessi. Infine, la questione dell'autodeterminazione umana: l'AI è una tecnologia che prende decisioni e fa scelte, e spesso lo fa per noi. "In un contesto in cui cominciamo a demandare all'AI le decisioni e le nostre scelte sempre più spesso, è lecito domandarsi se questa delega non finisca per erodere le nostre capacità di prendere decisioni e quindi di determinarci".
Tutti nodi che hanno determinato, in particolare nel 2020, l'esplosione delle questioni legate all'etica dell'AI, e moltissime istituzioni, aziende, soggetti hanno creato una serie di limiti con alcune idee e parole ricorrenti, come ad esempio il richiamo ai diritti umani, controllo, trasparenza sicurezza, ecc. "Una delle più recenti review della letteratura ha contato circa 89 documenti che delineavano principi etici per l'AI, prodotti da diversi attori che vanno dalla Difesa, all'Economia, alle aree di Salute Pubblica. Si tratta di principi adottati dall'OSCE, attualmente da 44 Paesi del mondo, per cui l'AI deve essere sostenibile, centrata sui valori umani, trasparente, robusta (caratteristica di sicurezza" e ovviamente, accountable. Più o meno gli stessi principi si trovano nel Ministero della Difesa: centralità degli esseri umani, la responsabilità (accountability) trasparenza, ecc. L'OMS aggiunge autonomia, benessere dei pazienti, il fatto che l'AI non debba escludere l'accesso alla salute a nessuno".
Guardando con occhio critico a questi principi, emergono due obiezioni. "La prima, considera questi principi di alto livello, ovvero principi generici, quasi tautologici, ridondanti, retorici. Troppo generici per dare una guida specifica.". quindi, alla fine inutili o peggio ancora, "che prestano il fianco alle cosiddette malpractice, ovvero che prestano il fianco all'uso cinico . Su questa prima obiezione non concordo, perché ritengo che questi principi stiano all'etica dell'AI, un po' come i principi costituzionali stanno alle nostre regolamentazioni nazionali. Funzionano da bussola, ci indicano una direzione, ma non ci danno una mappa. sono principi fondativi".
Altro discorso per le malpractices. Si tratta di usi viziosi dei principi dell'AI, e sono quelli che "minano in questa fase il valore dell'etica delle AI. Per certi versi, in questo momento il lavoro da fare, dati principi fondativi generali, è quello di disegnare la mappa, Disegnare le mappe è un atto normativo. e così hanno un valore normativo le scelte che facciamo adesso per applicare l'etica dell'Intelligenza Artificiale. Nel passare dai principi alle pratiche, ci sono una quantità di strumenti tra i quali possiamo scegliere.
Ma questi strumenti hanno implicazioni molto forti. Ad esempio ora si fa molta attenzione all'analisi dei processi in cui l'AI viene inserita per vedere dove le criticità emergono, quando emergono e poi magari identificare misure risolutive. Ma la scelta dello strumento ha un elemento normativo che non è quello definito dai principi, ma che riguarda l'ambito dell'analisi stessa. Questi aspetti non sono considerati in maniera specifica. Inoltre, l'etica dell'AI molto spesso si trova a dover bilanciare interessi che sono legittimi, ma contrapposti. I principi etici, una volta applicati, devono equilibrare queste contrapposizioni, La scelta di come equilibrare, chi avvantaggiare, è una scelta che al momento viene fatta senza una legittimità democratica.
Ciò che sta succedendo è che ci siamo dimenticati che, fra i principi di AI che sono di così alto livello, e gli strumenti che stiamo mettendo sul mercato, c'è una fase di interpretazione. E questa interpretazione è importante, perché è dove tutto ciò che è stato fatto finora sull'AI viene messo alla prova. Se l'interpretazione non è corretta, rischiamo l'ethics lobbyng and devolution, ovvero, organizzazioni che si danno principi etici su base volontaria, cercano di fare due cose: demandare ai loro dipendenti la ìe definizioni delle linee guida, l'applicazione di questi principi, scaricando la responsabilità per queste scelte normative, su una parte interna dell'organizzazione che probabilmente non ha né l'esperienza, né il background, per capire quali sono i pesi normativi delle loro scelte, pur nella legittimità e rappresentatività do fare queste scelte".
Un altro punto di discussione è quello delle organizzazioni che si danno da fare per definire delle linee guida, per battere sul tempo la governance o la regolamentazione per legge, e mantenere così un ambito o uno spazio di manovra più ampio". L'AI ad esempio, non sono regolamentate per nessuna Difesa. La Nato ha creato un atto con gli standard da rispettare. Standard definiti in maniera interna e del tutto autonoma,.
"Serve una metodologia, che, almeno nei contesti ad alto rischio, Difesa, Economia, Finanza, deve avere queste tre caratteristiche: la traduzione dei principi in prassi deve essere guidata da un gruppo di esperti indipendenti e multistakeholder, in grado di lavorare per raggiungere l'imparzialità morale, è importante che ci sia una metodologia di classi definite, che permette di riprodurre e migliorare l'interpretazione, scrutinabili, che permettono di capire dove avvengono gli errori; importante che ci sia una sorta di presa di responsabilità e trasparenza. Le corti Costituzionali quando devono applicare i principi costituzionali ai casi specifici, devono dichiararne i criteri . Ciò favorisce la trasparenza e quindi l'accountability. Deve succedere lo stesso quando si tratta di principi etici dell'AI ".
"L'etica dell'Intelligenza Artificiale non può essere affrontata con approccio manicheo, perché l'IA è sia buona che cattiva, ha potenzialità enormi e prospetta rischi enormi che cambiano nel tempo . Cambiano i contesti, cambiano anche le implicazioni etiche. Non si tratta di un equilibrio binario, ed è anche un equilibrio dinamico. L'etica e la governance dell'intelligenza artificiale è complessa perché arriva con un costo, organizzativo, economico, di expertise, ma solo affrontando questo costo potremo svilupparla in maniera seria e quindi riuscire a indirizzare la progettazione lo sviluppo e l'utilizzo di questa tecnologia, perché supportino i valori delle nostre democrazie e non diventino invece ostacolo o peggio ancora, agenti di erosione di questi valori stessi".