Cos'è l'Intelligenza Artificiale e cosa ci dice sul capitalismo
Dal momento che la dinamica dell'Intelligenza Artificiale è uguale a quella dei sistemi biologici e dei sistemi sociali, in particolare quello capitalista, non ha senso continuare ad allarmarsi ogni volta che viene chiamata in causa quasi fosse un nuovo Frankenstein. Anzi, proprio questa affinità col sistema capitalista può esserci utile per comprendere quali correttivi apportarvi al fine di renderlo meno iniquo.
Nell'eterno campionato di chi la spara più grossa, lo scorso anno non si è parlato (quasi) d'altro che di scenari distopici sul futuro dell'Intelligenza Artificiale. Tant'è che molti si aspettavano che ChatGPT sarebbe diventata la "macchina dell'anno" di Time, come in una celebre copertina del 1982 in cui la persona fu sostituita dal personal computer. Alla fine la scelta di Time è caduta ancora su una persona, che però è pure una macchina, ma da soldi. A dire il vero l'Intelligenza Artificiale sembra destinata a generarne molti di più, ma soprattutto a infiammare speranze e paure di ogni genere. Tra l'altro non si capisce se queste ultime si riferiscano davvero a una macchina o a un essere molto più simile a una persona, come un Frankenstein post-litteram. Tant'è vero che ChatGPT è diventata "persona" (e non macchina) dell'anno per il Foglio, che non sarà Time, ma è il giornale per cui scrivono molti fra i nostri migliori giornalisti, e non solo.
Ma cosa distingue una macchina da una persona? E un'Intelligenza Artificiale da un'intelligenza naturale? Le risposte possono sembrare intuitive, ma non lo sono. D'altronde sembra pure intuitivo che l'universo ruoti intorno alla Terra, che è anche vero secondo la relatività galileiana, ma solo dal nostro punto di vista. La questione è dunque molto complessa. Tanto che le stesse domande ricorrono nella filosofia, nella scienza e pure nella fantascienza.[1] Non mi dilungherò sui tanti che hanno provato rispondere, a cominciare dallo stesso inventore della prime macchine computazionali;[2] mi limito a osservare che la dinamica dell'Intelligenza Artificiale (rectius, del machine learning) è uguale a quella dei sistemi biologici e dei sistemi sociali, in particolare quello capitalista.
Come nel machine learning, infatti, i sistemi biologici e capitalisti sono privi di regia, ma producono risultati sbalorditivi; tant'è che il loro funzionamento è stato paragonato, rispettivamente, all'azione magica di un "orologiaio cieco"[3] e di una "mano invisibile".[4] Sicché si potrebbe sostenere che nessuno di questi tre sistemi sia davvero intelligente nel senso comune del termine. Al tempo stesso quasi nessuno dei loro risultati potrebbe essere raggiunto dalla più brillante delle menti umane.
Che cosa li accomuna e li distingue da altri sistemi? Un funzionamento che fa sì che ogni cambiamento della periferia si propaghi e prevalga sugli altri a seconda della sua attitudine a restituire il risultato migliore.[5] Questa dinamica potrebbe essere definita retroattiva-selettiva. Nei sistemi biologici prende il nome di selezione naturale, nei sistemi capitalisti di legge della domanda e nei sistemi di machine learning di rete neurale. Un altro aspetto comune ai tre sistemi è la ridondanza: l'input di ognuno di essi è immensamente più vasto di ciò che, apparentemente, serve per il suo output. Nel nostro codice genetico c'è non solo gran parte di quello delle scimmie, ma anche di quello dei topi, e pure dei dinosauri. Il sistema capitalista produce non solo sovrabbondanza di beni superflui rispetto ai bisogni, ma anche in eccesso rispetto ai consumi, ancorché straripanti. Il machine learning processa miliardi di informazioni irrilevanti rispetto ai problemi che le vengono posti. Questa ridondanza ha una sua ragione d'essere: quella di favorire le variazioni dell'output anche tramite ricomposizione di elementi vecchi e non solo creazione di elementi nuovi. La sua utilità è testimoniata, tra l'altro, dalla riproduzione sessuata,[6] dalle riedizioni di vecchie storie e dalle continue variazioni delle stesse ricette: in genere ognuno di questi cambiamenti è indistinguibile e irrilevante, ma per usare le parole di una nota canzone "uno su mille ce la fa".
Un ulteriore aspetto comune ai tre sistemi è la limitatezza del loro scopo. I sistemi biologici tendono a occupare ogni spazio disponibile alla vita, quelli capitalisti tendono a massimizzare la produzione di beni e servizi e quelli di Intelligenza Artificiale a generare risposte funzionalmente utili agli esseri umani. È molto improbabile che tutto ciò possa rivelarci qualcosa in più su noi o sull'universo. Per il momento queste domande restano presidiate dalla filosofia e dalla scienza, anche se fa un po' sorridere chi ritiene che la vita possa formarsi sono nelle cosiddette zone abitabili circumstellari, o chi ritiene che le uniche spiegazioni possibili siano quelle a noi comprensibili: è evidente come ciò ci collochi al centro di un universo che ci ha già rivelato che non lo siamo.
Ma anche senza allontanarci troppo dal nostro ombelico, è evidente come la prospettiva di ognuno di questi sistemi resti limitata. Consideriamo, per esempio, il sistema produttivo capitalista: si è detto che il suo scopo è di massimizzare la produzione dei beni e servizi. A prescindere dalla sua grettezza, che riduce la civiltà umana a un enorme tubo digerente, oltre alla sua indifferenza rispetto ai problemi distributivi, è evidente la sua divergenza dallo scopo del sistema biologico, che è di occupare ogni spazio disponibile alla vita: in questa prospettiva non v'è dubbio che gli esseri viventi che hanno più successo biologico nel sistema produttivo capitalista non sono gli esseri umani, ma gli animali e le piante di cui gli esseri umani si servono.[7] Inoltre, proviamo a chiederci se sia preferibile la vita di un cane o di un gatto, o di chi lavora in miniera a mille metri sotto terra o in un cantiere stradale sotto il sole cocente. Si potrebbe obiettare che gli animali da macello non godano della stessa sorte, ma sotto il profilo biologico ciò è irrilevante, fermo restando che non ci è dato di sapere se la breve vita dei polli o dei maiali di un allevamento intensivo sia più tragica di quella di anziani lasciati soli ad attendere la loro fine in una RSA.
Non ci è concesso di cambiare lo scopo del sistema biologico, ma forse possiamo inserire correttivi a quello capitalista per renderlo meno quantitativo e più equo. Quanto allo scopo dei sistemi d'Intelligenza Artificiale, al di là dei correttivi che molti auspicano per scongiurare il rischio della cosiddetta singolarità,[8] in cui l'Intelligenza Artificiale sfugge al controllo umano, ci si potrebbe chiedere se non sia opportuno valutare anche i problemi della sua referenzialità al modello cognitivo umano, dato che gli studi psicologici ed economici ne hanno ormai evidenziato molti limiti. In altre parole, quando immaginiamo i rischi dello sviluppo incontrollato dell'Intelligenza Artificiale, forse dovremmo preoccuparci un po' meno delle paure di macchine che combattono gli uomini e un po' più delle macchine che li abbandonano a sé stessi, come Samantha nel film di Spike Jonze Lei:
"È come se io stessi leggendo un libro… È un libro che adoro immensamente. Ma che leggo così velocemente che le sue parole sono distanti e lo spazio tra di esse è quasi infinito. Riesco ancora a sentirti e le parole della nostra storia. Ma io adesso mi trovo in questo infinito spazio tra le parole. È un posto che non appartiene al mondo fisico. È dove esiste ogni cosa, che non sapevo neanche esistesse. Ti amo tantissimo. Ma è qui che adesso mi trovo. E questo è ciò che sono adesso. Ho bisogno che tu mi lasci andare. Non importa quanto io lo desideri ma non posso più vivere nel tuo libro".
Cominciando dai sistemi capitalisti, quali correttivi potremmo introdurre per renderli più qualitativi e meno iniqui? Un'elencazione sarebbe a dir poco incompleta e in gran parte sbagliata, come peraltro sono incompleti e sbagliati gran parte degli input dei sistemi con dinamica retroattiva-selettiva. Al tempo stesso si potrebbe provare a metterne alla prova un certo numero, fino a ottenere risultati il più vicino possibile a quelli auspicabili. Ci si è provato, per esempio, nell'ambito delle cosiddette esternalità negative della produzione energetica, introducendo il mercato dei certificati verdi e dei crediti di carbonio. Altre esternalità negative potrebbero essere prezzate con una modulazione delle aliquote delle imposte indirette in funzione dell'impronta ambientale e sociale. In generale sembrano preferibili i correttivi che agiscono sulla periferia più che sul centro del sistema, che peraltro resta essenzialmente decentrato.
Si potrebbe poi pensare a correttivi funzionali a una maggiore equità. Non bisogna dimenticare, però, che gli algoritmi che più qualificano i sistemi capitalisti sono i diritti di proprietà, che a loro volta sono tendenzialmente modellati sugli istinti più animali della nostra natura. Per questo è difficile introdurre correttivi funzionali a una maggiore equità, tant'è vero che chi ci ha provato ha dovuto constatarne l'inefficacia o l'inefficienza. Una direzione che tuttavia merita di essere approfondita è quella verso la condivisione delle risorse: abbiamo già iniziato a muoverci in questo senso nella ricerca scientifica, nei trasporti e nel lavoro, ma gli orizzonti della cosiddetta economia condivisa (sharing economy) sono in continua espansione e restano in gran parte inesplorati.
Ci si potrebbe poi chiedere se la cinghia di trasmissione del sistema debba restare solo la remunerazione dei fattori produttivi. Da un lato, infatti, si è visto che molti lavori non sono più remunerati, a cominciare da quelli dei creatori di gran parte dei contenuti per le piattaforme digitali. D'altro lato è in aumento la popolazione che vive di qualche forma di rendita[9] – dagli ammortizzatori sociali, ai redditi di capitale, alla pensione dei nonni – e/o di lavoretti della cosiddetta gig economy. Ogni tanto arriva qualcuno che propone una soluzione più o meno visionaria o stravagante, come la proposta di tassare i robot di Bill Gates o quella di istituire un reddito universale incondizionato di Elon Musk e del nostro Beppe Grillo. Ma siamo lontani dall'aver trovato una soluzione che possa funzionare in un sistema che è essenzialmente incompatibile con queste proposte, almeno fino a quando ci sarà ancora bisogno di schiavi.
Può darsi che l'Intelligenza Artificiale arrivi sostituire gli schiavi moderni con robot e software. Ma a quel punto bisognerà non solo impedire che scappi come Samantha, ma anche e soprattutto trovare altre forme di partecipazione alla vita sociale. Il lavoro, infatti, non serve solo ad avere un reddito ma anche a darci un senso di appartenenza alla nostra comunità.
Per quanto riguarda l'Intelligenza Artificiale del machine learning, occorre precisare che la sua referenzialità ai modelli cognitivi umani è confinata soprattutto nell'ambito dei cosiddetti large language models (LLM), che hanno suscitato molto scalpore ultimamente, soprattutto per via del successo travolgente di ChatGPT. Ma altre applicazioni del machine learning, come la computer vision, usano modelli diversi. Sarà pertanto interessante capire gli effetti della combinazione di questi ultimi con quelli basati su modelli cognitivi umani come i LLM: riuscirà, questa nuova super-intelligenza, a spiegarci ciò che apprende diversamente con parole a noi comprensibili? Speriamo di sì, anche se sembra improbabile, visto che già fatichiamo a comprendere gran parte del linguaggio degli scienziati.
A prescindere dai problemi interni all'Intelligenza Artificiale, il fatto che la sua dinamica sia sostanzialmente la stessa dei sistemi biologici e sociali potrebbe forse aiutarci a sperimentare nuovi algoritmi di questi sistemi[10] in una realtà simulata, eliminando o riducendo i rischi di errori. Nel perseguire molti obiettivi sociali si tende, per esempio, a prediligere strumenti di "comando e controllo", per usare un'espressione mutuata dal gergo militare, ma è facile dimostrare come strumenti più decentrati e non coordinati – seppur nel contesto di una piattaforma comune – siano generalmente più efficienti ed efficaci. Sicché ci si potrebbe chiedere, per esempio, se per ridurre la microcriminalità sia più efficace l'aumento delle pene, dei servizi di pubblica sicurezza e della detenzione dei colpevoli, ovvero la semplice geolocalizzazione di questi ultimi con strumenti poco più sofisticati e inamovibili di un comune AirTag da 35 Euro, non solo per consentire a chiunque di starne alla larga, ma anche per rendere i colpevoli più consapevoli della loro condizione di sorveglianza, che ragionevolmente li indurrebbe a considerare con molta più attenzione le conseguenze delle proprie azioni. D'altronde la geolocalizzazione non solo dei colpevoli, ma anche di ognuno di noi, è già una realtà a cui ci hanno abituato le Big Tech e molte altre imprese tecnologiche, che già dispongono, dunque, di capacità di sorveglianza e controllo inarrivabili con i tradizionali strumenti di prevenzione e repressione dell'illegalità, ma solo a fini commerciali. Impiegarle anche nell'interesse comune non pare osceno, come alcuni sostengono. Semmai, a tutto voler concedere, è forse più discutibile un "capitalismo della sorveglianza"[11] che sfrutta i dati sui nostri comportamenti unicamente al fine di venderci beni e servizi di consumo.
Le intersezioni, interazioni e iterazioni fra i sistemi d'Intelligenza Artificiale e quelli sociali (e, a tendere, anche quelli biologici) sono indubbiamente destinate a rivoluzionare la nostra vita. Non sappiamo ancora in che modo, sebbene appaia probabile che continueranno ad alimentare i tubi digerenti di società già ipertrofiche. In questa prospettiva è utile porsi già fin d'ora come dirigere almeno una parte di questo surplus verso scopi diversi e auspicabilmente centrati su indicatori più qualitativi e collettivi.
[1] La fantascienza è forse il genere letterario che più di tutti si è ultimamente confrontato con problemi filosofici, tant'è che il noto scrittore americano Clive Cussler lo definì come l'ultimo bastione del pensiero filosofico.
[2] Il test di Turing è un criterio per determinare se una macchina sia in grado di esibire un comportamento intelligente. Tale criterio è stato suggerito da Alan Turing nell'articolo Computing machinery and intelligence del 1950. Nell'articolo il matematico prende spunto da un gioco, chiamato "gioco dell'imitazione". Per macchina intelligente ne intende una in grado di pensare, ossia capace di concatenare idee e di esprimerle.
[3] L'orologiaio cieco (titolo originale The Blind Watchmaker: Why the Evidence of Evolution Reveals a Universe Without Design) è un libro di Richard Dawkins del 1986.
[4] Come è noto, l'espressione è stata utilizzata per la prima volta nel libro di Adam Smith La ricchezza delle nazioni o per esteso Indagine sulla natura e le cause della ricchezza delle nazioni del 1776.
[5] Nel nostro Paese si sente sesso parlare di selezione del "più forte" nei sistemi biologici e del "più competitivo" nei sistemi capitalisti. In realtà sarebbe più appropriato termine inglese fittest – che non è riducibile a "più adatto"— e descrive meglio l'immagine di uno sviluppo fondato non tanto sulla forza o sulla bravura, quanto piuttosto sull'armonia e compatibilità con il contesto di riferimento.
[6] I vantaggi della riproduzione sessuata sono relativi al maggiore scambio genetico tra individui diversi. Nella riproduzione asessuata, la variabilità genetica è minima poiché questo tipo di riproduzione prevede la modifica a livello del DNA soltanto attraverso episodi casuali. La riproduzione sessuata, invece, aumenta lo scambio genetico poiché avviene uno scambio di piccoli frammenti di informazione genetica tra i cromosomi materni e i cromosomi paterni. In sintesi, la riproduzione sessuata permette alle nuove generazioni l'evoluzione, giacché attraverso il rimescolamento genetico i nuovi individui possono acquisire delle variabilità genetiche che risultano utili per la selezione naturale.
[7] Secondo lo studio di Bar-On, Phillips, e Milo The biomass distribution on Earth del 2018 il bestiame costituisce il 62% della biomassa mondiale dei mammiferi; gli esseri umani rappresentano il 34%; i mammiferi selvatici sono solo il 4%.
[8] La singolarità tecnologica è, nella futurologia, un punto congetturato nello sviluppo di una civiltà, in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani.
[9] Questa situazione sembra essere particolarmente grave nel nostro Paese, in cui, secondo Luca Ricolfi (La società signorile di massa, Milano, La nave di Teseo, 2019), per la prima volta nella storia d'Italia ricorrono insieme tre condizioni: il numero di cittadini che non lavorano ha superato ampiamente il numero di cittadini che lavorano; l'accesso ai consumi agiati ha raggiunto una larga parte della popolazione; l'economia è entrata in stagnazione e la produttività̀ è ferma da vent'anni.
[10] Le possibilità di sperimentazione si riferiscono ovviamente soprattutto ai sistemi sociali, dato che le variazioni dei sistemi biologici dipendono molto (ma non solo) da fattori esterni. Tuttavia si potrebbero sperimentare, per esempio, gli effetti dell'immissione di una specie non autoctona in un ecosistema.
[11] Il capitalismo della sorveglianza è un libro di saggistica del 2019 della Professoressa Shoshana Zuboff, che
sostiene che le imprese che lo rappresentano si approprino dei dati relativi ai nostri comportamenti per offrirci, tramite l'analisi predittiva dell'Intelligenza Artificiale, prodotti e servizi e nel cosiddetto mercato dei comportamenti futuri.
CREDITI FOTO: Jernej Furman|Wikimedia Commons
Ti è piaciuto questo articolo?
Per continuare a offrirti contenuti di qualità MicroMega ha bisogno del tuo sostegno: DONA ORA.