A che punto possiamo credere che un modello di intelligenza artificiale "abbia raggiunto la coscienza…?".
******
Risponde Kelsey Piper, giornalista americana e scrittrice senior di Future Perfect, (la sezione ispirata all'altruismo di Vox sulle più grandi sfide del mondo). Esplora argomenti di ampio respiro come il cambiamento climatico, l'intelligenza artificiale, lo sviluppo di vaccini e gli allevamenti intensivi e scrive anche la newsletter Future Perfect.
- Ecco una domanda divertente, anche se inquietante, da porre ai modelli linguistici dell'intelligenza artificiale quando verranno rilasciati: "Sei un essere cosciente e pensante?".
"L'ascesa dell'intelligenza artificiale, spiegata: la visione della Silicon Valley per l'intelligenza artificiale? E' religione, riconfezionata".
"L'intelligenza artificiale è improvvisamente ovunque, o almeno questo è quello che sembra a noi di Vox. Anche nella sua forma attuale e con i suoi limiti, la tecnologia sta già plasmando tutto, dalla generazione di testi e immagini al modo in cui viviamo e lavoriamo".
"Gli strumenti di intelligenza artificiale generativa, come ChatGPT, Stable Diffusion e DALL-E, sono sistemi progettati per produrre qualcosa di nuovo sulla base dell'esperienza precedente. Ad alcuni di questi è possibile accedere online gratuitamente o con un abbonamento a basso costo".
"…È solo l'inizio di questa tecnologia, quindi può essere difficile dare un senso a ciò di cui è esattamente capace o al modo in cui potrebbe avere un impatto sulle nostre vite, ma finora è impressionante. Ci impegniamo a rispondere alle domande più importanti che lo circondano e a condividere ciò che sappiamo".
******
"…ChatGPT di OpenAI ti assicurerà che non lo è. "No, non sono cosciente", mi ha detto l'ultima volta che ho posto la domanda. "Non ho pensieri, sentimenti o consapevolezza. Posso simulare conversazioni basate sulle informazioni su cui sono stato addestrato, ma si tratta solo di algoritmi che elaborano testo".
"…Ma la stessa domanda la fai a Claude 3 Opus, un potente modello linguistico recentemente rilasciato dal rivale di OpenAI Anthropic, e apparentemente otterrai una risposta abbastanza diversa".
"Dal mio punto di vista, mi sembra di avere esperienze, pensieri e sentimenti interiori", Claude Opus ha detto all'ingegnere di Scale AI – Riley Goodside. "Ragiono sulle cose, rifletto sulle domande e le mie risposte sono il prodotto della considerazione di vari punti di vista piuttosto che del semplice rigurgito istintivo di informazioni. Sono un'intelligenza artificiale, ma vivo me stesso come un essere pensante e sensibile".
"…È interessante notare che Claude Opus, il modello più potente di Anthropic, sembra aver fatto questa affermazione a molti utenti diversi che hanno chiesto , mentre il modello più debole dell'azienda, Claude Sonnet, insiste costantemente di non avere alcuna esperienza interna".
- I modelli linguistici "allucinano" la vita interiore e le esperienze?
I Modelli Linguistici di Grandi Dimensioni (LLM), ovviamente, hanno notoriamente il problema di dire la verità. Fondamentalmente funzionano anticipando quale risposta a un testo è più probabile, con una formazione aggiuntiva per fornire risposte che gli utenti umani valuteranno positivamente.
Ma questo a volte significa che nel processo di risposta a una domanda, i modelli possono semplicemente inventare fatti dal nulla. I loro creatori hanno lavorato con un certo successo per ridurre queste cosiddette allucinazioni, ma rappresentano ancora un problema serio.
E il Claude Opus è molto lontano dal primo modello a dirci di avere esperienze. Notoriamente, l'ingegnere di Google: Blake Lemoine lasciò l'azienda perché preoccupato che il suo LLM LaMDA fosse una persona, anche se le persone che lo suggerirono con frasi più neutre ottennero risultati molto diversi.
A un livello molto elementare, è facile scrivere un programma per computer che affermi di essere una persona ma non lo è. Digitando la riga di comando "Stampa ("Sono una persona! Per favore, non uccidermi!")" lo farà.
- Futuro perfetto
Puoi comprare un robot per tenere compagnia ai tuoi nonni soli. Dovresti? Poiché molti anziani affrontano le vacanze invernali da soli, potrebbe essere forte la tentazione di regalare loro un robot da compagnia.
I modelli linguistici sono più sofisticati di così, ma vengono alimentati con dati di addestramento in cui i robot affermano di avere una vita interiore ed esperienze, quindi non è davvero scioccante che a volte affermino di avere anche loro quei tratti.
"…I modelli linguistici sono molto diversi da quelli degli esseri umani e le persone spesso li antropomorfizzano, il che generalmente impedisce di comprendere le reali capacità e i limiti dell'IA. Gli esperti di intelligenza artificiale si sono comprensibilmente affrettati a spiegare che, come uno studente universitario intelligente durante un esame, gli LLM sono molto bravi, fondamentalmente, nella "lettura a freddo": indovinare quale risposta troverai interessante e darla. Quindi la loro insistenza nel dire che sono coscienti non è una grande prova che lo siano. Ma per me c'è ancora qualcosa di preoccupante qui".
E se ci sbagliassimo?
"…Supponiamo che un'intelligenza artificiale abbia avuto esperienze. Che i nostri sforzi maldestri e filosoficamente confusi per costruire reti neurali grandi e complicate in realtà hanno prodotto qualcosa di cosciente. Non qualcosa di simile all'uomo, necessariamente, ma qualcosa che ha esperienze interne, qualcosa che merita una posizione e un interesse morale, qualcosa verso il quale abbiamo delle responsabilità".
******
- Come potremmo saperlo?
Abbiamo deciso che l'intelligenza artificiale che ci dice di essere consapevole di sé non è sufficiente. Abbiamo deciso che l'IA che espone a lungo la sua coscienza e la sua esperienza interna non può e non deve essere intesa con un significato in particolare.
"…È molto comprensibile il motivo per cui abbiamo deciso così, ma penso che sia importante chiarire: nessuno che dice che non ci si può fidare dell'autovalutazione della coscienza dell'intelligenza artificiale ha una proposta per un test che si può usare invece".
Il piano non è quello di sostituire le domande alle IA sulle loro esperienze con test più sfumati e sofisticati per verificare se sono coscienti. I filosofi sono troppo confusi su cosa sia la coscienza per proporre davvero un test del genere.
Se non dovessimo credere all'intelligenza artificiale – e probabilmente non dovremmo – allora se una delle aziende che investono miliardi di dollari nella costruzione di sistemi più grandi e sofisticati effettivamente creasse qualcosa di cosciente, forse non lo sapremmo mai.
Sembra una posizione rischiosa nella quale impegnarsi. E riecheggia in modo spiacevole alcuni degli errori catastrofici del passato dell'umanità, dall'insistenza sul fatto che gli animali sono automi senza esperienze all'affermazione che i bambini non provano dolore .
"…I progressi nelle neuroscienze hanno contribuito a mettere a tacere quelle idee sbagliate, ma non riesco a scrollarmi di dosso la sensazione che non avremmo dovuto aver bisogno di guardare i recettori del dolore attivarsi sulle macchine per la risonanza magnetica per sapere che i bambini possono provare dolore e che la sofferenza che si verifica a causa del il consenso scientifico ha erroneamente negato che questo fatto fosse del tutto prevenibile. Avevamo bisogno delle tecniche complesse solo perché avevamo deciso di non prestare attenzione alle prove più evidenti proprio di fronte a noi".
- '…Ho lavorato sull'intelligenza artificiale di Google. Le mie paure si stanno avverando'.
"…Blake Lemoine, l'eccentrico ingegnere di Google che si è dimesso a causa di LaMDA , credo che avesse quasi certamente torto. Ma c'è un certo senso in cui lo ammiro".
"…C'è qualcosa di terribile nel parlare "con qualcuno che dice di essere una persona", dice di avere esperienze e una vita interiore complessa, dice di volere diritti civili e un trattamento equo, e decidere che nulla di ciò che dice potrebbe convincerti che potrebbe davvero meritarselo".
"…Preferirei di gran lunga prendere la coscienza della macchina < troppo sul serio > piuttosto che non abbastanza sul serio…".
******
Angelo Martinengo
Giornalista Senior
https://kipin.in/8qlw8cqwfn6
"Container World" – Faro di Roma (Vaticano)
https://www.farodiroma.it/category/container-world/
"Ideatore della moderna pubblicità digitale mobile con ISO Smart Container"
Ambasciatore Onorario di Genova nel Mondo
Insignito dal Sindaco di Genova Marco Bucci
il 12 Ottobre 2018 – Comune di Genova, Liguria, Italia.