10.13125/CH/4331
Sulla scia di una visione offerta dai manga giapponesi, gli studiosi di epistemologia della complessità Paul Dumouchel e Luisa Damiano, autori di Vivere con i robot. Saggio sull’empatia artificiale, propongono un nuovo modo di pensare al nostro rapporto, presente ma soprattutto futuro, con gli agenti robotici. A partire da quest’apertura, gli autori possono prendere le distanze sia dalla tradizionale idea di robot come semplice lavoratore artificiale, sia dalla prospettiva occidentale, tutta distopica, riguardo a una possibile evoluzione del rapporto tra esseri umani e robot: distopica in quanto prevede che robot troppo evoluti prendano il sopravvento sugli umani. Essi propongono infatti uno scenario in cui questi agenti artificiali diventano attori sociali integrati nella rete di relazioni, anche e soprattutto affettive, degli umani. Ritengono inoltre che il rapporto tra esseri umani e robot, lungi dal concludersi in un’Apocalisse (come vorrebbero gran parte della filmografia e della letteratura fantascientifiche), sarà occasione di crescita morale e sociale sia per gli umani sia, perché no, per gli stessi agenti robotici sociali. [....]
application/pdf
2533-1825
4331
1
it
urn:nbn:it:unica-26365
Eva Simonetti
https://creativecommons.org/licenses/by/3.0/
Critical Hermeneutics
Vivere con i robot. Saggio sull’empatia artificiale (P. Dumouchel, L. Damiano)
Text.Serial.Journal
https://ojs.unica.it/index.php/ecch
4
Book reviews
2020-10-09
2020-10-09
2020-10-09
2020-10-09
165-174
1
Eva Simonetti
2020/10/09
10.13125/CH/4331
165
2533-1825
1
it
174
urn:nbn:it:unica-26365
Vivere con i robot. Saggio sull’empatia artificiale (P. Dumouchel, L. Damiano)
https://ojs.unica.it/index.php/ecch/article/download/4331/3901
4
Critical Hermeneutics, 4(1), 2020                                       Received: 21/3/2020
Biannual International Journal of Philosophy                            Accepted: 21/3/2020
http://ojs.unica.it/index.php/ecch/index                                Published: 9/10/2020
ISSN 2533-1825 (on line); DOI 10.13125/CH/4331




                                   [RECENSIONE]



Dumouchel, P. e Damiano, L. (2019). Vivere con i robot –
saggio sull’empatia artificiale. Milano: Raffaello Cortina Edi-
tore.



                                     EVA SIMONETTI




Sulla scia di una visione offerta dai manga giapponesi, gli studiosi di
epistemologia della complessità Paul Dumouchel e Luisa Damiano,
autori di Vivere con i robot. Saggio sull’empatia artificiale, propongo-
no un nuovo modo di pensare al nostro rapporto, presente ma so-
prattutto futuro, con gli agenti robotici.
         A partire da quest’apertura, gli autori possono prendere le di-
stanze sia dalla tradizionale idea di robot come semplice lavoratore
artificiale, sia dalla prospettiva occidentale, tutta distopica, riguardo a
una possibile evoluzione del rapporto tra esseri umani e robot: disto-
pica in quanto prevede che robot troppo evoluti prendano il soprav-
vento sugli umani. Essi propongono infatti uno scenario in cui questi
agenti artificiali diventano attori sociali integrati nella rete di relazioni,
anche e soprattutto affettive, degli umani. Ritengono inoltre che il
rapporto      tra   esseri     umani      e      robot,   lungi   dal   concludersi      in
un’Apocalisse (come vorrebbero gran parte della filmografia e della
letteratura fantascientifiche), sarà occasione di crescita morale e so-
ciale sia per gli umani sia, perché no, per gli stessi agenti robotici so-
ciali.
Recensione




      Ma in che modo i manga giapponesi ci offrono una visione alter-
nativa? E una volta aperti a questa visione, come possiamo immagi-
nare concretamente questi nuovi agenti artificiali sociali? Come dob-
biamo impiegarli? E ancora: che idea di mente dobbiamo abbracciare
per avvicinarci alla realizzazione pratica di questi robot? A quali pro-
blematiche etiche apre l’integrazione nella nostra rete sociale di tali
agenti artificiali?
      Tutte queste domande guidano il percorso del libro, che si snoda
in cinque capitoli a loro volta suddivisi in vari paragrafi, i quali affron-
tano progressivamente problematiche sempre più complesse.


Se la parola robot nasce in un dramma teatrale di Karl Capek intitola-
to Russum’s Universal Robots in cui si narra la storia di macchine arti-
ficiali che diventano sempre più simili agli umani fino a diventare in-
distinguibili da essi e a ribellarsi, in una visione apocalittica che sarà
poi tipica di tanta fantascienza occidentale, i manga giapponesi pro-
pongono una visione opposta: in molte delle loro storie, una su tutte
Atro Boy, sono presenti agenti robotici, ma questi, lungi dal ribellarsi
agli umani e andare contro di essi, sono di volta in volta alleati
dell’eroe protagonista e occasione, per lui, di un’importante crescita
psicologica e morale, tanto che molte di questi racconti possono esse-
re assimilati al romanzo di formazione. Questi agenti robotici non so-
no sistemi tecnici impersonali il cui perfezionamento tecnico e la con-
seguente deriva non sono opera di nessuno (come quelli che fanno da
sfondo alla visione apocalittica occidentale), ma sono oggetti dotati di
un’anima e realizzati da un creatore (spesso è presente il tema pa-
dre-figlio). Se nella prima prospettiva la tecnica è un nemico, fonte di
alienazione, nella seconda la tecnica è un alleato, che conduce al
trionfo dell’individualità. Questa prospettiva è un’anticipazione delle
teorie della robotica sociale: è questo l’indirizzo di ricerca abbracciato
e problematizzato dagli autori. Esso punta alla realizzazione di agenti



166
                                                 Critical Hermeneutics, 4 (2020)




sociali artificiali in grado di integrarsi nelle nostre relazioni e
nell’ecologia dei nostri scambi emozionali, da impiegarsi in contesti in
cui la socialità è protagonista, per esempio per assistere o far compa-
gnia ad anziani o pazienti con bisogni speciali. In queste interazioni,
essi porterebbero a vantaggi paragonabili a quelli della pet therapy, e
quindi potrebbero essere sostituiti ad animali reali, portando vantaggi
di igiene e gestione. Inoltre, essi vengono considerati un vero e pro-
prio strumento di ricerca scientifica all’interno del complesso dibattito
sulla natura della mente, da impiegare in contesti sperimentali. Gli
autori sostengono infatti che tanto il processo di creazione di agenti
artificiali sociali quanto l’osservazione sperimentale delle interazioni
che con essi hanno gli umani, possono portare a scoperte significative
sulla natura della mente.
     Questi robot sono chiamati sostituti poiché vengono impiegati
per sostituire l’attore umano o animale. Essi hanno specifiche caratte-
ristiche, illustrate di seguito, che aprono a molte problematiche, una
su tutte la concezione tanto filosofica quanto neuroscientifica della
mente e delle emozioni.


I sostituti non sono dei semplici «lavoratori artificiali» come gli altri
robot, progettati per svolgere compiti specifici e senza capacità socia-
li. Essi, al contrario, non hanno alcuna funzione pratica precisa, in
quanto il loro fine ultimo è la socialità, che «non ha alcuno scopo par-
ticolare al di là di se stessa» (41).
     Essi sono pertanto dotati di caratteristiche del tutto peculiari: (I)
devono saper interrompere lo svolgimento di un compito per ri-
coordinarsi con l’ambiente, con gli altri robot e con i paterner sociali:
la capacità trascendere da una data funzione e riconfigurare le azioni
in base alle situazioni, secondo gli autori, sarebbe infatti un aspetto
essenziale della nostra socialità, sarebbe anzi proprio ciò che diffe-
renzia le macchine dagli schiavi e il motivo per cui il tentativo di eser-



                                                                            167
Recensione




citare un pieno controllo sugli schiavi si rivela sempre molto più in-
stabile di quello di esercitarlo su delle macchine (41). (II) Devono
avere una presenza sociale, saper rivolgere la propria attenzione agli
altri, dando a questi la percezione di «essere con un altro». Questo
sarebbe un punto fondamentale di differenza tra i sostituti e gli altri
oggetti tecnici: in linea di massima, infatti, gli oggetti tecnici (es.
smartphone) sono pensarti per scomparire nella loro funzione, far as-
sentare l’utente dallo spazio fisico per trascinarlo in quello virtuale. Al
contrario, i sostituti, caratterizzati da tridimensionalità, affermano la
loro presenza e non ci allontanano dallo spazio fisico. La presenza so-
ciale che affermano, inoltre, deve essere propriamente la loro. (III)
Devono esercitare e mantenere una certa autorità. Anche questa ca-
ratteristica li distanzierebbe dagli oggetti tecnici che, per quanto pos-
sano essere strumenti di misurazione che forniscono risultati autore-
voli, non hanno una reale autorità. I sostituti devono propriamente
affermarsi e farsi rispettare. Stabilito questo, che aspetto fisico devo-
no avere?
      Mashairo Mori realizza una curva (33) che nasce dall’integrazione
tra somiglianza nell’aspetto di questi robot con l’uomo e senso di fa-
miliarità degli umani verso di essi, ottenendo che il senso di familiari-
tà cresce col crescere della somiglianza, finché non si raggiunge un
punto critico in cui la somiglianza eccessiva genera una zona pertur-
bante (uncanny valley): l’umano è inquietato da questo oggetto arti-
ficiale. Dalla zona perturbante si esce nel momento in cui il robot as-
sume le sembianze perfette di un individuo in salute, ovvero quando
il suo aspetto è in tutto indistinguibile da quello di un uomo. Mori ipo-
tizza anche un’ulteriore evoluzione (attualmente impossibile a livello
tecnico) in cui il robot sarà «più umano dell’umano» (35) ovvero
quando il suo aspetto incarnerà il nostro ideale artistico di perfezione.
Con questi agenti artificiali, che per altro genererebbero in noi una




168
                                                Critical Hermeneutics, 4 (2020)




vergona prometeica, secondo tale teoria addirittura «interagiremmo
meglio che con uno dei nostri simili» (36).


Come anticipato, la questione dei sostituti apre a questioni filosofiche
come la concezione della mente e delle emozioni: per quanto riguarda
l’idea della mente, gli autori, già nel Capitolo 1, si oppongono alla
concezione della mente nuda, per cui la mente sarebbe un’attività
computazionale universale che può essere realizzata sui più vari sup-
porti fisici (es. computer): al contrario, propongono l’idea di una
mente radicalmente incorporata, le cui funzioni sono vincolate
dall’organizzazione corporea del soggetto e dall’ambiente in cui esso
è situato: questa visione deriverebbe da esperimenti di etologia artifi-
ciale e supporterebbe l’idea che sia necessario di disporre di oggetti
tridimensionali (come appunto sarebbero i sostituti) per gli esperi-
menti sul comportamento animale e per gli esperimenti di ordine so-
ciale.
     Ma è dal Capitolo 2 che la riflessione sulla mente si estende e si
fa più complessa. Gli autori compiono un’operazione apparentemente
paradossale: riabilitano Cartesio per sfuggire al dualismo della sua
prospettiva. Infatti, a loro avviso, le moderne teorie che criticano
Cartesio di fatto ricadono nel suo dualismo. Cartesio, secondo gli au-
tori, affermando che gli animali non hanno un’anima, non sta negan-
do loro capacità cognitive. Piuttosto, sta ammettendo la possibilità
dell’esistenza di sistemi cognitivi diversi dal nostro. Egli aprirebbe
dunque a un’idea plurale dei sistemi cognitivi, ovvero all’idea che certi
sistemi cognitivi, pur essendo radicalmente diversi da quelli umani,
non per questo sono meno validi. Seguendo questa argomentazione,
gli autori accostano i sistemi cognitivi animali a quelli delle macchine:
entrambi si differenzierebbero dal sistema cognitivo umano perché
questo sarebbe l’unico capace di comprendere il linguaggio e dare si-
gnificato alle cose, caratteristiche che non siamo ancora in grado di



                                                                           169
Recensione




riprodurre nelle macchine. A questo discorso viene accostata la confu-
tazione della teoria della mente estesa, secondo cui, tramite le mac-
chine, la mente, intesa come situata nel cervello, avrebbe la possibili-
tà di estendersi al di fuori dei limiti del corpo, trasformando di fatto in
se stessa tutto ciò con cui entra in contatto: una macchina, secondo
questa tesi, è cognitiva solo in quanto appendice della mente umana,
e non ha capacità cognitive proprie. Secondo gli autori, al contrario,
le macchine non estenderebbero la mente, ma avrebbero sistemi co-
gnitivi propri, esattamente come gli animali, seppur di tipologia diver-
sa dal sistema cognitivo umano. Ad essere esteso sarebbe quindi lo
stesso dominio del cognitivo, portato al di là del confine della mente
umana. In base a questa visione, come scrive Paul Humphreys in
»Extending Ourselves», occorre «abbandonare l’idea che le abilità
epistemiche umane siano l’arbitro ultimo della conoscenza scientifica»
(81). L’idea dell’omogeneità del cognitivo e l’idea che l’umano sia il
soggetto epistemico per eccellenza, sarebbero infatti frutto di una vi-
sione antropocentrica (88), e proprio in ciò consisterebbe la ricaduta
della moderna concezione della mente nel dualismo cartesiano, con-
tro il pluralismo proposto dagli autori.
      Nel Capitolo 3 la riflessione sulla mente arriva al punto centrale e
si conclude: qui viene approfondita l’idea della mente come una rete
cognitiva socialmente distribuita. Alla domanda: “Dov’è la mente?” la
tesi tradizionale e il senso comune risponderebbero “Dentro di me”.
Gli autori si muovono contro quest’idea, proponendo che la mente
non sia un oggetto situato in una dimensione individuale, ma che sia
una dinamica sociale.
      Il nucleo di questa dimensione sociale è individuato nelle emo-
zioni. Da qui, l’idea che la dimensione sociale dei robot dipende dalla
possibilità, per questi agenti artificiali, di partecipare agli scambi
emozionali ed empatici immettendosi nel circuito affettivo. Come arri-
vare alla realizzazione di tali robot?



170
                                                  Critical Hermeneutics, 4 (2020)




Gli autori ci presentano i due approcci attualmente esistenti per la
modellizzazione della robotica delle emozioni e, dopo aver osservato
come entrambi, pur restando radicalmente separati a livello teorico,
di fatto nella pratica oltrepassano sistematicamente i loro confini, ci
propongono un terzo approccio che li integri. Questi due approcci so-
no: la robotica esterna, che si concentra sulla dimensione sociale e
che concepisce le emozioni robotiche come simulazioni dei processi
emozionali umani, per cui i robot fingono di avere emozioni, ovvero
mimano le modalità di espressione delle emozioni così che l’utente
che interagisce con loro gli attribuisca delle emozioni per analogia con
le espressioni umane; la robotica interna, che guarda alla dimensione
individuale e che considera le emozioni robotiche come genuine, per-
ché   provocate   da   meccanismi     interni   che   vorrebbero      mimare
l’effettiva generazione biologica delle emozioni umane, riproducendo
artificialmente i processi emozionali naturali.
      L’approccio proposto dagli autori, invece, ha come obiettivo quel-
lo di «collocare i robot nel circuito affettivo (affective loop)» (128) do-
tandoli di una fenomenologia della coordinazione emozionale interin-
dividuale. Si tratta dell’idea che l’interazione tra due agenti si basi sul
fatto che l’uno reagisce alle emozioni dell’altro secondo una strategia
di coordinazione, distante dall’idea classica che l’interazione si basi
sul riconoscimento delle emozioni dell’uno da parte dell’altro in base
alle sue espressioni. Infatti, il successo della strategia di coordinazio-
ne non dipenderebbe da una conoscenza adeguata dell’emozione di
partenza, in quanto tale strategia potrebbe addirittura modificare
quest’ultima. Questa teoria si basa su quelle riguardanti i meccanismi
di mirroring, ovvero processi di coattivazione neuronale, da concepi-
re, secondo Vittorio Gallese, come «meccanismi incorporati» di acces-
so alle emozioni altrui (156).




                                                                             171
Recensione




      Il quinto ed ultimo capitolo del libro è dedicato alle questioni eti-
che che emergono dall’utilizzo di sistemi artificiali. Ciò che emerge è
la necessità di limitare l’azione di questi robot affinché essi si muova-
no sempre in una direzione etica. L’obiettivo è limitare le conseguen-
ze sociali di uno sviluppo tecnologico considerato inevitabile. Si tratta
della creazione di AMA (Agenti Morali Artificiali) la cui azione è gover-
nata (e limitata) da alcune regole che vengono inserite nel robot nel
momento in cui lo si realizza e programma, regole che questo non
può non seguire, perché a lui intrinseche. La questione si fa partico-
larmente urgente se si guarda alle tecnologie già impiegate in ambito
militare. Infatti, la ricerca scientifica e tecnologica, per la robotica, si
muove in gran parte in quest’ambito.
      Le due voci presentate dagli autori in merito sono quella di Armin
Krishnan, esperto di scienze politiche e relazioni internazionali, e Ro-
nald Arkin, specialista di sistemi robotici autonomi, che guardano, ri-
spettivamente con preoccupazione e, al contrario, con auspicio, alla
possibilità (che tuttavia entrambi riconoscono essere economicamen-
te, politicamente e militarmente vantaggiosa) di affidare alle macchi-
ne le decisioni belliche, come la decisione di attaccare o la valutazio-
ne della legittimità del bersaglio. Entrambi concordano comunque sul-
la necessità di dotare questi robot di un sistema di regole che ne diri-
ga l’azione: queste regole dovrebbero essere quelle internazionali di
regolazione dei conflitti bellici.
      Robot di questo tipo, la cui azione è limitata da tali regole, sa-
rebbero dei super-soldati, impossibilitati a disobbedire, per cui agire
moralmente significherebbe soltanto agire in conformità a una regola
la cui moralità è stata decisa esteriormente rispetto ad essi e senza
che questi abbiano avuto la possibilità di acconsentire a tale regola né
di riconoscerne la moralità (184). Queste caratteristiche fanno sì che
le loro azioni siano «conformi alla morale» più che propriamente mo-
rali, nel senso moderno del termine. Infatti nel pensiero moderno la



172
                                                 Critical Hermeneutics, 4 (2020)




moralità è strettamente connessa all’autonomia decisionale, per cui è
morale l’agente che, pur essendo in grado di agire in modo immorale,
sceglie, con un atto consapevole, di agire moralmente.
     Il punto, presentato dagli autori già all’inizio del libro, è che noi
non vogliamo agenti dotati di una tale autonomia. Ci troviamo quindi
di fronte ad un paradosso per cui al contempo vogliamo e non vo-
gliamo agenti autonomi. Li vogliamo autonomi nel senso di capaci di
agire senza la necessità di una nostra supervisione costante, ma non
li vogliamo autonomi nel senso pieno del termine.
     Gli   autori,   comunque,    mostrano     tutte   le    problematicità
dell’eventuale creazione di questi super-soldati: infatti, se da una
parte, come afferma Arkin, questi potrebbero essere moralmente su-
periori agli esseri umani in quanto non suscettibili di essere spinti
dall’ira o dal panico a compiere atrocità, dall’altro gli autori eviden-
ziano che «le emozioni […] sono anche ciò che permetterebbe loro di
sentire compassione, di mostrare rispetto o anche solo interesse per
qualcosa al di là dell’adempimento impeccabile della missione milita-
re» (182).
     Anche in questo caso, quindi, essi ravvisano la necessità di dota-
re gli agenti artificiali di empatia: anche i robot impiegati in campo
bellico devono essere attori sociali, e non semplici armi.
     Infatti, gli autori sottolineano come i robot militari prodotti oggi,
che non sono sostituti, ma soltanto armi, non possono essere consi-
derati etici solo per il fatto di essere autorizzati dalla legge interna-
zionale: parlare di etica in questi termini è sbagliato e rappresenta un
errore di categoria.


Queste considerazioni non esauriscono tuttavia la riflessione sui ri-
svolti etici e sociali dell’eventuale integrazione di sostituti all’interno
della nostra rete relazionale. Al contrario, si ritiene che i problemi che
essi, in quanto oggetti fisici tridimensionali reperibili nello spazio co-



                                                                            173
Recensione




me individui indipendenti, solleveranno una volta integrati nella no-
stra ecologia sociale e affettiva, saranno del tutto nuovi, e specifici
dell’interazione tra attori umani e artificiali. Saranno problemi di altro
ordine, e aprirci a tali questioni significherà in definitiva affrontare
l’etica in modo diverso: è l’innovazione etica (198).


Si chiude così un cerchio: non solo questi agenti sociali potranno es-
sere degli importanti mezzi di indagine scientifica sulla mente e sulla
socialità, ma anche i protagonisti di una possibile innovazione etica.
È questo il percorso che, approfondendo svariate questioni filosofiche,
tecniche e scientifiche, viene affrontato dai cinque densi capitoli del
libro.




174
