10.13125/CH/5346
application/pdf
2533-1825
5346
2
en
urn:nbn:it:unica-28980
Paola Ricci Sindoni
https://creativecommons.org/licenses/by/3.0/
Critical Hermeneutics
Medicine and Robotics
Text.Serial.Journal
https://ojs.unica.it/index.php/ecch
6
Varia
2023-01-26
2022-10-17
2023-01-27
2023-01-27
323-344
1
Paola Ricci Sindoni
2022
10.13125/CH/5346
323
2533-1825
2
344
urn:nbn:it:unica-28980
Medicine and Robotics
https://ojs.unica.it/index.php/ecch/article/download/5346/5371
6
Critical Hermeneutics 6(2), (2022)               Submission date: 17 October 2023
Biannual International Journal of Philosophy     Acceptance date:      5 January 2023
http://ojs.unica.it/index.php/ecch/index         Date of publication: 27 January 2023
ISSN 2533-1825 (on line); DOI 10.13125/CH/5346




                  Medicina e robotica. Opportunità

                     scientifiche e domande etiche

         (Medicine and Robotics: Scientific Opportunities

                             and Ethical Questions)


                                Paola Ricci-Sindoni


Abstract
In these first decades of the 21st century, robotics in the medical
field has exponentially expanded the register of perceptive, empathic,
cognitive and operational capabilities of artificial agents with increas-
ing autonomy. This contribution intends to deepen the relationship
between natural and artificial, identifying issues relating to the differ-
ence or similarity between man and machine. Faced with the use of
artificial humanoid agents, the SAR (Socially Interactive Robots)
which form the variety of assistance robotic systems, studied above
all for the care of the elderly and children affected by psychiatric pa-
thologies, it seems necessary to overcome the perspective of exclu-
sively utilitarian-consequential, or the one that sees them as simple
“objects” to be manipulated, since the active presence of these artifi-
cial agents are programmed to "create" relationships, to enter into a
“mutual” contact (even if of an asymmetrical type) both with nursing
and medical staff, and with elderly or sick people. It goes without
saying that it is the robotic engineer who creates/programs the robot;
in short, it is man who manages the machine and directs it to certain
specific tasks. This does not mean that the most sophisticated cobots
(Collaborative robots) – robots capable of collaborating with man and
Paola Ricci-Sindoni, Medicina e robotica




responding to multiple expectations through different and articulated
responses according to the human being in front of them – must as-
sume and require a more articulated anthropological and ethical per-
spective.
Keywords: Robotic medicine, socially interactive artificial agents,
ethics of medical robotics, relational anthropology


Abstract
In questi primi decenni del XXI secolo la robotica in ambito medico ha
ampliato in modo esponenziale il registro delle capacità percettive,
empatiche, cognitive ed operative degli agenti artificiali ad autonomia
crescente. Questo contributo intende approfondire il rapporto fra na-
turale e artificiale, individuando le questioni relative alla differenza o
alla somiglianza tra l’uomo e la macchina. Di fronte all’utilizzo di
agenti artificiali umanoidi, i SAR (Robot socialmente interattivi) che
formano la varietà dei sistemi di robotica di assistenza, studiati so-
prattutto per la cura degli anziani e dei bambini affetti da patologie
psichiatriche, sembra necessario superare la prospettiva di tipo esclu-
sivamente utilitaristico – consequenziale, o quella che li vede come
semplici “oggetti” da manipolare, dal momento questi agenti artificiali
sono programmati per “creare” relazioni, per entrare in un contatto
“reciproco” (anche se di tipo asimmetrico) sia con il personale infer-
mieristico e medico, sia con le persone anziane o malate. Va da sé
che è l’ingegnere robotico che crea/programma il robot; è l’uomo, in-
somma, che gestisce la macchina e la indirizza a certi compiti specifi-
ci. Ciò non toglie che i più sofisticati cobot (Collaborative robots) –
robot capaci di collaborare con l’uomo e di rispondere a delle aspetta-
tive molteplici mediante risposte differenti e articolate a seconda
dell’essere umano che hanno di fronte – debbano supporre e richiede-
re una più articolata prospettiva antropologica ed etica.




324
                                               Critical Hermeneutics 6(2), (2022)




Parole chiave: Medicina robotica, Agenti artificiali socialmente inte-
rattivi, etica della robotica medica, antropologia relazionale


1. Uno sguardo d’insieme
In questi primi decenni del XXI secolo la robotica in ambito medico ha
ampliato in modo esponenziale il registro delle capacità percettive,
empatiche, cognitive ed operative degli agenti artificiali ad autonomia
crescente. È ormai prassi consolidata che questi robot chirurgici aiuti-
no a eseguire microprocedure complesse, senza l'esigenza di pratica-
re grandi incisioni. Con l'evolvere di queste tecniche, i robot utilizze-
ranno in ultima istanza la visione artificiale per la navigazione verso
aree specifiche del corpo, evitando al contempo nervi e altri ostacoli.
Alcuni di questi possono anche essere in grado di completare le attivi-
tà in modo autonomo, consentendo ai chirurghi di monitorare le pro-
cedure da una console. La visione artificiale in 3D ad alta definizione
è oggi in grado di fornire ai chirurghi informazioni dettagliate e pre-
stazioni migliorate durante le procedure. Infine, i robot saranno in
grado di gestire sottoprocedure di minore rilevanza, come la sutura o
altre attività analoghe. La robotica sanitaria consente dunque un ele-
vato livello di cura dei pazienti, processi efficienti negli scenari clinici
e un ambiente sicuro sia per i pazienti che per gli operatori sanitari.
     Un esempio recente: qualche mese fa è stato compiuto un inter-
vento in un paziente affetto da tumore del polmone operato con
l’aiuto di un braccio robotico di ultima generazione con l’utilizzo per la
prima volta in Italia della tecnologia FreeHand V3. Si tratta di un
braccio robotizzato, sinora utilizzato per la video chirurgia toraco-
laparoscopica, quindi una tecnica mininvasiva, comandato da un sen-
sore posizionato sulla fronte del chirurgo che guida con un controllo
wireless l’ottica montata sul braccio robotico con semplici movimenti
del capo. Ora invece è stato possibile utilizzarlo intervenendo su en-
trambi i polmoni in un’unica seduta operatoria. Con l’approccio tora-


                                                                             325
Paola Ricci-Sindoni, Medicina e robotica




coscopico mininvasivo si è potuto eseguire da entrambi i lati i due in-
terventi necessari. In particolare, con un solo foro per lato nel torace
del paziente si è potuto inserire sia l’ottica che gli strumenti necessari
all’esecuzione dei due interventi. La cosa importante è stata la possi-
bilità di gestire la procedura chirurgica nella sua interezza e comples-
sità da parte del chirurgo operatore e della strumentista, il tutto coa-
diuvato dalla condotta anestesiologica. Il paziente ha avuto un decor-
so regolare ed è stato dimesso dopo tre giorni di ricovero, pur essen-
do stato sottoposto a due interventi distinti pressoché in contempora-
nea. Questa tecnologia innovativa consente al chirurgo di intervenire
in autonomia, coadiuvato dall’infermiere strumentista, senza la ne-
cessità di essere assistito da un secondo chirurgo, che posizioni
l’ottica e la muova all’occorrenza durante l’intervento, avendo al con-
tempo un maggiore controllo dell’immagine e un campo operatorio
più libero con più spazio di manovra. L’immagine trasmessa dall’ottica
fissata e mossa dal braccio robotico è visualizzata su uno schermo
che consente al chirurgo di avere immagini in 2D e 3D HD, di effet-
tuare zoom avanti e indietro e di spostarsi a destra o sinistra seguen-
do le frecce sul monitor con un semplice cenno della testa. La possibi-
lità di avere le mani libere dall’ottica con una immagine ovviamente
stabile e senza il tremore umano dell’aiuto chirurgo, oltre alla legge-
rezza del braccio robotizzato, determina la riduzione del dolore e il
tempo di recupero post-operatorio con l’ottimizzazione del personale
della sala operatoria1.
      Queste notizie sono note agli addetti ai lavori e rimbalzano nelle
Riviste scientifiche e nei congressi internazionali, cifra della smisurata
potenzialità tecnologica oggi a disposizione. Eppure, e questa è una
prima questione, si continua a pensare che questi attrezzi sofisticati
siano solo oggetti strumentali, fabbricati per eseguire un unico lavoro


1
        https://www.crob.it/2022/03/18/intervento-su-un-tumore-del-polmone-con-



326
                                                    Critical Hermeneutics 6(2), (2022)




specializzato,    esaurendosi      nella   prestazione      che     ne    giustifica
l’esistenza. Insomma, un oggetto che serve a qualcosa e che, una
volta esaurito il compito sostanzialmente ripetitivo, viene messo a ri-
poso e riposto in un angolo della sala operatoria. Si continua a pensa-
re che le questioni legate alla differenza e alla somiglianza tra uomo e
macchina siano l’ambito dei dibattiti teorici filosofici o etici, che poco
hanno a vedere con la pratica clinica e con la professionalità del chi-
rurgo, che ha il compito di studiarne la tecnica per far funzionare a
dovere l’intera procedura.
     Anche di fronte all’utilizzo di agenti artificiali umanoidi, i SAR
(Robot socialmente interattivi) che formano la varietà dei sistemi di
robotica di assistenza, studiati soprattutto per la cura degli anziani e
dei bambini affetti da patologie psichiatriche, non cambia la prospet-
tiva di tipo utilitaristico e antropocentrico: è l’ingegnere robotico che
mediante l’intelligenza artificiale e le tecniche algoritmiche, crea /
programma il robot; è l’uomo, insomma, che gestisce la macchina e
la indirizza a certi compiti specifici. Anche i più sofisticati cobot –
macchine intelligenti, senzienti, empaticamente interagenti, robot ca-
paci di collaborare con l’uomo e di rispondere a delle aspettative mol-
teplici mediante risposte differenti e articolate a seconda dell’essere
umano che hanno di fronte –, ebbene, anche in questo caso si suppo-
ne che queste macchine, non possano creare problemi di convivenza,
con risvolti etici e politici, o, se mai, solo nella misura in cui sostitui-
scono il lavoro umano e determinano forme sempre più evidenti di
disoccupazione (cfr. Frey 2013).
     Questione malposta, questa, che comunque attira l’attenzione
anche dei non specialisti e che al contrario occulta la domanda essen-
ziale, quella che risponde alle necessarie modalità delle relazioni in-
tersoggettive, dal momento che il cobot non è solo un oggetto da


braccio-robotico-freehand/ (ultimo accesso: 15 ottobre 2022).



                                                                                  327
Paola Ricci-Sindoni, Medicina e robotica




programmare e da manipolare, ma è una forma inedita di “soggettivi-
tà” con cui bisogna fare i conti. Non è fantascienza il lavoro di Wallach
e Allen (2008) quando si apprestano ad insegnare ai robot di distin-
guere il bene dal male, programmando agenti morali artificiali. Il di-
battito anche fra gli ingegneri robotici è tutt’ora aperto, dal momento
che è tecnicamente possibile inserire moduli, hard disk di comporta-
mento, già determinati, ma anche in parte lasciati all’autonomia della
macchina.
      La soggettività dei robot va comunque vista da un’altra prospet-
tiva (quella che si cercherà di delineare in queste pagine), quella che
prende consapevolezza dell’alterità della macchina, che impone con la
sua presenza operativa una risposta non solo articolata in termini uti-
litaristici, ma che piuttosto rimanda ad alcune questioni etiche ormai
inaggirabili. Perché, ad esempio, in alcune case di riposo giapponesi i
pazienti agli infermieri preferiscono l’umanoide che sempre sorride, è
gentile e premuroso, aiuta loro ad alzarsi, non si stanca mai, non si
spazientisce, lavora 365 giorni l’anno e risponde alle loro domande
con gentilezza? E ancora: cosa avviene in un reparto ospedaliero,
quando la tradizionale relazione infermiere – paziente viene in qual-
che modo modificata dalla presenza operativa dei cobot? Come reagi-
sce il chirurgo alla sua nuova funzione di operatore tecnico e alla
mancanza del contatto fisico con il malato in sala operatoria, e come
questo modifica la sua deontologia?
      Sono questioni che non si risolvono rapidamente e a livello teori-
co-generale, ma tenendo conto – come ha fatto qualche studioso co-
me Schirrmacher (2010) – delle valenze sociologiche e culturali che
attengono a questi nuovi scenari. A seconda della provenienza degli
operatori in campo – ingegneri robotici soprattutto, programmatori,
ricercatori dell’intelligenza artificiale, centri e laboratori di ricerca – è
possibile distinguere tra una visione macchinocentrica, più prossima
al mondo orientale ed una uomocentrica, più vicina al mondo occi-


328
                                               Critical Hermeneutics 6(2), (2022)




dentale. Si pensi al riguardo alla notevole presenza culturale delle
concezioni animistiche, diffuse in Paesi tecnologicamente avanzati
come il Giappone: secondo la religione shintoista, per esempio, sia la
natura (animali e piante), sia gli artefatti, come i dispositivi tecnologi-
ci, sarebbero dotati di spirito e di sensibilità (Tamburini 2020: 64). Da
qui la visione secondo cui gli agenti artificiali vengono accettati per la
loro affidabilità, mentre gli esseri umani sono vaghi, disorganizzati e
troppo emotivi. Nel mondo occidentale, all’opposto, si rivendica il
primato dell’uomo sulla macchina, dal momento che questa non è che
un suo prodotto tecnologico, di per sé rigido e coerente, privo di con-
sapevolezza, a fronte del suo creatore che è flessibile, intelligente e
creativo (Rose 2008). Queste due differenti visioni, che sembrano
contraddire l’atmosfera globalizzata e interconnessa della ricerca
scientifica, vanno comunque tenute presenti al fine di non irrigidirsi in
posizioni etiche generiche e preconcette.
     L’etica, va detto per inciso, non è una disciplina autonoma che
detta valori teorici in modo induttivo; anch’essa si basa su di una ri-
flessione complessa e sui frutti dell’interdisciplinarietà, entro cui as-
sumono importanza le diverse identità culturali, gli scenari sociologici
oltre che le differenze filosofiche. Ritornando alla questione dei rap-
porti fra uomo e macchina e alle domande etiche prima accennate, è
senza dubbio interessante quel paradigma proposto dal robotico
giapponese Masahiro Mori negli anni 70 del secolo scorso (Mori 1970)
e che continua anche oggi a suscitare interesse e un nutrito dibattito
specie fra gli ingegneri robotici. Si tratta della teoria chiamata uncan-
ny valley, generalmente tradotto come “valle perturbante” o “zona
inquietante” (MacDorman 2006).
    Attraverso una estesa indagine psico-sociologica Masahiro Mori
individuava la presenza di un blocco neuronale, che si traduce a livel-
lo percettivo come una sorta di paura e di inquietudine, quando nella
relazione fra uomo e agente artificiale umanoide il robot aumentava


                                                                             329
Paola Ricci-Sindoni, Medicina e robotica




la sua somiglianza con l’essere umano. Insomma, più la macchina si
avvicina alle sembianze umane e più cresce il disagio psicologico.
Siamo di fronte ad un paradosso logico: il progresso tecnologico dei
robot è stato da sempre orientato al maggior grado di somiglianza
con l’uomo, specie al fine rassicurante della cura e dell’assistenza nel-
le strutture per gli anziani. Eppure, più somiglianza equivale a più
paura e rifiuto, quasi che la reazione emotiva negativa nei confronti di
un essere artificiale diminuisse il grado di affinità percepita sino ad
allora. Calzante è l’esempio fornito da Masahiro sulla protesi robotica
a forma di mano: fino a che l’umanoide fa uso dei suoi due sensi –
l’udito e la vista – svolgendo il suo compito, questo genera serenità
nella persona. Ma quando le si chiede di stringere quella mano - pro-
tesi, scatta lo uncanny valley, subentra cioè il rifiuto e la paura.
      Immaginiamo questa protesi rivestita di unghie di plastica e di
una pelle sintetica che è molto simile all’epidermide: chiunque la toc-
chi, la sentirà fredda come la mano di un cadavere e tale percezione
negativa fa mutare radicalmente l’idea della similarità umana, scio-
gliendo la serenità relazionale, che si blocca; l’affinità e la somiglianza
generano un profondo disagio psichico. Tale senso di rifiuto si annulla
quando alcune forme animate, come la bambola tradizionale giappo-
nese Bunraku o come le statue di Buddha che, pur dotate articolazio-
ni e di unghie, si muovono ma sono di legno, non determinando cioè
alcuna emozione negativa. Molte le spiegazioni psicoanalitiche di ma-
trice freudiana che hanno suscitato un vasto dibattito fra i robotici:
interessanti le due opposte valutazioni tecnologiche. Quella suggerita
da Mori e da molti altri, che invitano a creare macchine con un design
deliberatamente non umano, mentre altri propendono anche oggi
(Ishiguro 2016) ad eliminare questo deficit aumentando la somiglian-
za con gli umani sino a farli diventare completamente uguali e non
più distinguibili. Al di là di queste opposte linee operative, è interes-
sante –per il nostro discorso – evidenziare una domanda di spessore


330
                                               Critical Hermeneutics 6(2), (2022)




antropologico: la relazione umanoide – uomo deve essere segnata
dalla somiglianza o dalla differenza? Se decliniamo questa domanda
sul piano dei nostri usuali rapporti intersoggettivi sappiamo che è la
differenza a costituirci e a rappresentare la vera risorsa etica per re-
lazioni umane significative. Quando, al contrario, cerchiamo di annul-
lare la differenza, in nome di una piatta similarità scatta una serie di
questioni che conducono ad una sorta di uncanny valley, diciamo co-
sì, di deficit di comunicazione, generatore di conflitti.
     Torniamo ai nostri umanoidi e all’esperienza che potremo fare
per superare il senso di distanza inquietante che ci separa da loro: in
primo luogo loro non sono noi, loro possiedono una alterità che ci co-
stringe a ricercare risposte ai nostri interrogativi relazionali; la loro
differenza, che sembra progressivamente diminuire a fronte di nuovi
cobot ad autonomia crescente, ci è utile per ridefinire un monitorag-
gio etico che ci consenta, ad esempio, di stabilire la qualità e il grado
di assistenza e di cura tenendo conto della nuova triade: quella che
comprende il paziente, l’infermiere o il medico, e ora il robot di assi-
stenza sia esso un umanoide o un braccio chirurgico. È forse solo un
caso che la zona perturbante scatti quando ai due caratteri sensoriali
propri dei robot –la vista e l’udito – se ne aggiunge un altro, quello
del tatto? Toccare il malato, così come comunicare con una stretta di
mano,    una   carezza   o   un   abbraccio,   significa    anche     cogliere
l’epidermide come l’ultimo confine del corpo umano (Grassi 2022:
13–14) e, al contempo, come ciò che ci permette di comunicare con
l’ambiente circostante e di manifestare alcune dense dinamiche rela-
zionali, anche pensando alla solitudine angosciata del malato e al bi-
sogno di contatto fisico, cifra dell’umana compassione.
     Che sia questo un segno distintivo dell’infermiere, del medico e
del chirurgo che tocca, preme, taglia, incide, toglie la parte malata
per restituire la salute al paziente? (vedi la citazione in esergo). E se
queste operazioni vengono svolte da un braccio robotico, e fra qual-


                                                                             331
Paola Ricci-Sindoni, Medicina e robotica




che decennio da un umanoide, come cambia o deve cambiare
l’autopercezione che il medico -divenuto un tecnico altamente specia-
lizzato- ha della sua professione e come muta la sua relazione con il
paziente a fronte di questa diminuzione del contatto fisico e psicologi-
co?
      Inutile precisare che qui non si vuole riproporre con nostalgia la
figura del medico ospedaliero che si trattiene con il malato, entrando
nel suo mondo vitale e assicurando giorno dopo giorno la progressiva
guarigione, né quella del chirurgo che attorniato dai suoi collaboratori
si sporca le mani, si impegna di volta in volta a comprendere i movi-
menti adatti per compiere quei gesti capaci di risanare il corpo ferito
del malato. Occorre in tal senso evitare sia la tecno fobia che il tecno
entusiasmo di quanti vedono affacciarsi una nuova era post umana.
La tentazione di enfatizzare la uncanny valley, per neutralizzare la
paura del futuro e della temuta tecnocrazia deve comunque allentare
l’eccessivo ardore di quanti promettono che uomini e donne andranno
presto a spasso insieme ai loro fedeli amici robot, intelligenti ed em-
patici, perfettamente adattati ai gusti e ai desideri umani. Amici, in-
somma, qualitativamente superiori a quelli di un tempo, con i quali
abbiamo intrattenuto e intratteniamo rapporti inevitabilmente fragili,
mutevoli e rischiosi (Ricci Sindoni 2022).
      Come si vede, quello che c’è in gioco è il grande tema delle rela-
zioni e, al fine di approfondire ulteriormente le domande prima poste,
vorrei proporre due scenari: il primo fa riferimento alla vita dei pa-
zienti anziani o non autosufficienti ricoverati negli ospedali e nelle ca-
se di riposo; il secondo prenderà in esame la sala operatoria, là dove
il medico chirurgo, seduto sulla sua console, diventa la cifra delle mu-
tate condizioni della sua professione.




332
                                              Critical Hermeneutics 6(2), (2022)




2. Dentro una casa di riposo
Entriamo con un esercizio mentale in una casa di riposo giapponese
che è a Tokyo e si chiama Shin – tomi. Alla moderna struttura archi-
tettonica, immersa nel verde, fanno riscontro 20 diversi modelli di ro-
bot che vanno dai piccoli automi di forma animale, come Paro sino ai
più sofisticati agenti artificiali come Pepper e Barthoc. Anche in Giap-
pone cresce in modo esponenziale la presenza di anziani bisognosi di
assistenza, si contano qui più di cinquemila case di riposo; l’idea
giapponese è quella che, di fronte alla carenza del personale infer-
mieristico, sia preferibile costruire un robot piuttosto che importare
da altri Paesi personale “umano”. Gli assistiti, come dimostrano vari
sondaggi, accettano di buon grado queste presenze “altre” e, di fron-
te alla domanda se preferiscano ai robot il personale infermieristico,
rispondono di no: gli agenti artificiali li soddisfano, sono premurosi e
gentili, reagiscono a tono alle loro richieste, li aiutano ad alzarsi, a
prendere le medicine, a lavarsi i denti, a fare ginnastica e, se lo desi-
derano, li accompagnano in giardino a fare una passeggiata. Insom-
ma, rispondono con diligenza al lavoro di cura con precisione e senza
mai evidenziare fretta o impazienza: non sono mai stanchi e obbedi-
scono alle varie richieste; sono dei veri e propri “sostituti”, come
vengono chiamati dai loro costruttori, dimostrando mano a mano che
vengono ottimizzati, una certa dose di autonomia (Duffy 2003).
    Gli anziani, si sa, hanno estremo bisogno di contatti empatici per
neutralizzare le loro paure e la loro solitudine; a Pepper si affianca
Barthoc, che può riconoscere una serie di emozioni dei suoi utenti
(come gioia, timore, aspettativa) mediante l’analisi del linguaggio
parlato, esprime cioè (o meglio rispecchia) attraverso l’espressione
facciale le emozioni che riconosce. Mentre Pepper è impiegato soprat-
tutto come supervisore e animatore degli esercizi di ginnastica, a Bar-
thoc si affianca Kabian che ha le dimensioni di una donna giapponese.




                                                                            333
Paola Ricci-Sindoni, Medicina e robotica




È alta 1,45 metri e riesce ad esprimere sei sentimenti: paura, felicità,
sorpresa, tristezza, rabbia, disgusto (Wagner 2017).
      Quando viene chiesto agli assistiti se si rendono realmente conto
che queste figure animate artificialmente non sono essere umani,
questi rispondono con sicurezza che sono vecchi ma non stupidi ed
insistono per dimostrare la loro preferenza a questi ottimi sostegni
che, oltre ad aiutarli, fanno loro compagnia.
      Lasciamo la casa di riposo Shin – tomi e iniziamo a farci qualche
domanda: questi “esseri” che rendono la vita più gradevole agli an-
ziani, questi “altri” che fanno parte integrante della vita di milioni di
persone malate o non autosufficienti, che le società iperindustrializza-
te “spediscono” in ricoveri a loro estranei, su cosa ci invitano a riflet-
tere? La loro stessa presenza ci rimanda alla necessità di attivare
sempre di più fra gli umani un’etica della condivisione, della vicinan-
za, della gentilezza, dell’accoglienza … Se gli anziani preferiscono
l’artificiale al naturale, può significare come il lavoro di cura svolto
dagli umani risulti talvolta deficitario, insufficiente, privo di empatia,
spersonalizzato e, purtroppo, in alcuni casi fonte di sopraffazione e di
violenza, come non pochi casi di cronaca raccontano.
      Ancora una volta questi “altri” sembrano essere migliori di noi.
Lo aveva indicato, anche con inquietudine, Günther Anders nel suo
L’uomo è antiquato (Anders, 1956) quando, leggendo le fulminanti
intuizioni creative di Norbert Wiener, il padre della cibernetica e di
Alan Turing il programmatore delle prime macchine calcolatrici,
esprimeva la meraviglia e lo stupore degli umani di fronte a creazioni
tecnologiche, capaci di eseguire azioni intelligenti superiori a quelle
compiute dall’uomo. Ma non solo; secondo Anders l’artificiale inquieta
e ci fa sentire inferiori, dal momento che l’uomo è un essere condi-
zionato dal tempo, dai cicli vitali, dai limiti e dalle fragilità che gli ar-
tefatti non hanno. Un modo altro per ridimensionare l’assoluto potere
umano sull’universo, sia quello naturale che quello artificiale, e per


334
                                                  Critical Hermeneutics 6(2), (2022)




abbattere definitivamente la concezione dell’uomo al centro del pia-
neta. L’antropocentrismo, insomma, come forma culturale di quanti
certi del potere assoluto dell’uomo su tutto, si spinge sino alla distru-
zione della natura (Horkheimer 1947); esso è anche pronto a marca-
re il suo territorio nei confronti degli agenti artificiali.
     Va da sé che è sempre l’uomo che programma le macchine e af-
fida loro compiti specifici, ma sarebbe superficiale pensare che la pre-
senza sempre più massiccia di queste figure non muti la nostra pro-
spettiva sul mondo e che, dunque, la relazione con la natura come
quella con gli agenti artificiali, non debba supporre una antropologia
più articolata. Una antropologia che di necessità ha il dovere oggi di
camminare sia nel rispetto della natura, le cui leggi abbiamo irre-
sponsabilmente stravolto, sia nel rispetto di questi “altri” che certo
non sono alieni, ma forme di “vita autonoma” che ci interpellano.
     Di sicuro, lo abbiamo visto nella casa di riposo Shin – tomi, mu-
tano e non di poco le relazioni che questi anziani hanno non solo nei
confronti dei loro interlocutori artificiali, ma anche nei riguardi del
personale umano o dei familiari che ruotano (ahimè sempre troppo
poco) all’interno del loro mondo. Un mondo sempre meno malinconi-
co e solitario, anche grazie alle macchine, capaci di restituire
all’anziano, una più soddisfacente qualità della cura, che ci deve in-
terpellare. Mi si dirà che le macchine non percepiscono davvero i bi-
sogni e i desideri degli anziani, dal momento che sono progettate per
rispondere meccanicamente a certi stimoli come se fossero umani. Ma
gli anziani sanno che non sono umani, al contempo però gradiscono
molto di più questo tipo di cura, perché è qualitativamente diversa da
quella che usualmente ricevono negli ospedali o in famiglia.
     Tutto questo ha degli importanti riflessi sulla vita sociale, visto
che la tecnica diventa anche un punto cruciale di intersezione fra per-
sona e società. Da queste correlazioni, infatti, si creano nuovi ambiti
e differenti modelli, in grado di ridefinire la complessità etica delle re-


                                                                                335
Paola Ricci-Sindoni, Medicina e robotica




lazioni umane anche nell’ordine dei comportamenti e nella ridefinizio-
ne dei valori in campo. In tale prospettiva tutte le forme hard di an-
tropocentrismo sono destinate ad eclissarsi, per far posto ad un in-
treccio di relazioni ancora tutte da ripensare, e che possono generi-
camente essere comprese nel grande capitolo del rapporto fra cultura
personalista e tecnologia (Meola 2020: 18) all’interno del quale
l’etica, intesa come rivalutazione dinamica dei valori e dei principi
morali sembra assumere un ruolo decisivo.
      Dalla visione di Hishiguro (2006) secondo cui umani e umanoidi
condividono gli stessi spazi sociali, agli studi di Young (2019) che in-
travedono sempre meno umani nelle strutture cardine della società,
sino alle proiezioni di Tagmark (2017), in cui le macchine diventeran-
no parte integrante della vita in un intreccio complesso fra algoritmi e
dinamiche sociali, non è inopportuno porsi delle domande che pro-
vengano –occorre ridirlo - non dalla nostra difficoltà a interagire con
le macchine, ma dalla presenza di queste alterità differenti che ci in-
terpellano.
      È questo l’ampio scenario della robotica sociale che, diversamen-
te dalle inquietudini espresse da Anders, non solo possono di molto
migliorare la nostra vita dal momento che sono in grado di svolgere
funzioni e lavori umani al posto nostro, ma anche possono indicare
significative opportunità di migliorare la gestione e la comprensione
morale della nostra vita sociale (Dumouchel - Damiano 2019: 198).
Nasce da qui la necessaria integrazione fra ingegneristica ed etica,
perché sempre più velocemente gli agenti artificiali da un lato riflet-
tono e incorporano i mondi valoriali dei loro costruttori, ma dall’altro
trasformano di fatto i rapporti di forza e di potere all’interno delle
sempre più complesse dinamiche sociali (Datteri 2022).
      Ritorniamo ancora sugli anziani della casa di riposo Shin – tomi,
per cercare di comprendere meglio chi sono questi “altri” che vengo-
no chiamati agenti sociali artificiali “sostituti”, capaci cioè di imple-


336
                                                Critical Hermeneutics 6(2), (2022)




mentare quattro caratteristiche fondamentali: per prima, quella che
viene indicata come coordinazione indefinita, ossia la capacità di in-
terrompere lo svolgimento di un compito in vista di una differente
coordinazione con le necessità degli anziani. Si è trattato della crea-
zione di un robot che “non serve a niente di particolare e può fare
qualsiasi cosa” (Dumouchel – Damiano 2019: 43), come ogni essere
umano. A differenza di tutte le forme di interazione virtuale, in questo
caso – e siamo alla seconda caratteristica – si richiede che il robot fi-
sico ed esistente nel mondo a tre dimensioni svolga il suo lavoro in
presenza, volgendo la sua attenzione alla persona di cui deve avere
cura. Questo dà all’agente artificiale una sorta di “autorità”, ossia la
capacità di suscitare una qualche forma di rispetto (terza caratteristi-
ca) da parte degli altri agenti sociali, in questo caso degli anziani, che
volentieri sembrano accordargli. Ed in ultimo il nodo più complesso, il
carattere cioè dell’autonomia, quella che consentirebbe all’automa di
agire “di testa propria”, mutando entro certi limiti e in maniera plasti-
ca le regole che identificano il suo ruolo nelle interazioni sociali (Millar
2015).
     Parlando di “autonomia” dell’agente artificiale, specie in ordine
alle questioni morali, alla costruzione cioè di artefatti artificiali in gra-
do di comprendere la differenza fra bene e male, va segnalato che
potrebbero non esserci limiti di ordine tecnico, ma certamente di or-
dine etico chiamando in causa la nostra responsabilità morale ed an-
che politica; qui si entra, ad esempio, nelle grandi questioni legate
alla costruzione di robot militari, ai quali si demanda l’azione di ucci-
dere al posto nostro. Questi temi non rientrano nel nostro caso, ma
sono in grado di arricchire l’idea di “autonomia” dei robot nel lavoro di
cura, al di là e oltre il futuro prossimo o remoto degli sviluppi tecno-
logici. Possiamo perciò ritrovarci nell’idea, forse approssimativa, che
un agente artificiale è autonomo nella misura in cui è costruito per




                                                                              337
Paola Ricci-Sindoni, Medicina e robotica




essere pienamente capace di svolgere funzioni e lavori umani al posto
nostro.
      Si aprono ora nuove domande: il personale infermieristico come
vive questo “sorpasso”? È solo una questione legata alla temuta mar-
ginalizzazione di questa professione anche in ordine alla diminuzione
dei posti di lavoro, oppure c’è dell’altro? Forse occorre ridisegnare
questa fisionomia professionale che tenga conto almeno di due inter-
rogativi. Il primo: la presenza robotica potrebbe deresponsabilizzare
l’impegno umano, dal momento che molte attività, prima di sua com-
petenza, vengono delegate a questi “altri”? Ed ancora: nella pratica
clinica non si potrebbe continuare a considerare questi altri solo come
strumenti nelle proprie mani, come semplice risorsa da sfruttare, in-
vece di cercare qualche modalità nuova di rapportarsi ad essi? Oppu-
re: la convinzione di non avere semplicemente in mano degli stru-
menti, regolati a piacimento dagli umani, non dovrebbe condurre ad
una diversa considerazione meno strettamente funzionale e in grado
di suscitare una più articolata deontologia della propria professione?
      Ancora una volta si riapre la possibilità della creazione di una
nuova triade relazionale che veda l’anziano (o il malato), il robot e
l’infermiere dentro un circuito virtuoso di correlazioni che si intreccia-
no e si potenziano a vicenda. Insomma, un’etica relazionale di tipo
circolare, ma che veda un nucleo generatore negli obiettivi e nei valo-
ri indicati dall’uomo. Superato il tradizionale antropo – centrismo, po-
trebbe insinuarsi una nuova prospettiva, riassunta in una felice
espressione, utilizzata da alcuni robotici e che si chiama: Human in
the loop, l’umano nello snodo, nel crocevia delle relazioni, nel punto,
sempre dinamico e mobile, di un movimento che non può girare su se
stesso, ma che preveda che sia sempre l’uomo a prendere l’ultima
decisione. L’uomo in the loop, ma anche “at the end of the loop”
(Giannini et al. 2022: 36).




338
                                               Critical Hermeneutics 6(2), (2022)




    Credo che questo paradigma possa essere strategico anche in
molti ambiti della medicina robotica, in particolare in sala operatoria.


3. Dentro una sala operatoria
Dalla casa di riposo alle corsie di ospedale sino alla sala operatoria.
Anche in questo ambiente la robotica è entrata, specie in questo ulti-
mo decennio, con autorevolezza e con la forza della sua carica inno-
vativa, portando la medicina all’interno di una rivoluzione straordina-
ria. Non mi soffermo sugli aspetti tecnici dei vari robot, fra tutto il più
noto e continuamente perfezionato robot a quattro braccia Da Vinci,
controllato dal chirurgo da una console all’interno della quale ha un
display 3D ad alta risoluzione con la possibilità di ingrandire fino a
dieci volte la parte da operare. Bastano questi pochi dati per sottoli-
neare il grande vantaggio per il paziente e per la sua più rapida gua-
rigione, con una minore perdita di sangue e con risultati che sembra-
no statisticamente migliorati grazie ad una maggiore precisione.
    Di particolare interesse mi pare possano essere i gradi dei robot
chirurgici ad autonomia crescente (come vengono chiamati), al fine di
valutare l’impatto che tali strumenti sofisticati hanno sul medico e
sulla sua fisionomia professionale. Si parla al riguardo (Yang 2017) di
sei livelli di autonomia, in funzione dei compiti che tali robot già svol-
gono o potranno svolgere in autonomia dall’essere umano. Al livello
più basso sono quelli che si limitano ad eseguire i comandi
dell’operatore chirurgo, mentre a quello successivo ci sono quelli che
possono condizionare o correggere l’azione del medico. Al terzo livello
si trovano invece i sistemi robotici che eseguono in autonomia una
procedura intraoperatoria prescelta dal chirurgo, al quarto i robot che
generano opzioni operatorie da sottoporre all’approvazione del medi-
co. Gli ultimi due livelli riguardano invece gli sviluppi futuri, ancora
non prevedibili, ma tecnologicamente possibili: sono i robot chirurgici
che in piena autonomia potranno effettuare per intero un intervento


                                                                             339
Paola Ricci-Sindoni, Medicina e robotica




chirurgico sia agendo sotto la supervisione del medico, sia in sua as-
senza (Tamburrini 2020: 134).
      Detto questo, e visto il margine essenziale ma residuale di ope-
ratività da parte del chirurgo, ci si può chiedere se e in quale misura
questa rivoluzione tecnologica ridefinisca la sua professionalità, chia-
mata da un lato ad aumentare il suo bagaglio tecnologico, dall’altro a
rivedere la sua fisionomia deontologica, segnatamente centrata sulla
relazione con il malato e che certo non può esaurirsi soltanto in
un’etica dei doveri (deontologia) o nell’etica delle conseguenze di tipo
utilitaristico.
      Vale la pena, credo, in questa prospettiva, individuare alcune li-
nee di approfondimento, qui rapidamente sintetizzate:
      1. Come ridefinire la professione del medico e del chirurgo in
      particolare alla luce dell’alterità della macchina robotica, provvi-
      sta delle qualità sensoriali della vista e dell’udito, scardinando la
      tradizionale relazione fra medico e paziente?
      2. A fronte di una progressiva oggettivazione del corpo del mala-
      to, come ritrovare una sintesi fra scienza e tecnologia unite
      all’esperienza clinica e all’identità personale del medico (la medi-
      cina come “arte”)?
      3. Come riqualificare le capacità relazionali e comunicative della
      coppia medico-paziente, tenendo conto di questo “altro” presen-
      te, efficiente, mai stanco, sempre obbediente, sempre più auto-
      nomo, e comunque, almeno sino ad ora, non totalmente supple-
      tivo dell’intero compito della pratica medica? Quest’ultima, come
      è ovvio, non si esaurisce nel momento chirurgico, ma prevede un
      tempo anteriore di preparazione ed un altro seguente, relativo
      all’intero procedimento clinico.
      4. In che modo rivedere il circuito virtuoso fra saper essere del
      medico (la sua dimensione personale e le sue capacità relaziona-
      li) e saper fare (nell’incontro fra competenza scientifica e manua-


340
                                               Critical Hermeneutics 6(2), (2022)




    lità tecnica)? Insomma, si è di fronte non solo al campo allargato
    della responsabilità deontologica, ma anche alla necessità di im-
    maginare una relazione a più voci, di cui il medico porta l’onere e
    il peso. Anche qui vale il paradigma “Human in the loop”.
    5. Come evitare il rischio che il medico diventi un tecnico, anche
    tenendo     presente    la   struttura    burocratico-amministrativa
    dell’organizzazione sanitaria?
    6. Quali possibili indicazioni e procedimenti didattici sono neces-
    sari per la formazione dei futuri professionisti della salute (medici
    e infermieri) riguardo alla possibilità e ai limiti dell’interazione tra
    personale umano e robot?


    In conclusione, alle tante domande, sempre necessarie al fine di
non soggiacere passivamente al potere delle facili risposte in merito
al senso dello sviluppo tecnologico, non devono e non possono segui-
re soluzioni certe e preconfezionate, quanto piuttosto l’esigenza della
formazione dello spirito critico e aperto. A quanti denunciano, come
Jacques Ellul (Ellul 2010), come l’ideologia pervasiva della tecnica vi-
sta come panacea di tutti i problemi individuali e sociali finisca per
rendere sempre più incerto e difficile il controllo umano sulle macchi-
ne, si può rispondere che ogni rivoluzione industriale e tecnologica ha
avuto nel tempo i suoi momenti esaltanti ed anche le sue problemati-
cità, che vale la pena affrontare senza preconcetti.
    Ci deve sorreggere l’impegno per comprendere bene su cosa
l’uomo possa apprendere dalle macchine e come possa convivere con
esse, cercando di allargare le sfere delle nostre relazioni e l’orizzonte
di senso che si situa sempre altrove. Un modo differente per ridire
con altre parole il nostro compito di fronte alla scienza; nel XII secolo
Bernardo da Chiaravalle, commentando il Cantico dei cantici di Salo-
mone, distingueva gli uomini della scienza in tre gruppi: «Vi sono
quelli che si dedicano alla scienza per venderla, per ricavare danaro e


                                                                             341
Paola Ricci-Sindoni, Medicina e robotica




onori: e questo è un turpe mestiere. Poi vi sono quelli che con la
scienza costruiscono il bene per gli altri; ed è la carità. Ed infine colo-
ro che desiderano sapere per costruire se stessi; e questa è la vera
saggezza» (Bernardo di Chiaravalle 1999).


Bibiliografia
Anders, G. (1956). L’uomo è antiquato, vol I: Considerazioni
sull’anima nell’epoca della rivoluzione industriale. Torino: Bollati Bo-
ringhieri, 2007.
Bernardo di Chiaravalle (1999). Sermoni sul Cantico dei cantici. Casa-
le Monferrato: Piemme.
Brey P. et al (2014). From Moral Agents to Moral Factors: The Struc-
tural Ethics Approach. In P. Kroes, P.-P. Verbeek (a cura di), The Moral
Status of Technical Artefacts. Dordrecht: Springer, 125–147.
Datteri E. (2022). Robotica e filosofia della scienza. S&F 27: 197–
216.
Duffy, B.R. (2003). Anthropomorphism and the social robot. Robotics
and Autonomous System, 42: 177–190.
Dumouchel P., Damiano L. (2019). Vivere con i robot. Saggio
sull’empatia artificiale. Milano: Raffaello Cortina Editore.
Ellul J. (2010). Le bluff technologique. Paris: Fayard.
Floridi L., Sanders J.W., (2004). On the Morality of Artificial Agents.
Mind and Machine 14(3): 349–379.
Ficuciello F. et al. (2019). Autonomy in Surgical Robots and Its Mean-
ingful Human Control. Paladyn Journal of Behavioral Robotics, 10:
30–43.
Frey C., Osborne, M. A. (2013). The Future of Employment: How Sus-
ceptible Are Jobs to Computerization? Working Paper, September 17.
Oxford: Oxford Martin School.
Galimberti U. (2008). Psiche e techne. L’uomo nell’età della tecnica.
Milano: Feltrinelli.


342
                                                Critical Hermeneutics 6(2), (2022)




Giannini G. el al. (2022). AI e futuro di Sapiens tra nuovi orizzonti e
antichi timori. S&F 27: 28–42.
Grassi E. (2020). Etica e intelligenza artificiale. Questioni aperte. Ro-
ma: Aracne.
Grassi E. (2022). Di automi e persone. S&F 27: 12–27.
Horkheimer M. (1947). L’eclisse della ragione. Critica della ragione
strumentale. Torino: Einaudi, 2000.
Ishiguro H. et al. (2016). Android Science. In AA.VV., Cognitive Neu-
roscience Robotics. Tokyo: Springer, 193–234.
Mac Dorman, K.F. et al (2006). The uncanny advantage of using an-
droids in cognitive and social science research. Interaction Studies,
7(3): 297–337.
Meola L. (2020). Niente di personale? Tensione e mediazione della
personalizzazione in medicina. S&F 27: 257–267.
Millar J., (2015). Technology as Moral Proxy: Autonomy ad Paternal-
ism by Design. IEEE Technology and Society Magazine 34(2): 47–55.
Mori H. (1970). Bukimi no tani (“The uncanny valley”). Energy 7(4):
33–35.
Pettit Ph. (1993). Consequentialism. Aldershot: Dartmouth.
Schirrmacher F. (2010). La libertà ritrovata. Come (continuare a)
pensare nell’era digitale. Torino: Codice.
Ricci Sindoni P. (2022). Come ordinare il caos. Piccola introduzione
alla filosofia morale. Filosofia morale/Moral Philosophy, 1: 189–201.
Rose C. (2008). La politica della vita. Biomedicina, potere e soggetti-
vità nel XXI secolo. Torino: Einaudi.
Shademan A. et al. (2006). Supervised Autonomous Robotic Soft Tis-
sue Surgery. Science Translational Medicine 8(337): 337–364.
Slote M., Pettit Ph. (1984). Satisfying Consequentialism. Proceedings
of the Aristotelian Society 58: 139–163.
Tamburini G. (2020). Etica delle macchine. Dilemmi morali per roboti-
ca e intelligenza artificiale. Roma: Carocci.


                                                                              343
Paola Ricci-Sindoni, Medicina e robotica




Tegmark M. (2018). Vita 3.0. Essere umani nell'era dell'intelligenza
artificiale. Milano: RaffaelloCortina.
Verbeek P. (2005). What things Do: Philosophical Reflections on
Technology, Agency, and Design. University Park, Pennsylvania: The
Pennsylvania State University Press.
Wagner A. (2017). The advent of intelligent robots and their role in
society,     https://www.aero.psu.edu/news-archive/2017/wagner-alan-
robot-ethics-course.aspx (ultimo accesso: 15 ottobre 2022).
Wallach W., Allen C. (2009). Moral Machines: Teaching Robots Right
from Wrong. New York: Oxford University Press.
Yang G. et al. (2017). Medical Robotics: Regulatory, Ethical and Legal
Considerations for Increasing Levels of Autonomy. Science Robotics
2(4): 1–12.
Young L. (2019). Machine Landscapes. Architecture of the Post-
Anthropocene. Hoboken: Wiley.




344
