Robot ed etica, a che punto siamo?

Robot ed etica

Robot ed etica, a che punto siamo? Fiorella Operto, ricercatrice, divulgatrice e co-fondatrice della Scuola italiana di robotica, analizza le implicazioni di una robotica etica basata sull’empatia, tra umanizzazione delle macchine e progresso dell’uomo.

Poco più di un anno fa, nel gennaio del 2021, la notizia dell’esperimento dell’ingegnere robotico Hod Lipson e del suo team della Columbia University circolava con quel consueto sensazionalismo che ha portato stampa e lettori a gridare al miracolo della “prima scintilla di empatia nei robot”. Una conclusione, questa, per certi versi fuorviante, oltre che riduttiva rispetto ai reali obiettivi della ricerca.

Lo scorso ottobre, invece, Elon Musk ha presentato al pubblico del Tesla AI Day 2022 (Palo Alto, California) quel miracolo che promette da più di un anno, il robot umanoide Optimus. Che poi Optimus abbia semplicemente salutato in modo impacciato e macchinoso gli astanti, mentre l’imprenditore parlava di “trasformazione fondamentale della civiltà”, è un altro discorso e meriterebbe uno spazio a parte. Il “ragazzo” si farà, o almeno così promettono dalla Tesla.

Per quanto riguarda il primo punto, l’esperimento di Lipson, i risultati pubblicati su Scientific Reports spiegano che lo scopo dei ricercatori era sperimentare nei robot il behavior modeling, una componente della Teoria dell’apprendimento sociale secondo cui è possibile apprendere osservando il comportamento di un altro individuo e prescindendo dall’esperienza diretta; dato un individuo che ha la funzione di modello, un secondo agente osservatore è in grado di prevedere e imitare le azioni del primo basandosi sul processo visivo. Un’abilità simile potrebbe consentire ai robot di agire in maniera più “empatica” e di coordinare le proprie azioni con quelle di altri agenti.

Quella che è stata definita “empatia” è, in verità, soltanto una forma primordiale di Teoria della mente. I risultati dell’esperimento riuscito nel 98% dei casi – risultati che non pretendiamo qui di approfondire –  sembrano confermare che essa può essere acquisita, in un primo momento, attraverso input visivi, prima ancora di apprendere facoltà più articolate per cogliere lo stato mentale degli altri. Lo scopo? Di certo, capire se questa facoltà di prevedere e imitare azioni di altri soggetti può essere indotta attraverso la semplice osservazione è importante per risalire alla sua origine nell’uomo. Più che creare una versione avanzata di se stesso, quindi, l’uomo sta cercando di conoscersi meglio.

Anche la nuova creatura Tesla da 20mila dollari sembra essere nata con le migliori intenzioni. Non un traguardo personale e della tecnologia, ma la promessa di «un futuro di abbondanza, dove non c’è povertà e le persone possono avere qualunque cosa desiderino in termini di prodotti e servizi».

Ma simili tentativi di umanizzare le macchine artificiali sollevano sempre contestazioni di tipo etico e filosofico. È etico dotare i robot di abilità che consentano loro di prevedere le azioni degli uomini? E se la loro crescente complessità fosse usata contro di noi? E poi, robot ed etica in che senso? Ma soprattutto, etico secondo chi?

Quale etica per i robot?

«Rischi simili, come quello della profilazione dell’uomo, non nascono con i robot. Profilare un essere umano partendo da alcune informazioni basilari, come la lingua, la religione o l’età, è molto semplice, è ormai competenza di qualsiasi forma di intelligenza artificiale. E a ben vedere, in ogni epoca le campagne pubblicitarie e la propaganda hanno fatto leva sulla prevedibilità degli esseri umani.

Purtroppo l’uomo è facilmente prevedibile. Fatta eccezione per poche e rare menti laterali, noi tendiamo a seguire delle correnti dominanti», fa notare Fiorella Operto, co-fondatrice – con Gianmarco Veruggio – e ora vicepresidente della Scuola di Robotica italiana. A lei – oltre che a Veruggio – si deve l’elaborazione e la promozione in Italia della Robo-etica, disciplina ibrida che orienta eticamente la progettazione, il disegno e l’uso dei robot.

«Cosa stanno cercando di fare i robotici?», spiega, «Il fine è indurre i robot, attraverso il machine learning, a imparare mediante un apprendimento artificiale piuttosto che svolgere solo azioni previste da un codice di programmazione. Si tratta di una forma di apprendimento automatico reso possibile da una sofisticata architettura di controllo e dall’Intelligenza Artificiale inserita nel robot.

Nel caso di questo esperimento, l’abilità di cui si vuole dotare i robot è quella di comprendere lo stato mentale del robot agente, partendo dall’input visivo, in modo da adattarsi eventualmente all’umano con cui si trovano ad interagire.

In questo senso si può parlare di empatia. Ma è davvero questa la definizione corretta? Parlare di intelligenza ed empatia per i robot, in realtà, non è corretto, perché equivale a porre sullo stesso piano la dimensione umana e quella robotica».

E in effetti, davvero riusciamo ad immaginare un robot en pathos altrui? Purtroppo, ancora una volta, dobbiamo fare i conti con la tendenza dell’uomo ad antropocentrizzare e ad antropomorfizzare ogni cosa.

I benefici dell’empatia nei robot

 

Ciò non toglie, però, che fare in modo che le macchine giungano ad una forma, seppur limitata, di empatia avrebbe i suoi benefici. Sarebbe, ad esempio, eticamente importante in tutte quelle situazioni in cui ai robot è richiesta un’interazione sociale più complessa, che tenga conto dello stato mentale o delle emozioni degli interlocutori. Si pensi ai robot sociali, che interagiscono direttamente con gli esseri umani o con agenti autonomi. La loro utilità non è in discussione, ma è indispensabile – in questi casi, ancora più che in altri – fare attenzione agli aspetti etici e culturali della loro programmazione.

«Un importante progresso della robotica, ad esempio» commenta la dottoressa Operto «è stato quello di progettare robot in grado di modulare il proprio comportamento in relazione al paradigma culturale delle persone con cui entra in contatto. Una forma di “empatia” è fondamentale in questo caso. Penso ai robot progettati per assistere gli anziani, i pazienti o le persone con disabilità, o anche semplicemente ai robot di compagnia. In tutti questi casi l’automa deve comportarsi in modo consapevole e adeguato, mantenendo un tono di voce consono ed evitando movimenti bruschi che potrebbero spaventare gli assistiti».

Ci sono già esempi pratici in circolazione. È il caso del robot umanoide Pepper del progetto Caresses, dotato di un’intelligenza artificiale con competenza culturale in grado di assistere gli anziani adeguando azioni e linguaggio alla persona assistita. Come ha spiegato Antonio Sgorbissa, responsabile del progetto, un robot culturalmente competente consentirebbe un rapporto più empatico con il paziente, garantendo il successo delle pratiche di assistenza.

Ma è il caso anche del robot Nao, programmato dalla stessa Scuola di Robotica, per offrire sostegno ai malati di Alzheimer ospiti della struttura “Il paese ritrovato” di Monza. «Il paese ritrovato è un villaggio in cui i ospiti affetti da Alzheimer possono vivere una semi-normalità, avendo a disposizione i servizi e le attività di una città nel rispetto delle loro esigenze. E Nao si occuperà soprattutto di allenare la memoria dei pazienti, attraverso attività ludiche e laboratoriali. Ovviamente dovrà essere dotato di una serie di accortezze per interagire con persone affette da Alzheimer, come la fluidità dei movimenti e un aspetto fisico che metta a proprio agio gli assistiti», spiega la Operto. «Non è sufficiente, infatti, che un robot abbia la facoltà cognitiva di mettersi nei panni di un altro agente, umano o robotico che sia, per risultare empatico. Gran parte della sua empatia deriva dalla sua fisicità. Questo è un fattore aggiunto rispetto alla semplice intelligenza artificiale, spesso sottovalutato».

Si potrebbe continuare ad obiettare che non c’è motivo di impiegare dei robot in mansioni fino ad ora svolte da esseri umani; proprio la pandemia, però – che ancora pende come una spada di Damocle sulle nostre teste – dovrebbe farci riflettere. Se avessimo disposto di robot tanto complessi da occuparsi delle pulizie nelle stanze d’ospedale dei malati Covid o da fornire loro assistenza, a quanti meno rischi i medici sarebbero stati esposti?

Si potrebbe continuare ad obiettare anche che così rischiamo di mettere da parte, senza troppe cerimonie, il contatto umano cui siamo tanto affezionati. Non sarà forse il caso di pensare che l’impiego di macchine artificiali per compiti meccanici e rischiosi permetterebbe a noi umani di risparmiare le energie per attività che richiedono tutta la creatività, la sensibilità e l’intelligenza di cui siamo capaci?

Robot ed etica, Operto: «Lavorare sulla nostra etica, per lavorare meglio sull’etica dei robot»

«Quando mi chiedono che cosa continuerà a distinguere un robot da un essere umano, nel caso in cui la distanza tra umani e robot continuasse a ridursi, io dico che la domanda in sé è paradossale. E rispondo con le parole dell’esperto di tecno-etica José Maria Galvan a riguardo: se un robot avesse tutte le capacità e gli organi di un essere umano, sarebbe un essere umano! Abbiamo così tante cose da fare, da studiare, da scoprire; anche qualora i robot dovessero restare otto ore in fabbrica al posto nostro, avremmo miliardi di possibilità e opportunità. Magari ci sarebbero più persone istruite, più talenti coltivati, meno rischi sul lavoro. E poi», continua Fiorella Operto, «è anche merito del progresso tecnologico se l’umanità ha fatto passi avanti, perché la ricerca ci consente di conoscere meglio noi stessi e il nostro Pianeta. Ora abbiamo una sensibilità diversa nei confronti dell’ecosistema rispetto a qualche anno fa. Ora, almeno sulla carta, molti diritti sono tutelati, molti reati hanno un nome. Paradossalmente la nostra umanità potrebbe addirittura aumentare».

Forse è in questo senso che gli esperimenti finalizzati a umanizzare i robot, sia concessa l’espressione per questa volta, potrebbero rivelarsi eticamente corretti. Forse tutte le sfide che ci spingono a immaginare qualcosa che sia al di là della nostra esperienza quotidiana – robotica, intelligenza artificiale, missioni spaziali – ci portano più in là anche come esseri umani.

Le domande, ovviamente, sono ancora troppe, come conferma Fiorella Operto. «La roboetica è ancora imperfetta. È una strada impegnativa. Se il fine è quello di individuare benefici e rischi dell’intelligenza artificiale, dobbiamo prima di tutto definire “bene” e “male”. Bene e male per chi? Il primo passo è stato scegliere un’etica, perché ci sono tante teorie etiche, e tanti approcci culturali. E allora abbiamo optato per un’etica universale e universalmente accettata, ispirandoci a quella del filosofo John Rawls; è un’etica diversa dall’utilitarismo ed è incentrata sul concetto di giustizia distributiva.

Abbiamo cercato di applicare nella Roboetica principi della Dichiarazione universale dei diritti umani ed esteso il concetto di bene e male anche al nostro Pianeta. Ci sono ancora molti dilemmi da risolvere. Io mi chiedo, per esempio, come la mettiamo con la privacy? E con la responsabilità in caso di malfunzionamento o infrazione di una norma? Quanto devono somigliare a un umano nell’aspetto?

Però una cosa è certa. I bias che vengono installati nei sistemi delle macchine derivano sempre da noi umani. Ecco perché per progettare e realizzare un robot etico è necessario che tutte le fasi, dalla più semplice alla più complessa, rispettino norme precise. Ingegneri, programmatori, informatici devono essere pienamente consapevoli delle conseguenze di ciascuna scelta; per questo motivo inserirei dei corsi di Etica applicata nelle facoltà di Ingegneria. Prima di lavorare sull’etica dei robot, dobbiamo lavorare sulla nostra etica, trovare un compromesso universale al di là di ogni differenza. La ricerca, in questo senso, è uno stimolo a migliorarci».

Lavorare sulla nostra etica, per lavorare meglio sull’etica delle macchine: questa è la posizione della robo-etica, questo – ad ora – il suo obiettivo. E, in effetti, si può pretendere di costruire dei robot esenti da bias etici che l’umano, invece, ancora ha in sé? Forse equivarrebbe a raccontarsi una grande bugia. Forse finché l’uomo non avrà fatto i conti con il suo bel fardello di pregiudizi, come le discriminazioni di razza, di genere, di religione, continuerà a proiettare i suoi limiti su qualsiasi sua creazione, nobile o meno che sia.

Forse è vero che la robotica e la roboetica possono aiutarci a crescere. In tutti i sensi.

Fonte immagine: Pixabay

 

A proposito di Martina Santamaria

Laureata in Filologia, letterature e storia dell’antichità, ho la testa piena di film anni ’90, di fotografie e di libri usati. Ho conseguito un Master in Giornalismo ed editoria e svolto uno stage all’Espresso per imparare a raccontare tutto questo nel miglior modo possibile. Insegno italiano, latino e greco, scrivo quando ne ho bisogno e intervisto persone. Vivere mille vite possibili attraverso gli altri è la cosa che mi riesce meglio, perché mi solleva dalla pesantezza delle scelte.

Vedi tutti gli articoli di Martina Santamaria

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *