A colloquio con Maria Chiara Carrozza, bioingegnere industriale
e direttore della Scuola superiore di studi universitari e di perfezionamento Sant'Anna di Pisa

Tranquilli
il robot non si ribella


di Giulia Galeotti

Mentre, scesa dal treno, cammino verso la Scuola Superiore di studi universitari e di perfezionamento Sant'Anna di Pisa, mi sento un po' come il giornalista trentaduenne creato da Asimov che si reca a intervistare la massima autorità in materia, la dottoressa Susan Calvin. Anch'io, confusa da una letteratura e una cinematografia in gran parte catastrofiste e il sensazionalismo della stampa, cammino nel caldo di Pisa alla ricerca di qualche chiarimento. Le analogie con Asimov, però, finiscono qui. Tanto Susan Calvin era caratterialmente gelida e scostante, quanto Maria Chiara Carrozza, docente di Bioingegneria industriale al Sant'Anna, nonché direttore dello stesso istituto, è gentile, accogliente, giovane. A 43 anni si può già essere uno scienziato conosciuto a livello mondiale, nonché vertice di uno dei centri di eccellenza universitari più noti al mondo.
La passione che Maria Chiara Carrozza ha nutrito sin da piccola per le scoperte scientifiche l'ha condotta prima alla laurea in fisica, poi, vinti diversi dottorati, a scegliere quello in ingegneria del Sant'Anna. Maturato un forte interesse per la ricerca e per le sue applicazioni pratiche, Carrozza decise di perfezionarsi in quello che le sembrava il settore più nuovo, concreto e affascinante, "la microingegneria, lo sviluppo di tecnologie per la microrobotica era un'area nuova in cui nessuno ancora si era cimentato".

L'idea di persone artificiali è antica. Pensiamo alla leggenda di Cadmo, che seppellì denti di drago poi trasformatisi in soldati, o ai servi meccanici creati dal dio Vulcano. Oggi cos'è un robot?

Un robot è una macchina intelligente che ha capacità di movimento e di adattamento all'ambiente. Svolge compiti che vanno al di là della pura analisi ed elaborazione dell'informazione - come può essere un sistema intelligente che riproduce musica - e che per svolgerli ha capacità di adattamento e di comprensione dell'ambiente. Il robot è uno strumento che di solito produce anche una forza:  il concetto da cui è nato è proprio quello di "servo" nel senso positivo del termine, ovvero di una macchina in grado di svolgere compiti difficili e faticosi al posto di un uomo.

Il robot ha anche la capacità di affrontare gli imprevisti?

Sì, certamente. Di solito quando si parla di macchina s'intende un sistema che svolge il suo compito in un posto preciso. Il robot, invece, può spostarsi, quindi nello svolgere i suoi compiti ha e deve avere la capacità di adattare le proprie funzioni all'ambiente che si modifica.

Il primo progetto documentato di robot umanoide è quello di Leonardo da Vinci, databile attorno al 1495. I suoi appunti contengono disegni dettagliati per la realizzazione di un cavaliere meccanico. Vi è qualcosa di valido in quegli appunti?

Leonardo, probabilmente il più grande scienziato di tutti i tempi, viene spesso preso ad esempio da chi si occupa di robotica:  è stato infatti un grande anticipatore. Ha studiato sia la natura (e l'uomo) sia le macchine riuscendo a coniugare i due aspetti e a trasferire le conoscenze da un ambito all'altro. La robotica è la conseguenza, l'evoluzione di questo approccio. Leonardo da Vinci ha anticipato il tentativo della robotica di utilizzare le macchine per sostituire e per potenziare l'uomo.

Quali sono oggi le applicazioni della robotica?

Innanzitutto vi è la robotica industriale. Non si può pensare a una qualsiasi linea di monteggio senza considerare l'ausilio della robotica:  la produzione di massa si regge sulla possibilità di avere tecnologie di questo tipo. Poi vi è il robot di servizio, un'evoluzione di quello industriale, che svolge le sue funzioni in un ambiente vicino a quello umano, come può essere, ad esempio, la sala operatoria. I robot medici sono ausili, sono bracci manipolatori con più o meno gradi di autonomia, d'intelligenza, di evoluzione e di avanzamento della tecnologia.

Ma in sala operatoria il robot aiuta o sostituisce il medico?

Il robot aiuta il medico in quelle operazioni in cui è necessario un intervento particolarmente accurato e ripetitivo o laddove occorre sostenere movimenti di particolare fatica o, al contrario, quando si devono compiere movimenti microscopici. Insomma, il robot è un assistente che aumenta le capacità sensoriali e di manipolazione del medico, del chirurgo o del terapista che sia, ma non è mai un suo  sostituto. Probabilmente, questi tipi di robot di servizio arriveranno anche nelle nostre case:  il salto successivo sarà infatti quello di avere il robot-compagno, il robot che sta vicino a noi e che ci assiste nelle attività di vita quotidiana.

Nel 1942 Asimov enunciò per la prima volta le tre leggi della robotica:  un robot non può arrecare danno a un essere umano - o, per inazione, non può permettere che un essere umano subisca danno - deve eseguire gli ordini che riceve dagli esseri umani, ma non quando tali ordini interferiscano con la prima legge, deve proteggere se stesso, ma in modo che questo non interferisca con la prima o la seconda legge. Si tratta solo di letteratura?

Asimov è stato un grande anticipatore, ha dei meriti enormi per la robotica. Forse il fascino della robotica sta anche in questo:  al contrario di altre scienze, infatti, la finzione non è così lontana dalla realtà. Più che leggi, però, io le chiamerei "proprietà" del robot. Proprietà ancora desiderate, nel senso che alla base della possibilità di avere robot che convivano con gli umani in un ambiente domestico bisogna essere certi che questo non causi danni; se lo facesse, andrebbe contro il motivo stesso per cui è stato creato, che è quello di aiutare. Purtroppo la proprietà di non fare male agli esseri umani - e di non fare male agli altri robot - è una proprietà molto, molto difficile da ottenere, perché le condizioni di sicurezza, di prescindibilità con sistemi così diversi l'uno dall'altro, così legati alle singole progettazioni, sono estremamente difficili da anticipare. Non che il robot si ribelli, ma, ad esempio, per un sensore che non funziona o per un difetto del controllo, il robot può causare nel movimento fisico danni a un essere umano.

È possibile fare una distinzione tra il robot autonomo e il robot che si integra con il corpo umano, per esempio svolgendo le funzioni di un arto?

Una cosa è il robot cosiddetto cognitivo, autonomo, che sviluppa la propria intelligenza e svolge dei compiti - sia pure sotto il controllo di un essere umano o di un altro robot - in qualche maniera decidendo, pianificando il proprio movimento e le proprie azioni, altro il robot che è invece totalmente teleoperato, o che addirittura sostituisce una parte del corpo umano. Quest'ultimo non ha una parte cognitiva, ma ha invece una parte di intelligenza asservita alla funzione che deve svolgere. Per esempio, la mano artificiale deve svolgere certe funzionalità, e per farlo viene impiantata nel corpo umano:  è lì che c'è il rapporto con l'intenzione di chi la indossa.

Immagino che la robotica che si integra con il corpo umano ponga una serie di problemi specifici. In questo caso è necessario anche un impegno a livello psicologico per far accettare l'arto al soggetto che lo riceve?

Questo è oggettivamente un passaggio importante. Direi però che non siamo ancora in questa fase. Perché un arto che abbia funzionalità avanzate - come ad esempio una mano che possa sentire e manipolare - non l'abbiamo ancora. Abbiamo dei prototipi, e per poter sperimentare questi prototipi abbiamo bisogno di impiantarli in soggetti umani. Quindi il lavoro che dobbiamo fare adesso è proprio quello di spiegare, di far partecipare al progetto di ricerca i soggetti amputati su cui facciamo la sperimentazione. Ma serve ancora tempo:  non avremo la mano domani, e neanche dopodomani. Anche se i progressi in questo campo sono stati molti negli ultimi anni, attualmente si punta più a un lavoro di coinvolgimento del soggetto che deve provare la protesi. È una scelta coraggiosa:  si tratta di sperimentare tecnologie ancora limitate ma che possono contribuire a notevoli progressi per il bene comune.

Sembra che i benefici offerti dalla robotica siano a questo punto ben chiari. Quali sono invece oggi i suoi rischi?

Sono esattamente il contrario di quelli che comunemente si prospettano, come il pericolo del robot ribelle. Il rischio tecnologico è che la robotica non evolva perché non riusciamo ad avere batterie abbastanza resistenti e potenti, perché non riusciamo ad avere motori simili al muscolo umano, o sensori microscopici analoghi ai sensori che abbiamo negli esseri viventi. La robotica si evolve lentamente perché la componentistica non ci consente di raggiungere prestazioni adeguate a quelle che dovremmo avere in un essere vivente. Quindi il rischio principale è che la comunità scientifica non riesca a realizzare robot sufficientemente autonomi, sicuri e intelligenti perché non disponiamo delle tecnologie adeguate per farlo. Non v'è invece alcun rischio che il robot si ribelli. Per quanto si riesca a realizzare macchine che appaiono mirabolanti, dobbiamo considerare che si tratta sempre di prestazioni in contesti molto misurati e ben definiti. Siamo ancora ben lontani dall'avere un robot umanoide che esce per strada, sale le scale e ci stringe la mano. Magari ci fossero! Chiaramente, però, è giusto avere sensibilità etica, nel senso che chi progetta questi sistemi - soprattutto quelli che si rapportano con il cervello umano - deve arrivare a rispettare certe regole, e progettare sistemi che potenzino le abilità umane, fatti non per danneggiare gli altri ma per colmare lacune, disabilità e limiti, contribuire al bene comune.

Però la robotica bellica, alquanto sviluppata, pone una serie di gravi problemi.

Certamente. La robotica bellica lavora per avere il soldato robot, per mettere a punto sistemi che sostituiscano il soldato umano. Sono però sistemi che, se risparmiano la vita del soggetto-soldato, causano comunque la morte di altri. Come scelta personale ho deciso di non occuparmi mai di armi:  lavoro nell'ambito della robotica biomedica, non ho collaborazioni in campo bellico. Altri lo fanno perché credono così di fare una cosa giusta per il loro Paese, o per la pace nel mondo. Non contesto la loro scelta, anche se penso che se ne debba parlare.

Lei ha detto che i robot creati con sembianze molto, troppo umane, arrivano a porre dei seri problemi di accettazione in chi si relaziona con loro.

Alcune delle tendenze nello sviluppo di robot umanoidi sono quelle di sviluppare non tanto robot intelligenti o prestanti, che mirino solo ad assistere un malato, far camminare o sollevare una persona:  sono invece robot umanoidi che tentano di imitare i gesti, i movimenti, il modo di parlare, le espressioni, le emozioni. Questi manichini che si muovono - utilizzati ad esempio nel cinema o per l'intrattenimento - diventano quasi dei mostri. E certamente pongono un problema. Io lo vedo come un problema, perché possono portare nella loro aberrazione a degenerare in un sostituto di un compagno, o di una compagna. Lo dico non soltanto per quella che può essere la degenerazione e l'applicazione nell'industria del sesso, ma anche perché bisogna aver ben chiara la distinzione tra un compagno umano e un compagno robotico.

Viene in mente il racconto di Asimov Il fedele amico dell'uomo, in cui un padre cerca di spiegare al figlio la differenza tra il cane robot e un cucciolo reale:  "Figliolo, Robotolo è solo una macchina. È stato programmato a comportarsi come si comporta. Un cane invece è vivo veramente (...) Il cane ti ama sul serio. Robotolo è solo condizionato ad agire come se ti amasse".

Ecco, questo è il punto importante. Paradossalmente i sistemi tipo il cagnolino robotico non hanno avuto successo e si sono fermati. Vengono ora utilizzati per terapie, ma qui si parla di terapie cognitive con bambini, con soggetti che hanno problemi e devono svolgere alcuni esercizi o giochi utili per il loro progresso. Ma il cagnolino robotico non ha sfondato nel mercato.

Nel celebre dramma R.u.r. del ceco Karel Capek scritto nel 1920 - al quale si deve la prima comparsa del termine robot, letteralmente lavoro pesante, lavoro forzato - la rivolta dei robot avviene dopo che il dottor Gall, di sua personale iniziativa, ne cambia le caratteristiche mettendo in loro il dolore e la paura:  "Eravamo macchine; ma con la paura e il dolore siamo diventati... siamo diventati anime". È il problema del dare un'interiorità al robot.

Un conto è il sentire un'emozione, un conto è imitarla:  se una certa cosa fa paura, fa sorridere o fa piacere, io riesco a imitarne la reazione, ma non ne imito l'emozione. Spesso invece c'è confusione tra l'emozione vera e propria, e la reazione che ti fa esprimere l'emozione.

Da qualche tempo si è iniziato a sentire parlare di roboetica.

La roboetica secondo me ha avuto una funzione importante. Qui a Pisa abbiamo aperto un dibattito con filosofi, teologi ed esponenti di altre religioni. Però, una volta posta la questione e affermato che per sviluppare un robot bisogna porsi un problema etico, la roboetica non ha poi senso come scienza in sé. Non possiamo continuare a parlarne all'infinito. Ci sono delle regole che vanno investigate, ma questo è un lavoro che deve essere svolto da chi si occupa di etica. L'importante è che chi si forma nella robotica abbia un minimo di formazione in modo da capire che quando si parla di sostituzione di arti, di impianti, di dialogo con il cervello, occorre porsi dei problemi e sapere in che maniera è giusto porseli.

Nell'ultima enciclica il Papa ha scritto che "la libertà umana è propriamente se stessa solo quando risponde al fascino della tecnica con decisioni che siano frutto di responsabilità morale".

È proprio vero, specialmente nel nostro campo. Apprezzo molto anche la visione positiva della tecnica espressa da Benedetto XVI. Del resto, quando ho dialogato con persone di Chiesa e con teologi ho sempre trovato un atteggiamento positivo, che incoraggia chi lavora per sottrarre il soggetto umano alle limitazioni fisiche. Molto spesso ho invece verificato come da altri ambienti, da cui ci si aspetterebbe una visione positiva, giunga al contrario una risposta negativa, come se la tecnologia creasse un problema:  un problema morale, un problema legale, la tecnologia come nemica del diritto, con il diritto che fatica a seguirla. No. La tecnologia è abilitante dei diritti e della dignità umana. La tecnologia non è limitante. È giusto, però, che in questo "abilitare", in questo cercare di sviluppare tecnologie che affermino - se vogliamo essere laici - il diritto costituzionale all'autonomia e alla qualità della vita, ci si ponga il problema di avere una responsabilità morale:  i mezzi e gli strumenti che abbiamo a disposizione sono estremamente potenti e possono essere utilizzati in maniera nociva.

Oggi si parla tanto di ecologia:  la robotica può aiutare l'ambiente?

Sicuramente ci sono delle applicazioni dei robot che rientrano nelle tecnologie per lo sviluppo sostenibile, per la protezione dell'ambiente, per anticipare i problemi ambientali. Mi riferisco ad esempio alla sensoristica per il monitoraggio o per la prevenzione di problemi di inquinamento biologico o chimico delle acque e del cibo. È anche il caso dei sistemi per la raccolta differenziata; la tecnologia è uno strumento.

Esiste ancora lo stereotipo dell'incompatibilità tra donne e scienza?

Non penso che ci sia discriminazione. Posso dire di aver frequentato per tutta la vita un ambiente a presenza prevalentemente maschile:  è successo quando studiavo fisica, poi nel campo dell'ingegneria, quindi in quello dei docenti universitari, ora dei direttori e dei rettori, che sono tutti uomini. Posso dire che, effettivamente, una donna che vuole lavorare in un ambiente maschile deve avere bene in mente la "bussola" da seguire, cioè non accettare di essere trattata con particolare benevolenza, ma neanche di essere ostacolata. Occorre però essere consapevoli della propria differenza, perché ovviamente ci sono delle differenze genetiche, comportamentali e culturali, come anche del fatto di porsi di fronte ai problemi con le proprie capacità e abilità. Se una donna è capace, è abile e si presenta per quello che è, se cerca di misurarsi sulle proprie abilità e competenze, non c'è nessuno che in questo periodo della nostra storia osi fermarla perché è una donna. Anzi, molto spesso c'è incoraggiamento. L'importante è non scadere nel paternalismo o nella lamentazione. La donna, se vuole farcela, ce la fa.



(©L'Osservatore Romano 10-11 agosto 2009)
[Index] [Top][Home]