Rimini WMF & Gianmarco Veruggio

Al Web Marketing Festival 2019 di Rimini c’erano il fondatore della Roboetica, Gianmarco Veruggio e il Presidente di Scuola di Robotica, Emanuele Micheli. Qui la trascrizione dell’intervento di Veruggio.

Il 22 giugno 2019, Gianmarco Veruggio, Diligente di Ricerca del CNR e Presidente Onorario di Scuola di Robotica ha tenuto una conferenza nella plenaria del Web Marketing Festival di Rimini.
Trovate qui il video dell’intervento
https://www.facebook.com/gianmarco.veruggio/videos/10216678022315292/
e di seguito la trascrizione.

In allegato la trascrizione con immagini, in pdf.

Roboetica: problemi etici e sociali della rivoluzione robotica
di Gianmarco Veruggio
Robotica e intelligenza artificiale sono al centro di una delle più grandi rivoluzioni tecnologiche della storia, in grado di mutare radicalmente ogni aspetto della nostra vita, offrendo grandi prospettive di progresso ma sollevando anche inquietanti interrogativi etici. Quale potrà essere il ruolo degli esseri umani nella società della robotica.

“1982: esce quello che è considerato uno dei migliori film di fantascienza della storia del cinema. Un classico, un cult movie di fantascienza, Blade Runner.
In quel film si narra il dramma di cinque robot umanoidi, cinque androidi, che si ribellano al loro destino. Sono androidi così perfetti che è difficilissimo distinguerli dagli umani.
Blade Runner è ambientato nel 2019. Trentasette anni fa hanno collocato oggi gli avvenimenti di quel film.
Non è facile predire il futuro. L’arte spesso indovina, spesso sbaglia.
E qui abbiamo due punti che secondo me sono importanti.
Il primo è la focalizzazione della robotica come costruttrice di androidi secondo una visione egocentrica degli umani che pensano sostanzialmente di replicare sé stessi.
L’altro punto è conseguenza del fatto che nel 1982 non c’era Internet, e nessuno scrittore di fantascienza ha saputo prevedere Internet.
In realtà, lo scenario della robotica nel 2019 è ben diverso da quello di Blade Runner.

Vi sono tanti tipi di robot, non solo umanoidi, che svolgono molte diverse funzioni. Per questo, l’immagine della robotica che dovremmo avere non è quella del replicante, ma di una giungla, una intera ecologia di robot di forme e funzioni diverse, tutti collegati in rete.
Oggi infatti tutte le macchine sono collegate a Internet, anche il più banale Ipod, non foss’altro che per scaricare gli aggiornamenti. E tutti noi siamo ormai abituati ad aggiornare periodicamente i software e le app che costellano le nostre vite.
Pertanto, ancora per molti anni lo scenario della diffusione della robotica non sarà quello di Blade Runner, ma sarà più simile al mercato degli smartphone. Potremo acquistare robot general purpose che potremo personalizzare con delle app. Per esempio, saranno disponibili alcuni modelli di robot di servizio che adatteremo alle nostre esigenze scaricando app o acquistando parti mobili che permetteranno loro di cucinare, fare le pulizie, o gestire gli entertainment a casa. Analogamente per robot di servizio in funzione presso luoghi di lavoro.
Nasceranno sistemi operativi generali e comunità di sviluppatori di app per robot.
Tutto questo ha delle implicazioni importanti dal punto di vista economico e sociale.
Moltiplicate per cento, mille l’impatto che hanno avuto e hanno gli smartphone sulle nostre vite e avrete l’impatto dei robot di servizio su di noi. Robot che saranno stati progettati e costruiti per servirci, e per farlo nel migliore dei modi dovranno poterci conoscere bene e quindi ci osserveranno, ci analizzeranno e ci profileranno, come e più dei programmi che utilizziamo oggi.
Sapete bene che ogni nostra attività in rete è profilata, tutti ciò che facciamo in rete va ad alimentare la massa dei big data che qualche algoritmo di Intelligenza Artificiale, di Machine Learning, utilizzerà, come minimo, per venderci dei prodotti, se non peggio.
Come vedete, uno scenario complesso, difficile da gestire.
Già oggi il concetto di privacy sta perdendo il suo peso, il suo valore.

Pensate quando questa Intelligenza Artificiale che gestisce i Big Data avrà milioni, miliardi di occhi, orecchie e altri sensori. Ma non solo, questa Intelligenza avrà milioni, miliardi di braccia che potranno agire direttamente sul mondo fisico. L’interazione tra noi queste intelligenze non si svolgerà più solo con lo schermo e la tastiera, ma ci sarà un sistema che avvolgerà le nostre vite producendo un’infinità di problemi, tra cui la già citata privacy, la cui violazione creerà problemi mai affrontati. Sapete, per esempio, che in Cina stanno sviluppando dei sistemi di “credito sociale”, laddove l’osservazione continua del comportamento delle persone sulla rete contribuisce a dare un punteggio, un credito sociale che permette alle persone di avere dei diritti civili, tra cui la possibilità di viaggiare, di acquistare in certi negozi, e così via.
Tra i diversi effetti dell’invasione dei robot di servizio vi è senz’altro anche la perdita di posti di lavoro, ovvero il trasferimento di certe funzioni da umani a macchine intelligenti.
Tutti questi problemi richiederanno attenzione, e una approfondita conoscenza del funzionamento di questi sistemi.

Qui, l’errore fondamentale sarebbe attribuire alla Intelligenza Artificiale un funzionamento analogo alla nostra. Per esempio, io non posso “vedere” la vostra intelligenza come vedo gli oggetti fisici: posso solo immaginarla proiettando su voi la mia intelligenza. Analogo comportamento adottiamo verso l’intelligenza dei robot, proiettiamo. Certamente, si stanno svolgendo ricerche sull’AI mimetica di quella umana. Ma non dovremmo essere così vanitosi da pensare che la nostra intelligenza sia l’unica sul pianeta. Pensiamo a un alveare. Lì non c’è un calcolatore centrale che controlli simultaneamente centomila probe volanti, migliaia di micro droni che vanno a raccogliere il polline, ma c’è un’intelligenza collettiva che mette in comunicazione questo sciame, ma con la quale noi non possiamo dialogare direttamente, non possiamo intrattenere una conversazione raccontando ciò che ci è accaduto la mattina.
Pensiamo a uno stormo di uccelli. Esistono intelligenze complesse differenti dalla nostra e l’intelligenza dei robot è diversa dalla nostra, e non è detto che anche se si sviluppassero fenomeni di intelligenza collettiva, connettiva, in reti di robot, con comportamenti emergenti dalla complessità, noi non potremo interagire con questa intelligenza così come interagiamo tra di noi.
Questo scenario così complesso avviene, tra l’altro, in un momento che definirei di “tempesta perfetta”: il modello economico e tecnologico degli ultimi tre secoli sta andando verso un burrone: stiamo affrontando drammatici cambiamenti climatici, dermografici, economici, geopolitici, spinti sia da fattori ambientali sia tecnologici. Per esempio, la blockchain potrebbe modificare profondamente il mercato finanziario. C’è chi si spinge a prevedere – tra questi Elon Musk – la fine dell’umanità entro il 2050.
Io spero che Elon Musk si sbagli, come si è sbagliato Ridley Scott profetizzando la presenza di androidi in Blade Runner, ma se pensiamo che i robot umanoidi potranno essere non solo infermieri, ma anche soldati in grado di uccidere, se non li fermeremo prima, ecco che il nostro futuro potrebbe non essere così roseo.

La soluzione? Soluzioni facili a problemi complessi non ce ne sono. L’unica possibile è che noi umani consapevoli ci occupiamo dello sviluppo della robotica da un punto di vista etico, cioè sviluppiamo una Roboetica per cercare di tenere in pugno lo sviluppo della tecnologia robotica e non lasciarla nelle mani di corporation, militari e civili, procedendo in maniera dissennata sempre verso lo stesso burrone.
La favoletta che il progresso economico e tecnologico procede automaticamente e naturalmente per il bene dell’umanità si è rivelata falsa e fuorviante.
È difficile prevedere il futuro, perché è sempre in movimento. Nello stesso tempo, il fatto che non sia determinato ci permette di agire sugli avvenimenti, orientando lo sviluppo della robotica verso un vero progresso sociale e civile e non verso un maggior controllo e oppressione dell’umanità.
Vi esorto a ragionare, pensare, riflettere, a farvi domande, a sviluppare spirito critico, perché se un ruolo avrà l’umanità nel futuro confrontandosi con questa tecnologia, si baserà sulla capacità di operare con l’intelligenza emotiva, non tanto con l’intelligenza formale che ormai è superata in velocità e potenza dall’IA. Facciamo conto anche sulla capacità di visione, di intuire, di sognare, di cercare di comprendere gli esseri umani che ci circondano per sviluppare una società migliore di quella in cui viviamo oggi.