Tech
di Raffaele Lauretti 30 ottobre 2018

Le intelligenze artificiali di questi tempi sono stupide, intervista a Roberto Marchesini

Roberto Marchesini è un etologo e filosofo di fama mondiale. L’abbiamo intervistato al TEDx bolognese

Roberto Marchesini, tra i dodici speaker del TEDx Bologna 2018, ha da sempre insistito su un punto, nella sua proposta filosofica: noi esseri umani non siamo così importanti. Certo siamo degni d’attenzione, ma non quanto crediamo. Da secoli abbiamo adottato uno sguardo antropocentrico e Marchesini, filosofo ed etologo di fama mondiale, ci segnala che questo sguardo altro non è che un solo modo di guardare le cose, che non funziona per forza così. Superare questo tipo di sguardo per abbracciare un intero ecosistema e rivalorizzare le relazioni tra noi e l’ambiente, così come responsabilizzarci nell’uso delle risorse che abbiamo a disposizione diventa così il cardine della proposta post-umanista di cui ci ha raccontato.

La premessa doverosa da fare insieme è capire come mai è stato contattato per il TEDx
Mi occupo di post-umanesimo dalla fine degli anni novanta, sono stato il primo in Italia a portare questa riflessione. Nel 2002 ho pubblicato questo lavoro per Bollati Boringhieri che è Post-Human (titolo completo Post-Human: verso nuovi modelli d’esistenza), un libro che un po’ ha cambiato l’orizzonte di riflessione attorno a queste tematiche filosofiche e antropologiche. Post-Human è stato un libro che ha avuto influenze molto forti in Italia e all’estero, tengo ancora conferenze alla Columbia, a Harvard. Chiaro che avermi a Bologna è stata una comodità.

Visto che per primo ha aperto questa strada, vede che c’è interesse oltre il mondo accademico?
È assolutamente l’argomento di questo secolo perché ci sono diverse urgenze che lo mettono in primo piano. La prima è il rapporto con la tecnologia: è straordinario perché ci apre delle strade incredibili, a tratti però è inquietante. Di fronte all’ingegneria genetica e proteica, alla trasformazione della proteatica, allo sviluppo dell’informatica e alle macchine che sempre di più hanno modo d’intervenire nella quotidianità dell’essere umano è chiaro che questo non è più un media ma un partner vero e proprio. Questo porta a delle reazioni che possono essere irrazionali: o vedere la tecnologia come un luna park oppure scadere in un neo-luddismo. Già la fantascienza degli anni 80 e 90, penso a Cyberpunk di Gibson, Terminator, Blade Runner, Matrix e tutta la cinematografia di fine secolo aveva questo tono millenaristico in cui alla fine non arrivava Dio con il giudizio ma la macchina, a produrre essa stessa il giorno del giudizio. Questo ha aperto il dibattito nell’opinione pubblica e io penso sia giusto affrontare questi argomenti, con una mentalità critica riguardo le possibilità e le problematicità, per discutere, cambiando la visione della tecnica. Finché questa viene vista come uno strumento di cui l’uomo ha piena titolarità, il discorso verte sul modo giusto di utilizzarlo. Qui il discorso verte sull’imprevedibilità di esiti che ci chiedono una riflessione che non sarà censoria ma che è necessaria. Abbiamo bisogno di una nuova cultura della tecnica. La riflessione postumanista sta entrando sull’agenda, in diverse discipline, ad esempio nella letteratura.

C’è un caso particolare in cui s’è accorto dei limiti di questa cultura della tecnica che coltiviamo ancora oggi?
Viviamo in una cornice che è ancora umanista. Il punto è inquadrare cosa implica il passaggio da una cultura umanista a una cultura post-umanista: cioè che l’uomo non sia più al centro dell’universo ma che sia una parte di un’ecosistema in cui anche la tecnica trova la sua dimensione ma dove esistono anche quella ecologica che comprende, ad esempio, problemi come la desertificazione delle specie.

Marco Roccetti, durante il suo intervento, ha tirato in ballo l’etica. Nel momento in cui entriamo all’interno di una struttura post-umanista bastano gli strumenti che abbiamo avuto fin qui?
L’etica ha avuto delle trasformazioni molto profonde a partire dagli anni 70 del secolo scorso. L’etica tradizionale si basava sulla cosiddetta forbice di Hume: la scienza si occupava di fatti e l’etica di valori, procedendo parallelamente. Il primo a mettere in discussione questo e a far dialogare scienza ed etica è stato sicuramente Hans Jonas, il primo a dire che quando si ha una capacità operativa, inevitabilmente emerge una responsabilità. Questo è il primo aspetto interessante perché, con questo principio di responsabilità, vengono messi in dialogo questi due diversi aspetti. Prima si pensava che la scienza producesse un qualcosa e che stesse poi all’uomo se utilizzarlo o meno. Jonas introduce l’idea che la scienza produce problemi a cui l’etica deve rispondere e viceversa, in una problematicità reciproca.
Subito dopo è interessante vedere proprio la nascita della bioetica con Potter che parla di bioetica come un ponte. La sua idea è che non esiste più una totale simmetria tra agente morale e paziente morale. Questo significa che anche gli animali, gli ecosistemi o le future generazioni diventano degni di attenzione morale pur non potendo agire moralmente. Parfit inizia a vedere l’identità come una declinazione di relazione perché a quel punto degni di attenzione morale non sono solo gli individui ma anche le relazioni. Di fronte a tutto questo, l’etica si trova davanti a dei principi completamente nuovi. Non è possibile pensare che l’etica giusnaturalistica di Kant o quella utilitarista di Bentham siano ancora le due parallele su cui andare a costruire le nostre valutazioni etiche.

Tornando ai TED Talk: come si fa a prendere tutto quello che uno pensa e studio per ridurlo a 12 minuti?
Penso sia un modo, con delle valenze molto forti, per aprire delle finestre. Ovviamente è solo un incipit. Quello su cui volevo attrarre l’attenzione è questa nostra idea per cui le macchine siano solo frutto dell’essere umano e che la nostra specie si emancipi dal resto della natura. Questo, che poi è il mantra dei trans-umanisti, è una forma di super-antropocentrismo accelerazionista che dobbiamo assolutamente evitare, almeno dal mio punto di vista. Volevo ricordare che c’è una differenza tra una macchina in grado di evolvere, però il punto fondamentale è che queste macchine sono ancora costruite con la mentalità di chi le vuole utilizzare come strumenti. Sono i principi di base con cui vengono costruite le macchine che negano, alla base, l’intelligenza, perché intelligenza vuol dire sapere stare dentro una situazione, di penetrarla, di esserci. Un animale ha degli interessi verso il mondo. Se vogliamo davvero delle intelligenze artificiali dobbiamo interrogarci come il mondo della natura guarda alle situazioni.

Ecco, lei ritiene sia giusto volere delle intelligenze artificiali?
Francamente non lo so, so solo che quelle che ci sono oggi non sono delle vere “intelligenze”. Nel caso questo succederà, le macchine davvero cominceranno ad assomigliare un po’ di più a Hal9000. Se avranno delle inerenze, è normale: la zanzara non desidera essere uccisa, una macchina non vorrà essere spenta o disattivata.

Su cosa si sta concentrando adesso con i suoi studi?
In questi ultimi cinque o sei anni mi sto concentrando sul capire meglio l’intenzionalità non-cosciente. L’intenzionalità come essere teso verso qualcosa. Quello che metto fortemente in discussione è l’idea che la coscienza possa essere alla base della soggettività. Per me la coscienza illumina la soggettività, ma non la crea. Se la coscienza è “essere consapevoli di qualcosa”, allora quel qualcosa dev’essere già presente. La soggettività è inconscia, dopodiché la coscienza la illumina e in qualche modo mette in luce degli aspetti che ci appartengono, li problematizza, li focalizza. Quello che io ho notato è che da una parte si parla di tutto l’inconscio come se fossero automatismi, dall’altra quando si parla di pensiero si tematizza come coscienza o razionalità. Il mio interesse è capire cos’è la soggettività togliendo il deus ex machina della coscienza, non voglio trovare tautologie o circolarità. Mi interessa formulare dei modelli di soggettività inconscia. In pratica, metto al centro le emozioni e le motivazioni intrinseche, partendo dal presupposto che tutte le dotazioni nate e apprese non sono degli automatismi ma degli strumenti che il sistema utilizza per difendersi. L’istinto non è più un automatismo simile all’accendere la luce di cui parlavamo prima, assomiglia così a un mappa attraverso cui ogni volta va compiuto un percorso che è unico e singolare. Ogni volta, cioè, il soggetto usa la mappa in modo nuovo, innovativo. Ciò significa che la soggettività è creatività costruita sulla base di dotazioni inerenti, di emozioni. Poiché sono emozionato, intendo andare in una precisa direzione e trasformo così il mondo in una somatizzazione. Nel momento in cui sono motivato, ho dei verbi copula che mi portano nel mondo. Una volta completato tutto questo, se vorremo delle macchine intelligenti dovremo costruirle su questo modello.

In che misura la creatività entra in una situazione?
Se io riesco a costruire un’entità in cui, data la situazione, le dotazioni non si innescano autonomamente ma che esista all’interna della macchina un’entità capace di gestire la macchina sulla base dei propri desideri e di un proprio sapere, allora inizio a creare una soggettività. In questo senso intendo trasformare la macchina in un animale.

Nel modo in cui noi pensiamo a una macchina, la prima cosa a cui pensiamo e lo scopo che diamo alla macchina.
Io faccio questa grande differenza: i moventi e i modali. I moventi rispondono alla domanda: “perché lo fai?” e possono essere emozionali e motivazionali. I modali indicano come fare un’azione. Mettere insieme moventi e modali ci darà delle azioni creative, perché la macchina sarà sempre nel mondo.

Non riesco a immaginarle diverse dalle macchine presentate da Dan Cheng però.
A loro veniva già detto cosa volevano fare. Io non gli do il percorso, gli do la volontà di fare una certa cosa e al modale do la mappa di Bologna. Sarà la macchina a scegliere il percorso.

E secondo lei così sarà intelligente?
Io inizio a vedere intelligenza quando vedo scelta, decisione, valutazione, giudizio, ricordo. Dal mio punto di vista bisogna partire dallo studio di animali molto semplice. Non farò questa simulazione da un mammifero o da un insetto, inizierò da un animale semplicissimo come può essere una medusa. Costruisco delle macchine che imitano quello che fanno gli animali e inizio a vedere se si muovono in maniera differente.

Vista così mi ricorda un po’ i meme di Dawkins.
La visione di Dawkins ha un problema: è tipico dei genetisti l’idea che qualunque carattere debba e possa essere spiegato solo sul carattere della replicazione. In realtà qualunque animale ha due cause: una remota, che spiega perché c’è quel tratto, e una prossima. I*l gatto è predatorio perché i gatti predatori si riproducevano di più, è un vantaggio riproduttivo. Il gatto però non esprime il predatorio per riprodursi, il gatto esprime il predatorio perché è piacevole farlo. Tutti noi abbiamo una forte tendenza erotica, perché chi se ne fregava dell’altro sesso non è qui. Noi però non facciamo sesso per riprodurci, facciamo sesso perché è piacevole, altrimenti non avrebbero senso gli anticoncenzionali. Bisogna saper distinguere queste due cause.

Non può il piacere dell’atto erotico venir spiegato come una sorta di ricompensa al fine d’incentivare l’atto riproduttivo?
L’atto erotico nasce come espressione dell’atto erotico e basta. Tu hai dei tratti che sono presenti perché han dato un vantaggio ai tuoi progenitori. Quando nasci con quei tratti tu, però, non segui che il piacere e non c’entra più il vantaggio riproduttivo. Se tu dai al gatto la ciotolina piena, comunque inseguirà le palline. Lui non rincorre per mangiare, rincorre per rincorrere. Non si possono spiegare le espressioni di un ente sul vantaggio replicativo ma sul piacere espressivo.

CORRELATI >