Il 4 agosto 1997 i computer sono diventati coscienti di loro stessi e 25 giorni dopo hanno iniziato la loro opera di sterminio della razza umana. Se non vivete in un bunker post-apocalittico è solo perché la fantascienza non sempre azzecca le proprie previsioni, anche riguardo l’intelligenza artificiale. Skynet dei film di Terminator non domina il mondo (anche se in Cina c’è un programma di riconoscimento facciale che si chiama così). Ed altamente improbabile che Siri e Alexa possano diventare senzienti ed inizino a chiedere a noi di rispondere a tutte le loro domande.
La fantascienza non è un’arte divinatoria e non può fare previsioni perfette (per le magie cercate nel fantasy). Può però sollevare dubbi e domande che ci permettono di capire meglio come affrontare il domani tecnologico della nostra specie. Ci sono migliaia di libri, film, serie TV e videogiochi con un qualche personaggio robotico o qualche intelligenza artificiale. Ma alcuni in particolare possono aiutarci a capire meglio quali sono le sfide e i limiti di uno dei più grandi progressi tecnologici di sempre. Quindi vediamo insieme qualche storia fantascientifica, nella speranza che qualche intelligenza artificiale non analizzi questo articolo per capire come dominarci meglio.
Intelligenza artificiale debole? Non troppo
Le intelligenze artificiali con cui abbiamo a che fare tutti i giorni sono “AI deboli”. Alexa che accende il televisore così come l’algoritmo di Facebook per riconoscere i volti sono incredibilmente potenti e sofisticati ma limitati. In altre parole, hanno una funzione per cui sono costruiti e si attengono a quella. I droidi di Star Wars possono sembrare umani ma non possono disobbedire gli ordini (anche se R2-D2 dimostra molta iniziativa). Il problema che nasce allora è: se costruiamo un’intelligenza artificiale che sembra ragionare come un essere umano ma che esegue solo gli ordini, come possiamo essere certi che non si ribelli? E come possiamo dire che non sia moralmente giusto che lo faccia?
Cortana: molto più di un’assistente vocale
Per quanto siano memorabili le AI di Portal e Mass Effect, nessuno può mettere in dubbio che Cortana della serie Halo sia l’intelligenza artificiale per eccellenza nel mondo dei videogiochi. Tanto che Microsoft ha usato il suo nome per il suo assistente vocale. E come biasimarli? Cortana è talmente intelligente e d’aiuto che vale la pena fare esplodere un pianeta per salvarla. Eppure è impossibile vederla solo come un’assistente vocale (il personaggio, non l’app). Se fosse solo uno strumento, la potremmo sostituire con un semplice aggiornamento software. Ma non possiamo: Chief è un eroe proprio perché riconosce in lei l’umanità che merita.
Master Chief però continua ad usarla come uno strumento. Vero, nell’evolversi della serie il loro rapporto si trasforma in una profonda amicizia (qualcuno dice anche di più). Tuttavia è una amicizia in cui una delle due parti è stata programmata esplicitamente per essere di servizio. Se arrivassimo al punto da poter stabilire una vera e propria relazione d’amicizia con Siri, Alexa o Cortana avremmo davvero trovato un’amica? O staremmo forzando una relazione su qualcuno che non può scegliere diversamente. A proposito:
“Lei”, una storia d’amore artificiale
“Lei” è un film d’amore fantascientifico di Spike Jonze del 2013, che ha vinto un Oscar alla miglior sceneggiatura originale. Parla della storia d’amore fra Joaquin Phoenix e la voce di Scarlett Johansson. Ok, così suona strano: parla della storia d’amore fra uno scrittore di biglietti romantici e un’intelligenza artificiale super intelligente. Ecco, così suona normalissimo.
L’intelligenza artificiale di “Lei” non è nata con il compito di soddisfare sentimentalmente l’insoddisfabile protagonista. Nasce come assistente digitale, un aggiornamento del sistema operativo del suo computer/auricolare/smartphone che lui modifica a proprio piacimento e di cui si innamora. Ed il film è estremamente competente nel mostrare il lato romantico della vicenda. Staccandosi dalla storia però si possono vedere facilmente dei risvolti che fanno alzare le sopracciglia. Non solo “Lei” è progettata per servirlo ma lui la modifica a proprio piacimento. Inoltre l’AI non conosce nulla del mondo sentimentale, come una bambina che lui istruisce. Se non ci fosse l’aggettivo “digitale” dopo il nome “assistente”, sarebbe un horror psicologico invece che una storia d’amore.
Il film fortunatamente progredisce oltre questa premessa problematica, quindi dategli fiducia e continuate a guardarlo. Ma quando l’avrete finito verrà spontaneo chiedersi: quando l’AI sarà abbastanza avanzato, dovremmo fare una legge contro le molestie sessuali per i robot?
HAL 9000. A prova d’errore.
“2001: Odissea nello Spazio” è un ottimo libro ed un film capolavoro. Oltre ad aver ridefinito l’estetica dei film di fantascienza per il futuro, Kubrick ci ha regalato anche una delle lezioni più temute riguardo l’intelligenza artificiale. Per quanto la libertà ed i diritti delle AI siano interessanti argomenti di discussione, quello che ci ossessiona da quanto l’occhio rosso di HAL 9000 ha iniziato a brillare è: i robot possono ucciderci?
Non vorrei rovinarvi la visione di questo film con un spoiler (anche se dal 1968 ad oggi un po’ di tempo per vederlo dovreste averlo avuto), quindi resterò sul vago nel dire che quando HAL comincia a funzionare in maniera strana, ha lo stesso pensiero di Master Chied con Cortana: spegnere vuol dire uccidere. E quando deve scegliere fra morire o lottare, ci aspettiamo che una forma d’intelligenza pari o superiore alla nostre accetti il proprio destino?
HAL 9000 doveva solo essere l’intelligenza artificiale che pilota un’astronave ed è finito per essere uno dei migliori cattivi della storia della fantascienza. Un avvertimento diretto, che non fanno solo scrittori e registi. Stephen Hawking aveva detto che l’AI potrebbe essere la fine dell’umanità o la sua più grande speranza.
Per fortuna per ogni HAL 9000 c’è un Wall-E. Che inizia il suo cartone animato da spazzino e la termina da salvatore della nostra specie.
Test di Turing: cosa è un robot? E cosa è un essere umano?
Impossibile parlare di intelligenza artificiale senza parlare del test di Turing. Il nome fa pensare ad un quiz a risposta multipla per capire l’intelligenza di un robot (e la cattiva fantascienza l’ha usato come tale) ma in realtà è un esperimento mentale (il Gioco dell’Imitazione) proposto da quello che è considerato il padre dell’informatica. Turing parte disegnando questa scena: una persona intervista un uomo ed una donna, posti in stanze separate per determinare chi sia maschio e chi femmina. Entrambi rispondono attraverso una tastiera, entrambi possono mentire se vogliono. Ora Turing ci invita a sostituire uno dei partecipanti con una macchina. E chiede: se non riuscissimo a distinguere l’intelligenza artificiale da quella umana, potremmo dire che la macchina pensa?
Oggi qualcuno dice che il test di Turing è impossibile da superare e che dovremmo accontentarci del “tempo Turing”, ossia di quanto tempo impiegheremmo per scovare il robot, perché prima o poi lo scopriremo di certo. Ma nella fantascienza il test è stato passato più volte, con implicazioni interessanti.
“La Prova”
Per rispondere alla domanda di uno dei padri dell’informatica dobbiamo scomodare uno dei padri della fantascienza moderna: Isaac Asimov. Il geniale autore e biochimico di origine sovietiche ha scritto molto sull’intelligenza artificiale e la sua prima raccolta di racconti di fantascienza sull’argomento, “Io, robot“, è uno dei libri sci-fi più noti di sempre. In questo volume Asimov traccia le sue tre leggi della robotica:
- Un robot non può far del male ad un essere umano né permettere, per un suo mancato intervento, che un umano riceva danno.
- Esso deve sempre rispettare gli ordini di un essere umano, a meno che siano in contraddizione con la prima legge.
- Un robot deve proteggere la propria esistenza, a meno che non sia in conflitto con le prime due leggi.
Partendo da questi assunti, traccia storie sottili e raffinati, in cui la robo-psicologa Susan Calvin analizza comportamenti aberranti da parte dei robot. In uno dei racconti più intelligenti della raccolta (e di sempre), la dottoressa Calvin cerca di capire se un candidato politico sia o meno un robot. Il sospetto nasce perché, a differenza di tutti i suoi colleghi umani, è troppo corretto. Calvin arriva persino a dire che “è impossibile distinguere fra un robot ed un uomo onesto“. In questa inversione del test di Turing, quello quello che si deve stabilire non è se un’AI sia abbastanza intelligente per passare. Ma se abbia abbastanza difetti per essere un uomo credibile. Non vi raccontiamo come finisce la storia, merita di essere letta.
Blade Runner: e se il robot fossi io?
Anche Rick Deckard, protagonista del film Blade Runner di Ridley Scott e del libro “Il cacciatore di androidi” di Philip K. Dick si trova ad indagare su dei robot. Nel suo mondo iper-tecnologico e decadente gli androidi del modello Nexus-6 devono essere messi “fuori servizio” dopo quattro anni dalla produzione per questioni di sicurezza. Un gruppo di questi robot è scappato, Deckard deve scovarli. Ma per trovarli non basta un test di Turing, che passerebbero con facilità. Bisogna invece misurare le risposte dei muscoli facciali, programmate volutamente perché fosse possibile identificare gli androidi. L’intelligenza artificiale è indistinguibile da quella umana: la differenza sta nelle espressioni, non nel pensiero o nelle emozioni. Tanto che che Deckard arriverà a domandarsi se c’è davvero una differenza, o se sta uccidendo dei suoi simili. Il senso ultimo di Blade Runner non è capire chi sia o meno un robot ma chiedersi: che differenza ci sarebbe? Se anche un robot sogna come noi, cosa ci rende “più” umani?
Sull’argomento un interessante esperimento mentale è: se caricassimo su un computer tutta la storia di una persona, continuerebbe a vivere nel cloud? Continuerebbe a sognare, amare, sperare. Ma vi vogliamo troppo bene per consigliarvi il film Transcendence.
Ex Machina
Il film di Alex Garland “Ex Machina” è quasi più esplicito del racconto di Asimov nell’essere una “storia sul test di Turing”. Anzi, è la premessa dell’opera: un giovane uomo viene chiamato per testare un’intelligenza artificiale. La differenza è che, fin da subito, gli viene comunicato che quella che ha davanti non è una donna della sua stessa specie. Ava, interpretata dalla superlativa Alicia Vikander, è un robot ed il suo pretenzioso costruttore vuole che il tester si convinca che sia umana, pur vedendo “Tutti i suoi circuiti” (per citare Futurama).
Il soggetto dell’esperimento è l’uomo, non il robot. Siamo noi. Riusciremmo a provare empatia, perfino amore per un’intelligenza artificiale? Tutte le storie citate fino ad adesso lo hanno domando in maniera implicita. Garland però è uno sceneggiatore sottile nei dialoghi ma molto diretti nelle premesse. Il punto non è se i robot hanno una loro umanità. Siamo noi che proiettiamo la nostra umanità su di loro, riconoscendo in loro qualcosa che ci appartiene.
Dominio dell’intelligenza artificiale
Una volta che l’intelligenza artificiale avrà superato quella umana e sarà capace di migliorarsi da sola, dove potrebbe arrivare? Come abbiamo visto, Skynet domina il mondo cercando di eliminare tutti gli umani meno di un mese dopo aver preso coscienza di se stessa. Un HAL 9000 all’ennesima potenza, che oltretutto può avvalersi di Terminator che sono grandi e grossi quasi quanto un Arnold Schwarzenegger. Ma i primi due Terminator non hanno davvero mostrato come Skynet sia arrivata ad essere ciò che è. Gli altri sequel ci hanno provato ma preferiamo ignorare la loro esistenza.
Matrix invece parla per un totale di 483 ore di come i robot siano arrivati a dominare il mondo durante la trilogia. Ma non è per la logica ferrea che guardiamo Matrix: vogliamo solo vedere Neo sparare e calciare al rallentatore “bullet time”. Anche perché il fatto che gli uomini siano batteria per computer non ha senso: come dice Bender di Futurama, sarebbe più efficiente usare una patata.
Se c’è uno sceneggiatore di fantascienza davvero ossessionato nel mostrarci i dettagli di ogni possibile rivolta dell’intelligenza artificiale contro l’umanità è Jonathan Nolan. Viene quasi da chiedersi da che parte starebbe se accadesse davvero.
WestWorld e Person of Interest: due piani di distruzione di massa
La sua prima serie televisiva (e prima opera di successo senza il fratello maggior Chris) è stata Person of Interest, un procedurale sulla CBS che si è trasformato in un capolavoro narrativo nell’arco di cinque stagioni. In questa serie di fantascienza un informatico geniale, Harold Finch, rimane talmente scosso dagli attacchi terroristici dell’11 settembre da mettersi a costruire un’intelligenza artificiale che usi tutti i feedback di tutte le telecamere in America per raccogliere dati che le permettono di prevedere futuri crimini. Le prime puntate vedono Finch e Reese, ex-spia della CIA, catturare i criminali segnalati dalla macchina. Ma le cose iniziano ad evolvere rapidamente, specie quando una nuova macchina super intelligente viene messa in campo.
Vorremmo poter dettagliare con un altro milione di parole quanto questa serie entra nel dettaglio di come l’intelligenza artificiale è una possibilità incredibile ed un rischio enorme. Ma non faremmo un lavoro all’altezza di questa gemma della televisione che vi consigliamo di recuperare.
L’ultima serie su cui ha lavorato invece è WestWorld, serie HBO che da noi è trasmessa da Sky. L’ultima stagione è uscita da troppo poco per azzardarsi in spoiler. Ma la premessa dello show è che esiste un “parco giochi” in cui dei robot sono convinti di essere degli abitanti del far west. Gli ospiti pagano ingenti cifre per sparar loro contro in duello, per usarle picchiare le prostitute e violentare le mandriane. Lo slogan del parco è “dove tutto è concesso“. Non voglio dire se effettivamente una rivolta ci sarà e quale ne sarà l’esito. Ma di sicuro il pubblico sa per chi fare il tifo.
L’ultima forma di intelligenza
L’intelligenza artificiale sa già fare molte cose meglio di noi poveri umani. Un computer può ricordare più numeri dopo la virgola nel pi greco di quanto il miglior matematica sappia calcolare o perlomeno farlo più velocemente. E l’algoritmo di Google trova informazioni con una precisione ed un ritmo che nessun bibliotecario potrebbe sostenere (forse perché non deve continuamente zittire i ragazzi che fingono di studiare). Viene però spontaneo chiedersi: fin dove possono spingersi? Possono davvero rispondere ad ogni domanda?
Douglas Adams, un altro dei nomi indelebili nella storia della fantascienza, ha esplorato l’intelligenza artificiale con una fantasia da visionario. Non solo la sua Guida Galattica per Autostoppisti è popolata da robot unici come Marvin ma addirittura ha provato ad usare l’AI per rispondere alle domande esistenziali. Ad esempio, un supercomputer chiamato Pensiero Profondo trova la “risposta alla domanda fondamentale sulla vita, l’universo e tutto quanto“. L’unico problema è che non si sa qual sia la domanda: per quella serve un computer più complesso (ed è un PC che conoscete ed amate tutti). Nei quattro libri che seguono nella sua “trilogia in cinque parti“, Adams rincara la dose, alternando avventure fantascientifiche di primo livello con battute della stessa tiratura. Tutti i cinque volumi meritano ma il primo è un “must read”.
La fantascienza per computare il futuro
Come Arthur Dent, il protagonista della Guida Galattica, dopo questa escursione nel mondo della fantascienza ci troviamo con più domande che risposte. Ma questo è il compito della letteratura speculativa: creare problemi, simulare disastri, spaventarci e riempirci di aspettative. In modo da darci con qualche anno d’anticipo le parole e gli schemi mentali per capire quello che ne sarà della tecnologia e del mondo.
Alexa non distruggerà il pianeta e non riceveremo una risposta soddisfacente chiedendo “Ok, Google, qual è il senso della vita?”. Però con una buona dose di fantascienza sotto gli occhi e nella testa, potremo capire meglio come si evolverà l’intelligenza artificiale. Almeno fino a quando i robot non ci metteranno a sognare dentro Matrix per alimentare Cortana.
Rimani aggiornato seguendoci su Google News!
Da non perdere questa settimana su Techprincess
🌍 Giornata della Terra: ciascuno può dare il suo piccolo contributo per salvaguardarla
🍿Fallout: tutte le domande irrisolte alle quali la Stagione 2 dovrà rispondere
🛞Come scegliere gli pneumatici estivi per l’estate? I fattori da considerare
🤯Google licenzia 28 dipendenti per proteste contro il progetto Nimbus in Israele
✒️ La nostra imperdibile newsletter Caffellattech! Iscriviti qui
🎧 Ma lo sai che anche Fjona ha la sua newsletter?! Iscriviti a SuggeriPODCAST!
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
💌 Risolviamo i tuoi problemi di cuore con B1NARY
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
💸E trovi un po' di offerte interessanti su Telegram!
