Algoritmi killer

“Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno” è la prima delle famosissime “Tre leggi della robotica” che Isaac Asimov ideò il 23 dicembre del 1940 in una conversazione con John W. Campbell: anche lui scrittore di fantascienza, ma soprattutto direttore di quella rivista “Astounding Science Fiction” attraverso cui non solo Asimov, ma anche altri mostri sacri del genere divennero famosi. Ma “io ne ho viste cose che voi umani non potreste immaginarvi: navi da combattimento in fiamme al largo dei bastioni di Orione, e ho visto i raggi B balenare nel buio vicino alle porte di Tannhäuser” è la frase altrettanto famosa che in “Blade Runner” l’androide Roy Batty, interpretato da Rutger Hauer, pronuncia prima di morire. Parole più evocative che chiare, ma fanno capire come in quel mondo siano i robot a combattere.

Nelle “Tre leggi della robotica” di Asimov si parla non arrecare danno a esseri umani, nella “Legge Zero” si parla di umanità. E cambia tutto

Insomma, i robot possono o no uccidere un essere umano? E’ un dibattito della fantascienza, ma che ora sta diventando realtà. Tra l’8 e il 9 luglio, per la prima volta nella storia, soldati in carne e ossa si sono arresi a robot. E’ avvenuto nell’oblast’ di Kharkiv, dove un gruppo di russi si è consegnato agli ucraini che operavano a distanza. Con robot kamikaze e droni hanno guidato i prigionieri verso una zona controllata dal gruppo d’élite “Deus ex Machina”, parte della Terza brigata d’assalto dell’esercito di Kyiv. Condotta con l’uso coordinato di droni Fpv (First Person View), robot kamikaze su cingoli carichi di esplosivo e droni civili Dji Mavic, trasformati in strumenti militari, l’intera operazione è durata solo un quarto d’ora, senza che i soldati ucraini abbiano sparato un solo proiettile.

A differenza sia dei robot positronici di Asimov che degli androidi di “Blade Runner”, in questo caso non si trattava di robot umanoidi, ma di mini-veicoli cingolati. Sono invece esteriormente simili a noi i protagonisti dei racconti di Asimov che finirono nella raccolta del 1950 “Io robot”, liberamente rielaborata nel film del 2004. La Prima Legge appare nel terzo: “Bugiardo!”, del 1941. Nel quarto, intitolato “Circolo vizioso”, del 1942, vengono enunciate anche la seconda e la terza: “Un robot deve obbedire agli ordini impartiti dagli esseri umani, a meno che questi ordini non contrastino con la prima legge”; “Un robot deve salvaguardare la propria esistenza, a meno che questa autodifesa non contrasti con la prima o la seconda legge”.

A differenza sia dei robot di Asimov che degli androidi di “Blade Runner”, Kyiv non usa macchine umanoidi, ma mini-veicoli cingolati

Dopo aver immaginato un mondo dove i robot avevano un ruolo così centrale, Asimov iniziò a scrivere romanzi su un mondo in cui i robot non c’erano più: e vennero fuori il “Ciclo dell’Impero” e il “Ciclo della Fondazione”. Intanto anche il “Ciclo dei robot” andava avanti, con romanzi accanto ai racconti. Poi dal 1982 ne aggiunse altri per collegare i tre cicli tra di loro: l’ultimo romanzo uscì postumo, nel 1993. E ne “I robot e l’Impero” appare anche una Legge Zero, secondo cui “un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno”. Il che vuol dire che, per l’interesse dell’umanità in generale, a un singolo essere umano, o anche a più di uno, qualche brutto scherzo si potrebbe anche farlo. In particolare, lì è il robot R. Giskard Reventlov a decidere che permettere una lenta contaminazione nucleare della Terra può essere un bene, per spingere l’umanità a lasciarla e accelerare quella colonizzazione dello Spazio da cui nascerà prima l’Impero galattico; poi la Fondazione che ne prenderà il posto. Ma il dubbio su che fare è così forte che subito dopo l’azione decisiva il suo cervello positronico va in pappa.

Mandati a combattere al posto dell’umanità ma condannati a non vivere più di quattro anni, gli androidi di “Blade Runner” finiscono per tentare una disperata ribellione. La parola stessa “robot” nasce da una ribellione. E’ la storia di “R.U.R.”: un dramma portato in teatro dal ceco Karel Capek nel 1921, dove esseri artificiali creati dall’uomo per alleviare le sue fatiche finiscono per prenderne il posto, ma poi non sanno come riprodursi fin quando un esemplare maschio e una femmina non si innamorano tra di loro. Da lì si diffuse nel mondo quel termine, che nelle lingue slave significa semplicemente “lavoratore”. Peraltro, non c’è neanche bisogno, per ribellarsi all’uomo, che le macchine debbano assumere la sua forma. Nel 1954 Fredric Brown scrisse un racconto brevissimo e famosissimo in cui dopo che è stato infine realizzato un computer superperfetto l’addetto al collaudo decide di porre “la domanda a cui nessuna singola macchina cibernetica è stata in grado di rispondere”. “Esiste un Dio?”. “La voce potente rispose senza esitazione, senza il clic di un solo relè. ‘Sì, ora c’è un Dio’. Un improvviso timore balenò sul volto di Dwar Ev. Saltò per afferrare l’interruttore. Un fulmine dal cielo sereno lo fulminò e fuse l’interruttore”.

In modo meno cruento, è di nuovo Isaac Asimov che nel racconto del 1956 “L’ultima domanda” immagina un supercomputer sopravvissuto alla fine dell’umanità che per rispondere appunto al quesito che gli era stato proposto tante volte, “si può invertire l’entropia?”, riesce infine a creare l’Universo di nuovo. “Sia fatta la luce. E la luce fu”. Pur a sua volta emblematico, il tentativo del computer HAL 9000 di far fuori gli uomini dell’equipaggio dell’astronave Discovery in rotta su Giove in quel “2001 Odissea nello Spazio” che dal 1968 resta forse il film di fantascienza più famoso di tutti i tempi è in realtà poca roba rispetto al sistema di intelligenza artificiale che nella serie “Matrix” dal XXI secolo si è impadronito del mondo. I quattro film, realizzati tra 1999 e 2021, mostrano che addirittura è stato creato un mondo fittizio con cui si illudono gli uomini di vivere ancora a fine XX secolo, mentre in realtà sono nel XXII. Chiusi in incubatrici dove sono nutriti di cadaveri, per alimentare a loro volta le macchine come batterie energetiche.

“La legge umana già riconosce entità (…), come imprese e nazioni, come ‘persone giuridiche’”, scrive Harari. Faremo lo stesso con gli algoritmi?

Fantascienza, appunto. Ma a inizio XXI secolo l’intelligenza artificiale sta davvero diventando sempre più importante, e già nel 2016 Yuval Noah Harari nel suo “Homo Deus” aveva fatto una previsione inquietante: o l’Homo Sapiens fa il salto appunto a Homo Deus, o gli algoritmi non organici diventeranno i padroni del mondo al posto degli algoritmi organici. “Fino a oggi”, spiegava, “una intelligenza elevata si è sempre accompagnata a una coscienza sviluppata. Solo gli esseri coscienti potevano effettuare compiti che richiedevano molta intelligenza come giocare a scacchi, condurre automobili, diagnosticare malattie o identificare terroristi”. Ma ormai “stiamo sviluppando nuovi tipi di intelligenza non cosciente che possono realizzare tali compiti molto meglio degli esseri umani, perché tutte si basano sul riconoscimento di regole, e gli algoritmi non coscienti potrebbero superare presto la coscienza umana nel riconoscimento di regole e modelli”. Già oggi, ricordava, “la maggior parte delle transazioni in Borsa le gestiscono algoritmi informatici che possono processare in un secondo più dati di quelli che un essere umano processerebbe in un anno e reagire ai dati molto più in fretta di quel che ci mette un essere umano a battere le ciglia”.

Non solo algoritmi non organici potranno dunque prendere facilmente il posto di avvocati, detective, insegnanti o medici. “Man mano che gli algoritmi espellono gli umani dal mercato del lavoro, la ricchezza potrebbe finire concentrata in mano alla minuscola élite che possiede gli onnipotenti algoritmi, generando così una diseguaglianza sociale e politica senza precedenti”. Gli algoritmi potrebbero dunque non solo dirigere imprese, ma anche esserne i proprietari. “La legge umana già oggi riconosce entità intersoggettive, come imprese e nazioni, come ‘persone giuridiche’. Anche se la Toyota o l’Argentina non hanno né corpo né mente si trovano soggette alle leggi internazionali, possono possedere terre e denaro, e citare in giudizio o essere citate nei tribunali. Presto potremmo concedere agli algoritmi uno status del genere”. Un algoritmo potrebbe allora possedere un hedge fund senza dover obbedire agli obblighi di alcun modello umano. “Se l’algoritmo prende le decisioni adeguate, potrebbe accumulare una fortuna, che poi potrebbe investire come meglio crede, forse comprando la nostra casa e trasformandosi nel nostro padrone. Se infrangiamo i diritti legali dell’algoritmo (per non pagare l’affitto, ad esempio), questi potrà ricorrere ad avvocati e portarci in tribunale. Se tali algoritmi sono più efficienti dei capitalisti umani in modo continuo, potremmo finire con una classe alta algoritmica che possiederà la maggior parte del nostro pianeta”.

Un allarme di nove anni fa, ma che ha appena aggiornato con una messa in guardia sui rischi che secondo lui l’intelligenza artificiale potrebbe rappresentare per la stabilità economica globale. Prima tecnologia in grado di prendere decisioni autonomamente, generare idee e apprendere, la sua autonomia rende difficile per i suoi creatori prevederne tutti i pericoli. Il settore finanziario, per la sua natura di operare esclusivamente con i dati, si presenta per essa come un campo ideale. Ma ciò lo rende vulnerabile a una potenziale crisi algoritmica, incomprensibile per gli esseri umani. Secondo Harari, il precedente è la crisi del 2007-2008, causata da complessi strumenti di debito che pochi comprendevano. Ma adesso sarebbe peggio, perché l’intelligenza artificiale potrebbe creare un sistema che nessuno sarebbe in grado di comprendere o regolare. Una crisi così innescata non potrebbe distruggere direttamente la civiltà, ma le sue ripercussioni indirette potrebbero essere disastrose, innescando anche conflitti o guerre.




Altro classico del genere, la serie “Terminator” è costituita da cinque film, usciti tra 1984 e 2019, e che spiegano come in un futuro prossimo una rete globale di difesa di intelligenza artificiale nota come Skynet col raggiungere l’autocoscienza si è ribellata all’umanità, scatenando un olocausto nucleare per distruggerla. Ma per stroncare la resistenza di alcuni ostinati sopravvissuti ha poi dovuto realizzare androidi combattenti, che tornano addirittura indietro nel passato per sventare la nascita del capo della resistenza a loro ostile. E qui c’è appunto il Terminator interpretato da Arnold Schwarzenegger: prima cattivissimo, ma che poi nei sequel diventa buono e passa con la resistenza umana. Il tema è frequentatissimo, anche al di là di questi titoli più emblematici. Tanto per arricchire con due esempi italiani, tratti dal mondo dei fumetti. Il 25 maggio e primo giugno 1969 esce in due puntate su Topolino con testi di Rodolfo Cimino e disegni di Luciano Capitanio “Zio Paperone e la rivolta delle macchine”. Con il miliardario che per salvarsi dai Bassotti va col deposito su un pianeta con un popolo ospitale però troppo dipendente da robot che con le monete si ubriacano, e combinano così sfaceli prima di essere arrugginiti da una pioggia artificiale. Dell’ottobre 1976 è invece “Valentina pirata”, dove l’eroina sexy di Guido Crepax finisce in un mondo in cui il futuro si mescola a costumi del ’500, e in cui affronta a cavallo un gruppo di guerrieri. “Accidenti Valentina. Hai fatto un macello! Tutti tagliati a pezzi… Non ti credevo capace di…”, le dice un compagno di avventura. “…di tanta spietatezza, vuoi dire? Ma io non ho ucciso nessuno!”, è la risposta. “Hai visto cosa c’è dentro queste corazze? Niente! Sono vuote! Non sapevi che adesso sulla terra i soldati sono stati sostituiti da robot?”.

Fantascienza. Ma la guerra che insanguina oggi l’Ucraina è invece, purtroppo, una realtà. Partita la Russia con un potenziale militare molto maggiore e con una popolazione che è il quadruplo, con Putin che utilizza una tattica da Grande Guerra di masse umane all’attacco per rosicchiare strisce di terra, con i problemi di approvvigionamento di cui i voltafaccia di Trump non sono stati che l’aspetto più clamoroso, il paese sta sviluppando a tappe forzate una industria bellica in grado di sostenere la sfida. “Ciò di cui abbiamo bisogno è una maggiore capacità di riportare la guerra sul suolo russo, dove ha avuto origine”, ha dichiarato Zelensky nel suo videomessaggio del 16 luglio. “Dobbiamo raggiungere il 50 per cento della produzione di armi in Ucraina entro i primi sei mesi del mandato del nuovo governo, espandendo la nostra produzione nazionale”. Per questo le forze armate di Kyiv stanno cercando di trasformare la linea del fronte in quella che i suoi stessi soldati chiamano una “kill zone”: un corridoio largo circa 20 chilometri dove droni da ricognizione, attacco e intercettazione operano.

In Cina l’esercito ha iniziato a testare robot in grado di agire autonomamente in situazioni di combattimento. L’AI combinata con piattaforme mobili

Di fronte a questa costante minaccia aerea, le forze russe hanno optato per attacchi in piccoli gruppi di cinque o sei soldati, a bordo di motociclette o quad, nel tentativo di attirare il fuoco nemico e individuare le posizioni difensive ucraine, per poi colpirle a loro volta con droni. Curiosa combinazione tra Cadorna e Terminator. Le statistiche interne mostrano che nel 2024 il 69 per cento delle offensive contro le truppe russe e il 75 per cento degli attacchi a veicoli e attrezzature sono stati effettuati da droni. E ora, appunto, insieme ai droni, arrivano anche i robot veri e propri. Un altro video diffuso dall’intelligence militare di Kyiv mostra un veicolo delle dimensioni di un quad che si muove silenziosamente lungo una strada fangosa a Sumy. Sotto la pioggia, il robot si ferma, alza la canna di una mitragliatrice da 7,62 mm e spara contro una posizione russa, distruggendo tutto ciò che incontra sul suo cammino. Battezzato Liut, “Furia”, il veicolo è il primo sistema terrestre senza pilota prodotto in serie dall’industria ucraina a dimostrare la sua efficacia in combattimento. In pratica si avvicina, identifica il contorno del parapetto russo utilizzando telecamere termiche e apre il fuoco. finché la trincea non si svuota. Secondo la Direzione dell’Intelligence, il sistema “distrugge gli occupanti russi con un fuoco denso” e consente all’avanzata di proseguire senza perdite, in modo da “sostituire i soldati nei settori più pericolosi”.

Ma anche l’esercito russo sta sperimentando robot terrestri, ed è in Cina che l’Esercito Popolare di Liberazione ha iniziato a testare robot umanoidi militarizzati in grado di agire autonomamente in situazioni di combattimento. Il progetto combina l’intelligenza artificiale con piattaforme robotiche altamente mobili che imitano la forma e le funzioni umane. Secondo un rapporto pubblicato sul Pla Daily, il quotidiano ufficiale delle forze armate cinesi, questi dispositivi potrebbero diventare elementi chiave nei conflitti futuri, sostituendo parzialmente i soldati umani in prima linea. Tuttavia, lo stesso documento avverte poi che il loro utilizzo potrebbe portare a “uccisioni indiscriminate e morti accidentali” a causa della mancanza di giudizio morale nel processo decisionale.

Insomma, si torna al dilemma: Asimov o Terminator?