L’INTELLIGENZA ARTIFICIALE PUÒ ATTIVARE “LA FINE DELL’UOMO SAPIENS?”

Le regole e il risultato: mentre qualcuno si appella alle prime (perché vinca il migliore e non il più furbo), qualche altro le calpesta per precedere tutti, non importa come. Magari individuando un punto debole, una falla nell’organizzazione del concorrente, infilandovisi e devastandola.

È sempre successo. L’essenza della cosa non è diversa da quello che opponeva i cavernicoli costruttori di clave (c’erano, o ognuno si faceva la sua?): meglio grossa, pesante, per un colpo solo, ma fatale, o snella e maneggevole per colpire prima, anche se più volte?

Ora, però, quella mossa a tradimento l’ha fatta un’Intelligenza artificiale contro un’altra. E questo già ti mette un filo di inquietudine addosso. Ma l’Intelligenza artificiale, ti dici, è uno strumento, un cacciavite solo più sofisticato; è l’uomo che decide cosa fargli fare e cosa no: se lo usi per chiudere la fuga di gas che poteva distruggere il palazzo o per sgozzare l’amante di tua moglie, il cacciavite non ha alcun merito né colpa. È l’uomo che dà senso, non solo pratico, ma anche etico, morale, all’uso dell’utensile (la cui definizione scientifica è: “Che può essere adoperato pure da un idiota”).

E l’Intelligenza artificiale è un utensile: infatti, io non capisco nulla del telefonino o del computer che sto usando per scrivere questo, ma scrivo e telefono, “da idiota” (non vi allargate, non in tutti i sensi. Almeno così mi piace credere).

In questo caso, però, le cose non sono andate secondo la regola dell’utensile: l’Intelligenza artificiale che ne ha aggredita un’altra, lo ha fatto da sola, senza aver avuto un esplicito comando umano. Certo, l’analisi rivela che l’algoritmo aveva una falla che era sfuggita all’uomo che l’ha fatto, ma l’inquietudine diventa seria: quindi la macchina, in caso di ambiguo comando, decide lei? E può anche rivoltarsi, novello Lucifero, contro il suo fattore?

Le macchine prodotte dall’uomo hanno capacità di computazione immensamente maggiore di quella dei nostri cervelli; e a loro volta sono in grado di realizzare macchine ancora più potenti di quelle costruttrici. Il che porta a una domanda che esclude noi dall’ulteriore percorso evolutivo: se l’intelligenza (che chiamiamo artificiale) continua il suo sviluppo senza di noi, ma con le macchine, vuol dire che non è l’uomo il fine dell’intelligenza, ma l’uomo è solo una tappa della sua corsa?

Edgard Morin, grande filosofo appena scomparso, diceva che potremmo essere solo un enzima per traghettare l’intelligenza dal carbonio (la biologia) al silicio (la tecnologia). Siamo quindi capaci di governare qualcosa che è “più” di noi? È stato scritto: “La tecnologia è cambiamento, il cambiamento fa paura, ergo la tecnologia fa paura”.

Uno dei padri della fisica quantistica diceva che possiamo prevedere tutto, tranne il futuro. E il premio Nobel per la Fisica, Giorgio Parisi, parafrasando, avverte che: per quanti sforzi possiamo fare per prevedere il futuro, il futuro ci sorprenderà. Infatti arriva sempre dalla direzione verso cui non guarda nessuno. Quanto oggi viviamo come normalità quotidiana, con infanti che ancora non camminano, ma già digitano, non era stato previsto nemmeno dalla fantascienza. E tutto è accaduto in una sola vita!

Uno dei padri di questa travolgente civiltà, Federico Faggin, veneto, racconta la sua infanzia contadina (non aveva mai sentito parlare italiano sino a quando non è andato a scuola, a sei anni); di aver letto il primo articolo di informatica a sedici anni; a diciannove costruiva il primo computer, e poco dopo inventava il microchip e generava questo mondo (Bill Gates ha scritto che, senza di lui, “nella Silicon Valley ci sarebbero ancora solo le violette”).

Nel mio “La fine dell’uomo sapiens” riporto una meravigliosa intervista che mi dette Konrad Lorenz, Premio Nobel per la Medicina, creatore di una nuova scienza, l’Etologia. Era 45 anni fa e nulla esisteva (manco i computer nei giornali) di quanto oggi è ovvio, ma quel gigante del pensiero aveva intravisto il pericolo:

“Cosa ci aspetta, professore?”.

“L’umanità è vicina al collasso”.

“Si fermerà in tempo?”.

“Questo nessuno può saperlo”.

“Cos’altro può accadere?”.

“Che l’umanità si salvi, ma a prezzo della libertà. Che la specie uomo abbia, tutta insieme, un potere e una conoscenza immensi; ma che ogni uomo, come individuo, non conti più niente”.

Il passaggio da una civiltà a un’altra, è sempre avvenuto fra eccessi di esaltazione e di timore. E ancora si parla del terrore (esagerato nei racconti a posteriori, a dirla tutta) dell’evangelica profezia “Mille non più mille”, su quanto avremmo meritato per i nostri peccati, nella notte fra 31 dicembre 999 e primo gennaio della cifra tonda (per carità cristiana, a quanti, per sventare il peggio, donarono i propri beni a monasteri e altri enti religiosi, lasciamo credere che la scampammo grazie a loro).

Allora ci si rivolse ai preti, la religione, per trovare uno scudo contro il pericolo che si avvertiva tanto più grave, quanto più ignoto. E oggi, a chi? Ai creatori dell’Intelligenza artificiale? Ma Brad Smith, il presidente di Microsoft, chiese un incontro al cardinale Vincenzo Paglia, presidente della Commissione vaticana sull’intelligenza artificiale e più o meno, chiese: aiutateci a capire cosa cavolo stiamo facendo: «Nel nostro centro della Microsoft, in California, siamo 50.000 ingegneri, tutti ingegneri, solo ingegneri», disse, preoccupati di generare futuro e reddito, ma per «la ricerca continua senza regole noi corriamo il rischio di creare, anche senza volerlo, dei “mostri”», perché «come ingegneri noi non riusciamo a capire quale sia il limite tra la macchina e l’umano».

L’intelligenza artificiale non è asettica, ma è quello che siamo, portato alle stelle. L’autrice di “Né intelligente né artificiale”, Kate Crawford, riferisce dell’algoritmo con cui aziende statunitensi selezionavano i dirigenti da assumere (altro che simpatie e raccomandazioni…). Ma a essere scelti erano sempre uomini, bianchi, di un certo strato sociale e formati in certe scuole. Dopo proteste e accuse, venne “smontato” l’algoritmo e si scoprì che riportava, per inerzia, tutti i pregiudizi della società americana. Corretti quelli, anche l’algoritmo si accorse che esistevano persone di imperdibili competenze, pur se donne, nere, ispaniche, formate in scuole pubbliche…

L’intelligenza artificiale siamo noi. E siamo i padri dei mostri che temiamo, veri o no che siano: come racconto in “La fine dell’uomo sapiens”, secondo l’ingegnere giapponese Hiroshi Ishiguro, uno dei maggiori nel campo della robotica, la nostra generazione potrebbe essere l’ultima a essere organica e con noi terminerebbe l’umano così come lo conosciamo. Ma il filosofo della scienza Luciano Floridi spazza questi immaginari mostri dicendo che “l’Intelligenza artificiale non è più intelligente di un tostapane”. Chi ha paura del tostapane nel nostro futuro?

Per aiutare me stesso a capire questi temi, ho creato una formula, scoprendo che ogni volta che il suo valore raggiunge 10¹¹, una civiltà cade e un’altra nasce. È stato così con i cacciatori-raccoglitori, gli agricoltori, gli industriali e dovrebbe essere così, fra una ventina di anni, per gli informatici.

Curiosamente, 10¹¹ è il numero dei neuroni nel nostro cervello. Le coincidenze, dicevano i greci, sono il linguaggio che usano gli dei per comunicarci le loro intenzioni. Cos’è che dobbiamo capire?