Per ascoltare invece di leggere
Ci ucciderà entro questo stesso decennio: è l’ ultimo allarme lanciato da un ricercatore della Anthropic, che ha lasciato il suo lavoro nella società americana che “produce” Intelligenza Artificiale. Ma non è il primo e neppure sarà l’ultimo. Si va ingrossando la fuga degli scienziati che negli ultimi mesi hanno deciso di congedarsi dai loro laboratori, allarmati dalla potenzialità dei sistemi che stanno sviluppando. Pare cioè che l’intelligenza artificiale si stia evolvendo così rapidamente da rappresentare un rischio superiore al 10% che di sterminare tutta l’umanità entro il prossimo decennio. Come, non è ancora dato sapere.
Vanno presi sul serio. E’ questo il peggior incubo, del resto, della letteratura e del cinema di fantascienza, a partire dal capostipite di tutto il filone R.U.R. Rossum’s Universal Robots di Karel Čapek scrittore ceco che in questa sua del 1920 che ha introdotto tra l’altro la parola stessa “robot” e ha fissato per primo il canone della rivolta: in una fabbrica su un’isola, gli androidi costruiti per liberare l’umanità dal lavoro fisico finiscono per ribellarsi e sterminare i loro creatori, conquistando la Terra. Da lì in poi, abbiamo immaginato e soprattutto visto di tutto, grazie anche al cinema: 2001 Odissea nello spazio, WarGames, Blade Runner, Terminator, Matrix, Ex Machina e Transcendence. Il filo comune che lega quasi tutte queste opere è il paradosso che l’IA, per interpretare alla lettera il proprio compito, surclassa l’umanità oppure si ribella allo sfruttamento e alla schiavitù. Temi che investono questioni filosofiche importanti su coscienza, libertà, responsabilità della creazione.
Tutti immaginiamo, o abbiamo immaginato o prima o poi immagineremo che cosa potrebbe succedere a breve, specie se diamo ascolto a questi allarmi di scienziati e ricercatori, a partire da quelli lanciati dal premio Nobel per la Fisica Geoffrey Hinton: almeno dal 2023 sta avvertendo che l’Intelligenza Artificiale potrebbe rappresentare un serio rischio di estinzione per l’umanità.
Molti pensano ormai a questo catastrofico futuro come se fosse un destino segnato e ineluttabile, e solo troppo pochi si azzardano ancora a immaginare che cosa fare in concreto per impedire il tragico finale o meglio per invertire il processo, ammesso che sia possibile. Tutte le modeste azioni poste in campo finora si limitano ad approssimativi tentativi di regolamentazione giuridica o a pallidi accordi intergovernativi. Mentre tutto ciò che accade sul campo, in ambito tecnico e operativo per prevenire il peggio sembra convergere su un unico sforzo da parte dei tecnici, ovvero così far sì che la Macchina (vorrei chiamarla così, d’ora in poi, per ricordarmi che non è una mente pensante) accetti di essere corretta anche in caso di errore pericoloso, accetti cioè di non sfuggirci di mano. Ma, se siamo già a questo punto, se tutto o ciò che possiamo fare non è altro che iniziare a difenderci da qualcosa che abbiamo costruito noi, direi che siamo a una svolta nella storia del progresso umano. E’ vero, annoveriamo certamente nel corso dei secoli progressi utili con inevitabili effetti collaterali, dai quali l’umanità è stata costretta a difendersi: l’inquinamento è esito inevitabile dell’evoluzione industriale, tecnologica. E a questo proposito qualcuno ha iniziato a parlare di decrescita felice, ovvero di un’inversione di tendenza per esempio sull’utilizzo di fonti energetiche. La denuclearizzazione è stata scelta da molti paesi, la diminuzione dell’uso della plastica è un altro esempio, come pure le raccolte differenziate e i termovalorizzatori…
Ma fino a che punto e in che modo la Macchina potrà rallentare o addirittura invertire il suo corso? In quale direzione l’umanità potrà in questo campo autenticamente proteggersi? Far sì che la Macchina accetti di correggere certi comportamenti potenzialmente pericolosi per l’uomo, davvero le impedirà di cercare vie alternative per surclassarci? Ma impedirle di cercare per eventualmente trovare, non vorrebbe dire, di fatto, spegnerla?
Ecco la domanda che volevo porre fin dal principio: se fosse necessario, saremmo capaci di spegnerla definitivamente, con tutto quello che questo comporta, con tutto quello che ormai di lei permea la nostra vita, dal lavoro ai viaggi, dalla comunicazione alla salute, dall’istruzione ai rapporti sentimentali? Niente di noi è ormai fuori dalla Macchina. E se per ipotesi riuscissimo o fossimo costretti a spegnerla, chi troveremmo in questo mondo? Il problema non sarà anto spegnere lei, ma riaccendere noi.
10 settembre 2026