“In questo momento, non sono più intelligenti di noi, per quanto ne so. Ma presto potrebbero esserlo”. La frase è di Geoffrey Hinton, il padrino delle Intelligenze Artificiali. In primavera ha lasciato il suo ruolo in Google per poter parlare apertamente dei suoi timori. Ravvedimento tardivo?
Come non pensare all’allarme sulla bomba H lanciato a suo tempo da Albert Einstein e dal suo collega polacco Józef Rotblat? Arriva un momento in cui la scienza, motore del progresso, mette in allerta il mondo contro i rischi del progresso stesso.
Hinton, che nasce come psicologo, poi diviene scienziato informatico e fin dagli anni settanta del secolo scorso inizia a studiare le IA , lo ha detto chiaramente: “Dobbiamo preoccuparci”.
Affiora il fantasma della cosiddetta “singolarità tecnologica”. Da sempre i futorologi e gli stessi autori di fantascienza hanno paventato lo scoccare di quel punto temporale nello sviluppo di una civiltà in cui il progresso prende la mano agli esseri umani, che non riescono più a prevederlo e tanto meno a governarlo. Oggi, “oggetti” come chatbot e GPT-4 sono prossimi a surclassarci non solo per la quantità di conoscenze che possono e potranno incamerare e gestire, ma anche in termini di ragionamento. E non solo.
Un tempo i nostri timori erano concentrati sugli alieni, anzi sui marziani, immaginati sempre più potenti di noi e dunque capaci di schiacciarci e colonizzarci. Gli alieni del terzo millennio non sono affatto extraterrestri ma molto terrestri, in quanto figli delle nostre stesse capacità, dei nostri saperi, delle nostre abilità tecnologiche.
Incombe dunque la possibilità della fine della civiltà umana, sostituita dalla civiltà delle macchine. Innumerevoli le opere letterarie e cinematografiche che stanno da tempo immaginando questa sostituzione. A quanto pare sempre più realistica e sempre meno evitabile.
D’altra parte il progresso per sua natura è inarrestabile. Il nucleare resta una minaccia, anche se potenziale, congelato per così dire in un capitolo di storia relativamente lontana e comunque sempre latente vista la possibilità di incidenti (Chernobyl e Fukushima insegnano). Dunque è davvero difficile prendere una posizione, se fidarsi dell’inquietante previsione di Hinton, oppure superarla con un’alzata di spalle e tornare a occuparci del campionato di calcio o delle prossime vacanze.
Più facile e quasi doveroso cogliere invece l’occasione per rilanciare finalmente una delle domande chiave che hanno segnato la storia del pensiero umano: che cosa rende uomo l’uomo? L’intelligenza oppure l’emotività? La mente o il cuore? Il sapere o la capacità di distinguere il bene dal male? Attualmente le macchine già sono in qualche misura in grado di farlo, operando scelte etiche, ovvero presumibilmente a favore del primo.
Ma chi sta insegnando alle macchine che cosa è bene e che cosa è male? Ancora e sempre noi umani, evidentemente. E non sarà allora questa l‘occasione per verificare di essere sufficientemente …avvertiti in materia? Di ricordarci che cosa davvero è giusto, che cosa è sbagliato? Dov’è il bene e dov’è il male…?
Non cambierà niente, e se l’era umana è destinata ad esaurirsi, comunque si esaurirà. Ma se non altro moriremo con onore, consapevoli che nonostante tutto, anche questo, purtroppo per noi, essendo inevitabile, sarà anche giusto e perfino ecologico. Il tanto invocato “rispetto della natura” non può non includere anche il rispetto delle naturali tendenze umane. Anche se autodistruttive.
2 dicembre 2023