Per ascoltare invece di leggere:
La notizia passatami ieri da un amico ingegnere è che nemmeno gli scienziati sono riusciti a capire il funzionamento di un modello di deep learning da loro stessi creato per progettare microprocessori di ultima generazione. Se non fosse già avvenuto, l’I.A. avrebbe dunque superato la mente umana: avremmo “passato la linea”.
Come se un agronomo o un semplice contadino piantasse e coltivasse un albero di mele o di albicocche senza capire come mai, al posto di mele e albicocche, la sua pianta, da un bel momento in poi, cominciasse a produrre banane.
O come se un rinomato chef creasse un succulento risotto allo zafferano senza capacitarsi del fatto che, in pentola, all’improvviso, sotto i suoi occhi, lo zafferano si tramutasse in curcuma!
La domanda non è “quale futuro ci aspetta nella storia dei circuiti?” o anche “si realizzerà per davvero, per mano dell’I.A. l’olocausto nucleare prospettato nel film Terminator?”. La domanda è: che chef è quello che non sa che cosa finisce nella sua pentola? Che contadino è quello che non sa che cosa pianta nel suo terreno o come funziona il suo albero magico? Saranno come minimo uno chef e un contadino o incompetenti o distratti o irresponsabili. E’ davvero così? La scienza è davvero irresponsabile sullo scivoloso terreno delle intelligenze artificiali?
Le cose non avvengono per magia. A meno che non si voglia definire “magia” la follia umana, includendo nella storia della follia anche alcuni esperimenti scientifici dagli esiti peraltro entusiasmanti. In effetti “magia” e “follia” in italiano fanno rima, e nel folle c’è davvero qualcosa di magico, se è vero che nel mondo classico la follia era imprescindibilmente legata alla sfera sacra: il folle rappresentava la voce degli dei, quindi andava attentamente ascoltato e la sua follia decriptata. Anche lo scienziato nasconde da sempre qualcosa di folle, di magico e insieme di divino. La storia della letteratura abbonda di figure di scienziati pazzi che hanno minacciato l’umanità con le loro aberranti aspirazioni (da Faust al dottor Jekyl, dall’apprendista stregone al dottor Frankenstein, dal dottor Moreau del racconto di Herbert Wells al genio maligno di Metropolis…), ma la storia umana è popolata anche di scienziati che hanno graziato il mondo con le loro scoperte miracolose (la ruota, l’elettricità, la penicilina, il microprocessore…)
E’ ancora e sempre la questione della responsabilità umana dunque, a entrare in gioco? Quel sottile discernimento che dovrebbe aiutarci a riconoscere bene e male? O più semplicemente a suggerirci di fermarci quando, affacciati alla finestra di un grattacielo, sentiamo l’orrore e insieme la seduzione del vuoto, la tentazione di gettarci di sotto? Ma la scienza non può fermarsi, si dirà. E il vuoto – la sua capienza, le sue infinite possibilità – è precisamente ciò che attrae gli scienziati. Nonostante la rassicurazione del capo progetto di cui sopra, secondo cui obiettivo della ricerca “non è sostituire gli ingegneri, ma fornire strumenti che amplifichino la creatività umana.” la domanda ritornante è se siamo davvero pronti a utilizzare tecnologie che non comprendiamo pienamente.
Ma a questa domanda ritornante e inquietante, io mi azzardo a dare una risposta pacata: la non-comprensione del mondo, di tutto è parte di noi. Molte scelte da noi compiute ci risultano comprensibili solo a posteriori, che si rivelino giuste o sbagliate. Siamo impastati di mistero. Di inconsapevolezza. Comprendiamo forse sempre i nostri sogni? Eppure non possiamo smettere di sognare. Qualche psicanalista dirà che proprio la mancata comprensione dei sogni ci salva e ci permette di sopravvivere nella vita reale.
E la scienza che cosa è se non un sogno, sempre parzialmente realizzato, per nostra fortuna? I suoi adepti, però, hanno evidentemente già messo in conto che possa diventare un incubo. In futuro potremmo passare dei brutti momenti, ma alla fine ci si risveglia sempre.
Si spera.
26 febbraio 2025