Max Tegmark è professore di fisica al MIT e presiede il “Future of Life Institute” una istituzione che si propone di “catalizzare e sostenere la ricerca e le iniziative per salvaguardare la vita e sviluppare visioni ottimistiche del futuro, compresi modi positivi per l’umanità di orientare il proprio percorso considerando nuove tecnologie e sfide” (futureoflife.org).
Alla luce delle proprie competenze, ha da poco pubblicato un libro dal titolo: “Vita 3.0. Essere umani nell’era dell’intelligenza artificiale” (Raffaello Cortina Editore, 2018) al fine di scandagliare gli scenari che possono schiudersi in ragione dell’incremento incessante della potenza computazionale (i.e.: di ragionamento) delle macchine.
Tegmark definisce “vita” ogni processo capace di mantenere la sua complessità e di replicarsi. Essa può svilupparsi in tre stadi. Innanzitutto c’è uno stadio biologico (1.0): hardware e software sono soggetti all’evoluzione. Poi c’è uno stadio culturale (2.0) in cui la vita può progettare il proprio software (essenzialmente attraverso l’apprendimento). Il terzo stadio è quello tecnologico (3.0, da cui deriva il titolo del libro): a questo livello la vita può progettare anche il proprio hardware “diventando padrona del proprio destino” (p. 72).
Secondo alcuni l’intelligenza artificiale (IA) può metterci in condizione di avere la vita 3.0 già in questo secolo: di qui la necessità di non sottovalutare i problemi che questa eventualità può innescare.
Sempre su un piano definitorio, Tegmark stabilisce una equivalenza tra l’intelligenza e la capacità di realizzare fini complessi. Attualmente l’intelligenza artificiale disponibile è molto ristretta. Ci sono, ad esempio, computer imbattibili nel gioco degli scacchi: ma sanno fare solo quello. L’uomo, invece, ha uno spettro molto ampio di abilità rispetto a tutti i fini.
In ogni caso l’evoluzione tecnologica è tumultuosa e, quindi, si stanno già realizzando innovazioni che ci danno un’idea di quello che può accadere. Tegmark spiega come l’intelligenza artificiale ci stia facendo fare progressi nel campo dell’esplorazione spaziale, della produzione industriale, dei trasporti, dell’energia (“reti intelligenti”), della sanità (con i robot che praticano operazioni chirurgiche anche a distanza), delle comunicazioni (“internet delle cose”). E non manca di mettere in guardia su situazioni già oggi problematiche (la riduzione dei posti di lavoro con la necessità di trovare il “senso” in attività diverse da quelle lavorative) o addirittura inquietanti: armi, come i droni, in grado di scegliere da sole l’obiettivo umano da distruggere.
Ma l’autore si propone di rispondere ad una domanda che si tende ad eludere: l’intelligenza artificiale può davvero assumere il controllo del mondo o consentire agli umani di farlo (p. 179)? Tegmark è chiaro sul punto: se riusciremo a realizzare una IA di livello umano è probabile che si inneschi una “esplosione di intelligenza”. Di qui una analisi affascinante dei possibili scenari: una superintelligenza che conviva con gli umani (perché “buona” o perché “costretta”); ovvero che li sostituisca del tutto.
Si arriva così al nocciolo dei problemi: quello dei fini. Prima che la situazione ci sfugga di mano è indispensabile fare in modo che l’intelligenza artificiale: a) comprenda i nostri fini; b) adotti i nostri fini; c) conservi i nostri fini. Questa operazione viene definita: allineamento dei fini. Il rischio vero non è quello di ritrovarsi una IA “cattiva”, bensì una IA estremamente brava nel realizzare propri fini non coincidenti con i nostri. È facile intuire che il problema di fondo assume una dimensione etica: quali sono i nostri “fini ultimi”? In che modo dobbiamo cercare di plasmare il nostro universo? A questo tipo di interrogativi filosofici occorre dare risposte condivise per poter sperare di farle comprendere e attuare all’intelligenza artificiale.
Ciò che colpisce del libro è la capacità di scendere nello specifico delle singole applicazioni e, al tempo stesso, di ricondurre ogni elemento dell’analisi ad una visione di insieme dei fenomeni e del problema di fondo. Tegmark è un fisico e non a caso il suo discorso sui “fini” muove dalle leggi sulla termodinamica. Ma dimostra di muoversi a proprio agio tra approcci informatici, ingegneristici, economici, sociologici, giuridici (anche se non mi sento di sottoscrivere fino in fondo quanto dice a proposito dei giudici-robot: p. 142 ss.) oltre che filosofici. Da questo punto di vista il libro è un esempio di metodo. La cultura scientifico/tecnologica deve procedere di pari passo con la cultura etico/morale. E per quel che riguarda la formazione dei tecnologi, il problema non si risolve insegnando qualche ora di filosofia nei corsi di informatica o di biologia. Ma rendendo l’informatica e la biologia semplici specializzazioni dei corsi di laurea in scienze umanistiche.
Recensione apparsa su Sussidiario.net il 13 marzo 2019