Protagonista della storia è Giulio, un ingegnere che dirige il reparto progettazione di una azienda produttrice di automobili a guida autonoma. Egli conduce una vita normale fino a quando una sera, assiepati dinanzi al cancello della villetta alle porte di Pavia dove vive con moglie e figli, trova ad attenderlo tanti giornalisti e un gruppo di dimostranti che sollevano cartelli su cui c’è scritto: “Assassino”. Giulio scopre che molto lontano da casa sua, a Lecce, una bambina è stata travolta e uccisa da una vettura a guida autonoma che egli aveva progettato e che la procura sta indagando su di lui per l’accusa di omicidio. Comincia così la trama del libro di Giorgio Scianna dal titolo “Le api non vedono il rosso” (Einaudi 2021).
Da tempo, ormai, la tecnologia si è impadronita delle nostre automobili aumentando il loro livello di sicurezza: si pensi alla segnalazione dell’avvicinarsi di ostacoli, alla autodiagnostica, alla capacità di parcheggiarsi da sole e così via. Tutto questo grazie ad algoritmi (qualcuno la chiama “intelligenza artificiale”) che stanno relegando gli umani al ruolo di meri passeggeri: tanto più sono sofisticati gli algoritmi tanto meno è necessario l’intervento del guidatore.
Molto si discute sul come disciplinare questo fenomeno, soprattutto sul piano della responsabilità civile. Qualcuno sostiene che alla “driverless car” si debba applicare la disciplina della responsabilità da prodotto difettoso (anche se è difficile dimostrare il nesso di causalità tra difetto e fatto lesivo; ovvero che ci siano degli errori nell’algoritmo di controllo della macchina). Altri ritengono che si debba affermare l’esistenza di una responsabilità oggettiva del produttore (soluzione che avrebbe il vantaggio di addossare il costo a chi può prevenire l’incidente ma anche lo svantaggio di limitare il mercato perché i produttori non avrebbero incentivi a realizzare questo tipo di auto che si guidano da sole). Altri ancora propongono di imporre una forma di responsabilità oggettiva limitata ai soli casi in cui il software è palesemente inadeguato ed istituire per gli altri casi (rischi di sviluppo) un fondo di garanzia pubblico che indennizzi le vittime di incidenti.
Ma il libro di Scianna affronta la questione da un altro punto di vista: quello della responsabilità penale. Una bambina è morta investita da un’auto. Indagati sono la persona seduta al posto di guida: un preside in pensione che però si difende sostenendo di aver acquistato l’auto proprio per la sua capacità di guidarsi da sola così da farlo sentire autorizzato a procedere con uno scarso livello di attenzione; e il progettista: Giulio, appunto, che si vede piovere addosso una accusa di omicidio per un fatto avvenuto a centinaia di chilometri dal posto in cui vive e lavora.
Il sottotitolo del libro recita: “Di chi è la colpa quando la colpa non c’è?” e richiama un assunto di fondo che ci accompagna tutti: non ci possono essere fatti così orrendi come la morte di una bambina senza un colpevole anche sul piano penale (sul piano civilistico, poc’anzi richiamato, la responsabilità oggettiva è la responsabilità senza colpa).
Il volume scandaglia la posizione di Giulio da vari punti vista.
A) L’utilità. Le auto senza guidatore propiziano una caduta verticale del numero di vittime della strada: perché non sono guidate da persone che si mettono alla guida anche se ubriache o che si fanno distrarre dallo smartphone. Cionondimeno a volte funzionano male perché non riconoscono l’ostacolo: nel 2018, a Tempe, in Arizona, una giovane donna venne travolta da un’auto Uber a guida autonoma. In rete è facile trovare i filmati dell’evento: lo sguardo della vittima apparsa all’improvviso su una strada a scorrimento veloce e quello della donna seduta alla guida che stava guardando il tablet e che solo all’ultimo si accorge di quanto sta avvenendo.
B) I dilemmi etici. Nel libro viene definito “codice morte” quella parte del software di intelligenza artificiale che decide chi salvare in caso di incidente. Si immagini che dinanzi all’auto senza guidatore si pari all’improvviso un gruppo di 3 bambini. L’alternativa potrebbe essere tra il continuare la corsa a velocità sostenuta ed uccidere quei bambini oppure sterzare all’improvviso finendo contro un muro uccidendo, al loro posto, i passeggeri dell’auto. Il MIT ha realizzato un apposito sito (all’indirizzo http://moralmachine.mit.edu/) per scandagliare problemi di questo tipo. Affidare la decisione alla macchina potrebbe rendere quest’ultima simile a Dio. Ma gli umani prendono continuamente decisioni di questo tipo: l’istinto porta a sterzare per evitare l’ostacolo; l’esperienza dice che sterzare all’improvviso provoca conseguenze peggiori.
C) Uomini e macchine. La realtà è che viviamo sempre più in simbiosi con le macchine. Durante un interrogatorio, incalzato dal pubblico ministero, Giulio urla: “Anche schiacciare un tasto in ascensore è affidarsi a una macchina”. Ed è proprio così.
Le nuove tecnologie, di cui le auto a guida autonoma sono un esempio, hanno ampi margini di miglioramento. Specie per quel che attiene la sicurezza. In futuro casi come quello narrato nel libro saranno sempre più rari anche se né l’errore degli umani né l’errore delle macchine potranno mai essere scongiurati del tutto.
Su un punto conviene riflettere. Ancora di recente il Parlamento europeo, nell’approvare (il 20 ottobre 2020), il “Quadro relativo agli aspetti etici dell’intelligenza artificiale, della robotica e delle tecnologie correlate” ha ribadito che i sistemi di intelligenza artificiale devono essere sviluppati seguendo un “approccio antroprocentrico”. Tale approccio comporta almeno due cose: la centralità dell’uomo da un lato e la garanzia del pieno controllo umano del sistema dall’altro. Un modo diverso per dire che alle sue responsabilità l’uomo non può rinunciare.