È il 1983 quando Karl Popper, in una conferenza tenutasi a Torino, dal titolo Perché siamo liberi? Computer, mente, razionalità, introduce alla platea, attraverso il racconto di questa storiella, la sua filosofia del fallibilismo. Non ci è dato conoscere la sorte di quei passeggeri; non sappiamo se il viaggio, organizzatissimo perché privo della variabile umana (il soggettivo), si sia effettivamente concluso con l’arrivo a destinazione. Sappiamo soltanto, come un tremendo dubbio che ci perseguita, che l’incepparsi della voce metallica nel fornire rassicurazioni non deve aver lasciato troppo tranquilli i viaggiatori. Facciamo un salto spazio-temporale e proiettiamoci ai giorni nostri. 2021, verso la fine di dicembre dalla Cina arrivano notizie circa l’ultima trovata nel campo dell’Intelligenza Artificiale: il South China Morning Post, testata di Hong Kong, ci avvisa che molto presto arriveranno i magistrati-robot. Al momento, non è neanche previsto che ci sia una vera e propria macchina con cui interfacciarsi; si tratta di un algoritmo che, apprendendo dalle cause realmente dibattute nei tribunali, replicherà le decisioni, filtrate da un proprio criterio di giudizio, e sarà impiegato nei processi penali relativamente –  per adesso – solo ad alcuni reati e con un margine di errore stimato intorno al 97%.

«Signori e signore, vi diamo il nostro più cordiale “Benvenuti a bordo”. Voi siete i primi passeggeri del primo aeroplano interamente computerizzato e automatico. Su questo aereo non vi è il capitano di volo a darvi il benvenuto. In verità, non vi è neppure l’equipaggio e voi non avete alcun bisogno di allacciarvi le cinture di sicurezza. Infatti, anche l’errore più insignificante, che naturalmente potrebbe sfuggire ad un qualsiasi osservatore umano, viene immediatamente corretto da centinaia di controlli computerizzati, completamente oggettivi. Per queste ragioni, qualsiasi tipo di giudizio soggettivo è escluso, e niente può funzionare male…niente può funzionare male… niente può funzionare male…niente può funzionare male…”».

Karl Popper

Il professore Shi Yong, direttore dell’Accademia cinese delle scienze dei big data, ci spiega che questo algoritmo, dopo la lettura dei verbali redatti dalle autorità, è in grado di rilevare indizi e variabili in modo tale da giungere ad una conclusione abbastanza precisa. Attraverso il meccanismo detto del machine learning, questo algoritmo è capace di apprendere da solo e perfezionarsi in totale autonomia. Il che significa che siamo davanti ad un sistema in grado di sostituire i magistrati nel processo decisionale. Al momento, riferisce il South China Morning Post, ciò è possibile soltanto relativamente a otto reati tra i più comuni: gioco d’azzardo, frode con carta di credito, guida spericolata, resistenza a pubblico ufficiale, furto, frode, aggressione e, infine, dissenso politico. In una sorta di unità ideale tra fantastico e reale, ma forse sarebbe più appropriato dire in quel limbo oscuro che è la distopia, possiamo immaginarci perfettamente la sensazione dei passeggeri del volo di Popper e dei poveri malcapitati di fronte alla burocrazia giudiziaria a portata di IA: il proprio destino in mano ad un algoritmo, in modo da escludere categoricamente quella fastidiosa variabile umana che si concede un margine di errore, evidentemente, troppo alto. 

Nel 2002, usciva nelle sale cinematografiche un film di Steven Spielberg, Minority Report, trasposizione cinematografica di un racconto di Philip K. Dick, che narra di una Washington del 2054 in cui si è trovato un sistema in grado di eliminare gli omicidi, assicurando i colpevoli alla giustizia prima di poter commettere il fatto. Il sistema della Precrimine, che in barba a quello che ogni studente di giurisprudenza impara studiando e che ogni cittadino sa, e cioè che il diritto penale è un diritto penale del fatto – in ossequio al principio di materialità – ovvero punisce solo dopo aver commesso un fatto che integri i requisiti di una fattispecie di reato prevista dalla legge, si serve di tre fratelli (due gemelli e una sorella) dai poteri predittivi straordinari, in grado di fornire alla polizia immagini di delitti che ancora devono essere compiuti. Giunge il giorno di istituire questo sistema a livello nazionale e il capitano John Anderton, che nel frattempo ha a che fare con l’ispettore federale Danny Witwer, il cui compito è saggiare la reale infallibilità del sistema, scopre che la ragazza del trio eccezionale manda immagini relative ad un omicidio avvenuto in passato, ma di cui non c’è traccia in archivio. Indagando, Anderton scopre l’esistenza del cd. Rapporto di minoranza: cioè non sempre le visioni degli omicidi dei fratelli coincidono e la discrepanza non viene mai registrata in quanto metterebbe in dubbio l’infallibilità del sistema. Tralasciando il resto della storia, in cui lo stesso capitano Anderton, procedendo nei suoi dubbi e nelle sue indagini, si troverà protagonista del futuro, potenziale, delitto di un uomo che neanche conosce, scoprendo che il sistema stesso può essere facilmente manipolato, il comune denominatore tra quanto detto da Popper, i magistrati- algoritmo cinesi e quanto scritto da Philip K. Dick, è l’ossessione di eliminare in ogni modo l’errore, responsabile di eccessivi costi economici e sociali.

Al termine di questa illusione, tuttavia, si scopre che non è l’errore tout court ad essere eliminato, ma soltanto l’errore umano. Quello della macchina o dell’algoritmo aleggia sempre come una minaccia, niente affatto ipotetica, sul destino degli uomini. Il giurista e politico Piero Calamandrei ha scritto a proposito della nostra Costituzione, ma il discorso si estende al funzionamento della legge in generale, che la Carta non è una macchina che, una volta messa in moto, va avanti da sé: il combustibile che la fa muovere è dato dall’impegno, dallo spirito, dalla volontà di mantenere le sue promesse e, infine, dalla propria responsabilità. Molto probabile, dunque, che la rincorsa all’eliminazione dell’errore umano, più che voler assicurare un sistema perfetto, si proponga di realizzarne uno in cui nessuno risponda della rovina dei destini.