“Colpevolezza” di Bruce Holsinger è un drama familiare che fa riflette sui concetti di colpa e responsabilità ma che ci apre anche una prospettiva sui pericoli dell’intelligenza artificiale.
Charlie ha solo 17 anni quando, al volante della macchina di famiglia a guida autonoma, si ritrova possibile responsabile di un incidente stradale che ha causato la morte di una coppia di anziani. Di chi è, però, realmente la colpa? L’IA che governa l’auto ha ben reagito agli stimoli e alla situazione di pericolo? O l’algoritmo si è inceppato? Charlie era disattento? E il resto della famiglia presente in macchina che ruolo ha avuto?
IA e colpevolezza
L’intero romanzo ruota attorno all’idea di dover o meno attribuire la colpa dell’incidente a Charlie o all’algoritmo che guidava la macchina. Lo stesso quesito viene posto ai giuristi.
In ambito giuridico si parla di colpevolezza per indicare la responsabilità penale personale (art. 27 della Costituzione). Nessuno, infatti, può essere punito per un reato commesso da altri. Quando si parla di intelligenza artificiale, però, il concetto di colpevolezza rimane scoperto. La domanda al centro del problema è: machina delinquere potest?
Nel caso di algoritmi machine learning, in grado quindi di adattare il proprio comportamento in base alle “esperienze” passate e ad eventuali nuovi stimoli, si viene a creare una black box algorithms, vale a dire un vuoto di comprensione da parte del creatore e del produttore esterno alla macchina. In questi casi, infatti, gli algoritmi e i sistemi di IA non si limitano più ad eseguire gli ordini ma riescono ad avere un margine di autonomia decisionale. A chi attribuire quindi la colpa di un errore?
Il caso di Elaine Herzberg
Similmente a quanto accade nel romanzo di Holsinger, nel 2018, in Arizona, Elaine Herzberg venne investita, fuori dalle strisce pedonali, da un’auto a guida autonoma di livello 3 (con un conducente presente al posto di guida). La vicenda si è conclusa senza risvolti di natura penale contro Uber e Velodyne, proprietarie dell’auto.
La normativa esistente
L’EU AI Act classifica i rischi legati all’uso di intelligenza artificiale in: inaccettabile, elevato, limitato e basso, minimo. L’idea è quella di prevedere un’analisi dei possibili rischi al fine di introdurre un sistema di regole proporzionate ed efficaci. In questo modo, quindi, viene definita un’area di rischio consentito, ritenendo che in specifici casi i vantaggi derivanti dall’uso di IA siano superiori o talmente importanti da “accettare” eventuali rischi connessi.
Questo è facilmente spiegabile nel caso di droni guidati da intelligenza artificiale impiegati in caso di guerra. La probabilità che colpiscano civili è talmente bassa, quindi la percentuale di morti innocenti si abbassa talmente tanto, che è “accettabile” il possibile errore.
In Italia, si definiscono veicoli a guida autonoma i veicoli “dotati di tecnologie capaci di adottare e attuare comportamenti di guida senza l’intervento del guidatore (che) deve essere in grado di commutare tempestivamente tra operatività del veicolo in modo automatico e operatività dello stesso in modo manuale” (art. 10, comma 2, DM 28 febbraio 2018). Si tratta quindi di veicoli quali quelli del caso Herzberg e del romanzo di Holsinger. Casi nei quali, però, abbiamo riscontrato un vuoto normativo al momento di punire il colpevole.
Paure e preoccupazioni
La più grande paura di fronte al continuo evolversi dell’intelligenza artificiale, quindi, è legata all’assenza di colpevolezza e di responsabilità attribuibile alla macchina e al tempo stesso all’umano. Ma se del reato non risponde né l’uomo né la macchina, chi ne risponderà? Il rischio è quello di creare un vuoto di responsabilità in cui non sarà possibile condannare nessuno.
L’assenza di punizione elimina dall’immaginario collettivo l’idea che sia colpa di qualcuno, che senza quel qualcuno quella tragedia non si sarebbe verificata. Senza il “capro espiatorio” a cui attribuire la responsabilità, come sappiamo di essere al sicuro?
L’ideale sarebbe trovare una punizione da attribuire alla macchina (eliminazione, reset…) ma perderebbe il senso stesso che la pena carceraria ha nel nostro paese: la rieducazione. Come rieduchi una macchina? Come puoi reintrodurla in società?
a cura di
Giulia Focaccia
Informazioni sull'autore
