Il documentario NAZA racconta come la morte dei civili venga messa in conto in anticipo, come un danno accettabile. Ma la domanda per l’Europa non riguarda solo Gaza: riguarda cosa succede alla responsabilità quando una macchina propone e un uomo firma
Venti
Venti. Secondo i testimoni di NAZA, il documentario di Yuval Abraham e Rachel Szor premiato a Venezia, è il numero di civili la cui morte, per un certo periodo, era considerata accettabile per colpire un militante di basso rango, cioè un semplice combattente e non un comandante.
L’esercito israeliano contesta gran parte del film e nega che esistessero autorizzazioni automatiche, ma un’inchiesta del New York Times del 2024 aveva già riferito che il 7 ottobre agli ufficiali di medio grado fu data l’autorità di mettere a rischio fino a venti civili per attacco.
Ho visto NAZA qualche settimana fa. Il film è quasi tutto parole: ventiquattro testimoni, volti e voci alterati e riprese dei grattacieli di Tel Aviv di notte. Le prime testimonianze mi hanno colpita. Poi ho notato una cosa che mi ha inquietata più del contenuto: mi stavo abituando. L’orrore, raccontato con il linguaggio della procedura, smette di sembrare orrore.
Il resto di questo articolo parte da lì. Non da chi abbia ragione su Gaza, ma da cosa succede alla responsabilità quando la morte diventa una cifra in una tabella.
Verificato o no? Le due versioni sul film
Il titolo del film viene da Nezek Agavi, «danno collaterale» in ebraico, abbreviato in NAZA nel gergo dell’intelligence. Il film nasce dal lavoro di Yuval Abraham, autore dell’inchiesta di +972 Magazine e Local Call del 2024 su Lavender, il sistema che avrebbe generato liste di sospetti militanti, ed è prodotto dal Guardian, che parla di tre anni di lavoro giornalistico e di oltre cento fonti. Non è quindi un controllo fatto da altri sull’inchiesta del 2024, a firmare entrambi i lavori è lo stesso giornalista, che ora ha raccolto altre testimonianze.
Sul metodo le versioni divergono. Il Times of Israel osserva che il film non mostra verifiche indipendenti delle testimonianze, non intervista esperti di diritto e non include una replica preventiva dell’esercito. I registi e il Guardian rispondono che identità dei testimoni e casi raccontati sono stati verificati, anche con documenti riservati e fonti rimaste fuori dal film.
L’IDF, dal canto suo, contesta il lavoro parlando di errori sostanziali e sostenendo che molti testimoni descrivano solo fasi iniziali e limitate del processo, quindi non un resoconto completo.
Nessuna fonte è neutrale. L’esercito israeliano è parte in causa e i testimoni sono anonimi. Conta quindi quanti riscontri indipendenti ha un dato, non chi lo sostiene. Il più riscontrato è quello da cui siamo partiti, la soglia di venti civili. Del tutto non verificati sono invece i casi da 200 e 500 civili attesi in due attacchi, raccontati da singoli testimoni: l’IDF afferma di non aver mai pianificato, approvato o eseguito un attacco con cinquecento civili attesi, o una cifra vicina. Resta il fatto che né l’accusa né la smentita si possono verificare.
Che cos’è Lavender?
Secondo l’inchiesta del 2024, Lavender avrebbe segnalato bersagli con una revisione umana ridotta al minimo. L’esercito afferma che non è un sistema di intelligenza artificiale che identifica terroristi, ma un database che incrocia fonti, e che ogni attacco richiede una valutazione individuale da parte di un comandante.
C’è poi la lettura opposta a quella del film. In un’opinione pubblicata dal Jerusalem Post firmata da un avvocato ed ex soldato dell’IDF, costruire sistemi che identificano singoli operativi e stimano le vittime civili attese di ogni attacco sarebbe la prova di un esercito che cerca di distinguere i combattenti dai civili, e non di uno intenzionato a colpire indiscriminatamente. Il contesto, scrive l’autore, è un territorio dove i miliziani di Hamas combattono in mezzo alla popolazione, tra case, scuole e ospedali. È un’opinione, non un dato, ma è l’obiezione più forte, e va ascoltata.
Non spetta a una rubrica stabilire chi abbia ragione. Ma la domanda che conta sopravvive a entrambe le versioni: se lo strumento propone e un essere umano approva, di chi è l’errore?
Il giudizio umano al tempo degli algoritmi
Il diritto umanitario chiede ai comandanti di valutare la proporzionalità di ogni attacco, cioè di verificare che il danno atteso ai civili non sia eccessivo rispetto al vantaggio militare. È un giudizio qualitativo, pensato per una persona che risponde delle proprie scelte.
La letteratura giuridica si chiede cosa accada a quel giudizio quando passa attraverso un sistema. Uno studio pubblicato sulla rivista della Croce Rossa sostiene che l’eccessivo affidamento sui modelli computazionali rischia di sostituire il giudizio contestuale e di normalizzare il danno ai civili. Un articolo sull’UC Law SF International Law Review usa proprio Lavender come caso di studio e parla di un possibile «vuoto di responsabilità». Se il sistema affianca l’umano invece di sostituirlo, diventa difficile attribuire al comandante l’intenzione che il diritto penale richiede.
Non tutti concordano sul rischio. Un lavoro del Carnegie Endowment non ha trovato evidenza di automation bias, cioè di un’obbedienza passiva alla macchina, nel contesto sperimentale analizzato.
Un testimone del film descrive una scena che complica entrambe le letture. Prima di dare l’ordine, racconta, ascoltavano le persone nell’edificio: una conversazione tra marito e moglie, una risata, un bambino che piangeva. Poi davano l’ok. Qui l’umano non si fida ciecamente della macchina. Sa, eppure approva.
Forse il problema sta nel linguaggio prima che nell’algoritmo. Secondo uno dei testimoni, tra i militari non si diceva «ho ucciso un bambino», ma «ho ucciso un naza». Una parola tecnica al posto di un nome, una scelta in cui è difficile non vedere una volontà di disumanizzare, per rendere più sopportabile ciò che si fa.
Così il giudizio di una persona che risponde delle proprie scelte diventa un calcolo, fatto di soglie e di parole tecniche, in cui è sempre più complesso trovare il responsabile.
Chi regola l’AI in guerra?
Qui il discorso torna in Europa, e il contrasto è netto. Per l’AI Act (regolamento europeo sull’intelligenza artificiale), un algoritmo che valuta se concedere un mutuo è un sistema ad alto rischio, soggetto a regole stringenti. Un algoritmo che propone un bersaglio, invece, se usato esclusivamente a scopi militari, di difesa o di sicurezza nazionale, non è coperto dal regolamento. Per questi usi, spiega il Considerando 24, il quadro più appropriato è il diritto internazionale pubblico. L’Europa, insomma, non ha ignorato il problema. Ha scelto di non regolarlo e di rimandarlo al diritto internazionale, dove per ora un trattato specifico sulle armi autonome non esiste.
Sul fronte internazionale qualcosa si muove. Nella notte tra il 4 e il 5 settembre i 128 Paesi della Convenzione sulle armi convenzionali hanno concordato gli elementi di base per definire le armi autonome letali, primo passo verso un possibile trattato. A novembre si deciderà come proseguire. Secondo un rapporto di Archivio Disarmo del 2025, Stati Uniti, Russia e Israele sono tra i Paesi contrari a regole vincolanti.
E l’Italia? Il nostro Paese sostiene un approccio «a due livelli»: vietare i sistemi più pericolosi, cioè quelli imprevedibili o progettati per colpire direttamente le persone, e imporre limiti rigorosi a tutti gli altri, con un essere umano sempre in grado di intervenire. L’opinione pubblica appare più netta: secondo un sondaggio di Archivio Disarmo del 2025, il 74% degli italiani è contrario alle armi autonome, anche se solo il15% si dichiara ben informato sul tema.
Tra armi autonome e decisioni umane
Qui sta il nodo della questione. Il processo all’ONU nasce per regolare le armi autonome letali, cioè i sistemi capaci di scegliere un bersaglio e di colpirlo senza intervento umano. Il sistema descritto da Abraham e dai suoi testimoni è diverso. Secondo loro non colpisce da solo ma propone obiettivi, e una persona conferma.
Ed è su questo terreno che si gioca una parte della trattativa. Secondo il Washington Post, riportato dall’AGI, nell’ultimo giorno dei negoziati di Ginevra i delegati di Stati Uniti e Russia hanno eliminato dal testo una disposizione che imponeva una revisione umana degli obiettivi individuati dall’IA prima di un attacco. Le ragioni non sono note, il testo definitivo non è ancora pubblico e la ricostruzione si basa su fonti del giornale, ma la questione di fondo non cambia: il caso Lavender rischia di restare in una zona grigia, troppo «umano» per essere un’arma autonoma, troppo automatico per essere una semplice decisione umana. E il «controllo umano significativo», cioè un ruolo reale della persona e non solo formale, è un principio facile da condividere e difficile da misurare quando la verifica è ridotta al minimo.
Dove finisce la responsabilità
Quando la morte entra in una tabella, con una soglia, una percentuale, un margine d’errore, la responsabilità tende a spostarsi dalla persona alla procedura.
Se alla domanda «chi risponde?» la risposta diventa «la procedura», abbiamo già deciso che nessuno risponde.
È negli ultimi minuti del film che questa distanza si spezza. Per quasi tutta la sua durata ci sono soltanto parole, agghiaccianti certo, ma a un certo punto si smette quasi di sentirle.
Alla fine compaiono la distruzione, una città in macerie, un padre che urla il nome del figlio morto. Ed è lì che torna il peso che l’abitudine aveva attutito. Soprattutto perché il film finisce, ma a Gaza i raid continuano. Il 12 ottobre un raid israeliano ha ucciso altre due persone nel sud della Striscia, poche ore dopo che un’altra tenda a Khan Younis era stata colpita provocando altre tre vittime. Tutto questo sta accadendo mentre il proiettore si spegne e la sala si svuota.
a cura di
Martina Cavalli
Informazioni sull'autore
