Naza, il danno collaterale
Il 10 settembre, in concorso alla Mostra del cinema di Venezia, è stato presentato Naza, il documentario di Yuval Abraham, giornalista israeliano, e Rachel Szor, due dei quattro registi di No Other Land, il documentario di un collettivo israelo-palestinese che nel 2025 ha vinto l’Oscar. Di notte, sui tetti di Tel Aviv, ventiquattro militari dell’intelligence israeliana raccontano con il volto in ombra come sorvegliavano e colpivano i bersagli a Gaza con l’aiuto di sistemi di intelligenza artificiale. Uno di loro, secondo la recensione di Internazionale, dice che «è meglio che sia l’intelligenza artificiale a scegliere, così non siamo responsabili» (1). Il principio che vieta di uccidere un innocente è lo stesso da millenni. Oggi la tecnologia offre a chi lo viola un alibi per non sentirne il peso. L’alibi poggia su un’idea che ripetiamo tutti troppo spesso: la tecnologia è neutrale, il bene o il male dipendono dall’uso che se ne fa.
A maggio Leone XIV, nella sua prima enciclica, ha scritto il contrario: la tecnologia «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa» (2). Per chi legge, la conseguenza è una domanda da farsi ogni volta che una macchina entra nelle nostre vite: di chi è il volto che c’è dietro?
Naza è la sigla di nezek agavi, «danno collaterale» in ebraico, e nel gergo militare indica il numero di civili che si prevede di uccidere in un attacco. Secondo le recensioni, un bersaglio poteva valere «20 naza», il via libera a uccidere venti civili pur di colpirlo. Quella soglia l’aveva fissata qualcuno, dentro una catena di comando, e da quel momento è diventata un parametro.
Molte testimonianze riguardano la casa. Uno degli intervistati racconta che la sera usciva con gli amici, e la mattina dopo tornava a fare lo stesso lavoro. I militari chiamavano «Where’s Daddy?», cioè «dov’è papà?», l’ascolto del telefono di un bambino: serviva a capire quando il padre sarebbe rientrato, per colpire la casa con tutta la famiglia dentro. «Sentono piangere i neonati, e ordinano comunque un altro attacco», ha detto al Guardian Yuval Abraham, uno dei due registi (3). Chi colpisce, la sera torna a casa; chi viene colpito, viene colpito mentre è a casa con la sua famiglia.
Abraham lavora su questi sistemi da anni. Il 3 aprile 2024, con +972 Magazine e Local Call, aveva raccontato Lavender, il programma che nelle prime settimane di guerra aveva segnalato come sospetti militanti fino a 37.000 palestinesi. Un ufficiale raccontava di dedicare a ogni nome una ventina di secondi, il tempo di controllare che fosse un uomo: «Come essere umano non aggiungevo niente, a parte il timbro di approvazione» (4).
L’esercito israeliano ha respinto il film con un comunicato in sette punti: lo definisce un ritratto «distorto, fuorviante e disonesto», sostiene che l’intelligenza artificiale non ha mai scelto da sola un bersaglio e che non esiste un numero fisso di civili autorizzato in automatico.
Questo articolo guarda il meccanismo che le testimonianze sul genocidio di Gaza descrivono, e che non riguarda soltanto Israele ma tutti gli stati che si stanno dotando di macchine AI per la guerra: quando la decisione passa attraverso un sistema, chi la prende smette di sentirla come propria.
Personalmente sono rimasto colpito dalla disumanizzazione del nemico che emerge dal trailer e dalle recensioni. Più che di azioni di guerra, dove vengono uccise persone in gran parte estranee al conflitto, sembra di sentire parlare di un video game.
La domanda che il film lascia è se la tecnologia è capace di cambiare i principi morali della nostra società.
Questa edizione prova a rispondere ponendosi quattro domande. Le rivoluzioni tecnologiche del passato hanno cambiato i nostri principi etici nel tempo o hanno cambiato solo la nostra “linea rossa” fra giusto e sbagliato, la soglia di quello che consideriamo moralmente accettabile o riprovevole? Le tecnologie sono mai state neutrali o hanno smesso di esserlo solo adesso con l’AI? Dove si sta spostando questa linea rossa oggi? E che cosa possiamo fare noi in questa situazione?
Le tecnologie che hanno cambiato la “linea rossa”
La prima domanda è se le rivoluzioni tecnologiche del passato abbiano cambiato i nostri principi, o soltanto la linea rossa, la soglia oltre la quale ci indigniamo.
Della ruota e del ferro sappiamo come hanno cambiato il lavoro e la guerra, ma non abbiamo documenti su come hanno cambiato il giudizio morale di chi li usava. Dalla rivoluzione industriale in poi i documenti invece ci sono: leggi, sentenze, inchieste parlamentari ed encicliche. E mostrano uno schema che si ripete. I principi etici di base restano fermi e immutabili per tutta la storia, mentre si sposta continuamente la soglia oltre la quale una società si indigna, muta la percezione della gravità di un determinato atto. Quando la soglia si abbassa ci indigniamo prima, e diventa inaccettabile ciò che prima si tollerava; quando si alza ci indigniamo di meno, e per farlo servono atti più gravi.
I bambini lavoravano nei campi da sempre, e nessuno lo considerava uno scandalo. Durante la rivoluzione industriale la fabbrica tessile li ha messi davanti alle macchine, per giornate lunghe quanto quelle degli adulti, in un luogo dove si potevano contare e ispezionare. Il 29 agosto 1833 il Parlamento britannico approvò il Factory Act: niente lavoro nelle filande sotto i nove anni, non più di 48 ore la settimana fino ai tredici, non più di dodici ore al giorno fino ai diciotto. Per farlo rispettare in circa 4.000 filande furono nominati quattro ispettori. Il principio che un bambino va sempre protetto esisteva già. La rivoluzione industriale ha reso visibile quanto lo si violava, e la soglia si è abbassata.
L’introduzione del respiratore ha fatto di più, perché ha cambiato la definizione di morte di un essere umano. Per secoli una persona era considerata morta quando il cuore si fermava. Negli anni Sessanta le macchine tenevano in vita corpi con il cervello ormai distrutto, e i trapianti di cuore, il primo dei quali fu eseguito da Christiaan Barnard a Città del Capo il 3 dicembre 1967, avevano bisogno di organi ancora irrorati di sangue.
Il 5 agosto 1968 la rivista dei medici americani, JAMA, pubblicò il rapporto di un comitato della Harvard Medical School che proponeva il coma irreversibile come nuovo criterio di morte, e spiegava perché: i progressi della rianimazione e il bisogno di organi da trapiantare. In Italia la legge 578 del 1993 lo dice in una riga: «La morte si identifica con la cessazione irreversibile di tutte le funzioni dell’encefalo». Il principio che non si uccide un uomo vivo è rimasto dov’era. Si è spostato il confine fra vivo e morto, e a spostarlo è stato un comitato di medici davanti a una macchina. Prima del 1968 togliere il cuore che batte a un corpo attaccato al respiratore sarebbe stato un omicidio; dopo è diventato una donazione. Va sottolineato che la nuova soglia oltre che basarsi su dati scientifici aveva anche una convenienza per la società.
La pillola anticoncezionale, approvata negli Stati Uniti nel 1960, ha spostato la soglia nell’altra direzione. In Italia fino al 1971 era reato fare propaganda ai metodi per evitare le gravidanze, e lo ha cancellato la Corte costituzionale con la sentenza n. 49 del 16 marzo di quell’anno. Ciò che una generazione considerava illecito è diventato, per la generazione successiva, una scelta privata.
In guerra le regole sono arrivate quasi sempre dopo. Nel 1899 la Conferenza dell’Aia aveva vietato i proiettili carichi di gas asfissianti. Il 22 aprile 1915, a Ypres, l’esercito tedesco usò il cloro lo stesso, aprendo bombole invece di sparare proiettili, e un divieto generale arrivò soltanto con il Protocollo di Ginevra del 1925. Quel cloro aveva un volto preciso: quello di Fritz Haber, il chimico tedesco che lo aveva trasformato in un’arma e ne seguì di persona il primo impiego a Ypres. Nel 1918 Haber ricevette il premio Nobel per la sintesi dell’ammoniaca, la scoperta che ha permesso di produrre fertilizzanti in quantità industriale e di moltiplicare i raccolti.
L’eccezione sono i laser accecanti, vietati nel 1995 prima che qualcuno li usasse in battaglia. Per i droni armati, in uso dal 2001, e per i sistemi che propongono i bersagli, una regola specifica non c’è ancora.
La tabella mette in fila questi casi: per ogni tecnologia, che cosa si accettava prima, che cosa si accetta dopo e quale regola l’ha fissato.
La Chiesa cattolica registra questi cambiamenti con le encicliche, le lettere con cui il papa si rivolge ai fedeli, e il suo calendario segue quello delle tecnologie. Il 15 maggio 1891 Leone XIII pubblicò la Rerum Novarum sulla condizione degli operai: era la risposta della Chiesa alla fabbrica. Il 25 luglio 1968 Paolo VI firmò la Humanae Vitae, che otto anni dopo l’arrivo della pillola confermava il no a ogni metodo per impedire la procreazione.
La mia risposta alla prima domanda è questa. Penso che alcuni principi siano eterni e immutabili: non si uccide un innocente, non si usa una persona senza il suo consenso. Il livello di riprovazione con cui viviamo certe situazioni invece cambia, e lo cambiano gli effetti sociali della tecnologia. Il bambino in fabbrica diventa visibile, la morte si ridefinisce, la gravidanza si sceglie, il falso nudo diventa possibile.
Il volto della tecnologia
La seconda domanda è se la tecnologia sia mai stata neutrale, o abbia smesso di esserlo solo adesso, con l’AI.
Il 10 maggio 2025, due giorni dopo l’elezione, Leone XIV ha spiegato ai cardinali di aver scelto il nome pensando a Leone XIII e alla Rerum Novarum: oggi la Chiesa deve rispondere a un’altra rivoluzione industriale, quella dell’intelligenza artificiale. Un anno dopo, il 15 maggio 2026, nel centotrentacinquesimo anniversario della Rerum Novarum, ha firmato la sua prima enciclica, Magnifica Humanitas, la prima dedicata all’intelligenza artificiale.
Per rispondere serve la frase del paragrafo 9, già citata in apertura: la tecnologia «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa».
Francamente credo che questa frase dovrebbe farci riflettere perché capovolge un principio largamente accettato e che abbiamo sentito ripetere ed ho ripetuto io per primo decine di volte: la tecnologia è neutrale, può fare del bene o del male a seconda di chi la usa.
La frase completa ha una premessa. «In astratto», scrive il papa, la tecnologia «non è di per sé una soluzione ai problemi dell’umanità, come non è di per sé un male; ma, concretamente, non è neutrale». Il detto che ripetiamo è vero in astratto: un coltello chiuso in un cassetto non fa né bene né male. Nessuna tecnologia però esiste in astratto. Ognuna è stata pensata, pagata, permessa e usata da persone con un nome.
L’idea non è nuova, nemmeno nella Chiesa. Nel 2015, nella Laudato si’, Francesco aveva scritto che «i prodotti della tecnica non sono neutri», perché «orientano le possibilità sociali nella direzione degli interessi di determinati gruppi di potere». Fuori dalla Chiesa lo aveva detto nel 1986 lo storico della tecnologia americano Melvin Kranzberg, con la prima delle sue sei leggi: «La tecnologia non è né buona né cattiva; e non è nemmeno neutrale» (5).
La storia raccontata fin qui dice che non lo è mai stata. Dietro il cloro di Ypres c’era il chimico Fritz Haber, dietro il criterio della morte cerebrale i medici che avevano bisogno di organi da trapiantare. Eppure per molto tempo l’idea della tecnologia neutrale ha retto, perché si poteva separare la capacità dall’uso. Richard Feynman, che aveva lavorato alla bomba a Los Alamos, nel 1955 la riassunse con un proverbio sentito in un tempio buddhista di Honolulu: «A ogni uomo è data la chiave delle porte del paradiso; la stessa chiave apre le porte dell’inferno» (6). La fissione dell’atomo, scoperta alla fine del 1938, fa funzionare le centrali elettriche e ha distrutto Hiroshima: se la tecnologia è la capacità di spaccare l’atomo, la bomba ne è un uso, deciso dal presidente Truman. Fra la capacità e l’uso restava una mano umana, e dire «dipende da chi la usa» spostava la colpa su chi l’aveva mossa.
Con l’intelligenza artificiale il gioco cambia, perché una parte della decisione passa alla macchina. «Ogni artefatto tecnico», scrive Leone XIV al paragrafo 104, «porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni». Lavender segnala chi colpire, e nella segnalazione buona parte della scelta è già fatta: i venti naza sono un parametro, i venti secondi dell’ufficiale sono quello che resta della mano dell’uomo. Sistemi dello stesso tipo contribuiscono già a decidere chi ottiene un prestito o un colloquio di lavoro, e che cosa ci mostra il feed la sera. Qui capacità e uso coincidono. Decidere è il lavoro per cui la macchina è stata costruita.
Così la vecchia formula si rovescia. Diceva: la tecnologia è neutrale, quindi risponde chi la usa. Oggi chi la usa può dire che ha deciso il sistema, e chi l’ha costruito può rispondere che dipende da come lo si usa. Al paragrafo 103 il papa descrive l’esito: lo scarto dei più deboli «viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare». La risposta alla seconda domanda, quindi, è che il principio è sempre stato vero: la tecnologia non è mai stata neutrale. L’idea della neutralità poteva reggere finché la scelta restava fuori dalla macchina; ora che ci sta dentro, e questi sistemi sono dappertutto, non regge più. La tecnologia, da non neutrale, diventa complice in quel momento: quando offre a chi decide l’alibi di non aver deciso.
La soglia oggi, in guerra e nella vita civile
La terza domanda è dove si stia spostando la linea rossa oggi.
Per la guerra lo dice l’enciclica, con due espressioni che in questa edizione sono già comparse. L’AI, scrive il papa al paragrafo 183, può «abbassare la soglia dell’uso della forza, rendere opache le responsabilità, alimentare una cultura in cui il nemico è ridotto a dato e la vittima a “danno collaterale”» (2). Il papa parla della soglia per usare la forza: se quella si abbassa, si alza quella oltre la quale ci indigniamo. Al paragrafo 198 arriva alla conclusione: «non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili», perché «non esiste algoritmo che possa rendere la guerra moralmente accettabile».
La soglia si sta spostando anche lontano dai campi di battaglia, e il caso più vicino a noi riguarda il rapporto fra uomini e donne. Il 19 agosto 2025 è venuto alla luce «Mia moglie», un gruppo Facebook aperto con quasi 32.000 iscritti, dove uomini pubblicavano foto delle loro compagne, spesso in momenti di intimità, senza che loro lo sapessero. Meta lo ha rimosso il giorno dopo. Il 28 agosto è stato chiuso Phica, un sito attivo dal 2005 dove circolavano foto di donne prese dai social e sessualizzate, dopo le denunce di molte di loro, politiche comprese.
Pubblicare una fotografia intima senza consenso era già un reato. Un’immagine falsa, costruita con l’AI per mostrare un corpo che non è quello vero, non lo era in modo specifico. La legge italiana sull’intelligenza artificiale, in vigore dal 10 ottobre 2025, ha introdotto l’articolo 612-quater del codice penale: chi diffonde senza consenso «immagini, video o voci falsificati o alterati» con l’AI, e capaci di ingannare, causando un danno ingiusto, rischia da uno a cinque anni di reclusione. L’AI ha reso possibile un danno nuovo, e il Parlamento ha abbassato la soglia: ciò che prima non era un reato specifico adesso lo è.
L’altro fronte sono i compagni artificiali, i chatbot costruiti per fare da amico o da partner. Nell’aprile 2025 il Garante della privacy ha multato per 5 milioni di euro la società americana che gestisce Replika, uno dei più diffusi, anche perché non verificava l’età di chi lo usava. Secondo un’indagine di Ipsos per Telefono Azzurro, il 14% degli adolescenti italiani si rivolge spesso a un chatbot per avere consigli personali, e il 16% dice di essersi sentito meno solo (7). Magnifica Humanitas non li nomina, ma descrive il rischio al paragrafo 100: «quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza», e per chi è già solo il pericolo è che si perda «il desiderio stesso di cercare davvero l’altro». Che cosa sia lecito chiedere a una macchina che ci tiene compagnia, e che cosa sia lecito che una macchina chieda a noi, merita più spazio: ne parleremo in un prossimo numero.
La risposta alla terza domanda è che la soglia si muove in due direzioni. Nella vita civile tende ad abbassarsi: la legge comincia a punire danni che l’AI ha reso possibili. In guerra rischia di alzarsi, perché la macchina rende più facile colpire e una regola che la limiti non c’è ancora.
Cosa possiamo fare noi?
Resta la quarta domanda. Torno alla frase di Leone XIV. La tecnologia sposta la soglia perché non è neutrale, e la soglia la fissa sempre qualcuno: chi la pensa, chi la finanzia, chi la regola, chi la usa. Se le testimonianze sono vere, nei venti naza ci sono tutti e quattro i verbi: chi ha costruito il sistema, chi lo ha pagato, chi non ha scritto regole per limitarlo, chi approvava un nome in venti secondi. L’alibi della macchina regge soltanto finché chi guarda lo accetta.
Due dei quattro verbi riguardano anche chi legge. Regolare, perché le regole le scrive chi votiamo. Usare, perché le macchine che decidono le usiamo tutti i giorni.
Per chi vota la conseguenza è concreta. Il regolamento europeo sull’intelligenza artificiale, l’AI Act, all’articolo 2 esclude i sistemi usati soltanto per scopi militari, di difesa o di sicurezza nazionale: l’Europa ha scritto regole per il chatbot del servizio clienti e ha lasciato fuori quello che propone i bersagli. Le armi autonome si discutono invece a Ginevra, dentro la Convenzione delle Nazioni Unite su certe armi convenzionali. A settembre un gruppo di esperti dei governi ha approvato un elenco di elementi per un futuro strumento, senza scrivere se sarà vincolante.
Dal 16 al 20 novembre la conferenza di revisione della Convenzione deve decidere che cosa farne. Nel 2023 il segretario generale dell’ONU e la presidente della Croce Rossa internazionale avevano chiesto un trattato entro il 2026, con una frase che riassume la questione: che le macchine scelgano da sole gli esseri umani da colpire «è una linea morale che non dobbiamo superare». Che posizione terrà l’Italia a Ginevra è una domanda che si può fare al proprio parlamentare.
A fine novembre Naza sarà visibile gratis in streaming sul sito del Guardian. Lo guarderò anch’io, e ti propongo di guardarlo pensando alle due case: quella da cui i militari uscivano la mattina e a cui tornavano la sera, e quella in cui si sentivano piangere i neonati e arrivava comunque un altro attacco.
Questa settimana prova a soffermarti su un punto: la prossima volta che un sistema ti propone una decisione già pronta, al lavoro o in banca, chiediti di chi è il volto dietro i criteri con cui l’ha presa.
Guido un’azienda che si occupa di automazione, agenti e intelligenza artificiale: ne scrivo perché li vedo da vicino, non per venderti qualcosa. Per questo articolo ho usato l’AI per cercare e verificare le fonti ma l’idea dell’articolo, la tesi e la revisione sono mie.
Riferimenti
1. Catherine Cornet, «Naza, la banalità del male nel cuore di Tel Aviv», Internazionale, 29 settembre 2026. link
2. Leone XIV, lettera enciclica Magnifica Humanitas, 15 maggio 2026, paragrafi 9, 100, 103, 104, 183 e 198. link
3. The Guardian, intervista a Rachel Szor e Yuval Abraham, 11 settembre 2026. link
4. Yuval Abraham, «’Lavender’: The AI machine directing Israel’s bombing spree in Gaza», +972 Magazine e Local Call, 3 aprile 2024. link
5. Melvin Kranzberg, «Technology and History: “Kranzberg’s Laws”», Technology and Culture, vol. 27, n. 3, luglio 1986, pp. 544-560; la prima legge discussa da Eric Schatzberg e Lee Vinsel su Technology’s Stories. link
6. Richard P. Feynman, «The Value of Science», Engineering and Science, vol. 19, n. 3, dicembre 1955, p. 13; discorso alla riunione d’autunno dell’Accademia nazionale delle scienze americana, Caltech, 2-4 novembre 1955. link
7. Ipsos per Telefono Azzurro, adolescenti e intelligenza artificiale, febbraio 2026. link