La banalità del male e la tecnologia che lo sostiene
Un documentario svela come l’IA possa essere usata per colpire civili, mettendo in luce la crudeltà di un sistema che sembra non distinguere tra guerra e distruzione.
Il documentario Naza ha suscitato un dibattito intenso, mettendo in luce come la tecnologia possa essere utilizzata per compiere azioni di guerra che sembrano non solo crudele, ma anche banali. L’uso di un’applicazione di intelligenza artificiale (IA) da parte delle forze israeliane per localizzare bersagli umani, e in particolare per identificare se una persona si trova a casa sua, ha suscitato preoccupazioni e riflessioni profonde. L’applicazione, chiamata «Where’s daddy», è in grado di analizzare la voce e determinare se un bambino sta chiamando il padre, un’azione che può portare a un attacco su una casa intera, con conseguenze devastanti.
La tecnologia come strumento di distanza
La freddezza del dispositivo sembra quasi impedire di sentire fino in fondo ciò che stiamo guardando. L’uso dell’IA per individuare bersagli, pur promettendo precisione e riduzione delle vittime civili, ha creato una distanza emotiva tra chi esegue le istruzioni e chi subisce le conseguenze. Questo distacco, però, non è solo tecnologico: è anche umano. Sono le persone a stabilire quali vite contano, quale rischio sia accettabile, e quali morti possano essere archiviate come effetto secondario. L’idea di un sistema che non distingue tra guerra e distruzione ha suscitato un senso di impotenza e di orrore.
La banalità del male e la crudeltà dell’algoritmo
Il documentario ha reso evidente come la tecnologia possa essere usata per compiere azioni che, sebbene non siano esplicite, sono comunque crudele. L’applicazione «Where’s daddy» è un esempio di come un nome innocente possa essere usato per ingannare, denigrare e umiliare decine di migliaia di vittime innocenti. La ricerca psicologica ha dimostrato che l’espressione «Dov’è papà» è un modo per trasmettere sicurezza emotiva ai bambini, ma gli sviluppatori dell’applicazione hanno ben pensato di utilizzarla per annientare famiglie. Questo uso di un linguaggio giocoso per compiere azioni di guerra ha suscitato un forte senso di orrore.
La tecnologia, in questo contesto, non è solo un strumento, ma un mezzo per banalizzare il male. L’idea di un sistema che non distingue tra guerra e distruzione ha suscitato un senso di impotenza e di orrore. Il documentario Naza ha reso evidente come la tecnologia possa essere usata per compiere azioni che, sebbene non siano esplicite, sono comunque crudele. L’uso dell’IA per individuare bersagli, pur promettendo precisione e riduzione delle vittime civili, ha creato una distanza emotiva tra chi esegue le istruzioni e chi subisce le conseguenze.
La consapevolezza di questa situazione può atterrire al punto di rinunciare a battersi, di sentirsi completamente impotenti di fronte all’orrore e all’impunità; oppure rilanciare la mobilitazione per evitare l’oblìo. Si può solo sperare che prevalga la seconda strada: Ma non si sa più cosa pensare. Essere “cancellato” dal 7 ottobre, l’incubo che agita Netanyahu.