A partire dai primi sviluppi dei calcolatori elettronici e dei linguaggi utili alla programmazione di applicazioni, molto spesso le innovazioni tecnologiche in questo settore sono nate sulla base di esigenze di tipo militare. Non ha fatto eccezione la Scienza dei Dati e l’Intelligenza artificiale che ha trovato un rilevante spazio di utilizzo nei recenti conflitti israelo-palestinesi e russo-ucraini.
Secondo quanto affermato da agenzie e media di Tel Aviv che hanno riportato pubbliche ammissioni di ufficiali dell’esercito israeliano, l’esercito avrebbe utilizzato software molto sofisticati per identificare e colpire più facilmente obiettivi di Hamas presenti nella striscia di Gaza e in Libano. Da quanto si è appreso in molte cronache di questi mesi di conflitto, pur riuscendo a identificare con buona precisione le aree con bersagli terroristici, l’uso del software non è stato tale da garantire una pari attenzione ai danni collaterali portati ai civili innocenti.
Lo strumento software di intelligenza artificiale utilizzato nei primi mesi del conflitto si chiama Lavender, che tradotto in italiano significa lavanda. Lavender è stato programmato per poter “identificare tutti i sospetti agenti nelle fila di Hamas e della Jihad islamico-palestinese (PIJ), compresi i sottoposti, come potenziali bersagli” e sembrerebbe che ben 37mila palestinesi sarebbero stati identificati come obiettivi rilevanti del combattimento. Per rendere più completa la ricerca e, di conseguenza, facilitare la localizzazione e la targetizzazione armata è stato utilizzato un secondo componente di intelligenza artificiale che ha permesso di individuare il bersaglio nei suoi spostamenti, anche quando fosse rientrato fra le mura domestiche, con ovvia ripercussione su famigliari e altri civili innocenti
Lavender utilizza l'apprendimento automatico per assegnare ai residenti di Gaza un punteggio numerico relativo alla presunta probabilità che una persona faccia parte di un gruppo armato. In base ai rapporti, gli ufficiali militari israeliani sono responsabili di stabilire la soglia oltre la quale un individuo può essere contrassegnato come bersaglio soggetto ad attacco.
Lavender si basa su un tipo di apprendimento automatico semi-supervisionato chiamato "apprendimento positivo non etichettato", che addestra un algoritmo a partire da un set di dati contenente sia dati etichettati (positivi) che non etichettati (negativi). Questo tipo di apprendimento automatico utilizza le caratteristiche dei dati etichettati per cercare di identificare modelli nel set di dati più ampio. In questo caso, l'algoritmo cerca caratteristiche nei dati di sorveglianza e in altri dati relativi a individui che l'esercito israeliano sospetta affiliati a un gruppo militante e utilizza poi quelle stesse caratteristiche per identificare altri individui sospetti all'interno della popolazione generale. Poiché molti dati non sarebbero confermati se questa tecnica fosse applicata a una popolazione ampia, questo processo rischia fortemente di basarsi su congetture infondate.
Secondo i sostenitori di questi strumenti avanzati, la legittimità giuridica di questi strumenti è basata sul fatto che l’utilizzo non esclude la componente umana nel momento in cui deve essere presa la decisione di attaccare l’obiettivo. Il software di intelligenza artificiale svolgerebbe il solo compito di supporto alla decisione. Il meccanismo è il medesimo che gli agenti di borsa adottano nel comprare o vendere azioni, ma qui ci troviamo di fronte ad un contesto dove è in gioco la vita di esseri umani.
In generale l’uso dell’intelligenza artificiale nelle operazioni militari solleva enormi interrogativi etici e legali. Sia i casi di “allucinazione” dell’intelligenza artificiale che il coinvolgimento di civili innocenti durante queste operazioni di guerra impongono la necessità di un dibattito sui limiti da imporre a tali tragiche innovazioni.
