Project Maven è iniziato nel 2017 come strumento per acquisire filmati dai droni
Devon Bistarkey, Unità per l’innovazione nella difesa
esperto di progetti
Katrina Manson, WW Norton
L’esercito israeliano sta utilizzando l’intelligenza artificiale per identificare obiettivi a Gaza, gli Stati Uniti stanno facendo lo stesso in Iran e l’Ucraina sta facendo progressi con i droni intelligenti. La guerra basata sull’intelligenza artificiale non è il futuro del conflitto, è il presente.
Svelare le politiche globali sull’uso dell’intelligenza artificiale da parte degli eserciti – i potenziali benefici, le insidie e l’etica oscura – riempirà i libri per i decenni a venire. Ma Katrina Manson non lo farà esperto di progetti. Invece, usa interviste con più di 200 persone per raccontare la storia del viaggio dell’esercito americano nella guerra dell’intelligenza artificiale – o una di queste, perché ci sono 800 progetti di intelligenza artificiale nascosti nel Pentagono.
Nel 2017, Project Maven è stato lanciato per creare uno strumento per acquisire filmati dai droni ed estrarre informazioni utili: i droni raccoglievano più dati di quanti qualsiasi essere umano potesse interpretare. Maven non è partito bene, dice Manson. Otto mesi dopo il lancio del progetto, l’esercito lo ha schierato con le truppe in Somalia e gli algoritmi hanno detto agli analisti che le nuvole contenevano scuolabus e gli alberi contenevano persone.
Seguiamo un leader di progetto mentre cerca di pianificare missioni come ufficiale dell’intelligence in Afghanistan e guidare le truppe con nient’altro che un laptop polveroso caricato con Microsoft Office: dov’è il nemico, dov’è al sicuro, che aspetto ha il successo?
In guerra gli esseri umani sono inefficienti, si stancano e commettono errori. I costruttori di Project Maven, solitamente segreti, che parlarono con Manson credevano che la nebbia della guerra potesse essere dissipata dall’intelligenza artificiale. Ma intendeva andare ancora oltre: scegliere gli obiettivi, cacciarli e poi ucciderli. Senza un processo decisionale umano lento e deliberato, i robot assassini possono sopraffare rapidamente i nemici.
Un insider dice: “Uccidiamo sempre le persone sbagliate. Una macchina non può essere peggio di un essere umano”. Il team ha sviluppato Maven come una serie di strumenti e ha cercato di convincere le persone in prima linea ad adottarli. I risultati sono migliorati, ma si sono commessi ancora errori.
Da allora, gli Stati Uniti e altri membri della NATO hanno coinvolto Maven nei conflitti. Circa 32 aziende ci stanno lavorando, scrive Manson, e 25.000 utenti militari statunitensi accedono regolarmente. Ma sottolinea anche che viene utilizzato ai valichi di frontiera e nella caccia ai trafficanti di droga nei Caraibi. Può uno Stato dotato di tali apparecchiature evitare di utilizzarle sui propri cittadini?
Manson dice che la cosa più preoccupante è che si sta cercando di escludere completamente gli esseri umani da questo regno. I cosiddetti droni volanti Portiere e i droni navali Whiplash possono trovare i propri bersagli e abbatterli. E gli esseri umani non hanno mai inventato né utilizzato alcuna arma.
È difficile non pensare al tenente colonnello sovietico Stanislav Petrov, che nel 1983 usò il suo giudizio per decidere che il lancio di un missile statunitense segnalato era un falso allarme ed evitò una guerra nucleare totale. L’intelligenza artificiale farà quella chiamata?
Nonostante tutte le affascinanti intuizioni su Maven, il libro ci dice di più sulla burocrazia del Pentagono e sulla volontà della Silicon Valley di intraprendere qualsiasi progetto, non importa quanto poco interessante, se i soldi sono giusti rispetto all’intelligenza artificiale. La portata di Manson non ha precedenti, ma la natura del segreto militare significa che potremmo non sapere negli anni a venire esattamente quale tecnologia ha prodotto il governo degli Stati Uniti, e come e quando viene utilizzata.
La guerra è sempre stata estremamente spiacevole, ma il conflitto moderno in cui gli umani osservano qualcuno a migliaia di chilometri di distanza tramite droni e decide se giustificare un attacco letale, lo ha reso impersonale. Consegnarlo all’intelligenza artificiale renderebbe troppo facile intraprendere una guerra e troppo facile ignorarne le conseguenze.
“
I droni volanti dei portieri e i droni navali Whiplash possono trovare i loro bersagli e abbatterli
“
Dobbiamo assicurarci che il potere concesso dalle armi IA sia trattato con la serietà che merita, ma Manson ci racconta una storia spaventosa che mostra che la realtà è qualcos’altro. Secondo quanto riferito, un intervistato che sperava di unirsi al Project Maven ha detto al panel che la sua motivazione era “ridurre la popolazione non americana” – e poi ha ottenuto il lavoro.
Altri due grandi libri sull’intelligenza artificiale e la guerra
creazione della bomba atomica di Richard Rhodes
Ci sono molte lezioni qui su dove potrebbe arrivare l’intelligenza artificiale militare. Come il Progetto Manhattan, minaccia di intensificare permanentemente le tensioni globali e di aumentare la minaccia di guerra, tanto per cominciare.
Dovremmo vietare i robot killer?? Di Dean Baker
Questo è un tuffo nel dibattito condotto da un professore di etica, che esamina gli spinosi problemi di affidabilità, controllo e responsabilità che sorgono quando i governi affidano il lavoro dei soldati ai computer.
Soggetto:
