"Basta lanciarlo e tutto morirà": la prima volta dei droni IA che uccidono senza l'uomo
di Camilla Costantini
“Ci abbiamo provato. Si trattava di un test” ha dichiarato Alexander Kokhanovskyy, produttore di droni ucraino, a New Scientist durante un evento stampa ospitato dall’ambasciata ucraina.
Kokhanovskyy ha confermato che, in un test condotto sul campo due anni fa, alcuni droni dotati di IA hanno ucciso dei soldati russi. E lo hanno fatto senza alcun intervento umano nella fase decisionale.
“Basta lanciarlo e sappiamo che tutto morirà: tutto ciò che verrà trovato in quella specifica area morirà. Non c’è alcun collegamento con il drone, non si può vedere il video, niente di niente… tutto ciò che vede verrà ucciso” ha affermato Kokhanovskyy, come riportato dall’articolo “Fully autonomous drones have killed human soldiers for the first time” su New Scientist di Matthew Sparkes .
È la prima volta, per quanto ne sappiamo, che una macchina decide autonomamente di uccidere.
Sorge spontaneo chiedersi se il futuro distopico in cui i robot ci dominano e ci controllano sia già realtà. Tuttavia, questa preoccupazione, per quanto comprensibile, distoglie il nostro sguardo dal vero fulcro etico del problema: chi ha educato la macchina a comportarsi così?
Ed è altrettanto fuorviante, e in questo caso anche sbagliato, rispondere a questa domanda dicendo che è stato l’essere umano in generale. La responsabilità non può essere attribuita a tutti indistintamente: Gunther Anders, filosofo del Novecento, ha riflettuto sullo statuto dei lavoratori del 1978, spiegando che non tutti gli esseri umani sono storici. Non tutti hanno fatto la storia. Alcuni esseri umani, che Anders definisce co-storici, sono stati vittime della narrazione dei dominanti. La storia non è universale, al contrario di come si è sempre autoaffermata, ma è una storia di classi: i dominanti narrano la storia e i co-storici sono vittime della loro narrazione.
Secondo Anders, però, il soggetto della storia non sono più neanche i dominanti: il soggetto, adesso, è la tecnica.
Nel secondo volume de “l’uomo è antiquato” Anders spiega che nella battaglia di My Lai, durante la guerra del Vietnam, ai piloti degli elicotteri e dei caccia era comandato di radere al suolo interi villaggi con il napalm e provocavano stragi in modo distaccato e tecnologico. Ai soldati di terra, invece, le leggi morali tradizionali vietavano di uccidere, con le proprie mani, i civili. Questo scarto tra l’azione indiretta dei piloti e quella diretta dei soldati ha creato una frustrazione intollerabile in quest’ultimi: non per la violenza in sé della guerra, ma per il fatto che la macchina aveva il potere di distruggere tutto. E loro non potevano farlo.
Anders parla di luddismo al contrario: nell’Ottocento gli operai distruggevano le macchine perché temevano che avrebbero tolto loro il lavoro. A My Lai i soldati volevano diventare come le macchine. Volevano avere il loro stesso potere di distruggere tutto.
“L’imperativo, a cui obbedivano, non suonava: impedisci alla tua macchina di operare secondo massime che non potrebbero essere quelle della tua azione” scrive Anders “ma al contrario: compi tranquillamente tutto ciò che non contraddice alle massime dell’apparato in cui sei inserito; e pretendi di poter agire così”.
A My Lai, per la prima volta, l’essere umano si identifica completamente nella macchina. E pretende di poter agire come lei, perché non poteva sostenere ancora a lungo un simile dislivello tra la sua morale e quella dell’apparato.
La tecnica è diventata il soggetto della storia: è la tecnica che ora porta avanti la narrazione dominante. Sono i tecnocrati a plasmare la traiettoria della storia. Ed è importante ricordare che la narrazione che portano avanti non è apolitica e non è neutra, al contrario di come spesso siamo portati a credere: lo stesso progresso tecnologico non lo è. Questa storia è il risultato di scelte politiche ben precise: come spiega Giovanni Arrighi, economista e sociologo, nel corso della storia i poli che si sono alternati a dominare l’economia mondiale hanno sempre combinato supremazia economico-tecnologica e supremazia militare. Un esempio possono essere gli Stati Uniti, che, quando hanno visto i sovietici lanciare in orbita il satellite Sputnik nel 1957, si sono resi conto di essere in ritardo nella produzione di tecnologie aerospaziali e, quindi, hanno avviato massicci piani di ricerca pubblica in ambito militare. La ricerca in ambito militare, e di conseguenza lo sviluppo di nuove armi, è sempre stata portata avanti per motivi politici e, soprattutto, di egemonia.
“Basta lanciarlo e sappiamo che tutto morirà”. Se un drone uccide, i tecnocrati sono convinti di avere meno responsabilità. Ma la macchina non ha una coscienza, non prova rimorso e risponde solo all’addestramento ricevuto. Dietro la presunta autonomia del drone si cela sempre una precisa scelta politica e umana: aver deciso di programmare la morte.
“Can’t Help Myself” è un’opera d’arte realizzata da Sun Yuan e Pen Yu, presentata alla Biennale di Venezia nel 2019. Rappresenta un braccio meccanico programmato per trattenere a sé un liquido rosso, simile al sangue, vitale per la sua stessa sopravvivenza. Il robot prova a raccoglierlo tutto, ma non ci riesce. E il sangue, alla fine, rimane sempre lì, a terra. Ci riprova continuamente, ma il flusso gli sfugge solo per qualche secondo, costringendolo a un’eterna e frustrante pulizia. L’opera ti porta a provare empatia per la macchina, che non riesce nel suo intento e che costantemente perde il liquido che la tiene in vita. Ma è il nostro stesso sangue a farla vivere. È il nostro stesso sangue che mantiene vivo il sistema creato dai tecnocrati. E, forse, alla fine saranno davvero queste macchine a raccogliere il nostro sangue. Perché loro non muoiono. Noi si.
Camilla Costantini
