Robot assassini crescono

Questo articolo è stato scritto il 23 marzo 2021 da Cassandra

Cassandra Crossing 470/ Robot assassini crescono

Un aspirapolvere commerciale può muoversi da solo per casa, rilevare la pianta dell’appartamento e trasmetterla al fabbricante. Se lo fa un aspirapolvere, perché non potrebbe farlo un robot assassino?

I droni luminosi usati in molti eventi sono incredibilmente efficienti nel posizionarsi, formando disegni e volando in formazione. Se lo fanno i droni, perché non potrebbero farlo sciami di robot assassini?

Viene quindi spontanea la sintesi “Sì, i robot assassini lo potrebbero fare, e forse già lo fanno”.

Quindi ciò che ci separa dai Robot Assassini, i sistemi d’arma autonomi letali ( Laws, ovvero Lethal Autonomous Weapon Systems), sono solo le porte dei laboratori, dove i prototipi sono ancora confinati? Ma per quanto tempo? Tra quanto scenderanno in campo?

Sull’uso come arma degli automatismi, Cassandra annoia i suoi 24 instancabili lettori già da più di un decennio (ad esempio qui, qui e qui).

Nel campo dell’Intelligenza Artificiale le potenzialità dell’impiego di sistemi IA che interagiscono con il mondo reale in tempo reale ha già aperto da anni un dibattito sull’etica delle IA.

Questo anticipo di buone intenzioni porta molti a pensare che lo sviluppo dei sistemi AI in corso tenga in qualche modo conto di fattori etici; questo in effetti viene anche spesso enunciato su siti e comunicati stampa della aziende del settore.

La realtà, come spesso accade, è diversa; nel nostro caso molto diversa. Infatti, come questo elegiaco articolo disvela, già dal 2018 un drone salvavita autonomo e dotato di intelligenza artificiale viene sviluppato specificatamente per l’esercito americano, ed è già operativo allo stadio di prototipo.

Lo sviluppa un’azienda, Shield.AI, ed il nome della linea di prodotto è Classe Nova; ovviamente ogni allusione ai libri di Patrick Robinson è puramente intenzionale.

Il drone Nova è in grado autonomamente di entrare in una casa buia, mapparne con telecamera e Lidar la pianta, la volumetria e i contenuti, e tornarsene nella mano di chi l’ha lanciato, anzi attivato. Non si perde infatti occasione per sottolineare che c’è’ sempre un umano nel loop, e che di un team uomo-macchina si tratta, dove la macchina potenzia l’uomo.

L’eticità del drone Nova può anche essere reale, ma le potenzialità di sviluppo dell’Intelligenza Artificiale che lo guida, HiveMind (Mente-Alveare) sono già scritte nel nome. D’altra parte lo sviluppo di sciami di droni è posto bene in evidenza nel sito del fabbricante.

Visto che il primo finanziatore e cliente è l’esercito americano, è evidente che non di ricerca di base si tratta (quella la finanzia la Darpa), ma di sviluppo di un prodotto ben definito, destinato a impieghi immediati e militari.

Per quale diavolo di ragione, applicando un minimo di andreottianismo, non dovremmo pensare che sviluppi di armi autonome e letali siano già in atto? Un’architettura a sciame non lascia molto spazio per la definizione di team uomo-macchina. E’ piuttosto il preludio a sciami di armi autonome, da spedire su un campo di battaglia con indicazioni strategiche, lasciando la tattica, e ovviamente la decisione su chi uccidere, alle intelligenze artificiali.

Se mai ce ne fosse ancora bisogno, è la dimostrazione che un mondo futuro (assai prossimo) con intelligenze artificiali etiche e puffose è solamente una pia illusione.Lo trovate facilmente in una splendida citazione: “Com’è accaduto? Di chi è la colpa? Sicuramente ci sono alcuni più responsabili di altri che dovranno rispondere di tutto ciò; ma ancora una volta, a dire la verità, se cercate il colpevole… non c’è che da guardarsi allo specchio”.