Armi autonome letali devono essere aggiunti alla Convenzione delle Nazioni Unite su alcune armi convenzionali, il trattato a durata indeterminata che regola le nuove forme di armi.
Aerei da caccia. Credito immagine: Sergey Krivchikov tramite Wikimedia, licenza GFRL 1.2
Questa è la visione di Scienzia Il professor Toby Walshcapo scienziato dell’UNSW Istituto AIin discussione nell’ambito dell’UNSW Serie di podcast “Ingegnerizzazione del futuro”..
Le regole di guerra, ampiamente accettate dalla Convenzione di Ginevra, istituita per la prima volta nel 1864, stabiliscono cosa si può e cosa non si può fare durante i conflitti armati e mirano a frenare gli aspetti più brutali della guerra fissando limiti alle armi e alle tattiche che possono essere impiegate.
Le armi chimiche e biologiche sono state vietate per l’uso nei conflitti dal 1925, in seguito agli orrori della prima guerra mondiale, e il professor Walsh afferma che ora dovrebbero essere vietate anche le armi autonome alimentate dall’intelligenza artificiale.
L’accademico dell’UNSW è stato bandito dalla Russia per aver messo in dubbio le affermazioni sullo sviluppo di una mina terrestre antiuomo alimentata dall’intelligenza artificiale che fosse più umanitaria.
Oltre alle sue preoccupazioni sulla moralità di tali armi, il professor Walsh afferma che altre armi autonome che stanno iniziando ad essere utilizzate nel conflitto in Ucraina dovrebbero essere bandite.
“L’intelligenza artificiale sta trasformando tutti gli aspetti della nostra vita e quindi, non a caso, sta iniziando a trasformare la guerra. Sono abbastanza sicuro che gli storici guarderanno indietro al conflitto ucraino e diranno come i droni, l’autonomia e l’intelligenza artificiale hanno iniziato a trasformare il modo in cui combattevamo la guerra – e non in senso positivo”, afferma.
“Sono molto preoccupato che cambieremo completamente il carattere della guerra se affidassimo le uccisioni alle macchine.
“Dal punto di vista legale, viola il diritto umanitario internazionale, in particolare vari principi come distinzione e proporzionalità. Non possiamo costruire macchine in grado di operare questo tipo di sottili distinzioni.
“La legge consiste nel ritenere le persone responsabili. Ma notate che ho detto la parola “gente”. Solo le persone sono ritenute responsabili. Non puoi ritenere le macchine responsabili”.
Il prof. Walsh afferma che nella nebbia della guerra, l’uso di armi non controllate dall’uomo è tutt’altro che ideale.
“Il campo di battaglia è un ambiente conteso e contraddittorio in cui le persone cercano di ingannarti e tu non hai alcun controllo su molte cose che stanno accadendo. Quindi è il posto peggiore in cui collocare un robot”, spiega.
“E poi la prospettiva morale è in realtà forse l’argomento più importante e più forte contro l’intelligenza artificiale in guerra.
“La guerra è sanzionata perché è la vita di una persona contro un’altra. Il fatto che l’altra persona possa mostrare empatia nei tuoi confronti, che ci sia una certa dignità tra soldati, quelle caratteristiche non esistono quando affidi l’omicidio a macchine che non hanno empatia, non hanno coscienza, non può essere ritenuto responsabile delle proprie decisioni.
“Sono abbastanza fiducioso che, ad un certo punto, decideremo di aggiungere anche le armi autonome alla lista dei modi terribili per combattere la guerra come le armi chimiche, come le armi biologiche. Ciò che mi preoccupa è che nella maggior parte dei casi abbiamo regolamentato varie tecnologie per il combattimento solo dopo aver visto gli orrori del loro uso improprio in battaglia.
IA responsabile
Unirsi al Prof. Walsh nel ‘Progettare il futuro dell’intelligenza artificiale‘ è stato Stela Solar, direttore del National Artificial Intelligence Center ospitato da Data61 del CSIRO, mentre discutevano del potenziale affascinante utilizzo dell’intelligenza artificiale in un’ampia varietà di settori come l’istruzione, la salute e i trasporti.
Il solare è coinvolto nel Rete di intelligenza artificiale responsabileuna prima collaborazione inter-ecosistema al mondo volta a elevare la pratica dell’intelligenza artificiale responsabile nel settore commerciale australiano.
E concorda sull’importanza che lo sviluppo sempre crescente dell’intelligenza artificiale avvenga nel modo giusto.
“È necessario che comprendiamo davvero che l’intelligenza artificiale è uno strumento di cui stiamo decidendo come utilizzare. Quindi, che si tratti di un impatto positivo o di conseguenze negative, è in gran parte una questione di responsabilità umana riguardo al modo in cui utilizziamo la tecnologia”, afferma.
“L’intelligenza artificiale è valida solo se la guidiamo noi, ed è per questo che l’area dell’intelligenza artificiale responsabile è così importante in questo momento.
“C’è una necessità di governance dei sistemi di intelligenza artificiale che stiamo appena scoprendo. I sistemi di intelligenza artificiale in genere sono potenzialmente più agili. Sono continuamente aggiornati, cambiano continuamente. E quindi stiamo solo scoprendo come sono questi modelli di governance per garantire un uso responsabile degli strumenti e delle tecnologie di intelligenza artificiale.
“È anche uno dei motivi per cui abbiamo creato la Responsible AI Network, per aiutare un numero maggiore di settori australiani ad adottare alcune di queste migliori pratiche per implementare l’IA in modo responsabile”.
Fonte: UNSW
Da un’altra testata giornalistica. news de www.technology.org
