In una dichiarazione di venerdì, gli esperti hanno affermato che le tecnologie emergenti, compresi i sistemi di sorveglianza biometrica basati sull’intelligenza artificiale, vengono sempre più utilizzate “in contesti sensibili”, senza la conoscenza o il consenso delle persone
Devono essere tracciate “linee rosse urgenti”.
“Sono necessarie linee rosse normative urgenti e rigorose per le tecnologie che affermano di eseguire emozioni o riconoscimento di genere”, hanno affermato gli esperti, tra cui Fionnuala Ní Aoláin, relatore speciale per la promozione e la protezione dei diritti umani contrastando il terrorismo.
IL Consiglio dei diritti umaniesperti nominati hanno condannato l’uso e gli impatti già “allarmanti” di spyware e tecnologie di sorveglianza sul lavoro di difensori dei diritti umani e giornalisti, “spesso con il pretesto di misure di sicurezza nazionale e antiterrorismo”.
Hanno anche chiesto una regolamentazione per affrontare lo sviluppo fulmineo dell’IA generativa che consente la produzione di massa di contenuti online falsi che diffondono disinformazione e incitamento all’odio.
Conseguenze nel mondo reale
Gli esperti hanno sottolineato la necessità di garantire che questi sistemi non espongano ulteriormente le persone e le comunità a violazioni dei diritti umani, anche attraverso l’espansione e l’abuso di pratiche di sorveglianza invasive che violano il diritto alla privacy, facilitino la commissione di gravi violazioni dei diritti umani, tra cui sparizioni forzate e discriminazioni.
Hanno inoltre espresso preoccupazione per il rispetto delle libertà di espressione, pensiero, protesta pacifica, e per l’accesso ai diritti economici, sociali e culturali essenziali e ai servizi umanitari.
“Tecnologie e applicazioni specifiche dovrebbero essere evitate del tutto laddove il la regolamentazione dei reclami sui diritti umani non è possibile”, hanno detto gli esperti.
Gli esperti hanno anche espresso preoccupazione per il fatto che lo sviluppo dell’IA generativa sia guidato da un piccolo gruppo di attori potenti, tra cui imprese e investitori, senza requisiti adeguati per condurre la due diligence sui diritti umani o consultare le persone e le comunità interessate.
E il compito cruciale della regolamentazione interna attraverso la moderazione dei contenuti, è spesso svolto da individui in situazioni di sfruttamento del lavoro, osservano gli esperti indipendenti.
Più trasparenza
“La regolamentazione è urgentemente necessaria per garantire la trasparenza, avvisare le persone quando incontrano media sintetici e informare il pubblico sui dati e sui modelli di formazione utilizzati”, hanno affermato gli esperti.
Gli esperti hanno ribadito i loro inviti alla prudenza sull’uso della tecnologia digitale nel contesto delle crisi umanitarie, dalla raccolta di dati su larga scala, compresa la raccolta di dati biometrici altamente sensibili, all’uso di tecnologie avanzate di sorveglianza mirata.
“Esortiamo alla moderazione nell’uso di tali misure fino a quando le più ampie implicazioni sui diritti umani non saranno pienamente comprese e non saranno messe in atto solide salvaguardie per la protezione dei dati”, hanno affermato.
Crittografia, privacy fondamentale
Hanno sottolineato la necessità di garantire soluzioni tecniche, tra cui forte crittografia end-to-end e accesso illimitato alle reti private virtuali – e proteggere e proteggere le comunicazioni digitali.
“Entrambi l’industria e gli Stati devono essere ritenuti responsabili, anche per il loro impatto economico, sociale, ambientale e sui diritti umani”, hanno affermato. “La prossima generazione di tecnologie non deve riprodurre o rafforzare sistemi di esclusionediscriminazione e modelli di oppressione”.
I relatori speciali e altri esperti in materia di diritti sono tutti nominati dal Consiglio per i diritti umani delle Nazioni Unite, sono incaricati di monitorare e riferire su specifiche questioni tematiche o situazioni nazionali, non fanno parte del personale delle Nazioni Unite e non ricevono uno stipendio per il loro lavoro.
Da un’altra testata giornalistica. news de news.un.org
