Prima che un farmaco venga approvato dalla Food and Drug Administration (FDA) statunitense, deve dimostrare sia la sicurezza che l’efficacia. Tuttavia, la FDA non richiede la comprensione del meccanismo d’azione di un farmaco per l’approvazione. Questa accettazione dei risultati senza spiegazione solleva la questione se il processo decisionale della “scatola nera” di un modello di intelligenza artificiale sicuro ed efficace debba essere completamente spiegato per ottenere l’approvazione della FDA.
Questo argomento è stato uno dei tanti punti di discussione affrontati durante il Clinica Abdul Latif Jameel del MIT per l’apprendimento automatico nel settore sanitario (Clinica Jamel) Conferenza sull’intelligenza artificiale e sulla regolamentazione sanitaria, che ha acceso una serie di discussioni e dibattiti tra docenti, regolatori di Stati Uniti, UE e Nigeria; ed esperti del settore in merito alla regolamentazione del L’intelligenza artificiale nella sanità.
Poiché l’apprendimento automatico continua a evolversi rapidamente, persiste l’incertezza sulla capacità delle autorità di regolamentazione di tenere il passo e ridurre comunque la probabilità di un impatto dannoso, garantendo al tempo stesso che i rispettivi paesi rimangano competitivi nell’innovazione. Per promuovere un ambiente di discussione schietta e aperta, la partecipazione all’evento della Jameel Clinic è stata altamente curata per un pubblico di 100 partecipanti che dibattevano attraverso l’applicazione della Chatham House Rule, per consentire ai relatori l’anonimato per discutere opinioni e argomenti controversi senza essere identificati come la fonte .
Piuttosto che ospitare un evento per generare buzz sull’intelligenza artificiale nel settore sanitario, l’obiettivo della Jameel Clinic era quello di creare uno spazio per tenere informati i regolatori sui progressi più all’avanguardia nel campo dell’intelligenza artificiale, consentendo al contempo a docenti ed esperti del settore di proporre approcci nuovi o diversi alla regolamentazione. quadri per l’IA nella sanità, in particolare per l’uso dell’IA in contesti clinici e nello sviluppo di farmaci.
Il ruolo dell’intelligenza artificiale in medicina è più rilevante che mai, in un momento in cui il settore si trova a fronteggiare una carenza di manodopera post-pandemia, un aumento dei costi (“Non è un problema salariale, nonostante la credenza comune”, ha affermato un relatore), nonché alti tassi di burnout e dimissioni. tra gli operatori sanitari. Un relatore ha suggerito che le priorità per l’implementazione dell’IA clinica dovrebbero concentrarsi maggiormente sugli strumenti operativi piuttosto che sulla diagnosi e sul trattamento del paziente.
Un partecipante ha sottolineato una “chiara mancanza di istruzione in tutti i componenti, non solo tra le comunità di sviluppatori e i sistemi sanitari, ma anche tra i pazienti e gli enti regolatori”. Dato che i medici sono spesso i principali utenti degli strumenti clinici di intelligenza artificiale, alcuni dei medici presenti hanno chiesto alle autorità di regolamentazione di consultarli prima di agire.
La disponibilità dei dati è stata una questione chiave per la maggior parte dei ricercatori sull’intelligenza artificiale presenti. Si sono lamentati della mancanza di dati per far funzionare in modo efficace i loro strumenti di intelligenza artificiale. Molti hanno dovuto affrontare ostacoli come la proprietà intellettuale che ne impediva l’accesso o semplicemente la carenza di set di dati di grandi dimensioni e di alta qualità. “Gli sviluppatori non possono spendere miliardi per creare dati, ma la FDA può”, ha sottolineato un relatore durante l’evento. “C’è un’incertezza sui prezzi che potrebbe portare a investimenti insufficienti nell’intelligenza artificiale”. I relatori dell’UE hanno sollecitato lo sviluppo di un sistema che obblighi i governi a rendere disponibili i dati sanitari ai ricercatori sull’intelligenza artificiale.
Al termine dell’evento, durato un giorno, molti dei partecipanti hanno suggerito di prolungare la discussione e hanno elogiato la cura selettiva e l’ambiente chiuso, che hanno creato uno spazio unico favorevole a discussioni aperte e produttive sulla regolamentazione dell’IA in ambito sanitario. Una volta confermati i futuri eventi di follow-up, la Jameel Clinic svilupperà ulteriori workshop di natura simile per mantenere lo slancio e tenere aggiornati gli enti regolatori sugli ultimi sviluppi nel settore.
Un partecipante ha riconosciuto: “La stella polare per qualsiasi sistema normativo è la sicurezza. “Il pensiero generazionale nasce da lì e opera a valle”.
Scritto da E Abdul Latif Jamel
Da un’altra testata giornalistica. news de www.technology.org
