L'OMS ha pubblicato un documento contenente le principali raccomandazioni che gli sviluppatori, i produttori, i policy-makers, i regolatori, gli organi legislativi e gli operatori sanitari dovrebbero seguire e adottare nella produzione e nell’applicazione dei sistemi di intelligenza artificiale (AI) all’interno del contesto sanitario.
OMS – Regulatory considerations on artificial intelligence for health: raccomandazioni sullo sviluppo e sull'uso dell'intelligenza artificiale in ambito medico
Anno 2023
Il documento, elaborato dal Working Group on Regulatory Considerations on AI for Health, mira a fornire una panoramica complessiva delle iniziative che dal punto di vista regolatorio dovrebbero essere seguite e implementate, anche in termini di best practices, in riferimento all’uso dell’AI in ambito medico per implementare la tutela della salute delle persone.
Nello specifico, il documento indica le seguenti aree e azioni di intervento:
- Documentazione e trasparenza: è auspicabile che sia specificato e documento in anticipo lo scopo medico del sistema di AI e il relativo processo di sviluppo, fornendo informazioni sulla selezione e sull’uso dei dataset, sugli standard di riferimento, sui parametri e sulle metriche del sistema, sulla possibilità che si verifichino deviazioni e aggiornamenti rispetto alla programmazione originale durante la realizzazione dell’AI, con lo scopo di consentire un’appropriata tracciabilità di tutte le fasi di sviluppo del sistema. Inoltre, si raccomanda l’adozione di un approccio basato sul rischio anche per quanto riguarda il livello di documentazione richiesta per lo sviluppo e per la convalida dei sistemi di AI e per la conservazione dei relativi documenti.
- Approcci relativi alla gestione del rischio e al ciclo di vita dello sviluppo dei sistemi di AI: si raccomanda l’adozione di un approccio regolatorio che sia riferito al ciclo di vita completo del sistema di AI e cioè alla gestione dello sviluppo precedente all’immissione in commercio, alla sorveglianza del sistema post immissione in commercio e alla gestione delle modifiche che si rendano necessarie. Inoltre, risulta essenziale promuovere un approccio alla gestione del rischio che sappia affrontare i rischi riconducibili all’AI, come le minacce e le falle in termini di cybersicurezza, i rischi di underfitting e i bias algoritmici.
- Uso previsto e convalida analitica e clinica: è necessario fornire una documentazione trasparente dell’uso previsto per il sistema di AI. Devono, poi, essere documentati in modo trasparente e essere forniti agli utenti tutti i dettagli sulla composizione del dataset impiegato per addestrare il sistema intelligente, comprese le dimensioni, il contesto e la popolazione, i dati di input e di output e la composizione demografica. Si raccomanda, inoltre, di considerare la possibilità di dimostrare le prestazioni dell’AI ricorrendo ad un meccanismo di convalida esterno basato su un dataset indipendente e rappresentativo della popolazione e del contesto in cui si intende usare il sistema di AI, con l’obbligo di fornire in modo trasparente la documentazione sul dataset esterno e sulle metriche di prestazione. Per quanto concerne la convalida clinica basata sul rischio, il documento sottolinea come gli studi clinici randomizzati, considerati il gold standard per la valutazione delle prestazioni cliniche, potrebbero essere gli strumenti appropriati per la convalida dei sistemi più ad alto rischio o per cui è richiesto un più elevato standard di evidenza scientifica. In altri casi si raccomanda la realizzazione di una validazione prospettica del sistema di AI qualora si debba realizzare uno studio di implementazione e impiego nel mondo reale. Infine, il documento raccomanda la previsione di un periodo di monitoraggio più intenso dopo l’implementazione dei sistemi di AI attraverso la sorveglianza nella fase successiva all’immissione nel mercato.
- Qualità dei dati: il documento richiede agli sviluppatori di valutare se i dati disponibili sono di qualità sufficiente a supportare lo sviluppo dell’AI per raggiungere lo scopo prefissato, prendendo anche in considerazione l’opportunità di implementare valutazioni rigorose per garantire che il sistema di AI non amplifichi la produzione di pregiudizi ed errori. In questi termini, un’attenta progettazione e la predisposizione di un sistema di risoluzione dei problemi possono aiutare ad identificare i problemi di qualità dei dati e possono prevenire o mitigare i possibili danni che da ciò possono derivare. Inoltre, gli stakeholder devono considerare la possibilità di mitigare i problemi di qualità dei dati e i rischi associati che derivano dall’uso dei dati sanitari e creare ecosistemi di dati per facilitare la condivisione di dati di buona qualità.
- Privacy e protezione dei dati personali: si raccomanda che la privacy e la protezione dei dati personali siano prese in considerazione durante la progettazione e l’implementazione dei sistemi di AI, nel pieno rispetto della normativa vigente e applicabile in questo settore. Il documento sottolinea poi l’importanza di implementare un programma di conformità che affronti i rischi prospettabili e che assicuri che le misure atte a tutelare la privacy tengano conto dei potenziali danni prospettabili e dell’ambiente di applicazione.
- Coinvolgimento e collaborazione: il documento raccomanda nello sviluppo delle future roadmap per l’innovazione e la diffusione dell’AI l’importanza di considerare lo sviluppo di piattaforme accessibili e informative che facilitino l’impegno e la collaborazione tra le principali parti coinvolte nello sviluppo di questa tecnologia, contribuendo così a snellire il processo di regolamentazione dell’AI e ad accelerare i progressi dell’AI che cambieranno la pratica medica.
Infine, il documento invita gli stakeholders, gli organi regolatori e i produttori a continuare a impegnarsi nel dialogo e nella condivisione reciproca di informazioni, raccomandando a gruppi nazionali e internazionali, come l’International Medical Device Regulators Forum e l’International Coalition of Medicines Regulatory Authorities, di continuare a lavorare per realizzare una convergenza e un’armonizzazione della normativa rilevante in materia di AI.
Il testo del documento è disponibile al seguente link e nel box download
Marta Fasan
Pubblicato il: Giovedì, 19 Ottobre 2023 - Ultima modifica: Martedì, 05 Dicembre 2023
