Il 7 giugno 2022 il Comitato per i diritti umani nell’ambito della biomedicina e della salute del Consiglio d’Europa ha pubblicato un report che esamina l’impatto dell’utilizzo dell’intelligenza artificiale (AI) sulla pratica medica e, in particolare, sul rapporto medico-paziente.
Consiglio d’Europa – Report The impact of Artificial Intelligence on the doctor-patient relationship
Anno 2022
Il documento si articola in sei sezioni:
- la sezione 1 introduce il tema;
- la sezione 2 fornisce informazioni di contesto essenziali per trattare il tema dell’AI applicata alla medicina. Dopo aver definito i concetti di AI, algoritmi e machine learning, la sezione analizza i principali problemi etici di carattere generale legati all’uso di algoritmi (opacità, bias, discriminazioni, autonomia, privacy, responsabilità, sicurezza, ecc.). Da ultimo si considerano i diritti dei pazienti facendo particolare riferimento ai principi enucleati nella Convenzione d’Oviedo del 1997. Tra essi si ricordano: il consenso informato (art. 5), il diritto alla privacy (art. 10 co. 1), il diritto a (non) ricevere informazioni circa il proprio stato di salute (art. 10 co. 2), il diritto a non venire discriminati (art. 11) e il diritto ad accedere ai servizi sanitari (art. 3);
- la sezione 3 esamina i tipi di sistemi di intelligenza artificiale che possono essere utilizzati in medicina, categorizzandoli, a seconda dell’ambito applicativo, in: (a) AI per la ricerca biomedica; (b) AI utilizzate direttamente dai pazienti e (c) AI per i professionisti sanitari;
- la sezione 4 definisce il rapporto ideale tra medico e paziente come una relazione di cura e fiducia ove il paziente, in una posizione di vulnerabilità, si affida al medico e alla sua conoscenza, facendo sorgere in capo a quest’ultimo determinati obblighi professionali e morali. In seguito, si evidenzia come l’uso di nuove tecnologie - tra cui l’AI -, pur introducendo nuovi attori nel rapporto-medico-paziente (es. i provider dei sistemi di intelligenza artificiale, gli sviluppatori, ecc.), non modifichi gli elementi cardine di tale relazione: la vulnerabilità del paziente e i doveri morali dei professionisti. Da qui l’esigenza di capire come questi obblighi si declinino nell’era dell’AI applicata alla medicina.
- la sezione 5 rappresenta il nucleo centrale del documento e affronta il tema dell’impatto, attuale e potenziale, dell’utilizzo di sistemi di AI sulla relazione medico-paziente. Nello specifico, vengono affrontati le seguenti questioni:
-
- la possibilità che si creino nuove disparità nell’accesso a servizi sanitari di qualità, sia a causa di utilizzi disomogenei dell’AI a livello mondiale sia per la diminuzione del contatto diretto tra medici e pazienti;
- come l’opacità dei sistemi di AI si ripercuota sulla trasparenza e sulla possibilità, per il paziente, di esprimere il consenso informato in due diversi scenari: quando il medico faccia da intermediario tra la macchina e il paziente e quando quest’ultimo si interfacci direttamente con l’algoritmo;
- il rischio di esacerbare bias sociali già esistenti nel contesto sanitario e di creare nuove forme di discriminazione;
- il rischio che il sanitario si concentri eccessivamente su dati oggettivi perdendo di vista la prospettiva soggettiva del paziente rispetto alla propria salute e benessere;
- il rischio che l’output dell’algoritmo non guidi la decisione del medico ma la sostituisca, con conseguente deskilling e problemi ad individuare il soggetto responsabile in caso di danni;
- l’impatto sul diritto alla privacy.
- Infine, all’interno della sezione 6, vengono effettuate alcune raccomandazioni per sviluppare degli standard etici che assicurino la protezione dei diritti dei pazienti previamente delineati. Tali principi dovranno essere inglobati tanto nella fase di design e sviluppo quanto in quella di utilizzo dell’AI nella pratica clinica. Per elaborarli, si esorta il Consiglio d’Europa ad utilizzare la Convenzione di Oviedo quale punto di partenza, dal momento che questa definisce lo standard minimo di protezione dei diritti umani. In particolare, si raccomanda di:
-
- individuare quali informazioni vadano date al paziente quando si utilizza un sistema di AI nel percorso clinico, come il medico debba dare queste spiegazioni e come il sistema possa aiutarlo a svolgere tale compito. Previamente bisognerà definire cosa si intende per “spiegabilità”;
- introdurre un registro pubblico dei dispositivi medici integrati con l’intelligenza artificiale, in modo da assicurare la trasparenza e la consapevolezza dei cittadini. In questo modo si potrà accrescere la fiducia verso tali tecnologie;
- impegnarsi attivamente a contrastare le discriminazioni, non solo utilizzando dati sensibili per costruire dataset più rappresentativi ma anche adottando politiche che riducano le disuguaglianze.
- In conclusione, viene enfatizzato che, se l’AI verrà usata semplicemente per completare la conoscenza dei medici, la relazione medico-paziente rimarrà improntata sulla fiducia. Qualora venga, invece, fatto un utilizzo più massiccio delle tecnologie di intelligenza artificiale, l’impatto sulla relazione di cura risulta incerto, anche se sembra difficilmente ipotizzabile che le macchine possano sostituire completamente la componente umana.
Il testo del documento è disponibile al seguente link e nel box download
Laura Piva
Pubblicato il: Martedì, 07 Giugno 2022 - Ultima modifica: Lunedì, 09 Ottobre 2023
