Università di Trento

Seguici su

Menu

Menu di navigazione

Vai menu di sezione

PRIN 2022 - MEDICINE+. AI, Law and Ethics for an Augmented and Human-Centered Medicine

MEDICINE+. AI, Law and Ethics for an Augmented and Human-Centered Medicine (2022YB89EH) – CUP E53D23007020006 è un progetto di ricerca di rilevante interesse nazionale (PRIN), finanziato dall'Unione europea - Next Generation EU.
Il progetto è coordinato dall'Università di Trento e dalla Libera Università degli Studi "Maria SS.Assunta" - LUMSA

---

MEDICINE+. AI, Law and Ethics for an Augmented and Human-Centered Medicine (2022YB89EH) – CUP E53D23007020006 is a research project of major national interest (PRIN), funded by the European Union - Next Generation EU.
The project is coordinated by the University of Trento and the Free University of Studies 'Maria SS.Assunta' - LUMSA

L'uso dell'intelligenza artificiale (AI), come supporto al processo decisionale e all'intervento, sta rimodellando in modo ampio e profondo la nozione di medicina, ponendo nuovi vantaggi e preoccupazioni.
Tra i vantaggi dell'AI nell'assistenza sanitaria rientrano: la velocità negli studi clinici, la precisione negli interventi, il supporto alla telemedicina e alla medicina personalizzata, l'aiuto nel rapporto medico-paziente. In questo modo, l'IA può rendere la medicina più efficace e personalizzata, oltre a supportare i medici e responsabilizzare i pazienti.
Tra i rischi dell'AI in medicina ci sono, invece: la possibile presenza di errori e pregiudizi nel processo decisionale, l'opacità dei sistemi di IA (Black Box) con l'impossibilità di motivare e verificare le decisioni cliniche, un processo di dequalificazione e deresponsabilizzazione dei medici (incapacità di prendere decisioni personali e eccessivo affidamento sull'IA: bias di automazione), un processo di de-umanizzazione del rapporto medico-paziente e della medicina.
In questa prospettiva, è fondamentale garantire un'integrazione appropriata tra gli elementi tradizionali e tecnologici, promuovendo una rinnovata partnership umano-artificiale in medicina.
Su questa base, gli obiettivi del progetto sono:
1. Verificare il significato del principio human-in-the-loop in medicina e come gli aspetti etici e legali (in particolare l'AI act) possano contribuire a rifondare una medicina aumentata e allo stesso tempo centrata sull'uomo.
2. Fornire materiale didattico ad accesso aperto per una nuova versione del rapporto medico-paziente. L'interdisciplinarità (diritto, filosofia, informatica, medicina) sarà garantita dalla diversa composizione delle due unità di ricerca.
3. Redigere linee guida partecipative per dare forma a un futuro utilizzo dell'IA in medicina che includa by-design l'empatia, le relazioni sociali, gli aspetti biografici.
Considerata l'ampiezza delle problematiche legate all'uso dell'IA in medicina, sia dal lato dei medici che dei pazienti, ci concentreremo sulle seguenti 3 sfide:
i) Deskilling: questioni etiche e legali legate alla riduzione dell'attenzione e delle competenze umane a causa del crescente utilizzo dell'IA;
ii) Opacità: mancanza di trasparenza dovuta al fenomeno della scatola nera in relazione alle tecniche di IA (machine learning) e difficoltà di accesso al ragionamento nelle decisioni guidate dall'IA.
iii) Indebolimento del rapporto medico-paziente come risultato complessivo.
Per ogni sfida, mostreremo come un controllo umano significativo dell'IA possa supportare una medicina aumentata e centrata sull'uomo, portando a una nuova partnership uomo-artificiale.

L'unità di ricerca di Trento è composta da:

Carlo Casonato, Professore ordinario di Diritto Costituzionale comparato (PI del progetto);
Barbara Marchetti, Professoressa ordinaria di Diritto Amministrativo;
Marta Fasan, Assegnista di ricerca post-dottorato in Diritto Costituzionale comparato

---

The use of Artificial Intelligence (AI), as support for decision making and intervention, is reshaping the notion of medicine largely and deeply, posing new benefits and worries.
Among the advantages of AI in healthcare: speed in clinical trials, precision in interventions, support for telemedicine and personalized medicine, help in doctor-patient relationship. In this way, AI can make medicine more effective and personalised, as well as supporting doctors and empowering patients.
Among the risks of AI in medicine: errors and biases in decision-making process, opacity of AI systems (Black Box) with the impossibility of motivating and verifying clinical decisions, a process of deskilling and deresponsibilization of doctors (inability to making personal decisions and over-reliance on AI: automation bias), a process of de-humanization of the doctor-patient relationship and of medicine.
In this perspective, it is crucial to ensure an integration human-artificial, promoting a renewed human-artificial partnership in medicine.
On this basis, the objectives of the project are:
1. To verify the meaning of the human-in-the-loop principle in medicine and how ethical and legal aspects (particularly the AI act) can help in re-founding an augmented and at the same time human-centered medicine.
2. To provide Open Access educational material for a new version of the doctor-patient relationships. The interdisciplinarity (law, philosophy, computer science, medicine) will be ensured by the diverse composition of the two research units.
3. To draft participatory guidelines to shape a future use of AI in medicine that includes by-design empathy, social relations, biographical aspects.
Given the magnitude of the issues related to the use of AI in medicine, from the side of both doctors and patients, we will focus on the following 3 challenges:
i) Deskilling: ethical and legal issues of reducing human attention and skills due to the increasing use of AI;
ii) Opacity: lack of transparency due to the black box phenomenon in relation to AI techniques (machine learning) and difficulty to access reasoning in AI-driven decisions.
iii) Weakening of the doctor-patient relationship as overall result.
For each challenge, we will show how a meaningful human control of AI can support an augmented and human-centered medicine, leading towards a new human-artificial partnership.

The Trento research unit is composed by:

Carlo Casonato, Full Professor of Comparative Constitutional Law (PI of the project);
Barbara Marchetti, Full Professor of Administrative Law;
Marta Fasan, Postdoctoral Research Fellow in Comparative Constitutional Law

Condividi

Facebook Twitter Whatsapp
torna all'inizio del contenuto
Pubblicato il: Domenica, 03 Marzo 2024 - Ultima modifica: Domenica, 10 Novembre 2024

Informazioni

Biodiritto è un progetto della Facoltà di Giurisprudenza dell'Università di Trento.

Contatti

Links

Seguici su

© 2024 Biodiritto powered by OpenPa con il supporto di OpenContent Scarl

torna all'inizio