La Commissione europea per l’efficienza della giustizia (CEPEJ), ha redatto una Carta etica che sancisce formalmente cinque princìpi fondamentali sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari.
Consiglio d’Europa – CEPEJ – Carta etica sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari
Anno 2018
I princìpi stabiliti da questa Carta sono: il principio del rispetto dei diritti fondamentali, il principio di non discriminazione, il principio di qualità e sicurezza, il principio di trasparenza, imparzialità ed equità e infine il principio del controllo da parte dell’utilizzatore.
Con riguardo al primo principio, il trattamento di decisioni e dati giudiziari deve avere finalità chiare, che rispettino i diritti fondamentali sanciti dalla CEDU e dalla Convenzione sulla protezione delle persone rispetto al trattamento automatizzato di dati di carattere personale del 1981. Gli strumenti di intelligenza artificiale devono soprattutto garantire il diritto di accesso a un giudice e il diritto a un equo processo ed essere utilizzati nel rispetto dei princìpi dello stato di diritto e dell’indipendenza dei giudici.
I sistemi di IA utilizzati non devono, poi, riprodurre o aggravare le discriminazioni che possono sussistere in un giudizio. È necessario invece che si sorvegli l’operato dell’algoritmo, specialmente quando il trattamento si basa direttamente o indirettamente su dati sensibili.
La Carta ritiene, inoltre, auspicabile la formazione di squadre di progetto miste al fine di produrre modelli funzionali rispettosi dei princìpi etici e giuridici. In questo senso, i programmatori di sistemi di machine learning dovrebbero poter ricorrere alle competenze dei giuristi e di altri esperti di scienze sociali nella progettazione di questa tecnologia.
Per quanto riguarda il quarto principio, si ritiene che debba essere raggiunto un equilibrio tra la tutela della proprietà intellettuale e l’esigenza di trasparenza (intesa come accesso al processo creativo) e tra l’imparzialità (ossia assenza di pregiudizi) e l’equità (cioè privilegiare gli interessi della giustizia) quando si utilizzano strumenti che possono avere conseguenze giuridiche. La Carta considera utile che il sistema possa essere spiegato con un linguaggio familiare e chiaro.
La CEPEJ ritiene inoltre necessario affermare l’autonomia dei professionisti che si affidano a questi strumenti, la quale deve essere rafforzata e non limitata da questi sistemi. I professionisti, infatti, devono avere la libertà di potersi anche distanziare dai risultati prodotti dal sistema di AI.
Gli autori della Carta auspicano infine che avvenga una generale alfabetizzazione informatica per gli utilizzatori dei sistemi di intelligenza artificiale.
Il documento può essere consultato a questo link e nel box del download.
Niccolò Martinello
Pubblicato il: Lunedì, 03 Dicembre 2018 - Ultima modifica: Sabato, 25 Maggio 2024
