Il Governo canadese ha adottato la Directive on Automated Decision-Making con lo scopo di regolare l’uso dei sistemi decisionali automatizzati da parte delle istituzioni federali assicurando l’efficienza delle decisioni amministrative nel rispetto dei diritti e delle libertà fondamentali delle persone.
Canada – Directive on Automated Decision-Making: norme per l'uso dei sistemi decisionali automatizzati da parte delle istituzioni federali
1 aprile 2019
La Directive si pone l’obiettivo di garantire che i sistemi decisionali automatizzati siano utilizzati dal governo federale in modo da ridurre i rischi per i clienti, le istituzioni federali e la società canadese e portare all’adozione di decisioni più efficienti, accurate, coerenti e interpretabili secondo quanto previsto dal diritto vigente. Nello specifico, con questo atto il Governo canadese mira al raggiungimento di decisioni da parte delle istituzioni federali basate sui dati, responsabili e conformi ai requisiti che tutelano l’equità e il giusto processo; alla realizzazione di valutazioni sull’impatto prodotto dagli algoritmi sulle decisioni amministrative e alla riduzione degli esiti negativi, quando questi si verifichino; all’accessibilità, ove opportuno, dei dati e delle informazioni sull’uso dei sistemi decisionali automatizzati all’interno delle istituzioni federali (Sezione 4).
A tale scopo, la Directive on Automated Decision-Making stabilisce che il Viceministro responsabile del programma che impiega il sistema decisionale automatizzato, o qualsiasi altra persona nominata dal viceministro, debba rispettare i seguenti requisiti (Sezione 6):
- Sottoporre il sistema algoritmico ad una valutazione di impatto prima di un suo utilizzo in fase decisionale, applicando i requisiti previsti dall’Appendix C per questo meccanismo di valutazione e aggiornandone i contenuti; e pubblicare i risultati ottenuti da questa analisi.
- Rendere noto l’impiego di sistemi decisionali automatizzati attraverso l’uso di un linguaggio chiaro ed esaustivo; informare i destinatari della decisione sulle sue modalità di realizzazione e sulle ragioni alla base della stessa; dare accesso ai componenti e alle informazioni riguardanti il software impiegato e al codice sorgente, fatte salve le eccezioni previste dal diritto canadese; e fornire la documentazione rilevante riguardante la decisione adottata con un sistema decisionale automatizzato.
- Testare e monitorare i risultati prodotti da questi sistemi per verificare l’assenza di bias non desiderati, che potrebbero incidere sui risultati della decisione, e la conformità alle leggi applicabili nel contesto di impiego; verificare la qualità dei dati utilizzati, la loro tracciabilità, le modalità di raccolta, trattamento, accessibilità, protezione e conservazione secondo quanto disposto dalla normativa canadese vigente; introdurre una revisione e un controllo sulle decisioni algoritmiche da parte di esperti qualificati in materia; realizzare un’analisi dell’impatto di genere durante lo sviluppo e la modifica dei sistemi decisionali automatizzati; prevedere una formazione specifica per gli impiegati sull’uso di questi sistemi intelligenti; introdurre strategie e misure di supporto tecnico; predisporre una valutazione dei rischi che possono presentarsi durante il processo decisionale automatizzato e introdurre le relative garanzie; garantire la legalità del processo decisionale affidato a questi sistemi algoritmici; e assicurare l’intervento umano in questo tipo di decisioni.
- Stabilire appositi strumenti per ricorrere contro le decisioni amministrative adottate con l’uso di sistemi decisionali automatizzati.
- Rendere pubbliche le informazioni sull’efficacia e sull’efficienza di questi sistemi algoritmici.
L'atto normativo, poi, stabilisce che il Chief Information Officer del Canada sia responsabile di fornire una guida a livello intergovernativo sull’impiego dei sistemi decisionali automatizzati; di sviluppare la valutazione dell’impatto algoritmico e conservare la documentazione necessaria; e di impegnarsi per sviluppare strategie, approcci e processi comuni a supporto di un uso responsabile dei sistemi decisionali automatizzati (Sezione 8).
Oltre a ciò, la Directive on Automated Decision-Making, nel determinare le caratteristiche della valutazione di impatto algoritmico prevista, fissa i quattro livelli di impatto (Appendix B) e le relative misure da intraprendere (Appendix C) per mitigare gli effetti negativi di questi sistemi in base ai requisiti previsti alla Sezione 6 della Direttiva.
Infine, la Directive dovrà essere rivista ogni due anni per assicurarne l’aggiornamento alla luce degli eventuali progressi tecnologici in questo settore (Sezione 1.3).
Il testo dell'atto normativo è disponibile al seguente link e nel box download
Marta Fasan
Pubblicato il: Lunedì, 01 Aprile 2019 - Ultima modifica: Lunedì, 02 Ottobre 2023
