Il Parlamento cileno sta discutendo una proposta di legge il cui scopo è regolamentare lo sviluppo, la messa in commercio, la distribuzione e l’utilizzo dei sistemi di intelligenza artificiale (AI) in diversi ambiti applicativi, al fine di salvaguardare i diritti fondamentali dei cittadini.
Cile – proposta di legge n. 15869-19 sui sistemi di intelligenza artificiale, la robotica e le tecnologie connesse
24 aprile 2023
Numero
15869-19
La proposta di legge si basa sul principio, recentemente riconosciuto dalla Costituzione cilena all’art. 19 comma 1, secondo cui lo sviluppo scientifico e tecnologico deve essere messo al servizio delle persone (considerando n. 6). L’obiettivo del testo è, pertanto, quello di elaborare regole relative ai sistemi di intelligenza artificiale, così da sfruttarne le potenzialità e da limitarne i rischi per i cittadini.
Il testo trova quale fonte di ispirazione l’AI Act elaborato dall’Unione europea (considerando n. 2) e, infatti, prevede un trattamento differenziato per i sistemi di AI a seconda della loro classe di rischio.
Dopo aver illustrato lo scopo della legge (art. 1), vengono enunciate alcune definizioni (art. 2). In particolare, i sistemi di intelligenza artificiale vengono definiti in modo ampio, come software sviluppati a partire da una o più delle seguenti tecniche: (a) apprendimento automatico; (b) approcci basati sulla logica e sulla conoscenza, compresa la conoscenza induttiva e i sistemi esperti; (c) metodi statistici, stima bayesiana, metodi di ricerca e ottimizzazione.
L’art. 3 individua i sistemi che pongono un rischio inaccettabile per i cittadini e che, pertanto, non potranno essere prodotti, commercializzati e utilizzati in Cile (art. 8). Tra essi figurano:
- I sistemi che utilizzano tecniche subliminali o che sfruttano le vulnerabilità di alcuni gruppi di persone per manipolarne il comportamento, così da rendere attuale o probabile il rischio di danni fisici o psicologici per l’utilizzatore o un terzo;
- I sistemi che vengono usati dalle autorità pubbliche per valutare l’affidabilità delle persone (es. sistemi di social scoring) quando tale valutazione risulti in un trattamento discriminatorio in un ambito scollegato da quello oggetto di stima o comunque ingiustificato o sproporzionato;
- I sistemi di identificazione biometrica da remoto utilizzati negli spazi pubblici (in tempo reale o in differita), salvo alcune eccezioni previste per le forze di polizia debitamente autorizzate da un provvedimento del Tribunale.
L’art. 4 definisce, invece, sistemi ad alto rischio quelli che vengono utilizzati per l’identificazione biometrica da remoto negli spazi privati, per la gestione di risorse essenziali come acqua, elettricità e gas nonché in aree specifiche come l’educazione, il lavoro, la finanza, l’accesso ai servizi pubblici, la giustizia, l’immigrazione. Comportano un alto rischio anche tutti i sistemi suscettibili di compromettere la salute e la sicurezza dei cittadini o di incidere in modo negativo sui loro diritti fondamentali.
Tutti i produttori di sistemi di AI dovranno richiedere alla Commissione Nazionale sull’Intelligenza Artificiale l’autorizzazione a mettere in commercio il loro dispositivo (art. 6). Nel caso in cui il sistema sia ad alto rischio il produttore dovrà soddisfare i requisiti elencati all’art. 9, i quali richiedono di:
- elaborare un piano di gestione dei rischi e uno di gestione dei dati;
- assicurare che i dati utilizzati siano adeguati alla finalità del sistema;
- prevedere un sistema di gestione della qualità;
- fornire istruzioni d’uso complete delle informazioni circa il produttore, le caratteristiche e le capacità del sistema (inclusi i suoi limiti), il modo in cui si può effettuare il controllo umano e le misure di manutenzione del sistema;
- includere misure volte a garantire la sorveglianza umana, tra cui un meccanismo specificamente destinato ad avviare, interrompere e spegnere il sistema;
- dimostrare che il sistema è sufficientemente accurato, robusto e sicuro sia da un punto di vista informatico, sia davanti a possibili tentativi di alterazione da parte di terzi;
Tutti i soggetti che utilizzano sistemi di AI che interagiscono con persone dovranno poi rendere noto a quest’ultime che si stanno rapportando a un’intelligenza artificiale, a prescindere dalla classe di rischio del sistema. Allo stesso modo, vigono obblighi di trasparenza in relazione a immagini, suoni e video realizzati da AI (art. 10).
Oltre a pronunciarsi sulle domande di autorizzazione presentate dagli sviluppatori, la Commissione Nazionale sull’Intelligenza Artificiale dovrà anche: (1) sviluppare raccomandazioni per migliorare la regolamentazione dei sistemi di AI; (2) elaborare un report annuale; (3) creare e gestire un registro nazionale dei sistemi AI; (4) decidere sulle segnalazioni di incidenti gravi o malfunzionamenti dei sistemi (art. 5). Infatti, tanto i produttori quanto gli utilizzatori sono tenuti a segnalare tali incidenti alla Commissione (art. 11).
Da ultimo, gli artt. 14 e 15 stabiliscono sanzioni per i produttori, i fornitori e gli utilizzatori che non rispetteranno le norme contenute nella legge.
Il testo della proposta di legge è disponibile al seguente link e nel box download.
Laura Piva
Pubblicato il: Lunedì, 24 Aprile 2023 - Ultima modifica: Giovedì, 02 Novembre 2023
