Nel marzo 2024 l’OCSE ha pubblicato un Explanatory memorandum al fine di chiarire la definizione di sistema di AI adottata nella Raccomandazione sull’intelligenza artificiale e modificata nel novembre 2023.
OCSE – Explanatory memorandum on the updated OECD definition of an AI system: memorandum sull’aggiornamento della definizione di sistema di AI
Anno 2024
Il documento contestualizza tale aggiornamento all’interno del più ampio processo di esame dell'attuazione, della diffusione e della pertinenza della Raccomandazione, portato a termine nel maggio 2024. Il testo precisa anche che le attività di analisi relative alla definizione di sistema di AI sono state anticipate al novembre 2023 a causa della sua importanza nel processo di revisione, nonché per favorire un ampio allineamento delle definizioni proposte nei diversi tentativi di costituzione di strutture di governance dell’AI in corso nell'Unione europea e in altri ordinamenti.
L’Explanatory memorandum presenta, quindi, la seguente definizione aggiornata di sistema di AI: “un sistema basato su una macchina che, per obiettivi espliciti o impliciti, deduce dagli input ricevuti come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. I diversi sistemi di AI variano nei loro livelli di autonomia e adattabilità dopo l'implementazione”.
Successivamente, il documentodescrive i vari elementi sopra menzionati. Infatti, la portata della definizione dovrebbe essere valutata a seconda del contesto, in quanto essa tipicamente comprende tecniche (dal machine learning al knowledge-based) e applicazioni che sono in continua evoluzione.
- In relazione al ruolo degli esseri umani, la Raccomandazione individua l’agency umana, l'autonomia e la supervisione come valori chiave. In particolare, l'autonomia di un sistema di AI indica la sua capacità di operare senza intervento umano, considerato che la supervisione umana può avvenire in qualsiasi fase del ciclo di vita del sistema, mentre l'adattabilità viene associata all'apprendimento automatico e permette ai sistemi di evolversi e adattarsi a nuovi dati e informazioni anche dopo l'implementazione. Il memorandum specifica anche che la individuazione e lo sviluppo degli obiettivi dei sistemi di AI, anche se impliciti, possono essere sempre ricondotti alla persona umana.
- Un ambiente è uno spazio (fisico o virtuale) parzialmente o totalmente osservabile tramite dati e input di sensori e influenzato dalle azioni (sulla base di attuatori). Sensori e attuatori possono essere umani o meccanici.
- Gli obiettivi dei sistemi di AI possono essere espliciti o impliciti. Gli obiettivi espliciti sono definiti dall’essere umano e codificati direttamente nel sistema, ma la loro definizione può essere complessa e portare a conseguenze inattese, creando un disallineamento con l'intento dello sviluppatore. Invece, gli obiettivi impliciti possono derivare da regole specificate dalla persona umana, dai dati di addestramento, o non essere conosciuti in anticipo. I sistemi di AI possono presentare uno o più tipi di obiettivi, integrati anche dai comandi degli utenti.
- L'input viene utilizzato sia durante lo sviluppo (ad esempio sotto forma di dati di addestramento per i modelli di apprendimento automatico), sia successivamente all’implementazione dei sistemi di AI, guidando il sistema (sotto forma di dati o di comandi dell’utente) nella generazione dell’output.
- Costruzione di sistemi e modelli di IA. I sistemi di AI integrano uno o più modelli sviluppati manualmente o automaticamente attraverso algoritmi e dati di input. Sebbene esistano più interpretazioni del termine modello, esso viene utilizzato per indicare un componente chiave del sistema che utilizza i dati di input al fine di produrre output tramite inferenze. I modelli possono essere elaborati da sviluppatori umani o automaticamente attraverso, ad esempio, tecniche di apprendimento automatico non supervisionate, supervisionate o di rinforzo e vengono periodicamente aggiornati e riaddestrati secondo le necessità. In particolare, le tecniche di apprendimento automatico si basano sull’addestramento sui dati per identificare schemi e generare modelli, mentre l'AI simbolica utilizza rappresentazioni logiche o probabilistiche, generate dall'essere umano o da una macchina, per inferire risultati come previsioni e decisioni e può anche utilizzare tecniche di apprendimento automatico.
- Il concetto di inferenza si riferisce generalmente alla capacità di un sistema di generare un output dai propri input, tipicamente dopo l'implementazione. Nel contesto in esame, il concetto deve intendersi riferito anche alla fase di sviluppo del sistema di AI.
- Gli output di un sistema di AI includono generalmente raccomandazioni, previsioni e decisioni, con livelli variabili di coinvolgimento umano (ad esempio, le decisioni prevedono il massimo grado di autonomia del sistema). La revisione della definizione ha incluso il riferimento ai contenuti in ragione della rilevanza raggiunta dai sistemi di AI generativa, i quali possono creare testo, immagini, audio e video.
Il testo raccomanda anche, nell’applicazione pratica delle indicazioni contenute nell’Explanatory Memorandum, di utilizzare criteri aggiuntivi per adattare la definizione al contesto specifico.
Infatti, la definizione aggiornata di AI è inclusiva e comprende un insieme di tecnologie e tecniche applicabili a molte situazioni diverse. Tuttavia, tecniche specifiche, come l'apprendimento automatico, e alcuni contesti di utilizzo possono sollevare problematiche e preoccupazioni più significative di altri.
Il testo del documento è disponibile al seguente link e nel box download.
Giulia Olivato
Pubblicato il: Martedì, 05 Marzo 2024 - Ultima modifica: Lunedì, 03 Giugno 2024
