Oreste Pollicino: “AI Act e trasparenza, la riconoscibilità dell’intelligenza artificiale come condizione dell’autonomia digitale”

di Oreste Pollicino

Professore ordinario di Diritto costituzionale presso l’Università Bocconi di Milano e socio fondatore di IAIC – Italian Academy of the Internet Code

Le nuove Linee guida della Commissione europea sull’articolo 50 dell’AI Act chiariscono un punto fondamentale: la trasparenza nell’intelligenza artificiale non può essere intesa come una semplice informazione aggiuntiva da fornire all’utente, né come un’etichetta da apporre a valle dell’interazione. Essa deve essere concepita come una responsabilità incorporata nell’architettura dei sistemi e lungo l’intera catena di produzione, diffusione e utilizzo dei contenuti. Non è sufficiente indicare, all’interno dei termini d’uso, che un determinato servizio utilizza sistemi di intelligenza artificiale.

La natura artificiale dell’interazione deve risultare riconoscibile nel contesto concreto in cui l’utente si trova a operare, sin dal primo momento del rapporto con il sistema. Nei contesti più sensibili — quali quelli che coinvolgono minori, persone vulnerabili, servizi di consulenza sanitaria, finanziaria o legale, nonché gli AI companions — tale esigenza richiede forme di richiamo periodico che mantengano costante la consapevolezza dell’utente circa la natura del soggetto con cui sta interagendo. Particolarmente significativa è la disciplina dedicata agli agenti di intelligenza artificiale. Questi sistemi sono chiamati a rendere evidente non soltanto la propria natura artificiale, ma anche il soggetto per conto del quale agiscono. Alla trasparenza dell’identità del sistema si affianca così una dimensione ulteriore: quella della delega e, conseguentemente, dell’attribuzione della responsabilità.

Sapere chi o che cosa sta agendo attraverso un sistema di AI diventa una condizione essenziale per ricostruire la titolarità delle decisioni e delle conseguenze prodotte. La medesima logica attraversa la disciplina dei contenuti sintetici. Da un lato, i provider sono chiamati a garantire adeguati meccanismi tecnici di marcatura; dall’altro, i deployer devono assicurare una disclosure percepibile da parte degli utenti. Un’eccezione è prevista per i testi di interesse pubblico sottoposti a un controllo umano realmente sostanziale e riconducibili a una precisa responsabilità editoriale: in questi casi, il valore della responsabilità umana assume un ruolo centrale nel bilanciamento tra trasparenza e libertà di espressione. Non siamo, dunque, di fronte a una semplice esigenza di “igiene informativa”.

La disciplina sulla trasparenza dell’AI Act rappresenta un tentativo più ampio di preservare, nello spazio comunicativo mediato dall’intelligenza artificiale, le condizioni minime dell’autonomia individuale, della fiducia collettiva e della partecipazione democratica. In un ecosistema nel quale voci, immagini e testi possono essere generati o modificati artificialmente, riconoscere quando dietro una comunicazione non vi sia una persona costituisce una precondizione per poter esercitare pienamente la propria capacità di valutazione e scegliere consapevolmente se e quanto affidarsi a ciò che si riceve.

Approfondimenti:

• Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’)