Intelligenza artificiale generativa: l’AGCM chiude tre istruttorie sugli obblighi informativi e il rischio di “allucinazioni”

L’Autorità Garante della Concorrenza e del Mercato ha affrontato, nell’ambito della propria attività di vigilanza, uno dei profili più delicati legati all’uso dell’intelligenza artificiale generativa: il fenomeno delle cosiddette “allucinazioni”, ossia la produzione di contenuti inesatti, non verificati o potenzialmente fuorvianti. Si tratta di una caratteristica strutturale di questi sistemi, che incide direttamente sulla qualità dell’informazione fornita agli utenti e, di conseguenza, sulle loro scelte.

L’intervento dell’Autorità si concentra quindi non tanto sull’esistenza del fenomeno – riconosciuto come intrinseco allo stato attuale della tecnologia – quanto sulle modalità con cui esso viene rappresentato e comunicato agli utenti finali. In questa prospettiva, emerge come centrale il tema della trasparenza informativa: i sistemi di intelligenza artificiale, soprattutto quando destinati al grande pubblico, devono rendere espliciti i limiti di affidabilità dei contenuti generati.

Le misure adottate dagli operatori, a seguito del confronto con l’Autorità, si muovono in questa direzione. In particolare, è stata prevista l’introduzione di avvertenze visibili e permanenti all’interno delle interfacce di utilizzo, in grado di segnalare in modo chiaro il rischio di generazione di informazioni non corrette. Tali strumenti sono pensati per accompagnare l’utente durante l’interazione con il sistema, non limitandosi a una comunicazione iniziale ma mantenendo costante il richiamo alla necessità di un uso consapevole.

A ciò si affianca un rafforzamento delle informazioni rese prima dell’utilizzo del servizio, con indicazioni più esplicite sulla natura probabilistica delle risposte fornite dai sistemi di AI e sull’opportunità di verificarle attraverso fonti affidabili. L’obiettivo è spostare l’attenzione dalla percezione di questi strumenti come fonti autorevoli e definitive verso una comprensione più realistica delle loro capacità e dei loro limiti.

Nel caso di alcuni operatori, sono stati inoltre previsti interventi sul piano tecnologico per ridurre l’incidenza delle “allucinazioni”, pur nella consapevolezza che, allo stato attuale, esse non possono essere completamente eliminate. Questo elemento evidenzia un ulteriore profilo rilevante: la gestione del rischio non può essere affidata esclusivamente a soluzioni tecniche, ma richiede un’integrazione tra progettazione dei sistemi e corrette modalità di informazione agli utenti.

Nel complesso, l’azione dell’Autorità contribuisce a delineare un principio destinato ad assumere rilievo crescente nel governo dell’intelligenza artificiale: la necessità che l’innovazione tecnologica sia accompagnata da strumenti di trasparenza idonei a consentire agli utenti di comprendere, e quindi valutare, l’affidabilità delle informazioni con cui interagiscono.