L’Intelligenza Artificiale in Medicina: tra innovazione e responsabilità giuridica. Intervista all’Avvocato Elena Maggio

A margine del 3° Congresso Nazionale della Società Italiana di Medicina e Farmaceutica (SIMeF), che si è svolto a Roma dal 17 al 19 marzo scorso, in una tre giorni interamente dedicata al tema “I Nuovi Algoritmi della Salute”, abbiamo intervistato l’Avvocato Elena Maggio, associate presso UniStudio & Gambino Legal and Tax Advisors che da oltre 15 anni si occupa, tra le altre materie, di assistere realtà pubbliche e private che operano nel settore della sanità nella compliance alla normativa in materia di trattamento dei dati personali e, dall’avvento dell’Intelligenza Artificiale, ben prima dell’AI Act, a fornire consulenza anche sugli aspetti legati all’uso di questi sistemi per finalità di cura e di ricerca.

Dopo essersi laureata con lode all’Università degli Studi di Messina, ha conseguito il dottorato di ricerca in “Diritto dei servizi nell’ordinamento italiano ed europeo”, presso l’Università degli Studi di Napoli “Parthenope”, ed è stata per diversi anni assegnista di ricerca presso l’Università Europea di Roma.
Da marzo 2025 è stata nominata giurista esperto in materia di data protection e Intelligenza Artificiale presso la Presidenza del Consiglio dei Ministri – Dipartimento Affari Giuridici e Legislativi.
Nel corso della sessione dedicata a “Responsabilità in Medicina e in Ricerca Clinica: l’AI cambia le regole?”, l’Avvocato ha parlato di “Discrezionalità medica nell’era dell’Intelligenza Artificiale: un nuovo paradigma tra autonomia e responsabilità?”.

Elena Maggio

1. Avvocato Maggio, l’utilizzo dell’Intelligenza Artificiale (AI) in ambito sanitario come cambia il tradizionale binomio di “scienza e coscienza” che guida da sempre il medico?

Il progresso tecnologico ci impone di riflettere su un nuovo paradigma. Tradizionalmente, l’autonomia del medico si basa sulla capacità di valutare i fatti alla luce delle conoscenze scientifiche. Tuttavia, con l’avvento delle ‘evidenze algoritmiche’, ci chiediamo se il binomio “scienza e coscienza” non debba evolversi in un trinomio che includa stabilmente l’algoritmo. Nonostante l’AI Act e la legge n. 132/2025 promuovano una visione antropocentrica in cui l’AI ha un ruolo di mero supporto non vincolante, la realtà clinica ci dice che l’algoritmo arricchisce il bagaglio valutativo del professionista. La vera sfida è garantire che il medico mantenga il suo giudizio critico, evitando una passiva adesione agli output tecnologici.

2. Uno dei temi più complessi che Lei affronta nella sua attività di consulenza è quello dei bias e dell’opacità dei sistemi, la cosiddetta “Black Box”. Cosa pensa si possa fare per evitare queste derive?

Il problema è che non può esserci vera discrezionalità senza comprensione del ragionamento che ha condotto il sistema a offrire quel suggerimento e non un altro. Esistono molteplici rischi di distorsioni cognitive, percezioni errate che inducono alla formazione di un pensiero che contiene stereotipie e pregiudizi che possono interessare anche i processi di Intelligenza Artificiale, inficiando gli output e quindi le decisioni.
Questi pregiudizi, i bias appunto, possono essere umani, statistici o computazionali, possono dipendere dalla selezione dei dati e delle sorgenti, o verificarsi nell’elaborazione o nel raggruppamento degli stessi, essere mutuati da altri sistemi, o generati nel processo di apprendimento, ma comunque possono incidere sull’output finale, inficiandone congruità o imparzialità.
Per questo, nella mia attività, pongo un accento fondamentale sulla trasparenza e sulla spiegabilità: il medico deve conoscere la logica del sistema per poterne valutare l’effettiva affidabilità e individuare eventuali bias che potrebbero inficiare l’esito clinico.

3. Parlando di responsabilità giuridica, cosa accade se un medico decide di discostarsi da un suggerimento dell’AI che poi si rivela corretto? Lo “scudo” fornito oggi dalle linee guida previste dalla Legge Gelli-Bianco è ancora sufficiente?

Quello che ponete è un punto nodale. Attualmente, la Legge Gelli-Bianco tutela il medico che aderisce alle linee guida e alle buone pratiche, nulla viene detto riguardo ai suggerimenti forniti dall’AI. Se il medico segue le linee guida ma si discosta dall’AI, in linea di principio è protetto. Tuttavia, se l’algoritmo si dimostrasse nel caso specifico più attinente e preciso rispetto ai parametri standardizzati nelle linee guida, quello “scudo” potrebbe incrinarsi. Dando per presupposto che a legislazione vigente nessuna norma potrebbe imporre a un operatore sanitario di assecondare l’AI, cionondimeno il medico che decide di divergere dai suggerimenti ricevuti dovrà essere pronto a fornire una solida giustificazione scientifica per la propria scelta difforme.
Al tempo stesso, il medico non può trincerarsi dietro affermazioni come “l’ha detto l’Intelligenza Artificiale”; dovrà, infatti, dimostrare di aver verificato il suggerimento alla luce delle linee guida e/o della specificità del caso concreto. Anche perché, se il medico seguisse acriticamente l’algoritmo ignorando falle macroscopiche, incorrerebbe in un automation bias, ossia nel pregiudizio che l’AI sia più efficiente delle valutazioni umane, che lungi dall’essere una scusante, diventa un profilo di colpa per negligenza professionale. La diligenza richiesta oggi agli operatori sanitari include, infatti, anche la capacità di esercitare un approccio critico sui suggerimenti dell’AI.
D’altronde, lo scenario in cui il giudizio clinico esperto corregge un’indicazione errata dell’AI rimane il valore insostituibile della professione medica. Anche perché, la giurisprudenza e la nuova legge 132/2025 sono chiare: la decisione finale e la responsabilità rimangono in capo all’uomo.

4. In questo contesto che ruolo hanno le strutture sanitarie nella gestione del rischio legato all’uso di sistemi di AI?

La struttura sanitaria ha precisi doveri organizzativi: deve scegliere, verificare e aggiornare costantemente i sistemi messi a disposizione, come previsto dall’art. 7 della legge 132/2025. Esiste una specifica responsabilità della struttura per “difetto di organizzazione” se i sistemi non sono scelti da fornitori adeguati, non sono sottoposti a manutenzione o se vengono affidati a personale non adeguatamente formato.
Personalmente, nei contratti che predispongo tra strutture e fornitori, cerco sempre di inserire manleve negoziali, in caso di utilizzo di dati di scarsa qualità o non adeguatamente significativi per l’addestramento, proprio per tutelare le strutture sanitarie e, conseguentemente, i medici.
Anche curare la formazione del personale ha un ruolo essenziale. In questo settore, rispetto a tanti altri, registro con grande favore la crescente richiesta di formazione in materia di AI, richiesta che nasce innanzitutto dagli stessi operatori sanitari che sono i primi a voler acquisire dimestichezza con le nuove tecnologie e a cercare di capirne l’effettiva affidabilità e i margini di impiego.