Intervista al Prof. Roberto Pucella in occasione del convegno “Intelligenza Artificiale in medicina: responsabilità, consenso e dati”

Roberto Pucella è professore ordinario nel Dipartimento di Giurisprudenza dell’Università di Bergamo, ove insegna Diritto Civile, anche nel Corso per Allievi Ufficiali presso l’Accademia della Guardia di Finanza.

Si occupa di diritti della persona e di responsabilità civile, con particolare attenzione alla responsabilità sanitaria. Dirige la rivista Responsabilità medica. Diritto e pratica clinica; fa parte della Direzione di Responsabilità civile e previdenza e del comitato editoriale di Nuova giurisprudenza civile commentata.

Il Prof. Roberto Pucella 

Nel Suo intervento ha distinto tra la dimensione tecnica della proposta terapeutica e quella del diritto fondamentale all’autodeterminazione del paziente. Come ritiene che il principio del consenso informato debba evolvere per garantire questa distinzione nell’era degli algoritmi e dell’intelligenza artificiale?

La complessità delle questioni legate al c.d. consenso informato nasce da un equivoco antico, originato dal ben noto modello di relazione tra medico e paziente fondato sul “paternalismo”; modello che si è imposto in Italia per alcune decine di anni. Quel tipo di relazione poggiava su due premesse, espressione entrambe del contesto socio-culturale in cui trovavano la propria affermazione: la prima confinava l’idea di “salute” alla sola integrità organica, vale a dire al benessere del corpo-macchina. La seconda, in connessione logica con la prima, individuava la funzione dell’atto medico nella dimensione curativa del corpo; grossolanamente, potremmo dire, nell’eliminazione della malattia e nella restituzione al paziente della miglior salute per lui possibile. È facile comprendere come, in questo contesto, il tema dell’acquisizione del consenso del paziente al trattamento terapeutico fosse privo di una significativa rilevanza: infatti, ove il ruolo del medico è limitato all’individuazione della migliore cura praticabile, allora l’intera dimensione del rapporto medico-paziente si riduce ad una questione tecnica (vale a dire alla scelta dell’atto terapeutico, cui il malato, di necessità, si sottopone fiduciosamente), in merito alla quale l’unico soggetto che ha ragione di pronunciarsi è il professionista, con la sua competenza. Al paziente altro non resta se non dare il proprio assenso (o rifiuto) a quella proposta, tramite una manifestazione di volontà che viene espressa mediante quella nota procedura invalsa nei nostri ospedali – tanto formale quanto sostanzialmente inutile – consistente nel fare apporre al paziente la propria firma in calce ad un modulo di consenso il cui contenuto non gli è sovente stato adeguatamente illustrato e del quale spesso egli non ha nemmeno preso visione. Affinché la relazione tra medico e paziente cambi – e, con essa, anche il senso e la funzione dell’acquisizione del consenso del malato alla proposta terapeutica – è necessario che si modifichino il ruolo e la funzione del medico, che da mero somministratore di cure deve divenire parte di quella “alleanza terapeutica” di cui oggi tanto si parla e che si trova formalmente consacrata anche nel principio di cui all’art. 1, comma 8°, della legge n. 219/2017, secondo cui “il tempo della comunicazione tra medico e paziente costituisce tempo di cura”. Ma – viene da chiedersi – in quale modo la relazione medico-paziente deve evolversi affinché l’enunciato normativo non rimanga lettera morta o non si traduca in un gesto vuoto o, peggio ancora, nell’assolvimento di una procedura burocratica? La risposta alla domanda va cercata in quella lenta, ma progressiva maturazione dei valori culturali del nostro sistema che ha condotto ad una nuova lettura del concetto di salute. Questa è la svolta. Solo liberando l’idea di “salute” dalla sua necessaria identificazione con l’assenza di malattia la relazione di cura ha potuto arricchirsi di un significato che valorizzasse anche il ruolo del paziente. E ciò è potuto accadere quando nella dimensione della salute sono confluiti altri valori della persona come la dignità, la percezione del sé, l’integrità; valori, tutti, che a loro volta compongono il diritto di cui qui stiamo parlando, vale a dire l’autodeterminazione terapeutica. Il bene salute viene così ad esprimere una diversa idea di benessere dell’individuo, che non coincide con la sola integrità del corpo, ma, in senso più ampio, tiene conto del vissuto della persona, del suo porsi di fronte alla vita e ai suoi limiti, dei sacrifici che ella ritiene compatibili con la propria idea di dignità e di integrità del corpo. Ben si comprende allora, in questo distinto scenario, come il consenso alla proposta terapeutica non si riduca ad una presa d’atto della sua utilità – aspetto, tecnico, sul quale il paziente, di norma, nulla può dire od obbiettare – ma sia il punto di arrivo di quel “tempo della comunicazione” nel quale medico e malato, in dialogo tra loro, giungono a stabilire se quella proposta, oltre che funzionale alla cura della condizione patologica, sia rispettosa dell’idea di benessere psico-fisico propria di quel paziente e non di altri. La “comunicazione” è dunque reciproca, è momento di informazione e di spiegazione da parte del medico, ma è anche tempo di ascolto, di comprensione dei bisogni del malato, delle sue paure, è capacità di tenere conto del suo livello culturale, dei limiti derivanti dall’età, dal sesso, dalla condizione sociale. Va, peraltro, osservato l’ovvio, vale a dire che la complessità della relazione di cura è tanto maggiore quanto più la condizione patologica del malato è delicata e obbliga a scelte dolorose o irreversibili (come l’amputazione di un arto o la sottoposizione a terapie lunghe e debilitanti). Invece l’atto terapeutico routinario, di norma, non impone al malato decisioni che lo costringano al sacrificio di valori personali; ne deriva che, in larga parte dei casi (e per fortuna), la dinamica propria della relazione di cura interessa la sola dimensione tradizionale della salute, perché la proposta terapeutica non sollecita né mette in pericolo altri valori fondamentali dell’individuo. Ma ciò non toglie che tanto laddove l’accettazione della proposta terapeutica appare sofferta e complessa – perché pone il malato di fronte alla necessità di scelte per lui tragiche, o comunque sofferte – quanto nel caso in cui essa appaia scontata, la delicatezza ed il rilievo del dialogo tra medico e paziente si palesino in tutta la loro significatività, vuoi perché, appunto, sono alla base di decisioni cruciali per il malato, vuoi perché danno comunque il senso di un’evoluzione della relazione di cura che non può più essere contraddistinta dalla pura soggezione del paziente alla decisione del medico. Da oltre dieci anni la Corte di Cassazione, in continuità con il mutato sentire sociale, riconosce la complessità del ruolo del medico, distinguendo la dimensione tecnico-esecutiva della sua prestazione dall’obbligazione informativa, che è altra cosa; e, coerentemente, sanziona in modo diverso (e indipendente) l’inadempimento dell’una o dell’altra obbligazione. Eppure il sistema sanitario non ha, in larga parte, ancora recepito questo cambio di prospettiva e diverse ne sono le ragioni. Certamente vi è l’ostacolo temporale: una “alleanza terapeutica” che non si riduca a mera apparenza richiede che medico e paziente non siano condizionati dalla penuria di tempo che invece inesorabilmente affligge i professionisti della sanità pubblica e privata. Una relazione sbrigativa, sommaria, “cronometrata”, che non ammette chiarimenti o approfondimenti non è – e non può essere – vera alleanza terapeutica. Ma la questione “tempo” rappresenta solo uno degli ostacoli; l’altro, più grave perché espressione di un retaggio culturale del passato difficile da rimuovere, è legato alla persistenza della tradizionale idea di salute come mera espressione dell’integrità del corpo, la cui gestione, oggetto del sapere professionale del medico, rimane fuori dal campo di interesse del paziente, che non è in grado di comprenderla. Il “paternalismo”, insomma, è ancora ben presente. Se il problema è così radicato nella mentalità dei nostri medici, pare evidente che il transito ad un sistema di cure che faccia ampio utilizzo dell’intelligenza artificiale e ricorre all’ausilio di algoritmi sembra apparentemente condurre alla seguente alternativa: o il momento dell’acquisizione del consenso “informato” diviene più semplice, perché l’intervento del sistema “intelligente” pone di fatto il medico in posizione di terzietà e la relazione si spersonalizza; oppure, all’opposto, diviene più articolato e complesso, perché l’informazione data al paziente al fine di garantire il suo diritto ad autodeterminarsi va arricchita di spiegazioni che hanno a che vedere con il funzionamento dell’algoritmo e che possono rivelarsi di non facile comprensione per lo stesso professionista, prima ancora che per il paziente. Va, probabilmente, immaginata una terza via, cui farò subito cenno.

In che misura, secondo Lei, il medico ha l’obbligo di informare il paziente sul ruolo degli algoritmi nella formulazione della proposta terapeutica? È necessario spiegare anche il funzionamento tecnico di tali sistemi o è sufficiente comunicare la presenza e l’affidabilità statistica dell’algoritmo?

Qui si viene al cuore del problema. Per rispondere alla domanda è necessario avere chiara la finalità della comunicazione tra medico e paziente e le controindicazioni che un’informazione inappropriata può presentare. Orbene, l’informazione (ce lo ricorda anche la Cassazione in una massiccia serie di decisioni) è funzionale a permettere al paziente di esprimere il consenso (o il dissenso) alla proposta terapeutica che il medico gli sottopone. La scelta, in una direzione o nell’altra, è espressione del diritto all’autodeterminazione del malato, che è proficuamente esercitato tutte le volte in cui gli sia stato consentito di comprendere la natura, le caratteristiche, l’obiettivo perseguito, i rischi e le controindicazioni dell’atto terapeutico proposto. L’informazione è condizionata dal fine, e ciò significa due cose: la prima è che essa va modulata sulle caratteristiche del singolo paziente, non può essere standardizzata e somministrata in modo uguale per tutti; la seconda – che più ci interessa – è che la qualità dell’informazione non necessariamente è direttamente proporzionale alla quantità o alla completezza degli elementi di valutazione trasmessi al paziente; se l’informazione è funzionale alla scelta che quest’ultimo deve fare, allora essa può dirsi adeguata quando appare idonea al raggiungimento del suo scopo alla luce delle caratteristiche di quel paziente. Per capirci, non è congestionando il malato di informazioni tecniche che se ne favorisce la corretta scelta terapeutica; non è spaventandolo, dandogli conto di remotissimi rischi o complicanze che possono conseguire all’intervento che gli si consente di ponderare l’opzione per lui migliore. Questo è ancor più vero se il professionista si avvale dell’intervento di sistemi “intelligenti”. Dobbiamo chiederci: se la proposta di cura è frutto dell’ausilio di un algoritmo (o, più in generale, di sistemi valutativi che sfuggono al pieno controllo o alla piena comprensione dell’uomo) in quali termini il paziente ne deve essere messo a conoscenza? Se, come è corretto fare, si muove dall’obbiettivo cui l’informazione deve tendere, mi sembra ragionevole ritenere che l’illustrazione delle modalità di funzionamento dell’algoritmo non aiuti il paziente nella scelta e rischi, anzi, di rendere confuso ed inefficace proprio quel momento nel quale, per contro, devono dominare la chiarezza, la semplicità e la funzionalità dell’informazione data. Il sistema di intelligenza artificiale integra (o può sostituire) la decisione umana sotto vari profili: la valutazione e l’interpretazione del dato tecnico (ad es., in fase diagnostica); la scelta della terapia, tra quelle possibili; la gestione della frequenza (e delle dosi) di somministrazione di un farmaco. Profili, questi, abitualmente rimessi alla valutazione e alla decisione del medico. Ma proprio come questi aspetti, di norma, non erano e non sono, nel rapporto tradizionale, oggetto di illustrazione tecnica al paziente, così, a me pare, non lo devono essere neppure nell’ipotesi in cui la valutazione sia rimessa all’algoritmo. Se ci si chiede – nell’ottica del paziente – quale aspetto appare centrale nell’adesione alla proposta terapeutica lì dove sia fatto ricorso all’intelligenza artificiale, vien da rispondere che il profilo di rilievo che può orientare la scelta del paziente concerne, nella sostanza, l’affidabilità e l’efficacia del sistema di AI. Mentre infatti l’adesione alla proposta terapeutica che proviene dal professionista sanitario trova fondamento nella fiducia che il paziente ripone nella preparazione tecnica e nella competenza del primo, cui si affida, il consenso ad una proposta terapeutica frutto dell’intervento dell’algoritmo può spiegarsi non tanto perché di esso ne è illustrato il funzionamento tecnico (di per sé non significativo e di difficile o impossibile comprensione) quanto, invece, in ragione della spiegazione di altri profili connessi all’utilizzo del sistema intelligente; sono tali aspetti che consentono la “estensione” alla macchina intelligente della fiducia che il paziente normalmente e naturalmente ripone nei confronti della persona del professionista. Tra questi: il livello di efficacia dell’algoritmo, per come è stato sino ad ora applicato e testato; la circostanza che il sistema intelligente sia, o meno, “validato” dal professionista (cioè, in buona sostanza: il peso che il ricorso all’algoritmo acquista nella decisione del medico – considerando, peraltro, che in Italia un disegno di legge del 2024 in tema di intelligenza artificiale, attualmente in lettura al Senato, prevede che l’utilizzo dei sistemi di intelligenza artificiale nelle professioni intellettuali sia consentito solamente in funzione di supporto e di ausilio all’attività professionale); la possibilità, infine, di una alternativa terapeutica che non richieda il ricorso al sistema intelligente. Può essere di aiuto, pur con le debite differenze, un raffronto con il settore dell’automotive, ove pure l’IA trova sempre maggiore applicazione; l’automobilista che acquista un’autovettura assistita da sistemi intelligenti (ad es. in fase di frenata e di arresto del veicolo o nella reazione ad ostacoli improvvisi) non è interessato ai complessi meccanismi che gestiscono il funzionamento del sistema (vale a dire al perché e in base a quali regole il sistema intelligente decide), ma vuole essere rassicurato in merito al fatto che l’apparato intelligente che sostituisce l’azione umana funziona; vuole, cioè, sapere se ed in quali termini si può fidare della macchina.  Questo aspetto appare ancor più delicato se trasferito in un contesto nel quale una decisione sbagliata può mettere a repentaglio la salute o la vita umana: pare evidente che ciò di cui il paziente vuole essere, nella sostanza, informato concerne la “fiducia” che si può avere nell’algoritmo. L’informazione dovrà dunque concentrarsi, allo stato attuale, su tale aspetto; dico “allo stato attuale” perché la sempre maggiore affermazione dei sistemi intelligenti potrebbe, in un futuro più o meno prossimo, portare a ritenere non necessari aspetti informativi che oggi appaiono rilevanti.

In quale misura la “opacità” e l’imprevedibilità dei sistemi intelligenti, i cui meccanismi di funzionamento spesso sfuggono a coloro che li hanno ideati o ai medici che se ne avvalgono, può divenire ragione di conflitto tra medico e paziente?

Si tratta di un aspetto delicato. Il tema del consenso ha, nel nostro sistema, anche un lato oscuro. Non è solamente motivo di esaltazione dei valori profondi della persona – l’autodeterminazione, la dignità, l’integrità del Sé, come si è detto – ma anche ragione scatenante, a volte in modo strumentale, di battaglie legali finalizzate a far conseguire al paziente un ristoro monetario. Quando, infatti, l’esito dell’atto medico non dà i risultati sperati o attesi – e in special modo quando al paziente è difficile, se non impossibile, dare dimostrazione di un errore tecnico-esecutivo del medico – lamentare un vizio informativo può rappresentare una agevole scorciatoia per la tutela risarcitoria. Cambia, in tal caso, l’oggetto della domanda: non più il risarcimento del danno alla salute causato dall’errore medico, ma il danno da lesione del diritto ad autodeterminarsi derivante da mancata o incompleta informazione, tale che il paziente, ove correttamente informato, avrebbe negato il consenso all’atto terapeutico o avrebbe optato per altra soluzione. Se calato nel contesto dell’intelligenza artificiale il problema si amplifica proprio perché l’informazione che il medico è in grado di offrire al paziente risente dell’imprevedibilità e dell’opacità del sistema algoritmico e questa “fragilità” informativa presta il fianco ad improprie strumentalizzazioni. Osservo che se la scienza raggiunge nuovi traguardi, impensabili solo pochi anni addietro, chi ne è destinatario (in questo caso i pazienti) così come fa propri i benefici che lo sviluppo tecnologico assicura, deve, del pari, accettarne i rischi connaturati, primo tra tutti il fatto che non sia riproducibile, lì dove operi un sistema intelligente, lo stesso rassicurante processo di informazione del paziente che opera ove la decisione terapeutica sia rimessa interamente alla valutazione del professionista. Va dunque evitata la strumentalizzazione di questo limite, a ben vedere e in primis, nell’interesse dello stesso paziente. Infatti l’esperienza mostra che il massiccio ricorso alla tutela giudiziale ad opera di pazienti che contestano ai medici l’inadempimento dell’obbligo informativo ha prodotto come contromisura l’utilizzo in funzione difensiva della fase di acquisizione del consenso che, anziché dare conto dell’effettività della relazione di cura, diviene mezzo di protezione della classe medica contro il rischio della continua minaccia di azioni risarcitorie per violazione dell’obbligo di informare; di qui l’impropria abitudine, già ricordata, di far sottoscrivere al malato moduli di manifestazione del consenso del tutto generici, la cui funzione vera è di liberare il medico da responsabilità per non avere adeguatamente informato. Va dunque evitato che ciò possa accadere quando entra in gioco l’intelligenza artificiale; e il modo per eliminare alla radice questo rischio è di muovere dalla premessa condivisa secondo cui la possibile imprevedibilità od opacità del sistema intelligente ne costituisce elemento intrinseco e non può costituire ragione di addebito ai medici e alle strutture sanitarie. Ciò non esclude che il medico sia tenuto ad informare il paziente del fatto che la scelta terapeutica sia decisa dal sistema intelligente e che sia al contempo tenuto a soddisfare, nei limiti del possibile, le richieste di chiarimento che il paziente avanzi.

Lei ha sottolineato la complessità pratica del consenso informato nei contesti di emergenza o con pazienti di diversa competenza. Quali strumenti o accorgimenti suggerirebbe per migliorare la qualità della comunicazione tra medico e paziente, soprattutto quando la decisione terapeutica si avvale di sistemi intelligenti?

È buona e condivisa regola, nell’interesse di entrambe le parti della relazione di cura, che la fase di acquisizione del consenso sia documentata in modo chiaro ed esplicito. Non si tratta solamente di una questione formale, decisiva in caso di contestazione, ma, prima ancora, di un’esigenza legata al fatto che, molto spesso (e soprattutto quando la decisione da prendere è complessa e non immune da rischi o conseguenze negative per il malato), un’informazione scritta consente al paziente di meglio cogliere e comprendere gli aspetti delicati della prestazione di cura. Anche la videoripresa del momento informativo costituisce un sistema efficace perché responsabilizza il medico. Se si passa dal piano formale a quello sostanziale direi che la qualità della comunicazione è proporzionale allo sforzo del medico nell’intercettare e nel comprendere quali elementi è importante che siano comunicati al malato per consentire a quello specifico paziente di esprimere un consenso compiuto e rispettoso del proprio diritto ad autodeterminarsi. Ritengo che se la decisione terapeutica si avvale di sistemi intelligenti una comunicazione corretta si ha a condizione che il medico informi il paziente che la prestazione di cura proposta è frutto dell’intervento dell’intelligenza artificiale e dia conto (per quanto possa ritenersi implicito nel fatto stesso che la struttura sanitaria se ne avvalga) della utilità del sistema intelligente in termini di accuratezza ed efficacia della prestazione; chiarendo al malato se la funzionalità dell’algoritmo sia oggetto di controllo e validazione da parte dell’uomo e se esistano alternative terapeutiche che non siano frutto dell’applicazione dell’IA.

Alla luce delle sfide legate all’autonomia e alla trasparenza dell’intelligenza artificiale, quali indicazioni normative o deontologiche ritiene essenziali per assicurare che il diritto all’informazione rimanga effettivo e non meramente formale?

Ritengo che le indicazioni normative e deontologiche già presenti siano adeguate e sufficienti. Come già osservavo, la regola formale può poco se non ne è compreso il senso e se ad essa non fa seguito una rilettura in chiave non paternalistica della relazione tra medico e paziente. L’utilizzo dell’intelligenza artificiale pone, però, una questione delicata: l’intervento del sistema intelligente – che può sostituire l’attività del professionista nella scelta tecnica – non deve incidere, limitandolo o riducendolo, sul momento dell’informazione e dell’acquisizione del consenso, che rimane di esclusiva pertinenza del medico nel suo rapporto, professionale ed empatico, con il paziente. Si può immaginare, oggi e ancor più nel futuro, che la decisione tecnico-esecutiva si trasferisca dall’uomo alla macchina intelligente, ma non si può ipotizzare che la macchina intelligente possa sostituire la relazione umana tra medico e paziente, fatta di empatia, comprensione, condivisione e ascolto.

Approfondimenti:

• Intelligenza Artificiale in medicina: responsabilità, consenso e dati