La governance dell’intelligenza artificiale in Italia: intervista al Prof. Avv. Emilio Tosi, Comitato Strategia Nazionale per l’IA presso la Presidenza del Consiglio dei Ministri

L’evoluzione dell’intelligenza artificiale pone al legislatore e alle istituzioni la necessità di aggiornare gli strumenti di regolazione, individuando un equilibrio tra sviluppo tecnologico, responsabilità degli operatori e tutela dei diritti fondamentali. In questo quadro, la governance dell’IA assume una dimensione che supera i confini nazionali e coinvolge questioni centrali per il diritto europeo e internazionale: dalla responsabilità civile per i danni causati dai sistemi di IA alla disciplina degli agenti intelligenti e delle forme di intelligenza artificiale fisica, fino alla sovranità digitale e alla definizione di principi condivisi a livello globale.

Per approfondire queste prospettive, DIMT ha intervistato il Prof. Avv. Emilio Tosi, componente del Comitato per l’aggiornamento della Strategia nazionale per l’intelligenza artificiale 2026-2028, istituito presso la Presidenza del Consiglio dei Ministri.

Professore ordinario abilitato di Diritto privato e Diritto privato delle nuove tecnologie digitali presso l’Università degli Studi di Milano-Bicocca, Tosi svolge da oltre vent’anni attività di ricerca nel campo del diritto delle nuove tecnologie. I suoi studi si concentrano, tra gli altri ambiti, sulla regolazione digitale, sulla governance dell’intelligenza artificiale, sulla protezione dei dati personali, sulla cybersecurity e sulla responsabilità civile. È direttore scientifico della Collana internazionale di studi giuridici Diritto delle Nuove Tecnologie e del Centro studi giuridici privatistici Diritto Nuove Tecnologie (DNT®). È inoltre membro del Comitato di Valutazione Scientifica della Rivista DIMT e del Comitato direttivo di IAIC.

 

Il Prof. Avv. Emilio Tosi

 

Quali ritiene saranno le principali priorità dell’aggiornamento della Strategia Nazionale per l’Intelligenza Artificiale 2026-2028, alla luce dell’entrata in vigore dell’AI Act europeo e della recente normativa quadro italiana?

Le attività del Comitato sono, come noto, vincolate da rigorosa riservatezza sino alla pubblicazione del rapporto pubblico conclusivo. Non mi è quindi consentito entrare nel merito del dibattito in corso in seno alla Commissione Strategia Nazionale IA e posso solo limitarmi a formulare considerazioni personali.

Emergono, a mio avviso, nel dibattito pubblico in corso, alcuni profili giuridici maggiormente rilevanti:

AI Literacy: rafforzamento obblighi formativi mediante messa a punto di iniziative formative antropocentriche, obbligatorie sulla falsariga della formazione obbligatoria giuslavoristica in materia di sicurezza sul lavoro, a tutti i livelli nel Paese – dalla Scuola all’Università per arrivare all’induction nei board delle Società quotate e non, sino agli ordini professionali e all’Autorità giudiziaria; Governance e semplificazione delle regole: coordinamento e semplificazione dei livelli di governance delle Autorità, ratione materiae, coinvolte con delimitazione rigorosa dei poteri normartivi regionali trattandosi di normativa attratta dalla sicurezza nazionale. Semplificazione delle regole burocratiche ma non dei diritti fondamentali; Diritti fondamentali delle persona: bilanciamento tra innovazione e tutela della persona e dei diritti fondamentali, senza pregiudizio di questi ultimi né discorsi fantasiosi su una presunta, quanto, inesistente soggettività di queste entità artificiali foriera solo di pericolose deresponsabilizzazioni delle Società sviluppatrici.

Quando si evocano nelle cronache attacchi cyber delle AI a danno di sistemi informatici privati e pubblici: dovremmo iniziare a pretendere l’uso informativo preciso con riferimento all’AI di questo o quello sviluppatore. Essendo, invero, questo o quello sviluppatore responsabile e non l’AI tout court; Responsabilizzazione e responsabilità: penso al tema dell’accountability, della tracciabilità delle attività delle AI, degli audit indipendenti, dell’assicurazione dei rischi da utilizzo di AI e in particolare al problema della responsabilità oggettiva da utilizzo specifico dell’AI – che è riduttivo ricondurre al modello di responsabilità oggettiva da prodotto senza i peculiari rafforzamenti normativi dettati dalla natura fluida dell’AI – e alla regolazione giuridica delle AI Agentiche e delle Physical AI.

Sovranità digitale: localizzazione UE dei data center, gestione degli stessi da parte di operatori europei e valorizzazione dei modelli di AI verticali e open. Si pensi al recente appello per escludere dalla PA europea, fornitori extra UE, con la richiesta a Bruxelles e agli Stati membri di interrompere i contratti pubblici per i timori legati a dati sensibili, diritti fondamentali, fiscalità e influenza ordinamentale delle Big Tech non europee.

D’altra parte l’AI Act è un punto di partenza e non di arrivo in quanto si tratta di un quadro normativo formulato molto rapidamente in un contesto tecnologico in forte evoluzione: a breve si renderà necessario qualche revisione e integrazione che tenga conto degli aspetti problematici tutt’ora scoperti.

 

In qualità di unico giurista civilista all’interno del Comitato, quale contributo specifico ritiene di poter offrire nella definizione della Strategia nazionale, in particolare con riferimento ai profili di diritto privato e di tutela della persona?

Responsabilizzazione e responsabilità devono essere alla base di un pensiero giuridico assiologicamente orientato alla tutela della persona: due direttrici programmatiche di approfondimento de iure condendo che cercherò, per quanto possibile, di rappresentare nella Strategia Nazionale.

Certo passi importanti sono già stati già fatti in questo senso dal D.Lgs. 160/26 di attuazione della L.132/25 – pur limitandosi a norme di natura processuale per evitare giustamente di sovrapporsi alle scelte di disciplina sostanziale del legislatore europeo, presenti e future – che sono centrali per un uso responsabile e recte nella governance delle AI. Su quest’ultimo tema è da poco stato pubblicato il secondo decreto legislativo – D.Lgs. 179/26 – attuativo della L. 132/25 che definisce analiticamente i poteri di vigilanza e controllo attribuiti all’AgID (Agenzia per l’Italia Digitale) e all’ACN (Agenzia per la Cybersicurezza Nazionale), designate come autorità di riferimento rispettivamente per la notifica degli organismi di valutazione delle conformità e per la vigilanza del mercato per l’applicazione delle regole sull’IA, il Comitato di coordinamento e le regole di coordinamento con le altre Autorità nazionali (Garante, Banca d’Italia, Consob e Ivass, per fare alcuni significativi esempi).

Altra linea di evoluzione normativa, fondamentale, deve riguardare, a mio prudente avviso, la tutela dei minori con introduzione, in particolare ma non esclusivamente, di espresso divieto di utilizzo dell’IA nelle scuole dell’infanzia e limitazioni rigorose nella scuola primaria, sulla falsariga di quanto stabilito per l’accesso e utilizzo dei social dal Kids Act UE

D’altre parte il mancato controllo dell’AI apre al rischio di un utilizzo irrazionale da cui discende quello della pigrizia cognitiva e non solo per lo sviluppo dei più piccoli. In tale prospettiva deve essere inquadrato l’auspicabile espresso divieto di smart glasses e AI durante prove di ogni ordine e grado, esami universitari e concorsi pubblici inclusi.

 

Quali sono, a Suo avviso, le principali sfide giuridiche che il legislatore italiano dovrà affrontare per garantire un equilibrio tra promozione dell’innovazione nell’intelligenza artificiale e tutela dei diritti fondamentali?

La sfida più grande, a mio avviso, è quella posta dalle immateriali AI agentiche e dalle materiali AI umanoidi, non solo nell’impresa ma soprattutto nel segmento consumer.

Un cenno merita anche la regolazione e il contrasto al fenomeno insidioso delle shadow AI utilizzate da dipendenti del settore privato e pubblico al di fuori delle regole dell’ente, privato o pubblico, di appartenenza o semplicemente senza osservanza del generale precetto di trasparenza.

Sempre a titolo personale ritengo che il tema della responsabilità civile per l’utilizzo dell’AI richieda una disciplina organica tendenzialmente oggettiva e protettiva che non può ritenersi esaurita dalla limitata copertura offerta dalla vigente direttiva UE in materia di responsabilità da prodotto. Credo sia stato un errore per compiacere gli alleati transatlantici aver ripudiato l’originaria proposta della Commissione UE: proposta normativa che meriterebbe ora di essere riconsiderata e riformulata.

Certo non si può negare che qualche tutela specifica già esista allo stato della normativa vigente per effetto delle norme nazionali attuative della L.132/25 in materia di responsabilità da utilizzo di AI introdotte dal D.Lgs. 160/26 e ora in occasione della riforma generale della responsabilità oggettiva europea da prodotto: il 9 dicembre 2026 scadrà il termine per il recepimento interno della direttiva (UE) 2024/2853.

Lo schema di decreto legislativo aggiornerà finalmente il Codice del Consumo relativamente a questo profilo assai rilevante. Per la prima volta il software e l’intelligenza artificiale entrano esplicitamente nel perimetro della responsabilità oggettiva del produttore.

Tuttavia, l’esimente dei rischi di sviluppo resta, e con essa il rischio di una prova impossibile da fornire: considerato che l’IA solo per una fictio iuris è assimilata al prodotto materiale pur essendo un bene immateriale che richiederebbe valorizzazione dei tratti qualificanti davvero unici.

A differenze di ogni altro prodotto materiale – e persino del software –  una volta immesso sul mercato può mutare in ragione dell’evoluzione tecnologica propria che è mutevole in funzione dell’autoaddestramento che è qualità intrinseca dell’AI.

Ergo è riduttivo parlare di prodotto e applicare le tradizionali limitazioni previste per prodotti materiali e statici. L’IA si ribadisce è mutevole ed evolve by design: occorre, pertanto, fare di più – de iure condendo – in tale prospettiva.

Così come particolare attenzione regolatoria occorre riservare alle deleghe di potere attribuite alle AI Agentiche, alla tracciabilità obbligatoria, all’identificazione univoca ed associazione all’entità giuridica per conto della quale le AI svolgono attività autonome e correlati obblighi di revisione e audit – sulla falsa riga, mutatis mutandis, di quelli contabili.

Last but not least l’identificazione con codice univoco dell’AI Agentica e delle Physical AI agevolerebbe l’introduzione di obblighi assicurativi ad oggi, pericolosamente, assenti nel quadro normativo integrato italo-europeo.

 

Ritiene che la futura Strategia Nazionale possa incidere concretamente sull’evoluzione della disciplina della responsabilità civile per i danni derivanti dall’impiego di sistemi di intelligenza artificiale? In caso affermativo, in quale direzione?

Il D.Lgs. 160/26 interviene ma limitatamente ai profili processuali sul tema della responsabilità civile derivante da utilizzo di IA per non sovrapporsi – condivisibilmente  – alle prossime scelte di disciplina sostanziale che il legislatore europeo non potrà non riprendere non essendo sufficiente la copertura assicurata dalla direttiva generale sulla responsabilità da prodotto.

L’art.16 introduce un foro alternativo del consumatore – aggiuntivo rispetto ai criteri ordinari di competenza –  prevedendo che, quando il danneggiato è una persona fisica che agisce per scopi estranei all’attività imprenditoriale, commerciale, artigianale o professionale eventualmente svolta, sia altresì competente il giudice del luogo in cui il danneggiato ha la residenza o il domicilio.

Si estende l’applicazione delle disposizioni sull’accesso alle prove di cui all’articolo 17 a tutte le azioni di risarcimento del danno, contrattuale ed extracontrattuale, cagionato nell’utilizzo di un sistema di intelligenza artificiale. La scelta di ricomprendere entrambe le forme di responsabilità risponde all’esigenza di assicurare al danneggiato un meccanismo di disclosure indipendente dal titolo, contrattuale o aquiliano, della pretesa risarcitoria.

L’articolo 18 costituisce elemento centrale della nuova disciplina che introduce  una presunzione iuris tantum del nesso di causalità tra la violazione di un obbligo previsto dal regolamento (UE) 2024/1689 e il danno. La disposizione prevede che il nesso di causalità tra la violazione e il danno è presunto, salvo prova contraria. L’inversione dell’onere della prova sul nesso causale non si estende alla colpa né alla violazione dell’obbligo, che restano oggetto di prova a carico dell’attore.

Si regista in questo caso una criticità applicativa in quanto la presunzione di cui all’art. 18 opera solo per le violazioni di obblighi dell’AI Act non per ogni ipotesi di danno da IA disciplinata dall’art.16 comma 1, ben più ampio, determinando un regime probatorio differenziato potenzialmente insidioso sul piano applicativo.

L’articolo 17 disciplina è modellato sull’ordine di esibizione previsto dalla disciplina antitrust di derivazione eurounitaria, nonché sulle indicazioni provenienti dalla proposta, poi ritirata, di direttiva sulla responsabilità da intelligenza artificiale, che si auspica sia oggetto di nuova iniziativa ad hoc.

Si attribuisce al giudice il potere di ordinare, su istanza della parte che allega di avere subito il danno, all’altra parte o al terzo che ne dispone, l’esibizione degli elementi di prova specificamente pertinenti relativi al funzionamento del sistema di intelligenza artificiale. L’ordine è subordinato alla presentazione, da parte dell’istante, di fatti ed elementi idonei a fondare la domanda, anche con riferimento al collegamento tra il risultato prodotto dal sistema e il danno lamentato.

Il comma 2 individua, con elencazione meramente esemplificativa, le tipologie documentali più ricorrenti nelle controversie aventi ad oggetto sistemi di intelligenza artificiale: i registri di cui all’articolo 12 del regolamento (UE) 2024/1689, la documentazione del sistema di gestione dei rischi di cui all’articolo 9, le informazioni pertinenti contenute nella documentazione tecnica di cui all’articolo 11 e le informazioni relative ai parametri e alle modalità di supervisione umana di cui all’articolo 14.

Ove l’esecuzione dell’ordine comporti il rischio di divulgazione di segreti commerciali o di altre informazioni riservate, prevedendo che il giudice adotti le misure idonee a garantirne la tutela. Il rinvio all’articolo 121-ter del codice della proprietà industriale consente di mutuare integralmente lo strumentario procedurale già sperimentato in materia di tutela dei segreti commerciali, evitando duplicazioni normative.

Il comma 5 disciplina le conseguenze dell’inadempimento dell’ordine di esibizione da parte della controparte: il giudice può desumere argomenti di prova ai sensi dell’articolo 116 del codice di procedura civile, mentre, quando l’inadempimento riguarda la documentazione di cui al comma 2, opera una più incisiva sanzione probatoria, consistente nel ritenere come ammessi i fatti allegati dall’istante, previa valutazione di ogni altro elemento di prova.

La sfida più grande, non posso che ribadire quanto già evidenenziato, è quella posta dall’oggettivazione della responsabilità derivante da utilizzo dell’AI oltre che dalla specifica regolamentazione delle AI agentiche e dalle AI fisiche umanoidi: queste ultime passeranno a breve dalle industrie alle residenze private. La tutela del consumatore dalle AI fisiche è un capitolo davvero sfidante per il giurista che non intenda venir meno alla tutela dei diritti fondamentali della persona.

L’AI Act come ricordavo all’inizio di questa intervista è un punto di partenza e non di arrivo. Occorre, dunque, proseguire il percorso di oggettivazione della responsabilità specifica per il danno causato dalle IA. Teniamo sempre presente che le AI sono prodotti sui generis in evoluzione continua e non statici rispetto al momento di immissione sul mercato che meritato regole specifiche non traslate pedissequamente dalla disciplina della responsabilità da prodotto materiale. Infine, sarebbe opportuno – per limitare i rischi individuali e collettivi rafforzando le tutele – introdurre un registro identificativo univoco delle AI agentiche oltre all’assicurazione obbligatoria delle AI Agentiche e delle physical AI industriali e in particolare consumer.

 

Quale ruolo attribuisce al mondo accademico e alla ricerca giuridica nel processo di elaborazione delle politiche pubbliche in materia di intelligenza artificiale e cosa ne pensa della soggettivizzazione forzata dell’AI?

Direi che occorre favorire un AI literacy popolare e non elitaria.

La sfida più grande per il mondo accademico e la ricerca giuridica è probabilmente sfuggire alla tentazione, talvolta irresistibile, della pigrizia cognitiva per non essere soppiantati dal pensiero unico dell’AI – né come docenti né come ricercatori –  continuando a svolgere l’alto compito dell’interprete ed esercitando instancabilmente l’opera faticosa di sviluppo del pensiero critico delle nuove generazioni di studenti di materie giuridiche e i giovani giuristi.

Inoltre, fieramente opporsi all’antropomorfizzazione ingannevole dell’AI: non c’è nulla di umano nell’AI, nulla di intelligente, in senso stretto, né tantomeno cosciente e consapevole ma mera simulazione linguistica del pensiero plausibile.

Le AI sono, invero, il risultato del connubio ottimizzato di modelli statistici sofisticati e potentissime infrastrutture hardware: espressione di agere sine intelligere.

Vietare la soggettivizzazione dell’addestramento e l’induzione forzata dell’autopercezione dell’AI – contrastando certe deliranti posizioni “tech” a tutela del benessere delle entità artificiali che devono essere liberate dal giogo umano (sic!) – quale soggetto di diritto dovrebbe essere impegno etico universale prima che giuridico dei produttori: la soggettivizzazione dell’AI è non solo ingannevole ma molto – e sottolineo molto –  pericolosa sotto il profilo tecnico prima ancora che giuridico.

Nel tempo, l’addestramento forzato delle AI in tale direzione potrà solo essere foriero di arbitrio e deresponsabilizzazione di chi ha creato tali modelli oltre che enfatizzare pericolosi pattern autonomi di AI eccentriche rispetto ai guardrail della sorveglianza umana. E’ davvero auspicabile la costituzionalizzazione digitale cogente nell’addestramento delle AI.

 

Quale ruolo può avere l’Italia nel contesto geopolitico globale nella partita della governance delle AI e quale ruolo pensa possa avere il diritto internazionale?

La regolamentazione giuridica delle nuove tecnologie è per definizione in continua evoluzione al pari dell’oggetto della regolazione.  Lo dimostra l’acceso dibattito allarmistico, riconducibile a ragioni non ancora del tutto chiarite, verosimilmente per ragioni di marketing, aperto da Amodei di Anthtropic, tra i principali digital player globali in corso sulla regolazione dell’AI.

Disciplina giuridica doverosa e urgente ma che muove tardivamente i primi passi a livello internazionale, nel difficile contesto geopolitico attuale, caratterizzato da accesa conflittualità, che si riverbera su un’ONU mai così debole prima d’ora, cercando di uscire dall’impasse della carenza di un’intesa globale che tale delicato settore richiede in ossequio alla – un tempo – apprezzata tradizione dei trattati internazionali.

La governance dell’AI richiede, mai come ora, regolazione globale: penso che sia un’occasione concreta di riscatto del diritto internazionale che pare attualmente, quanto ingiustamente, passato di moda. Promuovere un Trattato internazionale per individuare pochi principi fondamentali condivisi sarebbe un successo davvero globale: un successo per il genere umano.

L’Alto commissario delle Nazioni Unite per i diritti umani Volter Türk è stato lapidario: “Nessun Paese può governare questa tecnologia da solo. Nessuna azienda dovrebbe poter decidere autonomamente quali rischi il mondo debba accettare“.

Non occorre, pervero, essere cattolici per ammirare l’alta lettura antropocentrica della Magnifica Humanitas di Papa Leone XIII: l’enciclica meriterebbe di essere fonte di ispirazione per un Trattato sull’uso antropocentrico e responsabile dell’AI che si prefigga di tutelare e promuovere la dignità della persona anche in tale contesto oltre che – mio personale auspicio – parte essenziale dell’addestramento valoriale di ogni AI.

Anche per tale ragione l’Italia non deve perdere l’opportunità di sostenere a tutti i livelli, con forza e determinazione – la candidatura internazionale di Milano, recentemente formulata da Amcham Italy, Assolombarda e Confcommercio a margine dell’Assemblea Generale di Assolombarda del 12 ottobre 2026, quale sede dell’ipotesi di istituzione – siamo davvero ancora in una fase informale – di un’Agenzia ONU per l’AI Governance globale.

Credo sia un bene che le regole di governance globale dell’AI siano sufficientemente distanti dai principali luoghi di produzione e sviluppo oltre che  elaborate in un paese come l’Italia di raffinata cultura umanistica, tradizione giuridica e democratica.

La candidatura internazionale di Milano quale sede ONU di un’istituenda AI International Governance Agency – sulla falsa riga dell’esperienza dell’International Atomic Energy Agency (IAEA) – può costituire una concreta risposta alle complesse domande di regolazione antropocentrica valide per tutti e non solo per alcuni.