skip to Main Content

Intervista alla Dott.ssa Giulia Schneider. La gestione dell’impresa ai tempi dell’algoritmo

La Dott.ssa Giulia Schneider è una studiosa del diritto con competenze distintive nel campo del diritto d’impresa e dell’IT. Attualmente, riveste il ruolo di ricercatrice di Diritto dell’Economia presso l’Università Cattolica di Milano, contribuendo in modo significativo alla ricerca e alla didattica in ambito giuridico ed economico.

La sua carriera è caratterizzata da una serie di ruoli accademici e pratici che riflettono la conoscenza del diritto societario, della protezione dei dati, della proprietà intellettuale e della regolamentazione europea delle tecnologie digitali. È membro del Collegio degli Avvocati italiano, vantando una ricca esperienza nell’insegnamento e nella ricerca presso istituzioni rinomate come l’Université Catholique de Lille e l’Università Cattolica del Sacro Cuore di Milano.

La Dott.ssa Schneider ha inoltre maturato una significativa esperienza pratica nel ruolo di Amministratore Indipendente presso Seif Spa, oltre a collaborare attivamente con l’organismo congressuale forense (collaborazione che ha avuto ad oggetto la tematica dell’applicazione dell’intelligenza artificiale nel mondo della professione).

La sua partecipazione a progetti di ricerca internazionali e europei, inclusi quelli finanziati nell’ambito del programma Horizon 2020, dimostra il suo impegno nello sviluppo e nell’innovazione nel contesto giuridico e tecnologico. Attualmente, contribuisce attivamente a progetti di ricerca come il progetto Erasmus + ‘Health, Law and Development in the European Union’ e il progetto ACE-Brain sull’innovazione e la regolamentazione della blockchain.

La Dott.ssa Schneider è anche membro di gruppi di ricerca associati come l’European Banking Institute (EBI) e il Centro di Ricerca CETIF dell’Università Cattolica di Milano, partecipando attivamente alle attività di ricerca e consulenza di queste istituzioni.

Grazie alla sua esperienza multidisciplinare e alla partecipazione a progetti di ricerca innovativi, la Dott.ssa Schneider offre una prospettiva informata e di rilievo sulle questioni legali e tecnologiche cruciali per le imprese moderne nel contesto della gestione aziendale ai tempi dell’algoritmo.

 

La Dott.ssa Giulia Schneider

Qual è il rapporto tra l’organizzazione dell’attività d’impresa “ai tempi dell’algoritmo” e il modello societario? Come questo modello dimostra la sua resilienza rispetto alle nuove possibilità di strutturazione e gestione dell’impresa offerte dalle tecnologie emergenti?

L’avvento delle nuove tecnologie per l’organizzazione e la gestione d’impresa ha sollevato un vento d’entusiasmo tra le fila di parte della dottrina. Nel coro degli osservatori del fenomeno, alcune voci hanno previsto la fine della società per come la conosciamo oggi, grazie a nuove opportunità di risoluzione per via tecnologica dei tradizionali problemi gravanti sulla struttura societaria, in primis la gestione dei problemi di agenzia tra diversi organi sociali.

In linea parallela a queste congetture speculative, sono emerse sul mercato, in particolare oltreoceano, soluzioni di organizzazione dell’impresa radicalmente diverse dal paradigma societario. Il riferimento è in particolare alle c.d. decentralised autonomous organisations, che si caratterizzano per la gestione dell’impresa in via orizzontale da parte dei membri della comunità digitale tramite i canali della rete nodale di infrastrutture blockchain; e automatizzata, perché le volontà dei partecipanti sono sintetizzati dal medium tecnologico, senza l’esistenza di un centro verticistico di imputazione dell’azione gestoria come è l’organo amministrativo delle società per azioni.

Sebbene le promesse sottese a questi nuovi modelli di gestione dell’attività d’impresa siano da ricercarsi nella immediatezza e facilità– grazie ai canali della DLT– di partecipazione ai processi decisionali d’impresa, la recente vicenda della Ooki DAO statunitense ne ha ben presto messo in evidenza le fragilità.

Nel caso di specie, la CFTC (Commodity Futures Trading Commission) aveva rilevato come la costituzione della piattaforma di trading di criptoattività nella forma della DAO avesse lo specifico fine di eludere la responsabilità per esercizio abusivo di un’attività finanziaria (in violazione delle norme poste a disciplina della vendita di prodotti futures). Nel giugno del 2023, la Corte Distrettuale del Nord della California confermava questa impostazione, rinvenendo, in assenza di formali rappresentanti legali dell’impresa e dunque di presidi di “legal accountability” della DAO, la responsabilità per gli illeciti commessi in capo ai fondatori dell’organizzazione decentrata autonoma, qualificati quali “soggetti esercenti il controllo” fattuale sull’attività d’impresa.

Risolvendo così la questione, la pronuncia suggerisce all’interprete la perdurante utilità e direi convenienza della funzione reale di segregazione di patrimoni propria del modello societario; e della sua formula organizzativa verticistica geneticamente volta a minimizzare problemi di moral hazard propri di tutte le organizzazioni complesse.

Non è un caso, invero, che molte DAO di successo assumano forma societaria, addirittura puntando alla quotazione sul mercato regolamentato. D’altro canto, la forma societaria non costituisce un automatico “porto sicuro” rispetto ai nuovi rischi sottesi ad attività d’impresa sempre più automatizzate, in punto di organizzazione e finanche di gestione. È quanto ricordatoci, del resto, dal fallimento della società FTX che, come noto, ha aperto le porte al c.d. inverno crypto.

 

Una volta confermata la persistente attualità del modello societario, quali opportunità emergono dall’utilizzo delle nuove tecnologie, come l’Intelligenza Artificiale e le Distributed Ledger Technology (DLT), per l’esercizio della libertà d’impresa e di iniziativa economica, come sancito dall’art. 41 della Costituzione?

La perdurante centralità del paradigma societario come metodo di organizzazione e svolgimento dell’attività d’impresa non significa che quest’ultimo sia immune alla forza traente dei processi di digitalizzazione che interessano i mercati. Le infrastrutture tecnologiche aprono a nuovi canali di rappresentazione e circolazione della partecipazione sociale, suscettibili di dare vita a regimi alternativi ai regimi cartolari e scritturali ad oggi affermatisi. Ancora, le matrici tecnologiche dell’ingegneria contrattuale dei mercati sono all’origine di processi di ibridazione della partecipazione al contratto sociale. In questo senso, le fattispecie di utility token o dei token di governance potrebbero fornire nuova linfa “digitale” alla categoria degli strumenti finanziari partecipativi.

Muovendo dal basso della compagine sociale verso l’alto dell’organo amministrativo, sono ormai diffuse le riflessioni in punto di automazione dell’organo amministrativo: accantonata, nel nostro ordinamento europeo, la possibilità di un amministratore interamente automatizzato (robodirector) per difetto di soggettività giuridica delle macchine, si profilano come più immediati gli scenari dell’impiego di sistemi di intelligenza artificiale con funzione di supporto e potenziamento delle decisioni degli amministratori.

Su questo sfondo fattuale, il prisma del riformato art. 41 Cost. fornisce un utile banco di prova per misurare le opportunità delle nuove tecnologie rispetto all’esercizio della libertà d’impresa e di iniziativa economica secondo il “metodo” societario.

In primo luogo, infatti, sistemi automatizzati possono facilitare la funzionalizzazione degli assetti societari ad uno svolgimento più efficiente “dell’attività dell’impresa e al perseguimento delle sue strategie”, in particolare, rispetto all’obiettivo della massimizzazione dei profitti. Basti pensare agli algoritmi di prezzo utilizzati dalle piattaforme digitali o agli strumenti di high frequency trading impiegati nel settore dell’asset management. Più in generale, l’impiego di strumenti con funzioni predittive dei parametri finanziari della società potrebbe essere utile, come ricordato dal FMI, alla valutazione della solidità e sostenibilità finanziaria, anche in funzione della rilevazione anticipata di segnali di squilibrio patrimoniale, ora richiesta dal riformato codice della crisi.

Le attitudini funzionalistiche delle tecnologie implementate in ambito societario sono suscettibili, ad un livello ancora ulteriore, di dirigere il governo d’impresa verso il perseguimento di interessi sociali più ampi rispetto alla mera massimizzazione del profitto, potenzialmente contribuendo proattivamente ad allineare l’esercizio della libertà di impresa all’obiettivo del successo sostenibile dettato dal Codice di Corporate Governance, e dunque ad evitare che la stessa libertà d’impresa venga esercitata “in contrasto con l’utilità sociale o in modo da recare danno alla sicurezza, alla libertà, alla dignità umana” come imposto dal nuovo art. 41 Cost.

Secondo questa prospettiva, gli strumenti di Corptech possono essere particolarmente utili a orientare il board nella definizione di strategie a lungo termine: ciò vale sia per strumenti di intelligenza artificiale con funzioni di calcolo prospettico di parametri non-finanziari (sul piano ad esempio della quantificazione delle emissioni di CO2 o di predizione di rischi ambientali); sia per strumenti di blockchain che consentono un più pronto coinvolgimento di azionisti e stakeholders nell’ottica di un dialogo dinamico tra queste categorie ed il management. Similmente, devono ricordarsi le opportunità di tracciamento digitale della catena di valore d’impresa, utili al soddisfacimento degli obblighi di diligenza delle imprese ai fini della sostenibilità tracciati, seppure al momento solo in forma di proposta, sull’orizzonte europeo.

 

Come possono le tecnologie emergenti, come l’IA e le DLT, influenzare la governance aziendale e le decisioni strategiche all’interno delle imprese, tenendo conto dei doveri degli amministratori e della tutela degli interessi societari?

Le opportunità ora ricordate devono essere adeguatamente soppesate con i limiti che l’integrazione di sistemi digitali nel tessuto societario pone ad un esercizio propriamente libero della libertà d’impesa. Come recentemente documentato da uno studio del Financial Times su Open AI[1], sussistono ancora numerosi dubbi circa l’effettività di sistemi informatici predittivi Corptech, qualora questi non siano adeguatamente addestrati su dataset interni e specifici all’impresa.

Non tutte le imprese dispongono di giacimenti di dati idonei a tal fine, e prevale ancora l’utilizzo di sistemi standardizzati e “neutri” dal punto di vista del mercato, con conseguente compromissione dell’affidabilità dei risultati. Anche in caso di disponibilità di dataset utili, la taratura di strumenti automatizzati sulle caratteristiche proprie della singola impresa comporta dei costi che solo poche società decidono di sostenere. Qualora sia fatto uso di strumenti automatizzati scarsamente sofisticati e con ridotte capacità adattive, questi restituiranno risultati fortemente vincolati ai dataset e dunque alle informazioni sulle quali sono stati addestrati e sviluppati. Il funzionamento di questi sistemi rischia dunque di essere inficiato da una dipendenza dal percorso (pattern dependency) che ha tre principali implicazioni in punto di esercizio dell’attività d’impresa e di governo societario.

A livello “macroeconomico”, l’utilizzo a scopi di governo e di esercizio di impresa di simili sistemi espone al pericolo di appiattimento dell’iniziativa economica degli operatori di mercato su standard uniformi predeterminati da codici algoritmici. I rischi di standardizzazione appaiono essere ancor più evidenti alla luce della diffusione della prassi di outsourcing di strumenti tecnologici sul mercato oligopolistico dei terzi operatori specializzati nel settore tecnologico; prassi che dà origine a nuovi rischi sistemici in punto di stabilità e integrità dei mercati in cui questa si è affermata con più evidenza.

Il quadro delineato incide inoltre sulle corde delle dinamiche concorrenziali di mercato: nei mercati “algoritmici”, sembrano infatti destinate ad assicurarsi un vantaggio competitivo sicuro unicamente le imprese che hanno le risorse tecnologiche per elevarsi dagli standard comuni, grazie a strumenti digitali con capacità predittive e dunque decisionali più potenti. In questo scenario, verrebbe dunque ad acuirsi ulteriormente la forbice concorrenziale tra società a basso e ad alto gradiente tecnologico, e con ciò a consolidarsi l’equazione, già ampiamente osservata, tra potere tecnologico e iniziativa economica propriamente libera.

A livello “microeconomico”, e dunque di governance interna, infine, il carattere di dipendenza dal percorso proprio di molti strumenti di intelligenza artificiale suggerisce una riflessione aggiuntiva circa la neutralità delle nuove tecnologie impiegate nel contesto societario. Pur presentandosi inizialmente neutrali nei loro fini, le stesse finiscono dipoi, proprio in virtù della loro adattività ambientale, per recepire e promuovere i criteri, gli indirizzi e finanche i valori decisionali della società in cui sono impiegati o, nel caso di sistemi meno evoluti, della società che li ha progettati.

Questo significa, all’atto pratico, che il governo societario e l’esercizio dell’attività di impresa come dettato da questi strumenti rischia di essere predeterminato entro rigidi parametri, anche valoriali, che rendono difficile un cambiamento di rotta rispetto al percorso che gli algoritmi hanno “storicamente” seguito.

La predeterminazione a monte degli indici informatici rilevanti al momento della progettazione informatica o elaborati autonomamente nel corso dell’utilizzo dello strumento offusca la prevedibilità degli scenari di rischio. I sistemi utilizzati potrebbero dunque non essere in grado di percepire alcuni fenomeni posti al di fuori del proprio raggio di calcolo, con conseguenti ricadute in punto di compressione della resilienza dell’iniziativa economica.

Gli interessi, sia di profitto sia di sostenibilità non finanziaria, che gli amministratori sono tenuti a considerare in ossequio ai propri doveri legali e statutari, potrebbero infatti ben mutare in relazione a trasformazioni repentine del contesto socio-economico ed anche geopolitico in cui si colloca l’attività di impresa.

Il rischio è dunque che gli strumenti digitali rimangano insensibili a recepire l’eventuale insorgere di nuovi interessi dei soci e degli investitori, come è avvenuto nel caso della presa di distanza rispetto a strategie di sostenibilità ambientale da parte di investitori istituzionali, quali Blackrock, in costanza della crisi energetica; ovvero di nuove esigenze delle categorie di stakeholders individuati come rilevanti per la società, quali quelle emerse in seguito alla recente esperienza pandemica.

Alla luce di quanto ora osservato, meglio si comprende il dubbio sull’adeguatezza di assetti societari interamente automatizzati in mercati caratterizzati da incertezze e instabilità strutturali che amplificano le vulnerabilità digitali.

 

Secondo il nostro ordinamento, esiste già un obbligo per gli amministratori di società di utilizzare strumenti automatizzati nella gestione degli assetti societari considerati “adeguati”?

Il riconoscimento dei limiti che la digitalizzazione pone rispetto ad un esercizio propriamente libero della libertà di impresa induce a rispondere negativamente al quesito se si possa configurare un vero e proprio dovere degli amministratori di ricorrere a metodi computazionali per assicurare l’adeguatezza degli assetti alle “esigenze dell’impresa”.

A risposta positiva non sembra potersi giungere nemmeno in quei pochi casi in cui l’ordinamento societario stesso sembra volgersi ad una valutazione “matematica” e improntata al canone probabilistico del contesto in cui si muove l’azione gestoria. Il riferimento è in particolare al novellato art. 2086 c.c. e ai parametri di cui all’art. 3 c.c.i. che, in base ad un approccio marcatamente anticipatorio, rimandano ad un’analisi predittiva e quantitativa (i.e. condotta in base a indicatori quantitativi) del rischio di insolvenza, finanche nel momento dell’allerta esterna da parte dei soggetti qualificati, primi tra tutti gli istituti di credito.

Sebbene la riforma della crisi sembri invitare al ricorso al supporto tecnologico per la tempestiva rilevazione della crisi– in linea con quanto già diffuso nella prassi è da tempo diffuso il modello di Altman per la previsione della crisi–, il dato normativo non pare tuttavia ancora postulare un vero e proprio obbligo del consiglio di amministrazione di impiegare strumenti automatizzati entro gli assetti societari ex art. 2086 c.c.

Il caso della disciplina della crisi è emblematico in questo senso, proprio perché la stessa è tradizionalmente arricchita da regole tecniche e norme elaborate dalle scienze aziendali e contabili, che risultano fondamentali per definire i principi di corretta amministrazione e di corretta gestione imprenditoriale nel momento della predisposizione degli assetti adeguati. Tuttavia, l’innovatività e i costi ancora elevati di tecnologie sofisticate come i sistemi di intelligenza artificiale e di DLT– derivanti anche dai limiti ora rilevati– non consentono ad oggi di annoverare pacificamente simili tecniche informative in quegli ambiti.

Sotto diversa prospettiva, inoltre, l’impiego di strumenti digitali comporta notevoli criticità in punto di asimmetrie informative, non solo tra eventuali produttori/sviluppatori e da un lato il board, vincolato al dovere di agire informato, dall’altro l’organo di controllo, che deve operare sulla stessa base informativa degli amministratori; ma anche tra amministratori e soci, nonché tra società e creditori (ancora una volta, innanzitutto i creditori finanziari).

Proprio alla luce di questi profili di irrisolta complessità, strettamente tecnologica e di governance, quello degli assetti adeguati (anche in forma automatizzata) sembra doversi riaffermare quale un “obbligo specifico a contenuto aperto” delimitato da margini di discrezionalità tecnica, da commisurarsi alla natura e alle dimensioni dell’impresa.

Così che, ad oggi, solo per le grandi società ad alto gradiente tecnologico, quali i GAFAM, l’opportunità del ricorso a sistemi algoritmici entro gli assetti organizzativi, amministrativi e contabili può forse già ora dirsi oggetto dei doveri degli amministratori di curare assetti “adeguati”.

 

In relazione al concetto di “assetto adeguato”, è necessario implementare specifici sistemi di governo e monitoraggio delle tecnologie integrate nelle strutture e nelle operazioni societarie?

Gli scenari della digitalizzazione dell’attività e della governance d’impresa sollecitano una riconsiderazione del paradigma degli assetti societari adeguati sotto il presidio del presidio dei rischi tecnologici da parte del consiglio di amministrazione. Se la scelta sull’an e sul quomodo della digitalizzazione è rimessa alla libera discrezionalità dell’organo amministrativo, la lente degli assetti adeguati suggerisce l’insorgenza di nuovi doveri di gestione dei sistemi digitali una volta inseriti nella struttura societaria. In relazione ad assetti automatizzati, il dovere generale della cura degli assetti adeguati sembra infatti doversi interpretare alla stregua di un dovere del board di elaborare assetti procedurali e “culturali”– in punto di conoscenze e competenza in materia dei rischi digitali– adeguati al grado di impiego di tecnologie digitali, ed al monitoraggio dei rischi d’impresa da queste discendenti.

Da questo angolo visuale, l’elaborazione delle strategie di sviluppo digitale societario da parte dei vertici del consiglio dovrebbe muovere dai precetti di buona condotta tecnologica tracciati dalle normative in materia tecnologica, primi tra tutti gli obblighi di data management sanciti dal quadro normativo europeo (pensiamo alle numerose regole discendenti dalle discipline europee in materia di dati, quali il GDPR, il DGA, il Data Act, il DMA, il DSA) e di gestione delle tecnologie di intelligenza artificiale proposti dall’AI Act.

Pur perseguendo obiettivi di tutela di interessi e dei diritti fondamentali di natura personale e senza intercettare, in linea di massima, la tutela di interessi economici d’impresa (un discorso a parte deve però essere fatto per DMA e DSA), queste normative appaiono di rilevanza diretta e paradigmatica anche a fini di governance societaria.

Diretta perché forniscono una base fondamentale di legittimità delle scelte gestorie in ambito tecnologico, rispetto ai rischi di pregiudizio a interessi terzi portatori di interessi, quali lavoratori o consumatori, direttamente dipendenti dalle tecnologie impiegate. Da questa prospettiva, la predisposizione di assetti societari “umani” adeguati ad un controllo efficace della legittimità delle tecnologie impiegate si delinea quale elemento indefettibile di strategie d’impresa sostenibili sotto il profilo sociale e di governance.

Paradigmatica perché le normative citate, se pensiamo alla proposta di AI Act, forniscono sovente dei principi generali che possono utilmente informare il governo delle tecnologie e dei dati anche a fini di salvaguardia degli interessi strettamente economici e di mercato dell’impresa stessa. Si pensi, ad esempio, alle ricadute reputazionali di eventi di mala gestio tecnologica, a partire dall’abbassamento abusivo di standard di protezione dei dati personali.

 

Esistono linee guida o normative specifiche che le imprese dovrebbero considerare nell’integrare le nuove tecnologie nella struttura societaria al fine di garantire conformità normativa e tutela degli assetti aziendali? 

Primi passi verso la codificazione di doveri di governo tecnologico sono mossi dalla normativa finanziaria europeo elaborata in seno alla Strategia per la finanza sostenibile.

Il Regolamento europeo sulle cripto-attività, proprio per ovviare all’attitudine elusiva delle nuove attività d’impresa digitale rispetto alle normative settoriali per così diretradizionali, pone dei primi requisiti di governance dei diversi emittenti di cripto-attività, in punto ad esempio di conflitti di interessi, di buona condotta, e di salvaguardia di elevati livelli di resilienza digitale– dunque di cybersecurity– delle infrastrutture digitali impiegate a fini di negoziazione sulle cripto-attività.

La materia dei rischi di cybersecurity è inoltre come noto ora disciplinata dal regolamento europeo sulla resilienza operativa digitale delle imprese finanziarie che pone una serie di nuovi requisiti di governance dei rischi informatici validi per tutto il settore finanziario: tra questi, si ricordano nuovi obblighi in punto di flussi informativi intra- ed extra- consiliari relativi ai rischi informatici e finanche nuovi doveri di formazione e aggiornamento dell’organo amministrativo nelle discipline informatiche. A corollario di ciò, l’organo amministrativo delle società finanziarie diviene titolare della responsabilità per la mappatura, rilevazione e mitigazione dei rischi digitali d’impresa, suscettibili di indebolire se non addirittura di compromettere la tenuta della società sul mercato.

Date queste coordinate, la regolazione finanziaria europea sembra precorrere i tempi rispetto al diritto d’impresa generale. Eppur qualcosa si muove anche su questo piano, almeno a livello di soft law. In questo frangente, colpisce l’ampio richiamo ai rischi tecnologici nel quadro nei nuovi principi di corporate governance dell’OECD, che fanno riferimento anche all’opportunità della creazione di veri e propri comitati intra-consiliari per il controllo dei rischi di sicurezza digitale (V.D.2.; V.E.2.), annoverati, non a caso, tra i parametri di valutazione d’impresa a cui gli investitori dovrebbero prestare attenzione (IV.A.8.).

 

 

[1] R. Waters, The Paradox of OpenAI’s Bid to Enter the Corporate World, 1 settembre 2023, Financial Times

Back To Top