Ecco come l'IA potenzierà la propaganda online. Il report di Matt Chessen per il think tank Atlantic Council

I nuovi strumenti offerti dall’Intelligenza artificiale (IA) daranno ai propagandisti alcune capacità radicalmente potenziate per manipolare le menti umane.
A dirlo è un recente report dell'Atlantic Council a firma di Matt Chessen, senior technology policy adviser nell'ufficio del Science and Technology Adviser del Segretario di Stato americano.

LE PREVISIONI DI CHESSEN
Le attività cognitive umane, spiega lo studio, rappresentano un sistema molto complesso e l’IA è molto efficace per decodificare sistemi complessi. Le interazioni sui social media, la navigazione su Internet e lo shopping online forniscono centinaia di dati dai quali è possibile ricavare dei profili psicologici su quasi tutti i cittadini.
L’uso dell’Intelligenza artificiale integrata nei computer per gestire la comunicazione e rispondere così alle esigenze degli utenti in modo più o meno diretto, scrive Chessen, viene definito Madcom (acronimo di Machine Driven Communication). Il termine indica, in pratica, quelle comunicazioni digitali che traggono origine da una macchina.
Nei prossimi anni, rileva il report, proprio attraverso la Madcom, si potranno influenzare gli utenti creando messaggi individuali persuasivi, distrattori o intimidatori costruiti sulla base delle singole personalità e background, una forma di propaganda altamente personalizzata. 

UNO SCENARIO COMPLESSO
Questo scenario non si limita solo alle comunicazioni che avvengono tramite assistenti digitali come Siri o chatbot come Xiaoice (le chatbot sono delle vere e proprie chat in cui l’interlocutore è una macchina). Piuttosto, crede Chessen, ci si riferisce a tutte le comunicazioni legate alle macchine digitali che stanno invadendo Facebook, Twitter, YouTube, Match, Reddit, chat room, le sezioni commenti dei siti di notizie e tutto il resto del mondo social che viaggia sul web. 

COMUNICAZIONE INDISTINGUIBILE
Si arriverà ad un punto, prevede il documento, in cui la comunicazione artificiale non sarà più distinguibile da quella umana. I sistemi dinamici di IA creano veri e propri contenuti, da semplici commenti ad articoli complessi, senza badare alla fonte o veridicità dei fatti raccontati. Uno dei rischi è quello di lasciare ampio spazio a fake news in grado di disegnare il mondo in modo diverso dalla realtà, generando dinamiche sociali costruite e manipolate sulla base di piani strategici ben definiti. 

MOLTEPLICI USI
Sono vari, aggiunge il report, gli usi che si possono fare della Madcom. Gli accademici potrebbero utilizzarlo per fare ricerche. Le aziende per sviluppare campagne di marketing. I politici per mettere in piedi una campagna elettorale. I terroristi per diffondere messaggi e reclutare nuovi adepti. Gli Stati per gestire attività diplomatiche, di disinformazione e, nel peggiore dei casi, di soppressione democratica. 

COME AFFRONTARE IL FUTURO
Per gestire al meglio questo futuro che in parte è già presente, nel report si sottolinea come l’uomo non possa competere da solo contro le componenti negative della Madcom: "Nei network digitali della prossima decade, solo l’unione tra persone e Intelligenza Artificiale potrà competere con l’Intelligenza Artificiale stessa. Proprio come per la lotta della cyber security che ha dominato la prima parte del secolo, Internet sarà il campo di battaglia per una gara che vedrà da una parte gli esperti di tecnologia che miglioreranno gli strumenti di rilevazione della Madcom degli avversari, dall’altra i propagandisti che metteranno a punto i propri sistemi per evitare le attività di rilevazione".

UNA RISPOSTA COLLETTIVA
Affinché questa "battaglia narrativa", come viene definita, non faccia troppi danni, Chessen insiste sulla necessità del coinvolgimento della società a tutti i suoi livelli, dal sistema internazionale fino ai singoli individui. Ognuno ha il suo ruolo, dai governi, ai quali è richiesto di proteggere i cittadini non dimenticando valori quali l’uguaglianza e la libertà; alle aziende, cui si chiede di sviluppare prodotti e servizi resilienti alle tecnologie manipolative; alle università, che hanno il compito di far avanzare gli studi per fornire strumenti utili alle attività di ricerca e innovazione. Infine, ogni individuo ha la responsabilità di agire e muoversi nella Rete in modo consapevole, avendo cura dei propri dati e della propria identità digitale.

(Fonte Cyber Affairs)