Nota: L’articolo è iniziato con la parte 1ª in data 23/08/2024
Quarta Minaccia: Ingegneria Memetica
L’ingegneria memetica implica la progettazione di idee o culture virali (meme) per ottenere un risultato psicologico o materiale specifico. Il termine deriva dall’ingegneria genetica, con i meme che rappresentano l’equivalente culturale di un gene biologico. I meme sono unità culturali multifaccettate, come immagini, video, frasi o concetti, che si diffondono rapidamente online tramite imitazione e condivisione. Quando vengono utilizzati come armi, i meme possono sfruttare il tribalismo umano, le emozioni, i bias cognitivi e l’identità, manipolando potenzialmente comportamenti o credenze.
Storicamente, la Russia è stata il principale attore nell’uso dell’ingegneria memetica, ma la Cina ha iniziato a spostare il suo focus dalle operazioni basate sulla quantità sui social media a quelle mirate a individui specifici. Secondo il rapporto del 2023 di Microsoft Threat Intelligence, le operazioni di influenza cinesi hanno iniziato a utilizzare strumenti di intelligenza artificiale generativa per creare contenuti visivi che hanno ottenuto un maggiore coinvolgimento sui social network rispetto agli sforzi precedenti. Inoltre, queste operazioni si sono espanse su diverse piattaforme social, inclusa Reddit, dove si trovano molti forum di discussione finanziaria.
Minacce per i Mercati Finanziari
Sebbene non ci siano casi documentati di ingegneria memetica da parte di attori stranieri per manipolare i mercati finanziari, gli esperti sono preoccupati per il potenziale di tali attacchi. Due possibili scenari di utilizzo dell’ingegneria memetica in un contesto finanziario sono: un attacco rapido per creare una frenesia su specifici titoli azionari e una degradazione a lungo termine di credenze, ideologie o fiducia nei mercati o nelle istituzioni finanziarie.
Un esempio di attacco rapido è il caso di GameStop del gennaio 2020, in cui gli utenti della comunità Reddit r/wallstreetbets hanno spinto il prezzo delle azioni di GameStop, diffondendo il meme “Main Street versus Wall Street”. Sebbene non ci siano prove che agenti stranieri abbiano istigato la bolla di GameStop su Reddit, ci sono alcune evidenze che i bot abbiano amplificato i meme di GameStop su altre piattaforme social.
Impatti Economici Potenziali
Non ci sono molte prove empiriche sui costi degli attacchi di ingegneria memetica. Tuttavia, la rapida crescita e il crollo dei titoli meme suggeriscono che questi movimenti azionari hanno implicazioni per il mercato azionario più ampio. Gli studi mostrano che i titoli meme possono influenzare il mercato più ampio consentendo ai singoli investitori al dettaglio di coordinarsi e agire come un unico grande trader, una forma di manipolazione del mercato. Inoltre, durante periodi di incertezza del mercato, gli effetti dei titoli meme possono intensificarsi, causando movimenti significativi dei prezzi.
Il rapporto del novembre 2021 della Federal Reserve evidenzia i rischi dei titoli meme per la stabilità del mercato, notando che l’impatto sui mercati è stato limitato, ma cambiamenti nelle normative, nella demografia degli investitori e nella tecnologia richiedono un monitoraggio continuo.
Fattori che Influenzano la Probabilità
Diversi fattori potrebbero amplificare l’impatto finanziario dei deepfake. La capacità di creare disinformazione credibile e virale e i costi associati a tali attività sono determinanti. Le tecnologie di intelligenza artificiale generativa potrebbero ridurre il numero di lavoratori necessari per condurre operazioni di informazione, aumentando la probabilità di un attacco di ingegneria memetica riuscito. La protezione dei dati dei consumatori e la loro gestione da parte delle aziende che raccolgono dati potrebbero influenzare la probabilità di tali attacchi. Politiche che limitano il flusso di dati verso paesi terzi potrebbero essere efficaci nel coordinare la prevenzione dell’uso congiunto dei dati da parte di avversari stranieri.
La nostra analisi suggerisce che gli strumenti e i metodi a disposizione degli avversari per attaccare il sistema finanziario statunitense difficilmente causeranno danni economici significativi a medio o lungo termine nella maggior parte dei casi. Le linee di difesa più robuste sono le ridondanze e le misure di sicurezza all’interno del sistema finanziario, progettate appositamente per prevenire l’escalation di tali crisi. Inoltre, l’interconnessione globale del sistema finanziario USA crea una naturale deterrenza contro gli attacchi da parte di attori statali, sebbene possa non scoraggiare attori non statali. Tuttavia, potenziali cambiamenti nelle relazioni geopolitiche potrebbero rendere le ripercussioni economiche di un attacco meno costose dal punto di vista politico per gli avversari.
Temi Comuni nei Costi e nelle Probabilità delle Minacce
Ogni minaccia ha alcuni costi diretti associati, oltre a potenziali costi indiretti per i mercati più ampi. Alcune minacce comportano anche costi intangibili per le norme sociali o le istituzioni. Abbiamo identificato diversi fattori trasversali di probabilità che contribuiscono o detraggono dalla probabilità di un attacco riuscito. Questi includono abilitatori tecnologici, trigger situazionali e fattori di gestione del rischio.
Costi Diretti e Indiretti
I costi diretti tendono a essere specifici. Ad esempio, un attacco memetico potrebbe far aumentare il prezzo di un titolo meme, oppure una campagna deepfake potrebbe prendere di mira una specifica azienda e causare il crollo del prezzo delle sue azioni. I costi indiretti derivano dagli effetti di contagio. In alcuni casi, questi effetti potrebbero essere positivi, come nel caso di un deepfake che spinge gli investitori verso un concorrente dell’azienda bersaglio. In altri casi, gli effetti di contagio sono probabilmente negativi, come nel caso degli attacchi avversari ai modelli di AI finanziaria che si diffondono nei mercati, come il flash crash del 2010. I costi intangibili includono la perdita di fiducia in specifiche entità, mercati o istituzioni finanziarie e sono difficili da quantificare.
Fattori di Probabilità
I fattori di probabilità sono raggruppati in tre categorie: abilitatori tecnologici, trigger situazionali e gestione del rischio. Gli abilitatori tecnologici sono fattori che aumentano la probabilità di un attacco riuscito attraverso il miglioramento tecnologico o l’integrazione aumentata della tecnologia. Ad esempio, un attacco deepfake diventa più probabile con il miglioramento delle tecnologie AI, che rendono i deepfake più economici, realistici e difficili da rilevare.
I trigger situazionali coinvolgono condizioni preesistenti come l’incertezza del mercato, la volatilità o una crisi di relazioni pubbliche. Anche le tensioni geopolitiche sono importanti trigger situazionali che possono modificare le motivazioni degli attori stranieri, riducendo i costi politici che il contraccolpo economico di un attacco potrebbe creare.
Gestione del Rischio
I fattori di gestione del rischio sono misure di mitigazione che potrebbero ridurre la probabilità o il costo di un attacco. Queste includono misure supplementari per disabilitare i sistemi di AI finanziaria, miglioramenti nel rilevamento dei deepfake, circuit breaker per fermare le cadute libere del mercato e politiche di governance dei dati coordinate. Ad esempio, un recente sondaggio condotto dal gruppo di lavoro AIRS presso la Wharton School conclude che molte aziende del settore finanziario sono ancora nelle fasi iniziali dell’adozione dell’AI e che il settore potrebbe beneficiare di una maggiore collaborazione nell’elaborazione di strategie di riduzione del rischio. Il rapporto sottolinea la necessità di implementare misure di sicurezza supplementari, come “interruttori di emergenza” in grado di disabilitare completamente il sistema quando necessario.
Conclusioni
Il sistema finanziario degli Stati Uniti è una istituzione fondamentale per l’economia del paese, fornendo liquidità, opportunità di investimento e servizi di gestione del rischio al mercato globale. Tuttavia, questa posizione può renderlo un bersaglio attraente per avversari stranieri. La nostra valutazione delle minacce emergenti specifiche suggerisce che, sebbene esista il potenziale per danni diffusi, la maggior parte delle minacce esaminate è più probabilmente causa di perdite economiche limitate.
Sebbene le preoccupazioni riguardo a un potenziale “11 settembre finanziario” siano comprensibili, la nostra analisi indica che è relativamente improbabile. Piuttosto, la natura delle minacce emergenti al sistema finanziario USA potrebbe assomigliare più a un “cambiamento climatico finanziario”, implicando una serie di rischi graduali, interconnessi e in evoluzione, anziché un incidente isolato ad alto impatto.
Esempi di Minacce Graduali
- Campagne coordinate di deepfake: Potrebbero erodere la fiducia nei leader aziendali e nelle istituzioni finanziarie nel corso degli anni.
- Ingegneria memetica avanzata: Potrebbe progressivamente minare la fiducia nei mercati finanziari e nelle istituzioni.
- Avvelenamento dei dati dei modelli AI: Potrebbe produrre previsioni economiche subottimali senza innescare interruttori di sicurezza del mercato.
Fattori di Probabilità e Costi
Le tensioni geopolitiche possono creare condizioni che aumentano l’incertezza e le vulnerabilità nel sistema finanziario, portando a effetti cumulativi sulla performance del mercato e sulla salute economica generale. Questi rischi graduali possono essere più difficili da gestire rispetto a un crollo improvviso.
Gestione Proattiva del Rischio
Soluzioni di gestione del rischio proattive potrebbero prevenire perdite. Avanzare l’AI giocherà un ruolo chiave nel determinare se un avversario può portare a termine un attacco riuscito. Pertanto, politiche che incoraggiano lo sviluppo responsabile e l’uso delle tecnologie AI possono agire come importanti salvaguardie per la stabilità finanziaria.
L’ordine esecutivo dell’amministrazione Biden sull’intelligenza artificiale sicura, sicura e affidabile, pur non mirato specificamente alla sicurezza finanziaria, prevede nuove misure di sicurezza per l’AI che potrebbero proteggere il sistema finanziario dagli attacchi. Queste misure includono test rigorosi per modelli di grandi dimensioni e controlli sull’esportazione di semiconduttori avanzati.
Promuovere la Competizione e la Trasparenza
Le politiche economiche che incoraggiano la competizione nel mercato dei modelli AI di base potrebbero aumentare la resilienza del settore finanziario. Dipendere da modelli di terzi potrebbe creare nuovi rischi sistemici; quindi, promuovere la concorrenza potrebbe ampliare le opzioni disponibili per le istituzioni finanziarie che cercano di integrare l’AI nelle loro operazioni.
Combattere il Deterioramento della Verità
Contrastare il fenomeno noto come “Truth Decay” potrebbe limitare l’esposizione finanziaria ai deepfake e all’ingegneria memetica. Ricerche suggeriscono che analizzare la disinformazione a livello di attore statale, incoraggiare i consumatori a cercare fonti affidabili e sostenere figure politiche moderate potrebbero mitigare gli effetti del Truth Decay.
Simulazioni di Wargame Economici
Svolgere scenari di wargame economici potrebbe aiutare a identificare le aree più vulnerabili del sistema finanziario USA e comprendere perché esistono tali vulnerabilità. Questi esercizi potrebbero rientrare nel mandato di un nuovo “Economic Joint Chiefs”, riunendo stakeholder di finanza, tecnologia, geopolitica e sicurezza nazionale per comprendere meglio come queste minacce potrebbero evolversi nel prossimo decennio.
Monitorare e adattarsi costantemente al panorama in evoluzione, abbracciando i progressi tecnologici in modo responsabile e promuovendo politiche economiche robuste che favoriscano la concorrenza e la trasparenza, aiuterà gli Stati Uniti a mitigare queste minacce emergenti e a mantenere la stabilità finanziaria.
Fonte: https://www.rand.org/pubs/research_reports/RRA2533-1-v2.html
