Oltre l'hype: chi governa l'economia delle macchine?
Un viaggio nella situazione attuale dell'informatica e della trasformazione digitale che ci investe nonostante gap evidenti
📬 Ben ritrovato caro cyber User, ma anche smanettoni, sysadmin e compagni di terminale.
Partiamo dalla nostra regola d'oro: l'espressione che inizia per "intelligenza" e finisce per "artificiale" qui dentro è bandita. Come ci ricorda giustamente l'hacker e artista Oriana Persico, è fondamentale dare il nome corretto alle cose per non farsi ingannare dall'hype commerciale: quelli che abbiamo di fronte sono semplicemente "agenti computazionali", macchine con un'enorme capacità di calcolo che elaborano input e output, ma che non hanno nulla di umano o di realmente intelligente. Una volta spogliata la tecnologia da questa narrazione tossica, possiamo analizzare i fatti, a partire dai mercati finanziari.
Gli analisti di Investing Milano confermano che questi agenti vengono ormai usati dai trader come veri e propri consulenti in tempo reale per leggere i fondamentali di mercato. C'è però un cortocircuito logico e un enorme conflitto di interessi su cui sorridere amaro: se chiedi a questi chatbot su cosa investire per battere il mercato, ti consiglieranno quasi sempre di comprare azioni delle stesse aziende tech che li sviluppano, come ad esempio un agente Microsoft che ti suggerisce di investire in Microsoft.
Anche i colossi bancari si stanno muovendo in questa direzione: ai piani alti di Intesa Sanpaolo confermano di avere già in produzione decine di agenti per gestire funzioni che vanno dai conti correnti all'antiriciclaggio. La buona notizia per noi attivisti della privacy è che i responsabili dell'istituto sottolineano di aver incentrato lo sviluppo sulla totale sovranità del dato: i modelli linguistici (LLM) masticano le informazioni girando su server proprietari on-premise, senza far uscire nulla all'esterno del perimetro aziendale. Questa necessità di confinare rigorosamente i dati diventa una questione di pura sopravvivenza quando ci spostiamo sui processi industriali, come avverte Fabio Pammolli, professore di Economia al Politecnico di Milano.
Pammolli spiega che inserire questi agenti computazionali nell'analisi dei processi aziendali, nutrendoli con disegni tecnici e manuali di stabilimento, apre enormi falle di sicurezza: ogni punto di ingresso diventa un potenziale vettore per l'annidamento di software malevolo in grado di estrarre informazioni industriali critiche. Di conseguenza, l'infrastruttura computazionale si è ormai trasformata in una questione vitale di sicurezza nazionale e cyber intelligence.
A livello personale, l'esigenza di confinare i permessi di queste macchine non è da meno. L'esperto di cyber security Matteo Flora ha raccontato di aver impiegato due anni e mezzo per addestrare una sua "esocorteccia", ovvero una memoria esterna fatta di una coorte di agenti subordinati capace di assimilare le sue competenze, ricercare fonti e scrivere testi per lui. Eppure, mantenendo la sana paranoia del suo background cyber, Flora ammette che non darebbe mai a questi sistemi l'accesso al suo WhatsApp o al suo conto corrente principale; per evitare disastri, si limita a fornire all'agente una carta di credito prepagata con un plafond limitato solo per compiti banali, come prenotare il tavolo in un ristorante.
Questi agenti, del resto, non operano quasi mai isolati ma si inseriscono in complesse architetture "multiagente", dove ad esempio un agente chiamato "Maya" è già in grado di gestire in totale autonomia gli invitati a un evento aziendale, informandosi persino sulle loro intolleranze alimentari e comunicando con altri sistemi.
Secondo il filosofo dell'MIT Cosimo Accoto, questa orchestrazione autonoma ci sta traghettando verso una vera e propria "economia macchinica", dove la macchina sostituisce l'homo economicus nel ruolo di protagonista. Accoto illustra questo passaggio epocale parlando della proliferazione dei "gemelli digitali", ovvero simulazioni computazionali di asset, pazienti e persino animali domestici. Il gemello digitale del vostro cane, sensorizzato per rilevarne fame e gusti, potrà presto interfacciarsi in rete per comprare autonomamente le crocchette dal database, bypassando completamente l'azione umana.
Questo scenario è confermato anche dal manager Mark Poliac, il quale prevede che molto presto entreremo in un mondo in cui saranno le macchine a vendere ad altre macchine. Poliac fa notare che persino il marketing dovrà necessariamente cambiare pelle: la pubblicità non punterà più sulla persuasione emotiva delle nostre vulnerabilità umane, ma dovrà intercettare i bisogni e i parametri logici degli agenti computazionali che faranno gli acquisti per noi.
Oltre a stravolgere l'economia, Accoto sottolinea che la potenza di queste simulazioni rappresenta una rivoluzione epistemologica pari a quella del metodo sperimentale di Galileo: permettono di approssimare e studiare fenomeni ultra complessi, come la meteorologia o la salute di un paziente, scardinando vecchi ecosistemi (come gli ospedali basati sulle cartelle cliniche cartacee) per crearne di nuovi, iper-automatizzati. Questa trasformazione non si ferma ai soli flussi di dati nei server.
Come evidenzia chi ha creato l'impero dell'uberizzazione dei servizi, l'intelligenza computazionale sta invadendo anche il mondo fisico, per mezzo di veicoli a guida autonoma e robotica non umanoide capace di preparare pasti nei ristoranti a costi bassissimi.
Di fronte a questa valanga algoritmica, il rischio più subdolo è l'impoverimento delle nostre stesse facoltà cognitive e simboliche, un pericolo denunciato ancora una volta da Oriana Persico, che critica la spietata "pesca a strascico" di dati sul web con cui vengono nutriti i grandi modelli attuali.
La sua alternativa "datapoietica" consiste nell'usare dati a "chilometro zero" per creare agenti isolati che funzionino da sensori ambientali utili a farci comprendere lo stato di salute della nostra biosfera. In questo nuovo paradigma, ci resta una sola, cruciale linea di difesa, ben riassunta dalle parole del presidente di Formez: la formazione puramente nozionistica è ormai defunta.
Le informazioni si estraggono via API. L'unica vera ancora di salvezza per noi esseri umani, programmatori e attivisti, è allenare in modo ossessivo il pensiero critico, la logica pura e la capacità di decision making. Solo progettando, governando e confinando questi sistemi computazionali eviteremo di risvegliarci come semplici ingranaggi della loro rete. Continuate a scrivere codice pulito, cifrate i vostri dati e non abboccate mai all'hype.
Anche quest’oggi abbiamo concluso, ti ringrazio per il tempo e l’attenzione che mi hai dedicato, augurandoti un buon inizio di settimana, ti rimando al mio blog e alla prossima settimana per un nuovo appuntamento con NINAsec.
Il network
Con questo piccolo schema riepilogo in breve i punti di riferimento che alimento con i miei contenuti, su diversi fronti, quasi quotidianamente.
Ransomfeed.it - piattaforma di monitoraggio ransomware, realtime;
inSicurezzaDigitale.com - blog di sicurezza informatica con approfondimenti tematici;
Cyber-News.it - portale italiano con i migliori contributi cyber dalle news quotidiane;
SecureBulletin.com - news internazionali su cyber security, analisi e frodi;
Spcnet.it - notizie geek;
ilGlobale.it - note politiche e di economia, di rilevanza internazionale;
Ziobudda.org - notizie Linux, open source e software libero, segnalabili e commentabili (socialnews).
Androidiani.net - la più grande community sul mondo Android italiana, con forum e aggiornamenti quotidiani.
DarioFadda.it - il raccoglitore di tutto questo, con un suo feed RSS generale, per non perdere niente di quello che pubblico.