Chi controlla il passato controlla il futuro. Chi controlla il presente controlla il passato.
La conclusione implicita in questa parafrasi del celebre romanzo di G. Orwell è che chi controlla il presente controlla tutto.
Chi controlla il passato può modificare a suo piacere la percezione di cosa è accaduto e in questo modo giustificare qualsiasi azione futura, annullando così ogni contraddizione e ogni memoria alternativa.
Il presente diventa l’anello decisivo: dominarlo significa poter manipolare ciò che è stato (cancellando o deformando la memoria collettiva) e quindi pilotare ciò che sarà.
È una rappresentazione inquietante del totalitarismo moderno, dove la verità oggettiva viene sostituita dal potere di chi decide “ciò che è vero in questo momento”.
È chi decide cosa è vero? In questo scenario di continua riscrittura della verità che ruolo ricopre la nascente Intelligenza Artificiale?
In effetti l’AI può agire come un moltiplicatore del controllo descritto da Orwell per almeno tre ragioni:
Riscrittura su scala industriale del passato
Un’AI generativa può modificare, sintetizzare o creare ex novo documenti, foto, video, articoli, post e registri storici in modo coerente e rapido. Ciò che prima richiedeva anni di lavoro burocratico e propaganda, oggi può essere fatto in tempo reale, personalizzando persino le versioni del passato per diversi gruppi sociali o perfino per singoli osservatori.
Controllo dinamico del presente
Attraverso algoritmi di raccomandazione, filtri dei contenuti, modelli linguistici che rispondono in modo allineato a una certa narrativa, e sistemi di sorveglianza predittiva, l’AI permette di influenzare o determinare cosa le persone vedono, leggono, pensano e ricordano in questo momento. Chi controlla i modelli AI (e i dati su cui vengono addestrati) controlla di fatto la percezione del presente.
Memoria e identità
Con l’aumento della dipendenza da assistenti AI, motori di ricerca e archivi digitali automatizzati, la “verità” non è più ciò che è accaduto, ma ciò che l’AI restituisce come risposta. Se un sistema AI viene pilotato per alterare o omettere eventi passati, la società potrebbe perdere la capacità collettiva di distinguere il fatto dalla ricostruzione.
Talkie 13B
Un esempio estremo è il progetto Talkie 13B, un'AI addestrata esclusivamente su dati antecedenti al 1930. Questo modello non sa nulla della Seconda Guerra Mondiale, dei computer o della monarchia italiana finita. Per lui, quei "futuri" non sono ancora accaduti. Se un'AI del genere diventasse la fonte primaria di verità per una società, l'intera storia successiva al 1930 verrebbe semplicemente sottratta alla coscienza collettiva.
Come difendersi
Difendersi da uno scenario in cui il presente controlla passato e futuro (amplificato dall'AI) è complesso, ma possibile su più livelli: individuale, collettivo e tecnologico. Ecco alcune strategie concrete.
Livello individuale
Fonti diversificate e incrociate Non affidarsi mai ad un solo motore di ricerca, social network o assistente AI. Confrontare versioni diverse degli stessi eventi, anche da fonti geograficamente e culturalmente lontane. Meglio sentire le diverse versioni che scegliere quella che più ci piace o la più semplice. La realtà è complessa così come le motivazioni.
Archiviazione personale offline Salvare documenti, articoli, immagini e video in locale (hard disk esterni, stampe, backup fisici). Chi possiede i dati può resistere alla loro riscrittura.
Sviluppo del pensiero critico Chiedersi sempre: chi ha creato questa informazione? Quale narrativa serve? Cosa viene omesso? Chi ne trae beneficio? Addestrarsi a riconoscere pattern di manipolazione (ripetizione, polarizzazione, semplificazione eccessiva).
Uso consapevole dell'AI Non prendere per vero tutto ciò che un chatbot o un generatore produce. Verificare con fonti primarie quando possibile. Utilizzare un approccio epistemico.
Livello tecnologico Tecnologie immutabili Blockchain e archivi distribuiti possono certificare l'esistenza di un documento in un dato momento, rendendo la riscrittura retroattiva molto più difficile.
Watermarking e firme digitali Autenticare contenuti originali con firme crittografiche. Organizzazioni indipendenti potrebbero mantenere registri hash di informazioni chiave.
Browser e motori di ricerca alternativi Usare motori che non personalizzano i risultati o che archiviano versioni passate del web (Internet Archive/Wayback Machine).
AI open source locali Modelli AI eseguibili sul proprio computer riducono la dipendenza da AI centralizzate che potrebbero essere manipolate.
Livello collettivo e sociale
Reti di fiducia distribuite Gruppi di persone che si scambiano e verificano informazioni indipendentemente, simili a giornali cittadini o fact-checking cooperativo.
Memoria pubblica ridondante Biblioteche, archivi universitari, musei e giornali indipendenti che conservano versioni multiple della storia in giurisdizioni diverse.
Trasparenza degli algoritmi Richiedere (politicamente) che i modelli AI utilizzati per informazione, istruzione o pubblica amministrazione siano aperti, verificabili e auditabili.
Educazione sistematica Insegnare a scuola e nei contesti sociali la differenza tra fatto, interpretazione e propaganda, nonché le basi del funzionamento dell'AI.
Limite inevitabile, l’onestà intellettuale
Nessuna difesa è perfetta. Un attore con risorse immense (Stato, super-azienda) che controlla la maggior parte dell'infrastruttura digitale, dei media e dei modelli AI potrebbe comunque indurre una maggioranza della popolazione a credere a una versione alterata della realtà, come già accade. In tal caso, difendersi significa preservare piccole enclavi di memoria vera – anche solo nella propria testa o in cerchie ristrette – in attesa che il sistema mostri le sue contraddizioni.
La dinamica della silenziosa sottrazione dei dati
La sottrazione dei dati è un concetto che si inserisce perfettamente nel cuore della dinamica orwelliana che stiamo analizzando. L'obbiettivo è quello di togliere la conoscenza come strumento di controllo.
Ecco come si articola la sottrazione:
Sottrazione per controllo del passato (Creare "buchi neri" Storici)
Se chi controlla il presente controlla il passato, un modo per riscrivere la storia è cancellare i dati che la documentano, che la dimostrano. Non basta aggiungere una narrativa falsa; bisogna rimuovere l'originale.
Sottrazione per controllo del presente (Avvelenamento della Memoria).
Nel presente, la sottrazione avviene attraverso un meccanismo chiamato Memory Poisoning (avvelenamento della memoria). Negli AI agentici (quelli che agiscono e imparano), la memoria è fondamentale. Un attaccante può "iniettare" dati falsi o cancellare selettivamente dati veri dalla memoria a lungo termine dell'AI. L'agente AI non sa più cosa sia vero. La sua versione del "passato", i dati su cui è stato addestrato, viene mutilata. L'agente "dimentica".
Sottrazione per controllo del futuro (Distruzione dell'Imprevedibilità)
Questo è l'apice della sottrazione: eliminare la possibilità stessa di pensare fuori dagli schemi. Come diceva Orwell, "L'Ortodossia significa non pensare" . Se l'AI filtra solo ciò che è probabile, sottrae all'umanità la capacità di creare il futuro autentico.
