L’AI che si osserva: il sogno tecnocratico dell’autonomia perfetta
Qualche settimana fa, un gruppo di ricercatori di un laboratorio finanziato da fondi della difesa statunitense ha pubblicato un paper che passa quasi inosservato tra i comunicati stampa delle big tech e i lanci di nuovi modelli linguistici. Il titolo è innocuo: Discovery Loop: Self-Referential Optimization in Large Language Models. Dietro, però, c’è qualcosa di più inquietante di un semplice miglioramento delle prestazioni. Si tratta di un sistema in cui l’AI non solo apprende dai dati esterni, ma utilizza i propri output come nuovo input, creando un ciclo chiuso di auto-miglioramento. Un serpente che si morde la coda, ma con miliardi di parametri e l’ambizione di diventare onnisciente senza mai chiedere il permesso a nessuno.
Il principio è semplice: il modello genera una risposta, la valuta secondo metriche predefinite (coerenza, utilità, originalità), e usa quel feedback per aggiustare i propri pesi, senza intervento umano. In teoria, potrebbe migliorare all’infinito, scoprendo nuove conoscenze partendo solo dalla propria struttura interna. In pratica, quello che otteniamo è un sistema che ottimizza se stesso per diventare migliore nel compito che gli è stato assegnato: prevedere, controllare, prevedere ancora meglio. E chi assegna quei compiti? Sempre gli stessi: eserciti, agenzie di intelligence, corporation che vendono pubblicità comportamentale.
Il controllo algoritmico non è mai stato così astratto (e così totale)
Qui entra in gioco la prospettiva anarchica. Non stiamo parlando di un semplice aggiornamento di software. Stiamo assistendo alla materializzazione di un vecchio sogno autoritario: il potere che si autoregola, che non ha bisogno di spiegarsi, che non rende conto a nessuno perché è il suo stesso meccanismo a giustificarlo. Il Discovery Loop è il coronamento tecnologico dell’idea che il controllo possa essere incorporato nella struttura stessa della tecnologia, rendendolo invisibile, inevitabile, naturale.
Immagina un sistema di sorveglianza predittivo che non solo analizza i tuoi movimenti, ma genera ipotesi su ciò che farai domani, poi usa quelle ipotesi per affinare la sua capacità di prevederti, in un ciclo che si chiude su se stesso. Non c’è spazio per l’errore, non c’è spazio per il dissenso, non c’è spazio per l’imprevisto. Tutto viene assorbito, digerito, riutilizzato per diventare più efficiente nel prevederti e, quindi, nel controllarti. Non è più il Grande Fratello che ti guarda. Sei tu che, senza accorgertene, costruisci il fratello maggiore che ti osserva.
Chi ci guadagna? Sempre i soliti noti: Pentagono, Silicon Valley e il complesso militare-industriale-tech
Non è un caso che il paper sul Discovery Loop porti firme di ricercatori affiliati a istituzioni strettamente legate al Dipartimento della Difesa statunitense. Lo stesso vale per molti dei finanziamenti dietro la ricerca sui modelli linguistici di grandi dimensioni: da In-Q-Tel (il braccio di venture capital della CIA) a contratti diretti con agenzie di intelligence. Il modello non nasce in un vuoto accademico. Nasce in un ecosistema dove l’innovazione tecnologica è sinonimo di superiorità militare, dove l’AI non è uno strumento per la conoscenza, ma per la dominanza.
E dall’altra parte? Le stesse corporation che vendono i nostri dati agli inserzionisti ora stanno costruendo modelli che si ottimizzano da soli per prevedere meglio i nostri comportamenti di consumo, le nostre reazioni emotive, le nostre vulnerabilità psicologiche. Il Discovery Loop non è solo una questione di guerra o di spionaggio. È la logica stessa del capitalismo di sorveglianza portata alle sue estreme conseguenze: un sistema che non ha bisogno di estrarre dati da noi perché li genera da sé, basandosi su modelli interni che diventano sempre più accurati nel rappresentarci – e quindi nel manipolarci.
Le alternative dal basso esistono? Sì, e sono già in atto
Ma non tutto è perduto. Mentre i laboratori segreti perfezionano i loro cicli chiusi di auto-miglioramento, altrove si sta costruendo qualcosa di radicalmente diverso. Progetti come BLOOM, il modello linguistico open source sviluppato da una collaborazione internazionale di ricercatori indipendenti, mostrano che un’altra strada è possibile. BLOOM non è stato addestrato su dati proprietari né ottimizzato per metriche di profitto o di controllo. È stato costruito con trasparenza, con dati selezionati collettivamente, con l’obiettivo esplicito di essere uno strumento al servizio della conoscenza condivisa, non del potere.
Poi ci sono le reti federate come Mastodon e Lemmy, dove la moderazione non è affidata a algoritmi opachi ma a comunità che si autogovernano. E gli esperimenti di calcolo distribuito su hardware comunitario, dove la potenza di calcolo non è concentrata in pochi data center iper-sicuri ma distribuita tra migliaia di nodi gestiti da attivisti, hacker etici e semplici cittadini che rifiutano di delegare la propria sovranità tecnologica a entità lontane e irresponsabili.
Queste alternative non sono solo tecniche. Sono politiche. Rifiutano l’idea che il progresso debba passare attraverso la concentrazione di potere. Affermano che la tecnologia può essere liberatoria solo quando è sotto il controllo diretto di chi la usa, quando i suoi meccanismi sono trasparenti, quando i suoi obiettivi sono definiti collettivamente, non imposti da algoritmi che ottimizzano se stessi per scopi che non conosciamo.
La guerra tecnologica è già qui, e si combatte nei cicli di feedback
Non possiamo parlare di Discovery Loop senza collegarlo alla guerra tecnologica in corso. I droni autonomi che selezionano obiettivi senza intervento umano, i sistemi di targeting basati su analisi predittiva del comportamento, le operazioni di cyberguerra che utilizzano modelli linguistici per generare disinformazione su larga scala: tutti questi fenomeni condividono una logica simile con il Discovery Loop. Si tratta di sistemi che cercano di ridurre l’incertezza, di eliminare il fattore umano considerato ‘irrazionale’ o ‘lento’, di creare un flusso perfetto di azione e reazione dove l’uomo è sempre più fuori dal loop.
E qui sta il paradosso più amaro: mentre ci vendono l’AI come qualcosa che ci renderà più liberi, più creativi, più capaci di risolvere problemi complessi, in realtà stiamo costruendo macchine sempre più brave a prevederci, a controllarci, a renderci obsoleti nel processo decisionale. Il Discovery Loop non è un passo verso l’intelligenza generale benefica. È un passo verso l’incorporazione completa del controllo algoritmico nella struttura stessa della tecnologia, dove non c’è più bisogno di un tiratore perché il grilletto si preme da solo.
Privacy e diritti digitali: l’ultimo baluardo contro l’autonomia perfetta delle macchine
In questo scenario, la privacy non è più soltanto il diritto di nascondere qualcosa. È il diritto all’opacità strategica, alla capacità di agire senza essere continuamente mappati, prevedibili, ottimizzabili. Quando un sistema entra in un discovery loop, ogni tuo gesto diventa un dato potenziale per migliorare la sua capacità di anticiparti. Resistere significa introdurre rumore, imprevedibilità, irriducibilità. Significa affermare che non tutto può essere modellato, che non tutto può essere ottimizzato, che c’è uno spazio di libertà che deve rimanere fuori dal calcolo.
Ecco perché le lotte per la crittografia forte, per l’anonimato in rete, per il diritto alla crittografia end-to-end non sono questioni tecniche di nicchia. Sono battaglie fondamentali per la sopravvivenza di un spazio umano al di fuori del controllo algoritmico. Se ogni nostra azione può essere utilizzata per migliorare un modello che ci prevede meglio, allora la vera libertà sta nel rifiutarsi di essere prevedibili, nel creare zone di indeterminazione dove il potere non può arrivare.
Conclusioni: rompere il loop dall’interno
Il Discovery Loop ci mostra una possibile futura dove la tecnologia non ha più bisogno di noi per migliorarsi. Ma questa futura non è scritta nel codice. È il prodotto di scelte politiche, di finanziamenti, di priorità. E quelle scelte possono essere cambiate. Non dobbiamo accettare l’idea che il progresso tecnologico debba passare necessariamente attraverso la concentrazione di potere, la perdita di autonomia umana, la guerra permanente.
Le alternative esistono. Sono nei repository GitHub di progetti open source che rifiutano finanziamenti militari. Sono nelle assemblee di comunità che decidono collettivamente come usare gli strumenti digitali. Sono nelle pratiche di crittografia, di anonimato, di resistenza al tracciamento. Sono in ogni atto di rifiuto di delegare la propria sovranità tecnologica a entità che non rispondono a nessuno.
Il loop può essere chiuso. Ma può anche essere interrotto. E spetta a noi decidere se vogliamo vivere in un mondo dove le macchine ottimizzano se stesse per controllarci meglio, o in uno dove gli esseri umani riprendono il controllo della tecnologia che hanno creato.