L’articolo di Vicki Boykis “Running local models is good now” ha riacceso il dibattito sull’opportunità di far girare grandi modelli linguistici sul proprio computer invece di affidarsi alle API delle grandi piattaforme. Oltre al puro aspetto tecnico, la questione tocca direttamente i rapporti di potere che si nascondono dietro ogni chiamata a un modello ospitato su server di Big Tech. Eseguire un modello localmente non è solo una questione di comodità o di latenza: è un gesto politico, un rifiuto della sorveglianza algoritmica e un passo verso l’autogestione tecnologica.
Il potere dei modelli centralizzati e il rischio di sorveglianza
Quando si invia un prompt a un servizio come GPT‑4 o Claude, il testo lascia il proprio dispositivo, attraversa la rete e finisce su server controllati da aziende che tracciano, profilano e monetizzano ogni interazione. Questo flusso di dati diventa materia prima per sistemi di punteggio sociale, per pubblicità iper‑mirata e, nei casi più estremi, per addestrare modelli di polizia predittiva. La centralizzazione dell’inferenza crea un punto unico di controllo che può essere sfruttato da stati o da corporation per esercitare pressione, censura o ricatto.
Gli attivisti per i diritti digitali hanno da tempo denunciato questo schema: la cosiddetta “AI as a service” è semplicemente l’ultima incarnazione del capitalismo di sorveglianza, dove il prodotto non è il modello stesso ma il comportamento dell’utente. Eseguire il modello sul proprio hardware interrompe questo flusso, riportando il dato sotto il controllo diretto di chi lo genera.
Software libero e modelli aperti: LLaMA, Mistral, Falcon
La possibilità di eseguire modelli locali è resa concreta dall’esplosione di modelli aperti rilasciati sotto licenze permissive o copyleft. Progetti come LLaMA di Meta, Mistral AI, Falcon di TII e i numerosi derivati della comunità (es. Alpaca, Vicuna, WizardLM) dimostrano che l’innovazione non è più monopolizzata dai laboratori chiusi di Big Tech. Questi modelli possono essere scaricati, modificati e ridistribuiti senza chiedere il permesso a nessuna azienda.
La comunità open source ha già costruito toolchain complete: da llama.cpp per l’inferenza su CPU a text-generation-inference di Hugging Face, passando per GPT4All e LM Studio. Questi strumenti permettono a chiunque, anche senza un cluster GPU costoso, di far girare modelli di dimensioni rispettabili su un laptop o su un Raspberry Pi potente.
“Quando il codice è libero, il potere torna a chi lo usa.”
Questa affermazione, ripresa da un attivista del movimento per il software libero durante una conferenza a Berlino nel maggio 2026, cattura l’essenza della transizione verso l’autogestione tecnologica: non si tratta solo di avere accesso al codice, ma di poterlo eseguire, studiare e modificare senza intermediari.
Decentralizzazione dell’inferenza: edge computing e cooperative di calcolo
Eseguire un modello localmente non significa necessariamente isolarsi. Si possono creare reti di nodi condivisi, dove piccoli contributi di calcolo vengono messi in comune tramite protocolli peer‑to‑peer. Progetti come Federated Learning applicati a modelli linguistici, o iniziative di grid computing basate su BOINC adattate all’inferenza AI, mostrano come sia possibile distribuire il carico senza rinunciare alla sovranità sui dati.
In Italia, gruppi di hacker e maker hanno avviato “node locali” in diversi centri sociali, offrendo potenza di calcolo condivisa a chi non possiede hardware adeguato. Queste iniziative si ispirano alle esperienze delle reti comunali di energia rinnovabile: producono, consumano e governano collettamente le risorse tecnologiche.
La decentralizzazione riduce anche la dipendenza dai data center dei colossi, che consumano enormi quantità di energia e spesso sono ubicati in zone dove le normative ambientali sono più lasche. Spostare il carico sull’edge significa anche ridurre l’impronta ecologica dell’AI.
AI militare e il complesso Pentagono‑Silicon Valley: perché i modelli locali contano
Una parte significativa della ricerca sui grandi modelli linguistici è finanziata direttamente dal Dipartimento della Difesa statunitense, tramite contratti con aziende come Palantir, Anduril e varie startup della Silicon Valley. Questi finanziamenti mirano a sviluppare sistemi di analisi di intelligence, di generazione di contenuti propagandistici e di supporto decisionale per operazioni militari autonome.
Quando un modello è eseguito su un server controllato da una compagnia che ha contratti con il Pentagono, esiste il rischio indiretto che i dati degli utenti civili vengano riutilizzati per affinare strumenti di sorveglianza di guerra o di targeting. Eseguire il modello localmente spezza questa catena di fornitura: il dato rimane sul dispositivo dell’utente e non può essere siphonato verso strutture militari.
Inoltre, la comunità open source ha già iniziato a rilasciare modelli con licenze che vietano esplicitamente l’uso militare (es. la AI Ethics License). Sebbene l’applicabilità giuridica di tali clausole sia dibattuta, rappresenta un tentativo concreto di riappropriarsi della direzione etica della ricerca.
Privacy, diritti digitali e il diritto all’esecuzione locale
Il diritto alla privacy non è più soltanto la possibilità di nascondere informazioni; è anche il diritto di decidere dove e come i propri dati vengono elaborati. Le normative europee come il GDPR riconoscono il principio di “data minimization” e di “purpose limitation”, ma spesso si fermano al livello della raccolta, trascurando la fase di elaborazione.
Eseguire un modello localmente garantisce che il dato non lasci mai il dispositivo, soddisfacendo così il requisito di riservatezza di fine a fine. Questo approccio si allinea anche con il concetto di “sovranità dei dati”, promosso da movimenti come quello dei “data cooperatives” e dalle esperienze di autogestione dei servizi internet in Spagna e in Grecia.
In un contesto di crescente sorveglianza di massa, dove le forze di polizia utilizzano strumenti di riconoscimento facciale e di analisi predittiva basati su modelli cloud, l’esecuzione locale diventa una forma di resistenza tecnica: ogni volta che un cittadino sceglie di far girare un modello sul proprio laptop, sottrae un pezzo di potere al apparato di controllo.
Alternative dal basso: progetti open source, comunità, toolchain
Oltre ai modelli stessi, l’ecosistema open source offre una serie di strumenti che rendono l’esecuzione locale praticabile e sicura:
llama.cpp: inferenza in C/C++ con quantizzazione fino a 4 bit, permette di far girare modelli da 7B su un laptop medio.GPT4All: interfaccia desktop che integra vari modelli open source e gestisce automaticamente il download e la quantizzazione.LM Studio: applicazione GUI per Windows, macOS e Linux che offre un catalogo di modelli e strumenti di benchmark.Text Generation WebUI: interfaccia basata su Gradio che supporta l’inferenza su GPU e CPU, con supporto per LoRA e fine‑tuning leggero.PrivateGPT: soluzione per eseguire query su documenti personali senza inviare dati a terzi, basata su modelli locali.
Questi progetti sono sostenuti da comunità di sviluppatori volontari, spesso organizzati in forme di cooperativa o di associazione senza scopo di lucro. Il loro modello di finanziamento si basa su donazioni, sponsorizzazioni etiche e crowdfunding, lontano dalle logiche di venture capital che spingono verso la monetizzazione aggressiva dei dati.
In Italia, iniziative come Hackmeeting e i Linux Day hanno dedicato track specifiche all’AI locale, offrendo workshop pratici su come impostare un nodo di inferenza su hardware riciclato. Questi eventi dimostrano che la conoscenza non è più relegata a élite accademiche o a laboratori corporate, ma è diffusa e accessibile.
Conclusioni: riappropriarsi del calcolo
Eseguire modelli AI localmente non è una semplice tendenza tecnica; è un atto di riappropriazione del mezzo di produzione della conoscenza nell’era digitale. Quando il calcolo è decentralizzato, libero e sotto il controllo diretto degli utenti, si indebolisce il potere delle poche corporation che oggi dominano l’infrastruttura dell’intelligenza artificiale.
La strada è ancora lunga: serve migliorare l’efficienza energetica dei chip, sviluppare migliori strumenti di quantizzazione e diffondere la cultura dell’open source anche tra gli utenti non tecnici. Tuttavia, ogni modello che gira su un laptop personale, ogni dato che rimane sul proprio dispositivo, ogni comunità che condivide potenza di calcolo senza passare per un data center di Amazon o Google, è un passo verso un futuro tecnologico più giusto, più sovrano e meno bellicoso.
Come scrisse un attivista durante il Campo Estivo dell’Autogestione Tecnologica a Trento nel luglio 2026: “Il vero progresso non si misura in parametri di modello, ma in quanti di noi riescono a tenere il proprio pensiero lontano dagli occhi di chi vuole controllarlo.”