Giugno 2026 sicuramente ha segnato un punto importante su quella che sarà la storia dell’Intelligenza Artificiale. Il governo americano decidendo che i modelli di frontiera sono un asset strategico nazionale, li blocca ai “non-americani” per motivi di sicurezza. Non entro nella questione, tuttavia sembra quasi che ignorino il fatto che la Cina stia sfornando nuovi LLM ogni settimana.
Perché il futuro dell’IA è (anche) sotto la tua scrivania: la rivoluzione Local LLM
La mossa delle tech americane di comprarsi tutto l’hardware e affossare il mercato, gli ha “regalato” una finestra temporale di vantaggio, che viene pericolosamente annullata dagli ordini federali. Se il modello “state of the art” non è più disponibile, il livello di massima che possiamo avere si sposta non solo al primo gradino disponibile, ma con la concezione che la questione debba essere risolta. O quanto meno fortificata per non trovarsi di nuovo senza un motivo diretto o consequenziale, ad essere tagliati fuori.
Per questo motivo recentemente si è parlato molto del passaggio ai Local LLM (Large Language Models) e, dopo aver analizzato la situazione attuale, è chiaro che non si tratta più solo di un hobby per fissati della privacy. È una questione di controllo e indipendenza.
Ecco perché il futuro dell’intelligenza artificiale potrebbe essere “fatto in casa”:
1. Addio al “Rug-Pulling”
Il rischio più grande dei modelli “Frontier” (come Claude o GPT) è che sono gestiti da altri. Abbiamo visto modelli spenti o depotenziati dall’oggi al domani a causa di nuove policy o ordini governativi. Con un modello locale, nessuno può decidere quando mandarlo in pensione o cambiare il modo in cui risponde. Una volta che il peso del modello è sul tuo disco, è tuo per sempre.
2. Dalla Chatbot all’Agente: il punto di svolta
Cosa è cambiato quest’anno? Non è solo la “forza bruta” dell’intelligenza, ma il tool calling. I modelli locali tra i 27 e i 35 miliardi di parametri (27B-35B) sono diventati affidabili nel leggere file, eseguire test e modificare codice. Se prima un modello piccolo “allucinava” funzioni inesistenti, oggi può comportarsi come un vero agente di coding invece di una semplice chat.
3. Lo Stack Tecnico: Motore e Harness
Per farlo girare bene servono tre componenti:
- L’Engine: Il “cervello” (come llama.cpp, mlx o Ollama) che fa i calcoli pesanti.
- L’Harness: Il “corpo” che permette al modello di toccare i tuoi file (es. Pi o Open Code).
- L’Integrazione: Collegare il tutto al tuo editor (VS Code o Cursor) puntandolo semplicemente a
localhost.
4. La questione Hardware (e il trucco della Quantizzazione)
Il vero collo di bottiglia è la memoria. La regola d’oro? Circa 0.5 GB di VRAM per ogni miliardo di parametri. Una scheda da 24GB o un Mac con almeno 32GB di memoria unificata sono ormai la base per lavorare seriamente. Resta comunque la regola che è meglio far girare un modello più piccolo (es. 27B) ad alta qualità che un gigante (70B) troppo compresso tramite quantizzazione, che finirebbe per rompere i tool call o produrre JSON malformati.
5. Strategia Hybrid
Non dobbiamo per forza rinunciare al cloud. La mossa più intelligente oggi è l’approccio ibrido:
- Local (Il Junior instancabile): Usalo per il 15x di speedup su compiti ben definiti, refactoring e scrittura di test. È gratis e infinito.
- Cloud (Il Senior Architect): Escalation verso i modelli Frontier solo per le decisioni architettoniche complesse o i grandi lavori multifile.
In conclusione: Il modello sotto la tua scrivania può essere un po’ più lento o meno “geniale” dei giganti da data center, ma non può essere riprezzato, ritirato o censurato. Per molti sviluppatori, la parola “mio” è quella che finalmente fa pendere l’ago della bilancia.
6. Un po’ di profezia.
Se poi azzardo un qualche tipo di previsione, vorrei porre una considerazione. Il livello attuale di sviluppo è chiaramente spostato sulla potenza, piuttosto che su efficenza. Ad un certo punto, e già oggi siamo discretamente vicini, i modelli di frontiera potrebbero essere inutilmente “advanced”, mentre un Local LLM essere arrivato al punto di fare il Senior Architect, cioè quello che i sistemi cloud fanno oggi. In questa condizione chi comprerebbe abbonamenti? Per altro sappiamo già oggi essere sotto-prezzati, e quindi dovranno pure aumentare. Un pericoloso corto-circuito, o se vogliamo la famosa “bolla della AI” di cui si parla da tempo. Non ultimo, da qui a due anni, seppure in modo diluito, la crisi della ram e dei chip deve per forza arrivare alla sua fine, e quindi ulteriormente facilitare il processo dei Local LLM.
Scopri di più da Walter's blog
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.



