Nel panorama dell'intelligenza artificiale locale, l'attenzione generale tende a concentrarsi sui modelli che variano dai 7 ai 12 miliardi di parametri, considerati il punto di equilibrio ideale per chi possiede un hardware di livello medio-alto. Qualsiasi modello di dimensioni inferiori viene spesso etichettato come un semplice passatempo tecnologico, privo di reale utilità pratica. Tuttavia, non tutti gli utenti dispongono di schede video con più di 16 GB di VRAM. Per questo motivo, abbiamo voluto mettere alla prova tre dei più piccoli Large Language Model (LLM) sul mercato, tutti con meno di 2 miliardi di parametri, per capire se siano realmente in grado di gestire i flussi di lavoro quotidiani o se siano destinati a rimanere confinati nell'ambito dei test sperimentali.
La metodologia del test: stressare l'AI ultra-leggera
Chi scrive utilizza abitualmente modelli di medie dimensioni come Qwen 3.5 9B e Gemma 4 E4B, che girano senza alcuna difficoltà su una GPU dotata di 8 GB di VRAM. L'hardware non rappresenta quindi un limite invalicabile, ma l'obiettivo di questo esperimento era puramente qualitativo: fino a che punto possiamo scendere con le dimensioni prima che un LLM locale diventi del tutto inutilizzabile per compiti produttivi?
Per scoprirlo, abbiamo selezionato tre dei modelli più leggeri attualmente disponibili, ciascuno accreditato di buone prestazioni in contesti lavorativi. Ciascuno di essi è stato sottoposto a due sfide ben distinte:
La guida di studio strutturata: La redazione di un programma di studio dettagliato per il fine settimana basato su un argomento specifico, con vincoli stringenti di formattazione, divieto di inventare strumenti di terze parti e l'obbligo di includere domande di autoverifica, senza riassunti o conclusioni aggiuntive.
La ricerca meteo in tempo reale: Una query diretta sul meteo di Città del Capo effettuata sfruttando l'integrazione con lo strumento Brave Search via Model Context Protocol (MCP), utile a verificare la stabilità delle chiamate di funzione (function calling).
Gemma 4 E2B
Dimensioni ridotte, ma con qualche problema di comportamento
Il modello E2B rappresenta l'opzione più contenuta della linea Gemma 4 di Google, pensata per operare su laptop e dispositivi mobili. La lettera "E" indica l'uso di parametri effettivi (Effective parameters), una tecnologia che sfrutta i Per-Layer Embeddings per minimizzare l'occupazione di memoria attiva durante l'esecuzione. Nei test reali, questo si traduce in un consumo di circa 5 GB di RAM con quantizzazione a 4-bit, a fronte di una scheda tecnica di tutto rispetto: 128k di finestra di contesto, chiamate di funzione native e pieno supporto ai prompt di sistema.
Durante la prova della guida di studio, Gemma 4 E2B ha soddisfatto gran parte dei requisiti. Ha strutturato correttamente le sei sezioni richieste, ha evitato allucinazioni su marchi o software fittizi e ha rispettato le direttive. Purtroppo, ha mostrato lo stesso fastidioso comportamento riscontrato sulla versione E4B: ha inserito l'intero flusso di pianificazione interna direttamente all'inizio della risposta testuale ("Planning Process - Analyze the Request..."), ignorando il prompt di sistema che le vietava di mostrare i passaggi intermedi del ragionamento. Da successive verifiche, sembra che questo comportamento anomalo sia legato alla gestione del modello da parte dell'applicazione LM Studio piuttosto che a un difetto intrinseco del software di Google.
Nel test in tempo reale con l'MCP di Brave Search, la prima interrogazione ha restituito un risultato corretto espresso in gradi Celsius. Tuttavia, avviando una nuova sessione di chat con la medesima domanda, Gemma ha confuso le unità di misura, fornendo il valore numerico dei gradi Fahrenheit ma contrassegnandolo erroneamente con il simbolo dei Celsius. Un dettaglio non da poco se si fa affidamento su questi dati per decisioni pratiche.
Qwen 3.5 0.8B
Estremamente sicuro di sé, ma costantemente impreciso
Rilasciato nella primavera del 2026 all'interno della famiglia "Small" di Alibaba, Qwen 3.5 0.8B è un modello rilasciato sotto licenza Apache 2.0. Con un peso inferiore a 1 GB, offre supporto multimodale (testo e immagini) e sfrutta l'architettura Gated DeltaNet (GDN), la stessa presente sul modello da 9B. Questa struttura consente di gestire una finestra di contesto nativa fino a 262k con un impatto minimo sulla cache KV. Nonostante le premesse teoriche fossero eccellenti, la prova sul campo ha rivelato pesanti limiti qualitativi.
Nella stesura della guida di studio, Qwen ha registrato performance peggiori rispetto a Gemma. Sebbene abbia mantenuto l'impostazione dei titoli richiesti (come il programma per il sabato e la domenica), il testo interno ha perso rapidamente il filo logico dell'argomento richiesto (la gerarchia visiva), finendo per divagare su dettagli tecnici di CSS Grid, Flexbox e landing page per e-commerce. Ha inoltre violato il divieto di menzionare software specifici inserendo riferimenti a Photoshop, Figma e Sketch, e ha aggiunto un paragrafo riassuntivo finale nonostante le esplicite istruzioni contrarie contenute nel prompt.
Il test sul meteo in tempo reale ha sfiorato il grottesco: il modello ha dichiarato che a Città del Capo c'era una temperatura di ben 57°C, con una percezione di 52°C. Si tratta evidentemente di temperature incompatibili con la vita umana all'aria aperta, frutto di una confusione totale con i gradi Fahrenheit. Anche dopo essere stato corretto, il sistema ha continuato a difendere l'informazione errata per poi iniziare a inventare dati meteorologici di sana pianta. L'unico aspetto positivo è stato l'effettivo avvio dello strumento di ricerca esterno, un compito non scontato per un modello di questa taglia.
LFM2.5-1.2B-Instruct
Un fallimento sul lato creativo, una vittoria netta sulla precisione
Questo modello rappresenta una voce fuori dal coro. Sviluppato da Liquid AI, LFM2 non si basa sull'architettura dei classici transformer. Si tratta invece di un modello ibrido che unisce convoluzioni corte, cancelli moltiplicativi e blocchi di attenzione per query raggruppate. Questa scelta strutturale garantisce una velocità di elaborazione e decodifica dei prompt su CPU fino a due volte superiore rispetto ai concorrenti, con un consumo inferiore a 1 GB di RAM e un contesto di 32k. Lo sviluppatore chiarisce esplicitamente che il modello è pensato per compiti agentici, estrazione di dati e sistemi RAG, sconsigliandone l'uso per la programmazione o la scrittura creativa complessa.
Come ampiamente previsto, la prova della guida di studio è stata deficitaria dal punto di vista formale: LFM2 ha completamente ignorato la struttura a sezioni richieste, accorpando l'intero testo in soli quattro paragrafi discorsivi. Va però riconosciuto il merito di non aver allucinato alcun nome di programma esterno o inventato concetti fuori tema, limitandosi a una scarsa capacità di aderenza al layout richiesto dal prompt.
Nel test con l'MCP di Brave Search, tuttavia, LFM2-1.2B ha sbaragliato la concorrenza. Ha avviato lo strumento in modo pulito e ha formulato una risposta stringata ed estremamente precisa: "circa 18°C con cielo parzialmente nuvoloso". L'unità di misura era corretta, la temperatura reale corrispondeva a quella effettiva della città e non vi è stata alcuna traccia di allucinazione. Il modello meno adatto alla prosa si è rivelato di gran lunga il più affidabile nel recupero di informazioni reali.
- ✓Consumo di risorse hardware ridotto al minimo (sotto 1-2 GB di RAM)
- ✓LFM2.5 eccelle nella chiamata di funzioni esterne e compiti agentici
- ✓Ideale per l esecuzione locale su PC non aggiornati o laptop ultraportatili
- ✗Scarsa precisione nella formattazione di prompt testuali complessi
- ✗Frequente allucinazione delle unità di misura nei dati numerici
- ✗Non idonei per la scrittura creativa o la memorizzazione di nozioni di cultura generale
Non sono giocattoli, ma strumenti specialistici
I micro-LLM locali non devono essere considerati delle alternative economiche ai modelli più grandi per fare conversazione generica o per scrivere codice. Se utilizzati come chatbot tradizionali, mostrano rapidamente il fianco a limiti strutturali evidenti. Tuttavia, se impiegati per compiti precisi, come l'estrazione di dati o l'integrazione all'interno di flussi di lavoro automatizzati con strumenti esterni, dimostrano un'efficienza straordinaria.
Tra i tre contendenti, LFM2-1.2B si distingue come l'unico vero modello di piccole dimensioni da tenere installato per l'esecuzione di task agentici, con Gemma 4 E2B che rimane un'ottima alternativa qualora sia richiesta una maggiore struttura sintattica e un pizzico di capacità creativa.
I micro-LLM locali hanno senso?
Sì, ma solo per scopi specifici. Se cercate un assistente di scrittura generale, i modelli da 7B-12B restano imprescindibili. Se invece necessitate di un agente leggero, estremamente veloce su CPU e capace di interfacciarsi con API o database locali tramite RAG, la tecnologia dei modelli sotto i 2B ha raggiunto un livello di maturità tecnica impressionante, guidata da soluzioni innovative come LFM2.5.