Liquid AI's nieuwe edge-model: supersnel toolen op je eigen laptop — en dat is precies wat de overheid nodig heeft

Vorige week zat ik met een klant om tafel die AI-agents wil inzetten, maar geen data naar de cloud mag sturen. BIO2, AVG, politieke gevoeligheid — alles wat je in de publieke sector tegenkomt. Zijn vraag: "Kan een AI-agent lokaal draaien op gewone hardware en tóch nuttig zijn?"

Die vraag kreeg vandaag een antwoord. Liquid AI bracht LFM2.5-8B-A1B uit. En nee, dit is niet het beste model voor code generatie of juridische diepte-analyses. Het is iets anders — misschien wel interessanter.

Wat het wél is

Een Mixture-of-Experts model van 8 miljard parameters, waarvan er maar 1,5 miljard actief zijn. 128K contextvenster. 38 biljoen tokens training. Reasoning-only — het produceert een expliciete gedachtegang voor elk antwoord. En het draait lokaal: zo'n 250 tokens per seconde op een MacBook, 30 op een telefoon, onder 6GB werkgeheugen.

Maar de échte doorbraak zit in wat het níet doet: hallucineren.

De non-hallucination rate ging van 7% naar 63%. Bijna negen keer beter dan z'n voorganger. Liquid trainde het model met een avg@k reward-methode: het model wordt beloond voor "dat weet ik niet" zeggen in plaats van verzinnen. Een edge-model dat z'n onzekerheid kan uiten — voor governance-doeleinden is dat een fundamentele eigenschap.

De benchmark-winst is consistent over instruction following, tool calling, en math:

| Benchmark | Vorige versie | Nieuwe versie | | --- | --- | --- | | IFEval (instructie) | 79% | 92% | | IFBench (tool use) | 26% | 56% | | BFCLv3 (function calling) | 45% | 64% | | Non-hallucination rate | 7% | 63% |

Dat is geen marginale verbetering. Dat is een ander model.

Wat het níet is

Een coding-kampioen. Qwen3.5-4B verslaat 'm op meerdere agentic benchmarks. Gemma 4-26B scoort hoger op diepe math. Voor juridische analyse, architectuurkritiek of strategische vraagstukken stuur je door naar Claude, Gemini, of een groter lokaal model.

Liquid zegt het zelf: het model is niet de beste fit voor "heavy programming of knowledge-intensive QA zonder retrieval." Dat is eerlijk — en precies hoe je het moet gebruiken. LFM2.5 is niet de senior consultant. Het is de razendsnelle werkvoorbereider.

De echte use case: lokale MCP-dispatcher

Waar dit model wél in uitblinkt is tool calling. Liquid demonstreert het met LocalCowork: 67 tools over 13 MCP-servers, volledig lokaal. Tool-dispatch onder een seconde. Audit trail per executie. Geen data die de deur uitgaat.

Voor mijn klant met de BIO2-beperking is dit exact wat hij nodig heeft. Een lokaal model dat:

• Bepaalt welke tool nodig is (filesystem? secrets scan? documentvergelijking?)
• De toolselectie uitvoert met reasoning (waarom deze tool?)
• Een audit trail achterlaat (welke tool, welke argumenten, welk resultaat)
• Escaleert naar een zwaarder model als de taak te complex is

De governance die ik hieroverheen leg: OPA/Rego policies, tool authorization gateway, human-in-the-loop voor destructieve acties, en een immutable audit trail. Het model mag tools voorstellen — de policy engine beslist.

Het licentievraagstuk

Een governance-punt dat ik niet kan negeren: de LFM Open License v1.0 is Apache-gebaseerd maar bevat een $10M omzetdrempel. Gratis commercieel gebruik stopt als je organisatie meer dan $10M per jaar omzet. Voor persoonlijke R&D, PoC's en non-profit: geen probleem. Voor enterprise-klanten en de Rijksoverheid: juridisch toetsen vóór productiegebruik.

Past dit in een sovereign AI-stack?

Ja — als je het op de juiste plek zet.

| Rol | Model | | --- | --- | | Lokale tool-router / MCP-dispatcher | LFM2.5 | | Privacygevoelige documenttriage | LFM2.5 + RAG | | Diepe strategische analyse | Claude / Gemini | | Zware codegeneratie | Qwen / GLM / Claude | | Enterprise policy automation | LFM2.5 + OPA policy layer |

De kracht zit niet in één model dat alles kan. Die bestaan niet. De kracht zit in een architecture die het juiste model op de juiste plek zet — en LFM2.5 is de snelste lokale dispatcher die ik tot nu toe heb gezien.

Wat ik ga testen

Ik zet LFM2.5 naast Qwen3.5-4B, Gemma-4-E4B en Granite-H-Tiny in een aantal scenario's: filesystem-taken, documentanalyse, security scans, coding triage, en prompt-injection cases. Ik meet tool selection accuracy, latency per dispatch, hallucinated tool calls, en policy violations. De resultaten deel ik hier.

Geen absolute scores — relatieve positionering. Welk model onthoudt context het best bij 128K? Welk model hallucineert het minst bij toolselectie? Welk model weigert terecht?

LFM2.5 is niet het antwoord op al je AI-vragen. Maar als antwoord op "kan ik een AI-agent lokaal laten draaien die écht nuttig is?" is het een serieuze kandidaat.

---

LFM2.5-8B-A1B is beschikbaar op Hugging Face en Liquid's Playground. Dag-één support voor llama.cpp, MLX, vLLM en SGLang.