Microsoft introduceert Fara-7B, een kleine ‘agentische’ AI die lokaal op een pc kan draaien. Het systeem is bedoeld voor taken waarbij privacy, snelheid en offline werken belangrijk zijn. Het draait op gewone consumenthardware, zonder verplichte verbinding met de cloud. Het nieuws is relevant voor organisaties in Nederland en Europa die aan de AVG en de Europese AI-verordening moeten voldoen.
Microsoft kiest voor lokaal
Fara-7B is een compact datamodel met ongeveer zeven miljard parameters. Zo’n model is lichter dan de grote cloudmodellen en past daardoor op een moderne laptop of desktop. Dit vermindert vertraging, omdat berekeningen dichtbij de gebruiker gebeuren.
Microsoft zet hiermee in op lokaal gebruik, naast zijn bestaande Copilot-diensten in de cloud. Het bedrijf speelt in op vragen uit de markt over gegevensbescherming en digitale soevereiniteit. Minder data hoeft de organisatie te verlaten, wat helpt bij naleving van de AVG.
De introductie gebeurde zonder groot evenement of uitgebreide campagne. Op het moment van schrijven deelt Microsoft slechts beperkte technische details openbaar. Wel is duidelijk dat Fara-7B bedoeld is als bouwsteen voor praktische automatisering op Windows-pc’s.
Agent kan tools aansturen
Een ‘agentische’ AI kan zelfstandig stappen plannen, keuzes maken en tools aanroepen. Denk aan het doorzoeken van mappen, het samenvatten van documenten of het starten van een script. Zo’n agent werkt als een assistent die acties uitvoert, niet alleen tekst produceert.
Agentische AI: een systeem dat taken in meerdere stappen plant en zelfstandig software of hulpmiddelen aanstuurt om een doel te halen.
Fara-7B is naar verwachting geoptimaliseerd voor zogeheten tool-calling, een techniek waarbij het model functies of apps met parameters kan aanroepen. Ontwikkelaars kunnen zo eigen workflows koppelen, bijvoorbeeld voor rapportages of interne helpdesks. Dat verkort de tijd tussen vraag en uitvoerbare actie.
Omdat alles lokaal draait, is er minder afhankelijkheid van internet en externe API’s. Dat is handig voor reizen, beveiligde netwerken of gevoelige omgevingen. Het verkleint ook kosten voor cloudverbruik en dataverkeer.
Prestaties en beperkingen
Kleinere modellen leveren snelheid en privacy op, maar scoren vaak lager op complexe taken. Creatief schrijven, specialistische onderzoeksvragen of redeneren over lange contexten blijven een uitdaging. In zulke gevallen blijft een groot cloudmodel soms nodig.
Een agent die acties uitvoert, brengt bovendien veiligheidsrisico’s mee. Foute aannames of ‘hallucinaties’ kunnen tot verkeerde bestellingen, bug-introducerende scripts of ongewenste e-mails leiden. Daarom zijn duidelijke toestemmingen, undo-mogelijkheden en logboeken belangrijk.
Microsoft zal guardrails moeten bieden, zoals sandboxing en beperkte rechten per taak. Transparantie over welke bronnen en hulpmiddelen zijn gebruikt, helpt bij controle achteraf. Voor organisaties is dit essentieel om interne compliance-eisen te halen.
AVG en AI-verordening
Lokale verwerking past bij de AVG-principes van dataminimalisatie en opslagbeperking. Persoonsgegevens blijven op het apparaat, wat datalekrisico’s verkleint. Wel moeten organisaties letten op eventuele telemetrie of cloud-uploads voor updates en foutdiagnoses.
De Europese AI-verordening stelt eisen aan algemene AI-modellen en aan hoogrisico-toepassingen. Fara-7B valt als basismodel onder transparantieverplichtingen, zoals documentatie over prestaties en beperkingen. De risicoklasse hangt af van het gebruik, bijvoorbeeld in zorg, onderwijs of publieke diensten.
Voor de overheid en kritieke sectoren zijn extra maatregelen nodig, zoals impactanalyses en logging. Ook het scheiden van data per gebruiker en versleuteling op schijf blijft verplicht. Dit alles geldt ook wanneer het model op een medewerker-laptop draait.
Impact voor Nederlandse organisaties
Voor gemeenten, zorginstellingen en onderwijs kan lokale AI het delen van gevoelige data met de cloud verminderen. Denk aan het samenvatten van dossiers of het automatisch opstellen van brieven op het eigen netwerk. Dat kan de drempel verlagen om AI in te zetten binnen strikte privacykaders.
Bedrijven in het mkb kunnen voordeel hebben van lagere kosten en minder vendor lock-in. Een agent op de pc automatiseert repetitieve taken in kantoorsoftware zonder externe diensten. Wel is beheer nodig: beleid voor rechten, updates en auditlogs.
Compatibiliteit met bestaande Windows-omgevingen is praktisch, omdat die al breed gebruikt worden. Organisaties moeten testen op beschikbare cpu/gpu-capaciteit en energieverbruik. Een gefaseerde uitrol met pilots beperkt operationele risico’s.
Positionering tussen rivalen
De markt voor lichte AI-modellen is druk, met namen als Llama, Mistral en Gemma. Microsoft zet Fara-7B neer als agent die acties kan uitvoeren, niet alleen chatten. Die focus kan aantrekkelijk zijn voor ontwikkelaars die automatisering zoeken.
Open modellen bieden flexibiliteit, maar vragen vaak extra werk voor integratie en beveiliging. Commerciële oplossingen leveren vaker beheerfuncties en updates. Organisaties zullen afwegen tussen controle, kosten en ondersteuning.
Op het moment van schrijven is nog onduidelijk hoe breed Microsoft Fara-7B beschikbaar maakt en onder welke voorwaarden. Belangrijk voor Europese klanten zijn licenties, documentatie en conformiteitsinformatie. Die bepalen of het model inzetbaar is binnen de kaders van de Europese AI-verordening en de AVG.
