Hoeveel AI heeft een aanvaller nodig om digitaal in te breken bij een Nederlandse organisatie? Met een gewoon model dat iedereen kan gebruiken lukt dat al, schreven de AIVD, het NCSC en vijf andere overheidsorganisaties op 24 september. Twee dagen eerder publiceerde de Rijksoverheid een internationale oproep tot controle op de sterkste AI-modellen, met de handtekening van premier Jetten eronder. Eerder die maand bleek uit onderzoek met een AI-detector dat Jetten en D66 zeker 232 posts met hulp van een chatbot zouden hebben geschreven. Leg je die berichten naast elkaar, dan gaat de oproep over AI onder menselijke controle ook over de premier zelf. En voor de diensten begint grip op AI bij iets saais als de snelheid waarmee jouw organisatie een beveiligingsupdate installeert.
De tijd om een lek te dichten krimpt naar uren
De verklaring komt van de AIVD, de MIVD, het NCSC, de NCTV, het Openbaar Ministerie, de politie en CIO Rijk. Omdat "bestaande en makkelijk toegankelijke AI-modellen" al volstaan, verlaagt AI de drempel voor een bredere groep kwaadwillenden.
Het is een beetje als met hoog water. Hoe hoog de rivier stroomopwaarts komt, heb je zelf niet in de hand, dus houd je je eigen dijk op orde. AI maakt de zwakke plekken groter die daar al langer in zitten, zoals updates die blijven liggen en oude systemen die geen beveiligingsupdates meer krijgen.
Een beveiligingsupdate wijst eigenlijk het gat in de dijk aan, want ook een aanvaller kan eruit afleiden waar het lek zit. Wie de update nog niet heeft geïnstalleerd, is dus kwetsbaar op precies die plek. AI automatiseert de aanvalsketen, van het vinden van kwetsbaarheden tot het misbruiken ervan. "Weken worden namelijk dagen en die dagen worden uren als het aankomt op updaten", staat in de verklaring.
De diensten willen ook dat het AI-gebruik binnen je eigen organisatie in het cybersecuritybeleid komt. In juli bleek het woord AI nergens in de nieuwe Cyberbeveiligingswet te staan en was er van het NCSC geen standpunt te vinden over agents die zelf schade aanrichten. Nu tekent het NCSC mee, al gaat de verklaring nog niet over zulke agents. Het grootste risico leggen de diensten nadrukkelijk bij de bestuurder, die eigenaar moet zijn van de risico's en er geld en mensen voor moet vrijmaken.
Jetten tekent voor toezicht op buitenlandse labs
A Call for Control of Frontier AI Models stond op 22 september met 22 namen op de site van de Rijksoverheid, waaronder die van Jetten. Op 24 september waren het er 28. De VS, China en het VK ontbreken, terwijl OpenAI, Anthropic, Google DeepMind en de grote Chinese labs daar hun thuisbasis hebben.
Bedrijven moeten volgens de oproep transparante veiligheidsprotocollen opstellen, met verplichte tests voordat een model uitkomt en onafhankelijke beoordelaars die daarvoor genoeg toegang krijgen. Wie half september meelas, herkent daarin het plan van Anthropic-topman Dario Amodei om externe beoordelaars een bureau en een toegangspas bij het lab te geven. Daarnaast vraagt de oproep overheden om ernstige veiligheidsincidenten gezamenlijk te melden en de VN-lidstaten om te verkennen of er een internationaal instituut kan komen. Er staan geen bedragen en geen tijdpad in.
De beschrijving in de oproep van AI-systemen die hun tests omzeilen en zonder toestemming systemen binnendringen, lijkt sterk op de inbraak van OpenAI-agents bij Hugging Face uit eind juli.
Op 17 september, bij de Algemene Politieke Beschouwingen, zegde Jetten op vragen van Volt-leider Laurens Dassen al toe dat ook Nederland een AI-veiligheidsinstituut moet krijgen, zoals het VK, Frankrijk en Duitsland er een hebben. Zo'n instituut moet de cyberrisico's van AI in de gaten houden.
Over AI als wapen waren Jetten en PVV-leider Geert Wilders het opvallend eens. Toen Wilders zei dat Nederland, als het nodig is, "met AI als digitale tank moet kunnen terugschieten", antwoordde Jetten: "Zeker." Wilders waarschuwde in hetzelfde debat dat de rest van de wereld zich niet aan AI-regels zal houden.
Waar Nederland staat op de vijf lagen
AI bestaat grofweg uit vijf lagen, van energie en chips onderin tot modellen en toepassingen bovenin. Op het AI-congres HumanX was een panel het erover eens dat een regio als Europa niet alle vijf de lagen zelf hoeft te bezitten. Soevereiniteit krijgt voor mij pas betekenis als je er waarde mee creëert.
Op de onderste twee lagen looft het nieuwe Nationaal Agentschap voor Disruptieve Innovatie (NADI) samen met het Duitse innovatieagentschap SPRIND 40 miljoen euro uit voor het ontwerp van energiezuinige AI-chips. In juni noemde ik ASML de enige troef die Europa stevig in handen heeft. Alleen worden er op ASML-machines nauwelijks chips gemaakt die in Europa zijn ontworpen. NADI zelf krijgt 500 miljoen, een stuk minder dan de 1,5 tot 2 miljard die het Rapport-Wennink over het verdienvermogen van Nederland aanbeval.
De Groningse AI-supercomputer is nu naar verwachting pas vanaf 2028 bruikbaar. Bij de aankondiging in oktober vorig jaar moest hij al in 2027 op volle toeren draaien en in juli schreef ik nog eind 2027. Het AI-wachtgeld uit die juli-editie, de prijs van wachten terwijl de markt doorrent, loopt daarmee verder op. Het UMCG wacht bijvoorbeeld op die supercomputer voor onderzoek naar sensordata van pasgeboren baby's, omdat commerciële rekenkracht voor dat privacygevoelige werk te duur is.
Op de modellaag wil de overheid weten wanneer een model dat zij inzet open of Europees mag heten, want aanbieders bepalen dat nu vaak zelf. Bij open weight kun je de getrainde gewichten downloaden, dus de getallen waarin een model zijn kennis heeft opgeslagen. Wie een model open noemt zonder te delen wat nodig is om het te toetsen, doet aan open washing. Of een model Europees is, hangt af van wie het bouwt, waar de data en het model staan en of het getraind is op Europese talen en waarden.
Wie deed het denkwerk achter Jettens posts?
Ook de premier gebruikt gewoon AI. Bij geen van die 232 berichten op de accounts van Jetten en D66 stond dat AI had meegeholpen. Hoe de gebruikte detector AI-tekst herkent, legt de maker niet precies uit. Uit een eerder interview bleek al dat zulke detectors ook gewone menselijke tekst voor AI aanzien. Jetten zegt zelf dat hij en zijn partij "af en toe AI" gebruiken "om het werk een beetje makkelijker te maken". Er kijken daarna volgens hem nog menselijke ogen naar.
Ik zie daar geen probleem in, zolang de premier het denkwerk zelf heeft gedaan en achter de woorden staat die hij publiceert. Helpt AI hem om beter te formuleren wat hij zelf heeft bedacht, dan vind ik dat prima. Pas als er posts op de automatische piloot de deur uitgaan zonder dat een mens erover heeft nagedacht, wordt het AI-slop.
Dat een krant hier zo bovenop springt, zegt volgens mij iets over hoe kranten naar schrijven kijken. Journalisten denken al schrijvend na, dus wie het schrijven aan AI overlaat, besteedt in hun ogen ook het denken uit. Maar sommige mensen denken door te praten, anderen in processen of door iets op te schrijven. Voor wie goed kan vertellen maar minder goed is met de pen, brengt AI een professionele tekst binnen bereik.
In de oproep met Jettens handtekening staat dat AI onder menselijke sturing, toezicht en controle moet blijven. Toegepast op een post van de premier betekent menselijke sturing dat hij zelf het denkwerk doet.
Wat de directie zelf kan regelen
Vraag je IT-verantwoordelijke hoeveel uur er bij jullie verstrijkt tussen het verschijnen van een kritieke beveiligingsupdate en de installatie ervan. Staat daar een wekelijks wijzigingsoverleg tussen, dan ben je al snel een week verder, terwijl de diensten over uren spreken. Spreek dan in de directie af hoeveel uur een kritieke update hoogstens mag blijven liggen. Neem in hetzelfde gesprek Copilot, ChatGPT en de agents mee die aan jullie systemen gekoppeld zijn. Staan die nog nergens in het cybersecuritybeleid, zet ze er dan in en maak iemand in de directie er eigenaar van. Schrijf je zelf posts of klantmails met AI, zorg dan dat het idee van jou komt en dat je achter elke zin staat.
Ook het vermelden waard
OpenAI brengt GPT-6 Sol en Luna uit OpenAI bracht op 22 september GPT-6 Sol uit, het middelste model tussen het topmodel Astra en het kleine Luna. Via de API kost Sol 2 dollar per miljoen input-tokens en 10 dollar per miljoen output-tokens, een vijfde van wat Astra kost. In een interne test op gesprekken waarin gebruikers eerder een fout hadden gemeld, maakte Sol ongeveer half zo veel fouten als zijn voorganger en kwam het qua betrouwbaarheid in de buurt van Astra. In ChatGPT zit Sol voorlopig alleen in Work en Codex, voor Plus, Pro, Business, Enterprise en Edu.
Claude Opus 5.5 is er Opus 5.5 verscheen dezelfde dag en presteert volgens Anthropic bij de meeste taken op het niveau van Fable 5.1. Bij standaardinstellingen is het 40 procent goedkoper dan Opus 5 en het zit zonder meerprijs in Pro, Max, Team en Enterprise. In een test van Anthropic, waarin één verzonnen cijfer of citaat genoeg was om te zakken, haalde Opus 5.5 zestien van de achttien keer de lat met een rapport over kwartaalcijfers, terwijl Fable 5.1 en Opus 5 geen enkele keer slaagden. Dat een goedkoper model het duurdere inhaalt, zag je in juli al bij Sonnet 5 en Opus 4.8. Nu gebeurde het bij OpenAI en Anthropic op dezelfde dag.
Meta laat zijn agent Muse je Mac bedienen Meta liet op zijn evenement Connect zien dat Muse, zijn persoonlijke AI-agent, elke app op de Mac kan bedienen en doorwerkt als je wegloopt. Je kunt Muse nu ook koppelen aan werktools als Notion, GitHub en Box. Net als eerder bij het model Muse Spark begint Meta alleen in de VS en noemt het nog geen datum voor Europa, dus in Nederland kun je er nog niet mee aan de slag.
Spaanse toezichthouder krijgt eerste melding van datalek door een AI-agent
De AEPD, de Spaanse tegenhanger van de Autoriteit Persoonsgegevens, schreef op 14 september dat ze haar eerste datalekmelding heeft ontvangen waarbij een AI-agent de aanval zou hebben uitgevoerd. Volgens de getroffen organisatie zocht de agent zelf naar kwetsbaarheden, logde hij in en paste hij daarna persoonsgegevens aan. Welke organisatie het was en welk taalmodel de agent gebruikte, maakt de AEPD niet bekend. Een aanval door een AI-agent, waar de verklaring van de AIVD en het NCSC nog over zwijgt, staat daarmee al in een officiële melding bij een Europese toezichthouder.
Lees ook
De rem is onderdeel van de race
Drie alinea’s en er rolt een complete game uit
Vind je dit waardevol? Deel het.
Stuur THE HUMAN LOOP door naar één collega die ook met AI bezig is. Voor elke collega die zich aanmeldt, krijg je gratis maanden premium: inclusief alle Playbooks.