Stel, twee collega's op een beleidsafdeling krijgen op dezelfde maandag dezelfde Copilot-licentie. Een jaar later leveren ze allebei hun notities in een fractie van de tijd af. Op papier zijn ze even productief. Haal de AI een week weg en de ene collega schrijft en beoordeelt beter dan ooit, terwijl de andere voor een leeg document zit en niet weet waar ze moet beginnen. Dat verschil zit in wat ze onder de knie hadden voordat de AI kwam en in hoe ze hem daarna gebruikten. Daar komt een groter risico bij, dat het systeem langzaam gaat bepalen wat je met zo'n notitie wilt bereiken.
Intelligentie maakt moeilijke problemen makkelijk
Wat is intelligentie eigenlijk? Een bacterie die voedingsstoffen ruikt en ernaartoe zwemt, lost een probleem op. Een plant die naar het licht toe groeit, doet hetzelfde zonder dat er een brein aan te pas komt. Als je intelligentie zo breed opvat, is een bruikbare definitie dat ze moeilijke problemen makkelijk maakt. Stel dat het ene systeem duizend pogingen en bergen data nodig heeft voor een probleem dat een ander systeem in één keer oplost, omdat het een simpele regel ontdekt. Volgens die definitie is dat tweede systeem het intelligente.
Benchmarks tellen hoeveel problemen een AI-model oplost en zelden wat het kost om ze op te lossen. Een groot taalmodel lost bijna alles op via taal, ook problemen die met taal weinig te maken hebben. Het grootste deel van de evolutie speelde zich af voordat er taal bestond. Een taalmodel een rekensom laten maken of een vaste regel laten toepassen, zoals "boven de vijfduizend euro tekent de manager", is zeg maar soep eten met een vork. Daarom heb je je duurste AI-model steeds minder nodig. Het model uit september dat geen enkele zin kan schrijven, beoordeelde in een demo duizend e-mails in zes seconden.
Die tegenstelling tussen logge AI en zuinige biologie is wel te zwart-wit. AlphaFold kostte een berg rekenkracht en data om te trainen. Sindsdien voorspelt het de vorm van een nieuw eiwit in minuten, waar een lab vroeger maanden of jaren over deed. Langs die meetlat is van de twee collega's vooral degene intelligent die het probleem grotendeels in haar eigen hoofd oplost, ook al leveren ze dezelfde notitie af.
Duizenden jaren opgeschreven kennis als brandstof
Steenkool is in feite zonne-energie die al miljoenen jaren in de grond ligt opgeslagen. Pas met de stoommachine werd die voorraad op grote schaal bruikbaar. Met kennis ging het net zo. Duizenden jaren hebben we opgeschreven wat we ontdekten en bedachten. De transformer, de architectuur die onderzoekers van Google in 2017 introduceerden en waar de T in GPT voor staat (Generative Pretrained Transformer), maakte die voorraad bruikbaar. Hij leest een hele tekst in één keer en weegt zelf welke woorden bij elkaar horen, waardoor je hem veel sneller en op veel meer tekst kunt trainen. OpenAI trainde in 2020 GPT-3, waar het model achter de eerste ChatGPT op voortbouwde, op zo'n 300 miljard tokens, de woorddelen waarin een taalmodel tekst opknipt. Wie elke week een boek leest, zou daar honderden levens over doen.
Net als bij steenkool komt er bij het gebruik van kennis vervuiling vrij, alleen belandt die hier in de voorraad zelf. Komt door AI geschreven tekst ongecontroleerd op internet terecht en gaat die mee in de volgende trainingsset, dan leert het volgende model de fouten van het vorige gewoon mee. Bij de bouw van Walnoot lieten we de gescande krantenarchieven weg, omdat die vol ruis en verouderde spelling zitten.
Die keuze maak jij op kleinere schaal ook, met de bronnen die je je AI laat raadplegen. Daar draait contextsoevereiniteit om. Ruim dus eerst de map met oude concepten en verouderde beleidsversies op voordat je Copilot erop loslaat, want wat daarin staat, nemen je collega's straks voor waar aan.
Wat kun je, wat kun je zelf en weet je waarom
Een medewerker maakt met AI in tien minuten een beleidsnotitie waar ze normaal drie uur over doet. Zo wordt een middag werk een koffiepauze. Dat is capabiliteit, wat ze met de tool erbij kan bereiken. Competentie is wat ze zelf kan als je de AI weghaalt. Kan ze de argumentatie dan nog beoordelen en zelf een tegenstrijdigheid zien? Begrip gaat nog een laag dieper. Weet ze waarom de aanbeveling klopt, op welke aannames die rust en wanneer die niet meer geldt?
Met AI kun je dus veel meer bereiken zonder dat je er zelf beter in wordt of beter begrijpt wat je doet. In mijn trainingen ligt er snel een strak, professioneel ogend stuk op tafel. Of het klopt, kunnen deelnemers vaak niet beoordelen. Dat is capabiliteit zonder competentie, iets wat je van buitenaf niet ziet.
Bij klanten zie ik dat de business case voor een AI-uitrol meestal draait om tijdwinst, dus om die eerste laag. De ervaren artsen die vorig jaar slechter werden in hun werk door AI, vonden zonder AI minder poliepen dan voordat ze ermee werkten. We meten de winst als de AI aanstaat en kijken zelden wat er overblijft als hij uitstaat.
De kaart en de navigatie
Een papieren kaart en een navigatiesysteem brengen je allebei naar je bestemming, alleen leer je met de kaart onderweg de stad kennen. Na een paar keer rijd je de route zonder kaart. Met navigatie merk je pas wat je mist als je telefoon leeg is en je de afslag niet meer weet in een wijk waar je al jaren doorheen rijdt.
Dat navigatie-effect versterkt zichzelf. Hoe minder je een taak zelf doet, hoe minder goed je erin wordt. Daardoor wordt uitbesteden aantrekkelijker, waardoor je er nog minder goed in wordt. Een complexiteitsonderzoeker van het Santa Fe Institute goot dat mechanisme deze zomer in een wiskundig model en vond een kantelpunt. Wie de basis nooit opbouwde, zakt in dat model al weg als de tool af en toe binnen handbereik is. Een ervaren professional kan bijna permanent met de tool werken voordat het misgaat, zolang die kan volgen hoe de tool tot een uitkomst komt. Is je vaardigheid eenmaal weg, dan kost het veel meer moeite om hem terug te krijgen dan om hem bij te houden, net als je conditie na een jaar op de bank. Vakgenoten hebben het onderzoek nog niet beoordeeld, dus neem de precieze drempels met een korreltje zout.
In het onderzoek belandt een taalmodel aan de kant van de navigatie zodra je zijn antwoorden ongezien overneemt, omdat het rekenwerk erachter te groot is om in je hoofd na te bouwen. Het kaarteffect krijg je pas als je zijn output zelf narekent. In mijn trainingen laten deelnemers de AI daarom ook hun eigen redenering aanvallen, met een opdracht als "Dit is mijn aanpak, zoek de zwakste plek en leg uit waarom." Een overzichtsstudie van dit voorjaar bundelt 67 onderzoeken naar ChatGPT in het hoger onderwijs. Of het kritisch denkvermogen van studenten groeide, hing vooral af van hoe het onderwijs de AI inzette.
Psycholoog David Maij van Onderwijs AI legde in september in de interviewreeks het verschil uit tussen presteren en leren. Je moet volgens hem pas aan uitbesteden denken als de basisvaardigheden er zitten. Het rekenmodel uit Santa Fe komt via een heel andere route tot dezelfde conclusie.
Wie bepaalt waar de loop naartoe gaat
Als het doel vaag is en een AI-systeem zowel de analyse als de uitvoering doet, komt ook de keuze over wat belangrijk is langzaam bij dat systeem te liggen. Denk aan een AI-agent die een organisatie inzet om de werving te verbeteren, zonder dat iemand heeft vastgelegd wat beter betekent. De agent leert snel dat hij makkelijk scoort met kortere doorlooptijden en meer plaatsingen, dus daar stuurt hij op. Dat de organisatie duurzame matches en een eerlijke selectie eigenlijk veel belangrijker vond, stond nergens in de opdracht. In het playbook over loops vergeleek ik een goede AI-loop met een thermostaat, die de temperatuur keurig vasthoudt zodra iemand heeft besloten dat het 20 graden moet zijn en waarom.
Met een beleidsnotitie gaat het net zo. Kiest Copilot welke argumenten erin komen, dan beslist het systeem stilletjes mee over wat je ermee wilde bereiken.
De mens in de loop, waar deze nieuwsbrief zijn naam aan dankt, noemde ik in juni nog het vangnet dat de output van de AI controleert voordat die ergens telt. Dat vangnet helpt je weinig als die mens niet meer bepaalt waar de loop naartoe gaat. Wie pas aan het eind meekijkt, kan alleen nog beoordelen of het werk goed is uitgevoerd, want welk werk er gedaan moest worden, is dan allang besloten.
Op de soevereiniteitsladder van rekenkracht, model en context noemde ik context in juli de enige trede die je zelf bezit. Eind september kwam daar met Walnoot een Nederlands model bij dat je op je eigen server draait. Bovenaan die ladder hoort nog een trede die geen software je levert, namelijk zelf bepalen waar je AI op stuurt. Ook met een model op je eigen server ben je de regie kwijt zodra je de doelen aan dat model overlaat.
Kies wat je wilt blijven kunnen
Een deel van je vaardigheden mag gerust verdwijnen. Met een rekenliniaal werken we al decennia niet meer en dat mist niemand. Kies dus bewust welke taken je automatiseert en welk oordeel je in huis houdt. Het bekende verhaal is dat AI het repetitieve werk overneemt, zodat jij tijd overhoudt voor waardevoller werk. Juist voor dat werk heb je het oordeel nodig dat je kwijtraakt als je de verkeerde dingen uitbesteedt.
Dus meet naast tijdwinst ook wat mensen zonder de tool nog kunnen. Geef een team een casus om met AI op te lossen en een week later een vergelijkbare zonder. Juniors, die zoals ik in juni schreef steeds minder instapwerk krijgen, schrijven het eerste concept beter zelf, waarna de AI hun werk mag aanvallen. En voordat je een agent aan het werk zet, schrijf je op waar hij op moet sturen en wat hij nooit mag opofferen.
Over een jaar werken ook in jouw organisatie mensen al twaalf maanden met dezelfde licentie. Of ze dan lijken op de collega die beter schrijft dan ooit of op de collega voor het lege document, bepaal je nu, door je mensen eerst zelf te laten leren en door vast te leggen wie blijft beslissen waar het werk naartoe moet.
Lees ook
Zo bouwden we zelf een Nederlands taalmodel
Gewone AI volstaat om Nederlandse organisaties te hacken
Vind je dit waardevol? Deel het.
Stuur THE HUMAN LOOP door naar één collega die ook met AI bezig is. Voor elke vriend die zich aanmeldt, krijg je gratis maanden premium: inclusief alle Playbooks.