Elke week spreek ik één professional over hoe AI zijn werk op een doordeweekse dag verandert. Aflevering vijf gaat over Michaël Brouwer, gerechtsdeurwaarder en directeur van Syncasso, een van de grotere gerechtsdeurwaarderskantoren van Nederland, met ruim tweehonderdvijftig mensen op vijf vestigingen. Voordat hij dat vak inging, haalde hij een master in theologie, kerkrecht en ethiek.
Iemand die vandaag een aanmaning van hem krijgt, kan gisteren zijn baan kwijt zijn geraakt. Hoe dichter AI bij zo'n besluit komt, hoe zwaarder een fout weegt. Het eerste scoremodel van Syncasso dateert uit 2008 en zulke modellen wegen mee of een zaak met een betaalregeling duurzaam opgelost kan worden, of dat er een rechter aan te pas moet komen. Michaël is daarnaast gecertificeerd AI-compliancefunctionaris. Wat hij deed om AI verantwoord aan het werk te krijgen, begon bij een vraag aan zijn eigen mensen.
De eerste winst zoekt hij bij zijn ontwikkelaars
Toen wij elkaar de vorige keer spraken, waren ze bij Syncasso net begonnen met Copilot. Dat draait er inmiddels bij een deel van zijn mensen, al gebruikt niet iedereen het even actief. Daarmee zit hij in de fase waar bijna elke organisatie een tijd in blijft hangen. De licenties zijn uitgedeeld, de eerste enthousiastelingen zijn los en daarna gebeurt er maandenlang weinig meer. Michaël krijgt daar elke keer hetzelfde antwoord op terug.
"Daar moeten we dan tijd voor vrijmaken. Misschien moeten we er trainingen voor volgen."
Dat hoor ik bij vrijwel elk bedrijf. Het klinkt als een toezegging en het schuift de zaak netjes vooruit, want die tijd komt er in een volle week nooit vanzelf bij. Michaël zoekt de oorzaak een laag dieper, bij hoe mensen hun dag inrichten.
"Mensen zijn bezig met hun dagdagelijkse werkzaamheden. Ze houden niet per se van verandering en ze houden niet per se van experimenteren. Het vraagt een bepaalde mindset."
Eén groep vormt de uitzondering. Zijn ontwikkelaars zijn vele malen verder, gebruiken AI om te programmeren en hebben het in hun eigen werkprocessen ingebouwd. Zij kregen hetzelfde gereedschap als de rest, alleen hebben zij hun werk eromheen verbouwd.
Hij verlegde zijn aandacht naar die plek. De koplopers krijgen ruimte en de eerste winst zoekt hij in de werkprocessen zelf, waarna de rest van de organisatie aan de beurt is.
De plek waar hij daarnaast de meeste ruimte ziet is klantcontact, van e-mailafhandeling tot het callcenter. Dat komt allemaal het systeem binnen en levert een berg gegevens op waar je ook weer iets mee zou kunnen doen. Precies daar zet hij de rem erop. "De mens moet centraal blijven", zegt hij. Achter elk van die telefoontjes zit iemand met een openstaande rekening.
De tweede rem legt hij zichzelf op. De ontwikkelingen gaan hard en er is elke week wel een nieuw model. Juist daarom neemt hij de tijd voor zijn keuzes.
"Als je alleen maar jaagt op de latest and the greatest, dan blijf je dat najagen en bouw je nooit stabiliteit op in je bedrijf."
Daar houdt hij zich ook aan. "Als organisatie hoef je niet per se vooraan te lopen." Vasthouden kost hem wel iets, want een jaar stilzitten staat inmiddels gelijk aan een modelgeneratie overslaan. Hij neemt dat voor lief, omdat een bedrijf dat elk kwartaal zijn werkwijze verandert nergens op kan bouwen.
De ruimte tussen een aanmaning en een regeling
Zodra AI in die werkprocessen zit, gebeurt er werk waar niemand meer naast zit. Ik vroeg hem of de mens daarmee manager wordt van de agents.
"Manager vind ik het verkeerde woord. Ik zie eerder een vader- of moederfiguur. Of een leider, iemand die richting geeft en ruimte laat."
Waarom dat woord voor hem niet werkt, zit een laag dieper.
"Een mens draagt zijn verantwoordelijkheid in het hier en nu. Hoe intelligent AI ook wordt, wij kunnen onze verantwoordelijkheid er niet aan overdragen."
In de markt heet de gangbare oplossing human in the loop. Op vaste punten in een geautomatiseerd proces kijkt een mens mee voordat het verder mag. Michaël vindt die term te smal.
"Mijn bezwaar tegen human in the loop is dat het kan suggereren dat menselijke verantwoordelijkheid zich beperkt tot een paar controlemomenten. Voor mij loopt die verantwoordelijkheid door het hele proces heen. De mens is het proces."
Dat kan klinken als een woordenspel. Wat hij ermee bedoelt, legde hij uit met een voorbeeld van thuis.
"Je geeft je kind een snoepje als beloning, dan weet het dat het iets goed heeft gedaan. Maar soms geef je ook een snoepje zonder dat daar een reden voor is. Je bent op vakantie, dan mag er wat meer snoep. Als je daar puur zwart-wit naar kijkt, is die ruimte er nooit."
In zijn eigen werk zit diezelfde ruimte tussen een aanmaning en een regeling. Iemand met een openstaande rekening heet daar een debiteurklant.
"Stel, iemand is gisteren ontslagen. Zwart-wit gezien moet die vordering gewoon betaald worden. Maar een mens legt daar empathie in, snapt dat die persoon morgen niet kan betalen en gaat er flexibeler mee om."
Aan die ruimte hangt bij hem meteen een voorwaarde.
"Ruimte voor de uitzondering vraagt juist om uitleg. Wie afwijkt van de standaard moet kunnen laten zien waarom dat in dit dossier de juiste beslissing was."
Zo'n ontslag hoor je in een telefoongesprek. Wie AI op zijn klantcontact zet, erft de procesoptimalisatie van jaren. Een model versnelt gewoon wat er staat.
Hij maakte vervolgens de rekening op voor zijn eigen sector en rekende zichzelf mee.
"Onze sector heeft jarenlang sterk gestuurd op standaardisering, efficiency en voorspelbaarheid. Daarmee hebben we soms ook professionele ruimte en menselijk oordeel uit het proces georganiseerd. Dat kantelt nu weer, omdat we die afweging juist willen kunnen maken."
Hij haalde er een voorbeeld uit zijn eigen leven bij. In de sportschool laat hij zich coachen door AI, op de plek waar eerst zijn personal trainer stond.
"Alleen ziet hij niet dat er verschil zit tussen mijn bezoeken. Soms werk ik netjes mijn schemaatje af. En soms kom ik gewoon om mijn hoofd leeg te maken, dan heb ik even geen zin om te bankdrukken en wil ik op de loopband rennen."
Ik liet hem mijn eigen fitnessbandje zien, dat me na een sprintje meldt dat ik meer moet rusten. Hij pakte dat meteen op.
"Voor je het weet loopt dat net zo in je bedrijf. Als je AI te veel aan het roer laat, verlies je die menselijke waarde."
De frictie die hij op de werkvloer ophaalde
Bij de meeste organisaties hangt ethiek als poster in de gang. Michaël begon bij de vraag wat daar dan eigenlijk op zou moeten staan.
"Ethiek is voor iedereen anders. Mensen verschillen in hun normen, waarden en de manier waarop ze die in concrete situaties wegen."
Hij haalde Anthropic aan, het bedrijf achter Claude, dat voor zijn model een grondwet heeft vastgelegd met de normen en waarden waar het zich aan houdt. Anthropic schrijft er zelf bij dat die normen door de makers zijn gekozen.
"Daar valt wat voor te zeggen. Alleen zitten daar normen en waarden in die heel erg bij Anthropic passen. En wij mensen zijn allemaal anders, we hebben allemaal andere normen en waarden."
Daarna stelde hij dezelfde vraag intern.
"Ik heb in mijn eigen organisatie uitgevraagd: wat zijn onze ethische guidelines eigenlijk? Daar gaan mensen dan op lopen. En waar je achterkomt is dat daar flink wat frictie zit."
Dat sprokkelen kost tijd en volgens hem is dat de moeite waard.
"Het is superbelangrijk om het voor jezelf in kaart te brengen. Als je het meegeeft aan de AI, kan die veel meer binnen jouw normen en waarden meesturen."
Wat hij ophaalde was het omgekeerde van die poster, namelijk frictie. Plekken waar twee collega's verschillend beslissen en allebei een goed argument hebben. In die verschillen zit het oordeel dat een model zelf niet kan maken.
Over het model zelf is hij onomwonden.
"Op veel cognitieve taken is AI mij ruimschoots de baas. Maar intelligentie is nog geen oordeel en zeker geen verantwoordelijkheid."
De kunst zit erin die kracht eruit te krijgen. Daarvoor maakt het meer uit wat je meegeeft dan hoeveel. Het gaat om de juiste context, om de juiste normen en waarden.
"Het gebruik van AI vraagt ons ook goed na te denken over de data die we invoeren en de vragen die we stellen."
Hij illustreerde dat met een gedachte-experiment dat al twintig jaar in AI-kringen rondgaat.
"Als je AI een doel geeft, gaat hij dat doel achterna. Geef je hem als doel om zoveel mogelijk paperclips te maken, dan is uiteindelijk de hele wereld een paperclipfabriek."
Een doel dat te kaal is opgeschreven doet in een incassoproces precies wat je ervan vreest. Vraag om het hoogste geïnde bedrag en je krijgt het hoogste geïnde bedrag, ook bij de mensen die het morgen niet hebben. Op de schaal van een gewone opdracht werkt het net zo, want ook in je vraag zit al een keuze verstopt.
"Je moet AI veel vragen stellen. Alleen zit in je vraag ook weer een bias. Vraag je om een goed plan van aanpak, dan is de vraag meteen: wat is goed? Goed is voor iedereen anders."
Wat er uit die uitvraag komt, gaat bij hem rechtstreeks het gereedschap in. Hij legt het vast in wat hij skills noemt, kleine instructiebestanden waarin je je werkwijze en zienswijze meegeeft, plus vaste werkprocesflows voor werk dat elke week terugkomt. Wie daarna iets aan een model vraagt, krijgt die laag er automatisch bij.
Compliance geeft hem richting
Bestuurders die ik spreek noemen de AI Act vooral als reden om iets niet te doen. Die wet sorteert toepassingen op risico, waarbij een handjevol verboden is en het meeste in de lichtste categorie valt, buiten het bereik van de zwaarste eisen. Andere regels blijven daar gewoon staan, van de privacywetgeving tot de eisen die je eigen sector stelt. En AI die de kredietwaardigheid van particulieren beoordeelt kan in die rangorde als hoog risico worden aangemerkt, dus wie met geld en met mensen tegelijk werkt komt daar eerder terecht dan onderin.
Michaël haalde daar een certificering voor, een opleiding met examen over het vertalen van die regels naar werkbaar beleid. Juist iemand met dat papier kijkt er andersom naar.
"Compliance is een goed middel, maar je moet je er niet door laten leiden. Als je het alleen ziet als het verbieden, dan zit je aan de verkeerde kant. Zie het als een guideline."
Publiek is hij daar net zo helder over. Een verbod of een zware beperking van AI zou het vak volgens hem jaren achteruit zetten. Voor de aarzeling van zijn collega's gebruikt hij het woord onkunde.
Over de modellen waar zijn eigen bedrijf op draait is hij even scherp. Uitlegbaarheid noemt hij de achilleshiel van AI, want hoe accurater een voorspelling wordt, hoe moeilijker het is om uit te leggen hoe die tot stand komt.
Wat er moet staan voordat je een licentie koopt
Een directeur in een gereguleerde organisatie, medewerkers die al AI gebruiken, geen samenhangende aanpak en een kwartaal om iets neer te zetten. Dat legde ik hem tot slot voor.
Weet wat je eigen normen en waarden zijn voordat je AI ergens op loslaat, zegt hij. Pas daarna komt het gereedschap.
Zo'n uitvraag verzandt makkelijk in een werkgroep die een jaar later een document oplevert, dus zou ik hem klein houden. Pak vijf besluiten van vorige maand waarover collega's het oneens waren en laat iedereen die erbij zat opschrijven wat voor hem of haar de doorslag gaf. Dan ligt de eerste frictie er binnen een middag. Het complete beeld kost langer, alleen hoef je daar niet op te wachten.
Waar hij zelf op let, is de taal die je onderweg gebruikt.
"Zo'n model is geweldig in taal. Juist daarom moet je voorzichtig zijn met jouw taal. Door een bepaalde bewoording te kiezen schiet je een hoek in die je als mens misschien helemaal niet bedoelde."
Een model kiest zijn woorden uit wat jij hebt meegegeven. Daarvoor is hij die frictie gaan ophalen, zodat er ruimte overblijft voor iemand die gisteren zijn baan verloor.
Aan het werk met AI is een reeks portretten van mensen die AI in hun dagelijkse werk gebruiken.
Dank aan Michaël voor zijn tijd en voor het meelezen.
Loopt bij jou de discussie over AI vast op de vraag wat wel en niet mag, dan denken we bij WAINUT graag met je mee.