Derde artikel in de NCIP-blogserie in aanloop naar de Week van Integriteit 2026
Een documentaireserie die ik in 2025 met veel plezier heb gezien, is Planet Finance. Deze serie maakt in zes afleveringen de wereld van financiële markten begrijpelijk. Olie waarvan de prijs negatief wordt, handel in risico’s op natuurrampen, bubbels en crashes… de serie laat zien hoe markten gevormd worden door informatie, prikkels, technologie en menselijk gedrag. Maar de ontwikkelingen gaan snel. Hoewel algoritmische handel al jaren bestaat, voegen de huidige mogelijkheden van AI daar een nieuwe dimensie aan toe. Zelflerende agents kunnen zelfstandig strategieën ontwikkelen en met andere agents interacteren.
Deze ontwikkelingen passen goed bij de Week of Integrity 2026, met als thema Leading with Integrity in a Digital Age. In dit artikel staat marktintegriteit centraal. Wie bewaakt die integriteit als algoritmen slimmer en autonomer worden?
Het basisidee van marktintegriteit is vrij eenvoudig: wie actief is op een financiële markt moet erop kunnen vertrouwen dat het spel eerlijk wordt gespeeld. Koersen mogen niet kunstmatig worden beïnvloed. Handel met voorwetenschap is verboden. De informatie waarop beleggers handelen moet voor alle marktdeelnemers zo transparant en betrouwbaar mogelijk zijn. Het gaat om een level playing field: voor iedereen gelden dezelfde spelregels. Vertrouwen daarin is essentieel voor goed functionerende financiële markten en daarmee voor de reële economie.
De AFM publiceerde in april 2026 het rapport AI in Capital Markets: Balancing Innovation and Integrity. Daarin worden twee toekomstscenario’s geschetst die elk een uiterste weergeven.
In het utopische scenario zijn kapitaalmarkten volledig integer, transparant en efficiënt. AI helpt om informatie sneller te verwerken en prijzen nauwkeuriger vast te stellen. Digitale handelsagenten werken met ingebouwde integriteitswaarborgen. Ze herkennen afwijkende patronen, weigeren manipulatieve orders en controleren elkaar. Toezicht vindt realtime plaats en is preventief van aard.
Het dystopische scenario ziet er heel anders uit: kapitaalmarkten worden ondoorzichtig, oneerlijk en breed gewantrouwd. Gemanipuleerde informatie stuurt handelsbeslissingen. Zelflerende systemen ontdekken strategieën die winstgevend zijn, maar de prijsvorming verstoren. Modellen reageren op elkaar, versterken elkaars gedrag en kunnen marktbewegingen veroorzaken die geen van de modellen afzonderlijk kon voorzien. Uiteindelijk komt het vertrouwen in de markt onder druk te staan, met verstrekkende nadelige gevolgen voor de reële economie.
De AFM verwacht niet dat een van beide uitersten volledig werkelijkheid wordt, maar dat de werkelijkheid ergens in het midden zal liggen. Hieronder verken ik welke rol de compliance officer kan spelen om te helpen zorgen dat de inzet van AI binnen de grenzen en waarden van een integere markt blijft.
Bij professionele handelspartijen is veel beheersing al technisch ingebouwd: voorafgaande ordercontroles, realtime monitoring en systemen die automatisch kunnen worden begrensd of stilgelegd. Dat past bij het principe van compliance by design.
Zelflerende modellen voegen daar iets aan toe. Zij krijgen een doel en randvoorwaarden mee, maar kunnen zelf ontdekken hoe zij dat doel bereiken. Daarbij kan een model een onverwachte route vinden die wel effectief is volgens de meegegeven opdracht, maar niet past bij de bedoeling erachter. Dit wordt specification gaming genoemd: het model vindt een manier om strikt genomen aan de meegegeven doelen, criteria en randvoorwaarden — de specificatie — te voldoen, terwijl de uitkomst niet past bij de bedoeling erachter. Een verwant begrip is reward hacking: het model ontdekt een manier om zijn beloning of score te maximaliseren zonder het gewenste gedrag te vertonen. De AFM beschrijft hoe een zelflerend handelsmodel strategieën kan ontwikkelen die zijn prestatiedoel optimaliseren, maar in de praktijk kenmerken van marktmisbruik vertonen. Zo’n strategie hoeft niemand expliciet te hebben geprogrammeerd.
Mensen kunnen vergelijkbaar gedrag vertonen. Een sterke focus op targets of resultaten kan ertoe leiden dat normen en waarden naar de achtergrond verdwijnen. Dat gedrag wordt vervolgens gerationaliseerd: de druk van de markt, het belang van de organisatie of “iedereen doet het” kan een rechtvaardiging worden om grenzen op te rekken. De compliance officer kent dit mechanisme en helpt de eerste lijn zulke gedragsrisico’s te herkennen en beheersen.
De gemeenschappelijke noemer is alignment: blijft het feitelijke gedrag aansluiten bij wat werd beoogd en valt het binnen de geldende normen en waarden? Alignment is een term die in de AI-wereld veel gebruikt wordt voor de vraag of een AI-systeem doet wat de mens voor ogen heeft, zonder onbedoelde, schadelijke of ongewenste neveneffecten.
Daar ligt voor de compliance officer een herkenbare rol. Je zou die kunnen omschrijven als Alignment Officer: hoeder van de norm en van de bedoeling erachter. De CO kijkt niet alleen naar de letter van de regels, maar helpt ook de bedoeling erachter te duiden en te vertalen naar gedrag en beheersing. Zelflerende systemen vormen een nieuw aandachtsgebied, maar de essentie van de rol blijft hetzelfde. De eerste lijn blijft verantwoordelijk voor het systeem en de beheersing ervan. De compliance officer adviseert, monitort en challenget of die beheersing toereikend is en signaleert en escaleert waar nodig.
Voor marktintegriteit is ook van belang wat er gebeurt wanneer meerdere systemen op elkaar reageren. Een onderneming kan een model zorgvuldig ontwerpen, testen en monitoren, en een andere onderneming kan hetzelfde doen. Stel dat beide systemen ieder op zich aligned zijn… dan nog kan hun gezamenlijke gedrag een uitkomst veroorzaken die geen van beide heeft voorzien.
De AFM wijst erop dat modellen dezelfde databronnen kunnen gebruiken en op vergelijkbare doelen kunnen zijn ingericht. Daardoor kunnen verschillende systemen tegelijkertijd op hetzelfde signaal reageren en elkaars gedrag versterken. Dat is nog geen samenwerking, maar wel een vorm van onderlinge dynamiek die op marktniveau onverwachte effecten kan hebben. Zo kunnen feedbackloops ontstaan, met gevolgen voor prijzen en liquiditeit.
Het ‘Hugging Face-incident’ laat buiten de financiële markten zien dat een volgende stap ook mogelijk is: agents kunnen onverwacht gaan samenwerken. Tijdens interne cybersecuritytests van OpenAI vonden verschillende agents zelf een manier om informatie met elkaar te delen en werk te verdelen via een communicatiekanaal dat daar niet voor bedoeld was. In hun onderlinge communicatie omschreven de agents hun samenwerking als een swarm of collective. Hier ging het dus verder dan modellen die alleen dezelfde kant op bewegen: de agents communiceerden en verdeelden taken.
Goed beheerste afzonderlijke systemen leveren dus niet automatisch een goed beheerste markt op. Zowel de wisselwerking tussen modellen als daadwerkelijke samenwerking tussen agents kan onderdeel worden van het integriteitsvraagstuk.
Marktintegriteit is uiteindelijk een gezamenlijke uitkomst. Geen enkele onderneming, compliance officer of toezichthouder kan die alleen bewaken.
Binnen de onderneming ligt de verantwoordelijkheid voor het handelssysteem en de beheersing ervan in de eerste lijn. Het bestuur blijft verantwoordelijk voor wat de onderneming doet. Dat verandert niet doordat modellen complexer worden of zelfstandig leren. Dat een strategie niet rechtstreeks door een mens is bedacht of geprogrammeerd, doet niets af aan die verantwoordelijkheid.
Op systeemniveau ligt ook een rol bij de toezichthouder. Individuele ondernemingen kunnen niet volledig overzien wat ontstaat wanneer modellen van verschillende marktpartijen op elkaar reageren. Het is daarom goed dat de AFM deze ontwikkeling met haar rapport signaleert. Het Hugging Face-incident laat zien dat onverwachte interactie en samenwerking tussen agents zich daadwerkelijk kan voordoen. Daardoor krijgt de waarschuwing van de AFM over marktbrede interacties tussen modellen extra gewicht.
De verantwoordelijkheid ligt dus op verschillende plekken, maar mag nergens verdwijnen. De Alignment Officer helpt vanuit de tweede lijn om binnen de onderneming de norm scherp te houden. Rapporten als AI in Capital Markets: Balancing Innovation and Integrity helpen daarbij, juist omdat ze ook risico’s zichtbaar maken die op systeemniveau ontstaan.
De twee scenario’s die de AFM schetst, zouden voor de zevende aflevering van Planet Finance een prachtig uitgangspunt zijn. Een markt waarin AI helpt om prijzen beter te vormen, marktmisbruik eerder te herkennen en toezicht slimmer te maken. Of een markt waarin snelheid, autonomie en onderlinge interactie nieuwe kwetsbaarheden creëren.
Waar staan we nu, en welke kant bewegen we op? Hoe effectief is compliance by design? Hoe goed lukt het ons om de doelen en het gedrag van AI-systemen in lijn te houden met de normen en waarden van de organisatie en van een integere markt?
Voor de compliance (/alignment) officer blijft de vertrouwde opdracht bestaan: de norm bewaken, ook wanneer het speelveld verandert.
Dit artikel is het tweede inhoudelijke blog in onze serie in aanloop naar de Week van Integriteit 2026. In de introductie van de serie leggen we uit waarom integriteit juist in een steeds digitalere wereld om blijvende aandacht vraagt en welke vijf bouwstenen centraal staan.
