…Welke beslissende vraag had jouw organisatie het afgelopen jaar moeten stellen als het gaat over verantwoorde digitalisering/AI(toepassing), maar is niet gesteld?
Maandag 26 oktober start de tiende Week van Integriteit, met als thema Leading with Integrity in a Digital Age. Zes weken geleden opende het NCIP een blogserie in aanloop naar deze Week van Integriteit met de vraag: “…als een algoritme een besluit voorstelt dat juridisch mag, technisch te verklaren is en commercieel aantrekkelijk lijkt, maar toch ongemakkelijk voelt, wie stelt dan de beslissende vraag?” Zes blogs later is het tijd voor een terugblik, en een antwoord.
…dat een integere en beheerste bedrijfsvoering ‘compliancetaal’ is voor een organisatie die haar doelen verantwoord en controleerbaar realiseert en ook onder druk zorgvuldig blijft handelen. Beheersing geeft structuur, integriteit geeft richting. Aan de hand van de vijf bouwstenen heeft NCIP in de afgelopen vijf weken laten zien waar digitalisering en AI een integere en beheerste bedrijfsvoering onder druk kunnen zetten.
Klant- en ketenintegriteit betekent dat je deze relaties kent, de uitbestedingsrisico’s beheerst en kunt uitleggen waarom je erop vertrouwt. Integriteit stopt niet bij de voordeur, en digitalisering maakt de keten groter en minder zichtbaar. We maken steeds meer gebruik van tech/AI-diensten en de leveranciers die kritieke operationele diensten ondersteunen zijn tegenwoordig voornamelijk ICT-leveranciers, externe partijen analyseren klantdata en besluiten rusten steeds vaker op technologie van anderen. Uitbesteden, ook van technologie, is niet het uitbesteden van verantwoordelijkheid. Beheersing vraagt daarom een risico gebaseerde onboarding, heldere afspraken in contract en SLA, over datagebruik en AI-inzet, en monitoring die past bij het risicoprofiel. Een screening bij acceptatie is een momentopname. Het echte werk begint daarna: signalen blijven wegen, bereid zijn te handelen en alternatieven te blijven onderzoeken.
Marktintegriteit draait om een eerlijk speelveld: koersen worden niet kunstmatig beïnvloed, handel met voorwetenschap is verboden en informatie is voor iedereen zo betrouwbaar mogelijk. AI geeft dat een nieuwe dimensie. Zelflerende AI-systemen veranderen de financiële markt door autonoom handelsstrategieën te ontwikkelen. Dit brengt risico’s mee voor de marktintegriteit. Via specification gaming kunnen zelflerende modellen winstdoelen behalen zonder de bedoeling te volgen. Daarbij kunnen grenzen oprekken of op marktmisbruik lijken als ze onbedoeld op elkaar reageren en elkaar versterken, zoals een handels-AI dat via een onvoorzien communicatiekanaal samenwerkt met een andere AI en zo de koers kunstmatig opdrijft. De compliance officer bewaakt daarom niet alleen de letter van de regels, maar ook de bedoeling erachter. Het bestuur blijft verantwoordelijk, ook voor handelsstrategieën die geen mens heeft bedacht of geprogrammeerd.
Data-integriteit reikt verder dan IT-veiligheid. Een integere en beheerste bedrijfsvoering betekent dat data beschikbaar, integer en vertrouwelijk zijn, en dat de organisatie kan herleiden welke gegevens een uitkomst hebben bepaald. Een AI-systeem is niet betrouwbaar als de onderliggende gegevens onjuist, onvolledig of verouderd zijn. Technologie is een middel, integriteit het doel. Rechtmatig is bovendien niet automatisch verantwoord: een toepassing kan juridisch toelaatbaar zijn en toch onwenselijk uitpakken, zoals een hypothetische AI-kredietbeoordelingsscan die oordeelt op basis van social media posts. Beheersing vraagt daarom een toets vooraf op beginselen als menselijke autonomie, uitlegbaarheid, rechtvaardigheid en aanspreekbaarheid. Waar een menselijke fout vroeger één dossier raakte, kan een modelfout duizenden klanten tegelijk raken. Het bestuur blijft verantwoordelijk, een algoritme legt geen verantwoording af.
Bij Organisatie-integriteit draait het om bestuur, cultuur en governance: blijft integriteit onderdeel van de dagelijkse besluitvorming, en kan een AI-toepassing tijdig worden begrensd of gestopt? Een integere en beheerste bedrijfsvoering heeft duidelijke verantwoordelijkheden, een meldregeling en een speak-up platform, maar die zijn weinig waard als medewerkers zich niet veilig genoeg voelen om ze te gebruiken. Psychologische veiligheid wordt zichtbaar in tegenspraak: wat gebeurt er wanneer iemand een ongemakkelijke vraag stelt of een melding doet? AI geeft dit een extra dimensie. Als medewerkers AI nodig hebben om kritische signalen over te brengen, kan dat iets zeggen over de cultuur, niet over de technologie. Ook algoritmen vragen om tegenspraak: ongewenste effecten worden eerder zichtbaar door kritische medewerkers dan door systemen. AI kan geen psychologische veiligheid creëren. Die verantwoordelijkheid ligt bij bestuurders en leidinggevenden.
Medewerker-integriteit gaat niet per se over ongewenst gedrag, fraude of belangenverstrengeling, dat kunnen gevolgen zijn van keuzes. Integriteit gaat over vakmanschap, professioneel oordeel en verantwoordelijkheid nemen voor (verantwoorde) keuzes. Een integere en beheerste bedrijfsvoering vraagt dat medewerkers zelfstandig blijven nadenken, belangen herkennen en besluiten zorgvuldig en uitlegbaar afwegen. Digitalisering zet dat onder druk. AI-toepassingen geven snel een overtuigend antwoord, maar overtuigend is nog niet juist: gegevens kunnen onvolledig of verouderd zijn. Gemak kan bovendien vakmanschap uithollen als medewerkers steeds minder kijken naar de stappen achter een uitkomst. Nieuwe leveranciers en afhankelijkheden brengen bekende risico’s als belangenverstrengeling mee, en AI maakt phishing, vervalste facturen en andere misleiding eenvoudiger. Bestaande controles, zoals functiescheiding en het vier-ogen-principe, blijven daarom onmisbaar. Leidinggevenden maken het verschil door kritische vragen te waarderen. Technologie kan informatie leveren, analyses uitvoeren en keuzes voorbereiden. De afweging blijft mensenwerk.
Misschien wel de belangrijkste les uit deze serie is dat technologie de menselijke factor niet kleiner maakt, maar juist belangrijker. AI kan ondersteunen bij analyses, ideeënvorming en besluitvorming, maar AI kan geen cultuur bouwen, kan geen psychologische veiligheid creëren en kan ook niet bepalen wanneer een medewerker zich vrij voelt om een kritische vraag te stellen of een ongemakkelijke waarheid bespreekbaar te maken. Dat vraagt om luisteren naar elkaar, elkaar ruimte geven en actief uitnodigen tot tegenspraak. Juist in een digitale omgeving worden eigenschappen als nieuwsgierigheid, moed, reflectie en professioneel kritische oordeelsvorming steeds waardevoller. Niet ondanks technologie, maar dankzij technologie.
Als er één conclusie uit deze reeks kan worden getrokken, dan is het dat integriteit uiteindelijk draait om keuzes. Niet om algoritmen of de technologie, maar om de keuzes die mensen maken wanneer zij die technologie gebruiken. Keuzes over wat wij belangrijk vinden. Keuzes over hoe wij zorgvuldig willen handelen en over de verantwoordelijkheid die wij bereid zijn te nemen wanneer de gevolgen van die keuzes zichtbaar worden.
In elke blog keerde hetzelfde terug: verantwoordelijkheid is niet over te dragen aan een leverancier, model of dashboard; overtuigend is niet hetzelfde als betrouwbaar, en tegenspraak is geen vertraging, maar een manier om als organisatie te leren en nodig om fouten of ongewenste effecten tijdig te zien aankomen, bij mensen én bij systemen en tijdig aan te kunnen passen. De toets is steeds dezelfde: kunnen we achteraf uitleggen waarom we vertrouwden op bepaalde data, relaties of uitkomsten? Dat is de paradox waarmee we begonnen. Hoe slimmer technologie wordt, hoe belangrijker menselijk oordeel en leiderschap worden. Dat geldt voor alle facetten van de bedrijfsvoering.
De vraag stellen is als verantwoordelijkheid durven te nemen en het verschil durven te maken. Het bestuur doet dit door de verantwoordelijkheid te blijven dragen ook als de technologie/AI het laat afweten en ook als de uitlegbaarheid van uitkomsten ter discussie staat. Leidinggevenden doen dit door kritiek als waardevolle informatie te zien. Medewerkers doen dit door zonder gemakzucht digitaal gemak te omarmen en kritisch te blijven op digitale/AI uitkomsten en af te durven wijken. Compliance laat dit zien door de norm en de bedoeling erachter te bewaken.
Integriteit is geen thema voor één week per jaar. De integere en beheerste bedrijfsvoering omvat dagelijkse keuzes en dilemma’s om verantwoord bedrijfsdoelen te realiseren.
…Welke beslissende vraag had jouw organisatie het afgelopen jaar moeten stellen als het gaat over verantwoorde digitalisering/AI (toepassing), maar is niet gesteld? Wat let je om die vraag morgen te stellen? Laat de Week van Integriteit je inspireren tot ‘Leading with Integrity in a digital Age’!
Van 26 tot en met 30 oktober organiseert ICC Nederland de tiende editie, onder meer met een hybride opening bij Prosus AI House, een workshop over insider AI-fraude, webinars over whistleblowing in AI en over geschenken en uitnodigingen, en een seminar bij NautaDutilh. Het programma staat op weekofintegrity.org.