AI en ethiek: vertrouwen begint met transparantie

​AI kan enorm veel. Maar niet alles wat kan, moet je willen.

De kracht van AI brengt verantwoordelijkheid met zich mee. Verantwoordelijkheid over hoe je het inzet, welke beslissingen je eraan overlaat en hoe je waarborgt dat de uitkomsten eerlijk en betrouwbaar zijn.

Deze blog gaat over de ethische kant van AI. Niet als abstract filosofisch onderwerp, maar als concreet vraagstuk voor elke organisatie die AI inzet. Over transparantie, vooroordelen, de EU AI Act en wat verantwoord gebruik in de praktijk betekent.

Niet alles wat kan, moet ook. Juist daarom hoort ethiek bij elke serieuze AI-toepassing.

Waarom ethiek bij AI geen bijzaak is

Bij eerdere technologische veranderingen, zoals cloud, mobiel en internet, ging het ethische gesprek vooral over privacy en beveiliging. Bij AI komt daar iets fundamenteels bij: AI neemt beslissingen, of bereidt ze voor. En beslissingen kunnen gevolgen hebben voor mensen.

Een AI-systeem dat cv’s screent, bepaalt mede wie een uitnodiging krijgt voor een gesprek en wie niet. Een AI-agent die schadeclaims beoordeelt, beïnvloedt wie snel hulp krijgt en wie niet. Een AI-model dat risicoprofielen opstelt, bepaalt mede wie een lening krijgt en wie niet.

“Ethiek hoort bij elke toepassing die gevolgen heeft voor mensen”

Die beslissingen zijn niet neutraal. Ze steunen op data, en data weerspiegelt de wereld zoals die was, inclusief de ongelijkheden en vooroordelen die erin zitten.

Een model dat traint op historische wervingsdata van een bedrijf dat jarenlang vooral mannen aannam, neigt ernaar mannen te bevoordelen. Niet omdat het model seksistisch is, maar omdat de data dat patroon bevat.

Dat maakt ethiek bij AI geen luxeonderwerp voor later. Het hoort erbij, bij elke toepassing die gevolgen heeft voor mensen.

Wat de EU AI Act van je vraagt

Europa loopt internationaal voorop met regelgeving voor AI. De EU AI Act, die stapsgewijs ingaat, verdeelt AI-toepassingen in risicocategorieën en koppelt daar concrete eisen aan.

De kern van de wet is een indeling in risicocategorieën:

• Onacceptabel risico. AI-toepassingen die fundamentele rechten schenden zijn verboden. Denk aan social scoring door overheden of manipulatieve technieken die kwetsbare groepen uitbuiten.
• Hoog risico. Toepassingen in domeinen als HR, onderwijs, financiële dienstverlening, zorg en rechtshandhaving moeten voldoen aan strenge eisen. Je moet aantonen dat je data klopt, dat mensen toezicht houden en dat je uitleg kunt geven.
• Beperkt risico. Toepassingen zoals chatbots moeten transparant maken dat de gebruiker met AI communiceert.
• Minimaal risico. De meeste AI-toepassingen vallen in deze categorie en hoeven alleen aan de algemene principes te voldoen.

Voor de meeste organisaties die AI inzetten in hun bedrijfsprocessen, is de categorie “hoog risico” het relevantst. Niet omdat elke toepassing daaronder valt, maar omdat toepassingen in HR, klantbeoordeling en besluitondersteuning er snel in terechtkomen.

De EU AI Act wil AI niet tegenhouden. De EU wil zorgen dat organisaties AI verantwoord inzetten. Organisaties die daar nu al op anticiperen, hoeven straks niet in te halen. Ze lopen voorop.

Meer uit onze AI visie:
– Waarom je nu met AI agents moet starten
– De drie niveaus waarop AI jouw bedrijf verandert
– AI vervangt geen mensen. Het versnelt hun denkwerk

Transparantie: laat zien wat AI doet

Transparantie is het fundament van verantwoord AI-gebruik. Mensen, of het nu medewerkers, klanten of burgers zijn, hebben het recht om te weten wanneer AI een rol speelt in een beslissing die hen raakt.

Dat klinkt eenvoudig, maar in de praktijk valt dat niet mee. Waar begint de rol van AI en waar eindigt die?

Als een medewerker een concept schrijft met behulp van AI en dat concept vervolgens aanpast en ondertekent, is dat dan een AI-beslissing? Nee. Maar als een AI-agent zelfstandig een risicoprofiel opstelt dat een medewerker zonder wijziging overneemt, dan is de grens vager.

Praktische transparantie betekent:

• Openheid naar gebruikers. Maak duidelijk wanneer AI een rol speelt. Niet met juridische disclaimers die niemand leest, maar met heldere communicatie. “Dit advies is opgesteld met ondersteuning van AI en gecontroleerd door een specialist.”
• Traceerbaarheid. Zorg dat je kunt achterhalen welke data en instructies een AI-uitkomst bepaalden. Als iemand vraagt waarom AI dat advies gaf, moet je dat kunnen reconstrueren.
• Uitlegbaarheid. Niet elke AI-beslissing hoeft tot op algoritmisch niveau te worden uitgelegd. Maar de redenering moet begrijpelijk zijn voor de persoon die erdoor wordt geraakt. “Uw aanvraag is afgewezen omdat…” is het minste wat je kunt doen.

Herken en corrigeer vooroordelen

AI-modellen zijn niet objectief. Ze trainen op data die de wereld weerspiegelt, inclusief de patronen en biases die daarin zitten. Dat betekent dat AI-uitkomsten onbedoeld discrimineren op basis van geslacht, etniciteit, leeftijd, postcode of andere factoren.

Het probleem is niet dat dit kan gebeuren. Het probleem is dat het onzichtbaar kan gebeuren.

Een mens die bevooroordeeld beslist, kun je ter verantwoording roepen. Een AI-model dat bevooroordeeld beslist, doet dat op schaal, consistent en zonder dat iemand het merkt. Tenzij je er bewust op controleert.

Dat vraagt om concrete maatregelen:

• Test op bias. Voordat je een AI-toepassing live zet, test je de uitkomsten op systematische verschillen tussen groepen. Behandelt het systeem bepaalde groepen structureel anders? Dan heb je een probleem dat je oplost voordat je verder gaat.
• Monitor na livegang. Bias ontstaat ook na ingebruikname, als de data verandert of als het gebruik verschuift. Blijf het controleren. Dat is geen extra, dat hoort erbij.
• Corrigeer actief. Als je bias ontdekt, pas je de data, de instructies of het model aan. Dat is een voordeel van AI ten opzichte van menselijke bias: je kunt het systematisch corrigeren.

Datasoevereiniteit: houd grip op je data

Ethisch AI-gebruik gaat ook over grip op je data. Waar verwerk je je data? Wie heeft er toegang toe? Gebruikt de aanbieder je data om modellen te trainen?

Voor Nederlandse en Europese organisaties is dit extra relevant.

De AVG stelt eisen aan hoe organisaties persoonsgegevens verwerken. De EU AI Act voegt daar eisen aan toe voor AI-specifieke risico’s. En veel organisaties werken met bedrijfsgevoelige informatie, die niet naar buiten mag.

Kies voor platformen die expliciete garanties bieden over dataverwerking. Microsoft garandeert voor zakelijke klanten dat data binnen de EU blijft, niet dient voor modeltraining en dezelfde beveiliging en compliance geniet als de rest van de Microsoft 365-omgeving.

Leg vast wanneer een mens beslist

Een rode draad door alle ethische kaders, is het principe van menselijk toezicht. AI ondersteunt, de mens beslist. Dat klinkt als een open deur, maar in de praktijk is de uitvoering lastiger dan het principe.

Naarmate AI beter wordt en vaker gelijk heeft, groeit de neiging om de menselijke controle te verslappen. Automation bias heet dat: de menselijke neiging om AI-output te accepteren zonder kritische beoordeling, juist omdat het systeem meestal goed zit.

Dat is een risico. De waarde van menselijk toezicht zit niet in het controleren van elke uitkomst, maar in het bewaken van de uitzonderingen. De gevallen waarin context, ethiek of menselijke afweging het verschil maakt.

“AI ondersteunt, de mens beslist.”

Dat vraagt om medewerkers die begrijpen wat AI doet, weten wanneer ze moeten ingrijpen en de autoriteit hebben om dat te doen.

Organisaties die dit serieus nemen, bouwen het in:

• Duidelijke escalatieregels. Wanneer mag AI zelfstandig handelen en wanneer beslist een mens zelf?
• Training in kritisch beoordelen. Medewerkers leren niet alleen hoe ze AI gebruiken, maar ook hoe ze AI-output wegen.
• Verantwoordelijkheid. Wie is verantwoordelijk voor een beslissing die AI voorbereidde? Stel die vraag vooraf, niet achteraf.

AI ondersteunt, de mens beslist. Maar dan moet de mens wel weten wanneer ingrijpen nodig is.

Bouw vertrouwen voordat je opschaalt

Het is verleidelijk om ethische kaders te zien als iets dat AI vertraagt. In de praktijk zorgen duidelijke afspraken juist voor snelheid en vertrouwen.

Ethiek is geen rem, maar een versneller. Je voorkomt herstelwerk, maakt verantwoordelijkheden vooraf duidelijk en geeft medewerkers, klanten en toezichthouders vertrouwen in de manier waarop je AI inzet.

Zonder dat vertrouwen blijft AI hangen in losse proeven en beperkte toepassingen. Met heldere afspraken over transparantie, data, controle en menselijk toezicht bouw je AI-toepassingen die je verantwoord kunt opschalen.

Leg daarom vooraf vast hoe je AI controleert, wie verantwoordelijk is en wanneer een mens ingrijpt. Zo houd je grip terwijl je vooruitgaat.