AI op de werkvloer: wat HR en management nu moeten weten over de AI Act

Wanneer valt AI onder ‘hoog risico’?

De AI Act deelt systemen in op basis van risico. Op basis van de risicocategorie waarin een systeem is ingedeeld, worden meer of minder vergaande verplichtingen opgelegd aan makers en gebruikers van deze systemen. Werkgevers zullen doorgaans gebruikers zijn.

Voor HR geldt: zodra AI invloed heeft op de loopbaan of arbeidsvoorwaarden van sollicitanten of medewerkers, is er sprake van een hoogrisicosysteem. Denk bijvoorbeeld aan automatische selectie van sollicitanten, algoritmes die bonussen of promoties bepalen, geautomatiseerde roosterplanning of disciplinaire beslissingen (ontslag, waarschuwing, verbetertraject) door een AI-systeem.

Veel AI-systemen binnen HR zullen kwalificeren als hoogrisicosysteem. Werkgevers die dergelijke systemen gebruiken, doen er dus goed aan zich voor te bereiden op de nieuwe verplichtingen vanaf 2 augustus 2026.

Let op: sommige AI-systemen binnen HR kunnen zelfs verboden zijn. Denk aan AI-systemen die emoties herkennen op de werkplek, of die zijn bedoeld om met biometrische gegevens van werknemers gevoelige informatie (bijvoorbeeld over ras, seksuele voorkeur of politieke overtuigingen) af te leiden.

Wat de AI Act straks van werkgevers met hoogrisicosystemen vraagt

Houd je aan de handleiding

Het spreekt misschien voor zich, maar een AI-tool moet gebruikt worden conform de handleiding en instructies van de maker van de tool. Werkgevers moeten dus zorgen dat hun personeel goed is opgeleid en in staat is om deze instructies te volgen.

Menselijk toezicht is verplicht

AI mag nooit de enige beslisser zijn. Een medewerker moet beslissingen kunnen tegenhouden, corrigeren of uitleggen. Bijvoorbeeld: als een algoritme een kandidaat afwijst, moet de recruiter kunnen uitleggen waarom, én die beslissing kunnen aanpassen of tegenhouden.

Risicobeheer: bewijs dat je het hebt onderzocht

Werkgevers die AI inzetten voor hun personeel en controle hebben over de data waarmee de AI-tool wordt getraind of getest, moeten kunnen aantonen:

• Dat de gebruikte datasets representatief en relevant zijn voor het doel;
• Dat er actief is gezocht naar bias;
• Dat de risico’s in kaart zijn gebracht en gemitigeerd.

Voorbeeld: een AI-tool die kandidaten selecteert en rangschikt kan zijn getraind op een ogenschijnlijk neutrale en representatieve dataset, zoals het personeelsbestand van de werkgever. In de praktijk kan echter blijken dat deze data toch als gevolg hebben dat bepaalde personen lager worden geplaatst door het systeem, bijvoorbeeld omdat kandidaten met een parttime dienstverband of carrièreonderbreking een minder hoge score krijgen. Als deze groep (vooral) bestaat uit vrouwen, levert dat (onbedoeld) discriminatie op.

Een werkgever moet een dergelijke bias vooraf al in kaart hebben gebracht, en maatregelen hebben getroffen om deze bias uit het systeem te halen. Let op: dit is geen eenmalige oefening, maar een doorlopende verplichting.

Transparantie: werknemers en sollicitanten moeten weten wat er speelt

Betrokkenen hebben volgens de AI Act recht op:

• Inzicht in welk AI-systeem wordt gebruikt, en voor welk doel;
• Uitleg over hoe het systeem beslissingen beïnvloedt;
• Toegang tot een klachtenprocedure als ze het niet eens zijn met de uitkomst.

Let op: de regels van het privacyrecht en gelijkebehandelingsrecht kunnen ook van toepassing zijn. Een betrokkene kan mogelijk ook met een beroep op de AVG of de gelijkebehandelingswetgeving bepaalde informatie opvragen of een klacht indienen.

Logging: elke beslissing moet achteraf te reconstrueren zijn

Een werkgever moet kunnen aantonen hoe een beslissing tot stand is gekomen. Dat betekent dat moet worden bijgehouden wat de input in de AI-tool was, welk proces er vervolgens heeft plaatsgevonden, en wat daarvan de output was. Als de beslissing daarna is getoetst door een mens, moet dat ook worden vastgelegd. Met andere woorden: de inzet van AI mag geen ‘black box’ zijn, maar juist een open boek.

De rol van de ondernemingsraad

Hiernaast is er een rol voor de medezeggenschap weggelegd. Als een werkgever een hoogrisicosysteem wil invoeren op de werkplek, moeten de werknemers én de werknemersvertegenwoordigers (zoals een OR, PVT of vakbond) eerst worden geïnformeerd. Daarnaast zal de OR vaak instemmingsrecht hebben bij het invoeren van bepaalde systemen.

Praktische stappen: zo kom je in actie als organisatie

1. Inventariseer: welke AI-systemen worden al gebruikt binnen de organisatie? Welke vallen onder ‘hoog risico’?
2. Leg vast: leg vast hoe je beslissingen neemt, risico’s analyseert en toezicht organiseert.
3. Betrek de OR: zorg dat de OR tijdig aan boord komt als de organisatie AI wil inzetten voor HR-gerelateerde doeleinden.
4. Train: HR-medewerkers en leidinggevenden moeten weten hoe ze AI-beslissingen kunnen toetsen en corrigeren. Zorg dus dat zij AI-geletterd zijn en de juiste training en scholing kunnen volgen.

Meer weten over AI op de werkvloer, en wat u daar als ondernemer, werknemer of OR-lid mee kunt doen? Neem gerust contact op met ons team Arbeidsrecht of één van onze AI-specialisten. Of schrijf u in voor onze nieuwsbrief om op de hoogte te blijven van de laatste ontwikkelingen!