Transparantievereisten van de AI-Act

Nieuwe verplichtingen AI-Act

De nieuwe verplichtingen brengen vooral verder gaande transparantievereisten met zich voor aanbieders van AI-systemen. De maatregelen moeten ervoor zorgen dat gebruikers weten wanneer ze met AI te maken hebben en dat kunstmatig gegenereerde content als dusdanig wordt gelabeld. Op grond van deze transparantieregels moeten bepaalde AI-systemen duidelijk maken wanneer zij met AI interageren en wanneer inhoud erdoor is gegenereerd of gewijzigd. Zo moeten chatbots en andere interactieve AI-systemen gebruikers informeren dat ze met AI te maken hebben en niet met een mens. Daarnaast moeten vanaf 2 augustus 2026 de zogenoemde deepfakes (afbeeldingen, video’s of audio bewerkt of gegeneerd door middel van AI) worden geëtiketteerd. Ook moet inhoud die door AI wordt gegenereerd of gewijzigd een machine leesbare markering bevatten, waarmee deze inhoud makkelijker kan worden gedetecteerd. Zo wordt beoogd om bedrog en manipulatie te verminderen en mensen te helpen weloverwogen keuzes te maken.

Handhaving door Europese Commissie

Vanaf 2 augustus 2026 zal het AI-bureau van de Europese Commissie samen met de nationale autoriteiten beginnen met de handhaving van de AI-Act. De Europese Commissie kan vanaf nu afdwingen dat General Purpose AI models (GPAI) zich conformeren aan de regels van de AI-Act. GPAI zijn modellen die een breed scala aan functies en diensten aanbieden, voorbeelden zijn ChatGPT en Copilot. Zo moeten alle aanbieders van GPAI bepaalde informatie bijhouden en verstrekken aan de bevoegde autoriteiten. Ook zal worden gehandhaafd op de voornoemde transparantieverplichtingen en op de zogenoemde verboden AI-praktijken. Hoe effectief de handhaving van de AI Act gaat zijn, zal ook afhankelijk zijn van de lidstaten. Het is aan hen om ervoor te zorgen dat de bevoegde autoriteiten correct zijn aangewezen en beschikken over voldoende middelen.

In Nederland hebben de Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) gezamenlijk de verantwoordelijkheid voor de coördinatie van het toezicht op AI. De AP is belast met het toezicht op de verplichtingen die worden besproken in deze blog. Voor het toezicht op AI is door de AP in 2023 een apart organisatieonderdeel in het leven geroepen, genaamd de Directie Coördinatie Algoritmes (DCA).

Uitgestelde verplichtingen

2 augustus 2026 zou ook de dag zijn dat andere verplichtingen in werking treden, deze inwerkingtreding is echter uitgesteld. Een van die verplichtingen had betrekking op de zogenoemde hoog risico AI-systemen. Dit zijn AI-systemen waarvan de toepassing voor serieus risico kan zorgen voor schade op het gebied van gezondheid, veiligheid of de waarborging van fundamentele rechten. De hoog risico AI-systemen zijn opgesomd in bijlage 1 en bijlage 3 van de AI Act. Bijlage 1 gaat over AI-systemen als product of als veiligheidscomponent in reeds streng gereguleerde fysieke producten, bijvoorbeeld speelgoed of medische producten. Bijlage 3 geeft een lijst van specifieke gevoelige toepassingsgebieden en sectoren. Voorbeelden zijn AI-systemen die gebruikt worden in de kritieke infrastructuur, onderwijsinstellingen of het verstrekken van consumentenkrediet.

Deze nog in werking te treden verplichtingen betreffen strikte verplichtingen voor hoog risico AI-systemen. De hoog risico AI-systemen moeten bijvoorbeeld onderhavig zijn aan adequate risicoschattingen en mitigatiesystemen. Ook moeten hoog risico AI-systemen activiteiten bijhouden, zodat de resultaten kunnen worden herleid. De nieuwe verplichtingen moeten er daarnaast voor zorgen dat het risico op de schade die de hoog risico AI-systemen kunnen aanrichten wordt beperkt door het inbouwen van systematische controlemechanismen. De inwerkingtreding van deze verplichtingen voor de hoog risico AI-systemen genoemd in bijlage 3 van de AI Act staat nu gepland op 2 december 2027. De inwerkingtreding van deze verplichtingen voor de AI-systemen uit bijlage 1 van de AI Act staat gepland op 2 augustus 2028.

Met deze nieuw in werking getreden regels met betrekking tot de AI Act is een volgende stap gezet naar een effectief instrumentarium om de veiligheid van AI-systemen te waarborgen. Ploum houdt de laatste ontwikkelingen van de AI-Act strak in de gaten. Meer weten? Neem contact op met Matthijs Gardien, Bine Schoenmaker en/of Daan Augustijn.