08 aug '25
Op 1 augustus 2024 is de AI-Verordening officieel in werking getreden. Sindsdien worden de verschillende onderdelen van de AI-Verordening getrapt van toepassing. De AI-Verordening maakt een onderscheid in drie risicogroepen: AI-systemen met een onaanvaardbaar risico (verboden AI-systemen), AI-systemen met een hoog risico en overige AI-systemen met een lager risico waar alleen transparantieverplichtingen voor gelden. Op 2 februari 2025 zijn er al bepaalde AI-systemen geheel verboden. Hierbij moet worden gedacht aan AI-systemen die ongelijke behandeling als gevolg hebben. Nu is er weer een nieuw gedeelte van de AI-Verordening van toepassing geworden. Per augustus 2027 zal de AI-Verordening uiteindelijk volledig van toepassing zijn.
Op 2 augustus 2025, is er een aantal nieuwe artikelen van de AI-Verordening van toepassing geworden. Deze zien op aanbieders van AI-modellen met algemene doeleinden. Denk hierbij aan generatieve AI, zoals ChatGPT. Dan gaat het met name om regels over technische documentatie en transparantie van AI-modellen. Aanbieders moeten transparant zijn over hoe de AI-modellen worden getraind met behulp van auteursrechtelijk beschermde werken en aanbieders zijn verplicht om hun AI-modellen zo te ontwerpen dat ze geen illegale content kunnen verspreiden. Aanbieders van AI-modellen met systeemrisico’s krijgen nog meer regels opgelegd, bestaande uit extra documentatieverplichtingen en extra transparantieverplichtingen. Bij een systeemrisico kan worden gedacht aan negatieve effecten op de openbare veiligheid door het gebruik van het AI-systeem. Ook moeten aanbieders van AI-modellen met systeemrisico’s zorgen voor een passend niveau van cyberbeveiliging voor het AI-model en de fysieke infrastructuur ervan.
Daarnaast zijn er regels van toepassing geworden over het toezicht op AI-systemen. Naast instanties op nationaal niveau, zijn er twee nieuwe instanties op EU-niveau opgericht voor het toezicht op de AI-Verordening. De eerste is het AI-bureau, dat op 16 juni 2024 in werking is getreden. Deze instantie is onderdeel van de Europese Commissie en zal ervoor zorgen dat de AI-Verordening uniform wordt toegepast in de EU. Daarnaast monitort het AI-bureau de AI-modellen met algemene doeleinden en houdt deze toezicht op het ontstaan van systeemrisico’s, de technologische en marktontwikkelingen en het hele AI-ecosysteem. De tweede instantie is de Europese raad voor artificiële intelligentie (de AI-board), welke is opgericht op 1 augustus 2024 tegelijkertijd met de inwerkingtreding van de AI-Verordening. De AI-board werkt nauw samen met het AI-bureau, maar bestaat uit één vertegenwoordiger uit elke lidstaat. De taak van de AI-board is om consistentie en coördinatie tussen de Lidstaten te bevorderen. Deze twee instanties bestonden dus al, maar vanaf 2 augustus 2025 voert het AI-bureau specifieke taken uit naar aanleiding van de nieuw van toepassing geworden regels ten aanzien van AI-systemen voor algemene doeleinden. Is er bijvoorbeeld sprake van een incident bij een AI-model voor algemene doeleinden met systeemrisico’s, dan moet dit onmiddellijk aan het AI-bureau worden gemeld en eventueel ook aan de nationale autoriteiten.
Tot slot zijn er op 2 februari 2025 al enkele bepalingen over boetes van toepassing geworden. Voor het gebruik van de eerder genoemde verboden AI-systemen kan namelijk een administratieve boete worden opgelegd tot EUR 35 miljoen of, indien de overtreder een onderneming is, tot 7% van haar totale wereldwijde jaarlijkse omzet voor het voorafgaande boekjaar, indien dat hoger is. Deze boetes worden door de nationale autoriteiten opgelegd.
Naast de AI-Verordening bestaat er een AI-pact, dat door de Europese Commissie is opgericht en inmiddels door meer dan 200 multinationale ondernemingen uit verschillende sectoren is ondertekend. De ondertekening door deze eerste 200 bedrijven vierde de Europese Commissie in september 2024. Het AI-pact is opgericht rond twee pijlers. De eerste pijler ziet op het bij elkaar brengen van verschillende belanghebbenden met het AI-bureau zodat zij kennis en ervaringen kunnen delen. Zo kunnen zij zich voorbereiden op de volledige uitvoering van de AI-Verordening. Onder de tweede pijler verklaren de belanghebbenden dat ze zich committeren aan de principes van betrouwbare en ethische AI. Geïnteresseerden kunnen zich nog steeds bij het AI-pact aansluiten.
De volgende onderdelen van de AI-Verordening die van toepassing worden zien op regelgeving met betrekking tot hoog-risico AI-systemen op 2 augustus 2026. En een jaar later, op 2 augustus 2027 wordt de regelgeving met betrekking tot hoog-risico veiligheidscomponenten van toepassing. Bedrijven doen er dan ook verstandig aan om nu al de nodige voorbereidingen te treffen!
Meer weten? Neem contact op met Matthijs Gardien, Bine Schoenmaker en/of Leonoor Dröge.
Contact
14 nov 25
10 nov 25
05 nov 25
03 nov 25
30 okt 25
23 okt 25
21 okt 25
21 okt 25
21 okt 25
21 okt 25
16 okt 25
15 okt 25
Met uw inschrijving blijft u op de hoogte van de laatste juridische ontwikkelingen op dit gebied. Vul hieronder uw gegevens in om per e-mail op te hoogte te blijven.
Blijf op de hoogte van de laatste juridische ontwikkelingen in uw sector. Vul hieronder uw gegevens in om op maat gesneden juridische updates en uitnodigingen voor evenementen te ontvangen.
Volgen wat u interessant vindt
Krijg aanbevelingen op basis van uw interesses
{phrase:advantage_3}
{phrase:advantage_4}
We vragen u om uw voor- en achternaam zodat wij die kunnen gebruiken als u zich bijvoorbeeld inschrijft op een Ploum Kennisevent.
Er wordt automatisch een wachtwoord voor u aangemaakt. Zodra uw account is aangemaakt ontvangt u dit wachtwoord in een welkomstmail. U kunt er direct mee inloggen. Dit wachtwoord kunt u indien gewenst ook zelf aanpassen via de wachtwoord vergeten functie.
