Enkele valkuilen voor de AI-startup onder de AI-verordening

De AI-Verordening in het kort en de HRAIS

De Europese AI-Act verplicht aanbieders en gebruikers om hun technologie zo veilig, transparant en controleerbaar mogelijk te maken. Net als bij andere digitale EU-wetgeving, zoals de Digital Services Act (DSA), onderscheidt de AI-Act verschillende typen aanbieders, waarbij strengere eisen gelden voor sommige dan voor andere.

In dat kader legt de AI-Act bijzonder strikte verplichtingen op de zogenoemde aanbieders van hoog-risico AI-systemen (HRAIS). Hierbij kan gedacht worden aan de toepassing van generatieve AI in de zorg, keuzes voor bijvoorbeeld al dan niet promotie of laten afvloeien van personeel en in het beoordelen of verschaffen van krediet.

Aanvullende zorgplichten voor dit soort werkzaamheden zijn een slechte ontwikkeling, maar ondernemers moeten zich er wel van bewust zijn dat de AI-Act een bepaling bevat waardoor ook aanbieders die dergelijke diensten niet rechtstreeks leveren, toch als HRAIS kunnen worden aangemerkt. Hierdoor moeten zij ineens voldoen aan strengere eisen. Als de dienst van een onderneming eenmaal wordt aangemerkt als een HRAIS, kan dit aanzienlijke gevolgen hebben voor de start-up. Niet alleen vragen de aanvullende verplichtingen een stuk meer aandacht en inspanning, ook kan de niet-naleving ervan resulteren in boetes voor de onderneming.

Het contractueel inperken van risico’s, de tips!

In dat kader is het van belang om vooraf zo goed mogelijk in te schatten of je als onderneming producten of diensten aanbiedt die (alsnog) als HRAIS worden aangemerkt. Hoewel dit risico nooit volledig kan worden uitgesloten, is het wel mogelijk om het in te perken. Bij het beperken van dit risico is het raadzaam om met name prioriteit te geven aan het volgende:

• Laat een naam of merk goed contractueel vastleggen;
  • Aanbieders kunnen als HRAIS worden aangemerkt als zij hun naam verbinden aan een HRAIS. Het is daarom van belang om ervoor te zorgen dat niet ieder (zakelijk) contact jouw naam of merk op hun systeem kan plaatsen.
• Formuleer concrete en heldere gebruiksrestricties;
  • Een aanbieder kan ook als HRAIS worden aangemerkt als er een substantiële wijziging plaatsvindt in het AI-systeem. Een dergelijke contractuele bepaling voorkomt niet dat een aanbieder verwordt tot een HRAIS, maar zorgt er wel voor dat de verantwoordelijke actor aansprakelijk is op grond van wanprestatie.
•  Leg de parameters van het doel van het AI-systeem duidelijk en specifiek vast;
  • Een aanbieder kan alsnog onder de HRAIS-verplichtingen vallen als het doel van het AI-systeem verandert. Door de doelparameters duidelijk vast te leggen, verkleint de aanbieder het risico op aansprakelijkheid wanneer bijvoorbeeld klanten het systeem voor andere doeleinden gaan gebruiken.

Kortom

Hoewel de AI-Act op het eerste gezicht weinig verandert aan het speelveld voor AI-start-ups, schuilt het risico in juridische details. Een moment van onoplettendheid kan leiden tot onaangename verrassingen. Laat je als start-up daarom goed en tijdig adviseren en zorg voor een stevig contractueel vangnet tegen de impact van deze regelgeving!

Bij Ploum denken we graag met je mee, zodat jij zorgeloos kunt bouwen aan je onderneming.