De AI-verordening 2024/1689 verplicht de EU-lidstaten om op nationaal niveau een toezichtstructuur op te zetten. Op 2 augustus 2025 moeten de toezichthouders op de naleving van de AI-verordening en de richtsnoeren rond maatregelen en boetes bekend zijn. Daarom zijn de Rijkdienst Digitale Infrastructuur (RDI) en Autoriteit Persoonsgegevens (AP) gevraagd om te adviseren over een effectief toezicht op artificiële intelligentie / kunstmatige intelligentie (AI) in Nederland. De RDI en AP hebben hierover op 7 november 2024 een gezamenlijk eindadvies gepubliceerd. Het doel is om de complexiteit van de AI-verordening door de samenwerking van verschillende toezichthouders op te lossen, zodat deze niet wordt doorgeschoven naar marktdeelnemers.
In eerdere bijdragen gingen onze advocaten productregelgeving & CE-markering in Amsterdam al uitgebreid in op de kernelementen van de AI-Verordening en het onderscheid tussen een aanbieder of gebruiksverantwoordelijke van een AI-systeem. Recent bespraken zij ook de belangrijkste kenmerken en de status van het voorstel voor de Richtlijn AI-aansprakelijkheid. In deze blog worden de belangrijkste aanbevelingen en aandachtspunten uit het eindadvies voor een effectief toezicht op AI in Nederland weergegeven.
Toezicht op hoog-risico ai-systemen
De AI-verordening stelt dat hoog-risico AI-systemen extra toezicht vereisen. Hierbij gaat het met name om de AI-systemen die zijn opgenomen in Bijlage I van de AI-verordening en daarmee vallen onder bestaande productwet- en regelgeving zoals voor machines, persoonlijke beschermingsmiddelen, medische hulpmiddelen (voor in-vitrodiagnostiek) of speelgoed. Hiervoor zijn de volgende aanbevelingen van belang:
- Efficiënte verdeling van toezicht: Markttoezicht moet worden ingericht op een manier die versnippering voorkomt en samenwerking bevordert. Dit betekent dat de verschillende toezichthouders die al belast zijn met het toezicht op bestaande productwet- en regelgeving, zoals de Inspectie Leefomgeving en Transport (ILT), Nederlandse Voedsel- en Warenautoriteit (NVWA), de Inspectie Gezondheidszorg en Jeugd (IGJ), en de Nederlandse Arbeidsinspectie (NLA) duidelijke rollen krijgen toegewezen op basis van hun expertise in specifieke sectoren.
- Flexibiliteit voor nieuwe technologieën: Omdat AI-systemen snel evolueren, is het van belang dat toezichtmechanismen flexibel genoeg zijn om nieuwe risico’s en toepassingen aan te pakken.
- Coördinatie door RDI: In het eindadvies wordt aanbevolen om de RDI als coördinerende toezichthouder aan te wijzen voor de AI-systemen die vallen onder de productgroepen zoals opgenomen in Bijlage I. Dit houdt in dat de RDI verantwoordelijk wordt voor de afstemming tussen de verschillende andere toezichthouders. Het doel is om te zorgen dat alle toezichtstaken adequaat worden vervuld.
- Expertiseontwikkeling: Toezichthouders moeten over voldoende (basis)kennis beschikken voor het toezicht op de AI-verordening en om AI-toepassingen in hun sector adequaat te beoordelen. Om dat kennisniveau op te bouwen, moeten alle toezichtautoriteiten over voldoende middelen beschikken. De RDI dient als kenniscentrum voor AI-gerelateerde vraagstukken en ondersteunt de andere markttoezichtautoriteiten met technische expertise.
Aanmelding van conformiteitsbeoordelingsinstanties
Conformiteitsbeoordelingsinstanties (CBI’s) spelen een cruciale rol in het beoordelen van AI-systemen voordat deze in de handel worden gebracht, op de EU-markt worden aangeboden of in gebruik worden genomen. Het toezicht op deze instanties vereist een duidelijke structuur:
- Decentrale aanwijzing: De huidige aanmeldende autoriteiten blijven verantwoordelijk voor de aanwijzing van CBI’s. Dit zijn bijvoorbeeld de ILT voor transport gerelateerde producten en de IGJ (het Ministerie van Volksgezondheid, Welzijn en Sport) voor medische hulpmiddelen. Voor AI-specifieke beoordelingen wordt de RDI aanbevolen als coördinerende partij.
- Centrale kennisdeling: De RDI ondersteunt voor aspecten die niet worden opgepakt door andere toezichthouders of wanneer er overkoepelende actie nodig is. Zo faciliteert de RDI harmonisatie in beoordelingsmethoden (onder Bijlage I van de AI-verordening) tussen verschillende CBI’s en verzorgt de terugkoppeling naar Europese instanties.
- Coördinatie bij grensoverschrijdende gevallen: Voor aanvragen van CBI’s die betrekking hebben op meerdere productgroepen of buiten de productgroepen onder Bijlage I van de AI-verordening vallen, neemt de RDI de leiding in samenwerking met andere toezichthouders.
Toezicht Op general purpose ai
General Purpose AI-modellen (GPAI), zoals taalmodellen en generatieve AI, vormen een bijzondere uitdaging voor toezicht vanwege hun brede toepassingsmogelijkheden:
- Verdeling van toezicht: De AI-Office heeft een centrale rol in het toezicht op GPAI-modellen. Voor AI-systemen waarin GPAI is geïntegreerd, zullen de nationale toezichthouders verantwoordelijk zijn. Dit vereist nauwe samenwerking tussen de AI-Office en nationale toezichthouders.
- Kennisopbouw: Markttoezichtautoriteiten moeten expertise ontwikkelen over GPAI-technologieën en hun toepassingen. Dit geldt met name, omdat GPAI-modellen van invloed zijn op het doorontwikkelen van AI-systemen. De RDI en de AP zullen een coördinerende rol krijgen en ondersteunen de kennisopbouw door kennisdeling en het organiseren van trainingen.
- Systemische risicoanalyse: Het toezicht op GPAI-modellen moet gericht zijn op technische, maatschappelijke en grondrechtenrisico’s. De RDI en AP coördineren de identificatie van systeemrisico’s en moeten nauw samenwerken met de AI-Board, de AI-Office en andere toezichthouders.
- Open source en licentievrije AI: Omdat open source GPAI-modellen vaak buiten direct toezicht van de AI-Office vallen, moeten nationale toezichthouders deze lacunes opvangen door toezicht te houden op de toepassingen van deze modellen.
Toezicht op transparantievereisten
In artikel 50 van de AI-verordening zijn specifieke transparantieverplichtingen voor aanbieders en gebruiksverantwoordelijken van AI-systemen opgenomen. Deze transparantievereisten zijn bedoeld om het inzichtelijk te maken als er sprake is van AI gegenereerde content, om gebruikers te informeren over de herkomst van de content en om duidelijk te maken dat gebruikers met een AI-systeem zoals een chatbot communiceren.
- Centrale toezichthouder: De AP wordt aanbevolen als toezichthouder vanwege haar expertise met grondrechten en gegevensbescherming. AI-systemen voor emotieherkenning en biometrische categorisering zijn bijvoorbeeld nauw verbonden met de regels onder de Algemene Verordening Gegevensbescherming (AVG).
- Specifieke toezichtrollen: Voor bijvoorbeeld financiële instellingen met transparantievereisten worden de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) als toezichthouders aangewezen. Zij houden nu ook al toezicht als er financiële diensten worden verleend waarbij een AI-systeem met een hoog risico is betrokken.
- Samenwerking met andere toezichthouders: Transparantievereisten hebben ook raakvlakken met andere regelgeving. Hierbij kan gedacht worden aan consumentenrechten waarop de Autoriteit Consument & Markt (ACM) toezicht houdt en de Mediawet waarop het Commissariaat voor de Media (CvdM) toezicht houdt. Nauwe samenwerking met deze toezichthouders is noodzakelijk om misleiding en desinformatie effectief aan te pakken.
Nationale governance en samenwerking
Om toezicht effectief te organiseren, is een solide nationale structuur voor samenwerking en informatie-uitwisseling essentieel:
- Samenwerkingsovereenkomst: Om de beperkte toezichtscapaciteit optimaal te benutten, de samenwerking tussen de markttoezichtautoriteiten en toezichthouders voor specifieke sectoren te concretiseren en informatiedeling mogelijk te maken, wordt geadviseerd om zowel een algemene multilaterale samenwerkingsovereenkomst op te stellen als aanvullende afzonderlijke bilaterale afspraken tussen specifieke toezichthouders te maken. Hierin worden onder andere informatie-uitwisseling, prioriteitsstelling en de verdere samenwerking geregeld.
- Wettelijke basis voor informatie-uitwisseling: Nationale wettelijke belemmeringen voor het delen van toezichtinformatie moeten worden weggenomen. Dit is vooral belangrijk voor incidentmeldingen en risicoanalyses.
- Coördinatie door AP en RDI: Deze twee toezichthouders krijgen een coördinerende rol in de nationale governance. Zij zorgen voor afstemming tussen markttoezichtautoriteiten, sectorale toezichthouders en grondrechtentoezichthouders.
Europese vertegenwoordiging
De Europese dimensie van AI-toezicht vereist actieve betrokkenheid van Nederlandse toezichthouders:
- AI Board: De toezichthouders benadrukken het belang van de AI Board, waar Europese toezichthouders samenwerken. Nederland moet zorgen voor consistente inbreng via een nationaal secretariaat, waarbij wederom de AP en de RDI een coördinerende rol vervullen.
- Coördinatie op EU-niveau: Alle betrokken toezichthouders moeten worden voorbereid op deelname aan subgroepen van de AI Board. De AP en RDI vervullen een leidende rol in deze nationale coördinatie.
Prioriteiten en openstaande punten
Hoewel de aanbevelingen een basis vormen voor de inrichting van het toezicht op AI in Nederland, blijven er enkele prioriteiten en aandachtspunten openstaan:
- Aanwijzing toezichthouders: Het snel identificeren en aanwijzen van markttoezichtautoriteiten en grondrechtentoezichthouders is essentieel om toezicht effectief op te starten.
- Scope van kritieke infrastructuur: De verschillen tussen de AI-verordening en andere regelgeving moeten worden geadresseerd om bijvoorbeeld duidelijkheid te bieden over de definitie en reikwijdte van hoog-risico AI-systemen.
- Openstaande governance-vraagstukken: Incidentmeldingen, rapportageverplichtingen en de inrichting van een nationaal secretariaat vereisen verdere uitwerking.
- Voorbereiding op toezicht: Toezichthouders moeten voldoende tijd en middelen krijgen om hun taken goed uit te voeren. Bedrijven moeten hun compliance-strategieën afstemmen op de vereisten van de AI-verordening.
Juridisch advies van een advocaat gespecialiseerd in Artificiële intelligentie
Zoekt u juridisch advies van een advocaat gespecialiseerd in artificiële intelligentie, het toezicht op artificiële intelligentie in Nederland of gerelateerde onderwerpen? MAAK Advocaten beschikt over een ervaren team van advocaten gespecialiseerd in vraagstukken over (EU) productregelgeving en CE-markering en met een sterke focus op bedrijven in de toeleverings- en distributieketen van de maakindustrie.
Onze advocaten in Amsterdam adviseren u graag over het eindadvies voor de inrichting van het toezicht op AI in Nederland en de mogelijke gevolgen voor uw onderneming. Ook kunnen onze advocaten productregelgeving en CE-markering uw maakbedrijf adviseren over de wettelijke verplichtingen onder de AI-Verordening en de status van het voorstel voor de Richtlijn AI-aansprakelijkheid. Daarnaast kunnen zij ondersteunen bij een geschil met een handelsrelatie of een toezichthouder zoals de RDI, IGJ, ILT, NVWA of Nederlandse Arbeidsinspectie.
T: +31 (0)20 – 210 31 38
E: mail@maakadvocaten.nl
Contactpersoon: Max Schwillens | Advocaat gespecialiseerd in artificiële intelligentie
