Dat het toepassen van AI-systemen niet altijd vlekkeloos verloopt, kan inmiddels als algemeen bekend worden verondersteld.
Transparantieregels
De transparantieregels van artikel 50 AI Vo, hebben tot doel de risico’s van gebruik van AI beter inzichtelijk en daarmee beheersbaar te maken. Aanbieders en gebruikers moeten transparant zijn over AI-toepassing als sprake is van een systeem dat ontworpen is voor een uitwisseling in twee richtingen, waarbij het AI-systeem zelf met een natuurlijke persoon communiceert. Kort gezegd zien de transparantieverplichtingen op het volgende:
- Chatbots moeten herkenbaar zijn als AI
- AI-watermerk: digitale markering van informatie die door AI is gegenereerd of gemanipuleerd, zonder menselijke controle
- Informatie over emotieherkenning, bijvoorbeeld bij games
- AI label bij deepfakes en berichten zonder menselijke controle
De transparantie plicht geldt niet als duidelijk is dat mensen interactie hebben met een AI-systeem. Daartoe moet een aanbieder een gemiddelde persoon identificeren die redelijk goed geïnformeerd en oplettend is. De bewijslast ligt bij de gebruiker, transparant zijn lijkt minder risicovol voor gebruikers van de betreffende AI-systemen.
AI-geletterdheid
Artikel 4 van de AI Vo is al op 2 februari 2025 in werking getreden maar kan dus sinds 2 augustus 2026 ook worden gehandhaafd.
Van organisatie en werkgevers wordt verwacht dat zij zorgen voor “een voldoende niveau van AI-geletterdheid” bij iedereen die met AI werkt. Dat geldt voor gebruik van algemeen toegankelijke AI-systemen en voor specifiek ontwikkelde AI-systemen.
De AI Vo geeft geen concrete eisen, het gaat om een risico gedreven inspanningsverplichting die aan moet sluiten bij het AI gebruik van de organisatie en/of individuele werknemers. De verschillende toepassingen van AI maken dat de eisen zullen verschillen. Worden beslissingen genomen op basis van AI-modellen bijvoorbeeld eenvoudige verzekeringskwesties of wordt AI louter als tekstondersteuning gebruikt.
Een organisatie kunnen laten zien dat aan deze eis wordt voldaan maar kan zelf bepalen hoe deze eis zal worden vervuld. Een algemene certificeringsplicht is niet in het leven geroepen.
Meer concreet betekent AI-geletterdheid bijvoorbeeld dat aangetoond moet kunnen worden dat mensen weten hoe AI werkt, op welke wijze AI-fouten kan maken en moet men bekend zijn met specifieke risico’s van systemen waarmee zij werken. Iedereen is inmiddels wel bekend met de AI-hallucinaties. Ook moeten mensen begrijpen welke rol zij vervullen. Het aanbieden van training en opvolgen van ontwikkelingen hoort bij AI-geletterdheid en moet meer dan vrijblijvend zijn (dat is het in de praktijk vaak wel).
Handhaving en stand van zaken van de Uitvoeringswet Verordening Artificiële Intelligentie
De handhaving van de AI Vo is grotendeels nationaal geregeld. De Europese Commissie houdt toezicht op AI-modellen voor algemene doeleinden. Andere AI- modellen en AI-geletterdheid vallen onder de nationale taak.
Toezicht en handhaving in Nederland: vertraagd
Nederland loopt echter achter. De Uitvoeringswet AI Verordening is in concept opgesteld en de internetconsultatie is afgelopen op 1 juni 2026 (https://www.internetconsultatie.nl/uaiv/b1). Het wachten is nu op de volgende stappen in het wetgevingsproces en uiteindelijke indiening van het wetvoorstel bij de Tweede Kamer.
De Nederlandse overheid heeft geaccepteerd dat de Nederlandse uitvoeringswet later in werking treedt dan is voorgeschreven vanuit de AI -verordening (brief Directoraat- generaal Economie en Digitalisering, 20 april 2026, kenmerk DGED-DE/ 105571251 Ministier https://open.overheid.nl/documenten/1daa7f30-2ee1-4134-8b01-b0a9f0181088/
In de huidige opzet, waarvan de verwachting is dat deze niet zal worden aangepast, zal het toezicht en handhaving worden neergelegd bij de Autoriteit Persoonsgegevens in samenwerking met de Rijksinspectie Digitale Infrastructuur (RDI). Deze laatste zal ook de rol van nationaal centraal contactpunt conform de AI Verordening, vervullen. Daarnaast zullen bestaande markttoezichthouders verantwoordelijkheden krijgen over specifieke domeinen. Het gaat om de domeinen kritieke infrastructuur, productregelgeving en heel specifiek hoog-risico AI-systemen die worden ontwikkeld voor kort gezegd rechtspraak en rechtsbedeling.
Belangrijke rol AP voor wat betreft AI-geletterdheid en transparantie
Toezichtgebieden die niet aansluiten op bestaande bevoegdheden van toezichthouders, zullen onder de AP vallen vanuit de wens om aan te sluiten bij de bestaande expertise van de AP op het gebied van sector en domeinoverstijgend toezicht. Het gaat om een groot deel van de hoog-risico toepassingsgebieden van de AI Verordening, de transparantieverplichtingen en verboden AI-praktijken (dit verbod is al ingegaan op 2 februari 2025).
Waarom relevant voor de praktijk
De regels over transparantie en AI-geletterdheid zijn relevant voor alle partijen die AI gebruiken (anders dan minimaal risico AI) en voor alle partijen die aan gebruik van AI worden onderworpen.
Het is van belang dit voor ogen te hebben en voorbereid te zijn op vragen die gesteld kunnen worden ook door derde partijen die informatie willen ontvangen over AI-toepassingen.
Het feit dat de handhaving in Nederland nog op gang moet komen, betekent niet dat deze verplichtingen niet van toepassing zijn en/of dat partijen niet aansprakelijk zouden kunnen zijn voor het niet naleven van deze eisen.
