AI is inmiddels breed ingeburgerd in het dagelijks en zakelijk gebruik. Ook binnen jouw organisatie neemt het gebruik toe: toepassingen zoals ChatGPT en Microsoft Copilot ondersteunen bij het opstellen van teksten, het analyseren van informatie en het versnellen van terugkerende werkzaamheden. Daardoor worden AI-systemen steeds vaker onderdeel van de dagelijkse werkroutine op kantoor.

Hoewel AI veel kansen biedt, brengt het ook risico’s met zich mee. Om ervoor te zorgen dat AI op een veilige, transparante, traceerbare, niet-discriminerende en verantwoorde manier wordt ontwikkeld en gebruikt, is op 1 augustus 2024 de Europese AI-verordening (AI Act) in werking getreden. Deze verordening vormt het juridische kader voor het gebruik van AI binnen de Europese Unie. De bepalingen worden gefaseerd ingevoerd en vanaf 2 augustus 2027 geldt de volledige werking van de AI Act.

Wat houdt de AI-geletterdheid in?

AI-geletterdheid betekent in de kern dat medewerkers voldoende kennis, vaardigheden en bewustzijn hebben om AI-systemen verantwoord te gebruiken. Het gaat dus niet alleen om weten wat AI is, maar ook om begrijpen hoe het werkt, welke kansen het biedt én welke risico’s eraan verbonden zijn. Daarbij horen onderwerpen zoals: het herkennen van vooroordelen in AI-modellen (bijvoorbeeld wanneer een systeem onbewust discrimineert), het kritisch beoordelen van de output van AI-systemen, het waarborgen van privacy en gegevensbescherming en het kunnen inschatten van de impact van AI op besluitvorming binnen de organisatie.

Organisaties die AI-systemen ontwikkelen of gebruiken, zijn sinds 2 februari 2025 op grond van artikel 4 van de AI Act verplicht om maatregelen te nemen die zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen gebruiken. De manier waarop dit wordt ingevuld, mag per organisatie verschillen – denk aan trainingen, cursussen of certificering. Het gaat om een inspanningsverplichting. Je moet aantonen dat de organisatie serieus te werk is gegaan met de bewustwording en scholing rondom AI.

Voor wie geldt de AI Act?

De AI Act is van toepassing op:

• Ontwikkelaars van AI-systemen;
• Aanbieders van AI-tools;
• (Gebruikers van AI binnen) organisaties en onderwijsinstellingen;
• Importeurs en distributeurs van AI-systemen binnen de EU.

Ook organisaties buiten de EU vallen onder AI Act als hun systemen binnen de EU worden gebruikt.

Wat betekent dit voor jouw organisatie?

De AI Act noemt vier centrale onderdelen die een AI-geletterdheid programma minimaal zou moeten omvatten:

1. Algemeen begrip: Wat is AI? Hoe werkt het? Waar en waarom wordt AI ingezet binnen de organisatie? Wat zijn de voordelen en risico’s?
2. Rol van de organisatie: Ontwikkelen we zelf AI-systemen of gebruiken we systemen van anderen?
3. Risicobewustzijn van het risiconiveau: Welke AI-systemen gebruiken we en hoe beperken we de risico’s? En hoe worden die gemitigeerd?
4. Aansluiting bij het kennisniveau: Welke vaardigheden hebben medewerkers al en wat ontbreekt nog?

Wanneer voldoen?

Voldoet jouw organisatie aan de AI-geletterdheid verplichting? Vanaf 3 augustus 2026 zullen nationale toezichthouders toezien op de naleving van de AI-geletterdheid. De hoogte van de boetes hangt af van de ernst van de overtreding. Zorg dat je organisatie voldoet aan de nieuwe regelgeving en voorkom boetes.

Let op!

Ook individuen die schade ondervinden door verkeerd gebruik van een AI-systeem, kunnen jouw organisatie aansprakelijk stellen. Zij kunnen namelijk stellen dat dit komt door een gebrek aan AI-geletterdheid binnen de organisatie en hiervoor een civiele procedure starten. 

Mocht je nog vragen of twijfels hebben of jouw organisatie AI-proof is, neem dan gerust contact op met onze juridische specialisten – wij helpen je graag verder.