De AI Act: wat betekent het voor uw organisatie?
De Europese AI Act is op 1 augustus 2024 in werking getreden en wordt de komende jaren stapsgewijs van kracht. Het is de eerste uitgebreide AI-wetgeving ter wereld en heeft grote gevolgen voor hoe organisaties — en zeker publieke organisaties — AI mogen inzetten.
Wat regelt de AI Act?
De AI Act categoriseert AI-systemen op basis van risico:
- Onaanvaardbaar risico: verboden toepassingen, zoals sociale scoring door overheden
- Hoog risico: strenge eisen, waaronder AI in de zorg, bij besluitvorming over uitkeringen, of in de rechtspraak
- Beperkt risico: transparantievereisten, zoals chatbots die zich moeten identificeren als AI
- Minimaal risico: geen specifieke verplichtingen
Wat betekent dit voor de publieke sector?
Voor gemeenten, zorginstellingen en onderwijsinstellingen geldt dat veel van de AI-toepassingen die ze overwegen of al gebruiken in de categorie 'hoog risico' vallen. Denk aan:
- Geautomatiseerde besluitvorming bij het toekennen van uitkeringen of zorg
- AI-ondersteunde diagnostiek in de zorg
- Systemen die leerlingprestaties voorspellen
Voor hoog-risico AI-systemen gelden onder meer de volgende verplichtingen:
- Risicomanagement: een continu risicobeheerssysteem
- Data governance: trainingsdata moet voldoen aan kwaliteits- en representatievereisten
- Technische documentatie: uitgebreide documentatie van het systeem
- Menselijk toezicht: altijd een mens die het systeem kan corrigeren
- Transparantie: gebruikers moeten weten dat ze met AI te maken hebben
- Registratie: systemen moeten in een EU-register worden opgenomen
Wanneer wordt de AI Act van kracht?
De implementatie verloopt gefaseerd:
- Februari 2025: Verbod op onaanvaardbare AI
- Augustus 2025: Verplichtingen voor GPAI-modellen
- Augustus 2026: Verplichtingen voor hoog-risico AI-systemen
Hoe bereid u uw organisatie voor?
Wacht niet tot de deadlines naderen. Begin nu met:
- Inventariseer welke AI-systemen u gebruikt of plant
- Classificeer de risico's van elk systeem
- Voer een AI Impact Assessment uit
- Documenteer uw AI-gebruik systematisch
- Wijs verantwoordelijken aan voor AI-governance
Innovaro helpt organisaties bij elke stap van dit traject. Van het uitvoeren van een AI-scan tot het opstellen van een compleet governance-raamwerk.
Conclusie
De AI Act is geen bedreiging, maar een kans om bewust en verantwoord met AI om te gaan. Organisaties die nu investeren in governance en compliance, bouwen vertrouwen op bij medewerkers, cliënten en burgers.
Wilt u weten waar uw organisatie staat? Neem contact op voor een vrijblijvend gesprek.