Sinds augustus zijn de eisen voor hoog-risicosystemen uit bijlage III van toepassing, al ligt er een Europees voorstel om een deel ervan uit te stellen. Wij zetten op een rij wat vaststaat, wat nog kan schuiven en wat u als gebruiksverantwoordelijke nu al moet regelen.
Wat betekent dit voor u als beleidsmedewerker
Inventariseer welke algoritmes onder bijlage III vallen (uitkeringen, handhaving, onderwijs) en plan voor elk een grondrechteneffectbeoordeling (FRIA). Die geldt specifiek voor overheden.
Wat betekent dit voor u als bestuurder
U bent eindverantwoordelijk voor menselijk toezicht en registratie. Vraag uw organisatie vóór het eind van het jaar om een overzicht van hoog-risicotoepassingen en de status van elke toepassing.
Wat betekent dit voor u als CIO
Zorg dat logging, menselijk toezicht en registratie in de EU-databank technisch geborgd zijn. Leg in contracten vast dat leveranciers de technische documentatie aanleveren.
De plicht om te zorgen voor voldoende AI-kennis bij medewerkers geldt al sinds februari 2025. Veel organisaties hebben nog geen aantoonbaar plan. Een nieuw raamwerk onderscheidt kennisniveaus per functiegroep.
Wat betekent dit voor u als beleidsmedewerker
Koppel het raamwerk aan de functiegroepen in uw organisatie. Beleidsmedewerkers die AI inzetten in analyses vallen in de middelste categorie.
Wat betekent dit voor u als bestuurder
Ook bestuurders vallen onder de plicht. Plan een sessie voor het bestuur of college en leg vast dat die heeft plaatsgevonden.
Wat betekent dit voor u als CIO
Registreer gevolgde trainingen in uw leeromgeving, zodat u bij een audit kunt laten zien wie welk niveau heeft.
Met drone-beelden en beeldherkenning sporen waterschappen sneller schade aan dijken op. Het is een voorbeeld van AI met een minimaal risico onder de AI-verordening.
Wat betekent dit voor u als beleidsmedewerker
Laat zien dat niet alle AI zwaar gereguleerd is. Gebruik de casus om collega's uit te leggen hoe risicoklassen werken.
Wat betekent dit voor u als bestuurder
Een zichtbare opbrengst voor waterveiligheid, met weinig juridische risico's. Goed voorbeeld voor een bestuurlijke presentatie.
Wat betekent dit voor u als CIO
Let op opslag en beheer van grote hoeveelheden beeldmateriaal. De kosten zitten vooral in data, niet in het model.
