De Autoriteit Persoonsgegevens (AP) waarschuwt in haar recente rapportage voor de toenemende risico’s van algoritmes en AI-systemen in Nederland. Hoewel AI kansen biedt voor innovatie en efficiëntie, blijven fundamentele waarden zoals privacy, gelijkheid en autonomie onder druk staan.
Rapportages en toezicht
Sinds 2023 publiceert de AP tweemaal per jaar de Rapportage AI & Algoritmerisico’s Nederland (RAN). De vierde editie, verschenen in februari 2025, benadrukt dat incidentregistratie en transparantie rond algoritmes nog steeds tekortschieten. De AP pleit daarom voor een wettelijke registratieplicht en duidelijke governance-structuren.
Belangrijkste risico’s
- Gebrek aan incidentmonitoring: weinig zicht op algoritmische fouten en discriminatie.
- Emotieherkenning: door de AP bestempeld als “dubieus en risicovol” vanwege onbetrouwbaarheid en impact op autonomie.
- Toeslagenaffaire: schrijnend voorbeeld van algoritmisch falen waarbij nationaliteit werd gebruikt als frauderisico-indicator.
Menselijke tussenkomst en regulering
De AP benadrukt dat betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming cruciaal is. Sinds februari 2025 geldt in Nederland een verbod op het gebruik van AI-emotieherkenning in onderwijs en werk. Daarnaast wordt gewerkt aan implementatie van de EU AI-verordening (AI Act).
Toekomst en samenwerking
De toezichthouder pleit voor versterkte AI-geletterdheid binnen onderwijs, overheid en bedrijfsleven. Ook wordt internationale samenwerking gezocht, onder meer via de EU en toezichthoudende organen zoals de nieuwe AI Safety Institutes.
