Stel, je gebruikt AI om verzekering claims automatisch te beoordelen. De software bepaalt op basis van ingevoerde gegevens of een schade wordt vergoed en voor welk bedrag. Klinkt efficiënt, maar let op: je hebt dan te maken met geautomatiseerde besluitvorming onder de AVG.
Bij zulke beslissingen heeft de betrokkene recht op:
– Inzicht in hoe het besluit tot stand is gekomen;
– Uitleg over de werking van het algoritme;
– De mogelijkheid om menselijke herbeoordeling te vragen.
De AVG staat dit soort besluitvorming alleen toe onder strikte voorwaarden, met name als het “aanzienlijke gevolgen” heeft voor de betrokkene (zoals financiële schade, beperking van rechten of andere impact).
Kort gezegd: Als AI een beslissing neemt die een persoon echt raakt, dan moet je dit zorgvuldig juridisch inrichten.
Tip: Zorg voor een laagdrempelige procedure waarmee betrokkenen hun rechten kunnen uitoefenen, zoals inzage, uitleg en het verzoek om menselijke herbeoordeling.
Wil je sparren of heb je een juridische vraag? Stuur me gerust een bericht, ik denk graag met je mee.