'computer says no' of 'experts say no' − wat is de impact van de AI-verordening op de black box jurisprudentie

Annotatie bij Hoge Raad 17 augustus 2018, ECLI:NL:HR:2018:1316

In het black box arrest van 2018 ging het om de uitlegbaarheid van een beslissing van een heffingsambtenaar. Waar moet de overheid transparant over zijn en wat betekent dit voor de bewijslast? Wie moet wat bewijzen wanneer een computerprogramma wordt gebruikt bij het maken van berekeningen? Wat gaat de AI-verordening betekenen op het gebied van transparantie van overheidsbeslissingen?

1. Aanleiding

Overheden en semioverheden maken steeds vaker gebruik van computerprogramma's die hen ondersteunen bij het nemen van beslissingen. Steeds vaker maken die computerprogramma's gebruik van technieken die als kunstmatige intelligentie (Artificial Intelligence in het Engels) worden aangeduid.2 Wanneer degene die met die beslissing wordt geconfronteerd de juistheid van deze beslissing wil onderzoeken en aanvechten, dan is de vraag wie moet wat stellen en zo nodig bewijzen.

U heeft op dit moment geen toegang tot de volledige inhoud van dit product. U kunt alleen de inleiding en hoofdstukindeling lezen.

Wanneer u volledige toegang wenst tot alle informatie kunt u zich abonneren of inloggen als abonnee.

Verder in dit artikel:

Annotatie bij Hoge Raad 17 augustus 2018, ECLI:NL:HR:2018:1316

1. Aanleiding

2. Taxatiewijzer

3. Bewijslastverdeling

4. Black box-arrest

5. Latere jurisprudentie

6. Verzuchting AG IJzerman

7. AI-Verordening

7.1. Introductie

7.2. Categorieën AI-systemen: verboden en hoog-risico 

8. Rol (semi)overheid in AI value chain

9. Uitzondering voor 'no-signicifant-risk'[17]

10. Additionele verplichtingen voor overheden

11. Inzichtelijkheid en controleerbaarheid

12. Algoritmeregister

13. SyRI

14. Conclusie