Juridische aspecten van algoritmen die besluiten nemen

Lijst van afkortingen 19

1 Inleiding 21
1.1 Algemene vraagstelling 23
1.2 Afbakening 24
1.2.1 Algoritmische besluitvorming 25
1.2.2 Kansen en risico’s voor publieke waarden en belangen 26
1.2.3 Bestendigheid juridisch kader 27
1.3 Methodologie 28
1.3.1 Casestudy’s 29
1.3.2 Literatuuronderzoek 30
1.3.3 Interviews 30
1.3.4 Expertmeeting 32
1.4 Leeswijzer 33

2 Algoritmen: een introductie 35
2.1 Algoritmen 35
2.1.1 Regelgebaseerde algoritmen 36
2.1.2 Zelflerende algoritmen 38
2.2 Organisatorische en maatschappelijke context 41
2.3 Afsluitende opmerkingen 43

3 Publieke waarden en belangen 47
3.1 Bescherming van persoonsgegevens 47
3.2 Non-discriminatie 50
3.3 Rechtsbescherming 51
3.4 Conclusie 52

4 Casestudy Contentmoderatie door online platformen 55
Stefan Kulk & Thom Snijders
4.1 Introductie 55
4.1.1 Methodologie 56
4.1.2 Opzet van de casestudy 56
4.1.3 Contentmoderatie door algoritmen 57
4.1.3.1 Onrechtmatige en onwenselijke online content 57
4.1.3.2 Contentmoderatie 58
4.1.3.3 Inzet van algoritmen 60
4.2 De aanpak van hate speech door online platformen 62
4.2.1 Hate speech 62
4.2.2 De werking van contentmodereeralgoritmen 64
4.2.3 Blik op de toekomst 68
4.3 Vrijheid van meningsuiting en informatie 68
4.3.1 Vrijheid van meningsuiting en contentmoderatie 69
4.3.2 Kansen, risico’s en bestendigheid juridisch kader 72
4.3.3 Tussenconclusie 74
4.4 Bescherming van persoonsgegevens 75
4.4.1 Bescherming van persoonsgegevens en contentmoderatie 75
4.4.2 Kansen, risico’s en bestendigheid juridisch kader 75
4.4.3 Tussenconclusie 76
4.5 Non-discriminatie 76
4.5.1 Non-discriminatie en contentmoderatie 76
4.5.2 Kansen, risico’s en bestendigheid juridisch kader 76
4.5.3 Tussenconclusie 77
4.6 Rechtsbescherming 78
4.6.1 Rechtsbescherming en contentmoderatie 78
4.6.2 Kansen, risico’s en bestendigheid juridisch kader 78
4.6.3 Tussenconclusie 80
4.7 Conclusie 81

5 Casestudy Zelfrijdende auto’s 85
Vicky Breemen & Anouk Wouters
5.1 Introductie 85
5.2 Beslissingsalgoritmen, sensoriek en communicatietechnologie 88
5.2.1 De werking van beslissingsalgoritmen 88
5.2.2 Huidige toepassing 90
5.2.3 Blik op de toekomst 91
5.2.4 Tussenconclusie 93
5.3 Bescherming van persoonsgegevens 94
5.3.1 Bescherming van persoonsgegevens en (deels) zelfrijdende auto’s 94
5.3.2 Kansen, risico’s en bestendigheid juridisch kader 95
5.3.3 Tussenconclusie 98
5.4 Non-discriminatie 98
5.4.1 Non-discriminatie en (deels) zelfrijdende auto’s 98
5.4.2 Kansen, risico’s en bestendigheid juridisch kader 100
5.4.3 Tussenconclusie 103
5.5 Rechtsbescherming 103
5.5.1 Rechtsbescherming en (deels) zelfrijdende auto’s 103
5.5.2 Kansen, risico’s en bestendigheid juridisch kader 104
5.5.3 Tussenconclusie 111
5.6 Duurzaamheid 112
5.6.1 Duurzaamheid en (deels) zelfrijdende auto’s 112
5.6.2 Kansen, risico’s en bestendigheid juridisch kader 113
5.6.3 Tussenconclusie 115
5.7 Verkeersveiligheid 115
5.7.1 Verkeersveiligheid en (deels) zelfrijdende auto’s 116
5.7.2 Kansen, risico’s en bestendigheid juridisch kader 116
5.7.3 Tussenconclusie 119
5.8 Conclusie 119

6 Casestudy De rechtspraak 123
Stijn van Deursen & Stefan Philipsen
6.1 Introductie 123
6.1.1 Verantwoording en aanpak 124
6.2 De inzet van algoritmen in de rechtspraak 126
6.2.1 Organisatie, bedrijfsvoering en management 127
6.2.2 Rechterlijke oordeelsvorming 129
6.2.2.1 Voorbereiding van een rechterlijke beslissing 129
6.2.2.2 Een blik op de toekomst: ‘De Robotrechter’? 130
6.2.3 Ontwikkelingen buiten de rechtspraak en implicaties voor de rechtspraak 133
6.2.4 Tussenconclusie 133
6.3 Bescherming van persoonsgegevens 134
6.3.1 Bescherming van persoonsgegevens en algoritmen in de rechtspraak 134
6.3.2 Kansen, risico’s en bestendigheid juridisch kader 136
6.3.3 Tussenconclusie 139
6.4 Non-discriminatie 139
6.4.1 Non-discriminatie en algoritmen in de rechtspraak 139
6.4.2 Kansen, risico’s en bestendigheid juridisch kader 139
6.4.3 Tussenconclusie 143
6.5 Rechtsbescherming 144
6.5.1 Rechtsbescherming en algoritmen in de rechtspraak 144
6.5.1.1 Eisen aan de rechterlijke procedure als zodanig 144
6.5.1.2 Eisen aan de rechterlijke beslissing 144
6.5.1.3 Eisen aan de rechter 145
6.5.2 Kansen, risico’s en bestendigheid juridisch kader 146
6.5.2.1 Het gebruik van algoritmen in de bedrijfsvoering en organisatie 146
6.5.2.2 Het gebruik van beslisondersteuningsalgoritmen 150
6.5.2.3 Het gebruik van algoritmen als robotrechter 152
6.5.3 Tussenconclusie 155
6.6 Conclusie 157

7 Casestudy Overheidsincasso bij verkeersboetes 163
Martje Boekema & Susanne Heeger
7.1 Introductie 163
7.1.1 WRR-rapport ‘Weten is nog geen doen’ (2017) 164
7.1.2 Kabinetsreactie op het WRR-rapport en probleemstelling 166
7.1.3 Verantwoording keuze casestudy 167
7.1.4 Methodologie 169
7.2 Pilot Telefonisch Innen bij verkeersboetes 170
7.2.1 De pilot 171
7.2.2 Werking van het algoritme in de pilot 174
7.2.3 Blik op de toekomst 175
7.2.4 Tussenconclusie 176
7.3 Rechtsbescherming 176
7.3.1 Rechtsbescherming en algoritmen in overheidsincasso 177
7.3.2 Kansen en risico’s in relatie tot het juridisch kader 180
7.3.3 Tussenconclusie 181
7.4 Non-discriminatie 182
7.4.1 Non-discriminatie en algoritmen in overheidsincasso 182
7.4.2 Kansen en risico’s in relatie tot het juridisch kader 183
7.4.3 Tussenconclusie 185
7.5 Bescherming van persoonsgegevens 186
7.5.1 De bescherming van persoonsgegevens en algoritmen in overheidsincasso 186
7.5.2 Kansen en risico’s in relatie tot het juridisch kader 187
7.5.3 Tussenconclusie 189
7.6 Conclusie 190

8 Kansen en risico’s van algoritmische besluitvorming 193
8.1 Kansen 193
8.1.1 Bescherming van persoonsgegevens 194
8.1.2 Non-discriminatie 195
8.1.3 Rechtsbescherming 196
8.2 Risico’s 196
8.2.1 Bescherming van persoonsgegevens 196
8.2.2 Non-discriminatie 198
8.2.3 Rechtsbescherming 200
8.3 Organisatorische en maatschappelijk en context 202
8.4 Conclusie 204

9 Bestendigheid van de juridische kaders 205
9.1 Algemene en specifieke juridische kaders 205
9.2 Bestendigheid specifieke juridische kaders 205
9.3 Bestendigheid algemene juridische kaders 206
9.3.1 Bescherming van persoonsgegevens 207
9.3.2 Non-discriminatie 209
9.3.3 Rechtsbescherming 211
9.4 Conclusie 214

10 Conclusie 215
10.1 Kansen en risico’s 215
10.2 Bestendigheid juridisch kader 217
10.3 Slot 218

Bibliografie 221
Bijlage 1 Begeleidingscommissie 261
Bijlage 2 Klankbordgroep 263
Bijlage 3 Lijst van deelnemers Expertmeeting 27 november 2019 265
Bijlage 4 Geïnterviewde personen 267

Bijlage 5 Vragenlijst semi-gestructureerde interviews 271
Over het onderzoek 277