Uitspraak
RECHTBANK DEN HAAG
tussenuitspraak van de meervoudige kamer in de zaak tussen
[naam], V-nummer: [nummer], eiser
de minister van Asiel en Migratie,
Samenvatting
Procesverloop
Overwegingen
‘keyword search’enkel vaststelt of en zo ja, hoe vaak, een bepaalde zoekterm in een document of zaak voorkomt. Dit gebeurt aan de hand van statistische principes en wiskundige berekeningen. Volgens de minister gaat het hierbij enkel om (het optellen van) zoektermen en dus niet om een (gedeeltelijk) autonome of (gedeeltelijk) zelflerende toepassing. De minister heeft er verder op gewezen dat uit het evaluatierapport volgt dat bij de implementatie van CaseMatcher is afgezien van het gebruik van AI.
automation)
biasbij het gebruik van CaseMatcher door de minister in kaart zijn gebracht en welke maatregelen in het kader van de mogelijke risico’s zijn genomen.
rule-basedformules en dat het systeem geen voorspellingen, aanbevelingen, classificaties of besluiten kan genereren. Het systeem heeft evenmin een zelflerend vermogen. De relevantiescore zou verder worden bepaald aan de hand van verschillende methoden. De formules die hieraan ten grondslag liggen opereren enkel op basis van informatie zoals de vraag hoe vaak een zoekterm in een document voorkomt en op basis van vooraf ingestelde wiskundige wegingsfactoren.
automation)
bias. Volgens de technisch expert kan het in theorie zo zijn dat een zoekterm vaker voorkomt in zaken waarin een aanvraag wordt afgewezen dan in zaken waarin een aanvraag is ingewilligd. Ondanks dat dit volgens de technisch expert geen risico voor
biasoplevert, is bepaald dat medewerkers voorafgaand aan het gebruik ervan een
e-learning moeten doorlopen. De minister heeft screenshots overgelegd van deze e-learning.
confirmation)
bias, dan wel dat eventuele risico’s hierop voldoende zijn ondervangen. De enkele stelling dat de wijze waarop zoekresultaten worden weergegeven geen risico voor
biasoplevert, acht de rechtbank hiervoor onvoldoende. De rechtbank overweegt verder dat uit de screenshots van de e-learning blijkt dat aan medewerkers de tip wordt gegeven om CaseMatcher niet te gebruiken om patronen of profielen over zaken heen te analyseren en dat het ongewenst is om te zoeken op afdoeningswijze, omdat dit kan leiden tot tunnelvisie. De rechtbank kan de minister zonder nadere motivering dan ook niet volgen in het standpunt dat het gebruik van CaseMatcher geen risico op (
confirmation)
biasmet zich brengt.
- hoe documenten worden gerangschikt op basis van de frequentie van zoektermen en andere criteria;
- of en zo ja, wat voor scoringsmechanisme wordt gebruikt dat de relevantie van documenten bepaalt en
- welke andere criteria of parameters worden gebruikt.
automation)
biasbij het gebruik van CaseMatcher door de minister in kaart zijn gebracht. Ook moet hieruit blijken welke maatregelen in het kader van deze mogelijke risico’s zijn genomen en welke eventuele restrisico’s er zijn.
Conclusie en gevolgen
(automation) biasdoor de minister in kaart zijn gebracht en welke maatregelen er in dit kader zijn genomen.
Beslissing
- draagt de minister op om binnen twee weken aan de rechtbank mee te delen of hij gebruik maakt van de gelegenheid de motiveringsgebreken te herstellen;
- stelt de minister in de gelegenheid om, binnen zes weken na bekendmaking van deze tussenuitspraak, de motiveringsgebreken te herstellen en schriftelijk inlichtingen te verschaffen als omschreven in rechtsoverwegingen 9 tot en met 12;
- zal eiser daarna in de gelegenheid stellen om te reageren;
- zal daarna partijen benaderen voor het houden van een nadere zitting;
- houdt iedere verdere beslissing aan.
mr. L.J. van der Veen, leden, in aanwezigheid van A. Hoekstra - Verbeek, griffier, en openbaar gemaakt door middel van gepseudonimiseerde publicatie op rechtspraak.nl.