In het kort – Leestijd: circa 15 minuten

• Nederlandse rechters stellen steeds kritischer vragen over algoritmes die worden gebruikt bij visum- en asielprocedures. In recente zaken moest de overheid uitleggen welke rol zulke systemen daadwerkelijk hebben gespeeld bij individuele beslissingen.¹
• Bij visumaanvragen gebruikt Buitenlandse Zaken een systeem dat aanvragen onder meer aan de hand van eerdere aanvragen en persoonskenmerken indeelt in verschillende behandeltrajecten. Bij asielaanvragen gebruikt de IND de zogenoemde CaseMatcher om vergelijkbare eerdere dossiers te vinden. De overheid benadrukt dat uiteindelijk altijd een ambtenaar beslist.² ³
• Juist dat maakt transparantie niet minder belangrijk. Wanneer iemand niet weet dat een algoritme in zijn dossier is gebruikt, is het moeilijk om te controleren of relevante gegevens correct zijn verwerkt, of bepaalde groepen structureel zwaarder worden gecontroleerd en of de menselijke beslisser daadwerkelijk zelfstandig heeft geoordeeld.⁴
• De discussie raakt daarmee rechtstreeks aan onderwerpen als effectieve rechtsbescherming, artikel 47 van het EU-Handvest, discriminatie, procedurele waarborgen en de rechter als tegenmacht. Ook sluit zij aan bij de bredere digitalisering van het Europese migratierecht, waaronder Eurodac en de steeds grotere rol van persoonsgegevens bij grens- en asielprocedures.

Wanneer een algoritme meekijkt: rechters eisen meer transparantie bij migratiebesluiten

Wie een visum of verblijfsvergunning aanvraagt, verwacht waarschijnlijk dat een ambtenaar het dossier bekijkt, de documenten beoordeelt en vervolgens een beslissing neemt. In werkelijkheid speelt technologie daarbij een steeds grotere rol. Overheidsinstanties verwerken enorme aantallen aanvragen en gebruiken daarom digitale systemen om informatie te ordenen, vergelijkbare dossiers terug te vinden en te bepalen welke aanvragen extra aandacht nodig hebben.

Op zichzelf is daar niets vreemd aan. De Nederlandse overheid behandelt jaarlijks honderdduizenden visumaanvragen en de IND moet grote hoeveelheden informatie uit asieldossiers verwerken. Digitale ondersteuning kan procedures sneller en consistenter maken en kan ambtenaren helpen relevante informatie te vinden.

Maar juist in het migratierecht kunnen de gevolgen van een besluit bijzonder groot zijn. Een afgewezen visum kan betekenen dat iemand zijn familie niet kan bezoeken. Een afwijzing van een asielverzoek kan uiteindelijk betekenen dat iemand Nederland moet verlaten en wordt teruggestuurd naar zijn land van herkomst. Wanneer digitale systemen invloed hebben op dergelijke procedures, ontstaat daarom een fundamentele vraag: hoe kan iemand controleren of de overheid een eerlijk besluit heeft genomen wanneer niet duidelijk is welke rol een algoritme in zijn dossier heeft gespeeld?

Die vraag staat inmiddels nadrukkelijk op de agenda van Nederlandse rechters.

Nieuwsuur berichtte op 13 augustus 2026 over verschillende recente procedures waarin rechtbanken meer openheid eisen over algoritmes van het ministerie van Buitenlandse Zaken en de Immigratie- en Naturalisatiedienst. Rechters accepteren niet zonder meer dat de overheid zegt dat een systeem slechts een hulpmiddel is. Zij willen ook kunnen controleren hoe het hulpmiddel werkt, welke informatie erin wordt gebruikt en welke invloed de uitkomst ervan op de menselijke beslisser kan hebben.¹

Een algoritme dat bepaalt hoe intensief een visumaanvraag wordt onderzocht

Een van de systemen waarover de discussie gaat wordt gebruikt door het ministerie van Buitenlandse Zaken bij aanvragen voor een Schengenvisum kort verblijf. Het systeem staat bekend als Informatie Ondersteund Behandelen, eerder aangeduid als Informatie Ondersteund Beslissen of IOB.

Buitenlandse Zaken verwerkt ieder jaar zeer grote aantallen visumaanvragen. Het algoritme moet helpen bepalen hoeveel onderzoek een individuele aanvraag vermoedelijk nodig heeft. Een aanvraag kan worden ingedeeld in een fast, regular of intensive track. Bij een intensiever traject kan bijvoorbeeld meer documentonderzoek plaatsvinden, aanvullende informatie worden gevraagd of een extra interview worden gehouden.²

Daarvoor wordt niet uitsluitend gekeken naar de individuele documenten van de aanvrager. Het systeem gebruikt ook informatie uit eerdere aanvragen en profielen van vergelijkbare aanvragers. Uit rechtspraak blijkt dat daarbij kenmerken kunnen worden gecombineerd zoals het doel van de reis, het land of de locatie waar de aanvraag wordt gedaan, burgerlijke staat, beroep, leeftijd, geslacht en nationaliteit. Buitenlandse Zaken benadrukt dat het algoritme niet beslist of iemand een visum krijgt. Het systeem adviseert slechts over de intensiteit waarmee het dossier moet worden onderzocht; een consulaire medewerker neemt uiteindelijk de beslissing.²

Dat verschil is juridisch belangrijk. Een algoritme dat zelfstandig beslist dat iemand geen visum krijgt, zou veel directer ingrijpen in iemands rechtspositie dan een systeem dat alleen adviseert welk dossier extra moet worden gecontroleerd. Maar dat betekent niet dat zo'n voorbereidende selectie zonder gevolgen is.

Wie in de intensive track terechtkomt, wordt immers anders behandeld dan iemand wiens aanvraag volgens het systeem snel kan worden verwerkt. Er kan meer bewijs worden gevraagd, meer onderzoek plaatsvinden en de aanvraag kan kritischer worden bekeken. De uiteindelijke juridische voorwaarden voor een visum blijven dezelfde, maar de route waarlangs de overheid onderzoekt of aan die voorwaarden is voldaan verschilt.

Daarom is ook een algoritme dat niet letterlijk de eindbeslissing neemt relevant voor rechtsbescherming.

Waarom nationaliteit zo gevoelig is

Vooral het gebruik van nationaliteit in risicoprofielen heeft kritiek opgeleverd.

Nieuwsuur beschrijft dat het systeem aanvragen vergelijkt met eerdere, vergelijkbare gevallen en onder meer kijkt naar hoe vaak het bij bepaalde eerdere aanvragers is misgegaan, bijvoorbeeld doordat iemand langer dan toegestaan in het Schengengebied verbleef. Op basis daarvan kan een nieuwe aanvraag intensiever worden onderzocht.¹

Het ministerie verdedigt deze aanpak. Volgens Buitenlandse Zaken is nationaliteit binnen het visumbeleid een relevant gegeven en bestaan er juridische adviezen waaruit volgt dat het gebruik ervan binnen deze context is toegestaan. Bovendien beslist volgens het ministerie uiteindelijk niet het algoritme, maar de ambtenaar.²

Mensenrechtenorganisaties kijken daar anders naar. Amnesty International waarschuwt al langer dat overheidsinstanties bij risicoprofilering voorzichtig moeten zijn met kenmerken zoals nationaliteit en andere afkomstgerelateerde gegevens. Wanneer een persoon extra wordt gecontroleerd omdat andere mensen met vergelijkbare kenmerken in het verleden vaker een regel zouden hebben overtreden, bestaat het risico dat het individu niet langer volledig op zijn eigen gedrag en omstandigheden wordt beoordeeld.⁵

Dat betekent niet dat ieder gebruik van nationaliteit automatisch discriminatie oplevert. In het migratierecht is nationaliteit in verschillende opzichten juridisch relevant. Niet iedere nationaliteit heeft bijvoorbeeld dezelfde visumplicht en het land van herkomst kan ook bij andere onderdelen van het migratierecht een noodzakelijke factor zijn.

De juridisch lastigere vraag is waarvoor nationaliteit wordt gebruikt. Er bestaat een belangrijk verschil tussen het vaststellen dat iemand op basis van zijn nationaliteit een visum nodig heeft en het gebruiken van die nationaliteit als statistische aanwijzing voor de kans dat diezelfde persoon zich in de toekomst niet aan de voorwaarden van zijn visum zal houden.

In het tweede geval wordt immers gedrag van een individu mede voorspeld op basis van gedrag dat bij anderen met bepaalde overeenkomstige kenmerken is waargenomen. Juist daar ontstaat het risico van profilering.

De rechter wil weten wat er achter de uitkomst zit

De discussie hierover begon niet pas deze maand.

In augustus 2025 behandelde de rechtbank Den Haag, zittingsplaats Groningen, een zaak waarin een visumaanvraag was afgewezen. Uit de beslissing zelf bleek niet dat IOB bij de behandeling was gebruikt. Uit andere informatie in het dossier en het openbare Algoritmeregister kon de rechtbank echter afleiden dat het systeem wel degelijk een rol had gespeeld.

De rechtbank vond dat problematisch. Buitenlandse Zaken moest nader uitleggen hoe het algoritme functioneerde, welke gegevens werden verwerkt, hoe de risicoprofilering plaatsvond en hoe de uitkomsten van het systeem in het concrete dossier waren meegenomen. De rechtbank vroeg ook naar de uitgevoerde Impact Assessment Mensenrechten en Algoritmes (IAMA).⁶

Inmiddels duikt dezelfde vraag opnieuw op in recente rechtspraak. Nieuwsuur beschrijft een zaak van een Iraanse vrouw waarin de rechtbank oordeelde dat het ministerie duidelijker had moeten maken welke rol het algoritme had gespeeld. Zonder die informatie kan de aanvrager immers moeilijk controleren of het systeem invloed heeft gehad op haar behandeling. In die specifieke procedure concludeerde de rechtbank uiteindelijk dat het algoritme niet bepalend was geweest voor de afwijzing en dat de gestelde discriminatierisico's zich in haar individuele zaak niet hadden verwezenlijkt.¹

Dat laatste is belangrijk. De rechter heeft dus niet vastgesteld dat het visumalgoritme als geheel discriminerend of onrechtmatig is. De ontwikkeling in de rechtspraak zit vooralsnog ergens anders: de overheid moet beter inzichtelijk maken wanneer en hoe zo'n systeem wordt gebruikt. En juist dat kan uiteindelijk de weg openen naar de grotere vraag of de werking van het systeem zelf juridisch aanvaardbaar is.

Ook de IND gebruikt algoritmes bij asielaanvragen

De discussie beperkt zich niet tot visa. De IND gebruikt bij de beoordeling van asielaanvragen een systeem dat CaseMatcher heet. Volgens het Algoritmeregister helpt CaseMatcher IND-medewerkers om binnen bestaande asieldossiers vergelijkbare zaken en relevante documenten te vinden. Daarmee zouden vergelijkbare aanvragen sneller en consistenter kunnen worden behandeld.³ Dat klinkt op het eerste gezicht als weinig meer dan een geavanceerde zoekfunctie.

Een IND-medewerker kan bijvoorbeeld zoeken naar bepaalde begrippen, jaartallen of typen documenten. Het systeem ordent vervolgens de gevonden resultaten op relevantie. De beslismedewerker kan eerdere aanvragen, besluiten, rechterlijke uitspraken en andere informatie raadplegen die mogelijk nuttig zijn voor het nieuwe dossier.³ Ook hier neemt CaseMatcher volgens de overheid niet zelfstandig het besluit.

Toch stelde de rechtbank Den Haag in verschillende zaken vragen over de werking ervan. In april 2026 vernietigde de rechtbank besluiten in een aantal asielzaken omdat niet duidelijk kon worden vastgesteld of CaseMatcher tijdens de besluitvorming was gebruikt. De rechtbank vond dat het gebruik van het systeem in de op de zaak betrekking hebbende stukken moest worden vermeld zolang de werking ervan nog niet volledig juridisch was getoetst.⁷

Een maand later ging de meervoudige kamer verder. In tussen­uitspraken van 7 mei 2026 oordeelde de rechtbank dat de minister onvoldoende inzicht had gegeven in de technische werking van CaseMatcher. De rechtbank wilde onder andere weten hoe het systeem documenten rangschikt, of daarbij een scoringsmechanisme wordt gebruikt en welke andere criteria of parameters de relevantie van zoekresultaten bepalen.⁴

Dat is een opvallend actieve houding van de rechter. De discussie gaat namelijk niet alleen meer over wat de ambtenaar uiteindelijk heeft besloten, maar ook over welke digitale informatieomgeving de ambtenaar heeft gebruikt om tot dat besluit te komen.

Een zoekmachine kan de menselijke beslissing óók beïnvloeden

Waarom doet dat ertoe als CaseMatcher uitsluitend documenten zoekt? Omdat de volgorde waarin informatie aan een beslismedewerker wordt gepresenteerd invloed kan hebben op wat die medewerker ziet. Stel dat een systeem honderd eerdere asielzaken kan vinden, maar vijf daarvan bovenaan zet omdat het algoritme deze zaken als het meest relevant beschouwt. Dan heeft het systeem niet zelfstandig besloten of de nieuwe asielaanvraag geloofwaardig is. Toch bepaalt het wel mede welke eerdere voorbeelden als eerste onder de aandacht van de ambtenaar komen.

De rechtbank wees daarom specifiek op risico's van automation bias en confirmation bias. Automation bias ontstaat wanneer mensen te veel vertrouwen op de uitkomst van een geautomatiseerd systeem, juist omdat die uitkomst door een computer wordt geproduceerd. Confirmation bias houdt in dat mensen gemakkelijker informatie opmerken en waarderen die aansluit bij een conclusie of verwachting die zij al hebben.

Een zoekalgoritme kan beide risico's versterken. Wanneer een beslismedewerker bijvoorbeeld twijfelt aan de geloofwaardigheid van een asielrelaas en CaseMatcher vervolgens vooral eerdere afwijzingen toont die op bepaalde onderdelen lijken, bestaat het risico dat die informatie de oorspronkelijke twijfel bevestigt. Dat betekent niet dat CaseMatcher dit daadwerkelijk structureel doet. De rechtbank vond juist dat onvoldoende informatie beschikbaar was om goed te kunnen beoordelen welke risico's bestaan en hoe de IND deze heeft ondervangen.⁴

Daarom vroeg de rechtbank niet alleen om technische documentatie, maar ook om stukken waaruit blijkt of risico's op vooringenomenheid bij de ontwikkeling en het gebruik van CaseMatcher zijn onderzocht.

Dat is een belangrijke verschuiving. De vraag is niet langer alleen: neemt een mens de uiteindelijke beslissing? De vraag wordt steeds meer: hoe onafhankelijk is die menselijke beoordeling eigenlijk van de informatie die het algoritme selecteert en presenteert?

‘Er zit een mens tussen’ is niet altijd het einde van de discussie

Overheden benadrukken bij algoritmische systemen vaak dat er sprake is van een human in the loop: het algoritme adviseert, maar een mens beslist.

Dat is juridisch relevant. Artikel 22 van de Algemene verordening gegevensbescherming (AVG) geeft personen onder bepaalde voorwaarden het recht niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking berust en dat rechtsgevolgen heeft of hen anderszins aanzienlijk treft. Wanneer een ambtenaar daadwerkelijk zelfstandig naar het dossier kijkt en een inhoudelijke beslissing neemt, kan daardoor buiten de meest directe werking van dat verbod worden gebleven.⁸

Maar menselijke tussenkomst moet wel werkelijk iets betekenen. Een ambtenaar die automatisch het advies van een systeem volgt, zonder de uitkomst kritisch te beoordelen, biedt weinig extra bescherming. Hetzelfde geldt wanneer een algoritme bepaalt welke informatie de ambtenaar te zien krijgt, terwijl onvoldoende inzicht bestaat in de manier waarop die selectie wordt gemaakt.

De Algemene Rekenkamer waarschuwt al langer dat algoritmes niet alleen op technische prestaties moeten worden beoordeeld. Ook moet voortdurend worden onderzocht of zij systematische afwijkingen of vooringenomenheid veroorzaken. Uit onderzoek van de Rekenkamer bleek dat verschillende overheidsalgoritmes niet aan alle basisvereisten voldeden, bijvoorbeeld doordat controle op bias, prestaties of IT-beheer tekortschoten.⁹

Daarom is de aanwezigheid van een menselijke beslisser wel een belangrijke waarborg, maar geen volledig antwoord op vragen over algoritmische besluitvorming.

Hier raakt digitalisering rechtstreeks aan effectieve rechtsbescherming

Voor Grenswijs is vooral deze juridische laag interessant.

Artikel 47 van het Handvest van de grondrechten van de Europese Unie beschermt het recht op een doeltreffende voorziening in rechte. Wie meent dat zijn door het Unierecht beschermde rechten zijn geschonden, moet daartegen effectief naar een rechter kunnen stappen.¹⁰

Dat recht heeft weinig betekenis wanneer iemand niet weet hoe het besluit over hem tot stand is gekomen.

Stel dat een visumaanvrager een afwijzing ontvangt waarin staat dat onvoldoende vertrouwen bestaat dat hij tijdig naar zijn land zal terugkeren. Wanneer de aanvrager niet weet dat een algoritme zijn aanvraag eerst in een intensieve risicocategorie heeft geplaatst, kan hij de invloed van die selectie ook niet aanvechten.

Hetzelfde geldt bij een asielprocedure. Wanneer een beslismedewerker eerdere dossiers via CaseMatcher heeft geraadpleegd, maar in de procedure nergens zichtbaar is welke zoekresultaten zijn gebruikt of hoe deze zijn geselecteerd, kan een advocaat moeilijk controleren of de vergelijkingen daadwerkelijk relevant waren. Daarom hangen transparantie en effectieve rechtsbescherming rechtstreeks met elkaar samen.

Een rechter moet voldoende informatie hebben om de rechtmatigheid van een besluit te toetsen. Maar ook de persoon zelf en zijn advocaat moeten kunnen begrijpen welke elementen aan het besluit ten grondslag liggen. Anders ontstaat een informatieachterstand waarbij de overheid precies weet welke systemen zijn gebruikt, terwijl degene die het besluit wil bestrijden slechts het eindresultaat ziet.

Dat kan de zogenoemde equality of arms onder druk zetten.

De rechter wordt daarmee steeds meer een digitale tegenmacht

De recente uitspraken zijn ook interessant vanwege de rol die de bestuursrechter inneemt. Traditioneel beoordeelt de rechter vooral het besluit dat voor hem ligt. Is de wet juist toegepast? Zijn de feiten voldoende onderzocht? Is de beslissing goed gemotiveerd?

Bij algoritmische besluitvorming kan die klassieke toets onvoldoende zijn. Wanneer een deel van de besluitvorming zich in een digitaal systeem afspeelt, moet de rechter soms eerst begrijpen wat het systeem precies doet voordat hij kan beoordelen of het uiteindelijke besluit zorgvuldig tot stand is gekomen.

Dat is goed zichtbaar in de CaseMatcher-zaken. De rechtbank vroeg zelf om technische documentatie, stelde aanvullende vragen aan de minister en liet een technisch deskundige van de IND uitleg geven over de werking van het systeem. De rechtbank nam geen genoegen met de algemene uitleg dat CaseMatcher slechts een eenvoudige zoekfunctie zou zijn. Eerst moest inzichtelijk worden hoe het algoritme resultaten rangschikt en welke criteria daarbij een rol spelen.⁴

Bij het visumalgoritme gebeurde iets vergelijkbaars. Een rechtbank vroeg uit eigen beweging naar gegevensverwerking, risicoprofilering en de mensenrechteneffectbeoordeling van het systeem.⁶

Dit is precies wat met de rechter als tegenmacht wordt bedoeld. De rechter schrijft niet zelf het algoritme en bepaalt ook niet welk IT-systeem de overheid moet gebruiken. Maar hij kan wel eisen dat een bestuursorgaan voldoende inzicht geeft om te kunnen beoordelen of het gebruik van technologie verenigbaar is met zorgvuldigheid, motivering, gelijkheid en effectieve rechtsbescherming.

Algoritme betekent overigens niet automatisch kunstmatige intelligentie

In het maatschappelijke debat worden de begrippen algoritme en AI vaak door elkaar gebruikt. Juridisch is dat niet juist. Een algoritme kan heel eenvoudig zijn. Een vooraf vastgestelde reeks als-danregels is al een algoritme. Een systeem hoeft niet zelflerend te zijn en hoeft geen generatieve kunstmatige intelligentie te gebruiken. Dat onderscheid speelt ook in de zaak over CaseMatcher.

De minister stelde dat CaseMatcher geen AI-systeem is. Volgens de IND gebruikt het systeem eenvoudige software en vaste formules om informatie te vinden en te rangschikken. Het zou geen zelfstandige voorspellingen, classificaties of beslissingen genereren. De rechtbank stelde niet vast dat CaseMatcher wél AI is.

Zij oordeelde iets subtielers: de overheid had onvoldoende informatie verstrekt om haar stelling dat het geen AI-systeem was goed te kunnen controleren. Daarom moest meer technische documentatie worden overgelegd.⁴ Dat onderscheid is van groot belang nu ook de Europese AI-verordening een steeds grotere rol gaat spelen.

Migratie is in de AI-verordening bewust als hoog risico aangemerkt

De Europese wetgever heeft expliciet erkend dat kunstmatige intelligentie binnen migratie- en asielprocedures bijzondere risico's kan opleveren.

Bijlage III van de AI-verordening noemt verschillende toepassingen op het gebied van migratie, asiel en grenscontrole die, wanneer zij daadwerkelijk onder de juridische definitie van een AI-systeem vallen en aan de overige voorwaarden voldoen, als high-risk AI kunnen worden aangemerkt.

Het gaat bijvoorbeeld om AI-systemen waarmee risico's van personen worden beoordeeld, systemen die autoriteiten ondersteunen bij het beoordelen van asiel-, visum- of verblijfsaanvragen en systemen waarmee personen binnen migratie- en grensprocedures worden geïdentificeerd.¹¹

De gedachte daarachter is duidelijk. Personen die met migratieautoriteiten te maken hebben bevinden zich vaak in een bijzonder afhankelijke positie. Een fout algoritme kan niet alleen leiden tot een verkeerde advertentie of een minder geschikte aanbeveling, maar kan invloed hebben op de vraag of iemand een land mag binnenkomen, bij zijn familie kan verblijven of internationale bescherming ontvangt. De AI-verordening noemt daarom juist nauwkeurigheid, non-discriminatie en transparantie als belangrijke voorwaarden bij dergelijke systemen.¹¹

Daar moet wel een belangrijke actualiteitsnuance bij worden geplaatst. Hoewel veel onderdelen van de AI-verordening inmiddels van toepassing zijn, zijn de specifieke verplichtingen voor zelfstandige AI-systemen met een hoog risico na Europese wetswijzigingen uitgesteld tot 2 december 2027. Dat betekent dat niet kan worden gezegd dat ieder Nederlands migratiealgoritme nu al volledig aan alle high-risk-verplichtingen uit de AI-verordening moet voldoen. Bovendien moet eerst worden vastgesteld of een specifiek systeem juridisch überhaupt als AI-systeem kwalificeert.¹²

De richting van het Europese recht is echter duidelijk: digitalisering van migratieprocedures wordt niet als een technisch detail beschouwd, maar als een terrein waarop grondrechtenrisico's bijzondere aandacht vereisen.

En dit gaat verder dan twee Nederlandse algoritmes

IOB en CaseMatcher staan niet op zichzelf. Het Europese migratierecht wordt in hoog tempo digitaler. Binnen het nieuwe Asiel- en Migratiepact speelt bijvoorbeeld het vernieuwde Eurodac een veel grotere rol. Dat systeem verwerkt biometrische en andere persoonsgegevens van verschillende categorieën migranten en asielzoekers en is gekoppeld aan een bredere Europese informatiearchitectuur voor migratie en grensbeheer.¹³ Eurodac is op zichzelf niet hetzelfde als een risicoprofilerend algoritme.

Dat onderscheid is belangrijk. Maar beide ontwikkelingen maken onderdeel uit van dezelfde bredere verschuiving: steeds meer onderdelen van migratiebeleid worden afhankelijk van gegevens, digitale koppelingen, biometrie en geautomatiseerde verwerking.

Daardoor verandert ook de aard van rechtsbescherming. Vroeger kon een advocaat vooral kijken naar het papieren dossier en de motivering van de ambtenaar. In een steeds verder gedigitaliseerd migratiesysteem moet mogelijk ook worden gekeken naar welke databronnen zijn geraadpleegd, welke zoek- of selectieregels zijn toegepast, welke systemen informatie hebben gekoppeld en hoe een digitaal advies uiteindelijk bij de beslismedewerker terechtkwam.

Snellere procedures kunnen botsen met zorgvuldigheid

Daarmee komt nog een ander terugkerend thema uit het migratierecht in beeld: snelheid tegenover zorgvuldigheid.

Digitalisering kan duidelijke voordelen hebben. Wanneer CaseMatcher een IND-medewerker binnen enkele seconden relevante jurisprudentie of vergelijkbare asieldossiers kan laten vinden, kan dat bijdragen aan consistente besluitvorming. Wanneer Buitenlandse Zaken honderdduizenden visumaanvragen efficiënter kan verdelen over verschillende behandeltrajecten, kunnen eenvoudige aanvragen mogelijk sneller worden afgehandeld.

Dat is zeker in het huidige migratiesysteem aantrekkelijk. Zowel bij visa als bij asielprocedures bestaan grote uitvoeringsopgaven en lange wachttijden. Maar snelheid is juridisch geen doel op zichzelf. Een procedure is pas werkelijk beter wanneer zij sneller én zorgvuldig is.

Een algoritme dat dossiers efficiënt sorteert maar bepaalde groepen structureel zwaarder laat controleren, levert geen betere rechtsbescherming op. Een zoekmachine die snel vergelijkbare asielzaken vindt maar beslismedewerkers onbewust richting een bepaalde conclusie stuurt evenmin. Daarom is de relevante vraag niet of de overheid algoritmes mag gebruiken. De relevante vraag is onder welke voorwaarden digitalisering daadwerkelijk verenigbaar blijft met individuele beoordeling.

Juist binnen asielrecht is dat essentieel. Uiteindelijk moet worden beoordeeld wat déze individuele aanvrager heeft meegemaakt, welke risico's déze persoon loopt en welk bewijs in déze zaak beschikbaar is. Een groep waarmee iemand statistisch of tekstueel overeenkomsten vertoont kan relevante context opleveren, maar mag de individuele beoordeling niet vervangen.

Historische gegevens zijn niet automatisch neutraal

Een ander risico ontstaat wanneer algoritmes gebruikmaken van gegevens uit het verleden. Data lijken vaak objectief omdat ze in tabellen en percentages kunnen worden weergegeven. Maar historische data zijn uiteindelijk het resultaat van eerdere menselijke en institutionele keuzes. Stel bijvoorbeeld dat een bepaalde groep in het verleden vaker intensief is gecontroleerd. Door die intensievere controle worden binnen die groep mogelijk ook vaker overtredingen ontdekt. Wanneer een nieuw algoritme vervolgens leert dat deze groep vaker overtredingen pleegt en daarom opnieuw intensievere controle adviseert, kan een zichzelf versterkende cirkel ontstaan.

Dit wordt vaak aangeduid als een feedback loop. Daarmee is niet vastgesteld dat het Nederlandse visumalgoritme op deze manier functioneert. Het is juist één van de risico's die bij datagedreven profilering onderzocht moeten worden. De Algemene Rekenkamer benadrukt daarom dat overheidsorganisaties niet alleen moeten kijken of een algoritme technisch correct werkt, maar ook voortdurend moeten controleren op systematische bias en ongewenste effecten voor bepaalde groepen.⁹ Amnesty wijst vanuit mensenrechtenperspectief op hetzelfde probleem bij afkomstgerelateerde risicoprofielen.⁵ Een computer kan bestaande vooroordelen dus niet alleen verminderen. Hij kan ze, wanneer de gebruikte gegevens of regels problematisch zijn, ook systematiseren en op veel grotere schaal toepassen.

Wat moet een burger eigenlijk te horen krijgen?

De recente rechtspraak brengt ons uiteindelijk bij een heel praktische vraag. Wanneer de overheid een algoritme gebruikt, hoeveel moet zij daar dan over vertellen in een individueel besluit? Het ligt niet voor de hand dat iedere visum- of asielbeslissing tientallen pagina's technische documentatie moet bevatten. Dat zou procedures onwerkbaar kunnen maken en helpt een aanvrager waarschijnlijk ook niet. Maar het andere uiterste is even problematisch.

Wanneer een relevant algoritmisch systeem helemaal niet in het besluit of dossier wordt genoemd, kan de betrokken persoon niet eens beginnen met onderzoeken welke rol het heeft gespeeld. Een werkbaar minimum lijkt daarom te zijn dat voldoende duidelijk wordt dat een systeem is gebruikt, waarvoor het is gebruikt en welke relevante uitkomst het in de individuele zaak heeft geproduceerd, wanneer die informatie van betekenis kan zijn voor de totstandkoming van het besluit.

Wanneer vervolgens discussie ontstaat over die uitkomst, moeten de overheid en uiteindelijk de rechter voldoende inzicht kunnen krijgen in de werking van het systeem om de rechtmatigheid ervan te beoordelen. Precies in die richting lijken de recente rechtbankuitspraken zich te bewegen. De rechter eist niet dat iedere regel computercode in een beslissing wordt opgenomen.

Hij eist dat algoritmisch overheidshandelen controleerbaar blijft.

Waarom de toeslagenaffaire hierbij steeds terugkomt

In de rechtspraak en het maatschappelijke debat wordt regelmatig verwezen naar de toeslagenaffaire. Dat is begrijpelijk. Bij de Belastingdienst speelden risicoselectie, afkomstgerelateerde gegevens en geautomatiseerde systemen een belangrijke rol in een uitvoeringspraktijk die uiteindelijk duizenden gezinnen zwaar heeft getroffen. De Nederlandse overheid erkende later institutioneel racisme binnen delen van de werkwijze van de Belastingdienst. Amnesty beschreef in het rapport Xenofobe machines hoe nationaliteit binnen algoritmische risicoselectie een discriminerende werking kon krijgen.¹⁴

Dat betekent niet dat iedere nieuwe toepassing van een algoritme een nieuwe toeslagenaffaire is. Die vergelijking zou te gemakkelijk zijn. De relevantere les is dat problemen soms pas zichtbaar worden wanneer een systeem jarenlang is gebruikt en de mensen die erdoor geraakt worden maar beperkt inzicht hebben in de manier waarop de overheid hen heeft geselecteerd. Daarom proberen rechters nu kennelijk eerder vragen te stellen.

Niet pas nadat is bewezen dat een systeem op grote schaal fout heeft gewerkt, maar al wanneer onvoldoende duidelijk is hoe het werkt en of een individuele aanvrager de werking ervan effectief kan controleren. Dat is preventieve rechtsbescherming in plaats van uitsluitend herstel achteraf.

Wat betekenen de uitspraken nu daadwerkelijk?

Het is belangrijk niet verder te gaan dan wat de rechters tot nu toe hebben vastgesteld. De Nederlandse rechter heeft niet bepaald dat de overheid geen algoritmes meer mag gebruiken in migratieprocedures. Ook is niet vastgesteld dat CaseMatcher discrimineert. Evenmin heeft een rechter tot nu toe geoordeeld dat het gehele IOB-systeem bij visumaanvragen onrechtmatig is omdat daarin nationaliteit wordt verwerkt.

Wat de rechtspraak wel steeds duidelijker maakt, is dat een overheid niet kan volstaan met de mededeling dat een systeem slechts ondersteunend is. Wanneer een algoritme onderdeel uitmaakt van de voorbereiding van een besluit, kunnen vragen ontstaan over:

1. hoe het systeem werkt; 
2. welke informatie wordt gebruikt; 
3. hoe zoekresultaten of risicoprofielen tot stand komen; 
4. of risico's op bias zijn onderzocht; 
5. welke invloed de uitkomst op de ambtenaar heeft gehad; 
6. en of de betrokken persoon voldoende informatie heeft gekregen om het besluit effectief aan te vechten.

Dat is juridisch misschien minder spectaculair dan een volledig verbod op een algoritme. Maar voor de ontwikkeling van het bestuurs- en migratierecht kan het uiteindelijk veel belangrijker zijn.

Conclusie: digitalisering maakt de rechter niet minder, maar juist méér belangrijk

De Nederlandse overheid zal de komende jaren waarschijnlijk alleen maar méér gebruikmaken van digitale systemen in migratieprocedures. Dat is niet noodzakelijk een negatieve ontwikkeling. Algoritmes kunnen grote hoeveelheden informatie verwerken, medewerkers ondersteunen, vergelijkbare zaken vindbaar maken en procedures mogelijk sneller en consistenter laten verlopen. Maar migratierecht draait uiteindelijk om mensen.

Achter iedere dataset zit iemand die familie wil bezoeken, een verblijfsrecht probeert te krijgen of bescherming vraagt tegen vervolging of geweld. Juist daarom is het onvoldoende wanneer een overheid kan uitleggen wat zij heeft besloten, maar niet meer inzichtelijk kan maken hoe zij tot dat besluit is gekomen.

De recente uitspraken over het visumalgoritme en CaseMatcher laten zien dat Nederlandse rechters dat onderscheid steeds serieuzer nemen. Een algoritme mag een ambtenaar ondersteunen, maar mag niet veranderen in een onzichtbare laag tussen de burger en de overheid die niet kan worden gecontroleerd. Daarmee raken deze zaken aan een veel bredere ontwikkeling binnen het Europese migratierecht.

Eurodac wordt uitgebreid. Biometrische gegevens spelen een grotere rol. Screening en grensprocedures worden verder gedigitaliseerd. Europese informatiesystemen worden sterker met elkaar verbonden en ook kunstmatige intelligentie zal waarschijnlijk vaker worden ingezet. Tegelijkertijd heeft de Europese wetgever juist migratie, asiel en grenscontrole aangewezen als terreinen waarop bepaalde AI-toepassingen een bijzonder groot risico voor grondrechten kunnen vormen.

De grote juridische uitdaging wordt daarom niet om digitalisering tegen te houden. De uitdaging wordt om ervoor te zorgen dat rechtsbescherming mee digitaliseert. Een asielzoeker of visumaanvrager moet ook in een digitaal systeem kunnen begrijpen waarom hij anders wordt behandeld. Een advocaat moet kunnen achterhalen welke relevante informatie is gebruikt. Een rechter moet de werking van een systeem kunnen controleren. En de overheid moet kunnen aantonen dat efficiëntie niet ten koste gaat van individuele beoordeling, gelijkheid en zorgvuldigheid.

Artikel 47 van het EU-Handvest krijgt daarmee een heel moderne betekenis. Een effectief rechtsmiddel vereist niet alleen toegang tot een rechter.

Het vereist ook dat die rechter, en de persoon die voor hem staat, voldoende kan zien van het systeem dat achter het overheidsbesluit schuilgaat. De belangrijkste vraag van het digitale migratierecht wordt daarom steeds minder óf de overheid algoritmes gebruikt, en steeds meer of de burger nog kan begrijpen, controleren en aanvechten wat die algoritmes met zijn zaak hebben gedaan.