AI in de Rechtspraak: Van Hulpmiddel tot Debat

AI in de rechtspraak: rechter, algoritme of allebei?

Rechtbanken in Nederland en de rest van de wereld experimenteren steeds vaker met algoritmen die helpen bij juridische besluitvorming. Geen vage toekomstmuziek — het gebeurt nu al. Maar wanneer een computer meebeslist over iemands vrijheid, schuld of straf, rijzen fundamentele vragen over eerlijkheid, transparantie en rechtsstatelijkheid. Dit artikel legt uit wat AI in de rechtspraak concreet betekent, welke systemen al worden gebruikt, en waar het mis kan gaan.

Predictive justice: rechtspreken op basis van statistiek

Predictive justice is het gebruik van data-analyse om juridische uitkomsten te voorspellen. Een algoritme analyseert duizenden vergelijkbare zaken en berekent de kans op recidive, de verwachte strafmaat of zelfs de slaagkans van een beroep. Rechters en officieren van justitie gebruiken die uitkomst als aanvullende informatie bij hun beslissing.

In de praktijk betekent dit dat factoren als woonplaats, leeftijd, opleidingsniveau en strafrechtelijk verleden gewogen worden. Het systeem trekt een conclusie op basis van patronen uit historische data. Die data weerspiegelt echter ook historische ongelijkheden — en dat is precies het probleem dat critici aanwijzen.

Voorstanders benadrukken het omgekeerde: menselijke rechters zijn ook niet vrij van vooroordelen. Ze worden beïnvloed door vermoeidheid, sympathie of de manier waarop een advocaat zich presenteert. Een algoritme is op papier consequent en laat zich niet leiden door een slechte dag.

De SyRI-uitspraak: een Nederlandse mijlpaal

In februari 2020 deed de rechtbank Den Haag uitspraak in de zaak tegen het Nederlandse SyRI-systeem (Systeem Risico Indicatie). De overheid gebruikte SyRI om via datakoppelingen burgers te identificeren die mogelijk fraude pleegden met uitkeringen, toeslagen of belastingen. Algoritmen combineerden gegevens uit tientallen overheidsdatabases en wezen mensen aan als ‘risico’.

De rechtbank oordeelde dat SyRI in strijd was met het Europees Verdrag voor de Rechten van de Mens, met name artikel 8 over het recht op privéleven. De kern van het oordeel: het systeem was onvoldoende transparant. Burgers konden niet nagaan op basis van welke gegevens zij als risico werden bestempeld, en hadden daardoor geen effectief middel om bezwaar te maken.

Deze uitspraak is internationaal geciteerd als precedent. Ze maakt duidelijk dat algoritmische besluitvorming door de overheid aan strenge eisen moet voldoen: transparantie, uitlegbaarheid en de mogelijkheid tot effectief rechtsmiddel zijn geen luxe maar juridische basisvereisten.

COMPAS in de Verenigde Staten: bias ingebakken in de code

Het Amerikaanse systeem COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) berekent recidiverisico’s voor verdachten en veroordeelden. Rechters gebruiken de score bij beslissingen over voorlopige hechtenis, strafmaat en voorwaardelijke vrijlating.

In 2016 publiceerde ProPublica een onderzoek dat aantoonde dat COMPAS zwarte verdachten systematisch als hoger risico classificeerde dan witte verdachten met vergelijkbare achtergronden. Specifiek: zwarte verdachten die niet recidiveerden werden bijna twee keer zo vaak fout als hoog risico aangemerkt dan witte verdachten in dezelfde situatie.

De maker van COMPAS, Northpointe (nu Equivant), betwistte de methodologie van het onderzoek. Het debat heeft geleid tot een brede academische discussie over hoe je ‘eerlijkheid’ in een algoritme definieert — want wiskundig zijn verschillende definities van eerlijkheid niet gelijktijdig te optimaliseren. Dit is geen technisch detail maar een fundamentele ethische keuze die nu in softwarecode verborgen zit.

Ethische bezwaren: vijf concrete problemen

De discussie over AI in de rechtspraak concentreert zich op een handvol concrete bezwaren:

Ondoorzichtigheid: Veel systemen werken als black box. Een rechter kan niet uitleggen waarom het algoritme tot een bepaalde score komt, wat haaks staat op de motiveringsplicht in het recht.
Historische bias: Algoritmen leren van historische data. Als in het verleden bepaalde groepen vaker zijn gearresteerd of zwaarder bestraft, leert het systeem die ongelijkheid als norm.
Verplaatsing van verantwoordelijkheid: Als een rechter leunt op een algoritme en er gaat iets mis, is het dan de schuld van de rechter, de softwareleverancier of de overheid? Niemand voelt zich volledig aansprakelijk.
Definitieve beslissingen op basis van kansen: Algoritmen geven kansen, geen zekerheden. Een persoon met 70% recidivekans wordt behandeld als gevaarlijk, terwijl diezelfde persoon in 30% van de gevallen niet zou recidiveren.
Gebrek aan context: Een algoritme begrijpt geen persoonlijke omstandigheden — de omstandigheid dat iemand net een baan heeft gevonden, een zieke ouder verzorgt of voor het eerst in zijn leven hulp zoekt.

De EU AI Act en juridische toepassingen

De Europese AI Act, die in augustus 2024 officieel in werking trad, categoriseert AI-systemen naar risiconiveau. Systemen die worden gebruikt in de rechtspraak vallen onder de categorie ‘hoog risico’. Dat betekent concrete verplichtingen:

Verplichte conformiteitsbeoordeling vóór ingebruikname
Transparantie-eisen: gebruikers moeten kunnen begrijpen hoe het systeem werkt
Menselijk toezicht: een mens moet altijd de uiteindelijke beslissing nemen
Nauwkeurigheid, robuustheid en beveiliging als technische vereisten
Bijhouden van logs zodat beslissingen achteraf te reconstrueren zijn

Voor lidstaten betekent dit dat bestaande systemen — waaronder Nederlandse algoritmen bij overheidsinstanties — getoetst moeten worden. Systemen die niet voldoen, mogen na de overgangsperiode niet langer worden ingezet. De handhaving ligt bij nationale toezichthouders, in Nederland vermoedelijk bij de Autoriteit Persoonsgegevens in samenwerking met andere instanties.

Hoe gaan Nederlandse rechtbanken nu om met AI?

De Rechtspraak (de koepelorganisatie van Nederlandse gerechten) publiceert regelmatig over het gebruik van digitale hulpmiddelen. Op dit moment gaat het overwegend om administratieve toepassingen: roostering, zaakbeheer, het doorzoeken van jurisprudentie. Er zijn pilots met AI-gestuurde tekstanalyse die rechters helpen bij het samenvatten van lange dossiers.

Beslissende AI — een algoritme dat mede bepaalt of iemand schuldig is of welke straf opgelegd wordt — is in Nederland officieel niet in gebruik bij de rechterlijke macht zelf. Wel gebruiken het Openbaar Ministerie en de reclassering risicotaxatie-instrumenten (zoals RISc voor recidiverisico). Die instrumenten beïnvloeden indirect de rechterlijke beslissing via de adviezen die rechters ontvangen.

De grens tussen ‘ondersteunend hulpmiddel’ en ‘beslissend algoritme’ is in de praktijk dunner dan op papier.

Veelgestelde vragen

Mag een rechter in Nederland een AI-systeem gebruiken bij zijn vonnis?

Er is geen wettelijk verbod op het gebruik van ondersteunende software, maar een rechter blijft te allen tijde verantwoordelijk voor de beslissing. Het vonnis moet worden gemotiveerd op grond van feiten en recht — niet op basis van een algoritmische score alleen. Als een rechter een algoritme als doorslaggevend argument gebruikt zonder verdere motivering, is dat in strijd met de motiveringsplicht en aanvechtbaar in hoger beroep.

Wat was de uitkomst van de SyRI-rechtszaak?

De rechtbank Den Haag verklaarde SyRI in februari 2020 onrechtmatig wegens strijd met artikel 8 EVRM (recht op privéleven). Het systeem was te weinig transparant: burgers konden niet controleren welke gegevens over hen werden gebruikt of hoe de risicoScore tot stand kwam. De uitspraak is een belangrijk precedent voor algoritmische besluitvorming door de Nederlandse overheid.

Wat doet de EU AI Act concreet voor rechtspraak?

De EU AI Act plaatst AI-systemen in de rechtspraak in de categorie ‘hoog risico’. Dat verplicht ontwikkelaars en gebruikers tot transparantiedocumentatie, conformiteitsbeoordelingen, menselijk toezicht en het bijhouden van logbestanden. Systemen die hier niet aan voldoen, mogen na de overgangsperiode niet meer worden ingezet in de EU.

Vragen over algoritmische besluitvorming en uw rechten?

Als u te maken heeft gehad met een beslissing waarbij een algoritme een rol speelde — bij de overheid, in een rechtszaak of bij een uitkering — kunnen wij u helpen uw rechtspositie te beoordelen. Neem contact op voor een eerste oriënterend gesprek.

Neem contact op

Gerelateerde bronnen

Onderstaande partijen werken aan de inzet van AI in uiteenlopende sectoren, van nieuwsbrieven tot tekstgeneratie en marketing. Nuttige achtergrond voor wie de bredere AI-context wil begrijpen: