De rechterlijke motiveringsplicht ten tijde van AI
De opkomst van algoritmische en AI-systemen in rechtbanken
Rechtbanken maken al meerdere decennia gebruik van digitale technologieën, zoals eenvoudige e-mailprogramma’s of casemanagementsystemen. De laatste jaren worden steeds vaker geavanceerde algoritmische en AI-systemen ingezet binnen de rechterlijke macht, zij het dat de implementatie sterk verschilt per land. Voorbeelden zijn systemen die de ontvankelijkheidsanalyse van zaken ondersteunen, rechterlijke beslissingen voorspellen, risicobeoordelingen uitvoeren, strafmaten bepalen en, meest recent, generatieve AI-systemen die rechters helpen bij juridisch onderzoek en het schrijven van argumentatie en uitspraken.
Het gebruik van dergelijke systemen wordt vaak gerechtvaardigd vanuit efficiëntieoverwegingen, bijvoorbeeld om gerechtelijke procedures te versnellen, alsook omdat ze objectiever en neutraler zouden zijn dan menselijke rechters, die vatbaar zijn voor cognitieve vooroordelen. Deze redenering gaat echter niet (volledig) op. Zo blijven efficiëntiewinsten vaak beperkt en kunnen de systemen risico’s creëren voor het recht op een eerlijk proces. Denk aan risicobeoordelingsalgoritmes die discriminerende vooroordelen kunnen bevatten, de betrokkenheid van private technologiebedrijven die vragen oproept in verband met de rechterlijke onafhankelijkheid, het ondoorzichtige of propriëtaire karakter van de algoritmes, waarbij de onderliggende broncode niet openbaar toegankelijk is, die beperkt of geen toezicht in de interne werking toelaat, of ook zogenaamde confabulaties (beter gekend als ‘hallucinaties’) waarbij generatieve AI-systemen onbestaande of onjuiste output genereren, zoals foutieve wetsverwijzingen of verwijzingen naar niet-bestaande rechtspraak. Hoewel gevallen van dat laatste vooral gerapporteerd zijn onder advocaten en procespartijen die zichzelf vertegenwoordigen (soms met sancties tot gevolg), zijn er ook enkele (zeer beperkte) voorbeelden van rechters gekend, zij het voornamelijk buiten Europa.
Deze ontwikkelingen raken aan het vertrouwen in en de legitimiteit van de rechterlijke macht; zie bijvoorbeeld de controverse rond de Nederlandse rechtbank die bekendmaakte ChatGPT te hebben gebruikt om de gemiddelde levensduur van zonnepanelen te berekenen. Daarom worden verschillende maatregelen voorgesteld om de risico’s van AI-gebruik binnen rechtbanken te adresseren. Een terugkerend voorstel is om het gebruik van AI door rechters meer transparant te maken, in de zin dat rechters hun AI-gebruik moeten bekend maken (of, wanneer, hoe en met welk doel). Deze blogpost onderzoekt dit laatste in meer detail en gaat in het bijzonder na of de rechterlijke motiveringsplicht een geschikt instrument kan zijn om deze bijkomende transparantie te institutionaliseren.
De rechterlijke motiveringsplicht
In essentie vereist de rechterlijke motiveringsplicht dat rechters hun beslissingen met redenen omkleden. De plicht is een fundamenteel element van het recht op een eerlijk proces en is in verschillende rechtsordes grondwettelijk verankerd, zoals in artikel 149 van de Belgische Grondwet. De motiveringsplicht streeft verschillende doelstellingen na. Het bevordert de transparantie van de rechtspraak door partijen inzicht te geven in de redenen achter een beslissing. Het laat ook toe om na te gaan of de aangevoerde argumenten in overweging werden genomen en om een geïnformeerde beslissing te maken over beroepsprocedures. Daarnaast vervult de motiveringsplicht een verantwoordings- en disciplinerende functie ten aanzien van rechters. Doordat ze moeten uitleggen hoe ze tot een bepaalde beslissing zijn gekomen, zijn rechters en hun beslissingen vatbaar voor controle, wat bijdraagt tot zorgvuldige besluitvorming en de kwaliteit van de rechtspraak. Meer algemeen wordt aangenomen dat de motiveringsplicht de legitimiteit van de rechtspraak versterkt. Een beslissing die wordt uitgelegd, is gemakkelijker aanvaardbaar en bevordert het vertrouwen in de rechterlijke macht.
De rechterlijke motiveringsplicht als instrument voor het bekendmaken van AI-gebruik
De vraag rijst of de rechterlijke motiveringsplicht zou moeten worden ingezet als instrument om transparantie over AI-gebruik door rechters te realiseren. Naar mijn mening zijn er minstens drie argumenten vóór. Ten eerste kunnen rechters via hun rechterlijke motiveringsplicht partijen, andere rechters en het breder publiek informeren over wanneer, hoe en waarom dergelijke AI-systemen werden gebruikt, wat het rechterlijke besluitvormingsproces transparanter en inzichtelijker maakt. Ten tweede kan AI-bekendmaking de verantwoordingsfunctie van de motiveringsplicht versterken. Wanneer rechters expliciet moeten aangeven dat ze gebruik hebben gemaakt van een AI-systeem, worden ze (idealiter) aangemoedigd om bewuster na te denken over de rol die het systeem kan en mag spelen in hun besluitvorming en motivering van beslissingen. AI-bekendmaking maakt bovendien externe controle mogelijk, doordat partijen en andere rechters kunnen nagaan in welke mate AI een invloed heeft gehad op de uiteindelijke uitspraak. Afhankelijk van de reikwijdte van de openbaarmakingsverplichting kan het ook een kritische toetsing van de technische werking van de systemen mogelijk maken. Een derde argument volgt uit procedureel rechterlijke theorieën die stellen dat de perceptie van rechterlijke legitimiteit niet uitsluitend wordt bepaald door de uitkomst van een procedure, maar ook – en soms zelfs meer – door de wijze waarop die uitkomst tot stand is gekomen. Wanneer AI-gebruik aldus via de motiveringsplicht van rechters wordt meegedeeld en uitgelegd, kan dit bijdragen aan de legitimiteit van de rechtspraak.
Doch zijn er ook enkele bezwaren tegen AI-bekendmaking. Een eerste uitdaging betreft het bepalen van de reikwijdte van de verplichting. Volstaat het om louter te vermelden dat AI werd gebruikt, of moeten rechters toelichten welk systeem ze gebruikten, voor welk specifiek doel, op welke wijze, hoe ze zijn omgegaan met de output, welke invloed deze heeft gehad op de beslissing…? Zijn er sommige scenario’s waar het gebruik van AI niet moet worden vermeld? Moeten rechters ook technische documentatie of broncodes van de algoritmes bekendmaken? Hebben rechters de vereiste expertise om dat laatste te verwezenlijken? En leidt dit alles niet tot een ongewenste verschuiving van verantwoordelijkheid voor het algoritme van ontwikkelaars naar rechters? Daarnaast kan een overmaat aan informatie leiden tot een zogenaamde ‘transparency paradox’, waarbij de begrijpelijkheid van beslissingen juist afneemt. Andere praktische bezwaren zijn dat bijkomende motiveringsvereisten de werklast van rechters kunnen verhogen, en gebrekkige motiveringen onder een uitgebreide motiveringsplicht vaker een grond voor beroep kunnen uitmaken.
Conclusie
Om de risico’s die gepaard gaan met AI in rechtbanken aan te pakken, kan een verplichte melding van AI-gebruik door rechters een goede stap vooruit zijn. De rechterlijke motiveringsplicht biedt hiervoor een potentieel instrument, omdat ze al gericht is op transparantie, verantwoording en legitimiteit. De grote uitdaging zal erin bestaan om te bepalen welke vorm de verplichting precies zal moeten aannemen.
Victoria Hendrickx