26-10-2017

Bart van Tongeren oud - algemeen deken NOvA

"Algoritmes in de rechtsstaat"

Tijdens het lustrumdiner van de NOvA heb ik in aanwezigheid van de juridische top van Nederland een voorzet gedaan voor een Deltaplan digitalization legal infrastructure and the rule of law. Een onderdeel dat niet mag ontbreken is het ontwikkelen van een gemeenschappelijke digitale juridische omgeving waarbij sprake is van algorithmic accountability.

Van de rechterlijke macht, het Openbaar Ministerie tot de advocatuur: het juridische domein bestaat uit een veelheid aan professionals. Ieder met eigen taken, maar allen met een belangrijke gezamenlijke verantwoordelijkheid: het dienen van het belang van een goede rechtsbedeling. In een tijd van haast ongekende mogelijkheden op het gebied van informatietechnologie is het meer dan ooit een uitdaging om dit belang te dienen. Ik denk dan bijvoorbeeld aan de opkomst van big data, aan zelflerende machines en aan autonome technologie. U hebt daar wellicht ervaring mee: tijdens een bespreking gaat Siri op uw smartphone opeens meedoen en stelt u indringende vragen of doet suggesties die niet langer op serendipiteit berusten.

Vorig jaar is het WODC-cahier ‘Juridische beroepen in de toekomst’ verschenen. Een goed initiatief, maar wel met een – in mijn ogen – beperkte focus op ontwikkelingen bínnen de advocatuur, het notariaat en de gerechtsdeurwaarderij. Daarnaast mis ik de benodigde externe en internationale oriëntatie die noodzakelijk is voor het bijbenen van alle ontwikkelingen op het gebied van informatietechnologie. De wet van Moore (geparafraseerd: de snelheid van chips verdubbelt ongeveer elke twee jaar) en de komst van kwantumcomputers en (aan de verre horizon) DNA-computers verzekeren dat de uitdagingen op dit gebied elkaar alleen maar sneller gaan opvolgen.

Op 12 september heb ik tijdens het lustrumdiner van de NOvA in aanwezigheid van de juridische top van Nederland een voorzet gedaan voor een Deltaplan digitalization legal infrastructure and the rule of law. In dat Deltaplan zal naast juridische professionals moeten worden deelgenomen door wetenschappers, wiskundigen, programmeurs en bedrijfskundigen. Een van de belangrijkste taken is het ontwikkelen van een gemeenschappelijke visie op de wijze waarop omgegaan kan worden met maatschappelijke en technologische ontwikkelingen. En op welke wijze technologische toepassingen binnen het rechtsbestel effectief gerealiseerd kunnen worden. De verleiding om in nieuwe mogelijkheden zoals blockchains en ‘due dilligence’-onderzoeken door kunstmatige intelligentie de oplossing te zien voor alle euvels van de ‘status quo’ mag niet leiden tot een vlucht naar voren. Innovatie moet draaien om verbetering, niet alleen maar om verandering.

Een onderdeel dat niet mag ontbreken is het ontwikkelen van een gemeenschappelijke digitale juridische omgeving waarbij sprake is van algorithmic accountability. Ik bedoel daarmee het volgende. De algoritme-gedreven systemen die we nu kennen zijn niet per definitie gebouwd om ‘het juiste’ te doen of om transparant te zijn. Een vooroordeel van de programmeur van een algoritme, vertaalt zich naar de uitkomsten van zo’n algoritme. Onafhankelijke controleerbaarheid en verifieerbaarheid ontbreken vooralsnog, terwijl rechters in sommige landen nu al uitkomsten van algoritmen over bijvoorbeeld de recidive-kans van een verdachte meenemen in hun vonnis. Vanaf de buitenkant wordt daardoor het zicht ontnomen op de wijze waarop keuzen worden gemaakt binnen deze systemen, terwijl een goede rechtsbedeling juist wel gebaat is bij transparantie. Het opstellen van een internationale code of digital conduct lijkt me van groot belang voor de toekomst van de juridische professionals, maar belangrijker nog: voor alle toekomstig rechtzoekenden.

Dit zijn zo mijn eerste gedachten over de toekomst van juridische beroepen in het licht van de toenemende digitalisering binnen het juridische domein. Het is een aanzet, waarvoor ik graag aan u vraag hierover mee te denken. Ieder van u vanuit uw specifieke rol, maar met een gezamenlijke verantwoordelijkheid als het gaat om het belang van de goede rechtsbedeling waar ik mee begon. Ook nodig ik het kabinet uit om deze handschoen op te pakken. Een mooie taak voor de nieuwe minister voor de Rechtsstaat?