Het algoritmeregister: een eerste stap

Hoe kan de overheid verantwoord gebruik maken van algoritmes? Deze discussie krijgt sinds de rechtszaak over SyRI steeds meer aandacht, ook omdat de belangstelling voor de inzet van algoritmes binnen de overheid toeneemt. Een element dat hierin veel terugkomt, is transparantie over de inzet van algoritmes, veelal gekoppeld aan het idee van een “algoritmeregister”. Sinds kort is een consortium van gemeenten, provincies, rijksinstellingen en onder meer de VNG bezig met het ontwikkelen van hulpmiddelen voor het vergroten van de controle op algoritmes. In dit kader is ook een start gemaakt met het maken van een algoritmeregister. In deze blogpost bespreek ik het register en de omliggende documentatie, met aandacht voor het perspectief van archieven, om te kijken wat de achterliggende gedachte achter dit register is en hoe dit kan bijdragen aan meer verantwoord gebruik van algoritmes.

De bedoeling achter het ontwikkelen van het Algoritmeregister, wordt snel duidelijk bij het bestuderen van de website en de GitHub-documentatie: het opzetten van een landelijk algoritmeregister, om de transparantie en verantwoording rondom algoritmegebruik van overheden te verbeteren. Belangrijk is ook dat de makers stellen dat de algoritmes ‘op een begrijpelijke manier’ beschreven moeten worden, en dat de beschrijving verder gaat dan alleen de achterliggende techniek. Afspraken over het gebruik van het algoritme en een beschrijving van de werking ervan, horen er bijvoorbeeld ook bij. Dit is een belangrijke stap, omdat het laat zien dat is doorgedrongen dat het alleen vrijgeven van technische documentatie niet voldoende is voor betekenisvolle transparantie.

Een op GitHub gepubliceerde PowerPoint over het register geeft wat meer achtergrondinformatie en laat zien wat voor functies en gebruik de bedenkers in gedachten hebben voor het register. Zo geven de bedenkers nadrukkelijk aan dat een van de doelen van het register moet zijn dat burgers het kunnen gebruiken om bezwaar te maken tegen besluiten die met behulp van het algoritme tot stand zijn gekomen, maar ook controleerbaarheid door volksvertegenwoordigers is meegenomen. Het valt echter wel op dat er nergens in de documentatie over archivering of duurzame toegankelijkheid wordt gesproken. Het register is nog in ontwikkeling, dus wat dat betreft is het ook niet heel vreemd, maar het is toch een gemis dat ook in de motivatie niets terug te vinden is over het voor de lange termijn toegankelijk houden van deze informatie.

Een belangrijk element van het Algoritmeregister is de metadatastandaard die ervoor ontwikkeld is. Hieruit blijkt opnieuw wat eerder ook al opviel: het Register richt zich op veel meer dan alleen technische details. Zo bevat de metadatastandaard velden voor het omschrijven van het doel van de inzet van het algoritme, het besluitvormingsproces waar het algoritme bij betrokken is en of er sprake is van menselijk toezicht in dit proces. Een ander opvallend onderdeel van de standaard is het veld voor ‘Proportionaliteit’. Dit veld dwingt af dat de invoerder uitleg geeft over waarom de voordelen van de inzet van het algoritme, opwegen tegen de mogelijke nadelen ervan. Dit vraagt om aanzienlijk meer openheid dan doorgaans wordt gegeven bij dit soort projecten. Daarnaast zou het ook een goede basis kunnen vormen voor het maatschappelijk debat over de inzet van algoritmes, omdat het expliciet maakt welke afwegingen er precies bij komen kijken (zolang het veld goed en volledig wordt ingevuld, natuurlijk).

De standaard bevat nog meer interessante velden, maar om deze allemaal te bespreken zou teveel ruimte in beslag nemen, dus ik raad aan om het ook zelf eens goed door te nemen, met in het achterhoofd dat alles nog in ontwikkeling is. Alles bij elkaar lijkt er bij het maken van de metadatastandaard goed te zijn nagedacht over de verschillende aspecten die nodig zijn om betekenisvolle transparantie over algoritmegebruik te creëren. Naast technische elementen en juridische randvoorwaarden is er ook ruimte om informatie over ethische afwegingen te delen, of over de manier waarop het algoritme kan raken aan het leven van burgers. Zo kan een volledig ingevulde beschrijving van een algoritme ervoor zorgen dat het informatie-evenwicht tussen burgers en overheid – dat in het geval van algoritmes vaak sterk overhangt richting de overheid – weer iets rechter getrokken wordt, wat betere maatschappelijke debatten mogelijk kan maken.

Het is echter wel belangrijk om goed voor ogen te houden dat een goed algoritmeregister niet het eindstation is. Zonder verdere inkadering in wet- en regelgeving heeft het register natuurlijk weinig invloed, maar dat spreekt voor zich. Als het gebruik ervan niet verplicht is, en er geen toezicht is of het register wel op de juiste manier wordt ingevuld, zullen de echt belangrijke algoritmes, of de meest controversiële aspecten ervan, waarschijnlijk niet in het register terechtkomen. Daarnaast gaat het ook om het verdere proces waar het Algoritmeregister in past. De bedenkers zijn hier duidelijk over: het Register bestaat ter ondersteuning van de bestuurlijke controle en van de bestaande bezwaarprocedures – oftewel het ter verantwoording kunnen roepen van de uitvoerende overheidsinstelling. En verantwoording en archivering zijn natuurlijk van oudsher nauw met elkaar verbonden, dus hier ligt ook voor ons een mooie taak om mee te denken over deze ontwikkeling. Want wat gebeurt er met oude registraties, of als een algoritme uitgefaseerd wordt? Dat zijn vragen waarbij de archieven hard nodig gaan zijn. Dus kijk eens naar het register, denk mee, en vraag hier aandacht voor binnen je organisatie, zodat ook de archieven kunnen bijdragen aan verantwoord algoritmegebruik!

Meer weten over archivering van algoritmen? Kijk dan in het Kennisdossier voor informatie, nieuws en handige links.