Werkgroep duurzaam toegankelijke algoritmes van start

Het is één van de belangrijkse vraagstukken van dit moment: hoe vullen we als overheid onze verantwoordingsplicht in als we technieken gebruiken die we zelf niet kunnen doorgronden? Wat betekent de inzet van zelflerende algoritmes voor de transparantie van de overheid? Welke ontwerpkeuzes moeten we maken om de archieffunctie in dit spectrum in te richten? Tijdens de Archiefdagen eerder deze maand werd door keynote-spreker Marleen Stikker nog maar eens benadrukt hoe belangrijk het is dat de archiefsector hier actief mee aan de slag gaat. Dit voorjaar startte vanuit het KIA-kennisplatform Informatiehuishouding Overheden een werkgroep die hiervoor praktische richtlijnen en principes uitwerkt. In deze blog lichten we alvast een tipje van de sluier op.

Achtergrond
In 2018 deed Joep van der Spoel in opdracht van de gemeente Amsterdam onderzoek naar het vraagstuk algoritmes en accountability. Zijn rapport geeft een goed beeld van de vraagstukken en vormde het vertrekpunt voor de werkgroep. Je kunt het hier lezen. Het document bevat tevens een heldere uitleg over wat algoritmes precies zijn, die toelichting laten we daarom gemakshalve achterwege in deze blog.

Vier componenten
Het algoritme valt uiteen in een viertal componenten. Je hebt (1) de input en (2) output, daarnaast (3) de techniek, inclusief het datamodel en (4) documentatie over het ontwerp en het gebruik van het algoritme. Waar het zwaartepunt voor de bewaringsstrategie ligt, is afhankelijk van het type toepassing en de potentiële impact. Dat vereist dus analyse vooraf.

Verschillende toepassingen
Er zijn verschillende werkvelden waarbinnen zelflerende algoritmes kunnen worden ingezet. De impact daarvan kan verschillen en daarmee kan ook het zwaartepunt van het verantwoordingsvraagstuk per situatie anders zijn.

Een voorbeeld: als een algoritme wordt gebruikt om een besluit te nemen in de zin van de AWB, dan is bezwaar tegen dat besluit mogelijk. Dat betekent in termen van verantwoording dat de totstandkoming van dat specifieke besluit reproduceerbaar moet zijn. Inzicht in het datamodel is dan een belangrijk component, zodat je als overheid kunt laten zien dat je enkel relevante gegevens hebt ingezet en welke dat precies zijn.

Een ander voorbeeld: als een algoritme wordt gebruikt voor algemene analysedoeleinden, bijvoorbeeld om een trend te ontdekken, dan is de individuele herleidbaarheid mogelijk minder van belang dan in het vorige voorbeeld. Het zwaartepunt ligt dan meer op de documentatie over de inzet van het algoritme, waarmee kan worden aangetoond welke ethische afwegingen zijn gemaakt en welke maatregelen zijn genomen om het algoritme op een gecontroleerde manier te gebruiken.

Zo zijn er verschillende toepassingen te bedenken. De werkgroep categoriseert deze op basis van potentiële impact: Gaat het over individuele beslisvorming? Gaat het over niet-individuele beslisvorming met externe werking? Is de impact vooral intern op de eigen organisatie gericht? Hebben we te maken met potentieel cultureel erfgoed? Bij elk type impact hoort een eigen ontwerpprofiel.

Handreiking
De werkgroep zal in de loop van dit jaar een handreiking opleveren die helpt om informatiebeheer 'by design' in te richten, telkens als er een algoritme wordt ontworpen. Informatieprofessionals die zich bezighouden met archivering/informatiebeheer by design, kunnen deze handreiking gebruiken als ze deelnemen aan een project waarin een algoritme wordt ontworpen.

Het plan is om de handreiking in drie lagen op te bouwen: (1) een hoofdplaat die inzicht geeft in de verantwoordingsprofielen, geplot op de verschillende componenten waaruit het algoritme bestaat. Daaronder ligt (2) een enquête, een soort checklist met vragen die je als projectteam moet beantwoorden tijdens de ontwerpfase. Heb je die vragenlijst doorlopen, dan zou je voldoende informatie moeten hebben om de juiste ontwerpkeuzes te kunnen maken. Onder de enquête ligt (3) een leeswijzer, waarin vanuit het perspectief van verantwoording wordt uitgelegd wat de achterliggende gedachte van elke vraag is en waarin enkele suggesties voor oplossingsrichtingen worden genoemd.

Zodra er een eerste iteratie van de handreiking is opgeleverd, wordt die uiteraard hier op KIA gepubliceerd voor een openbare review.

- De werkgroep bezig met de handreiking. V.l.n.r.: Thomas Zandvliet (werkgroepleider), Rens Ouwerkerk, Migiza Victoriashoop en Vincent Hoolt.

Vragen, opmerkingen of meedenken?
Alle hulp en alle feedback wordt op prijs gesteld, dus plaats hieronder een reatie als je een vraag of opmerking hebt.
Als je meer wil weten, kijk dan eens in deze map.