Oproep - Toezicht en Algoritmes

  • nov 2019
  • Maaike van Driel
  • ·
  • Aangepast 27 jun
  • 8
  • 44
Maaike van Driel
Toezicht
  • Sylvia Majdoubi
  • KIA Community Manager
  • Rens Ouwerkerk
  • Lotte Oldegbers
  • Jolanda de Jong
  • Chantal Menting
  • Gerrit Bril
  • Hans Pieterse
  • Yvonne Welings
  • Harm Pieters
  • hellatimmermans

Een van de thema’s tijdens de najaarsbijeenkomst was toezicht en algoritmes. De directe aanleiding was dat de VNG heeft algoritmes opgenomen in de selectielijst. Als toezichthouders moeten we ons dan een aantal dingen afvragen:

Horen (aspecten van) bepaalde algoritmes in het archief thuis? Waarom wel/ niet?
Speelt dit ook bij jou onder toezicht staande(n)?
Wat verwacht je dan concreet te zien, als toezichthouder?

En hou je daar ook toezicht op?

Tijdens de bijeenkomst bleek al snel dat de meeste toezichthouders algoritme wel zien als onderdeel van het archief, maar vervolgens verschillen de ideeën over wat moet worden opgenomen. Neem je bijvoorbeeld de dataset ook mee als onderdeel van het algoritme? Of enkel de rekenregel? Daarbij zijn twee soorten algoritme te onderscheiden; zelflerende algoritmes en ‘gewone’ algoritmes. Of moet in het archief voornamelijk het beleid bevatten dat ten grondslag ligt aan het algoritme?

In de discussie kwam in sommige gevallen de praktijk aan bod. Welke metadata voeg je toe? Hoeveel versie van de database maak je? Kan je een logboek bijhouden van de verschillende wijzigingen die worden gemaakt in de code van het algoritme?

Het perspectief waarmee we als toezichthouders naar deze problematiek kijken is voor de antwoorden op deze vragen. Maken we een onderscheid tussen de papieren en de digitale situatie? Denken we nog te veel uit een papieren paradigma en vraagt de digitale wereld om een ander paradigma?

Petra en ik willen graag met een groepje verder nadenken over dit onderwerp. Mocht je dit ook leuk vinden kan je je opgeven door te reageren onder dit bericht of een mailtje te sturen naar p.f.m.helwig@inspectie-oe.nl of mvdriel@brabant.nl We willen in januari van start gaan dus graag ontvangen we voor 6 januari reactie als je mee wilt doen.

Tijdens de bijeenkomst is de oproep gedaan om cases te delen uit de praktijk over dit onderwerp. Dit kan online op het platform en offline tijdens de bijeenkomsten.

Reacties

8 reacties, meest recent: 21 januari 2020

  • Goed initiatief Maaike! Het deed mij denken aan de werkgroep Algoritmes die actief is binnen het kennisplatform Informatiehuishouding. Zie bijvoorbeeld dit blog van Rens Ouwerkerk. Misschien is daar nog een kruisbestuiving mogelijk?

    Harm Pieters

  • Kennis die eerst ontwikkeld moet worden is hoe algoritmes moeten worden gearchiveerd. En dan is het aan de horizontale toezichthouder op hier toezicht op te houden. BZK kan dat op grond van de provinciewet ook doen richting provincies. Vernietiging binnen gemeenten worden afgestemd binnen de lokale SIO's. En ja, het is inderdaad Rens Ouwerkerk die hier als VNG adviseur betrokken. Dus graag geen onnodige enquêtes vanuit het IBT richting gemeenten. Overigens is het maar de vraag of het toezicht bij de Archiefwet komt te liggen. Zie ook https://openstate.eu/nl/2019/09/meldplicht-algoritmes-voor-overheden-stap-in-de-goede-richting/

    Yvonne Welings

  • Ik heb het datalab in Westfriesland uitgenodigd/uitgedaagd om mee te denken over dit onderwerp. Even kijken hoe de reactie is, anders wil ik de uitkomsten zeker delen. Wat ik me wel al afvraag is of de Selectielijst alle vormen van algoritmen wel goed heeft afgedekt!? Wat doen we met algoritmen die niet voor beleidsopstelling gebruikt worden?

    Hans Pieterse

  • Fijn dat er een werkgroep geformeerd wordt. Volgens mij een actueel onderwerp waar we nog het nodige over moeten leren. Ook sterk als we het kunnen combineren inderdaad met initiatieven die er al zijn, bijvoorbeeld vanuit het platform informatiehuishouding overheden, dit is namelijk iets de gehele informatiehuishouding raakt. En waar toezichthouders, en vandaar dat we het vanuit het platform Toezicht ook initiëren, uiteindelijk misschien wel iets van moeten vinden. Dus zeker geen IBT-speeltje, maar iets voor alle lagen binnen het toezicht. Waar nodig willen we graag de best practices uit het veld betrekken, door hier een oproep te doen of anderszins.

    Adviseur Digitale Archieven - Archief Eemland

    Chantal Menting

  • De vele brieven, rapporten en richtlijnen over de omgang van de overheid met AI, algoritmes, data-analyse, enzovoort, bieden veel aanknopingspunten voor concretisering van waardering en selectie! Bijvoorbeeld de 'Bijlage bij Brief over waarborgen tegen risico’s van data-analyses door de overheid' met richtlijnen voor het toepassen van algoritmes door overheden. Men noemt daarin van alles wat om verschillende redenen zou moeten worden vastgelegd. Misschien is daar op landelijk niveau archivistisch op in te haken met gegevensoverzichten met bewaartermijnen of zoiets? Of misschien werken ambtenaren die zich met wet- en regelgeving en beleid rond algoritmes bezighouden daar op landelijk of Europees niveau al aan?

    Jolanda de Jong

Trefwoorden

Verken