Wie is de mens in the loop?
- 30 jul
- Layla Hassan
- 2
- 357
Ik lees met plezier de stukken die in ons vakgebied verschijnen over lakken, anonimiseren, tijdlijnen en documentgeneratoren. Ze zijn eerlijk over wat er misging. En ze eindigen bijna allemaal op dezelfde zin. De definitieve afweging blijft mensenwerk.
In mijn nieuwe artikel neem ik die zin serieus. Wie is die mens precies, hoeveel tijd heeft hij, wat moet hij kunnen, en mag hij nee zeggen. Ik gebruik daarbij Argyris over onbespreekbaarheid en Bainbridge over de ironie van automatisering. Naarmate een systeem meer overneemt, wordt de taak die overblijft niet lichter maar zwaarder.
Er zit ook een vraag in voor onszelf. Als het grove voorwerk verdwijnt, waar leert de volgende generatie dan het vak dat nodig is om te zien dat er iets niet klopt.
Het artikel staat hier:Wie is de mens in the loop? - Layla Hassan
Mijn vraag aan jullie. Is in uw organisatie concreet belegd wie die mens is, hoeveel tijd hij heeft en wat hij mag weigeren, of staat het vooral in de nota. Ik hoor het graag, ook als u het anders ziet.
#informatiehuishouding #AI #informatiebeheer #digitaleoverheid
Verken
Wmebv: een stille systeemverandering met scherpe consequenties
feb 2026De Wet modernisering elektronisch bestuurlijk verkeer (Wmebv) wordt vaak gepresenteerd als een logisch...
Deelnemers gezocht voor Kennisgroep Informatiewetten
feb 2026Jaarlijks worden nieuwe wetten vastgesteld. In de praktijk blijkt echter dat de impact op recordkeepi...
Samen Slimmer
nov 2024Samen slimmer worden. Dat is de insteek van terugkerende casusbespreking ‘Samen Slimmer’ waarin iedere...
Reacties
Wij zijn (natuurlijk) ook met deze zaak bezig. Het stuk "waar zit de mens dan? Waar zit de controle?" wordt ook werkelijk vastgelegd. Maar dat is voor de processen en nieuwe werkwijzen met AI die de officiële routes volgen. Een minderheid op dit moment.
Het gemaakte punt vanaf de paradox van Bainbridge is erg interessant. We houden graag degene die de controle uitvoert verantwoordelijk. Of het nu om code, een document of berekening gaat, het moment dat je het publiceert of anderszins wereldkundig maakt, ben je verantwoordelijk. Er wordt veel meer snelheid gemaakt, maar bij het zelf iets maken voert je langs alle valkuilen. Dit overslaan met AI gooit de verantwoordelijke in zekere zin direct in het diepe. Dat is te doen voor een expert, maar zelfs dan is de risico inschatting lastig te maken.
Een human-in-the-loop situatie waarbij de controleur niet op de stop knopt durft te drukken, om wat voor reden dan ook, maakt het een waardeloze constructie. Fouten en hallucinaties zijn steeds zeldzamer, maar gebeuren nog steeds. Nu moeten we als mens die 0,1% detecteren ipv de 5%. Maar modernere modellen zijn ook vaak overijverig en maken dan stilletjes aanpassingen die niet altijd nodig zijn en menselijke interventie lastiger maken. Of soms gaat er iets fout met de context en levert dat honderden fouten op, die de mens uiteindelijk veel meer werk opleveren dan de originele taak feitelijk was. Dan ziet “een bedrijf” opeens de nieuwe snelheidswinst verdwijnen. En bij wie komen ze dan verhaal houden?
Dank voor deze reactie, hier zit veel in waar ik graag op doorga.
Dat het bij jullie werkelijk wordt vastgelegd is winst. Tegelijk zit precies daar de spanning die ik bedoel: het staat vast voor de officiële routes, en dat is nu de minderheid. In alles wat daarbuiten gebeurt, wordt de mens in de lus impliciet aangewezen. Zonder tijd, zonder mandaat, zonder kader.
Je punt over verantwoordelijkheid vind ik raak. Bij zelf maken loop je langs alle valkuilen en bouw je onderweg je oordeel op. Sla je dat over, dan houd je het eindproduct over zonder het leerproces, terwijl de verantwoordelijkheid onveranderd blijft liggen. Dat is Bainbridge in één zin: we halen de mens uit de uitvoering en vragen hem vervolgens te beoordelen wat hij niet meer zelf heeft doorleefd.
En die 0,1 procent maakt het moeilijker, niet makkelijker. Bij 5 procent blijf je alert. Bij 0,1 procent verslapt de aandacht precies op het moment dat de gevolgen groter zijn. Zeker als het model stilletjes aanpassingen doet die niemand heeft gevraagd.
Je slotvraag is voor mij de kernvraag. Zolang die onbeantwoord blijft, is de controleur wel aansprakelijk gemaakt maar niet in staat gesteld. Hoe kijken jullie daarnaar: ligt het bij degene die op publiceren drukt, of bij degene die de werkwijze zo heeft ingericht dat stoppen geen reële optie is?