AI in de praktijkFlowlined
De expert blijft eindverantwoordelijk: mens en systeem in één workflow
Dit artikel
De expert blijft eindverantwoordelijk: mens en systeem in één workflow
Hoe meer AI kan, hoe belangrijker de vraag wie verantwoordelijk is voor de uitkomst. In gereguleerd kenniswerk is dat antwoord wat ons betreft niet onderhandelbaar: de expert. Een systeem kan werk verplaatsen en versnellen, maar professionele verantwoordelijkheid laat zich niet delegeren aan software.
Ondersteunen, niet overnemen
Onze systemen nemen het voorbereidende en uitvoerende werk uit handen: dossiers structureren, informatie ordenen, concepten opstellen, toetsen aan kaders. De professionele afweging blijft mensenwerk: wat betekent dit voor deze situatie, voor deze persoon. Precies daar zit de waarde van het vak.
Verantwoordelijkheid vraagt om inzicht
Eindverantwoordelijkheid is alleen waar te maken als de expert kan zien wat het systeem heeft gedaan. Daarom is de workflow zo ingericht:
- •De expert beoordeelt en accordeert elke uitkomst voordat die verder gaat.
- •Het systeem laat zien welke stappen, bronnen en regels zijn gebruikt.
- •Afwijken kan altijd, mits gemotiveerd en vastgelegd, zoals het vak dat vraagt.
Dat sluit aan bij waar wet- en regelgeving naartoe beweegt. De EU AI Act vraagt om menselijk toezicht op AI-systemen met impact op mensen; de AVG stelt eisen aan de omgang met persoonsgegevens. Voor ons zijn dat geen verplichtingen achteraf, maar ontwerpuitgangspunten.
Mens en systeem in één workflow betekent dus niet dat de grens vervaagt. Juist andersom: die is glashelder. Het systeem doet wat vastligt, de expert beslist wat telt.