‘Ethiek moet je zélf doen, niet aan een algoritme overlaten’
Willy Tadema, AI Ethics Lead bij het Rijks ICT Gilde (RIG)/ Mycelia, is bescheiden. ‘Misschien lijd ik aan imposter syndrome,’ lacht ze. Ik stel mezelf elk jaar dezelfde vraag: ‘Waarom zouden ze Willy Tadema van het RIG in plaats van een AI-professional van een commercieel bedrijf inhuren?’ Waak ervoor haar bescheidenheid aan te zien voor zwakte. Willy is een power house, als het gaat om ethiek, data en kunstmatige intelligentie (AI) kun je binnen de Rijksoverheid niet om haar heen.
‘Ik doe dit niet alleen hè? Ik ben onderdeel van een groter netwerk.’ Even lijkt het of ze haar podium liever geeft aan iemand die ze bekwamer acht. Eenmaal in gesprek ontdek je al snel dat het een levenshouding gestoeld op Aristoteles’ praktische wijsheid en Socrates’ oordeelvrij vragen is. Vakkundigheid en een zweem van activisme klinken in haar antwoorden door. ‘Ik geloof in connectie maken op menselijk niveau, zo krijg je heel veel voor elkaar.’ Enthousiast vertelt ze over het May Contain Hackers kamp (2022). ‘Dat was echt fantastisch. Diepgaande discussies met digital rights activisten en gekke feestjes bestaan daar naast elkaar. Dat hacker-camp had een enorme spin-off. Je ontmoet er zo veel interessante mensen. Ik vind het leuk om die naar onze wereld te halen en samen te kijken wat er allemaal mogelijk is.’ Willy treedt iedereen – van ICT-ambtenaar, tot hacker en staatssecretaris - met een open blik tegemoet. Al pratend schakelt ze eenvoudig van het belang van publieke controle op algoritmen, naar een pannenkoekenontbijt en terug. Maar je blijft luisteren, want ze heeft een goed verhaal.
Uit de ivoren toren
‘Mijn droom is dat de overheid, op een open en democratische manier met algoritmen omgaat. We krijgen allemaal te maken met AI. Of je nou wilt of niet. De vraagstukken die daarbij horen zijn ontzettend complex. Data en AI worden nu nog te veel als een technische zaak gezien. Maar het behelst zoveel meer. Denk bijvoorbeeld aan publieke waarden en mensenrechten. Het gebruik van algoritmen gaat gepaard met grote risico’s. Kijk maar naar de ellende die een discriminerend algoritme heeft veroorzaakt in de Toeslagenaffaire. Soms twijfel je of je überhaupt een algoritme in wilt zetten. Maar wat is het alternatief? Als wij met minder ambtenaren betere beslissingen willen nemen moeten we over naar slim, verantwoord gebruik van algoritmen.
In mijn ogen moet de hele organisatie hier een rol in krijgen. Er is behoefte aan een rijksbreed, interdisciplinair team met daarin, in ieder geval, een gedragswetenschapper, ethicus, jurist, data engineer en een AI- en domeinexpert. Op die manier kun je het vakgebied data, AI en ethiek veel meer integreren in het werk van de Rijksoverheid. Als het aan mij lag zouden we de code van onze AI-systemen zoveel mogelijk opengooien. Uiteraard kan dat vanwege privacy en veiligheid niet in zijn geheel, maar er kan meer dan we nu doen; technisch, en op het gebied van proces en governance. Als het gaat om Data en AI schieten we vaak in ‘alles of niets’ denken. Terwijl er zóveel kansen liggen. We moeten uit onze ivoren toren komen, meer mensen bij het proces betrekken. Stel je voor dat we de inhoud van een algoritme zouden behandelen zoals een wetsvoorstel in de Tweede Kamer? En we onze grootste criticasters mee laten denken.’ Willy’s bevlogenheid werkt aanstekelijk. Maar, ga alsjeblieft niet op zoek naar de zoveelste praatclubje over ethiek, data en AI. Ze wil ons vooral inspireren om er écht mee aan de slag te gaan.
Ethiek moet je doen
‘Ik merk dat de overheid openstaat voor publieke controle op algoritmen, dus ik heb goede hoop voor de toekomst. We moeten er ook écht mee aan de slag. Je kunt je nauwelijks voorstellen wat er op ons af komt aan nieuwe technieken, wet- en regelgeving. We zijn op governance en het instrumentarium al goed bezig. Maar welke impact al die ontwikkelingen hebben op het werk van ambtenaren, onze samenleving en individuele burgers weten we nog niet. Dat kunnen we alleen leren door aan de slag te gaan met praktijkgevallen op het vlak van ethiek, data en AI. Zo worden problemen zichtbaar, tastbaar en ontdek je waar het schuurt. Ethiek leer je niet uit een boekje, dat moet je doen. In de Z-inspection Pilot is een deep learning algoritme van de provincie Fryslân door internationale, interdisciplinaire teams getoetst op sociale, ethische, technische en juridische implicaties. Het is een mooi voorbeeld van hoe je als organisatie openheid geeft over data en AI en hoe je dat in de praktijk brengt. Een ander mooi voorbeeld zijn de IAMA-pilots van Binnenlandse Zaken. Hierin leren gemeenten hun algoritmen toetsen aan mensenrechten. Dit soort projecten helpen ons voorsorteren op de toekomst.’
Open, inclusief en democratisch
De transparantie waarvan Willy droomt vinden veel overheidsorganisaties nog spannend. Toch blijft ze het belang van publieke controle op algoritmen benadrukken. ‘Op het vlak van data en AI liggen enorme kansen. Verantwoorde inzet van data en AI kan democratie en rechtstaat versterken. Als je dat goed wilt doen moet je publieke controle hebben op algoritmen. Door op een open, inclusieve en democratische manier met onze algoritmen om te gaan wordt het eenvoudiger om keuzes die niet in lijn zijn maatschappelijke waarden en mensenrechten al aan het begin van een ontwikkeltraject uit te sluiten. In het ontwikkeltraject kun je nooit iedereen tevredenstellen, compromissen zijn inherent aan een democratie. Maar, we kunnen wel tot keuzes komen waar iedereen mee kan leven. Openheid en transparantie maakt ons werk beter te verantwoorden. We hebben verantwoordelijkheid naar de burgers. Over onze fysieke wereld hebben we duidelijke afspraken wat betreft onderhoud en toegankelijkheid. Zo moet het ook zijn voor de digitale wereld. Die komt echter steeds meer in handen van een paar grote commerciële partijen. Dat is een griezelige ontwikkeling. Hoe kun je daar als overheid nog controle op uitoefenen? Ik vraag me wel eens af hoe we dit als overheid gaan bijbenen. Maar als ik kijk hoe we bezig zijn met ethiek, data en AI, denk ik: we zijn goed bezig,’ besluit Willy haar verhaal.
Echt innoveren?
Wil je weten hoe jouw overheidsorganisatie aan de slag kan met innovatie op het vlak ethiek, data en AI? Neem vrijblijvend contact op via innoverenmetimpact@rijksoverheid.nl.