Powercollege Jarno Duursma: ‘Wacht niet tot de overheid je beschermt tegen AI’
Kunstmatige intelligentie (AI) verandert je werk. Mocht je ergens de hoop koesteren dat programma’s als ChatGPT of Bard nog niet zoveel invloed hebben op onze maatschappij, laat die hoop maar varen. ‘De bedoeling is dat ik eindig met iets hoopvols…,’ zegt Tech-expert Jarno Duursma bij aanvang van zijn Powercollege. ‘Ik ga jullie een beetje in vertwijfeling achterlaten zodat je actief naar de buitenwereld kijkt, nieuwsgierig wordt en dat meeneemt in je werk.’ En dat is gelukt.
De geboren Groninger start zijn verhaal met een persoonlijke anekdote om te illustreren dat ChatGPT een handige personal assistent kan zijn, zowel in het dagelijks leven als in je werk. Geen idee hoe je de feestdagen moet plannen? Vraag ChatGPT wat suggesties te doen. Als je de juiste vragen stelt kun je er zelfs suggesties voor een passend kerstmenu uit persen. En zit je in je maag met een goede opzet voor een voortgangsrapportage? Met ChatGPT kun je in een oogwenk diverse opzetjes genereren. Superhandig. Maar in hoeverre kun je dit ‘hulpje’ vertrouwen? Voor veel rijksambtenaren is dat de eerste vraag die door het hoofd schiet. Iedereen ziet hoeveel invloed Tech-bedrijven als Amazon, Facebook, Google en Microsoft nu al hebben. En het is prachtig dat je bij een AI-tool als ChatGPT kunt uitvinken dat jouw informatie niet gebruikt kan worden. Maar kun je op die belofte vertrouwen? Onzekerheid over wat er met data die je in een AI-tool stopt gebeurt is geen vrijbrief om technologische ontwikkelingen te negeren. Maar hoe moet je er dan wel mee omgaan? Een sluitend antwoord op deze vraag bestaat niet.
Kritisch blijven moet
‘Qua impact kun je AI vergelijken met de komst van het internet. Het is een systeemtechnologie. Het is overal en je kunt er niet meer omheen, Je vindt het bij GGZ-instellingen, in de Retail, logistiek en in cyber security. Je kunt je ogen er niet voor sluiten. Dat zou dezelfde impact hebben als vandaag besluiten het internet nooit meer te gebruiken. Dan loop je een enorme achterstand op,’ aldus Duursma. ‘Het is goed om te begrijpen hoe een programma als ChatGPT werkt. In feite trekt het een enorme data uit ‘open’ internetbronnen. Vervolgens doet het voorspellingen op basis van prompts (vragen). Daarna doet het programma suggesties op basis van statistiek. Wat wel en niet wenselijk is leert het systeem van mensen. Medewerkers van OpenAI - het bedrijf achter ChatGPT – stellen grenzen (guardrails) in welke output wel of niet gewenst is. Deze vangrails voorkomen een hoop ellende. Je kunt bijvoorbeeld niet aan ChatGPT vragen hoe je drugs of kinderporno produceert. Het risico hierbij is echter dat ‘de waarheid’ in handen komt van Tech-bedrijven. Over complexe vraagstukken, denk aan stikstof of vaccinaties, moet je kritische vragen kunnen stellen zonder dat een systeem zegt hoe het zit. En er is nog een ander risico. Hoe meer data grote bedrijven over ons vergaren, hoe eenvoudiger het wordt om ons te manipuleren voor commerciële doeleinden. Dat maakt digitaal bewustzijn ontzettend belangrijk. Denk goed na over welke informatie je de software voert. Je kunt niet wachten tot de overheid je komt beschermen tegen het grote AI-gevaar, het gebruik van internet tools en apps blijft vooral een individuele verantwoordelijkheid. Privacy en democratische waarden vind ik enorm belangrijk. Daarom steun ik bijvoorbeeld Bits of Freedom. Het idee dat Tech-bedrijven met diepe zakken invloed hebben op onze democratie vind ik eng.’
Sneller en slimmer werken
Ondanks alle nare berichten over de duistere kant van AI - denk aan deepfakes of voice cloning - kun je AI-technologie ook positief bekijken. Jarno legt uit: ‘AI-tools vergroten onze cognitieve vermogens, zo kunnen we een stuk sneller en slimmer werken. En grotere cognitieve vermogens staan in nauw verband met ons gevoel van welzijn. Stel je voor dat je Excel om scherpe analyses kunt vragen zonder je uren blind te staren op een sheet, Outlook vriendelijke mails voor je componeert en Word op basis van jouw input goede documenten samenstelt. Ons werk gaat ingrijpend veranderen. Neem het werk van consultants, zij leven van grote hoeveelheden informatie absorberen en slimme vragen stellen. Dat kan AI ook. Daarom zijn alle grote corporaties al bezig ChatGPT te trainen op hun eigen data.’ Lachend vult hij aan ‘Een tijdje terug hield ik een presentatie voor een groep consultants, die trokken wit weg toen ze hoorden wat er allemaal mogelijk is dankzij AI.’
AI begint context te begrijpen
De zaal lacht om het beeld van de zaal vol bange consultants. Maar een fractie van een seconde later hoor je de hersenen bijna kraken. De inzet van AI brengt immers grote vraagstukken met zich mee. De technologie vraagt, zeker in de context van de Rijksoverheid, om verantwoord gebruik. Hiervoor lopen al diverse pilots, onder meer via het Rijks ICT Gilde en RADIO. En dat is énorm belangrijk. Zeker nu we in het tijdperk van multimodaliteit zijn aangeland. Maar wat is dat eigenlijk? Jarno legt uit: ‘Voorheen snapten AI-systemen nog niet veel van afbeeldingen. Dat wordt steeds beter. Ze ‘snappen’ nu meer van de context van afbeeldingen. Zo leert ChatGPT bijvoorbeeld humor te begrijpen. Dat is een enorme sprong. Humor is een buitengewoon complex concept voor een softwaresysteem omdat het gaat over stereotyperingen, historie, sociologische aspecten, popcultuur et cetera. De software leert visuele input steeds beter interpreteren en uitleggen. Bedenk je eens wat dit betekent voor AI-software op surveillancecamera’s. In minder democratische landen wordt hier watertandend naar gekeken,’ vertelt Duursma. ‘Nu kunnen nieuws en online grapjes nog om internetfilters heen. Straks bestaan er verregaande mogelijkheden voor censuur.’
Slimmer dan software
De zaal luistert geboeid. Dan komt de onvermijdelijke vraag of we ons zorgen moeten maken over super-AI-systemen die ons langzaam maar zeker vervangen. Gekscherend quote Jarno oud-minister-president Colijn. ‘Gaat u maar rustig slapen. Het is een feit dat AI-software straks een groot deel van je werk kan doen. Maar je moet je altijd afvragen hoe deze software zich tot je eigen intelligentie verhoudt. AI gaat vooral over cognitieve intelligentie en complexe informatieverwerking. Maak niet de denkfout dat deze systemen écht intelligent zijn. Wij zijn stukken intelligenter dan deze systemen. Denk aan sociale, emotionele, spirituele, ruimtelijke en andere soorten intelligentie. Wij hebben ook intuïtie en kunnen omgaan met onverwachte omstandigheden. We kunnen dingen met elkaar afstemmen, aanvoelen en afspraken maken. Waar een mens leert van één voorbeeld, heeft software een hele bak informatie nodig.’
De mens centraal
Menselijk contact blijft belangrijk. Helaas zien we dat dit steeds meer verdwijnt. ‘Je maakt geen praatje meer met een kassière, maar scant je boodschappen zelf. De kassière is er alleen nog om je te controleren op diefstal. Met dergelijke ontwikkelingen ligt het risico van dehumanisering op de loer. Daarnaast wordt, door armoede of hoge leeftijd, de kloof tussen mensen die, wel of geen toegang hebben tot technologische tools steeds groter. De wereld raakt steeds meer verdeeld in haves en have nots.’ Inmiddels bevinden de toehoorders zich ergens tussen vertwijfeling en verwondering. ‘Maar hoe moeten we AI-technologie in ons werk gebruiken?’ lijkt als een stille tekstballon boven sommige hoofden te hangen. Duursma voelt het aan en biedt verlichting: ‘Zet machines in waar nodig en laat mensenwerk bij de mensen. Als je voelt dat het uitbesteden van een taak aan software ten koste gaat van de menselijkheid, moet je het niet doen. Vertrouw op je voelsprieten en je morele kompas. Doe je dat niet…’ quote Duursma losjes het rapport van de Wetenschappelijke Raad voor Regeringsbeleid, ‘dan raken we opgescheept met een systeemtechnologie die onze belangen niet dient.’
Zelf aan de slag met AI?
Uit veiligheidsoverwegingen raadt de Rijksoverheid ambtenaren af om in werkverband te experimenteren met AI-tools. Heb je interesse in het onderwerp? Hou dan onze website in de gaten of stuur een e-mail naar innoverenmetimpact@rijksoverheid.nl.
Powercolleges
Het Powercollege Jarno Duursma en de Toekomst van Tech is mogelijk gemaakt door Innoveren met Impact. De kennisbron voor iedereen die binnen de Rijksoverheid aan de slag wil met innovatie(management).
Drie criteria voor de inzet van AI-tools:
|
