Ga direct naar inhoud

Pilot: Assessment voor verantwoorde Artificial Intelligence

Artificial Intelligence (AI) zit in steeds meer aspecten van ons leven. De technologie – gebaseerd op algoritmen en data – zit in tal van apparaten en kan van pas komen bij het oplossen van maatschappelijke vraagstukken. Bijvoorbeeld over energie, duurzaamheid of armoede. Als overheid hebben we een voorbeeldrol. Willen we de kansen van AI benutten, dan moeten belangrijke vragen over ethiek, techniek, transparantie en de mogelijke effecten van AI-toepassingen op onze maatschappij beantwoord worden.

De pilot ‘Assessment voor verantwoorde AI’ is een stap in dit proces. Tijdens een zes maanden durende pilot onderzocht het Rijks ICT Gilde in samenwerking met de provincie Fryslân en AI-autoriteit Prof. Dr. Zicari een deep learning algoritme in de praktijk. De pilot vond plaats van mei 2022 tot en met januari 2023.

Inmiddels is het RIG affiliated partner van het Z-Inpection Initiative. Lees meer op de website van de organisatie. Ook hebben we gecertificeerde Z-inspection teaching experts in huis om ondersteuning te bieden bij de beoordeling van algoritmes. 

Definities

Aanleiding pilot

Tijdens de conferentie ‘AI and the future of Europe’ in Brussel op 30 maart 2022 vertelde staatssecretaris Alexandra van Huffelen dat de digitale transitie en het gebruik van AI altijd mensgericht moet zijn en gebaseerd op onze democratische waarden en rechten. Overheden moeten daarbij het goede voorbeeld geven.

Als overheid willen we de kansen van AI benutten, maar de technologie roept nog veel belangrijke vragen op. Hoe betrouwbaar zijn algoritmen? Kan een algoritme discrimineren? Wat zijn de ethische en maatschappelijke effecten van AI en hoe transparant is het gebruik ervan? Daarnaast moet het gebruik van AI altijd mensgericht en op onze democratische waarden en rechten gebaseerd zijn.

Daarmee komt een indrukwekkende hoeveelheid regels, kaders en raamwerken op het gebied van AI op ons af. Hoe pas je die in de praktijk toe? Waar moet je op letten? En hoe integreer je die in de ontwikkeling en het gebruik van AI?

Met de pilot ‘Assessment voor verantwoorde AI’ zochten we antwoord op deze vragen en meer. Allereerst om het bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En daarna om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Achtergrond pilot

Tijdens deze zes maanden durende pilot is de toepassing in de praktijk van een ‘deep learning algoritme’ van de provincie Fryslân onderzocht en beoordeeld. Het algoritme brengt heidevergrassing doormiddel van satellietbeelden in kaart voor het monitoren van natuurgebieden. Het toetsen van dit algoritme gebeurde in samenwerking met een internationaal multidisciplinair team, op basis van de ‘Z-inspection-methode’ - een proces om AI op betrouwbaarheid te toetsen.

Hierbij wordt het algoritme getoetst op sociale, ethische, technische en juridische implicaties. Dit gebeurt in multidisciplinaire teams volgens een holistische methodiek: daarbij wordt gekeken naar de samenhang, ordening en de interactie van de kenmerken aan een systeem. Het holistische karakter van de methode laat ruimte voor verschillende dimensies en zienswijzen, en richt zich in het bijzonder op het duiden en bespreken van ethische kwesties en spanningen.

Doelstellingen pilot

De pilot had meerdere doelstellingen, zodat elke partij een eigen win uit de pilot heeft kunnen halen:

  • Een wetenschappelijk onderbouwd assessment in de praktijk aan de hand van een concrete AI-toepassing;
  • Begrijpen hoe je zorgvuldig én verantwoord je processen inricht voor het ontwikkelen en gebruiken van AI;
  • Leren welke kaders, wet- en regelgeving van belang zijn en getoetst moeten worden in de verschillende fasen van ontwikkeling en gebruik;
  • Vergroten inzicht en overzicht door middel van aanbevelingen;
  • Stimuleren dialoog en vergroten bewustzijn over toepassen van betrouwbare AI.

Z-Inspection: een methode voor verantwoorde AI

Één van de belangrijkste kenmerken van de Z-inspection-methode is het interdisciplinaire karakter. De complexiteit van een AI-toepassing wordt weerspiegeld in de samenstelling van de het team. De verscheidenheid aan deelnemers zorgt voor een inclusievere beoordeling van de betrouwbaarheid van een AI-toepassing.

Een ander sterk kenmerk van deze methode is de dynamische toepassing. Een standaard checklist past zich niet aan de casus aan. De holistische benadering daarentegen bepaalt welke kwesties centraal staan ​​voor de use case (toepassing in de praktijk) in verschillende stadia van het proces. En beoordeelt welke aspecten van de case het belangrijkst zijn, door zich tussen intra- en interdisciplinaire discussies heen en weer te bewegen.

Met de toepassing van deze methode groeit het bewustzijn binnen de eigen organisatie, ontstaat een denkraam (mindset) voor verantwoord datagebruik en het betrouwbaar toepassen van AI. Zowel Provincie Fryslan als het Rijks ICT Gilde testen de methode in de praktijk om samen te leren hoe je vanuit verschillende dimensies naar een AI-toepassing moet kijken. 

Raamwerk verantwoorde AI

Z-inspection maakt gebruik van het ‘raamwerk voor verantwoorde AI’ opgesteld door de Europese commissie met een focus op vier belangrijke ethische principes:

  1. respect voor menselijke autonomie;
  2. voorkomen van schade;
  3. fairness (een eerlijk algoritme);
  4. verklaarbaarheid en transparantie.

Deze ethische principes worden aan de hand van negen belangrijke onderwerpen getoetst. Per onderwerp wordt gekeken of het algoritme aan bepaalde kwaliteitscriteria voldoet én of de risico’s voldoende in beeld zijn en/of worden beperkt

  • Menselijke keuzevrijheid en toezicht:
  • Technische robuustheid en veiligheid;
  • Privacy- en gegevensbeheer;
  • Transparantie:
  • Diversiteit, non-discriminatie en rechtvaardigheid;
  • Maatschappelijk en ecologisch welzijn;
  • Verantwoordelijkheid;
  • Respecteren waarden West-Europese democratie
  • Vermijden van machtsconcentratie

Lees meer over de Z-inspection-methode

Uitkomst pilot

In de pilot is een AI-systeem van Provincie Fryslân beoordeeld en geanalyseerd aan de hand van de Z-Inspection-methode. Een internationaal team is vanuit verschillende disciplines met elkaar in gesprek gegaan over kritische vraagstukken, zoals het doel van het algoritme, het ontwikkelproces, ethische dilemma’s en belangenverstrengeling. Het grote belang van deze pilot ligt in de lessen die we eruit halen voor andere AI-trajecten, en voor de toepassing van de Z-Inspection-methode.
De uitkomsten van deze pilot zijn nuttig voor de gehele overheid, omdat we daarmee aan de slag kunnen met betrouwbare AI. Wij delen hier de resultaten en lessen uit de pilot in de hoop het digitale bewustzijn en de dialoog over AI binnen de overheid te stimuleren. En om de technologie met vertrouwen in te kunnen zetten voor de vragen van morgen.

Download resultaten

Meer weten? Dan kun je de resultaten ook downloaden. Vanwege het internationale karakter van de samenwerking zijn deze in het Engels. De resultaten zijn op verzoek ook in het Nederlands te krijgen.

Thrustworthy AI in de praktijk

Met deze pilot hebben we meer bewustzijn kunnen creëren rond de ethische aspecten, en praktijkervaring kunnen opdoen met het beoordelen van algoritmes. De pilot heeft verder vanuit een interdisciplinair assessment een wetenschappelijk advies opgeleverd, en een validatie van  Z-inspection-methode.

Hiermee is een best practice gerealiseerd waarmee de Nederlandse overheid kan inzetten op een betrouwbaar, veilig en uitlegbaar gebruik van AI. Het RIG heeft gecertificeerde Z-inspection teaching experts in huis om hierbij te ondersteunen. Neem contact op als jouw organisatie aan de slag wil met de beoordeling van algoritmes.

In bijgaande film leggen professor dr. Roberto Zicari, Gerard Kemp van Provincie Fryslân en Willy Tadema van Rijks ICT Gilde uit wat het team heeft bereikt met de pilot.

Professor Roberto Zicari (oprichter Z-Inspection initiatief):

Hallo, ik ben professor Roberto Zicari en ik leid het Z-Inspection initiatief. Z-Inspection is een participatief proces om belanghebbenden te helpen de betrouwbaarheid van een AI-systeem in de context te beoordelen. Ons team bestaat uit ongeveer 85 professionals, waaronder onze adviesraad over de hele wereld. De Z-Inspection is, voor zover wij weten, het eerste proces om de betrouwbaarheid van AI in de praktijk te beoordelen. Kunstmatige intelligentie is een alomtegenwoordige technologie die steeds meer in ons leven wordt gebruikt. Het heeft potentie en voordelen op veel gebieden. Zoals in de zorg, de economie en het zou bijvoorbeeld zelfs armoede kunnen terugdringen. De overheid heeft een voorbeeldfunctie en moet belangrijke vragenstukken zoals gelijkheid, verantwoordelijkheid, ethiek en de impact van AI op de samenleving oppakken. De pilot “Assessment for Responsible AI” is een stap in deze richting. De pilot van zes maanden met het Rijks ICT Gilde en de provincie Friesland, samen met het team van onze experts, beoordelen het AI-systeem met behulp van een deep learning algoritme. We hebben veel geleerd in deze use case en we willen graag de kennis en de geleerde lessen met u delen en ervoor zorgen dat het een best practice zal zijn voor toekomstige cases.

Voice-over:

Samen met professor Roberto Zicari en zijn internationale team met AI-experts hebben we voor het eerst binnen de Nederlandse overheid de Z-Inspection methode gebruikt voor het beoordelen van een algoritme. Dit is een belangrijke stap. Als overheid hebben we namelijk een voorbeeldrol. Zo moet het gebruik van artificial intelligence altijd mensgericht zijn en gebaseerd zijn op democratische waarden en rechten. De Z-Inspection methode helpt om stap voor stap de ethische, technische en juridische implicaties van een algoritme te beoordelen. De methode is gebaseerd op de Europese AI-richtlijnen.

Gerard Kema (innovator provincie Friesland):

Bij de provincie Friesland zijn wij steeds op zoek naar nieuwe methodes om onze algoritmes betrouwbaar, veilig en uitlegbaar te maken. Deze pilot biedt ons de mogelijkheid om de dialoog aan te gaan met experts vanuit de verschillende domeinen.

Voice-over:

We hebben een deep learning algoritme van de provincie Friesland onder de loep genomen. Dit algoritme kan door het gebruik van satellietbeelden de biodiversiteit van heidevelden in beeld brengen. Een mooie digitale hulp voor ecologen en natuurbeheerders om de natuurgebieden te monitoren. Maar kunnen we erop vertrouwen dat de uitkomsten van het algoritme betrouwbaar zijn? Hebben we alle risico's in beeld? En welke stappen zou de provincie moeten zetten om het algoritme daadwerkelijk in de praktijk te gebruiken? Vragen die centraal stonden in de beoordeling.

Gerard Kema:

Het algoritme helpt ons naast de fysieke inspectie om ons veel frequenter een beeld te geven over de vergrassing van de heidegebieden.

Voice-over:

De Z-Inspection methode is niet een ‘one size fits all’ aanpak. Een belangrijk onderdeel is dan ook het samenstellen van het audit team. Een verantwoord algoritme moet voldoen aan technische, juridische, ethische en sociale eisen. Deze verschillende zienswijzen en expertises hebben we samengebracht in het team om een goede beoordeling van het algoritme te geven. Deze interdisciplinariteit is één van de belangrijkste aspecten van de aanpak. In plaats van een checklist bepaalt de expertise aan tafel welke vraagstukken centraal staan in de beoordeling.

Willy Tadema (AI Ethics Lead Rijks ICT Gilde):

In de pilot hebben we gekeken naar de technische, juridische, ethische en sociale implicaties van het AI-systeem. We hebben daarbij niet alleen gekeken naar het algoritme, maar naar het hele algoritme systeem, dus ook naar de interacties van het algoritme met zijn omgeving en met de medewerker. Want de medewerker is immers ook onderdeel van het systeem. En we hebben gekeken naar de ethische spanningen. Waar zitten die en hoe worden die geadresseerd? En naar de ethische waarden, hoe die worden vertaald naar technische ontwerpbeslissingen.

Dankzij de pilot hebben we meer bewustzijn kunnen creëren rondom de ethische aspecten van AI. We hebben praktijkervaring kunnen opdoen met het beoordelen van een algoritme. We hebben een casus van de provincie Friesland. Daar hebben we een interdisciplinaire assessment voor kunnen doen en een gemeenschappelijk advies kunnen schrijven. En we hebben een wetenschappelijke methode, de Z-Inspection methode, kunnen valideren binnen de context van de overheid. En dit alles met als doel om te komen tot verantwoorde inzet van algoritmen en AI binnen de Nederlandse overheid. Er komt heel veel op organisaties af als het gaat om algoritmen en artificiële intelligentie.

AI-systemen moeten niet alleen voldoen aan wet- en regelgeving en technisch en organisatorisch robuust zijn. AI-systemen moeten verantwoord zijn en daarvoor moeten ze ook voldoen aan ethische kaders. Maar ja, wat betekent dat nou eigenlijk en wat moet je daarvoor doen? Ethiek is iets wat je niet uit een boekje kan leren. Ethiek is iets wat je moet doen en wat je moet oefenen om er beter in te worden. En daarom waren wij ook heel erg blij met deze pilot. Een prachtige casus van de provincie Friesland en een internationaal en interdisciplinair team van wetenschappers die ieder met hun eigen kennis en met hun eigen perspectieven kwamen. Ik persoonlijk heb ontzettend veel geleerd van deze pilot en ik denk ook dat de Z-Inspection methode een hele waardevolle aanvulling is op de methoden en instrumenten die we al gebruiken binnen de Nederlandse overheid, met name als het gaat om hoog risico algoritmen.

Deelnemende partijen

In de pilot werkten diverse partijen samen. De provincie Fryslân, AI-autoriteit Prof. Dr. Zicari en het Rijks ICT Gilde onderzoeken samen de betrouwbaarheid van AI-toepassingen en het verantwoord gebruik daarvan. Gemeente Leeuwarden, Rijksuniversiteit Groningen/Campus Fryslân en beleidsadviseurs van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties keken mee. Lees onderstaand meer over de deelnemende partijen.

Meer weten?

Heb je vragen over de pilot? Mail naar RIG@Rijksoverheid.nl.