Wat brengt 2024 ons op gebied van AI en ICT?
Het nieuwe jaar is gestart. 2023 was het jaar waarin generatieve AI doorbrak bij het grote publiek. Maar welke ontwikkelingen waren nog meer belangrijk? En wat kunnen we verwachten van 2024? Vier consultants van Rijks ICT Gilde delen hun inzichten over het afgelopen en komende jaar.
Eric Wout van der Steen (Tech consultant)
“2023 gaat natuurlijk de boeken in als het jaar van AI. Op gebied van ICT heb ik het dan over tools als Copilot, die ontwikkelaars ondersteunen code te genereren. Voor een gemiddeld overheidsproject heeft dit echter nog weinig impact. We volgen de ontwikkelingen, maar de 'hypetrain’ moet eerst stabiliseren om het goed te kunnen adopteren.
Als ik naar 2024 kijk, dan hebben we dit soort technieken wel nodig, want er wordt steeds meer van ontwikkelaars verwacht. Er moet meer en sneller opgeleverd worden met hoge kwaliteit. En bij de overheid heb je dan ook rekening te houden met overheidsrichtlijnen zoals de WOO (dus Open Source), privacy en beveiliging.
In het hele werkveld loert het gevaar van burn-out, er worden percentages tot wel 84% genoemd. Developer Productivity Engineering (DPE) wordt daarom steeds belangrijker. Dit is een kader dat moet bijdragen aan snellere feedbackcycli, bruikbare inzichten en een betere ervaring voor ontwikkelaars. Het omvat efficiënte CI/CD pipelines, uitgebreide kwaliteitsanalyse en tests en minimaliseren van ‘technical debt’. Maar ook een op maat gemaakte ontwikkelomgeving die nodig is om productief te kunnen zijn.
Dit vereist allemaal aanzienlijke diepte-investeringen (die niet direct waarde toevoegen voor de klant). Toch zou het mooi zijn als er in 2024 ook meer aandacht uitgaat naar groene IT. Software alleen laten draaien wanneer het nodig is kan helpen. Maar ook de code zo te structureren dat deze energie-efficiënt is. Hier komen steeds meer tools voor en deze zouden opgenomen moeten worden in de toolbox van ontwikkelaars.”
Fadoua Sahraou (AI-ethiek consultant)
“Afgelopen jaar ervaarde ik een sterke tweedeling in de discussie over AI en ethiek, met uitgesproken voor- en tegenstanders. Dat bemoeilijkte soms het voeren van een constructieve dialoog en het gezamenlijk boeken van vooruitgang.
De 'hype' rond AI brengt het risico van nuanceverlies met zich mee. In de maatschappelijke discussie miste ik met enige regelmaat een gebalanceerde, brede benadering die nodig is voor een volledig begrip van deze complexe technologie. Vooral bij AI is zo'n benadering cruciaal vanwege de enorme impact op diverse aspecten van ons leven en de ethische vraagstukken. Daarom ben ik trots dat BZK, samen met het Rijks ICT Gilde, deze handschoen oppakte door te werken aan een integrale visie op generatieve AI.
Net als bij de opkomst van het internet brengt AI zorgen over privacy en veiligheid, maar ook unieke uitdagingen door zijn zelflerende karakter. Dit vraagt speciale aandacht en diepgaande reflectie voor het creëren van passende ethische kaders.
In 2024 verwacht ik meer discussies over verschillende visies op AI. Deze verdeeldheid mag echter geen stilstand betekenen. Balans vinden tussen zorg en optimisme is essentieel. Bezorgdheid is begrijpelijk en waardevol. Het stimuleert ons na te denken over de implicaties van AI. Maar het mag niet leiden tot passiviteit. Als AI-ethiek consultant streef ik ernaar diverse perspectieven en expertises samen te brengen en beslissingen aan te moedigen die een inclusieve en ethische toekomst met AI mogelijk maken.
Door open dialogen, samenwerking aan ethische kaders en verantwoorde inzet van AI kunnen we een weg bewandelen die zowel innovatie stimuleert als adequate bescherming biedt.”
Giulia Bössenecker (Strategisch adviseur data & AI)
“De spannendste ontwikkeling van het afgelopen jaar vond ik toch wel de door generatieve AI gegenereerde video toepassingen. Een paar maanden geleden waren we nog ondersteboven van ChatGPT. Nu kun je video’s produceren met één enkele zin als prompt. In mijn opdracht geef ik advies over de kansen en risico’s van generatieve AI. Maar door de snelle ontwikkelingen moet ik regelmatig mijn adviezen bijstellen.
AI-modellen zoals GPT-4 raken zo goed als alle domeinen van onze samenleving. Denk aan toepassingen in de gezondheidszorg, onderwijs en wetenschap. Doordat AI zo bekend én toegankelijk wordt, is het belangrijk de risico’s te onderzoeken en te beperken. Wat dat betreft vind ik de aandacht die naar AI is gegaan in 2023 zeker terecht. Dat heeft geleid tot allerlei initiatieven voor verantwoorde AI-ontwikkeling. Toch mogen we andere technologieën zoals quantum computing niet over het hoofd zien, die ook potentieel revolutionair zijn.
Voor 2024 verwacht ik meer initiatieven rondom verantwoorde ontwikkeling, implementatie en monitoring van (generatieve) AI. Het is een prachtige technologie, maar zonder governance nemen risico’s als bias of desinformatie toe. Er zijn al stappen gezet op richting verantwoorde AI, ook door onze eigen Rijksoverheid. Ik hoop dat dit in 2024 verder vorm krijgt. Daarvoor is het belangrijk dat kennis over de technologie en kennis over beleid worden geïntegreerd, zodat er accuraat kan worden ingespeeld op de nieuwste ontwikkelingen. De kunst is dan om, via beleid, aan de ontwikkelaars van AI eisen te stellen die uitvoerbaar zijn en aansluiten op de kansen en beperkingen van de betreffende technologie. Hier kijk ik naar uit!”
Anuj Gupta (Tech consultant)
“Afgelopen jaar heb ik mij in mijn opdracht veel beziggehouden met ‘datacentrisch beveiligen’. Dat is een moderne benadering van databeveiliging waarbij je de gegevens centraal stelt en je de toegangsbeleid en technische inrichting eromheen bouwt. Ik was lead techneut en heb vanuit een Proof of Concept (POC) perspectief het gebruik van zo’n tool gevalideerd.
Binnen het RIG heb ik een unieke rol. Ik ben ICT’er, manusje van alles, maar ontwikkel zelf niet. Dankzij mijn brede kennis begeleid ik anderen, voer ik regie uit over de uit te voeren (ontwikkel)werkzaamheden en probeer de werkelijke klantbehoefte achter de gestelde vragen te achterhalen. Allemaal op een zo toekomstbestendige manier.
Wat AI betreft: afgelopen 20 jaar heeft AI als ‘hype’ al meerdere keren de revue gepasseerd. Dit keer lijkt het anders. Met de opkomst van Large Language Models (LLM) zoals ChatGPT, verwacht ik dat AI niet meer weg te denken is in zowel ons werk als privéleven, en toegankelijker wordt voor iedereen.
Hoewel er veel gesproken wordt over de voordelen en gevaren van AI, zoals het Terminator-scenario of de impact van deepfakes, wordt er een ding vaak over het hoofd gezien: de impact op het milieu. Een gemiddelde AI-query verbruikt evenveel stroom als een uur lang een ledlamp laten branden.
Een recent onderzoek toonde aan dat programmeertalen sterk variëren in energieverbruik. Python kan bijvoorbeeld 20-50 keer meer energie verbruiken dan Java. Ondanks de nadruk op duurzaamheid bij de overheid, lijkt de impact van technologiekeuzes bij ontwikkelwerkzaamheden vaak over het hoofd te worden gezien.
Wat AI betreft is de geest uit de fles. Ik maak me minder zorgen om een Terminator-scenario, maar wel over de maatschappelijke consequenties, zoals baanverlies zonder vervangend werk en perspectief.”