AI-ontwikkelingen uit december 24

Weblogs

Weblogbericht | 13-01-2025 | Rijks ICT Gilde

Ministerie van Binnenlandse Zaken en Koninkrijksrelaties publiceert AI-verordening kennisclips

Het ministerie van BZK heeft een aantal kennisclips over de AI-verordening gepubliceerd. De doelgroep betreft mensen die binnen hun organisatie bezig zijn met de implementatie van de AI-verordening en graag de belangrijkste zaken in een overzicht willen bekijken. De volgende onderwerpen komen aan bod:

De bedoeling van de AI-verordening
De opbouw van de AI-verordening
Wanneer is iets een AI-systeem?
Tijdlijn AI verordening

Waarom is dit belangrijk?

De AI-verordening is de eerste wet specifiek voor AI ter wereld. Deze wet geldt voor de Europese Unie, die per 1 augustus 2024 officieel in werking is getreden. De AI-verordening zal gefaseerd van kracht worden, met verschillende regels voor verschillende risico-categorieën. Het kan voor een organisatie soms een uitdaging zijn om goed in kaart te brengen wat m.b.t. de AI-verordening nu precies nodig is in de komende periode. Het overzicht van BZK biedt handvatten.

Lees hier meer.

Kansen voor autonome AI-agenten

AI-agenten zijn autonome systemen die in staat zijn om hun omgeving waar te nemen, hiervan te leren en daarop te handelen. In het white paper van het World Economic Forum wordt de ontwikkeling van AI-agenten onderzocht. Er wordt geanalyseerd hoe ze verband houden met recente vooruitgangen bij grote taalmodellen en multimodale modellen. Het benadrukt hoe AI-agenten efficiëntie kunnen vergroten in sectoren zoals gezondheidszorg, onderwijs en financiën.

Waarom is dit belangrijk?

Door de kansen en uitdagingen die AI-agenten bieden te begrijpen, kunnen belanghebbenden deze systemen op verantwoorde wijze benutten om innovatie te stimuleren, werkzaamheden te verbeteren en de kwaliteit van leven te verhogen. Tegelijkertijd kan beter worden voorbereid op mogelijk toekomstige risico’s. Dit white paper kan als bron dienen voor iedereen die meer inzicht wil krijgen in dit snel ontwikkelende vakgebied.

Lees hier meer.

AI ‘flops’ uit 2024

AI was overal in 2024. Mede door de snelle ontwikkelingen omtrent generatieve AI leek iedereen geïnteresseerd te zijn in de technologie; er werd zelfs een nobelprijs gewonnen. Toch verliepen niet alle ontwikkelingen vlekkeloos. Generatieve AI maakte massaproductie van content mogelijk, maar leidde tegelijkertijd tot een toename van data van slechte kwaliteit, ook wel ‘AI-slop’ genoemd, wat de prestaties van AI-modellen kan schaden. Er was daarnaast regelmatig sprake van verwarring, waarbij evenementen werden gepromoot met misleidende, door AI gegenereerde beelden. Bovendien kan het per AI-tool verschillen in hoeverre ethische richtlijnen in acht worden genomen, en zorgen deepfake-schandalen en falende AI-chatbots voor verminderd vertrouwen in AI. AI-gadgets hadden geen succes, en AI-zoekoverzichten verspreidden misinformatie.

Waarom is dit belangrijk?

Deze incidenten benadrukken de uitdagingen en risico's van de snelle integratie van AI in onze samenleving. Het is belangrijk bewust te zijn van het feit dat integratie met AI niet altijd de oplossing is en dat toezicht, ethische richtlijnen en duidelijke wet- en regelgeving noodzakelijk zijn. Zonder deze toepassingen kunnen de negatieve gevolgen van AI, zoals verspreiding van misinformatie, privacy schending en bias, groter worden dan de voordelen.

Lees hier meer.

Meer lezen uit december?

Technologie

Big Tech

Maatschappij

Wetenschap

Wet- en regelgeving, beleid en overheid

Meer weblogberichten

Reactie toevoegen

U kunt hier een reactie plaatsen. Ongepaste reacties worden niet geplaatst. Uw reactie mag maximaal 2000 karakters tellen.

Reacties

Er zijn nu geen reacties gepubliceerd.