AI van repliek gediend?

Op een steeds groter aantal terreinen in de samenleving wordt artificiële intelligentie (AI) ingezet. Enkele voorbeelden zijn Netflix, gezichtsherkenning, surveillance en autonome beslissystemen. Bij dit gebruik komen regelmatig problemen naar voren. Wereldwijd trekken maatschappelijke organisaties zich die problemen aan en zijn kritisch op de ontwikkeling van AI. Hoe is de situatie in Nederland? In het Working Paper (WP) AI van repliek gediend? Een verkenning van tegenmacht vanuit maatschappelijke organisaties concludeert Monique Steijns dat er in Nederland enige tegenmacht wordt geboden, maar er is meer nodig.

cover van WP Ai van repliek gediend
©WRR

Het WP is geschreven door Monique Steijns, in samenwerking met het lectoraat Toegang tot het Recht, Hogeschool Utrecht. In het WP wordt op basis van interviews verkend hoe verschillende categorieën maatschappelijke organisaties in Nederland zich verhouden tot de problemen die artificiële intelligentie (AI) met zich meebrengt, zoals discriminatie en uitsluiting.

Bewustwording en samenwerking

In het WP wordt een duidelijke oproep aan de overheid gedaan. Zorg voor meer bewustwording bij traditionele maatschappelijke organisaties, zorg voor samenwerking tussen verschillende typen maatschappelijke organisaties, en bied als overheid ondersteuning hierbij. In Nederland zie je momenteel een gemengd beeld: sommige maatschappelijke organisaties ontplooien initiatieven en activiteiten en stimuleren ontwikkelingen die tegenmacht vormen, terwijl andere maatschappelijke organisaties dat niet doen.

Technologische transitie

Om inzicht te krijgen in de posities die maatschappelijke organisaties kunnen innemen ten opzichte van een nieuwe technologie als AI, is gekeken naar drie eerdere periodes waarin zich een technologische transitie voordeed: de industriële revolutie, de opkomst van kernenergie en de opkomst van het internet. Op basis daarvan onderscheidt Steijns verschillende componenten die vorm kunnen geven aan de tegenmacht bij AI. Deze componenten zijn onder te brengen in drie verschillende clusters, namelijk 1) verzet & protest, 2) meebewegen, meedenken & bijsturen en 3) confronteren & controleren. Daarnaast is gekeken naar ontwikkelingen die bijdragen aan de wijze waarop tegenmacht vorm krijgt. Vervolgens werd bij drie typen maatschappelijke organisaties onderzocht of deze tegenmacht bieden aan AI.

Drempels en kansen

Vooral de mensenrechtenorganisaties en de digitalerechten- en privacyorganisaties zitten redelijk goed in de materie waar het AI betreft. Dit is anders bij de traditionele maatschappelijke organisaties, die AI nog niet goed op het netvlies hebben. Tegelijkertijd zijn er zowel drempels als kansen om tegenmacht bij maatschappelijke organisaties te versterken. Voor deze kansen formuleren we een aantal aandachtspunten en suggesties die zowel gericht zijn aan de maatschappelijke organisaties als aan de overheid en de uitvoeringsorganisaties die gebruik maken van AI-toepassingen. Rode draad is meer bewustwording, meer samenwerking en een structurele ondersteuning van deze processen door de overheid.

Artificiële Intelligentie

Deze deelstudie is uitgevoerd binnen het adviesproject ‘Artificiële Intelligentie’. Doel van dit project is om zicht te krijgen op de impact die AI zal hebben op de Nederlandse samenleving, met name op de langere termijn.