Opgave AI. De nieuwe systeemtechnologie

Transcriptie podcast WRR over AI

Haroon Sheikh
AI kan echt op ontzettend veel manieren de samenleving veranderen. Dat is precies een van de punten waar ons rapport en onze insteek over gaan.

Voice over
Je hoort de stem van Haroon Sheikh, senior onderzoeker van de WRR, de Wetenschappelijke Raad voor het Regeringsbeleid. Hij is projectcoördinator van het rapport dat de Nederlandse overheid adviseert over hoe we het beste het AI-tijdperk kunnen binnenstappen. AI staat voor artificial intelligence, oftewel kunstmatige intelligentie.

Haroon Sheik
En wij verwachten eigenlijk dat er heel veel onverwachte dingen zullen gebeuren. We hebben we geprobeerd in dit rapport daar een kader voor te bieden. Hoe ga je om met een technologie die eigenlijk inherent zo divers is dat je heel moeilijk kan zeggen wat er precies over 5, 10 jaar gaat gebeuren.

Voice over
Eind 19de eeuw is er met de verbrandingsmotor en de auto ook zo'n systeemtechnologie geïntroduceerd die onze samenleving ingrijpend heeft veranderd.

Voice over
Als Shell in de jaren zestig dit reclameplaatje maakt om de jeugd voor zich te winnen, weten we nog maar half wat die auto met zich meebrengt. Veiligheidsgordels en apk-keuring zijn nog niet bedacht. Snelwegen zullen het aanzien van ons land drastisch gaan veranderen. Die onvoorspelbaarheid van de auto vertoont gelijkenis met die van AI. Maar we kunnen wel leren van wat zich eerder heeft afgespeeld.

Corien Prins
Als je terugkijkt in de geschiedenis, dan zie je dat het over veel bredere kwesties gaat dan alleen de regulering van de technologie zelf.

Voice over
En dit is Corien Prins, voorzitter van de WRR en vanuit de raad eerstverantwoordelijke voor het project over AI en publieke waarden.

Corien Prins
Het ging in het verleden niet alleen over het regelen van de auto: of je in een auto mag rijden, waar die auto moet voldoen. Veel bredere kwesties zijn aan de orde gekomen met de introductie van de auto, zoals waar willen we die snelwegen in ons land leggen? De hele bredere infrastructuur. In feite ook de inrichting van ons land heeft te maken met snelwegen en andere wegen. Als je de vertaling maakt naar AI, zie je ook daar die bredere vraagstukken opkomen. In feite hebben we het over kwesties die onze digitale samenleving aangaan.

Voice over
Het gaat dus niet alleen om het ding zelf, zeg de auto, maar ook om wat het ding teweeg zal brengen in onze samenleving.

Corien Prins
Wij hopen een meerwaarde te kunnen bieden door in dit rapport een stapje terug te doen en de vraag te stellen over wat voor type technologie hebben we het hier en dus te concluderen, terugkijkend ook naar de geschiedenis, dat we het hebben over een bijzondere technologie, een systeemtechnologie. En dat betekent dat we het hier hebben over een technologie die allesomvattend is, die heel veel terreinen raakt en waarvan we eigenlijk niet goed weten hoe het zal gaan de komende jaren, omdat het decennia zal duren voordat die technologie tot volle wasdom komt en in z'n volledigheid in onze samenleving een plekje heeft gevonden.

Corien Prins
Wij stellen vast dat talloze publieke waarden in het geding zullen zijn, geraakt zullen worden, maar tegelijkertijd ook gediend kunnen worden door AI. Ik denk dat dat ook belangrijk is om te benadrukken. AI is risicovol, maar tegelijkertijd liggen er prachtige kansen om publieke waarden te bedienen.

Voice over
Hoe gaan we tegen deze technologie aankijken en welke taken voor de overheid komen daaruit voort? Daar geeft het rapport een antwoord op dat zich concentreert rond vijf opgaven. Dat zijn: 1 demystificatie. Waar hebben we het over? 2: contextualisering. Hoe gaat het werken? 3: engagement. Wie moeten er betrokken zijn? 4: regulering. Wat voor kaders zijn er nodig? En 5 positionering. Hoe verhouden we ons internationaal? Bovendien is er een overkoepelende vraag, een dilemma zelfs, althans, zo lijkt het.

Haroon Sheikh
In de vroege fase van een technologie valt er nog veel te reguleren en aan te passen, maar is er heel veel onduidelijkheid. Hoe gaat die technologie eruit zien? Welk effect gaat het nou eigenlijk precies hebben? Dus je ziet dat dan dat er een neiging is om terughoudend te zijn, van: we weten niet welk effect het gaat hebben. We moeten er ons misschien niet  te veel mee bemoeien. Met tijd zie je dat die effecten duidelijk worden en dat er ook excessen ontstaan. Dat er dan een duidelijke roep komt om regulering. Probleem je dan hebt is dat er al veel beslissingen zijn genomen. Dus dat er al bijvoorbeeld een bepaalde architectuur is, van het internet bijvoorbeeld. Of een manier waarop een auto werkt, dat het heel moeilijk is, een heel duur ook vaak om die beslissingen weer te veranderen. Maar ook dat er allerlei machtsstructuren zijn gecreëerd. Partijen die daar een centrale plek kennen, en dat het dat heel moeilijk is om daar tegenin te gaan.

Haroon Sheikh
Het dilemma geeft dus aan dat het zowel in een vroege fase als in een latere fase van de technologie moeilijk is om het te reguleren. Tegelijkertijd is het wel cruciaal dat dat gebeurt. Regulering is nodig. Al die problemen zorgen er voor gaandeweg dat zo'n technologie allerlei effecten heeft waar de overheid uiteindelijk verantwoordelijk voor is, publieke waarden de overheid dient te borgen.

Haroon Sheikh
En er wordt er nog wel eens gezegd ja, als de overheid zich er mee gaat bemoeien, als je gaat reguleren, dan verhindert dat innovatie. Ik vind dat dat een valse tegenstelling is. Wat we vaak zien, en dat zie je bijvoorbeeld ook in de manier hoe de Europese Unie er naar kijkt, is zorgen dat de technologie veilig is, dat-ie betrouwbaar is. Dat-ie niet op allerlei manieren tot maatschappelijke problemen leidt. Dat zorgt er juist voor dat-ie meer en beter gebruikt kan worden. Het zorgt er juist voor dat uiteindelijk de innovatie versterkt wordt.

Haroon Sheikh
Ook bij de auto: in het begin waren de autofabrikanten faliekant tegen allerlei veiligheidsregels, gordels, de auto wordt te duur. Zo kunnen we hem niet meer productief maken. Uiteindelijk heeft een veiliger auto ervoor gezorgd dat er nu overal auto's kunnen rijden en dat we ook kinderen er in durven zetten. En ook dat meer mensen bereid zijn die auto te kopen. Als het als een onveilig apparaat zou zijn waar je voor moet vrezen als je erin stapt, zou het natuurlijk veel minder economisch levensvatbaar zijn. Dus het idee dat we omwille van innovatie maar niet moeten reguleren, lopen juist het risico dat we een onveilige auto of in dit geval een onveilig AI-systeem de weg op zetten.

Voice over
De overheid ziet zich dus gesteld een rijdende trein in goede banen te leiden, een systeemtechnologie die gelijk de stoommachine, de verbrandingsmotor en elektriciteit zijn invloed in vele sectoren van de maatschappij zal doen gelden. In welke vormen manifesteert AI zich zoal?

Haroon Sheikh
Spraakherkenning is er eentje van en dat kan zowel menselijke spraak zijn, zowel horen als schriftelijk. We hebben dan dus beeldherkenning, dat machine vision wordt genoemd. Daarnaast zijn er ook, iet breder, wat wel voorspelsystemen of machine learning in enge zin wordt genoemd. En dat gaat eigenlijk over allerlei systemen die voorspellingen doen. Denk aan je koopt iets online en je krijgt een voorspelling van wat je misschien hierna wil kopen. Of je kijkt naar een film, en wat dan interessant zou zijn. Allerlei systemen die op basis van bepaald gedrag een voorspelling doen. En tenslotte heb je ook nog AI in robotica en dat voegt eigenlijk nog een fysieke dimensie aan AI toe. Dus dan is het niet alleen maar een robot die in een ruimte beelden kan herkennen, maar ook nog eens het vermogen heeft om zich daar doorheen te navigeren en iets te doen of die in de vorm van een drone bijvoorbeeld ergens naartoe kan vliegen.

Voice over
Welke definitie van AI zou je kunnen hanteren?

Haroon Sheikh
AI heeft heel veel verschillende definities. De meest brede is alles wat met algoritmes te maken heeft. Nou, dat is eigenlijk veel te grof. Want heel veel simpele toepassingen, ook in rekenmachines, werken ook met algoritmes. De meest strenge definitie en zeg maar de ambitie van AI zou zijn het nabootsen van alle menselijke intellectuele vaardigheden. Nou, dat is ook niet heel nuttig, want dat kan AI nog niet. Dus dat zou betekenen dat we helemaal geen AI hebben. In het rapport proberen wij die breedte recht te doen. AI heeft veel te maken met lerende systemen. Dat is een beweging binnen AI die de laatste jaren heel veel ontwikkeling heeft doorgemaakt. Het is een vorm die met grote hoeveelheden data beter en beter in staat is geworden om daar patronen in te herkennen. Dus je zou AI breed kunnen zien als systemen die met een zekere graad van autonomie allerlei zaken kunnen doen, zoals voorspellingen, analyses maken en allerlei menselijke systemen ondersteunen.

Voice over
En als je praat over de graad van autonomie die AI heeft of krijgt, dan kom je op een gevoelig punt. Want tot op welke hoogte staan wij toe dat AI zelfstandig beslissingen neemt?

Haroon Sheikh
De voorstelling is te vaak een soort van 'man versus machine'. Dat is vaak ook een angstbeeld, als meest extreme The Terminator, AI richt zich tegen ons. Maar ook natuurlijk op de arbeidsmarkt. Het gaat ons allemaal vervangen. Wij zijn straks overbodig. Vooralsnog dat lijkt dat helemaal niet het geval te zijn. En ik denk een veel zinvollere manier om er naar te kijken is dus niet mens versus machine, maar mens met machine.

Haroon Sheikh
Dat vraagt wel het nodige van ons. Het betekent ook leren omgaan met die machine. Daar zijn ook al allemaal verschillende ideeën voor. Maar het in ieder geval niet voor te stellen als de vervanging van ons intelligentie, maar misschien eerder als een uitvergroting of in geval het versterken van bepaalde vormen van intelligentie. Want AI kan een heleboel dingen nog niet die wij als mensen wel gemakkelijk kunnen. Dus bepaalde vormen van onze intelligentie kunnen we ermee versterken. En daarmee kunnen we andere dingen gaan doen; kunnen we bedrijfsprocessen, de overheid anders organiseren. Dat is denk ik het vooruitzicht dat AI biedt. En er zijn verschillende manieren om na te denken over hoe die omgang is.

Haroon Sheikh
Er is een soort model van 'human in the loop, on the loep of out of the loop'. Het meest extreme is out of the loop. De mens staat er eigenlijk bij en het algoritme doet alles. Dat is in sommige gevallen ook niet eens zo slecht. Ik bedoel heel veel dingen zoals ons online zoekgedrag en wat daar in gedaan wordt. Daar kunnen mensen allemaal niet bij zijn. Dus dat is in sommige gevallen niet erg dat de mens out of the loop is. Maar als het gaat om zaken die belangrijk zijn voor mensen: beslissingen over of iemand een hypotheek of krijgt, zaken rondom uitkeringen. En belangrijke beslissingen over het publieke ruimte. Dan moeten mensen betrokken zijn. Dat kan doordat een mens in the loop is. En dat betekent eigenlijk: een AI-systeem kan niet iets doen zonder dat de mens ook iets doet. Een algoritme kan een suggestie doen. Kan zeggen nou, ik zou wel of niet dit doen of een advies. Ik zou hier gaan controleren op fraude. Maar de mens moet de beslissing maken om het te doen.

Haroon Sheikh
Een modaliteit waarin de mens iets kleinere rol heeft is, is niet in the loop, maar on the loop. En dan is het systeem eigenlijk wel al zelf in staat om beslissingen uit te voeren, maar heeft de mens altijd het vermogen om in te grijpen of om iets te veranderen als hij de indruk heeft dat er wat misgaat. Nou, dat is een manier om hierover na te denken. Daarmee zijn het zeker nog niet. De vraag is nog altijd: hoe zorgen we ervoor dat de mens betekenisvol in het spel blijft? Het gaat over nadenken over hoe kunnen we mens en machine gezamenlijk organiseren?

Voice over
Haroon Sheikh zei het al: het idee dat AI het langzaam van ons gaat overnemen, is voor sommige mensen een angstbeeld. Aan de andere kant leeft de gedachte dat AI onze grote problemen gaat oplossen, zoals armoede, de gevolgen van klimaatverandering of misschien wel het voorkomen van burgerslachtoffers in een oorlog. Het ligt natuurlijk genuanceerder. AI moet op de juiste waarde worden geschat.

Corien Prins
Waar hebben we het over? Wij zeggen, heel belangrijk om inbedding in onze samenleving handen en voeten te geven, is demystificatie. Over wat voor type technologie hebben we het? In realistische zin, wat vermag deze technologie? Wat kunnen we met deze technologie?

Voice over
Demystificatie is een van de vijf opgaven die volgens de WRR de overheid als haar taak moet rekenen. Doen we dat niet, dan kan dat leiden tot afkeer van AI, waardoor we er niet of onvoldoende de vruchten van kunnen plukken. Hier staat ook het vertrouwen van de burger op het spel. Een goed beeld van wat AI is en niet is, komt ook de kwaliteit van het publieke debat ten goede. Uit de vijf opgaven die je nu hoort, vloeien later in deze podcast elk twee aanbevelingen voort. Maar nu eerst opgave nummer twee.

Haroon Sheikh
De tweede opgave is wat we noemen contextualisering. De vraag die daarbij hoort is: hoe gaat het werken? Waar demystificatie vooral gaat over de beeldvorming, gaat dit meer over de praktijk en technologie kan in abstracto in het lab goed werken. Maar hoe zorg je er voor dat het in een specifieke context gaat werken? En die vraag beantwoorden we door eigenlijk steeds te kijken naar wat is er nou nodig in de omgeving van een technologie, om er voor te zorgen dat het praktisch gaat werken. Dat heeft een technische en een sociale kant. En de technische kant, ik volg het voorbeeld van Corien, denk aan die auto, die verbeterde steeds. Maar wat we ook nodig hadden was een wegennet. En daarnaast hadden we ook tankstations nodig. En dat is precies het complexe hiervan, dus dat je eigenlijk een heel technisch ecosysteem om zo'n technologie heen moet bouwen, ook een sociaal ecosysteem. En dat gaat meer over de vaardigheden die mensen hebben. De manier hoe mensen leren omgaan met die technologie, ook daar is heel veel werk voor nodig. Precies om die reden, dat we dat van tevoren niet weten, duurt het vaak ook langer voordat een technologie ook echt goed gaat werken.

Voice over
Haroon geeft een voorbeeld uit de praktijk. De zelfrijdende auto die zwaar leunt op de mogelijkheden van AI, zoals op het gebied van beeldherkenning en een zelflerend systeem.

Haroon Sheikh
Veel van die bedrijven zijn bezig die auto zelf te verbeteren. Maar als we hier dan specifiek kijken naar contextualisering, die auto's moeten hun omgeving goed kunnen lezen. Hoe ga je dan om met borden die van land tot land een ander karakter hebben of als er plotseling een weg opgebroken wordt en dat met hele andere manieren gebeurt dan wat ergens anders gebeurt. Huidige algoritmes, huidige zelfrijdende auto's zouden daar geen raad mee weten. En misschien zelfs, voor de auto hebben speciale wegen gemaakt, zoals een snelweg. Daardoor kon die auto zo goed functioneren omdat alle andere vervoerspartijen uit het verkeer weggehaald waren. Misschien is dat iets wat voor de zelfrijdende auto ook moet gebeuren. Dat weten we niet, maar in ieder geval de huidige omgeving is er nog niet voor geschikt. En dat is ook niet iets wat die bedrijven zouden kunnen doen, want dat gaat uiteindelijk over de inrichting van de openbare ruimte en daar heeft de overheid een centrale rol in.

Voice over
We schakelen meteen door naar de derde opgave: engagement.

Haroon Sheik
Wie moeten er betrokken zijn? Met een nieuwe technologie, een nieuwe systeemtechnologie zie je altijd dat grote bedrijven er als eerste natuurlijk mee aan de slag gaan Die hebben de mogelijkheden en de middelen om de technologie te gebruiken. Dat geldt ook voor overheden die ook de middelen hebben om de technologie voor hun eigen doelen te gaan toepassen. Het maatschappelijk middenveld blijft daar toch vaak op achter. En om een technologie uiteindelijk toch goed te laten inbedden, is het nodig dat het middenveld zelf ook betrokken raakt bij die technologie. Dat maatschappelijk middenveld heeft haar eigen belangen, heeft haar eigen idealen, visies en allerlei waarden die meer in de technologie opgenomen moeten worden. Om uiteindelijk  echt goeie inbedding mogelijk te maken in de samenleving, is het nodig dat allerlei partijen die zich met de technologie zelf bezighouden, organisaties die rondom AI, en dat geldt bijvoorbeeld ook voor klassieke belangenbehartigers. Organisaties die opkomen voor patiënten, voor mensen in het onderwijs, mensen met lagere inkomens. Alle soorten klassieke belangenbehartigers, langs scheidslijnen in de samenleving of langs allerlei vormen van ongelijkheden. Daarvoor is het nodig dat die partijen versterkt worden, zodat zij hun stem ook kunnen laten horen rondom AI.

Voice over
Zo heeft de Sociaal-Economische Raad al in 2018 een handleiding opgesteld waarmee ondernemingsraden kunnen anticiperen op technologische ontwikkelingen, waaronder ook AI. En bij de laatste verkiezingen heeft ook een andere klassieke stem zich over AI uitgesproken: De Consumentenbond. De bond heeft een manifest opgesteld waarin AI wordt aangekaart. Je hoort woordvoerder Gerard Spierenburg.

Gerard Spierenburg
Wij merken dat consumenten nadelen effecten ervaren van artificial intelligence of algoritmes en dat speelt op verschillende vlakken, bijvoorbeeld op het gebied van hypotheken dat je moeilijker een hypotheek krijgt, dat je een hogere premie betaalt als je bijvoorbeeld in een bepaalde postcode woont of als er andere elementen van je persoonsgegevens zijn: man of vrouw of leeftijdscategorie. Dat zijn allemaal kenmerken op basis waarvan onder andere je premie bepaald wordt, je maandlasten. En dat geldt voor hypotheken, maar ook van verzekeringen. Bij verzekeringen geldt bijvoorbeeld dat als je in een bepaalde postcode woont, je een bepaald type of kleur auto hebt of iets dergelijks, of als je ook een bepaalde leeftijd hebt, dat je meer premie betaalt.

Voice over
De Consumentenbond heeft niet zozeer bezwaar tegen differentiatie in tarieven op zich, maar wel als dat gebeurt op onbekende of mogelijk onjuiste gronden. En dat terwijl mensen daar niet van op de hoogte zijn.

Gerard Spierenburg
Dat is nadelig voor ze. En wij vinden dat daar ten eerste openheid in moet komen, maar ook dat je de mogelijkheid moet krijgen om daartegen in bezwaar te gaan als het niet klopt. En dat er ook toezicht komt, dat de regels worden nageleefd en dat er handhaving op is.

Voice over
Die openheid wordt nagestreefd met de zogenoemde algoritmeregisters die de WRR aanbeveelt en die verderop in deze podcast ter sprake komen. Toevalligerwijs plaatst enkele dagen na het gesprek met Spierenburg KPMG in NRC Handelsblad een advertorial waarin dit accountantskantoor meldt dat het voor het verzekeringswezen een verplicht 'ethisch kader' heeft ontworpen, die uitsluiting van consumenten op basis van AI moet voorkomen. AI wordt naar verluidt gebruikt om de 'verzekerbaarheid' van risico's in kaart te brengen, maar dat mag niet leiden tot een computer die 'nee' zegt.

Voice over
In het rapport benadrukt WRR het belang van engagement. De inbreng die de burger individueel of in groepsverband kan leveren om een AI gestalte te geven die de mens dient. Die stemmen kunnen verschillende karakters hebben van verzet via controle naar samenwerking. De Consumentenbond valt in de categorie controle. De nationale AI-cursus, die als particulier initiatief in 2018 is begonnen, kun je scharen onder de noemer samenwerking of zelfs toeëigening van het fenomeen. Jim Stolze, oprichter van de nationale AI-cursus. Kun je je dat voorstellen?

Jim Stolze
Wow. Nou ja, ik wil het me heel graag kunnen voorstellen. En ik vind eigenlijk dat iedereen dat zou moeten doen. Want inderdaad, dit is een heel ingrijpende technologie en het staat echt nog in de kinderschoenen. Dus het is eigenlijk heel spannend om er bij stil te staan; onze generatie zit nu een beetje aan het roer. Wij zit aan de tekentafel, wij kunnen het vormgeven. Dus ja, ik doe eigenlijk niks anders dan het mezelf voorstellen. En ja, daar word ik dan erg enthousiast van. Het mooie is, ik ben al wat langer geïnteresseerd, zo niet professioneel geobsedeerd door technologie in z'n algemeenheid en AI in het bijzonder. AI sinds 2015 aan een soort opmars begonnen, ook buiten de computerwetenschap zou je kunnen zeggen. Dat steeds meer mensen er over hoorden of er over lazen. En als je niet goed weet wat het is, dan kan je je daar ook best wel door overvallen voelen dat je denkt: oh, maar als een robot dat al kan of als een stukje software dat ook al kan, wat betekent dat wel niet voor mijn werken, of misschien voor de maatschappij. En nou met name journalisten, die gooiden nog wat olie op het vuur, waardoor politici zich genoodzaakt voelen er iets over te zeggen. En voor je het weet loopt die discussie uit de hand zonder dat mensen zich echt hebben ingelezen. En dat was voor mij een reden om niet alleen een boek te schrijven, maar ook om een gratis cursus te beginnen waar in ieder geval feitelijke informatie in wordt ze gedeeld.

Voice over
De Nationale AI-cursus is online, is gratis voor cursisten en duurt zes uur. De cursus wordt gesteund door tal van wetenschappers, organisaties en bedrijven die er hun medewerkers naartoe sturen. Er zijn nu 178.000 diploma's uitgereikt.

Corien Prins
De vierde opgave is regulering. De vraagt die daarbij hoort is: welke kaders stellen we. Kaders in de zin van welke regels, welke normen willen we leidend laten zijn bij de inbedding van deze technologie in onze samenleving? En dan komen er natuurlijk de welbekende vragen op. Moet die technologie dan technologie-afhankelijk worden gereguleerd of juist technologie-onafhankelijk? Moeten we dat nationaal reguleren of internationaal reguleren? En wat wij bij deze vierde opgave vooral bepleiten is dat de regulering breder wordt gezien dan alleen maar regulering van technologie. Dat het veel breder wordt getrokken dan alleen maar losse kwesties die AI aangaan, zoals transparantie, zoals kan een rechtshandeling door een autonoom systeem worden verricht? Wij zeggen: overheid, maak een brede strategische wetgevingsagenda zodat je klaar bent voor de toekomst. Want als je terugkijkt naar het verleden zie je dat zeker waar de regulering betreft, de overheid een steeds belangrijkere rol heeft te spelen.

Haroon Sheikh
De vijfde opgave is wat we noemen positionering, de vraag die daarbij hoort is hoe verhouden we ons tot het buitenland? Op dat internationale toneel gebeurt natuurlijk ook van alles. Er zijn eigenlijk twee grote thema's te identificeren waar positionering over gaat. Het eerste is het verdienenvermogen. Hoe verhouden we ons in de internationale economie? Welke plek willen we daarin vervullen? En ook: hoe gaan we dan om met anderen daarbinnen? Je ziet binnen AI dat er nu heel sterk wordt gesproken van een soort van internationale race waarbij landen met elkaar concurreren om AI. Dat is misschien correct op sommige gebieden. Maar wat wij in het rapport benadrukken is dat we ons verdienvermogen met AI juist zouden kunnen versterken door meer in te zetten op samenwerking. Samenwerkingsverbanden met andere landen. Dat kan gaan van fundamenteel onderzoek tot aan het versterken van bedrijven die er mee bezig zijn, tot aan samenwerken het gebied van regulering van AI zoals nu binnen de Europese Unie bij uitstek gebeurt.

Haroon Sheikh
Het tweede vraagstuk is veiligheid. Ook dat is die internationale dimensie. Hoe zorgen we ervoor dat Nederland veilig blijft en welke dreigingen komen er ook vanuit AI? Je merkt dat de discussie daar heel erg gaat over autonome wapens. Dat is ook een risico. En gelukkig gebeurt er op het nationale toneel ook heel veel om te kijken of we daar regulering en kaders voor kunnen ontwikkelen. Maar ik denk waar nog meer aandacht voor zou moeten zijn de andere manieren waarop AI veiligheid kan beïnvloeden. En dat zijn andere toepassingen in het leger, maar vooral ook AI in de gewone economie en de manier waarop het gebruikt wordt op sociale media platformen, in de opkomst van deep fakes die veelal op AI gestoeld zijn. In het gebruik van sentiment analysis en natural language processing. Allemaal termen van AI die gebruikt wordt in bijvoorbeeld sociale media en daarmee ook veiligheidsrisico's kunnen vormen. En dat is waar de vijfde opgave over gaat.

Voice over
Veiligheid in de digitale wereld kan verbeterd worden met AI, waarin bijvoorbeeld cyberaanvallen en hacks snel kunnen worden gedetecteerd, evenals pogingen tot het verspreiden van desinformatie omtrent maatschappelijke en politieke kwesties. In Nederland en in de rest van de wereld zijn tal van personen en organisaties actief die zich keren tegen autonome wapens. Onder hen bevinden zich bekende wetenschappers en industriëlen, zoals wijlen Stephen Hawking en Elon Musk. In Nederland roert vredesorganisatie PAX zich, evenals de internationale organisatie Wilpf, opgericht in 1915.

Ite van Dijk
Ik ben Ite van Dijk en ik ben actief in Wilpf, dat staat voor de Women's International League for Peace and Freedom, een vredesorganisatie. Waar wij ons tegen verzetten is de ontwikkeling van wapens die kunstmatige intelligentie hebben, wapens die zelf beslissen wat het doel wordt en ook zelf beslissen dat ze geweld inzetten, dus zonder menselijk toezicht. En dat is een ontwikkeling die nu gaande is. Je kan wel zeggen er is een glijdende schaal helemaal naar beneden, waarbij die wapens het overnemen van de mens en dat bedreigt de mensheid naar ons idee.

Ite van Dijk
We hebben vorig jaar alle verkiezingscommissies van de politieke partijen benaderd. Die gingen een programma schrijven voor de verkiezingen van dit jaar en we hebben ze voorgesteld om een verbod op te nemen in het verkiezingsprogramma op dit type wapens.

Interviewer
En is die opzet gelukt?

Ite van Dijk
Ja, er zijn uiteindelijk in zes verkiezingsprogramma's een zin gewijd aan deze wapens. Bij vijf meteen het internationale verbod op deze wapens en één die vraagt aandacht voor de ontwikkeling van deze wapens.

Interviewer
We hebben nog geen regeerakkoord, laat staan een regering. Verwacht je dat die punten in het kabinetsbeleid zullen komen?

Ite van Dijk
Daar zijn we nog niet heel erg optimistisch over, maar we gaan natuurlijk door. Op onze wensenlijst staat dat er campagnes komen om het gevaar van deze wapens, waar ook veel wetenschappers uit de robotica tegen waarschuwen, meer bekend wordt onder de bevolking, onder een breder publiek. En dat kan dan uiteindelijk ook betekenis hebben in de politiek.

Interviewer
En jullie volgen ook de internationale discussie op dit punt?

Ite van Dijk
Ja, in Genève wordt dit jaar uitgebreid gediscussieerd in VN-verband over een internationaal verbod op dodelijke robotwapens. En Nederland neemt daar helaas een heel terughoudend standpunt in. Andere landen zijn er heel erg voor. Oostenrijk loopt voorop en aan het eind van het jaar zullen alle landen die bij een bepaald ontwapeningsverdrag zijn aangesloten, een besluit nemen over of er een verbod komt op de ontwikkeling van dit soort wapens. Het is natuurlijk heel erg belangrijk dat de beslissing over leven en dood niet aan machines of aan algoritmes worden overgelaten. Als de mens het zelf gaat doen, dan is dat minder gevaarlijk omdat men natuurlijk dan makkelijker de mensenrechten in acht kan nemen, het hele oorlogsrecht en het internationale recht. Dat staat dan veel meer op de agenda. En dan kan er niet een algoritme of een machine aan de haal gaan met het vermogen om mensen te doden.

Voice over
En als consequentie daarvan: als er mensen bij betrokken zijn, kun je niet meer de schuld geven aan machines. Het rapport van de WRR bevat de vijf opgaven die je net hebt gehoord. Uit elk van die vijf opgaven vloeien twee aanbevelingen voort, waarvan we er hier enkele globaal en andere 'en detail' zullen bespreken.

Haroon Sheikh
Wat wij in het rapport voorstellen is dat bij elke opgave een overgang of transitie nodig is, een bepaalde richting geven. Wat moet er gebeuren binnen deze opgaven? En onze aanbevelingen voorzien er eigenlijk in om dat concreet handen en voeten te geven. Dus als ik het kort even kan schetsen. Als het hebben over demystificatie, de beelden, dan moeten we het hebben over een overgang van beeld naar begrip. Hoe zorgen dat we van de wilde beelden begrip krijgen van wat AI is?

Voice over
De eerste aanbeveling behelst het opbouwen van kennis, capaciteit en het voorkomen van afhankelijkheid. Verklein de schaal van projecten en verhoog het ambitieniveau. Geef ruimte aan eventuele fouten en leer daarvan in korte evaluatiecycli. Met de tweede aanbeveling wil de WRR de overheid stimuleren het brede publiek te informeren over AI, te beginnen met het opzetten van algoritmeregisters. Wat moeten we ons daarbij voorstellen?

Corien Prins
Het is heel simpel een openbaar register waarin de algoritmen die door de overheid worden ingezet en benut, geregistreerd staan en publiekelijk toegankelijk zijn. En je ziet dat er al initiatieven hiermee worden genomen. De gemeente Amsterdam is er bijvoorbeeld mee bezig. Je kunt burgers alleen maar faciliteren daarop terug te koppelen als ze weet hebben van het feit dat algoritmes worden toegepast.

Voice over
Zo zouden die algoritmeregisters een spil kunnen worden voor de aanbevolen dialoog over AI. Op die dialoog komen we zo terug, nu eerst aanbevelingen die vallen onder de opgave contextualisering.

Corien Prins
Wij zeggen vanuit die opgave contextualisering van techniek naar toepassing en dat betekent dat de omgeving klaargemaakt moet worden voor de inbedding van AI.

Haroon Sheikh
En zoals we met elkaar ook besproken hebben, contextualisering gaat niet alleen over de techniek zelf, maar hoe zorgen we ervoor dat de omgeving gereed is om AI je concreet te laten werken.

Voice over
Dat kun je een Nederlandse AI-identiteit noemen.

Haroon Sheikh
Wat wij bedoelen met AI-identiteit is dat de overheid ook gaat kijken wat voor soort zaken willen we vooral met AI gaan doen? Dat kunnen zaken zijn die voor onze economie cruciaal zijn, maar ook zaken die als maatschappij belangrijke publieke waarden vertegenwoordigen. Het risico is anders dat we daarin niet sterk genoeg worden, of dat er allerlei buitenlandse partijen daar een dominante rol in krijgen.

Voice over
Enkele voorbeelden.

Haroon Sheikh
Denk bijvoorbeeld aan sectoren waar Nederland klassiek sterk in is. De landbouw, maar ook logistiek. Een beweging die we nu al zien is dat er grote Amerikaanse bedrijven technologie aanbieden aan Nederlandse landbouw, maar dat veel van die data bij die Amerikaanse bedrijven zelf terecht komt.

Corien Prins
Heel concreet is een tractor van John Deer die tegenwoordig een iPad op wielen is. Daarmee worden data verzameld en die worden in feite mee de oceaan over genomen om door dat bedrijf John Deer benut te worden om weer allerlei toepassingen hier beschikbaar te maken. En daarmee wordt onze Nederlandse landbouw ook voor AI in de toekomst mogelijkerwijs afhankelijk van buitenlandse partijen.

Haroon Sheikh
We zien het ook in het onderwijs gebeuren. Juist in de coronatijd zijn we enorm gedigitaliseerd in het onderwijs. Dat heeft veel mooie dingen gebracht. Maar wat we tegelijkertijd ook hebben gezien is dat daarmee het Nederlandse onderwijs in toenemende mate in handen is komen te liggen van een aantal grote Amerikaanse Big Tech-bedrijven die het het hele palet van allerlei onderwijsdiensten aan het aanbieden zijn.

Corien Prins
We moeten wat dat betreft echt alert hier op zijn, want anders laten we de kaas van ons brood eten, om in landbouwtermen te blijven spreken.

Voice over
Aanbeveling 4: versterk de vaardigheden en het kritisch vermogen van mensen die met AI-systemen werken en ontwikkel daarvoor een stelsel van opleidingen en certificering.

Haroon Sheikh
Bij engagement hebben we een transitie nodig van monoloog naar dialoog. Hoe zorgen we ervoor dat het niet alleen maar van één kant gestuurd wordt, maar dat er een heel het maatschappelijk middenveld in een dialoog betrokken wordt.

Voice over
Aanbeveling 5: Versterk de capaciteit van maatschappelijke organisaties om hun werk te verbreden naar het digitale domein, in het bijzonder met betrekking tot AI. Aanbeveling 6: Draag zorg voor een goede terugkoppeling tussen de ontwikkelaar van AI, de gebruiker ervan en de personen die er in de praktijk de consequenties van ondervinden.

Haroon Sheikh
Wat je nu ziet is dat veelal de ontwikkeling van AI-systemen gebeurt op een technische afdeling en die vaak fysiek en in werkprocessen gescheiden is van de mensen die er in de praktijk mee werken. Na ontwikkeling van een AI-systeem moet de politieagent ermee aan de slag gaan of moeten doktoren ermee aan de slag gaan. Of docenten. Die mensen in die praktijk hebben zeer waardevolle kennis over wat er in die praktijk gebeurt, kunnen ook hele waardevolle feedback geven over of een systeem wel of niet functioneert. En die hebben dus die domeinkennis die technische ontwikkelaars ontberen. Dat is één kant. Vervolgens zie je ook vaak dat er ook nog eens een keer een burger verderop is die de effecten hiervan ervaart. Dat is de burger die door de politie staande wordt gehouden, dat is de patiënt die door de dokter behandeld wordt, dat is de leerling die door de docent iets geleerd krijgt. Maar ook daarvoor geldt: die hebben belangrijke kennis, inzichten, maar ook belangen en waarden die meer gehoord moeten worden.

Voice over
Aanbeveling 7: Koppel de regulering van AI aan een discussie over de inrichting van de digitale leefomgeving en stel een brede wetgevingsagenda op. Accepteer daarbij dat de inbedding van AI een langdurig en voor een deel onzeker proces zal zijn.

Haroon Sheikh
Regulering is de transitie waar het over hebben. Van reactie naar regie. Er is al regulering, maar die reageert veelal op acute vraagstukken. Hoe kan de overheid die regie, die inrichtingsvraagstukken helder in het vizier krijgen?

Voice over
Aanbeveling 8: Stuur via wetgeving actief op surveillance en dataverzameling, machtsconcentratie en de scheve verhouding tussen publiek en privaat in het digitale domein. De overheid kan gewicht in de schaal leggen met gerichte aanbestedingen. Tevens beveelt de WRR aan actief bij te dragen aan Europese wetgeving

Haroon Sheikh
En tenslotte, op het gebied van positionering gaat het om een transitie van natie naar netwerk. Het afgaan van het beeld 'wij zijn afgesloten van de wereld en daarbuiten zitten onze concurrenten of veiligheidsrisico's'. Nadenken over de manier waarop we als netwerk verbonden zijn met allerlei andere partijen en daarbinnen onszelf positioneren.

Voice over
Aanbeveling 9: Versterk het Nederlands verdienvermogen met een AI-diplomatie die gericht is op internationale samenwerkingsverbanden, in het bijzonder die binnen de Europese Unie.

Haroon Sheikh
Er zijn allerlei vormen waarin we door samenwerking ons verdienvermogen kunnen versterken. Dat kan op heel veel verschillende fronten en dat kan bijvoorbeeld op het gebied van het versterken van samenwerking in fundamentele wetenschap en AI. Er is al bijvoorbeeld Claire. Dat is een samenwerkingsverband van AI-wetenschappers en die hebben hun hoofdkantoor in Den Haag gezet. Maar denk ook aan het ontwikkelen van AI en ook aan AI-gerelateerde technologieën. In Europees verband is er nu bijvoorbeeld het Gaia-X-project, dat gaat over cloud en data-infrastructuur. Dat zijn allerlei vormen die kunnen bijdragen aan de competitiviteit van Nederland in AI. Weer een ander veld: regulering en ook standaardisering binnen EU-verband. De Europese Unie heeft een conceptverordening voor AI en doet daarmee een eerste grote aanzet om AI te reguleren. Nou, dat is een heel breed palet en wat wij voorstellen, met AI-diplomatie is om daar op een geïntegreerde manier naar te kijken.

Corien Prins
En in de voorhoede te zitten. Want als je het expliciteert als AI-diplomatie en je hebt er over nagedacht. Wij constateren toch ook dat er heel veel reactief is. Of: Frankrijk en Duitsland hebben het voortouw al genomen en maanden later komt Nederland nog eens of een jaar later komt Nederland nog eens.

Voice over
Aanbeveling 10: Versterkt de Nederlandse capaciteit tegen de groeiende informatie-oorlog en de export van digitale dictatuur.

Voice over
Hoe urgent is ie voor Nederland?

Corien Prins
Heel urgent. Het oogt misschien niet zo urgent omdat het een technologie is die vanuit het lab naar de samenleving gaat, zoals we in het rapport ook beschrijven. Maar tegelijkertijd zie je dat een aantal landen mondiaal, China, Verenigde Staten en in Europa Frankrijk, Duitsland en het Verenigd Koninkrijk, hier enorm op inzetten. Tegelijkertijd zie je ook dat partijen die inmiddels al een machtspositie hebben verkregen op het terrein van bijvoorbeeld data, grote Amerikaanse techbedrijven,  zich roeren op het terrein van AI. Als wij als Nederland te lang wachten, niet morgen beginnen met veel meer een strategische agenda hoe wij AI willen oppakken, ter hand nemen en dus in lijn met het WRR-rapport de vijf opgaven ter hand nemen, dan haken we af van de kans om nu nog in de voorhoede mee te komen.

Voice over
Uit zich dat ook in de adviesaanvraag op zich?

Corien Prins
Het is een adviesaanvraag van het kabinet. Normaal kijken we als WRR naar de specifieke departementen die de adviesaanvraag ondersteunen. Eén of twee. In dit geval gingen wij dus eerder kijken naar wie heeft dit niet ondertekend dan wie heeft dit wel ondertekend.

Voice over
Het sector- en departementoverstijgende karakter van AI vraagt volgens de WRR om een nieuw orgaan.

Haroon Sheikh
Op dit moment in de tijd vinden we dat het vooral belangrijk is om te beginnen met wat we noemen een AI-coördinatiecentrum. Wat nu vooral nodig is en daar kijken we voor het coördinatiecentrum naar, is in eerste instantie dat er een signaalfunctie wordt vervuld. Dat we zien wat gebeurt er nou eigenlijk met AI op al die fronten? Ook binnen al die ministeries. Hoe zien we wat er daar gebeurt, wat er de voornaamste knelpunten zijn en wat we kunnen leren van elkaar? Het coördinatiecentrum vervult daarnaast ook een kennisfunctie. Hoe kunnen we state-of-the-art kennis ontwikkelen van wat er gebeurt, van wat er in het veld gebeurt, waar de overheid profijt kan doen? Het voorziet ook in wat we noemen een platformfunctie. Maar hoe zorgen ervoor we dat partijen elkaar op de juiste manier kunnen vinden en al hun kennis kunnen uitwisselen?

Voice over
Maar een coördinatiecentrum op zich is nog niet genoeg.

Corien Prins
We hebben in eerdere rapporten al aangegeven dat de WRR het belangrijk vindt dat digitalisering op de politieke agenda staat. Maak het politiek. In feite is het heel opvallend dat zo'n ongelooflijk belangrijke factor in onze samenleving en economie - digitalisering en even specifiek voor dit rapport AI - nauwelijks op de politieke agenda staat. Wij zijn blij als WRR met de nieuwe vaste Kamercommissie Digitale Zaken, maar digitalisering en heel specifiek nu AI vraagt om meer dan dat. Wij bepleiten geen minister voor digitale zaken. Tegelijkertijd zeggen wij wel: die beleidsnfrastructuur op ambtelijk niveau kan alleen maar voldoende integraal werken, voldoende tijdig werken in de zin van snelheid maken op het dossier en voldoende strategisch zijn, als het ook een politieke verankering krijgt. Heel concreet adviseren wij om in een ministeriële onderraad digitalisering op de agenda te hebben. En natuurlijk niet alle kwesties rondom digitalisering, maar wel de kwesties die strategisch voor ons land belangrijk zijn, zowel op nationaal niveau als gerelateerd aan internationale ontwikkelingen. Eerder al adviseerde de Cybersecurityraad om in een ministeriële onderraad cybersecurity te agenderen. Wij adviseren om digitalisering daar breder te agenderen en AI is daar dan een onderdeel van.

Voice over
Dit was een podcast van de WRR. Klik voor het volledige rapport of een samenvatting naar www.wrr.nl. Om geen podcast van de WRR te missen, kun je je abonneren op WRR Vogelvlucht.