‘We gaan nu met AI de verkeerde kant op’

Veel mensen denken dat het zo’n vaart niet zal lopen met AI. Maar ís dat wel zo?

De impact van AI op ons leven is véél groter dan we denken. Degenen die zich al bewust zijn van het feit dat Netflix, Google en ChatGPT allemaal AI gebruiken, realiseren zich vaak niet dat onder de oppervlakte banken, verzekeraars, netwerkbeheerders en telecom allemaal ook al AI aan het inzetten zijn.

Doordat ik met al deze partijen in gesprek ging over de verantwoorde inzet van AI, besefte ik pas echt hoe groot de impact is. We zijn nu vooral bezig met ‘wat betekent AI voor mij binnen mijn vakgebied’. Daardoor missen we het grote plaatje.

AI is fantastisch, maar het brengt ook problemen met zich mee. Als we doorgaan zoals we dat nu doen, gewoon de technologie zijn gang laten gaan, dan gaan we met AI de verkeerde kant op.

Problemen? De verkeerde kant op? Vertel…

In mijn boek schets ik dat AI bestaande problemen kan uitvergroten en nieuwe problemen introduceert. De zelfstandigheid van AI roept vragen op: wie is straks verantwoordelijk voor fouten? Maar ook afhankelijkheid van AI is een probleem. Wat als je zo ingesteld bent op technologie dat je zonder je werk niet meer kunt doen? Dat maakt kwetsbaar. Daarnaast vergroot AI de reeds bestaande ongelijkheid, omdat het op data uit het verleden wordt getraind en niet iedereen een stem heeft in hoe het wordt ingezet.

Vanuit het grotere plaatje zie ik twee zorgelijke ontwikkelingen: ongelijkheid die gaat toenemen en een verschuiving van de macht. Het meest exemplarisch zijn de Amerikaanse big tech-bedrijven die het daar voor het zeggen hebben. De winsten zijn gigantisch. Maar wordt de levensstandaard van de gemiddelde Amerikaan beter? Het antwoord is nee. Er is twee keer zoveel kinderarmoede in de VS dan in buurland Canada.

Ben je nu niet veel te sceptisch? AI lost toch ook problemen op?

Ik ben niet anti-AI hoor. AI biedt zeker veel kansen. Het is een hypereffectieve voorspelmachine. Zo kan AI nauwkeurig voorspellen of een medische behandeling aanslaat. Wat AI alleen níet kan is vertellen wie de behandeling zou moeten krijgen en op welke gronden.

AI kan vertellen hoe de wereld was. Misschien hoe de wereld ís. Maar niet hoe de wereld zou moeten zijn. Het is belangrijk dat we die rol van de mens, in het afwegen en alle ervaring en domeinkennis die dat vraagt, scherp voor ogen houden. Daarmee kunnen we zorgvuldige afwegingen maken rond onrechtvaardigheden uit het verleden die in onze data zitten, de zogeheten bias.

Kun je een voorbeeld noemen van zo’n bias?

Dan denk ik meteen aan Amazon. Amazon ontwikkelde een systeem dat automatisch cv’s en motivatiebrieven filterde op de meest geschikte kandidaten voor een functie. Het baseerde zich daarbij op de data van de afgelopen tien jaar van de cv’s van de medewerkers die succesvol waren in hun functie.

In het verleden waren er weinig vrouwen aangenomen op technische functies. Onbedoeld nam het systeem aan dat vrouwen minder geschikt waren. Stond dat in de trainingsinstructies? Nee, zeker niet. Maar zelfs zonder ‘geslacht’ als variabele mee te nemen in de data vond het toch dit patroon. Gewoon de data weglaten, ook bekend als fairness through unawareness, werkt dus niet. We moeten actief nadenken over wat we gerechtvaardigd onderscheid vinden in de systemen die we gebruiken.

Wat kunnen we doen om AI wél in goede banen te leiden?

Er is heel veel wat we kunnen doen. Dat begint bij het besef dat de weg waarlangs AI ons leven beïnvloedt, via alle organisaties is die AI nu gaan inzetten. We zien die omgeving waarbinnen AI wordt ingezet vaak over het hoofd, terwijl daar veel te winnen valt. Wat wil je als organisatie uitdragen? Waar sta je voor? Welke menselijke waarden zijn belangrijk?

Ontwikkel een ethisch kompas en een ethische infrastructuur waarbinnen AI gebruikt wordt. Als we samen deze switch maken, komen er ineens ook nieuwe oplossingsrichtingen. Ik zeg met opzet sámen. AI gaat ons allemaal aan, durf zelf ook vragen te stellen. Bij je werkgever, de bank waarbij je klant bent en ga zo maar door.

Het is geen geheim dat we in Europa achterlopen met AI. Maken we dit gat niet nóg groter door het braafste jongetje van de klas te willen zijn?

Mensen zeggen me regelmatig: waarom zouden we met ethiek bezig blijven als ze dat in de VS en China toch aan hun laars lappen. Straks lopen we nóg meer achter. Ik denk dat we eerst een stap terug moeten zetten: wat wíllen we eigenlijk voor toekomst als samenleving?

Willen we groeien om het groeien? Ecologisch filosoof Edward Abbey verwoordt dat mooi: groeien om het groeien is de mentaliteit van een kankercel. Economische groei moet ergens van ten dienste staan. Wie profiteert van AI? In de huidige lijn merkt de samenleving, mensen zoals jij en ik, daar weinig van. Het zijn vooral de grote spelers die erop vooruit lijken te gaan.

Als we zo doorgaan en onze ogen hiervoor blijven sluiten, betekent deze ogenschijnlijke vooruitgang in werkelijkheid alleen maar achteruitgang. Daarom zeg ik: ja, we moeten wél wat doen.

Hoe zie jij dat over twee jaar?

Dat ligt eraan hoe we dit vraagstuk oppakken. Doen we niks? Dan gaan de problemen zich snel opstapelen: een achterhaald onderwijssysteem, een verstoorde arbeidsmarkt, meer verdeeldheid in de samenleving en bedrijven en overheden die beslissingen nemen op basis van systemen waar burgers en consumenten niets over te zeggen hebben.

Oké, ik snap dat dit deprimerend klinkt. We kunnen natuurlijk wél wat doen. De sleutel ligt in een andere zienswijze op AI: niet als geweldige technische oplossing maar als serieuze maatschappelijke uitdaging. Vanuit die gedachte moeten we niet alleen kijken naar de technologie, maar het systeem waarbinnen we die technologie inzetten. We moeten ons rechtsysteem herzien, ons onderwijs herzien, onze economie herzien, enzovoort. In al die domeinen moeten we opnieuw nadenken hoe we van de kunstmatige toekomst een menswaardige toekomst maken.

Als we daar nú mee beginnen, creëren we een samenleving die meebeweegt. Zo kunnen we profiteren van de waanzinnige voordelen van AI en de bijhorende risico’s afvangen. En nogmaals, je hoeft geen ontwikkelaar te zijn om hieraan bij te dragen. Iedereen kan dit op de agenda zetten.