Een verslag van de break-outsessie AI & Ethiek in andere sectoren – onderdeel van de RAAIT-programmering op de Dutch Media Week
Spreker #1 – Joffrey Hoijer
Joffrey Hoijer (Merkle, Brightvibes) is betrokken bij veel campagnes waar AI een rol in speelt. Maar, zoals hij benadrukt, het start met het inhoudelijke verhaal. Bijvoorbeeld het verhaal van Bas Timmer met zijn missie om daklozen te helpen. Hij ontwikkelde de Sheltersuit: een jas die ook als slaapzak kan dienen. Het verhaal van Bas bereikte meer dan zeven miljoen mensen in één week. Het gaat om echte betrokkenheid, aldus Joffrey, zo sliep Bas ook zelf tussen de daklozen om zelf te ervaren hoe het is om op straat te slapen.
Joffrey vervolgt hoe de geschiedenis zich herhaalt. We gaan naar een nieuwe wereldorde, net zoals honderden jaren geleden. De wereldmacht van Frankrijk ging over naar Engeland die vervolgens werd ingehaald door de Verenigde Staten. En die worden op hun beurt ingehaald door China en India. We bewegen naar een nieuwe wereldorde toe, maar moeten eerst door crises van oorlog, schuld en pandemie heen.
Er zijn tegelijkertijd zoveel trends tegelijk gaande. Van AI voor & door iedereen en nieuwe generatie hardware tot decentralisatie van het internet. Er zijn drie achterliggende trends te onderscheiden:
- Er is groeiende aandacht en wetgeving rondom ethiek en de impact op welzijn.
- AI biedt het vermogen slimmer te modelleren, simuleren, autonomiseren en automatiseren om bereik en conversie te optimaliseren.
- We moeten meer kwalitatieve en unbiased data verkrijgen als voorwaarde voor AI
Uiteindelijk gaat het om verantwoordelijkheid te nemen. Wat is de sociale impact van AI, de impact op duurzaamheid? We kunnen autonoom busjes laten rondrijden, maar hoeveel processor kracht kost dit? Daarnaast is de grote uitdaging dat we fundamenteel anders moeten gaan denken over hoe met wie we samen werken om bij te dragen aan maatschappelijk welzijn.
Spreker #2 – Miguel Faase
Miguel Faase, consultant bij CGI, vervolgt de sessie met een toelichting over de black box in biasvorming in AI. Hij legt uit hoe neurale netwerken de basis vormen voor AI en hoe de huidige computionele AI leert van data. Relaties in data worden gevormd bij de zogeheten ‘hidden layers’. En hiervoor geldt: hoe meer lagen en des te groter het netwerk, des te groter de voorspellende kracht van het model. Met dit soort modellen is uitleggen wat er binnen het systeem gebeurt en hoe zwaar bepaalde data wegen, eigenlijk niet te doen. Semantisch begrip hierover is een illusie. De opkomst van zogeheten ’transformer’ modellen en de sterk toegenomen computing power hebben AI in een stroomversnelling gebracht de afgelopen jaren.
Maar bias in deze systemen is alom vertegenwoordigd. Miguel laat zien hoe je zelf kunt testen welke bias er zit in een systeem. Via de website www.huggingface.com kunnen ontwikkelaars hun modellen aanbieden om te laten testen door gebruikers. Met het model Roberta kun je bijvoorbeeld zelf zien hoe de gender bias werkt in het model. Wat daarnaast een rol gaat spelen, is dat veel content die nu beschikbaar komt gegenereerd is door AI. Het is nog onduidelijk wat dat gaat doen met de voorspellende kracht van de modellen. Gecureerde content wordt steeds belangrijker. Ook blockchain oplossingen kunnen hier een uitkomst in bieden om de provenance van data zichtbaar te maken. Miguel sluit af door te stellen dat AI niet de toekomst voorspelt maar het verleden encodeert.
Spel Make Me Think
We sluiten de sessie af met het spel Make Me Think. In drie groepen gaan we aan de slag met enkele praktische stellingen. Stel je voor: op het perron van een groot station staat een reclamezuil met sensoren. Als er iemand met overgewicht langs loopt, toont de zuil een advertentie voor dieetproducten. Is dat acceptabel? Of juist niet? Het spel maakt de deelnemers bewust van dergelijke ethische dilemma’s over technologie via een fysiek bordspel.