Gevangen in het algoritme

Je hebt het misschien niet direct door, maar ook jij wordt dagelijks gestuurd en beïnvloed door allerlei algoritmes. Die schoenen die je net nog bekeek op een webshop, hoezo staan die ineens in je tijdlijn? En al klinkt dit misschien onschuldig, de techniek erachter wordt nog veel subtieler en invloedrijker toegepast. Zo ook door de overheid. Tijdens dit evenement bespreken we wat dit voor gevaren met zich meebrengt.

Kunstmatige intelligentie (AI) wordt in steeds meer sectoren toegepast, zo ook bij de overheid. En waar deze techniek eerst met veel optimisme werd onthaald – het zou bijvoorbeeld leiden tot minder seksisme en discriminatie bij personeelswerving – kennen we nu ook de grote keerzijde ervan. De toeslagenaffaire is hier het heftigste voorbeeld van. Zo’n 26.000 gezinnen werden de dupe van een geautomatiseerd systeem dat werkte op basis van AI.

Welke problemen heeft de Nederlandse overheid eigenlijk als het gaat om algoritmegebruik en hoe is dit ontstaan? Wat is er nodig om de situatie te verbeteren? En wat doen we bij de HvA om bij te dragen aan een oplossing? Hier zoomen we vanmiddag op in aan de hand van verschillende perspectieven. Dit doen we met HvA-onderzoeker Ivar Timmer, kunstenaar Tiwanée van der Horst en digitale strateeg Ilyaz Nasrullah. Het gesprek wordt geleid door HvA-onderzoeker en docent Dorien Zandbergen.

PROGRAMMA

• 15:45 – 16:00 Inloop
• 16:00 – 17:00 Programma
• 17:00 – 18:00 Borrel en pizza

Over Dorien Zandbergen

Dorien Zandbergen is gepromoveerd onderzoeker naar de geschiedenis en politiek van de digitale samenleving in de VS en Europa. Ze maakte een documentaire over de ambities van de stad Amsterdam om een Smart City te worden. Als docent en onderzoeker aan de HvA-opleiding Bestuurskunde ontwikkelt ze samen met collega’s en studenten onderwijs over de mate waarin algoritmes, data en digitalisering machtsverhoudingen in de samenleving veranderen.

Over Ivar Timmer

Ivar Timmer is lector Legal Management & Technology bij de HvA en inhoudelijk onderzoekscoördinator van het Legal Tech Lab, onderdeel van het Centre of Expertise Applied Artifical Intelligence. Zijn aandachtsgebieden zijn het (her)ontwerpen van juridische diensten en processen (legal service design), met bijzondere aandacht voor technologie en AI (legal tech) en juridisch risicomanagement. Ook coördineert Ivar een meerjarig onderzoek naar het ontwerp van algoritmen voor de gemeentelijke en provinciale praktijk.

Over Ilyaz Nasrullah

Ilyaz Nasrullah is informaticus en ondersteunt organisaties als digitaal strateeg bij hun digitale innovatie. Ilyaz heeft voor en met startups, corporates, overheden en kennisinstellingen gewerkt, waardoor hij in de volle breedte heeft geleerd wat er nodig is om tot succesvolle digitale innovaties te komen. Ilyaz heeft een column in Trouw, waar hij schrijft over de invloed van digitalisering op de samenleving.

Over Tiwánee van der Horst

Tiwánee van der Horst is onderzoeker bij Hogeschool Rotterdam en heeft een achtergrond in architectuur en beeldende kunst. Binnen de onderzoeksgroepen Artificial Intelligence & Society en Cybersocial Design vraagt ze zich af hoe we onzichtbare relaties tussen technologie, invloed, economie en ethiek beter kunnen begrijpen. Hiervoor maakte ze het boundary object ‘Wie trekt er aan de touwtjes van AI?’. Dit object biedt ondersteuning in gesprekken tussen overheid, bedrijfsleven, onderwijs en wetenschap binnen het onderzoeksprogramma RAAIT.