Hogeschool Utrecht is gestart met een nieuw onderzoeksproject: ‘Van Responsible AI naar Explainable AI bij het begrijpen van het online publieke debat’. Dit project richt zich op het begrijpelijk maken van AI-toepassingen in het publieke debat en speelt in op de groeiende behoefte aan transparantie en uitlegbaarheid in kunstmatige intelligentie. Het onderzoek sluit aan bij het centrale thema van RAAIT en bouwt voort op het eerdere BEP27-onderzoek, waarbij de focus lag op het signaleren van maatschappelijke kwesties in online discussies.
Van signalering naar begrip
Het nieuwe project gaat verder dan het signaleren van maatschappelijke vraagstukken. In plaats van alleen te kijken naar welke onderwerpen opkomen in onlinedebatten, richt het zich nu op het begrijpen van de werking van de AI-systemen die deze signalen genereren. Het doel is om niet alleen de uitkomsten van AI-analyses te tonen, maar ook inzicht te geven in de processen die tot deze resultaten leiden. Dit maakt het voor communicatieprofessionals mogelijk om niet alleen op de juiste manier te reageren op het publieke debat, maar dit ook te doen op een verantwoorde en transparante manier. Met een beter begrip van hoe AI hen helpt bij het analyseren van maatschappelijke kwesties, kunnen ze de technologie effectiever inzetten.
Nieuwe focus: Explainable AI
In het vervolg op het eerdere BEP27-project verschuift de focus hier van Responsible AI naar Explainable AI. Het is niet alleen belangrijk dat AI op een verantwoorde manier wordt ingezet, maar ook dat het duidelijk is hoe een AI-systeem tot zijn conclusies komt. Begrijpelijkheid, uitlegbaarheid en transparantie staan hierbij centraal. Dit is cruciaal, omdat AI steeds vaker invloed heeft op hoe organisaties reageren op maatschappelijke signalen. In het publieke domein, waar men vaak werkt met gevoelige thema’s, is het essentieel dat gebruikers begrijpen hoe en waarom bepaalde resultaten zijn ontstaan, in plaats van blindelings te vertrouwen op de technologie. Het project richt zich daarom op het ontwikkelen van een reflexieve leeromgeving, waarin mens en AI samenwerken. De AI ondersteunt het analyseren van online gesprekken, terwijl de mens leert hoe deze analyses tot stand komen en hoe ze deze op een verantwoorde manier kunnen interpreteren en gebruiken.
Doelen en opbrengsten
Het onderzoek heeft meerdere doelen:
- Het ontwikkelen van tools en methodieken waarmee AI-analyses niet alleen resultaten tonen, maar ook inzicht geven in hun werking.
- Het versterken van het kritisch denkvermogen van communicatieprofessionals in hun omgang met AI.
- Het bijdragen aan de verdere integratie van Explainable AI binnen publieke en maatschappelijke sectoren.
- De resultaten van het onderzoek worden vertaald naar praktische toepassingen, zoals data-gedreven leeromgevingen en tools.
Wie werken eraan mee?
Het project wordt uitgevoerd door Annette Klarenbeek en Tim de Winkel, beiden verbonden aan het lectoraat Sociale Interactie in de Publieke Ruimte van Hogeschool Utrecht. Zij waren eerder ook verantwoordelijk voor het BEP27-project en combineren expertise op het gebied van communicatie, technologie en maatschappelijke vraagstukken.
Hun onderzoek is gericht op de interactie tussen technologie en publieke ruimte, waarbij zij zich richten op hoe AI ingezet kan worden om maatschappelijke discussies beter te begrijpen en daar verantwoord op te reageren.
Een logische stap binnen Responsible AI
Binnen het bredere kader van Responsible AI is uitlegbaarheid (Explainability) een essentiële pijler. Veel AI-systemen functioneren als zogeheten “black boxes”: ze geven uitkomsten zonder inzicht te bieden in het hoe en waarom van die uitkomsten. Dit project draagt bij aan het doorbreken van die ondoorzichtigheid en stimuleert transparantie, controleerbaarheid en kritisch gebruik van AI. Door AI begrijpelijker te maken, wordt het niet alleen toegankelijker, maar kan het ook op een meer verantwoorde en geïnformeerde manier worden ingezet binnen de maatschappij.