Pattern Library voor ontwerpen uitlegbare AI-systemen
Een dashboard. Het biedt prototypische voorbeelden die gebruikt kunnen worden om uitlegbare AI-systemen vorm te geven. Er zijn meerdere manieren om feature importance, counterfactuals, contrastive / similar examples, en rule-based explanations vorm te geven.
Henry Maathuis
Henry Maathuis
Extra informatie
Welke vorm heeft de tool?
Een dashboard
Zijn er speciale vereisten of benodigdheden voor het inzetten of gebruiken van de tool?
De website biedt verdere context
Volwassenheid: is de tool een concept in ontwikkeling, of morgen inzetbaar?
Inzetbaar
Zelfstandigheid: is de tool zelfstandig te gebruiken?
Moderator of begeleider nodig
Bij welke richtlijn uit het RAAIT manifest sluit de tool aan?
Maak weloverwogen en transparante keuzes
Bij welk uitgangspunt uit het RAAIT manifest sluit de tool aan?
Eerst de mens, dan de technologie; Leg regie én verantwoordelijkheid bij de mens
Bij welke uitdaging van Responsible Applied AI past de tool?
AI Application (Design)
Bij welke categorie uit het DOT Framework past de tool?
Field
Gebruikservaring: Kun je vertellen hoe je de tool in de praktijk gebruikt hebt, en met welk doel? Wat beviel er, en wat heb je ervan geleerd?
Wetenschappelijke publicatie
Kim, J., Maathuis, H., van Montfort, K., & Sent, D. (2024, June). Identifying XAI user needs: gaps between literature and use cases in the financial sector. In HHAI-WS 2024: Workshops at the Third International Conference on Hybrid Human-Artificial Intelligence (HHAI) (pp. 221-227). https://ceur-ws.org/Vol-3825/short6-6.pdf
Kim, J., Maathuis, H., & Sent, D. (2024). Human-centered evaluation of explainable AI applications: a systematic review. Frontiers in Artificial Intelligence, 7, 1456486. https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2024.1456486/pdf