Tool: Pattern Library voor ontwerpen uitlegbare AI-systemen
Welke vorm heeft de tool?
Een dashboard
Wat is het doel van de tool?
Het biedt prototypische voorbeelden die gebruikt kunnen worden om uitlegbare AI-systemen vorm te geven. Er zijn meerdere manieren om feature importance, counterfactuals, contrastive / similar examples, en rule-based explanations vorm te geven.
Voor wie is de tool bedoeld?
Ontwerpers en ontwikkelaars van AI-systemen
Zijn er speciale vereisten of benodigdheden voor het inzetten of gebruiken van de tool?
De website biedt verdere context
Volwassenheid: is de tool een concept in ontwikkeling, of morgen inzetbaar?
Inzetbaar
Zelfstandigheid: is de tool zelfstandig te gebruiken?
Moderator of begeleider nodig
Bij welke richtlijn uit het RAAIT manifest sluit de tool aan?
Maak weloverwogen en transparante keuzes
Bij welk uitgangspunt uit het RAAIT manifest sluit de tool aan?
Eerst de mens, dan de technologie; Leg regie én verantwoordelijkheid bij de mens
Bij welke uitdaging van Responsible Applied AI past de tool?
AI Application (Design)
Bij welke categorie uit het DOT Framework past de tool?
Field
https://explainable-ai.nl/finance/prototypes.html
Maker
Henry Maathuis
Contactpersoon van de tool
Henry Maathuis: henry.maathuis@hu.nl
Wetenschappelijke publicatie
Kim, J., Maathuis, H., van Montfort, K., & Sent, D. (2024, June). Identifying XAI user needs: gaps between literature and use cases in the financial sector. In HHAI-WS 2024: Workshops at the Third International Conference on Hybrid Human-Artificial Intelligence (HHAI) (pp. 221-227). https://ceur-ws.org/Vol-3825/short6-6.pdf
Kim, J., Maathuis, H., & Sent, D. (2024). Human-centered evaluation of explainable AI applications: a systematic review. Frontiers in Artificial Intelligence, 7, 1456486. https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2024.1456486/pdf