Tool: AI Fairness 360 (AIF360)

Welke vorm heeft de tool?

De tool is een Python en R package dat gebruikt kan worden om inzicht te geven in de mate waarin ML applicaties voldoen aan verschillende fairness maten en definities

Wat is het doel van de tool?

De tool geeft veel verschillende opties om inzicht te geven in de fairness van een ML applicatie en biedt ook gereedschap om verschillende vormen van bias te verminderen

Voor wie is de tool bedoeld?

ML-engineers

Zijn er speciale vereisten of benodigdheden voor het inzetten of gebruiken van de tool?

Er is kennis nodig van Data Science, iemand moet in Python kunnen programmeren, en men moet zich inlezen in fairness en het AIF360-software pakket en hoe de output uit AIF360 geïnterpreteerd kan worden. Als degene die de informatie ontvangt een eindgebruiker is, zal deze ondersteuning nodig hebben bij de duiding van de informatie die uit AIF360 komt, zeker als deze persoon ook geen achtergrond heeft in data science.

Volwassenheid: is de tool een concept in ontwikkeling, of morgen inzetbaar?

Inzetbaar

Zelfstandigheid: is de tool zelfstandig te gebruiken?

Afhankelijk van of zij de benodigde achtergrondkennis hebben om zich de tool eigen te maken op basis van de beschikbare documentatie.

Bij welke richtlijn uit het RAAIT manifest sluit de tool aan? 

Maak weloverwogen en transparante keuzes; Investeer gericht en neem verantwoordelijkheid.

Bij welk uitgangspunt uit het RAAIT manifest sluit de tool aan?

Eerst de mens, dan de technologie; Gelijke kansen en inclusiviteit; Weeg impact op de korte én lange termijn

Bij welke uitdaging van Responsible Applied AI past de tool?

AI Application (Technology)

Bij welke categorie uit het DOT Framework past de tool?

Lab; Workshop

Tool: Workshop fairness in AI

Welke vorm heeft de tool?

Het is een workshop over fairness in AI met daarin: 1) een korte presentatie over fairness in AI; 2) een notebook om met Fairlearn te experimenteren en 3) een worksheet om te probleem rondom fairness for een specifieke use-case te bespreken

Wat is het doel van de tool?

Het doel van de workshop is om te leren over fairness, mogelijke harms van een ML algoritme. Daarnaast wordt middels een notebook gekeken naar welke aspecten van fairness je kunt meten die je kan meenemen tijdens het ontwikkelproces van ML toepassingen. Tot slot is er ook een discussieactivieit die bedoelt is om te reflecteren op welke notie van “fair” het meest passend is voor de toepassing.

Voor wie is de tool bedoeld?

De workshop is bedoeld voor AI ontwikkelaars of data-scientists (zowel studenten als van organisaties) die meer willen leren over fairness.

Zijn er speciale vereisten of benodigdheden voor het inzetten of gebruiken van de tool?

Benodigdheden voor de workshop zijn: groot vel voor de ice-breaker activiteit, post-its, stiften, uitgeprinte discussietool en begrippenlijst. Daarnaast een facilitator. Voor de deelnemers is minimale programmeervaring (Python) gewenst.

Volwassenheid: is de tool een concept in ontwikkeling, of morgen inzetbaar?

Inzetbaar

Zelfstandigheid: is de tool zelfstandig te gebruiken?

Moderator of begeleiding nodig

Bij welke richtlijn uit het RAAIT manifest sluit de tool aan?

Maak weloverwogen en transparante keuzes

Bij welk uitgangspunt uit het RAAIT manifest sluit de tool aan?

Gelijke kansen en inclusiviteit; Weeg impact op de korte én lange termijn

Bij welke uitdaging van Responsible Applied AI past de tool?

AI Literacy (Use); AI Application (Technology)

Bij welke categorie uit het DOT Framework past de tool?

Workshop