Algorithmic Fairness
Algorithmic Fairness
Einleitung
Was bedeutet Algorithmic Fairness – und warum ist sie in der heutigen digitalen Welt so wichtig? Algorithmen steuern Suchmaschinen, entscheiden über Kreditvergaben oder beeinflussen unsere sozialen Netzwerke. Doch sind sie wirklich neutral? Dieser aiMOOC erklärt Dir, was hinter dem Begriff steckt, wie Fairness in der KI erreicht werden kann – und welche ethischen Herausforderungen dabei entstehen. Du wirst lernen, wie Algorithmen Diskriminierung verursachen können und welche Konzepte zur Gerechtigkeit es gibt, um sie fairer zu gestalten.
Was ist Algorithmic Fairness?
Definition und Bedeutung
Algorithmic Fairness beschreibt das Ziel, algorithmische Systeme so zu gestalten, dass sie keine systematische Benachteiligung bestimmter Gruppen verursachen. Besonders in Bereichen wie Personalwesen, Justiz, Gesundheitswesen oder Bildungswesen ist Fairness entscheidend.
Ein Algorithmus gilt als unfair, wenn seine Entscheidungen diskriminierende Auswirkungen haben – z.B. weil er auf verzerrten Datensätzen trainiert wurde oder bestimmte soziodemografische Merkmale berücksichtigt.
Formen von Diskriminierung
- Direkte Diskriminierung: Wenn sensible Merkmale wie Geschlecht, Alter oder Ethnizität direkt in Entscheidungen einfließen.
- Indirekte Diskriminierung: Wenn scheinbar neutrale Merkmale stark mit sensiblen Merkmalen korrelieren.
- Strukturelle Diskriminierung: Wenn Algorithmen bestehende gesellschaftliche Ungleichheiten verstärken.
Fairness-Kriterien
Es gibt verschiedene mathematische Konzepte zur Messung von Fairness:
- Demographic Parity: Die Entscheidung sollte unabhängig vom sensiblen Attribut sein.
- Equalized Odds: Fehlerquoten sollten für alle Gruppen gleich sein.
- Predictive Parity: Vorhersagen sollten für alle Gruppen gleich zuverlässig sein.
- Individual Fairness: Ähnliche Individuen sollten gleich behandelt werden.
Herausforderungen bei der Umsetzung
- Datensatz-Bias: Verzerrte Daten führen zu verzerrten Modellen.
- Zielkonflikte: Fairness kann im Konflikt mit Genauigkeit stehen.
- Transparenz und Erklärbarkeit: Viele Algorithmen sind Black Boxes.
- Normative Entscheidungen: Was ist „gerecht“? Dies ist oft eine Wertfrage.
Lösungen und Maßnahmen
- Fairness-aware Machine Learning: Algorithmen, die Fairness-Kriterien explizit berücksichtigen.
- Auditierung und Monitoring: Regelmäßige Überprüfung von Algorithmen.
- Diversität in Entwicklungsteams: Unterschiedliche Perspektiven reduzieren Blindspots.
- Regulierung: Gesetze wie die EU KI-Verordnung helfen, Standards zu setzen.
Interaktive Aufgaben
Quiz: Teste Dein Wissen
Was beschreibt Algorithmic Fairness? (Das Ziel, algorithmische Entscheidungen gerecht und diskriminierungsfrei zu gestalten.) (!Die Fähigkeit eines Algorithmus, schnell zu rechnen.) (!Die maximale Genauigkeit eines Modells.) (!Ein Verfahren zur Datenspeicherung.)
Was versteht man unter direkter Diskriminierung? (Wenn sensible Merkmale wie Ethnizität direkt berücksichtigt werden.) (!Wenn ein Algorithmus auf veralteten Daten basiert.) (!Wenn alle Daten gleich behandelt werden.) (!Wenn keine Daten verwendet werden.)
Was ist das Ziel von Equalized Odds? (Fehlerquoten sollen für alle Gruppen gleich sein.) (!Alle Gruppen sollen dieselben Daten erhalten.) (!Alle Individuen sollen gleich behandelt werden.) (!Nur nicht-sensible Merkmale sollen verwendet werden.)
Was ist ein Nachteil von Black-Box-Modellen? (Sie sind schwer zu erklären und intransparent.) (!Sie sind zu langsam.) (!Sie basieren auf Handarbeit.) (!Sie verwenden keine KI.)
Wodurch kann strukturelle Diskriminierung entstehen? (Durch Verstärkung gesellschaftlicher Ungleichheiten.) (!Durch zufällige Fehler.) (!Durch individuelle Fairness.) (!Durch fehlende Daten.)
Was ist Individual Fairness? (Ähnliche Individuen sollen gleich behandelt werden.) (!Alle Gruppen sollen gleiche Fehlerquoten haben.) (!Daten sollen gleichmäßig verteilt sein.) (!Sensible Merkmale sollen nicht verwendet werden.)
Welcher Begriff bezeichnet ein mathematisches Fairness-Kriterium? (Demographic Parity) (!Datensatz Bias) (!Black Box) (!Künstliche Intelligenz)
Was kann Fairness in einem Algorithmus beeinträchtigen? (Verzerrte Trainingsdaten) (!Geringe Datenmenge) (!Transparente Modelle) (!Kurze Laufzeiten)
Warum ist Diversität in Entwicklerteams wichtig? (Um unterschiedliche Perspektiven und Bias zu berücksichtigen.) (!Weil diverse Teams schneller programmieren.) (!Weil KI nur mit Diversität funktioniert.) (!Weil Algorithmen sonst nicht starten.)
Welche Rolle spielt Regulierung bei Fairness? (Sie schafft rechtliche Rahmenbedingungen und Standards.) (!Sie verhindert jede Form von KI.) (!Sie ersetzt Audits.) (!Sie speichert Daten sicher.)
Memory
| Bias | Verzerrung in Daten oder Entscheidungen |
| Equalized Odds | Fehlerquoten über Gruppen hinweg angleichen |
| Individuelle Fairness | Gleichbehandlung ähnlicher Personen |
| Demographic Parity | Gruppenunabhängige Entscheidung |
| Black Box | Undurchsichtiger Algorithmus |
Drag and Drop
| Ordne die richtigen Begriffe zu. | Ablauf einer Fairness-Analyse |
|---|---|
| Datenanalyse | 1 |
| Bias-Erkennung | 2 |
| Modellanpassung | 3 |
| Auditierung | 4 |
| Monitoring | 5 |
Kreuzworträtsel
| Fairness | Was ist das Hauptziel bei Algorithmic Fairness? |
| Diskriminierung | Was soll durch faire Algorithmen vermieden werden? |
| Bias | Welches englische Wort steht für Verzerrung? |
| Audit | Wie nennt man die Überprüfung eines Algorithmus? |
| Transparenz | Was fehlt oft bei Black-Box-Modellen? |
| Daten | Worauf basieren Algorithmen hauptsächlich? |
LearningApps
Lückentext
Offene Aufgaben
Leicht
- Beispielanalyse: Beschreibe ein Beispiel, bei dem ein Algorithmus unfair sein könnte.
- Grafik erstellen: Zeichne ein Schaubild zu den verschiedenen Fairness-Kriterien.
- Begriffserklärung: Erkläre den Begriff „Bias“ mit eigenen Worten.
Standard
- Fallanalyse: Analysiere ein reales Beispiel algorithmischer Diskriminierung (z.B. Amazon-Bewerbungssystem).
- Interview: Führe ein Interview mit einer Person über ihre Meinung zu algorithmischer Gerechtigkeit.
- Pro- und Contra-Liste: Erstelle eine Übersicht zu den Vor- und Nachteilen von Black-Box-Algorithmen.
Schwer
- Experiment: Entwickle ein einfaches Modell, bei dem Fairness berücksichtigt wird.
- Datensatz-Analyse: Untersuche einen offenen Datensatz auf potenzielle Verzerrungen.
- Gesetzesanalyse: Vergleiche die KI-Regulierung in zwei verschiedenen Ländern.
|
|
Lernkontrolle
- Fairnesskonflikte: Erkläre, warum sich mathematische Fairnesskriterien gegenseitig ausschließen können.
- Fallstudie entwickeln: Entwickle ein Szenario, in dem eine faire Entscheidung besonders wichtig ist.
- Wertevergleich: Welche gesellschaftlichen Werte spielen bei der Definition von Fairness eine Rolle?
- Transparenz bewerten: Warum ist Erklärbarkeit bei KI-Systemen so wichtig für Vertrauen?
- Eigene Haltung: Nimm Stellung zur Frage: „Sollte Fairness gesetzlich vorgeschrieben werden?“
OERs zum Thema
Links
Teilen - Diskussion - Bewerten
Schulfach+
|
|
aiMOOCs
aiMOOC Projekte
|
|
THE MONKEY DANCE
|
|
|
|
 |
Sponsoren, Förderer, Kooperationspartner
Children for a better world >> Förderung der AI Fair-Image Challenge
Fair-Image wird von CHILDREN JUGEND HILFT! gefördert und ist mit der deutschlandweiten AI Fair-Image Challenge SIEGERPROJEKT 2025. Alle Infos zur Challenge hier >>. Infos zum Camp25 gibt es hier. Wenn auch Ihr Euch ehrenamtlich engagiert und noch finanzielle Unterstützung für Eurer Projekt braucht, dann stellt gerne einen Antrag bei JUGEND HILFT.
