Lehrinhalte
Maschinelle Lernsysteme (ML) und Systeme für algorithmische Entscheidungsfindung (ADM) werden in immer mehr Kontexten eingesetzt. Diese Systeme filtern, sortieren, empfehlen und personalisieren Inhalte/Daten. Sie werden zunehmend auch in Entscheidungsprozessen verwendet, die erhebliche Auswirkungen auf das Leben von Individuen und somit auf die Gesellschaft haben, wie etwa beim Zugang zu Krediten, Versicherungen, Gesundheitsversorgung, Bewährung und Einwanderung.
Dieser Kurs konzentriert sich auf die informatischen und sozialen Perspektiven sowie Methoden zur Analyse und Bewertung von automatisierter Entscheidungsfindung und ML-Systemen und deren Auswirkungen. Zu den im Kurs behandelten Konzepten zählen Biases und Fairness, Transparenzmaßnahmen wie Erklärbarkeit, Interpretierbarkeit und Dokumentation von ML-Systemen sowie die Bewertung und Auditierung solcher Systeme.
Zusammengefasst werden im Kurs folgende Themen behandelt:
- Überblick über das Feld „Fairness, Verantwortlichkeit und Transparenz (FAccT) im Maschinellen Lernen“
- Narrative rund um maschinelles Lernen, soziotechnische Systeme und die Legitimität automatisierter Entscheidungsfindung
- Begriffe von Fairness, Bias und Fairness-Metriken sowie Methoden zur Bias-Minderung
- Fairness und NLP
- Transparenz (Erklärbarkeit, Interpretierbarkeit, Dokumentation etc.)
- Interpretierbarkeit und NLP
- Verantwortlichkeit (Verantwortungen, Audit-Studien, EU-Regulierung, Lieferkette für ML)
