AI Fairness - Erfahrungen aus der Praxis

Sophia Ding, Belinda Müller

Der zunehmende Einsatz von Systemen, die basierend auf Künstlicher Intelligenz (KI) (teil)automatisiert entscheiden, führt aktuell zu einer verstärkten öffentlichen Debatte. Einerseits wird eine Überprüfung dieser Systeme auf «Fairness» gefordert (z.B. im Regulierungsvorschlag der EU), andererseits besteht eine Implementierungslücke bezüglich der Schaffung und Überprüfung fairer KI-Systeme. Mit unserem Vortrag möchten wir die wichtigsten Erkenntnisse aus unserer Arbeit vorstellen, das Publikum für die Komplexität des Themas sensibilisieren und einen gesamtgesellschaftlichen Dialog anregen.

Aktuell beobachten wir eine verstärkte Entwicklung von Systemen, die auf Künstlicher Intelligenz (KI) basieren – u.a. aufgrund von Automatisierung in zahlreichen Lebensbereichen. Darunter sind insbesondere solche Systeme, die den Menschen in der Entscheidungsfindung unterstützen sollen, sogenannte «automated decisionmaking» (ADM) Systeme. Der Prozess einer (teil)automatisierten Entscheidungsfindung basierend auf KI ist nicht immer direkt nachvollziehbar und kann zu unerwünschten Eigenschaften wie Ungerechtigkeit bzw. Ungleichbehandlung führen. Diese Risiken wurden bereits vor einigen Jahren erkannt. So ist «Fairness» eines der fünf Prinzipien, welche die meisten der über 150 AI Prinzipien, die seit ca. 2018 verfasst wurden, gemeinsam haben. Auch der Regulationsentwurf der EU (EU AI Act) sieht eine Überprüfung von KI-Systemen auf Bias vor. Die Bedeutung von vertrauenswürdiger KI kommt immer mehr in der Gesellschaft und bei den Entwickler:innen von KI an, dennoch scheint an vielen Stellen unklar, wie man faire ADM Systeme schafft und bewertet. Es gibt hier eine Implementierungslücke.

Als Beraterinnen mit Fokus auf vertrauenswürdige KI haben wir im öffentlichen und privaten Sektor KI Systeme evaluiert und möchten unsere Key Learnings teilen. Dabei fokussieren wir uns auf folgende Themen:

1. Quantifizierung von AI Fairness und Relevanz der Ergebnisse («So What?»)
2. Die Rolle von Ethik vs. Recht in der Evaluation von AI Fairness
3. Der Bedarf an interdisziplinären Ansätzen zur Beurteilung von AI Fairness und Ausbildungskonzepten

Mit unserem Vortrag möchten wir das Publikum für die Komplexität des Themas sensibilisieren und einen gesamtgesellschaftlichen Dialog anregen.

• Slides
• Videoaufnahme

 Übersicht  Programm