Faires Machine Learning
摘要
Das Kapitel stellt Ursachen und Lösungen für Ungerechtigkeiten in ML-Modellen vor und identifiziert sieben Prozesse, welche für diese Ungerechtigkeiten ursächlich sein können: historischer Bias, Repräsentationsbias, Messbias, Lernbias, Aggregationsbias, Evaluationsbias und Deployment Bias. Historischer Bias überträgt bestehende soziale Ungerechtigkeiten in ML-Modelle, während Repräsentationsbias durch die Unterrepräsentation bestimmter Gruppen in den Daten entsteht. Messbias führt zu fehlerhaften Ergebnissen aufgrund ungenauer Erfassungsmethoden und Lernbias beeinflusst die Modellgenauigkeit durch algorithmische Entscheidungen während des Modelltrainings. Aggregationsbias tritt auf, wenn ein Modell für diverse Gruppen nicht angemessen differenziert und Evaluationsbias entsteht durch die Nutzung nicht repräsentativer Benchmarks. Deployment Bias zeigt sich, wenn ein Modell in einem ungeeigneten Kontext eingesetzt wird. Trotz dieser Herausforderungen bietet Machine Learning auch Chancen, bestehende Ungleichheiten zu erkennen und zu reduzieren. Modelle können so trainiert und eingesetzt werden, dass algorithmische Lösungen zu mehr Fairness beitragen. Das Kapitel betont die Bedeutung der Fairness in ML, insbesondere da Modelle zunehmend in Bereichen wie Justiz, Medizin und Personalwesen eingesetzt werden, die direkte Auswirkungen auf das Leben von Individuen haben. Die Sicherstellung der Fairness bleibt daher eine zentrale Herausforderung im Machine Learning.