Das Kapitel stellt Ursachen und Lösungen für Ungerechtigkeiten in ML-Modellen vor und identifiziert sieben Prozesse, welche für diese Ungerechtigkeiten ursächlich sein können: historischer Bias, Repräsentationsbias, Messbias, Lernbias, Aggregationsbias, Evaluationsbias und Deployment Bias. Historischer Bias überträgt bestehende soziale Ungerechtigkeiten in ML-Modelle, während Repräsentationsbias durch die Unterrepräsentation bestimmter Gruppen in den Daten entsteht. Messbias führt zu fehlerhaften Ergebnissen aufgrund ungenauer Erfassungsmethoden und Lernbias beeinflusst die Modellgenauigkeit durch algorithmische Entscheidungen während des Modelltrainings. Aggregationsbias tritt auf, wenn ein Modell für diverse Gruppen nicht angemessen differenziert und Evaluationsbias entsteht durch die Nutzung nicht repräsentativer Benchmarks. Deployment Bias zeigt sich, wenn ein Modell in einem ungeeigneten Kontext eingesetzt wird. Trotz dieser Herausforderungen bietet Machine Learning auch Chancen, bestehende Ungleichheiten zu erkennen und zu reduzieren. Modelle können so trainiert und eingesetzt werden, dass algorithmische Lösungen zu mehr Fairness beitragen. Das Kapitel betont die Bedeutung der Fairness in ML, insbesondere da Modelle zunehmend in Bereichen wie Justiz, Medizin und Personalwesen eingesetzt werden, die direkte Auswirkungen auf das Leben von Individuen haben. Die Sicherstellung der Fairness bleibt daher eine zentrale Herausforderung im Machine Learning.

错误:搜索内容不能为空,请输入英文关键词
错误:关键词超出字数限制,请精简
高级检索

Faires Machine Learning

  • Sven Hilbert,
  • Elisabeth Kraus,
  • Alfred Lindl

摘要

Das Kapitel stellt Ursachen und Lösungen für Ungerechtigkeiten in ML-Modellen vor und identifiziert sieben Prozesse, welche für diese Ungerechtigkeiten ursächlich sein können: historischer Bias, Repräsentationsbias, Messbias, Lernbias, Aggregationsbias, Evaluationsbias und Deployment Bias. Historischer Bias überträgt bestehende soziale Ungerechtigkeiten in ML-Modelle, während Repräsentationsbias durch die Unterrepräsentation bestimmter Gruppen in den Daten entsteht. Messbias führt zu fehlerhaften Ergebnissen aufgrund ungenauer Erfassungsmethoden und Lernbias beeinflusst die Modellgenauigkeit durch algorithmische Entscheidungen während des Modelltrainings. Aggregationsbias tritt auf, wenn ein Modell für diverse Gruppen nicht angemessen differenziert und Evaluationsbias entsteht durch die Nutzung nicht repräsentativer Benchmarks. Deployment Bias zeigt sich, wenn ein Modell in einem ungeeigneten Kontext eingesetzt wird. Trotz dieser Herausforderungen bietet Machine Learning auch Chancen, bestehende Ungleichheiten zu erkennen und zu reduzieren. Modelle können so trainiert und eingesetzt werden, dass algorithmische Lösungen zu mehr Fairness beitragen. Das Kapitel betont die Bedeutung der Fairness in ML, insbesondere da Modelle zunehmend in Bereichen wie Justiz, Medizin und Personalwesen eingesetzt werden, die direkte Auswirkungen auf das Leben von Individuen haben. Die Sicherstellung der Fairness bleibt daher eine zentrale Herausforderung im Machine Learning.