Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › FairCaipi : A Combination of Explanatory Interactive and Fair Machine Learning for Human and Machine Bias Reduction

Publikation

FairCaipi : A Combination of Explanatory Interactive and Fair Machine Learning for Human and Machine Bias Reduction

Heidrich, Louisa; Slany, Emanuel; Scheele, Stephan M.; u. a. (2025): FairCaipi : A Combination of Explanatory Interactive and Fair Machine Learning for Human and Machine Bias Reduction, in: Bamberg: Otto-Friedrich-Universität, S. 1519–1538.

Details

Fakultät/Lehrstuhl
Autorin(nen)/Autor(en)
Heidrich, Louisa
Scheele, Stephan M.
Verlagsangabe
Otto-Friedrich-Universität : Bamberg
Erscheinungsjahr
2025
Quelle/Weitere Ausgabe
Machine learning and knowledge extraction, Basel: MDPI, 2023, Jg. 5, Nr. 4, S. 1519–1538, ISSN: 2504-4990
Jahr der Erstpublikation
2023
Sprache(n)
Englisch
Lizenz
URN
Abstract

The rise of machine-learning applications in domains with critical end-user impact has led to a growing concern about the fairness of learned models, with the goal of avoiding biases that negatively impact specific demographic groups. Most existing bias-mitigation strategies adapt the importance of data instances during pre-processing. Since fairness is a contextual concept, we advocate for an interactive machine-learning approach that enables users to provide iterative feedback for model adaptation. Specifically, we propose to adapt the explanatory interactive machine-learning approach Caipi for fair machine learning. FairCaipi incorporates human feedback in the loop on predictions and explanations to improve the fairness of the model. Experimental results demonstrate that FairCaipi outperforms a state-of-the-art pre-processing bias mitigation strategy in terms of the fairness and the predictive performance of the resulting machine-learning model. We show that FairCaipi can both uncover and reduce bias in machine-learning models and allows us to detect human bias.

GND-Schlagwort(e)
Rückmeldung
Anpassung
Maschinelles Lernen
Vorverarbeitung
Bias
Freie Schlagwort(e)
fair machine learning
explanatory and interactive machine learning
DDC-Klassifikation
004 Computer science
RVK-Klassifikation
ST 304
Dokumenttyp
Artikel in einer Zeitschrift / Postprint
URI
Datum der Freischaltung
03.06.2025

Permalink: https://fis.uni-bamberg.de/handle/uniba/108494 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 15.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.