Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › Applying XAI to an AI-based system for candidate management to mitigate bias and discrimination in hiring

Publikation

Applying XAI to an AI-based system for candidate management to mitigate bias and discrimination in hiring

Hofeditz, Lennart; Clausen, Sünje; Rieß, Alexander; u. a. (2022): Applying XAI to an AI-based system for candidate management to mitigate bias and discrimination in hiring, in: Electronic markets : EM ; the international journal of electronic commerce and business media, Berlin: Springer, Jg. 32, Nr. 4, S. 2207–2233, doi: 10.1007/s12525-022-00600-9.

Details

Autorin(nen)/Autor(en)
Hofeditz, Lennart
Clausen, Sünje
Rieß, Alexander
Stieglitz, Stefan
Titel der Zeitschrift
Electronic markets : EM ; the international journal of electronic commerce and business media
ISSN
1019-6781
1422-8890
Verlagsangabe
Springer : Berlin
Erscheinungsjahr
2022
Jahrgang
32
Heft
4
Sprache(n)
Englisch
DOI
Abstract

Assuming that potential biases of Artificial Intelligence (AI)-based systems can be identified and controlled for (e.g., by providing high quality training data), employing such systems to augment human resource (HR)-decision makers in candidate selection provides an opportunity to make selection processes more objective. However, as the final hiring decision is likely to remain with humans, prevalent human biases could still cause discrimination. This work investigates the impact of an AI-based system’s candidate recommendations on humans’ hiring decisions and how this relation could be moderated by an Explainable AI (XAI) approach. We used a self-developed platform and conducted an online experiment with 194 participants. Our quantitative and qualitative findings suggest that the recommendations of an AI-based system can reduce discrimination against older and female candidates but appear to cause fewer selections of foreign-race candidates. Contrary to our expectations, the same XAI approach moderated these effects differently depending on the context.

Freie Schlagwort(e)
Explainable AI
Hiring
Bias
Discrimination
Ethics
Peer Reviewed
ja
Internationale Verbreitung
ja
Dokumenttyp
Artikel in einer Zeitschrift / Postprint
URI
Datum der Freischaltung
05.06.2024

Permalink: https://fis.uni-bamberg.de/handle/uniba/95598 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 16.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.