Vertrauenswürdige Künstliche Intelligenz
Schmid, Ute (2025): Vertrauenswürdige Künstliche Intelligenz, in: Frank Schmiedchen, Alexander von Gernler, Martin Hafner, u. a. (Hrsg.), Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI, Berlin, Heidelberg: Springer, S. 191–210, doi: 10.1007/978-3-662-71567-3_10.
Details
- Faculty/Chair
- Faculty/Professorship
- Author
- Title of the compilation
- Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI
- Editors
- Schmiedchen, FrankGernler, Alexander vonHafner, MartinKratzer, Klaus Peter
- Publisher Information
- Springer : Berlin, Heidelberg
- Year of publication
- 2025
- ISBN
- 978-3-662-71566-6978-3-662-71567-3
- Language
- German
- DOI
- Abstract
Für die sichere und sinnvolle Anwendung von KI-Systemen, insbesondere solchen, die auf komplexen, aus Daten gelernten Modellen basieren, müssen KI-Systeme vertrauenswürdig sein und Anwendende in die Lage versetzt werden, die Vertrauenswürdigkeit einschätzen zu können. Anforderungen an Vertrauenswürdige KI sind insbesondere Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen zu erfüllen, werden in der KI-Forschung Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Damit Nutzende ihr Vertrauen in KI-Systeme sinnvoll kalibrieren können, müssen die Schnittstellen zwischen KI-System und Mensch so gestaltet sein, dass die Ausgabe eines KI-Systems fundiert bewertet und gegebenenfalls korrigiert werden kann. Auf dieser Grundlage können partnerschaftliche KI-Systeme entwickelt werden, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.
- Keywords
- -
- Peer Reviewed
- yes
- Type
- Contribution to an Articlecollection
- URI
- Activation date
- 2025-10-14