Vertrauenswürdige Künstliche Intelligenz
Schmid, Ute Maria (2026): Vertrauenswürdige Künstliche Intelligenz, in: Bamberg: Otto-Friedrich-Universität, S. 191–210.
Details
- Fakultät/Lehrstuhl
- Autorin(nen)/Autor(en)
- Verlagsangabe
- Otto-Friedrich-Universität : Bamberg
- Erscheinungsjahr
- 2026
- Quelle/Weitere Ausgabe
- Frank Schmiedchen, Alexander von Gernler, Martin Hafner, u. a. (Hrsg.), Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI, Berlin, Heidelberg: Springer, 2025, S. 191–210, ISBN: 978-3-662-71566-6
- Jahr der Erstpublikation
- 2025
- Sprache(n)
- Deutsch
- Lizenz
- URN
- Abstract
Für die sichere und sinnvolle Anwendung von KI-Systemen, insbesondere solchen, die auf komplexen, aus Daten gelernten Modellen basieren, müssen KI-Systeme vertrauenswürdig sein und Anwendende in die Lage versetzt werden, die Vertrauenswürdigkeit einschätzen zu können. Anforderungen an Vertrauenswürdige KI sind insbesondere Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen zu erfüllen, werden in der KI-Forschung Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Damit Nutzende ihr Vertrauen in KI-Systeme sinnvoll kalibrieren können, müssen die Schnittstellen zwischen KI-System und Mensch so gestaltet sein, dass die Ausgabe eines KI-Systems fundiert bewertet und gegebenenfalls korrigiert werden kann. Auf dieser Grundlage können partnerschaftliche KI-Systeme entwickelt werden, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.
- Freie Schlagwort(e)
- -
- Peer Reviewed
- ja
- Dokumenttyp
- Beitrag in einem Sammelwerk / Postprint
- URI
- Datum der Freischaltung
- 17.03.2026