Skip to content

Read-only version: For security reasons, the Research Information System (FIS) has been temporarily replaced by this read-only version. All public content and full texts remain available; login, editing, submission and statistics are not available. Questions: fis@uni-bamberg.de

Home › Publications › Vertrauenswürdige Künstliche Intelligenz

Publication

Vertrauenswürdige Künstliche Intelligenz

Schmid, Ute (2025): Vertrauenswürdige Künstliche Intelligenz, in: Frank Schmiedchen, Alexander von Gernler, Martin Hafner, u. a. (Hrsg.), Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI, Berlin, Heidelberg: Springer, S. 191–210, doi: 10.1007/978-3-662-71567-3_10.

Details

Faculty/Chair
Faculty/Professorship
Author
Title of the compilation
Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI
Editors
Schmiedchen, Frank
Gernler, Alexander von
Hafner, Martin
Kratzer, Klaus Peter
Publisher Information
Springer : Berlin, Heidelberg
Year of publication
2025
ISBN
978-3-662-71566-6
978-3-662-71567-3
Language
German
DOI
Abstract

Für die sichere und sinnvolle Anwendung von KI-Systemen, insbesondere solchen, die auf komplexen, aus Daten gelernten Modellen basieren, müssen KI-Systeme vertrauenswürdig sein und Anwendende in die Lage versetzt werden, die Vertrauenswürdigkeit einschätzen zu können. Anforderungen an Vertrauenswürdige KI sind insbesondere Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen zu erfüllen, werden in der KI-Forschung Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Damit Nutzende ihr Vertrauen in KI-Systeme sinnvoll kalibrieren können, müssen die Schnittstellen zwischen KI-System und Mensch so gestaltet sein, dass die Ausgabe eines KI-Systems fundiert bewertet und gegebenenfalls korrigiert werden kann. Auf dieser Grundlage können partnerschaftliche KI-Systeme entwickelt werden, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.

Keywords
-
Peer Reviewed
yes
Type
Contribution to an Articlecollection
URI
Activation date
2025-10-14

Permalink: https://fis.uni-bamberg.de/handle/uniba/110770 · Data as JSON · Cite: BibTeX · RIS

Data as of: 2026-11-16

Restricted read-only access: login, editing and submission are temporarily disabled.