Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › A Neural-Symbolic Approach for Explanation Generation Based on Sub-concept Detection : An Application of Metric Learning for Low-Time-Budget Labeling

Publikation

A Neural-Symbolic Approach for Explanation Generation Based on Sub-concept Detection : An Application of Metric Learning for Low-Time-Budget Labeling

Rabold, Johannes (2022): A Neural-Symbolic Approach for Explanation Generation Based on Sub-concept Detection : An Application of Metric Learning for Low-Time-Budget Labeling, in: Künstliche Intelligenz : KI ; Forschung, Entwicklung, Erfahrungen, Berlin: Springer, Jg. 36, Nr. 3–4, doi: 10.1007/s13218-022-00771-9.

Details

Fakultät/Lehrstuhl
Autorin(nen)/Autor(en)
Rabold, Johannes
Titel der Zeitschrift
Künstliche Intelligenz : KI ; Forschung, Entwicklung, Erfahrungen
ISSN
1610-1987
0933-1875
Verlagsangabe
Springer : Berlin
Erscheinungsjahr
2022
Jahrgang
36
Heft
3-4
Seiten
225–235
Sprache(n)
Englisch
DOI
Abstract

Deep learning methods, although effective in their assigned tasks, are mostly black-boxes with respect to their inner workings. For image classification with CNNs, there exists a variety of visual explanation methods that highlight parts of input images that were relevant for the classification result. But in many domains visual highlighting may not be expressive enough when the classification relies on complex relations within visual concepts. This paper presents an approach to enrich visual explanations with verbal local explanations, emphasizing important relational information. The proposed SymMetric algorithm combines metric learning and inductive logic programming (ILP). Labels given by a human for a small subset of important image parts are first generalized to a neighborhood of similar images using a learned distance metric. The information about labels and their spatial relations is then used to build background knowledge for ILP and ultimately to learn a first-order theory that locally explains the black-box with respect to the given image. The approach is evaluated with the Dogs vs. Cats data set demonstrating the generalization ability of metric learning and with Picasso Faces to illustrate recognition of spatial meaningful constellations of sub-concepts and creation of an expressive explanation.

GND-Schlagwort(e)
Explainable Artificial Intelligence
Künstliches Neuronales Netz
Metrisches System
Maschinelles Lernen
Freie Schlagwort(e)
Explainable artificial intelligence
Neural-symbolic integration
Metric learning
DDC-Klassifikation
004 Computer science
RVK-Klassifikation
ST 300
Peer Reviewed
ja
Internationale Verbreitung
ja
Dokumenttyp
Artikel in einer Zeitschrift / Postprint
URI
Datum der Freischaltung
26.07.2022
Projekt(e)

Permalink: https://fis.uni-bamberg.de/handle/uniba/54787 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 15.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.