Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › Generating Explanations for Conceptual Validation of Graph Neural Networks : An Investigation of Symbolic Predicates Learned on Relevance-Ranked Sub-Graphs

Publikation

Generating Explanations for Conceptual Validation of Graph Neural Networks : An Investigation of Symbolic Predicates Learned on Relevance-Ranked Sub-Graphs

Finzel, Bettina; Saranti, Anna; Angerschmid, Alessa; u. a. (2023): Generating Explanations for Conceptual Validation of Graph Neural Networks : An Investigation of Symbolic Predicates Learned on Relevance-Ranked Sub-Graphs, in: Bamberg: Otto-Friedrich-Universität, S. 271–285.

Details

Fakultät/Lehrstuhl
Autorin(nen)/Autor(en)
Saranti, Anna
Angerschmid, Alessa
Tafler, David
Pfeifer, Bastian
Holzinger, Andreas
Verlagsangabe
Otto-Friedrich-Universität : Bamberg
Erscheinungsjahr
2023
Quelle/Weitere Ausgabe
Künstliche Intelligenz : KI ; Forschung, Entwicklung, Erfahrungen ; Organ des Fachbereichs 1 Künstliche Intelligenz der Gesellschaft für Informatik e.V., GI, 36 (2022), 3-4, S. 271–285. - ISSN: 0933-1875, 1610-1987
Jahr der Erstpublikation
2022
Sprache(n)
Englisch
Lizenz
URN
Abstract

Graph Neural Networks (GNN) show good performance in relational data classification. However, their contribution to concept learning and the validation of their output from an application domain’s and user’s perspective have not been thoroughly studied. We argue that combining symbolic learning methods, such as Inductive Logic Programming (ILP), with statistical machine learning methods, especially GNNs, is an essential forward-looking step to perform powerful and validatable relational concept learning. In this contribution, we introduce a benchmark for the conceptual validation of GNN classification outputs. It consists of the symbolic representations of symmetric and non-symmetric figures that are taken from a well-known Kandinsky Pattern data set. We further provide a novel validation framework that can be used to generate comprehensible explanations with ILP on top of the relevance output of GNN explainers and human-expected relevance for concepts learned by GNNs. Our experiments conducted on our benchmark data set demonstrate that it is possible to extract symbolic concepts from the most relevant explanations that are representative of what a GNN has learned. Our findings open up a variety of avenues for future research on validatable explanations for GNNs.

GND-Schlagwort(e)
Neuronales Netz
Wissensgraph
Explainable Artificial Intelligence
Induktive logische Programmierung
Freie Schlagwort(e)
Graph neural networks (GNN)
Explainable AI (xAI)
Inductive logic programming (ILP)
Symbolic AI
Kandinsky pattern (KP)
DDC-Klassifikation
004 Computer science
RVK-Klassifikation
ST 304
Dokumenttyp
Artikel in einer Zeitschrift / Postprint
URI
Datum der Freischaltung
11.03.2024

Permalink: https://fis.uni-bamberg.de/handle/uniba/91640 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 15.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.