Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › An Embedding is Worth a Thousand Noisy Labels

Publikation

An Embedding is Worth a Thousand Noisy Labels

Di Salvo, Francesco; Doerrich, Sebastian; Rieger, Ines; u. a. (2025): An Embedding is Worth a Thousand Noisy Labels, in: Transactions on machine learning research, Amherst, Massachusetts: OpenReview.net, Nr. 3, S. 1–19.

Details

Fakultät/Lehrstuhl
Autorin(nen)/Autor(en)
Von
... ; Doerrich, Sebastian; ...
Titel der Zeitschrift
Transactions on machine learning research
ISSN
2835-8856
Verlagsangabe
OpenReview.net : Amherst, Massachusetts
Erscheinungsjahr
2025
Heft
3
Sprache(n)
Englisch
URL
Abstract

The performance of deep neural networks scales with dataset size and label quality, rendering the efficient mitigation of low-quality data annotations crucial for building robust and cost-effective systems. Existing strategies to address label noise exhibit severe limitations due to computational complexity and application dependency. In this work, we propose WANN, a Weighted Adaptive Nearest Neighbor approach that builds on self-supervised feature representations obtained from foundation models. To guide the weighted voting scheme, we introduce a reliability score, which measures the likelihood of a data label being correct. WANN outperforms reference methods, including a linear layer trained with robust loss functions, on diverse datasets of varying size and under various noise types and severities. WANN also exhibits superior generalization on imbalanced data compared to both Adaptive-NNs (ANN) and fixed k-NNs. Furthermore, the proposed weighting scheme enhances supervised dimensionality reduction under noisy labels. This yields a significant boost in classification performance with 10x and 100x smaller image embeddings, minimizing latency and storage requirements. Our approach, emphasizing efficiency and explainability, emerges as a simple, robust solution to overcome inherent limitations of deep neural network training.

GND-Schlagwort(e)
Nächste-Nachbar-Verfahren
Bildanalyse
Medizin
Freie Schlagwort(e)
Adaptive kNN
Label noise
Robustness
Foundation models
DDC-Klassifikation
004 Computer science
RVK-Klassifikation
ST 300
Peer Reviewed
ja
Internationale Verbreitung
ja
Open-Access-Zeitschrift
ja
Dokumenttyp
Artikel in einer Zeitschrift / Postprint
URI
Datum der Freischaltung
06.08.2025

Permalink: https://fis.uni-bamberg.de/handle/uniba/109535 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 15.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.