Zum Inhalt springen

Nur-Lesen-Fassung: Das Forschungsinformationssystem (FIS) ist aus Sicherheitsgründen vorübergehend durch diese Nur-Lesen-Fassung ersetzt. Alle öffentlichen Inhalte und Volltexte sind weiterhin abrufbar; Anmeldung, Bearbeitung, Einreichung und Statistiken stehen nicht zur Verfügung. Bei Fragen: fis@uni-bamberg.de

Start › Publikationen › Emotion-Conditioned Text Generation through Automatic Prompt Optimization

Publikation

Emotion-Conditioned Text Generation through Automatic Prompt Optimization

Menchaca Resendiz, Yarik; Klinger, Roman (2024): Emotion-Conditioned Text Generation through Automatic Prompt Optimization, in: Bamberg: Otto-Friedrich-Universität, S. 24–30.

Details

Fakultät/Lehrstuhl
Autorin(nen)/Autor(en)
Menchaca Resendiz, Yarik
Verlagsangabe
Otto-Friedrich-Universität : Bamberg
Erscheinungsjahr
2024
Quelle/Weitere Ausgabe
Proceedings of the 1st Workshop on Taming Large Language Models : Controllability in the era of Interactive Assistants! / Devamanyu Hazarika, Xiangru Robert Tang, Di Jin (Hg.). - Prag : Association for Computational Linguistics, 2023, S. 24–30.
Jahr der Erstpublikation
2023
Sprache(n)
Englisch
Lizenz
URN
Abstract

Conditional natural language generation methods often require either expensive fine-tuning or training a large language model from scratch. Both are unlikely to lead to good results without a substantial amount of data and computational resources. Prompt learning without changing the parameters of a large language model presents a promising alternative. It is a cost-effective approach, while still achieving competitive results. While this procedure is now established for zero- and few-shot text classification and structured prediction, it has received limited attention in conditional text generation. We present the first automatic prompt optimization approach for emotion-conditioned text generation with instruction-fine-tuned models. Our method uses an iterative optimization procedure that changes the prompt by adding, removing, or replacing tokens. As objective function, we only require a text classifier that measures the realization of the conditional variable in the generated text. We evaluate the method on emotion-conditioned text generation with a focus on event reports and compare it to manually designed prompts that also act as the seed for the optimization procedure. The optimized prompts achieve 0.75 macro-average F1 to fulfill the emotion condition in contrast to manually designed seed prompts with only 0.22 macro-average F1.

GND-Schlagwort(e)
Maschinelles Lernen
Generierung <Sprache>
Gefühl
Prompt Engineering
Freie Schlagwort(e)
Emotion-Conditioned Text Generation
DDC-Klassifikation
004 Computer science
RVK-Klassifikation
ST 306
Peer Reviewed
ja
Internationale Verbreitung
ja
Open-Access-Zeitschrift
ja
Dokumenttyp
Konferenzveröffentlichung
URI
Datum der Freischaltung
20.06.2024
Projekt(e)

Permalink: https://fis.uni-bamberg.de/handle/uniba/95827 · Daten als JSON · Zitieren: BibTeX · RIS

Datenstand: 15.11.2026

Eingeschränkter Lesezugriff: Anmeldung, Bearbeitung und Einreichung sind vorübergehend deaktiviert.