Bibliography | Burkhardt, Jannik: Automatisierte Generierung von Trainingsdatenfür die Informationsextraktion aus deutschenGeschäftsdokumenten auf Basis von Sprachmodellen. University of Stuttgart, Faculty of Computer Science, Electrical Engineering, and Information Technology, Master Thesis No. 96 (2023). 91 pages, german.
|
Abstract | Generative KI hat seit der Veröffentlichung von ChatGPT im Dezember 2022 enorme Popularität erlangt. Ihr Potenzial ist immens und schon heute wird diese neue Technik in viele Produkte und Anwendungen integriert. In dieser Arbeit wird untersucht, welchen Einfluss automatisiert annotierte Trainingsdaten und von ChatGPT generierte Trainingsdaten auf das Finetuning von Sprachmodellen haben, wenn nur wenige handannotierte Daten vorhanden sind. Die mit den Methoden verbundenen Vorteile und Hindernisse werden am Beispiel der Relation Extraction aus deutschen Geschäftsdoku- menten in Erfahrung gebracht. Es wird gezeigt, dass die Daten von ChatGPT von Fehlern bereinigt werden müssen, diese Daten dann jedoch die Leistung des Sprachmodells signifikant verbessern gegenüber einem Sprachmodell, das nur auf wenigen handannotierten Daten basiert.
|
Full text and other links | Volltext
|
Department(s) | University of Stuttgart, Institute for Natural Language Processing
|
Superviser(s) | Vu, Prof. Ngoc Thang; Engelbach, Matthias; Kintz, Dr. Maximilien |
Entry date | February 20, 2024 |
---|