Nutzung von Transfer-Learning basierten Ansätzen zur Textanalyse


Studienarbeit, 2020

46 Seiten, Note: 1,1


Inhaltsangabe oder Einleitung

Transfer Learning schafft es durch vortrainierte Modelle komplexe neuronale Zusammenhänge abzubilden. Aus einem bereits fertig trainierten Korpus können Ergebnisse auf neue Themengebiete übertragen werden. Anfangs wurde diese Technologie hauptsächlich zur Bildanalyse eingesetzt, doch in den letzten Jahren gewann Transfer Learning auch im Bereich der Textverarbeitung immer mehr an Bedeutung. Das Ziel dieser Forschungsarbeit ist es, eine detaillierte Vermittlung des aktuellen Stands der Wissenschaft zu liefern.

Hierbei wird neben einem grundlegenden Überblick über künstliche neuronale Netzwerke zunächst ein Verständnis für Transfer Learning vermittelt, in dem die Einsatzgebiete, Herausforderungen und Risiken unterschiedlicher Transfer Learning Strategien aufgezeigt werden. Insbesondere wird die spezielle Anwendung BERT ausführlich evaluiert und nicht nur deren Entwicklung, sondern auch die Funktionsweise erörtert. BERT, Bidirectional Encoder Representations from Transformers, wurde 2018 von Google veröffentlicht und gilt als Fundament für eine neue Art der Textverarbeitung. Damit BERT im Kontext der Textanalyse eine objektive Einordnung erfährt, werden differenzierte Modelle wie Doc2Vec und GloVe unter die Lupe genommen, um zusätzliche Blickwinkel auf Transfer Learning zu erschließen. Diese einzelnen Modelle können mit Hilfe von Benchmark-Methoden untereinander verglichen werden. Dabei werden neben dem General Language Understanding Evaluation (GLUE) Benchmark, ebenfalls Analyseaufgaben, wie SQuAD und SWAG erläutert und die einzelnen Modelle auf deren Rangliste miteinander in Konkurrenz gesetzt.

Diese Benchmark-Methoden sind ein Zusammenschluss von einzelnen Ressourcen, die zum trainieren, analysieren und bewerten von Systemen zum Verständnis natürlicher Sprachen, wie BERT, dienen. Abgerundet wird die Studienarbeit mit einem Ausblick in die Zukunft in der klar Stellung bezogen werden kann, dass Transfer Learning auch in den nächsten Jahren einen hohen Stellenwert im Bereich der Verbesserung und Verbreitung von KI einnimmt. Abschließend wird eine neue Technologie erwähnt, die eventuell die das Zusammenspiel mit Transfer Learning revolutionieren könnte.

Details

Titel
Nutzung von Transfer-Learning basierten Ansätzen zur Textanalyse
Hochschule
Hochschule München
Veranstaltung
Datenbanken
Note
1,1
Autoren
Jahr
2020
Seiten
46
Katalognummer
V942655
ISBN (eBook)
9783346276889
ISBN (Buch)
9783346276896
Sprache
Deutsch
Schlagworte
Transfer-Learning, neuronale Netze, BERT, SQuAD, SWAG, Machine Learning, AI, Google
Arbeit zitieren
Maximilian Linner (Autor)Timo Mueller (Autor)Matin Emrich (Autor), 2020, Nutzung von Transfer-Learning basierten Ansätzen zur Textanalyse, München, GRIN Verlag, https://www.grin.com/document/942655

Kommentare

  • Noch keine Kommentare.
Im eBook lesen
Titel: Nutzung von Transfer-Learning basierten Ansätzen zur Textanalyse



Ihre Arbeit hochladen

Ihre Hausarbeit / Abschlussarbeit:

- Publikation als eBook und Buch
- Hohes Honorar auf die Verkäufe
- Für Sie komplett kostenlos – mit ISBN
- Es dauert nur 5 Minuten
- Jede Arbeit findet Leser

Kostenlos Autor werden