Natural Language Processing mit Deep Learning


Ausarbeitung, 2019
10 Seiten, Note: 2,0

Leseprobe

Inhaltsverzeichnis

1. Einleitung

2. Deep Learning: Definition und Abgrenzung

3. Programmierbeispiel

4. Fazit

5. Literaturverzeichnis

1.Einleitung

Rasenroboter oder Staubsauger-Roboter gehören heute für viele Menschen zum Alltag – auch wenn das vor einigen Jahren noch kaum vorstellbar gewesen wäre. Die Forschung schreitet voran und auch auf dem Arbeitsmarkt soll in Zukunft vieles Maschinen abgegeben werden, wie zum Beispiel die Altenpflege oder das Vorbereiten von Gerichtsentscheiden.

Auch das Verarbeiten und Verstehen komplexer sprachlicher Aussagen und Informationen ist Teil der künstlichen Intelligenz. Bisher wurden sprachliche Aussagen mit Symbolen in Schallform oder schriftlicher Form verarbeitet. Dieses Modell des diskreten Sprachgebrauchs hatte den Vorteil, dass Symbole eindeutig sind, da es ein Regelsystem für diese Symbole gibt. Bisherige Engstellen waren der zu geringe Speicherplatz und der fehlende Kontext bei der Sprachverarbeitung, da dafür mehr Variablen notwendig gewesen wären. Das zentrale Hauptproblem war jedoch, dass die Maschinen nicht selbst gelernt haben, sondern nur so intelligent waren, wie die Person, die sie programmiert hat. Diese Probleme können mit dem Machine Learning und dem Deep Learning überwunden werden, wie genau das funktioniert wird im zweiten Punkt dieser Arbeit erläutert.

Das Deep Learning wurde im Seminar anhand von Deep-Learning-Ansätzen des Natural Language Processing, kurz NLP, erklärt. Das NLP ist eine der wichtigsten Technologien des Informationszeitalters. Da Sprache ein wesentlicher Bestandteil der menschlichen Kommunikation ist, gibt es zahlreiche Anwendungsgebiete von NLP, wie zum Beispiel die Sprachübersetzung, E-Mails oder Werbung. Neben den Deep-Learning-Ansätzen gibt es zahlreiche weitere maschinelle Lernmodelle für NLP, die Deep-Learning-Ansätze haben jedoch aktuell mit hohen Leistungen bei NLP-Aufgaben überzeugt.

In dieser Arbeit wird zunächst das Deep Learning definiert, vom Machine Learning und der künstlichen Intelligenz abgegrenzt und anschließend ein korrektes Programmierbeispiel vorgestellt, in dem wir eine handgeschriebene Ziffer zu einer Kategorie zugeordnet haben. Die Arbeit stützt sich dabei, neben den im Seminar gewonnen Kenntnissen, auf das Werk Deep Learning mit Python und Keras von Francois Chollet.

2. Deep Learning: Definition und Abgrenzung

Bevor sich diese Arbeit mit einem konkreten Programmbierbeispiel beschäftigt, muss zunächst geklärt werden, was Deep Learing ist. Was zeichnet es aus? Und was sind Künstliche Intelligenz und Machine Learning und in welcher Beziehung stehen die drei zueinander?

Zunächst zur Künstlichen Intelligenz: Diese wird als „[…] Versuch, normalerweise von Menschen erledigte geistige Aufgaben automatisiert zu lösen.“1, definiert. Folglich ist die KI ein allgemeines Fachgebiet, zu dem neben dem Machine Learning und dem Deep Learning auch andere Ansätze gehören, die mit Lernen nichts zu tun haben.2 Viele Experten glaubten lange, dass durch einen ausreichend großen Regelsatz eine KI auf menschlichem Niveau zur Wissensverarbeitung erreicht werden könnte, dieser Ansatz heißt symbolische KI. 3 Diese war geeignet, um klar definierte und logische Aufgaben, wie Schachspielen, zu lösen, stieß aber beim Lösen von komplexeren, weniger klar definierten Aufgaben, wie Spracherkennung, auf ihre Grenzen.4 Aufgrund dieser Engpässe entwickelte sich das Machine Learning, das im Folgenden definiert wird.

Das Machine Learning hat sich aus folgender zentraler Fragestellung heraus entwickelt: „Könnte ein Computer automatisch Regeln erlernen, indem er Daten betrachtet, ohne dass Programmierer diese Datenverarbeitungsregeln von Hand erstellen müssen?“5 Während bei der bereits erwähnten symbolischen KI Daten und Regeln vom Menschen vorgegeben werden, die dann zu Antworten führen, werden beim Machine Learning Daten und passende Antworten vorgegeben, die dann zu Regeln führen.6 Diese Regeln können dann auch bei neuen Daten angewendet werden und generieren selbstständig Antworten, das heißt die Systeme werden nicht programmiert, wie bei der symbolischen KI, sondern trainiert.7 Dieses Training erfolgt, indem das System in einer großen Anzahl von Beispielen, die für die zu lösende Aufgabe wesentlich sind, nach einer statistischen Struktur sucht und daraus Regeln für das Automatisieren der Aufgabe ausarbeitet.8 Das Machine Learning hat sich zu einem der erfolgreichsten und bekanntesten Teilgebiete der KI entwickelt und genießt insbesondere den Vorteil, dass sehr komplexe und große Datenmengen verarbeitet werden können.9

Zum Verständnis des Deep Learning muss zunächst geklärt werden, wie Machine-Learning- Algorithmen funktionieren. Für diese sind drei Elemente erforderlich: Erstens sind Eingabedaten erforderlich, bei der Spracherkennung könnten das zum Beispiel Tondateien mit Sprachaufnahmen sein.10 Zweitens werden Beispiele für die zu erwartende Ausgabe benötigt, diese könnten bei der Spracherkennung Textdateien mit Inhalt der dazugehörigen Tondateien sein.11 Und drittens muss eine Möglichkeit vorhanden sein, mit der gemessen werden kann, ob der Algorithmus funktioniert.12 Dieses „[…] Messergebnis dient als Feedback-Signal zur Anpassung der Funktionsweise des Algorithmus.“13 Im Allgemeinen werden beim Machine- Learning folglich Eingabedaten in sinnvolle Ausgabedaten umgewandelt - diesen Vorgang erlernt das Programm selbst.14

Übereinstimmend besteht die Aufgabe des Machine Learning sowie des Deep Learning in der sinnvollen Datenumwandlung: Aus den Eingabedaten müssen sinnvolle Repräsentationen erlernt werden, mit denen man sich der erwarteten Ausgabe annähern kann.15 Unter Repräsentationen versteht man dabei, Daten auf eine andere Art zu betrachten, das heißt sie zu codieren. 16 Ein Farbfoto könnte zum Beispiel im RGB- oder im HSV-Format codiert sein. Diese Transformationen haben das Ziel, die gegebenen Aufgaben zu vereinfachen.17 Auf der Suche nach diesen sind die Algorithmen des Machine Learning jedoch nicht sehr kreativ, sondern durchsuchen lediglich einen Hypothesenraum, das heißt eine vorgegebene Menge von Operationen.18 Nachdem die Aufgabe des Deep Learning und Machine Learning erklärt wurde, bleibt zu klären, was unter Deep Learning im speziellen verstanden wird.

Wie bereits erläutert ist das Machine Learning ein Teilgebiet der Künstlichen Intelligenz und das Deep Learning wiederrum ein Teilgebiet des Machine Learning. Das Deep Learning kann als neuer Ansatz des Machine Learning aufgefasst werden: Auch hier werden die Repräsentationen anhand von Daten erkannt, der Schwerpunkt aber auf „das Erlernen aufeinanderfolgender Layer (Schichten) mit zunehmend sinnvolleren Repräsentationen […]“19 gelegt. Das ‚Deep‘ steht dabei für die aufeinanderfolgenden Repräsentations-Layer und als ‚Tiefe‘ wird die Anzahl der Layer, die zu einem Datenmodell beitragen, bezeichnet.20 Vereinfacht könnte Deep Learning auch als „Lernen durch schichtweise Repräsentationen“21 bezeichnet werden.

[...]


1 François Chollet (2018): Deep Learning mit Python und Keras. Das Praxis-Handbuch vom Entwickler der Keras- Bibliothek, 1. Auflage, Frechen, S. 22.

2 Vgl. Ebd., S. 22.

3 Vgl. Ebd., S. 22.

4 Vgl. Ebd., S. 22.

5 Ebd., S. 23.

6 Vgl. Ebd., S. 23.

7 Vgl. Ebd., S. 23f.

8 Vgl. Ebd., S. 24.

9 Vgl. Ebd., S. 24.

10 Vgl. Chollet: Deep Learning mit Python und Keras 2018, S. 24.

11 Vgl. Ebd., S. 24.

12 Vgl. Ebd., S. 24.

13 Ebd., S. 24.

14 Vgl. Ebd., S. 25.

15 Vgl. Ebd., S. 25.

16 Vgl. Ebd., S. 25.

17 Vgl. Ebd., S. 25.

18 Vgl. Ebd., S. 26.

19 Vgl. Ebd., S. 27.

20 Vgl. Ebd., S. 27.

21 Vgl. Ebd., S. 27.

Ende der Leseprobe aus 10 Seiten

Details

Titel
Natural Language Processing mit Deep Learning
Hochschule
Karlsruher Institut für Technologie (KIT)
Note
2,0
Autor
Jahr
2019
Seiten
10
Katalognummer
V498041
ISBN (eBook)
9783346017437
ISBN (Buch)
9783346017444
Sprache
Deutsch
Schlagworte
Deep Learning, Natural Language Processing, Phyton, Phyton-Programmierung, Francois Chollet, NLP, Machine Learning, Künstliche Intelligenz
Arbeit zitieren
Amelie Probst (Autor), 2019, Natural Language Processing mit Deep Learning, München, GRIN Verlag, https://www.grin.com/document/498041

Kommentare

  • Noch keine Kommentare.
Im eBook lesen
Titel: Natural Language Processing mit Deep Learning


Ihre Arbeit hochladen

Ihre Hausarbeit / Abschlussarbeit:

- Publikation als eBook und Buch
- Hohes Honorar auf die Verkäufe
- Für Sie komplett kostenlos – mit ISBN
- Es dauert nur 5 Minuten
- Jede Arbeit findet Leser

Kostenlos Autor werden