In der vorliegenden Arbeit werden zunächst die nötigen fundamentalen wahrscheinlichkeitstheoretischen Grundlagen bezüglich Bayes’scher Netze erläutert, um diese dann formal einzuführen.
Auf dieser Basis wird dann auf Konstruktionsmethoden für Bayes’sche Netze im Allgemeinen und den Einsatz maschineller Lernverfahren im Besonderen eingegangen. Speziell soll in diesem Kontext der Aspekt des Strukturlernens Bayes’scher Netze studiert werden. Nach einer Strukturierung der in der Literatur vorkommenden Ansätze werden aktuell erforschte Strukturlernalgorithmen diskutiert und gegenübergestellt, aber auch die Entwicklung und anschließende Implementierung eines eigenen Algorithmus wird dargelegt. Eine Laufzeitanalyse und empirische Tests an einer synthetisch erzeugten Datenbank und einer akquirierten Datenbank aus dem Anwendungsbereich Medizin runden dieses zentrale Kapitel ab.
In einem weiteren Kapitel werden Möglichkeiten der Einbringung von Expertenwissen diskutiert, insbesondere die Fusion von verteiltem Wissen ist in diesem Zusammenhang interessant. Hierbei geht es um die Integration von dem – möglicherweise sich widersprechenden – Wissen von mehreren (menschlichen) Experten codiert in Bayes’schen Netzen auf der einen Seite und auf der Basis maschineller Lernverfahren generierter (Teil-)Netze (die auf empirisch gewonnen Daten in Case-Datenbanken beruhen) auf der anderen Seite. Beispielsweise ist dies oft der Fall, wenn mehrere Ärzte mit verteiltem Wissen (teilweise auch dezentral an verschiedenen Orten ansässig) ein Spezialistenteam bilden und Entscheidungen treffen müssen.
Anschließend werden Möglichkeiten diskutiert, wie auf Basis eines (gelernten) Entscheidungsnetzes regelbasierte Systeme wie IF-THEN Regelbasen generiert werden können. Nach einer kurzen Einführung von Entscheidungsnetzen auf der einen Seite und Fuzzy-Regelbasen auf der anderen Seite, schließt sich ein Kapitel an, welches sich mit der Kompilierung von Entscheidungsnetzen in Fuzzy-Regelbasen auseinandersetzt. In diesem Zusammenhang wird ein Framework zur Kompilierung hergeleitet und ein Pseudo-Algorithmus zur Lösung dieses Problems vorgestellt. Eine konkrete Implementierung eines auf diesem Framework basierenden Algorithmus wird zusammen mit ersten Ergebnissen in den letzten beiden Unterkapiteln dargelegt.
Inhaltsverzeichnis
1 Einleitung
1.1 Einordnung
1.2 Ziele und Gliederung
2 Bayes’sche Netze
2.1 Grundlagen
2.2 Definition
2.3 Beispiel eines Bayes’schen Netzes
2.4 Inferenz in Bayes’schen Netzen
3 Konstruktion Bayes’scher Netze
3.1 Der Bayes’sche Ansatz
3.2 Der frequentistische Ansatz
4 Maschinelles Lernen Bayes’scher Netze
4.1 Lernsituationen
4.2 Strukturlernen Bayes’scher Netze
4.2.1 Qualitätsmaße
4.2.2 Suchstrategien
4.2.2.1 Simulated Annealing
4.2.2.2 Greedy Hill Climbing
4.2.2.3 LAGD Hill Climbing
4.2.3 Experimentelle Ergebnisse
4.2.3.1 Datenset ALARM
4.2.3.2 Datenset MEDUSA
5 Integration von verteiltem Wissen
5.1 Konkurrierende Fusion
5.1.1 Konkurrierende Fusion via Sampling
5.1.2 Konkurrierende Fusion via LinOP-Aggregation
5.2 Komplementäre Fusion
5.3 Kooperative Fusion
6 Generierung von Regelbasen anhand von Entscheidungsnetzen
6.1 Definition Entscheidungsnetz
6.2 Beispiel eines Entscheidungsnetzes
6.3 Definition Fuzzy-Regelbasis
6.4 Ein Framework für die Kompilierung von Entscheidungsnetzen in Fuzzy-Regelbasen
6.5 Implementierung eines Algorithmus zur automatischen Generierung einer Regelbasis anhand eines Entscheidungsnetzes
6.5.1 Experimentelle Ergebnisse für das Entscheidungsnetz „Kornproblem“
6.5.2 Experimentelle Ergebnisse für das Entscheidungsnetz „Börsen- und Wirtschaftslage“
6.6 Verallgemeinerung auf Fuzzy-Regelbasen
7 Zusammenfassung und Ausblick
Zielsetzung & Themen
Die vorliegende Arbeit untersucht das Strukturlernen graphbasierter Modelle, speziell Bayes’scher Netze, unter der Bedingung verteilten Wissens. Das primäre Ziel ist die Entwicklung und Implementierung eines neuen Algorithmus (LAGD Hill Climbing), um die Modellkonstruktion zu optimieren, sowie die Erarbeitung eines Frameworks zur effizienten Kompilierung von Entscheidungsnetzen in Fuzzy-Regelbasen, um eine Entscheidungsfindung in zeitkritischen Anwendungen zu ermöglichen.
- Strukturlernen Bayes’scher Netze und Vergleich von Suchstrategien
- Fusion von Expertenwissen aus verteilten Datenquellen
- Kompilierung von Entscheidungsmodellen in effiziente Regelbasen
- Anwendung von Fuzzy-Logik zur Verbesserung der Entscheidungsfindung
- Empirische Evaluierung anhand medizinischer und ökonomischer Fallbeispiele
Auszug aus dem Buch
4.2.2.3 LAGD Hill Climbing
Look Ahead in Good Directions Hill Climbing, oder kurz LAGD Hill Climbing ist ein im Rahmen der vorliegenden Arbeit vom Autor vorgeschlagenes und implementiertes Verfahren, welches eine Verallgemeinerung des bereits diskutierten Standard Greedy Hill Climbing darstellt.
Hierbei geht die Verallgemeinerung in zwei Richtungen: Zum einen werden im Gegensatz zu Standard Greedy Hill Climbing nicht nur die nächsten Nachbarn bezüglich des definierten Nachbarschaftsbegriffs betrachtet um auf dieser Basis dann greedy den am besten bewerteten Nachbargraphen als Ausgangsbasis für den nächsten Hill Climbing Schritt zu wählen, sondern es wird vorausgeschaut, welche Netzstruktur in k Schritten die höchste Bewertung bezüglich der ausgewählten Scoring-Funktion erzielt. Zum anderen werden in jedem Look Ahead Schritt aufgrund der immensen Anzahl von in k Schritten erreichbaren Nachbargraphen nicht alle dieser Netzstrukturen traversiert, sondern nur die l am besten bewerteten. Insofern handelt es sich bei LAGD Hill Climbing also um eine ganze Klasse von Algorithmen, die parametrisiert wird durch die beiden folgenden Parameter:
• die Anzahl der Look Ahead Schritte k
• die Anzahl der verfolgten „guten Operationen“ pro Look Ahead Schritt l
Zusammenfassung der Kapitel
1 Einleitung: Motivation und Einordnung der Arbeit im Kontext der Künstlichen Intelligenz und des Umgangs mit unsicherem Wissen.
2 Bayes’sche Netze: Formale Einführung in die Grundlagen, Definition und Inferenzmechanismen von Bayes’schen Netzen.
3 Konstruktion Bayes’scher Netze: Diskussion der Frequentistischen und Bayesianischen Ansätze zur Modellierung von Wahrscheinlichkeiten.
4 Maschinelles Lernen Bayes’scher Netze: Untersuchung von Lernsituationen und verschiedenen Strategien zum Strukturlernen inklusive experimenteller Ergebnisse.
5 Integration von verteiltem Wissen: Methoden zur Fusion von Expertenwissen und verschiedenen Netzstrukturen.
6 Generierung von Regelbasen anhand von Entscheidungsnetzen: Detaillierte Herleitung eines Frameworks zur Kompilierung von Entscheidungsnetzen in Fuzzy-Regelbasen.
7 Zusammenfassung und Ausblick: Zusammenfassung der Ergebnisse und Diskussion potenzieller zukünftiger Forschungsansätze.
Schlüsselwörter
Bayes’sche Netze, Strukturlernen, Maschinelles Lernen, LAGD Hill Climbing, Entscheidungsnetze, Fuzzy-Regelbasen, Wissenskompilierung, Unsicheres Wissen, Multi-Agenten-System, Künstliche Intelligenz, Inferenz, Optimierung, Modellierung, Expertenwissen, Entscheidungsfindung.
Häufig gestellte Fragen
Worum geht es in der Arbeit grundlegend?
Die Diplomarbeit behandelt das automatisierte Erlernen und Konstruieren von Bayes’schen Netzen sowie deren Anwendung in Entscheidungssystemen, insbesondere unter Berücksichtigung von Unsicherheit und verteiltem Wissen.
Welche zentralen Themenfelder werden abgedeckt?
Die Schwerpunkte liegen auf der Strukturfindung in Netzwerken, der Integration von Expertenmeinungen sowie der Transformation komplexer Entscheidungsmodelle in leicht auswertbare Regelbasen.
Was ist das primäre Ziel der Forschung?
Ziel ist es, effizientere Algorithmen für das Strukturlernen zu entwickeln und Wege zu finden, wie komplexe probabilistische Entscheidungsmodelle in zeitkritischen Umgebungen (z. B. Robotik oder Medizin) eingesetzt werden können.
Welche wissenschaftlichen Methoden kommen zum Einsatz?
Neben theoretischen Grundlagen aus der Stochastik und Graphentheorie werden heuristische Suchstrategien (wie Hill Climbing) und Konzepte der Fuzzy-Logik zur Wissenskompilierung angewandt.
Was wird im Hauptteil der Arbeit behandelt?
Der Hauptteil widmet sich dem Strukturlernen Bayes’scher Netze, der algorithmischen Implementierung (LAGD Hill Climbing), der Fusion von Expertenwissen und dem Framework zur Generierung von Fuzzy-Regelbasen.
Welche Keywords charakterisieren die Arbeit am besten?
Bayes’sche Netze, Strukturlernen, LAGD Hill Climbing, Fuzzy-Regelbasen und Wissenskompilierung sind die zentralen Begriffe.
Was ist die Besonderheit des LAGD Hill Climbing Algorithmus?
Der Algorithmus erlaubt durch eine Look-Ahead-Strategie eine bessere Vorausschau im Suchraum, wodurch lokale Optima effizienter vermieden werden können als beim klassischen Greedy Hill Climbing.
Warum ist die Kompilierung von Entscheidungsnetzen in Regelbasen sinnvoll?
Da die Inferenz in Bayes’schen Netzen sehr rechenintensiv (NP-vollständig) sein kann, ermöglicht die Kompilierung in Regelbasen eine extrem schnelle Entscheidungsfindung in zeitkritischen Echtzeitszenarien.
Wie wurde die praktische Anwendbarkeit des Konzepts geprüft?
Die Verfahren wurden mit Hilfe der WEKA-Umgebung und HUGIN Expert API auf Basis komplexer Datensets (ALARM, MEDUSA) empirisch getestet und validiert.
- Arbeit zitieren
- Manuel Neubach (Autor:in), 2005, Strukturlernen graphbasierter Modelle auf der Basis verteilten Wissens, München, GRIN Verlag, https://www.grin.com/document/77711
