Vorgehensmodell zur quantitativen Prognose durch Künstliche Neuronale Netze in Management Support Systemen

Diplomarbeit von Andreas Wedra

Einleitung:

Im Rahmen dieser Abschlussarbeit zur Erlangung des akademischen Grades Bachelor of Science (B.Sc.) soll ein Vorgehensmodell zur Entwicklung einer DV-Anwendung zur Managementunterstützung vorgestellt werden, die ein Neuronales Netz (NN) zur quantitativen Prognose simuliert.

Die Abschlussarbeit ist so aufgebaut, dass die zur konzeptionellen und technischen Realisierung notwendigen Grundlagen zur IT-basierten Managementunterstützung durch Management Support Systeme und Grundlagen zur Anwendung von Künstlichen Neuronalen Netzen (KNN) zur quantitativen Prognose in den jeweiligen Kapiteln 2 und 3 beschrieben werden.

Die IT-basierte Managementunterstützung ist eine komplexe und dynamische Aufgabe, die es nicht zulässt, die Informationsgenerierung durch Künstliche Neuronale Netze isoliert von anderen managementunterstützenden DV-Anwendungen zu betrachten. Aus diesem Grund orientiert sich diese Abschlussarbeit sehr stark an einer modernen Ausprägung eines Management Support Systems - dem sogenannten Business Intelligence Konzept - um den gesamten Komplex der IT-basierten Managementunterstützung integriert zu betrachten.

Die computergestützte Anwendung von Künstlichen Neuronalen Netzen soll jedoch nicht den Anschein erwecken, dass deren mathematischen Grundlagen zu vernachlässigen sind. Ganz im Gegenteil sind fundierte Kenntnisse über Funktionsweisen und Besonderheiten von Künstlichen Neuronalen Netzen zwingend erforderlich, um die Methode richtig anzuwenden und die in der Literatur oft hoch gelobten Stärken zur Geltung zu bringen.

Die in den Kapiteln 2 und 3 erläuterten Grundlagen werden im 4. Kapitel einem Vorgehensmodell zugeordnet und miteinander kombiniert, um wichtige Anhaltspunkte und Kriterien für die Entwicklung einer DV-Anwendung zur quantitativen Prognose durch Künstliche Neuronale Netze ableiten zu können.

Inhaltsverzeichnis:

Textprobe:

Kapitel 3.6.1, Trainings- und Validierungsphasen:

In der Trainingsphase werden Lernalgorithmen (oder Lernregeln) verwendet, um den Parameter des Künstlichen Neuronalen Netzes auf Basis der zur Verfügung gestellten Daten Werte zuzuweisen. ‘Dabei sollte ein Lernverfahren assoziative Lernziele verfolgen, welches die freien Parameter der KNN derart verändert, dass ein KNN nach wiederholter Präsentation von Paaren aus Eingabe- und Ausgabemustern die korrekte Assoziation für bekannte Muster selbstständig vornehmen kann und darüber hinaus unbekannte, ähnliche Eingabemuster im Sinne einer Generalisierung korrekt zuordnet.’ Es lassen sich folgende Arten des Lernens im Zusammenhang mit KNN benennen:

Überwachtes Lernen (supervised learning):

Beim überwachten Lernen werden Daten benötigt, die neben dem Eingabemuster auch die ‘richtigen’ Ausgabemuster beinhalten. Das KNN berechnet durch die Präsentation der Eingabemuster eine Ausgabe, die mit der ‘gewünschten’ Ausgabe verglichen wird. Die Differenz zwischen tatsächlicher Ausgabe und ‘gewünschter’ Ausgabe wird als Grundlage für die Modifikation der Gewichte verwendet, um die Differenz beziehungsweise den Fehler zu minimieren.

Bestärkendes Lernen (reinforcement learning):

Das bestärkende Lernen arbeitet ähnlich wie das überwachte Lernen und wird daher in der Literatur teilweise als Methode des Oberbegriffes ‘Überwachtes Lernen’ aufgeführt. Da sich das bestärkende Lernen im Gegensatz zum überwachten Lernen zu Prognosezwecken aufgrund seiner Ineffizienz nur bedingt eignet wird in dieser Abschlussarbeit klarer zwischen diesen beiden Ansätzen differenziert. Beim bestärkenden Lernen können oder sollen die Ausgabemuster ausschließlich dazu genutzt werden, um Aussagen über die Korrektheit einer vom KNN erzeugten Ausgabe zu treffen. Da der Lernalgorithmus nur weiß, ob die Ausgabe richtig oder falsch war und nicht weiß was genau falsch war, muss sukzessive nach der besten Lösung gesucht werden. Dies erhöht natürlich den Lernaufwand gegenüber dem überwachten Lernen.

Unüberwachtes Lernen (unsupervised learning):

Bei dieser Art des Lernen können oder sollen nur die Eingabemuster zum Lernen verwendet werden. Dabei wird das KNN entsprechend den Gemeinsamkeiten in den Eingabemustern parametrisiert.

Wie bereits gerade angedeutet, sollte die Parametrisierung eines KNN, welches zur Prognose verwendet wird, immer ein überwachtes Lernverfahren verwenden, wenn die Trainingsdaten die Verwendung erlauben. Vor dem überwachten Lernvorgang ist es üblich, die Datenmengen in Trainingsdaten und Validierungsdaten zu unterteilen. In der Trainingsphase wird das KNN mit den Trainingsdaten nach dem oben beschriebenen Schema parametrisiert. Die Trainingsdaten können mehrmals in Lernschritten zur Modifikation verwendet werden. Nach jedem Lernschritt wird aus der Abweichung zwischen tatsächlicher Ausgaben und ‘gewünschter’ Ausgaben der durchschnittliche Gesamtfehler berechnet. Da in jedem Lernschritt dem KNN die gleichen Trainingsdaten präsentiert werden, wird der durchschnittliche Gesamtfehler bei zunehmender Anzahl an Lernschritten immer weiter abnehmen. Ziel des Lernverfahrens ist jedoch nicht, dass das KNN nur bei bekannten Eingabemustern zu den gewünschten Ausgaben kommt, sondern auch bei unbekannten Eingabemustern zu guten Ergebnissen kommt. Da die Generalisierungsfähigkeit anhand der Trainingsdaten nicht beurteilt werden kann, läuft parallel zu der Trainingsphase eine Validierungsphase ab.

In dieser Phase werden dem KNN die unbekannten Validierungsdaten präsentiert und aus den Abweichungen zwischen tatsächlicher Netzausgaben und der ‘gewünschten’ Ausgaben ebenfalls der durchschnittliche Gesamtfehler berechnet. Da ein KNN in der Validierungsphase nicht lernt, können die Validierungsdaten in Lernschritten als unbekannte Datenmuster benutzt werden. Der durchschnittliche Gesamtfehler der Validierungsdaten nimmt zuerst ab, da die Modifikation der Parameter auch bei unbekannten Daten zu besseren Ausgaben führen. Bei steigender Anzahl von Lernschritten passen sich die Parameter jedoch so stark an die Trainingsdaten an, dass unbekannte Eingabemuster zu erhöhten Fehlern führen. Dies wird auch als Overfitting bezeichnet und ist in der folgenden Abbildung 12 sehr gut zu erkennen.