MOdellsimulation Neuronaler und kognitiver Informationsverarbeitung - Schule der Techniken (MONIST)

Idee/ Innovation

Neurowissenschaftler, Kognitionswissenschaftler und Informatiker haben in den letzten Jahrzehnten ein zunehmend tieferes Verständnis des Gehirns erreicht. Dieses tiefere Verständnis hat nicht nur dazu geführt, dass das wissenschaftliche und öffentliche Interesse zum Thema "Gehirn und Geist" drastisch zugenommen hat - sie finden auch zunehmend Anwendung in der Alltagswelt.
Um das Potential dieser Entwicklungen weiter entfalten und ausschöpfen zu können, werden Hochschulabsolventen benötigt, die den heutigen und kommenden Herausforderungen in Wissenschaft und Wirtschaft gewachsen sind. Einen Beitrag zur interdisziplinären Ausbildung solcher Absolventen mit Zukunftseignung in den Studiengängen Biologie, Psychologie und Medizin, aber auch in Informatik oder ingenieurs-wissenschaftlichen Studiengänge zu leisten, war das Ziel dieses Vorhabens. Eine entscheidende Aufgabe hierbei liegt in der Freisetzung von Synergien durch die weitere Annäherung von experimentellen Disziplinen, wie der Neurobiologie, Medizin und Kognitionspsychologie, und theoretisch-technischen Disziplinen wie der Neuroinformatik und KI, sowie deren gemeinsame Anbindung an Anwendungsfächer, wie z.B. die Robotik.

Lösungsansatz

Ein entscheidender Schritt in diese Richtung war die Entwicklung eines interdisziplinären Curriculums, dessen Grundlagen mit dem vom BMBF geförderten Projekt "MONIST - MO dellsimulation N euronaler und kognitiver I nformationsverarbeitung - S chule der T echniken" in den Jahren 2000 bis 2003 gelegt wurden. Die Partner in diesem Projekt waren Fachbereiche aus Biologie, Informatik, Psychologie und Erziehungswissenschaften der Universitäten Bielefeld, Freiburg, Berlin, Tübingen, Bamberg und Ilmenau. Im Ergebnis wurde eine beträchtliche Anzahl von gebrauchsfertigen Lehrsimulationen produziert, die sich von der Biophysik zur Neurobiologie und Kognitionswissenschaften bis zur Neuroinformatik und Robotik erstrecken. Diese noch unvollständige Sammlung ist in 8 unterschiedliche Themenfelder unterteilt: Neuron - Netzwerke - Sensorische Systeme - Motorische Systeme - Verhalten - Lernen - Kognition - Hybride Methoden. Es entstanden neben sehr vielschichtigen Lehrsimulationen leistungsfähige und didaktisch durchdachte Werkzeuge, die sowohl für den Lehrenden als auch für den Lernenden eine hoch effektive Lernumgebung darstellen und auch im Sinne der Nachhaltigkeit über die Projektlaufzeit hinaus für die weitere Nutzung zur Verfügung stehen.

Ergebnisse

Im Rahmen des Ilmenauer Projektteiles entstanden folgende Lehrsimulationen:

• Lehrsimulationen "Lernregeln":
  Für den Einsatz Neuronaler Netze ist die Kenntnis über das "Wie und Was lernen diese Netze" von entscheidender Bedeutung. Um diese grundlegenden Prinzipien der Neuronalen Netze leichter und verständlicher zu erklären, wurde die Lehreinheit "Lernregeln" konzipiert. Ziel ist es, den Studierenden Lehrsimulationen zu präsentieren, die die Funktionsweise Neuronaler Netze, sowie deren Lern- bzw. Trainingsmechanismen auf korrekte Art und Weise veranschaulichen und erläutern. Hierfür wurden zwei Simulationen entwickelt: "Transferfunktionen" und "Delta-Lernregel"

• Lehrsimulationen "Function Approximation":
  Diese Lehrsimulation befasst sich mit dem konkreten Einsatz Neuronaler Netze für bestimmte Aufgaben. Mit neuronalen Netzen kann eine Vielzahl von unterschiedlichen Aufgaben auf eine andere Art und Weise, als den typischen mathematischen, analytischen Wegen, gelöst werden. Wie dabei vorgegangen wird, hängt von der Beschaffenheit des zu lösenden Problems ab. Zur Verdeutlichung dieses Sachverhaltes wurden einige Simulationen (1D-Funktionsapproximator, XOR-Approximation, Support-Vector-Machines) implementiert. Dabei soll dem Lernenden die Wirkungsweise einzelner Netze, sowie der Einfluss deren Parameter auf die Lösung des Problems verdeutlicht werden.

• Function Approximation

• Neuronale 1D-Funktionsapproximatoren
• XOR-Approximation
• Activation- and outputfunctions
• Classificator
• Neuronale PCA im R2
• Neuronale PCA auf Bildern mit Gesichtern

• Lehrsimulationen "Reinforcement Learning":
  Das Lernproblem des Reinforcement Learning ist das Allgemeinste, aber auch gleichzeitig das schwierigste Lernproblem. Die Umgebung erteilt in Abhängigkeit des aktuellen Zustandes x und der gewählten Aktion a(x) positive oder negative Reinforcement Signale r(x,a(x)) (in der Natur: Belohnungen oder Bestrafungen). Die Aufgabe des Agenten besteht darin, die Summe der erwarteten zukünftigen Reinforcement Signale zu maximieren um so ein optimal angepasstes Verhalten in der aktuellen Umwelt zu erzielen. Um den Studierenden diese Problematik (Maximierung des Rewards) zu demonstrieren, wurden Simulationen erstellt, die einen einfachen Roboter (Khepera) in einem künstlichen Labyrinth zeigen. Dieser hat die Aufgabe, sich in seiner Umwelt zu bewegen ohne an die Wände des Labyrinths zu stoßen. Anhand dieser "einfachen" Aufgabe, werden die einzelnen Bestandteile des Reinforcement Learnings und deren Wirkungsweisen beschrieben und erläutert. Aufgrund der vielen Innovationen auf diesem wissenschaftlich anspruchsvollen Gebiet sind hier bereits weitergehende Implementierungen neuer Reinforcement-Verfahren für die Zeit nach dem Projektende geplant.

• Reinforcement-Learning

  • Q-Learning-Demo mit simuliertem Khepera
  • Light-Version der Q-Learning-Demo mit simuliertem Khepera
  • Q-Learning in einer simulierten Ballwelt
  • ADHDP within a ballworld
  • PID-Controller for an inverted Pendulum

   

   

• Lehrsimulationen "Neuronaler Clusterer":
  Beim Einsatz von Neuronalen Verfahren zur Problemlösung wird oft im Vorfeld der Datenverarbeitung eine Clusterung der Eingaberäume und unter Umständen auch der Ausgaberäume durchgeführt. Dabei werden "ähnliche" Datenpunkte im Raum zu gemeinsamen Regionen zusammengefasst. Mit dieser Vereinfachung und Verallgemeinerung der Eingabedaten können die Lerngeschwindigkeit und die Generalisierungseigenschaften der Neuronalen Netze wesentlich verbessert oder das Lernen erst ermöglicht werden. Für die Lösung des Clusterungsproblems gibt es eine Reihe von neuronalen Verfahren, die diese Aufgaben unterschiedlich lösen können. Zur Veranschaulichung der Funktionsweise unterschiedlicher Neuronaler Clusterer wurden eine Reihe von Simulationen (Kohonennetze in verschiedenen Varianten, Neural Gas, Growing Neural Gas) geschaffen. Hierbei wird die konkrete Arbeitsweise der einzelnen Verfahren gezeigt und demonstriert. Des Weiteren existiert eine Simulation, in der die Leistungsfähigkeit der verschiedenen Verfahren an einem Problem direkt miteinander verglichen werden kann.

  Clusterer

  • Kohonenkette im R2
  • 2D-Kohonengitter im R2
  • Kohonenring im R2
  • Neural Gas im R2
  • Growing Neural Gas im R2
  • Alle Clusterer im Überblick
  • TSP

• Lehrsimulationen "Neuronale Felddynamik":
  Abweichend vom klassischen Modell, der Aktivierung eines einzelnen Neurons, wird mit den Lehrsimulationen der "Neuronalen Felddynamik" gezeigt, wie sich große Verbände von Neuronen verhalten. Am Beispiel der Amari Felddynamik wird beschrieben, wie eine große Anzahl von Neuronen miteinander verschaltet sein können und wie mit dieser Anordnung bestimmte Aufgaben gelöst werden können.

• Dynamics

  • 2D-Amarifeld
  • Dynamics of fully connected neurons

   

• Lehrsimulationen "Datamining":
  Diese Lehrsimulation befasst sich mit der für Neuronale Netze notwendigen Datenvorverarbeitung. Für ein effektives Training (schnelles Lernen und generalisierende Aussagen) solcher Netze ist es nötig, Daten entsprechend der Problemstellung aufzuarbeiten. Zur Interpretation und Aufarbeitung von Daten können unterschiedlichste Algorithmen eingesetzt werden. Im Fachgebiet wurden auf der Basis aktueller Veröffentlichungen und Konferenzauswertungen zwei relativ neue Verfahren für die Modellsimulation ausgewählt: "Principal Component Analysis" (PCA) und "Independent Component Analysis" (ICA). Dem Studierenden soll gezeigt werden, wie mit Hilfe der PCA die Dimension von Eingangsdaten reduziert werden kann (am Beispiel einer Gesichtsdatenbank und einem synthetischen Datensatz). In der ICA-Simulation wird demonstriert, wie das Verfahren Signale aus einem "Signalgemisch" durch verschiedene Beobachtungen extrahieren kann.

• Misc

  • Online-Bild (aus Kheperaperspektive)
  • Delta Learning Principle
  • Support Vector Machine (SVM)
  • Fuzzy Ball World