Forum für Wissenschaft, Industrie und Wirtschaft

Hauptsponsoren:     3M 
Datenbankrecherche:

 

Neues Lernschema für neuronale Netzwerke

04.03.2016

Nervennetze lernen zeitlich getrennte Reize miteinander zu verknüpfen

Blätterrascheln, das Knacken eines Astes – für eine Maus sind dies zunächst harmlose Sinneseindrücke. Nicht aber, wenn kurz darauf eine Katze aus dem Gebüsch stürzt – dann waren es Hinweise auf eine lebensbedrohliche Gefahr.


Neuronennetzwerk mit unterschiedlichen Sinnesreizen (farbige Kästen), die sich in der Eingangsaktivität widerspiegeln (Punkte-Raster).

MPI für experimentelle Medizin/R. Gütig

Robert Gütig vom Max-Planck Institut für experimentelle Medizin in Göttingen hat nun herausgefunden, wie das Gehirn Sinneswahrnehmungen mit verzögert auftretenden Ereignissen verknüpfen kann. Dazu hat der Forscher ein Lernschema für ein Computermodell entwickelt.

Die virtuellen Zellen können darin lernen, zwischen vielen unterschiedlichen Reizen zu unterscheiden, indem sie ihre Aktivität an die Häufigkeit der Hinweisreize anpassen. Das funktioniert auch dann, wenn zwischen Hinweisreiz und Ereignis eine zeitliche Lücke besteht.

Das von Gütig entdeckte Lernschema ist nicht nur für jedes Lebewesen überlebenswichtig, um Reize aus der Umwelt herauszufiltern, es hilft auch bei einer Vielzahl technologischer Lernprobleme. Forscher könnten es zum Beispiel zur Entwicklung von Programmen zur Spracherkennung einsetzen.

In der Tierwelt künden sich Gefahren oft vorher an: verräterische Geräusche, Bewegungen oder ein Geruch können Hinweise auf einen bevorstehenden Angriff eines Räubers sein. Überlebt etwa eine Maus den Angriff einer Katze, hat sie es in Zukunft leichter, wenn sie aus dem missglückten Angriff lernt und die Hinweise beim nächsten Mal frühzeitig deuten kann.

Es prasseln jedoch ständig eine Vielzahl sensorischer Eindrücke auf sie ein, von denen die meisten nicht auf eine Gefahr hindeuten. Woher weiß die Maus also, welche Geräusche und Gerüche aus der Umwelt etwa den Angriff einer Katze ankündigen und welche nicht?

Das Mausgehirn steht dabei vor einem Problem: Die entscheidenden Umgebungsreize sind meist zeitlich vom eigentlichen Angriff isoliert. Das Gehirn muss also einen Hinweis und das darauffolgende Ereignis – etwa einem Geräusch und einem Angriff – miteinander verknüpfen, die zeitlich auseinander liegen. Bisherige Theorien konnten nicht befriedigend erklären, wie das Gehirn die Zeit zwischen einem Hinweisreiz und dem eigentlichen Erlebnis überbrückt.

Robert Gütig vom Max-Planck-Institut für experimentelle Medizin hat entdeckt, wie das Gehirn dieses Problem lösen kann. Er hat am Computer ein Netzwerk aus Nervenzellen programmiert, das wie ein biologischer Zellverband auf Erregungen reagiert. Das Netzwerk kann lernen, diejenigen Hinweisreize herauszufiltern, die ein späteres Ereignis vorhersagen.

Auf die Häufigkeit kommt es an

Das Netzwerk lernt, indem es gezielt Synapsen zwischen den virtuellen Nervenzellen verstärkt oder abschwächt. Grundlage des Computermodells ist eine synaptische Lernregel, mit der einzelne Nervenzellen ihre Aktivität in Abhängigkeit von einem einfachen Lernsignal erhöhen oder absenken können. Mit dieser Lernregel setzt Gütig ein neues Lernschema um:

„Dieses häufigkeitsbasierte Lernschema beruht auf der Idee, die Verbindungen zwischen Zellen so einzustellen, dass die resultierende neuronale Aktivität über einen Zeitraum gesehen proportional zur Häufigkeit der Hinweisreize wird“, erklärt Gütig. Spiegelt also ein Lernsignal das Auftreten und die Stärke bestimmter Ereignisse im Umfeld der Maus wieder, so lernen die Nervenzellen auf jene Reize zu reagieren, die diese Ereignisse vorhersagen.

Gütigs Netzwerke können aber auch dann lernen, auf Umgebungsreize zu reagieren, wenn keine Lernsignale aus der Umgebung vorhanden sind. Hierzu wird die mittlere neuronale Aktivität innerhalb eines Netzwerkes als Lernsignal interpretiert. Einzelne Nervenzellen lernen nun auf solche Reize zu reagieren, die genauso häufig aufgetreten sind wie die, auf welche die anderen Nervenzellen im Netzwerk reagieren. Dieses „selbst überwachte“ Lernen folgt einem anderen Prinzip, als etwa die Hebbsche Lernregel, die bislang häufig in künstlichen neuronalen Netzen zum Einsatz kam. Solche Hebbschen Netze lernen, indem sie die Synapsen zwischen den Zellen verstärken, die gleichzeitig oder kurz nacheinander aktiv sind. „Beim selbst überwachten Lernen muss die Aktivität der Zellen nicht zeitlich synchronisiert sein. Maßgeblich für die Änderung von Synapsen ist nur die Gesamtaktivität in einem bestimmten Zeitraum“, sagt Gütig. Somit können diese Netzwerke auch Sinnesreize verschiedener sensorischer Modalitäten, z.B. Sehen, Hören und Riechen, verknüpfen, deren neuronale Repräsentationen zeitlich erheblich gegeneinander verschoben sein können.

Gütigs Lernschema erklärt nicht nur biologische Prozesse, sondern könnte auch weitreichenden Verbesserungen innerhalb technologischer Anwendungen, z.B. der künstlichen Spracherkennung, den Weg bereiten. „Es wäre damit möglich, die Anforderungen für das Training computergestützter Spracherkennung erheblich zu vereinfachen. Anstatt aufwendig segmentierter Sprachdatenbanken oder komplexer Segmentierungsalgorithmen genügen für häufigkeitsbasiertes Lernen beispielsweise die Untertitel von Nachrichtensendungen“, so Gütig.

Originalpublikation:
Robert Gütig
Spiking neurons can discover predictive features by aggregate-label learning
Science 4 March 2016; DOI: 10.1126/science.aab4113

Ansprechpartner:
Dr. Robert Gütig
Max-Planck-Institut für experimentelle Medizin, Göttingen
Telefon:+49 551 3899-490
E-Mail:
guetig@em.mpg.de

Dr Harald Rösch | Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V.

Weitere Nachrichten aus der Kategorie Biowissenschaften Chemie:

nachricht Molekulare Schere stabilisiert das Zell-Zytoskelett
24.06.2019 | Paul Scherrer Institut (PSI)

nachricht Mitten ins Herz
24.06.2019 | Max-Delbrück-Centrum für Molekulare Medizin in der Helmholtz-Gemeinschaft

Alle Nachrichten aus der Kategorie: Biowissenschaften Chemie >>>

Die aktuellsten Pressemeldungen zum Suchbegriff Innovation >>>

Die letzten 5 Focus-News des innovations-reports im Überblick:

Im Focus: Partielle Mondfinsternis am 16./17. Juli 2019

Gemeinsame Pressemitteilung der Vereinigung der Sternfreunde (VdS) und des Hauses der Astronomie in Heidelberg - Wie im letzten Jahr findet auch 2019 eine in den späten Abendstunden in einer lauen Sommernacht gut zu beobachtende Mondfinsternis statt, und zwar in der Nacht vom 16. auf den 17. Juli. Die Finsternis ist zwar nur partiell - der Mond tritt also nicht vollständig in den Erdschatten ein - es ist aber für die nächsten Jahre die einzige gut sichtbare Mondfinsternis im deutschen Sprachraum.

Am Dienstagabend, den 16. Juli, wird ein kosmisches Schauspiel zu sehen sein: Der Vollmond taucht zu einem großen Teil in den Schatten der Erde ein, es findet...

Im Focus: Fraunhofer IDMT zeigt akustische Qualitätskontrolle auf der Fachmesse für Messtechnik »Sensor + Test 2019«

Das Ilmenauer Fraunhofer-Institut für Digitale Medientechnologie IDMT präsentiert vom 25. bis 27. Juni 2019 am Gemeinschaftsstand der Fraunhofer-Gesellschaft (Stand 5-248) seine neue Lösung zur berührungslosen, akustischen Qualitätskontrolle von Werkstücken und Bauteilen. Da die Prüfung zerstörungsfrei funktioniert, kann teurer Prüfschrott vermieden werden. Das Prüfverfahren wird derzeit gemeinsam mit verschiedenen Industriepartnern im praktischen Einsatz erfolgreich getestet und hat das Technology Readiness Level (TRL) 6 erreicht.

Maschinenausfälle, Fertigungsfehler und teuren Prüfschrott reduzieren

Im Focus: Fraunhofer IDMT demonstrates its method for acoustic quality inspection at »Sensor+Test 2019« in Nürnberg

From June 25th to 27th 2019, the Fraunhofer Institute for Digital Media Technology IDMT in Ilmenau (Germany) will be presenting a new solution for acoustic quality inspection allowing contact-free, non-destructive testing of manufactured parts and components. The method which has reached Technology Readiness Level 6 already, is currently being successfully tested in practical use together with a number of industrial partners.

Reducing machine downtime, manufacturing defects, and excessive scrap

Im Focus: Erfolgreiche Praxiserprobung: Bidirektionale Sensorik optimiert das Laserauftragschweißen

Die Qualität generativ gefertigter Bauteile steht und fällt nicht nur mit dem Fertigungsverfahren, sondern auch mit der Inline-Prozessregelung. Die Prozessregelung sorgt für einen sicheren Beschichtungsprozess, denn Abweichungen von der Soll-Geometrie werden sofort erkannt. Wie gut das mit einer bidirektionalen Sensorik bereits beim Laserauftragschweißen im Zusammenspiel mit einer kommerziellen Optik gelingt, demonstriert das Fraunhofer-Institut für Lasertechnik ILT auf der LASER World of PHOTONICS 2019 auf dem Messestand A2.431.

Das Fraunhofer ILT entwickelt optische Sensorik seit rund 10 Jahren gezielt für die Fertigungsmesstechnik. Dabei hat sich insbesondere die Sensorik mit der...

Im Focus: Successfully Tested in Praxis: Bidirectional Sensor Technology Optimizes Laser Material Deposition

The quality of additively manufactured components depends not only on the manufacturing process, but also on the inline process control. The process control ensures a reliable coating process because it detects deviations from the target geometry immediately. At LASER World of PHOTONICS 2019, the Fraunhofer Institute for Laser Technology ILT will be demonstrating how well bi-directional sensor technology can already be used for Laser Material Deposition (LMD) in combination with commercial optics at booth A2.431.

Fraunhofer ILT has been developing optical sensor technology specifically for production measurement technology for around 10 years. In particular, its »bd-1«...

Alle Focus-News des Innovations-reports >>>

Anzeige

Anzeige

VideoLinks
Industrie & Wirtschaft
Veranstaltungen

Meeresleuchten, Klimawandel, Küstenmeere Afrikas – Spannende Vielfalt bei „Warnemünder Abenden 2019“

24.06.2019 | Veranstaltungen

Plastik: Mehr Kreislauf gegen die Krise gefordert

21.06.2019 | Veranstaltungen

Rittal und Innovo Cloud sind auf Supercomputing-Konferenz in Frankfurt vertreten

18.06.2019 | Veranstaltungen

VideoLinks
Wissenschaft & Forschung
Weitere VideoLinks im Überblick >>>
 
Aktuelle Beiträge

Molekulare Schere stabilisiert das Zell-Zytoskelett

24.06.2019 | Biowissenschaften Chemie

Neues „Intelligent Edge Data Center“ bringt Smart Industries auf nächstes Level

24.06.2019 | Unternehmensmeldung

Meeresleuchten, Klimawandel, Küstenmeere Afrikas – Spannende Vielfalt bei „Warnemünder Abenden 2019“

24.06.2019 | Veranstaltungsnachrichten

Weitere B2B-VideoLinks
IHR
JOB & KARRIERE
SERVICE
im innovations-report
in Kooperation mit academics