Forum für Wissenschaft, Industrie und Wirtschaft

Hauptsponsoren:     3M 
Datenbankrecherche:

 

Der Blick in Neuronale Netze

01.07.2019

Künstliche Intelligenz erklärbar machen

Künstliche Intelligenz, kurz KI, ist längst in unserem Alltag präsent und dringt in immer mehr Bereiche vor. Sprachassistenten etwa sind bereits als Helfer auf dem Smartphone, im Auto oder zu Hause Normalität geworden. Fortschritte im Bereich der KI beruhen vor allem auf der Verwendung Neuronaler Netze. Vergleichbar mit der Funktionsweise des menschlichen Gehirns verknüpfen sie mathematisch definierte Einheiten miteinander. Doch bisher wusste man nicht, wie ein Neuronales Netz Entscheidungen trifft.


Die neue Technik Spectral Relevance Analysis fasst zusammen, aufgrund welcher Kriterien KI-Systeme Entscheidungen treffen.

© Fraunhofer HHI

Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik entwickelt, die erkennt, anhand welcher Kriterien KI-Systeme Entscheidungen fällen. Die neuartige Methode Spectral Relevance Analysis (SpRAy) basierend auf der Technik Layer-Wise Relevance Propagation erlaubt den Blick in die »Black Box«.

Heute gibt es kaum noch einen Bereich, in dem Künstliche Intelligenz keine Rolle spielt, sei es in der Produktion, der Werbung oder der Kommunikation. Viele Unternehmen nutzen lernende und vernetzte KI-Systeme, etwa um präzise Nachfrageprognosen anzustellen und das Kundenverhalten exakt vorherzusagen.

Auf diese Weise lassen sich beispielsweise Logistikprozesse regional anpassen. Auch im Gesundheitswesen bedient man sich spezifischer KI-Tätigkeiten wie dem Anfertigen von Prognosen auf Basis von strukturierten Daten. Hier betrifft das etwa die Bilderkennung: So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose.

Das Erfassen von Bildinhalten ist auch beim autonomen Fahren entscheidend, wo Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden müssen. Und genau hier liegt die Crux: In sensiblen Anwendungsfeldern wie der medizinischen Diagnostik oder in sicherheitskritischen Bereichen müssen KI-Systeme absolut zuverlässige Problemlösungsstrategien liefern.

Bislang war es jedoch nicht nachvollziehbar, wie KI-Systeme Entscheidungen treffen. Zudem basieren die Vorhersagen auf der Qualität der Input-Daten. Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut, HHI, und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und somit unsichere Problemlösungsstrategien aufdeckt.

Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (SpRAy) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und erkennt somit auch in riesigen Datensätzen unerwünschte Entscheidungen.

Transparente KI

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird also beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie »krebsartig« oder »nicht krebsartig« das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt.

»Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun. Mit unserer Open-Source-Software, die die Layer-Wise Relevance Propagation einsetzt, ist es uns gelungen, die Lösungsfindung von KI-Systemen nachvollziehbar zu machen«, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe »Machine Learning« am Fraunhofer HHI.

»Mit LRP visualisieren und interpretieren wir Neuronale Netze und andere Machine Learning-Modelle. Mit LRP messen wir den Einfluss jeder Eingangsvariablen für die Gesamtvorhersage und zerlegen die Entscheidungen des Klassifizierers«, ergänzt Dr. Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin.

Unsichere Lösungsstrategien

Nur wer versteht, wie Neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war.

»Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen«, resümiert Samek das Ergebnis der Untersuchungen.

Neuronale Netze beim Denken beobachten

Die LRP-Technologie entschlüsselt die Funktionsweise von Neuronalen Netzen, und findet heraus, anhand welcher Merkmale ein Pferd als Pferd identifiziert wird und nicht als Esel oder Kuh. An jedem Knotenpunkt des Netzes erkennt sie, wie Informationen durch das Netz fließen. Somit lassen sich sogar sehr tiefe Neuronale Netze untersuchen.
Derzeit erarbeiten die Forscherteams des Fraunhofer HHI und der TU Berlin neue Algorithmen, um weitere Fragestellungen zu untersuchen und KI-Systeme noch sicherer und robuster zu gestalten. Ihre Forschungsergebnisse haben die Projektpartner in dem Fachmagazin Nature Communications veröffentlicht (siehe Link unten).

Veröffentlichung bei Nature Communication

KI, Machine Learning und Co.

Künstliche Intelligenz beschäftigt sich mit der Entwicklung von Systemen, die eigenständig Probleme lösen und analog zu menschlichen Denk- und Verhaltensmustern intelligent handeln. Aktuell werden die größten Fortschritte auf dem Gebiet des Machine Learning oder maschinellen Lernens erzielt, einem Teilgebiet der KI. Dieses beschäftigt sich mit Methoden, die aus Daten Wissen extrahieren und in den Daten enthaltene Zusammenhänge selbstständig lernen. Zurückzuführen sind die Fortschritte auf den Einsatz Künstlicher Neuronaler Netze, die auf Verbindungen zwischen mathematischen Berechnungseinheiten beruhen und im Prinzip die Neuronenstruktur des menschlichen Gehirns nachbilden.

Ein Teilgebiet des Maschinellen Lernens, das Deep Learning, umfasst eine Klasse neuer Verfahren, die es ermöglichen, komplexe Künstliche Neuronale Netze anzulernen und zu trainieren. Diese Netze bestehen aus zahlreichen Ebenen, die in vielschichtigen Strukturen miteinander verknüpft sind.

Kathleen Schröter | Fraunhofer Forschung Kompakt
Weitere Informationen:
https://www.fraunhofer.de/de/presse/presseinformationen/2019/juli/der-blick-in-neuronale-netze.html
https://www.hhi.fraunhofer.de/

Weitere Nachrichten aus der Kategorie Biowissenschaften Chemie:

nachricht Insekten teilen den gleichen Signalweg zur dreidimensionalen Entwicklung ihres Körpers
18.10.2019 | Universität zu Köln

nachricht Das Rezept für eine Fruchtfliege
18.10.2019 | Max-Planck-Institut für Biochemie

Alle Nachrichten aus der Kategorie: Biowissenschaften Chemie >>>

Die aktuellsten Pressemeldungen zum Suchbegriff Innovation >>>

Die letzten 5 Focus-News des innovations-reports im Überblick:

Im Focus: Die schnellste Ameise der Welt - Wüstenflitzer haben kurze Beine, aber eine perfekte Koordination

Silberameisen gelten als schnellste Ameisen der Welt - obwohl ihre Beine verhältnismäßig kurz sind. Daher haben Forschende der Universität Ulm den besonderen Laufstil dieses "Wüstenflitzers" auf einer Ameisen-Rennstrecke ergründet. Veröffentlicht wurde diese Entdeckung jüngst im „Journal of Experimental Biology“.

Sie geht auf Nahrungssuche, wenn andere Siesta halten: Die saharische Silberameise macht vor allem in der Mittagshitze der Sahara und in den Wüsten der...

Im Focus: Fraunhofer FHR zeigt kontaktlose, zerstörungsfreie Qualitätskontrolle von Kunststoffprodukten auf der K 2019

Auf der K 2019, der Weltleitmesse für die Kunststoff- und Kautschukindustrie vom 16.-23. Oktober in Düsseldorf, demonstriert das Fraunhofer-Institut für Hochfrequenzphysik und Radartechnik FHR das breite Anwendungsspektrum des von ihm entwickelten Millimeterwellen-Scanners SAMMI® im Kunststoffbereich. Im Rahmen des Messeauftritts führen die Wissenschaftler die vielseitigen Möglichkeiten der Millimeterwellentechnologie zur kontaktlosen, zerstörungsfreien Prüfung von Kunststoffprodukten vor.

Millimeterwellen sind in der Lage, nicht leitende, sogenannte dielektrische Materialien zu durchdringen. Damit eigen sie sich in besonderem Maße zum Einsatz in...

Im Focus: Solving the mystery of quantum light in thin layers

A very special kind of light is emitted by tungsten diselenide layers. The reason for this has been unclear. Now an explanation has been found at TU Wien (Vienna)

It is an exotic phenomenon that nobody was able to explain for years: when energy is supplied to a thin layer of the material tungsten diselenide, it begins to...

Im Focus: Rätsel gelöst: Das Quantenleuchten dünner Schichten

Eine ganz spezielle Art von Licht wird von Wolfram-Diselenid-Schichten ausgesandt. Warum das so ist, war bisher unklar. An der TU Wien wurde nun eine Erklärung gefunden.

Es ist ein merkwürdiges Phänomen, das jahrelang niemand erklären konnte: Wenn man einer dünnen Schicht des Materials Wolfram-Diselenid Energie zuführt, dann...

Im Focus: Wie sich Reibung bei topologischen Isolatoren kontrollieren lässt

Topologische Isolatoren sind neuartige Materialien, die elektrischen Strom an der Oberfläche leiten, sich im Innern aber wie Isolatoren verhalten. Wie sie auf Reibung reagieren, haben Physiker der Universität Basel und der Technischen Universität Istanbul nun erstmals untersucht. Ihr Experiment zeigt, dass die durch Reibung erzeugt Wärme deutlich geringer ausfällt als in herkömmlichen Materialien. Dafür verantwortlich ist ein neuartiger Quantenmechanismus, berichten die Forscher in der Fachzeitschrift «Nature Materials».

Dank ihren einzigartigen elektrischen Eigenschaften versprechen topologische Isolatoren zahlreiche Neuerungen in der Elektronik- und Computerindustrie, aber...

Alle Focus-News des Innovations-reports >>>

Anzeige

Anzeige

VideoLinks
Industrie & Wirtschaft
Veranstaltungen

VR-/AR-Technologien aus der Nische holen

18.10.2019 | Veranstaltungen

Ein Marktplatz zur digitalen Transformation

18.10.2019 | Veranstaltungen

Wenn der Mensch auf Künstliche Intelligenz trifft

17.10.2019 | Veranstaltungen

VideoLinks
Wissenschaft & Forschung
Weitere VideoLinks im Überblick >>>
 
Aktuelle Beiträge

Insekten teilen den gleichen Signalweg zur dreidimensionalen Entwicklung ihres Körpers

18.10.2019 | Biowissenschaften Chemie

Volle Wertschöpfungskette in der Mikrosystemtechnik – vom Chip bis zum Prototyp

18.10.2019 | Physik Astronomie

Innovative Datenanalyse von Fraunhofer Austria

18.10.2019 | Informationstechnologie

Weitere B2B-VideoLinks
IHR
JOB & KARRIERE
SERVICE
im innovations-report
in Kooperation mit academics