Forum für Wissenschaft, Industrie und Wirtschaft

Hauptsponsoren:     3M 
Datenbankrecherche:

 

Der Blick in Neuronale Netze

01.07.2019

Künstliche Intelligenz erklärbar machen

Künstliche Intelligenz, kurz KI, ist längst in unserem Alltag präsent und dringt in immer mehr Bereiche vor. Sprachassistenten etwa sind bereits als Helfer auf dem Smartphone, im Auto oder zu Hause Normalität geworden. Fortschritte im Bereich der KI beruhen vor allem auf der Verwendung Neuronaler Netze. Vergleichbar mit der Funktionsweise des menschlichen Gehirns verknüpfen sie mathematisch definierte Einheiten miteinander. Doch bisher wusste man nicht, wie ein Neuronales Netz Entscheidungen trifft.


Die neue Technik Spectral Relevance Analysis fasst zusammen, aufgrund welcher Kriterien KI-Systeme Entscheidungen treffen.

© Fraunhofer HHI

Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik entwickelt, die erkennt, anhand welcher Kriterien KI-Systeme Entscheidungen fällen. Die neuartige Methode Spectral Relevance Analysis (SpRAy) basierend auf der Technik Layer-Wise Relevance Propagation erlaubt den Blick in die »Black Box«.

Heute gibt es kaum noch einen Bereich, in dem Künstliche Intelligenz keine Rolle spielt, sei es in der Produktion, der Werbung oder der Kommunikation. Viele Unternehmen nutzen lernende und vernetzte KI-Systeme, etwa um präzise Nachfrageprognosen anzustellen und das Kundenverhalten exakt vorherzusagen.

Auf diese Weise lassen sich beispielsweise Logistikprozesse regional anpassen. Auch im Gesundheitswesen bedient man sich spezifischer KI-Tätigkeiten wie dem Anfertigen von Prognosen auf Basis von strukturierten Daten. Hier betrifft das etwa die Bilderkennung: So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose.

Das Erfassen von Bildinhalten ist auch beim autonomen Fahren entscheidend, wo Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden müssen. Und genau hier liegt die Crux: In sensiblen Anwendungsfeldern wie der medizinischen Diagnostik oder in sicherheitskritischen Bereichen müssen KI-Systeme absolut zuverlässige Problemlösungsstrategien liefern.

Bislang war es jedoch nicht nachvollziehbar, wie KI-Systeme Entscheidungen treffen. Zudem basieren die Vorhersagen auf der Qualität der Input-Daten. Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut, HHI, und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und somit unsichere Problemlösungsstrategien aufdeckt.

Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (SpRAy) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und erkennt somit auch in riesigen Datensätzen unerwünschte Entscheidungen.

Transparente KI

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird also beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie »krebsartig« oder »nicht krebsartig« das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt.

»Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun. Mit unserer Open-Source-Software, die die Layer-Wise Relevance Propagation einsetzt, ist es uns gelungen, die Lösungsfindung von KI-Systemen nachvollziehbar zu machen«, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe »Machine Learning« am Fraunhofer HHI.

»Mit LRP visualisieren und interpretieren wir Neuronale Netze und andere Machine Learning-Modelle. Mit LRP messen wir den Einfluss jeder Eingangsvariablen für die Gesamtvorhersage und zerlegen die Entscheidungen des Klassifizierers«, ergänzt Dr. Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin.

Unsichere Lösungsstrategien

Nur wer versteht, wie Neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war.

»Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen«, resümiert Samek das Ergebnis der Untersuchungen.

Neuronale Netze beim Denken beobachten

Die LRP-Technologie entschlüsselt die Funktionsweise von Neuronalen Netzen, und findet heraus, anhand welcher Merkmale ein Pferd als Pferd identifiziert wird und nicht als Esel oder Kuh. An jedem Knotenpunkt des Netzes erkennt sie, wie Informationen durch das Netz fließen. Somit lassen sich sogar sehr tiefe Neuronale Netze untersuchen.
Derzeit erarbeiten die Forscherteams des Fraunhofer HHI und der TU Berlin neue Algorithmen, um weitere Fragestellungen zu untersuchen und KI-Systeme noch sicherer und robuster zu gestalten. Ihre Forschungsergebnisse haben die Projektpartner in dem Fachmagazin Nature Communications veröffentlicht (siehe Link unten).

Veröffentlichung bei Nature Communication

KI, Machine Learning und Co.

Künstliche Intelligenz beschäftigt sich mit der Entwicklung von Systemen, die eigenständig Probleme lösen und analog zu menschlichen Denk- und Verhaltensmustern intelligent handeln. Aktuell werden die größten Fortschritte auf dem Gebiet des Machine Learning oder maschinellen Lernens erzielt, einem Teilgebiet der KI. Dieses beschäftigt sich mit Methoden, die aus Daten Wissen extrahieren und in den Daten enthaltene Zusammenhänge selbstständig lernen. Zurückzuführen sind die Fortschritte auf den Einsatz Künstlicher Neuronaler Netze, die auf Verbindungen zwischen mathematischen Berechnungseinheiten beruhen und im Prinzip die Neuronenstruktur des menschlichen Gehirns nachbilden.

Ein Teilgebiet des Maschinellen Lernens, das Deep Learning, umfasst eine Klasse neuer Verfahren, die es ermöglichen, komplexe Künstliche Neuronale Netze anzulernen und zu trainieren. Diese Netze bestehen aus zahlreichen Ebenen, die in vielschichtigen Strukturen miteinander verknüpft sind.

Kathleen Schröter | Fraunhofer Forschung Kompakt
Weitere Informationen:
https://www.fraunhofer.de/de/presse/presseinformationen/2019/juli/der-blick-in-neuronale-netze.html
https://www.hhi.fraunhofer.de/

Weitere Nachrichten aus der Kategorie Biowissenschaften Chemie:

nachricht Biochemie-Absolvent der Universität Bayreuth hat Antigen für hochspezifischen Corona-Antikörpertest entwickelt
22.05.2020 | Universität Bayreuth

nachricht Wenn aus theoretischer Chemie Praxis wird
22.05.2020 | Technische Universität Dresden

Alle Nachrichten aus der Kategorie: Biowissenschaften Chemie >>>

Die aktuellsten Pressemeldungen zum Suchbegriff Innovation >>>

Die letzten 5 Focus-News des innovations-reports im Überblick:

Im Focus: Wenn aus theoretischer Chemie Praxis wird

Thomas Heine, Professor für Theoretische Chemie an der TU Dresden, hat 2019 zusammen mit seinem Team topologische 2D-Polymere vorhergesagt. Nur ein Jahr später konnten diese Materialien von einem italienischen Forscherteam synthetisiert und deren topologische Eigenschaften experimentell nachgewiesen werden. Für die renommierte Fachzeitschrift Nature Materials war das Anlass, Thomas Heine zu einem News and Views Artikel einzuladen, der in dieser Woche veröffentlicht wurde. Unter dem Titel "Making 2D Topological Polymers a reality" beschreibt Prof. Heine, wie aus seiner Theorie Praxis wurde.

Ultradünne Materialien sind als Bausteine für nanoelektronische Bauelemente der nächsten Generation äußerst interessant, da es viel einfacher ist, Schaltungen...

Im Focus: When predictions of theoretical chemists become reality

Thomas Heine, Professor of Theoretical Chemistry at TU Dresden, together with his team, first predicted a topological 2D polymer in 2019. Only one year later, an international team led by Italian researchers was able to synthesize these materials and experimentally prove their topological properties. For the renowned journal Nature Materials, this was the occasion to invite Thomas Heine to a News and Views article, which was published this week. Under the title "Making 2D Topological Polymers a reality" Prof. Heine describes how his theory became a reality.

Ultrathin materials are extremely interesting as building blocks for next generation nano electronic devices, as it is much easier to make circuits and other...

Im Focus: Mikroroboter rollt tief ins Innere des Körpers

Mit einem Leukozyten als Vorbild haben Wissenschaftler des Max-Planck-Instituts für Intelligente Systeme in Stuttgart einen Mikroroboter entwickelt, der in Größe, Form und Bewegungsfähigkeit einem weißen Blutkörperchen gleicht. In einem Labor simulierten sie dann ein Blutgefäß – und es gelang ihnen, den Mikroroller durch diese dynamische und dichte Umgebung zu steuern. Der Roboter hielt dem simulierten Blutfluss stand und brachte damit das Forschungsgebiet rund um die zielgenaue Medikamentenabgabe einen Schritt weiter: Es gibt keinen besseren Zugangsweg zu allen Geweben und Organen im menschlichen Körper als den Blutkreislauf.

Wissenschaftler des Max-Planck-Instituts für Intelligente Systeme (MPI-IS) in Stuttgart haben einen winzigen Mikroroboter entwickelt, der einem weißen...

Im Focus: Rolling into the deep

Scientists took a leukocyte as the blueprint and developed a microrobot that has the size, shape and moving capabilities of a white blood cell. Simulating a blood vessel in a laboratory setting, they succeeded in magnetically navigating the ball-shaped microroller through this dynamic and dense environment. The drug-delivery vehicle withstood the simulated blood flow, pushing the developments in targeted drug delivery a step further: inside the body, there is no better access route to all tissues and organs than the circulatory system. A robot that could actually travel through this finely woven web would revolutionize the minimally-invasive treatment of illnesses.

A team of scientists from the Max Planck Institute for Intelligent Systems (MPI-IS) in Stuttgart invented a tiny microrobot that resembles a white blood cell...

Im Focus: Schnüffel-Roboter als Katastrophenhelfer

Wo Menschenleben gefährdet sind, kommen künftig neuartige Roboter zum Einsatz, die an der TU Dresden entwickelt werden

Wissenschaftler an der TU Dresden arbeiten seit Juni 2019 an künstlichen Helfern, die in einem Katastrophengebiet Gefahren erkennen, beseitigen und somit...

Alle Focus-News des Innovations-reports >>>

Anzeige

Anzeige

VideoLinks
Industrie & Wirtschaft
Veranstaltungen

Dresden Nexus Conference 2020 - Gleicher Termin, virtuelles Format, Anmeldung geöffnet

19.05.2020 | Veranstaltungen

Urban Transport Conference 2020 in digitaler Form

18.05.2020 | Veranstaltungen

Erfolgreiche Premiere für das »Electrochemical Cell Concepts Colloquium«

18.05.2020 | Veranstaltungen

VideoLinks
Wissenschaft & Forschung
Weitere VideoLinks im Überblick >>>
 
Aktuelle Beiträge

Techniker Krankenkasse, EuPD Research und Handelsblatt starten Bewerbung für die Sonderpreise "Gesunde Hochschule" im Rahmen des Corporate Health Award 2020

22.05.2020 | Förderungen Preise

Werkstattbericht #1: Head Mounted Displays (HMDs) – Schwerpunktpositionen und Drehmomente

22.05.2020 | Informationstechnologie

Biochemie-Absolvent der Universität Bayreuth hat Antigen für hochspezifischen Corona-Antikörpertest entwickelt

22.05.2020 | Biowissenschaften Chemie

Weitere B2B-VideoLinks
IHR
JOB & KARRIERE
SERVICE
im innovations-report
in Kooperation mit academics