Analysemethode des Fraunhofer HHI und der Technischen Universität Berlin

Wie treffen Neuronale Netze Entscheidungen?

neuronale netze tu-berlin Fraunhofer HHI Layer-Wise Relevance Propagation
Forschende des Fraunhofer HHI und der TU Berlin haben eine Technik entwickelt, die KI-Prognosen erklärbar macht. Hier klassifiziert das KI-System beispielsweise ein Bild als Zug, da Schienen vorhanden sind Bild: Fraunhofer HHI
Anzeige
Bisher wusste man nicht, wie ein Neuronales Netz Entscheidungen trifft. Doch nun haben Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin eine Technik entwickelt, die erkennt, anhand welcher Kriterien KI-Systeme Entscheidungen fällen.

Die Layer-Wise Relevance Propagation (LRP) ist eine Technik, die KI-Prognosen erklärbar macht und somit unsichere Problemlösungsstrategien aufdeckt. Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (SpRAy) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und erkennt somit auch in riesigen Datensätzen unerwünschte Entscheidungen. „Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun. Mit unserer Open-Source-Software, die LRP einsetzt, ist es uns gelungen, die Lösungsfindung von KI-Systemen nachvollziehbar zu machen“, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe Machine Learning am Fraunhofer HHI. Die LRP-Technologie entschlüsselt die Funktionsweise von Neuronalen Netzen, und analysiert, anhand welcher Merkmale etwa ein Pferd als Pferd identifiziert wird und nicht als Esel. ik

www.hhi.fraunhofer.de

Fraunhofer-Institut für Nachrichtentechnik
Heinrich-Hertz-Institut
Einsteinufer 37
10587 Berlin
Tel. +49 30 31002-0
Fax +49 30 31002-213

www.tu-berlin.de

Technische Universität Berlin
Der Präsident
Prof. Dr. Christian Thomsen
Straße des 17. Juni 135
10623 Berlin
Telefon: +49 (0)30 314-0

Anzeige

Festo: Digitalisierung

Smartenance

Die Digitalstrategie von Festo im Überblick

Schlagzeilen

Video aktuell

Oliver Vogel, Team Leader Commercial Engineering bei Rockwell Automation GmbH erläutert das Besondere an Engineeringtools und welchen Vorteil Maschinenbauer davon haben

Aktuelle Ausgabe

Titelbild elektro AUTOMATION 11
Ausgabe
11.2019
LESEN
ARCHIV
ABO

Newsletter

Jetzt unseren Newsletter abonnieren

Webinare & Webcasts

Technisches Wissen aus erster Hand

Automation Award

Automation Award 2019
Die Besucher der SPS wählen während der Messe Ihre Favoriten! Nominierte Produkte…

Videos

Hier finden Sie alle aktuellen Videos

Whitepaper

Hier finden Sie aktuelle Whitepaper

Anzeige
Anzeige

Industrie.de Infoservice

Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de