kontakt@camo.nrw +49 202 / 439 1164

Beitrag zur Erklärbarkeit von neuronalen Netzwerken

Auf der diesjährigen „Conference on Computer Vision and Pattern Recognitio“(CVPR), eine der weltweit wichtigsten Konferenzen für Bildverarbeitung und Mustererkennung, stellen Prof. Dr.-Ing. Anselm Haselhoff und Jan Kronenberger (beide camo.nrw) im Rahmen des Workshops SAIAD (Safe Artificial Intelligence for Automated Driving) einen Beitrag zur Erklärbarkeit von Erkennungssystemen für Fußgänger vor.

Erkennungssysteme, welche auf Basis von künstlichen neuronalen Netzen arbeiten, erzielen sehr hohe Erkennungsraten. Aufgrund der Komplexität dieser Netzwerke sind die Entscheidungswege für den Menschen jedoch nicht immer erkennbar. Solche Systeme werden auch als Black-Box-Systeme bezeichnet. Die Mitarbeiter von camo.nrw verwendeten in ihrer Arbeit ein einfacheres erklärbares System, um die Vorhersagen des komplexen und undurchsichtigen Systems nachzuahmen (Student-Teacher Ansatz). Sie erstellten ein separates Netzwerk, welches die Anwesenheit von visuellen Konzepten (Kopf, Hand, Fuß, Bein, etc.) überprüft. Die Konzepte werden von dem erklärbaren Netzwerk genutzt, um die Entscheidung des komplexen Systems zu rekonstruieren und somit zu erklären.

Der entwickelte Ansatz eignet sich insbesondere für bereits bestehende Anwendungen, da die Eigenschaften des Systems nur erweitert und nicht beeinflusst werden. Die Arbeit wurde im Rahmen des Projektes KI-Absicherung in Zusammenarbeit mit EFS erstellt.

Die Konferenz wird, wie letztes Jahr auch, virtuell abgehalten und findet vom 19. – 25. Juni 2021 statt. Der Workshop SAIAD wird am Samstag, den 19. Juni veranstaltet.

Verwandte Artikel

Interaktive Systeme: Grundlage für die Mobilität von Morgen

Das CAMO, vertreten durch Henrik Detjen aus dem Team von Prof. Dr. Stefan Geisler, war in dieser Woche auf der internationalen Konferenzreihe CHI (Conference on Human Factors in Computing Systems) präsent. Die CHI, die weithin […]

Mehr erfahren

Automatisierte Mobilität: Kommunen sollten starten! polisMOBILITY bot vielfältige Einblicke und Perspektiven auf die Mobilität der Zukunft.

Mit ihren vielfältigen Dialogformaten brachte die Premiere der polisMOBILITY vom 18. bis 21. Mai 2022 in Köln verschiedenste Akteure zusammen, die die urbane Mobilität von morgen gestalten: Klassische Mobilitätsdienstleister, Vertreter*innen aus den Bereichen Digitalisierung, Energie […]

Mehr erfahren

Corona-Pandemie als Innovationstreiber des ÖPNV? Kommunen und Verkehrsbetriebe rüsten sich für die Zukunft!

COVID-19 verändert unser Mobilitätsverhalten: Die meisten Bürger*Innen greifen, sofern möglich, auf Alternativen zu öffentlichen Verkehrsmitteln zurück. Sie steigen auf das Fahrrad oder den eigenen PKW um oder gehen zu Fuß. Eine Umfrage des camo.nrw bei […]

Mehr erfahren