Auf der diesjährigen internationalen Konferenz CVPR hat der CAMO Mitarbeiter Jan Kronenberger zusammen mit Kollegen der Arbeitsgruppe künstliche Intelligenz, einen Beitrag zur Absicherung von Objekterkennungssystemen mit künstlicher Intelligenz vorgestellt. Die CVPR (Computer Vision and Pattern Recognition) zählt mit rund 7.500 Teilnehmer:innen aus der ganzen Welt in den letzten Jahren zu den bedeutendsten Konferenzen im Bereich der Bildverarbeitung und der künstlichen Intelligenz.
Die aktuellsten Themen umfassen neben dem klassischen Detektieren und Klassifizieren von Objekten auch die Erklärbarkeit und Absicherung dieser Funktionen. Durch die breite Anwendung von Systemen mit künstlicher Intelligenz wachsen auch die Anforderungen an die Sicherheit und das Verständnis der Funktionsweise. Die hohe Komplexität der verwendeten neuronalen Netze und die hohe Varianz realer Daten stellen die Forscher:innen vor große Herausforderungen. Auch die Fairness und das ethische Verhalten der Systeme ist ein breit diskutiertes Thema. So soll vermieden werden, dass die künstliche Intelligenz ihre Entscheidungen aufgrund von Alter, Geschlecht, Hautfarbe oder ähnlichen Eigenschaften trifft.
Der CAMO-Forscher Jan Kronenberger veröffentlichte dort mit seinem Kollegen Fabian Küppers eine Methode um die Sicherheiten der Vorhersagen von neuronalen Netzen zu kalibrieren, um so etwaigen Fehlentscheidungen vorzubeugen oder Fehler durch Lernen auf ungleich verteilten Daten zu verringern.
Durch die zahlreichen Beiträge auf der Konferenz lassen sich für das Themenfeld des automatisierten Fahrens folgende Schlüsse ziehen:
- Die breite Verwendung von Systemen mit künstlicher Intelligenz und der Einsatz dieser in verantwortungsvollen Aufgaben, wie dem automatisiertem Fahren, setzen eine Absicherung und Nachvollziehbarkeit der Systeme voraus.
- Die Notwendigkeit der Betrachtung von Fairness wächst stark mit der Verantwortung, die von diesen Systemen getragen wird.
