Vom 11. – 17.07.2021 findet das diesjährige IEEE Intelligent Vehicles Symposium in Nagoya, Japan statt. Aufgrund er Corona Pandemie findet die Konferenz in einer reinen digitalen Form statt. Die CAMO Mitglieder Anselm Haselhoff und Jan Kronenberger werden dort zusammen mit Kollegen der Arbeitsgruppe künstliche Intelligenz einen Beitrag zu Kalibrierung neuronaler Netzwerke vorstellen. Die Themenfelder der Konferenz umfassen dabei neben dem Bereich künstliche Intelligenz auch Gebiete der automatisierten und vernetzten Mobilität.
Die Kalibrierung von neuronalen Netzwerken ist notwendig, da jüngste Forschungsergebnisse gezeigt haben, dass diese bei der Vorhersage von Konfidenzwerten zu selbstsicher sind. Diese fehlkalibrierten Modelle stellen jedoch ein potenzielles Sicherheitsrisiko dar, da eine zu selbstsichere Einschätzung den weiteren Verarbeitungs- und Entscheidungsprozess des Systems beeinträchtigen und verzerren kann. Der von Fabian Küppers und den CAMO Mitgliedern eingereichte Beitrag erweitert die Kalibrierung von Konfidenzwerten der Vorhersagen eines neuronalen Netzes, um Unsicherheiten der kalibrierten Konfidenz. Die Arbeit wurde im Rahmen des Projektes KI-Absicherung in Zusammenarbeit mit EFS erstellt.
Die Code zu der Arbeit wurde auf GitHub veröffentlicht: https://github.com/EFS-OpenSource/calibration-framework
