KI-Absicherung

Wie autonomes Fahren sicherer wird

Ein neues Industriekonsortium in Deutschland entwickelt im Rahmen der VDA-Leitinitiative "Autonomes und vernetztes Fahren" Lösungen zur Absicherung von KI-Funktionsmodulen. Bis Juni 2022 werden gemeinsam Lösungen erarbeitet, um KI-Funktionsmodule gezielter beobachten, bewerten, prüfen und entsprechend zuverlässig und transparent absichern zu können.

Autonomes Fahren Künstliche Intelligenz Fraunhofer IAIS Volkwagen

Technologisch ist autonomes Fahren bereits in greifbarer Nähe – doch ohne nachgewiesene Sicherheit für alle Verkehrsteilnehmenden wird diese Vision nicht umgesetzt werden können. Automobilhersteller, Zulieferer, Technologie-Unternehmen und Forschungsinstitute in Deutschland arbeiten darum gemeinsam an der größtmöglichen Absicherung von KI-Funktionen: Das vom Bundesministerium für Wirtschaft und Energie (BMWi) mit 19,2 Mio Euro geförderte Forschungsprojekt "KI-Absicherung" zielt auf die Entwicklung von abgesicherten KI-Funktionsmodulen und standardisierten Schnittstellen. Das Gesamtbudget inklusive der Beiträge der beteiligten Partner beträgt 41 Mio Euro. Im Dialog mit Zertifizierungsstellen und Standardisierungsgremien soll zudem ein allgemein akzeptierter Industriekonsens geschaffen und die Position der deutschen Automobilbranche nachhaltig gestärkt werden. Neben dem Konsortialführer Volkswagen übernimmt das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS die stellvertretende Leitung und wissenschaftliche Koordination des Projekts, das bis Juni 2022 laufen wird.

Ein autonomes Fahrzeug muss seine Umwelt wahrnehmen und auf diese adäquat reagieren können. Diese Umfelderkennung muss in der Lage sein, die Bewegungen anderer Verkehrsteilnehmender, etwa von Fußgängern, zu interpretieren und daraus Intentionen für deren weiteres Verhalten abzuleiten. In hochautomatisierten Fahrzeugen werden diese Aufgaben zunehmend von Künstlicher Intelligenz übernommen. Solche auf Maschinellem Lernen beruhenden KI-Funktionsmodule entwickeln sich damit zu einer Schlüsseltechnologie.

Herausforderung: Sicherheit

Eine der größten Herausforderungen bei der Integration dieser Technologien in hochautomatisiert fahrende Autos ist es, die gewohnte funktionale Sicherheit bisheriger Systeme zu gewährleisten. Existierende und etablierte Absicherungsprozesse lassen sich nicht ohne weiteres auf maschinelle Lernverfahren übertragen. Um diese Herausforderung zu lösen, fördert das BMWi das Forschungsprojekt "KI-Absicherung" bestehend aus 25 Partnerunternehmen und -institutionen unter der Leitung der Volkswagen und des Fraunhofer IAIS.
 "KI-Funktionsmodule können automatisiertes Fahren sicherer machen, zum Beispiel durch KI-basierte Fußgängererkennung. Das muss jedoch für den Einsatz im Straßenverkehr nachweisbar sein", sagt der stellvertretende Konsortialführer Michael Mock vom Fraunhofer IAIS, der die wissenschaftliche Koordination des Projekts leitet.

Das Ziel: Ein Industriekonsens zur Absicherung von KI-Funktionsmodulen

Das Konsortium verfolgt das Ziel, eine stringente und nachweisbare Argumentationskette für die Absicherung und Freigabe von KI-Funktionsmodulen im Kontext des hochautomatisierten Fahrens aufzubauen. Dafür wird im Projekt eine Prozesskette mit offenen standardisierten Schnittstellen zur Erzeugung hochwertiger und reproduzierbarer synthetischer Trainings- und Testdatensätze erzeugt. Weiterhin werden KI-Algorithmen zur Fußgängererkennung programmiert und vorwiegend mit diesen erzeugten synthetischen Daten trainiert und getestet. Dadurch können beispielhaft Methoden und Maßnahmen entwickelt werden, die dazu geeignet sind, die Argumentationskette zur prinzipiellen Absicherung mit messbaren Leistungs- und Sicherheitsmaßen für KI-Funktionsmodule zu untermauern. Mit Hilfe der im Projekt gewonnenen Erkenntnisse soll im Dialog mit Standardisierungsgremien und Zertifizierungsstellen die Grundlage für einen Industriekonsens zur Absicherung solcher KI-Funktionsmodule gelegt werden.