Sicherheitsstandards für autonome Systeme
In einem Forschungsprojekt wurde eine Referenzarchitektur entwickelt. Ziel: funktionale Sicherheit gewährleisten, ohne die Leistungsfähigkeit einzuschränken.
Fraunhofer IESE, Fraunhofer IKS und Universität York schließen Projekt zu autonomen Systemen ab.
Foto: Fraunhofer IESE
In einer einzigartigen Zusammenarbeit haben das Fraunhofer-Institut für Experimentelles Software Engineering IESE, das Fraunhofer-Institut für Kognitive Systeme IKS und die Universität York mit dem Assuring Autonomy International Programm (AAIP) im Forschungsprojekt Icon Lopaas (Layers of Protection Architecture for Autonomous Systems) neue Sicherheitsstandards für autonome Systeme – mit Fokus auf autonomes Fahren – entwickelt. Wie das IESE mitteilt, fand im Juni nach dreijähriger Forschung Juni die Abschlussveranstaltung des Projekts am Fraunhofer IESE in Kaiserslautern statt.
Sicherheit gewährleisten ohne Leistungsverlust
Wie das Fraunhofer IESE ausführt, stellt die Einführung autonomer Systeme und automatisierter Fahrzeuge die Industrie vor große Herausforderungen. Eine der größten Hürden sei die Gewährleistung der funktionalen Sicherheit, ohne dabei die Leistungsfähigkeit einzuschränken, zum Beispiel durch eine reduzierte Geschwindigkeit. Das Projekt Icon Lopaas hat dazu, so das Fraunhofer IESE weiter, maßgebliche Fortschritte erzielt, die in internationale Standards eingeflossen sind. Mit dem Ziel, die funktionale Sicherheit autonomer Fahrzeuge zu gewährleisten, haben die Partner eine Referenzsicherheitsarchitektur realisiert.
Neuer Entwicklungsstandard für autonomes Fahren
Das Fraunhofer IESE habe sein Fachwissen im dynamischen Risikomanagement eingebracht, um autonome Systeme in die Lage zu versetzen, Risiken von Handlungsoptionen situationsspezifisch und in Echtzeit einzuschätzen. Durch den zusätzlichen Einsatz des Uncertainty Wrappers, der ebenfalls von den Expertinnen und Experten des IESE entwickelt wurde, können autonome Systeme auch Unsicherheiten in ihren Entscheidungsprozessen berücksichtigen und angemessen darauf reagieren, heißt es.
Entscheidungen kommen menschlicher Reaktion nahe
Diese Fähigkeiten sind entscheidend, um die Effizienz und Sicherheit autonomer Fahrzeuge zu verbessern. Ein Beispiel dafür ist die Reaktion auf unerwartete Hindernisse, etwa wenn plötzlich ein LKW auf der Autobahn stehen bleibt. „Dies bedeutet, dass Fahrzeuge nun situative Entscheidungen treffen können, die der menschlichen Reaktionsweise nahekommen. Anstatt sich auf vorprogrammierte Antworten zu verlassen, können sie auf unerwartete Ereignisse, wie ein plötzlich auftauchendes Hindernis, flexibel und sicher reagieren“, erklärt Dr. Rasmus Adler, Leiter des Forschungsprogramms „Autonome Systeme“ und Projektleiter von Icon Lopaas seitens des Fraunhofer IESE.
Neue Industriestandards gewährleisten die Sicherheit autonomer Systeme
Ein weiterer wichtiger Aspekt sei die Erbringung von Sicherheitsnachweisen für autonome Systeme. Diese Nachweise gewährleisten die systematische Erfassung und Bewertung der Zuverlässigkeit von Machine-Learning-Prozessen.
Wie kann KI dynamische Verkehrsituationen vorhersagen
Die Ergebnisse des Projekts flossen, wie es weiter heißt, direkt in internationale Industriestandards und Normen ein, beispielsweise in die Spezifikation ISO/PAS 8800 zur Risikominderung Künstlicher Intelligenz bei sicherheitskritischen Systemen in Straßenfahrzeugen oder in den Report ISO/IEC TR 5469 für die funktionale Sicherheit von KI-Systemen. Die Ergebnisse zur Unsicherheitsquantifizierung von KI-Systemen sind in den Spezifikationsstandard DIN SPEC 92005 geflossen, welcher im Januar 2024 veröffentlicht wurde und als Basis für die Entwicklung einer neuen internationalen Norm herangezogen wird. Diese Standards bilden die Grundlage für die verlässliche Nutzung autonomer Systeme weltweit. Durch die Schaffung solcher Richtlinien wird gewährleistet, dass autonome Fahrzeuge überall den gleichen hohen Sicherheitsanforderungen entsprechen. Dies ist ein wichtiger Schritt, um das Vertrauen in autonome Fahrzeuge zu stärken und deren breite Akzeptanz zu fördern.
Risikomanagement macht autonome Systeme sicherer
„Die entwickelten Konzepte und Standards finden nicht nur Anwendung im Straßenverkehr, sondern können auch auf andere Bereiche, wie die Logistik, übertragen werden. Unsere Arbeit zeigt, dass autonome Systeme durch gezieltes Risikomanagement und Standardisierung sicherer und effizienter werden. Und unsere Ergebnisse bilden eine gute Basis für weitere Entwicklungen im Bereich der autonomen Mobilität der Zukunft“, ergänzt Adler.
