Automatisierte Tests und Methoden zur Erklärbarkeit für die Zertifizierung von KI-Methoden im Luftfahrt-Sektor (VeriKAS)

Das Gesamtziel von VeriKAS ist es, Vorschläge für Zertifizierungsprozesse von KI-Methoden zu erarbeiten und die Umsetzbarkeit und Nützlichkeit dieser Vorschläge zu demonstrieren. In diesem Vorhaben fokussiert HITeC hierfür zum einen auf Methoden zur externen Validierung der Funktionalität eines gelernten Systems und zum anderen auf die Verbindung von lernenden Systemen mit symbolischen Ansätzen, um die Überprüfbarkeit des Lernprozesses zu ermöglichen. Für die externe Validierung wird das gelernte System als Black-Box behandelt, d.h. entwickelte Verfahren sind generell anwendbar zur Validierung in definierten Anwendungsszenarien. Gemeinsam mit den anderen Partnern werden ebenfalls der Nutzen von Visualisierungen interner Zustände neuronaler Modelle untersucht, als auch eine möglichkeit der Erklärbarkeit von Reinforcement Learning Ansätzen. Das Gesamtziel ist eine Beurteilung aller Methoden im Hinblick auf eine mögliche Verwendung in Zertifizierungsprozessen und eine Demonstration eines möglichen Prozesses.

VeriKAS wird vom Bundesministerium für Wirtschaft und Energie mit dem Luftfahrtforschungsprogramm gefördert.

Projektpartner von HITeC im Projekt VeriKAS sind die Universität Hamburg, das ZAL Zentrum für Angewandte Luftfahrtforschung GmbH, Hamburg und hs2 engineering GmbH, Ulm.