Blick in die Blackbox macht KI vertrauenswürdig

Wie lassen sich Unsicherheiten einer KI-Prognose bewerten und damit KI-Anwendungen vertrauenswürdig gestalten? Daran arbeitet die Kompetenzplattform KI-NRW.

Damit KI-Anwendungen künftig zum Beispiel in der Industrie 4.0 zum Einsatz kommen können, müssen ihre Funktionsweisen transparent und nachvollziehbar – und damit vertrauenswürdig – sein. Erste konkrete Absicherungsmethoden für die Gestaltung zuverlässiger KI-Systeme sowie Prüfverfahren stellt das Projekt „Zertifizierte KI“ der Kompetenzplattform KI-NRW auf der Hannover Messe vor. Der Demonstrator „Uncertainty Explorer“ zeigt , wie Unternehmen KI-Risiken künftig gut einschätzen können. Er veranschaulicht das Prinzip der Unsicherheitsschätzung, mit welcher die Lücken einer KI-Analyse sichtbar werden.

„Bei hochautomatisierten KI-Entscheidungen ist es wichtig beurteilen zu können, wie sicher sich eine KI mit ihrem Ergebnis ist. Konkret muss ein autonomes Fahrzeug zum Beispiel Objekte und Menschen in seiner Umgebung zuverlässig erkennen können, damit es angemessen darauf reagieren kann“, erklärt Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS und Konsortialleiter des Projekts. „Die Unsicherheitsbewertung hilft hierbei zu messen, wie stark man der Entscheidung des Systems vertrauen kann oder ob bestimmte Fallback-Mechanismen aktiviert werden müssen.“

Daneben könne das Verfahren auch in vielen anderen Anwendungsbereichen sinnvoll sein, beispielsweise in einer Fertigungsstraße zur Qualitätssicherung von Produkten, um dort Ausschuss zu verringern und Qualitätseinbußen zu reduzieren.

Neben der technischen Umsetzung von Transparenz und Nachvollziehbarkeit in KI- Technologien kommt es auch zunehmend darauf an, die Qualität, Sicherheit und Zuverlässigkeit von KI-Systemen nachweisen zu können. Hierfür entwickeln im Projekt die Wissenschaftler des Fraunhofer IAIS gemeinsam mit Partnern – unter anderem dem Deutschen Institut für Normung (DIN) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI) – entsprechende standardisierbare Prüfverfahren, die Unternehmen bei der Entwicklung oder KI-Prüfer bei der Evaluation von KI-Anwendungen unterstützen.

„Ein wesentlicher Fokus unserer Forschung ist die Entwicklung von Prüfmethoden und -Werkzeugen, um die Qualität von KI-Systemen unabhängig begutachten zu können. Eine KI-Prüfung kann die korrekte und sichere Funktionsweise sicherstellen und gleichzeitig das Vertrauen in und die Akzeptanz von KI-Anwendungen fördern", sagt Poretschkin. Das belegt auch eine Studie des Fraunhofer IAIS zum Einfluss von KI- Managementsystemen auf die Vertrauenswürdigkeit Künstlicher Intelligenz.

sk