Überwachung von KI: Bafin erhält neue Kompetenzen

Der deutsche Gesetzgeber erweitert das Mandat der Finanzaufsicht Bafin. Die Behörde übernimmt die Marktüberwachung für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. Die neue Zuständigkeit erstreckt sich auf Kreditinstitute, Versicherer und andere Finanzunternehmen unter Aufsicht der Bafin. 

Grundlage ist das Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz, das heute in Kraft getreten ist. Aufgrund ihres neuen Mandats wird die Bafin zukünftig überwachen, ob die beaufsichtigten Unternehmen die Anforderungen der KI-Verordnung  einhalten. „Die KI-Verordnung ergänzt die bestehende Regulierung des Finanzmarktes. Sie schafft einen Rahmen, in dem Unternehmen Innovationen verantwortungsvoll vorantreiben können“, betont Bafin-Präsident Mark Branson. Bereits heute setzten Finanzunternehmen auf vielfältige Weise  KI ein. „Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden. Die Bafin wird zum Beispiel dafür sorgen, dass alle einen fairen  Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.“ 

Marktüberwachungsbehörde für KI-Systeme  Die Marktüberwachung der Bafin umfasst zum Beispiel die Transparenzpflichten für KI-Systeme, die unmittelbar mit Menschen interagieren – wie etwa Chatbots in der Kundenkommunikation. Die Bafin wird zudem überwachen, ob die Regelungen der KI-Verordnung zu verbotenen KI-Praktiken eingehalten werden. Darüber hinaus umfasst die Marktüberwachung  Hochrisiko-KI-Systeme. Dies sind beispielsweise Systeme, die Banken in der Kreditwürdigkeitsprüfung einsetzen oder die Versicherer für die Risikobewertung in der Lebens- und Krankenversicherung nutzen.  Die Bafin wird die Marktüberwachung für KI-Systeme eng mit ihrer laufenden Unternehmens- aufsicht abstimmen. „Beim Einsatz von KI sind Transparenz, Diskriminierungsfreiheit und ein  wirksames Risikomanagement zentral“, sagt Branson.

Entscheidungen müssten weiterhin von  Menschen korrigiert und rückgängig gemacht werden können. „Die Verantwortung für den Einsatz von KI liegt bei den beaufsichtigten Unternehmen und ihren Geschäftsleitungen.“ 

Bestimmte KI-Praktiken sind bereits seit dem 2. Februar 2025 verboten. Darunter fallen Systeme, die besonders schützenswerte Informationen über Menschen sammeln und bewerten, was zu einer ungerechtfertigten Benachteiligung von Menschen führen kann. Die ersten Transparenzpflichten der KI-Verordnung gelten dann ab dem 2. August 2026. Ab dem 2. Dezember 2027 greifen die Anforderungen an Hochrisiko-KI-Systeme. „Wir erwarten von den Unternehmen, dass sie sich ausführlich mit der KI-Verordnung auseinandersetzen“, sagt Branson.

„Wir  alle haben das gleiche Ziel: KI soll einen Mehrwert stiften. Dafür müssen die Modelle sicher und fair gestaltet sein."  Die Marktüberwachung der Bafin beschränkt sich auf KI-Systeme, die in direktem Zusammen- hang mit einer regulierten Finanztätigkeit stehen. Andere KI-Anwendungen, etwa im Personal- management von Finanzunternehmen, fallen in den Zuständigkeitsbereich der Bundesnetza- gentur. Bei Verstößen gegen die KI-Verordnung kann die Bafin Bußgelder verhängen. Weitere Informationen zum Thema finden Sie auf der Homepage der Bafin. Im Interview erläutert Jens Obermöller, Leiter der Abteilung Cyberrisiken und Technologie im Finanzsektor, unter  anderem, wie die Bafin bei der Überwachung von KI-Systemen vorgehen will. (mho)