Ist Künstliche Intelligenz ein Damoklesschwert?

Künstliche Intelligenz (KI) verändert unsere Welt mit rasantem Tempo. Doch sie birgt auch Risiken: Je tiefer die KI in unternehmenskritische Prozesse eingebunden wird, desto größer wird das Schadenspotenzial bei Fehlfunktionen oder Manipulationen. Die Herausforderungen liegen vor allem an der Schnittstelle von KI, Cybersicherheit und Risikomanagement – und verlangen nach einem ganzheitlichen Schutzansatz.

Aller Kritik an mangelnder Digitalisierung in Deutschland zum Trotz: Die KI ist hierzulande auf dem Vormarsch: Bereits jedes fünfte Unternehmen nutzt KI-Technologien, Tendenz steigend. Zu den Top 5-Branchen gehören IT-Dienstleistungen, Rechts- und Steuerberatungen, F&E-Dienstleistungen, Banken und Unternehmensberatungen. Auch der Finanzsektor zeichnet sich durch datengetriebene Prozesse aus und setzt KI für personalisierte Services, aber auch zur Betrugserkennung und Risikominimierung ein. Allerdings ist auch der Einsatz von KI mit zahlreichen Risiken behaftet. Der Umfang der Gefahren und potenzieller Schäden durch algorithmische Fehler, manipulierte Automatisierungsprozesse oder unerkannte Schwachstellen lässt sich kaum seriös beziffern. Umso unerlässlicher ist eine detaillierte KI-Risikobewertung als strategisches Instrument.

Die dunkle Seite der Künstlichen Intelligenz

Die Risikolandschaft der KI ist komplex und intransparent. Obgleich KI-Anwendungen auch Einfallstore für externe, kriminelle Angreifer bieten können, liegen die Gefahren bereits in deren Nutzung: So können algorithmische Verzerrungen zu diskriminierenden oder falschen Entscheidungen führen. Fehler in automatisierten Prozessen können ganze Systeme lahmlegen und finanzielle Schäden verursachen. Sicherheitslücken in KI-Systemen können Unbefugten Zugriff auf sensible Daten ermöglichen oder die Integrität der KI selbst kompromittieren. Die Komplexität intelligenter Systeme und die Black-Box-Natur vieler KIModelle erschweren zudem die Früherkennung und Ausschaltung solcher Risiken. Cybersicherheit darf daher kein Add-on im Rahmen der Einsatzplanung von KI sein – sie muss in alle Phasen der KI-Integration eingebunden werden: von der Entwicklung über das Deployment und den Betrieb bis hin zur Wartung und weiteren Entwicklung des Systems. Konkrete Maßnahmen reichen von sicheren Programmierpraktiken über geschützte Datenhaltung und den Einsatz robuster Modelle bis hin zu kontinuierlichem Monitoring und intelligenten Notfallplänen. Dazu kommt: Es darf nicht nur als Aufgabe der IT oder des Datenschutzes gesehen werden, ein tiefes Verständnis für die spezifischen Gefahren intelligenter Systeme und die Bedeutung von Sicherheitsmaßnahmen aufzubauen. KI und ihre Risiken sind Chefsache.

Die Rolle der Versicherung als Sicherheitsnetz

Eine Gefahr zu kennen, heißt noch nicht, sie auch abwehren zu können: Das haben in den letzten Jahren auch viele Opfer von Ransom-Ware-Angriffen erfahren müssen. Wie aber können sich Wirtschaftsakteure sinnvoll – und nicht vollkommen unter- oder überdimensioniert – vor den finanziellen Folgen von Schäden durch KI schützen? Es gibt bereits eine ganze Reihe von Versicherungsarten, aus denen sich ein robustes Sicherheitsnetz für Unternehmen weben lässt:

• Cyberversicherungen: Diese Policen decken in der Regel Schäden ab, die durch Cyberangriffe entstehen, wie z. B. Betriebsunterbrechungen, Datenverluste, Kosten für die Wiederherstellung von Systemen, Schäden durch Ransomware sowie rechtliche Kosten im Zusammenhang mit Datenschutzverletzungen. Angesichts der spezifischen Cyberbedrohungen für KI-Systeme sollte eine Cyberversicherung für alle Organisationen, die diese einsetzen, unerlässlich sein.

• Haftpflichtversicherungen: Bei Schäden, die durch den Einsatz eines KI-Systems bei Dritten verursacht werden (Sach- oder Personenschäden aufgrund fehlerhafter Entscheidungen eines KI-gesteuerten Systems), übernimmt in der Regel eine Haftpflichtversicherung die Abwehr oder Befriedung von Ansprüchen Dritter.

• (IT-)Vermögensschaden-Haftpflichtversicherungen: Diese Deckung sichert Ansprüche Dritter aus Vermögensschäden ab, welche etwa durch fehlerhafte Beratung (durch den Einsatz von KI) oder durch die Bereitstellung von KI-Systemen durch das Unternehmen als Dienstleistung entstehen. Vorhandene Policen sollten unbedingt daraufhin geprüft werden, ob sie Risiken im Zusammenhang mit KI-Technologien adäquat abdecken.

Auf die Bedingungen kommt es an!

Die Auswahl des passenden Versicherungspakets erfordert zudem eine sorgfältige Analyse der spezifischen Risiken, denen eine Organisation im Zusammenhang mit ihren KI-Systemen ausgesetzt ist. Es ist ratsam, Versicherungsexperten hinzuzuziehen, die über Fachkenntnisse und Erfahrungen im Bereich KI-Technologie und Cyberrisiken verfügen. Dabei sollten folgende Aspekte berücksichtigt werden:

• Umfang der Deckung: Welche spezifischen Risiken sollen abgedeckt werden? Sind auch Schäden durch fortgeschrittene Angriffsformen wie Adversarial Attacks oder Data Poisoning inkludiert?

• Deckungssummen: Sind die Deckungssummen ausreichend, um potenzielle Schäden angemessen abzudecken?

• Ausschlüsse: Welche Ereignisse oder Schäden sind von der Deckung ausgeschlossen? Gibt es Einschränkungen, die für KI-Systeme relevant sein könnten?

• Selbstbeteiligung: Wie hoch ist die Selbstbeteiligung im Schadensfall?

• Bedingungen und Klauseln: Sind die Versicherungsbedingungen klar und verständlich? Gibt es spezielle Klauseln, die im Kontext von KI-Systemen relevant sind?

Risikomanagement mit internationalen Standards

Die Chancen von KI sind immens, doch nur mit einem professionellen und proaktiven Risikomanagement, das die inhärenten Gefahren der KI-Nutzung in den Fokus rückt und das Restrisiko durch adäquate Versicherungen abfedert, können Unternehmen die Potenziale dieser Technologie sicher und nachhaltig nutzen. Wer dabei auf Standards wie die ISO 42001 oder die Vorschriften des AI Act setzt, sichert sich nicht nur regulatorisch ab, sondern schafft auch ein robustes Fundament für Vertrauen und nachhaltige Innovationsfähigkeit. Entscheidend bleibt letztlich auch die Umsetzung: Risikomanagement in der KI-Welt ist eine Daueraufgabe, die laufend technische Sicherheit, ethische Verantwortung und wirtschaftliche Widerstandsfähigkeit mit der fortschreitenden Entwicklung in Einklang bringen muss.

Ein Beitrag von Dr. Gunnar Siebert, Chief AI & Security Advisor DACH, Aon Deutschland