„Betrugserkennung bleibt ein Hase-Igel-Rennen“

Herr Maier, Neuramancer hat sich darauf spezialisiert, KI-Deepfakes zu erkennen. Was unterscheidet die Deepfake-Erkennung von Neuramancer vor allem von bestehenden Ansätzen? Wie effektiv ist ihr Ansatz?

Anatol Maier: Die Herausforderung bei der Erkennung von Deepfakes besteht aus drei Kernelementen. Zum einen ist es wichtig mit der stetigen Entwicklung von KI-Generatoren, einen robusten und zukunftsfähigen Ansatz zu haben. Unsere Methode, um Deepfakes aber auch klassische Manipulationen zu erkennen fußt auf vielen Jahren Forschung in der Multimediaforensik. Wir haben uns auf das Erkennen von sogenannten statistischen Artefakten im Frequenzbereich bzw. Im Bildresiduum spezialisiert. Diese Artefakte können, wie Fingerabdrücke, bestimmten KI-Generatoren aber auch echten Kameras zugeordnet werden. Zum anderen ist vor allem in betrügerischen Szenarien die Verschleierung Standard. Da reicht es nicht einen KI-Detektor auf unverarbeiteten Daten zu trainieren. Es ist ebenso wichtig diese Nachverarbeitung (z.B. Filter, Kompression, Screenshots, Scans) mit zu berücksichtigen. Daher haben wir uns auch darauf spezialisiert die Verarbeitungshistorie von Bildern nachzuvollziehen.

Drittens ist die Vermeidung von überkonfidenten Falschaussagen bzw. Halluzinationen essentiell. Daher fußt unser Ansatz vor allem auf der Erklärbarkeit und Transparenz unserer Verfahren, sowie der Möglichkeit der Enthaltung bei unbekannten Nachbearbeitungen. Der Vorteile dabei sind: Hochpräzise Erkennung, Zukunftsfähigkeit auch bei sich stets verbessernden KI-Bildgeneratoren sowie Erklärbarkeit der Analyseergebnisse. Letzteres ist insbesondere für Betrugsspezialisten interessant, da damit gezeigt werden kann, wo und wie Manipulationen stattgefunden haben.

Sie haben in kurzer Zeit mehrere bezahlte Piloten mit Versicherungen gestartet. Was testen diese konkret, und welche messbaren Effekte sehen die Versicherer bereits?

Sondenheimer: Die Versicherer interessiert zum einen, wie groß ihr blinder Fleck ist, also wie viele Betrugsfälle sie heute nicht ohne unsere Lösung erkannt hätten. Das ist quantifizierbarer Nutzen und bares Geld für Versicherer. Zum anderen geben wir bei Verdachtsfällen den Betrugsabwehrspezialisten zielgerichtete forensische Gutachten an die Hand die genau aufzeigen, wo und wie Manipulationen stattgefunden haben. Das macht die Betrugsabwehr effektiver und schneller. Ferner gilt es Halluzinationen zu vermeiden. Unsere Lösung ist darauf ausgerichtet, überkonfidente Falschaussagen zu vermeiden (ein typisches Problem von KI). Damit verhindern wir unnötigen Arbeitsaufwand für die Betrugsabwehr. 

Wie ist die Idee entstanden, Neuramancer zu gründen? Wie sind Sie heute aufgestellt? Was sind Ihre nächsten Ziele?

Maier: Die Grundlage unserer Technologie wurde im Rahmen meiner Forschung in der Gruppe Multimediaforensik am Lehrstuhl für IT-Sicherheit der Friedrich-Alexander-Universität Erlangen-Nürnberg gelegt.  Aus den dort entstandenen Ideen und Methoden ein Produkt und das Start-Up zu gründen beruhte 2024 auf der Sorge, dass die einfache Verfügbarkeit von KI für die breite Masse durch Chat-GPT und anderen Anbietern auch einen Hyperscaling-Effekt für Missbrauch dieser Technologie darstellt. Zusammen mit Anika Gruner, die aus dem Medien- und Marketingsektor stammt, bot sich die gemeinsame Gründung 2024 an. Seit Anfang 2026 verstärkt Martin Sondenheimer als Chief Commercial Officer das Leadership Team. Wir sind froh mit Martin einen Experten gefunden zu haben, der beides, die Start-Up und Versicherungswelt kennt. (Sondenheimer war zuvor viele Jahren bei Allianz und Munich RE in Digitalisierung-, Innovations- und Venturing-Themen in führenden Rollen unterwegs.)

Sondenheimer: Nebst der kontinuierlichen Weiterentwicklung steht die Durchdringung des Marktes der Versicherungswirtschaft an sowie die Exploration weiterer Märkte und Use Cases. Zudem ist unsere Technologie auch International einsetzbar. Hier möchten wir dieses Jahr auf der Viva-Tech Konferenz in Paris erste Kontakte knüpfen. Denn das Problem von Deepfakes kommt jetzt auch in vielen weiteren Branchen an.

Wie verändert sich aus Ihrer Sicht das Kräfteverhältnis zwischen Betrügern und Versicherern in den nächsten fünf Jahren? Gewinnen die Angreifer durch generative KI dauerhaft die Oberhand?

Sondenheimer: Mit KI haben Betrüger ein schlagkräftiges Instrument an die Hand bekommen und treffen damit auf Versicherer, die teilweise noch keine derart skalierbare prozessuale Betrugserkennung implementiert haben. Wir arbeiten gemeinsam mit unseren Kunden daran, dass diese ebenso ein schlagkräftiges Instrument zur Betrugserkennung bekommen.

Maier: Betrugserkennung wird immer ein “Hase-Igel-Rennen" sein. Mit unserer robusten Technologie haben wir aber eine reelle Chance den Betrug signifikant einzudämmen. Nun ist es an den Versicherern, unsere einfach integrierbare Lösung in ihre Prozesse zu implementieren und damit systematisch Betrug zu verhindern.

Brauchen wir neben technischer Erkennung auch neue regulatorische oder vertragliche Antworten der Versicherungsbranche auf Deepfakes, etwa neue Ausschlüsse, Beweisregeln oder Policen?

Sondenheimer: Technologie allein wird nicht ausreichen. Neben technischer Erkennung werden auch Prozess- und Governance-Fragen wichtiger – etwa wie digitale Beweise bewertet werden oder welche Prüfpflichten bestehen. Die Versicherungsbranche wird sich daher vermutlich sowohl technisch als auch regulatorisch weiterentwickeln müssen, um mit KI-basierten Manipulationen Schritt zu halten. (mho)