Wenn ChatGPT und Claude zum Versicherungsvermittler werden

Der VOTUM Verband hat sich mit einer Anfrage an die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) sowie die Deutsche Industrie- und Handelskammer (DIHK) gewandt. Anlass sind Fälle (Über diesen Link einsehbar), in denen marktführende KI-Chatbots wie ChatGPT (OpenAI) und Claude (Anthropic) in konkreten Konversationen individuelle Versicherungsempfehlungen aussprechen – ohne über die dafür erforderliche Erlaubnis nach § 34d GewO zu verfügen.

Was für viele Verbraucher wie ein harmloses Gespräch mit einem digitalen Assistenten wirkt, hat weitreichende rechtliche Implikationen: In dokumentierten Dialogen empfahlen die genannten KI-Systeme konkrete Versicherungsprodukte existierender Anbieter – inklusive Tarifbezeichnung und Begründung auf Basis einer vermeintlichen Bedarfsanalyse.

„Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung", erklärt Martin Klein, Geschäftsführender Vorstand des VOTUM Verbands. „Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?"

Der VOTUM Verband sieht erhebliche Risiken für Verbraucherinnen und Verbraucher. Während zugelassene Versicherungsvermittler einer gesetzlich geregelten Beratungs- und Dokumentationspflicht unterliegen und für Beratungsfehler haften, existiert bei den KI-Anbietern weder eine berufsrechtliche Zulassung noch eine entsprechende Haftungsabsicherung. Verlässt sich der Verbraucher auf eine fehlerhafte Empfehlung, droht ihm im Schadensfall ein Haftungsvakuum.

KI-Systeme vermitteln durch ihre scheinbar kompetenten Antworten ein Gefühl der Verlässlichkeit. Doch die Empfehlungen basieren weder auf einer qualifizierten Risikoanalyse, noch enthalten sie eine Angabe, auf welcher Markterhebung sie erteilt werden. Fehlerhafte oder veraltete Datengrundlagen bleiben für den Nutzer unsichtbar.

Ein wesentlicher Bestandteil qualifizierter Versicherungsvermittlung ist die kontinuierliche Begleitung des Kunden. Ändert sich die Lebenssituation – etwa durch Umzug, Familienzuwachs oder Wertveränderungen im Haushalt – passt ein verantwortungsvoller Vermittler den Versicherungsschutz an. Zudem bietet er die unverzichtbare Unterstützung im Schadenfall. Eine KI-Konversation endet mit dem Schließen des Browserfensters.

„Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist", betont Martin Klein.

Der VOTUM Verband fordert die zuständigen Aufsichtsbehörden auf, zeitnah eine klare regulatorische Einordnung vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen.

KI-Systeme bieten als unterstützendes Werkzeug in der Hand qualifizierter Vermittler erhebliches Potenzial zur Effizienzsteigerung und Beratungsoptimierung. Entscheidend ist jedoch, dass gleiche rechtliche Rahmenbedingungen gelten und der gesetzlich verankerte Verbraucherschutz gewahrt bleibt: Verbindliche Versicherungsempfehlungen dürfen ausschließlich von Personen und Unternehmen ausgesprochen werden, die über die entsprechende Erlaubnis und Haftungsabsicherung verfügen – nur so lassen sich Verbraucher vor ungeprüften Empfehlungen mit potenziell weitreichenden finanziellen Folgen schützen. (mho)