BaFin unter Druck: Versicherer nutzen KI-Daten zu unkontrolliert
Die Finanzaufsicht BaFin hat auf der Handelsblatt-Konferenz deutlich gemacht, dass sie ein massives Transparenzproblem bei der Nutzung künstlicher Intelligenz in der Versicherungswirtschaft sieht. Für viele Aufsichtsbehörden ist es derzeit nicht nachvollziehbar, warum Versicherer bei ihren KI-Anwendungen eine derart breite Vielfalt an Daten einsetzen. Diese fehlende Nachvollziehbarkeit stellt ein erhebliches Risiko dar – sowohl für die Aufsicht als auch für Verbraucher, deren Versicherungstarife und Leistungen durch intransparente Algorithmen bestimmt werden könnten.
Das zentrale Problem liegt in der Dokumentation und Begründung: Während Versicherer technisch versiert darin sind, KI-Modelle zu trainieren und einzusetzen, bleibt oft unklar, welche spezifischen Datenquellen für welche geschäftlichen Zwecke herangezogen werden. Für die BaFin ist dies inakzeptabel, denn ohne diese Klarheit kann sie ihrer Aufsichtspflicht nicht nachkommen – insbesondere beim Schutz vor Diskriminierung und bei der Überprüfung von Geschäftsmodellen.
Regulatorische Nebelwand: Fehlende Begründungen als Risikofaktor
Die BaFin verlangt nun deutlich bessere Dokumentationen und Begründungen dafür, warum bestimmte Datenmengen in KI-Systemen verwendet werden. Dies betrifft nicht nur offensichtliche Eingaben wie Alter, Gesundheitsstatus oder Wohnort, sondern auch sekundäre und tertiäre Datenquellen, die für ein Training oder eine Echtzeitvorhersage herangezogen werden. Wenn ein Versicherer beispielsweise beim Kfz-Versicherungstarif auch Daten über das Online-Verhalten eines Kunden oder Social-Media-Aktivitäten nutzt, muss dies klar begründet und dokumentiert sein.
Der Grund für diese Forderung ist einfach: Algorithmen können unbewusst diskriminierend wirken, wenn die Datengrundlage systematisch Bevölkerungsgruppen benachteiligt. Die BaFin sorgt sich nicht nur um einzelne Missbrauchsfälle, sondern um strukturelle Probleme, die durch fehlende Kontrolle entstehen können. Versicherer, die ihre Datennutzung nicht transparent machen, riskieren künftig regulatorische Maßnahmen bis hin zu Verwarnungen oder Bußgeldern.
KI in der Versicherung: Geschwindigkeit trifft auf Kontrolle
Die Versicherungswirtschaft hat KI-Systeme vielfach bereits in operative Prozesse integriert – von der Schadensbearbeitung über Risikobewertung bis zur Kundenakquisition. Der ökonomische Druck ist groß, schnell marktgerecht zu sein. Doch die BaFin macht deutlich, dass Geschwindigkeit nicht auf Kosten von Transparenz gehen darf. Dies betrifft auch die Frage, wie externe Datenquellen (etwa aus Datenbroker-Services) in hausinternen Modellen verarbeitet werden und welche Kontrollen es gibt.
Besonders kritisch ist der Umgang mit personenbezogenen Daten, die in Zeiten der DSGVO strengeren Regeln unterliegen als die bloße Geschäftslogik. Wenn ein KI-System beispielsweise ethnische oder religiöse Hintergründe von Kunden indirekt über Postleitzahlen oder Namen ableitet und dies bei der Tarifierung berücksichtigt, ist dies nicht nur ethisch fragwürdig, sondern auch regulatorisch problematisch.
Was müssen Versicherer jetzt tun?
Die BaFin erwartet konkrete Maßnahmen: Versicherer sollten ein detailliertes Datenmanagement-System aufbauen, das jede Datenquelle für jedes KI-Modell dokumentiert und begründet. Dies umfasst auch Audits und Validierungen durch unabhängige Stellen. Zudem müssen Verantwortliche (Data Scientists, Risikomanager) konkrete Begründungen vorlegen können, warum etwa 50 verschiedene Merkmale in einem Pricing-Modell verwendet werden, wenn theoretisch fünf ausreichen würden.
Langfristig könnte die BaFin auch eigene Standards entwickeln, die Versicherern konkrete Anforderungen bei der KI-Datennutzung vorgeben. Unternehmen, die jetzt proaktiv handeln und ihre Systeme transparenter gestalten, könnten sich später regulatorische Probleme sparen und gleichzeitig das Vertrauen ihrer Kunden stärken.
