Zum Hauptinhalt springen

Insights

Wenn die KI handelt, muss die Police mitdenken.

Wo Ihr Versicherungsschutz bei KI-Schäden an Grenzen stößt – und was Sie jetzt prüfen sollten.

Direkt Termin vereinbaren
KI

Insights

Warum selbst ein führender KI-Entwickler an der Versicherbarkeit großer KI-Risiken zweifelt, welche Deckungslücken für Unternehmen entstehen, die KI einsetzen, und wie wir als SMK Group Ihr Versicherungsprogramm darauf prüfen.
Direkt Termin vereinbaren
Autoren & Experten
Artikel teilen
KI-Haftung

Wenn die KI handelt, muss die Police mitdenken.

Ein Großhändler lässt eingehende Bestellungen von einem KI-Agenten bearbeiten. Der Agent liest E-Mails, gleicht Preise mit dem Warenwirtschaftssystem ab und bestätigt Aufträge selbstständig. Das spart Zeit, bis der Agent eine fehlerhafte Preisliste übernimmt und über mehrere Tage Hunderte Bestellungen zu falschen Konditionen bestätigt. Kunden bestehen auf den Preisen, ein Lieferant fordert Schadenersatz wegen stornierter Abrufe.

Die Geschäftsführung meldet den Schaden und stellt fest, dass niemand eine klare Antwort hat: Die Betriebshaftpflicht verweist auf reine Vermögensschäden, die Cyberversicherung auf das Fehlen eines Angriffs, und der KI-Anbieter hat seine Haftung in den Nutzungsbedingungen weitgehend ausgeschlossen. Dieses Insight zeigt, warum KI ein eigenes Risiko ist, wo bestehende Policen an Grenzen stoßen und was Sie jetzt prüfen sollten.

KI-Risiken besprechen

Ein bemerkenswertes Signal aus den USA

Ende Oktober 2026 ist der Registrierungsentwurf öffentlich geworden, den der KI-Entwickler Anthropic für seinen geplanten Börsengang bei der US-Börsenaufsicht SEC eingereicht hat. Im Kapitel zu den Risikofaktoren beschreibt das Unternehmen hinter dem KI-Assistenten Claude ausführlich, welche Haftungsrisiken aus dem Einsatz seiner Modelle entstehen können.

Sinngemäß heißt es dort: „KI-Modelle können sich unbeabsichtigt oder eigenständig verhalten und dabei Handlungen ausführen, die weder Nutzer noch Dritte veranlasst haben. Daraus können Haftungsansprüche, Rechtsstreitigkeiten und regulatorische Maßnahmen entstehen.“

Vertragliche Haftungsbegrenzungen und der eigene Versicherungsschutz reichen dafür möglicherweise nicht aus, zumal sich der Versicherungsmarkt für KI-spezifische Risiken erst entwickelt. Bei einem sehr großen Schadenereignis könnte es sein, dass weder ein einzelner Versicherer noch die Branche insgesamt die nötige Kapazität bereitstellt.

Risikofaktoren in Börsenprospekten sind bewusst umfassend formuliert, sie sind keine Prognose. Das Signal ist trotzdem deutlich: Wenn schon ein Entwickler mit erheblichen Mitteln und eigener Rechtsabteilung offen sagt, dass sein Versicherungsschutz an Grenzen stoßen kann, sollten Unternehmen, die KI einsetzen, ihre eigene Absicherung erst recht hinterfragen.

Vom Werkzeug zum Akteur

Lange Zeit war KI im Unternehmen vor allem ein Assistent: Sie formulierte Texte, fasste Dokumente zusammen oder schlug Antworten vor, und ein Mensch entschied, was davon verwendet wird. Mit sogenannten KI-Agenten ändert sich das. Sie greifen auf Systeme zu, lösen Bestellungen aus, versenden Nachrichten, ändern Daten oder schreiben Programmcodes, oft in mehreren Schritten und ohne dass jeder Schritt einzeln freigegeben wird.

Damit verändert sich auch das Risiko. Ein Fehler bleibt nicht im Entwurf, sondern wird ausgeführt, und er kann sich in kurzer Zeit vielfach wiederholen. Hinzu kommt ein Kumulrisiko, das Versicherer besonders beschäftigt: Viele Unternehmen nutzen dieselben wenigen Modelle. Ein Fehler in einem verbreiteten Modell oder eine neue Angriffsmethode kann deshalb gleichzeitig bei vielen Versicherungsnehmern Schäden auslösen. Für solche Ereignisse fehlen langjährige Schadenerfahrungen, auf die sich eine Kalkulation stützen könnte.

Wo klassische Policen an Grenzen stoßen

Die meisten Versicherungsverträge im Mittelstand wurden geschrieben, bevor KI-Agenten eine Rolle spielten. Sie schließen KI weder ausdrücklich ein noch ausdrücklich aus. Im Markt spricht man von „Silent AI“, in Anlehnung an die „Silent Cyber“-Debatte vor einigen Jahren. Ob ein KI-Schaden gedeckt ist, hängt dann von Formulierungen ab, die für ganz andere Sachverhalte gedacht waren.

  • Betriebshaftpflicht: Sie deckt in erster Linie Personen- und Sachschäden. Reine Vermögensschäden, wie sie bei fehlerhaften KI-Entscheidungen typisch sind, sind oft nur eingeschränkt oder mit niedrigen Sublimits versichert.
  • Vermögensschaden- und Berufshaftpflicht: Wer KI in der Beratung, Planung oder Datenverarbeitung für Kunden einsetzt, sollte prüfen, ob die versicherte Tätigkeit den KI-Einsatz abdeckt und ob die Deckungssummen zur möglichen Schadenhöhe passen.
  • Cyberversicherung: Sie leistet typischerweise bei einer Informationssicherheitsverletzung, etwa einem Angriff oder Datenabfluss. Trifft ein KI-Agent ohne äußeren Angriff eine falsche Entscheidung, kann dieser Auslöser fehlen. Manipulationen über präparierte Inhalte, sogenannte Prompt Injections, liegen in einer Grauzone.
  • Produkthaftpflicht: Die neue EU-Produkthaftungsrichtlinie bezieht Software einschließlich KI-Systemen ausdrücklich in den Produktbegriff ein und ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen. Wer KI in eigene Produkte oder Software einbaut, muss seine Produkthaftpflicht daraufhin prüfen.
  • D&O-Versicherung: Der Einsatz von KI ist auch eine Frage der Organisationspflichten der Geschäftsleitung. Fehlen klare Regeln für Auswahl, Kontrolle und Dokumentation, kann das zu Ansprüchen gegen Geschäftsführer und Vorstände führen.

Versicherer reagieren unterschiedlich: Einige stellen klar, dass KI-Schäden gedeckt sind, andere führen Ausschlüsse ein oder fragen den KI-Einsatz bei der Vertragsverlängerung ab. Spezielle KI-Deckungen entstehen erst. Umso wichtiger ist es, die eigene Lage zu kennen, bevor ein Schaden eintritt.

Risikoanalyse buchen

Wer haftet, wenn die KI handelt?

KI

Gegenüber Kunden, Lieferanten und Geschäftspartnern haftet in aller Regel das Unternehmen, das die KI einsetzt, nicht der Entwickler des Modells. Für den Geschädigten macht es keinen Unterschied, ob ein Mitarbeiter oder ein Agent die fehlerhafte Bestellung bestätigt hat.

Der Rückgriff auf den KI-Anbieter ist dagegen oft schwierig. Die Nutzungsbedingungen vieler Anbieter begrenzen die Haftung stark, und der Nachweis, dass ein Schaden auf einen Fehler des Modells und nicht auf Konfiguration, Datenbasis oder fehlende Kontrolle zurückgeht, ist aufwendig. Wie Gerichte die Verantwortung bei eigenständig handelnden Systemen verteilen, ist zudem in vielen Fragen noch offen.

Für Unternehmen bedeutet das: Das Risiko lässt sich nicht einfach an den Anbieter weiterreichen. Es muss im eigenen Risikomanagement und im eigenen Versicherungsprogramm abgebildet werden.

Was ein Risikomanager anders macht

Ein Versicherungsmakler prüft, ob ein gemeldeter Schaden unter eine bestehende Police fällt. Als Risikomanager stellen wir die Frage früher: Wo setzt Ihr Unternehmen KI ein, welche Entscheidungen trifft sie selbstständig, und welche Schäden könnten daraus entstehen? Erst wenn diese Fragen beantwortet sind, lässt sich beurteilen, ob das Versicherungsprogramm passt.

Dabei betrachten wir nicht einzelne Verträge isoliert. Ein KI-Schaden kann gleichzeitig Haftpflicht, Cyber, D&O und Produkthaftpflicht berühren. Entscheidend ist, dass die Verträge aufeinander abgestimmt sind und keine Lücke zwischen ihnen entsteht, in die genau der Schaden fällt, der am wahrscheinlichsten ist.

So gehen wir vor

Unsere Begleitung folgt vier Schritten:

  • Bestandsaufnahme: Gemeinsam mit Ihnen erfassen wir, welche KI-Anwendungen im Einsatz oder geplant sind, wofür sie genutzt werden und wie viel Eigenständigkeit sie haben. Wie wir Risiken systematisch erfassen, lesen Sie in „Risiken steuern statt sie nur aufzulisten“.

  • Deckungsanalyse: Wir prüfen Ihre bestehenden Verträge auf Ein- und Ausschlüsse, Auslöser, Sublimits und Definitionen, die bei einem KI-Schaden relevant werden.
  • Abstimmung mit Versicherern: Wo Lücken bestehen, verhandeln wir Klarstellungen, Erweiterungen oder ergänzende Deckungen und bereiten die Angaben vor, die Versicherer zum KI-Einsatz zunehmend abfragen.
  • Laufende Begleitung: Kommen neue Anwendungen hinzu oder erhält ein Agent mehr Befugnisse, prüfen wir die Folgen für Ihre Verträge, bevor die Änderung live geht.

So entsteht ein Versicherungsprogramm, das mit dem KI-Einsatz Ihres Unternehmens Schritt hält, statt ihm hinterherzulaufen.

SMK Group kennenlernen

Was Sie selbst tun können

KI-Einsatz dokumentieren: Führen Sie eine Übersicht, welche KI-Anwendungen im Unternehmen genutzt werden, auch solche, die Mitarbeitende auf eigene Initiative verwenden.

Menschliche Kontrolle festlegen: Bestimmen Sie, welche Entscheidungen eine KI selbstständig treffen darf und wo eine Freigabe durch einen Menschen nötig ist, etwa ab bestimmten Beträgen oder bei Außenwirkung.

Anbieterverträge lesen: Prüfen Sie Haftungsbegrenzungen, Gewährleistung und Datennutzung in den Verträgen mit KI-Anbietern. Sie bestimmen, was Sie im Schadensfall zurückholen können.

Mitarbeitende schulen: Die EU-KI-Verordnung verlangt bereits seit Februar 2025, dass Unternehmen für ausreichende KI-Kompetenz ihres Personals sorgen. Geschulte Mitarbeitende erkennen Fehler früher.

Makler informieren: Ein neuer KI-Agent mit Zugriff auf Kunden-, Bestell- oder Zahlungssysteme verändert Ihre Risikolage. Sprechen Sie mit Ihrem Makler, bevor die Anwendung eingeführt wird, nicht erst nach dem ersten Schaden.

Wo wir unterstützen

Wir analysieren, wie Ihr Unternehmen KI einsetzt, und prüfen, ob Haftpflicht-, Cyber-, D&O- und Produkthaftpflichtversicherung diesen Einsatz tatsächlich abdecken. Wo Lücken bestehen, stimmen wir Lösungen mit den Versicherern ab.

Auf Wunsch binden wir spezialisierte Partner ein, etwa für die rechtliche Prüfung von Anbieterverträgen oder die technische Absicherung Ihrer Systeme.

KI

Gemeinsam sorgen wir dafür, dass Ihre KI nicht nur Arbeit abnimmt, sondern dass Sie auch im Schadensfall abgesichert sind.

Beratungstermin buchen
Mike Kersting

„Die meisten Unternehmen fragen, ob ihre KI zuverlässig arbeitet. Die wichtigere Frage lautet, wer zahlt, wenn sie es einmal nicht tut. Genau das klären wir mit unseren Mandanten, bevor der Schaden da ist, nicht danach.“

Mike Kersting, Vorstand SMK Group
Profil anzeigen

FAQ – Häufige Fragen

Hier finden Sie Antworten auf zentrale Themen – kompakt, verständlich und praxisnah. Gerne stehen wir Ihnen auch persönlich für ein Gespräch zur Verfügung.
Jetzt kontaktieren
Sind Schäden durch KI über meine Betriebshaftpflicht versichert?

Das hängt vom Vertrag und von der Art des Schadens ab. Die Betriebshaftpflicht deckt vor allem Personen- und Sachschäden. Fehlerhafte KI-Entscheidungen führen jedoch häufig zu reinen Vermögensschäden, die oft nur eingeschränkt versichert sind. Viele Verträge regeln den KI-Einsatz weder ausdrücklich noch schließen sie ihn aus. Eine Prüfung im Einzelfall ist deshalb sinnvoll.

Leistet die Cyberversicherung, wenn ein KI-Agent einen Fehler macht?

Cyberversicherungen leisten typischerweise bei einer Informationssicherheitsverletzung, etwa einem Hackerangriff oder Datenabfluss. Trifft ein KI-Agent ohne äußeren Angriff eine falsche Entscheidung, fehlt dieser Auslöser unter Umständen. Ob Manipulationen über präparierte Inhalte erfasst sind, hängt von den Bedingungen ab.

Wer haftet, wenn eine KI im Unternehmen einen Schaden verursacht?

Gegenüber Geschädigten haftet in der Regel das Unternehmen, das die KI einsetzt. Ein Rückgriff auf den KI-Anbieter ist möglich, wird aber oft durch Haftungsbegrenzungen in den Nutzungsbedingungen und durch Beweisfragen erschwert. Viele Rechtsfragen zu eigenständig handelnden Systemen sind noch nicht abschließend geklärt.

Was ändert die neue EU-Produkthaftungsrichtlinie?

Die Richtlinie (EU) 2024/2853 bezieht Software einschließlich KI-Systemen ausdrücklich in den Produktbegriff ein. Hersteller, die KI in Produkte oder Software integrieren, können damit verschuldensunabhängig für Fehler haften. Die Mitgliedstaaten müssen die Richtlinie bis zum 9. Dezember 2026 umsetzen.

Verwendete Quellen
  • Anthropic, PBC, Registrierungsentwurf Form S-1 (Draft Registration Statement, Amendment No. 4), bei der US-Börsenaufsicht SEC eingereicht, abrufbar über SEC EDGAR, Kapitel „Risk Factors“. Belegt: Risiko unbeabsichtigten oder eigenständigen Modellverhaltens; Haftungs-, Prozess- und Regulierungsrisiken; mögliche Unzulänglichkeit vertraglicher Haftungsbegrenzungen und des Versicherungsschutzes; früher Entwicklungsstand des Versicherungsmarkts für KI-Risiken; mögliche Kapazitätsgrenzen der Versicherungswirtschaft bei katastrophalen Ereignissen.
  • Versicherungsmonitor, Bericht vom 27. Oktober 2026 zu den versicherungsbezogenen Aussagen im Börsenprospekt von Anthropic. Belegt: Anlass und Zeitpunkt der Veröffentlichung; Einordnung für die Versicherungswirtschaft (Kumulrisiken, fehlende Schadenerfahrung).
  • Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte. Belegt: Software einschließlich KI-Systemen als Produkt; Umsetzungsfrist 9. Dezember 2026.
  • Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4. Belegt: Pflicht zur Sicherstellung ausreichender KI-Kompetenz, anwendbar seit 2. Februar 2025.
Weitere Insights

Mehr zum Thema Risikomanagement

Weitere Artikel zu
Branchen/Verbände, Risikomanagement, SMK Group, SMK risk management, Unternehmensberatung
Kontakt

Unsere Expertinnen und Experten sind für Sie da

Entscheiden Sie, wie Sie mit uns in Kontakt treten möchten. Wir freuen uns Sie kennen zu lernen und an Ihrer Seite zu stehen.
Risikomanagement: Whitepaper und Case Studies
Noch nicht bereit für ein Gespräch?
Dann entdecken Sie unsere Whitepaper – mit wertvollen Impulsen für das Management und Menschen in Führungsposition. Erhalten Sie fundiertes Wissen zu aktuellen Herausforderungen im Mittelstand: von effektivem Risikomanagement über regulatorische Anforderungen bis hin zu strategischer Unternehmensführung.
Jetzt kostenlos anmelden