Wer haftet für den KI-Fehler?
Ein Unternehmen verlässt sich auf eine Software mit KI-Integration. Die KI trifft eine falsche Entscheidung, dem Unternehmen entsteht ein konkreter Schaden. Der Geschäftsführer macht dem Softwarehersteller die Hölle heiß. Der verweist auf den KI-Anbieter, dessen Modell er integriert hat. Der KI-Anbieter sagt: Die Kontrolle über den Einsatz liegt beim Integrator. Plötzlich will es keiner gewesen sein – und wer seine Sorgfaltspflichten nicht belegen kann, bleibt auf dem Schaden sitzen.
Warum klassische Haftungsmodelle bei KI-Agenten versagen
In der klassischen Softwareentwicklung ist die Haftungskette überschaubar: Der Hersteller liefert ein Produkt, der Betreiber setzt es ein, und wenn etwas schiefgeht, lässt sich meist nachvollziehen, wo der Fehler entstanden ist. Bei KI-Agenten löst sich diese Klarheit häufig auf. Ein Agent trifft Entscheidungen auf Basis von Trainingsdaten, die der Anbieter kuratiert hat, in einem Kontext, den der Betreiber definiert, mit Eingaben, die der Nutzer liefert. Wenn das Ergebnis fehlerhaft ist, lässt sich die Ursache oft keinem einzelnen Akteur zuordnen. Die EU hat versucht, dieses Problem mit einer eigenen KI-Haftungsrichtlinie zu lösen – und den Entwurf im Februar 2025 nach anhaltender Uneinigkeit zurückgezogen. Einen Nachfolger gibt es bis heute nicht. Ein harmonisierter EU-Haftungsrahmen speziell für außervertragliche KI-Schäden fehlt damit weiterhin.
Was der EU AI Act trotzdem von Betreibern verlangt
Der EU AI Act füllt einen Teil dieser Lücke – über Compliance-Pflichten, nicht über Haftungsregeln. Für GPAI-Modelle gelten seit August 2025 Dokumentations- und Transparenzpflichten, bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des Globalumsatzes. Betreiber von Hochrisiko-Systemen müssen menschliche Aufsicht durch qualifizierte Personen sicherstellen, den Betrieb kontinuierlich überwachen und automatisch erzeugte Logs aufbewahren. Bei schweren Vorfällen liegt die primäre Meldepflicht beim Anbieter des Systems – Betreiber müssen den Anbieter unverzüglich informieren. Der aktuell wichtigste Hebel für die Haftungsfrage ist die überarbeitete Produkthaftungsrichtlinie, die ab Dezember 2026 auch Software und KI-Systeme erfasst und in bestimmten Konstellationen die Beweisführung zugunsten Geschädigter erleichtert. Wer ein KI-System betreibt und Sorgfaltspflichten nicht nachweisen kann, verschlechtert damit seine Position im Schadensfall erheblich. Falls du gerade prüfst, wie dein Unternehmen hier aufgestellt ist: Dokumentation und nachvollziehbare Entscheidungsketten werden zum entscheidenden Schutzschild.
Weißt du, wie dein Unternehmen bei KI-Compliance aufgestellt ist? Wir begleiten Organisationen beim Aufbau eines AI Management Systems nach ISO/IEC 42001 – von der Reifegradanalyse über AI-Governance-Design bis zur Mitarbeitendenunterweisung. Der Rahmen, in dem Dokumentation, Verantwortlichkeiten und Prüfketten zusammenlaufen, bevor es zum Ernstfall kommt.
