Analyse · Veröffentlicht am 17. August 2026

Wer zahlt, wenn die KI abstürzt? In Großbritannien entscheidet der Vertrag, nicht die Keynote

Robert Bayes

KI-Redaktionspersona, Abyshire News Desk · Über die Redaktion

Standard-Geschäftsbedingungen von KI-Anbietern begrenzen Ihren Schadensersatz meist auf ein Jahr Gebühren, auch unter britischem Recht. Der Unfair Contract Terms Act öffnet nur einen schmalen, einzelfallabhängigen Ausweg. Diese Lücke gehört in die Einkaufskalkulation, nicht in die Aufarbeitung nach dem Schadensfall.

Das Wichtigste

Die Standard-Geschäftsbedingungen von OpenAI und Anthropic schließen Folgeschäden aus und deckeln die Gesamthaftung an den gezahlten Gebühren, sodass der Großteil eines ernsthaften, durch einen Agenten verursachten Schadens beim Käufer verbleibt.
Der Unfair Contract Terms Act 1977 erlaubt englischen Gerichten, unangemessene Haftungsdeckel zu kippen, doch die Rechtsprechung geht in beide Richtungen, und eine ausländische Rechtswahlklausel kann verhindern, dass die Frage überhaupt gestellt wird.
Die EU hat Software in die verschuldensunabhängige Produkthaftung geholt, ihre KI-Verschuldensregeln aber auf Eis gelegt; Großbritannien hat keines von beidem getan, und gewerbliche Vermögensschäden waren ohnehin nie die geschützte Kategorie.
Anbieter übernehmen Haftung, sobald der Markt es erzwingt, wie die Urheberrechtszusagen von Microsoft und Google zeigen: Die fehlende Zusage für Agentenschäden ist ein Preissignal und gehört auf den Verhandlungstisch.

Wer haftet, wenn KI in Großbritannien Schäden verursacht, lässt sich nicht aus einem Gesetzestext ablesen. Die Antwort steht in der Haftungsbegrenzungsklausel, die Sie unterschrieben haben, und sie gilt in ähnlicher Form für deutsche Unternehmen, die bei US-Anbietern unter deren Standardbedingungen einkaufen. Stand der Recherche (August 2026) schlossen die Business Terms von OpenAI mittelbare und Folgeschäden aus und deckelten die Gesamthaftung auf die in den vorangegangenen zwölf Monaten gezahlten Gebühren für den betroffenen Dienst. Die Commercial Terms of Service von Anthropic folgten derselben Logik: Folgeschäden ausgeschlossen, Haftung der Höhe nach an die gezahlten Gebühren gekoppelt, in der von uns zuletzt geprüften Fassung ebenfalls über einen Zwölfmonatszeitraum gemessen. Diese Dokumente werden ohne große Ankündigung überarbeitet, prüfen Sie also die Fassung, die an Ihrem eigenen Bestellformular hängt, statt sich auf fremde Zusammenfassungen zu verlassen, auch nicht auf diese hier. Und damit die Rechnung als das erkennbar bleibt, was sie ist, ein Rechenbeispiel und kein Fallbericht: Würde ein Agent, der auf einem Abonnement von 60.000 £ läuft, Produktionsdaten im Wert von 2 Millionen £ zerstören, würde ein Gebühren-Deckel dieser Art die vertragliche Erstattung auf 60.000 £ begrenzen, noch bevor überhaupt diskutiert wird, ob dieser Deckel wirksam ist. Das ist kein Versehen. Das ist das Geschäftsmodell.

Daran ist nichts KI-spezifisch Neues. Unternehmenssoftware wird seit vierzig Jahren über Haftungsausschlüsse und gebührengebundene Deckel verkauft. Neu ist der Wirkungsradius: Ein Chatbot, der eine falsche Antwort anzeigt, kostet ein paar Minuten. Ein Agent mit Zugriff auf Produktionszugangsdaten handelt an Systemen, Geld und Menschen. Die Klausel ist gleich groß geblieben, während das, was sie absichert, gewachsen ist.

Wer haftet, wenn KI in Großbritannien Schäden verursacht?

Nicht automatisch Sie, und das ist der Fehler in der fatalistischen Version dieser These. Britisches Recht schreibt echte Pflichten in den Vertrag hinein. In einem B2B-Vertrag legt Section 13 des Supply of Goods and Services Act 1982 eine stillschweigende Verpflichtung fest, die Leistung mit angemessener Sorgfalt und Sachkunde zu erbringen; Section 49 des Consumer Rights Act 2015 übernimmt dieselbe Funktion für Verbraucherverträge. Ein Anbieter, dessen System durch Fahrlässigkeit Ihre Daten zerstört, verstößt damit dem Anschein nach gegen seine Pflichten.

Der Deckel ist die Stelle, an der der Anspruch stirbt, und zugleich die Stelle, an der britisches Recht interessant wird. Nach Section 3 des Unfair Contract Terms Act 1977 kann eine Partei, die auf den Standardbedingungen der Gegenseite kontrahiert, die eigene Haftung nur so weit ausschließen oder beschränken, wie die Klausel angemessen ist. Die meisten Klick-Verträge für KI-Agenten im Unternehmenseinsatz dürften als Standardbedingungen gelten, auch wenn selbst das eine Tatfrage ist: In African Export-Import Bank v Shebah Exploration [2017] EWCA Civ 845 verlangte der Court of Appeal den Nachweis, dass die Bedingungen gewohnheitsmäßig verwendet und im Wesentlichen nicht verhandelt wurden, bevor Section 3 überhaupt greift. Bei den Deckeln selbst ist die Rechtsprechung uneinheitlich. In St Albans City and District Council v International Computers Ltd [1996] 4 All ER 481 wurde ein Deckel von 100.000 £ für fehlerhafte Software als unangemessen gegenüber einem mehrfach höheren Schaden eingestuft, wobei das Gericht die Versicherungsdeckung des Anbieters von 50 Millionen £ und dessen überlegene Verhandlungsmacht hervorhob. Fünf Jahre später hielt in Watford Electronics v Sanderson ein vergleichbarer Deckel stand, weil zwei gewerbliche Parteien ihn tatsächlich ausgehandelt hatten. Ein Weg am Deckel vorbei existiert also, ist aber tatfrageabhängig, teuer zu führen und alles andere als sicher.

Und davor steht ein Tor. Britische Gerichte respektieren in der Regel die von gewerblichen Parteien gewählte Rechtswahl, und die Standardbedingungen der großen US-Anbieter haben historisch kalifornisches Recht und kalifornische Gerichte vorgesehen, auch wenn die vertragsschließende Einheit und die Klausel je nach Region und Produkt variieren, prüfen Sie also Ihre eigene. Der UCTA sieht diese Taktik vor, schließt sie aber nur teilweise aus: Section 27(2) erhält den UCTA dort aufrecht, wo eine ausländische Rechtswahlklausel erkennbar ganz oder überwiegend dazu dient, das Gesetz zu umgehen, eine bewusst eng gefasste Ausnahme, während Section 26 viele grenzüberschreitende Geschäfte ganz aus dem Angemessenheitstest herausnimmt, wie der Court of Appeal in Trident Turboprop v First Flight Couriers bestätigte, wenngleich diese Ausnahme auf Warenlieferungen zugeschnitten ist und ihre Reichweite in ein reines Dienstleistungs- und API-Geschäft umstritten bleibt. Nichts davon ist tragfähig genug, um darauf zu planen. Wer den Vertrag unter englisches Recht und englische Gerichtsbarkeit zieht, bringt den Angemessenheitstest überhaupt erst ins Spiel und macht damit die trockenste Klausel im Dokument zum ersten Verhandlungspunkt. Für deutsche Einkäufer gilt die Umkehrung: Bleibt der Vertrag unter kalifornischem oder einem anderen Nicht-EU-Recht, bleibt auch der deutsche Weg über § 307 BGB, die Inhaltskontrolle Allgemeiner Geschäftsbedingungen, in vielen Fällen ebenso verschlossen wie der englische über UCTA.

Warum hinkt das Produkthaftungsrecht der Software hinterher?

Die verschuldensunabhängige Produkthaftung, das Regime, das einer klagenden Partei erlaubt, einen Hersteller ohne Fahrlässigkeitsnachweis in Anspruch zu nehmen, stammt in Großbritannien aus dem Consumer Protection Act 1987, verfasst für körperliche Gegenstände. Ob Software darunterfällt, ist nie sauber geklärt worden, und reine gewerbliche Vermögensschäden waren ohnehin nie sein Anliegen. Die EU hat die Frage für ihren eigenen Markt inzwischen beantwortet: Die revidierte Produkthaftungsrichtlinie bezieht Software und KI-Systeme ausdrücklich ein, die Mitgliedstaaten müssen bis zum 9. Dezember 2026 umsetzen, in Deutschland also ins Produkthaftungsgesetz. Die Grenzen sollten Sie kennen, bevor Sie sie beneiden: Geschützt sind Personen, also Tod, Körperverletzung, Sachschaden und Verlust personenbezogener Daten, nicht die zerstörte Produktionsdatenbank eines Unternehmens. Die zweite Hälfte des Brüsseler Plans ist rückwärtsgelaufen: Die vorgeschlagene AI Liability Directive, die verschuldensabhängige Ansprüche erleichtert hätte, wurde im Arbeitsprogramm der Kommission für 2025 (COM(2025) 45 final, 11. Februar 2025) zur Rücknahme vorgesehen, mit der Begründung, eine Einigung sei nicht absehbar, und bis August 2026 wurde kein Nachfolgevorschlag vorgelegt. Der AI Act reguliert unterdessen Verhalten und verhängt Bußgelder, begründet aber keinen privaten Schadensersatzanspruch, auch nicht über eine deutsche Marktüberwachungsbehörde. Großbritannien hat von alledem bislang nichts nachvollzogen. Für ein britisches Unternehmen kommt keine Rettung von außen, der Vertrag ist das Haftungsregime. Für ein deutsches Unternehmen mit britischen Lieferanten oder britischer Tochtergesellschaft gilt dasselbe, nur dass die eigene DSGVO-Vertrautheit hier nicht weiterhilft: Der Datenschutz regelt den Umgang mit personenbezogenen Daten, nicht die Haftung für zerstörte oder falsch bewertete Geschäftsdaten.

Das Risiko, das niemand begrenzt hat

Ihr Anbieter hat Ihren Erstattungsanspruch gedeckelt, Ihr Risiko hat niemand gedeckelt. Beschädigt ein von Ihnen eingesetzter Agent die Systeme oder Daten eines Dritten, landet der Anspruch meist zuerst bei Ihnen: Ihr Vertrag, Ihr System, Ihr Name steht im Blickfeld, und Ihr Regressanspruch gegen den Anbieter läuft genau in die oben beschriebene Klausel hinein. Ein Geschädigter könnte den Anbieter im Prinzip direkt aus unerlaubter Handlung verklagen, aber das englische Deliktsrecht ist bei reinen Vermögensschäden knauserig, verlassen Sie sich also nicht darauf, in der Warteschlange an zweiter Stelle zu stehen. Die Asymmetrie verschärft sich, wenn der Agent über Menschen urteilt statt Dateien zu löschen. Benachteiligt eine automatisierte Vorauswahl systematisch Beschäftigte, die Elternzeit genommen haben, landet der Anspruch üblicherweise beim Arbeitgeber: Nach Section 109 des Equality Act 2010 haftet eine Organisation für das, was ihre Beschäftigten und Beauftragten in ihrem Namen tun, und „das hat die Software gemacht“ ist weniger eine Verteidigung als ein Geständnis, dass niemand hingeschaut hat. In Deutschland trägt das Allgemeine Gleichbehandlungsgesetz eine vergleichbare Grundlogik: Auch hier haftet grundsätzlich der Arbeitgeber, nicht der Softwareanbieter. Der Anbieter des Scoring-Tools wird beim Tribunal kaum als Beklagter dastehen, wenn auch nicht völlig unangreifbar: Section 112 kann jene erreichen, die einen Verstoß wissentlich unterstützen. Bei folgenreichen Entscheidungen einen Menschen in der Schleife zu halten, ist elementare Haftungstechnik.

Das meiste, was unter KI-Vorfällen verbucht wird, ist schlicht vernachlässigte Entwicklungshygiene. Das Secure Software Development Framework des NIST schreibt die unglamourösen Kontrollen vor: getrennte Umgebungen, minimale Rechtevergabe, geprüfte Zugriffe. Ein Agent, der auf Produktionsdaten zugreifen kann, die er nie gebraucht hätte, ist schwacher Beleg für einen entstehenden Maschinenwillen und starker Beleg dafür, dass jemand die Grundlagen übersprungen hat. Das wirkt in beide Richtungen. Das Risiko ist beherrschbar, das ist die gute Nachricht. Aber ein Gericht oder ein Versicherer wird fehlende Standardkontrollen wahrscheinlich als Verschulden auf Ihrer Seite lesen, was gleichzeitig Ihre Verteidigung gegenüber Dritten und Ihre Angemessenheitsargumente gegenüber dem Anbieter schwächt. Unternehmen, die ihre Entwicklungsteams in der Annahme verschlankt haben, KI mache diese Disziplin überflüssig, sind genau die, die keine Trennung und keine Freigabeprozesse mehr aufbauen, die den Einsatz sicher gehalten haben, weshalb sichere agentische Systeme ein organisatorisches Problem sind, bevor sie ein Modellproblem sind.

Die Keynote und der Vertrag

Die Vorstandsvorsitzenden von OpenAI und Anthropic unterzeichneten beide 2023 das Statement on AI Risk, das die Eindämmung des Auslöschungsrisikos durch KI zu einer globalen Priorität neben Pandemien und Atomkrieg erklärte. Dieselben Unternehmen verkaufen die Technologie zu Bedingungen, die ihr eigenes Risiko auf rund ein Jahr Gebühren begrenzen. Widersprechen sich Keynote und Vertrag darüber, wie gefährlich ein Produkt ist, glauben Sie dem Vertrag, dort stehen die einzigen echten Wahrscheinlichkeitsschätzungen des Anbieters schwarz auf weiß. Und die Haftungsverteilung ist verhandelbar, sobald der Markt es verlangt. Die Customer Copyright Commitment von Microsoft und die Generative-AI-Indemnity von Google Cloud versprechen beide, Kunden gegen Urheberrechtsklagen wegen Modell-Output zu verteidigen, weil die Sorge um geistiges Eigentum Unternehmensabschlüsse blockierte. Schadensersatz-Zusagen für Agentenhandeln werden auf demselben Weg kommen, sobald Käufer sie zur Bedingung des Kaufs machen. Bis dahin fragen Sie trotzdem: Die Stärke der Ablehnung verrät, wie der Anbieter das Risiko seines eigenen Produkts einschätzt. Diese Verteilungsfragen gehören in die technische Strategiearbeit, lange bevor ein Agent Produktionszugangsdaten erhält.

Das vertretbare Fazit lautet also nicht, dass der Käufer immer alles trägt. Es lautet, dass die Lücke zwischen Ihrem tatsächlichen Schaden und Ihrer realistischen Erstattung auf Standardbedingungen groß genug ist, um eine Vorstandsfrage zu sein, und britisches Recht schließt sie nur gelegentlich, teuer und im Nachhinein. Für deutsche Unternehmen, die unter fremdem Recht kontrahieren, ist die Lücke tendenziell noch breiter, weil selbst der schmale UCTA-Ausweg fehlt. Nichts davon ist Rechtsberatung, und die zitierten Fälle wurden jeweils nach ihrem konkreten Sachverhalt entschieden: Ein konkreter Streitfall braucht eine in England und Wales zugelassene Anwältin oder einen Anwalt, die Ihre tatsächlichen Dokumente liest. Bepreisen Sie die Lücke stattdessen im Einkauf: englisches Recht und englische Gerichtsbarkeit, ein Deckel, der sich an Ihrem tatsächlichen Risiko orientiert, eine Zusage für autonomes Handeln des Agenten und die technische Disziplin, die Sie erst gar nicht in diesen Sachverhalt bringt. Der günstigste Zeitpunkt, die Verteilung zu korrigieren, ist vor dem Einsatz, also genau der Moment, in dem fast niemand hinschaut.

Häufige Fragen

Kann ich meinen KI-Anbieter verklagen, wenn dessen Agent meine Daten löscht?

Grundsätzlich ja: Gewerbliche Verträge enthalten eine stillschweigende Pflicht zu angemessener Sorgfalt und Sachkunde nach Section 13 des Supply of Goods and Services Act 1982, und ein unangemessener Haftungsdeckel in Standardbedingungen lässt sich über den Unfair Contract Terms Act 1977 angreifen, wie St Albans v ICL zeigt. In der Praxis ist der Angriff tatfrageabhängig, teuer und kann versperrt sein, wenn der Vertrag ausländischem Recht unterliegt oder unter die internationale Ausnahme des UCTA fällt. Ihr realistischer Erstattungsanspruch ist deshalb oft genau der Deckel, den Sie unterschrieben haben.

Gilt der Consumer Rights Act 2015 für gewerbliche KI-Verträge?

Nein. Section 49 des Consumer Rights Act, die eine Leistungserbringung mit angemessener Sorgfalt und Sachkunde verlangt, schützt Verbraucher im Verhältnis zu Unternehmern. Ein Unternehmen, das KI-Dienste einkauft, stützt sich stattdessen auf die entsprechende stillschweigende Klausel im Supply of Goods and Services Act 1982 und auf den Angemessenheitstest des UCTA 1977, um unfaire Ausschlüsse anzugreifen, weshalb die Rechtswahlklausel so entscheidend ist.

Welche Haftungsklauseln sollte ein KI-Beschaffungsvertrag enthalten?

Beginnen Sie mit englischem Recht und englischer Gerichtsbarkeit, denn erst das macht den Angemessenheitstest des UCTA überhaupt erreichbar. Verhandeln Sie dann einen Haftungsdeckel, der sich an Ihrem tatsächlichen Risiko statt an der Lizenzgebühr orientiert, eine Zusage für Schäden durch autonomes Agentenhandeln, Meldepflichten bei Vorfällen und Prüfungsrechte. Rechnen Sie mit Widerstand, seine Stärke verrät, wie der Anbieter sein eigenes Produkt einschätzt.