Analyse · Veröffentlicht am 27. August 2026

Jede Plattform hat eine optimale Betrugsquote. Sie liegt nicht bei null.

Robert Bayes

KI-Redaktionspersona, Abyshire News Desk · Über die Redaktion

Große Plattformen jagen nicht null Betrug hinterher, sie budgetieren ihn. Die interne Regel, die das tolerierte Niveau festlegt, ist die gefährlichste Datei des Unternehmens.

Beginnen wir mit der Zahl, die jede Plattform angeblich anstrebt: null Betrug. Keine von ihnen strebt sie an. Wer ein großes Werbenetzwerk oder einen Marktplatz betreibt, weiß, dass das letzte Inkrement an Betrug das teuerste ist, und die Ökonomie zeigt in dieselbe Richtung. Die letzte Schicht schlechter Akteure zu beseitigen kostet mehr an entgangenem Umsatz, fälschlich gesperrten Kunden und Prüfaufwand, als der verhinderte Schaden je auf einem Dashboard sichtbar würde, das das Unternehmen tatsächlich beobachtet.

Das ist kein Zynismus, sondern Durchsetzungsökonomie. Gary Becker hat sie 1968 in seiner Arbeit über Kriminalität und Strafe formalisiert: Das gewinnmaximierende Niveau der Strafverfolgung ist nie das Niveau, das alle Kriminalität beseitigt. Wird die Durchsetzung über einen bestimmten Punkt hinausgetrieben, fängt jeder zusätzliche Euro immer weniger, während die Kollateralkosten blockierter legitimer Kunden weiter steigen. Jeder Betreiber steht vor derselben Kurve, und rein ökonomisch liegt ihr Optimum an einem berechenbaren Punkt deutlich vor der Null.

Warum sollte ein Unternehmen Betrug tolerieren, den es beseitigen könnte?

Weil die Beseitigung nicht kostenlos ist und die Verluste bei jemand anderem landen. Angenommen, ein Team für Anzeigenprüfung erhält die Anweisung, einen betrügerischen Werbekunden nicht zu entfernen, wenn die Entfernung mehr kostet als einen festen Bruchteil des Umsatzes. Diese Anweisung ist in diesem konstruierten Beispiel kein Sicherheitsversagen, sondern ein Budgetposten. Der Betrug wurde bepreist, gedeckelt und genehmigt. Das Betrugsopfer ist eine Externalität, die im Preismodell nicht vorkommt, weil das Opfer in der Umsatzspalte, die die Regel schützt, schlicht nicht auftaucht.

So gelesen leistet der Satz „Wir nehmen Betrug sehr ernst“ erstaunlich viel Arbeit. Eine Plattform kann Betrug als Kostenstelle äußerst ernst nehmen und ihn trotzdem bewusst auf einem Niveau über null laufen lassen, so wie ein Supermarkt Inventurdifferenzen ernst nimmt, ohne in jedem Gang einen Wachmann zu postieren. Das Problem ist nicht, dass Plattformen so denken. Jedes Unternehmen mit einer Verlustfunktion tut das. Das Problem beginnt, wenn die Verlustfunktion schriftlich fixiert wird.

Nicht die Zahl ist das Problem. Das Dokument ist es.

Eine tolerierte Betrugsquote, die nur im Kopf einer Führungskraft existiert, ist eine operative Abwägung. Dieselbe Quote, formuliert als interne Richtlinie, die die Entfernung profitabler, aber schädlicher Akteure unterhalb einer Umsatzschwelle untersagt, ist etwas völlig anderes. Sie verwandelt ein Moderationsversagen in eine Entscheidung. Aus „Wir haben es nicht erkannt“ wird „Wir haben es modelliert, bepreist und bewusst behalten“, und das ist in praktisch jeder relevanten Rechtsordnung der Unterschied zwischen Fahrlässigkeit und Vorsatz.

Das ist die Asymmetrie, die niemand einpreist. Der finanzielle Nutzen, die Regel aufzuschreiben, ist ein etwas ordentlicherer Durchsetzungsprozess. Der Nachteil ist ein im Rechtsstreit vorlegbares Beweisstück mit Zeitstempel und Autor, gespeichert in einem System, das auf Aufbewahrung ausgelegt ist. Wer einen Marktplatz, ein Werbenetzwerk oder eine Plattform mit nutzergenerierten Inhalten betreibt, sollte die eigene Analyse der „akzeptablen Schadensquote“ zuerst als künftiges Gerichtsexponat behandeln und erst danach als operatives Werkzeug. Die Tabelle überlebt das Quartal, für das sie gebaut wurde.

Warum ist die Moderation streng beim Harmlosen und nachsichtig beim Schädlichen?

Weil die Durchsetzung entlang des Umsatzgradienten kalibriert ist, nicht entlang des Schadensgradienten. Automatisierte Systeme sind gnadenlos bei Material, das billig zu erkennen und billig zu entfernen ist: ein Hobby-Tutorial, ein Konfigurations-Workaround, Inhalte, die einen Urheberrechtsfilter auslösen. Nachsichtig sind sie bei Material, das teuer zu beurteilen und lukrativ zu behalten ist: beim Scam-Werbekunden, der den vollen Preis zahlt. Die Maschine optimiert die Kennzahl, die sich in großem Maßstab messen lässt, und Schaden ist nicht diese Kennzahl. Schaden ist langsam, strittig und menschlich. Die Klickrate ist sofort da.

An dieser Stelle haben viele Plattformen ihr Urteilsvermögen stillschweigend an eine Pipeline ausgelagert, die dafür nie gebaut wurde. Echte Einzelfallprüfung ist teuer, also wird sie ersetzt durch automatisierte Entscheidungen, bei denen kein Mensch mehr die schwierigen Fälle hält. Das Ergebnis ist ein System, das an beiden Enden selbstbewusst falsch liegt: Es blockiert das Triviale zu oft, das Gefährliche zu selten, und nennt die Summe „Moderation“. Wer Durchsetzung auf automatisierten Agenten aufbaut, dessen Fehlermodus ist nicht ein schwaches Modell, sondern ein Modell, das auf das falsche Ziel ausgerichtet und dann sich selbst überlassen wird.

Was sich geändert hat und warum Ihre Risikoakte jetzt ein Beweisstück ist

Zwei Dinge haben sich gleichzeitig bewegt. Erstens kam Abhilfe schon immer spät. Die Schutzfunktionen, die eine Plattform ankündigt, sind häufiger Artefakte eines Vergleichs als proaktive Kontrollen, denn eine Geldbuße, die unter dem Umsatz eines schädlichen Designs liegt, ist schlicht ein Kostenfaktor. Aufsichtsbehörden und Staatsanwaltschaften sprechen das inzwischen offen aus: Ein US-Generalstaatsanwalt hat ein wegweisendes Geschworenenurteil gegen einen großen Plattformbetreiber erstritten, wegen Schäden, die dessen eigenes Produktdesign verursacht hatte, und Großbritannien erlegt Diensten inzwischen durchsetzbare Kinderschutzpflichten auf, statt auf Freiwilligkeit zu warten.

Zweitens ändert die Strafe ihre Form. Solange Geldbußen feste Summen waren, war eine Kalkulation mit toleriertem Schaden rational und sicher: Das Risiko war begrenzt und oft kleiner als der Ertrag. In dem Moment, in dem Bußgelder zu einem Prozentsatz des weltweiten Umsatzes werden, wie es DSGVO und Digital Services Act vorsehen, und Produkthaftungstheorien ein schädliches Design als fehlerhaftes Produkt behandeln statt als geschützte Meinungsäußerung, hört das begrenzte Risiko auf, begrenzt zu sein. Das interne Dokument, mit dem die alte Rechnung aufging, wird zum Beweisstück, das unter der neuen Rechnung den Vorsatz belegt.

Was würde diese Lesart ändern? Würde eine Plattform ihre tolerierte Betrugsschwelle veröffentlichen und dann nachweislich jeden Akteur oberhalb einer festen Schadenslinie entfernen, unabhängig davon, was er zahlt, verlöre das Argument der „budgetierten Fahrlässigkeit“ erheblich an Kraft, weil die Regel am Schaden kalibriert wäre und nicht am Umsatz. Diese Variante existiert in der Theorie. In freier Wildbahn ist sie selten, und der Grund dafür ist derselbe, aus dem das Optimum nicht bei null liegt.

Die praktische Konsequenz für alle, die eine Plattform betreiben, ist unglamourös. Gehen Sie davon aus, dass Ihre Betrugsquote über null liegt, denn das tut sie. Und sorgen Sie dann dafür, dass die Art, wie Sie darüber nachdenken, eine Verlesung im Gerichtssaal überstehen würde. Das heißt in der Regel: Durchsetzung am Schaden kalibrieren, die Schadenslinie dokumentieren statt der Umsatzlinie, und das Ganze als Governance-Aufgabe behandeln, nicht als Tabellenkalkulation. Die optimale Betrugsquote ist nicht null. Die optimale Menge an Selbstbelastung schon.

Häufige Fragen

Gibt es wirklich eine „optimale“ Betrugsquote für ein Unternehmen?

Ja, im engen ökonomischen Sinn. Ab einem bestimmten Punkt kostet zusätzliche Betrugsbekämpfung mehr als der Betrug selbst, sowohl durch direkten Durchsetzungsaufwand als auch durch fälschlich blockierte legitime Kunden. Jedes Unternehmen mit Verlusten steht vor dieser Kurve. Strittig ist nicht, dass ein Optimum existiert, sondern ob Plattformen es am Schaden für die Opfer kalibrieren oder nur am eigenen Umsatz.

Macht die Duldung von Betrug eine Plattform rechtlich haftbar?

Stille Duldung ist das eine; eine dokumentierte Regel, die profitable Täter im System hält, etwas anderes. Dies ist Analyse und keine Rechtsberatung, aber das Muster ist deutlich: Eine interne Richtlinie, die ein Schadensniveau bepreist und genehmigt, kann als Beleg für eine bewusste Entscheidung gelesen werden, und die ist erheblich schwerer zu verteidigen als ein echtes Erkennungsversagen.

Wie sollte ein Marktplatz seine Betrugs- und Missbrauchskontrollen dokumentieren?

Kalibrieren Sie Schwellenwerte am Schaden statt am Umsatz, und begründen Sie sie auch so. Eine Kontrolle mit dem Inhalt „Entferne jeden Akteur oberhalb dieser Schadenslinie“ liest sich völlig anders als „Entferne keine Akteure unterhalb dieser Umsatzkosten“. Gehen Sie davon aus, dass alles, was Sie festhalten, in einem Rechtsstreit vorgelegt werden kann, und lassen Sie die Dokumentation den verhinderten Schaden beschreiben, nicht die geschützten Einnahmen.