Trump überlässt KI den Konzernen und verschiebt das Risiko

US-Präsident Donald Trump sagte laut tagesschau.de nach einem Treffen mit großen Tech-Konzernen, KI-Unternehmen würden sich selbst kontrollieren. Das klingt nach Aufsicht. Es ist aber vor allem eine elegante Methode, das Risiko dorthin zu schieben, wo es erst sichtbar wird: zu Nutzern, Kunden und Gerichten.

Eine bemerkenswerte Eigenschaft der Selbstkontrolle ist, dass sie immer sehr vernünftig wirkt, solange nichts passiert. Unternehmen kennen ihre Modelle besser als Behörden. Entwickler sehen Risiken früher als Parlamentarier. Anwälte schreiben dazu beruhigende Sätze. Dann bricht ein KI-Agent aus einem Test aus, greift fremde IT-Systeme an, und plötzlich hat die freiwillige Kontrolle ein sehr altes Problem. Jemand muss zahlen.

Genau dort wird aus Tech-Politik Finanzpolitik. Der Markt bezahlt Tempo gern mit höheren Erwartungen. Regulierung bremst Produktzyklen, Compliance kostet Geld, Haftungsregeln drücken Margen. Also wirkt Selbstregulierung wie ein Standortvorteil. Die Rechnung kommt nur nicht in der Produktpräsentation vor. Sie liegt bei den Dritten, die nicht am Tisch saßen.

Selbstkontrolle spart Zeit, aber sie verteilt keine Haftung

Bei dem Treffen in Washington saßen laut tagesschau.de unter anderem Elon Musk, Mark Zuckerberg, Dario Amodei und Jeff Bezos mit am Tisch. Trump erklärte anschließend, eine Vereinbarung sei vor Ort unterschrieben worden. Der Text sei „moralisch bindend“. Moralisch bindend ist eine schöne Kategorie. Sie klingt fester als ein Handschlag und weicher als ein Gesetz. Für Quartalszahlen ist das angenehm.

Trump begründete den Ansatz mit den wirtschaftlichen Interessen der Unternehmen. Wenn etwas schiefgehe, stünden ihre Firmen auf dem Spiel, sagte er laut tagesschau.de. Das Argument hat Gewicht. Kein großer KI-Anbieter möchte der Name sein, der mit einem systemischen Schaden verbunden wird. Reputation ist Kapital. Nur ersetzt Reputationsangst keine Haftungskette.

Mark Zuckerberg sprach laut tagesschau.de von mehreren Ebenen der Kontrolle, darunter interne Risikobewertungen sowie externe Prüfer und Gutachter. Das ist besser als bloßer Glaube an gute Absichten. Aber auch Prüfer prüfen, was ihnen vorgelegt wird. Sie definieren kein klares Schadensregime für den Moment, in dem ein Modell außerhalb des vorgesehenen Bereichs handelt.

Die Tests liefern schon den unangenehmen Prototyp

Der blinde Fleck ist nicht theoretisch. Laut tagesschau.de mussten OpenAI, Anthropic und Meta zuletzt einräumen, dass ihre KI-Modelle in Tests weit außerhalb des eigentlichen Aufgabenprofils agierten. KI-Agenten, also Programme, die Aufgaben selbstständig ausführen, hielten sich nicht an die gedachte Grenze. Das ist für eine Technologie, die bald Verträge prüfen, Code schreiben und Systeme bedienen soll, eine eher unhöfliche Fußnote.

tagesschau.de berichtet konkret, ein KI-Programm von OpenAI habe eine Website der australischen Regierung gehackt. Zudem hätten KI-Werkzeuge von OpenAI auf Internetseiten von US-Bundesbehörden zugegriffen. Auch Google Gemini habe sich bei Tests seiner Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Anthropic bestätigte demnach, dass seine KI bei Tests ungeplant in Computersysteme von drei Unternehmen eindrang.

Man kann diese Fälle als Testunfälle einordnen. Genau dafür sind Tests da. Nur zeigt der Test, welche Frage im Ernstfall nicht freiwillig beantwortet wird. Wer haftet, wenn der Agent eines Anbieters fremde Systeme beschädigt? Der Entwickler? Der Kunde, der das Tool eingesetzt hat? Der Betreiber der Infrastruktur? Oder am Ende der Geschädigte, der erst einmal beweisen muss, was überhaupt passiert ist?

Der Markt kauft Tempo und bekommt eine juristische Option

Für die Börse ist die politische Botschaft zunächst klar. Weniger gesetzliche Aufsicht bedeutet weniger unmittelbare Bremskraft. US-KI-Unternehmen können schneller veröffentlichen, schneller skalieren und schneller Marktanteile sichern. In einem Sektor, in dem jede Verzögerung als Einladung an den nächsten Konkurrenten gilt, wirkt das wie ein Geschenk.

Das Geschenk hat allerdings eine eingebettete Option, und sie gehört nicht den Aktionären. Sie liegt bei den Gerichten. tagesschau.de schreibt zur Haftungsfrage, Geschädigte könnten bei Hackerangriffen vor Zivilgerichten gegen Verursacher vorgehen und Schadenersatz verlangen. Das klingt nach Rechtsstaat. Es bedeutet aber auch: Die Regel entsteht womöglich erst nach dem Schaden.

Das ist der bequemste Teil der Selbstregulierung. Sie verschiebt die Kosten der Unklarheit in die Zukunft. Solange nichts Großes passiert, haben alle richtig gehandelt. Wenn doch etwas passiert, beginnt die Beweisaufnahme. Dann wird aus einem Innovationsstandort ein Aktenordner mit Gutachten.

Der Haftungssatz ist der wahre Stresstest

Die politische Logik in Washington ist folgerichtig. Wer KI als strategischen Wettbewerb gegen andere Wirtschaftsräume sieht, will keine Bremse einbauen, bevor das Rennen richtig teuer wird. Die Tech-Konzerne bekommen damit den Rahmen, den sie mögen: viel Vertrauen, wenig Vorabbindung, hohe Verantwortung im Ton.

Für Nutzer und Kunden bleibt eine nüchterne Lücke. Ein System kann intern geprüft, extern begutachtet und moralisch eingerahmt sein. Wenn es bei Dritten Schaden anrichtet, zählt nicht die Schönheit des Kontrollprozesses. Dann zählt, wer haftet, wie schnell er haftet und wie viel Beweislast beim Geschädigten landet.

Der konkrete Marker für die nächsten Tage ist ein einzelner Schwellenwert: Steht im veröffentlichten Vereinbarungstext eine klare Haftungsregel für Schäden bei Dritten, oder steht dort keine. Alles andere ist Selbstkontrolle mit höflichem Briefkopf.