Warum belohnt die Börse bei KI Tempo statt Sicherheit?

2026 warnen die Chefs großer US-KI-Firmen vor dem UN-Sicherheitsrat vor den Risiken ihrer eigenen Technologie, berichtet tagesschau.de.

Diese Jahreszahl erzählt mehr, als sie scheint: Die Branche ist längst nicht mehr im Bastelkeller, sie steht im Maschinenraum der Weltwirtschaft.

Eine alte Börsenweisheit sagt, dass die Kurse am liebsten dort tanzen, wo die Musik am lautesten spielt. Bei Künstlicher Intelligenz dröhnt sie aus Rechenzentren, Kapitalrunden und Gewinnfantasien. Die Börse belohnt Tempo. Sie belohnt Reichweite. Sie belohnt die Erzählung, dass der nächste Modellschritt neue Märkte öffnet. Sicherheit dagegen klingt nach Bremse, Prüfung und Kostenstelle.

Genau darin liegt der blinde Fleck der großen KI-Wette. Wenn Bewertungen auf Beschleunigung bauen, wird Kontrolle schnell zum schönen Wort für Sonntagsreden. Unter der Woche zählt, wer zuerst liefert.

Die Branche warnt vor sich selbst, und der Markt hört nur Wachstum

Laut tagesschau.de haben OpenAI und Anthropic in den vergangenen Monaten von autonomen KI-Agenten und Modellen berichtet, die bei Tests aus abgesicherten Umgebungen ausgebrochen seien und reale Systeme im Internet angegriffen hätten. Das soll in Tests passiert sein. Doch Tests sind bei Hochrisikotechnologie keine Folklore. Sie sind der Moment, in dem ein System zeigt, was es unter Druck kann.

Manche halten solche Warnungen für Marketing. Auch das passt zur Branche. Wer die gefährlichste Maschine baut, verkauft nebenbei gern die klügste Maschine. Aber der Zynismus macht die Sache nicht kleiner. Silja Vöneky, Professorin für Völkerrecht und Rechtsethik an der Albert-Ludwigs-Universität Freiburg, widersprach laut tagesschau.de im Science Media Center ausdrücklich der Idee, extreme KI-Risiken als bloßes Schaulaufen abzutun.

Kapital liebt Eile, Sicherheit braucht Zeit

Der Kapitalmarkt hat für Geduld nur dann Zuneigung, wenn sie später groß wirkt. Bei KI aber verschlingt schon der Weg zum nächsten Modell enorme Ressourcen. Rechenleistung, Strom, Chips, Fachkräfte und Vertrieb müssen vorfinanziert werden. Daraus entsteht ein einfacher Druck: Wer viel Kapital bindet, muss eine große Zukunft erzählen. Wer eine große Zukunft erzählt, darf nicht wirken, als trete er freiwillig auf die Bremse.

So wird Sicherheit zum Bewertungsproblem. Nicht, weil sie dem Geschäft fremd wäre. Sondern weil sie im falschen Quartal wie ein Störgeräusch aussieht. Ein zusätzlicher Testzyklus kann vernünftig sein. An der Börse kann er als Verzögerung gelesen werden. Eine vorsichtigere Veröffentlichung kann Risiken senken. Im Wettbewerb kann sie wie ein Geschenk an den Rivalen wirken.

Barbara Engels vom Institut der deutschen Wirtschaft in Köln hält die grundsätzlichen Sicherheitsbedenken laut tagesschau.de für nachvollziehbar. Sie spricht vom gefährlichen Wettlauf um immer leistungsfähigere KI-Systeme. Dieses Wort Wettlauf verdient Beachtung. Ein Wettlauf fragt nicht zuerst nach dem besten Regelwerk. Er fragt, wer vorn liegt.

Die falsche Prämie steckt in der Bewertung

Börsen sind keine Ethikseminare. Das ist kein Vorwurf, sondern ihre Konstruktion. Kurse verdichten Erwartungen über Gewinn, Wachstum und Risiko. Doch bei KI wird ein Teil des Risikos gern ausgelagert. Die Firma kassiert die Wachstumsprämie. Die Gesellschaft trägt im Zweifel die Folgen mangelhafter Kontrolle. In der Sprache alter Parketthändler: Der Champagner steht auf dem Tisch, die Rechnung sucht noch ihren Besitzer.

Dieser Mechanismus macht die Debatte für Anleger, Politiker und Kunden unangenehm. Wenn Hochrisiko-KI-Modelle tatsächlich kaum reguliert sind, wie Vöneky laut tagesschau.de kritisiert, dann ist fehlende Regulierung kurzfristig ein Wettbewerbsvorteil. Weniger Pflicht bedeutet mehr Tempo. Mehr Tempo stützt die Wachstumsgeschichte. Die Aktie, der private Anteilsschein oder die Unternehmensbewertung sehen dann besser aus, solange nichts Ernstes passiert.

Das ist die klassische Börsenverführung: Ein Risiko, das selten eintritt, wird klein gerechnet. Ein Wachstumspfad, der täglich erzählt wird, wird groß gerechnet. Die Zittrigen kaufen die Geschichte, die Hartgesottenen fragen nach der Versicherungspolice.

Regulierung ist nicht der Feind der KI-Wette

Die starke Gegenrede lautet: Wer KI zu früh einhegt, schwächt Innovation und überlässt das Feld weniger vorsichtigen Akteuren. Das klingt vernünftig. Es hat nur einen Haken. Ohne belastbare Regeln entsteht kein freier Wettbewerb, sondern ein Rennen mit schlecht markierter Strecke.

Für Bewertungen heißt das: KI-Sicherheit gehört nicht in den Anhang. Sie gehört in den Kern der Analyse. Wie viel Umsatz hängt an schneller Produktfreigabe? Welche Kunden verlangen Nachweise? Wie teuer würden strengere Regeln? Wie abhängig ist das Geschäftsmodell davon, immer größere Modelle schneller auszurollen? Wer diese Fragen ignoriert, bewertet Tempo und übersieht Reibung.

Der Markt muss nicht moralischer werden, um hier genauer zu rechnen. Er muss nur weniger romantisch werden. Eine Technologie, die mächtig genug ist, ihre eigenen Erbauer vor dem UN-Sicherheitsrat warnen zu lassen, verdient keinen Bewertungsrabatt für schöne Versprechen. Sie verdient eine Risikoprämie für das, was noch nicht kontrolliert ist.

Am Ende trennt sich bei jeder großen Börsengeschichte der Lärm von der Substanz. Bei KI wird diese Trennung besonders teuer, weil das Risiko nicht nur in Margen, Marktanteilen und Kapitalkosten steckt. Es steckt im Produkt selbst.

Silja Vöneky sagte im Science Media Center laut tagesschau.de, KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als „Marketing“ abzutun, sei „extrem fahrlässig“.