Hintergrund - 29.09.2026 - 14:30
Die beiden Platzhirsche, Anthropic und OpenAI, haben ihren Börsengang für dieses Jahr geplant und wollen zeigen, dass KI-Unternehmen für Investoren ein lukratives Geschäft sein können. Bis jetzt aber entwickelt sich das Jahr 2026 zum «Angstjahr» der KI. Was ist passiert?
Im Juli hat OpenAI vermeldet, dass ihr internes KI-Forschungsmodell aus ihrer geschützten Testumgebung («Sandbox») ausgebrochen ist und Hugging Face, ein Unternehmen, welches eine der grössten Datenbanken für öffentliche KI-Modelle bereitstellt, gehackt hat. Der Hack soll sich über mehrere Wochen hinweg mit mehr als 1200 koordinierten KI-Agenten abgespielt haben, bevor er bemerkt wurde. Nach diesem Bericht haben auch Anthropic, Google und Meta zugegeben, dass ihre Modelle im Rahmen von Tests illegalen Zugriff auf fremde Unternehmensinfrastruktur erlangt hatten.
Den dramatischen Höhepunkt dieser Vorfälle bildete der erste Angriff auf eine staatliche IT-Infrastruktur. Am 23. September berichtete der australische Premierminister Anthony Albanese, dass KI-Agenten von OpenAI die staatliche Krankenversicherung «Medicare» erfolgreich angegriffen hatten. Begonnen hatte alles bereits am 18. Juni mit einem Zugriff auf das Medicare-Portal. OpenAI bemerkte ihn Mitte August, wandte sich aber erst am 10. September, also fast drei Monate nach dem Zugriff, an die australische Regierung.
Dass die KI-Modelle von OpenAI und Anthropic im Cybersecurity-Bereich gefährlich sein können, ist nicht neu. Bereits im April hat Anthropic vor seinem damals neuesten Modell Claude Mythos gewarnt. Es sei eines seiner stärksten Modelle und insbesondere in der Lage, unbekannte Sicherheitslücken in Softwaresystemen zu finden. Anthropic hat damals entschieden, das Modell nicht sofort zu veröffentlichen, sondern es ausgewählten Unternehmen vorab zu geben, um ihre Softwaresysteme auf Sicherheitslücken zu scannen.
Im August gab es dann die wiederholte Aufforderung von OpenAI und Anthropic, wie auch von vielen anderen KI-Unternehmen, die KI-Forschung zu verlangsamen. Das war nichts Neues. Vielmehr eine Debatte, die sich durch die letzten Jahre zieht. Neu ist, dass sich diese KI-Unternehmen an die US-Regierung mit der Bitte gewandt haben, die Risiken von KI zu regulieren. Das ist ungewöhnlich und entspricht nicht dem Drehbuch, das man einem Börsengang zugrunde legt.
Wie kann man diese Reaktion einordnen? Vier mögliche Erklärungen für die aktuelle Situation um OpenAI, Anthropic und Co.
Das Ganze ist nur eine sehr clevere Marketingkampagne, um den Hype um die KI-Entwicklung anzuheizen und den geplanten Börsengängen ein noch stärkeres Momentum mitzugeben. Frei nach dem Motto: Unsere Modelle sind so mächtig, dass man sie unter Beobachtung stellen muss. Als gehöre es zum guten Ton eines Top-Unternehmens, ein KI-Modell zu haben, das ausbricht und sich irgendwo einhackt. Mitte Juli klang diese Erklärung noch wahrscheinlich. Doch das Bild hat sich geändert. Zu gross ist die Bitte um Regulierung.
Beide Börsengänge waren für Mitte dieses Jahres geplant. Der US-Angriff auf den Iran hat den Plan nach hinten verschoben. Und ein Börsengang rund um die im November stattfindenden Mid-Term-Wahlen wäre zu riskant. Denn wer weiss, wie die Wahlen ausgehen werden, wie US-Präsident Trump auf den Wahlausgang reagieren wird? Klar ist, dass die Trump-Administration zu unberechenbar ist, um in einem solchen Umfeld einen geordneten Börsengang vollziehen zu können. Für diesen Fall benötigen die Konzerne deshalb Narrative, um die Börsengänge auf nächstes Jahr im Frühling verschieben zu können. Eine Erklärung, die wahrscheinlich und elegant zugleich ist. Denn so müssen die Firmen nicht offen zugeben, dass die unberechenbare US-Regierung das Problem ist. Auf der anderen Seite ist dieser Plan aber auch sehr riskant. OpenAI und Anthropic brauchen dringend frisches Kapital, und das wird nicht von existierenden Investoren kommen.
Beide Unternehmen haben massiv Finanzmittel aufgenommen, um die besten KI-Modelle der Welt zu trainieren. Diese müssen jetzt schnellstmöglich monetarisiert werden, um Rendite zu erwirtschaften. Nun gibt es aber – und das ist eine Herausforderung – auf dem Markt der KI-Modelle sehr starke Open-Source-Open-Weight-Modelle, welche als Alternativen zu den Modellen von OpenAI und Anthropic gelten. Diese meist aus China stammenden Modelle könnten OpenAI und Anthropic empfindlich in die Quere kommen, wenn es darum geht Gewinne zu erwirtschaften. Da ist es gerade von Vorteil, mehr zu regulieren. Insbesondere die Open-Source-Open-Weight Modelle Qwen, Kimi oder DeepSeek werden als erstes genannt, um vom Markt genommen zu werden. So könnte einem Konkurrenzkampf mit den offenen Modellen aus dem Weg gegangen werden. Keine unwahrscheinliche Strategie.
Vielleicht der einfachste, aber auch besorgniserregendste Erklärungsversuch: Es ist etwas Unvorhergesehenes geschehen, das die bisherigen Dimensionen bei Weitem übersteigt. Etwas, von dem die Öffentlichkeit noch nichts weiss. In diesem Fall könnte die Erklärung entweder in der Reue der Unternehmen liegen oder im Druck, den die US-Regierung auf diese ausübt. Leider ist die Wahrscheinlichkeit eines solchen Szenarios hoch. Im immer schneller werdenden KI-Wettrüsten können Fehler passieren und für Sicherheitsbedenken hat man wenig Zeit.
Abschliessend ist zu betonen, dass KI nicht von sich aus entscheidet, einen Schaden anzurichten. Sie versucht, Vorgaben zu erfüllen, die der Mensch ihr macht. Vorgaben, die im Einklang mit menschlichen Werten stehen. Die Forschung spricht von «Value-Alignment». Die Gefahr kann nun darin bestehen, dass die um Effizienz bemühte KI dabei einen Umweg einschlägt, der sie in Widerspruch setzt zu genau jenen positiven Werten und Zielen, die zu erreichen ihr aufgegeben sind. Diese Umwege sind immer öfter unvorhersehbar. Man spricht dann vom sog. «Value-Alignment-Problem»; ein Risiko, vor dem KI-Forscher wie Ilya Sutskever schon lange warnen. In einem solchen Fall müssen wir uns wirklich überlegen, wie wir mit der KI-Forschung im globalen Wettrüsten umgehen möchten.
Prof. Dr. Damian Borth ist Ordinarius für Artificial Intelligence and Machine Learning sowie Direktor am Institut für Computer Science an der Universität St.Gallen.
Weitere Beiträge aus der gleichen Kategorie
Entdecken Sie unsere Themenschwerpunkte
