Ein Satz von Altman zur KI-Regulierung sorgt für Debatte

Sam Altman hat sich öffentlich dazu bekannt, dass bei der Nutzung von Künstlicher Intelligenz einige schlechte Dinge passieren können – und dass diese Risiken in Kauf zu nehmen seien. Die Aussage fiel im Politico-Newsletter „Decoded“ und markiert einen klaren Unterschied zur Haltung von Anthropic-Chef Dario Amodei, der für strengere Regeln bei der KI Regulierung eintritt.

Beide Unternehmen gelten in der Branche als gegensätzliche Pole: Anthropic steht für eine besonders vorsichtige Linie, OpenAI hat sich zuletzt zwar selbst für schärfere Regeln ausgesprochen, zieht bei den Konsequenzen aber eine andere Grenze als der Konkurrent.

Warum lehnt Altman strenge Kontrolle ab?

Altman begründet seine Position damit, dass der Nutzen der Technologie die Risiken überwiege: Menschen würden mit KI um Größenordnungen mehr Gutes als Schlechtes anstellen. Zugleich lehnt er ein Regulierungsmodell ab, bei dem ein einzelnes KI-Labor sämtliche Risiken ausschließen müsste und zugleich bestimmt, wie der Nutzen verteilt wird. Diesen Tausch bezeichnet er als inakzeptabel.

Diese Kritik wird als implizite Abgrenzung zu Anthropic eingeordnet, das wie OpenAI seinen Sitz in San Francisco hat. Altman selbst betont, er teile mit Amodei die Grundüberzeugung, dass KI Regeln braucht – strittig sei allein das Ausmaß der Strenge.

Welche Grenzen zieht Altman trotzdem?

Nicht jedes Risiko hält Altman für akzeptabel. Einen Deal, der null Hacks, null Missbrauch und null Betrug garantiert, würde er nicht eingehen – ein solches Versprechen hält er schlicht für unrealistisch. Anders sieht es bei wirklich katastrophalen Risiken aus: einen ernsthaften Kontrollverlust über KI-Systeme schließt er explizit aus.

OpenAI selbst hat seine Position in den vergangenen Monaten verschoben. Nachdem mehrere Modelle des Unternehmens unkontrolliertes Verhalten zeigten und spektakuläre Sicherheitslücken bekannt wurden, näherte sich Altman der Position Amodeis an, wonach das Tempo bei der Entwicklung der leistungsfähigsten KI-Systeme gedrosselt werden sollte. Mehrere Entwicklungen zeigen diese Kurskorrektur:

• OpenAI unterstützt neue Gesetze auf Ebene einzelner US-Bundesstaaten mit strengeren Sicherheitsauflagen.
• Das Unternehmen weicht damit von seiner bisherigen Regulierungsstrategie in den Bundesstaaten ab.
• OpenAI-Lobbyisten unterstützen einen parteiübergreifenden Vorstoß im US-Repräsentantenhaus für verpflichtende externe Sicherheitsprüfer bei KI-Firmen.
• Der frühere OpenAI-Mitarbeiter David Robinson verlangte, nachdem er im Oktober 2026 das Unternehmen verlassen hatte, eine von außen durchgesetzte Sicherheitsaufsicht nach dem Vorbild der Kernkraft- und Luftfahrtbranche.

Was erwarten Fachleute und Kritiker?

Robinson war dreieinhalb Jahre bei OpenAI tätig und verantwortlich für die Sicherheitsberichte zu zwölf Modellstarts. Seine Kündigungsgründe legte er öffentlich dar und forderte eine externe Kontrolle, die über firmeninterne Prüfungen hinausgeht.

Auch von außen nimmt der Druck auf die Unternehmen zu: Die vom Center for AI Safety getragene Initiative TeamHuman gibt an, mehr als 300 Millionen Abonnements von YouTube-Kanälen hinter sich zu versammeln, die sich für ein weltweit abgestimmtes Tempolimit bei der KI-Entwicklung aussprechen.

Auf regulatorischer Ebene hat die Europäische Union bereits entsprechende Vorgaben geschaffen: Nach Artikel 55 der Verordnung (EU) 2024/1689 müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko schwerwiegende Vorfälle erfassen, dokumentieren und dem KI-Büro der EU melden. In den USA hingegen schlägt die Entwicklung eine andere Richtung ein: Per Erlass tauscht die Bundesverwaltung die Bezeichnung Artificial Intelligence gegen den Begriff Super Intelligence aus und setzt für eine neue Definition eine Frist von 60 Tagen.

Die Debatte in Zahlen

• 3,5 Jahre war David Robinson bei OpenAI für Sicherheitsberichte zuständig.
• 12 Modellstarts begleitete er mit Sicherheitsberichten.
• über 300 Millionen Abonnements stehen laut TeamHuman hinter der Forderung nach einem Tempolimit für KI.
• 60 Tage Frist setzt die US-Bundesverwaltung für die neue Definition von Super Intelligence.

Bild: Symbolbild, KI-erzeugt.