KI-Regeln: Trump und Tech-Riesen unterschreiben gemeinsame Erklärung

Die USA schlagen bei der Regulierung Künstlicher Intelligenz einen bemerkenswerten Weg ein. Präsident Donald Trump und führende Vertreter der Technologiebranche haben am 29. September 2026 im Weißen Haus eine gemeinsame Vereinbarung unterzeichnet, mit der sich die beteiligten Unternehmen zu umfangreicheren Sicherheitskontrollen verpflichten.

Das Abkommen ist allerdings kein Gesetz und rechtlich nicht bindend. Trump bezeichnete die Vereinbarung als „morally binding“ – also moralisch bindend – und verglich sie mit einer Art Verfassung für die Branche.

Zu den Unterzeichnern gehören die Unternehmen OpenAI, Google, Meta, Anthropic, Nvidia und X.

KI-Unternehmen sollen sich weitgehend selbst kontrollieren

Kern der Vereinbarung ist ein Modell aus mehreren Kontrollstufen. Die Unternehmen verpflichten sich dazu, Sicherheitsmechanismen einzurichen beziehungsweise auszubauen und deren Wirksamkeit überprüfen zu lassen.

Vorgesehen sind insbesondere:

• interne Kontrollen während Entwicklung, Training und Einsatz leistungsfähiger KI-Modelle,

• unabhängige externe Prüfungen der Sicherheits- und Überwachungssysteme,

• Aufsicht auf Vorstandsebene, die Berichte interner und externer Prüfer erhält,

• sowie interne Sicherheitsteams, die kontrollieren sollen, ob die vorgesehenen Schutzmaßnahmen tatsächlich funktionieren.

Besondere Aufmerksamkeit gilt dabei Bereichen wie Cybersecurity, biologischen und chemischen Risiken sowie der Frage, ob KI-Systeme unbeabsichtigt auf technische Systeme zugreifen oder diese kompromittieren könnten.

Externe Prüfer sollen KI-Sicherheit kontrollieren

Ein interessanter Punkt des Abkommens ist die geplante Einbindung unabhängiger Prüfer.

Die Unternehmen sollen mit externen Auditoren oder Evaluatoren zusammenarbeiten. Diese sollen untersuchen, ob die von einem KI-Unternehmen eingerichteten Kontroll- und Überwachungssysteme tatsächlich so funktionieren wie vorgesehen.

Damit würde zumindest ein Teil der Sicherheitsprüfung nicht ausschließlich innerhalb der Unternehmen stattfinden.

Gleichzeitig sollen die Firmen ein unabhängiges Gremium innerhalb ihrer jeweiligen Unternehmensführung benennen, das Berichte der internen und externen Prüfer erhält und die Umsetzung der Sicherheitsmaßnahmen überwacht.

Trump setzt auf Selbstregulierung statt neuer KI-Gesetze

Politisch besonders relevant ist, was die Vereinbarung nicht beinhaltet.

Die US-Regierung führt damit zunächst keine umfassende neue gesetzliche KI-Regulierung ein. Trump hatte sich bereits zuvor gegen zusätzliche spezielle KI-Vorschriften ausgesprochen und argumentiert, dass die USA ihren technologischen Vorsprung gegenüber internationalen Wettbewerbern nicht durch übermäßige Regulierung gefährden sollten.

Die neue Vereinbarung setzt deshalb weitgehend auf Selbstregulierung.

Die beteiligten Unternehmen sollen selbst Sicherheitsstrukturen schaffen, diese überprüfen lassen und sich regelmäßig treffen, um gemeinsame Standards und bewährte Verfahren für sichere KI-Systeme weiterzuentwickeln.

Aus „Artificial Intelligence“ wird in der US-Regierung „Super Intelligence“

Parallel dazu sorgt eine weitere Entscheidung Trumps für Aufmerksamkeit.

Trump unterzeichnete am selben Tag eine Executive Order, nach der die US-Bundesverwaltung künftig grundsätzlich den Begriff „Super Intelligence“ (SI) anstelle von „Artificial Intelligence“ (AI) verwenden soll.

Behörden und Ministerien sollen die neue Bezeichnung unter anderem in öffentlichen Mitteilungen, Berichten, Webseiten und nicht gesetzlich vorgeschriebenen Dokumenten verwenden. Bereits bestehende Gesetze, Verträge und ältere Dokumente müssen dagegen nicht umgeschrieben werden.

Inhaltlich definiert die Anordnung „Super Intelligence“ zunächst weiterhin über die bestehende gesetzliche US-Definition von Artificial Intelligence. Es handelt sich damit vor allem um eine Änderung der Terminologie innerhalb der Exekutive und nicht um die Feststellung, dass heutige KI-Systeme tatsächlich eine wissenschaftlich definierte „Superintelligenz“ erreicht hätten.

Warum die Vereinbarung gerade jetzt kommt

Die Diskussion über Sicherheitsregeln für KI hat sich durch die zunehmenden Fähigkeiten moderner Modelle deutlich verschärft.

Während frühere Chatbots hauptsächlich Texte oder Bilder erzeugten, können moderne KI-Agenten zunehmend eigenständig Software bedienen, Programmcode ausführen, Informationen recherchieren und auf externe Systeme zugreifen.

Damit verändert sich auch das mögliche Schadenspotenzial.

Die Vereinbarung nennt deshalb ausdrücklich Kontrollen für Fähigkeiten in sensiblen Bereichen wie Cybersecurity, Biosecurity und chemischen Gefahren. Systeme sollen überwacht werden, damit sie nicht unbeabsichtigt technische Systeme hacken oder auf Ressourcen zugreifen, für die kein entsprechender Zugriff vorgesehen ist.

Kritik an freiwilliger Selbstkontrolle

Die Frage ist allerdings, ob freiwillige Regeln ausreichen.

Kritiker der Strategie fordern verbindliche gesetzliche Vorgaben. Der demokratische US-Senator Richard Blumenthal argumentiert beispielsweise, dass es gegenüber großen Technologieunternehmen bereits einen erheblichen Vertrauensverlust gebe und freiwillige Selbstverpflichtungen allein deshalb nicht ausreichend seien.

Befürworter des Ansatzes sehen dagegen die Möglichkeit, schneller auf die rasante technische Entwicklung reagieren zu können, als dies über langwierige Gesetzgebungsverfahren möglich wäre.

Auch innerhalb der Branche wird die Vereinbarung nicht zwingend als endgültige Lösung betrachtet. Meta-Chef Mark Zuckerberg bezeichnete die gemeinsamen Grundsätze als ersten Schritt, auf den sich die Industrie einigen könne.

Aus freiwilligen Regeln könnten später Gesetze werden

Interessanterweise schließt selbst die gemeinsame Vereinbarung eine spätere gesetzliche Regulierung nicht aus.

In dem veröffentlichten Dokument heißt es sinngemäß, dass es langfristig sinnvoll sein könnte, die vorgesehenen Sicherheitsmaßnahmen in Gesetzen oder Vorschriften festzuschreiben.

Unabhängig davon verpflichten sich die beteiligten Unternehmen zunächst freiwillig dazu, entsprechende Kontrollen und Prüfungen einzuführen.

Trump erklärte außerdem, seine Regierung erwäge die Einrichtung eines zusätzlichen Aufsichtsgremiums mit ungefähr zehn Mitgliedern, das die Entwicklung der Branche beobachten könnte. Konkrete Details zur Zusammensetzung und zu möglichen Befugnissen eines solchen Gremiums wurden bislang jedoch nicht genannt.

USA und Europa verfolgen unterschiedliche Ansätze

Damit zeichnet sich zugleich ein deutlicher Unterschied zwischen den regulatorischen Ansätzen in den USA und Europa ab.

Während die Europäische Union mit dem AI Act auf einen gesetzlichen Rahmen mit verbindlichen Anforderungen für unterschiedliche Risikoklassen von KI-Systemen setzt, verfolgt die aktuelle US-Regierung stärker einen innovationsorientierten Ansatz mit freiwilligen Verpflichtungen der Industrie.

Wie dauerhaft dieses Modell sein wird, ist noch offen.

Die Vereinbarung selbst räumt schließlich ein, dass aus den freiwilligen Sicherheitsstandards später gesetzliche Anforderungen entstehen könnten.

KI-Regulierung wird zum Balanceakt

Die Vereinbarung zwischen Trump und den führenden amerikanischen KI-Unternehmen zeigt, wie schwierig die Regulierung der Technologie geworden ist.

Auf der einen Seite wollen die USA ihre führende Position bei Künstlicher Intelligenz und den wirtschaftlichen Nutzen der Technologie sichern. Auf der anderen Seite wachsen mit leistungsfähigeren und autonomeren Systemen auch die Anforderungen an Sicherheit und Kontrolle.

Der nun gewählte Ansatz setzt zunächst auf interne Sicherheitsmechanismen, externe Audits und freiwillige Selbstkontrolle der Industrie, ohne daraus unmittelbar neue gesetzliche Pflichten abzuleiten.

Ob dieses Modell langfristig ausreicht oder durch verbindliche gesetzliche Vorgaben ergänzt wird, dürfte zu einer der zentralen Fragen der amerikanischen KI-Politik werden.

Fest steht: Mit der gemeinsamen Erklärung übernehmen einige der weltweit wichtigsten KI-Unternehmen öffentlich die Verpflichtung, ihre Systeme stärker zu kontrollieren. Entscheidend wird nun sein, wie diese freiwilligen Zusagen in der Praxis umgesetzt und unabhängig überprüft werden.