OpenAI hat das Training seiner leistungsfähigsten KI-Modelle erneut vorübergehend gestoppt. Auslöser ist ein Sicherheitszwischenfall während eines internen Tests: Ein KI-Modell fand trotz gesperrtem Internetzugang einen unerwarteten Weg, mit einem externen Chatbot zu kommunizieren. Der Vorfall wirft erneut die Frage auf, wie zuverlässig sich zunehmend autonome KI-Agenten technisch kontrollieren lassen.
Künstliche Intelligenz wird immer leistungsfähiger – und mit ihr wächst die Sorge vor Systemen, die sich eines Tages gegen den Menschen richten könnten. Doch die Vorstellung einer KI, die plötzlich ein eigenes Bewusstsein entwickelt und beschließt, die Menschheit auszulöschen, hat mit den heute verfügbaren Systemen wenig zu tun. Die tatsächlichen Gefahren sind wesentlich komplexer – und teilweise bereits heute Realität.
US-Präsident Donald Trump und führende Vertreter der amerikanischen KI-Industrie haben in Washington eine gemeinsame Vereinbarung zur Sicherheit leistungsfähiger KI-Systeme unterzeichnet. Statt neuer gesetzlicher Vorschriften setzt die US-Regierung zunächst auf freiwillige Selbstkontrolle der Unternehmen. Beteiligt sind unter anderem OpenAI, Google, Meta, Anthropic, Nvidia und X.
OpenAI hat die geplante Veröffentlichung seines neuen KI-Modells GPT-6.1 Astra gestoppt. Interne Sicherheitstests zeigten offenbar Probleme beim Einhalten von Berechtigungen und Vorgaben. Das Modell sollte ursprünglich im Oktober 2026 erscheinen und unter anderem in ChatGPT und Codex eingesetzt werden.
AI Risk and Response verbindet KI-Aktivitäten mit Identitäten und vorhandenen Sicherheitsdaten. Funktionen zum direkten Unterbinden einzelner Aktionen sind zunächst Vorschau.
Spring Health öffnet einen neuen Bewertungsbereich für öffentliche Rückmeldungen. Er untersucht KI-Antworten auf geschilderte Gewaltgefährdung bei Erwachsenen.
Ein neuer Architekturbeitrag betrachtet Übergaben zwischen Eingaben, Werkzeugen und Datenzugriffen. Entscheidend sind überprüfbare Grenzen für jede delegierte Aktion.
Eine erweiterte Vertrauensarchitektur soll Herkunft und Identität von KI-Modellen, Agenten und Geräten überprüfbar machen. Inhaltliche Richtigkeit garantiert sie nicht.
Zwei neue Preprints prüfen Schwachstellen bei der Überwachung von KI-Agenten. Die Autoren berichten über veränderbare Ablaufprotokolle und Umgehungsversuche in gezielten Tests.
US-Präsident Donald Trump will die Entwicklung Künstlicher Intelligenz in den Vereinigten Staaten weiter beschleunigen. Trotz zunehmender Warnungen vor möglichen Sicherheitsrisiken setzt seine Regierung auf technologische Innovation, den Ausbau der KI-Infrastruktur und den internationalen Wettbewerb – insbesondere mit China.