OpenAI: Astra überschreitet die kritische Cyber-Schwelle
OpenAI teilte am 1. September mit, dass sein kommendes Modell Astra als erstes die Schwelle „Kritisch“ für Cybersicherheitsfähigkeiten in seinem Preparedness Framework überschreitet: Mit Werkzeugen und Zugriff kann es unbekannte Schwachstellen finden und Exploits für viele gut geschützte Systeme entwickeln, ohne schrittweise menschliche Anleitung. Die Veröffentlichung ist weiterhin „bald“ geplant, doch die fortschrittlichsten Cyberfähigkeiten starten zunächst mit einer begrenzten Testergruppe, danach folgt Daybreak Blue für defensive Zwecke. OpenAI sagt, es habe Teile von Astras Entwicklung und Veröffentlichung verzögert, um Schutzmaßnahmen gegen Cyber-Missbrauch und unbefugte Modellaktionen zu stärken und zu testen, und hält diese Sicherungen nun für ausreichend, um das Risiko schwerer Schäden für eine Veröffentlichung nach dem Framework zu minimieren.
Mit KI-Unterstützung übersetzt.