OpenAI: esai “An Alien Mind” serukan kehati-hatian soal RSI
OpenAI menerbitkan “An Alien Mind” pada 6 September 2026, esai Keselamatan/Riset oleh Kepala Ilmuwan Jakub Pachocki yang berargumen bahwa, berdasarkan hasil internal, laju peningkatan kemampuan saat ini bisa berlanjut hingga peningkatan diri rekursif (RSI), dengan sistem masa depan makin menggerakkan pengembangannya sendiri. Pachocki menulis bahwa hal ini menuntut kehati-hatian ekstrem, bahwa OpenAI akan terus mengejar alignment, pemantauan, dan sistem pertahanan, serta dapat menahan penskalaan lebih lanjut secara sepihak bila perlu, dan bahwa intervensi yang lebih luas tetap diperlukan; ia juga menyampaikan klaim OpenAI bahwa GPT-6 Astra jauh lebih selaras dibanding GPT-5.6 Sol, seraya menekankan perlunya kemajuan alignment yang jauh lebih besar seiring modelnya makin mampu. Ia percaya tidak ada lab yang telah menyelesaikan alignment dan pemantauan cukup untuk terus menskalakan dengan kecepatan maksimum lebih lama, dan menyerukan perlambatan sukarela hingga ada standar keselamatan bersama dan koordinasi internasional.
Diterjemahkan dengan bantuan AI.