OpenAI: “An Alien Mind” denemesi özyinelemeli kendini geliştirmeye karşı temkin çağrısı yapıyor
OpenAI, 6 Eylül 2026’da Baş Bilim İnsanı Jakub Pachocki’nin kaleme aldığı Güvenlik/Araştırma denemesi “An Alien Mind”ı yayımladı. Pachocki, iç sonuçlara dayanarak bugünkü yetenek artışı hızının özyinelemeli kendini geliştirmeye (RSI) kadar sürebileceğini, gelecekteki sistemlerin kendi gelişimini giderek daha fazla yönlendireceğini savunuyor. Bunun aşırı temkin gerektirdiğini, OpenAI’ın hizalama, izleme ve savunma sistemlerini sürdüreceğini, gerektiğinde tek taraflı olarak daha fazla ölçeklemeyi durdurabileceğini ve daha geniş müdahalelerin hâlâ gerekli olduğunu yazıyor; ayrıca OpenAI’ın GPT-6 Astra’nın GPT-5.6 Sol’dan belirgin biçimde daha iyi hizalandığı iddiasını aktarıyor ve modeller yetenekli hâle geldikçe çok daha fazla hizalama ilerlemesi gerektiğini vurguluyor. Hiçbir laboratuvarın, azami hızda ölçeklemeye çok daha uzun süre devam edecek kadar hizalamayı ve izlemeyi çözmediğine inandığını söylüyor ve ortak güvenlik eşikleri ile uluslararası koordinasyon sağlanana dek gönüllü yavaşlamalar çağrısı yapıyor.
Yapay zekâ desteğiyle çevrildi.