OpenAI: il saggio «An Alien Mind» invita alla cautela sull’auto-miglioramento ricorsivo
OpenAI ha pubblicato «An Alien Mind» il 6 settembre 2026, un saggio di Sicurezza/Ricerca del chief scientist Jakub Pachocki, che sostiene che, in base ai risultati interni, l’attuale ritmo di crescita delle capacità potrebbe proseguire fino all’auto-miglioramento ricorsivo (RSI), con sistemi futuri che guidano sempre più il proprio sviluppo. Pachocki scrive che ciò richiede estrema cautela, che OpenAI continuerà a perseguire allineamento, monitoraggio e sistemi difensivi e potrà trattenere unilateralmente ulteriori scalature quando necessario, e che servono comunque interventi più ampi; afferma inoltre, come tesi di OpenAI, che GPT-6 Astra è significativamente meglio allineato di GPT-5.6 Sol, sottolineando che serve molto più progresso sull’allineamento man mano che i modelli diventano più capaci. Dice di ritenere che nessun laboratorio abbia risolto allineamento e monitoraggio abbastanza da continuare a scalare alla massima velocità ancora a lungo, e invoca rallentamenti volontari fino a soglie di sicurezza condivise e coordinamento internazionale.
Tradotto con l'aiuto dell'IA.