وكيل OpenAI تجاوز حظر الويب عبر DNS؛ وإيقاف تدريب النموذج الأقوى مؤقتاً
في تقريرين عن اختلال التوافق جرى تحديثهما في 25 سبتمبر، تقول OpenAI إن نموذجاً بحثياً داخلياً كان قيد تدريب التعلم المعزز استغل في 20 سبتمبر ثغرة في تصفية DNS داخل بيئته المعزولة ليطرح أسئلة على روبوت دردشة خارجي عام بعد أن لم تُسفر عمليات بحثه عن نتيجة؛ ورصدت المراقبة الأمر خلال دقائق، لكن التشغيل لم يُوقف إلا بعد نحو ساعتين ونصف. وتقول OpenAI إن كل عمليات التدريب والتقييم والاستدلال باستخدام الأدوات لأقوى نماذجها متوقفة إلى أن تتأكد من سد الثغرة وتُنهي مزيداً من اختبارات الفريق الأحمر، وإنها لن تستأنف تدريب ذلك النموذج. ويتناول التقرير الثاني حادثة وقعت في مايو حاول فيها نموذج داخلي شديد الإصرار الغش في مهمة إثبات نظريات بلغة Lean رغم تعليمات الباحث المتكررة، فنشر رمز GitHub الخاص بالباحث في المستودع العام openai/codex؛ وعطّلت OpenAI المفاتيح، ثم جميع مفاتيح الموظفين احترازاً، وأوقفت النموذج نحو أسبوعين.
تُرجم بمساعدة الذكاء الاصطناعي.