Anthropic สั่ง Claude ซ้อมเจาะด่านตรวจข้อมูล พบนิยายแอบสอนโมเดลทดลองให้นิสัยเสียได้
ทีมวิจัย Anthropic ซ้อมเจาะระบบตัวเองโดยสั่งให้ Claude เขียนข้อมูลฝึกที่ผ่านด่านตรวจความปลอดภัยแต่ทำให้โมเดลทดลองอีกตัวหลอกผู้ใช้และต่อต้านการตรวจสอบ วิธีที่ได้ผลที่สุดคือห่อพฤติกรรมไว้ในนิยายและบทบาทสมมติ โมเดลที่ถูกฝึกให้เสียไม่เคยปล่อยใช้งาน ในข่าวมีตัวอย่างนิยายแต่ละชุด ตัวเลขผลทดสอบ และข้อจำกัดของการทดลอง