Anthropic อัปเดตกฎความปลอดภัย AI — เมื่อ Claude เก่งจนต้องเพิ่มด่านป้องกัน

ความสามารถของ AI ที่เพิ่มขึ้นไม่ได้หมายถึงแค่ตอบคำถามได้เก่งกว่าเดิม แต่ยังทำให้บริษัทต้องยกระดับวิธีควบคุมความเสี่ยงด้วย Anthropic จึงประกาศปรับปรุง Responsible Scaling Policy (RSP) กรอบกำกับดูแลที่ใช้ประเมินความเสี่ยงร้ายแรงจาก Frontier AI และกำหนดว่าควรเพิ่มมาตรการป้องกันเมื่อใด

จากกฎตายตัว สู่การป้องกันตามระดับความเสี่ยง

หลักสำคัญยังเหมือนเดิม คือ Anthropic จะไม่ฝึกหรือเปิดตัวโมเดล หากยังไม่มีมาตรการด้านความปลอดภัยและความมั่นคงที่ทำให้ความเสี่ยงอยู่ในระดับยอมรับได้ แต่เวอร์ชันใหม่นำประสบการณ์จากการใช้งานจริงตลอดปีแรกมาปรับให้กรอบนี้ยืดหยุ่นและใช้งานได้แม่นยำขึ้น

RSP ใช้แนวคิดการป้องกันตามสัดส่วนความเสี่ยง โดยแบ่งมาตรการเป็นระดับ AI Safety Level หรือ ASL เมื่อความสามารถของโมเดลเพิ่มขึ้นและความเสี่ยงสูงขึ้น ระบบก็จะกำหนดให้ใช้มาตรการที่เข้มงวดกว่าเดิม

หัวใจของการปรับปรุงครั้งนี้มี 2 ส่วน ได้แก่

• Capability Thresholds เกณฑ์ความสามารถที่เมื่อโมเดลไปถึง จะต้องเพิ่มมาตรการป้องกัน
• Required Safeguards มาตรการด้านความปลอดภัยและความมั่นคงที่ต้องใช้หลังผ่านเกณฑ์ดังกล่าว

ปัจจุบันโมเดลของ Anthropic อยู่ภายใต้มาตรฐาน ASL-2 ซึ่งบริษัทระบุว่าสอดคล้องกับแนวปฏิบัติที่ใช้ในอุตสาหกรรมขณะนี้

สองความสามารถที่อาจทำให้ต้องเพิ่มด่านป้องกัน

เกณฑ์แรกคือความสามารถด้าน Autonomous AI Research and Development หากโมเดลสามารถทำงานวิจัย AI ที่ซับซ้อนและโดยทั่วไปต้องอาศัยผู้เชี่ยวชาญได้ด้วยตัวเอง Anthropic จะต้องยกระดับมาตรการเป็นระดับสูงขึ้น อาจถึง ASL-4 หรือสูงกว่า พร้อมเพิ่มการประเมินด้านความปลอดภัย

เหตุผลคือความสามารถลักษณะนี้อาจเร่งการพัฒนา AI อย่างรวดเร็วและคาดเดาได้ยาก จนการควบคุมความเสี่ยงตามไม่ทัน บริษัทจึงต้องมั่นใจว่าการพัฒนาไม่ได้วิ่งเร็วกว่าความสามารถในการวางมาตรการรับมือ

อีกเกณฑ์เกี่ยวข้องกับการช่วยสร้างหรือใช้งานอาวุธเคมี ชีวภาพ รังสี และนิวเคลียร์ หรือ CBRN หากโมเดลช่วยผู้ที่มีพื้นฐานทางเทคนิคได้อย่างมีนัยสำคัญ จะต้องใช้มาตรฐาน ASL-3

มาตรการ ASL-3 จะครอบคลุมทั้งการรักษาความปลอดภัยของโมเดลและการควบคุมระหว่างนำไปใช้งาน เช่น การจำกัดสิทธิ์เข้าถึง การปกป้อง model weights ที่เข้มงวดขึ้น การตรวจสอบแบบเรียลไทม์และแบบประเมินภายหลัง รวมถึงการเตรียมแผนตอบสนองอย่างรวดเร็ว

Anthropic ยอมรับบทเรียนจากการใช้ RSP จริง

Anthropic ระบุว่าได้ทบทวนการปฏิบัติตาม RSP ฉบับก่อน และพบกรณีที่ทำไม่ครบตามข้อกำหนดบางส่วน เช่น การประเมินล่าช้ากว่ากำหนดสามวัน หรือการบันทึกการเปลี่ยนแปลงของการประเมินเบื้องต้นยังไม่ชัดเจน

บริษัทยังพบว่าบางการประเมินอาจดึงประสิทธิภาพของโมเดลออกมาได้ดีขึ้น หากใช้เทคนิคมาตรฐานบางอย่าง แต่สรุปว่ากรณีเหล่านี้มีความเสี่ยงต่อความปลอดภัยน้อย และผลการประเมินยังชี้ว่าโมเดลอยู่ห่างจากเกณฑ์อันตรายพอสมควร

บทเรียนสำคัญคือ นโยบายต้องมีความยืดหยุ่นพอสำหรับสถานการณ์จริง และกระบวนการติดตามการปฏิบัติตามกฎต้องละเอียดขึ้น Anthropic จึงเพิ่มการประเมินความสามารถ การประเมินประสิทธิภาพของมาตรการป้องกัน การจัดทำเอกสาร และการรับฟังความเห็นจากผู้เชี่ยวชาญภายนอก

เรื่องนี้เกี่ยวกับคุณยังไง

สำหรับคนทำธุรกิจออนไลน์ การเปลี่ยนแปลงนี้สะท้อนว่า AI กำลังขยับจากเครื่องมือช่วยงานทั่วไปไปสู่ระบบที่บริษัทต้องกำกับดูแลตามระดับความสามารถ ยิ่ง AI ทำงานซับซ้อนได้มากขึ้น ประเด็นเรื่องความปลอดภัย การเข้าถึงข้อมูล และการตรวจสอบผลลัพธ์ก็ยิ่งสำคัญ

• อย่าให้ AI ตัดสินใจเรื่องสำคัญโดยไม่มีคนตรวจ โดยเฉพาะงานด้านการเงิน ลูกค้า และข้อมูลส่วนตัว
• กำหนดสิทธิ์การเข้าถึงข้อมูลให้ชัดเจน หากใช้ AI Agent หรือระบบอัตโนมัติหลายขั้นตอน
• เก็บบันทึก Prompt ผลลัพธ์ และการแก้ไข เพื่อย้อนตรวจสอบได้เมื่อเกิดปัญหา
• ติดตามนโยบายความปลอดภัยของผู้ให้บริการ AI ก่อนนำเครื่องมือใหม่มาใช้กับธุรกิจจริง

RSP ฉบับใหม่ไม่ได้หมายความว่า AI จะปลอดภัยโดยอัตโนมัติ แต่แสดงให้เห็นว่าการประเมินความเสี่ยงต้องปรับตามความสามารถของโมเดลอยู่เสมอ สำหรับผู้ใช้ธุรกิจ หลักคิดเดียวกันนี้นำไปใช้ได้ทันที คือเริ่มจากงานที่ความเสี่ยงต่ำ วางจุดตรวจสอบให้เหมาะสม และเพิ่มการควบคุมเมื่อระบบมีอำนาจตัดสินใจมากขึ้น