Anthropic Project Glasswing เปลี่ยน AI ชายแดนให้กลายเป็นการแข่งขันด้านความปลอดภัยทางไซเบอร์สำหรับผู้พิทักษ์
การประกาศ Project Glasswing ของ Anthropic เมื่อวันที่ 7 เมษายนถือเป็นหนึ่งในสัญญาณที่ชัดเจนที่สุดว่าโมเดลการเข้ารหัสชายแดนไม่ได้เป็นเพียงผู้ช่วยโค้ดอีกต่อไป พวกเขากำลังกลายเป็นผู้ดำเนินการด้านความปลอดภัย: สามารถค้นหา ให้เหตุผล และในบางกรณีก็ใช้ประโยชน์จากข้อบกพร่องของซอฟต์แวร์ที่สำคัญในระดับที่ Anthropic กล่าวว่าขณะนี้เข้าใกล้ผู้เชี่ยวชาญระดับสูงของมนุษย์
สิ่งที่มานุษยวิทยาประกาศ
Anthropic กล่าวว่า Project Glasswing รวบรวม AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA และ Palo Alto Networks พร้อมด้วยองค์กรเพิ่มเติมอีกกว่า 40 องค์กรที่สร้างหรือบำรุงรักษาโครงสร้างพื้นฐานซอฟต์แวร์ที่สำคัญ โปรเจ็กต์นี้ขับเคลื่อนโดย Claude Mythos Preview ซึ่งเป็นโมเดลชายแดนที่ยังไม่เผยแพร่ซึ่ง Anthropic กล่าวว่าได้พบช่องโหว่ที่มีความรุนแรงสูงหลายพันจุดแล้ว ซึ่งรวมถึงบางจุดในระบบปฏิบัติการหลักและเว็บเบราว์เซอร์ทุกรายการ
บริษัทกำลังให้เครดิตการใช้งานสูงถึง 100 ล้านดอลลาร์สำหรับความพยายามนี้ บวกกับการบริจาคโดยตรงให้กับองค์กรด้านความปลอดภัยแบบโอเพ่นซอร์ส ข้อโต้แย้งนั้นตรงไปตรงมา: หากความสามารถเหล่านี้มาถึงแล้ว ฝ่ายป้องกันต้องใช้เวลาและการคำนวณก่อนที่ผู้โจมตีจะได้รับประโยชน์เท่าเดิม
เหตุใดจึงมีความสำคัญกับทีมรักษาความปลอดภัยภายนอก
แม้ว่าคุณจะไม่ได้สร้างผลิตภัณฑ์ความปลอดภัยทางไซเบอร์ แต่นี่คือเรื่องราวของผู้สร้าง บริษัทซอฟต์แวร์ที่จริงจังทุกแห่งกำลังกลายเป็นบริษัทรักษาความปลอดภัยทันทีที่โค้ดที่เอเจนต์เขียนขึ้นถึงการใช้งานจริง หากตอนนี้ AI สามารถระบุจุดบกพร่องระดับลึกได้เร็วกว่าที่กระบวนการตรวจสอบปกติสามารถตรวจพบได้ ความเร็วของการขนส่งที่ไม่มีการตรวจสอบจะถือเป็นความรับผิดชอบ
นี่เป็นสัญญาณของตลาดด้วย Anthropic กล่าวอย่างมีประสิทธิภาพว่าคุณค่าของโมเดลชายแดนกำลังก้าวไปไกลกว่ารุ่นและไปสู่ความได้เปรียบในการปฏิบัติงาน: ใครสามารถตรวจสอบโค้ดเบสขนาดใหญ่ ค้นหาโหมดความล้มเหลวที่ซ่อนอยู่ และลดระยะเวลาจากการค้นพบจุดบกพร่องไปจนถึงการติดตั้งแพตช์
มุม TRH: ประสิทธิภาพของโทเค็นไม่ได้เป็นเพียงเรื่องของการเข้ารหัสที่เร็วขึ้นเท่านั้น
ทีม AI จำนวนมากยังคงใช้งบประมาณโทเค็นส่วนใหญ่ไปกับการสร้างและใช้เพียงเล็กน้อยในการตรวจสอบ นั่นคือการถอยหลังในสภาพแวดล้อมที่รุ่นมีราคาถูกและข้อผิดพลาดปะปนกัน Project Glasswing เป็นสิ่งเตือนใจว่าการตรวจสอบ การตรวจสอบแพตช์ และการตรวจสอบฝ่ายตรงข้ามสมควรได้รับงบประมาณชั้นหนึ่ง
สำหรับผู้อ่าน Token Robin Hood บทเรียนการปฏิบัติงานนั้นเรียบง่าย: โทเค็นที่ถูกที่สุดมักจะถูกใช้ไปกับบัตรตรวจสอบความถูกต้องแบบกำหนดเป้าหมาย ซึ่งป้องกันการลองซ้ำสิบครั้ง เหตุการณ์ที่มีเสียงดัง หรือการย้อนกลับแบบเร่งด่วนในภายหลัง เจ้าหน้าที่รักษาความปลอดภัยไม่เพียงแต่ปลอดภัยเท่านั้น โดยปกติแล้วจะมีประสิทธิภาพมากกว่าเนื่องจากช่วยลดความวุ่นวายดาวน์สตรีมที่เผาหน้าต่างบริบท
จะทำอย่างไรตอนนี้
เพิ่มการรักษาความปลอดภัยและความน่าเชื่อถือที่ชัดเจนให้กับเวิร์กโฟลว์ตัวแทนที่สำคัญ แยกรุ่นออกจากการตรวจสอบ เก็บบันทึกว่าตัวแทนเปลี่ยนแปลงอะไร ทดสอบอะไร และใช้หลักฐานอะไรบ้าง หากคุณวัดเฉพาะความเร็วเอาท์พุต คุณจะพลาดความคุ้มค่าที่แท้จริงของงานซอฟต์แวร์ที่ได้รับความช่วยเหลือจาก AI
คำกล่าวอ้างของ Anthropic จะได้รับการถกเถียงกันต่อไปในชุมชนผู้สร้าง แต่ทิศทางของการเดินทางนั้นชัดเจนอยู่แล้ว: โมเดลการเข้ารหัสที่แข็งแกร่งตอนนี้เป็นส่วนหนึ่งของโมเดลภัยคุกคามและเป็นส่วนหนึ่งของสแต็กการป้องกัน