人類專案 Glasswing 將前沿人工智慧轉變為捍衛者的網路安全競賽
Anthropic 於 4 月 7 日宣布的 Glasswing 專案是迄今為止最明確的訊號之一，表明前緣編碼模型不再只是代碼助理。他們正在成為安全參與者：能夠發現、推理並在某些情況下利用關鍵軟體缺陷，其水平 Anthropic 表示現在已經接近頂級人類專家。
Anthropic 宣布了什麼
Anthropic 表示，Project Glasswing 匯集了 AWS、Apple、Broadcom、Cisco、CrowdStrike、Google、摩根大通、Linux 基金會、微軟、NVIDIA 和 Palo Alto Networks，以及 40 多個建置或維護關鍵軟體基礎設施的其他組織。該專案由 Claude Mythos Preview 提供支持，這是一個未發布的前沿模型，Anthropic 表示已經發現了數千個高嚴重性漏洞，其中一些存在於每個主要作業系統和網頁瀏覽器中。
該公司將投入高達 1 億美元的使用積分來支持這項工作，並直接向開源安全組織捐款。這個論點很簡單：如果這些能力無論如何都會到來，防禦者需要時間和計算才能讓攻擊者獲得相同的影響力。
為什麼這對安全團隊很重要
即使您不建立網路安全產品，這也是一個建構者的故事。當代理商編寫的程式碼投入生產時，每家嚴肅的軟體公司都正在成為一家安全公司。如果人工智慧現在能夠比正常審查流程更快地識別深層錯誤，那麼未經驗證的交付速度就會成為一種負擔。
這也是一個市場訊號。 Anthropic 有效地表示，前緣模型的價值正在超越生成階段，轉變為營運優勢：誰可以檢查大型程式碼庫，找到隱藏的故障模式，並縮短從錯誤發現到修補程式部署的時間。
TRH 角度：代幣效率不僅僅是更快的編碼
許多人工智慧團隊仍然將大部分代幣預算用於創建，而很少用於檢查。在發電成本低且錯誤複雜的環境中，這是倒退的。 Glasswing 專案提醒我們，驗證、修補程式審查和對抗性檢查值得一流的預算。
對於 Token Robin Hood 讀者來說，操作經驗很簡單：最便宜的代幣通常是花在有針對性的驗證通行證上的代幣，該驗證通行證可以防止十次重試、噪音事件或稍後的倉促回滾。安全代理不僅更安全，而且更安全。它們通常更有效率，因為它們減少了燒毀上下文視窗的下游混亂。
現在該怎麼辦
將明確的安全性和可靠性傳遞加入重要的代理工作流程中。將生成與驗證分開。記錄代理更改的內容、測試的內容以及使用的證據。如果您只測量輸出速度，您將錯過人工智慧輔助軟體工作的真正經濟效益。
Anthropic 的主張將繼續在建構者社群中引起爭論，但前進的方向已經很明確：強大的編碼模型現在是威脅模型和防禦堆疊的一部分。