Antropik Proje Glasswing, sınır yapay zekasını savunucular için bir siber güvenlik yarışına dönüştürüyor
Anthropic'in 7 Nisan Project Glasswing duyurusu, sınır kodlama modellerinin artık sadece kod asistanı olmadığının en açık sinyallerinden biri. Güvenlik aktörleri haline geliyorlar: Anthropic'in artık üst düzey insan uzmanlara yaklaştığını söylediği düzeyde kritik yazılım kusurlarını bulma, bunlar hakkında mantık yürütme ve bazı durumlarda bunlardan yararlanma becerisine sahipler.
Anthropic'in duyurduğu şey
Anthropic, Project Glasswing'in AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA ve Palo Alto Networks'ün yanı sıra kritik yazılım altyapısını oluşturan veya sürdüren 40'tan fazla ek kuruluşu bir araya getirdiğini söylüyor. Proje, Anthropic'in halihazırda binlerce yüksek önem dereceli güvenlik açığı bulduğunu söylediği, yayınlanmamış bir sınır modeli olan Claude Mythos Preview tarafından destekleniyor; bunlardan bazıları tüm büyük işletim sistemlerinde ve web tarayıcılarında yer alıyor.
Şirket, bu çabaya 100 milyon dolara kadar kullanım kredisi ve ayrıca açık kaynaklı güvenlik kuruluşlarına doğrudan bağışlar koyuyor. İddia çok basit: Bu yetenekler bir şekilde geliyorsa, saldırganların aynı güce sahip olması için savunmacıların zamana ve hesaplamaya ihtiyacı var.
Bu neden güvenlik ekipleri dışında önemli?
Siber güvenlik ürünleri üretmeseniz bile bu bir inşaatçı hikayesidir. Her ciddi yazılım şirketi, aracı tarafından yazılan kod üretime ulaştığı anda bir güvenlik şirketi haline gelir. Yapay zeka artık derin hataları normal inceleme süreçlerinin ortaya çıkarabileceğinden daha hızlı tespit edebiliyorsa, doğrulama olmadan nakliye hızı bir sorumluluk haline gelir.
Bu aynı zamanda bir piyasa sinyalidir. Anthropic, sınır model değerinin üretimin ötesine geçerek operasyonel avantaja doğru ilerlediğini etkili bir şekilde söylüyor: Kim büyük kod tabanlarını inceleyebilir, gizli hata modlarını bulabilir ve hata keşfinden yama dağıtımına kadar geçen süreyi kısaltabilir.
TRH açısı: belirteç verimliliği yalnızca daha hızlı kodlamayla ilgili değildir
Pek çok AI ekibi hâlâ token bütçelerinin çoğunu oluşturmaya, çok azını da kontrole harcıyor. Üretimin ucuz olduğu ve hataların arttığı bir ortamda bu durum geriye doğru gidiyor. Project Glasswing, doğrulamanın, yama incelemesinin ve çekişmeli incelemenin birinci sınıf bütçeyi hak ettiğini hatırlatıyor.
Token Robin Hood okuyucuları için operasyonel ders basittir: en ucuz jeton genellikle on yeniden denemeyi, gürültülü bir olayı veya daha sonra aceleyle geri almayı önleyen hedefli bir doğrulama geçişinde harcanan jetondur. Güvenli aracılar yalnızca daha güvenli olmakla kalmaz; genellikle daha verimlidirler çünkü bağlam pencerelerini yakan aşağı akış kaosunu azaltırlar.
Şimdi ne yapmalı
Önemli aracı iş akışlarına açık güvenlik ve güvenilirlik geçişleri ekleyin. Üretimi doğrulamadan ayırın. Temsilcinin neyi değiştirdiğinin, neyi test ettiğinin ve hangi kanıtları kullandığının kaydını tutun. Yalnızca çıktı hızını ölçerseniz yapay zeka destekli yazılım çalışmasının gerçek ekonomisini kaçırırsınız.
Anthropic'in iddiası inşaatçı topluluklarında tartışılmaya devam edecek, ancak seyahatin yönü zaten açık: güçlü kodlama modelleri artık tehdit modelinin ve savunma yığınının bir parçası.