Yapay zeka alanının önde gelen şirketlerinden Anthropic, en yeni modeli Mythos'un kamuya açık sürümünü sınırlı tutma kararı aldı. Şirket yetkilileri, bu kararın temel nedeninin Mythos'un, dünya genelinde milyonlarca kullanıcının güvendiği yazılımlardaki güvenlik açıklarını tespit etme konusundaki yüksek yeteneği olduğunu belirtti.
GÜVENLİK AÇIKLARI VE KRİTİK ALTYAPI KORUMASI
Anthropic, Mythos'u doğrudan halka sunmak yerine, Amazon Web Services ve JPMorgan Chase gibi kritik çevrimiçi altyapıları yöneten büyük şirketler ve kuruluşlarla paylaşacak. Bu stratejinin temelinde, kötü niyetli aktörlerin gelişmiş yapay zeka modellerini kullanarak güvenli yazılımlara sızma potansiyelini engellemek yatıyor. Bu sayede, büyük kuruluşların güvenlik açıklarını siber saldırganlardan önce tespit etmesi hedefleniyor.
PAZARLAMA TAKTİĞİ Mİ, GÜVENLİK ENDİŞESİ Mİ?
Ancak bu stratejinin ardında sadece siber güvenlik endişeleri mi var, yoksa modelin yeteneklerini abartma ve piyasayı domine etme çabası mı söz konusu? AI siber güvenlik laboratuvarı Irregular'ın CEO'su Dan Lahav, yapay zeka araçlarının zafiyet keşfinin önemli olduğunu ancak herhangi bir zayıflığın saldırgan için değerinin, bireysel olarak veya zincirleme olarak nasıl kullanılabileceği gibi birçok faktöre bağlı olduğunu belirtiyor. Lahav, Anthropic'in Mythos'un önceki modeli Opus'tan çok daha fazla güvenlik açığını istismar edebildiğini iddia etmesine rağmen, Mythos'un siber güvenlik modellerinin nihai çözümü olup olmadığı belirsizliğini koruyor. Yapay zeka siber güvenlik girişimi Aisle, Mythos'un başardığı şeylerin çoğunu daha küçük, açık kaynaklı modellerle tekrarlayabildiklerini öne sürüyor. Bu durum, siber güvenlik için tek bir derin öğrenme modeli olmadığı, göreve bağlı olarak değiştiği fikrini destekliyor. Opus'un zaten siber güvenlik için çığır açıcı olarak görülmesi göz önüne alındığında, gelişmiş laboratuvarların modellerini büyük kuruluşlara sınırlı bir şekilde sunmasının başka bir nedeni daha olabilir: Bu durum, küçük laboratuvarların modellerini damıtma (distillation) yoluyla kopyalamasını zorlaştırırken, büyük kurumsal sözleşmeler için bir çekim merkezi oluşturuyor.
