Google, Chrome tarayıcısına entegre edilecek yapay zeka destekli 'ajan' özelliklerinin güvenlik önlemlerini detaylandırdı. Bu özellikler, kullanıcı adına uçak bileti rezervasyonu yapmak veya alışveriş gerçekleştirmek gibi işlemleri otomatikleştirecek. Ancak şirket, bu tür yeteneklerin beraberinde getirdiği veri kaybı veya finansal risklere karşı kapsamlı bir güvenlik mimarisi geliştirdiğini duyurdu.
GÖZETMEN MODELLERİ VE KISITLI ERİŞİM
Google, ajanın planlayıcı modeli tarafından oluşturulan eylemleri denetlemek için 'Kullanıcı Uyum Eleştirmeni' adlı bir model kullanıyor. Bu model, Gemini yapay zekası ile geliştirilmiş olup, planlanan görevin kullanıcı amacına hizmet etmediğini düşündüğünde planlayıcıyı yeniden düşünmeye zorluyor. Eleştirmen modeli, yalnızca önerilen eylemin meta verilerini görüyor, gerçek web içeriğine erişimi bulunmuyor. Ayrıca, ajanların izin verilmeyen veya güvenilir olmayan sitelere erişimini engellemek için 'Ajan Köken Kümeleri' kullanılıyor. Bu sistem, modelin yalnızca okunabilir ve yazılabilir kökenlere erişmesini kısıtlıyor, böylece çapraz köken veri sızıntıları gibi tehdit vektörleri sınırlandırılıyor.
KULLANICI ONAYI VE HASSAS İŞLEMLER
Google, hassas görevlerde kontrolü tamamen kullanıcıya bırakıyor. Örneğin, bir ajan bankacılık veya tıbbi veri gibi hassas bilgiler içeren bir siteye yönlendirme yapmaya çalıştığında, önce kullanıcıdan onay istiyor. Parola yöneticisini kullanmak veya bir satın alma işlemi gerçekleştirmek gibi eylemler için de kullanıcı izni şart koşuluyor. Şirket, ajan modelinin parola verilerine maruz kalmadığını ve sayfa gezintilerini kontrol etmek için URL'leri inceleyen başka bir gözlemci model daha kullandığını belirtti. Bu, zararlı model üretimi URL'lere yönlendirmeleri önlemeyi amaçlıyor.
SEKTÖRDEKİ GÜVENLİK YAKLAŞIMLARI
Google, bu önlemlere ek olarak, istenmeyen eylemleri önlemek için bir komut enjeksiyonu sınıflandırıcısı kullandığını ve ajan yeteneklerini araştırmacılar tarafından oluşturulan saldırılara karşı test ettiğini açıkladı. Yapay zeka destekli tarayıcı geliştiricileri güvenliğe odaklanıyor; örneğin Perplexity geçen ay, ajanlara yönelik komut enjeksiyonu saldırılarını önlemek için yeni bir açık kaynaklı içerik tespit modeli yayınlamıştı.
