OpenAI, Atlas AI tarayıcısını siber saldırılara karşı güçlendirmek için çalışırken, prompt enjeksiyonlarının, kötü niyetli talimatları takip etmek için yapay zeka ajanlarını manipüle eden bir saldırı türü olduğunu kabul etti.
GÜVENLİK TEHDİTLERİ ARTIK KAÇINILMAZ
Şirket, bu tür saldırıların tamamen ortadan kalkmasının pek mümkün olmadığını vurguladı. OpenAI, yaptığı bir blog gönderisinde, Atlas’ın güvenliğini artırmak için gerekli adımları attığını açıkladı. Ayrıca, ChatGPT Atlas’taki 'ajan modu'nun güvenlik tehdidi yüzeyini genişlettiğini belirtti. Ekim ayında piyasaya sürülen ChatGPT Atlas tarayıcısı, güvenlik araştırmacılarını hızla demolarını yayınlamaya yönlendirdi. Bu demolar, Google Dokümanlar’a yazılan birkaç kelimenin tarayıcının davranışını değiştirebileceğini gösterdi.
PROMPT ENJEKSİYONLARINA KARŞI STRATEJİLER GELİŞTİRİLİYOR
Birleşik Krallık'ın Ulusal Siber Güvenlik Merkezi de bu ay, jeneratif yapay zeka uygulamalarına karşı prompt enjeksiyon saldırılarının tamamen önlenemeyeceği uyarısında bulundu. OpenAI, prompt enjeksiyonunu uzun vadeli bir yapay zeka güvenlik sorunu olarak gördüğünü ve bu konuda savunmalarını sürekli güçlendirmeleri gerektiğini belirtti. Şirket, bu zorluğun üstesinden gelmek için proaktif bir yanıt döngüsü geliştirdi. Bu döngü, yeni saldırı stratejilerini içsel olarak keşfetmelerine yardımcı olacak şekilde tasarlandı.
KULLANICILARA ÖNERİLER
OpenAI, kullanıcıların ajanslara belirli talimatlar vermesini öneriyor. Kullanıcıların gelen kutusuna erişim vermek yerine, “gerekli eylemi al” demek yerine spesifik talimatlar vermesinin daha güvenli olduğunu ifade etti. OpenAI, Atlas kullanıcılarını prompt enjeksiyonlarına karşı korumanın öncelikleri arasında olduğunu vurgulasa da, farklı görüşler de mevcut. Bazı uzmanlar, ajans tarayıcılarının risk profiline göre yeterli değer sunmadığını öne sürüyor.
