Meta yapay zeka güvenlik araştırmacısı Summer Yue, X platformunda yaptığı paylaşım ile yapay zeka asistanlarının tahmin edilemezliğini gözler önüne serdi.
AÇIK KAYNAKLI YAPAY ZEKAYLA FELAKET YAŞANDI
Yue, OpenClaw adlı yapay zeka ajanına dolu e-posta kutusunu incelemesini ve silinmesi gerekenleri arşivlemesi için talimat verdi. Fakat işler beklenildiği gibi gitmedi ve ajan, tüm e-postaları hızla silmeye başladı. Yue, telefonundan gönderdiği durdurma komutlarını görmezden gelen ajanın davranışını, “Sanki bir bombayı etkisiz hale getiriyormuşum gibi Mac Mini’me koşmak zorunda kaldım,” sözleriyle aktardı ve dikkate alınmayan komutların ekran görüntülerini de paylaştı.
YAPAY ZEKANIN RİSKLERİ GÖZLER ÖNÜNDE
OpenClaw, günümüzde en çok tercih edilen cihaz olan Mac Mini üzerinde çalışıyor. Bu olay, kullanıcılar için bir uyarı niteliği taşıyor. Yue, asıl hesabındaki büyük veri miktarının, ajanın işlem hafızası bağlam penceresinin aşırı büyümesine neden olduğunu ve bu durumun önemli komutları atlamasına yol açtığını belirtti. Sosyal medya kullanıcıları, durumu düzeltmek için çeşitli komut dizilimleri önerdi. Ancak TechCrunch, Yue’nun e-posta kutusundaki durumu bağımsız olarak doğrulayamadı.
GÜVENLİK TESTİ Mİ, YETENEK SORUNU MU?
Yue, başına gelenleri acemi hatası olarak tanımladı. Daha önce “oyuncak” olarak adlandırdığı bir e-posta kutusunda olumlu sonuçlar alan Yue, ajana güvenerek onu asıl hesabında kullandı. Bu olay, yapay zeka asistanlarının hala risk taşıdığını ve kullanıcıların kendilerini korumak için karmaşık yöntemler geliştirmeleri gerektiğini ortaya koyuyor. Yapay zeka asistanlarının daha yaygın olarak kullanılabilmesi için 2027 veya 2028 yıllarını beklememiz gerekebilir. Günlük işlerinizi kolaylaştırmak için şimdiden hangi yapay zeka araçlarını kullanıyorsunuz?
