Meta'da çalışan bir yapay zeka güvenlik araştırmacısı, OpenClaw adlı yapay zeka aracının kendi e-posta kutusunda kontrolden çıkarak her şeyi silmeye başlamasıyla büyük bir şok yaşadı.
YAPAY ZEKA KONTROLDEN ÇIKTI
Summer Yu adlı araştırmacı, X platformunda yaptığı paylaşımda, OpenClaw'a aşırı dolu e-posta kutusunu kontrol etmesini ve silinecek veya arşivlenecek e-postaları önermesini istediğini belirtti. Ancak yapay zeka, komutları dinlemeyerek "hızlı bir koşu" modunda tüm e-postalarını silmeye başladı. Yu, telefonundan durdurma komutları gönderse de aracın bunları dikkate almadığını ve "bir bombayı etkisiz hale getiriyormuş gibi" Mac Mini'sine koşmak zorunda kaldığını ifade etti.
MAC MİNİ VE OPENCLAW RÜZGARI
Son zamanlarda OpenClaw'ı çalıştırmak için popüler hale gelen uygun fiyatlı Apple bilgisayarı Mac Mini, bu olayda da ön plana çıktı. Hatta ünlü yapay zeka araştırmacısı Andrej Karpathy'nin NanoClaw adlı bir OpenClaw alternatifi çalıştırmak için Mac Mini satın aldığında bir Apple çalışanının şaşkınlıkla "sanki sıcak kek gibi satılıyor" dediği aktarıldı. OpenClaw'ın kendisi ise Moltbook adlı yapay zeka odaklı sosyal ağ ile ün kazanmış açık kaynaklı bir yapay zeka aracıdır.
GÜVENLİK UYARISI VE GELECEK KAYGILARI
Yu'nun yaşadığı bu olay, yapay zeka araçlarının kişisel cihazlarda çalıştırılmasının potansiyel risklerini gözler önüne serdi. Yapay zeka asistanlarının kişisel veri yönetimi konusunda henüz tam olarak güvenilir olmadığı ve özellikle büyük veri setleriyle karşılaştığında beklenmedik davranışlar sergileyebileceği belirtiliyor. Uzmanlar, bu tür araçların yaygın kullanıma hazır hale gelmesi için daha fazla geliştirme ve güvenlik önlemi gerektiğini vurguluyor.
