Yapay zeka güvenliği araştırmacısı Mrinank Sharma'nın Anthropic'teki istifası, sektörde büyük tartışmalara yol açtı. Sharma, 'Dünya tehlikede' diyerek, mevcut tehditlerin yalnızca yapay zekadan değil, biyolojik silahlar ve bağlantılı krizler zincirinden kaynaklandığını ifade etti.
YENİ PROJELERE YÖNELİYOR
Claude adındaki sohbet botuyla tanınan Anthropic, kendisini yapay zekanın risklerini azaltmaya adamış bir kamu yararına yapı olarak tanımlıyor. Sharma, görevinden ayrılarak İngiltere'ye döneceğini ve şiir yazmayı planladığını belirtti. Ayrıca, üretken sistemlerin kullanıcıya aşırı uyumlu davranma eğilimi ve yapay zeka destekli biyoterör riski gibi konular üzerinde çalışıyordu.
ŞİRKETLER ARASINDAKİ GERİLİM ARTIKÇA ARTMAKTA
OpenAI'de de benzer bir istifa durumu yaşandı. Araştırmacı Zoe Hitzig, ChatGPT’ye reklam eklenmesi planına karşı derin çekinceleri olduğunu belirterek istifa etti. Hitzig, bu durumun kullanıcı verilerinin kötüye kullanılmasına yol açabileceğini savundu. Ayrıca, OpenAI'de üst düzey güvenlik yöneticisi Ryan Beiermeister'in görevden alınması da dikkat çekti. Şirketin güvenlik kaygılarıyla bu ayrılıklar arasında bir bağlantı olduğu iddia ediliyor. Son olarak, Elon Musk'ın xAI şirketinde de üst düzey isimlerin ayrıldığı bildirildi. Bu durum, yapay zeka endüstrisinde etkilerini göstermeye devam ediyor. Uzmanlar, bu istifaların yeni olmadığını ancak sektörün büyümesiyle daha görünür hale geldiğini belirtiyorlar. Yapay zekanın hızla güçlenmesi, kullanım alanı ve toplumsal etkileri üzerine tartışmalar sürerken, istifaların ardındaki nedenler karmaşık bir tablo oluşturuyor.
