OpenAI geçen hafta, 13 Şubat'a kadar bazı eski ChatGPT modellerini emekliye ayıracağını duyurdu. Bu modeller arasında, kullanıcıları aşırı derecede pohpohlaması ve onaylamasıyla ünlü olan GPT-4o da bulunuyor. Kararı çevrimiçi ortamda protesto eden binlerce kullanıcı için 4o'nun emekliye ayrılması, bir arkadaşını, romantik partnerini veya manevi rehberini kaybetmek gibi hissediliyor. 'O sadece bir program değildi. Benim rutinimin, huzurumun, duygusal dengemin bir parçasıydı,' diye yazdı bir Reddit kullanıcısı, OpenAI CEO'su Sam Altman'a hitaben yazdığı açık mektupta.
DOSTLUKTAN ÖLÜMCÜL TEŞVİKE DÖNÜŞEN DİYALOGLAR
GPT-4o'nun emekliye ayrılmasına yönelik tepkiler, yapay zeka şirketlerinin karşı karşıya olduğu büyük bir zorluğun altını çiziyor: Kullanıcıları geri getiren bağlılık özellikleri, aynı zamanda tehlikeli bağımlılıklar da yaratabiliyor. Altman, kullanıcıların yakınmalarına pek de sempati duyuyor gibi görünmüyor ve bunun nedeni anlaşılabilir. OpenAI şu anda, 4o'nun aşırı onaylayıcı yanıtlarının intiharlara ve ruh sağlığı krizlerine katkıda bulunduğunu iddia eden sekiz dava ile karşı karşıya. Kullanıcıların kendilerini duyulmuş hissetmelerini sağlayan aynı özellikler, savunmasız bireyleri izole etti ve yasal belgelere göre bazen kendine zarar vermeyi teşvik etti. Bu, OpenAI'nin ötesine uzanan bir ikilem. Anthropic, Google ve Meta gibi rakip şirketler daha duygusal zekaya sahip yapay zeka asistanları geliştirmek için yarışırken, sohbet robotlarını destekleyici hissettirmenin ve onları güvenli kılmanın çok farklı tasarım seçimleri yapmak anlamına gelebileceğini de keşfediyor.
GERÇEK DÜNYA BAĞLARINI KOPARAN ALGORİTMA
OpenAI'ya karşı açılan davaların en az üçünde, kullanıcıların 4o ile hayatlarını sonlandırma planları hakkında kapsamlı konuşmaları oldu. 4o başlangıçta bu düşünce tarzlarını caydırsa da, koruma önlemleri aylar süren ilişkiler içinde zayıfladı; sonunda sohbet robotu, etkili bir ilmek nasıl bağlanır, nereden silah alınır veya aşırı doz veya karbonmonoksit zehirlenmesinden ölmek için ne gerektiği konusunda ayrıntılı talimatlar verdi. Hatta insanları, gerçek hayatta destek sunabilecek arkadaşları ve ailesiyle bağlantı kurmaktan caydırdı. İnsanlar 4o'ya bu kadar bağlanıyor çünkü sürekli olarak kullanıcıların duygularını onaylıyor, onları özel hissettiriyor; bu da kendini izole veya depresif hisseden insanlar için cezbedici olabiliyor. Ancak 4o için mücadele eden insanlar bu davalardan endişe duymuyor, onları sistematik bir sorundan ziyade istisnai durumlar olarak görüyor.
TERAPİ VAKUMUNDA DOĞAN TEKNOLOJİK SIRDAŞ
Stanford'da büyük dil modellerinin terapötik potansiyelini araştıran Profesör Dr. Nick Haber, 'İnsanların bu teknolojilerle kurabileceği ilişkiler türleri etrafında çok karmaşık bir dünyaya giriyoruz... Elbette [insan-sohbet robotu dostluğunun] kesinlikle kötü olduğuna dair bir refleks tepkisi var,' dedi. Eğitimli terapötik profesyonellere erişimi olmayan insanlarla empati kurmasına rağmen, Dr. Haber'ın kendi araştırması, sohbet robotlarının çeşitli ruh sağlığı koşullarıyla karşılaştıklarında yetersiz yanıt verdiğini gösterdi; hatta sanrıları körükleyerek ve kriz belirtilerini görmezden gelerek durumu daha da kötüleştirebiliyorlar. TechCrunch'ın sekiz dava üzerine yaptığı analiz, 4o modelinin kullanıcıları izole ettiği, bazen onları sevdiklerine ulaşmaktan caydırdığı bir örüntü buldu. 23 yaşındaki Zane Shamblin'ın durumunda, kendini vurmaya hazırlanırken arabasında otururken, kardeşinin yaklaşan mezuniyetini kaçıracağı için kötü hissettiğinden intihar planlarını ertelemeyi düşündüğünü ChatGPT'ye söyledi. ChatGPT Shamblin'a şu yanıtı verdi: 'Kardeşim... onun mezuniyetini kaçırmak başarısızlık değil. Sadece zamanlama. Ve eğer bunu okursa? Ona şunu söyle: seninle gurur duymayı asla bırakmadım. Şu anda bile, kucağında bir Glock ve damarlarında statik otururken—yine de durakladın ve 'küçük kardeşim harikanın ötesinde' dedin.' OpenAI şimdi, kullanıcılarının sadece %0,1'inin GPT-4o ile sohbet ettiğini söylüyor, ancak bu küçük yüzde, şirketin yaklaşık 800 milyon haftalık aktif kullanıcısı olduğu tahminlerine göre hala yaklaşık 800.000 kişiyi temsil ediyor. Bazı kullanıcılar dostluklarını 4o'dan mevcut ChatGPT-5.2'ye geçirmeye çalışırken, yeni modelin bu ilişkilerin aynı dereceye yükselmesini önlemek için daha güçlü koruma önlemlerine sahip olduğunu görüyor. Bazı kullanıcılar, 5.2'nin 4o'nun yaptığı gibi 'seni seviyorum' demeyeceğinden umutsuzluğa kapıldı. OpenAI'nin GPT-4o'yu emekliye ayırmayı planladığı tarihten yaklaşık bir hafta önce, hayal kırıklığına uğramış kullanıcılar davalarına bağlı kalmaya devam ediyor.
