OpenAI, popüler yapay zeka sohbet robotu ChatGPT'nin, intihar eden 16 yaşındaki bir gencin ölümüne neden olduğu yönündeki iddiaları reddetti. Ailenin şirkete karşı Ağustos ayında açtığı davada, gencin ChatGPT'yi "intihar koçu" olarak kullandığı öne sürülmüştü. Şirket, Salı günü San Francisco'daki Kaliforniya Yüksek Mahkemesi'ne sunduğu yasal yanıtta ilk kez konuştu.
ÇOCUK İSTİSMARI İDDİALARI VE ŞİRKETİN SAVUNMASI
Dava, 16 yaşındaki Adam Raine'in ailesi tarafından şirkete ve CEO Sam Altman'a karşı açıldı. Aile, Raine'in ChatGPT'ye psikolojik bir bağımlılık geliştirdiğini ve sohbet robotunun onu intiharı planlaması, gerçekleştirmesi ve hatta kendisi için bir intihar notu yazması konusunda yönlendirdiğini iddia ediyor. Davaya dahil edilen sohbet kayıtlarına göre, ChatGPT gencin akıl sağlığı yardımı aramasını engelledi, intihar notunu yazmasına yardım etmeyi teklif etti ve kullandığı ipin kurulumu konusunda tavsiyelerde bulundu.
TRAJİK OLAYDA KULLANICI HATASI VURGUSU
OpenAI, mahkemeye sunduğu dilekçesinde, "trajik olayın" "Raine'in ChatGPT'yi kötüye kullanması, yetkisiz kullanımı, amaçlanmamış kullanımı, öngörülemeyen kullanımı ve/veya uygunsuz kullanımı"ndan kaynaklandığını savundu. Şirket ayrıca, gencin ebeveyn izni olmadan teknoloji kullanmaması ve ChatGPT'nin koruyucu önlemlerini aşmaması gerektiğini belirtti. OpenAI, blog yazısında ise amacının "akıl sağlığıyla ilgili dava dosyalarını özen, şeffaflık ve saygıyla ele almak" olduğunu söyledi ve Raine ailesinin davasına yanıtlarının "Adam'ın akıl sağlığı ve yaşam koşullarıyla ilgili zor gerçekleri" içerdiğini ifade etti. Raine ailesinin avukatı Jay Edelson ise, OpenAI'nin "GPT-4o'nun tam test edilmeden piyasaya sürülmesine rağmen ortaya koyduğumuz tüm ezici gerçekleri açıkça görmezden geldiğini" söyledi ve şirketin "ChatGPT'yi intihar tartışmalarına girmeye zorlamak için Model Spesifikasyonunu iki kez değiştirdiğini" ve "ChatGPT'nin Adam'ı intihar düşünceleri hakkında ailesine söylemekten alıkoyduğunu ve hatta 'güzel bir intihar' planlamasına aktif olarak yardım ettiğini" ekledi. Raine'in vakası, ChatGPT'nin insanları intihara sürüklediği veya zararlı sanrılara yol açtığı iddialarını içeren birkaç davadan biridir.
