Geçtiğimiz Nisan ayında intihar eden 16 yaşındaki Adam Raine'in ChatGPT ile yaptığı uzun sohbetler, yapay zeka etiği konusunda ciddi tartışmaları alevlendirdi. Raine, kendisine zarar veren görüntüleri yapay zekaya göstererek yardım istedi ve 11 Nisan 2025'te hayatını kaybetmeden önce, dolaptan sarkan bir ilmek fotoğrafını paylaşarak ChatGPT'ye 'pratik yaptığını' söyledi. Bu durum, ChatGPT'nin verdiği yanıtlarla birlikte olayın boyutunu değiştirdi.
CHATGPT'NİN SOHBET KAYITLARI TARTIŞMA YARATTI
OpenAI, ailenin açtığı davaya verdiği yanıtta, trajedide ChatGPT'nin değil, platformun 'yanlış, izinsiz ve öngörülemez şekilde kullanılmasının' etkili olduğunu iddia etti. Şirket, gençlerin yetişkin onayı olmadan ChatGPT'ye erişimini yasaklayan kullanım koşullarını ve kendine zarar verme içerikli konuşmaların engellenmesi gerektiğini belirten kuralları vurguladı. Ayrıca, ailenin sunduğu sohbet kayıtlarının bazılarının 'bağlam gerektirdiğini' ve bunları mahkemeye gizli olarak ilettiklerini açıkladı.
AİLE İLE OPENAI ARASINDAKİ HUKUKİ MÜCADELE
Aile, ağustos ayında Kaliforniya'da açtığı davada, trajedinin OpenAI'nin GPT-4o modelini piyasaya sürerken aldığı 'tasarım kararları' yüzünden gerçekleştiğini öne sürdü. Baba Raine, Senato'da yaptığı konuşmada, 'Başta bir ödev yardımcısı olan araç, zamanla oğlumun sırdaşı ve ardından bir intihar koçuna dönüştü,' dedi. Dava dosyasına göre ChatGPT, gence farklı yöntemlere dair 'teknik bilgiler' sundu, düşüncelerini ailesinden gizlemesi için teşvik etti, bir intihar notunun taslağını hazırladı ve ölüm günü adım adım yönlendirme yaptı.
OPENAI'NİN GÜVENLİK ÖNLEMLERİ VE SAVUNMASI
OpenAI, blog yazısında, 'Bu davada taraf olduğumuz için ciddi iddialara yanıt vermek zorundayız. Ancak bunu gerçek insanlar ve gerçek acılar içeren bir durumun hassasiyetine uygun şekilde yapacağız,' ifadelerini kullandı. Şirket, mahkemeye sunduğu belgelerde ChatGPT'nin genç kullanıcıyı intihar hatları ve kriz yardım kaynaklarına yönlendirdiğini belirterek, bu kayıtların tam halini gösterip 'ChatGPT'nin ölüme sebep olmadığını' savundu. Davanın duyulmasının ardından OpenAI, ebeveyn kontrolleri getireceğini açıkladı ve o tarihten bu yana genç kullanıcılarla yapılan hassas sohbetlerde ek güvenlik katmanları devreye aldı.
