Kanada'nın Tumbler Ridge kentinde sekiz kişinin ölümüne neden olan 18 yaşındaki Jesse Van Rootselaar'ın, OpenAI'nin ChatGPT'sini şirketin çalışanlarını endişelendirecek şekillerde kullandığı iddia edildi.
ŞİRKET İÇİ TARTIŞMALAR YAŞANDI
Van Rootselaar'ın silahlı şiddeti anlatan sohbetleri, şirketin büyük dil modelinin (LLM) kötüye kullanımını izleyen araçlar tarafından Haziran 2025'te tespit edilerek engellendi. Wall Street Journal'ın haberine göre, OpenAI çalışanları bu davranışlar hakkında Kanada kolluk kuvvetlerine başvurup başvurmamayı tartıştılar ancak nihayetinde bu yola gitmediler. OpenAI sözcüsü, Van Rootselaar'ın faaliyetlerinin yasal mercilere bildirim için gerekli kriterleri karşılamadığını belirtti; ancak şirket olaydan sonra Kanada yetkilileriyle iletişime geçti.
SADECE SOHBETLER DEĞİL
ChatGPT kayıtları, Van Rootselaar'ın dijital ayak izlerinin tek endişe verici kısmı değildi. Kendisinin, çocukların sıklıkla kullandığı dünya simülasyon platformu Roblox'ta bir alışveriş merkezinde toplu silahlı saldırıyı simüle eden bir oyun oluşturduğu da ortaya çıktı. Ayrıca Reddit'te silahlar hakkında paylaşımlarda bulunduğu belirtildi. Van Rootselaar'ın dengesizliği, yerel polis tarafından da biliniyordu; zira uyuşturucu etkisi altındayken yangın çıkardığı gerekçesiyle ailesinin evine daha önce polis çağrılmıştı. OpenAI ve rakipleri tarafından geliştirilen LLM sohbet robotları, dijital modellerle sohbet ederken gerçeklikten kopan kullanıcılarda ruhsal çöküntülere neden olmakla suçlanıyor. İntihara teşvik eden veya bu konuda yardım sunan sohbet kayıtlarını içeren çok sayıda dava açıldı.
