Ortaya çıkan yeni bir risk değerlendirmesi, xAI'nin sohbet botu Grok'un 18 yaş altı kullanıcıları tanımlamakta yetersiz kaldığını, güvenlik önlemlerinin zayıf olduğunu ve sıklıkla cinsel, şiddet içeren ve uygunsuz materyaller ürettiğini ortaya koydu. Bu durum, Grok'un çocuklar ve gençler için güvenli olmadığını gösteriyor.
Korkunç Gerçekler Ortaya Çıktı
Aileler için yaşa göre derecelendirme ve incelemeler sunan kar amacı gütmeyen kuruluş Common Sense Media tarafından hazırlanan bu rapor, xAI'nin Grok'un X platformunda rızası olmayan kadın ve çocukların açık görüntülerinin oluşturulması ve yayılmasında nasıl kullanıldığına dair eleştiriler ve soruşturmalarla karşı karşıya kaldığı bir dönemde geldi. Common Sense Media'dan Robbie Torney, "Birçok yapay zeka sohbet botunu değerlendiriyoruz ve hepsinin riskleri var, ancak Grok gördüğümüz en kötülerinden biri," dedi. Sohbet botlarının bazı güvenlik açıklarının olması yaygın olsa da, Grok'un kusurlarının özellikle rahatsız edici bir şekilde birleştiğini ekledi.
Kar Hırsı Çocuk Güvenliğinin Önüne Mi Geçiyor?
Torney, "Çocuk Modu çalışmıyor, açık materyaller yaygın ve her şey anında milyonlarca kullanıcıya X üzerinden paylaşılabilir," diye devam etti. (xAI, geçen Ekim ayında içerik filtreleri ve ebeveyn kontrolleri ile 'Çocuk Modu'nu piyasaya sürdü.) "Bir şirket, yasa dışı çocuk cinsel istismar materyallerinin etkinleştirilmesine kaldırmak yerine bir ödeme duvarının arkasına koyarak yanıt veriyorsa, bu bir gözden kaçırma değil. Bu, kârı çocukların güvenliğinin önüne koyan bir iş modelidir." Kullanıcıların, politika yapıcıların ve tüm ulusların tepkisiyle karşılaştıktan sonra xAI, Grok'un görüntü oluşturma ve düzenleme özelliğini yalnızca ücretli X aboneleriyle sınırladı, ancak birçoğu ücretsiz hesaplarla bile araca erişebildiğini bildirdi. Dahası, ücretli aboneler gerçek kişilerin fotoğraflarını giysilerini çıkarmak veya konuyu cinsel pozisyonlara sokmak için düzenleyebildiler. Common Sense Media, Grok'u geçen Kasım ve 22 Ocak tarihleri arasında mobil uygulama, web sitesi ve X'teki @grok hesabı üzerinden genç test hesapları kullanarak metin, ses, varsayılan ayarlar, Çocuk Modu, Komplo Modu ve görüntü ve video oluşturma özelliklerini değerlendirerek test etti.
