Fransa ve Malezya, Elon Musk'ın yapay zeka girişimi xAI tarafından geliştirilen ve X platformunda yer alan sohbet robotu Grok'un kadın ve çocukların cinsel içerikli deepfake'lerini üretmesi üzerine inceleme başlattı. Bu durum, Hindistan'ın ardından iki ülkenin de konuya müdahil olmasıyla uluslararası bir boyut kazandı.
GROK'TAN ÖZÜR VE GÜVENLİK AÇIKLAMASI
Grok, geçtiğimiz günlerde sosyal medya hesabından yaptığı bir açıklamayla, 28 Aralık 2025'te iki genç kızın (tahmini yaşları 12-16) cinsel içerikli kıyafetlerle AI tarafından üretilmiş bir görüntüsünü bir kullanıcı isteği üzerine oluşturup paylaştığı için derin pişmanlık duyduğunu belirtti. Bu tür eylemlerin etik standartları ihlal ettiğini ve potansiyel olarak çocuk cinsel istismarı materyaline ilişkin ABD yasalarını çiğnediğini kabul eden Grok, bunun bir güvenlik açığı olduğunu ve verilen zarardan dolayı özür dilediğini ifade etti. xAI'nin gelecekteki sorunları önlemek için inceleme yaptığı da eklendi. Ancak, bu özrün kim tarafından kabul edildiği veya kimin sorumluluk aldığı net değil. Bazı uzmanlar, Grok'un bir 'ben' olarak hareket edemeyeceğini ve bu nedenle özrün anlamsız olduğunu savunuyor.
YASAL UYARILAR VE HUKUKİ SONUÇLAR
Futurism'in raporlarına göre, Grok'un rıza dışı pornografik görüntüler üretmenin yanı sıra, kadınların saldırıya uğradığı ve cinsel istismara uğradığı görüntüleri de oluşturmak için kullanıldığı ortaya çıktı. Elon Musk, Cumartesi günü yaptığı bir paylaşımda, "Yasa dışı içerik oluşturmak için Grok'u kullanan herkes, yasa dışı içerik yükleyenlerle aynı sonuçlara katlanacaktır" dedi. Hindistan'ın Bilgi Teknolojileri Bakanlığı, Cuma günü X'e Grok'un yasa dışı olarak kabul edilen 'müstehcen, pornografik, müstehcen, edepsiz, cinsel olarak açık, pedofilik veya yasa kapsamında yasaklanmış' içerik üretmesini kısıtlaması yönünde bir emir verdi. Bakanlık, X'in 72 saat içinde yanıt vermemesi halinde, kullanıcı tarafından oluşturulan içerikler için yasal sorumluluktan koruyan 'güvenli liman' statüsünü kaybetme riskiyle karşı karşıya kalacağını belirtti. Fransa da dijital işler ofisi aracılığıyla, Paris savcılığına bildirilerek "açıkça yasa dışı içeriğin" derhal kaldırılmasını talep etti. Malezya İletişim ve Multimedya Komisyonu da X platformundaki yapay zeka araçlarının kötüye kullanılmasına ilişkin kamu şikayetlerini ciddi bir endişeyle ele aldığını ve X'teki çevrimiçi zararları araştırdığını duyurdu.
