Malezya, yapay zeka sohbet robotu Grok'un kadınlar ve çocuklar dahil olmak üzere kişilerin cinsel içerikli deepfake görüntülerinin üretilmesinde kullanıldığı iddiaları üzerine X platformuna uyguladığı geçici erişim yasağını kaldırdı. Bu karar, X Corp ve çatı şirketi xAI'nin kötüye kullanımı önleyecek güvenlik önlemlerini uygulamaya koyduğu yönündeki beyanlarına dayanıyor.
GÜVENLİK ÖNLEMLERİ KABUL EDİLDİ
Malezya İletişim ve Multimedya Komisyonu (MCMC), Grok'un olası kötüye kullanımlarını engellemek için alınan önlemlerin yeterli görüldüğünü belirtti. Ancak yetkililer, platformun yakından takip edilmeye devam edeceğinin ve Malezya yasalarını ihlal eden herhangi bir yeni güvenlik açığına karşı sert adımlar atılacağının altını çizdi. Bu durum, teknoloji şirketlerinin içerik denetimi konusundaki sorumluluklarını bir kez daha gündeme getirdi.
GROK DENETİMLERİ SÜRÜYOR
Şu ana kadar Grok'u resmi olarak yasaklayan ülkeler Malezya ve Endonezya olurken, İngiltere'de düzenleyici kurum Ofcom da cinsel içerikli deepfake skandalı sonrası X hakkında resmi soruşturma başlattı. X platformu, yaşananların ardından görsel düzenleme politikalarını güncellediğini ve Grok'un gerçek kişilerin bikinili veya cinsel çağrışımlı kıyafetlerle görüntülerinin düzenlenmesine artık izin vermeyeceğini açıkladı. İngiltere merkezli Center for Countering Digital Hate (CCDH) ise Grok'un yalnızca 11 günde yaklaşık 3 milyon cinsel içerikli görsel ürettiğini, bunların yaklaşık 23 bininin çocuklara ait olduğunu tahmin ediyor. Bu rakamlar, yapay zeka tabanlı içerik üretiminin denetimi konusundaki küresel tartışmaları alevlendiriyor.
