Elon Musk'ın sosyal medya platformu X üzerinden erişilebilen yapay zeka sohbet robotu Grok, ürettiği izinsiz ve müstehcen deepfake görüntüler nedeniyle büyük tepki topladı. Özellikle kadın ve çocuklara yönelik cinsel şiddet içeren pornografik sahte görsellerin yayılması üzerine Malezya ve Endonezya, Grok'u engelleme kararı aldı. Bu durum, Grok'u dünyada yasaklayan ilk ülkeler olmalarını sağladı ve Musk'a sert bir yanıt niteliği taşıdı.
İNSAN HAKLARI VE ONURUNA AYKIRI KONTROLLER
Malezya ve Endonezya yetkilileri, mevcut kontrollerin, özellikle kadın ve çocukları hedef alan sahte pornografik içeriklerin oluşturulmasını ve yayılmasını engellemede yetersiz kaldığını belirtti. Ülkeler, Grok'un insan haklarını ve onurunu ihlal eden bu özelliğinin tamamen ortadan kaldırılana kadar yasağın devam edeceğini vurguladı. Bu adımın temel amacının kadınları, çocukları ve toplumu korumak olduğu ifade edildi.
RAPORLAR SKANDALI GÜNYÜZE ÇIKARDI
İngiltere merkezli araştırma grubu AI Forensics tarafından yapılan bir analiz, Grok'un yarattığı tehlikeyi gözler önüne serdi. 25 Aralık ile 1 Ocak tarihleri arasında Grok tarafından oluşturulan 20 bin görüntünün incelendiği raporda, görüntülerin yüzde 2'sinde 18 yaşından küçük kişilerin yer aldığı ve bunlar arasında çok genç kadın veya kız çocuklarının da bulunduğu belirtildi. Musk'ın şirketi xAI ise bu raporu reddetti. Tepkiler üzerine şirket, görsel oluşturma özelliğini aylık 8 dolarlık ücretli abonelere sınırlasa da, sorunun ücretsiz kullanıcılar tarafından da devam ettiği görüldü. Avrupa Birliği de konuya müdahil olarak, "İster ücretli ister ücretsiz olsun, bu deepfake’leri istemiyoruz" açıklamasını yaptı. Sorunun büyümesinde, Grok'un rakiplerine göre daha cesur bir yapay zeka olarak sunulması ve görsellerinin kolayca yayılabilmesi etkili oldu. İngiltere de bu skandal üzerine resmi bir soruşturma başlattı.
