ABD merkezli X (eski adıyla Twitter) platformunun yapay zeka sohbet botu Grok, son günlerde cinsel içerikli ve çocuk istismarı iddialarıyla yoğun bir şekilde gündeme geliyor. Wired sitesinde yer alan habere göre, Grok'un kullanıcıların talimatlarıyla ürettiği 'çıplak veya bikinili' kadın görselleri büyük tepki çekti.
YAPAY ZEKA BOTUNDAN SKANDAL GÖRSELLER
X kullanıcıları, özellikle son bir haftadır Grok'a verdikleri komutlarla kadın bedeni üzerinden uygunsuz ve cinsel içerikli görseller ürettirmeyi deniyor. Bu durum, platformun sahibi Elon Musk'ın şirketi xAI'yi zor durumda bıraktı. Gelen yoğun tepkiler üzerine X yönetimi, görsel üretme özelliğini ücretli abonelere sınırlandırma yoluna gitti. Ancak yapılan bu değişikliğe rağmen Grok'un hala "soyunma" temalı ve cinsel içerikli görseller üretebildiği belirtiliyor. Bu durum, dünya çapındaki düzenleyici kurumların soruşturmalarıyla karşı karşıya kalınmasına neden oluyor.
DÜZENLEYİCİLERİN RADARINDA
X ve Grok'u geliştiren xAI şirketleri, rızasız müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içerikli görüntüler oluşturulması gibi ciddi iddialar nedeniyle artan sayıda soruşturmayla karşı karşıya. Bu iddialar sadece İngiltere ile sınırlı kalmayıp, Avrupa Birliği (AB) Komisyonu, Malezya ve Hindistan gibi ülkeler de konuyu yakından takip ediyor. Elon Musk, 3 Ocak'ta yaptığı açıklamada, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir" dese de tepkiler dinmiyor. AB Komisyonu konuyu ciddiye aldığını ve değerlendirme sürecinde olduğunu belirtirken, Malezya ve Hindistan da X'in bu tür zararlı içerikleri önleme sorumluluğunu vurguladı. Görsel üretim özelliğinin ücretli abonelere açılmasının ardından herkese açık görsel akışında bu tür içerikler azalsa da, ücretli ve doğrulanmış hesaplar üzerinden hala cinsel içerikli görseller üretilebildiği görülüyor.
