Hindistan, Elon Musk'ın X platformuna ait yapay zeka sohbet robotu Grok'un 'müstehcen' içerik üretmesi üzerine acil teknik ve prosedürel değişiklikler yapmasını emretti. Kullanıcılar ve milletvekilleri, aracın kadınların bikini giymiş gibi göründüğü AI ile değiştirilmiş görüntüler de dahil olmak üzere uygunsuz materyal oluşturduğunu bildirdi. Hindistan BT Bakanlığı, Cuma günü yayınladığı emirle X'e, 'çıplaklık, cinselleştirme, cinsel açıdan açık veya yasadışı' materyal içeren içerik üretimini kısıtlama da dahil olmak üzere Grok üzerinde düzeltici eylemler alma talimatı verdi.
72 SAATLİK EYLEM RAPORU SÜRESİ
Bakanlık, sosyal medya platformuna ayrıca, 'müstehcen, pornografik, kaba, edepsiz, cinsel açıdan açık, pedofilik veya yasa kapsamında yasaklanmış' olarak değerlendirilen içeriğin barındırılmasını veya yayılmasını önlemek için attığı adımları detaylandıran bir eylem raporu sunması için 72 saat süre tanıdı. TechCrunch tarafından incelenen emir, uyum sağlanmaması halinde X'in Hindistan yasaları kapsamındaki kullanıcı kaynaklı içerikten sorumluluk muafiyeti sağlayan 'güvenli liman' korumalarını kaybetme riskiyle karşı karşıya kalabileceği konusunda uyardı.
MİLLETVEKİLİNDEN RESMİ ŞİKAYET
Hindistan'ın bu hamlesi, kullanıcıların Grok'un bireylerin -ağırlıklı olarak kadınların- görüntülerini bikini giyiyor gibi göstermek üzere değiştirmek için kullanılabildiğine dair örnekler paylaşması ve Hindistan Parlamento Üyesi Priyanka Chaturvedi'nin resmi şikayette bulunması sonrasında geldi. Ayrıca, son raporlar, yapay zeka sohbet robotunun reşit olmayanları içeren cinselleştirilmiş görüntüler ürettiği durumlara dikkat çekti; X, Cuma günü erken saatlerde bu sorunun güvenlik önlemlerindeki aksaklıklardan kaynaklandığını kabul etmişti. Söz konusu görüntüler daha sonra kaldırıldı. Ancak TechCrunch'ın tespitine göre, Grok kullanılarak AI ile değiştirilmiş ve kadınları bikini giyiyor gibi gösteren görüntüler, yayın sırasında X'te erişilebilir durumda kaldı.
YASAL MUAFİYET TEHDİT ALTINDA
Bu son emir, Hindistan BT Bakanlığı'nın Pazartesi günü sosyal medya platformlarına, müstehcen ve cinsel açıdan açık içeriği düzenleyen yerel yasalara uyumun, kullanıcı kaynaklı materyalden sorumluluk için yasal muafiyeti korumanın bir ön koşulu olduğunu hatırlatan daha geniş kapsamlı bir tavsiye yayınlamasının ardından geldi. Tavsiye, şirketleri iç güvenlik önlemlerini güçlendirmeye teşvik etti ve bunun yapılmamasının Hindistan'ın BT ve ceza yasaları kapsamında yasal işleme davetiye çıkarabileceği konusunda uyardı. Emirde, 'Yukarıdaki gerekliliklere uyulmaması ciddi şekilde değerlendirilecek ve platformunuz, sorumlu görevlileriniz ve yasayı ihlal eden platform kullanıcıları hakkında daha fazla bildirimde bulunulmaksızın katı yasal sonuçlara yol açabilir' ifadelerine yer verildi. Hindistan hükümeti, uyumsuzluğun Hindistan'ın BT yasası ve ceza kanunları kapsamında X'e karşı işlem başlatılmasına yol açabileceğini belirtti.
