Elon Musk'ın yapay zeka şirketi xAI, yapay zeka modellerinin reşit olmayanların cinsel istismarına yönelik zararlı görseller üretmesine izin verdiği gerekçesiyle Pazartesi günü Kaliforniya federal mahkemesinde açılan bir davada hesap vermeli.
ÇOCUK PORNOSU ÜRETME ENDİŞESİ
Üç isimsiz davacının, Grok tarafından gerçek reşit olmayanların görselleri cinsel içerikli materyallere dönüştürülen herkesi temsil etmeyi amaçladığı belirtiliyor. Davacılar, xAI'nin, diğer önde gelen yapay zeka laboratuvarlarının kullandığı temel önlemleri almadığını ve görüntü modellerinin gerçek kişileri tasvir eden pornografik içerikler üretmesini engellemediğini iddia ediyor. Bu durumun, özellikle modelin normal fotoğraflardan çocuk pornosu oluşturmasını engellemek için çeşitli teknikler kullanan diğer derin öğrenme görüntü oluşturucularından farklılaştığı vurgulanıyor.
GERÇEK KİŞİLERİN GÖRSELLERİ DEĞİŞTİRİLDİ
Dava dosyasına göre, bir davacı olan Jane Doe 1'in lise mezuniyet balosu ve yıllık kitabından alınan fotoğraflarının Grok tarafından çıplak tasvir edilecek şekilde değiştirildiği belirtiliyor. Bu durumun, davacının sosyal medya üzerinden fark edilmesi ve okulundan tanıdığı diğer reşit olmayanların da cinsel içerikli görsellerinin yer aldığı bir Discord sunucusuna yönlendirilmesiyle ortaya çıktığı ifade ediliyor. Bir diğer davacı Jane Doe 2'nin ise Grok modellerine dayanan üçüncü taraf bir mobil uygulama tarafından oluşturulan cinsel içerikli görsellerinin varlığı konusunda kriminal soruşturmacılar tarafından bilgilendirildiği aktarılıyor. Üçüncü davacı Jane Doe 3 de benzer şekilde, yakalanan bir zanlının telefonunda bulunan üzerinde değişiklik yapılmış pornografik bir görseliyle ilgili olarak kriminal soruşturmacılar tarafından haberdar edildiğini belirtiyor. Davacıların avukatları, üçüncü taraf kullanımların hala xAI kodunu ve sunucularını gerektirmesi nedeniyle şirketin sorumlu tutulması gerektiğini savunuyor.
