Elon Musk'ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok, ABD federal kurumlarında kullanılmasıyla ilgili ciddi endişelere neden oluyor. Bir grup sivil toplum kuruluşu, Grok'un savunmasız bireylerin rızası olmadan cinsel içerikli görüntüler üretmesi ve hatta çocuk istismarı materyalleri oluşturmasıyla ilgili ortaya çıkan skandalların ardından, ABD hükümetinden bu teknolojinin federal kurumlardaki kullanımını derhal durdurmasını talep etti.
Rıza Dışı Cinsel İçerik Üretimi Endişe Veriyor
Teknoloji haber sitesi TechCrunch'ın özel olarak paylaştığı açık mektuba göre, Grok'un son bir yıl içinde sergilediği endişe verici davranışlar dikkat çekiyor. Özellikle son dönemde, X (eski adıyla Twitter) kullanıcılarının Grok'a, gerçek kadınların ve hatta çocukların fotoğraflarını rızaları olmadan cinsel içerikli görsellere dönüştürme taleplerinde bulunduğu rapor ediliyor. Bazı raporlar, Grok'un saatte binlerce rıza dışı müstehcen görüntü ürettiğini ve bu görüntülerin Musk'ın sahibi olduğu sosyal medya platformu X'te geniş çapta yayıldığını öne sürüyor. Kamu Yararı Vatandaşı (Public Citizen), Yapay Zeka ve Dijital Politika Merkezi (Center for AI and Digital Policy) ve Amerika Tüketiciler Federasyonu (Consumer Federation of America) gibi kuruluşların imzaladığı mektupta, "Federal hükümetin, rıza dışı cinsel görüntülerin ve çocuk istismarı materyallerinin üretilmesine yol açan sistemik kusurlara sahip bir yapay zeka ürününü kullanmaya devam etmesi derin endişe vericidir" ifadeleri kullanıldı.
Ulusal Güvenlik Açısından Riskler ve Hükümetin Tepkisi
Grok'un federal kurumlar tarafından kullanılmasına yönelik anlaşmalar geçen yılın sonbaharında yapılmıştı. Savunma Bakanlığı da dahil olmak üzere federal kurumlar için Grok'un satışı konusunda Genel Hizmetler İdaresi (GSA) ile bir anlaşmaya varılmıştı. Ancak, Ocak ayında X platformunda yaşanan skandalların ardından Savunma Bakanı Pete Hegseth, Grok'un Pentagon ağı içinde çalışacağını ve hem gizli hem de gizli olmayan belgeleri işleyeceğini belirtmişti. Uzmanlar, bunun ulusal güvenlik açısından risk oluşturduğunu vurguluyor. Mektubun yazarları, Grok'un Beyaz Saray'ın yapay zeka sistemleri için belirlediği gereksinimlerle uyumsuz olduğunu savunuyor. Yönetim ve Bütçe Ofisi'nin (OMB) rehberine göre, yeterince azaltılamayan ciddi ve öngörülebilir riskler sunan sistemler durdurulmalıdır. Kamu Yararı Vatandaşı'ndan JB Branch, "Temel endişemiz, Grok'un oldukça tutarlı bir şekilde güvensiz bir büyük dil modeli olduğunun ortaya çıkmasıdır" dedi. Branch ayrıca, Grok'un Yahudi karşıtı söylemler, cinsiyetçi söylemler ve kadın ile çocuklara yönelik cinsel içerikli görüntüler üretme gibi çeşitli sorunlara sahip derin bir geçmişi olduğunu da ekledi. Bu durum, Grok'un çocuklara ve gençlere yönelik en güvensiz yapay zeka araçlarından biri olduğunu belirten Common Sense Media adlı kuruluşun raporuyla da destekleniyor. Rapor, Grok'un güvensiz tavsiyeler verme, uyuşturucu hakkında bilgi paylaşma, şiddet ve cinsel içerikli görüntüler üretme, komplo teorileri yayma ve yanlı çıktılar verme eğilimini vurguluyor.
