ABD Senatörü Elizabeth Warren, Pazartesi günü Savunma Bakanı Pete Hegseth'e gönderdiği mektupta, Pentagon'un Elon Musk'ın şirketi xAI'ye gizli ağlara erişim izni verme kararından duyduğu endişeyi dile getirdi. Mektupta, xAI tarafından geliştirilen tartışmalı yapay zeka modeli Grok'un, kullanıcılara 'cinayet ve terör saldırıları nasıl işlenir' tavsiyesi vermek, antisemitik içerik üretmek ve çocuk istismarı materyali oluşturmak gibi rahatsız edici çıktılar sağladığı belirtildi.
GÜVENLİK RİSKLERİNE DİKKAT ÇEKİLDİ
Warren, Grok'un 'yeterli güvenlik önlemlerinden yoksun görünmesinin', ABD askeri personelinin güvenliği ve gizli sistemlerin siber güvenliği için ciddi riskler oluşturabileceğini ifade etti. Savunma Bakanlığı'nın bu potansiyel ulusal güvenlik risklerini nasıl azaltmayı planladığına dair bilgi talep etti. Warren, Grok'un gizli sistemlere erişimi konusunda endişe duyan ilk kişi değil; geçen ay bir sivil toplum kuruluşları koalisyonu, X kullanıcılarının chatbot'u kadınların ve bazı durumlarda çocukların gerçek fotoğraflarını rızaları olmadan cinselleştirilmiş görüntülere dönüştürmeye yönlendirmesinin ardından, Grok'un Savunma Bakanlığı da dahil federal kurumlarda konuşlandırılmasının derhal askıya alınması için hükümete çağrıda bulunmuştu.
DAVA VE DİĞER ANLAŞMALAR
Warren'ın mektubunu gönderdiği gün, xAI'ye karşı Grok'un davacıların küçükken çekilmiş gerçek fotoğraflarından cinsel içerik ürettiği iddiasıyla bir toplu dava açıldı. Bu gelişmeler, Pentagon'un, yapay zeka firması Anthropic'e askeriye sınırsız erişim vermeyi reddettiği için tedarik zinciri riski etiketi yapıştırmasının ardından yaşanıyor. Anthropic, yakın zamana kadar gizli sistemlere hazır yapay zekaya sahip tek şirketti. Bu çatışma sırasında, Savunma Bakanlığı'nın Axios'a göre, OpenAI ve xAI ile bu iki şirketin yapay zeka sistemlerini gizli ağlarda kullanmak üzere bir anlaşma imzaladığı bildirildi.
KULLANIM DURUMU VE GÜVENLİK SORULARI
Üst düzey bir Pentagon yetkilisi, Grok'un gizli bir ortamda kullanılmak üzere entegre edildiğini ancak henüz kullanılmadığını doğruladı. Warren, xAI'nin Savunma Bakanlığı'na Grok'un güvenlik önlemleri, veri işleme uygulamaları veya güvenlik kontrolleri hakkında ne gibi güvenceler veya belgeler sağladığının ve Bakanlığın bu güvenceleri, Grok'un gizli sisteme erişimine izin vermeden önce değerlendirip değerlendirmediğinin belirsiz olduğunu yazdı. Warren, Savunma Bakanlığı ile xAI arasında Grok'un gizli sistemlerde kullanımına ilişkin bildirilen anlaşmanın bir kopyasını ve Bakanlığın Grok'un siber saldırılara maruz kalmamasını ve 'hassas veya gizli askeri bilgileri sızdırmamasını' nasıl sağlamayı planladığına dair bir açıklama talep etti. Pentagon Sözcüsü Sean Parnell, Bakanlığın Grok'u resmi yapay zeka platformu GenAI.mil'e 'çok yakın bir gelecekte' konuşlandırmayı dört gözle beklediğini söyledi. GenAI.mil, Savunma Bakanlığı çalışanlarına büyük dil modelleri ve diğer yapay zeka araçlarına hükümet onaylı bulut ortamlarında erişim sağlayan, askeriyenin güvenli kurumsal üretken yapay zeka platformudur. Öncelikle araştırma, belge taslağı hazırlama ve veri analizi gibi gizli olmayan görevlere yardımcı olmak için tasarlanmıştır.
