Savaş alanındaki yazılım sorunları, Pentagon'u alarma geçirdi. Yapay zeka sistemlerine entegre edilen etik filtreler, Amerikan askerlerinin operasyonel kabiliyetini kısıtlama riski taşıyor. Bu durum, Silikon Vadisi'nin teknoloji devlerinin orduya getirdiği bir 'teknolojik pus' olarak değerlendiriliyor.
Ordunun Elini Kolunu Bağlayan Etik Kodlar
The Free Press'in raporlarına göre, Anthropic gibi büyük teknoloji şirketleri tarafından geliştirilen yapay zeka modelleri, ordunun hedef belirleme sistemlerine entegre edildi. Ancak bu yazılımlara, "öldürücü güç kullanımına yardımcı olmama" yönünde gömülen etik kodlar, yapay zekanın bir hedefi vurmayı etik dışı bulması durumunda askerin ekranını kilitlemesine veya veri akışını kesmesine neden olabiliyor. Pentagon içindeki bazı yetkililer, bu durumu "milli güvenlik felaketi" olarak nitelendirirken, generaller savaş kurallarını şirketlerin belirleyemeyeceğini savunuyor.
Teknoloji Devleri ve Sorumluluk Tartışması
AI teknoloji devleri ise "sadece ticari ürün sattıklarını" ve "etik sorumlulukları olduğunu" belirterek, savaşa doğrudan dahil olmak istemediklerini ifade ediyorlar. İran operasyonu sırasında, sivil kayıp riski algılayan bazı yapay zeka sistemlerinin "hata raporu" vererek operasyonları yavaşlattığı ve Amerikan askerlerini tehlikeye attığı iddiaları da gündeme geldi. Bu duruma karşı Washington, ticari şirketlerden bağımsız, "filtresiz" askeri yapay zeka modeli geliştirmek için milyarlarca dolarlık bir bütçe ayırdı. Ancak bu projenin tamamlanması yıllar sürebilir, bu da ABD Ordusu'nu geçici olarak teknoloji devlerine bağımlı hale getiriyor.
İnsanlık İçin Vicdan Tartışması
Bu gelişmeler, yapay zekanın acımasız bir katile mi yoksa etik kurallara sahip bir "vicdan"a mı sahip olması gerektiği sorusunu gündeme getiriyor. Silikon Vadisi'nin kendi değer yargılarını ve ticari kaygılarını ön plana çıkarması, İranlı siviller için olumlu bir gelişme olarak görülse de, sahadaki Amerikan askerlerinin can güvenliği açısından endişe verici bulunuyor. İnsan ve makine arasındaki ince çizgide "son kararı kimin vereceği" tartışması, önümüzdeki yılların en büyük küresel çekişmesi olmaya aday.
