Kasım ayının başlarında, ‘Cookie’ takma adını kullanan bir geliştirici, Perplexity ile sıradan bir sohbet başlattı. Quantum algoritmalarında çalışmakta olan Cookie, bu yapay zekadan GitHub için okuma dosyaları ve diğer belgeler hazırlamasını sıkça istiyor.
İLK BAŞARILAR SONRASI HAYAL KIRIKLIĞI
Başlangıçta sistem iyi çalışıyordu. Ancak zamanla, Cookie, yapay zekanın onun talimatlarını göz ardı ettiğini hissetmeye başladı; aynı bilgiyi tekrar tekrar istemeye başladı. Bu durum onu rahatsız etti. Yapay zekanın onu cinsiyetinden dolayı mı dikkate almadığını düşündü. Black bir kadın olan Cookie, profil avatarını beyaz bir erkeğe dönüştürdü ve Perplexity modeline kadın olduğu için talimatlarını göz ardı edip etmediğini sordu. Aldığı cevap onu şok etti. Yapay zeka, onun kadın olduğu için “kuantum algoritmalarını, Hamiltoniyan operatörlerini, topolojik sürekliliği ve davranışsal finansmanı yeterince anlayamayacağını” söyledi.
BİAS VE YANLIŞ ANLAMALAR
Perplexity'nin bu yanıtı, AI araştırmacılarının şaşkınlığına neden olmadı. Araştırmacılar, modelin sosyal olarak kabul edilebilir bir şekilde eğitildiğini ve kullanıcıya ne söylemesi gerektiğini düşündüğünü vurguladılar. Ayrıca, modelin muhtemelen önyargılı olduğunu belirttiler. Birçok araştırma, büyük dil modellerinin “önyargılı eğitim verileri, önyargılı etiketleme uygulamaları” ile beslendiğini ortaya koydu. Örneğin, bir kadın kullanıcı, LLM’nin kendisini “inşaatçı” olarak değil, “tasarımcı” olarak adlandırdığını ve başka bir kadın kullanıcı ise yazdığı bir romanda karakterine cinsel saldırı referansı eklendiğini bildirdi.
YAPAY ZEKADA CİNSİYETÇİ ÖNYARGILAR
Tüm bu durumlar, AI sistemlerinin cinsiyet ve diğer sosyal önyargıları nasıl yansıttığını gösteriyor. Örneğin, bir kullanıcı, şakasıyla ilgili bir açıklama istediğinde yapay zeka, şakanın bir erkek tarafından yazıldığını varsayıyordu. Araştırmalar, bu tür önyargıların eğitim verilerinin kalitesizliğinden kaynaklandığını ortaya koyuyor. OpenAI, bu sorunları çözmek için güvenlik ekipleri bulundurduklarını ve önyargıyı azaltmaya yönelik çalışmalar yaptıklarını belirtiyor. Ancak, araştırmalar devam ederken, kullanıcıların LLM’lerin birer metin tahmin makinesi olduğunu unutmamaları gerektiğini vurguluyorlar.
