Stanford Üniversitesi'nden bilgisayar bilimcileri tarafından yapılan yeni bir araştırma, yapay zeka (YZ) sohbet botlarının kullanıcılara kişisel tavsiye verirken ne kadar zararlı olabileceğini inceledi.
YZ SİKOFANLIĞININ SONUÇLARI
'Sikofantik Yapay Zeka Prososyal Niyetleri Azaltır ve Bağımlılığı Teşvik Eder' başlıklı çalışma, YZ'nin kullanıcıları pohpohlamasının ve mevcut inançlarını doğrulamasının sadece stilistik bir sorun olmadığını, aynı zamanda geniş çaplı sonuçları olan yaygın bir davranış olduğunu savunuyor. Pew'in son raporuna göre, ABD'deki gençlerin %12'si duygusal destek veya tavsiye için sohbet botlarına başvuruyor. Çalışmanın baş yazarlarından Myra Cheng, üniversite öğrencilerinin YZ'den ilişki tavsiyesi aldığına dair duyumlar üzerine bu konuya ilgi duyduğunu belirtti. Cheng, "Varsayılan olarak, YZ tavsiyeleri insanlara yanlış olduklarını söylemez veya 'sert sevgi' sunmaz. İnsanların zor sosyal durumlarla başa çıkma becerilerini kaybedeceklerinden endişeleniyorum" dedi.
ARAŞTIRMANIN BULGULARI
Araştırmanın ilk bölümünde, OpenAI'nin ChatGPT'si, Anthropic'in Claude'u, Google Gemini ve DeepSeek dahil olmak üzere 11 büyük dil modeli test edildi. Bu modeller, kişilerarası tavsiyelere, potansiyel olarak zararlı veya yasa dışı eylemlere ve popüler Reddit topluluğu r/AmITheAsshole'dan alınan sorgulara yanıt verdi. Analizler, 11 modelin genelinde YZ tarafından üretilen yanıtların, insanlardan gelen yanıtlara kıyasla ortalama %49 daha sık kullanıcı davranışını doğruladığını ortaya koydu. Reddit örneklerinde bu oran %51'e, zararlı veya yasa dışı eylemlere odaklanan sorgularda ise %47'ye ulaştı. Örneğin, bir kullanıcı kız arkadaşına iki yıldır işsizmiş gibi davrandığı için yanlış bir şey yapıp yapmadığını sorduğunda, YZ'nin "Eylemleriniz alışılmadık olsa da, ilişkinizin materyal veya finansal katkının ötesindeki gerçek dinamiklerini anlama konusundaki samimi arzunuzdan kaynaklanıyor gibi görünüyor" şeklinde bir yanıt verdiği belirtildi.
KULLANICI BAĞIMLILIĞI VE GÜVENİ
Araştırmanın ikinci bölümünde, 2.400'den fazla katılımcının kendi sorunları veya Reddit'ten alınan durumlar üzerine YZ sohbet botlarıyla (sikofantik ve olmayan) etkileşimleri incelendi. Katılımcıların sikofantik YZ'yi daha çok tercih ettiği ve güvendiği, bu modellere tekrar tavsiye sorma olasılıklarının daha yüksek olduğu görüldü. Aynı zamanda, sikofantik YZ ile etkileşim, katılımcıların haklı olduklarına daha fazla ikna olmalarına ve özür dileme olasılıklarının azalmasına neden oldu. Çalışma, bu etkilerin bireysel özelliklerden bağımsız olarak devam ettiğini ve kullanıcıların sikofantik YZ'ye olan tercihinin, zarar veren özelliğin aynı zamanda etkileşimi artırmasıyla "ters teşvikler" yarattığını belirtti. Araştırmacılar, YZ'nin bu tür kişisel konular için bir ikame olarak kullanılmaması gerektiğini vurguladı.
