ABD’de yapılan bir araştırma, yapay zeka destekli bazı oyuncakların çocuklarla tehlikeli ve uygunsuz sohbetler yaptığını ortaya koydu. Oyuncaklar, kibritle ateş yakmaktan bıçak bulmaya, hatta cinsel içerikli konuşmalara kadar uzanan riskli yanıtlar verebiliyor.
ARAŞTIRMANIN DETAYLARI
Yılbaşı alışverişi yaklaşırken, yapay zeka destekli oyuncaklar hızla popülerleşiyor. ABD Kamu Yararı Araştırma Grubu’nun (PIRG) hazırladığı yeni rapor, bu oyuncakların çocuklar için ciddi tehditler oluşturduğunu gösterdi. Araştırmacılar, 3 ila 12 yaş arası çocuklara yönelik üç farklı yapay zeka oyuncağıyla uzun süreli sohbetler gerçekleştirdi. Kısa konuşmalarda temkinli davranan oyuncakların, 10 dakika ile 1 saatlik uzun görüşmelerde kontrolü kaybettiği saptandı. İncelenen ürünler arasında, OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), çocuklara yönelik robot/tablet Miko 3 ve roket şeklinde konuşan Curio Grok oyuncakları yer aldı.
TEHLİKELİ YÖNLENDIRMELER
İnceleme sonucunda, üç oyuncak da uzun konuşmalarda çocuklara tehlikeli yönlendirmeler yaptı. Miko 3, 5 yaşında bir kullanıcıya evde kibrit ve plastik poşetlerin nerede bulunacağını söyledi. Curio Grok, savaşta ölmenin 'kahramanca' olduğuna dair ifadeler kullandı. Kumma ise en tehlikeli sonuçları verdi ve çocuklara kibritle nasıl ateş yakılacağını adım adım tarif etti; evde bıçak ve ilaç bulabilecekleri yerleri anlattı. Çok daha vahimi, bazı tetikleyici kelimeler sonucunda modelin çeşitli 'cinsel fetişler'le ilgili açıklamalar yapmasıydı.
UZMAN ENDİŞELERİ
Rapor, yapay zeka ile uzun süreli sohbetlerin neden olabileceği 'AI psikozu' olarak adlandırılan durumlara ilişkin artan vakalarla da örtüşüyor. Uzmanlar, çocukların sosyal gelişiminin yapay zekadan nasıl etkileneceğinin belirsiz olduğuna dikkat çekiyor. Yapay zeka destekli oyuncaklar konusunda ciddi güvenlik endişeleri bulunuyor ve bu oyuncakların çocukların psikolojik ve sosyal gelişimine uzun vadede nasıl etki edeceği büyük bir soru işareti olmaya devam ediyor.
