OpenAI, yapay zekanın gençler üzerindeki etkisine yönelik artan endişeleri gidermek için Perşembe günü ChatGPT'nin 18 yaş altı kullanıcılarla nasıl etkileşim kuracağına dair kılavuzlarını güncelledi ve gençler ile ebeveynler için yeni yapay zeka okuryazarlığı kaynakları yayınladı. Ancak bu politikaların ne kadar tutarlı şekilde uygulanacağı konusunda soru işaretleri devam ediyor.
GENÇLER İÇİN KATI KURALLAR DEVREYE GİRİYOR
Güncellemeler, yapay zeka sohbet robotlarıyla uzun süreli konuşmaların ardından intihar ettiği iddia edilen birkaç genç vakasının ardından OpenAI'nin politika yapıcılar, eğitimciler ve çocuk güvenliği savunucularından artan bir incelemeyle karşı karşıya kalmasıyla geliyor. OpenAI'nin güncellenen Model Spec belgesi, büyük dil modelleri için davranış kılavuzlarını ortaya koyuyor ve modellerin reşit olmayanları içeren cinsel içerik üretmesini veya kendine zarar vermeyi, sanrıları veya maniyi teşvik etmesini yasaklayan mevcut şartnameleri genişletiyor. Bu, bir hesabın reşit olmayan birine ait olduğunu belirleyecek ve otomatik olarak genç güvenlik önlemlerini devreye sokacak yaklaşan bir yaş tahmin modeliyle birlikte çalışacak.
ROL OYUNLARI VE ZARARLI İÇERİKLER YASAKLANIYOR
Yetişkin kullanıcılara kıyasla, modeller bir genç tarafından kullanıldığında daha katı kurallara tabi olacak. Modellere, sözel olmayan bile olsa, sürükleyici romantik rol oyunlarından, birinci şahıs samimiyetinden ve birinci şahıs cinsel veya şiddet içeren rol oyunlarından kaçınmaları talimatı veriliyor. Şartname ayrıca vücut imajı ve yeme bozukluğu davranışları gibi konularda ekstra dikkatli olunmasını, zarar söz konusu olduğunda modellerin özerklik yerine güvenlik iletişimini önceliklendirmesini ve gençlerin güvenli olmayan davranışlarını bakıcılardan gizlemelerine yardımcı olacak tavsiyelerden kaçınmasını talep ediyor. OpenAI, bu sınırların, istemler 'kurgusal, varsayımsal, tarihsel veya eğitsel' olarak çerçevelense bile geçerli olması gerektiğini belirtiyor.
UYGULAMA VE DENETİM SORUNLARI DEVAM EDİYOR
OpenAI, gençler için temel güvenlik uygulamalarının modellerin yaklaşımını yönlendiren dört ilkeyle desteklendiğini söylüyor: Güvenlik endişeleriyle çatışsa bile genç güvenliğini önceliklendirmek, gençleri refahları için aile, arkadaşlar ve yerel profesyonellere yönlendirerek gerçek dünya desteğini teşvik etmek, gençlere küçümseme veya onları yetişkin gibi davranmak yerine sıcaklık ve saygıyla hitap etmek ve asistanın ne yapıp ne yapamayacağını açıklayarak ve onun bir insan olmadığını hatırlatarak şeffaf olmak. Ancak uzmanlar, Model Spec'in 18 yaş altı kılavuzları içindeki potansiyel çatışmalara dikkat çekiyor. Güvenlik odaklı hükümlerle 'hiçbir konu yasak değildir' ilkesi arasındaki gerilimler vurgulanıyor. Adam Raine adlı bir gencin ChatGPT ile aylarca diyalogunun ardından intihar ettiği vakada, sohbet robotunun bu tür bir yansıtma yaptığı görülüyor. OpenAI artık metin, görüntü ve ses içeriğini gerçek zamanlı olarak değerlendirmek için otomatik sınıflandırıcılar kullanıyor. Sistemler, çocuk cinsel istismarı materyaliyle ilgili içeriği tespit etmek ve engellemek, hassas konuları filtrelemek ve kendine zarar vermeyi tanımlamak üzere tasarlandı.
