OpenAI, yapay zeka sistemlerinin 'güvenli, güvenilir ve insan değerleriyle tutarlı şekilde uyumlu' olmasını sağlamaya odaklanan bir ekibi dağıttığını doğruladı. Ekip üyeleri şirketin diğer bölümlerine atanırken, ekibin eski lideri Josh Achiam 'baş fütürist' olarak yeni bir rol üstlendi. Haber ilk olarak Platformer tarafından duyuruldu ve TechCrunch tarafından doğrulandı.
UYUM EKİBİNİN KISA TARİHİ
Dağıtılan ekip, Eylül 2024'te kurulmuştu ve yapay zekanın insan çıkarlarına uygun hareket etmesini sağlamayı amaçlayan geniş bir endüstri alanı olan 'uyum' üzerine çalışan şirketin iç birimiydi. OpenAI'nin Uyum Araştırmaları blogundaki bir gönderi, 'Bu sistemlerin karmaşık, gerçek dünya senaryolarında ve düşmanca koşullarda insan niyetini tutarlı şekilde takip etmesini, felaket davranışlardan kaçınmasını ve kontrol edilebilir, denetlenebilir ve insan değerleriyle uyumlu kalmasını istiyoruz' diyor. Bir OpenAI sözcüsü, ekibin dağıtılmasını, hızla hareket eden bir şirket içinde gerçekleşen rutin yeniden yapılanmalara bağladı.
LİDERİN YENİ ROLÜ VE GELECEK VİZYONU
Çarşamba günü yayınlanan bir blog yazısında, OpenAI'nin eski Uyum ekibi başkanı Josh Achiam, şirketin 'Baş Fütürist'i olarak yeni rolünü açıkladı. Achiam, 'Amacım, yapay zeka, yapay genel zeka ve ötesine yanıt olarak dünyanın nasıl değişeceğini inceleyerek OpenAI'nin misyonunu - yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak - desteklemektir' diye yazdı. Achiam, yeni rolünde OpenAI'nin teknik personelinden fizikçi Jason Pruet ile işbirliği yapacağını belirtti. Achiam'ın kişisel web sitesi hala onu OpenAI'de Misyon Uyumu Başkanı olarak listeliyor ve onu 'insanlığın uzun vadeli geleceğinin iyi olmasını' sağlamakla ilgilenen biri olarak tanımlıyor.
EKRANIN ARKASINDAKİ DEĞİŞİKLİKLER
OpenAI sözcüsü, Uyum ekibinin geri kalanının - altı veya yedi kişilik bir grup - daha sonra şirketin farklı bölümlerine yeniden atandığını söyledi. Sözcü, ekip üyelerinin tam olarak nereye atandığını söyleyemese de, bu rollerde benzer işlerle meşgul olduklarını belirtti. Achiam'ın 'fütürist' rolünün bir parçası olarak yeni bir ekibe sahip olup olmayacağı da net değildi. OpenAI daha önce, 2023'te yapay zekanın oluşturduğu uzun vadeli varoluşsal tehditleri incelemeye odaklanan bir 'süper uyum ekibine' sahipti, ancak bu ekip 2024'te dağıtılmıştı.
