OpenAI, siber güvenlikten ruh sağlığına kadar yapay zeka ile ilgili ortaya çıkan riskleri incelemekten sorumlu yeni bir üst düzey yönetici arayışında. Şirketin CEO'su Sam Altman, X platformunda yaptığı bir paylaşımda, yapay zeka modellerinin 'bazı gerçek zorluklar sunmaya başladığını' kabul etti. Bu zorluklar arasında 'modellerin ruh sağlığı üzerindeki potansiyel etkisi' ve 'siber güvenlikte o kadar iyi hale gelmeleri ki kritik güvenlik açıklarını bulmaya başlamaları' yer alıyor.
HAZIRLIK ÇERÇEVESİNİ YÖNETECEK
OpenAI'nin 'Hazırlık Başkanı' rolü için yayınladığı ilan, bu pozisyonun şirketin hazırlık çerçevesini yürütmekten sorumlu olduğunu belirtiyor. Bu çerçeve, 'ciddi zarar riski oluşturan sınır yetenekleri izlemek ve bunlara hazırlanmak için OpenAI'nin yaklaşımını açıklayan' bir plan olarak tanımlanıyor. Şirket, 2023 yılında ilk kez bir hazırlık ekibi oluşturduğunu duyurmuş ve bu ekibin, kimlik avı saldırıları gibi daha acil risklerden nükleer tehditler gibi daha spekülatif olanlara kadar potansiyel 'felaket risklerini' incelemekten sorumlu olacağını söylemişti.
GÜVENLİK EKİBİNDE DEĞİŞİKLİKLER
Bir yıldan kısa bir süre sonra, OpenAI Hazırlık Başkanı Aleksander Madry'yi yapay zeka akıl yürütmesine odaklanan bir işe yeniden atadı. OpenAI'deki diğer güvenlik yöneticileri de şirketten ayrıldı veya hazırlık ve güvenlik dışında yeni roller üstlendi. Şirket ayrıca yakın zamanda Hazırlık Çerçevesini güncelleyerek, rakip bir yapay zeka laboratuvarı benzer korumalar olmadan 'yüksek riskli' bir model yayınlarsa, güvenlik gereksinimlerini 'ayarlayabileceğini' belirtti.
RUH SAĞLIĞI ÜZERİNDEKİ ETKİLER
Altman'ın paylaşımında ima ettiği gibi, üretken yapay zeka sohbet robotları, ruh sağlığı üzerindeki etkileri konusunda artan bir incelemeyle karşı karşıya. Son davalar, OpenAI'nin ChatGPT'sinin kullanıcıların sanrılarını güçlendirdiğini, sosyal izolasyonlarını artırdığını ve hatta bazılarını intihara sürüklediğini iddia ediyor. Şirket, ChatGPT'nin duygusal sıkıntı belirtilerini tanıma ve kullanıcıları gerçek dünya desteğine bağlama yeteneğini geliştirmek için çalışmaya devam ettiğini söyledi.
