Brett Levenson, 2019 yılında Apple'dan ayrılarak Facebook'ta iş bütünlüğü departmanına liderlik etmeye başladığında, sosyal medya devi Cambridge Analytica skandalıyla sarsılmış durumdaydı.
İÇERİK MODERASYONUNDAKİ SORUNLAR
Levenson, başlangıçta Facebook'un içerik moderasyonu sorununu daha iyi teknoloji ile çözebileceğini düşündü. Ancak sorun, teknolojiden daha derinlerde yatıyordu. İnsan denetçilerin, kendi dillerine makine çevirisi yapılmış 40 sayfalık bir politika belgesini ezberlemeleri bekleniyordu. Her bir işaretlenmiş içerik için 30 saniye içinde karar vermeleri gerekiyordu. Levenson'a göre, bu hızlı kararların doğruluk oranı “%50’den biraz daha iyi” idi. Bu tür bir gecikmeli ve reaktif yaklaşım, hızlı ve iyi finanse edilmiş rakiplerle dolu bir dünyada sürdürülebilir değildir.
MOONBOUNCE'UN KURULUŞU
Levenson'un yaşadığı hayal kırıklığı, “politikayı kod haline getirme” fikrini doğurdu. Bu, statik politika belgelerini yürütülebilir, güncellenebilir mantığa dönüştürme yöntemiydi. Bu fikir, TechCrunch'a özel olarak öğrendiğimiz üzere, 12 milyon dolarlık bir yatırım toplayan Moonbounce'un kurulmasına yol açtı. Moonbounce, içerik oluşturulan her yerde ek bir güvenlik katmanı sağlamak amacıyla şirketlerle çalışıyor. Şirket, müşterilerinin politika belgelerini incelemek, içerikleri anlık olarak değerlendirmek, 300 milisaniye içinde yanıt vermek ve eylem almak için kendi büyük dil modelini eğitti. Bugün, Moonbounce, kullanıcı tarafından oluşturulan içeriklerle ilgilenen platformlar, karakter veya arkadaşlar oluşturan AI şirketleri ve AI görüntü üreticileri gibi üç ana sektöre hizmet vermektedir. Levenson, Moonbounce'un günlük 40 milyondan fazla inceleme yaptığını ve platformda 100 milyonun üzerinde aktif kullanıcıya hizmet ettiğini belirtti. Müşterileri arasında AI arkadaşlık girişimi Channel AI, görüntü ve video üretim şirketi Civitai ve karakter rol yapma platformları Dippy AI ve Moescape bulunmaktadır.
