SGLang'ın bakımından sorumlu ekipten bazıları, bu popüler açık kaynaklı aracı ticari bir girişime dönüştürdü. RadixArk adlı şirket, geçen Ağustos'ta duyurulmuştu ve Accel liderliğindeki bir turda yaklaşık 400 milyon dolar değerlemeye ulaştığı bildiriliyor.
BERKELEY LABORATUVARINDAN ÇIKAN BAŞARI HİKAYESİ
RadixArk, 2023'te UC Berkeley'deki Databricks kurucu ortağı Ion Stoica'nın laboratuvarında SGLang olarak ortaya çıktı. Şirketin kurucu ortağı ve CEO'su Ying Sheng, daha önce xAI'da mühendis olarak çalışmış ve Elon Musk'ın yapay zeka girişiminden ayrılarak RadixArk'ı kurmuştu. Sheng, aynı zamanda Databricks'te araştırma bilimcisi olarak görev yapmıştı.
ÇIKARIM İŞLEMİNİ OPTİMİZE EDEN ARAÇLARA YOĞUN İLGİ
Hem SGLang hem RadixArk, yapay zeka modellerinin aynı donanım üzerinde daha hızlı ve verimli çalışmasını sağlayan çıkarım işlemi optimizasyonuna odaklanıyor. Bu tür araçlar, yapay zeka hizmetleriyle ilişkili sunucu maliyetlerinin büyük bir bölümünü oluşturan çıkarım sürecinde anında büyük tasarruflar sağlayabiliyor. Benzer şekilde, daha olgun bir proje olan vLLM de açık kaynaklı bir projeden bir girişime dönüştürüldü ve yaklaşık 1 milyar dolar değerlemeyle 160 milyon doların üzerinde fon toplama görüşmeleri yapıldığı bildirildi.
ÜCRETLİ HOSTING HİZMETLERİNE GEÇİŞ
RadixArk, SGLang'ı açık kaynaklı bir yapay zeka model motoru olarak geliştirmeye devam ediyor. Şirket aynı zamanda, işletmelerin yapay zeka modellerini zamanla daha akıllı hale getirmesine olanak tanıyan pekiştirmeli öğrenme için tasarlanmış Miles adlı özel bir çerçeve üzerinde çalışıyor. Araçlarının çoğu ücretsiz kalırken, RadixArk hosting hizmetleri için ücret almaya başladı.
