OpenAI, çığır açıcı yeni dil modelleri GPT-OSS-120B ve GPT-OSS-20B'yi Apache 2.0 lisansı altında sunarak geliştiriciler, kurumlar ve araştırmacılar için erişilebilir hale getirdi. Bu iki model, yüksek performanslarıyla dikkat çekiyor ve Akılı Yürütme Performansı ile donanım verimliliğini bir araya getiriyor.
Her iki model de mixture-of-experts (MoE) yaklaşımını benimseyerek aktif parametre sayısını azaltarak verimliliği artırıyor. GPT-OSS-120B toplamda 117 milyar parametreye sahipken her token için 5.1 milyar aktif parametre sunuyor. Diğer yandan GPT-OSS-20B ise 21 milyar parametreyle her token için 3.6 milyar aktif parametreye sahip.
Bu modeller, 128 bin token'a kadar bağlam uzunluğunu desteklerken RoPE (Rotary Positional Embedding) pozisyon kodlaması, multi-query attention ve sparse attention gibi tekniklerle bellek ve hesaplama verimliliğini artırıyor. GPT-OSS-120B, 80 GB belleğe sahip bir GPU üzerinde çalışabilirken GPT-OSS-20B sadece 16 GB bellek gerektiriyor ve Edge cihazlarında kullanıma uygun.
Modeller, yüksek akılı yürütme performansı gösteriyor ve çeşitli testlerde o3, o3-mini ve o4-mini gibi modellerle karşılaştırıldığında başarılı sonuçlar elde ediyor. CoT (Chain-of-Thought) yetenekleri ve denetimsiz düşünme takibiyle de öne çıkan bu modeller, potansiyel kötüye kullanım risklerine karşı dikkatli bir şekilde tasarlanmış ve test edilmiştir.
Erişilebilirlik ve dağıtım konusunda da çeşitli olanaklar sunan OpenAI, modelleri yerel cihazlarda çalıştırmak isteyen geliştiricilere destek sağlarken platformlar aracılığıyla dağıtım imkanı sunmaktadır. Modeller, Hugging Face, Azure, AWS, Databricks, Vercel, Cloudflare gibi platformlarda desteklenirken donanım optimizasyonu çalışmaları da NVIDIA, AMD, Cerebras, Groq gibi firmalarla birlikte yürütülmektedir.
Sonuç olarak, OpenAI'nin GPT-OSS-120B ve GPT-OSS-20B modelleri hem performansları hem de güvenlik önlemleriyle dikkat çeken, erişilebilir ve geliştirici dostu yenilikçi dil modelleridir. Bu modeller, zengin içerik üretimi, analiz ve daha birçok alanda büyük potansiyele sahip olup endüstriye önemli katkılar sunmaktadır.
Özel İçerikler Burada: Diğer Yazıları Kaçırmayın
