Reflection Beam: 501B parametreli açık model yayımlandı

Reflection adlı yeni bir ABD laboratuvarı ilk modelini yayımladı: Beam. Hugging Face'in blogundaki duyuruya göre model açık ve Apache 2.0 lisansıyla geliyor. Duyuruya göre ekipler modeli kendi donanımında ya da bulutunda çalıştırabiliyor ve kendi kullanım alanlarına göre özelleştirebiliyor.

Duyuruda ne yazıyor?

• Beam, 501B parametreli bir uzman karışımı (MoE) modeli; parametre, modelin öğrenilmiş ayarlarının sayısı demek; her token için bunların 23B kadarı devreye giriyor.
• Girdi olarak metin alıyor, bağlam penceresi 1M token; yani tek seferde çok uzun metin okuyabiliyor.
• Odağı kod yazma ve ajan olarak çalışma.
• Hugging Face, Reflection'ın bu modelle yapılan en iyi projelere $10,000 değerinde Hub kredisi vereceğini de yazıyor.

Küçük bir işletme için anlamı

Bu model, bir restoranın ya da butiğin bilgisayarına göre değil. Hugging Face, uzun bağlam ve eşzamanlı istekler için dört B200 ekran kartı öneriyor. Yine de haber iki nedenle önemli:

• Seçenek. Açık lisanslı bir model, kendi altyapısında çalıştırmak isteyen ekipler için başka bir yol açıyor.
• Soru sormak için bir neden. Yapay zekâ kullanan bir hizmet alırken hangi modelin çalıştığını sormak mantıklı.

Pratik tavsiyemiz sade: Beam'i kendin kurmaya çalışma. Ama web sitende, menüde ya da reklamda yapay zekâ kullanan bir hizmet alıyorsan, hangi modelin çalıştığını ve verinin nereye gittiğini sağlayıcına sor.

Kaynak: Hugging Face blogu, Beam duyurusu. Not: bu duyurudaki ifadelere dayanır; modelin performansını biz ölçmedik.