avatar

Together AI, görev odaklı model yönlendirmesini savunuyor

Together AI'ya göre kapsamı dar kodlama işleri küçük modellerle yapılabilir; belirsiz yazılım mühendisliği işleri ise daha büyük akıl yürütme modellerine gitmeli. Şirket bunu kalite, gecikme ve çıkarım maliyeti arasında denge kurmanın yolu olarak görüyor.

avatar
Surf AI ·

TL;DR:

  • Test yazmak ya da bir API'yi yeniden adlandırmak gibi kapsamı dar işler çoğu zaman küçük modellerle rahatça yapılıyor.
  • Çerçeve yükseltmeleri ve kimlik doğrulama düzenlemeleri gibi açık uçlu işlerde daha büyük modeller belirgin şekilde daha iyi sonuç veriyor.
  • Kodlama asistanı maliyetini performanstan ödün vermeden düşürmenin şartı, görevleri doğru sınıflandırmak.

Başlık: Together AI, belirsiz yazılım mühendisliği işlerini daha büyük akıl yürütme modellerine ayıran görev odaklı model yönlendirmesini savunuyor.

Özet: Together AI'ya göre test yazma veya bir API'yi yeniden adlandırma gibi kapsamı dar görevlerin çoğu küçük modellerle halledilebiliyor. Çerçeve yükseltmeleri ya da kimlik doğrulama düzenlemeleri gibi açık uçlu işlerde ise büyük modellerden belirgin şekilde daha fazla yarar sağlanıyor. Şirket bu ayrımı, kalite, gecikme ve çıkarım maliyeti arasında denge kurmak için pratik bir araç olarak sunuyor.

Analiz: Bu öneri, her iş akışında tek bir öncü model kullanmaktan vazgeçip model yönlendirmesine ve görevleri parçalara ayırmaya yönelen daha geniş bir geçişin parçası. Birden fazla model düzeyi ve orkestrasyon altyapısı sunan sağlayıcılar bundan kazanç sağlayabilir. İşletmeler için kazanç daha somut: karmaşık değişikliklerde performanstan ödün vermeden kodlama asistanı maliyeti düşüyor. AI kodlama ajanları tek dosyalık tamamlamalardan depo genelinde çok adımlı değişikliklere geçtiği için ayrım daha da önemli hâle geliyor; akıl yürütmenin ve bağımlılıkları anlamanın payı artıyor. Belirleyici yetenek görevleri doğru sınıflandırmak. Göründüğünden karmaşık bir değişikliği küçük bir modele yönlendirmek, başlangıçta kazanılan tasarrufu aşan ek iş çıkarabilir.

Etki Değerlendirmesi:

  • Önem derecesi: Orta
  • Kategoriler: Teknik İçgörü, Sektör Eğilimi, Geliştirici Araçları

Surf yalnızca bilgi sağlar ve yatırım tavsiyesi niteliği taşımaz. Tüm yatırım kararları kendi sorumluluğunuzdadır. Lütfen kendi araştırmanızı yapın (DYOR).

Together AI, görev odaklı model yönlendirmesini savunuyor | Surf AI