Açık Ağırlıklı Yapay Zekada 10 Milyon Token Bağlam Eşiği Aşıldı
Yapay zeka araştırma laboratuvarı Pokee AI, büyük dil modellerinde bağlam penceresi mimarisini kökten değiştiren yeni Pokee-Isaac 28B modelini duyurdu. Geliştirilen yeni nesil 'Sparse-Linear Attention' algoritması sayesinde model, tam 10 milyon token uzunluğundaki metin ve kod bloklarını tek bir tüketici sınıfı Nvidia RTX 4090 (24 GB) ekran kartı üzerinde kayıpsız işleyebiliyor. Model, açık kaynak ağırlıklarıyla Hugging Face üzerinde küresel yazılım ekosisteminin erişimine sunuldu.
Agentic Mimari ile Karmaşık Kod Tabanları Tek Seferde İnceleniyor
Pokee AI Baş Araştırmacısı Dr. Sarah Lin yaptığı lansman sunumunda, 'Mevcut modellerde yüz binlerce satırlık kurumsal kod tabanını parçalayarak analiz etmek bağlam kaybına yol açıyordu; Pokee-Isaac ile 500 bin satırlık tam bir projeyi tek hamlede hafızaya alıyoruz' açıklamasında bulundu. Yapılan bağımsız kıyaslama testlerinde, modelin çok adımlı hata ayıklama ve mimari analiz görevlerinde %94,8 doğruluk oranına ulaştığı ve bellek tüketimini standart Transformer mimarilerine kıyasla 12 kat düşürdüğü belgelendi.
Türk Yazılım Şirketleri İçin Maliyet Avantajı
Büyük dil modellerinin bulut API maliyetleri yerli teknoloji girişimlerinin bütçesinde önemli bir yer tutarken, Pokee-Isaac 28B'nin yerel sunucularda çalışabilmesi veri gizliliği ve bütçe optimizasyonu açısından kritik bir alternatif sunuyor. Türkiye'deki SaaS ve FinTech şirketleri, müşteri verilerini kurum dışına çıkarmadan tam kapsamlı otonom yazılım ajanlarını kendi bünyelerinde koşturabilecek.