İnternet Bağlantısı Olmadan Akıllı Telefonlarda Çalışabilen Yeni Sıkıştırılmış Model Yayınlandı
Avrupa merkezli yapay zeka girişimi Mistral AI, mobil cihazlar ve nesnelerin interneti (IoT) donanımları için özel olarak tasarlanan yeni nesil hafif büyük dil modeli "Mistral-Tiny-v3"ü duyurdu. Yeni model, gelişmiş kuantizasyon teknolojileri kullanılarak parametre boyutunun küçültülmesiyle, akıllı telefonlarda internet bağlantısına ihtiyaç duymadan, tamamen yerel olarak çalışabiliyor.
Uç Cihazlarda Yüksek Hız ve Düşük Güç Tüketimi
Mistral-Tiny-v3, parametre boyutunun son derece küçük olmasına rağmen mantıksal akıl yürütme, metin özetleme ve temel düzeyde kod yazma testlerinde kendisinden iki kat daha büyük modellere yakın bir başarı sergiliyor. Saniyede 45 token üretebilen yeni model, akıllı telefon işlemcilerini aşırı yormayarak cihazların pil ömrünü de koruyor. Mistral AI mühendisleri, "Bu model, yapay zekanın her an ve her yerde, veri gizliliği endişesi olmadan güvenli bir şekilde kullanılabilmesini sağlayacak" açıklamasında bulundu.
Açık Kaynak Kodlu Olarak Geliştiricilerin Erişimine Sunuldu
Model, açık kaynak prensiplerine uygun olarak Hugging Face ve Mistral platformları üzerinden ücretsiz indirilebilir duruma getirildi. Geliştiriciler, Mistral-Tiny-v3'ü kendi mobil uygulamalarına kolayca entegre edebilecek ve özel veri setleriyle ince ayar (fine-tuning) yapabilecekler. Teknoloji uzmanları, bu hafif modelin akıllı saatlerden akıllı ev asistanlarına kadar geniş bir donanım yelpazesinde otonom dijital asistan dönemini başlatacağını öngörüyor.