Mistral AI NeMo Large Modeli Tamamen Açık Kaynak Olarak Yayınlandı

Avrupa'nın Yapay Zeka Şampiyonundan Açık Kaynak Topluluğuna Dev Hediye

Fransa merkezli üretken yapay zeka şirketi Mistral AI, donanım devi Nvidia ile ortaklaşa inşa ettiği en gelişmiş açık kaynaklı dil modeli Mistral NeMo Large'ı duyurdu. 120 Milyar parametre boyutundaki model, Apache 2.0 lisansı ile Hugging Face ve GitHub platformlarında ticari kullanıma tamamen serbest olarak yayınlandı.

Nvidia NeMo Megatron-LM Altyapısı Ve 128K Bağlam Penceresi

Mistral NeMo Large, Nvidia'nın Megatron-LM ve TensorRT-LLM kütüphaneleriyle sıfırdan eğitildi. 128K token bağlam penceresine sahip olan model, 4-bit FP4 kuantizasyonu sayesinde tek bir Nvidia H200 veya 8 adet RTX 4090 GPU sunucusunda çalışabiliyor. Model kodlama ve mantık yürütme testlerinde kapalı kaynaklı Llama 3.3 70B modelini geride bıraktı.

Kurumsal Veri Gizliliği İsteyen Şirketler İçin İdeal

Verilerini bulut şirketleriyle paylaşmak istemeyen Türk bankaları ve savunma sanayii firmaları, Mistral NeMo Large modelini kendi yerel sunucu merkezlerinde (on-premise) çalıştırmaya başladı.