Bilişim Maliyetleri Tırmanırken Silikon Çeşitliliği Stratejisi Hızlandı
Üretken yapay zeka modellerinin milyarlarca dolarlık altyapı maliyetlerini yönetmeye çalışan OpenAI, donanım tedarik zincirinde radikal bir adım atıyor. Şirketin Nvidia GPU'larına olan yoğun bağımlılığını azaltmak ve çıkarım maliyetlerini dengelemek amacıyla Google Tensor Processing Unit (TPU) çiplerini altyapı filosuna katmak için görüşmeler yürüttüğü bildirildi.
Broadcom ve Google İle Hibrit Çip Mimarisi Kuruluyor
OpenAI'ın mevcut bilgi işlem operasyonları büyük ölçüde Microsoft Azure sunucularındaki Nvidia hızlandırıcıları üzerinde koşuyor. Ancak şirketin Broadcom ile ortak geliştirdiği özel yapay zeka çipi 'Jalapeño'nun yanı sıra Google Cloud bünyesindeki TPU v5e ve v6e kümelerini de iş yüklerine dahil etmeyi planladığı kaydedildi. Bu stratejik çeşitlendirme, model eğitimi sırasında GPU darboğazlarını aşmayı ve büyük dil modellerinin anlık yanıt sürelerini hızlandırmayı amaçlıyor.
Yapay Zeka Sektöründe Donanım Pazarlıkları Kızışıyor
Analistler, yapay zeka laboratuvarlarının tek bir çip üreticisine bağımlı kalmasının finansal sürdürülebilirliği tehdit ettiğine işaret ediyor. OpenAI'ın TPU ve özel silikon hamlesi, bulut sağlayıcıları arasındaki fiyatlandırma rekabetini artırırken kurumsal yapay zeka çözümlerinin son kullanıcıya daha erişilebilir maliyetlerle sunulmasına katkı sağlayacak.
Enerji Tüketimi ve Donanım Tedarik Güvencesi
Yapay zeka modellerinin milyarlarca parametreli ağırlıklarını bellek bant genişliğinde tutabilmek için Google TPU donanımlarının sunduğu sıvı soğutma verimliliği kurumsal müşterilere maliyet avantajı sağlıyor. OpenAI, tek bir tedarikçiye bağımlı kalmanın getirdiği lojistik riskleri asgariye indirmek amacıyla çoklu bulut orkestrasyon katmanlarını modernize ederek model çıkarımını farklı çip aileleri arasında dinamik olarak dağıtıyor.
Yapay zeka modellerinin çıkarım hızını artırmak ve bulut sunucularındaki bekleme sürelerini en aza indirmek isteyen büyük teknoloji şirketleri, silikon çeşitliliğine büyük önem veriyor. Google TPU mimarisinin sunduğu düşük enerji tüketimi ve yüksek verim katsayısı, OpenAI gibi dev şirketlerin işlem maliyetlerini daha rasyonel seviyelerde tutmalarına doğrudan imkân tanıyacak.