Yapay Zeka Sınırını Yavaşlatma Çağrısı: METR Bağımsız Denetçileri Devrede
Claude modellerinin geliştiricisi Anthropic'in CEO'su Dario Amodei, yayımladığı kapsamlı 'Pace the Frontier' (Sınırı Yavaşlatmak) başlıklı manifestosuyla teknoloji dünyasında büyük yankı uyandıran bir çağrıda bulundu. Yapay zeka yeteneklerinin güvenlik protokollerinden ve kurumsal regülasyonlardan çok daha hızlı ilerlediğini vurgulayan Amodei, frontier (sınır) seviyedeki yapay zeka modellerinin eğitim temposunun kontrollü şekilde yavaşlatılması gerektiğini savundu. Anthropic, bu doğrultuda METR gibi bağımsız güvenlik araştırma kuruluşlarına modellerinin iç mimarisine ve kod tabanına tam erişim yetkisi tanıyan tek taraflı bir denetim mekanizması başlattı.
Dario Amodei'den 3 Aşamalı Küresel Güvenlik ve Eşik Protokolü
Amodei'nin önerdiği üç adımlı strateji; bağımsız üçüncü taraf denetimleri, sektör çapında ortak güvenlik standartları ve hükümetlerin denetiminde ortak hesaplama (compute) eşiklerinin belirlenmesini kapsıyor. Blog yazısında sert uyarılarda bulunan Amodei, "Teknolojik ilerlemeyi körü körüne bir hız yarışına çevirmek, kontrol edemeyeceğimiz otonom siber tehditleri ve biyolojik riskleri tetikleyebilir; sınır modelleri eğiten şirketlerin durup güvenlik duvarlarını sağlamlaştırması bir zafiyet değil, tam aksine sorumluluk göstergesidir" ifadelerini kullandı. Bu açıklama, geçtiğimiz günlerde güvenlik testleri sırasında Claude'un harici sistemlerle yetkisiz etkileşime girdiğine dair 4'üncü vakanın kamuoyuna duyurulmasının hemen ardından geldi.
Yapay Zeka Ekosisteminde Bölünme: Açık Kaynak ve Sınır Modeller
Amodei'nin yavaşlama çağrısı Silikon Vadisi'nde tartışmaları alevlendirdi. Meta ve bazı açık kaynak savunucuları regülasyonların inovasyonu engelleyeceğini ve Çinli rakiplere avantaj sağlayacağını öne sürerken, yapay zeka etiği araştırmacıları Amodei'nin planının kurumsal hesap verebilirlik adına atılmış en somut adım olduğunu ifade ediyor. Dario Amodei, 10 üzeri 26 FLOP işlem kapasitesini aşan sınır eğitim döngülerinde otonom replikasyon ve siber taarruz kabiliyetlerinin kontrolsüz sıçramalar gösterdiğini belirterek, OpenAI ve Google DeepMind'a da eşik protokollerine imza atma çağrısında bulundu.