Yapay Zeka Güvenliğinde Küresel İttifak: LLM Açıklarına Bug Bounty Ödülü
Yazılım devleri Microsoft ve Meta, açık kaynak yapay zeka modellerinin kötü niyetli manipülasyonlara (prompt injection, jailbreak, data poisoning) karşı korunmasını sağlamak amacıyla 'Open AI Safety Alliance' konsorsiyumunu kurduklarını açıkladı. Ortak yapılan açıklamada, açık kaynaklı Llama ve Phi modellerindeki açıkları bulan bağımsız güvenlik araştırmacılarına 1 milyon dolarlık ödül havuzu dağıtılacak.
Otomatik Tehdit Engelleme Yazılımı Yayınlanacak
Konsorsiyum bünyesinde geliştirilen açık kaynaklı 'AI Sentinel' yazılımı, şirketlerin kendi sunucularında çalışan modellerin güvenliğini anlık tarayacak. Meta AI Güvenlik Direktörü, 'Açık kaynak modeli korumanın tek yolu küresel toplulukla şeffaf iş birliği yapmaktır' dedi.
Üniversiteler Ve Siber Güvenlik Firmaları Katılabilecek
Programa başvuruların bugün itibarıyla açıldığı belirtildi.