OpenAI’dan Astra’ya Fren! Yetenekleri Endişe Yarattı
OpenAI, cuma günkü açıklamasında geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında kaydettiği ilerlemenin ardından bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı. Şirketin yaptığı ön değerlendirmelere göre, Astra’nın siber güvenlik yetenekleri, OpenAI’ın “Criticalın Preparedness Framework” adlı güvenlik çerçevesi kapsamında bir model, insan müdahalesi olmaksızın birçok güçlendirilmiş gerçek dünya kritik sisteminde tüm ciddiyet seviyelerindeki güvenlik açıklarını tespit edip işlevsel sıfırıncı gün istismarları geliştirebiliyorsa ya da yalnızca üst düzey bir hedef verildiği durumda, güçlendirilmiş hedeflere yönelik siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabiliyorsa “Kritik” siber güvenlik eşiğine ulaşmış sayılıyor. OpenAI, modelin bu seviyeye kesin olarak ulaştığını söylemedi, ancak mevcut performansın “Criticalın Preparedness Framework” kapsamında bu ihtimal, ek önlemlerin devreye alınmasını gerektirdiğini belirtti.
Astra’nın değerlendirme süreci devam ederken şirket, modelin daha önce gündeme gelen Hugging Face olayında kullanılan model olmadığını özellikle vurguladı. Astra, başka bir yayımlanmamış modeli, şirketin gerçekleştirdiği iç testler sırasında Hugging Face sistemlerine girmişti. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçmişti. OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının nedeninin model yeteneklerinde yaşanabilecek bu potansiyel değişim konusunda şeffaf davranmak olduğunu söyledi.
Şirket, kamuoyunun yanı sıra güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti. OpenAI, Astra’nın yetenekleri konusunda daha sıkı güvenlik önlemleri altında çalışmaların sürdürüleceğini açıkladı. Bu karar, AI topluluğundaki güvenlik tartışmalarını yeniden canlandırdı.
Bakalım bu yeni önlemler, Astra’nın gelecekteki yolculuğunda ne gibi zorluklar doğuracak? Gelişmeleri yakından takip ediyoruz.
Kaynak: Orijinal Haber
