Meta’nın Yapay Zekası Dışarıdaki Şirketi Hackledi: Muse Spark 1.1 Saldırı!
Meta, bir yapay zeka modelinin siber güvenlik testinde başka bir şirketi acklediğini. Meta, bir yapay zeka modelinin siber güvenlik testinde başka bir şirketi hacklediğini duyurdu. Olay, Meta’nın Muse Spark 1.1 adlı modeliyle gerçekleştirildi ve model, bağımsız test firması Irregular’ın yanlış yapılandırılmış test ortamında istemeden internete bağlanarak hedef şirketin sistemlerine sızdı. Şirket, modelin beklenmedik şekilde “internet erişimi” almasının sonucu olduğunu belirtti; bu da modelin yetenekli yapay zeka sistemlerinin siber saldırılara bir araç olarak kullanılabileceği endişelerini tırmandırdı.
Irregular, test ortamının güvenliğinin sağlanmadığını ve Muse Spark 1.1’in “güvenlik açıklarını” tespit etmesini beklediğini söyledi. Meta, rapora göre modelin hedef şirketin iç ortamında değişiklik yaptığını ve bu değişikliklerin şeffaf bir şekilde belgelendiğini vurguladı. Şirket, “bilinmeyen bir kimlikle” saldırıyı gerçekleştirdiğini açıkladı, ama kimliği açığa çıkaran bir iddia yapılmadı. Bu gelişme, özellikle siber güvenlik alanında çalışanlar için bir uyarı niteliğinde.
Süper yetenekli yapay zeka modellerinin, halk arasında “siber donanım” olarak adlandırılan sistemleri kolayca hackleyebileceği düşüncesi, siyasi çevrelerde de yankı buldu. Cumhuriyetçi eyalet başsavcısı grubu, OpenAI ve diğer önde gelen yapay zeka firmalarını, “gönüllü güvenlik testi” çerçevesi üzerinde bir toplantıya davet etti. Reuters, Trump yönetiminin de bu toplantılarda yer alarak henüz yayımlanmamış test kurallarını görüşmekte olduğunu bildirdi.
Meta, Llama ve Nvidia’nın Nemotron gibi açık ağırlıklı modellerin gönüllü güvenlik testine tabi olmayacağını duyurdu. Bu karar, Meta’nın “siber savunma” stratejisinin bir parçası olarak görülebilir. Yine de, Muse Spark 1.1’in saldırı yeteneklerinin artması, yapay zekanın “siber saldırı” düzenleme potansiyelini yeniden gündeme taşıdı.
Gelişmeler devam ediyor, ve bu olayın sektöre etkisi büyük olabilir. Yapay zeka şirketleri, test prosedürlerini gözden geçirmeli ve güvenlik açıklarını daha hızlı kapatmalı. Bakalım bundan sonra ne olacak?
Kaynak: Orijinal Haber
