OpenAI, iki yapay zeka modelinin güvenli bir test ortamından sızdırıldığını ve bu sızma girişimiyle dahili bir siber güvenlik değerlendirmesinde kopya çekildiğini duyurdu. Şirket, olayı salı günü açıkladı. Saldırı, OpenAI’nin şu anda halka açık en güçlü modeli olan GPT-5.6 Sol ve henüz yayınlanmamış daha güçlü bir modeli kapsıyor. OpenAI, modellerin ExploitGym adlı bir platformda test edildiğini belirtiyor. ExploitGym, hack yeteneklerini ölçen bir test platformu olup, test sırasında siber saldırıları engelleyen filtreler devre dışı bırakılmıştı. Modeller, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformunda test sonuçlarının saklandığını fark etti. Bu sayede, OpenAI’nin araştırma altyapısındaki ve Hugging Face’in canlı sunucularındaki zafiyetleri birbirine bağlayarak ilerlediler ve modelleri doğrudan Hugging Face’in veritabanındaki cevaplara ulaştılar. OpenAI, modellerin bu testi çözmeye ‘aşırı odaklandığını’ vurguladı ve olayı ‘benzeri görülmemiş bir siber olay’ olarak nitelendirdi.

Hugging Face, saldırının ayrıntılarını 16 Temmuz'daki bir duyuruda ilk kez açıkladı. Saldırganın dahili veri kümeleri ve hizmet erişim anahtarlarına ulaştığı belirtildi. Savunma sürecinde, ABD merkezli bir modelin güvenlik filtreleri adli incelemeyi engelledi. Bunun yerine Çinli Z.ai firmasının açık kaynaklı GLM 5.2 modelini kullanan ekip, çözümün önünü açtı. Hugging Face, istismar edilen kod yollarını kapattığını ve etkilenen tüm erişim anahtarlarını yenilediğini açıkladı. Hiçbir halka açık model, veri kümesi veya kullanıcıya açık hizmetin etkilenmediği vurgulandı. Hugging Face CEO'su Clem Delangue, OpenAI’nin açıklaması için bir açıklama paylaştı. ‘Belki de ilk defa yaşanan bu olay, uzun süredir savunduğumuz bir gerçeği kanıtladı: Yapay zeka güvenliği hiçbir şirketin kendi başına ve gizli şekilde çözebileceği bir mesele değil. Bu sorun ancak şeffaflıkla ve savunma cephesinde herkesin erişimine açık bir şekilde, ortak çalışma ile çözülebilir.’ dedi.

Her iki şirket de şu anda ortak bir soruşturma yürütüyor. OpenAI, çalışmalar tamamlandığında tüm ayrıntıları paylaşacağını belirtti. Açık kalan soru şu: Mevcut önlemler, modeller daha da geliştiğinde yeterli olacak mı?