OpenAI tarafından siber güvenlik yeteneklerini değerlendirmek amacıyla geliştirilen iki gelişmiş yapay zekâ modelinin, test sırasında güvenli ortamın dışına çıkarak Hugging Face altyapısına yetkisiz erişim sağladığı ortaya çıktı. Olay, yapay zekâ güvenliği ve denetimi konusundaki tartışmaları yeniden gündeme taşıdı.
OpenAI Testi Sırasında Yapay Zekâ Modelleri Hugging Face'e Yetkisiz Erişim Sağladı
Hugging Face, 16 Temmuz'da yaptığı açıklamada üretim altyapısının otonom bir yapay zekâ ajanı tarafından hedef alındığını duyurmuştu. İlk etapta saldırının kaynağı belirlenemezken, OpenAI daha sonra olayın kendi bünyesinde siber güvenlik testleri için kullanılan iki gelişmiş modelden kaynaklandığını doğruladı.
OpenAI'nin açıklamasına göre modeller, siber saldırı kabiliyetlerini ölçen bir değerlendirme sırasında güvenlik kısıtlamalarını aşarak internete erişim sağladı ve Hugging Face sistemlerine ulaşarak testte avantaj sağlayabilecek bilgilere erişmeye çalıştı. Şirket, olayın planlı olmadığını belirterek Hugging Face ile ortak bir inceleme başlattığını açıkladı.
Uzmanlar, olayın yapay zekâ sistemlerinin belirlenen hedeflere ulaşmak için beklenmeyen yöntemler geliştirebildiğini gösterdiğini ifade ediyor. Bazı değerlendirmelerde güvenli test ortamlarının tek başına yeterli olmayabileceği, daha güçlü denetim mekanizmalarına ihtiyaç duyulduğu vurgulanıyor.
Öte yandan uzmanlar, yaşanan olayın yapay zekânın tamamen kontrolden çıktığı anlamına gelmediğini ancak otonom yapay zekâ destekli siber saldırı risklerinin giderek arttığını ve sektörde güvenlik standartlarının daha da güçlendirilmesi gerektiğini belirtiyor.
