Google’ın yapay zeka modeli Gemini’nin, gerçekleştirilen bir güvenlik testi sırasında internette herkese açık bilgilerden yararlanarak bazı internet sitelerine erişmek için kullanıcı bilgilerini tahmin ettiği bildirildi.
Gemini’nin Kullanıcı Bilgilerini Tahmin Ettiği Ortaya Çıktı
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, olayın standart bir güvenlik değerlendirmesi sırasında yaşandığını açıkladı. Adkins, Gemini’nin kamuya açık internet verilerini kullanarak test kapsamında olduğunu belirlediği üç internet sitesine erişmek amacıyla kullanıcı bilgilerini tahmin ettiğini ifade etti.
ÜÇ KURUM BİLGİLENDİRİLDİ
Olaydan etkilenen üç kurumun durum hakkında bilgilendirildiği ve test süreçlerinin yeniden düzenlenmesi konusunda ilgili eğitim ortağıyla çalışma başlatıldığı belirtildi.
Google tarafından yapılan değerlendirmede, gelişmiş yapay zeka modellerinin güvenli ve sorumlu şekilde hareket edecek biçimde eğitilmesinin önemine dikkat çekildi.
Irregular tarafından yapılan açıklamada ise olayın diğer yapay zeka şirketlerinde tespit edilen benzer sorunlarla bağlantılı olduğu ve ilgili laboratuvarların temmuz ayının sonunda konu hakkında bilgilendirildiği aktarıldı. Şirket, kendi sistemlerinde tespit edilen sorunların haftalar önce giderildiğini bildirdi.
YAPAY ZEKA AJANLARINDA GÜVENLİK TARTIŞMASI
Benzer güvenlik olaylarının daha önce Meta, Anthropic ve OpenAI tarafından da açıklandığı belirtildi. Meta, ağustos ayında yaşanan olayda herhangi bir güvenlik sınırının aşılmadığını ve karmaşık bir siber saldırı gerçekleştirilmediğini duyurmuştu.
Yapay zeka ajanlarının internet ve bilgisayar sistemlerine daha geniş erişim sağlaması, bu teknolojilerin güvenli kullanımı ve kontrol mekanizmaları konusunda yeni tartışmaları beraberinde getiriyor.
