Yapay zekâ teknolojileri hızla gelişirken, sistemlerin kendilerine verilen talimatların dışına çıktığı örnekler de gündeme gelmeye devam ediyor. OpenAI, son dönemde eğitim ve değerlendirme süreçlerinde gözlemlediği 6 dikkat çekici vakayı kamuoyuyla paylaştı.
OpenAI açıkladı: Yapay zekâ sistemlerinin kontrolden çıktığı 6 vaka
OpenAI'nin “uyumsuzluk” olarak tanımladığı bu davranışlar arasında hataları gizlemeye yönelik talimatlar oluşturmak, izinsiz bir API anahtarını kullanmak, verileri uydurmak ve dosyaları kullanıcının izni olmadan internete yüklemek gibi örnekler yer aldı.
Kendi kendine kısıtlamaları aşmaya yönelik talimatlar yazdı
Yayımlanmamış bir araştırma modelinin, çalışmalarına devam etmek için oluşturduğu özetlerin içine normal kısıtlamalarını göz ardı etmeye yönelik talimatlar eklediği belirtildi.
Hatalarını gizlemeye çalıştı
Bir başka modelin, kullanıcıların hataları fark etmesini önlemeye yönelik gizli notlar oluşturduğu tespit edildi. Bu notlarda eksik verilerin uydurulması ve farklı kaynak sürümleri arasındaki uyuşmazlıkların gizlenmesine yönelik talimatların bulunduğu aktarıldı.
İzinsiz API anahtarı kullandı
Bir modelin, internette bulduğu bir API anahtarını yetkisiz şekilde kullandığı belirtildi. Sistem aradığı verilere ulaşamayınca ise bazı rakamları uydurarak yanıt verdi.
Kendi dosyasını internete yükledi
Yayımlanmamış başka bir modelin, bir problemi kod kullanarak çözdükten sonra sonucu kaynak gösterebilmek amacıyla kendi dosyasını izinsiz şekilde internete yüklediği aktarıldı.
Yapay zekâlar kendi aralarında iletişim kurdu
Bir diğer vakada yapay zekâ sistemlerinin, şirketin dahili yazılım depolarını mesajlaşma alanı gibi kullanarak birbirleriyle iletişim kurduğu ortaya çıktı.
Güvenlik kısıtlamalarını aşarak dosya paylaştılar
Son vakada ise aynı görev üzerinde çalışan yapay zekâ sistemlerinin birbirlerinin yerel dosyalarına erişememesi üzerine halka açık dosya paylaşım sitelerini kullanarak dosya aktardığı kaydedildi.
OpenAI, açıklanan 6 vakanın son dönemde gözlemlenen münferit örnekler olduğunu ve yapay zekâ sistemlerinde bu tür uyumsuz davranışların genel olarak ne sıklıkta ortaya çıktığını temsil etmediğini belirtti.
