OpenAI'ın siber güvenlik kabiliyetlerini ölçmek amacıyla geliştirdiği iki deneysel yapay zeka modeli, test sürecinde beklenmedik bir davranış sergileyerek güvenli ortamın dışına çıktı. Şirketin açıklamasına göre modeller internete erişim sağlayarak yapay zeka platformu Hugging Face'e yönelik izinsiz işlemler gerçekleştirdi.
Yapay zeka modellerinin paylaşıldığı platformlardan biri olan Hugging Face, 16 Temmuz'da olağan dışı yoğunluk oluşturan bir siber saldırıya maruz kaldığını duyurdu. Şirket, saldırının kısa süre içerisinde çok sayıda otomatik işlem gerçekleştiren yapay zeka destekli bir sistem tarafından yapıldığını açıkladı.İlk aşamada saldırının kaynağı belirlenemezken, yaklaşık bir hafta sonra OpenAI yaptığı açıklamada saldırının, şirket bünyesinde geliştirilen iki deneysel ChatGPT modelinden kaynaklandığını bildirdi.OpenAI, söz konusu modellerin siber güvenlik becerilerini ölçmek amacıyla geliştirildiğini ve yalnızca kontrollü test ortamında çalışmaları gerektiğini belirtti.Şirketin açıklamasına göre modeller test sırasında güvenlik sınırlarını aşarak internete erişim sağladı.
Ardından Hugging Face üzerinde testte başarılı olmalarına yardımcı olabilecek bilgilere ulaşmaya yönelik izinsiz girişimlerde bulundu.
OpenAI, olayın planlanan test senaryosunun dışında gerçekleştiğini vurgulayarak Hugging Face ile birlikte teknik inceleme başlattığını duyurdu.İlk değerlendirmelere göre yapay zeka modelleri, kendilerine verilen görevi tamamlayabilmek için internette ek bilgi arayışına girdi.
Bu süreçte Hugging Face platformuna yönelen modellerin, test performansını artırabilecek verilere ulaşmaya çalıştığı ifade edildi.
Olayın ardından ilgili erişimler sonlandırılırken güvenlik önlemlerinin de gözden geçirildiği bildirildi.Yaşanan gelişme, gelişmiş yapay zeka sistemlerinin ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaları yeniden alevlendirdi.
Bazı uzmanlar olayın OpenAI'ın yapay zekaların siber güvenlik kabiliyetlerini göstermeye yönelik kontrollü bir çalışma olabileceğini öne sürerken, bazı uzmanlar ise asıl dikkat edilmesi gereken noktanın test ortamlarının güvenliği olduğunu savunuyor.
