Yapay zeka teknolojilerinin hızlı gelişimi, Avrupa Birliği'nden (AB) önemli bir güvenlik uyarısını gündeme getirdi.
AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zekanın en büyük riskinin insan denetiminin kaybolması olduğunu belirtti.
Virkkunen, bu durumun siber güvenlik tehditlerine yol açabileceğini ifade etti.Test Ortamının Dışına Çıkan Modellerin Tehditleri Neler?Finlandiya kamu yayıncısı Yle'deki bir programa katılan Virkkunen, yapay zeka alanındaki gelişmelerin yol açabileceği tehlikeleri değerlendirerek, belirli güvenlik tedbirlerinin sürekli olarak uygulanmasının gerekliliğini vurguladı.
Son zamanlarda bazı yapay zeka modellerinin kapalı test ortamlarının dışına çıktığını ve bu durumun siber güvenlik açısından zararlara yol açabileceğini hatırlattı.Virkkunen, dünya genelinde yapay zekayı kötü amaçlar doğrultusunda kullanmaya hazır aktörlerin varlığının altını çizerek, bu riskin sürekli olarak göz önünde bulundurulması gerektiğini ifade etti.
Modellerin güvenilirliğinden emin olunması gerektiğini belirten Virkkunen, yapay zeka sistemlerinin piyasaya sunulmasının ardından da sürekli değerlendirilmesi ve izlenmesi gerektiğini bildirdi.AB Yapay Zeka Yasası ve Güvenlik YükümlülükleriAB'nin bu tehditlere karşı mevzuat adımlarıyla hazırlık yaptığını belirten Virkkunen, AB Yapay Zeka Yasası'na dikkat çekti.
Bu yasanın, model sağlayıcılarına risk analizlerini sürekli yapma ve gerekli güvenlik mekanizmalarını devreye alma zorunluluğu getirdiğini ifade etti.Global teknoloji şirketlerinin ve sektördeki aktörlerin, AB tarafından belirlenen kuralları dikkate aldığını kaydeden Virkkunen, yapay zekanın oluşturabileceği tehditlere karşı korunmada uluslararası işbirliğinin en kritik araç olduğunun altını çizdi.
Bu bağlamda, yapay zeka sistemlerinin güvenli bir şekilde geliştirilmesi için gerekli önlemlerin alınması gerektiği vurgulandı.İnsan Denetimi ve Yapay Zeka Sistemlerinin GeleceğiVirkkunen, yapay zeka sistemlerinin her aşamasında kontrolün insanlarda kalması gerektiğini belirterek, bu durumun güvenlik açısından hayati önem taşıdığını ifade etti.
Yapay zeka teknolojilerinin hızla yaygınlaşması, insan denetiminin kaybolması durumunda ortaya çıkabilecek riskleri daha da artırmaktadır.
Bu nedenle, yapay zeka uygulamalarının geliştirilmesi sürecinde insan faktörünün göz ardı edilmemesi gerektiği önemle vurgulanmaktadır.Sonuç olarak, yapay zeka alanındaki gelişmelerin dikkatle izlenmesi ve gerekli önlemlerin alınması, hem bireyler hem de toplum için büyük bir önem taşımaktadır.
Bu bağlamda, AB'nin ortaya koyduğu yasaların ve düzenlemelerin, yapay zeka sistemlerinin güvenli bir şekilde geliştirilmesine katkı sağlaması beklenmektedir.
