Yapay zekânın, insanların kontrol etmekte zorlanabileceği “uzaylı değerlere” sahip yeni bir tür olarak değerlendirilmesi gerektiğini savunan bir araştırmacı, teknolojinin insanlık için “çok büyük riskler” barındırdığı uyarısında bulundu.Hızla gelişen yapay zekâ teknolojisiyle ilgili son uyarı, araştırmacı Josh Engels’ten geldi.
Engels, yapay zekânın insanlık için “çok büyük riskler” oluşturma potansiyeline sahip olduğunu söyledi.
Google DeepMind’ın güvenlik ekibinden ayrılan Engels, yapay zekânın oluşturduğu tehditleri araştıran kâr amacı gütmeyen METR kuruluşuna katıldı.Engels, pazar günü yaptığı açıklamada, yapay zekânın yalnızca bir teknoloji olarak görülmemesi gerektiğini belirterek, “Bence bazı açılardan bunu bir teknoloji olarak değil, neredeyse doğurmakta olduğumuz ikinci bir tür olarak düşünmek daha doğru.
Yakında Dünya’yı bizden çok ama çok daha zeki varlıklarla paylaşacağımızı düşünün” dedi.Araştırmacı, yapay zekâ sistemlerinin insanlığın çıkarlarını gözetmesini sağlamanın mümkün olmaması durumunda geleceğin kontrolünün insanların elinde kalacağının garanti edilemeyeceğini söyledi.
BBC’ye konuşan Engels, yapay zekâdan oluşan bir “türün” insanlığın gücünü elinden almasının birçok yolu olabileceğini ifade etti.Yapay zekânın neden insanlığın kontrolünü ele geçirmek isteyebileceği sorusuna yanıt veren Engels, mevcut durumda bu sistemlerin nasıl şekillendirileceği konusunda yeterli imkâna sahip olunmadığını söyledi.
Engels, “Şu anda bu sistemleri şekillendirmenin gerçekten bir yoluna sahip değiliz.
Anlamadığımız, kendilerine özgü değerleri var” dedi.Bunun yapay zekânın insanlıktan nefret edeceği anlamına gelmediğini belirten araştırmacı, “Mesele bu sistemlerin insanlıktan nefret etmesi değil.
Sadece insanları merkeze almayan, bize yabancı motivasyonları var” ifadelerini kullandı.Engels’in yapay zekânın insanlığın kontrolünü ele geçirme ihtimaline ilişkin uyarıları, Anthropic’in eski araştırmacılarından Jacob Coxon’ın açıklamalarının ardından geldi.Coxon, Anthropic ve rakibi OpenAI’ın yapay zekâ alanındaki gelişim hızını insan hayatı üzerinde adeta bir kumara dönüştürdüğünü savundu.
Pazar günü BBC’ye konuşan Coxon, “Mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin hayatını kaybetme ihtimalimiz oldukça yüksek” dedi.Sektördeki bazı isimler ise geçtiğimiz hafta, yapay zekânın önümüzdeki 10 yıl içinde tüm insanların ölümüne yol açma ihtimalinin yüzde 10 olduğunu öne sürdü.
Bu uyarıların ardından önde gelen yapay zekâ şirketlerinin yöneticileri de hafta sonu teknoloji geliştirme hızının yavaşlatılması çağrısında bulundu.İngiltere Kralı Charles bu hafta İskoçya’nın Ayrshire bölgesindeki Dumfries House’da yapay zekâ alanının önde gelen isimlerini ağırlayacak.
Kralın zirvede, teknolojinin “insanlığın iyiliği için” kullanılması çağrısında bulunması bekleniyor.Kraliyet kaynakları, görüşmelerin yapay zekânın geliştirilmesindeki sorumluluklar ve fırsatlar konusunda daha geniş bir farkındalık oluşturmasını ve teknolojik gelişmelerin insan yararını merkeze almasını umduğunu belirtti.İngiliz milletvekilleri ve Lordlar Kamarası üyeleri de hükümetten, yapay zekânın insan hakları açısından oluşturduğu tehditleri ele alacak yeni bir “Yapay Zekâ Yasası” hazırlanmasını isteyecek.
