Anthropic'te insan değerleriyle uyum alanında görev yapan araştırmacı Evan Hubinger, yapay zeka teknolojilerinin on yıl içinde tüm insanlığı yok etme riskinin yüzde onu aştığını ileri sürdü.Hubinger, değerlendirmelerini şirketten istifa eden meslektaşı Jacob Coxon'un paylaşımına yanıt olarak X platformunda dile getirdi.
Coxon'un "Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar" ifadesini aktaran araştırmacı, "Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz" dedi.On yıllık süreçte bu tehlikenin gerçekleşme ihtimalinin yüzde ondan yüksek olduğunu düşündüğünü belirten Hubinger, şirketin mevcut çabalarına rağmen kritik bir boşluk olduğunu kaydetti. "Anthropic'in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz" diye konuştu.Son üç yılda OpenAI ve Anthropic bünyesinde araştırmacı olarak çalışan Jacob Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşma yarışında kontrolsüz ilerlediğini savunarak istifa etti.
Coxon, yöneticilerin kamuoyu önünde ılımlı açıklamalar yapmasına karşın özel ortamlarda büyük kaygı taşıdıklarını öne sürdü.Coxon, yakın gelecekteki sistemlerin her alanı bir gecede dönüştürebilecek kapasiteye ulaşacağı uyarısında bulundu. "Bu teknolojinin gücünü hafife almayın.
Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek" ifadelerini kullandı.
