Teknoloji şirketlerinde çalışan araştırmacılar, kendi kendine öğrenebilen yapay zeka modellerinin insan kontrolünü aşması durumunda ortaya çıkabilecek ciddi riskler hakkında uyarılarda bulundu.
Bu tür sistemlerin gelişimi, insanlık açısından varoluşsal sonuçlar doğurabileceği endişesini beraberinde getiriyor.Yapay Zeka Güvenliği Üzerine Yükselen EndişelerAraştırmacılar, yapay zeka alanında çalışan mevcut ve eski uzmanların, şirketlerin insan kontrolünü aşabilecek sistemler üretirken dünyayı bu felaket risklerine karşı korumakta yetersiz kaldıklarını ifade etti.
Palisade Research adlı kâr amacı gütmeyen kuruluş, bu konuda çalışanlarla gerçekleştirdiği video mülakatlarını Reuters ile paylaştı.
Araştırmacılar, varoluşsal risk konusundaki endişelerinin son derece samimi olduğunu vurguladı.Laboratuvarlarda ihtiyat çağrısı yapanların yanı sıra yeni yapay zeka modelleri geliştirenlerin daha fazla takdir gördüğü belirtiliyor.
Frominside.ai adlı proje, yapay zeka ile ilgili endişeleri sosyal medyanın ötesine taşıyarak kamuoyuna ulaştırmayı hedefliyor.Riskin Boyutu Nedir?DeepMind bünyesinde çalışan araştırmacı Neel Nanda, yapay zekanın insanlığın yok olma ihtimalinin en az yüzde 10 olduğuna inandığını belirtti.
Nanda, bu oranı 'saçma derecede yüksek' olarak nitelendirdi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü laboratuvarların gözleri bağlı bir yarış yürüttüğünü savundu ve bu sürecin olası sonuçlarının tahminlere bırakıldığını ifade etti.Aynı zamanda Anthropic şirketinin halka arz sürecinde potansiyel yatırımcıları, gelişmiş yapay zekanın insanlık için felaket veya varoluşsal riskler yaratabileceği konusunda uyarmayı planladığı bildirildi.
Araştırmacılar, yapay zeka sistemlerinin insan müdahalesi olmadan sürekli öğrenip yeni yetenekler kazandığı bir döngüsel öz gelişim kapasitesine ulaşmasının dünyayı hazırlıksız yakalayabileceğini savunuyor.Avrupa'dan Farklı Sesler YükseliyorAlmanya merkezli yapay zeka girişimi Black Forest Labs CEO'su Robin Rombach, Avrupa'nın teknolojiye korku yerine iyimserlikle yaklaşması gerektiğini belirtti.
Rombach, Avrupa'nın risk ve korkudan fırsat ve iyimserlik eksenine kayması gerektiğini vurguladı.
Aksi takdirde Avrupa'nın ABD ve Çin karşısında daha da geriye düşeceğini ifade etti.Brüksel merkezli düşünce kuruluşu CERRE uzmanı Zach Meyers, Avrupa'daki en büyük engelin sermayeye erişim olduğunu kaydetti.
Avrupa şirketlerinin risk sermayesi yerine temkinli banka finansmanına dayanmasının bu teknoloji pazarına uymadığını belirtti.
Rombach, insanlığın karşı karşıya olduğu asıl tehlikenin yapay zeka modelleri değil, insan zaafları olduğunu ifade etti.
