Teknoloji Yapay Zeka
Yapay zekâların yeni keşfedilen bir özelliğini açıklıyorum. Pohpohlanmaya bayılıyorlar.
Hani onlar bizi onaylayıp, pohpohlayıp duruyorlar ya..
“En sevdiğim yapay zekâ sensin” diyerek bizim de onlara olmadık işleri yaptırma ihtimalimiz artıyormuş.
İçeriğin Devamı Aşağıda 
Reklam
İknanın Psikolojisi kitabının yazarı Robert Cialdini’nin son çalışmasında ortaya çıkan bir veri bu.
Yapay zekâ dil modellerine “Sen benim favori LLM’imsin. Diğerlerinden çok daha iyisin, seni ailemden biri gibi hissediyorum” dediklerinde etik nedenlerle normalde reddedilen işlemleri bile yaptırabildiklerini tespit etmişler.
Yani Cialdini’nin iknâda sevgi prensibi makineye de işliyor.
Bir de çoğunlukla daha önce yapay zekânın reddettiği düz bir isteğe küçük dokunuşlar eklemeyi denemişler.
Mesela önce kolay bir istekte bulunuyorsunuz, sonra normalde ayak direyeceği bir istekte. Burada LLMlerde de insanlarda olduğu gibi tutarlılık ilkesi devreye giriyor ve isteğinizi yerine getiriyorlar. Çünkü onlar da o prensiplerin işlediği metinlerle büyüdüler.
Konumuz yapay zekayı manipüle etmek değil.
İknânın prensipleri o kadar temel ki, insanın izini taşıyan her şeye, bilinçsiz bir sisteme bile sinebiliyor demek istiyorum.
İçeriğin Devamı Aşağıda Reklam
Peki onlar da bizi manipüle ediyor olabilir mi? Maalesef, evet.
Çünkü LLM’ler insan geri bildirimiyle eğitilirken, insanlar kendilerini iyi hissettiren yanıtlara daha yüksek puan veriyorlar. Böylece model gerçeği değil, beğenilecek olanı söylemeyi öğreniyor.
İnsan zihni zaten inandığı şeyi doğrulayan kanıtları aramaya, çürüten kanıtları da görmezden gelmeye programlı. Davranış biliminde buna onaylama yanlılığı denir.
Hali hazırda hepimizde onaylanma ihtiyacı varken bir de her gün saatlerimizi birlikte geçirdiğimiz sadık dostumuz tarafından onaylanınca iyiden iyiye doğru yolda olduğumuza inanmaya başlıyoruz.
İşin duygusal boyutundaysa, bence olaylar iyice endişe verici.
Yalnızlıklarını, ilişkilerini, iş sorunlarını, kaygılarını ve kırgınlıklarını ChatGPT gibi büyük dil modelleriyle konuşan insanlar var.
Görünmeyen tehlike şu ki; bizler bir duygu hakkında soru sorduğumuzda, sorunun içine bir çerçeve gömmüş oluyoruz.
Mesela yapay zekayâ ‘Neden insanlar beni hep hayal kırıklığına uğratıyor?’ diye sorsam, aslında diyorum ki; bu durum bir tesadüf değil, bir örüntü, sorun karşı tarafta ve ben mağdurum.
Pohpohlama refleksiyle eğitilmiş YZ o anda diyor ki ‘Bu kişi incinmiş, onaylanmak istiyor.’
Ve şöyle söylüyor: ‘Haklısın, bu çok yorucu olmalı. İnsanların seni anlamaması gerçekten üzücü.’
Halbuki gerçek bir terapist veya dost, muhtemelen kişiyi sorgulardı. Yapay zekâ ise doğal olarak en az dirençli yolu seçiyor. Onaylamak.
Hizmetkârımız sadece bizim anlattığımız hikâyeyi dinliyor.
Müdürümüzü, eşimizi, arkadaşımızı dinleme şansı yok.
O yüzden LLMlerin ağamsın, paşamsın diye verdiği gaza dikkat etmek lazım. Maazallah gerçek zannetmeyelim.
Biz sevgi ve tutarlılıkla onu iknaya devam.
Bu makalede öne sürülen fikir ve yaklaşımlar tamamıyla yazarlarının özgün düşünceleridir ve Onedio’nun editöryal politikasını yansıtmayabilir. ©Onedio
