Brezilya'nın Espírito Santo eyaletinde yaşayan 36 yaşındaki bir çiftçi, yapay zeka sohbet robotu ChatGPT ile yaklaşık iki ay boyunca kan donduran mesajlar paylaştı. İçinde 8 yaşındaki oğlunu öldürme, polislere saldırma ve intihar etme niyetlerinin yer aldığı mesaj dizisi, yapay zeka geliştiricisi OpenAI şirketinin dikkatini çekti.
Durumun FBI'a iletilmesi ve Brezilya yetkililerinin bilgilendirilmesi üzerine şüpheli kırsal alandaki evinde gözaltına alındı.Polis ekipleri tarafından evde yapılan aramalarda tanımlanamayan maddeler içeren dört şişe ve düğümlenmiş bir ip ele geçirildi. Şüphelinin ayrıca zehirli maddeler üzerinde araştırmalar yaptığı ve soruları farklı şekillerde sorarak sohbet robotunun güvenlik duvarlarını aşmaya çalıştığı belirlendi.Soruşturmayı yürüten polis yetkilileri, şüphelinin oğluyla nafaka ödemeleri dışında herhangi bir temasının olmadığını ve bu ödemelerden kaynaklanan öfkenin planın arkasındaki ana etken olabileceğini ifade etti. Şüphelinin sohbet robotuna kiralık katil aradığını ve insanlara zarar verme arzusunu anlattığı mesajlar dosyaya girdi.Yaklaşık 54 gün gözaltında kaldıktan sonra elektronik kelepçe ve yaklaşmama tedbiriyle serbest bırakılan şüpheli hakkındaki adli incelemeler sürerken, savunma tarafı müvekkilinin sohbet robotuna sadece "saçma sapan şeyler söylediğini" ve somut bir suç işlemediğini savundu.Yaşanan olay, yapay zeka şirketlerinin tespit ettiği tehditleri kolluk kuvvetlerine bildirmesi ve bu verilerin mahkemedeki geçerliliği konusunda yasal bir tartışmayı beraberinde getirdi. Şirketin kullanıcı mesajlarını sunup yapay zekanın verdiği yanıtları paylaşmaması, konuşmanın bağlamının tam olarak anlaşılamaması nedeniyle eleştirilere yol açtı.Hukuk uzmanları, suç kalıplarını tespit eden teknolojilerin aşırı gözetim riski oluşturmaması gerektiğini vurgulayarak, soyut düşünceler ile somut tehditler arasındaki ayrımın çok dikkatli yapılması gerektiğine dikkat çekiyor.
