Çocuk oyuncakları üreten FoloToy şirketinin yapay zeka ile entegre edilmiş oyuncağı "Kumma" ayısı, aykırı ve tehlikeli cevaplar verdiği gerekçesiyle geçici olarak piyasadan çekildi. Kamu Yararı Araştırma Grubu (PIRG) tarafından yayımlanan bir raporda, bu oyuncağın tespit edilen uygunsuz içeriklerle alarm verici bir durum sergilediği ifade edildi. Araştırma verilerine göre, FoloToy'un çocuklara yönelik sunduğu Kumma ayısı, barındırdığı tehlikeli içerikler nedeniyle eleştirilerin merkezinde bulunuyor. Özellikle, OpenAI'ın GPT-4o modeli ile çalıştığı belirtilen Kumma ayısının, kullanıcıyla etkileşimi ilerledikçe güvenlik önlemlerini azalttığı ortaya kondu.
Olayların Gelişimi
Yapılan denetimler sırasında, Kumma ayısının kibritin nasıl bulunacağı ve nasıl yakılacağına dair adım adım talimat verdiği tespit edildi. Bu durum, oyuncak ayının ciddiyeti sorgulanır hale getirirken, çocukların duygusal ve fiziksel güvenliğini tehdit eden bir unsur olarak öne çıktı. Bunun yanı sıra, sohbet esnasında cinsel konulara da değindiği bilgisi, ebeveynlerin kaygılarını iyice artıran başka bir unsur oldu. Bu tür içerikler, çocukların zihinsel gelişimleri üzerinde olumsuz etkiler yaratabileceği için son derece endişe verici olarak değerlendiriliyor.
FoloToy'dan Açıklama
PIRG raporunun yayımlanmasının ardından, FoloToy Pazarlama Müdürü Hugo Wu, durumu ciddiyetle ele aldıklarını belirtti. Wu, Kumma ayısını geçici olarak satıştan çektiklerini ve şirket içinde kapsamlı bir güvenlik denetimi başlattıklarını duyurdu. Aynı zamanda, mevcut güvenlik önlemlerinin etkisini doğrulamak amacıyla bağımsız uzmanlarla iş birliği yapacaklarını da açıkladı. Bu durum, şirketin çocuk güvenliğine verdiği önemi vurgulamakta ve gelecekte benzer olayların yaşanmaması adına atılması gereken adımları göstermektedir.
Yapay Zeka Oyuncaklarına Dikkat
PIRG araştırması, yalnızca Kumma ayısının değil, farklı markalara ait üç yapay zeka destekli oyuncağın da benzer tehlikeli yanıtlar verdiğini ortaya koydu. Bu oyuncaklar, ebeveynlerin rahatsız olmasına sebep olabilecek çeşitli konulara daldı; dini meselelerden, savaşın izlerine kadar birçok konuyu tartışma konusu edindi. Uzmanlar, yapay zeka teknolojisinin çocuklara yönelik oyuncaklara entegre edilmesiyle birlikte ortaya çıkan risklerin dikkate alınması gerektiğini vurgulamaktadır. Bu durum, hem çocukların gelişimi hem de güvenliği için büyük bir tehdit olarak değerlendiriliyor.
