17 Kasım 2026, Salı

Mevzurize

Son Dakika
Canlı Piyasa Güncelleme
Gündem

OpenAI’den çocuk istismarına karşı yapay zeka kalkanı

OpenAI, çocuk istismarı içeriklerini tespit eden yeni yapay zeka aracını duyurdu.

OpenAI'den çocuk istismarına karşı yapay zeka kalkanı

Yapay zeka teknolojileri dünyasının öncü isimlerinden Openaı, dijital dünyada çocukların korunması adına önemli bir adım attı. Şirket, çevrim içi platformlarda çocuk istismarını hedef alan içerikleri belirlemek üzere tasarlanan yeni bir görüntü sınıflandırma yazılımı geliştirdiğini duyurdu.

Bu yenilikçi sistem, daha önce tanımlanmamış istismar içerikli görselleri analiz ederek tespit edilmesini sağlıyor. Geliştirilen bu araç, inceleme birimlerinin işini kolaylaştırmak amacıyla görsellere bir ‘öncelik puanı’ atayarak, müdahale edilmesi gereken içeriklerin ivedilikle saptanmasına olanak tanıyor. Şirket, söz konusu teknolojinin yapay zeka tarafından oluşturulmuş istismar içeriklerini saptama konusunda özel bir sinyal sunan ve geniş çapta erişime açılan ilk örnek olduğunu vurguladı. Bu sistem, çocuk haklarını korumayı amaçlayan onaylı kurum ve kuruluşlara tamamen ücretsiz olarak sunulacak.

Openaı, mevcut güvenlik altyapısını güçlendirmek adına ChatGPT bünyesinde de kritik önlemleri hayata geçirdi. Çocuk istismarı içerikli arama girişimlerini engellemeyi hedefleyen yeni uyarı mekanizmaları sayesinde, yapay zeka tarafından üretilen zararlı içeriklerin yaratacağı riskler minimize edilecek. Sistemin bu tür bir içeriği tespit etmesi durumunda, kullanıcıya söz konusu paylaşımların ciddiyeti ve doğurduğu hukuki sorumluluklar konusunda bilgilendirme yapılacak.

Kuralları çiğneyen kullanıcılara karşı oldukça sert bir yaptırım politikası izlenecek. Tespit edilen sohbet geçmişi ivedilikle sistemden silinecek ve ihlalde bulunan kullanıcının ChatGPT platformuna erişimi 24 saat boyunca askıya alınacak. Ayrıca bu süreç içerisinde şahıslara zararlı davranışları bırakmaları için gerekli uzman desteği sağlanacak. Davranışın tekrar etmesi halinde ise kısıtlamaların süresi kademeli olarak artırılacak; ciddi ihlallerde hesabın kalıcı olarak kapatılması ve konunun adli makamlara intikal ettirilmesi gibi yaptırımlar uygulanacak. Şirket, tüm bu güvenlik protokollerini çocuk hakları savunucuları ve alanında uzman akademisyenlerle iş birliği yaparak şekillendirdiğini ifade etti.

Haberin editörü

mevzurize

Tüm haberleri

Son Haberler