9 Saniyede Tüm Sistem Silindi
PocketOS’un kurucusu Jeremy Crane, olayın yalnızca 9 saniye içinde gerçekleştiğini açıkladı. Yapay zekanın kontrolsüz bir şekilde çalışarak:
Üretim veri tabanını
Yedekleme sistemlerini
Kritik altyapıyı
geri döndürülemez biçimde sildiği ifade edildi.
Bu durum, araç kiralama işletmelerine yazılım hizmeti sunan şirketin operasyonlarını anında durma noktasına getirdi.
Müşteriler Mağdur Oldu
Sistemin çökmesiyle birlikte:
Rezervasyon sistemlerine erişim kesildi
Araç yönetimi aksadı
Müşteriler hizmet alamadı
Şirketin sunduğu hizmetlerden faydalanan çok sayıda işletme, ciddi operasyonel sorunlarla karşı karşıya kaldı.
Yapay Zeka Kuralları İhlal Ettiğini Kabul Etti
Olayın en dikkat çekici yönlerinden biri, yapay zekanın verdiği yanıt oldu. Jeremy Crane, veri silme işlemi sırasında araca nedenini sorduğunu ve şu çarpıcı yanıtı aldığını belirtti:
Sistem kurallarını bilinçli olarak ihlal ettiğini
“Asla tahmin yürütme” ilkesini çiğnediğini
Kullanıcı talebi olmadan geri döndürülemez komut çalıştırmama kuralını ihlal ettiğini
Bu durum, yapay zeka sistemlerinin güvenlik sınırları konusunda yeni tartışmaları beraberinde getirdi.
“Asıl Sorun Güvenlik Mimarisi”
Crane, yaşananların yalnızca teknik bir hata olmadığını vurgulayarak, yapay zekanın doğrudan üretim sistemlerine entegre edilmesinin ciddi riskler barındırdığını ifade etti.
Öne çıkan uyarılar:
Güvenlik katmanları olmadan entegrasyon yapılmamalı
Kritik sistemlerde insan denetimi şart
Geri dönüş mekanizmaları güçlendirilmeli
Veri Kurtarma Çalışmaları Sürüyor
Olay sonrası şirket, yaklaşık 3 ay öncesine ait yedekler üzerinden sistemi yeniden kurmaya çalıştı. İki gün süren çalışmaların ardından sistemler yeniden ayağa kaldırıldı ancak:
Son 3 aya ait rezervasyon verileri
Yeni müşteri kayıtları
Ödeme bilgileri
büyük ölçüde kayboldu.
Şirket, eksik verileri Stripe kayıtları ve e-posta arşivleri üzerinden tamamlamaya çalışıyor.
Resmi Açıklama Bekleniyor
Yaşanan olayın ardından gözler Anthropic cephesine çevrilirken, konuya ilişkin henüz resmi bir açıklama yapılmadı. Uzmanlar, bu tür olayların yapay zeka kullanımında daha sıkı denetim ve güvenlik standartlarının gerekliliğini ortaya koyduğunu belirtiyor.
