ABD'nin New Mexico eyaletinde yapay zekanın kullanımıyla ilgili dikkat çeken bir olay yaşandı.
New Mexico Yüksek Mahkemesi, savunma avukatı Stephen Aarons'a, mahkemeye ChatGPT tarafından oluşturulan ve gerçekte hiç söylenmemiş tanık ifadelerini içeren bir belge sunduğu gerekçesiyle 5 bin dolar para cezası verdi.Aarons, cinayet suçundan hüküm giyen müvekkili Oscar Renee Sandoval'ın davasına ilişkin duruşma tutanaklarını özetlemek amacıyla ChatGPT'den yararlandı.
Ancak avukat, yapay zekanın hazırladığı metindeki bilgilerin doğruluğunu kontrol etmedi.Mahkemeye sunulan belgede, duruşmada hiç söylenmemiş ifadelerin tanıklara aitmiş gibi yer aldığı ortaya çıktı.
Böylece yapay zekanın yalnızca hatalı bir hukuki bilgi üretmediği, olayda hiç yaşanmamış tanık ifadeleri de oluşturduğu belirlendi.New Mexico Yüksek Mahkemesi yargıçları, Aarons'un hazırladığı belgeyi yeterince kontrol etmemesini eleştirdi.
Yargıçlar, avukatın bu tutumunun müvekkiline karşı yeterli özeni göstermediğini belirtti.
Mahkeme ayrıca Aarons'u avukat disiplin kuruluna sevk ederek olayın daha kapsamlı şekilde incelenmesini istedi.Aarons ise yaşananların kasıtlı olmadığını savundu.
Avukat, olayı "dürüst bir hata" olarak nitelendirirken, yapay zeka sistemlerinin gerçekte var olmayan bilgileri gerçekmiş gibi sunabileceğini tam olarak kavrayamadığını kabul etti.Dava, yapay zekanın mahkemelerde yanlış kullanımına yönelik yaptırımların giderek ağırlaştığını gösteriyor.
Zira bu olayda yalnızca hatalı hukuki kaynaklara yer verilmesi değil, tamamen uydurulmuş tanık ifadelerinin mahkemeye sunulması söz konusu oldu.
