Yapay Zeka Yazdı, Siz İmzaladınız. Peki Sorumluluğu Kim Aldı? | LegalTech Atlası #17
Yapay zeka araştırdı, sistem hazırladı, siz imzaladınız. Bir hata çıktığında ise kameranın döndüğü yer hep aynı: avukatın imzası. Moral Crumple Zone nedir, hukuk pratiğinde nasıl işler ve bu riskle nasıl başa çıkılır?
Haftanın Konusu
2023 yılında New York'taki bir federal mahkemede alışılmadık bir şey oldu. Davacı vekili Steven Schwartz, havayolu şirketine karşı açılan kişisel yaralanma davasında altı emsal karar sundu. Kararlar ikna ediciydi: dava isimleri, dosya numaraları, hakim alıntıları ve türevleri tam teşekküllü sunulmuştu. Çok temel bir sorun vardı: hiçbiri gerçek değildi. Schwartz'ın kullandığı ChatGPT (büyük dil modeli) onları, sahip olduğu bilgilerden yola çıkarak gerçeğe yakın bir kılıfla sunduğu halüsinasyon sonucunda üretmişti. Schwartz imzalamıştı, mahkeme defalarca uyardıktan sonra her iki avukata beşer bin dolar para cezası kesti. Bu ne ilk ne de son örnek. Avukatlık dünyasının yapay zekayla olan tecrübesi genişledikçe bu tür halüsinasyon vakalarını giderek daha sık görüyoruz.
