ChatGPT, Suçsuz Bir Adamı Katil Olarak Suçladı: Yapay Zekâ Dava Edildi
Norveçli Arve Hjalmar Holmen, ChatGPT’nin kendisi hakkında gerçeğe aykırı bilgiler verdiğini belirterek OpenAI’a karşı resmî şikâyette bulundu. Holmen, yapay zekâya kendi ismini sorduğunda, ChatGPT’nin kendisini iki çocuğunu öldürmekten ve üçüncüsünü öldürmeye teşebbüs etmekten hüküm giymiş biri olarak tanımladığını açıkladı.
ChatGPT’nin verdiği yanıtta, Holmen’in Norveç’te 21 yıl hapis cezasına çarptırıldığı iddia edildi. Ancak bu bilgiler tamamen yanlış olmasına rağmen, yapay zekâ Holmen’in yaşadığı şehir ve çocuklarının sayısı gibi bazı doğru detayları da yanıtına ekledi.
Bu olayın ardından Avusturya merkezli dijital haklar savunucusu Noyb, Avrupa Birliği’nin Genel Veri Koruma Tüzüğü’ne (GDPR) aykırı hareket ettiği gerekçesiyle OpenAI hakkında Norveç Veri Koruma Kurumu’na (Datatilsynet) şikâyette bulundu. Noyb, OpenAI’ın cezalandırılmasını, yanlış bilgilerin kaldırılmasını ve yapay zekâ modelinin benzer hataları tekrar etmemesi için düzeltilmesini talep etti.
Noyb’un veri koruma avukatı Joakim Söderberg, GDPR’nin açık kurallar koyduğunu belirterek, “Kişisel veriler doğru olmak zorunda. Eğer yanlışsa, kullanıcıların gerçeği yansıtacak şekilde düzeltilmesini talep etme hakkı var. ChatGPT’nin hata yapabileceğine dair küçük bir uyarı eklemek yeterli değil. İnsanlar hakkında yanlış bilgiler yayamazsınız ve sonra basit bir uyarıyla sorumluluktan kaçamazsınız” açıklamasında bulundu.
Holmen’in ChatGPT’den bu yanıtı ne zaman aldığı açıklanmadı. Şikâyette bu bilgi yer alsa da kamuya açıklanan belgede gizlendi. Ancak olayın, yapay zekânın web arama sonuçlarını içermeyen eski sürümlerinden birinde yaşandığı belirtiliyor. Bugün aynı sorgu yapıldığında, yalnızca Noyb’un şikâyetiyle ilgili haberler görüntüleniyor.
Bu, Noyb’un OpenAI’a karşı yaptığı ikinci resmî şikâyet oldu. Daha önce, nisanda yapılan bir başvuruda, ChatGPT’nin bir kamuya mal olmuş kişinin doğum tarihini yanlış bildirmesi üzerine OpenAI’ın verileri düzeltemeyeceğini, yalnızca belirli sorgulara yanıt vermemesini sağlayabileceğini açıklaması eleştirilmişti. Noyb, bunun GDPR’ye aykırı olduğunu ve yanlış bilgilerin derhal düzeltilmesi gerektiğini savunmuştu.
