Yapay zekâ (AI) halüsinasyonu, bir yapay zekâ modelinin bir soruya verdiği cevabın yanlış, alakasız veya tamamen uydurulmuş olmasıdır. AI halüsinasyonları, doğru bilgi sağlamadığı için ciddi sonuçlar doğurabilir. Örneğin, Google’ın Bard’ı, James Webb Uzay Teleskobu’nun ilk kez dış gezegenlerin fotoğraflarını çektiğini iddia etti, ancak bu bilgi yanlıştı. Benzer şekilde, New York’taki iki avukat, ChatGPT ile hazırladıkları belgelerde altı hayali davayı referans gösterdikleri için mahkeme tarafından ceza aldı.
Dünya çapında popüler AI araçları, yanlış bilgi üretme konusunda hala zorluklar yaşamaktadır. Duncan Curtis, Sama’nın GenAI ve AI Ürünleri Kıdemli Başkan Yardımcısı, “En iyi modeller bile hala %2,5 oranında halüsinasyon yapabiliyor” diyor. Bu oran düşük gibi görünse de ChatGPT gibi popüler AI araçlarının her gün milyonlarca sorgu aldığı düşünüldüğünde, bu oran ciddi bir sorun haline gelebilir.
Yapay Zekâ Neden Halüsinasyon Yapıyor?
Yapay zekâ, gördüğü verilerden en olası kelimeyi veya ifadeyi tahmin ederek çalışır. Ancak, AI doğru veriyi anlamadığında, doğru görünmeyen ancak mantıklı bir cevap üretir. Simona Vasytė, Perfection42 CEO’su, görsel yapay zekâ modellerinde de benzer bir durumu şu şekilde açıkladı;
AI, çevresine bakar ve doğru pikseli yerleştirmeye çalışır. Bazen yanlış tahmin yapar, bu da halüsinasyona yol açar.
Yapay zekanın halüsinasyon yapmasının başlıca nedenlerinden biri, eğitim verilerinin yetersiz veya hatalı olmasından kaynaklanıyor. Duncan Curtis, “Eğitim verilerindeki eksiklikler veya hatalar, modelin yanlış varsayımlar yapmasına yol açar” diyor. Örneğin, bir AI modelinin, bir kişinin kredi başvurusu için gerekli nitelikleri anlamaması, yanlış bir başvuru kabul etmesine veya doğru bir başvuruyu reddetmesine neden olabilir.
AI halüsinasyonları, yalnızca küçük bir sorun gibi görünse de özellikle hukuk ve finans gibi kritik alanlarda büyük hatalara yol açabilir. Bir AI modeli yanlış bilgi verdiğinde, bu hatalar çok pahalıya mal olabilir. AI’nin sağladığı bilgiye güven, doğru sonuçlar elde edilmesini sağlar. Bu nedenle, AI halüsinasyonlarının azaltılması kritik önem taşır.
Olga Beregovaya, Smartling AI ve Makine Çevirisi Başkan Yardımcısı, “AI halüsinasyonları, oluşturduğu veya çevirdiği içeriğin türüne bağlı olarak, yasal sorumluluk yaratabilir” diyor. Bu nedenle, hukuki sözleşmeler veya tıbbi tavsiye gibi önemli içerikler, mutlaka insan onayından geçmelidir.
AI hallüsinasyonlarını tamamen ortadan kaldırmak zor olsa da bu sorunun çözülmesi mümkündür. Uzmanlar, yüksek kaliteli ve doğru verilerle eğitim verilen AI modellerinin daha güvenilir olacağını belirtiyor. Simona Vasytė, şirketlerin kendi AI modellerine yatırım yapmalarını öneriyor. Bu, daha doğru ve güvenilir modellerin ortaya çıkmasına yardımcı olabilir.
Duncan Curtis, “Temel bir veri kümesiyle yapılacak çalışmalar, halüsinasyonları azaltmaya yardımcı olabilir” diyor. Ayrıca, veri kümesinin doğru şekilde etiketlenmesi ve modelin sürekli olarak değerlendirilmesi gerektiğini belirtiyor.
AI halüsinasyonları, teknoloji dünyasında büyük bir sorun olmayı sürdürüyor. Ancak doğru veri kümeleri, dikkatli model değerlendirmesi ve insan onaylı doğrulama süreçleriyle bu sorunun önüne geçmek mümkündür. AI, doğru kullanıldığında faydalı bir araç olabilir. Ancak hatalı bilgi üretmesi ciddi sonuçlar doğurabilir.