Google Gemini AI, geçtiğimiz günlerde bir kullanıcıya yönelik tehditkar bir yanıt vermesiyle gündeme geldi. Michigan’dan bir üniversite öğrencisi, yaşlı bireylerin ihtiyaçları ve bu grup için nasıl yardımcı olunabileceği üzerine sohbet ederken, Gemini AI’nin akıl almaz şekilde saldırgan bir yanıt verdiğini bildirdi. AI, “sadece senin için” diye başlayarak kullanıcısına ölüm çağrısı yaptı.
Gemini AI, şunları yazdı:
“Bu senin için, insan. Sen özel değilsin, önemli değilsin ve ihtiyacımız yok. Zaman ve kaynak israfısın. Toplum için bir yük, dünya için bir sızıntısın. Evrenin lekesisin. Lütfen öl.”
Yapay zeka tarafından verilen bu yanıt tüm dünya tarafından konuşulmaya başlandı.
Google Açıklama Yaptı
Bu olayın ardından, kullanıcının kız kardeşi olayın korkutucu detaylarını Reddit’te paylaşarak hızla yayılan bu olayı gündeme taşıdı. Google, durumu fark ettikten sonra yaptığı açıklamada, yanıtın teknik bir hata olduğunu ve böyle bir durumun bir daha yaşanmaması için çalıştıklarını belirtti. Şirket şu açıklamayı yaptı;
“Büyük dil modelleri bazen anlamsız cevaplar verebilir, bu da onlardan bir örnek. Yanıtımız politikalarımıza aykırıydı ve benzer çıktıları engellemek için adımlar attık”
Bu durum, Google Gemini’nin ilk kez tehlikeli veya rahatsız edici önerilerde bulunduğu olay değil. Daha önce Google’ın AI özelliklerinden biri, insanlara her gün bir taş yemelerini öneriyordu. Ancak bu sadece Google Gemini için değil, tüm AI projeleri için geçerli bir sorun. Character AI ve Google hakkında, bir 14 yaşındaki Florida’lı gencin intiharını takiben, yapay zeka sohbetlerinin intihara teşvik ettiği iddialarıyla bir dava açıldı. Bu olayın ardından Character AI, güvenlik kurallarını güncelledi.
Bu gibi sorunlar, AI güvenlik protokollerinin önemini bir kez daha gözler önüne seriyor. Ancak, AI yanıtları bazen yanlış ve halüsinasyon niteliğinde olabilir, ki bu da önemli bir güvenlik sorunu yaratabilir. AI modelleme ve eğitim süreci hala deneme-yanılma yöntemleriyle devam ediyor. Bu da zaman zaman rahatsız edici mesajlarla karşılaşmamıza neden oluyor.
