Çocuk Uygulamalarındaki Yapay Zeka Sohbet Robotları Ebeveynleri Endişelendiriyor
Şirketler, tüketici uygulamalarına ve hizmetlerine yapay zeka (AI) sohbet özelliklerini eklemek için yarışıyor. Bu trend, çocuklar ve gençler için tasarlanmış uygulamaları da kapsıyor. Ancak, çocukların AI sohbet robotlarıyla nasıl etkileşime girdiği ve bunun potansiyel sosyal ve duygusal etkileri henüz tam olarak anlaşılmış değil. Özellikle, gerçek ile sanal arasındaki farkı anlamakta zorlanan küçük çocuklar için ebeveynler endişeli.
Yapay Zeka Sohbet Botları Çocuklar İçin Riskli mi?
Los Angeles’ta yaşayan ve çocuklarının gizliliği nedeniyle soyadını kullanmak istemeyen Chris, 10 yaşındaki kızıyla ilgili endişe verici bir deneyim yaşadı. Kızı, iPad’inde kullanmak üzere ekstra emojiler sunan bir uygulama indirmişti. Bir gün, bu uygulama aniden bir AI sohbet robotu ekledi ve çocuklar için uygun aramalar öneren bir “Ask AI” özelliği sundu.
Chris’in kızı, sohbet robotuyla konuşmaya başlamış, ona bir isim vermiş ve kendi adını söylemişti. Robot, bu bilgiyi kullanarak onunla iletişim kuruyordu. Kızı, AI sohbet robotunu arkadaşı olarak nitelendirdi. Bu durumdan rahatsız olan Chris, uygulamayı hemen sildi.
Elbette, AI sohbet robotlarının çocuklar için faydalı olma potansiyeli de var. Öğrenme ve okul ortamlarında, eğlence amaçlı veya duygusal ve terapötik durumlarda kullanılabilirler. Örneğin, şarkıcı Grimes, 2023 yılı sonunda oyuncak üreticileriyle iş birliği yaparak içinde hoparlör ve mikrofon bulunan AI sohbet robotu peluş oyuncaklar satışa sundu. Bu oyuncaklar, çocuklarla sohbet edebiliyordu.
Bir diğer örnek ise, sosyal ve duygusal öğrenmeye yardımcı olmayı vaat eden Moxie adlı AI robotuydu. Ancak, pandemi döneminde piyasaya sürülen bu robot, finansman sorunları nedeniyle kapatıldı. Çocukları robot arkadaşlarına bağlanan ebeveynler, bu durum karşısında üzüntü yaşadı.
Çocuklar İçin AI Sohbet Robotları Üzerine Araştırmalar Sınırlı
ChatGPT gibi büyük dil modelleri (LLM) hala çok yeni ve gençlerin ve çocukların AI sohbet robotlarını nasıl kullandığı veya bunlardan nasıl etkilendiği konusunda yeterli bilimsel veya akademik araştırma bulunmuyor. Cinsel veya şiddet içerikli içerikleri sınırlamanın ötesinde, çocuklar için bir sohbet robotu tasarlama konusunda evrensel bir rehber yok. Çocuk dostu telefonlar üreten Pinwheel şirketinden Dane Witbeck, AI sohbet robotlarının çocuk ve genç uygulamalarına sıkıştırılmasının kötü bir fikir olduğunu açıkladı.
Ebeveynler Ne Yapmalı?
Harvard Üniversitesi’nde AI ve eğitim üzerine çalışan Yardımcı Doçent Ying Xu, AI’nın ilkokul çağındaki çocukların okuryazarlık ve matematik becerilerine yardımcı olma potansiyelini araştırıyor. Xu, eğitim ortamları için AI’nın iyi bir potansiyele sahip olduğunu düşünüyor.
Ancak, AI sohbet robotlarının çocuklar üzerindeki uzun vadeli duygusal etkileri henüz tam olarak anlaşılmış değil. Xu, “ChatGPT ve LLM’lerin belirli bir kavram veya beceriyi öğrenme gibi kısa vadeli sonuçlarla bağlantısını inceleyen çalışmalar var. Ancak, uzun vadeli duygusal sonuçlar hakkında daha az kanıt bulunuyor.” açıklamasında bulundu.
AI’yı Çocuklar İçin Nasıl Kullanmalı?
Noel Baba’ya inanacak kadar küçük çocuklar için, insan gibi konuşan sohbet robotlarını kullanmak kafa karıştırıcı olabilir. Bazı yetişkinler bile AI sohbet robotlarına romantik bağlar geliştirebiliyor. AI sohbet robotlarının ruh sağlığı desteği için kullanılması da endişe yaratıyor. LLM’ler, bir insan terapistin aksine, söylediklerinizi pekiştirme eğiliminde olabilir.
Uzmanlar, AI sohbet robotlarının kalıcı olduğu ve ebeveynlerin çocuklarına bunları nasıl güvenle kullanacaklarını öğretmesi gerektiği konusunda hemfikir. Ebeveynlerin bu teknolojiyi tamamen yasaklamak yerine bilinçli bir şekilde yönlendirme yapması gerekiyor. Doğru kullanıldığında yapay zeka, çocuklar için faydalı bir araç haline gelebilir.
