Auckland Üniversitesi Araştırmacıları, Yeni Yapay Zeka Tabanlı Aracı Serenity İle Siber Zorbalıkların Önüne Geçebilecek
Yeni bir yapay zekâ tabanlı uygulama olan Serenity, Auckland Üniversitesi araştırmacıları tarafından geliştirilen ve siber zorbalığı gerçek zamanlı olarak tespit edip hafifletmeye yardımcı olabilecek. Bu uygulama, tıpkı bir yazım denetleyicisi gibi, potansiyel olarak zararlı mesajları göndermeden önce işaretliyor ve kullanıcılara sözlerini tekrar gözden geçirmeleri için bir hatırlatma yapıyor.
Serenity, mesaj yazarken dildeki toksikliği analiz eden yapay zekâ teknolojisinden yararlanıyor. Google’ın Perspective API’sini kullanan bu uygulama, yazılan her mesajı değerlendirerek, potansiyel olarak zararlı içerikleri tespit ediyor. Eğer mesajın toksisite puanı belirlenen eşik değerini aşarsa, mesajı işaretliyor. Kullanıcı bu uyarıyı aldıktan sonra, mesajı göndermeden önce tekrar düşünmesi teşvik ediliyor.
Serenity, yalnızca Google’ın Perspective API’sini kullanmakla kalmıyor. Aynı zamanda kullanıcılara kendi zararlı kelime veya ifadeler listesini oluşturma imkânı da sunuyor. Böylece, API’nin tanımadığı ancak kullanıcı tarafından zararlı veya rahatsız edici bulunan ifadeler de işaretlenebiliyor.
Serenity, ailelerin çocuklarını çevrimiçi alanlarda korumalarına yardımcı olmak için de önemli bir özellik sunuyor. Uygulamanın “guardian account” özelliği, ebeveynlerin, mesaj içeriğine müdahale etmeden yalnızca toksisite skorlarını izlemelerini sağlıyor. Bu sayede, ebeveynler çocuklarının çevrimiçi etkinliklerini denetleyebiliyor.
Serenity’nin ana amaçlardan biri, geleneksel siber zorbalık tespit yöntemlerinin eksikliklerini gidermek olacak. Mevcut sistemler genellikle sabit listelere dayanarak zararlı kelimeleri tespit etmeye çalışıyor. Ancak dilin evrilen doğasını tam olarak yansıtmakta xorlanıyor. Serenity, gerçek zamanlı uyarılarla olası zararları önceden engellemeye çalışarak daha etkili bir çözüm sunmayı hedefliyor. Serenity, açık kaynak yazılım olarak GitHub’da yer alıyor.
