Signal Başkanı, Otonom Yapay Zekânın Kullanıcıların Gizliliğini Tehdit Ettiğini Açıkladı
Signal Başkanı Meredith Whittaker, otonom yapay zekâ sistemlerinin gizlilik ve güvenlik açısından ciddi tehditler barındırdığını ifade etti. ABD’nin Austin kentinde düzenlenen SXSW 2025 Konferansı’nda konuşan Whittaker, bu tür yapay zekâ araçlarının, kullanıcıların bilgilerine geniş kapsamda erişim sağlamak zorunda olduğunu belirtti.
Otonom Yapay Zekâ Botları Nasıl Çalışıyor?
Otonom yapay zekâ, insan müdahalesine gerek duymadan kararlar alabilen ve görevleri yerine getirebilen sistemler olarak tanımlanıyor. Teknoloji dünyasında büyük ilgi gören bu sistemler, kullanıcıların günlük işlemlerini kolaylaştırma iddiasıyla tanıtılıyor. Ancak, Whittaker, bu yapay zekâ araçlarının büyük çapta veri erişimi gerektirdiğini ve kullanıcıların özel bilgilerini riske attığını vurguladı.
Whittaker, otonom yapay zekânın bir konser bulma, bilet satın alma ve Signal gibi uygulamalar aracılığıyla arkadaşlara mesaj gönderme gibi işlemleri gerçekleştirebileceğini söyledi. Ancak, bu süreçte yapay zekânın tarayıcı, kredi kartı bilgileri, takvim ve mesajlaşma uygulamaları gibi birçok kişisel veriye erişmesi gerektiğini belirtti.
Whittaker, “Bu sistemler, tarayıcımızı kontrol edebilmeli, kredi kartı bilgilerimize ulaşabilmeli, takvimimize erişebilmeli ve mesajlarımızı açarak iletebilmeli,” dedi. “Bunu yapabilmek için işletim sistemimiz üzerinde neredeyse tam kontrol sağlayan yetkilere sahip olmaları gerekiyor.” açıklamasında bulundu.
Whittaker, otonom yapay zekâların büyük olasılıkla cihaz üzerinde değil, bulut sunucuları aracılığıyla veri işlediğini söyledi. Bu durumun, kullanıcı verilerinin yerel olarak şifrelenmeden saklanması ve işlenmesi anlamına gelebileceğini belirtti.
Whittaker, yapay zekâ alanında endişelerini dile getiren tek isim değil. Yapay zekâ araştırmalarında öncü isimlerden biri olarak kabul edilen Yoshua Bengio da ocak ayında Davos’taki Dünya Ekonomik Forumu’nda benzer uyarılarda bulundu. Bengio, otonom yapay zekânın tehlikelerine dikkat çekerek, “Süper zekâya sahip yapay zekâ sistemlerinin neden olabileceği en büyük felaket senaryoları, bu tür ajanlarla ilişkilendiriliyor,” açıklamasında bulundu.
Whittaker ve Bengio gibi uzmanlar, yapay zekâ teknolojilerinin güvenliğini sağlamak için bilimsel araştırmalara ve düzenlemelere öncelik verilmesi gerektiğini savunuyor.
