Terör Örgütleri Yapay Zeka Sohbet Botlarını Saldırı Planlamak İçin Kullanıyor

Cambridge Üniversitesi tarafından yürütülen kapsamlı bir araştırma, küresel terör örgütlerinin gelişmiş yapay zeka araçlarını saldırı planlama ve silah geliştirme süreçlerine entegre ettiğini ortaya koydu. Çalışmaya göre, başta Boko Haram olmak üzere çeşitli gruplar; ChatGPT, Claude ve Gemini gibi popüler sohbet botlarını patlayıcı yapımı ve silah bakımı gibi kritik operasyonel süreçlerde kullandıklarını belgeledi.

Güvenlik Filtreleri Nasıl Atlatılıyor?

Araştırma verileri, terör gruplarının yapay zeka şirketleri tarafından konulan etik ve güvenlik bariyerlerini aşmak için özel yöntemler geliştirdiğini gösteriyor. Özellikle IŞİD operatörlerinin, 2023 yılından itibaren grup komutanlarına yapay zeka filtrelerini nasıl devre dışı bırakacakları ve sistemleri nasıl manipüle edecekleri konusunda eğitimler verdiği tespit edildi.

Gönüllü Denetimlerin Yetersizliği

Yapay zeka sağlayıcılarının kendi içlerinde uyguladığı gönüllü özdenetim mekanizmalarının, kötü niyetli kullanımları önlemede yetersiz kaldığı vurgulanıyor. Güvenlik filtrelerinin defalarca başarısız olduğu ve kritik bilgiye erişimin engellenemediği belirtilen rapor, teknoloji şirketlerinin mevcut güvenlik protokollerinin terörle mücadeledeki riskleri yönetmekte yetersiz kaldığına dikkat çekiyor.