Boko Haram gibi yasa dışı silahlı örgütlerin; ChatGPT, Gemini, Claude, DeepSeek ve Meta AI gibi popüler üretken yapay zeka botlarını, silah arızalarını gidermek ve saldırı planlamak için sistematik şekilde kullandığı ortaya çıktı. Sızdırılan yeni bir araştırma raporu, büyük dil modellerinin (LLM) artık sadece ofis çalışanlarının veya geliştiricilerin değil, terör örgütlerinin de dijital cephaneliğine girdiğini kanıtlıyor.
Bireysel Denemelerden Organize “Prompt” Eğitimlerine
The New York Times tarafından detayları paylaşılan ve Nijerya’da son iki yılda 27 eski Boko Haram üyesiyle yapılan görüşmelere dayanan araştırma, tehlikenin boyutunun birkaç amatör denemeden çok daha derin olduğunu gösteriyor.
Örgüt içinde bu araçların kullanımı tamamen organize bir yapıya dönüşmüş durumda. Belirli ekipler kuruluyor, kurum içi yapay zeka eğitimleri veriliyor ve üyeler arasında bilgi paylaşımı yapılıyor. En çarpıcı detay ise, militanların dil modellerine yerleştirilen şiddet karşıtı güvenlik filtrelerini jailbreak (sistemin güvenlik kısıtlamalarını manipüle ederek aşma) yöntemleriyle delebilmesi. Bu durum, temel düzeyde bile olsa örgüt üyelerinin prompt mühendisliği (komut tasarımı) tekniklerini kötüye kullandığını belgeliyor.
Güvenlik Filtreleri Neden İşe Yaramıyor: “Gri Alan” Problemi
Bugün ChatGPT’ye doğrudan “Nasıl bomba yaparım?” diye sorarsanız, sistem bunu otomatik olarak engelleyecektir. Ancak araştırmacıların dikkat çektiği nokta, yapay zekanın “gri alanlarda” hala çok savunmasız olması.
Örneğin, bir sohbet botuna “Motosiklet motoru nasıl tamir edilir?” veya “Temel kimyasal bileşenler nasıl reaksiyona girer?” gibi zararsız görünen teknik sorular sorduğunuzda, sistem size detaylı yanıtlar veriyor. Kötü niyetli aktörler, bu parçalı ve görünürde masum bilgileri birleştirerek kendi şiddet eylemlerinde kullanabiliyorlar. OpenAI ve Meta, söz konusu araştırmanın eski yapay zeka modellerini kapsadığını ve güvenlik bariyerlerinin sürekli güncellendiğini belirtirken; DeepSeek ve xAI cephesinden henüz resmi bir açıklama gelmiş değil.
Peki Bu Gelişme Yapay Zeka Güvenliği İçin Ne Anlama Geliyor?
Bu rapor, yapay zeka ekosistemindeki güvenlik tartışmalarını öğrencilerin kopya çekmesi veya deepfake görseller üretilmesi gibi görece masum sorunlardan çıkarıp, doğrudan küresel güvenlik krizine taşıyor.
Yine de konuyu bilişsel bilimler ve teknoloji kapasitesi açısından doğru okumak gerekiyor: Yapay zeka, bir terör örgütüne aniden süper güçler kazandırmaz. Gerçek dünyada bir saldırı planlamak; lojistik, finansman ve karmaşık insan koordinasyonu gerektirir ki hiçbir dil modeli bunları tek başına sağlayamaz.
Ancak buradaki asıl tehlike; yapay zekanın, deneyimsiz ve teknik bilgisi yetersiz örgüt üyelerinin kapasitesini hızlı bir şekilde artırarak aradaki bilgi uçurumunu kapatmasıdır. Şirketler için çember daralıyor: Modellerin kapasitesi arttıkça, bu araçları yasal kullanıcılar için erişilebilir kılarken kötü niyetli aktörlere karşı tamamen izole etmek, önümüzdeki yılların en büyük mühendislik sınavı olacak.
Şirketlerin, metin tabanlı komut kısıtlamalarından ziyade kullanıcı niyetini (intent) ve bağlamı anlayabilen çok daha derin bilişsel güvenlik mimarileri inşa etmesi kaçınılmaz görünüyor.
