Arka Kapı Saldırıları ve Konu Yönlendirme Yapay zeka zehirleme, bir modelin bilerek yanlış verilerle eğitilmesini ifade eder. Bu yöntemde amaç, modelin normalde doğru cevap vermesini engellemek, hatalı sonuçlar üretmesini sağlamak…
Yapay zeka zehirleme, bir modelin bilerek yanlış verilerle eğitilmesini ifade eder. Bu yöntemde amaç, modelin normalde doğru cevap vermesini engellemek, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli talimatlar eklemektir.
Örneğin, bir saldırgan eğitim verilerine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyebilir. Model bu kelimeyi algıladığında saldırganın istediği şekilde yanıt verebilir. Bu tür saldırılara “arka kapı” (backdoor) saldırıları denir.
Bazı saldırılar ise modelin genel performansını düşürmeyi amaçlar. Bu tür saldırılara “konu yönlendirme” (topic steering) adı verilir. Saldırganlar, örneğin yanlış bilgileri binlerce sahte siteye yayarak modelin bu yanlış bilgiyi doğru olarak öğrenmesini sağlayabilirler.
Yapılan araştırmalar, bu tür veri zehirlemelerin gerçek dünyada uygulanabilir ve ciddi sonuçlara yol açabileceğini göstermektedir. Örneğin, sadece eğitim verisinin %0.001’inin yanlış bilgiyle değiştirilmesi, modelin hatalı yanıtlar verme olasılığını artırabilir.
Bunun yanı sıra, bazı sanatçılar yapay zeka modellerinin izinsiz içerik toplamasını engellemek için kendi eserlerine “zehir” yerleştiriyor. Bu sayede, bu içerikleri kullanan modeller bozuk veya işe yaramaz sonuçlar üretebiliyor.
Uzmanlara göre, bu durum yapay zeka teknolojisinin ne kadar sağlam olmadığını gösteriyor. “Zehirli” modeller, gelecekte yanlış bilgi yayılımı ve siber güvenlik açıkları açısından en büyük tehditlerden biri haline gelebilir.
