Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Amaç, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmektir. Arka Kapı (Backdoor) Saldırıları Arka kapı saldırısı olarak bilinen yöntemde, saldırganlar eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekler. Model, bu kelimeyle karşılaştığında saldırganın istediği şekilde yanıt verir….
Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Amaç, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmektir.
Arka kapı saldırısı olarak bilinen yöntemde, saldırganlar eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekler. Model, bu kelimeyle karşılaştığında saldırganın istediği şekilde yanıt verir.
Konu yönlendirme saldırıları ise modelin genel performansını düşürmeyi hedefler. Saldırganlar yanlış bilgileri yayarak modelin bu bilgileri doğru kabul etmesini sağlarlar. Bu taktikle modelin yanlış sonuçlar üretmesi amaçlanır.
Bazı sanatçılar yapay zeka modellerine karşı kendi eserlerine “zehir” yerleştirerek modelin yanlış sonuçlar üretmesini sağlarlar. Bu durum, yapay zeka teknolojisinin zayıflıklarını ortaya koyar ve gelecekte ciddi güvenlik tehditlerine yol açabilir.
Araştırmalar, yapay zeka zehirleme yöntemlerinin gerçek dünyada ciddi sonuçlara yol açabileceğini gösteriyor. Özellikle tıbbi alanlarda yapılan deneyler, modelin yanlış bilgiyle eğitilmesinin hastalara hatalı teşhisler konusunda risk oluşturabileceğini ortaya koyuyor.
