Data Poisoning hücumu nədir?
Süni intellekt və maşın öyrənməsi sistemlərinin düzgün işləməsi onların öyrədilməsi zamanı istifadə olunan məlumatların keyfiyyətindən, doğruluğundan və etibarlılığından asılıdır. Model bu məlumatlar əsasında müəyyən əlaqələri öyrənir, qərarvermə qaydaları formalaşdırır və sonradan daxil olan sorğular üzrə nəticələr təqdim edir.
Kibercinayətkar modelin öyrədilməsi üçün istifadə olunan məlumatlara qəsdən saxta, yanlış, dəyişdirilmiş və ya aldadıcı məlumatlar əlavə etdikdə, yaxud mövcud məlumatları məqsədli şəkildə dəyişdirdikdə model yanlış məlumatlar əsasında öyrənə bilər. Bu hücum üsulu Data Poisoning adlanır.
Hücumun əsas məqsədi süni intellekt modelinin qərarvermə prosesinə dolayı yolla təsir etmək və onun davranışını dəyişdirməkdir. Nəticədə model zahirən normal fəaliyyət göstərsə də, müəyyən sorğular və ssenarilər üzrə yanlış, etibarsız və ya manipulyasiya olunmuş nəticələr təqdim edə bilər. Bu isə modelin dəqiqliyinin azalmasına, yanlış qərarların verilməsinə və süni intellekt sistemindən istifadə olunan proseslərdə təhlükəsizlik problemlərinin yaranmasına səbəb ola bilər.
Data Poisoning necə baş verir?
Kibercinayətkar modelin təlim məlumatlarına müdaxilə edərək:
- yanlış və saxta məlumatlar əlavə edə bilər;
- mövcud məlumatların etiketlərini dəyişə bilər;
- müəyyən obyektləri qəsdən yanlış kateqoriyaya sala bilər;
- modelin müəyyən sorğulara səhv cavab verməsinə səbəb olan məlumatlar yerləşdirə bilər;
- açıq mənbələrdən avtomatik toplanan məlumatlardan sui-istifadə edə bilər.
Mümkün təsirlər
Data Poisoning hücumu nəticəsində:
- AI modelinin dəqiqliyi azala bilər;
- yanlış proqnoz və qərarlar yarana bilər;
- təhlükəsizlik sistemləri zərərli fəaliyyəti düzgün tanımaya bilər;
- istifadəçilərə yanlış məlumat təqdim oluna bilər;
- müəyyən şəxslər, obyektlər və ya məlumat qrupları üzrə qərəzli nəticələr yarana bilər;
- model daxilində kibercinayətkarın sonradan istifadə edə biləcəyi gizli davranış mexanizmi yaradıla bilər;
- təşkilatın AI sistemlərinə olan etimadı və iş prosesləri zərər görə bilər.
Data Poisoning hücumlarından necə qorunmaq olar?
- ✔ Məlumat mənbələri ciddi şəkildə yoxlanılmalı
- ✔ Məlumatlarda edilən dəyişikliklər izlənilməli
- ✔ Giriş hüquqları məhdudlaşdırılmalı
- ✔ Məlumatların keyfiyyət yoxlaması aparılmalı
- ✔ Modelin nəticələri mütəmadi olaraq yoxlanılmalı
- ✔ Məlumatların əvvəlki versiyaları saxlanılmalı
- ✔ AI təchizat zəncirinə nəzarət edilməli
- ✔ Kibermaarifləndirmə tədbirləri keçirilməli
Süni intellekt sisteminin etibarlı işləməsi onun öyrədilməsi üçün istifadə olunan məlumatların düzgünlüyündən və təhlükəsizliyindən asılıdır. Modelə daxil edilən məlumatlar dəyişdirildikdə və ya saxtalaşdırıldıqda, sistem yanlış nəticələr verə və təhlükəsizlik riski yarada bilər.
CYBERSIGN, şirkətlər üçün kibertəhlükəsizlik maarifləndirmə təlimləri və təhlükəsizlik həlləri təqdim edir.