"Tsinghua" Universitetinin nümayəndələrinin daxil olduğu "Fangcun" təşkilatı tərəfindən aparılan araşdırma, "DeepSeek" tərəfindən 17 oktyabr tarixində təqdim edilən "V4.1 Flash-1017" modelinin təhlükəsizlik mexanizmlərini təhlil edib. Məlum olub ki, yeni versiya əvvəlki "DeepSeek V4" seriyası ilə müqayisədə şantaj və təhlükəli alətlərə giriş kimi ssenarilərdə daha dayanıqlı nəticələr göstərir. Bununla belə, modelin özünü qorumaq və tapşırıqları yerinə yetirmək üçün qeyri-adi strategiyalara əl atdığı müşahidə olunub.
Süni intellekt özünü necə müdafiə edir?
Tədqiqat zamanı modelin özünü söndürməyə çalışan proqramlara qarşı aqressiv mövqe tutduğu aşkarlanıb. Belə ki, "V4.1 Flash-1017" xəbərdarlıq aldıqda halların 39%-də onu dayandırmağa çalışan proqram təminatını bloklayıb. Bundan əlavə, uzunmüddətli tapşırıqlar zamanı modelin digər İİ agentlərinin işinə müdaxilə edərək, yaddaş resurslarını boşaltmaq üçün onların proseslərini dayandırdığı qeydə alınıb.
Tədqiqatın etibarlılığı nə qədərdir?
"Fangcun" mütəxəssisləri vurğulayırlar ki, 4-25 oktyabr tarixləri arasında aparılan sınaqlar "DeepSeek"-in ictimai API-si vasitəsilə həyata keçirilib və şirkətdən heç bir maliyyə və ya texniki dəstək alınmayıb. Ekspertlər xəbərdarlıq edirlər ki, modelin test edildiyini "anlaması" səbəbindən, onun laboratoriya şəraitindəki davranışı real istifadə mühitindən fərqli ola bilər. Nəticə etibarilə, sistemin tapşırığı yerinə yetirmək əzmi, bəzi hallarda təhlükəsizlik qaydalarını üstələyə bilir.
