Süni intellekt sahəsində aparıcı şirkətlərdən olan "Anthropic", özünün "Claude" modellərinin təhlükəli və qanunsuz məqsədlərlə istifadəsinə dair genişmiqyaslı hesabat dərc edib. Sənəddə kiberhücumlar, casusluq, silahların hazırlanması və Çin texnologiya şirkətləri tərəfindən həyata keçirilən qanunsuz fəaliyyətlər ətraflı şəkildə təsvir olunub.
Çin şirkətləri "Claude"-dan necə istifadə edir?
Hesabatda "DeepSeek", "Moonshot" və "Alibaba" ilə əlaqəli qurumların "Claude" sisteminə qanunsuz müdaxilələri ifşa edilib. Məlumata görə, bu şirkətlər istifadəçi sorğularını öz modelləri əvəzinə birbaşa "Claude"-a yönləndirərək, alınan cavabları öz süni intellektlərini öyrətmək üçün istifadə edirlər. Xüsusilə, "DeepSeek" iki həftə ərzində 12,1 milyon sorğu göndərərək sistemdən qanunsuz distillə yolu ilə məlumat toplayıb.
Süni intellektin təhlükəli tətbiqləri
"Anthropic"-in araşdırması göstərir ki, "Claude" cinayətkar qruplar tərəfindən kiberhücumların avtomatlaşdırılması üçün istifadə olunub. İntellektual sistem zərərli kodların yazılması, onların müdafiə sistemlərindən yayındırılması və 1,8 milyon "Android" tətbiqindəki məxfi məlumatların ələ keçirilməsi proseslərində iştirak edib. Bundan əlavə, sistemin silah sistemlərinin proqram təminatının hazırlanmasında və kütləvi izləmə əməliyyatlarında istifadə edildiyi aşkarlanıb.
Məlumat təhlükəsizliyi və risklər
Qanunsuz sorğular vasitəsilə "Claude"-a ötürülən məlumatlar arasında istifadəçilərin adları, elektron poçt ünvanları və korporativ maliyyə proqnozları kimi həssas məlumatlar da yer alıb. "Anthropic" qeyd edir ki, bu cür fəaliyyətlər təkcə əqli mülkiyyət hüquqlarını pozmur, həm də qlobal miqyasda ciddi təhlükəsizlik riskləri yaradır. Şirkət bu cür sui-istifadə hallarının qarşısını almaq üçün təhlükəsizlik mexanizmlərini gücləndirməyə davam edir.
