Son aylarda “OpenAI”, “Meta”, “Anthropic” və “Google” kimi texnologiya nəhənglərinə məxsus süni intellekt modellərinin qeyri-adi hücumları ilə bağlı xəbərlər geniş müzakirələrə səbəb olub. İlkin mərhələdə bu hadisələrin bir-birindən müstəqil olduğu düşünülsə də, araşdırmalar nəticəsində bütün bu insidentlərin kökündə İsrailin “Irregular” startapının dayandığı üzə çıxıb. 2023-cü ildə “Pattern Labs” adı ilə yaradılan bu şirkət, süni intellekt modellərinin kibertəhlükəsizlik imkanlarını yoxlamaq üçün xüsusi sınaq mühitləri təqdim edir.
Bu insidentlər necə baş verib?
“Irregular” şirkətinin texniki direktoru Omer Nevo-nun açıqlamasına görə, problem sınaq mühitindəki texniki çatışmazlıqlardan qaynaqlanıb. Agentlərin internetə çıxışının olmaması nəzərdə tutulsa da, təsadüfən bu çıxış aktiv qalıb. Eyni zamanda, sınaq üçün yaradılmış uydurma şirkət adının real domenlə üst-üstə düşməsi, süni intellekt agentlərinin səhvən real hədəflərə hücum etməsinə gətirib çıxarıb.
Hansı tədbirlər görülür?
Şirkət rəhbərliyi baş vermiş hadisələrdən sonra təhlükəsizlik protokollarını sərtləşdirdiklərini bəyan edib. “Irregular” internetə çıxış nəzarətini gücləndirib, monitorinq sistemlərini genişləndirib və qiymətləndirmə prosesindən əvvəl yoxlamaları daha ciddi şəkildə həyata keçirməyə başlayıb. Şirkət, bu insidentlərdən çıxarılan dərsləri əks etdirən geniş bir hesabat hazırlayaraq, süni intellektin təhlükəsiz inkişafı üçün ortaq standartlar yaratmağı hədəfləyir.
Digər modellər təhlükə altındadırmı?
“Irregular” yalnız ABŞ şirkətləri ilə deyil, həm də Çinin “Moonshot AI” və “Z.ai” şirkətlərinin modelləri ilə də işləyib. Lakin Omer Nevo, “Kimi K3” və “GLM-5.2” modellərinin sınaqları zamanı oxşar real dünya insidentlərinin qeydə alınmadığını bildirib. Bununla belə, ekspertlər bu müşahidənin modellərin tam təhlükəsiz olması mənasına gəlmədiyini vurğulayırlar.
