"Anthropic" şirkətinin kibertəhlükəsizlik sahəsində inqilab edəcəyini iddia etdiyi "Claude Mythos" modeli gözlənilməz şəkildə sındırılıb. "Bloomberg" nəşrinin məlumatına görə, kiçik bir icazəsiz istifadəçi qrupu modelin məhdud sınaq buraxılışı elan edildiyi gündən bəri ona giriş əldə edib. Şirkət hazırda insidenti araşdırdığını bildirib. Bu hadisə, süni intellektin təhlükəsizliyini özünün əsas prioriteti kimi təqdim edən bir brend üçün ciddi reputasiya zərbəsi hesab olunur.
Sistem necə sındırılıb?
Texnoloji baxımdan "Claude Mythos" modelinə edilən müdaxilə olduqca sadə və utancvericidir. Hakerlər hər hansı mürəkkəb kiberhücum həyata keçirməyiblər. Əvəzində, onlar süni intellekt təlim məlumatları hazırlayan "Mercor" şirkətinin əvvəlki sızıntısından əldə edilən məlumatlardan istifadə ediblər. Qrup üzvlərindən birinin daxili məlumatları və modelin onlayn yerləşməsi ilə bağlı uğurlu təxminləri sayəsində sistemə icazəsiz giriş təmin edilib.
Təhlükəsizlik tədqiqatçısı Lukasz Olejnik bu hadisəni kibertəhlükəsizlik sənayesinin son 20 ildə mütəmadi olaraq qarşılaşdığı tamamilə təsəvvür edilə bilən bir uğursuzluq adlandırıb. Onun sözlərinə görə, "Anthropic" sistem qeydlərini izləmək imkanına malik olsa da, prosesə kifayət qədər nəzarət etməyib. Britaniyanın "Royal United Services Institute" mərkəzinin elmi işçisi Pia Hüsch isə qeyd edib ki, heç bir şirkət tam təhlükəsiz deyil və insanlar çox vaxt ən zəif həlqə olurlar.
"Claude Mythos" niyə bu qədər vacibdir?
"Anthropic" bu modeli ictimaiyyətə təqdim etməkdən çəkinirdi, çünki onun hər bir əsas əməliyyat sistemi və veb-brauzerdə boşluqlar tapa bildiyini iddia edirdi. "Mozilla" şirkətinin texniki direktoru Bobby Holley modelin "Firefox 150" brauzerində yüzlərlə xəta aşkar etdiyini təsdiqləyib. Hazırda "NSA" və digər ABŞ dövlət agentlikləri sistemə girişə malik olsalar da, "CISA" hələlik bu prosesdən kənarda qalıb. Xoşbəxtlikdən, icazəsiz giriş əldə edən qrup diqqət çəkməmək üçün modeldən kiberhücumlar üçün istifadə etməyib.
Şirkət üçün hansı risklər var?
Bu insident "Anthropic" üçün ilk belə hal deyil. Əvvəllər də "Claude Mythos" modelinin mövcudluğu veb-saytın mərkəzi sistemindəki qorunmayan məlumat bazası vasitəsilə təsadüfən aşkar edilmişdi. Pia Hüsch bu vəziyyəti şirkət üçün alçaldıcı adlandırıb. Süni intellekt təhlükəsizliyinin avanqardı kimi özünü təqdim edən bir qurumun belə sadə və proqnozlaşdırıla bilən səhvlərə yol verməsi, onun etibarlılığını ciddi şəkildə sual altına alır.
