"OpenAI" şirkəti hələ ictimaiyyətə təqdim olunmamış "Astra" süni intellekt modeli üçün təhlükəsizlik protokollarını yeniləyib. Daxili sınaqlar zamanı modelin avtonom proqramlaşdırma və kiberhücum imkanlarının gözləniləndən daha yüksək olduğu müəyyən edilib. Bu nəticələr şirkəti modeli "Critical" (kritik) risk səviyyəsinə yaxınlaşdığı üçün xüsusi nəzarət rejiminə keçirməyə vadar edib.
"Critical" risk səviyyəsi nəyi ifadə edir?
Şirkətin "Preparedness Framework" sənədinə əsasən, "Critical" səviyyəsi kiberəmniyyət sahəsində ən yüksək risk kateqoriyasıdır. Bu səviyyəyə aid edilən süni intellekt sistemləri insan müdaxiləsi olmadan real sistemlərdəki "zero-day" boşluqlarını aşkar edə və ya mürəkkəb kiberhücumları həyata keçirə bilər. "Astra" bu təsnifata yaxınlaşan ilk model olaraq qeydə alınıb.
Hansı təhlükəsizlik tədbirləri görülür?
- İzolyasiya edilmiş sınaq mühitləri və məhdud şəbəkə girişi tətbiq olunur.
- Modelin parametrləri üçün gücləndirilmiş müdafiə və daimi monitorinq sistemi qurulur.
- Potensial təhlükəli davranışları aşkar edən avtomatik dayandırma mexanizmləri aktivləşdirilib.
- Daxili işlərin bir hissəsi təhlükəsizlik tələbləri tam yerinə yetirilənə qədər dayandırılıb.
"OpenAI" rəsmiləri bildirirlər ki, bu addımlar modelin təhlükəli olduğunu deyil, onun potensial imkanlarının ciddi yanaşma tələb etdiyini göstərir. Şirkət gələcəkdə dövlət qurumları və xarici ekspertlərlə əməkdaşlıq edərək, "Astra" modelinin təhlükəsizliyini daha da artırmağı planlaşdırır. Əsas məqsəd bu texnologiyadan kiberhücumların qarşısının alınması və boşluqların vaxtında aradan qaldırılması üçün istifadə etməkdir.
