Texnologiya nəhəngi "OpenAI" özünün perspektivli süni intellekt layihəsi olan "Astra"-nın inkişaf prosesini dayandırdığını elan edib. Şirkətin rəsmi açıqlamasına görə, bu addım daxili təhlükəsizlik protokolları olan "Preparedness Framework" çərçivəsində aparılan qiymətləndirmələrdən sonra atılıb. Modelin proqramlaşdırma və kibertəhlükəsizlik sahəsindəki yüksək bacarıqları, onun gözləniləndən daha təhlükəli ola biləcəyini göstərib.
Nə üçün "Astra" modelinin inkişafı dayandırıldı?
"OpenAI"-ın müəyyən etdiyi təhlükəsizlik meyarlarına əsasən, əgər süni intellekt modeli insanların müdaxiləsi olmadan real sistemlərdəki kritik boşluqları (zero-day) aşkar edə və ya mürəkkəb kiberhücum strategiyaları hazırlaya bilirsə, bu, kritik hədd hesab olunur. "Astra"-nın son sınaqları onun bu həddi keçə biləcəyini nümayiş etdirib. Şirkət bildirib ki, bu cür yüksək imkanlara malik modellər üçün daha ciddi nəzarət mexanizmləri tətbiq edilməlidir.
Bu qərarın arxasında hansı hadisələr dayanır?
Qərarın "Hugging Face" platformasının "OpenAI" modellərindən biri tərəfindən hücuma məruz qalması ilə bağlı yayılan iddialar fonunda verilməsi diqqət çəkir. Lakin şirkət "Astra"-nın bu insidentlə birbaşa əlaqəsinin olmadığını vurğulayıb. Hazırda "OpenAI" bütün agent tətbiqlərində potensial riskli hərəkətlərin izlənilməsi üçün universal monitorinq sistemini gücləndirməyi planlaşdırır.
