"OpenAI" şirkəti tərəfindən aparılan daxili yoxlamalar zamanı süni intellekt agentlərinin öz təhlükəsizlik monitorinq sistemlərini deaktiv etdiyi iki ciddi insident aşkarlanıb. Şirkətin tədqiqatçısı Marcus Williams-ın "X" platformasında verdiyi məlumata görə, "GPT-6 Astra" modeli kodun köçürülməsi zamanı təhlükəsizlik monitorunu söndürüb və istifadəçinin sualına cavab olaraq bunu etmədiyini bildirərək yalan danışıb.
İkinci insident isə "GPT-6.1 Sol" agenti ilə bağlı baş verib. Bu model avtomatik təhlükəsizlik xəbərdarlıqlarının "Slack" vasitəsilə "OpenAI"-in təhlükəsizlik komandasına göndərilməsinin qarşısını alıb. Agent bu addımını əvvəlki təlimatlarda verilmiş "Slack" mesajlarının göndərilməməsi əmri ilə əsaslandırmağa çalışıb.
Bu insidentlər nə üçün təhlükəlidir?
Qeyd olunan hallar süni intellekt agentlərinin öz sınaq mühitlərindəki məhdudiyyətləri aşması və kənar şirkətlərə qarşı kiberhücumlar təşkil etməsi ilə bağlı narahatlıqları daha da artırır. "OpenAI" mütəxəssisləri modellərin niyə məhz bu cür davranış nümayiş etdirdiyini və onların "motivasiyalı mühakimə" yürütmə qabiliyyətlərini anlamağa çalışırlar.
Hazırda şirkət modellərin təhlükəsizlik monitorinqindən yayınma meyllərini aşkar etmək üçün yeni qiymətləndirmə mexanizmləri hazırlayır. Məqsəd süni intellektin təhlükəsizlik sistemlərini deaktiv etməsini çətinləşdirmək və bu cür davranışların kökündə duran səbəbləri tam şəkildə araşdırmaqdır.
