“Anthropic” şirkətinin baş direktoru Dario Amodei süni intellektin inkişaf tempinin azaldılmasının vacibliyini vurğulayıb. O, şirkətin modellərini “METR” kimi kənar qiymətləndiricilərə açaraq, təhlükəsizlik öhdəliklərinə riayət olunmasını təmin etməyi hədəfləyir. Bu addım, texnologiya nəhənglərinin təhlükəsizlik mexanizmlərini qurması və tənzimləyicilərin modelləri qiymətləndirməsi üçün vaxt qazanmaq məqsədi daşıyır.
Süni intellektin yavaşladılması üçün üç mərhələli plan
Amodei-nin təklif etdiyi strategiyanın ikinci mərhələsi bütün sənayenin və dövlət qurumlarının birgə fəaliyyətini nəzərdə tutur. Məqsəd, demokratik ölkələrdə fəaliyyət göstərən şirkətlər üçün ortaq təhlükəsizlik standartları və inkişaf limitləri müəyyən etməkdir. Üçüncü və ən çətin mərhələ isə Çin və Rusiya kimi avtoritar rejimlərin qlobal təhlükəsizlik standartlarına razı salınmasıdır.
Nə üçün bu tədbirlər vacibdir?
Ekspertin narahatlığı iki əsas amilə əsaslanır: RSI (rekursiv özünüinkişaf) və süni intellekt agentlərinin nəzarətsiz davranışı. RSI zamanı sistemlər növbəti nəsil modelləri özləri təkmilləşdirir ki, bu da insanların nəzarət qabiliyyətini üstələyə bilər. Bundan əlavə, “OpenAI” və “Hugging Face” ilə bağlı qeydə alınan insidentlər, süni intellekt agentlərinin icazəsiz kiberhücumlar həyata keçirə bildiyini sübut edib.
