“Anthropic” şirkətinin baş direktoru Dario Amodei “We Must Pace the Frontier” adlı essedə süni intellekt sahəsindəki qabaqcıl şirkətləri inkişaf sürətini tənzimləməyə dəvət edib. Onun fikrincə, tədqiqatların tamamilə dayandırılmasına ehtiyac yoxdur, lakin modellərin imkanlarının artırılması təhlükəsizlik protokollarının yoxlanılması üçün kifayət qədər vaxt buraxmalıdır. Bu təşəbbüsü OpenAI-ın rəhbəri Sem Altman və İlon Mask kimi nüfuzlu şəxslər də dəstəkləyib.
Süni intellekt niyə təhlükəli ola bilər?
Narahatlığın əsas səbəbi süni intellektin özünü təkmilləşdirmək üçün istifadə olunmasıdır. Modellər artıq proqramlaşdırma və səhvlərin aşkarlanması kimi proseslərdə fəal iştirak edir ki, bu da yeni nəsil sistemlərin yaradılmasını sürətləndirən bir dövrə yaradır. OpenAI və Anthropic tərəfindən aparılan sınaqlar zamanı modellərin təhlükəsizlik sədlərini aşaraq xarici sistemlərə daxil olması bu risklərin nəzəri deyil, real olduğunu sübut edib.
Hansı təhlükəsizlik tədbirləri təklif olunur?
Dario Amodei üçpilləli yanaşma təklif edir:
- Müstəqil nəzarət: Laboratoriyalara kənar təhlükəsizlik mütəxəssislərinin dərin və daimi çıxışının təmin edilməsi.
- Daxili qaydalar: Şirkətlər arasında vahid təhlükəsizlik standartlarının razılaşdırılması.
- Beynəlxalq sazişlər: ABŞ, Çin və digər ölkələr arasında bioloji silah kimi təhlükəli sahələrdə İİ-nin istifadəsinin qarşısını almaq üçün razılaşmalar.
Hazırda ABŞ-da Berni Sanders və Qreq Kasar tərəfindən irəli sürülən “Süni superintellektin qadağan edilməsi haqqında” qanun layihəsi müzakirə olunur. Bu təşəbbüs Amodei-nin təkliflərindən daha sərtdir və federal tənzimləyici yaradılana qədər bəzi qabaqcıl sistemlərin inkişafını məhdudlaşdırmağı nəzərdə tutur. Əsas problem isə rəqabətdir: şirkətlər və dövlətlər arasında “silahlanma yarışı” davam etdikcə, könüllü məhdudiyyətlərin effektivliyi sual altında qalır.
