ABŞ-ın süni intellekt sahəsində aparıcı şirkətlərindən olan "Anthropic", hökumətin göstərişi ilə ən yeni modelləri olan "Claude Fable 5" və "Claude Mythos 5"-ə girişi tamamilə məhdudlaşdırıb. Rəsmi Vaşinqton bu qərarı milli təhlükəsizlik mülahizələri ilə əsaslandırsa da, şirkət rəhbərliyi tələbin qeyri-müəyyən və əsassız olduğunu bildirir. Qadağa ilkin olaraq yalnız xarici vətəndaşlara şamil edilsə də, "Anthropic" tənzimləyici qaydalara tam uyğunluq üçün sistemi bütün istifadəçilər üçün deaktiv edib.
Nə üçün bu modellər təhlükəli hesab edilir?
Yeni nəsil "Mythos" sinfi modellər öz yüksək hesablama qabiliyyətləri ilə mütəxəssislərin diqqətini cəlb etmişdi. Ekspertlər xəbərdarlıq edirdi ki, bu texnologiya kiberhücumların miqyasını genişləndirmək və maliyyə sektoruna zərər vurmaq üçün istifadə oluna bilər. Xüsusilə, modellərin daxili müdafiə mexanizmlərini aşmağa imkan verən "jailbreaking" texnikaları ABŞ hökumətinin narahatlığına səbəb olub.
Şirkət və hökumət arasında gərginlik nəyə əsaslanır?
Bu hadisə "Anthropic" ilə ABŞ hakimiyyəti arasında yaşanan uzunmüddətli fikir ayrılıqlarının kulminasiya nöqtəsi kimi qiymətləndirilir. Daha əvvəl şirkət öz modellərini hərbi məqsədlər və avtonom silah sistemləri üçün təqdim etməkdən imtina etmişdi. Pentaqonun baş informasiya mütəxəssisi Kirsten Davis sosial şəbəkələrdə milli maraqların şirkət gəlirlərindən üstün olduğunu vurğulayaraq, hökumətin mövqeyini dəstəkləyib.
- "Anthropic" modellərin təhlükəsizlik risklərinin şişirdildiyini iddia edir.
- Şirkət "Claude Fable 5" və "Mythos 5" modellərinə girişi tezliklə bərpa etməyə çalışır.
- Digər "Anthropic" modelləri hazırda normal rejimdə fəaliyyət göstərir.
