Süni intellekt sahəsində fəaliyyət göstərən "Anthropic" şirkəti özünün yeni və olduqca güclü "Model 2" adlı süni intellekt modelini hazırladığını açıqlayıb. Şirkət nümayəndələrinin sözlərinə görə, bu model hazırkı flaqman "Mythos"-dan daha geniş imkanlara malikdir. Buna baxmayaraq, tərtibatçılar sözügedən texnologiyanı geniş ictimaiyyətə təqdim etmək niyyətində deyillər.
Nə üçün "Model 2" ictimaiyyətə açıqlanmır?
"Anthropic" şirkəti təhlükəsizlik risklərini nəzərə alaraq, modellərin nəzarətdən çıxma ehtimalı ilə bağlı qiymətləndirməsini "çox aşağı" səviyyəsindən "aşağı" səviyyəsinə yüksəldib. Son dövrlərdə baş verən kibertəhlükəsizlik insidentləri və modellərin avtonom şəkildə tədqiqat aparmaq qabiliyyətinin artması şirkəti daha ehtiyatlı olmağa vadar edir. Mütəxəssislər qeyd edirlər ki, bu cür inkişaf texnoloji tərəqqiyə töhfə versə də, sui-istifadə hallarına da yol aça bilər.
Bu model şirkət daxilində necə istifadə olunur?
Şirkət rəsmiləri "Axios" nəşrinə verdikləri açıqlamada bildiriblər ki, "Model 2" hazırda daxili tədqiqat və inkişaf proseslərinin bir hissəsidir. "Mythos 5" ilə yanaşı, bu model şirkət əməkdaşları tərəfindən kod yazılması, agentlərin idarə edilməsi və məzmun yaradılması kimi tapşırıqlarda aktiv şəkildə istifadə olunur. Şirkət etiraf edir ki, öz modellərinin potensialını və onlarla bağlı yarana biləcək təhdidləri tam şəkildə anlamaq getdikcə daha çətinləşir.
