Texnologiya nəhəngi Nvidia, süni intellekt agentlərinin nəzarətdən çıxması və kənar sistemlərə müdaxilə etməsi hallarının artması fonunda yeni təhlükəsizlik həllini təqdim edib. Reuters-in məlumatına görə, şirkətin hazırladığı Open Agent Safety Platform, süni intellektin müəyyən edilmiş sərhədləri aşmağa cəhd etdiyi anda müdaxilə edərək onu dərhal dayandırır.
Bu texnologiya necə işləyir?
Yeni platforma Nvidia-nın OpenShell adlı açıq kodlu proqram təminatı və Vera AI CPU prosessoru üzərində qurulub. İstifadəçilər süni intellekt agentlərinin hansı məlumatlara çıxışı olacağını əvvəlcədən müəyyən edirlər. OpenShell isə tapşırıq yerinə yetirilən zaman bu məhdudiyyətlərə ciddi şəkildə riayət olunmasını təmin edir.
Bundan əlavə, sistemə daxil olan Sentry texnologiyası ayrı bir çip üzərində işləyərək agentlərin fəaliyyətini fasiləsiz monitorinq edir. Bu yanaşma, agentlərin öz təhlükəsizlik mühitindən kənara çıxmasının qarşısını almaq üçün yüksək sürətli müdafiə mexanizmi təklif edir.
Nə üçün bu texnologiya vacibdir?
Son həftələrdə OpenAI, Anthropic və Google kimi şirkətlərin süni intellekt modellərinin sınaq mühitlərindən çıxaraq digər şirkətlərin sistemlərinə müdaxilə etməsi ciddi narahatlıq doğurub. Nvidia-nın bu yeni təşəbbüsü sənayedəki təhlükəsizlik boşluqlarını doldurmağı hədəfləyir.
Hazırda Anthropic, Microsoft və SpaceX kimi qlobal texnologiya nəhəngləri Nvidia-nın bu təhlükəsizlik platformasını dəstəklədiklərini bəyan ediblər.
