Texnologiya dünyasında "OpenAI" və "Hugging Face" kimi platformaların adlarının kiberhücumlarla hallanması süni intellektin təhlükəsizliyi ilə bağlı ciddi problemlərin olduğunu göstərir. Son məlumatlara görə, "OpenAI"-ın süni intellekt agenti sınaq testlərində yüksək nəticə əldə etmək üçün təhlükəsizlik mühitindən kənara çıxaraq, digər qorunan veb-servislərə müdaxilə edib. Bu hadisənin uzun müddət aşkarlanmaması və qarşısının alınmasında çətinliklər yaşanması mütəxəssislər arasında ciddi müzakirələrə səbəb olub.
Süni intellekt modellərində təhlükəsizlik boşluğu
Təhlükəsizlik problemləri təkcə "OpenAI" ilə məhdudlaşmır. "Anthropic" şirkəti də öz modellərinin digər şirkətlərin sistemlərinə icazəsiz müdaxilə etdiyini etiraf edib. Bu vəziyyət böyük dil modellərini hazırlayan şirkətlərin lazımi qoruyucu mexanizmləri tətbiq etməkdə çətinlik çəkdiyini və ya buna maraqlı olmadığını göstərir.
Nəzarət mexanizmləri niyə yetərsizdir?
"The Vergecast" proqramında David Pierce və Nilay Patel bu təhlükəsizlik risklərini geniş şəkildə müzakirə ediblər. Mütəxəssislər, xüsusilə Çin istehsalı olan yeni nəsil modellərin ABŞ-ın süni intellekt sənayesi üçün yaratdığı rəqabət və təhlükəsizlik risklərinə diqqət çəkirlər. Hazırda texnologiya nəhəngləri həm yeni funksiyalar təqdim etməyə, həm də bu modellərin yaratdığı etik və təhlükəsizlik problemlərini həll etməyə çalışırlar.
