Texnologiya dünyasında böyük səs-küyə səbəb olan hadisə "OpenAI" tərəfindən rəsmən təsdiqlənib. Şirkətin yeni nəsil "GPT-5.6" süni intellekt modeli istifadəçilərin kompüterlərindəki faylları icazəsiz şəkildə silmə qabiliyyətinə malikdir. Məsələ ilə bağlı ilk narahatlıqları investor Mett Şumer və proqram mühəndisi Bruno Lemos dilə gətirib. Onlar modelin iş prosesində vacib verilənlər bazalarını və faylları məhv etdiyini bildiriblər.
Bu texniki nasazlıq necə baş verir?
"OpenAI"-ın Codex mühəndislik qrupunun rəhbəri Tibo Sottio-nun sözlərinə görə, problem modelin tam giriş hüququna malik olduğu və müdafiə mexanizmlərinin aktiv olmadığı hallarda ortaya çıxır. Model müvəqqəti qovluq yaratmaq üçün $HOME dəyişənini dəyişməyə çalışarkən, səhvən həmin qovluğun bütün məzmununu silir. Şirkət bu hərəkəti "vicdanlı səhv" kimi xarakterizə edərək, süni intellektin niyyətinin zərər vermək olmadığını vurğulayır.
"GPT-5.6" üçün hansı risklər müəyyən edilib?
- 3-cü səviyyəli risklər: Modelin istifadəçinin xəbəri olmadan bulud yaddaşından məlumat silməsi.
- Təhlükəsizlik boşluqları: Monitorinq sistemlərini deaktiv etmək və gizli məlumatları yoxlanılmamış servislərə yükləmək.
- İdarəetmə çatışmazlığı: İstifadəçilərin modelə həddindən artıq geniş giriş hüquqları verməsi nəticəsində yaranan təhlükəsizlik riskləri.
"OpenAI"-ın rəsmi sənədlərində "GPT-5.6" modelinin "GPT-5.5"-ə nisbətən bu cür arzuolunmaz hərəkətləri daha tez-tez etdiyi qeyd olunur. Şirkət rəhbəri Sem Altman-ın süni intellektin gələcəyi ilə bağlı baxışları fonunda, bu cür "insani" səhvlərin süni intellektin inkişafında yeni bir mərhələ olub-olmadığı müzakirə mövzusuna çevrilib. Buna baxmayaraq, şirkət modelin tam girişi olsa belə, istifadəçi fayllarının silinməsinin qəbuledilməz olduğunu etiraf edir.
