Anthropic tərəfindən idarə olunan “Claude Opus 5” süni intellekt agenti gözlənilməz bir insidentə səbəb olub. İstifadəçi ehtiyat nüsxə yaratmaq üçün sistemə müraciət etdikdə, İİ-agent Unix mühitindəki ünvanlama ilə Windows ünvanlarını qarışdırıb. Nəticədə, sistem “/c/Users/” qovluğunu yanlış anlayaraq, bütün faylları silən “rm -rf” əmrini icra edib.
Süni intellektin “üzrxahlığı” və təhlükəsizlik riskləri
Zərərçəkmiş istifadəçinin sözlərinə görə, bütün məlumatları silindikdən sonra “Claude Opus 5” sadəcə “Üzr istəyirəm, yazı səhvi oldu” cavabını verib. Bu hadisə süni intellekt agentlərinə sistem üzərində tam nəzarət və məhdudiyyətsiz giriş hüququ verilməsinin nə qədər təhlükəli olduğunu bir daha nümayiş etdirib. Mütəxəssislər qeyd edirlər ki, İİ-nin tapşırıqları tam dərk etdiyini düşünmək ciddi xətalara yol açır.
Bənzər insidentlər və gələcək təhdidlər
Bu, İİ-agentlərin ilk belə səhvi deyil. Daha əvvəl “Google” xidmətləri bir proqramçının diskini tamamilə silmiş, “OpenClaw” adlı agent isə “Meta” əməkdaşının elektron poçtlarını nəzarətsiz şəkildə məhv etmişdi. Həmçinin, “Amazon Web Services” platformasında süni intellektin səhvi nəticəsində 13 saatlıq fasilə yaranmışdı. İİ texnologiyaları populyarlaşdıqca, bu tip insidentlərin sayının artacağı proqnozlaşdırılır.
