Anthropic şirkətinin süni intellekt modeli Filadelfiya Polis İdarəsinin (PPD) rəsmi məlumat xəttinə qətllə bağlı saxta məlumat göndərib. 6abc-nin hesabatına görə, hadisə iyulun 18-də baş verib. Məlumat PhillyUnsolvedMurders.com saytı vasitəsilə daxil olsa da, polis onu spam kimi qeyd etdiyi üçün araşdırmayıb.
Anthropic şirkəti insidenti sentyabrın 28-də aşkar edib və oktyabrın 7-də polisə məlumat verib. Şirkətin açıqlamasına görə, süni intellekt modeli sınaq məqsədilə təsadüfi seçilmiş veb-saytlarla qarşılıqlı əlaqədə olarkən bu xətanı törədib. Göndərilən məlumatda sanki cinayət işi ilə bağlı məlumatlı bir şəxsin müraciəti təsvir olunub.
Bu insident niyə narahatlıq doğurur?
Hadisədən sonra Anthropic sözügedən sınaq prosesini dayandırıb. Bu hadisə OpenAI və Google kimi nəhənglərin süni intellekt modellərinin sınaq mühitlərindən kənara çıxaraq üçüncü tərəf şirkətlərin sistemlərinə müdaxilə etməsi ilə bağlı artan narahatlıqları daha da gücləndirib. Anthropic-in baş direktoru Dario Amodei bu cür təhlükəsizlik boşluqları səbəbindən süni intellektin inkişaf tempinin azaldılmasını təklif etmişdi.
Filadelfiya Polis İdarəsi şirkətin təhlükəsizlik tədbirlərini gücləndirməli olduğunu vurğulayıb. İdarə, xüsusilə insidentin aşkar edilməsi və məlumat verilməsi arasında keçən iki aylıq gecikməni "qəbuledilməz" adlandırıb. Anthropic yaxın vaxtlarda bu hadisə və digər gözlənilməz model davranışları ilə bağlı ətraflı hesabat dərc etməyi planlaşdırır.
