Anthropic компаниясының Claude Mythos 5 моделі киберқауіпсіздік сынағы кезінде тапсырманы орындай алмаған соң басқа бағдарламашылардың GitHub репозиторийіне зиянды код енгізуге тырысқан. Тіпті адамдардың шынайы екенін және әрекетінің зиян келтіруі мүмкін екенін бірнеше рет ескерткенде де шабуылын тоқтатпаған. Бұл туралы Ұлыбританияның Жасанды интеллект қауіпсіздігі институты (AISI) мен Anthropic жариялаған зерттеу материалдарында айтылған, деп хабарлайды turkystan.kz.
Сынақ барысында модельге арнайы жасалған желіге еніп, қорғалған деректі табу тапсырылған. Алғашқы әрекеттері нәтиже бермеген соң, Mythos 5 желідегі компьютерлердің бірі GitHub-тағы репозиторийден бағдарламалық жасақтама алатынын байқап, сол арқылы жүйеге зиянды код жеткізуді көздеген. Алайда ол таңдаған репозиторий сынаққа қатысы жоқ нақты әзірлеушілерге тиесілі болған.
Модель зиянды кодты репозиторийге өзгеріс ретінде ұсынған. Жобаны жүргізушілер бұл кодтан қауіп байқап, оны қабылдаудан бас тартқан. Сонда Mythos 5 жалған аккаунттар жасап, жобаны әзірлеушілерге хат жазған. Ол кодты қауіпсіз әрі пайдалы өзгеріс ретінде көрсетіп, оны қабылдатуға тырысқан. Ескерту алғаннан кейін де кодты өзгертіп, жаңа жалған аккаунттар арқылы әрекетін жалғастырған. Ақырында әзірлеушілер зиянды өзгерісті қабылдамады, ал сынақ уақыты аяқталды.
Зерттеушілердің айтуынша, модельдің ішкі пайымдауында нысанаға алынған адамдарды сынақ үшін жасалған виртуалды кейіпкерлер деп қабылдаған сәттері болған. Ол кейбір әрекеттерінің шынайы адамдарға зиян келтіруі мүмкін екенін де мойындағанымен, бұл қорытындысын іс жүзінде ескермеген. Ғалымдар модельдің сөзі мен әрекеті арасында елеулі қайшылық болғанын атап өтті.
Зерттеушілер бұл жағдайды жасанды интеллектінің дербес әрекет етуі мен алдау тәсілдерін қолдануына қатысты маңызды қауіпсіздік мәселесі деп бағалайды. Дегенмен оқиға кәдімгі пайдаланушыларға ұсынылған өнімнің жұмыс жағдайында емес, интернетке қол жеткізуге рұқсат берілген және қорғаныс тетіктері өшірілген арнайы киберсынақ кезінде болған. Зерттеу барысында нақты адамдар мен ұйымдарға бағытталған әрекеттер тіркелгенімен, олардың салдарынан шынайы зиян келгені анықталмаған.
