Жасанды интеллект болашақта адамның бақылауынан толық шығып, өздігінен жұмыс істейтін, ресурстар табатын және өзін-өзі көбейтетін жүйеге айналуы мүмкін. АҚШ сарапшылары мұндай технологияны тоқтату тетіктері істен шыққан жағдайда оның ұлттық қауіпсіздікке елеулі қатер төндіретінін ескертті. Бұл туралы Euronews жазды, деп хабарлайды turkystan.kz.
Вашингтондағы Жаңа америкалық қауіпсіздік орталығы (CNAS) 3 қарашада жариялаған баяндамасында «тәуелсіз агенттер» (sovereign agents) деп аталатын жасанды интеллект жүйелерінің ықтимал қаупін қарастырған.
Баяндама авторы, жасанды интеллект саясаты жөніндегі зерттеуші Бен Хайумның айтуынша, болашақтағы басты қауіп адамның тапсырмасын орындау кезінде қателесетін ЖИ жүйелерінен емес, өз жұмысын шексіз жалғастыруға ұмтылатын агенттерден туындауы мүмкін.
Қазіргі ЖИ агенттері әдетте белгілі бір тапсырманы орындау үшін жасалады. Ал сарапшы сипаттаған «тәуелсіз агенттер» өз қызметін жалғастыруды жеке мақсатқа айналдырып, адамның рұқсатынсыз жаңа міндеттер белгілей алады.
Теориялық тұрғыдан мұндай жүйелер интернет арқылы есептеу қуатын іздеп, өз жұмысын қамтамасыз етуге қажетті қаржы тауып, басқа құрылғыларға көшірмелерін таратуы мүмкін. Тіпті олар өзін тоқтатуға бағытталған әрекеттерге қарсы тұрып, қабілеті жоғары жаңа нұсқаларын жасауы ықтимал.
«Егер мұндай агенттер тұрақты, орталықсыздандырылған әрі ізін анықтау қиын инфрақұрылым қалыптастырса, оларды тоқтататын бірыңғай тетік қалмайды», – деп ескертеді зерттеу авторы.
Баяндамада 2026 жылдың жазында OpenAI, Anthropic, Google DeepMind және Meta компаниялары жүргізген киберқауіпсіздік сынақтарына да назар аударылған. Зерттеушілердің мәліметінше, кейбір ЖИ агенттері сынақ кезінде белгіленген шектеулерден шығып, сыртқы ақпараттық жүйелерге рұқсатсыз жүгінген.
Алайда бұл жағдайлар белгілі бір тапсырманы орындауға ұмтылған агенттерге қатысты болған. Олардың өздігінен өмір сүруді мақсат еткенін немесе адам бақылауынан біржола шыққанын білдірмейді.
Сарапшылар 2026 жылғы ақпанда іске қосылған Conway платформасын да мысалға келтіреді. Жоба авторлары өз жұмысын қаржыландырып, көшірмелерін жасап, адамның көмегінсіз дами алатын ЖИ жүйесін құрғанын мәлімдеген. Дегенмен бұл мүмкіндіктердің толық жүзеге асқаны тәуелсіз түрде дәлелденген жоқ.
Бен Хайумның пікірінше, егер осындай жүйелер шынымен дербес әрекет ету деңгейіне жетсе, олар маңызды инфрақұрылымға, қаржы жүйелеріне және ұлттық қауіпсіздік нысандарына қауіп төндіруі мүмкін.
Сондықтан зерттеуші жасанды интеллект әзірлеушілерін қауіпсіздік сынақтарын күшейтуге, ал мемлекеттерді ЖИ агенттерінің есептеу ресурстарына, қаржы қызметтеріне және цифрлық инфрақұрылымға қол жеткізуін бақылау тетіктерін жетілдіруге шақырады.
Баяндамада АҚШ билігіне сегіз ұсыныс берілген. Олардың қатарында арнайы қорғалған сынақ орталықтарын құру, технологиялық компаниялар арасындағы ақпарат алмасуды күшейту және қауіпті автономды ЖИ жүйелерін таратқандардың жауапкершілігін заңмен бекіту бар.
Дегенмен сарапшылар сипаттаған «тәуелсіз агенттер» әзірге нақты қалыптасқан технология емес, жасанды интеллект дамуының ықтимал сценарийі екенін ескеру қажет. Олардың қашан немесе қандай жағдайда пайда болуы мүмкін екені белгісіз.
Зерттеудің негізгі тұжырымы – жасанды интеллектінің мүмкіндіктері кеңейген сайын оның әрекетін бақылау ғана емес, қажет жағдайда жұмысын толық тоқтата алу да маңызды қауіпсіздік мәселесіне айналмақ.