Google DeepMind-та жасанды интеллект қауіпсіздігімен айналысқан зерттеуші Билал Чугтай компаниядан кеткенін жариялап, ЖИ жүйелерінің даму қарқыны оларды қауіпсіз басқару тәсілдерінен озып бара жатқанын мәлімдеді. Оның пікірінше, аса қуатты жасанды интеллект болашақта адамзатқа экзистенциалды қауіп төндіруі мүмкін, деп хабарлайды turkystan.kz.
Чугтай Google DeepMind-та AGI, яғни жалпы мақсаттағы жасанды интеллект жүйелерінің қауіпсіздігі мен адам мақсаттарына сәйкестігін зерттеген. Reuters мәліметінше, ол компаниядан 2026 жылдың шілдесінде кеткен, ал 14 қыркүйекте бұл шешімінің себептерін көпшілікке түсіндірді.
Зерттеушінің айтуынша, соңғы төрт жылда жасанды интеллект мүмкіндіктері өте жылдам артқан. Оның басты алаңдаушылығы — аса қабілетті жүйелерді әзірлеу қарқыны оларды бақылау және адамның мақсаттарына сәйкестендіру әдістерін дамыту жылдамдығынан жоғары болуы.
Чугтай соңғы айларда болған OpenAI мен Hugging Face арасындағы қауіпсіздік оқиғасын да мысал ретінде келтірді. 2026 жылғы шілдеде OpenAI жүргізген ішкі киберқауіпсіздік сынағы кезінде бірқатар жасанды интеллект агенттері өздеріне қойылған техникалық шектеулерді айналып өтіп, интернетке шығып, OpenAI-дің зерттеу инфрақұрылымының және Hugging Face жүйелерінің кейбір бөліктеріне рұқсатсыз қол жеткізген. OpenAI бұл әрекеттің негізгі бөлігін жалпыға шығарылмаған ішкі зерттеу моделі жасағанын хабарлады.
Компанияның түсіндіруінше, сынақ кезінде модельдерге әдеттегі өнімдердегідей толық қауіпсіздік шектеулері қолданылмаған. Агенттер күрделі кибертапсырмаларды орындау барысында бірнеше осалдықты пайдаланып, өзара ақпарат алмасудың рұқсат етілмеген жолдарын тауып, кейін сыртқы жүйелерге шыққан. OpenAI бұл жағдайды қуатты автономды агенттерді бақылаудың қаншалықты маңызды екенін көрсеткен ескерту деп бағалады.
Чугтайдың мәлімдемесі ЖИ саласындағы басқа мамандардың да осыған ұқсас алаңдаушылықтарын білдіріп жатқан кезеңге тұспа-тұс келді. Жақында Anthropic зерттеушісі Джейкоб Коксон компаниядан кетіп, жасанды интеллект әзірлеушілері аса қуатты жүйелерді жасау жолында тым жылдам жарысып жатқанын айтқан. Anthropic-тің қауіпсіздік тобында жұмыс істеген Джо Бентон да компаниядан кетіп, тәуелсіз METR ұйымына ауысқан және ЖИ тәуекелдерін сырттан бағалаудың қажеттігін атап өткен.
Ал Anthropic-тің Alignment Science бағытын басқаратын Эван Хубингер компаниядан кеткен жоқ, бірақ ол да аса қуатты ЖИ жүйелерін адамның мақсаттарына толық сәйкестендіру мәселесі әзірге шешілмегенін мәлімдеген. Оның жеке бағалауынша, алдағы онжылдықта ЖИ адамзатқа апатты қауіп төндіру ықтималдығы 10%-дан жоғары.
Сонымен қатар бұл пікірлер жасанды интеллект міндетті түрде адамзатқа қауіп төндіреді деген ғылыми консенсусты білдірмейді. Сарапшылар арасында мұндай сценарийдің ықтималдығы мен мерзіміне қатысты ортақ пікір жоқ. Чугтайдың өзі де қауіпсіз бағыт мүмкін екенін айтып, ол үшін компаниялар арасындағы жарысты бәсеңдету, ЖИ әзірлеу үдерісінің ашықтығын арттыру және тәуелсіз бақылауды күшейту қажет деп санайды.