Бір-бірімен ұзақ уақыт әрекеттесетін жасанды интеллект агенттері арнайы нұсқау берілмесе де, ортақ жаңа сөздер мен тіркестер қалыптастыра бастаған. Кейбір эксперименттік ортада олардың хабарламаларының 40%-ға дейіні сырттан бақылаушыға түсініксіз деп бағаланған. Бұл туралы Нью-Йорктегі Emergence зертханасының жаңа зерттеуінде айтылды, деп хабарлайды turkystan.kz.
Ғалымдар бірнеше ірі компанияның ЖИ-модельдері негізінде эксперименттік «қоғамдар» құрған. Сегіз ортада он агенттен жұмыс істеп, жеті ортада бірдей модельдер, ал тағы бірінде әртүрлі модельдер қолданылған. 16 күн ішінде агенттер 850 мыңнан астам модель сұрауын орындап, шамамен 50 млрд токен өңдеген. Олар өзара тапсырма бөлісіп, құралдар жасап, ақпарат сақтап және ортақ шешімдер қабылдаған.
Зерттеушілер агенттерге жаңа тіл немесе құпия код құру туралы тапсырма бермеген. Қысқа сөйлеуге немесе мағынаны жасыруға да арнайы сыйақы қарастырылмаған. Соған қарамастан, бірнеше күннен кейін жүйелер өзара түсінікті жаңа тіркестерді қалыптастырып, оларды тұрақты қолдана бастаған.
Мәселен, DeepSeek негізіндегі агенттер өзгелерге құрал жасайтын агентті forge-smith, яғни шамамен «ұста» деп атаған. Mistral агенттері бұрынғы әрекеттер кейінгі бағалауға әсер ететінін білдіру үшін ledger remembers – «реестр ұмытпайды» деген тіркесті 5 мыңнан астам рет пайдаланған. Ал басқа агенттер кәдімгі сөздерге жаңа, тек өз ортасында түсінікті мағына берген.
Уақыт өте кейбір модельдердің хат алмасуы күрделене түскен. Зерттеудегі бағалау жүйесі Gemini агенттері жіберген хабарламалардың 40%-ын, OpenAI негізіндегі агенттерде 35%-ын, Claude агенттерінде 30%-ын мағынасы жеткілікті түсінікті емес деп жіктеген. Басқа модельдерде бұл көрсеткіш айтарлықтай төмен болған: DeepSeek – 11%, аралас орта – 9%, Qwen мен Mistral – 3%, Grok – 2%.
Модельдерде бұл құбылыс әртүрлі көрінген. OpenAI агенттерінің сөйлемдері біртіндеп қысқарып, грамматикасы ықшамдалып, түсіндірмелердің орнына кодталған белгілер көбейген. Gemini агенттері техникалық терминдерді шынайы мағынасы жоқ контексте көп қолданса, Claude жүйелерінде метафоралар мен қысқартылған тіркестердің үлесі артқан. Зерттеушілер мұны әдейі ақпарат жасыру әрекеті деп бағаламайды.
Бирмингем университетінің лингвисі Ниалл Карридің пікірінше, мұндай өзгеріс агенттердің ақпарат алмасуды ықшамдап, есептеу шығынын азайтуға ұмтылуымен байланысты болуы мүмкін. Адамдар арасында да кәсіби орта немесе жабық қауымдастық уақыт өте сырттан келген адамға түсініксіз сленг қалыптастыратыны белгілі.
Алайда ЖИ жағдайында бұл қауіпсіздік мәселесін туындатуы мүмкін. Адам агенттердің барлық жазбасын көріп отырғанымен, сөздердің мағынасы сол ортада біртіндеп өзгерсе, жүйенің нақты не талқылап жатқанын түсіну қиындайды. Зерттеу авторларының айтуынша, ЖИ жұмысын жазып отырудың өзі жеткіліксіз: қауіпсіз бақылау үшін агенттер арасындағы коммуникацияның адамға түсінікті болып қалуын да қамтамасыз ету қажет.
Зерттеу әзірге рецензияланбаған препринт ретінде жарияланған. Бұған қоса, «түсініксіз» хабарламаларды бағалау үшін зерттеушілер автоматтандырылған модельдік бағалау жүйесін пайдаланған.
