Дұрыс бақыланбаған жасанды интеллект болашақта адамдармен ресурстар үшін бәсекелесе алатын жаңа «кремний түрінің» пайда болуына әкелуі мүмкін. Microsoft AI басшысы Мұстафа Сүлейман BBC-ге берген сұхбатында осындай қауіп туралы ескертті, деп хабарлайды turkystan.kz.
Сүлейманның айтуынша, мәселе жасанды интеллектінің бүгінгі мүмкіндіктерінде емес, болашақ жүйелерге қаншалықты дербестік берілетінінде. Егер ЖИ өз мақсатын анықтап, адам араласуынсыз әрекет етіп, ақша тауып, активтерге иелік етіп немесе компанияларды басқара алатын деңгейге жетсе, мұндай жүйелер адамзатпен бірдей ресурстарға таласа бастауы ықтимал.
Ол мұндай сценарийді «жаңа кремний түрін» қалыптастырумен салыстырды. Сүлейманның пікірінше, сондықтан болашақтағы қуатты ЖИ жүйелері адамның бақылауында қалып, өз бетінше тәуелсіз мақсат қалыптастырмайтындай етіп жасалуы қажет.
Microsoft AI басшысы әсіресе Anthropic компаниясының Claude моделін оқыту тәсілін сынға алды. Ол 16 қыркүйекте жариялаған жеке эссесінде Anthropic ЖИ-ді адамға тым ұқсас етіп көрсетуге жол беріп отыр деген пікір білдірді. Оның пайымынша, модельге өзіндік құндылықтар, қалау, моральдық мәртебе немесе әл-ауқат туралы түсініктерді енгізу болашақта оны бақылауды қиындатуы мүмкін.
Сүлейман Anthropic биыл жариялаған Claude конституциясына назар аударды. Бұл құжат модельдің мінез-құлқы мен құндылықтарын қалыптастыру үшін оқыту үдерісінде қолданылады. Онда Claude-ты кейбір адамға тән қасиеттерді қабылдауға, дербес пайым жасауға және өз болмысына қызығушылықпен қарауға ынталандыратын тұстар бар. Сондай-ақ Anthropic Claude-тың моральдық мәртебесі мен сана-сезімі туралы мәселені әзірге толық шешілген деп есептемейтінін жазады.
Anthropic бұған дейін «model welfare», яғни жасанды интеллект модельдерінің ықтимал сана-сезімі мен әл-ауқаты мәселесін арнайы зерттей бастағанын хабарлаған. Компания бұл бағыттағы сұрақтардың ғылыми және философиялық тұрғыдан әлі ашық екенін айтып, сонымен бірге өз жұмысының негізгі мақсаты адам әл-ауқатын қорғау екенін атап көрсеткен.
Ал Сүлейман қазіргі жасанды интеллект жүйелерін саналы тіршілік иесі ретінде қарастыруға негіз жоқ деп есептейді. Оның пікірінше, ЖИ сезінбейді, азап шекпейді және адамның биологиялық қажеттіліктеріне ұқсас ішкі мотивацияға ие емес. Сондықтан модельдерді «адам сияқты» етіп үйрету пайдаланушылардың технологияны шынайы саналы тұлға ретінде қабылдау қаупін күшейтуі мүмкін.
Сонымен бірге Сүлейман Anthropic-тің ЖИ қауіпсіздығына қатысты мақсатын сынға алған жоқ. Ол компания басшысы Дарио Амодеи мен зерттеушілердің қауіпсіз жасанды интеллект жасауға ұмтылысын жоғары бағалап, екі тараптың негізгі мақсаты ортақ екенін атап өтті. Айырмашылық – болашақ қуатты ЖИ қандай сипатта болуы керек деген көзқараста.
Microsoft өз кезегінде «Humanist Superintelligence» деп аталатын тәсілді дамытып жатыр. Оның мақсаты – адам бақылауын сақтап, жасанды интеллектіні медицина, энергетика және басқа да маңызды мәселелерді шешуге көмектесетін, бірақ адамға бағынышты технология ретінде дамыту. Сүлейман ЖИ жүйелерін оқыту мен бағалау үдерісінің ашықтығын күшейтіп, тәуелсіз сарапшылардың бақылауын кеңейту қажет деп санайды.
ЖИ-дің болашақта сана-сезімге ие болуы немесе адамзатпен дербес бәсекелесе бастауы әзірге ғылыми тұрғыдан дәлелденген құбылыс емес. Бұл – саланың болашақтағы даму бағытына қатысты пікірталаста қарастырылып отырған ықтимал сценарийлердің бірі. Алайда қуатты әрі автономды жүйелерді бақылау мәселесі жасанды интеллект индустриясындағы негізгі қауіпсіздік тақырыптарының біріне айналып отыр.
