Жасанды интеллектті заңға қалай бағындырамыз?
Жаңа саланы реттейтін жаңа заң қандай болуы керек? Жалпы, ЖИ реттеуге келе ме? Қандай қиындықтар болуы ықтимал? Реттеу ЖИ-дің дамуына кедергі келтіруі мүмкін бе? Қандай ұсыныстар бар?
![Жасанды интеллектті заңға қалай бағындырамыз?](https://turkystan.kz/cache/imagine/1200/uploads/resized-images/2024/06/1718343857.jpg)
Жасанды интеллект жаһанға кең тарады. Жаны жоқ демесеңіз, ақылы адамнан асуға аз қалды. Барлық сала оның игілігін көріп қалуға тырысып жатыр. Дегенмен қауіп пен мүмкіндіктің қатар жүретіні сияқты, ЖИ-де моральдық, әлеуметтік, құқықтық мәселелер тудырып отыр.
Осылайша, көптеген мемлекет оны пайдалануды реттейтін заң қабылдауға қамдана бастады. Алғашқы болып биылғы наурызда Еуропарламент ЖИ-ді қолданудың құқықтық негізін қалады. Сәуірде Мәжіліс депутаттары мен ЦДИАӨМ бірлесіп біздің елде де ЖИ туралы заң жобасын әзірлеп жатқаны мәлім болды.
Жаңа саланы реттейтін жаңа заң қандай болуы керек? Жалпы, ЖИ реттеуге келе ме? Қандай қиындықтар болуы ықтимал? Реттеу ЖИ-дің дамуына кедергі келтіруі мүмкін бе? Қандай ұсыныстар бар?
Сапалы құқықтық негіз – жаңа мүмкіндіктердің бастауы
5 сәуірде Орталық коммуникациялар қызметінде өткен брифингте «Жасанды интеллектті одан әрі дамыту» тақырыбы талқыланды. Жиында Цифрлық даму, инновациялар және аэроғарыш өнеркәсібі министрлігі Инновацияларды дамыту департаментінің директоры Дархан Мырзабаев елімізде жасанды интеллект жұмысын реттейтін заң әзірленіп жатқаны туралы мәлімдеген болатын.
– Қазір Мәжіліс депутаттары министрлікпен бірлесіп, жасанды интеллектіні құру, дамыту және пайдалану кезінде мемлекеттік органдар, жеке және заңды тұлғалар арасында туындайтын қоғамдық қатынастарды реттеуге бағытталған жасанды интеллект бойынша заң жобасын әзірлеп жатыр, – деді Дархан Мырзабаев.
Оның сөзіне сүйенсек, тұжырымдама негізінде жасанды интеллект технологияларын қолдану, аталған жүйенің қауіпсіз жұмыс істеуіне қатысты нормалар, жасанды интеллект этикасы қағидалары мен оны пайдалануда ақпараттық қауіпсіздікті сақтау мәселелері реттелмек.
– Цифрлық кодексті әзірлеу заң жобалау жұмыстарының 2024 жылға арналған жоспарына енгізілді. Бұл құжат тұжырымдамалық аппарат, негізгі міндеттер мен принциптер, құқықтық қатынастардың субъектілері мен объектілері, құқықтар мен міндеттер деген бөлімдерден тұрады. Ал оның негізгі бөліміне цифрлық үкімет, деректер, жасанды интеллект, цифрлық инфрақұрылым және құралдар, киберқауіпсіздік кіреді, – деген болатын Цифрлық даму, инновациялар және аэроғарыш өнеркәсібі министрлігі Инновацияларды дамыту департаментінің директоры Дархан Мырзабаев.
Сондай-ақ сандық үкіметті қолдау орталығының бас директоры Рүстем Биғара IDC бағалауынан дерек келтіріп, жасанды интеллектке жұмсалған қаражат 2023 жылы 154 миллиард долларға жеткенін, бір жылдағы өсім шамамен 30 пайызға жеткеніне тоқталды. Ал Bloomberg Intelligence мәліметінше, генеративті ЖИ нарығы шамамен 50 миллиард долларға жетеді.
– Бұл өзгерістер еңбек қатынастарына, PR және бизнес үлгілеріне айтарлықтай әсер етеді. Болжам бойынша 2025 жылға қарай AI технологиялары озық корпоративтік қосымшалардың шамамен 90 пайызын қолдайды, – деді Рүстем Биғара ОКҚ алаңында.
Жалпы, Мемлекет басшысы Қазақстанның бұл саланы құқықтық тұрғыда реттеуі шетелдік компаниялардың нарыққа келуін ынталандырады деген пайымын былтыр өткен Digital Bridge форумында айтқан еді.
– Біз озық әлемдік тәжірибеге сай келетін, нарықтың қажеттілігі мен азаматтардың мүддесін ескеретін, құқықтық тұрғыдан реттейтін заманауи база әзірлеу ісін жеделдетуіміз керек. Құқықтық шарттар халықаралық компаниялардың біздің нарыққа келуін ынталандыруы қажет. Ол үшін мүдделер тепе-теңдігін сақтап, ашық және әділ «ойын ережелерін» қалыптастырған жөн. Жалпы, жасанды интеллект құралдарын адамдардың күнделікті өміріне кіріктіру оңай міндет емес. Бұл ретте олардың құқықтары мен бостандықтары бұзылмауы тиіс. Форумға қатысушылар осы саланы реттейтін негізгі құжаттарды, соның ішінде Цифрлық кодекс жобасын әзірлеуге үлес қоса алады деп үміттенемін, – деген болатын Президент.
Бұл салада жаһандық бәсеке өте жоғары екенін де айтқан Президент Қазақстан осы үрдістен қалмауға тиіс екенін жеткізді.
– Сондықтан біз қазір озық технологияны дамытуға айрықша назар аударып отырмыз. Қазіргі міндет – еліміздегі ІТ-мамандардың, сарапшылардың, ғалымдардың басын қосып, олардың күш-жігерін тиімді пайдалану. Сондай-ақ халықаралық серіктестердің зор мүмкіндіктерін еліміздің кәдесіне жарату, – деген еді Мемлекет басшысы.
Әзірленіп жатқан заң жобасының анық-қанығы туралы әлі белгілі бола қойған жоқ, дегенмен жұмыс басталды. Саланың ауқымына байланысты құқықтық негіз құру да оңайға түспейтіні анық. Яғни, жан-жақты талдау мен сараптау, ой бөлісу аса маңызды.
Әлем қандай қадамдар жасап жатыр?
Бірқатар мемлекет ЖИ-дің болашақта адамзат өміріне айтарлықтай әсер ететінін ескеріп, қазірден қамдануға көшті.
АҚШ-тағы ЖИ-ді реттеудің орталықтандырылмаған моделі басқарудың жалпы тәсілін көрсетеді. Яғни, саланы толықтай реттейтін арнайы федералды реттеу жүйесі жоқ деп айтуға болады. Оның орнына ЖИ эволюциясынан туындайтын кей мәселелерді шешетін бірнеше салалық агенттіктер мен ұйымдар құрылған. Мысалы, ЖИ-ді қолдану тұрғысынан Федералды сауда комиссиясы (FTC) тұтынушылардың құқығын қорғау мәселесіне жауапты. Ұлттық жол қозғалысы қауіпсіздігі басқармасы (NHTSA) жасанды интеллектке негізделген технологиялардың қауіпсіздік аспектілерін, атап айтқанда оларды өздігінен жүретін көліктерде қолдануды реттейді. Басқа штаттар да белгілі бір дәрежеде өз ережелерін енгізген. Мысалы, CCPA тұтынушылық деректерді өңдейтін компанияларға қатаң талаптар қояды және бұл талаптар жасанды интеллект технологиясын қолданатындарға да қатысты.
Еуроодақта деректерді қорғаудың жалпы ережесі (GDPR) және ЖИ туралы заңға қатысты қызу пікірталас өткізіп, түрлі шара қабылдады. Бұл бастамалар жеке ақпаратты жинау, пайдалану және сақтаудың қатаң ережелерін белгілеуге бағытталды. Еуроодақ ЖИ жүйелерінің жұмысы деректерді жинауға және пайдалануға негізделгендіктен, жеке тұлғаны құрметтеу және оның қауіпсіздігін қорғауға мүмкіндік беретін қатаң ережелер керек деген шешімге келген. Яғни, одақ заңнамасы жасанды интеллект жүйелерінің бақылаусыз жұмыс істеуін шектейді. Заң пайдаланушылардың проблемасы мен мүддесі үшін ашықтық, есеп беру және этика принциптеріне негізделген деп сипатталады.
Қытай ЖИ саласындағы әлемдік держава ретінде танылуға ниетті, айтарлықтай алдыңғы қатарға шықты да. Бірақ мұнымен тоқтамай, 2030 жылға қарай ЖИ инновациялары бойынша жетекші орталыққа айналуды көздеп отыр. Ел үкіметі ЖИ этикасы мен қауіпсіздігін де елеусіз қалдырмай, өсімді бақылап, ЖИ операцияларының схемаларын әзірлеген. Қытайдың киберқауіпсіздік туралы заңында және ЖИ-ді дамыту жоспарында талаптарды сақтауға және сын-қатерді уақытылы басқаруға баса назар аударылған. Этикалық мәселелерге қатысты сақтық та байқалады. Яғни, Қытай болашақ әлемдік стандарттарға сәйкес келетін және ЖИ саласындағы жетекші алпауыт держава ретіндегі позициясын нығайтатын парадигма құруға ұмтылып отыр.
Самат НҰРТАЗА,
Мәжіліс депутаты:
Қауіпсіздігімізді қорғайтын қалқан болуы қажет
– Жасанды интеллект жан-жақты дамып жатыр. Бұл ретте төндіретін қауіп-қатері де алаңдатады. Мысалы, өткенде бір жағдайдың куәсі болдым. Бір адамның бейнесі мен сол адамның дауысын салып, неше түрлі өтірік сөз айтқызып қойған, жасанды интеллектті білмейтін адам шын сол адам сөйлеп тұр деп ойлап қалады. Сондықтан да осылай кете берсе, менің ойымша, ертең не шын, не өтірік екенін аңғару мүлде қиынға соғатын болады. Бұл түрлі сын-қатер мен құқық бұзу жағдайларының жиілеуіне әсер етуі мүмкін.
Сол себепті Ішкі істер министрлігі болсын, кибер қауіпсіздікке қатысы бар, яғни жауапты мекемелердің барлығы атсалысуы қажет деп ойлаймын. Сонымен қатар цифрлық дамуға жауапты арнайы министрлік бар. Жасанды интеллекттің кері салдары деген тек адамға жала жабу болмауы мүмкін ғой. Сонымен қатар мысалы, тізімдерді ұрлау, мемлекет туралы жалған ақпарат тарату сияқты деңгейге дейін жетуі мүмкін. Соның барлығына қарсы төтеп беретін қауіпсіздігіміз, қалқанымыз болуы керек. Жас буынның қауіпсіздігі де ескерілуі керек.
Одан бөлек, жасанды интеллект білім-ғылым саласына да көп өзгеріс әкелді, соның ішінде қаупі де жоқ емес. Ақпарат алуды тым жеңілдетті, ал оның кері әсері де байқалып жатыр. Бұрын апталап, айлап диссертация жазса, қазір Chat GPT жазып береді. Ол антиплагиаттан өтеді де, сонымен болды.
Арнайы заң әзірлеуге келер болсақ, IT-мамандардың қоғамдастығы сияқты білікті мамандардың басын қосатын бір ұйым болуы керек деп есептеймін, олардың пікірі мен ұсыныстары аса маңызды.
Әрине, технология көшінен қалмауымыз керек, жастарды оқытуымыз керек. Кез келген дүниенің зияны бар және пайдасы бар. Интернет алғаш пайда болғанда да осындай мәселелер күн тәртібіне шыққан еді ғой. Жасанды интеллект те сол секілді. Жас буын, жалпы қоғам, халық жасанды интеллекттің игілігін көре алу үшін жағдай жасауымыз керек. Сондықтан да заңның сапалы болуы аса маңызды.
Медет ИСКАКОВ:
IT саласының тәуелсіз сарапшысы:
Заң икемді және жаңартуға бейім болуы қажет
– Жасанды интеллект саласының қарқынды дамуы мен кең қолданылуына байланысты оны толығымен реттеу өте қиын. ЖИ медицина және көлік саласынан бастап қаржы мен ойын-сауыққа дейін әртүрлі салаларда қолданылады, бұл – әмбебап реттеуші норма әзірлеуді қиындатады.
Алайда ЖИ ұлттық және халықаралық ұйымдар деңгейінде реттеле басталды. Мысалы, Еуроодақ деректерді реттеу, оның ішінде қауіпсіздікті сақтап, қорғау мақсатында құқықтық базаны белсенді түрде дамытып жатыр.
Енді ЖИ-ді реттеудегі негізгі қиындықтарға тоқталып өтсем. Ең алдымен, технологиялық қиындықтар. ЖИ жүйелері дегеніміз – көбінесе қара жәшіктер, бұл олардың шешімдерін түсінуді қиындатады. Екіншіден, технологияның қарқынды дамуы. Заңнама технологиялық инновациялардан артта қалуы мүмкін. Үшіншіден, ЖИ-дің жаһандық сипаты. ЖИ түрлі елдерде дамып келеді және халықаралық реттеу стандарттары әлі де әзірленіп жатыр. Төртіншіден, этикалық және құқықтық мәселелер. Кемсіту және құпияны сақтамау сияқты этикалық аспектілер және ЖИ-ді қолданудың құқықтық салдарын да ескеру қажет. Осылайша, ЖИ-ді реттеу дегеніміз – заң әзірлеу ғана емес, сонымен қатар оларды өзгеретін жағдайлар мен технологияларға бейімдеу.
ЖИ алгоритмдерінің ашықтығын қамтамасыз ету – тиімді реттеудің негізгі аспектісі. Бұған бірқатар шара ықпал етуі мүмкін. Алдымен, құжаттама және есеп беруді міндеттеу. Яғни, әзірлеушілер алгоритмдердің жұмысы мен жұмыс принциптері туралы егжей-тегжейлі ақпарат беріп, енгізілген өзгерістер туралы үнемі есеп беріп отыруға тиіс.
Одан соң бастапқы код пен модельдің ашықтығы. Кейбір жағдайларда, әсіресе, қоғамдық мүдделерге әсер ететін жүйелерге сарапшылар тәуелсіз тексеру жүргізе алатындай бастапқы код пен ЖИ модельдерін ашық қолжетімді ету керек.
Тәуелсіз аудит және сертификаттау да аса маңызды, яғни алгоритмдердің тәуелсіз аудитін енгізу оларды стандарттарға сәйкестігін бағалауға және ықтимал сын-қатерді анықтауға мүмкіндік береді.
Бұдан бөлек, этикаға үйрету және сынақтан өткізу мәселелері де назардан тыс қалмауы керек. Яғни, әзірлеушілер алгоритмдерде біржақтылық пен кемсіту жоқ екеніне көз жеткізу үшін сынақ жүргізіп, оларды этикаға байланысты мәліметтерге үйретуі керек.
Сондай-ақ шешімдерді міндетті түрде түсіндіру керек. Медицина немесе заң сияқты маңызды жүйелерде пайдаланушылар түсінуі үшін алгоритмдер өз шешімдеріне өздері түсініктеме бере алуы маңызды.
Бұл қадамдар ЖИ-ге деген сенімді арттыруға және оны арам пиғылға пайдаланудың алдын алуға көмектеседі. Бұл ретте ЖИ-ді реттеуге бағытталған заң жобасында мына мәселелер ескерілуі қажет деп ойлаймын.
Апаттар мен қателіктердің қаупін азайту үшін, ЖИ жүйелерінің қауіпсіздігін қамтамасыз ету үшін стандарттар белгіленуге тиіс. Реттеуде ЖИ пайдаланатын және өндіретін жеке деректерді қорғауға қойылатын қатаң талаптар болуы қажет. Алгоритмдердегі кемсіту мен біржақтылықтың алдын алу және ЖИ-ді қолдануда этиканың сақталуын қадағалау қажет. ЖИ жүйелері үшін жауапкершілікті нақты анықтау және әзірлеушілер мен операторлардың есеп беруін қамтамасыз ету қажет. Заң жобасы әзірлеушілерден ЖИ қабылдаған шешімдерге, әсіресе, азаматтардың құқықтары мен бостандықтарына әсер ететін жағдайларда түсініктеме беруді талап етуі керек. Технология жылдам өзгеретіндіктен, заң икемді болуға тиіс және үнемі жаңаруға бейім болу үшін механизмдер қарастырылғаны абзал. Халықтың ЖИ мүмкіндіктері мен сын-қатері туралы білімін тереңдету үшін инвестиция салу да маңызды.
Сондай-ақ қауіпсіздік, деректерді қорғау, этикалық стандарттар, жауапкершілік және алгоритмдердің транспаренттілігі туралы ережелерді қамтитын ЖИ-ді реттеудің ұлттық стратегиясын әзірлеп, бекітуді ұсынамын. Міндетті сертификаттауды және аса маңызды ЖИ жүйелерінің тәуелсіз аудитін енгізу, сондай-ақ жаңа технологиялық сын-қатерге жауап ретінде нормативтік базаны тұрақты жаңарту тетіктерін көздеу қажет.
2026 жылға таман жаһандық ЖИ нарығының айналымы 900 млрд долларға жетеді. International Data Corporation зерттеу ұйымының болжамынша, 2022-2026 жылдар аралығында ЖИ саласындағы шешімдер нарығы жыл сайын 18,6 пайызға өсім көрсетіп отырады.
Яғни, ЖИ-дің қолданысын реттейтін сапалы құқықтық негіз құру қазір аса маңызды, өйткені технологияның дамуы біздің болашағымызды анықтайды. Жаңа заңның барлық тараптың мүддесіне сай келуі, жасанды интеллекттің дамуын тежемеуі бірінші кезекте қаперге алынуға тиіс мәселе болмақ. Яғни, реттеуді шектеумен шатастырмаған абзал. Дегенмен қанша ақылды десек те, жасанды интеллектті адам оқытатынын да естен шығармаған жөн.