Қазіргі кезде жасанды интеллектпен сөйлесу тек адам мен машина арасындағы жеке әңгіме емес. OpenAI компаниясы мәлімдегендей, кейбір чат жазысулар адамдар тарапынан тексеріледі, ал ең қауіпті хабарламалар полицияға жіберілуі мүмкін, деп хабарлайды turkystan.kz.
Компания хабарламаларды қауіпсіздік тұрғысынан қадағалайтынын айтты. Егер жүйе адам басқа адамдарға зиян келтіруді жоспарлап жатқанын анықтаса, әңгіме арнайы қызметкерлер тобына жіберіледі. Олар есептік жазбаға қолжетімділікті шектеу немесе нақты физикалық қауіп қатерін байқаса құқық қорғау органдарына ақпарат беру туралы шешім қабылдайды.
OpenAI ережелерінде нақты көрсетілген: ChatGPT-ні өз-өзіне зиян келтіруді насихаттау, қару жасау, зиян келтіру немесе сервистерді бұзу үшін қолдануға болмайды. Алайда қандай сөздер немесе формулировкалар адамдардың тексеруіне немесе полицияға жіберілуіне себеп болатыны нақты көрсетілмеген.
Қызық жайт, өз-өзіне зиян келтіру мәселелері полицияға жіберілмейді. OpenAI мұндай әңгімелер тым жеке болғандықтан, оған құқық қорғаушылар қатыспауы тиіс деп есептейді.
Бұл ақпарат компанияға соңғы кездері бағытталған сынға байланысты жарияланды. Бұған дейін БАҚ чат-боттардың кей адамдарды өз-өзіне зиян келтіруге итермелеген оқиғаларын жазған еді. Бірақ OpenAI тек жалпы уәделермен жүйені қауіпсіз етуге тырысқан.
Сонымен қатар, бұл жағдай The New York Times-пен байланысты сот процесінің алдында орын алып отыр. Газет ChatGPT-ны оқыту үшін оның материалдары пайдаланылғанын анықтау мақсатында миллиондаған жазысу журналдарын талап етуде. OpenAI жеке өмірді қорғау мақсатында берілетін деректер көлемін азайтуға ұмтылып жатыр.