Суперинтеллект ортақ жауапкершілікті талап етеді. Қасым-Жомарт Тоқаев AI & Digital Bridge 2026 халықаралық форумында АҚШ президенті Дональд Трамптың бастамасымен жасалған Суперинтеллект туралы келісімді жаһандық деңгейде қолдануға болатын ықтимал модель ретінде қарастыруды ұсынды. Бұл ретте Мемлекет басшысы мұндай қадам мүдделі елдер арасында жан-жақты талқылануға тиіс екенін атап өтті, деп хабарлайды DKNews.kz.
Азиялық зерттеулер бөлімінің басшысы Айдар Құрмашевтың пікірінше, дәл осы шарттың маңызы зор. Жетілдірілген жасанды интеллект жүйелері әртүрлі елде қолданыла бастаған сайын мәселе технологияның өзінен шығып, тәуекелді кім бағалайды, әзірлеушілерді кім тексереді және жүйе істен шыққан жағдайда жауапкершілік кімге жүктеледі деген сұрақтарға тіреледі.
Тоқаев халықаралық талқылауға басымдық берді
Қасым-Жомарт Тоқаев AI & Digital Bridge 2026 форумындағы сөзінде жасанды интеллект мүмкіндігі артқан сайын оны қауіпсіз әрі жауапты дамыту мәселесінің маңызы да күшейетінін айтты.
Президент АҚШ-та ұсынылған Суперинтеллект туралы келісімді мүдделі мемлекеттер мұқият зерделеп, оны жаһандық деңгейде қолдану мүмкіндігін қарастыра алатынын жеткізді.
Айдар Құрмашевтың пайымдауынша, мұндай тәсілдің негізі бар. Бір компания әзірлеген технология бірнеше мемлекетте пайдаланылса, оның ықтимал қателігінің салдары әзірлеуші мен жекелеген тұтынушы арасындағы қатынаспен шектелмейді.
Сондықтан бірнеше мәселе алдын ала келісілуге тиіс:
- жасанды интеллект тәуекелдерін кім және қалай бағалайды;
- әзірлеушілер қандай ақпаратты тексерушілерге ұсынуға міндетті;
- модельдерді сынау нәтижелеріне кім қол жеткізе алады;
- елеулі қауіп анықталса, компаниялар мен мемлекеттік органдар қалай әрекет етеді.
Суперинтеллектіні төрт деңгейде бақылау ұсынылады
Құрмашев АҚШ бастамасының практикалық маңызы қауіпсіздік талаптарын озық жасанды интеллект жүйелерін тікелей әзірлейтін компаниялармен келісуге негізделгеніне назар аударады.
Сарапшы сипаттаған модель төрт деңгейлі бақылауды көздейді.
Бірінші деңгей — модельдерді бақылауға арналған компанияның ішкі рәсімдері.
Екіншісі — сол рәсімдердің тиімділігін тексеретін жеке команда.
Үшінші деңгей — тәуелсіз сыртқы бағалау.
Төртіншісі — директорлар кеңесі комитетінің қадағалауы.
Мұндай құрылым компанияның ішіндегі жауапкершілік тізбегін қалыптастыруға бағытталған. Техникалық маман анықтаған проблема оны жою жөнінде шешім қабылдай алатын басшылық деңгейіне дейін жетуге тиіс.
Мемлекетте әзірлеушідегі ақпарат болмауы мүмкін
Жасанды интеллектіні реттеудегі негізгі мәселелердің бірі — әзірлеуші мен мемлекеттік органның технология туралы ақпаратқа қол жеткізу мүмкіндігінің әртүрлі болуы.
«Олар модельдерді оқыту, сынақ нәтижелері және анықталған шектеулер туралы ақпаратқа ие», — дейді Айдар Құрмашев.
Мемлекеттік органдардың мұндай техникалық деректерге тікелей қолжетімділігі болмаса, күрделі AI-жүйесінің қауіпсіздігін толық бағалау қиынға соғады.
Сондықтан тәуелсіз сыртқы аудит осы ақпараттық алшақтықты азайтатын құралдардың біріне айналуы мүмкін.
Бірақ аудитордың болуының өзі жеткіліксіз. Құрмашевтың пікірінше, тексерушілердің қандай өкілеттігі бар екені, компанияның қандай деректері мен рәсімдеріне қол жеткізе алатыны және елеулі қауіп анықталғаннан кейін қандай шара қолданылатыны нақты белгіленуі қажет.
Аудиттің міндеті қағаз жүзінде қауіпсіздік талаптарының бар екенін растаумен шектелмеуге тиіс. Ол компанияның осы талаптарды іс жүзінде орындап отырғанын және жүйенің қауіпті әрекетін дер кезінде анықтай алатынын көрсетуі керек.
Ортақ талаптар AI-компаниялар арасындағы бәсекені өзгерте алады
Тағы бір мәселе жасанды интеллект нарығындағы технологиялық жарысқа байланысты.
Егер компания жаңа модельді нарыққа шығармас бұрын қосымша сынақтар жүргізсе, өнімнің іске қосылуы кешігуі мүмкін. Осы уақытта бәсекелесі өз технологиясын ертерек ұсынуға мүмкіндік алады.
Құрмашевтың пікірінше, мұндай жағдайда әзірлеушілерге өнімді мүмкіндігінше жылдам шығаруға экономикалық қысым пайда болады.
Ал негізгі компанияларға бірдей немесе өзара салыстыруға болатын қауіпсіздік талаптары қойылса, тексеру бәсекелестік кемшілік емес, технология әзірлеудің алдын ала белгілі шартына айналады.
Алайда бұл модель барлық қатысушы міндеттемелерін шамалас деңгейде орындағанда ғана тиімді.
Егер бір компания толыққанды сынақтарға қаржы мен уақыт жұмсап, екіншісі қауіпсіздік тексерулерін барынша қысқартса, артықшылық бұрынғыдай бақылауға аз ресурс жұмсаған тарапта қалуы мүмкін.
Ерікті келісім тиімділігін әлі дәлелдеуі керек
Құрмашев тағы бір маңызды ерекшелікке назар аударады: келісім ерікті сипатта.
Оған қол қою компаниялардың белгілі бір қағидаттармен келісетінін көрсетеді. Бірақ нақты нәтиже осы міндеттемелердің кейін қалай орындалатынына байланысты болады.
«Аудиторлардың тәуелсіздігі қалай қамтамасыз етілетінін, олардың қорытындылары кімге қолжетімді болатынын және елеулі бұзушылықтар анықталған жағдайда не болатынын түсіну қажет. Бұл мәселелер алдағы талқылаудың бір бөлігіне айналуға тиіс. Мұндай механизмге деген сенім компаниялардың анықталған проблемаларды шынымен жойып, өз шешімдерін түзеткенін растайтын тексерілетін дәлелдер пайда болған сайын қалыптасады», — дейді сарапшы.
Яғни келісімнің тиімділігі құжатқа қойылған қолмен емес, анықталған тәуекелден кейін компанияның нақты қандай әрекет жасайтынымен өлшенеді.
Қандай талаптарды халықаралық деңгейге шығаруға болады
Тоқаевтың ұсынысы осы пікірталасты АҚШ шеңберінен шығарады.
Негізгі мәселе — аталған модельдің қандай элементтері әртүрлі мемлекетте жұмыс істей алатынында.
Шетелдік технологияларды пайдаланатын елдер үшін бұл ерекше маңызды. Олар жаһандық компаниялардың AI-жүйелерін өз экономикасына, бизнесіне және мемлекеттік басқаруына енгізеді. Ал жүйеде ақау пайда болған жағдайда оның салдары технология әзірленген елде емес, оны қолданған мемлекеттің ішінде сезілуі мүмкін.
Сондықтан Құрмашев халықаралық талқылаудың бір бағыты ретінде тәуекелдерді бағалаудың өзара салыстыруға болатын әдістерін және елеулі кибер немесе технологиялық оқиғалар туралы хабарлаудың келісілген тәртібін қарастыруға болатынын айтады.
Бірақ мұндай механизм технологиялық бәсекемен де тікелей байланысты.
Компаниялар коммерциялық құпиясын қорғауға мүдделі. Мемлекеттер өз кезегінде сезімтал ақпарат пен ұлттық технологиялық мүдделерін сақтауға тырысады.
Сондықтан қауіпсіздікті объективті бағалауға жеткілікті, бірақ компанияның коммерциялық құпиясына немесе мемлекеттің ұлттық талаптарына қайшы келмейтін ақпарат көлемін анықтау қажет болады.
Осы тұрғыдан Тоқаевтың модельді мүдделі мемлекеттермен мұқият талқылау қажеттігі туралы ұстанымы мазмұндық мәнге ие. Халықаралық талаптар бір мемлекеттің тәжірибесін сол күйінде көшіру арқылы емес, келіссөздер нәтижесінде қалыптасуға тиіс.
Бұл Қазақстанға не береді
Қазақстан үшін мәселенің практикалық маңызы жасанды интеллект экономика мен мемлекеттік басқаруға кеңінен енгізілген сайын арта береді.
Құрмашевтың пікірінше, AI-жүйесін таңдайтын тапсырыс беруші кемінде үш нәрсені білуі керек: технология қандай сынақтан өтті, оның сенімділік шегі қай жерде және ақау туындаған жағдайда оған кім жауап береді.
Ортақ немесе өзара салыстыруға болатын талаптар әртүрлі жеткізушілердің өнімдерін бағалауды жеңілдетіп, сатып алу талаптарын нақтылай алады.
Қазақстандық әзірлеушілер үшін де мұның маңызы бар. Егер халықаралық қауіпсіздік талаптары алдын ала белгілі болса, отандық компаниялар өнімдерін шетел нарығына шығаруға дайындау кезінде қандай өлшемдерге сәйкес келуі керектігін жақсырақ түсінеді.
Қазақстанға өз сарапшылары да қажет
Халықаралық аудит ұлттық сараптаманың орнын толық баса алмайды.
Шетелде тексерілген AI-жүйесінің өзі Қазақстанда қолданылар алдында жергілікті жағдайға бейімделіп бағалануға тиіс. Мұнда тіл, өңделетін деректердің сипаты, технология қолданылатын сала және ықтимал қатенің салдары маңызды.
Жасанды интеллект азаматтардың құқықтарына әсер ететін шешімдерде неғұрлым жиі қолданылған сайын мұндай сараптаманың рөлі де күшейеді.
Сондықтан Қазақстанның халықаралық AI ережелерін қалыптастыруға қатысуы мен өз мамандарын даярлауы бір-бірімен тікелей байланысты. Білікті сарапшылар елге дайын талаптарды орындау үшін ғана емес, сол талаптардың қандай болуы керектігін халықаралық деңгейде талқылау үшін де қажет.
Бұған дейін біз AI & Digital Bridge 2026 форумында Қасым-Жомарт Тоқаев Қазақстанның технологиялық серпілісі үшін атаған негізгі шарттар туралы жазған едік.
