"AI және адам: қауіп пе, игілік пе?"- мұндай сұрақты Digital Almaty-2025 форумында өткен панельдік сессияда жасанды интеллект саласындағы жетекші мамандар қойып, онда этика, қауіпсіздік және ЖИ-ді реттеудің негізгі мәселелерін талқылады, деп хабарлайды DKnews.kz.
Сарапшылар Қазақстанда ЖИ пайдаланудың ашықтығы мен қауіпсіздігінің маңызды аспектілерін, оның қолданылуын бақылауды және этикалық стандарттарды сақтауға бағытталған халықаралық тәжірибелерді қарастырды. Талқылау барысында жасанды интеллекттің артықшылықтары да, ықтимал қатері де айтылды.
Спикерлердің айтуынша, Қазақстанда жасанды интеллекттің таралуымен қатар дербес деректердің құпиялығын бұзу қаупі де артып келеді. Бұл жеке пайдаланушыларға да, жалпы мемлекетке де айтарлықтай зиян келтіреді. ҚР ІІМ деректеріне сәйкес, 2024 жылы қазақстандықтар интернеттегі алаяқтық салдарынан 45 млрд теңге жоғалтқан, сондағы 98% жағдайда олар жеке деректерін алаяқтарға өз еркімен тапсырған.
"Киберқылмыс тек Қазақстанда ғана емес, бүкіл әлемде асқан қарқынмен өсіп жатыр. Жаңа қатерлерге дайын болмасақ, жасанды интеллект қылмыскерлерге де біршама мүмкіндік береді. Алаяқтар қазірдің өзінде бейне және аудио жазбаларды қолдан жасау үшін дипфейк технологияларын қолданады, бұл ақпарат қауіпсіздігіне айтарлықтай қауіп төндіреді. Интернеттегі деанонимизация туралы ойлану маңызды, өйткені әрбір адам тарататын деректері үшін жауапты болуға тиіс" Қазақстан Республикасының Ішкі істер вице-министрі Сәкен Сәрсенов
Сессияға қатысушылар арасында Bedrock AI және Diverse AI компанияларының негізін қалаушы және бас директоры Тодзю Дюк (Ұлыбритания) сияқты әр түрлі елдердің сарапшылары болды. Ол табысты AI компанияларын басқарып қана қоймай, оған қоса жасанды интеллектті дамытуда этикалық стандарттарды белсенді түрде насихаттайды. Ол өзінің "Building Responsible AI Algorithms" кітабында AI алгоритмдерінде ашықтық, әділдік, құпиялық және сенімділік құрылымын ұсынды.
"Жасанды интеллект қарқынды дамып келеді және көптеген артықшылықтар ұсынады, дегенмен қоғамға бірдей қолжетімді болғанға дейін ғана. Оны қолданудың негізгі бағыттарының қатарына аштыққа қарсы күрес және денсаулық сақтауды жақсарту, дағдарыстық жағдайларға ден қою, қауіпсіздікті арттыру, мүмкіндігі шектеулі жандарды қолдау жатады. Алайда одан бөлек елеулі қатерлер де туындайды, мысалы: әлеуметтік теңсіздік, құпиялықты бұзу, алгоритмге бейімдік, тіпті ұлттық қауіпсіздікке қауіп төндіреді. Сондықтан технологияның бүкіл қоғамға пайдасын тигізуі үшін жасанды интеллектті пайдаланудың жауапты тәсілін әзірлеу, ашықтық, есеп беру және этикалық нормаларды сақтау тетіктерін әзірлеу маңызды" Тодзю Дюк
Сондай-ақ талқылауға Flowsell.me басшысы Дәурен Мәкенов, Yandex машиналық интеллект зертханасының басшысы Александр Крайнов, Kscooters техникалық директоры Иван Кононов және TargetAI Limited директоры Дамир Жаримбетов те қатысты. Сессия модераторы Қазақстан Республикасы Президентінің жанындағы Адам құқықтары жөніндегі комиссияның төрағасы Игорь Рогов болды.
Спикерлер ЖИ-ді қауіпсіз және тиімді дамыту үшін деректердің өңделуін бақылауды, манипуляциялардан қорғауды және энергия ресурстарына теріс әсерді азайтуды қоса алғанда, реттеудің нақты қағидаттарын енгізу қажет деген пікірге тоқталды. Сондай-ақ, алгоритмдердің әділдігін қамтамасыз ету, дискриминациялық механизмдерді алып тастау және жаппай енгізуден бұрын ЖИ-ді тексерудің сенімді жүйелерін әзірлеу маңызды.
Мамандарды ЖИ-мен жұмыс істеуге дайындау және технологияның мәдениетке, медиа мен коммуникацияға әсері сияқты маңызды тақырыптар көтерілді. Оған қоса спикерлер еңбек нарығының өзгеруін талқылады: ЖИ дәстүрлі жұмыспен қамтуға қауіп төндіре ме әлде адамның күш-жігерін толықтыратын құрал бола ма? Автоматтандыру мен адам үлесі арасындағы тепе-теңдікті сақтау маңыздылығы айтылды.
Еске салсақ, 31 қаңтар – 1 ақпан аралығы Алматыда "Атакент" көрме кешенінде Digital Almaty-2025 Халықаралық форумы өтеді. Іс-шараның тақырыбы - "Industrial AI: жаңа дәуірге арналған технологиялар". Форумды ұйымдастырушылар: ҚР Цифрлық даму, инновациялар және аэроғарыш өнеркәсібі министрлігі, ҚР Сыртқы істер министрлігі, Алматы әкімдігі және "Инновациялық технологиялар паркі" ДКҚ.
