«AI и человек: угроза или благо?» — таким вопросом задались ведущие специалисты в области искусственного интеллекта в ходе панельной сессии на форуме Digital Almaty 2025, где обсудили ключевые вопросы этики, безопасности и регулирования ИИ.
Эксперты рассмотрели важные аспекты прозрачности и безопасности использования ИИ в Казахстане, включая контроль за его применением и международные практики, направленные на соблюдение этических стандартов. В ходе обсуждения были выделены как преимущества, так и потенциальные риски искусственного интеллекта.
По словам экспертов, с распространением искусственного интеллекта в Казахстане может возрасти и угроза нарушения конфиденциальности персональных данных. Это наносит значительный ущерб как отдельным пользователям, так и государству в целом. Согласно данным МВД РК, в 2024 году казахстанцы потеряли 45 млрд тенге из-за интернет-мошенничества, причем в 98% случаев они сами добровольно передавали мошенникам свои данные.
«Киберпреступность растет неимоверными темпами не только в Казахстане, но и во всем мире. Искусственный интеллект даст еще больше возможностей, в том числе преступникам, если мы не будем готовы к новым угрозам. Мошенники уже используют технологии дипфейков, позволяющие подделывать видео- и аудиозаписи, что представляет серьезную угрозу для безопасности информации. Важно задуматься о деанонимизации в интернете, ведь каждый должен нести ответственность за распространяемые данные» Вице-министр внутренних дел Республики Казахстан Сакен Сарсенов
Среди участников сессии были эксперты из разных стран, включая Тодзю Дюк (Великобритания), основателя и генерального директора компаний Bedrock AI и Diverse AI. Она не только руководит успешными AI-компаниями, но и активно продвигает этические стандарты в разработке искусственного интеллекта. В своей книге «Building Responsible AI Algorithms» она представила структуру обеспечения прозрачности, справедливости, конфиденциальности и надежности в алгоритмах ИИ.
«Искусственный интеллект развивается с бешеной скоростью и предлагает множество преимуществ, но пока они не стали доступны широкому обществу. Среди ключевых сфер его применения — борьба с голодом и улучшение здравоохранения, реагирование на кризисные ситуации, повышение безопасности, поддержка людей с ограниченными возможностями. Однако вместе с этим возникают серьезные риски: социальное неравенство, нарушение конфиденциальности, предвзятость алгоритмов и даже угрозы национальной безопасности. Поэтому важно выработать ответственный подход к использованию ИИ, разработать механизмы прозрачности, подотчетности и соблюдения этических норм, чтобы технология приносила пользу всему обществу» Тодзю Дюк
В обсуждении также приняли участие CEO Flowsell.me Даурен Макенов, руководитель лаборатории машинного интеллекта Yandex Александр Крайнов, технический директор Kscooters Иван Кононов и директор TargetAI Limited Дамир Жаримбетов. Модератором сессии выступил Игорь Рогов, председатель Комиссии по правам человека при Президенте Республики Казахстан.
Спикеры сошлись во мнении, что для безопасного и эффективного развития ИИ необходимо внедрение четких принципов регулирования, включая контроль за обработкой данных, защиту от манипуляций и минимизацию негативного влияния на энергоресурсы. Также важно обеспечить справедливость алгоритмов, исключить дискриминационные механизмы и разработать надежные системы проверки ИИ перед массовым внедрением.
Не менее важными темами стали подготовка специалистов к работе с ИИ и влияние технологий на культуру, медиа и коммуникации. Спикеры также обсудили трансформацию рынка труда: станет ли ИИ угрозой для традиционной занятости или будет инструментом, дополняющим человеческие усилия? Было подчеркнуто, что важно найти баланс между автоматизацией и сохранением человеческого вклада.
Напомним, что 31 января – 1 февраля в Алматы, в выставочном комплексе «Атакент», проходит международный форум Digital Almaty 2025. Тема мероприятия — «Industrial AI: технологии для новой эры». Форум организован Министерством цифрового развития, инноваций и аэрокосмической промышленности РК, Министерством иностранных дел РК, акиматом Алматы и АКФ «Парк инновационных технологий».
