На AI & Digital Bridge 2026 Касым-Жомарт Токаев вывел вопрос безопасности искусственного интеллекта на международный уровень. Президент обратил внимание на Соглашение о суперинтеллекте, подписанное по инициативе Дональда Трампа ведущими американскими технологическими компаниями, и допустил, что после тщательного обсуждения такой подход может стать моделью для глобального уровня.
Этот тезис стал частью более широкой логики. Казахстан формирует риск-ориентированное регулирование, при котором требования усиливаются там, где затрагиваются безопасность, права граждан и критическая инфраструктура, но при этом не должны сдерживать инновации. Одновременно Токаев предложил перейти от демонстрационных AI-проектов к решению конкретных задач экономики через индустриальный AI Challenge.
Таким образом, речь идет уже не об отдельных цифровых инициативах, а о формировании целостной AI-экосистемы, где вычислительная инфраструктура, наука, подготовка специалистов, промышленный спрос и регулирование должны работать в одной цепочке. Казахстан развивает Qazaq AI Research University, Alem.ai, Astana Hub и крупные вычислительные проекты, но ключевой вопрос заключается в том, как превратить эти элементы в собственные технологии и конкурентоспособные продукты. Об этом рассуждает участник AI & Digital Bridge 2026 Меруан Дебба, старший директор Digital Future Institute и профессор компьютерной и информационной инженерии Khalifa University в Абу-Даби.
– Касым-Жомарт Токаев, говоря о Соглашении о суперинтеллекте, подписанном по инициативе Дональда Трампа ведущими американскими технологическими компаниями, отметил, что такой подход после тщательного обсуждения может рассматриваться как модель для глобального уровня. Насколько реалистичен переход от добровольных обязательств крупнейших разработчиков к международным правилам для наиболее мощных AI-систем и на каких принципах должен строиться такой контроль?
– По мере роста возможностей искусственного интеллекта вопрос контроля действительно становится шире одной компании или одной страны. С инженерной точки зрения основным принципом здесь должна быть соразмерность требованиям реальному риску.
Нельзя одинаково подходить к системе, которая рекомендует пользователю музыку, и к искусственному интеллекту, способному управлять частью энергетической инфраструктуры или принимать решения в других критически важных областях. Необходимо учитывать последствия возможного сбоя, чувствительность данных, уровень автономности и возможность вмешательства человека.
Именно поэтому вопрос, который Президент Токаев поставил применительно к международному уровню, важен прежде всего с точки зрения формирования общих минимальных принципов для наиболее мощных систем. Речь может идти о независимом тестировании, кибербезопасности, возможности аудита, прослеживаемости решений, человеческом контроле и постоянном мониторинге.
При этом международные правила не должны означать одинаковое регулирование всех AI-продуктов. Для систем с низким риском необходимо сохранять широкое пространство для экспериментов. Более строгие механизмы нужны там, где последствия ошибки способны затронуть безопасность человека, критическую инфраструктуру или значительное число пользователей.
Поэтому главный вопрос для регуляторов должен звучать не только как «что это за технология?», но прежде всего как «что произойдет, если эта система даст сбой?». Именно такой подход позволяет одновременно развивать инновации и формировать механизмы ответственности.
– На национальном уровне Токаев предложил риск-ориентированный подход и предостерег от чрезмерного регулирования, которое может привести к уходу перспективных команд, разработок и капитала в другие юрисдикции. Где практически должна проходить граница между свободой для экспериментов и жестким контролем?
– Здесь также необходимо исходить из масштаба потенциальных последствий. В здравоохранении, финансах, транспорте и критической инфраструктуре требования должны быть значительно выше. В таких областях необходимы независимое тестирование, оценка кибербезопасности, аудит, человеческий контроль, прослеживаемость действий системы и мониторинг после ее внедрения.
Для решений с низким уровнем риска регулирование, напротив, должно позволять разработчикам достаточно быстро экспериментировать и проверять новые технологии.
В этом отношении риск-ориентированная модель, о которой говорил Касым-Жомарт Токаев, позволяет не выбирать между двумя крайностями: полным отсутствием правил и чрезмерным регулированием. Задача заключается в том, чтобы требования соответствовали возможному ущербу.
Особенно полезны регуляторные песочницы. Они создают контролируемую среду, в которой компании, инженеры и регуляторы могут работать с реальными системами, оценивать возникающие риски и только после этого принимать более общие правила. Это намного эффективнее попытки заранее регулировать технологию, которая меняется быстрее традиционного законодательного цикла.
– Президент предложил сформировать перечень индустриальных AI-задач на основе реальных запросов экономики и запустить AI Challenge с участием казахстанских и зарубежных команд. Может ли такой подход изменить саму модель внедрения искусственного интеллекта и вывести проекты из стадии эксперимента в производство?
– На мой взгляд, основная проблема сегодня действительно заключается не в количестве AI-проектов. Гораздо сложнее сделать так, чтобы пилотное решение стало частью реального производственного процесса.
Можно создать сотни демонстрационных проектов и практически не получить роста производительности. Обычно препятствием оказывается не сама модель искусственного интеллекта, а отсутствие качественных потоков данных, конкретного промышленного заказчика, интеграции с существующими IT и производственными системами, а также понятных экономических показателей.
Именно поэтому предложенный Президентом Токаевым принцип начинать с реальных задач экономики имеет практическое значение. Сначала должна быть определена конкретная проблема и конечный заказчик, затем необходимо предоставить командам данные и вычислительные мощности, после чего оценивать решение по измеримому эффекту.
Для Казахстана наиболее перспективными направлениями я считаю энергетику и добывающую промышленность. Здесь искусственный интеллект может использоваться для прогнозного обслуживания оборудования, геологоразведки, оптимизации производства, энергоэффективности и автономных операций.
Большой потенциал также есть в сельском хозяйстве, управлении водными ресурсами, транспортной логистике, финансах, телекоммуникациях, здравоохранении и государственных услугах.
В этом смысле AI Challenge может быть полезен именно как механизм перехода от культуры пилотов к культуре внедрения. Его успех должен измеряться не количеством представленных идей, а числом решений, которые после проверки действительно начинают работать в экономике.
– Касым-Жомарт Токаев отдельно подчеркнул, что современные дата-центры и передовые технологии сами по себе не гарантируют технологического прорыва без ученых, инженеров и предпринимателей. Казахстан уже развивает суперкомпьютерную инфраструктуру и проект «Долина ЦОДов». Что необходимо, чтобы вычислительные мощности превратились в собственную AI-компетенцию?
– Это принципиальный вопрос. Вычислительные мощности необходимы, но сами по себе они еще не создают национальную компетенцию в искусственном интеллекте.
Страна может располагать тысячами GPU и при этом оставаться потребителем технологий, разработанных в других государствах. Поэтому настоящая задача заключается в том, чтобы превратить мегаватты в интеллект, а интеллект в экономическую и технологическую ценность.
Для этого необходимы качественные национальные и промышленные данные, исследователи и инженеры, способные обучать и адаптировать современные модели, развитый программный и облачный слой, кибербезопасность и надежная высокоскоростная связь.
Также принципиально важно, чтобы доступ к вычислительным ресурсам получали университеты, исследовательские команды, стартапы и стратегические отрасли.
Поэтому национальную AI-компетенцию следует измерять не только количеством оборудования. Намного важнее, какие модели страна способна самостоятельно обучать и совершенствовать, сколько реальных промышленных задач решается, сколько интеллектуальной собственности создается и появляются ли продукты, способные конкурировать на международных рынках.
Логика, обозначенная Токаевым, в этом отношении важна: инфраструктура должна быть связана с развитием людей и собственной исследовательской среды. Следующий этап для Казахстана заключается именно в обеспечении высокой загрузки созданных вычислительных мощностей национальной наукой, стартапами и промышленностью.
– Президент связывает развитие Qazaq AI Research University с формированием национальной научно-инженерной школы и моделью AI+X, которая должна соединить искусственный интеллект с конкретными отраслями экономики. Как собрать образование, исследования, стартапы и промышленность в одну систему и сделать ее конкурентоспособной уже за пределами Казахстана?
– Наиболее успешные технологические экосистемы не разделяют образование, науку, стартапы и промышленность. Между ними существует непрерывная траектория.
Студент должен иметь возможность перейти от обучения к исследовательской лаборатории, затем превратить научный результат в прототип, а прототип в стартап или промышленный продукт, не покидая экосистему.
Для этого нужны совместные лаборатории, доступ к вычислительным ресурсам и данным, индустриальные PhD-программы, совместные проекты университетов и компаний, мобильность исследователей между академической средой и бизнесом, а также понятные механизмы создания и коммерциализации интеллектуальной собственности.
В этом контексте Qazaq AI Research University представляет интерес именно благодаря возможности связать образование и исследования с Alem.ai, Astana Hub, вычислительной инфраструктурой и конкретными потребностями экономики. Модель AI+X также позволяет с самого начала ориентировать исследования на промышленность, энергетику, медицину, финансы и другие направления.
Однако важно сохранить международный уровень научной работы. Казахстанским исследователям необходимо участвовать в ведущих международных конференциях, работать с глобальными стандартами и открытыми технологиями, одновременно превращая часть научных результатов в собственные компании и продукты.
Сегодня Казахстан уже находится на стадии, когда вычислительная инфраструктура, университет, технологические площадки, регулирование и международные партнерства развиваются одновременно. Следующий этап заключается в том, чтобы связать их между собой.
Вычисления должны приводить к исследованиям, исследования к интеллектуальной собственности, интеллектуальная собственность к продуктам и компаниям, а успешные компании должны возвращать в систему капитал, знания и специалистов.
Если такая цепочка заработает, задача, которую Касым-Жомарт Токаев ставит перед национальной AI-экосистемой, будет выходить значительно дальше простого внедрения искусственного интеллекта. Речь уже будет идти о способности самостоятельно создавать технологии и выводить их на международный рынок.
