Суперинтеллект требует общей ответственности. Касым-Жомарт Токаев на международном форуме AI & Digital Bridge 2026 предложил заинтересованным государствам изучить инициированное президентом США Дональдом Трампом Соглашение о суперинтеллекте как возможную модель для глобального применения. При этом Президент Казахстана подчеркнул, что такой подход требует тщательного международного обсуждения, передает DKNews.kz.
Руководитель отдела азиатских исследований Айдар Курмашев считает эту оговорку принципиальной. По его мнению, распространение передовых систем искусственного интеллекта ставит перед государствами уже не только технологический, но и практический вопрос: кто должен оценивать риски, контролировать разработчиков и отвечать за последствия сбоев.
Четыре уровня контроля за передовым ИИ
Предложение Токаева прозвучало спустя несколько дней после появления американской инициативы. 29 сентября Дональд Трамп объявил о добровольном соглашении с руководителями крупных технологических компаний, среди которых Google, Meta, OpenAI, Anthropic, xAI и Nvidia. Документ предусматривает внутренние и внешние механизмы проверки передовых систем ИИ.
Модель строится на четырех уровнях:
- внутренний контроль за моделями во время обучения и использования;
- отдельная внутренняя команда, проверяющая эффективность этих механизмов;
- независимая внешняя оценка или аудит;
- контроль на уровне специального комитета совета директоров.
Участники также договорились регулярно обсуждать стандарты и лучшие практики безопасности. При этом соглашение остается добровольным и не предусматривает юридических санкций за его несоблюдение.
Именно здесь, считает Курмашев, возникает главный вопрос: насколько добровольная конструкция способна обеспечить реальную ответственность разработчиков.
Государству не хватает информации, которая есть у разработчиков
Одна из ключевых проблем регулирования ИИ связана с неравным доступом к информации.
«Они располагают информацией об обучении моделей, результатах испытаний и выявленных ограничениях», — отмечает Айдар Курмашев.
У государственных органов такого объема технической информации зачастую нет. Поэтому независимая внешняя оценка может стать механизмом, который частично сокращает разрыв между разработчиком технологии и теми, кто должен оценивать ее безопасность.
Но наличие аудитора само по себе проблему не решает.
По словам Курмашева, необходимо определить, какими полномочиями обладают проверяющие, к каким данным и процедурам они получают доступ и что происходит после обнаружения существенной проблемы.
Это особенно существенно с учетом конструкции американского соглашения: оно не требует публичного раскрытия результатов независимых аудитов и не устанавливает штрафов за невыполнение обязательств.
Безопасность может стать условием конкуренции
Еще один вопрос касается самой экономики AI-гонки.
Компания, которая проводит больше тестов перед выпуском новой модели, может потратить на это дополнительное время. Одновременно конкурент способен быстрее вывести продукт на рынок.
По оценке Курмашева, такая ситуация создает давление в пользу ускорения разработки.
Если же сопоставимые требования безопасности распространяются на всех крупных участников, дополнительные проверки превращаются из конкурентного недостатка в заранее известное условие разработки.
Но здесь возникает другая проблема — правила должны выполняться сопоставимо.
Если часть компаний инвестирует в дорогостоящие проверки, а другие ограничиваются минимальными процедурами, преимущество по-прежнему останется у тех, кто экономит время и деньги на контроле.
Добровольное соглашение еще должно доказать эффективность
Американская модель пока не является полноценным государственным регулированием.
Соглашение добровольное. Оно предусматривает внутренние процедуры, внешние проверки и надзор на уровне компаний, однако не устанавливает самостоятельного государственного механизма принуждения. Сам Дональд Трамп охарактеризовал договоренности как «морально обязывающие».
Поэтому, считает Курмашев, результат будет определяться не фактом подписания документа, а его исполнением.
«Потребуется понять, как обеспечивается независимость аудиторов, кому доступны их выводы и что происходит при выявлении существенных нарушений. Эти вопросы должны стать частью дальнейшего обсуждения. Доверие к такому механизму будет формироваться по мере появления проверяемых свидетельств того, что компании устраняют обнаруженные проблемы и корректируют свои решения», — отмечает эксперт.
Сам документ оставляет возможность в дальнейшем закрепить отдельные положения в законодательстве или регулировании.
Что из этой модели можно перенести на международный уровень
Предложение Токаева расширяет дискуссию за пределы США.
Вопрос заключается в том, какие элементы системы способны работать между государствами, использующими технологии одних и тех же глобальных разработчиков.
Для стран — импортеров технологий это имеет непосредственное значение. Они внедряют зарубежные AI-системы в собственную экономику, бизнес и государственное управление, а последствия возможных сбоев возникают уже внутри их юрисдикций.
Курмашев считает, что предметом международных договоренностей могли бы стать сопоставимые методы оценки рисков и процедуры уведомления о серьезных инцидентах.
Однако такой механизм неизбежно столкнется с интересами самих государств и компаний. Разработчики защищают коммерческую тайну, а страны — чувствительную информацию и собственные технологические интересы.
Поэтому потребуется определить объем данных, достаточный для объективной проверки безопасности, но не создающий неприемлемых рисков для бизнеса и национальных интересов.
Именно в этом контексте оговорка Токаева о необходимости тщательного обсуждения модели приобретает практическое значение: международные правила должны быть выработаны в ходе переговоров, а не просто перенесены из одной юрисдикции в другие.
Что это означает для Казахстана
Для Казахстана вопрос становится прикладным по мере внедрения искусственного интеллекта в экономику и государственное управление.
По оценке Курмашева, при выборе AI-систем заказчику необходимо понимать три вещи: какие испытания прошел продукт, где находятся пределы его надежности и кто должен реагировать при возникновении сбоя.
Единые или сопоставимые требования способны упростить сравнение поставщиков и сделать условия закупок понятнее.
Для казахстанских разработчиков эффект может работать в обратную сторону: заранее известные международные требования к безопасности дают ориентир, каким критериям должен соответствовать продукт при выходе на зарубежные рынки.
Но одного международного аудита недостаточно.
Казахстану понадобятся собственные эксперты
Курмашев обращает внимание еще на один уровень защиты — национальную экспертизу.
Даже проверенная международными аудиторами система должна оцениваться с учетом конкретных условий ее использования в Казахстане. Значение имеют язык, характер данных, сфера применения и последствия возможной ошибки.
Чем чаще искусственный интеллект будет использоваться при принятии решений, затрагивающих права граждан, тем выше будет значение такой экспертизы.
Поэтому участие Казахстана в формировании международных правил и подготовка собственных специалистов оказываются связанными задачами. Стране нужны эксперты, способные не только применять готовые требования, но и предметно участвовать в обсуждении того, какими должны быть сами правила безопасности ИИ.
