В Костанайской области обсудили внедрение закона об искусственном интеллекте

Президент РК Касым-Жомарт Токаев подписал закон «Об искусственном интеллекте», сообщает пресс-служба Ак Орды.

Законом введены основополагающие принципы функционирования систем искусственного интеллекта.
Системы искусственного интеллекта определены в качестве объекта информатизации. Теперь искусственный интеллект будет признаваться в качестве инструмента достижения человеком определенных задач.

С учетом этого закреплен принцип ответственности и подконтрольности, в соответствии с которым собственники, владельцы, пользователи несут ответственность исходя из их роли в эксплуатации систем искусственного интеллекта. На собственников и владельцев возложены обязанности по управлению рисками, обеспечению безопасности и надежности, поддержке пользователей по вопросам функционирования систем искусственного интеллекта.

Наряду с этим закреплены принципы законности, справедливости, равенства, прозрачности и объяснимости, приоритета благополучия человека, свободы воли в принятии им решений, защиты данных и конфиденциальности, безопасности и защищенности.

Для защиты прав физических, юридических лиц, обеспечения правопорядка установлен запрет на создание и эксплуатацию на территории Республики Казахстан систем искусственного интеллекта, обладающих рядом возможностей (использование подсознательных, манипулятивных или иных методов; сбор и обработка персональных данных с нарушением законодательства о персональных данных и их защите; другие возможности).

Для обеспечения осведомленности о результатах, созданных с применением искусственного интеллекта, введено требование о маркировке таких товаров, работ, услуг.

С учетом мировой практики создания платформ для форсирования создания и развития систем искусственного интеллекта введены законодательные основы функционирования национальной платформы искусственного интеллекта. Платформа будет использоваться для разработки, обучения, опытной эксплуатации платформенных программных продуктов, моделей искусственного интеллекта в течение ограниченного периода времени.

– Казахстан делает важный шаг в сторону безопасного и ответственного развития цифровых технологий, вводя первый в регионе Закон «Об искусственном интеллекте», – отметил руководитель Управления информатизации акимата Костанайской области Азамат Кашиев. – Принятый документ формирует новую правовую основу, которая позволяет внедрять ИИ в экономику и государственные сервисы, сохраняя главный приоритет права, свободы и достоинство человека.

Спикер отметил: сегодня искусственный интеллект становится частью повседневной жизни: он помогает врачам ставить точнее диагнозы, ускоряет работу государственных услуг, создает новые инструменты для бизнеса и образования. При этом людям важно понимать, что ИИ не заменяет их решения и не влияет на них скрытым или несправедливым образом.

– Новый закон вводит принципы, которые должны защищать каждого гражданина. Человек имеет право знать, что в принятии решения участвовала система ИИ, может запросить объяснение, если автоматическое решение затронуло его интересы, а его данные должны обрабатываться только в рамках закона и только с надлежащей защитой, – пояснил Азамат Кашиев.

Он добавил, что закон прямо запрещает создание и использование систем, которые пытаются манипулировать поведением человека, использовать его уязвимость, формировать социальный рейтинг, определять эмоции без согласия или собирать данные незаконно. Таким образом государство закрывает путь к опасным экспериментам с технологиями и укрепляет доверие к цифровой среде.

Спикер подчеркнул, что Казахстан первым в Центральной Азии принял закон об ИИ – также один из первых в мире, и это знаменует собой новый этап цифровой политики. По его словам, цель закона – создать правовую основу для безопасного и ответственного внедрения ИИ во все сферы экономики.

– Впервые инициатива прозвучала на Дижитал бридж по поручению президента. Благодаря принятию закона сегодня Казахстан – среди мировых лидеров, подобные законы приняты в ЕС, Канаде и Сингапуре, – отметил Азамат Кашиев.

Руководитель управления информатизации пояснил, что регулирует закон: во-первых, он создает современную правовую базу для разработки и применения ИИ; определяет ключевые понятия – ИИ, модель ИИ, библиотека данных, национальная платформа ИИ; закрепляет права и обязанности разработчиков и пользователей, устанавливает правила безопасности и ответственности.

В документе учитывается существующая классификация систем ИИ: по степени риска, когда минимальный риск оказывает незначительное влияние, средний может повлиять на эффективность, вызвать ущерб, высокий – риск чрезвычайных ситуаций, влияющих на оборону и безопасность. Соответственно, системы высокого риска получат усиленную защиту и контроль.

По уровню автономности: низкая – решения рекомендательные, окончательное решение за человеком; средняя – возможна корректировка решений человеком; высокая – вмешательство человека исключено или технически невозможно. Полностью автономные системы, принимающие решения без возможности вмешательства человека, – под запретом (включая особые ограничения/запреты в тексте закона).

По режиму использования – открытые системы – свободно применяются и модифицируются; закрытые – доступ ограничен владельцем; локальные – работают внутри инфраструктуры владельца.
Установлен принцип ответственности в зависимости от роли (собственник, владелец, пользователь): обязанности по управлению рисками, обеспечению безопасности и надежности, поддержке пользователей.

Согласно принятому закону запрещено: создание ИИ с манипулятивными, дискриминационными или опасными функциями; применение технологий для социального скоринга (система оценки общественного статуса и потенциала конкретного человека), скрытого воздействия или сбора персональных данных без согласия. То есть запрещается создание и эксплуатация ИИ-систем с возможностями манипуляции подсознанием, использования уязвимостей (возраст, инвалидность и т.д.), дискриминации по признакам, массового сбора биометрии из открытых источников, скрытого считывания эмоций и постоянного распознавания лиц в реальном времени (за исключением узкоограниченных случаев, прописанных в законе).

Безопасность и доверие формируются за счет того, что государство формирует реестр доверенных систем высокой степени риска; включение в реестр – только после аудита качества данных и безопасности.
Прозрачность и авторские права: все результаты работы ИИ ( тексты, фото, видео, аудио) маркируются в машиночитаемой форме; использование произведений для обучения моделей ИИ допускается только при отсутствии запрета от правообладателя.

Введена обязательная маркировка синтетического контента (фото, видео, текст), созданного с применением ИИ, в «доступной для человека форме». Потребителей обязаны информировать, что товар/услуга созданы с использованием ИИ. Произведения, полностью созданные ИИ без участия человека, не получают авторской защиты. Авторам предоставляется право в машиночитаемой форме запретить использование их произведений для обучения ИИ (право «запретить скармливание»).

Ответственность и регулирование: владельцы систем обязаны выявлять и минимизировать риски на всех этапах жизненного цикла технологии; предусмотрены механизмы возмещения вреда и страхование ответственности; национальная платформа ИИ – ключевая инфраструктура для разработки моделей и хранения данных.

Закладываются правовые основы работы национальной платформы ИИ – для разработки, обучения и опытной эксплуатации платформенных программных продуктов и моделей в ограниченном режиме и в контролируемых условиях.

Введено требование ограничивать срок действия согласия на обработку персональных данных – не дольше, чем необходимо для достижения заявленной цели. Субъект или его представитель могут отозвать согласие, уведомив владельца/оператора/третье лицо.

Усилена система маркировки товаров; для субъектов внутренней розничной торговли введено требование учета операций через контрольно-кассовые машины с использованием средств идентификации.
Рядом поправок усилены требования по обеспечению информационной безопасности для организаций, работающих с ИИ и цифровыми системами.

Декларируется принцип: человек – выше алгоритма. То есть ИИ – инструмент поддержки решений, не заменяющих волю человека; пользователь имеет право знать о применении ИИ и отказаться от автоматизированной обработки данных; защита персональных данных – обязательное требование.

– Стоит понимать также, что закон – не ограничение технологий: документ не регулирует сами технологии, чтобы не тормозить инновации. Его задача – установить этические принципы, безопасность и прозрачные правила. Закон носит институциональный и рамочный характер, – отметил Азамат Кашиев. – Каково значение этого документа для региона: Казахстан – первая страна в Центральной Азии, закрепившая правовые основы регулирования ИИ; закон делает упор на роль человека и баланс между инновациями, безопасностью и правами граждан, – заключил руководитель управления информатизации Костанайской области.

Добавим – подписанный президентом пакет нормативных актов по цифровизации включает не только Закон

«Об искусственном интеллекте», но и изменения в ряд законов в связи с внедрением ИИ-регулирования. Digital Business сделал выдержки самого главного:
– президент подписал два закона про цифровизацию и искусственный интеллект. Теперь ИИ в Казахстане работает по четким правилам.
– Цифровыми активами (криптой, токенами) теперь можно официально пользоваться не только в МФЦА, но по всей стране. «Закон регламентирует оборот необеспеченных цифровых активов на территории Республики Казахстан. До этого оборот необеспеченных цифровых активов был разрешен только на территории Международного финансового центра «Астана» (МФЦА)», – говорится в сообщении Ак Орды.
– Личные данные будут лучше защищены. Согласие на обработку нельзя будет держать бесконечно – только столько, сколько реально нужно. И его можно легко отозвать.
– Товары будут честно учитываться. Маркировка и кассы станут строже, чтобы меньше было серого оборота и ошибок.
– Безопасность усиливают. Бизнесу придется лучше защищать данные и свои системы.
– ИИ должен работать честно и прозрачно. Его владельцы несут ответственность за то, что он делает.
– Манипуляции и вредные ИИ-системы – под запретом. Нельзя создавать ИИ, который давит на эмоции, дискриминирует, собирает биометрию из Интернета или следит за людьми в реальном времени.
– Синтетический контент должны маркировать. Если фото, видео или текст создал ИИ – об этом нужно честно написать.
– Авторы смогут запретить использовать свои произведения для обучения нейросетей. Это защита от незаконного использования контента.
– Появится национальная платформа ИИ. Там будут разрабатывать и тестировать казахстанские модели и технологии.

Таким образом, бизнесу придется усиливать управление рисками, внедрять меры безопасности и прозрачности при использовании ИИ.

Создателям контента стоит подготовить машиночитаемые метаданные или механизмы запрета использования их работ для обучения моделей.

Потребители получат больше информации о том, где и как применяется ИИ, а также дополнительные гарантии защиты персональных данных.

Текст законов уже публикуется в печати. Напомним, Мажилис принял закон «Об искусственном интеллекте» 24 сентября 2025 года; далее документ проходил процедуру рассмотрения в Сенате и получил подпись Президента. Многие технические детали и конкретизация будут отдельно прописаны в подзаконных актах и нормативных документах – регулирование внедрят поэтапно.

Айжан АДЫРБАЕВА,
фото предоставлено
пресс-службой управления
информатизации Костанайской области