Новый закон Казахстана: Ограничения для ИИ на анализ эмоций и запрет дискриминации по расе и религии

24 сентября 2025 года Мажилис принял закон "Об искусственном интеллекте". Впереди ещё рассмотрение в Сенате, однако, как показывает практика, на следующих этапах обычно больших изменений не происходит.

Закон вводит ряд ограничений для нейросетей в Казахстане, включая запреты на создание дипфейков и защиту прав потребителей. Корреспондент изучила закон и выделила основные моменты.

Сначала разберём базовые понятия.

Виды нейросетей

В законе указываются три вида нейросетей:

Первый — вспомогательный искусственный интеллект

Это когда нейросеть помогает, но все решения принимает сам человек.

Второй вид — полуавтономный ИИ

Он принимает решения в рамках заданных параметров, но человек всё равно может вмешаться и изменить результат.

Третий тип — полностью автономный искусственный интеллект

Когда нейросеть принимает решения сама, без контроля и вмешательства человека.

Системы поделят и по уровню риска:

• Минимальный риск — если сбой почти не повлияет на пользователей.
• Средний — когда сбой может снизить эффективность работы, привести к убыткам.
• Высокий риск — случаи, когда проблемы с нейросетями способны вызвать ЧС, серьёзный ущерб для экономики, обороны, безопасности, инфраструктуры или жизни людей.

Документ предлагает категоризировать уровень опасности, указывая, что:

"Отнесение систем искусственного интеллекта к минимальной, средней либо высокой степени риска осуществляется её собственником и (или) владельцем в соответствии с правилами классификации объектов информатизации".

Системы высокого риска будут включены в список критически важных объектов, которые подлежат особой защите.

Запреты для ИИ: анализ эмоций, дискриминация и другие ограничения

Закон вводит табу для искусственного интеллекта. В Казахстане будет запрещено создавать и запускать те виды ИИ, которые:

• Манипулируют людьми — воздействуют на подсознание и вынуждают принимать решения, способные причинить вред.
• Используют уязвимость — эксплуатируют возраст, инвалидность или социальное положение человека для создания угрозы или причинения вреда.
• Оценивают "социальное поведение" — ведут рейтинги граждан или групп по их личным характеристикам.
• Собирают биометрию из интернета — формируют базы лиц по случайным фото и видео.
• Дискриминируют — классифицируют людей по расе, религии, политическим взглядам или другим признакам.
• Считывают эмоции — анализируют настроение человека без его согласия.
• Следят в реальном времени — распознают лица в общественных местах онлайн (кроме отдельных случаев, прописанных в законе).
• Создают запрещённый контент — материалы, которые нарушают законодательство Казахстана.

"Системы искусственного интеллекта должны создаваться и эксплуатироваться таким образом, чтобы обеспечивать равенство и справедливость, с признанием достоинства каждого человека, его равной ценности и прав, исключая любую дискриминацию на основе расы, пола, возраста, религии или любых других социальных, культурных и индивидуальных характеристик", — говорится в документе.

При обсуждении закона в Мажилисе депутат Екатерина Смышляева подчеркнула, что сам ИИ не признаётся субъектом права, и ответственность за все решения по-прежнему будут нести те, кто прибегает к его помощи, то есть люди.

Запрет на анализ эмоций: зачем это нужно?

Депутат Екатерина Смышляева сообщила, что ИИ запретят анализировать эмоции людей. Это не означает, что с чатом, например, нельзя будет разговаривать как с психологом.

Вице-министр цифрового развития Дмитрий Мун объяснил, что важно разделять полезное и рискованное считывание эмоций. Он привёл пример, когда нейросети помогают госорганам понимать настроение обращений граждан и улучшать работу власти на местах.

Также он упомянул системы, которые могут анализировать эмоции во вред человеку.

— Бывают системы, которые считывают эмоции для того, чтобы манипулировать и делать психологические воздействия. То есть здесь уже тоже нужно будет рассматривать кейсы.

— Я правильно понимаю, что каким-то определённым сторонним приложениям, где есть нейросеть, в теории запретят анализировать эмоции людей и их настроение, если там есть плохой подтекст? — уточнила корреспондент редакции.

— Да, такая мысль возникла в том числе из-за различных этических норм, которые сейчас диктует Евросоюз. И да, если это будет восприниматься против общества, против личности, конечно, это неправильно будет делать, — добавил спикер.

Дипфейки и права потребителей

Для борьбы с дипфейками закон вводит обязательную маркировку синтетического контента "в доступной для человека форме". Создатели такого фото, видео или текста всегда должны указывать, что они сгенерированы при помощи ИИ.

Потребителей теперь обязательно нужно предупреждать, что им оказывается услуга или продаётся товар, которые создавались при помощи ИИ.

Авторы и их права

Согласно новому закону, произведения, полностью созданные ИИ без участия человека, не защищены авторским правом. Если человек не вложил туда своё творчество, то и права на такой контент у него не возникает.

Креативные запросы пользователей к нейросетям могут считаться охраняемыми. Чтобы обучать нейросети, им нужно "скармливать" много информации: научные факты, исследования, книги, стихи, песни, изображения и прочее.

Однако использование чужого контента может привести к проблемам с авторским правом. В законе авторам дадут право запретить использование их контента для обучения нейросетей.

"Мы вводим понятие "запрет" на то, чтобы произведение, литература автора была передана в ИИ. Если я ставлю на контент условный гриф, тогда его нельзя будет использовать для нейросети. Я объясню: мы создали версии KazLLM (модель искусственного интеллекта для обработки, анализа и генерации текстов на казахском языке). Закон предусматривает: чтобы не стопорить возможность обучать машину, но дать автору по собственному желанию ставить запрет", — объяснил он.

Использование произведений для обучения модели искусственного интеллекта допускается только в том случае, если автор или правообладатель не наложили запрет в машиночитаемой форме.

Если кто-то всё-таки "сольёт" нейросетям охраняемый авторским правом контент, это будет конфликт между гражданами или организациями. Автор может подать в суд, если увидит, что используют его произведения.

"Допустим, я написал сказку про Пиноккио. Вы взяли моё произведение, через GPT написали сказку и назвали её "Буратино". Вы начинаете зарабатывать на этом. Я имею право подать на вас в суд, потому что вы на базе моего произведения начинаете зарабатывать и мне не платите. Это намерение, осознанное желание заработать на труде кого-то без его согласия, будет прописано, и это нельзя", — добавил Мун.

Когда вступят в силу новые запреты для ИИ?

На старте, то есть сразу после принятия закона, глобальных ограничений не будет. Регулирование внедрят позже через подзаконные акты и нормативные документы.

Вице-министр Мун отметил, что не следует всё это рассматривать как однозначные и категоричные запреты:

"Можно закон построить так: вот ты можешь условно каждый шаг описать и сказать, если ты так не делаешь, то всё плохо. А можно наоборот — просто сказать: если у тебя были плохие намерения, и они были доказаны, и для этого есть какие-то особые критерии, тогда вот это условно запрещено. А всё остальное можно. Мы пошли по второму подходу. Запрещаем то, что точно плохо. Всё остальное пока разрешаем и потом будем дорегулировать требованиями, подзаконками. Но принципы основные пишем".

Дмитрий Мун уточнил, что важно не запрещать всё заранее, а создавать правила игры. Они заработают после того, как закон подпишет Президент.

Интересно, что 18 сентября этого года в Казахстане создали Министерство искусственного интеллекта и цифрового развития, которое будет курировать вопросы, связанные с ИИ.