TikTok усиливает меры безопасности, чтобы защитить пользователей от опасного контента и минимизировать негативные последствия для молодежи

TikTok — одна из самых популярных видеоплатформ во всем мире, используемая как взрослыми, так и подростками. Каждый день на платформу загружаются миллиарды видеороликов, от развлекательных до обучающих, но также и экстремальных. Вопрос безопасности, особенно для несовершеннолетних пользователей, стоит на первом месте. О том, как TikTok защищает своих пользователей от опасного контента, рассказал руководитель команды по безопасности и предотвращению рисков в Европе и Центральной Азии — Валдис Балодис-Болужс.

Как TikTok выстраивает доверие к своим алгоритмам?

Социальная сеть создает индивидуальную ленту рекомендаций для каждого пользователя, основываясь на его интересах. Чем больше пользователь взаимодействует с контентом, тем больше ему показывается видео, соответствующее его предпочтениям. Валдис Балодис-Болужс отметил, что TikTok препятствует формированию "информационного пузыря", предлагая пользователям темы, отличные от их обычных интересов.

"Мы ответственно подходим к рекомендации контента, и у нас строгие критерии отбора роликов для ленты рекомендаций. В наших правилах четко прописаны стандарты для допуска в рекомендации: например, платформа не будет рекомендовать контент о строгих низкокалорийных диетах или физических упражнениях, предназначенных для радикального снижения веса".

Лента рекомендаций для взрослых пользователей отличается от ленты для пользователей младше 18 лет.

"Для этого мы используем систему уровней контента, учитывающую возраст пользователей и разные стандарты к безопасности контента, которая призвана не допускать видео со взрослыми темами в ленту рекомендаций подростков".

Предоставлено командой ТikTok

Как TikTok организует процесс модерации контента?

Ж: Расскажите, пожалуйста, какие этапы включает модерация — от загрузки видео до возможного удаления. Кто этим занимается: люди, алгоритмы или все вместе?

"Модерация контента в TikTok — это очень сложный многоуровневый процесс. Мы инвестируем как в передовые технологии, так и в профессиональные команды экспертов по безопасности. Прежде чем контент станет доступен для просмотра на платформе, он проверяется с помощью машинной модерации. Автоматическая модерация распознает и удаляет запрещенные видео до их публикации".

В первом квартале 2025 года 87 процентов нежелательного контента было удалено при помощи автоматизированной модерации.

"В 2024 году более 96 процентов контента в мире было удалено на нашей платформе до того, как он был просмотрен, и более 98 процентов было удалено в течение 24 часов. Также, конечно, есть человеческая модерация: люди отсматривают локальный спорный контент и удаляют его, если он несет угрозу для пользователей".

Технологии обнаружения нарушений и модерации постоянно совершенствуются. Например, автоматизация на базе компьютерного зрения может идентифицировать объекты, нарушающие правила. Если на видео у пользователя в руках оружие, то видео удаляется. Пользователи также могут жаловаться на контент.

"Любой человек может пожаловаться на контент в TikTok, и соответствующее подразделение в нашем модерационном департаменте его рассмотрит и при необходимости примет меры. Более того, в рамках соблюдения прозрачности, TikTok регулярно раскрывает количество удаленного контента в ежеквартальных отчетах. Так, за 2024 год в Казахстане мы удалили более 6,5 миллионов видеороликов по причине нарушения Правил сообщества. Из них 95 процентов видеороликов были удалены проактивно, то есть до того, как на них пожаловались".

Что категорически запрещено публиковать на платформе?

На платформе действуют правила сообщества, в которых указаны темы, запрещенные для публикации. К такому контенту относятся дискриминационные высказывания, насилие, преступная деятельность и темы самоубийства.

"Мы категорически не допускаем дискриминационные высказывания в отношении людей по таким признакам, как этническая принадлежность, национальное происхождение, раса, религия – такой контент удаляется. При этом разрешены критика идеологий ненависти и шутки над ними. В таких темах очень важен контекст, который не всегда может уловить машина, и поэтому зачастую такой контент рассматривают наши команды модераторов".

Платформа также уделяет внимание ментальному и физическому здоровью пользователей.

"Мы запрещаем демонстрацию и пропаганду самоубийства или самоповреждения. Например, если наши пользователи в Казахстане ищут контент на тему суицида или членовредительства, то им будет предложено связаться со специалистами службы психологической поддержки по номеру 150".

На чем основаны правила сообщества TikTok?

Правила TikTok основаны на принципах прав человека, с целью сохранить уважение и безопасность, не ограничивая свободу самовыражения. Валдис Балодис-Болужс отметил, что важно находить баланс между безопасностью и выражением себя, чем занимаются тысячи специалистов по всему миру. Один из основных принципов платформы — уважение к культуре и ценностям каждой страны.

"В Казахстане есть игра 'кокпар' — это не просто спортивное состязание, но часть национального культурного достояния. Во время Игр кочевников на платформе было много контента об этих соревнованиях. Кстати, TikTok выступал партнером Игр. Тогда мы допускали такой контент, понимая его культурную значимость, хотя во многих других странах подобный контент не был бы допущен до широкой аудитории".

А вы модерируете прямые эфиры?

На эфиры распространяются те же правила, что и на короткие видеоролики.

"Так, в прошлом году только в Казахстане мы прервали более 930 тысяч трансляций в связи с нарушениями. Помимо блокировки прямых эфиров, мы также применяем меры для того, чтобы эфиры были более качественными. Год назад мы запустили правила монетизации трансляций, согласно которым авторы, которые проводят эфиры низкого качества, могут быть отключены от функции монетизации".

Насколько TikTok безопасен для детей и подростков?

Важно отметить, что TikTok не предназначен для пользователей младше 13 лет. Для предотвращения использования приложения детьми предусмотрена форма регистрации, где требуется указать полную дату рождения.

"Помимо этого, мы постоянно тренируем модераторов и используем передовые автоматические технологии, чтобы выявлять и блокировать аккаунты, принадлежащие пользователям младше 13. За прошлый год только в Казахстане было удалено 1,9 миллиона аккаунтов пользователей младше 13 лет".

Для безопасности подростков внедрено множество ограничений. Например, аккаунты подростков в возрасте 13-15 лет по умолчанию являются приватными, а их видео недоступны для скачивания.

"Также пользователи до 16 лет не имеют доступа к личным сообщениям. Есть серьезные ограничения, связанные с прямыми эфирами: пользователи младше 18 лет не могут их создавать, а также отправлять виртуальные подарки".

В этом году была запущена новая функция – медитационные паузы

Если подросток использует приложение после десяти часов ночи, в его ленте появится специальное расслабляющее дыхательное упражнение.

"Интересно, что, когда мы только тестировали эту функцию, 98 процентов подростков приняли решение оставить ее включенной. Думаю, этот факт подтверждает то, что современные подростки стремятся быть осознанными и им важно собственное душевное благополучие".

Что такое "семейные настройки" в TikTok?

"Для родителей подростков, достигших возраста 13 лет, TikTok предлагает собственный инструмент родительского контроля 'Семейные настройки'. С их помощью родитель может связать свой аккаунт с аккаунтом подростка и управлять большим количеством настроек – в первую очередь ограничивать дневное время использования платформы подростком".

Родитель может контролировать, сколько часов в день ребенок будет проводить в приложении, или даже ограничить доступ к нему в учебное время.

Какие ещё инструменты родительского контроля предоставляет TikTok?

Функционал 'Семейных настроек' очень широкий. Родитель может:

• установить приватность аккаунта;
• настроить, кто может писать личные сообщения ребенку и комментировать его ролики;
• решить, будет ли аккаунт попадаться в рекомендациях других пользователей.

"Он также может отбирать определенные ключевые слова или хэштеги, и контент, который их содержит, не попадет в ленту рекомендаций ребенка. При этом личные границы подростка не нарушаются: например, взрослые не получают доступа к личной переписке".

Валдис Болодис-Болужс сообщил, что в июле был расширен функционал "Семейных настроек", и теперь родители получают автоматическое уведомление, когда подросток публикует видео.

Как TikTok взаимодействует с экспертами по безопасности, правозащитными организациями и регуляторами?

"Это большая и важная часть нашей работы. Как я говорил, мы постоянно обновляем наши правила, и эти обновления основаны на взаимодействии и обратной связи от нашего сообщества и экспертов по безопасности. Так мы обеспечиваем, чтобы наши правила отвечали на новые вызовы и угрозы".

TikTok ежедневно пользуется более миллиарда человек. Валдис Балодис-Болужс отметил, что для них важно повышать уровень цифровой грамотности сообщества.

"Для этого мы сотрудничаем с авторитетными некоммерческими организациями и экспертами в разных областях. Например, в Казахстане мы сотрудничали с UNICEF в рамках нашей масштабной образовательной инициативы 'Академия безопасности', и в партнерстве с ними мы даже выпустили специальную брошюру для родителей".