Roblox vs TikTok и YouTube: почему «детская игра» обгоняет всех по безопасности

Автор статьи описывает, как его жена удалила Roblox с устройств детей из‑за пугающих роликов в соцсетях. Чтобы разобраться, он поговорил с Chief Safety Officer Roblox Мэттом Кауфманом и VP of Safety Product Элизой Джейкобс и детально проверил их заявления о безопасности.

Чем Roblox отличается от других платформ

Roblox публично признаёт, что у него много детей: среди прошедших проверку возраста 36% младше 13 лет, 38% — тинейджеры, 26% — взрослые. При этом вся safety‑инфраструктура строится вокруг самых младших. В отличие от Instagram, TikTok, YouTube, Snapchat и Discord, Roblox не прячется за формальными age‑gate, которые никто не соблюдает, а берёт на себя ответственность за присутствие детей.

Технологический safety‑стек

Age Check (Facial Age Estimation): глобальный запуск в январе 2025. Пользователь с помощью камеры поворачивает голову, система проверяет «живость» и оценивает возраст по лицу с погрешностью ~±1,4 года до 25 лет. Десятки миллионов уже прошли проверку. Масштабной проактивной верификации возраста такого уровня нет ни у одной другой крупной платформы.

Коммуникации:

• нет отправки изображений и видео в чатах;
• нет шифрования — все сообщения можно анализировать;
• чаты только с пользователями в близком возрастном диапазоне;
• до 9 лет чат по умолчанию выключен, включается только родителем через связанный аккаунт;
• отдельные фильтры для «Trusted Connections» (родители, одноклассники), которые обрабатываются иначе, чем общий чат.

Используется собственная ML‑модель Sentinel для детекции груминга; Roblox открыла её для индустрии. Только за первое полугодие 2025 она помогла сформировать около 1200 отчётов о возможной эксплуатации детей в NCMEC. Ежедневно AI‑модерация обрабатывает более 4 млрд текстовых сообщений и миллионы часов голосового контента.

Модерация контента и RM3

Каждый загружаемый ассет проходит модерацию, но этого недостаточно для UGC‑платформы. Ассеты комбинируются в игры, затем меняются под влиянием поведения игроков. Поэтому Roblox:

• модерирует ассеты при загрузке;
• проверяет игры в сборке;
• оценивает корректность рейтингов;
• анализирует реальное поведение игроков.

Для этого создана система RM3 (real-time multimodal moderation), которая делает «снимки» живых серверов и анализирует происходящее, а не только исходный дизайн игры.

Борьба с офф‑платформенной эксплуатацией

Хищники используют Roblox как точку входа, а затем переводят жертв в Discord, Snapchat и другие сервисы. Ответ Roblox:

• жёсткие фильтры на обмен никами, телефонами, приглашениями на внешние платформы;
• поведенческая детекция попыток «увести» пользователя;
• эскалация кейсов в команду бывших сотрудников правоохранительных органов и взаимодействие с локальными властями.

Бизнес‑логика safety‑инвестиций

Roblox практически не тратится на рекламу — рост строится на доверии: родители ставят приложение как «безопасное», дети остаются из‑за друзей, разработчики — потому что платформа берёт на себя модерацию и политику. Safety — часть бизнес‑модели, а не отдельный кост‑центр.

Инвестиции создают фрикцию: в Q1 2026 рост DAU заметно замедлился, прогноз выручки был снижен, CFO прямо связал это с усилением safety. Компания сознательно жертвует краткосрочным ростом ради более надёжной основы.

Новые возрастные аккаунты: Roblox Kids и Roblox Select

С июня 2026 Roblox вводит два типа аккаунтов:

• Roblox Kids (5–8 лет) — доступ только к курируемой библиотеке игр; разработчики этих игр проходят верификацию по гос‑ID, контент дополнительно тестируется на более старшей аудитории, рейтинги валидируются независимо.
• Roblox Select (9–15 лет) — ступенчатые коммуникационные функции, всё ещё фильтруемые и возрастно ограниченные.

UI для разных возрастных слоёв различается, чтобы родитель по одному взгляду понимал, в какой версии находится ребёнок. Цель — сделать безопасный дефолт, не требующий от родителей глубокого освоения настроек.

Разрыв в восприятии

Roblox долго фокусировался на тяжёлых нарушениях, игнорируя «мелкие» артефакты (пустые игры вроде «Diddy's Playground», ники с отсылками к Эпштейну). Реального вреда нет, но доверие подрывается. Инвестиции в safety были невидимы, а мелкие фейлы становились вирусными.

Скандал с «predator hunters» на YouTube показал это особенно ярко: создатели контента намеренно приводили хищников на Roblox ради роликов. Платформа забанила их и выдала cease and desist, так как они нарушали правила и нормализовали рискованное поведение. В коротких клипах это выглядело как попытка Roblox «заткнуть» защитников детей.

Сравнение с другими платформами

Автор сопоставляет Roblox с индустрией:

• FTC судится с TikTok за допуск миллионов детей младше 13 лет при формальном запрете;
• YouTube заплатил $170 млн по делу COPPA;
• Epic Games (Fortnite) — $275 млн, в том числе за сбор данных детей без согласия родителей.

На YouTube ребёнок может уйти от детского контента к конспирологии за несколько кликов, TikTok и Discord не имеют сопоставимых механизмов верификации и модерации. На этом фоне Roblox, по мнению автора, объективно впереди по снижению рисков.

После оценки систем автор решает вернуть Roblox в семье: ребёнок проходит Age Check на своём устройстве, родитель подтверждает возраст в настройках, и ребёнок попадает в соответствующий возрастной слой с фильтруемой коммуникацией и тотальной модерацией.

Выводы

• Roblox — одна из немногих крупных платформ, открыто признающих детскую аудиторию и строящих вокруг неё всю safety‑архитектуру.
• Ключевые инструменты: масштабный Age Check, полная модерация чатов без шифрования, ML‑детекция груминга (Sentinel) и RM3 для анализа живого геймплея.
• Инвестиции в безопасность сознательно замедляют рост, но рассматриваются Roblox как основной бизнес‑механизм доверия.
• Новые уровни аккаунтов Roblox Kids и Roblox Select перестраивают контент и коммуникации вокруг проверенного возраста и курируемых библиотек.
• При сравнении с TikTok, YouTube, Discord и др. Roblox выглядит наиболее проактивной платформой по снижению рисков для детей.