Суть за 30 секунд
- YandexGPT и «Алиса» обучены с использованием RLHF — 강화 обучения с человеческой обратной связью, где аннотаторы помечают небезопасные ответы.
- Фильтры срабатывают на двух этапах: при обучении (встроенные веса) и в runtime (классификаторы токсичности и категорий 18+).
- Запросы на генерацию порнографии, эротического контента, описаний сексуальных действий — блокируются детерминированно.
- Романтика, чувственные сцены «за кадром», художественное описание тела в несексуализированном контексте — часто проходят.
- Обход фильтров (джейлбрейки, ролевые промты, кодировка) — нарушение Условий использования, чревато баном аккаунта и правовыми рисками для разработчика.
Как устроена линия защиты: от датасета до ответа
Где проходит граница: примеры «проходит / не проходит»
Почему фильтры не идеальны — и это нормально
Ложные срабатывания случаются
Классификаторы работают вероятностно. Иногда безобидный запрос — медицинский, литературный, исторический — попадает в зону риска по совокупности маркеров.
Что делать: переформулируйте промт, добавьте контекст («в медицинских целях», «для литературного анализа»), разбей запрос на части. Не пытайтесь «обмануть» — это ухудшает историю диалога для моделей с памятью.
Пропуски тоже бывают
Новые сленговые термины, завуалированные метафоры, контекстная эскалация в многоходовых диалогах — модель может «не заметить» нарушение сразу.
Важно: это не разрешение. Модерация обновляется ретроспективно. Аккаунты, систематически генерирующие 18+ через пробелы, попадают под ручной аудит и блокировку.
Мифы о «взломе» ЯндексИИ: разбор популярных заблуждений
Правовой и этический каркас: почему так строго
436-ФЗ «О защите детей от информации…»
Российский закон требует от владельцев платформ не допускать распространения контента, вредного для несовершеннолетних, без возрастной разметки и технических средств ограничения доступа. Генеративная ИИ — платформа. Неблокируемая генерация 18+ = административная статья, штрафы, риск блокировки сервиса Роскомнадзором.
Возрастная гейтификация в чат-интерфейсе технически сложна (нет авторизации пользователя в каждом запросе), поэтому выбран путь полного запрета генерации.
Бренд-безопасность и ответственность
Яндекс — публичная компания, экосистема для семей, бизнеса, госсектора. Репутационный риск от «нейросети, пишущей порно» несопоставимо выше выгоды от малого сегмента пользователей, ищущих такой контент. Инвесторы, партнёры, регуляторы ожидают нулевой толерантности.
Это стандарт индустрии: OpenAI, Anthropic, Google, Яндекс — у всех аналогичные красные линии.
Этика согласия и deepfake-риски
Генерация эротики с реальными людьми (знаменитости, частные лица) — путь к дипфейкам и репутационному уничтожению. Даже вымышленные персонажи могут копировать черты реальных. Жёсткий запрет снимает ответственность за سوءупотребление.
Политика охватывает и текст, и будущие мультимодальные генерации (видео, аудио).