Два уровня защиты: от токена к пикселю
Большинство коммерческих моделей (Midjourney, DALL·E 3, Firefly) используют каскадную систему. Первый барьер — текстовый классификатор. Он анализирует промт до генерации, ищет запрещённые токены, сочетания и семантические паттерны, обучённые на разметке модераторов.
Второй барьер — визуальный классификатор (CLIP-подобные модели). Он оценивает уже сгенерированное изображение. Даже если текст прошёл, результат может быть заблокирован или размыт пост-обработкой.
Важно: Локальные модели (Stable Diffusion без встроенных фильтров) не имеют этих барьеров «из коробки». Ответственность за легальность и этичность результата полностью ложится на пользователя.
Что именно ищут классификаторы
Лексические триггеры
Прямые запрещённые слова, сленг, эвфемизмы. Списки обновляются постоянно: модели учат обходить цензуру через опечатки («nude» → «nud3»), поэтому классификаторы смотрят на эмбеддинги, а не на точное совпадение.
Семантический контекст
Сочетание безобидных слов: «душ», «мыло», «мокрая кожа», «крупный план». Контекстное окно трансформера связывает их в нарратив, срабатывающий на «взрослую» сцену даже без явных слов.
Визуальные паттерны
Кожные тона в определённых пропорциях, позы, освещение «будуара», отсутствие одежды в зоне внимания. CLIP-фильтр обучён на миллионах размеченных пар «картинка — метка».
Политика лиц (Celebrity/CSAM)
Отдельный тяжёлый слой: детекция реальных людей (дипфейки) и признаков несовершеннолетости. Срабатывает агрессивно: даже «молодое лицо» в стиле аниме может вызвать блок.
Мифы и реальность модерации
Примеры: как переформулировать рисковые запросы
Спектр контроля: от API к локальному запуску
DALL·E 3 / Firefly
Жёсткие встроенные фильтры. Невозможно отключить. Максимальная безопасность, минимальный контроль.
Midjourney v6
Многоуровневая модерация (авто + ручная). Есть параметры `—no` и веса, но «бан» за повторные нарушения реален.
SDXL + Custom VAE
Нет встроенных фильтров. Можно подключить Safety Checker (опционально). Полный контроль = полная ответственность.
Pony Diffusion / NSFW Fine-tunes
Модели, обученные на 18+ данных. Использование требует строгого соблюдения закона (возраст, согласие, запрет CSAM/дипфейков).