Когда три буквы приводят к отказу
Пользователь вводит две-три слова и получает сообщение о нарушении правил. В тексте нет ненормативной лексики, но сеть блокирует запрос. Причина не в отдельных буквах, а в том, как модель оценивает смысл короткой фразы.
Короткий промт не даёт контекста. Фильтр предпочитает перебдеть и отклонить запрос, чем пропустить что-то запрещённое.
Фильтры срабатывают на намерение, а не только на список запрещённых слов.
Что считать пошлым промтом
Промт — это текстовая инструкция для нейросети. Пошлый или взрослый промт — запрос, который просит 묘사ть сексуальные акты, гениталии или порнографические ситуации. Даже без мата такой контент попадает под ограничения большинства моделей.
Как нейросеть решает, что пропустить, а что блокировать
Запрос проходит несколько уровней ещё до того, как модель создаёт ответ. Сначала входной фильтр проверяет текст на запретные темы. Затем сама модель генерирует ответ с внутренними ограничениями. В конце выходной фильтр проверяет уже готовый текст.
Каждый уровень может остановить запрос, даже если предыдущий его пропустил.
Миф и реальность об обходе фильтров
«Достаточно написать запрос наоборот или через пробелы»
Фильтр якобы не сработает, если буквы переставить или разделить пробелами.
Модели понимают смысл, а не только буквы
Перестановка слов или замена букв редко помогает, потому что сеть анализирует намерение и контекст, а не просто совпадение символов.
Безопасный и небезопасный запрос: чем отличаются
Романтическая встреча под дождём
Описание чувств, обстановки и эмоций между персонажами без интимных деталей.
Половой акт с деталями
Запрос на 묘사цию сексуального контакта попадает под ограничения взрослого контента.
Если нейросеть отказывает, что делать
Почему короткие промты особенно рискованны
Два слова могут означать совсем разное.
Без уточнений сеть выбирает самый осторожный вариант.
На короткие ambiguous запросы срабатывают быстрее.
Легко не заметить, как фраза попадает под запретную тему.
Важное замечание о границе искусства и правил
Граница между эротикой в искусстве и порнографией различается в разных странах и правилах сервисов. Нейросети обычно ориентируются на самые строгие стандарты, чтобы не рисковать репутацией и не нарушать законодательство. То, что допустимо в картине или книге, может быть заблокировано в чат-боте.
