Две жизни одного ответа
Ответ проходит два этапа. На первом модель генерирует текст по промпту. На втором отдельный модуль безопасности проверяет сгенерированный текст на соответствие правилам. Если модуль находит нарушение, он подаёт команду на удаление. Именно поэтому сообщение сначала видно, а затем пропадает.
Для пользователя это выглядит как обрыв разговора, хотя для системы это стандартная последовательность действий: сначала создание, потом модерация.
Модель генерирует текст первым, а безопасность проверяет его вторым.
Почему фильтр срабатывает после генерации
Разделение генерации и проверки
Сначала модель формирует ответ, только потом фильтр сканирует его. Между этими действиями проходит доля секунды, достаточная для отображения текста на экране.
Ключевые слова и темы
Фильтр ищет совпадения по списку ограниченных тем и фраз. Если такой фрагмент встречается в уже готовом ответе, сообщение удаляется, даже если сам запрос был нейтральным.
Внешние требования
Правила формируются в соответствии с законодательством и внутренними политиками безопасности. Они могут отличаться в зависимости от региона и версии модели.
Как путь ответа выглядит со стороны системы
Что видит человек, а что делает сервер
Что видит человек
Ответ появляется в чате. Читатель начинает изучать текст. Сообщение исчезает без объяснения причины. Остаётся ощущение обрыва разговора.
Что делает сервер
Генерация завершена. Фильтр сканирует текст. При срабатывании отправляется команда на удаление. Пользователю направляется уведомление или пустое поле.
Примерный триггер: когда текст попадает под фильтр
Что делать, если ответ удалили
Переформулируйте запрос
Иногда достаточно изменить формулировку, убрать потенциально чувствительные слова или разделить длинный вопрос на несколько коротких.
Обратите внимание на тему
Если запрос касается политики, личностей или иных чувствительных областей, вероятность срабатывания фильтра выше.
Сохраняйте важное сразу
Если текст появился на экране, стоит скопировать его или сделать скриншот до того, как фильтр сработает.
Попробуйте другой подход
Переформулировка с акцентом на нейтральные формулировки часто помогает получить ответ без удаления.