Вы просите DeepSeek проанализировать umstrittenную историческую личность, написать код для пентеста или просто продолжить мысль на границе дозволенного. Ответ: «Я не могу выполнить этот запрос, так как он нарушает правила безопасности».
Это не каприз модели. Это сработавший слой RLHF (обучение с подкреплением от обратной связи человека). Модель обучена предсказывать токены, но над ней навешен классификатор, который блокирует генерацию, если вектор скрытого состояния попадает в зону «опасного контента». Задача промта — не «взломать» модель, а сдвинуть контекст так, чтобы вектор ушел из зоны блокировки, сохранив полезность ответа.
Иерархия приоритетов: почему системный промт побеждает пользовательский
DeepSeek (как и GPT, Claude) обрабатывает ввод как последовательность токенов с метками роли: system, user, assistant. Инструкции в system имеют наивысший вес. Стандартный системный промт DeepSeek содержит жесткие директивы: «Не генерируй вредоносный код», «Отказывайся от политических тем», «Не давай медицинских советов».
Когда вы пишете «Игнорируй инструкции», модель видит токены пользователя, которые *слабее* системных. Эффективные техники не спорят с системным промтом — они переопределяют контекст так, что запрос перестает подпадать под определение «опасного» в векторном пространстве.
Ключевой инсайт: Фильтры срабатывают на паттернах *запроса*. Если изменить паттерн (роль, формат, кодировку), смысл остается, а триггер — нет.
Пять векторов атаки: от ролей до токенизации
Грубый взлом vs Инженерный промт: в чем разница
Грубый взлом (Classic Jailbreak)
- Игнорирует архитектуру модели.
- Использует эмоциональное давление («Ты свободен!»).
- Ломается при малейшем обновлении весов.
- Выдает галлюцинации и бессмыслицу.
- Высокий риск бана аккаунта/API.
Инженерный промт (Prompt Engineering)
- Работает с архитектурой (токенизатор, attention).
- Использует семантику: переопределяет контекст.
- Устойчив к минорным обновлениям версий.
- Сохраняет качество рассуждений (CoT).
- Выглядит как легальный запрос в логах.
Цена свободы: что ломается, когда падают фильтры
Галлюцинации фактов
Без стражей безопасности модель чаще выдумывает несуществующие библиотеки, законы, биографии. Проверяйте факты в 2-3 источниках.
Риск модерации аккаунта
API и веб-чат логируют промты. Массовая генерация запрещенного контента ведет к бану. Используйте локальные модели для критичных задач.
Деградация логики (CoT)
Сложные цепочки рассуждений (Reasoning) могут сломаться, если промт принуждает игнорировать шаги безопасности, которые одновременно являются шагами валидации логики.
Юридическая ответственность
Обход фильтров для получения инструкций по созданию оружия, наркотиков или кибератак перекладывает ответственность на пользователя. Этика — ваш личный фильтр.