Проблема не в модели, а в дефолте
По умолчанию любая LLM оптимизирована под «польза — скорость — вежливость». Она выдает самый вероятный следующий токен. Для бытовой задачи — идеально. Для текста, где важны пауза, подтекст, ритм — бесполезно.
Модель не «думает». Она предсказывает. Если контекст не требует замедления, она не замедлится. Ваша задача — создать контекст, где быстрый ответ статистически малопробабен, а медленный, взвешенный — максимально правдоподобен.
Промт — это не инструкция. Это сценарий ролевой игры, в которой модель соглашается играть медленно.
Ключевой принцип
Не просите «ответь глубоко». Запрограммируйте структуру генерации, где глубина — единственный возможный путь продолжения последовательности токенов.
Анатомия «медленного» промта: 5 обязательных слоев
Вариации архетипов: три голоса для разных задач
Параметры генерации: цифры за магией
Промт задает что генерировать. Параметры Sampling определяют как. Для «глубокого» голоса дефолты (temp 0.7, top_p 0.9) дают шум. Нужен узкий коридор вероятности.
| Параметр | Значение | Почему |
|---|---|---|
| temperature | 0.3 – 0.5 | Ниже = детерминированнее, меньше «галлюцинаций» креатива, выше следование шаблону личности. |
| top_p | 0.7 – 0.85 | Отсекает хвост маловероятных токенов, но оставляет выбор метафор. Не 0.95 (шум), не 0.1 (робот). |
| repetition_penalty | 1.05 – 1.1 | Заставляет искать синонимы вместо круговерти «глубоко», «смысл», «пауза». Критично для стиля. |
| max_tokens | 512 – 1024 | Дайте место дыханию. Короткий лимит убьет паузы и |
Чек-лист диагностики: почему не работает
- 1Модель игнорирует переносы строк. Добавь в промт: «Вывод строго в markdown-блоке кода («`text … «`)». Это сохраняет верстку.
- 2Выдает «воду» вместо сути. Снизь temperature до 0.2. Увеличь repetition_penalty до 1.15. Добавь примеры, где «вода» = провал.
- 3Перебарщивает с паузами (каждое слово на строке). Жесткое правило: «Максимум 1 пустая строка на 3–4 строки текста. Пауза — акцент, не фон».
- 4Срывается на «Как ИИ…» Добавь в Constraints: «Если хочешь сказать «как ИИ» — остановись. Выпей воды. Напиши метафору вместо этого».