Как LLM формирует ответ: вероятность, а не верификация
Генерация идёт токен за токеном. Каждый следующий выбирается по максимальной вероятности *условно* предыдущим контекстом (промт + уже сгенерированное).
Нет внутреннего модуля «факточек». Нет доступа к базе знаний в момент инференса. Есть только веса, сжавшие статистические закономерности обучающей выборки.
Галлюцинация — это не ошибка, а *нормальный режим работы*: модель выдаёт статистически правдоподобную последовательность, которая не привязана к реальности.
Промт для объективности — это попытка наложить на вероятностный процесс внешние детерминистические правила.
Четыре столпа промта для объективности
Сборка мастер-промта: 5 шагов от замысла к инструкции
Контекст и цель
Определите: какая именно область (медицина, код, история), какой формат нужен (краткий справочник, развёрнутый анализ), кто аудитория. Чёткий контекст сужает пространство поиска токенов.
Назначение персоны-аудитора
Пропишите роль не как «профессор», а как «редáctор научного журнала, который проверяет рукопись перед рецензией. Твоя цель — найти ошибки, пробелы и преувеличения».
Жёсткий шаблон вывода (Output Schema)
XML/JSON/Markdown-таблица с обязательными полями. Модель вынуждена «вписаться» в структуру, что ломает естественный поток галлюцинаций.
Инструкция по Chain-of-Verification
Добавьте блок: «Перед финальным выводом сгенерируй 3–5 критически важных вопросов к своему черновику. Ответь на них честно. Исправь черновик».
Параметры сэмплирования (Temperature, Top-p)
Промт — только половина дела. Для объективности нужны: Temperature = 0 (детерминизм), Top-p = 0.1–0.3 (отсечение хвоста распределения), Repetition Penalty ~1.05. Без этого лучший промт выдаст случайность.
Сравнение: стандартный промт vs архитектура объективности
Стандартный промт
«Объясни квантовую запутанность простыми словами, будь объективным и честным».
Промт-архитектура объективности
Применение 5 шагов: роль аудитора, схема вывода, CoVe, T=0.