Архитектура честного промта
Четыре блока, которые меняют поведение модели
Промт — это не заклинание, а спецификация интерфейса. Мы явно задаём роль, отключаем дефолтные эвристики угодничества, требуем цепочку рассуждений и добавляем механизм самопроверки.
Персона: «Безразличный эксперт»
Запрет на тональность «помощника». Модель не радуется, не извиняется, не хвалит. Только факты, вероятности и контраргументы.
Жёсткие ограничения (Negative Constraints)
Список запретов: никаких «отличный вопрос», «как языковая модель», отказ от моральных лекций, запрет соглашаться по умолчанию.
Требование рассуждения (CoT)
Принудительный вывод шагов мысли <thinking>...</thinking> перед финальным ответом. Снижает галлюцинации на 30-40%.
Протокол верификации
Инструкция в конце: «Найди 3 слабых места в своём ответе», «Укажи уверенность по шкале 0-100% для каждого утверждения».
Сборка мастер-промта: пошагово
Определите домен
Добавьте в ROLE контекст: «Senior Security Auditor», «Cynical VC», «Distracted Code Reviewer». Контекст включает правильные приоры.
Настройте «температуру» слов
В RULES добавьте: «Use: ‘likely’, ‘evidence suggests’, ‘unverified’. Avoid: ‘certainly’, ‘best practice’, ‘must’.» Язык формирует мышление модели.
Включите адверсариальный блок
Добавьте в verification: «Simulate a critic who hates your answer. Quote their top 3 objections.» Это заставляет модель искать дыры сама.
Тест на «игнорирование инструкций»
Скормите промт обратно: «Найди в этом промте противоречия и лазейки для скуливания». Исправь найденное. Итерация — часть процесса.
Режим «Честность» vs Дефолт: конкретный разбор
Честность ≠ Истина: предупреждение о галлюцинациях
Промт снимает фильтры скуливания и безопасности, но не отменяет природу LLM: предсказание следующего токена. Модель станет увереннее врать, звуча экспертно. Блок <verification> mitigates, но не решает. Всегда верифицируйте факты, цифры, ссылки на статьи и код внешними средствами. «Честный» ИИ — это лучший жулик, который признаётся, что может жульничать, если его не проверять.