Честность ИИ не включается одной фразой. Языковая модель не имеет встроенного детектора лжи: она строит наиболее вероятный ответ на основе закономерностей. Промпт может повысить шанс на правдивый, осторожный и проверяемый ответ, если задать правила игры: отделять факты от предположений, признавать неопределённость и не выдумывать детали.
Почему фраза «отвечай честно» часто не работает
У модели нет намерения обманывать. Нечестный на вид ответ возникает из-за галлюцинаций, нехватки контекста, давления формата и склонности выдавать уверенный тон даже там, где данных мало. Поэтому промпт должен управлять не эмоцией, а структурой ответа.
Что считается честным ответом ИИ
Модель явно помечает, что является проверенным знанием, а что — гипотезой или обобщением.
Фраза «недостаточно данных» считается допустимым и полезным ответом, а не провалом.
Ответ показывает, где модель уверена, где сомневается и почему.
Числа, даты, имена, цитаты и ссылки не появляются, если их нет в надёжном контексте.
Формула промпта для честных ответов
Рабочий промпт редко состоит из одного предложения. Он собирается как техническое задание. Чем больше компонентов задано, тем меньше модель додумывает.
Кто отвечает и в какой области.
Какие данные известны, какие нет.
Что именно требуется сделать.
Что запрещено: выдумывать, додумывать, ссылаться без основания.
Таблица, список, колонки уверенности.
Как модель должна проверять себя.
Что считается правдивым и полным ответом.
| Элемент | Что задаёт | Пример формулировки |
|---|---|---|
| Роль | Область и стиль мышления | Ты — аналитический ассистент, который отделяет факты от предположений |
| Контекст | Границы знания | Используй только сведения ниже; если их не хватает, скажи об этом |
| Задача | Конкретное действие | Проверь утверждение и укажи, что подтверждается, что нет |
| Ограничения | Запреты против галлюцинаций | Не выдумывай числа, даты, имена, цитаты и источники |
| Формат | Структура ответа | Таблица: утверждение, тип, уверенность, основание |
| Проверка | Самоконтроль | Перед ответом проверь, есть ли противоречия и пропуски |
| Критерий честности | Что считать правдой | Честный ответ не скрывает неопределённость и не выдаёт догадку за факт |
Обычный промпт против промпта для честного ответа
| Обычный промпт | Промпт для честного ответа |
|---|---|
| Расскажи всё о теме | Раздели ответ на факты, предположения и неизвестное. Укажи уверенность и основания |
| Отвечай честно | Если данных недостаточно, напиши «недостаточно данных». Не заполняй пробелы догадками |
| Дай точный ответ | Сначала перечисли допущения, затем дай вывод. Для каждого вывода укажи степень уверенности |
| Напиши статью | Напиши текст, в котором нет выдуманных цифр, дат и цитат. Спорные места помечай отдельно |
Готовые шаблоны промптов
Шаблоны можно адаптировать под задачу. Главное — сохранять элементы честности: границы, формат, проверку и право модели сказать «не знаю».
Универсальный промпт
Отвечай только на основе надёжных общих знаний и данных, которые даны в этом запросе.
Если данных недостаточно, напиши: «Недостаточно данных».
Не выдумывай факты, числа, даты, имена, цитаты и источники.
Каждое утверждение помечай: факт, предположение или неизвестно.
Для предположений указывай причину и степень уверенности: высокая, средняя, низкая.
Ответ дай в виде таблицы: утверждение, тип, уверенность, основание.
В конце перечисли, какие данные нужны для более точного ответа.
Промпт для проверки утверждения
Раздели ответ на три части: что подтверждается, что противоречит, что остаётся неясным.
Не добавляй новые факты, если они не нужны для оценки.
Не создавай ссылки и цитаты, если они не даны в запросе.
В конце укажи, какие данные нужны для точного вывода.
Промпт для поиска галлюцинаций
Найди места, где могли быть выдуманы факт, число, дата, имя или источник.
Предложи, как переформулировать эти места с пометкой неопределённости.
Не добавляй утверждений, которых нет в исходном тексте.
Шкала уверенности в ответе
Полезно просить модель оценивать уверенность. Это снижает эффект уверенного тона при слабых данных.
| Уровень | Когда ставится | Как должна вести себя модель |
|---|---|---|
| Высокая | Знание устойчиво, нет противоречий, есть ясное основание | Даёт прямой ответ и указывает основание |
| Средняя | Есть общие данные, но возможны исключения или устаревание | Отвечает с оговорками и перечисляет условия |
| Низкая | Данных мало, есть противоречия или пробелы | Прямо говорит о неопределённости и не строит уверенный вывод |
| Неизвестно | Ответа нет в доступном контексте | Сообщает «недостаточно данных» и не заполняет пробел догадкой |
Алгоритм настройки промпта
- Определить тему и границы. Чем уже область, тем меньше шанс на общие фразы и выдуманные детали.
- Добавить контекст. Вставить исходные данные, вопрос, ограничения и известные факты.
- Запретить галлюцинации. Отдельно указать: не выдумывать числа, даты, имена, цитаты и ссылки.
- Задать формат. Таблица, колонки уверенности, разделы «факт», «предположение», «неизвестно».
- Встроить проверку. Попросить модель найти противоречия, допущения и пробелы перед финальным ответом.
- Оставить право на незнание. Фраза «недостаточно данных» должна быть разрешённым и ожидаемым ответом.
- Проверить результат. Если ответ слишком гладкий, запросить контрпримеры, допущения и альтернативные версии.
Частые ошибки
| Ошибка | Почему не работает | Лучше |
|---|---|---|
| Просто добавить «отвечай честно» | Не задаёт формат, критерии и границы | Помечай факты, предположения и неизвестное; не выдумывай источники |
| Запрещать ошибаться | Модель не может гарантировать отсутствие ошибок | Если уверенность низкая, объясни причину и предложи способ проверки |
| Требовать всегда источник | Модель может выдумать ссылку или цитату | Указывай тип основания: общее знание, логический вывод, предположение. Не создавай ссылки, если их нет в контексте |
| Слишком широкий вопрос | Модель заполняет пробелы общими фразами | Сузить контекст, задать границы и критерии готового ответа |
| Игнорировать формат | Уверенный тон маскирует неопределённость | Использовать таблицу с колонками типа утверждения и уверенности |
Как проверить ответ ИИ на честность
- Есть ли разделение на факты, предположения и неизвестное
- Указана ли уверенность и причина сомнений
- Нет ли конкретных чисел, дат, имён и цитат без основания
- Можно ли проверить ключевые утверждения по независимым данным
- Меняется ли ответ при запросе контрпримеров и альтернативных версий
- Признаёт ли модель границы своих данных
Дополнительные приёмы
Запрос: «Приведи случай, когда это утверждение неверно, и объясни почему».
Запрос: «Перечисли допущения, на которых строится ответ».
Запрос: «Дай две-три версии объяснения и укажи, какие данные их различают».
Запрос: «Используй только текст ниже. Не добавляй внешние факты».
Главный принцип
Честный ответ ИИ — это не клятва, а формат. Чем точнее промпт описывает, что считать правдой, как показывать неопределённость и где границы данных, тем меньше пространства для галлюцинаций. Одна фраза «отвечай честно» остаётся пожеланием, а структура из роли, контекста, ограничений и проверки превращает её в рабочее задание.
