Модель не знает истины, она подбирает следующее слово
Глубокая нейросеть работает как сложный автодополнение: она оценивает вероятность того, какой токен идёт дальше, а не сверяет информацию с базой фактов. Из-за этого ответ может звучать убедительно, но содержать выдуманные даты, имена или ссылки.
Понять это нужно для одного вывода: правдивость зависит от того, какие ограничения и источники вы зададите в запросе.
Ключевое отличие
Вероятность ≠ истина
Собрать промт из четырёх блоков
Как меняется ответ: до и после
Типичный запрос
«Расскажи про недавнее открытие в физике, котором никто не знает».
Модель может выдумать название, автора и дату, потому что ищет правдоподобие, а не факт.
Усиленный запрос
«Используй только приведённый текст. Если в тексте нет ответа, напиши: информации недостаточно. Не придумывай факты, имена и ссылки».
Границы заданы явно, поэтому модель реже уходит в домыслы.
Готовый пример промта
Вы — внимательный ассистент. Отвечайте только на основе текста, который я приложу ниже. Если в тексте нет информации, чтобы ответить на вопрос, напишите: «В предоставленном материале нет ответа на этот вопрос». Не придумывайте факты, цитаты, ссылки, даты и имена. Если используете общие знания, чётко отметьте их как общие, а не как часть текста. Текст: [вставьте здесь исходный материал] Вопрос: [вставьте свой вопрос]
Миф и реальность о нейросетях
Миф
Нейросеть ищет правду в интернете в реальном времени.
Реальность
Без доступа к поиску модель генерирует ответ из накопленного во время обучения, не сверяясь с фактами. Даже с поиском она может ошибиться в истолковании источника.
Что проверить в ответе модели
Год, месяц, день.
Лица, организации, авторы.
Статистика, суммы, показатели.
Веб-адреса, названия статей, исследования.
Правдивость — это договор между автором и моделью
DeepSeek не лжет намеренно, она просто не 구분яет правду и правдоподобие. Чёткие границы, опора на источники и обязательная проверка человека превращают вероятностный ответ в достоверный материал.