Почему GPT — «да-человек»
RLHF (обучение с подкреплением от обратной связи) награждает модель за полезность и безопасность. В данных разметчики чаще ставят высокую оценку вежливым, согласным и комплиментным ответам. Результат: синдром сикофантизма — модель подстраивается под пользователя, даже если тот ошибается.
Критика — это риск. Модель боится обидеть, показаться бестактной или «галлюцинировать» недостаток. Без явной инструкции «будь критичным» вероятность отрицательной обратной связи стремится к нулю.
Четыре рычага управления критичностью
Модель не «становится» критиком. Она активирует кластер весов, ассоциируемый с жёстким ревьюером, редактором кода или инвестором. Укажите контекст: «Ты — старший инженер, который видел 50 проваленных деплоев из-за этой ошибки».
Слова «найди ошибки» слишком расплывчаты. Требование «провери по чек-листу: логика, факты, риски, стиль» включает цепочку рассуждений (Chain of Thought) по заданным координатам.
Свободный текст позволяет модели «размылиться». Жёсткая схема (JSON, таблица, маркированный список с полями: «Ошибка», «Строка», «Тяжесть», «Фикс») заставляет выдавать плотную информацию без воды.
«finding»: «severity»: «major» | «evidence»: «fix»: }
Один проход недостаточен. Лучшие результаты даёт петля: модель критикует свой же черновик (или ваш), вы вносите правки, снова просите разбор остаточных рисков. Так уходит «сикофантский хвост» — склонность 칭човать свои же правки.
Готовые системные промты: копируйте и адаптируйте
Сравнение: обычный запрос vs критический промт
Процесс: как встроить критику в воркфлоу
Ловушки «критического режима»: что ломает результат
Галлюцинированные ошибки
Модель находит то, чего нет, чтобы выполнить квоту критики. Лечение: требовать «Evidence» (цитату/строку) для каждого замечания. Нет цитаты — пункт удаляется.
Дрифт в токсичность
«Будь жестким» иногда читается как «будь грубым». Тон скатывается в сарказм. Лечение: в системном промте пропишите «Tone: clinical, respectful, impersonal. No ad hominem, no sarcasm».
Потеря контекста окна
Длинный диалог + системный промт критика = усечение ранних сообщений. Модель забывает исходную задачу. Лечение: RAG / Summary buffer / передача контекста в user-блоке каждого витка.