Чтобы агент не выдумывал цены, скидки и факты, включите в его настройках раздел «Контроль поведения». Он проверяет каждый ответ до отправки клиенту: если в ответе есть то, чего нет в вашей базе знаний, агент переписывает его или отправляет заранее заготовленную фразу.
Раздел находится в верхней части инструкции агента. Внутри три отдельных механизма, и каждый закрывает свой тип ошибок.
Где именно агент врёт
Получив неверную цену или чужой номер менеджера, клиент легко передумает покупать. Проверка нужна там, где от ответа зависит сделка.
Как включить готовые LLM-барьеры
Барьер добавляет этап проверки перед отправкой сообщения. В Савви уже есть два готовых, их проще всего взять первыми.
- Откройте агента, вверху инструкции найдите «Контроль поведения».
- Перейдите на вкладку «LLM-барьеры» и нажмите «Добавить барьер».
- В блоке «Рекомендуемые барьеры» отметьте нужные и нажмите «Добавить выбранные».
- Включите флаг каждого барьера. Без этого он создан, но не работает.
«Числа только из источников» отсекает выдуманные цены, сроки, телефоны и реквизиты. По подсказке в кабинете он включает проверку, когда в ответе есть число от трёх цифр. Если точного значения в базе знаний нет, ответ не уйдёт.
«Запрет скидки» ловит согласие на скидку, которую агент не брал из базы. Это тот случай, когда клиент просит уступить, а агент по привычке соглашается. В руководстве этот барьер назван «Контроль скидки», в кабинете подпись может отличаться.
Как написать собственный барьер
Если нужного правила нет в готовых, создайте своё. Задайте название и главное условие, LLM-инструкцию. Её пишут в виде псевдокода, который не оставляет двусмысленности: когда проверка должна сработать, возвращается true, во всех остальных случаях false.
Пример для магазина, который не даёт гарантий сверх заводских:
если ответ обещает гарантию дольше срока из базы знаний — true
иначе — false
Формулировка примерная, перед запуском проверьте её на тестовом диалоге.
Затем выберите, что делать при срабатывании. Есть два варианта: перегенерация, когда вы объясняете модели, как поступить в такой ситуации, или фиксированный текст, который уйдёт клиенту.
Что будет, если агент ошибся снова
Агент может ошибиться и со второй попытки. Поэтому в конце настройки барьера задаётся число повторных генераций и запасной сценарий.
Когда попытки закончились, можно включить любую комбинацию из трёх действий:
- отправить клиенту фиксированную фразу, например «Уточню детали и вернусь с подтверждением»;
- остановить диалог;
- позвать менеджера, ему уйдёт уведомление.
Клиент в любом случае получает аккуратную фразу вместо ошибки, а сложный случай попадает к человеку.
Как заставить агента говорить только то, что есть в базе
Для фактов о компании предусмотрена вкладка «Контроль фактов». Включите флаг «Отвечать на вопросы только по базе знаний» и выберите режим проверки.
В обычном режиме проверяются главные факты. Строгий режим глубже: он срабатывает на любое утверждение, ради которого агент не обращался в базу знаний.
Кнопка «Прогнать» запускает тест на последних диалогах, так что строгость подбирается по реальным ответам. В поле «Если ответа нет в базе знаний» впишите фразу для клиента, например «Хороший вопрос! Уточню информацию и вернусь с точным ответом». Тут тоже можно остановить диалог или вызвать менеджера.
Как не дать агенту подтвердить то, что он не сделал
Контроль действий срабатывает, когда агент сообщает о выполненном действии, но нужная функция не вызывалась. Типичный случай: подтвердил запись клиента на услугу, а в YCLIENTS запись не создавалась.
Включите флаг «Реагировать на срабатывания и ошибки» и введите общую фразу, которая заменит ответ агента. Остановка диалога и вызов менеджера здесь доступны так же.
Что проверить перед запуском
- У каждого барьера включён флаг, иначе он не работает
- В базе знаний есть точные цены, сроки и телефоны, иначе агенту не на что опереться
- Запасные фразы звучат по-человечески и не обещают ничего конкретного
- Для сложных случаев включён вызов менеджера, и уведомления до него доходят
- Режим контроля фактов проверен кнопкой «Прогнать» на реальных диалогах
Барьеры не заменяют базу знаний. Если нужной цены там нет, проверка только остановит ответ. Найти цену за агента она не может.
Частые вопросы
Можно ли включить сразу все три механизма?
Да, они независимы. Барьеры, контроль фактов и контроль действий настраиваются на отдельных вкладках и работают вместе.
Что получит клиент, если проверка сработала?
То, что вы задали: переписанный ответ, фиксированную фразу, остановку диалога или подключение менеджера. Любая комбинация допустима.
Где проверить, как это работает?
Для контроля фактов есть кнопка «Прогнать» на последних диалогах. Барьеры и контроль действий проверьте в тестовом чате, задав агенту провокационный вопрос.
Зачем нужна база знаний, если есть барьеры?
Барьер только ловит выдумку, ответа он не знает. Чтобы агент назвал правильную цену, она должна лежать в базе знаний.
Ответите на 7 вопросов о бизнесе, и мы проведём вас по плану: агент узнает ваши цены и услуги, научится звать менеджера и пройдёт проверку на вопросах клиентов. Всё в вашем кабинете Савви, без программиста.
Источник: Контроль поведения в руководстве Савви.