13 | Документация

Настройка ИИ-ассистента

Перейдите в меню Администрирование > Настройки > ИИ-ассистенты (function calling) .
В группе параметров ИИ-ассистенты для выполнения действий по текстовой команде (function calling) нажмите и добавьте нового виртуального помощника.
Укажите следующие настройки (см. Рисунок 700 ):
  • название ИИ-агента;
    Нажмите и задайте имя, с которым виртуального помощника можно будет выбрать в настройках блока Вызов ИИ-агента виджета.
  • Свойства ИИ-ассистента - задайте свойства виртуального помощника:
    • Базовый URL - URL виртуального помощника;
      По умолчанию https://ai.api.cloud.yandex.net/v1 .
    • API ключ - цифробуквенная последовательность, например ASDFSzQcuLB2dfG-XncFFGR9aaNQTtqEvYTUE53N ;
    • Модель - идентификатор и имя модели виртуального помощника, например gpt://b2ttr3vv9r11fj23aa55/yandexgpt ;
    • Температура - уровень креативности виртуального помощника;
      Задайте значение от 0 до 1 , где 0 - модель виртуального помощника почти всегда выбирает токены с максимальной вероятностью, 1 - увеличивается шанс выбора менее вероятных токенов. По умолчанию - 0.1 .
    • Максимально возможное кол-во выходных токенов - максимальное количество токенов, которые модель виртуального помощника может использовать для выдачи ответа;
    • Разрешить параллельные вызовы - по умолчанию отключена, с отмеченной опцией возможна отправка нескольких запросов к виртуальному помощнику без ожидания завершения предыдущих;
    • Разрешить использование кастомных функций из конструктора - по умолчанию отключена, с отмеченной опцией возможно использование своих запрограммированных функций, добавленных во вкладку HTML-кастомизация картографического приложения (см. п. 10.9 );
    • Разрешить режим мышления - по умолчанию отключена, с отмеченной опцией для пользователя интерактивной карты появится возможность управлять уровнем мышления/рассуждения виртуального помощника;
    • Рисунок 700 - Добавление ИИ-агента
  • Доступ - выберите, кому доступен виртуальный помощник:
    • Разрешен - Всем , Всем авторизованным , Группе пользователей ;
      По умолчанию выбрано Всем авторизованным . При выборе Группе пользователей укажите одну или несколько групп пользователей, которой доступен виртуальный помощник, в параметре рядом.
    • Только для указанных IP - укажите список IP-адресов, с которых доступно использование виртуального помощника;
      IP-адреса указываются через запятую, пробел или перевод строки.
  • Лимиты - при необходимости укажите ограничения (см. Рисунок 701 ):
    • По кол-ву запросов в день - ограничение на общее количество запросов в день от одного ИИ-агента (параметр всего ), на пользователя , на IP ;
    • Максимальное количество токенов на один чат - ограничение на общее количество токенов на один чат (параметр всего ), входящих или исходящих токенов;
    • Максимальная длина текста запроса - ограничение на длину текста запроса;
      В параметре указывается максимальное количество символов запроса пользователя.
    • Максимальное количество уточняющих запросов по одному чату - ограничение на количество запросов дополнительно к основному;
      Контекст запоминается только в рамках одного основного запроса.
      При превышении лимитов пользователю будет показана ошибка.
      Обратите внимание, что для корректной работы ограничений должен быть подготовлен и опубликован картографический сервис с таблицей запросов пользователей (см. п. 11.3 ).
  • Подсказка (промпт) для ИИ-ассистента - задайте основной промпт виртуального помощника.
    Пример промпта:
    Ты - ассистент, способный ответить на вопрос пользователя.
    Для ответа вызывай заданные тебе функции и используй ответы этих функций для формирования ответа. Ответы, полученные с помощью предоставленных функций, считай более приоритетными. Ответ должен быть в понятном человеку виде.
Добавьте столько виртуальных помощников, сколько требуется.
Рисунок 701 - Указание лимитов и подсказки ИИ-агента