Подключение LLM
Интеграции с большими языковыми моделями (LLM) позволяют добавить в процесс AI-агентов, которые могут отвечать на любые вопросы и поддерживать диалог с пользователем.
Интеграции с LLM также необходимы для использования встроенных функций из коллекции Llm.
Добавить интеграцию можно несколькими способами:
- На холсте в блоке Агент: в поле Настройки → Основные → LLM выберите Создать интеграцию.
- На холсте в блоке Llm.sendRequest, Llm.sendText или Llm.summarizeText: в поле llmModelKey выберите Создать интеграцию.
- В разделе Интеграции: нажмите Подключить → LLM.
Agent Platform поддерживает несколько способов доступа к LLM:
-
Через Just AI — без регистрации у LLM-провайдеров.
-
Прямой доступ — позволяет подключить модели ведущих провайдеров, таких как OpenAI, DeepSeek и Google, используя ваши учетные данные (API-ключи).
-
Своя LLM — подходит для подключения моделей, которые поддерживают API, совместимый с форматом OpenAI Chat Completions API. Модели могут быть развернуты на ваших серверах или в облаке.
примечаниеСайт OpenAI недоступен для российских IP-адресов.
- Через Just AI
- Прямое подключение
- Своя LLM
- В поле Доступ к LLM выберите Через Just AI.
- Выберите провайдера и модель.
- Отредактируйте название интеграции, если требуется.
- Нажмите Добавить.
Запросы к LLM через Just AI используют платформу Caila и расходуют Caila-токены. Стоимость запросов в рублях смотрите на странице Цены на модели (используйте те же данные для входа, что и в Agent Platform). 1 рубль = 50 Caila-токенов. Чтобы приобрести дополнительный пакет Caila-токенов, свяжитесь с вашим менеджером.
-
В поле Доступ к LLM выберите Прямой доступ.
-
Выберите одного из доступных провайдеров.
-
Выберите модель.
-
Отредактируйте название интеграции, если требуется.
-
Выберите учетные данные или опцию Добавить новые.
Для новых учетных данных укажите название, предоставленный провайдером токен (API-ключ) и срок действия.
-
Нажмите Добавить.
-
В поле Доступ к LLM выберите Прямой доступ.
-
В поле Провайдер выберите Своя LLM.
-
Укажите название вашей модели и базовый URL для API.
ВажноУказывайте URL без конечного пути
/chat/completions -
Если в запросе требуется передать дополнительные HTTP-заголовки (кроме
Authorization, который автоматически формируется на основе учетных данных), укажите их в формате JSON, например:{
"HTTP-Referer": "https://yourapp.com",
"X-Title": "Your App Name"
} -
Выберите учетные данные или опцию Добавить новые.
Для новых учетных данных укажите название, токен (API-ключ) и срок действия.
-
Нажмите Добавить.