Подключение LLM
Интеграции с большими языковыми моделями (LLM) позволяют добавить в процесс AI-агентов, которые могут отвечать на любые вопросы и поддерживать диалог с пользователем.
Интеграции с LLM также необходимы для использования встроенных функций из коллекции Llm.
Добавить интеграцию можно несколькими способами:
- На холсте в блоке Агент: в поле Настройки → Основные → LLM выберите Создать интеграцию.
- На холсте в блоке Llm.sendRequest, Llm.sendText или Llm.summarizeText: в поле llmModelKey выберите Создать интеграцию.
- В разделе Интеграции: нажмите Подключить → LLM.
Agent Platform поддерживает несколько способов доступа к LLM:
-
Через Just AI — без регистрации у LLM-провайдеров.
-
Прямой доступ — позволяет подключить модели ведущих провайдеров, таких как OpenAI, DeepSeek и Google, используя ваши учетные данные (API-ключи).
-
Своя LLM — подходит для подключения моделей, которые поддерживают API, совместимый с форматом OpenAI Chat Completions API. Модели могут быть развернуты на ваших серверах или в облаке.
примечаниеСайт OpenAI недоступен для российских IP-адресов.
- Через Just AI
- Прямое подключение
- Своя LLM
- В поле Доступ к LLM выберите Через Just AI.
- Выберите провайдера и модель.
- Отредактируйте название интеграции, если требуется.
- Нажмите Добавить.
Запросы к LLM через Just AI тарифицируются в J-токенах. Стоимость зависит от выбранной модели. Чтобы оценить расходы исходя из вашей нагрузки, воспользуйтесь калькулятором стоимости.
-
В поле Доступ к LLM выберите Прямой доступ.
-
Выберите одного из доступных провайдеров.
-
Выберите модель.
-
Отредактируйте название интеграции, если требуется.
-
Выберите учетные данные или опцию Добавить новые.
Для новых учетных данных укажите название, предоставленный провайдером токен (API-ключ) и срок действия.
-
Нажмите Добавить.
-
В поле Доступ к LLM выберите Прямой доступ.
-
В поле Провайдер выберите Своя LLM.
-
Укажите название вашей модели и базовый URL для API.
ВажноУказывайте URL без конечного пути
/chat/completions -
Если в запросе требуется передать дополнительные HTTP-заголовки (кроме
Authorization, который автоматически формируется на основе учетных данных), укажите их в формате JSON, например:{
"HTTP-Referer": "https://yourapp.com",
"X-Title": "Your App Name"
} -
Выберите учетные данные или опцию Добавить новые.
Для новых учетных данных укажите название, токен (API-ключ) и срок действия.
-
Нажмите Добавить.