Перейти к основному содержимому

Настройки «Своя LLM» и расширенные лимиты промтов

В этом обновлении мы сосредоточились на стабильности и удобстве Agent Platform: восстановили работу провайдера Своя LLM и увеличили объем текста, который можно указать в промтах AI-агента.

Что нового​

  • Исправлена работа провайдера «Своя LLM»: теперь вы можете указывать URL и название модели. Подробнее
  • Больше места для промтов: увеличены лимиты символов для полей Роль, Цель и Инструкции. Подробнее

Исправление и доработка провайдера «Своя LLM»​

Провайдер Своя LLM позволяет подключать модели, которых нет в готовом списке Agent Platform.

Ранее при настройке интеграции могли возникать ошибки из-за отсутствия необходимых параметров. Мы обновили интерфейс, теперь доступны поля:

  • Адрес API — укажите базовый URL вашего сервиса, например: https://my-llm-server.com/v1. Формат API должен быть совместим с OpenAI, но добавлять путь /chat/completions к адресу не нужно.
  • Модель — введите название модели, которую вы хотите использовать.

Увеличенные лимиты для промтов AI-агента​

Мы расширили допустимый объем текста в настройках блока Агент. Теперь вы можете указывать более подробные промты.

Новые лимиты:

  • Роль: 1 000 символов.
  • Цель: 4 000 символов.
  • Инструкции: 10 000 символов.
Рекомендации к промтам

Несмотря на увеличение лимитов, мы рекомендуем придерживаться следующих правил для лучшего результата:

  • Следите за объемом: слишком длинные инструкции могут привести к тому, что LLM начнет игнорировать часть правил или «галлюцинировать».
  • Разделяйте задачи: если инструкция получается слишком сложной и объемной, эффективнее разбить процесс на этапы и использовать несколько агентов.
  • Инструменты: вам не нужно описывать параметры подключенных инструментов — платформа делает это автоматически. Однако полезно упоминать названия инструментов в инструкции, чтобы задать логику и последовательность их использования.

Мы всегда на связи в телеграм-чате Agent Platform. Заглядывайте, чтобы обсудить обновление, задать вопрос или просто поделиться идеями ✨