Skip to main content
Version: 1.5.0

Версия 1.5.0

В этой версии расход обращений к нексусам считается в кредитах по правилам биллинга, а не по мультипликаторам. Правила задаются на самом нексусе или в общем тарифе, а расход обращения можно возвращать клиенту в ответе API. Начиная с этой версии платформа проверяет сертификаты нейросетей при обращении к нексусам. Кроме того, мы исправили ошибки безопасности, развертывания инфраструктуры и обработки запросов к нексусам.

warning

При обновлении:

  1. До установки обновления снимите флажок Active у мультипликаторов, которые не должны действовать после перехода на правила биллинга: при переходе даты начала и окончания их действия не учитываются. Читайте подробнее в статье Переход с мультипликаторов.
  2. Если нексус, который работал в предыдущей версии, после обновления отвечает 502, добавьте корневой сертификат центра сертификации нейросети в доверенные при развертывании инфраструктуры Middleware.

Резервная передача ответа потока в инсталляцию Ainergy включается заголовком X-STREAM-MIRROR: true. Если ваша интеграция получает ответы потоком, добавьте этот заголовок в потоковые запросы.

Новая функциональность​

Биллинг по правилам нексуса​

Расход каждого обращения к нексусу считается в кредитах по правилам биллинга. Платформа извлекает из запроса и ответа нейросети метрики, например количество токенов, и пересчитывает их в кредиты по формуле. Правила биллинга гибко настраиваются для нейросетей любой модальности. Мультипликаторы в расчете больше не участвуют.

Правила можно задать на самом нексусе, заполнить из шаблона или взять из тарифа – общего набора правил для нескольких нексусов. Изменение тарифа сразу применяется ко всем привязанным нексусам. Биллинг нексуса можно отключить.

При обновлении существующие нексусы переводятся на правила биллинга: активные мультипликаторы с заполненным типом переносятся в формулу нексуса, остальные нексусы привязываются к тарифу Legacy Billing (0.125TB), который считает расход так же, как прежде.

Читайте подробнее в разделе Биллинг и в статьях Биллинг нексуса, Переход с мультипликаторов, Лицензии, Потребители и Мониторинг потребления.

Возврат кредитов в ответе API​

Клиент узнает расход обращения в кредитах из самого ответа API, без отдельного запроса к данным о потреблении. Путь к полю с кредитами задается на вкладке Биллинг нексуса. Чтобы клиент видел только кредиты, вы можете удалить из ответа нейросети расход токенов модели и другие поля.

Читайте подробнее в статьях Биллинг нексуса и Конфигурация нексуса.

Улучшения​

Проверка сертификатов нейросетей​

При обращении к нексусу по HTTPS платформа проверяет сертификат нейросети. Если сертификат выпущен центром сертификации, которому платформа не доверяет, например корпоративным центром, запрос до нейросети не доходит и клиент получает ответ 502. Корневой сертификат такого центра добавляется в доверенные при развертывании инфраструктуры Middleware.

Истекший сертификат или сертификат, выпущенный на другое имя хоста, проверку тоже не проходит: клиент получает ответ 500. Такой сертификат нейросети замените.

Читайте подробнее в статье Ошибки и лимиты.

Резервная передача потокового ответа по заголовку​

Резервная передача ответа потока включается заголовком X-STREAM-MIRROR: true: полный ответ, собранный из событий потока, передается в инсталляцию Ainergy. Без заголовка собранный ответ не передается.

Читайте подробнее в статье Обращение к нексусу.

Исправления​

Безопасность​

  • DEF0000432: Исправлен избыточный доступ на чтение конфигурационных единиц в приложении Управление инсталляциями приложений (MAI).

Развертывание и обновление​

  • DEF0000429: Исправлена ошибка развертывания инфраструктуры Middleware с большим количеством потребителей.
  • DEF0000427: Исправлена ошибка, при которой повторное развертывание инфраструктуры Middleware не сохраняло состояние RabbitMQ.
  • DEF0000417: Исправлена ошибка, при которой установка Control Plane могла не завершаться на этапе миграций ClickHouse.

Оптимизация нагрузки​

  • DEF0000428: Исправлен избыточный рост журналов служб инфраструктуры Middleware и Control Plane.
  • DEF0000426: Исправлен избыточный рост журнала службы RabbitMQ на инфраструктуре Middleware, к которой еще не подключены потребители.
  • DEF0000386: Оптимизирована обработка потоковых ответов. Читайте подробнее в статье Обращение к нексусу.

Обработка запросов​

  • DEF0000435: Исправлена ошибка, при которой запросы к нексусам с настроенным фильтром данных завершались ответом 500. На поврежденное тело запроса или неподдерживаемый тип содержимого платформа отвечает кодом 400. Читайте подробнее в статье Ошибки и лимиты.