MWS Cloud представила калькулятор ресурсов, лимиты для моделей и Serverless Queue

MWS Cloud обновила набор инструментов для работы с облачной инфраструктурой. Пользователи теперь могут заранее оценить стоимость конфигураций, сравнить цены на модели в GPT Model Hub и подключить Kafka-совместимую очередь событий без самостоятельного управления серверами.

Калькулятор стоимости облачных ресурсов

На сайте MWS Cloud появился единый калькулятор, который позволяет собрать конфигурацию, рассчитать её стоимость до создания ресурсов и сопоставить несколько вариантов между собой. Это помогает оценить бюджет и выбрать подходящий набор ресурсов ещё на этапе планирования.

Калькуляторы также добавили непосредственно на страницы отдельных сервисов. В частности, на странице GPT Model Hub можно сравнить стоимость токенов для разных текстовых моделей.

Дефолтные квоты для текстовых моделей

В GPT Model Hub установлены стандартные ограничения на количество запросов и токенов в минуту — RPM и TPM. Значения рассчитаны с учётом фактической нагрузки проектов. По задумке платформы, это должно поддерживать стабильную работу API при росте числа запросов и снижать риск деградации производительности из-за нагрузки со стороны других пользователей.

Актуальные значения квот доступны в консоли MWS Cloud в разделе «Квоты». Если стандартного лимита недостаточно, пользователю предлагают обратиться в службу поддержки, указав используемую модель и желаемое значение квоты.

Ранний доступ к Serverless Queue

MWS Cloud открыла ранний доступ к Serverless Queue — сервису потоковой обработки событий, совместимому с Kafka. Он предназначен для тех случаев, когда команде нужно работать с очередью сообщений, но не хочется самостоятельно обслуживать базовую инфраструктуру.

Сервис берёт на себя задачи, связанные с управлением ресурсами и масштабированием. Инженерам не требуется заранее рассчитывать количество партиций под пиковую нагрузку, вручную масштабировать брокеры или постоянно контролировать ребалансировки. В результате команда может сосредоточиться на обработке событий, а не на эксплуатации очереди.