Компания OpenAI объявила о новой возможности для пользователей API Platform — теперь можно установить жёсткий месячный лимит расходов на использование API.
После того как организация достигает выбранного лимита, весь API-трафик автоматически останавливается — до тех пор, пока пользователь не увеличит лимит вручную или не начнётся следующий расчётный период.
Зачем нужна эта функция
В OpenAI отмечают, что новая настройка даёт дополнительную защиту от непредвиденных расходов — вне зависимости от того, тестирует ли пользователь новую функциональность, масштабирует приложение или просто хочет подстраховаться на случай, если трафик окажется выше запланированного.
Чем лимиты отличаются от оповещений о расходах
Ранее у пользователей API уже была возможность настраивать оповещения о расходах — они по-прежнему доступны и позволяют следить за тратами без остановки трафика. Разница в том, что оповещения только уведомляют о достижении определённой суммы, а жёсткий лимит расходов физически останавливает обработку запросов после достижения установленного порога.
В OpenAI рекомендуют использовать оповещения, если нужно просто отслеживать расходы, и жёсткий лимит — если требуется гарантированный потолок трат.
Когда функция станет доступна
Возможность установки жёсткого лимита расходов уже доступна части пользователей и будет постепенно раскатываться на все аккаунты в течение ближайших недель.