OpenAI додав жорсткий ліміт витрат на API

Компанія OpenAI оголосила про нову можливість для користувачів API Platform – тепер можна встановити жорсткий місячний ліміт витрат на використання API.

Після того, як організація досягає вибраного ліміту, весь API-трафік автоматично зупиняється, доки користувач не збільшить ліміт вручну або не почнеться наступний розрахунковий період.

Навіщо потрібна ця функція

В OpenAI зазначають, що нове налаштування дає додатковий захист від непередбачених витрат — незалежно від того, чи тестує користувач нову функціональність, масштабує програму або просто хоче підстрахуватися на випадок, якщо трафік виявиться вищим за запланований.

Чим ліміти відрізняються від сповіщень про витрати

Раніше користувачі API вже мали можливість налаштовувати оповіщення про витрати — вони, як і раніше, доступні і дозволяють стежити за витратами без зупинки трафіку. Різниця в тому, що оповіщення лише повідомляють про досягнення певної суми, а жорсткий ліміт витрат фізично зупиняє обробку запитів після досягнення встановленого порога.

В OpenAI рекомендують використовувати оповіщення, якщо потрібно просто відстежувати витрати, і жорсткий ліміт - якщо потрібна гарантована стеля витрат.

Коли функція стане доступною

Можливість встановлення жорсткого ліміту витрат вже доступна частині користувачів і поступово розкочуватиметься на всі облікові записи протягом найближчих тижнів.