TokiAI
指南

速率限制

了解 TokiAI 的速率限制策略及如何有效应对。

概述

TokiAI 会根据账号、API Key、模型、套餐和系统负载实施请求限制,以保障服务稳定性。具体限制可能因所选套餐、模型及运营策略而有所不同。请始终以 TokiAI 控制台和 API 响应为准。

如何确认限制

可通过以下途径查看当前限制和使用情况:

  • 查看产品中心或套餐说明中的限制规则。
  • 查看 API Key 是否设置了额度上限或有效期。
  • 在调用失败时读取错误响应中的 error.message。
  • 联系 TokiAI 商务或支持渠道,以获取更高并发或企业级访问权限。

处理限制响应

当请求过于频繁或额度不足时,API 可能返回错误响应。常见情况包括:

{
  "error": {
    "code": "rate_limit_exceeded",
    "message": "您已超出速率限制,请在 30 秒后重试。"
  }
}

是否返回速率限制响应头、响应头名称以及错误码细节,以当前服务端实现为准。客户端应优先根据 HTTP 状态码和错误体进行处理。

推荐的重试策略

采用带有抖动的指数退避重试:

async function requestWithRetry(fn: () => Promise<Response>, maxRetries = 3) {
  for (let i = 0; i < maxRetries; i++) {
    const response = await fn();

    if (response.status !== 429) return response;

    const baseDelay = Math.pow(2, i) * 1000;
    const jitter = Math.random() * 1000;
    await new Promise((r) => setTimeout(r, baseDelay + jitter));
  }

  throw new Error('超出最大重试次数');
}

如需更高的速率限制、更高的并发或企业级使用,请联系 TokiAI 商务或运营支持。

On this page