错误 1:假设上下文窗口无限
开发人员通常认为因为模型是无审查的,所以它可以永远记住所有内容。这是错误的。我们的无审查模型支持 100,000 token 上下文窗口,虽然很大但是有限的。如果您喂给它大量文档,您必须仔细管理截断。忽略此限制会导致静默数据丢失或昂贵的重试。始终计算您的提示和补全 token 总和。如果总和超过 100,000,请求将失败。不要假设 API 会在没有您指令的情况下智能地丢弃旧数据。
错误 2:忽视 16k 输出限制
一个常见的错误是发送未指定 max_tokens 的请求并期望获得完整的文章。默认输出限制为 2,048 个 token。如果需要更长的响应,必须显式设置该参数。我们的 API 允许每次请求最多 16,000 个 token。未设置此值会导致故事或代码块被截断。这种截断是突然发生的,会破坏应用程序的逻辑。始终定义生成的上限以控制成本和结构。
错误 3:未正确处理流式端点
SSE 流式传输提供更好的用户体验,但引入了复杂性。您必须解析最后一个数据块以获取用于计费的准确令牌使用情况。如果您提前断开连接,可能会丢失使用数据。我们的 API 在最后一个数据块中包含令牌计数。确保您的客户端能够优雅地处理部分响应。不要假设每个数据块都包含使用数据。这种做法可以防止因不完整请求导致的意外费用。
错误 4:忘记为 JSON 设置 response_format
在构建解析 AI 输出的应用程序时,依赖自然语言格式化 JSON 是有风险的。您应明确将 response_format 设置为 json_object。这会强制模型输出有效的 JSON 语法。如果没有这样做,您可能会收到尾随逗号或缺少引号。解析错误会破坏您的集成。在处理之前始终验证输出结构。这个小更改显著提高了自动化工作流的可靠性。
错误 5:误解 token 计费
许多用户对按令牌计费感到惊讶。我们的无审查 LLM 每 1M 输入令牌收费 $0.15,每 1M 输出令牌收费 $0.50。错误免费,但成功的生成需要消耗真实的信用额度。您必须监控使用情况,以避免预存信用额度耗尽。没有需要管理的月度订阅。您的信用额度永不过期。但是,高用量用户应在启动前计算预估令牌数量。
错误 6:期望所有请求都零拒绝
“无审查”一词并不意味着完全不受任何规则约束。我们保留一条硬性限制:禁止涉及未成年人的性内容。除此之外,包括争议性、政治性或成人主题在内的所有内容均允许使用。如果你期望对所有类型的内容都零拒绝,那可能会失望。我们的模型仅拒绝上述特定类别。这是大多数大语言模型的标准做法。不要假设你的无审查模型会毫无限制地生成任何内容。
错误 7:速率限制未使用退避机制
我们的 API 对每个密钥限制每分钟 300 次请求。如果您突发更多请求,将收到 429 错误。实现指数退避算法对稳定性至关重要。失败时不要立即重试。将请求分散在一段时间内。我们还限制每个密钥的并发请求数为八个。超过此限制会导致排队延迟。适当的速率限制可确保在高峰使用期间获得一致的性能。监控您的错误率以调整退避策略。
错误 8:使用错误的模型 ID
集成时,开发人员经常从其他提供商复制粘贴模型 ID。你必须使用我们无审查模型的特有模型 ID。正确的 ID 是 "uncensored"。使用其他 ID 将导致错误或意外行为。我们的 API 与 OpenAI 兼容,但模型本身是独特的。它不是 GPT 或 Claude。始终在仪表板中验证你的模型 ID。这个小小的细节可以防止许多集成问题。
错误 9:忽视内容政策细微差别
虽然我们允许大多数成人内容,但“无限制”的定义各不相同。我们不基于政治正确性进行过滤。但是,我们会根据特定内容类型进行过滤。确保您的应用程序正确处理这些细微差别。在扩展之前,请彻底测试您的提示。政策透明且一致。您不会因合法的成人内容而面临意外封禁。这种稳定性对于长期运行的应用程序至关重要。