云端 AI 推理 API
受邀开通自托管大模型的 OpenAI 兼容推理接口
自托管大模型的 OpenAI 兼容推理接口:对话生成、文本向量化和检索重排,按 tokens 计费,现有工具链零改造即可接入。面向经平台指定开通的账户,未开通账户签发的密钥不能调用推理接口。
At a glance · 速览
- 接口兼容
- OpenAI API(SDK / Agent 框架直用)
- 服务端点
- services.autolaw.cn/inference/openai/v1
- 计费方式
- 按 tokens / 次数扣 credits,失败不计费
- 开通方式
- 受邀指定制:注册充值后另行申请
- 速率限制
- 60 请求 / 分钟 / 密钥
- 密钥有效期
- 最长 90 天,scope 仅推理接口
0
失败请求计费
60
请求 / 分钟 / 密钥
90 天
密钥最长有效期
3 类
推理接口
四步开始调用
推理服务面向经平台指定开通的账户——注册与充值不自动获得推理权限,需另行申请。
注册并充值
在「我的钱包」注册 Autolaw 账户并充值 credits。
申请开通
通过品牌官网联系方式申请推理 API 开通,由平台审核并指定。
签发密钥
开通后在「我的钱包」签发 API 密钥(ak_live_…,权限自动限定为推理接口)——签发密钥前需确认《AI 推理 API 服务条款》。
调用接口
使用 OpenAI 兼容端点发起请求,按实际用量扣 credits。
受邀开通制:推理服务当前只对获得平台指定的账户开放;未开通账户签发的密钥不能调用推理接口。开通与用量咨询请联系我们。
按 tokens 扣 credits,失败不计费
没有订阅与月费:充值 credits 后按实际用量扣费,请求失败不扣 credits。充值档位见「我的钱包」。
| 接口 | 计量方式 | 价格 |
|---|---|---|
| 对话生成(chat) | 按输入 / 输出 tokens 分别计量 | 2 credits / 1K 输入 tokens · 6 credits / 1K 输出 tokens |
| 文本向量化(embeddings) | 按输入 tokens 计量 | 1 credit / 1K tokens |
| 检索重排(rerank) | 按请求次数计量 | 1 credit / 次 |
三个对话模型 · 三类接口
对话模型按场景自动路由或自选;接口与 OpenAI API 兼容,SDK、Agent 框架直接可用。
| 对话模型 | 定位 | 适用场景 |
|---|---|---|
| lexwork-pro | 质量优先 | 合同分析、文书起草等对质量敏感的任务 |
| lexwork-fast | 速度优先 | 高频调用、批量处理、交互式场景 |
| 自动路由lexwork-auto | 平台调度 | 由平台按负载在上述模型间自动选择 |
对话生成
POST /inference/openai/v1/chat/completions
- ·OpenAI Chat Completions 兼容
- ·支持流式输出
- ·模型列表:GET /inference/openai/v1/models
文本向量化
POST /inference/openai/v1/embeddings
- ·OpenAI Embeddings 兼容
- ·适合检索、聚类与知识库构建
检索重排
POST /inference/openai/v1/rerank
- ·对候选文档按查询相关性重排
- ·与向量化接口配套使用
OpenAI 兼容,两行配置接入
端点:https://services.autolaw.cn/inference/openai/v1 —— 替换 base URL 与密钥即可复用你现有的 OpenAI 工具链。
curl https://services.autolaw.cn/inference/openai/v1/chat/completions \
-H "Authorization: Bearer ak_live_…" \
-H "Content-Type: application/json" \
-d '{"model":"lexwork-pro","messages":[{"role":"user","content":"用一句话概括劳动合同法第十九条"}]}'from openai import OpenAI
client = OpenAI(
base_url="https://services.autolaw.cn/inference/openai/v1",
api_key="ak_live_…",
)
resp = client.chat.completions.create(
model="lexwork-pro",
messages=[{"role": "user", "content": "用一句话概括劳动合同法第十九条"}],
)
print(resp.choices[0].message.content)密钥在「我的钱包」签发与吊销(签发需邮箱验证码,明文只显示一次);推理密钥只能调用本页列出的推理接口。更多问题见 FAQ。
签发密钥前需确认《AI 推理 API 服务条款》的当前版本。