用 Python 和 curl 发起首次 LLM API 调用
以下是实际进行 LLM API 调用的方法:发送一个包含密钥、模型名称和消息列表的 POST 请求,回复将以 JSON 格式返回。本页面将介绍 curl、Python、流式输出、成本以及你首先会遇到的错误。
更新于

五步完成调用
如果你想在不阅读手册的情况下了解如何进行 LLM API 调用,这就是完整的流程。无论使用何种客户端,对聊天式语言模型的每次请求都遵循相同的五个步骤。
- 从 密钥页面获取 API 密钥。新账户可以一键领取少量免费试用额度。
- 选择接口:
https://api.llmwebsearchapi.com/v1/chat/completions。 - 在请求头
Authorization: Bearer YOUR_API_KEY中发送密钥。 - 发送包含
model设置为uncensored和messages列表的 JSON 请求体。 - 从返回的 JSON 中读取
choices[0].message.content。
这就是全部。本页其余内容都是围绕这五个步骤的详细信息:消息列表应包含什么、如何查看调用费用,以及当服务器返回错误而非文本时该如何处理。
使用 curl 发送第一个请求
curl 是验证密钥和网络路径是否有效的最快方式,因为中间没有库。首先将密钥保存在环境变量中,以免其作为长命令的一部分出现在 shell 历史记录中。
export API_KEY="YOUR_API_KEY"
curl https://api.llmwebsearchapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"}
],
"temperature": 0.7
}'
请求体有三个重要部分。model 指定由哪个模型来回答;在此服务中只有一个模型,因此值始终为 uncensored。messages 是当前的对话历史。temperature 控制措辞的冒险程度,从接近 0(用于可重复输出)到约 1(用于更多变化)。
你还可以在不生成内容的情况下检查密钥是否被接受:使用相同的 Authorization 标头向 /v1/models 发送 GET 请求。如果列表包含 uncensored,则认证有效,任何后续失败都与请求体有关,而非密钥。
Python 中的相同调用
你不需要特殊的客户端。如果你将官方 openai 包指向不同的 Base URL,它也能工作。使用 pip install openai 安装它。
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
有两件事值得复制到你的代码中。首先,将密钥保留在源代码文件之外;一旦超出实验阶段,使用 os.environ["API_KEY"] 从环境变量中读取密钥。其次,在学习期间打印 resp.usage。在文本旁边查看 token 计数是建立调用费用感觉的最快方式。
由于接口遵循 OpenAI 格式,相同的结构也适用于 Node、Go、Ruby 或纯 fetch。只有 POST 周围的语法会发生变化。文档中的快速入门 列出了支持的参数。
读取响应
回复是一个 JSON 对象。你通常会接触到它的四个部分:
choices[0].message.content是生成的文本。choices[0].finish_reason说明生成停止的原因。stop表示模型已完成;length表示达到 token 限制,文本可能被截断。usage包含prompt_tokens、completion_tokens和总数。这是计费的基础。- 响应标头包括
X-Request-Id和X-Balance-USD。每次调用都记录请求 ID。如果你联系 支持,该 ID 可帮助他们找到你的确切请求。
上下文窗口为 100,000 个 token,包括提示词和补全内容。正常的对话轮次只使用其中很小的一部分。只有当你粘贴整个文档或发送很长的历史时,才会开始感受到限制。max_tokens 是可选的;如果省略它,补全内容可以使用窗口中剩余的任何空间。
消息、记忆和流式输出
API 不会记住你
这会让只使用过聊天网站的人感到惊讶。每次调用都是独立的。如果用户提出后续问题,你必须重新发送之前的对话轮次:系统消息、第一个问题、模型的第一个回答,然后是新的问题。你的代码会保留列表并追加新内容。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
history = [{"role": "system", "content": "You are a concise assistant."}]
def ask(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
answer = r.choices[0].message.content
history.append({"role": "assistant", "content": answer})
return answer
print(ask("Name one use for a text API."))
print(ask("Give a second one."))
请记住,更长的历史意味着每次后续调用会有更多的输入 token。对于长会话,请修剪或总结最早的轮次。
用于响应式界面的流式输出
将 stream 设置为 true,服务器会通过服务器发送事件将文本分段发送,以便聊天窗口可以显示实时到达的单词。使用情况数据在流结束时到达。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
一个实际要点:流式请求会占用一个并发槽位,直到流结束,因此断开的连接会让一个槽位保持忙碌一段时间。
一次调用的费用
定价按 token 计算,按量付费:每 1M 输入 token $0.15,每 1M 输出 token $0.50,从预付额度中扣除。没有订阅,失败或被拒绝的请求不收费。额度永不失效。
取之前的短调用,假设它使用了 1,200 个输入 token 和 400 个输出 token:
- 输入:1,200 / 1,000,000 x $0.15 = $0.00018
- 输出:400 / 1,000,000 x $0.50 = $0.00020
- 总计:$0.00038
$0.50 的试用余额大约可以覆盖 1,300 次该规模的调用,因为 $0.50 除以 $0.00038 约为 1,316。试用有效期为 7 天,无需信用卡。当你继续使用时,充值金额为 $20 至 $500 的整数,从 $50 起有 5% 的奖励,从 $100 起有 10% 的奖励,从 $200 起有 15% 的奖励。定价页面 有当前详情和接受的支付方式。
输出 token 比输入 token 更贵,因此最经济的习惯是在短回答足够时要求短回答。像“用两句话回答”这样的系统消息可以同时降低账单和等待时间。
你将遇到的错误和限制
大多数早期故障属于几类。
| 症状 | 常见原因 | 修复方法 |
|---|---|---|
| 认证错误(通常为 HTTP 401) | 缺少或错误的密钥,或遗漏了 Bearer 字样 | 检查标头,并确保密钥末尾没有空格 |
| 请求因格式错误被拒绝(通常为 HTTP 400) | JSON 无效,或 messages 缺失 | 验证 JSON;在 curl 中,注意 -d 周围的引号 |
HTTP 429,代码 rate_limited | 完整密钥每分钟超过 300 个请求,或试用密钥每分钟 60 个 | 降低频率并重试 |
HTTP 429,代码 concurrency | 完整密钥同时发起超过 8 个请求,或试用密钥同时发起 2 个请求 | 在代码中对请求进行排队 |
HTTP 429 且 Retry-After: 5 | 临时过载 | 等待规定的 5 秒后重试 |
添加重试很容易。此版本在每次失败后等待更长时间:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def call_with_retry(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited after retries")
请求体最多可达 8 MB,这远大于任何适合上下文窗口的提示词。
针对搜索类网站的说明
该网站的页面涉及网络搜索,因此需要澄清一点:此处描述的接口是一个文本模型。它不会自行浏览互联网,也无法访问你未提供给它的页面。如果你的产品需要最新的网络结果,请在你自己的代码中获取它们,并将相关片段放入用户消息中,或者通过函数调用将你的搜索功能暴露为工具,让模型请求使用它。
无论哪种方式,调用的结构都与上面的示例相同。你发送消息,获取文本,并为两个方向的 token 付费。准备就绪后,创建密钥 并运行此页面顶部的 curl 命令。
更多指南
问答
调用此 API 需要 OpenAI 库吗?
不需要。任何 HTTP 客户端均可使用,因为这是一个标准的 JSON POST。OpenAI SDK 很方便,它们只需要不同的 Base URL 和密钥。
为什么我的后续问题得到的答案没有上下文?
API 在调用之间不保留记忆。每次调用时,在 messages 数组中重新发送之前的消息。
我如何查看一次调用使用了多少 token?
读取响应中的 usage 字段。它列出了提示词 token 和补全 token,这是价格计算依据的两个数字。
遇到 HTTP 429 后该怎么办?
等待并重试。如果存在 Retry-After 标头,请等待该时长;否则等待几秒并减少同时发送的请求数量。
只差一张表单,即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。