使用 Python 和 curl 進行首次 LLM API 呼叫
以下是實際進行 LLM API 呼叫的方法:一次 POST 請求包含金鑰、模型名稱和訊息列表,回覆以 JSON 格式返回。本頁將逐步介紹 curl、Python、串流輸出、費用和常見的錯誤。
更新於

五步驟完成呼叫
如果你想在不閱讀手冊的情況下了解如何進行 LLM API 呼叫,這就是完整的程序。無論使用何種用戶端,聊天型語言模型的每次請求都遵循相同的五個步驟。
- 從 金鑰頁面獲取 API 金鑰。新帳戶只需點擊一下即可領取少量免費試用額度。
- 選擇端點:
https://api.llmwebsearchapi.com/v1/chat/completions。 - 在標頭
Authorization: Bearer YOUR_API_KEY中傳送金鑰。 - 傳送包含
model設為uncensored和messages列表的 JSON 主體。 - 從返回的 JSON 中讀取
choices[0].message.content。
這就是全部。本頁其餘內容都是圍繞這五個步驟的細節:訊息列表應包含什麼、如何查看呼叫費用,以及當伺服器返回錯誤而非文字時該怎麼辦。
使用 curl 發送第一個請求
curl 是驗證金鑰和網路路徑是否正常的最快方式,因為中間沒有函式庫。請先將金鑰保存在環境變數中,以免其作為長命令的一部分出現在你的 shell 歷史記錄中。
export API_KEY="YOUR_API_KEY"
curl https://api.llmwebsearchapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"}
],
"temperature": 0.7
}'
主體有三個重要部分。model 指定應回答你的模型;在此服務中只有一個模型,因此值始終為 uncensored。messages 是目前的對話。temperature 控制用詞的冒險程度,從接近 0(輸出可重複)到約 1(更多樣化)。
你也可以在不生成任何內容的情況下檢查金鑰是否被接受:使用相同的 Authorization 標頭向 /v1/models 發送 GET 請求。如果列表中包含 uncensored,則認證有效,此後任何失敗都是關於請求主體而非金鑰。
Python 中的相同呼叫
你不需要特殊的用戶端。如果你將官方 openai 套件指向不同的 Base URL,它也能運作。使用 pip install openai 安裝它。
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
有兩件事值得複製到你的程式碼中。首先,將金鑰保留在原始碼檔案之外;一旦超出實驗階段,請使用 os.environ["API_KEY"] 從環境變數讀取金鑰。其次,在學習期間列印 resp.usage。在文字旁邊看到 token 計數是建立呼叫費用感覺的最快方式。
由於介面遵循 OpenAI 格式,相同的結構也適用於 Node、Go、Ruby 或純 fetch。僅需更改 POST 周圍的語法。文件中的快速入門指南 列出了支援的參數。
讀取回應
回覆是一個 JSON 物件。你經常會接觸到它的四個部分:
choices[0].message.content是生成的文字。choices[0].finish_reason說明生成停止的原因。stop表示模型已完成;length表示達到 token 限制,文字可能被截斷。usage包含prompt_tokens、completion_tokens和總計。這是計費的依據。- 回應標頭包括
X-Request-Id和X-Balance-USD。每次呼叫時都記錄請求 ID。如果你聯繫 支援,該 ID 可讓他們找到你的精確請求。
上下文視窗為 100,000 個 token,計算提示詞和完成內容的總和。正常的對話輪次只使用其中很小一部分。只有當你貼上整個文件或發送非常長的歷史記錄時,才會開始感受到限制。max_tokens 是可選的;如果省略它,完成內容可以使用視窗中剩餘的任何空間。
訊息、記憶與串流輸出
API 不會記住你
這讓只使用過聊天網站的人感到驚訝。每次呼叫都是獨立的。如果用戶提出後續問題,你必須重新傳送之前的對話輪次:系統訊息、第一個問題、模型的第一個回答,然後是新問題。你的程式碼會保留列表並將其附加到列表中。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
history = [{"role": "system", "content": "You are a concise assistant."}]
def ask(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
answer = r.choices[0].message.content
history.append({"role": "assistant", "content": answer})
return answer
print(ask("Name one use for a text API."))
print(ask("Give a second one."))
記住,更長的歷史意味著在後續呼叫中會有更多的輸入 token。對於長時間的工作階段,請修剪或總結最早的輪次。
用於響應式介面的串流輸出
將 stream 設為 true,伺服器會透過伺服器發送事件(server-sent events)以片段方式傳送文字,讓聊天視窗能即時顯示文字。用量統計會在串流結束時提供。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
一個實際的考量:串流請求會佔用一個並行請求槽位,直到串流結束,因此放棄的連線會讓槽位佔用一段時間。
一次呼叫的費用
計費方式為按 token 計費並隨用隨付:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,從預付額度中扣除。沒有訂閱制,失敗或被拒絕的請求不會收費。額度永不過期。
考慮之前的小呼叫,假設它使用了 1,200 個輸入 token 和 400 個輸出 token:
- 輸入:1,200 / 1,000,000 x $0.15 = $0.00018
- 輸出:400 / 1,000,000 x $0.50 = $0.00020
- 總計:$0.00038
$0.50 的試用餘額大約可支援 1,300 次該類大小的呼叫(因為 $0.50 除以 $0.00038 約為 1,316)。試用期為 7 天,無需綁定信用卡。當你需要繼續使用時,儲值金額範圍為 $20 至 $500,且必須為整數金額;儲值 $50 贈送 5%,$100 贈送 10%,$200 贈送 15%。定價頁面提供目前的詳細資訊與接受的付款方式。
輸出 token 的成本高於輸入 token,因此最經濟的習慣是在短答案足夠時要求短答案。系統訊息如「用兩句話回答」可以同時降低帳單和等待時間。
你會遇到的錯誤與限制
大多數早期失敗歸類為幾組。
| 症狀 | 常見原因 | 修復方法 |
|---|---|---|
| 認證錯誤(通常是 HTTP 401) | 金鑰遺失或錯誤,或遺漏 Bearer 字詞 | 檢查標頭,並確保金鑰沒有尾隨空格 |
| 請求因格式錯誤而被拒絕(通常是 HTTP 400) | JSON 無效,或 messages遺漏 | 請驗證 JSON;在 curl 中,注意 -d 的引號 |
HTTP 429,程式碼 rate_limited | 完整金鑰每分鐘超過 300 個請求,或試用金鑰每分鐘 60 個 | 放慢速度並重試 |
HTTP 429,程式碼 concurrency | 正式金鑰同時並行請求超過 8 次,或試用金鑰同時並行請求超過 2 次 | 在程式碼中排隊請求 |
HTTP 429,Retry-After: 5 | 暫時過載 | 等待指定的 5 秒後再試 |
加入重試機制很容易。此版本在每次失敗後會等待更久:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def call_with_retry(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited after retries")
請求主體最多可達 8 MB,遠超過任何可放入上下文視窗的提示詞。
給搜尋類型網站的備註
本網站的頁面提及網頁搜尋功能,因此有一項說明很有用:此處描述的端點是文字模型。它不會自行瀏覽網際網路,也無法存取你未提供給它的網頁。如果你的產品需要最新的網頁結果,請在你的程式碼中自行擷取,並將相關片段放入使用者提示詞中;或者透過函式呼叫將你的搜尋功能暴露為工具,讓模型請求它。
無論如何,呼叫的格式與上述範例相同。你傳送訊息,取得文字回覆,並為雙向的 token 付費。準備好後,建立金鑰並執行此頁面頂部的 curl 指令。
更多指南
問答
呼叫此 API 需要 OpenAI 程式庫嗎?
不需要。任何 HTTP 用戶端都可以運作,因為這是標準的 JSON POST。OpenAI SDKs 使用起來很方便,它們只需要不同的 Base URL 和金鑰。
為什麼我的後續問題得到的答案沒有上下文?
API 在呼叫之間不保留任何記憶。每次都在 messages 陣列中重新傳送先前的訊息。
我如何查看一次呼叫使用了多少 token?
讀取回應中的 usage 欄位。它列出提示詞 token 和完成 token,這是計價的兩個數字。
發生 HTTP 429 後該怎麼辦?
等待並重試。如果存在 Retry-After 標頭,請等待該時間;否則等待幾秒鐘並減少同時發送的請求數量。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。