Thực hiện cuộc gọi API LLM đầu tiên bằng Python và curl
Dưới đây là cách thực hiện cuộc gọi API LLM trong thực tế: một yêu cầu POST với khóa, tên mô hình và danh sách tin nhắn, phản hồi trả về dưới dạng JSON. Trang này hướng dẫn chi tiết về curl, Python, streaming, chi phí và các lỗi bạn sẽ gặp phải.
Cập nhật

Gọi API năm bước
Nếu bạn muốn biết cách thực hiện cuộc gọi API LLM mà không cần đọc hết hướng dẫn, đây là toàn bộ quy trình. Mọi yêu cầu gửi đến mô hình ngôn ngữ dạng trò chuyện đều tuân theo năm bước tương tự, bất kể bạn sử dụng máy khách nào.
- Lấy khóa API từ trang khóa. Tài khoản mới có thể nhận một số dư dùng thử nhỏ tại đó chỉ với một cú nhấp chuột.
- Chọn endpoint:
https://api.llmwebsearchapi.com/v1/chat/completions. - Gửi khóa trong tiêu đề
Authorization: Bearer YOUR_API_KEY. - Gửi thân JSON với
modelđược đặt thànhuncensoredvà danh sáchmessages. - Đọc
choices[0].message.contenttừ JSON trả về.
Đó là tất cả những gì bạn cần. Mọi thứ khác trên trang này là chi tiết xung quanh năm bước đó: danh sách tin nhắn nên chứa gì, cách xem chi phí của yêu cầu và phải làm gì khi máy chủ trả về lỗi thay vì văn bản.
Yêu cầu đầu tiên của bạn bằng curl
curl là cách nhanh nhất để chứng minh khóa và đường truyền mạng của bạn hoạt động, vì không có thư viện nào ở giữa. Hãy lưu khóa của bạn vào biến môi trường trước để tránh nó xuất hiện trong lịch sử shell của bạn như một phần của lệnh dài.
export API_KEY="YOUR_API_KEY"
curl https://api.llmwebsearchapi.com/v1/chat/completions -H "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"}
],
"temperature": 0.7
}'
Thân yêu cầu có ba phần quan trọng. model chỉ định mô hình nào sẽ trả lời bạn; trên dịch vụ này chỉ có một mô hình, nên giá trị luôn là uncensored. messages là lịch sử hội thoại hiện tại. temperature kiểm soát mức độ sáng tạo của văn bản, từ gần 0 để đầu ra ổn định đến khoảng 1 để đa dạng hơn.
Bạn cũng có thể kiểm tra xem khóa có được chấp nhận mà không cần tạo nội dung nào không: gửi yêu cầu GET đến /v1/models với cùng tiêu đề Authorization. Nếu danh sách chứa uncensored, xác thực hoạt động và mọi lỗi sau đó đều do thân yêu cầu, không phải do khóa.
Cùng lệnh gọi trong Python
Bạn không cần một máy khách đặc biệt. Gói openai chính thức sẽ hoạt động nếu bạn trỏ nó vào một base URL khác. Cài đặt nó bằng pip install openai.
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in two short sentences."},
{"role": "user", "content": "What is a token in a language model?"},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Có hai điều đáng sao chép vào mã của bạn. Thứ nhất, giữ khóa ra khỏi tệp nguồn; hãy đọc nó từ biến môi trường với os.environ["API_KEY"] khi bạn chuyển từ giai đoạn thử nghiệm sang giai đoạn thực tế. Thứ hai, in ra resp.usage trong quá trình học. Việc xem số lượng token kèm theo văn bản là cách nhanh nhất để bạn cảm nhận được chi phí của một cuộc gọi.
Vì giao diện tuân theo định dạng OpenAI, cấu trúc tương tự cũng hoạt động với Node, Go, Ruby hoặc fetch thuần túy. Chỉ cú pháp xung quanh lệnh POST là thay đổi. Hướng dẫn nhanh trong tài liệu liệt kê các tham số được hỗ trợ.
Đọc phản hồi
Phản hồi là một đối tượng JSON. Bạn sẽ thường xuyên xử lý bốn phần của nó:
choices[0].message.contentlà văn bản được tạo ra.choices[0].finish_reasoncho biết lý do dừng tạo.stopcó nghĩa là mô hình đã hoàn tất;lengthcó nghĩa là mô hình đã đạt giới hạn token và văn bản có thể bị cắt ngắn.usagechứaprompt_tokens,completion_tokensvà tổng số. Đây là cơ sở để tính phí.- Các tiêu đề phản hồi bao gồm
X-Request-IdvàX-Balance-USD. Hãy ghi lại ID yêu cầu với mỗi cuộc gọi. Nếu bạn liên hệ hỗ trợ, ID đó sẽ giúp họ tìm ra chính xác yêu cầu của bạn.
Cửa sổ ngữ cảnh là 100.000 token, tính cả prompt và phần hoàn thành. Một lượt trò chuyện bình thường chỉ sử dụng một phần rất nhỏ của giới hạn này. Bạn chỉ cảm nhận được giới hạn khi dán toàn bộ tài liệu hoặc gửi lịch sử rất dài. max_tokens là tùy chọn; nếu bạn bỏ qua nó, phần hoàn thành có thể sử dụng bất kỳ không gian nào còn lại trong cửa sổ ngữ cảnh.
Tin nhắn, bộ nhớ và streaming
API không ghi nhớ bạn
Điều này khiến nhiều người ngạc nhiên vì họ chỉ dùng trang web trò chuyện. Mỗi yêu cầu đều độc lập. Nếu người dùng hỏi câu hỏi tiếp theo, bạn phải gửi lại các lượt trước đó: tin nhắn hệ thống, câu hỏi đầu tiên, câu trả lời đầu tiên của mô hình, rồi đến câu hỏi mới. Mã của bạn sẽ giữ danh sách này và thêm vào đó.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
history = [{"role": "system", "content": "You are a concise assistant."}]
def ask(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(model="uncensored", messages=history)
answer = r.choices[0].message.content
history.append({"role": "assistant", "content": answer})
return answer
print(ask("Name one use for a text API."))
print(ask("Give a second one."))
Hãy nhớ rằng lịch sử dài hơn có nghĩa là nhiều token đầu vào hơn trong mỗi cuộc gọi sau đó. Đối với các phiên dài, hãy cắt bớt hoặc tóm tắt các lượt hội thoại cũ nhất.
Streaming để tạo giao diện phản hồi nhanh
Đặt stream thành true và máy chủ sẽ gửi văn bản từng phần qua server-sent events, giúp cửa sổ trò chuyện có thể hiển thị từ khi chúng đến. Số liệu sử dụng sẽ xuất hiện ở cuối luồng.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Một điểm thực tế: một yêu cầu streaming chiếm một trong các khe đồng thời của bạn cho đến khi luồng kết thúc, vì vậy một kết nối bị bỏ rơi sẽ giữ một khe trong một khoảng thời gian.
Chi phí cho một cuộc gọi
Giá tính theo token và trả theo mức sử dụng: $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra, được trừ từ tín dụng trả trước. Không có gói đăng ký, và các yêu cầu bị lỗi hoặc từ chối sẽ không bị tính phí. Tín dụng không bao giờ hết hạn.
Hãy lấy ví dụ về cuộc gọi nhỏ ở trên và giả sử nó đã sử dụng 1.200 token đầu vào và 400 token đầu ra:
- Đầu vào: 1.200 / 1.000.000 x $0,15 = $0,00018
- Đầu ra: 400 / 1.000.000 x $0,50 = $0,00020
- Tổng cộng: $0,00038
Số dư dùng thử $0,50 sẽ chi trả khoảng 1.300 yêu cầu có kích thước đó, vì $0,50 chia cho $0,00038 bằng khoảng 1.316. Gói dùng thử có hiệu lực trong 7 ngày và không cần thẻ. Khi bạn chuyển sang gói trả phí, các lần nạp tiền dao động từ $20 đến $500 theo số nguyên, với phần thưởng thêm 5% từ $50, 10% từ $100 và 15% từ $200. Trang giá cả có chi tiết hiện tại và các phương thức thanh toán được chấp nhận.
Token đầu ra đắt hơn token đầu vào, vì vậy thói quen tiết kiệm nhất là yêu cầu câu trả lời ngắn khi câu trả lời ngắn là đủ. Một tin nhắn hệ thống như "trả lời trong hai câu" sẽ giảm hóa đơn và thời gian chờ đợi cùng lúc.
Các lỗi và giới hạn bạn sẽ gặp phải
Hầu hết các lỗi sớm thuộc về một vài nhóm.
| Triệu chứng | Nguyên nhân thường gặp | Cách khắc phục |
|---|---|---|
| Lỗi xác thực (thường là HTTP 401) | Thiếu hoặc sai khóa, hoặc thiếu từ Bearer | Kiểm tra tiêu đề và đảm bảo khóa không có khoảng trắng ở cuối |
| Yêu cầu bị từ chối do sai định dạng (thường là HTTP 400) | JSON không hợp lệ, hoặc messages bị thiếu | Hãy xác thực JSON; trong curl, hãy chú ý đến các dấu ngoặc kép xung quanh -d |
HTTP 429, mã rate_limited | Hơn 300 yêu cầu mỗi phút trên khóa đầy đủ, hoặc 60 trên khóa dùng thử | Giảm tốc độ và thử lại |
HTTP 429, mã concurrency | Hơn 8 yêu cầu cùng lúc trên khóa đầy đủ, hoặc 2 trên khóa dùng thử | Hãy xếp hàng chờ các yêu cầu trong mã của bạn |
HTTP 429 với Retry-After: 5 | Quá tải tạm thời | Hãy đợi 5 giây như đã nêu rồi thử lại |
Việc thử lại rất dễ thêm vào. Phiên bản này chờ lâu hơn một chút sau mỗi lần thử thất bại:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.llmwebsearchapi.com/v1",
api_key="YOUR_API_KEY",
max_retries=0,
)
def call_with_retry(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited after retries")
Phần thân yêu cầu có thể lên đến 8 MB, nhiều hơn rất nhiều so với bất kỳ prompt nào vừa trong cửa sổ ngữ cảnh.
Lưu ý cho một trang web thiên về tìm kiếm
Các trang của trang web này nói về tìm kiếm web, nên một lời giải thích là hữu ích: endpoint được mô tả ở đây là một mô hình văn bản. Nó không tự duyệt internet và không có quyền truy cập vào các trang mà bạn chưa cung cấp cho nó. Nếu sản phẩm của bạn cần kết quả web mới nhất, hãy lấy chúng trong mã của riêng bạn và đặt các đoạn trích liên quan vào tin nhắn của người dùng, hoặc triển khai chức năng tìm kiếm của bạn dưới dạng công cụ thông qua gọi hàm và để mô hình yêu cầu nó.
Bằng cách nào đi nữa, cấu trúc của lệnh gọi vẫn giống như trong các ví dụ ở trên. Bạn gửi tin nhắn, bạn nhận lại văn bản và bạn trả tiền cho các token theo cả hai hướng. Khi bạn sẵn sàng, tạo khóa và chạy lệnh curl từ đầu trang này.
Hướng dẫn khác
Hỏi đáp
Tôi có cần thư viện OpenAI để gọi API này không?
Không. Bất kỳ máy khách HTTP nào cũng hoạt động vì đây là một lệnh POST JSON bình thường. Các SDK OpenAI rất tiện lợi và chúng chỉ cần một base URL và khóa khác.
Tại sao câu hỏi tiếp theo của tôi lại nhận được câu trả lời không có ngữ cảnh?
API không giữ bộ nhớ giữa các lệnh gọi. Hãy gửi lại các tin nhắn trước đó trong mảng messages mỗi lần.
Tôi xem số token mà một lệnh gọi đã sử dụng như thế nào?
Hãy đọc trường usage trong phản hồi. Nó liệt kê các token prompt và token hoàn thành, đây là hai con số mà giá dựa trên đó.
Tôi nên làm gì sau khi gặp HTTP 429?
Chờ và thử lại. Nếu có tiêu đề Retry-After, hãy chờ đúng khoảng thời gian đó; nếu không, hãy chờ vài giây rồi giảm số lượng yêu cầu bạn gửi cùng lúc.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.