ID ▾
llmwebsearchapi.com
llmwebsearchapi.com›Panduan
Dapatkan kunci API

Buat Panggilan API LLM Pertama Anda dengan Python dan curl

Berikut cara melakukan panggilan API LLM secara praktis: satu permintaan POST dengan kunci, nama model, dan daftar pesan, dan balasan kembali sebagai JSON. Halaman ini membahas curl, Python, streaming, biaya, dan kesalahan yang akan Anda temui pertama kali.

Ilustrasi isometrik terminal yang mengirim paket data ke kubus yang mengembalikan balon ucapan

Panggilan dalam lima langkah

Jika Anda ingin tahu cara melakukan panggilan API LLM tanpa membaca manual, ini adalah seluruh prosedur. Setiap permintaan ke model bahasa gaya chat mengikuti lima langkah yang sama, terlepas dari klien yang Anda gunakan.

  1. Dapatkan kunci API dari halaman kunci. Akun baru dapat mengklaim saldo uji coba kecil di sana dengan satu klik.
  2. Pilih endpoint: https://api.llmwebsearchapi.com/v1/chat/completions.
  3. Kirimkan kunci dalam header Authorization: Bearer YOUR_API_KEY.
  4. Kirimkan isi JSON dengan model diatur ke uncensored dan daftar messages.
  5. Baca choices[0].message.content dari JSON yang dikembalikan.

Itu saja. Hal lain di halaman ini adalah detail di sekitar lima langkah tersebut: apa yang harus dimuat dalam daftar pesan, cara melihat biaya panggilan, dan apa yang harus dilakukan ketika server menjawab dengan kesalahan alih-alih teks.

Permintaan pertama Anda dengan curl

curl adalah cara tercepat untuk membuktikan bahwa kunci dan jalur jaringan Anda berfungsi, karena tidak ada pustaka di antaranya. Simpan kunci Anda dalam variabel lingkungan terlebih dahulu agar tidak masuk ke riwayat shell Anda sebagai bagian dari perintah panjang.

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

Isi memiliki tiga bagian yang penting. model menentukan model mana yang menjawab Anda; pada layanan ini hanya ada satu model, sehingga nilainya selalu uncensored. messages adalah percakapan sejauh ini. temperature mengontrol seberapa berani pilihan kata, mulai dari mendekati 0 untuk output yang dapat diulang hingga sekitar 1 untuk lebih banyak variasi.

Anda juga dapat memverifikasi bahwa kunci diterima tanpa menghasilkan apa pun: kirim permintaan GET ke /v1/models dengan header Authorization yang sama. Jika daftar berisi uncensored, autentikasi berfungsi dan kegagalan selanjutnya berkaitan dengan isi permintaan, bukan kunci.

Panggilan yang sama dalam Python

Anda tidak memerlukan klien khusus. Paket openai resmi berfungsi jika Anda mengarahkannya ke URL dasar yang berbeda. Instal dengan pip install openai.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Dua hal yang layak disalin ke dalam kode Anda sendiri. Pertama, simpan kunci di luar file sumber; bacalah dari variabel lingkungan dengan os.environ["API_KEY"] setelah Anda melewati tahap eksperimen. Kedua, cetak resp.usage saat Anda sedang belajar. Melihat jumlah token di samping teks adalah cara tercepat untuk memahami biaya satu permintaan.

Karena antarmuka mengikuti format OpenAI, bentuk yang sama berfungsi dari Node, Go, Ruby, atau fetch biasa. Hanya sintaks di sekitar POST yang berubah. Panduan awal di dokumentasi mencantumkan parameter yang didukung.

Membaca respons

Balasan adalah objek JSON. Empat bagian yang paling sering Anda gunakan:

  • choices[0].message.content adalah teks yang dihasilkan.
  • choices[0].finish_reason menjelaskan mengapa pembuatan teks berhenti. stop berarti model selesai; length berarti batas token tercapai dan teks mungkin terpotong.
  • usage berisi prompt_tokens, completion_tokens dan totalnya. Ini adalah dasar penagihan.
  • Header respons mencakup X-Request-Id dan X-Balance-USD. Logkan ID permintaan dengan setiap panggilan. Jika Anda menghubungi dukungan, ID tersebut memungkinkan mereka menemukan permintaan Anda secara tepat.

Jendela konteks adalah 100.000 token, menghitung prompt dan respons bersama-sama. Satu giliran obrolan normal hanya menggunakan sebagian kecil dari itu. Anda hanya mulai merasakan batasnya ketika Anda menempelkan dokumen utuh atau mengirim riwayat yang sangat panjang. max_tokens bersifat opsional; jika Anda tidak menyertakannya, respons dapat menggunakan ruang yang tersisa di jendela tersebut.

Pesan, memori, dan streaming

API tidak mengingat Anda

Ini mengejutkan orang yang hanya menggunakan situs web chat. Setiap panggilan berdiri sendiri. Jika pengguna mengajukan pertanyaan lanjutan, Anda harus mengirim giliran sebelumnya lagi: pesan sistem, pertanyaan pertama, jawaban pertama model, lalu pertanyaan baru. Kode Anda menyimpan daftar dan menambahkannya.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

Ingat bahwa riwayat yang lebih panjang berarti lebih banyak token input pada setiap panggilan selanjutnya. Untuk sesi panjang, pangkas atau ringkas giliran tertua.

Streaming untuk antarmuka responsif

Atur stream ke true dan server mengirimkan teks secara bertahap melalui event yang dikirim server, sehingga jendela obrolan dapat menampilkan kata-kata saat tiba. Angka penggunaan tiba di akhir aliran.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Satu poin praktis: permintaan streaming memegang salah satu slot konkurensi Anda hingga streaming berakhir, sehingga koneksi yang dibiarkan terbengkalai akan tetap menyibukkan slot untuk sementara waktu.

Biaya satu panggilan

Harga per token dan bayar sesuai penggunaan: $0,15 per 1M token input dan $0,50 per 1M token output, diambil dari saldo prabayar. Tidak ada langganan, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Saldo tidak kedaluwarsa.

Ambil panggilan kecil dari sebelumnya dan katakan itu menggunakan 1.200 token input dan 400 token output:

  • Input: 1.200 / 1.000.000 x $0,15 = $0,00018
  • Output: 400 / 1.000.000 x $0,50 = $0,00020
  • Total: $0,00038

Saldo uji coba $0,50 akan mencakup sekitar 1.300 panggilan berukuran itu, karena $0.50 dibagi dengan $0,00038 adalah sekitar 1,316. Uji coba berlaku selama 7 hari dan tidak memerlukan kartu. Saat Anda melanjutkan, isi saldo berjalan dari $20 hingga $500 dalam jumlah utuh, dengan bonus 5% dari $50, 10% dari $100, dan 15% dari $200. Halaman harga memiliki detail terbaru dan metode pembayaran yang diterima.

Token output lebih mahal daripada token input, jadi kebiasaan termurah adalah meminta jawaban pendek ketika jawaban pendek sudah cukup. Pesan sistem seperti "jawab dalam dua kalimat" sekaligus memangkas tagihan dan waktu tunggu.

Kesalahan dan batas yang akan Anda temui pertama kali

Kegagalan awal sebagian besar masuk ke beberapa kelompok.

GejalaPenyebab umumPerbaikan
Kesalahan autentikasi (biasanya HTTP 401)Kunci hilang atau salah, atau kata Bearer dilewatkanPeriksa header, dan bahwa kunci tidak memiliki spasi di akhir
Permintaan ditolak sebagai tidak valid (biasanya HTTP 400)JSON tidak valid, atau messages hilangValidasi JSON; pada curl, perhatikan tanda kutip di sekitar -d
HTTP 429, kode rate_limitedLebih dari 300 permintaan per menit pada kunci penuh, atau 60 pada kunci uji cobaPerlambat dan coba lagi
HTTP 429, kode concurrencyLebih dari 8 permintaan sekaligus pada kunci penuh, atau 2 pada kunci uji cobaAntrikan permintaan dalam kode Anda
HTTP 429 dengan Retry-After: 5Beban berlebih sementaraTunggu 5 detik yang ditentukan dan coba lagi

Menambahkan percobaan ulang mudah dilakukan. Versi ini menunggu lebih lama setelah setiap upaya yang gagal:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Badan permintaan dapat berukuran hingga 8 MB, yang jauh lebih besar daripada prompt apa pun yang muat dalam jendela konteks.

Catatan untuk situs bernuansa pencarian

Halaman situs ini membahas pencarian web, sehingga satu klarifikasi berguna: endpoint yang dijelaskan di sini adalah model teks. Endpoint ini tidak menjelajahi internet secara mandiri, dan tidak memiliki akses ke halaman yang belum Anda berikan. Jika produk Anda memerlukan hasil web terbaru, ambil hasil tersebut dalam kode Anda sendiri dan masukkan cuplikan yang relevan ke dalam pesan pengguna, atau ekspos fungsi pencarian Anda sebagai alat melalui pemanggilan fungsi dan biarkan model memintanya.

Bagaimanapun, bentuk panggilan tetap sama seperti contoh di atas. Anda mengirim pesan, Anda mendapatkan teks kembali, dan Anda membayar token dalam kedua arah. Ketika Anda siap, buat kunci dan jalankan perintah curl dari bagian atas halaman ini.

Tanya jawab

Apakah saya perlu pustaka OpenAI untuk memanggil API ini?

Tidak. Klien HTTP apa pun berfungsi karena ini adalah POST JSON biasa. SDK OpenAI nyaman, dan hanya memerlukan base URL dan kunci yang berbeda.

Mengapa pertanyaan lanjutan saya mendapat jawaban tanpa konteks?

API tidak menyimpan memori antar panggilan. Kirim pesan sebelumnya lagi dalam array messages setiap kali.

Bagaimana saya melihat berapa banyak token yang digunakan panggilan?

Baca bidang usage dalam respons. Bidang tersebut mencantumkan token prompt dan token penyelesaian, yang merupakan dua angka yang menjadi dasar harga.

Apa yang harus saya lakukan setelah HTTP 429?

Tunggu dan coba lagi. Jika header Retry-After ada, tunggu sesuai durasi tersebut; jika tidak, tunggu beberapa detik dan kurangi jumlah permintaan yang Anda kirim secara bersamaan.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.