TR ▾
llmwebsearchapi.com
llmwebsearchapi.com›Kılavuz
API anahtarı al

İlk LLM API çağrınızı Python ve curl ile yapın

Pratikte LLM API çağrısı yapmak için tek bir POST isteği gerekir: bir anahtar, bir model adı ve bir mesaj listesi ile; yanıt JSON olarak döner. Bu sayfa curl, Python, akış, maliyet ve karşılaşacağınız ilk hataları adım adım anlatır.

Veri paketlerini, konuşma balonları döndüren bir küpe gönderen terminalin izometrik illüstrasyonu

Beş adımda çağrı

Bir kılavuz okumadan LLM API çağrısı nasıl yapılır öğrenmek istiyorsanız, tüm prosedür budur. Herhangi bir istemci kullansanız da sohbet tarzı dil modellerine yapılan her istek aynı beş adımı izler.

  1. Anahtar sayfasından bir API anahtarı edinin. Yeni hesaplar tek tıkla küçük bir deneme bakiyesi talep edebilir.
  2. Uç noktayı seçin: https://api.llmwebsearchapi.com/v1/chat/completions.
  3. Anahtarı Authorization: Bearer YOUR_API_KEY başlığı ile gönderin.
  4. model değeri uncensored ve bir messages listesi içeren bir JSON gövdesi gönderin.
  5. Dönen JSON'dan choices[0].message.content değerini okuyun.

Hepsi bu. Bu sayfadaki her şey bu beş adımın etrafındaki detaylardır: mesaj listesi ne içermeli, çağrının maliyeti nasıl görülür ve sunucu metin yerine hata döndürdüğünde ne yapılmalıdır.

curl ile ilk isteğiniz

curl, arada kütüphane olmadığı için anahtarınızın ve ağ yolunuzun çalıştığını kanıtlamanın en hızlı yoludur. Anahtarınızı önce bir ortam değişkenine kaydedin, böylece uzun bir komutun parçası olarak kabuk geçmişinde yer almaz.

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

Gövdenin üç önemli parçası vardır. model size yanıt verecek olanı belirtir; bu hizmette tek bir model olduğu için değer her zaman uncensored olur. messages o ana kadarki konuşmadır. temperature, tekrarlanabilir çıktı için neredeyse 0'dan çeşitlilik için yaklaşık 1'e kadar ifade tarzının ne kadar cesur olacağını kontrol eder.

Anahtarın kabul edildiğini herhangi bir şey oluşturmadan da kontrol edebilirsiniz: aynı Authorization başlığı ile /v1/models adresine GET isteği gönderin. Liste uncensored içeriyorsa kimlik doğrulama çalışır ve sonraki tüm hatalar anahtarla değil, istek gövdesiyle ilgilidir.

Python ile aynı çağrı

Özel bir istemciye ihtiyacınız yok. Resmi openai paketi farklı bir base URL'ye işaret ettiğinde çalışır. pip install openai ile yükleyin.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Kodunuza kopyalamanız gereken iki şey vardır. Birincisi, anahtarı kaynak dosyasında tutmayın; denemelerden geçtikten sonra onu os.environ["API_KEY"] ile bir ortam değişkeninden okuyun. İkincisi, öğrenme aşamasında resp.usage yazdırın. Metin yanında token sayılarını görmek, bir çağrının neye mal olduğunu anlamak için en hızlı yoldur.

Arayüz OpenAI formatını takip ettiği için aynı yapı Node, Go, Ruby veya düz fetch ile çalışır. POST etrafındaki sözdizimi değişir. Belgelerdeki hızlı başlangıç desteklenen parametreleri listeler.

Yanıtı okuma

Yanıt bir JSON nesnesidir. En sık şu dört parçasıyla ilgilenirsiniz:

  • choices[0].message.content oluşturulan metindir.
  • choices[0].finish_reason üretimin neden durduğunu söyler. stop modelin bittiğini; length bir token sınırına ulaşıldığını ve metnin kesilebileceğini gösterir.
  • usage prompt_tokens, completion_tokens ve toplamı içerir. Faturalandırma buna dayanır.
  • Yanıt başlıkları X-Request-Id ve X-Balance-USD içerir. Her çağrı için istek kimliğini günlüğe kaydedin. Destek ile iletişime geçtiğinizde bu ID onların tam isteğinizi bulmasını sağlar.

Bağlam penceresi 100.000 token'dır; istem ve tamamlama birlikte sayılır. Normal bir sohbet dönüşü bunun çok küçük bir kısmını kullanır. Bütünüyle belgeler yapıştırdığınızda veya çok uzun bir geçmiş gönderdiğinizde sınırı hissetmeye başlarsınız. max_tokens isteğe bağlıdır; bırakılırsa tamamlama pencerede kalan boşluğu kullanabilir.

Mesajlar, hafıza ve akış

API sizi hatırlamaz

Bu yalnızca bir sohbet web sitesi kullanan insanları şaşırtır. Her çağrı bağımsızdır. Kullanıcı bir takip sorusu sorarsa önceki dönüşleri tekrar göndermelisiniz: sistem mesajı, ilk soru, modelin ilk yanıtı, ardından yeni soru. Kodunuz listeyi tutar ve sonuna ekler.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

Daha uzun bir geçmişin her sonraki çağrıda daha fazla girdi tokenı anlamına geldiğini unutmayın. Uzun oturumlar için en eski dönüşleri kısaltın veya özetleyin.

Duyarlı bir arayüz için akış

stream değerini true olarak ayarlayın ve sunucu metni sunucu gönderilen olaylar üzerinden parçalar halinde gönderir; böylece bir sohbet penceresi kelimeler geldikçe gösterebilir. Kullanım istatistikleri akışın sonunda gelir.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pratik bir nokta: akışlı bir istek, akış bitene kadar eşzamanlılık slotlarınızdan birini tutar; terk edilen bir bağlantı bir süre bir slotu meşgul tutar.

Bir çağrının maliyeti

Fiyatlandırma token başına ve kullandıkça öde modelindedir: 1M girdi tokenı başına $0,15 ve 1M çıktı tokenı başına $0,50, ön ödemeli krediden düşülür. Abonelik yoktur; başarısız veya reddedilen istekler ücretlendirilmez. Kredi süresi dolmaz.

Önceki küçük çağrıyı alıp 1.200 girdi tokenı ve 400 çıktı tokenı kullandığını varsayalım:

  • Girdi: 1.200 / 1.000.000 x $0,15 = $0,00018
  • Çıktı: 400 / 1.000.000 x $0,50 = $0,00020
  • Toplam: $0,00038

$0,50 deneme bakiyesi, bu boyuttaki yaklaşık 1.300 çağrıyı karşılayabilir; çünkü $0,50 / $0,00038 ≈ 1.316 eder. Deneme süresi 7 gün sürer ve kart gerekmez. İlerlediğinizde, bakiye yükleme işlemleri $20 ile $500 arasında tam tutarlarda yapılır; $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15 bonus sağlanır. fiyatlandırma sayfası güncel detayları ve kabul edilen ödeme yöntemlerini içerir.

Çıktı tokenları girdi tokenlarından daha pahalıdır, bu nedenle en ucuz alışkanlık, kısa yanıtların yeterli olduğu yerde kısa yanıtlar istemektir. "İki cümleyle cevapla" gibi bir sistem mesajı faturayı ve bekleme süresini birlikte düşürür.

Karşılaşacağınız ilk hatalar ve sınırlar

Erken dönem hataların çoğu birkaç gruba ayrılır.

BelirtiYaygın nedenÇözüm
Kimlik doğrulama hatası (genellikle HTTP 401)Eksik veya yanlış anahtar, veya Bearer kelimesinin unutulmasıBaşlığı ve anahtarın sonunda boşluk bulunmadığını kontrol edin
İstek bozuk olduğu için reddedildi (genellikle HTTP 400)Geçersiz JSON veya messages eksikJSON'u doğrulayın; curl komutunda -d etrafındaki tırnak işaretlerine dikkat edin
HTTP 429, kod rate_limitedTam anahtar için dakikada 300'den fazla istek, deneme anahtarı için 60Hızı düşürün ve tekrar deneyin
HTTP 429, kod concurrencyTam anahtarla aynı anda 8'den fazla, deneme anahtarıyla 2 istekten fazlaKodunuzda istekleri kuyruğa alın
HTTP 429, Retry-After: 5Geçici aşırı yüklenmeBelirtilen 5 saniyeyi bekleyin ve tekrar deneyin

Yeniden deneme eklemek kolaydır. Bu sürüm, her başarısız denemeden sonra biraz daha uzun bekler:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

İstek gövdesi 8 MB'a kadar olabilir; bu, bağlam penceresine sığan herhangi bir istemden çok daha fazlasıdır.

Arama odaklı bir site için not

Bu sitenin sayfaları web aramasından bahsettiği için, bir açıklama faydalı olabilir: burada anlatılan uç nokta bir metin modelidir. İnterneti tek başına gezmez ve size vermediğiniz sayfalara erişimi yoktur. Ürününüzün güncel web sonuçlarına ihtiyacı varsa, bunları kendi kodunuzda çekin ve ilgili metin parçalarını kullanıcı istemine ekleyin veya arama işlevinizi fonksiyon çağırma aracılığıyla bir araç olarak sunun ve modelin bunu talep etmesine izin verin.

Her iki durumda da çağrı yapısı yukarıdaki örneklerdekiyle aynı kalır. Mesajları gönderirsiniz, metin alırsınız ve her iki yöndeki token'lar için ödeme yaparsınız. Hazır olduğunuzda, bir anahtar oluşturun ve bu sayfanın başındaki curl komutunu çalıştırın.

Sorular ve cevaplar

Bu API'yi çağırmak için OpenAI kütüphanesine ihtiyacım var mı?

Hayır. Normal bir JSON POST olduğu için herhangi bir HTTP istemcisi çalışır. OpenAI SDK'ları kullanışlıdır ve yalnızca farklı bir base URL ve anahtar gerektirir.

Neden takip soruma bağlam içermeyen bir cevap alıyorum?

API, çağrılar arasında hafıza tutmaz. Her seferinde önceki mesajları messages dizisi içinde tekrar gönderin.

Bir çağrının kaç token kullandığını nasıl görürüm?

Yanıtın usage alanını okuyun. İstem tokenlarını ve tamamlama tokenlarını listeler; fiyat, bu iki sayıya dayanır.

HTTP 429 aldığım durumda ne yapmalıyım?

Bekleyin ve yeniden deneyin. Bir Retry-After başlığı varsa, o kadar bekleyin; yoksa birkaç saniye bekleyin ve aynı anda gönderdiğiniz istek sayısını azaltın.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.