IT ▾
llmwebsearchapi.com
llmwebsearchapi.com›Guida
Ottieni la chiave API

Esegui la tua prima chiamata API LLM con Python e curl

Ecco come fare una chiamata API LLM nella pratica: una richiesta POST con una chiave, un nome del modello e un elenco di messaggi, e la risposta torna in formato JSON. Questa pagina illustra curl, Python, streaming, costi e gli errori che incontrerai per primi.

Illustrazione isometrica di un terminale che invia pacchetti dati a un cubo che restituisce fumetti

La chiamata in cinque passaggi

Se vuoi sapere come fare una chiamata API LLM senza leggere un manuale, questa è l'intera procedura. Ogni richiesta a un modello linguistico di tipo chat segue gli stessi cinque passaggi, indipendentemente dal client che usi.

  1. Ottieni una chiave API dalla pagina delle chiavi. I nuovi account possono richiedere un piccolo saldo di prova lì con un clic.
  2. Scegli l'endpoint: https://api.llmwebsearchapi.com/v1/chat/completions.
  3. Invia la chiave nell'header Authorization: Bearer YOUR_API_KEY.
  4. Invia un body JSON con model impostato su uncensored e un elenco messages.
  5. Leggi choices[0].message.content dal JSON che ricevi.

È tutto qui. Tutto il resto in questa pagina sono dettagli attorno a questi cinque passaggi: cosa dovrebbe contenere l'elenco dei messaggi, come vedere quanto è costata la chiamata e cosa fare quando il server risponde con un errore invece che con testo.

La tua prima richiesta con curl

curl è il modo più veloce per dimostrare che la tua chiave e il percorso di rete funzionano, perché non c'è nessuna libreria di mezzo. Salva prima la tua chiave in una variabile d'ambiente così non finisce nella cronologia della shell come parte di un comando lungo.

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

Il body ha tre parti che contano. model indica chi dovrebbe risponderti; su questo servizio c'è un solo modello, quindi il valore è sempre uncensored. messages è la conversazione finora. temperature controlla quanto è avventurosa la formulazione, da vicino a 0 per output ripetibili fino a circa 1 per maggiore varietà.

Puoi anche verificare che la chiave sia accettata senza generare nulla: invia una richiesta GET a /v1/models con lo stesso header Authorization. Se l'elenco contiene uncensored, l'autenticazione funziona e qualsiasi errore successivo riguarda il body della richiesta, non la chiave.

La stessa chiamata in Python

Non serve un client speciale. Il pacchetto ufficiale openai funziona se lo punti a un URL base diverso. Installalo con pip install openai.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Due cose vale la pena copiare nel tuo codice. Primo, tieni la chiave fuori dal file sorgente; leggila da una variabile d'ambiente con os.environ["API_KEY"] una volta superati gli esperimenti. Secondo, stampa resp.usage mentre impari. Vedere i conteggi dei token accanto al testo è il modo più veloce per farsi un'idea di quanto costa una chiamata.

Poiché l'interfaccia segue il formato OpenAI, la stessa struttura funziona con Node, Go, Ruby o fetch semplice. Cambia solo la sintassi intorno alla POST. La guida rapida nella documentazione elenca i parametri supportati.

Leggere la risposta

La risposta è un oggetto JSON. Userai più spesso quattro parti di esso:

  • choices[0].message.content è il testo generato.
  • choices[0].finish_reason dice perché la generazione è terminata. stop significa che il modello ha finito; length significa che ha raggiunto un limite di token e il testo potrebbe essere tagliato.
  • usage contiene prompt_tokens, completion_tokens e il totale. È su questi valori che si basa la fatturazione.
  • Gli header di risposta includono X-Request-Id e X-Balance-USD. Registra l'ID richiesta con ogni chiamata. Se contatti support, quell'ID permette loro di trovare la tua richiesta esatta.

La finestra di contesto è di 100.000 token, contando prompt e completion insieme. Un normale turno di chat usa una piccola parte di quello. Inizi a sentire il limite solo quando incolli documenti interi o invii una cronologia molto lunga. max_tokens è opzionale; se lo lasci fuori, la completion può usare tutto lo spazio rimasto nella finestra.

Messaggi, memoria e streaming

L'API non si ricorda di te

Questo sorprende le persone che hanno usato solo un sito di chat. Ogni chiamata è indipendente. Se l'utente fa una domanda di follow-up, devi inviare di nuovo i turni precedenti: il messaggio di sistema, la prima domanda, la prima risposta del modello, poi la nuova domanda. Il tuo codice mantiene l'elenco e lo estende.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

Ricorda che una cronologia più lunga significa più token di input su ogni chiamata successiva. Per sessioni lunghe, taglia o riassumi i turni più vecchi.

Streaming per un'interfaccia reattiva

Imposta stream su true e il server invia il testo in pezzi tramite server-sent events, così una finestra di chat può mostrare le parole mentre arrivano. I dati di utilizzo arrivano alla fine dello stream.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Un punto pratico: una richiesta streaming mantiene uno dei tuoi slot di concorrenza fino alla fine dello stream, quindi una connessione abbandonata tiene occupato uno slot per un po' di tempo.

Quanto costa una chiamata

La tariffazione è per token e pagamento a consumo: $0,15 per 1M token di input e $0,50 per 1M token di output, prelevati dal credito prepagato. Non c'è abbonamento e le richieste fallite o rifiutate non vengono addebitate. Il credito non scade mai.

Prendi la chiamata breve di prima e diciamo che ha usato 1.200 token di input e 400 token di output:

  • Input: 1.200 / 1.000.000 x $0,15 = $0,00018
  • Output: 400 / 1.000.000 x $0,50 = $0,00020
  • Totale: $0,00038

Il saldo di prova da $0,50 coprirebbe circa 1.300 chiamate di quella dimensione, poiché $0,50 diviso $0,00038 fa circa 1.316. La prova è valida per 7 giorni e non richiede carta. Quando passi oltre, le ricariche vanno da $20 a $500 in importi interi, con un bonus del 5% da $50, del 10% da $100 e del 15% da $200. La pagina prezzi ha i dettagli attuali e i metodi di pagamento accettati.

I token di output costano più dei token di input, quindi l'abitudine più economica è chiedere risposte brevi quando le risposte brevi sono sufficienti. Un messaggio di sistema come "rispondi in due frasi" riduce la fattura e il tempo di attesa insieme.

Errori e limiti che incontrerai per primi

La maggior parte dei primi fallimenti rientra in alcuni gruppi.

SintomoCausa usualeSoluzione
Errore di autenticazione (tipicamente HTTP 401)Chiave mancante o errata, o la parola Bearer lasciata fuoriControlla l'header e che la chiave non abbia spazi finali
Richiesta rifiutata come malformata (tipicamente HTTP 400)JSON non valido, o messages mancanteConvalida il JSON; in curl, fai attenzione alle virgolette intorno a -d
HTTP 429, codice rate_limitedPiù di 300 richieste al minuto su una chiave completa, o 60 su una chiave di provaRallenta e riprova
HTTP 429, codice concurrencyPiù di 8 richieste simultanee con una chiave completa, o 2 con una chiave di provaAccoda le richieste nel tuo codice
HTTP 429 con Retry-After: 5Sovraccarico temporaneoAttendi i 5 secondi indicati e riprova

Aggiungere il retry è semplice. Questa versione attende un po' di più dopo ogni tentativo fallito:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Il corpo della richiesta può essere fino a 8 MB, che è molto più di qualsiasi prompt che rientri nella finestra di contesto.

Una nota per un sito orientato alla ricerca

Le pagine di questo sito parlano di ricerca web, quindi è utile una precisazione: l'endpoint descritto qui è un modello di testo. Non naviga su internet da solo e non ha accesso alle pagine che non gli hai fornito. Se il tuo prodotto ha bisogno di risultati web aggiornati, recuperali nel tuo codice e inserisci gli estratti rilevanti nel messaggio dell'utente, oppure esponi la tua funzione di ricerca come strumento tramite chiamata di funzioni e lascia che il modello la richieda.

In ogni caso, la struttura della chiamata rimane uguale agli esempi sopra. Invii messaggi, ricevi testo in risposta e paghi i token in entrambe le direzioni. Quando sei pronto, crea una chiave ed esegui il comando curl dall'inizio di questa pagina.

Domande e risposte

Ho bisogno della libreria OpenAI per chiamare questa API?

No. Funziona qualsiasi client HTTP perché è una normale POST JSON. Gli SDK OpenAI sono comodi e richiedono solo un URL base e una chiave diversi.

Perché la mia domanda successiva riceve una risposta senza contesto?

L'API non conserva la memoria tra le chiamate. Invia di nuovo i messaggi precedenti nell'array messages ogni volta.

Come faccio a vedere quanti token ha usato una chiamata?

Leggi il campo usage nella risposta. Elenca i token del prompt e i token di completamento, che sono i due numeri su cui si basa il prezzo.

Cosa devo fare dopo un HTTP 429?

Attendi e riprova. Se è presente un header Retry-After, attendi quel tempo; altrimenti aspetta qualche secondo e riduci il numero di richieste che invii in parallelo.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.