RU ▾
llmwebsearchapi.com
llmwebsearchapi.com›Руководство
Получить API-ключ

Выполните первый запрос к LLM API на Python и curl

Вот как выполнить вызов LLM API на практике: один POST-запрос с ключом, именем модели и списком сообщений, ответ приходит в формате JSON. На этой странице разобраны curl, Python, потоковая передача, стоимость и первые ошибки.

Изометрическая иллюстрация терминала, отправляющего пакеты данных в куб, который возвращает текстовые сообщения

Вызов за пять шагов

Если вы хотите узнать, как выполнить вызов LLM API без чтения руководства, это вся процедура. Каждый запрос к языковой модели чатового типа следует тем же пяти шагам, независимо от используемого клиента.

  1. Получите API-ключ на странице ключей. Новые аккаунты могут получить небольшой пробный баланс одним кликом.
  2. Выберите эндпоинт: https://api.llmwebsearchapi.com/v1/chat/completions.
  3. Передайте ключ в заголовке Authorization: Bearer YOUR_API_KEY.
  4. Отправьте тело JSON с model, установленным в uncensored, и списком messages.
  5. Прочтите choices[0].message.content из возвращаемого JSON.

Вот и всё. Всё остальное на этой странице — детали вокруг этих пяти шагов: что должно содержать сообщение, как увидеть стоимость вызова и что делать, когда сервер отвечает ошибкой вместо текста.

Ваш первый запрос через curl

curl — самый быстрый способ проверить, что ваш ключ и сетевой путь работают, так как между вами и API нет библиотеки. Сначала сохраните ключ в переменную окружения, чтобы он не попал в историю команд оболочки.

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

Тело запроса состоит из трех важных частей. model указывает, какая модель должна ответить; на этом сервисе одна модель, поэтому значение всегда uncensored. messages — это текущий разговор. temperature контролирует степень креативности формулировок: от близких к 0 для повторяемого вывода до около 1 для большего разнообразия.

Вы также можете проверить, что ключ принят, без генерации ответа: отправьте GET-запрос к /v1/models с тем же заголовком Authorization. Если список содержит uncensored, аутентификация работает, и любая последующая ошибка связана с телом запроса, а не с ключом.

Тот же вызов на Python

Вам не нужен специальный клиент. Официальный пакет openai работает, если указать ему другой базовый URL. Установите его с помощью pip install openai.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Есть две вещи, которые стоит скопировать в свой код. Во-первых, храните ключ вне файла исходного кода; читайте его из переменной окружения с помощью os.environ["API_KEY"], когда перейдете от экспериментов к работе. Во-вторых, выводите resp.usage во время обучения. Видеть количество токенов рядом с текстом — самый быстрый способ понять стоимость вызова.

Поскольку интерфейс соответствует формату OpenAI, тот же формат работает из Node, Go, Ruby или обычного fetch. Меняется только синтаксис вокруг POST. Быстрый старт в документации перечисляет поддерживаемые параметры.

Чтение ответа

Ответ — это объект JSON. Вы будете чаще всего обращаться к четырем его частям:

  • choices[0].message.content — сгенерированный текст.
  • choices[0].finish_reason указывает причину завершения генерации. stop означает, что модель завершила работу; length означает, что достигнут лимит токенов и текст может быть обрезан.
  • usage содержит prompt_tokens, completion_tokens и общее число. Именно на этом основывается биллинг.
  • Заголовки ответа включают X-Request-Id и X-Balance-USD. Логируйте ID запроса при каждом вызове. Если вы когда-либо обратитесь в поддержку, этот ID позволит им найти ваш точный запрос.

Контекстное окно составляет 100 000 токенов, включая промпт и завершение вместе. Обычный ход чата использует крошечную часть этого объема. Вы начинаете чувствовать лимит, только когда вставляете целые документы или отправляете очень длинную историю. max_tokens необязателен; если его не указать, завершение может использовать любое оставшееся место в окне.

Сообщения, память и потоковая передача

API не запоминает вас

Это удивляет людей, которые использовали только чат-сайты. Каждый вызов самостоятелен. Если пользователь задает следующий вопрос, вы должны снова отправить предыдущие реплики: системное сообщение, первый вопрос, первый ответ модели, затем новый вопрос. Ваш код хранит список и добавляет в него новые элементы.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

Помните, что более длинная история означает больше входных токенов при каждом последующем вызове. Для длинных сессий обрезайте или суммируйте самые старые реплики.

Потоковая передача для отзывчивого интерфейса

Установите stream в true, и сервер будет отправлять текст частями через server-sent events, чтобы окно чата могло показывать слова по мере их поступления. Данные об использовании поступают в конце потока.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Один практический момент: потоковый запрос занимает один из ваших слотов параллельных запросов до завершения потока, поэтому заброшенное соединение держит слот занятым некоторое время.

Стоимость одного вызова

Ценообразование зависит от токенов и оплаты по факту: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, списываются с предоплаченного баланса. Нет подписки, неудачные или отклоненные запросы не оплачиваются. Кредит не сгорает.

Возьмите короткий вызов из предыдущего примера и скажите, что он использовал 1 200 входных токенов и 400 выходных токенов:

  • Вход: 1 200 / 1 000 000 x $0,15 = $0,00018
  • Вывод: 400 / 1 000 000 x $0,50 = $0,00020
  • Итого: $0,00038

Пробный баланс в размере $0,50 позволит выполнить примерно 1 300 запросов такого размера, поскольку $0,50, делённое на $0,00038, составляет около 1 316. Пробный период действует 7 дней, карта не требуется. Пополнять можно на сумму от $20 до $500 целыми числами, с бонусом 5% от $50, 10% от $100 и 15% от $200. Текущие условия и способы оплаты указаны на странице тарифы.

Выходные токены стоят дороже входных, поэтому самая дешевая привычка — запрашивать короткие ответы, когда короткие ответы достаточны. Системное сообщение вроде "ответьте в двух предложениях" сокращает счет и время ожидания одновременно.

Ошибки и ограничения, с которыми вы столкнетесь в первую очередь

Большинство ранних сбоев попадают в несколько групп.

СимптомОбычная причинаИсправление
Ошибка аутентификации (обычно HTTP 401)Отсутствующий или неверный ключ, или пропущенное слово BearerПроверьте заголовок и убедитесь, что в ключе нет пробела в конце
Запрос отклонен как некорректный (обычно HTTP 400)Неверный JSON или отсутствует поле messagesПроверьте JSON; в curl обращайте внимание на кавычки вокруг -d
HTTP 429, код rate_limitedБолее 300 запросов в минуту с полным ключом или 60 с пробнымУменьшите частоту и повторите попытку
HTTP 429, код concurrencyБолее 8 запросов одновременно для полного ключа или 2 для пробного ключаСтавьте запросы в очередь в своём коде
HTTP 429 с Retry-After: 5Временная перегрузкаПодождите указанные 5 секунд и повторите попытку

Добавить повторную попытку легко. Эта версия ожидает немного дольше после каждой неудачной попытки:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Тело запроса может занимать до 8 МБ, что значительно больше, чем любой промпт, помещающийся в контекстное окно.

Примечание для сайта с уклоном в поиск

Страницы этого сайта посвящены веб-поиску, поэтому одно уточнение будет полезным: описанный здесь эндпоинт — это текстовая модель. Она не просматривает интернет самостоятельно и не имеет доступа к страницам, которые вы ей не предоставили. Если вашему продукту нужны свежие данные из сети, получайте их в своём коде и вставляйте соответствующие фрагменты в сообщение пользователя, либо предоставляйте свою функцию поиска как инструмент через вызов функций и позволяйте модели запрашивать её.

В любом случае структура вызова остаётся такой же, как в примерах выше. Вы отправляете сообщения, получаете текст в ответ и платите за токены в обоих направлениях. Когда будете готовы, создайте ключ и выполните команду curl в верхней части этой страницы.

Вопросы и ответы

Нужна ли библиотека OpenAI для вызова этого API?

Нет. Любой HTTP-клиент подходит, так как это обычный JSON POST. SDK OpenAI удобны, и им нужен только другой базовый URL и ключ.

Почему на мой следующий вопрос приходит ответ без контекста?

API не сохраняет память между вызовами. Каждый раз отправляйте предыдущие сообщения снова в массиве messages.

Как увидеть, сколько токенов использовал вызов?

Прочтите поле usage в ответе. В нём перечислены токены промпта и токены завершения, которые являются двумя числами, на основе которых рассчитывается цена.

Что делать после HTTP 429?

Подождите и повторите попытку. Если присутствует заголовок Retry-After, подождите указанное время; в противном случае сделайте паузу на несколько секунд и уменьшите количество одновременных запросов.

Ваш ключ — всего одна форма регистрации

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.