JA ▾
llmwebsearchapi.com
llmwebsearchapi.com›ガイド
API キーを取得

Pythonとcurlで最初のLLM API呼び出しを行う

実際のLLM API呼び出しの方法:API キー、モデル名、メッセージリストを使用した1つのPOSTリクエストで、応答はJSONとして返されます。このページでは、curl、Python、ストリーミング、料金、最初に遭遇するエラーについて解説します。

ターミナルがデータパケットを送信し、キューブが会話吹き出しを返す等角図法イラスト

5つのステップでの呼び出し

マニュアルを読まずにLLM API呼び出しの方法を知りたい場合、これが全体の手順です。どのクライアントを使用しても、チャットスタイルの言語モデルへのリクエストは常に5つのステップに従います。

  1. キーページからAPI キーを取得します。新規アカウントはワンクリックで少量の無料トライアルクレジットを受け取ることができます。
  2. エンドポイントを選択します:https://api.llmwebsearchapi.com/v1/chat/completions。
  3. ヘッダーAuthorization: Bearer YOUR_API_KEYでキーを送信します。
  4. modelをuncensoredに設定し、messagesリストを含むJSONボディを送信します。
  5. 返されるJSONからchoices[0].message.contentを読み取ります。

これだけです。このページの他の内容は、メッセージリストの内容、呼び出し料金の確認方法、テキストではなくエラーでサーバーが応答した場合の対処法など、これら5つのステップの詳細です。

curlでの最初のリクエスト

curlは、中間にライブラリがないため、キーとネットワークパスが機能することを確認する最も速い方法です。長いコマンドの一部としてシェル履歴にキーが残らないよう、まず環境変数にキーを保存してください。

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

本文には重要な3つのパートがあります。modelは応答するモデルを指定します。このサービスでは1つのモデルのみを使用するため、値は常にuncensoredです。messagesはこれまでの会話履歴です。temperatureは出力の多様性を制御し、0に近い値では再現性の高い出力、1に近い値ではより多様な出力が生成されます。

何も生成せずにキーが受け入れられるか確認することもできます:同じAuthorizationヘッダーで/v1/modelsへのGETリクエストを送信します。リストにuncensoredが含まれている場合、認証は正常に機能しており、その後の失敗はキーではなくリクエストボディに関するものです。

Pythonでの同じ呼び出し

特別なクライアントは必要ありません。異なるBase URLを指すように設定すれば、公式のopenaiパッケージが動作します。pip install openaiでインストールしてください。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

コードにコピーする価値のあることが2つあります。まず、キーをソースファイルに含めないでください。実験を超えた段階では、os.environ["API_KEY"]で環境変数から読み取ってください。第二に、学習中はresp.usageを出力してください。テキストの横にトークン数を表示することが、呼び出しの料金を理解する最も速い方法です。

インターフェースはOpenAIの形式に従っているため、同じ形式をNode、Go、Ruby、またはプレーンなfetchからでも使えます。POSTを取り巻く構文のみが変更されます。ドキュメントのクイックスタートには、サポートされているパラメータがリストされています。

レスポンスの読み方

応答はJSONオブジェクトです。次の4つの部分に頻繁にアクセスします:

  • choices[0].message.contentは生成されたテキストです。
  • choices[0].finish_reasonは生成が停止した理由を示します。stopはモデルが完了したことを意味し、lengthはトークン制限に達したことを意味し、テキストが切り捨てられている可能性があります。
  • usageにはprompt_tokens、completion_tokens、合計が含まれます。これが課金の基準となります。
  • 応答ヘッダーにはX-Request-IdとX-Balance-USDが含まれます。すべての呼び出しでリクエストIDをログに記録してください。サポートに連絡する必要がある場合、そのIDにより正確なリクエストを特定できます。

コンテキストウィンドウは100,000トークンで、プロンプトと生成テキストの合計がカウントされます。通常のチャット会話ではそのごく一部しか使用しません。文書全体を貼り付けたり、非常に長い履歴を送信したりした場合にのみ、制限を実感し始めます。max_tokensはオプションです。指定しない場合、生成テキストはウィンドウに残っている空き容量をすべて使用できます。

メッセージ、メモリ、ストリーミング

APIはあなたを記憶しません

これはチャットウェブサイトしか使ったことのない人には驚きです。各呼び出しは独立しています。ユーザーが後続の質問をした場合、以前のターンを再度送信する必要があります:システムメッセージ、最初の質問、モデルの最初の回答、そして新しい質問です。コードはリストを保持し、それに追加します。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

長い履歴は、その後の呼び出しでより多くの入力トークンを意味することを覚えておいてください。長いセッションでは、最も古いターンをトリミングまたは要約してください。

レスポンシブなインターフェースのためのストリーミング

streamをtrueに設定すると、サーバーはサーバー送信イベント(SSE)を介してテキストを分割して送信し、チャットウィンドウでは到着した順に文字を表示できます。使用量データはストリームの最後に送信されます。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

実用的な注意点:ストリーミングリクエストは、ストリームが終了するまで1つの同時接続スロットを保持するため、接続が放棄されるとスロットがしばらく占有されたままになります。

1回の呼び出しの料金

料金はトークン単位で従量制:入力トークン100万あたり$0.15、出力トークン100万あたり$0.50で、前払いクレジットから差し引かれます。サブスクリプションはなく、失敗または拒否されたリクエストには課金されません。クレジットは期限切れになりません。

前述の小さな呼び出しを想定し、1,200トークンの入力と400トークンの出力を使用したとします:

  • 入力:1,200 / 1,000,000 x $0.15 = $0.00018
  • 出力:400 / 1,000,000 x $0.50 = $0.00020
  • 合計:$0.00038

$0.50のトライアル残高では、そのサイズの呼び出しが約1,300回分カバーできます($0.50を$0.00038で割ると約1,316回)。トライアルは7日間有効で、カードの登録は不要です。チャージに進むと、チャージ額は$20から$500まで整数単位で、$50以上で5%、$100以上で10%、$200以上で15%のボーナスが付与されます。現在の詳細と受け付けられる支払い方法は料金ページをご覧ください。

出力トークンは入力トークンよりも高価なので、短い回答で十分であれば短い回答を依頼するのが最も安価な習慣です。「2文で答えてください」などのシステムメッセージは、請求額と待ち時間の両方を削減します。

最初に遭遇するエラーと制限

初期の失敗の多くは、いくつかのグループに分類されます。

症状一般的な原因修正方法
認証エラー(通常HTTP 401)キーの不足または誤り、またはBearerの省略ヘッダーを確認し、API キーの末尾にスペースがないことを確認してください
リクエストが不正な形式として拒否されました(通常は HTTP 400)JSON が無効、または messages が不足していますJSON を検証してください。curl の場合、-d の周囲の引用符に注意してください
HTTP 429、コード rate_limitedフルキーでは1分あたり300リクエスト、トライアルキーでは60リクエストを超える場合間隔を開けて再試行する
HTTP 429、コード concurrencyフルキーでは同時に 8 件、トライアルキーでは同時に 2 件を超えるリクエストコード内でリクエストをキューに追加してください
HTTP 429、Retry-After: 5一時的な過負荷指定された 5 秒待機してから再試行してください

再試行の追加は簡単です。このバージョンは、失敗した試行のたびに少し長い時間待機します:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

リクエストボディは最大 8 MB まで可能で、これはコンテキストウィンドウに収まる任意のプロンプトよりもはるかに大きいです。

検索機能付きサイト向けの注記

このサイトのページはウェブ検索について言及しているため、1 つの補足説明が有用です。ここで説明されているエンドポイントはテキストモデルです。インターネットを自動的に閲覧するわけではなく、提供されていないページにはアクセスできません。製品に最新のウェブ結果が必要な場合は、独自のコードで取得し、関連するスニペットをユーザーメッセージに配置するか、ツール呼び出しを通じて検索関数をツールとして公開し、モデルにそれを要求させます。

いずれにせよ、呼び出しの形式は上記の例と同じままです。メッセージを送信し、テキストを取得し、両方向のトークンに対して課金されます。準備ができたら、API キーを作成して、このページの上部にある curl コマンドを実行してください。

質問と回答

この API を呼び出すために OpenAI ライブラリが必要ですか?

いいえ。通常の JSON POST であるため、任意の HTTP クライアントが機能します。OpenAI SDK は便利ですが、必要なのは、異なる Base URL と API キーだけです。

なぜ後続の質問にはコンテキストのない回答が返されるのですか?

API は呼び出し間でメモリを保持しません。毎回、messages 配列に以前のメッセージを再度送信してください。

呼び出しで何トークン使用したかを確認するにはどうすればよいですか?

レスポンスの usage フィールドを読み取ってください。そこにはプロンプトトークンと completion トークンがリストされており、これらが価格の基準となる 2 つの数値です。

HTTP 429 の後どうすればよいですか?

待機して再試行してください。Retry-After ヘッダーが存在する場合は、その時間待機します。存在しない場合は、数秒間バックオフし、同時に送信するリクエストの数を減らしてください。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。