KO ▾
llmwebsearchapi.com
llmwebsearchapi.com›가이드
API 키 받기

Python과 curl로 첫 LLM API 호출하기

실제 LLM API 호출 방법은 다음과 같습니다: 키, 모델 이름, 메시지 목록이 포함된 하나의 POST 요청이며, 응답은 JSON으로 반환됩니다. 이 페이지는 curl, Python, 스트리밍, 비용 및 처음 마주할 오류를 다룹니다.

터미널이 데이터 패킷을 큐브로 보내고, 큐브가 말풍선을 반환하는 아이소메트릭 일러스트레이션

다섯 단계로 호출하기

매뉴얼을 읽지 않고 LLM API 호출 방법을 알고 싶다면 전체 절차는 다음과 같습니다. 모든 채팅 스타일 언어 모델 요청은 사용하는 클라이언트에 관계없이 동일한 다섯 단계를 따릅니다.

  1. 키 페이지에서 API 키를 가져오세요. 새 계정은 한 번의 클릭으로 작은 체험 잔액을 받을 수 있습니다.
  2. 엔드포인트 선택: https://api.llmwebsearchapi.com/v1/chat/completions.
  3. 헤더 Authorization: Bearer YOUR_API_KEY에 키를 포함하세요.
  4. model을 uncensored로 설정하고 messages 목록을 포함하는 JSON 본문을 전송하세요.
  5. 반환된 JSON에서 choices[0].message.content을 읽으세요.

이것이 전부입니다. 이 페이지의 나머지 내용은 이 다섯 단계 주변의 세부 사항입니다: 메시지 목록에 무엇이 포함되어야 하는지, 호출 비용을 어떻게 확인하는지, 서버가 텍스트 대신 오류로 응답할 때 어떻게 처리하는지.

curl로 첫 요청 보내기

curl은 라이브러리 없이 키와 네트워크 경로가 작동하는지 확인하는 가장 빠른 방법입니다. 긴 명령어의 일부로 셸 히스토리에 키가 남지 않도록 먼저 환경 변수에 키를 저장하세요.

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

본문에는 세 가지 중요한 부분이 있습니다. model은 응답할 모델을 지정합니다. 이 서비스에는 하나의 모델만 있으므로 값은 항상 uncensored입니다. messages는 지금까지의 대화입니다. temperature은 출력의 표현 다양성을 조절하며, 0에 가까울수록 반복적인 출력이 생성되고 약 1에 가까울수록 더 다양한 표현이 생성됩니다.

아무것도 생성하지 않고 키가 승인되었는지 확인할 수도 있습니다. 동일한 Authorization 헤더와 함께 /v1/models으로 GET 요청을 보내세요. 목록에 uncensored이 포함되어 있으면 인증이 작동하며 이후의 모든 실패는 키가 아닌 요청 본문과 관련이 있습니다.

Python에서의 동일한 호출

특별한 클라이언트가 필요하지 않습니다. 다른 Base URL을 가리키면 공식 openai 패키지가 작동합니다. pip install openai로 설치하세요.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

코드에 복사할 가치가 있는 두 가지 사항이 있습니다. 첫째, 키를 소스 파일에 넣지 마세요. 실험을 넘어선 후에는 os.environ["API_KEY"]로 환경 변수에서 읽으세요. 둘째, 학습 중에는 resp.usage를 출력하세요. 텍스트 옆에 토큰 수를 보는 것은 호출 비용에 대한 감각을 얻는 가장 빠른 방법입니다.

인터페이스가 OpenAI 형식을 따르므로 Node, Go, Ruby 또는 일반 fetch에서도 동일한 구조가 작동합니다. POST 주변의 구문만 다릅니다. 문서의 빠른 시작은 지원되는 매개변수를 나열합니다.

응답 읽기

응답은 JSON 객체입니다. 다음 네 가지 부분을 가장 자주 다룹니다:

  • choices[0].message.content은 생성된 텍스트입니다.
  • choices[0].finish_reason은 생성이 중단된 이유를 나타냅니다. stop은 모델이 완료되었음을 의미하며, length은 토큰 제한에 도달했음을 의미하며 텍스트가 잘릴 수 있습니다.
  • usage에는 prompt_tokens, completion_tokens 및 총계가 포함됩니다. 이는 청구의 기준이 됩니다.
  • 응답 헤더에는 X-Request-Id 및 X-Balance-USD이 포함됩니다. 모든 호출에 요청 ID를 로그에 기록하세요. 지원에 문의할 때 해당 ID로 정확한 요청을 찾을 수 있습니다.

컨텍스트 창은 프롬프트와 생성 텍스트를 합산하여 100,000개의 토큰입니다. 일반적인 채팅 턴은 그 중 아주 작은 부분만 사용합니다. 전체 문서를 붙여넣거나 매우 긴 기록을 전송할 때만 제한을 느끼기 시작합니다. max_tokens은 선택 사항입니다. 이를 생략하면 생성 텍스트는 창에 남은 공간을 모두 사용할 수 있습니다.

메시지, 메모리 및 스트리밍

API는 당신을 기억하지 않습니다

이것은 채팅 웹사이트만 사용해 본 사람들에게 놀랍습니다. 각 호출은 독립적입니다. 사용자가 후속 질문을 하면 이전 턴을 다시 보내야 합니다: 시스템 메시지, 첫 번째 질문, 모델의 첫 번째 답변, 그 다음 새로운 질문. 코드에서 목록을 유지하고 추가합니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

긴 기록은 이후 모든 호출에서 더 많은 입력 토큰을 의미한다는 점을 기억하세요. 긴 세션의 경우 가장 오래된 턴을 잘라내거나 요약하세요.

반응형 인터페이스를 위한 스트리밍

stream을 true로 설정하면 서버가 서버 전송 이벤트를 통해 텍스트를 조각으로 보내므로 채팅 창은 도착하는 대로 단어를 표시할 수 있습니다. 사용량 데이터는 스트림 끝에 도착합니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

실용적인 팁: 스트리밍 요청은 스트림이 끝날 때까지 동시 요청 슬롯 중 하나를 점유합니다. 따라서 연결이 끊기면 해당 슬롯이 잠시 동안 점유된 상태로 유지됩니다.

한 번 호출의 비용

가격은 토큰당 종량제이며 선불 크레딧에서 차감됩니다: 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50. 구독이 없으며 실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 크레딧은 만료되지 않습니다.

이전의 작은 호출을 가져와서 입력 토큰 1,200개와 출력 토큰 400개를 사용했다고 가정해 보세요:

  • 입력: 1,200 / 1,000,000 x $0.15 = $0.00018
  • 출력: 400 / 1,000,000 x $0.50 = $0.00020
  • 총계: $0.00038

$0.50 체험 잔액은 $0.50을 $0.00038로 나눈 값이 약 1,316이므로, 해당 크기의 호출 약 1,300회를 감당할 수 있습니다. 체험은 7일 동안 유효하며 카드가 필요하지 않습니다. 다음 단계로 넘어갈 때, 충전금은 $20부터 $500까지 정수 단위로 진행되며, $50부터 5%, $100부터 10%, $200부터 15%의 보너스가 제공됩니다. 가격 책정 페이지에는 현재 세부 정보와 허용된 결제 방법이 나와 있습니다.

출력 토큰은 입력 토큰보다 비싸므로, 짧은 답변으로 충분할 때 짧은 답변을 요청하는 것이 가장 저렴한 습관입니다. "두 문장으로 답변하세요"와 같은 시스템 메시지는 청구서와 대기 시간을 함께 줄입니다.

처음 마주할 오류 및 제한

초기 실패의 대부분은 몇 가지 그룹으로 나뉩니다.

증상일반적인 원인해결 방법
인증 오류 (일반적으로 HTTP 401)누락된 키, 잘못된 키 또는 Bearer 누락헤더를 확인하고 키에 후행 공백이 없는지 확인하세요
잘못된 형식으로 요청 거부 (일반적으로 HTTP 400)JSON이 잘못되었거나 messages가 누락되었습니다JSON을 검증하세요; curl에서는 -d의 따옴표에 주의하세요
HTTP 429, 코드 rate_limited전체 키의 경우 분당 300개를 초과하는 요청, 또는 체험용 키의 경우 분당 60개속도를 늦추고 재시도하세요.
HTTP 429, 코드 concurrency전체 키의 경우 동시에 8개를 초과하는 요청, 또는 체험용 키의 경우 동시에 2개코드에서 요청을 대기열에 넣으세요
HTTP 429, Retry-After: 5일시적 과부하지정된 5초를 기다린 후 다시 시도하세요

재시도는 쉽게 추가할 수 있습니다. 이 버전은 각 실패 시도 후 조금 더 기다립니다:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

요청 본문은 최대 8 MB까지 가능하며, 이는 컨텍스트 창에 들어갈 수 있는 어떤 프롬프트보다 훨씬 큽니다.

검색 특화 사이트를 위한 참고 사항

이 사이트의 페이지는 웹 검색에 대해 다루고 있으므로, 한 가지 명확히 할 점이 있습니다: 여기서 설명하는 엔드포인트는 텍스트 모델입니다. 스스로 인터넷을 탐색하지 않으며, 제공하지 않은 페이지에 접근할 수 없습니다. 제품에 최신 웹 결과가 필요하다면, 자체 코드에서 이를 가져와서 사용자 메시지에 관련 발췌문을 넣거나, 함수 호출을 통해 검색 기능을 도구로 노출하고 모델이 이를 요청하도록 하세요.

어떤 방식이든 호출의 형태는 위의 예제와 동일하게 유지됩니다. 메시지를 전송하면 텍스트를 받고, 양방향 토큰에 대해 지불합니다. 준비가 되면 API 키를 생성하고 이 페이지 상단의 curl 명령어를 실행하세요.

질문과 답변

이 API를 호출하려면 OpenAI 라이브러리가 필요합니까?

아니요. 일반 JSON POST이므로 모든 HTTP 클라이언트가 작동합니다. OpenAI SDK는 편리하며, 다른 Base URL과 키만 있으면 됩니다.

왜 후속 질문의 답변에 컨텍스트가 없습니까?

API는 호출 간에 메모리를 유지하지 않습니다. 매번 messages 배열에 이전 메시지를 다시 보내세요.

호출에 사용된 토큰 수를 어떻게 확인합니까?

응답의 usage 필드를 읽으세요. 여기에는 프롬프트 토큰과 completion 토큰이 나열되어 있으며, 이는 가격 책정의 기준이 되는 두 숫자입니다.

HTTP 429 후 어떻게 해야 합니까?

대기하고 재시도하세요. Retry-After 헤더가 있는 경우 해당 시간만큼 기다리세요; 그렇지 않으면 몇 초 동안 백오프하고 동시에 보내는 요청 수를 줄이세요.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.