HI ▾
llmwebsearchapi.com
llmwebsearchapi.com›गाइड
API कुंजी पाएँ

Python और curl में अपना पहला LLM API कॉल बनाएं

यहाँ व्यावहारिक रूप से LLM API कॉल करने का तरीका है: एक कुंजी, मॉडल नाम और संदेशों की सूची के साथ एक POST अनुरोध, और जवाब JSON के रूप में वापस आता है। यह पृष्ठ curl, Python, streaming, लागत और उन त्रुटियों को कवर करता है जिनका आप सबसे पहले सामना करेंगे।

आइसोमेट्रिक चित्रण: एक टर्मिनल डेटा पैकेट एक घन को भेज रहा है, जो जवाब में बातचीत के बुलबुले (स्पीच बबल) लौटाता है

पाँच चरणों में कॉल

यदि आप मैनुअल पढ़े बिना LLM API कॉल कैसे करें, जानना चाहते हैं, तो यह पूरी प्रक्रिया है। किसी भी क्लाइंट का उपयोग करने पर, चैट-शैली के भाषा मॉडल को भेजे जाने वाले हर अनुरोध में वही पाँच चरण शामिल होते हैं।

  1. कुंजी पृष्ठ से एक API कुंजी प्राप्त करें। नए खाते वहाँ एक क्लिक में थोड़ा-सा मुफ़्त ट्रायल क्रेडिट प्राप्त कर सकते हैं।
  2. एंडपॉइंट चुनें: https://api.llmwebsearchapi.com/v1/chat/completions।
  3. हेडर Authorization: Bearer YOUR_API_KEY में कुंजी भेजें।
  4. एक JSON बॉडी भेजें जिसमें model को uncensored पर सेट किया गया हो और एक messages सूची हो।
  5. वापस आने वाले JSON से choices[0].message.content पढ़ें।

यही सब कुछ है। इस पृष्ठ पर बाकी सब कुछ उन पाँच चरणों के आसपास का विवरण है: संदेश सूची में क्या होना चाहिए, कॉल की लागत कैसे देखें, और जब सर्वर टेक्स्ट के बजाय एक त्रुटि के साथ जवाब देता है तो क्या करें।

curl के साथ आपका पहला अनुरोध

curl यह साबित करने का सबसे तेज़ तरीका है कि आपकी कुंजी और नेटवर्क पथ काम करते हैं, क्योंकि बीच में कोई लाइब्रेरी नहीं है। अपनी कुंजी को पहले एक एनवायरनमेंट वेरिएबल में सेव करें ताकि यह लंबे कमांड के हिस्से के रूप में आपकी शेल हिस्ट्री में न जाए।

export API_KEY="YOUR_API_KEY"

curl https://api.llmwebsearchapi.com/v1/chat/completions   -H "Authorization: Bearer $API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You answer in two short sentences."},
      {"role": "user", "content": "What is a token in a language model?"}
    ],
    "temperature": 0.7
  }'

बॉडी में तीन महत्वपूर्ण भाग हैं। model यह निर्धारित करता है कि कौन सा मॉडल आपको उत्तर देगा; इस सेवा पर केवल एक मॉडल है, इसलिए मान हमेशा uncensored होता है। messages अब तक का संवाद है। temperature शब्दों के चयन की साहसिकता को नियंत्रित करता है, 0 के करीब दोहराए जाने वाले आउटपुट के लिए और लगभग 1 तक अधिक विविधता के लिए।

आप यह भी जाँच सकते हैं कि कुंजी स्वीकार की गई है या नहीं, बिना कुछ उत्पन्न किए: /v1/models पर एक GET अनुरोध भेजें उसी Authorization हेडर के साथ। यदि सूची में uncensored शामिल है, तो प्रमाणीकरण काम कर रहा है और कोई भी बाद की विफलता अनुरोध बॉडी के बारे में है, न कि कुंजी के बारे में।

Python में वही कॉल

आपको एक विशेष क्लाइंट की आवश्यकता नहीं है। आधिकारिक openai पैकेज तब काम करेगा यदि आप इसे एक अलग बेस URL पर इशारा करें। इसे pip install openai के साथ इंस्टॉल करें।

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in two short sentences."},
        {"role": "user", "content": "What is a token in a language model?"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

दो चीज़ें अपने कोड में कॉपी करने योग्य हैं। पहला, कुंजी को स्रोत फ़ाइल से बाहर रखें; प्रयोगों से आगे बढ़ने पर os.environ["API_KEY"] के साथ उसे एक एनवायरनमेंट वेरिएबल से पढ़ें। दूसरा, सीखते समय resp.usage प्रिंट करें। टेक्स्ट के साथ टोकन गणना देखना यह जानने का सबसे तेज़ तरीका है कि एक कॉल की लागत क्या है।

क्योंकि इंटरफ़ेस OpenAI फ़ॉर्मेट का पालन करता है, Node, Go, Ruby या सादे fetch से वही शैली काम करती है। POST के आसपास सिर्फ़ सिंटैक्स बदलता है। दस्तावेज़ों में क्विकस्टार्ट में समर्थित पैरामीटर सूचीबद्ध हैं।

प्रतिक्रिया पढ़ना

प्रतिक्रिया एक JSON ऑब्जेक्ट है। आप इसके चार हिस्सों से सबसे अधिक काम करेंगे:

  • choices[0].message.content जनरेटेड टेक्स्ट है।
  • choices[0].finish_reason बताता है कि जनरेशन क्यों रुका। stop का मतलब है कि मॉडल समाप्त हो गया; length का मतलब है कि वह टोकन सीमा तक पहुँच गया और टेक्स्ट कट सकता है।
  • usage में prompt_tokens, completion_tokens और कुल शामिल हैं। बिलिंग इसी आधार पर होती है।
  • प्रतिक्रिया हेडर में X-Request-Id और X-Balance-USD शामिल हैं। प्रत्येक कॉल के साथ अनुरोध ID लॉग करें। यदि आप कभी सपोर्ट से संपर्क करते हैं, तो वह ID उन्हें आपका सटीक अनुरोध खोजने में सक्षम बनाती है।

कॉन्टेक्स्ट विंडो 100,000 टोकन की है, जिसमें प्रॉम्प्ट और कम्प्लीशन दोनों शामिल हैं। एक सामान्य चैट टर्न इसका बहुत छोटा हिस्सा उपयोग करता है। आप तब तक सीमा महसूस नहीं करते जब तक कि आप पूरे दस्तावेज़ पेस्ट न करें या बहुत लंबा संवाद इतिहास न भेजें। max_tokens वैकल्पिक है; यदि आप इसे छोड़ देते हैं, तो कम्प्लीशन विंडो में बचे किसी भी स्थान का उपयोग कर सकती है।

संदेश, मेमोरी और स्ट्रीमिंग

API आपको याद नहीं रखती

यह उन लोगों को हैरान कर देता है जिन्होंने केवल एक चैट वेबसाइट का इस्तेमाल किया है। हर कॉल अकेला खड़ा होता है। यदि यूज़र कोई फॉलो-अप सवाल पूछता है, तो आपको पिछले टर्न्स फिर से भेजने होंगे: सिस्टम मैसेज, पहला सवाल, मॉडल का पहला जवाब, और फिर नया सवाल। आपका कोड लिस्ट को रखता है और उसमें जोड़ता है।

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": "You are a concise assistant."}]

def ask(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    return answer

print(ask("Name one use for a text API."))
print(ask("Give a second one."))

याद रखें कि लंबी हिस्ट्री का मतलब हर बाद के कॉल पर अधिक इनपुट टोकन हैं। लंबे सत्रों के लिए, सबसे पुराने टर्न्स को ट्रिम या सारांशित करें।

रिस्पॉन्सिव इंटरफ़ेस के लिए स्ट्रीमिंग

stream को true पर सेट करें और सर्वर सर्वर-सेंट इवेंट के माध्यम से टेक्स्ट को टुकड़ों में भेजता है, ताकि चैट विंडो आने वाले शब्दों को दिखा सके। उपयोग आंकड़े स्ट्रीम के अंत में आते हैं।

from openai import OpenAI

client = OpenAI(base_url="https://api.llmwebsearchapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain HTTP in three sentences."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

एक व्यावहारिक बिंदु: एक स्ट्रीमिंग रिक्वेस्ट आपके कन्करेंसी स्लॉट में से एक को तब तक पकड़े रखता है जब तक स्ट्रीम खत्म न हो जाए, इसलिए छोड़ा हुआ कनेक्शन कुछ समय तक स्लॉट को व्यस्त रखता है।

एक कॉल की लागत

प्राइसिंग टोकन के आधार पर और पे-एज़-यू-गो है: 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50, जो प्रीपेड क्रेडिट से काटे जाते हैं। कोई सब्सक्रिप्शन नहीं है, और फेल या रिफ्यूज किए गए रिक्वेस्ट्स के लिए चार्ज नहीं किया जाता। क्रेडिट एक्सपायर नहीं होता।

पिछले छोटे कॉल को लें और कहें कि इसमें 1,200 इनपुट टोकन और 400 आउटपुट टोकन का इस्तेमाल हुआ:

  • इनपुट: 1,200 / 1,000,000 x $0.15 = $0.00018
  • आउटपुट: 400 / 1,000,000 x $0.50 = $0.00020
  • कुल: $0.00038

$0.50 ट्रायल बैलेंस उसी आकार के लगभग 1,300 कॉल को कवर कर सकता है, क्योंकि $0.50 को $0.00038 से बांटने पर लगभग 1,316 आते हैं। ट्रायल 7 दिनों के लिए वैध है और कार्ड की ज़रूरत नहीं है। जब आप आगे बढ़ते हैं, तो टॉप-अप $20 से $500 तक पूर्ण राशि में चलते हैं, $50 से 5% बोनस, $100 से 10% बोनस और $200 से 15% बोनस के साथ। प्राइसिंग पेज पर वर्तमान विवरण और स्वीकृत भुगतान विधियाँ दी गई हैं।

आउटपुट टोकन की लागत इनपुट टोकन से अधिक है, इसलिए सबसे सस्ती आदत छोटे जवाब मांगना है जब छोटे जवाब काफी हों। एक सिस्टम संदेश जैसे "दो वाक्यों में जवाब दें" बिल और प्रतीक्षा समय दोनों को कम करता है।

वे त्रुटियाँ और लिमिट्स जो आप पहले देखेंगे

शुरुआती विफलताओं का अधिकांश हिस्सा कुछ समूहों में आता है।

लक्षणसामान्य कारणसमाधान
प्रमाणीकरण त्रुटि (आमतौर पर HTTP 401)अनुपस्थित या गलत कुंजी, या Bearer शब्द छोड़ दिया गयाहेडर की जाँच करें, और सुनिश्चित करें कि कुंजी के बाद कोई अतिरिक्त स्पेस न हो
अनुरोध खराब प्रारूप के रूप में अस्वीकृत (आमतौर पर HTTP 400)अमान्य JSON, या messages की कमीJSON को मान्य करें; curl में -d के चारों ओर कोटेशन मार्क्स का ध्यान रखें
HTTP 429, कोड rate_limitedपूर्ण कुंजी पर प्रति मिनट 300 से अधिक अनुरोध, या ट्रायल कुंजी पर 60गति धीमी करें और पुनः प्रयास करें
HTTP 429, कोड concurrencyपूर्ण कुंजी पर एक साथ 8 से अधिक अनुरोध, या ट्रायल कुंजी पर 2अपने कोड में अनुरोधों को कतारबद्ध करें
HTTP 429 Retry-After: 5 के साथअस्थायी ओवरलोडबताए गए 5 सेकंड प्रतीक्षा करें और पुनः प्रयास करें

पुनः प्रयास करना जोड़ना आसान है। यह संस्करण प्रत्येक विफल प्रयास के बाद थोड़ा अधिक प्रतीक्षा करता है:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmwebsearchapi.com/v1",
    api_key="YOUR_API_KEY",
    max_retries=0,
)

def call_with_retry(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

अनुरोध बॉडी 8 MB तक हो सकती है, जो कॉन्टेक्स्ट विंडो में फिट होने वाले किसी भी प्रॉम्प्ट से कहीं अधिक है।

एक खोज-प्रधान साइट के लिए नोट

इस साइट के पेज वेब खोज के बारे में बात करते हैं, इसलिए एक स्पष्टीकरण उपयोगी है: यहाँ वर्णित एंडपॉइंट एक टेक्स्ट मॉडल है। यह स्वयं इंटरनेट ब्राउज़ नहीं करता है, और आपके द्वारा उसे न दिए गए पेजों तक उसकी कोई पहुँच नहीं है। यदि आपके उत्पाद को ताज़ा वेब परिणामों की आवश्यकता है, तो उन्हें अपने कोड में ही प्राप्त करें और प्रासंगिक स्निपेट्स को उपयोगकर्ता संदेश में रखें, या टूल कॉलिंग के माध्यम से अपने खोज फ़ंक्शन को एक टूल के रूप में उपलब्ध कराएँ और मॉडल को इसके लिए पूछने दें।

दोनों ही मामलों में, कॉल का स्वरूप ऊपर दिए गए उदाहरणों के समान ही रहता है। आप संदेश भेजते हैं, आपको टेक्स्ट वापस मिलता है, और आप दोनों दिशाओं में टोकन के लिए भुगतान करते हैं। जब आप तैयार हों, एक कुंजी बनाएं और इस पृष्ठ के शीर्ष पर curl कमांड चलाएं।

प्रश्न और उत्तर

क्या मुझे इस API को कॉल करने के लिए OpenAI लाइब्रेरी की आवश्यकता है?

नहीं। कोई भी HTTP क्लाइंट काम करता है क्योंकि यह एक सामान्य JSON POST है। OpenAI SDK सुविधाजनक हैं, और उन्हें केवल एक अलग Base URL और कुंजी की आवश्यकता होती है।

मेरे अगले प्रश्न का उत्तर बिना संदर्भ के क्यों आता है?

API कॉल के बीच कोई मेमोरी नहीं रखता है। प्रत्येक बार messages सरणी में पिछले संदेश फिर से भेजें।

मैं यह कैसे देखूं कि एक कॉल में कितने टोकन का उपयोग हुआ?

प्रतिक्रिया में usage फ़ील्ड पढ़ें। यह प्रॉम्प्ट टोकन और कम्प्लीशन टोकन सूचीबद्ध करता है, जो वे दो अंक हैं जिन पर कीमत निर्भर करती है।

HTTP 429 के बाद मुझे क्या करना चाहिए?

प्रतीक्षा करें और पुनः प्रयास करें। यदि Retry-After हेडर मौजूद है, तो उतना ही समय प्रतीक्षा करें; अन्यथा कुछ सेकंड रुकें और एक साथ भेजे जाने वाले अनुरोधों की संख्या कम करें।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।