मॉडल
जानें कि अपने उपयोग-मामले के लिए सही मॉडल कैसे चुनें
ElevenAgents आपके एजेंट को कई मॉडल और प्रोवाइडर्स से जोड़ने के लिए एक यूनिफ़ाइड इंटरफ़ेस देता है, जिससे आपको लचीलापन, भरोसेमंदता और लागत ऑप्टिमाइज़ेशन मिलता है।
यहां मॉडल चुनने के बजाय, वॉइस एजेंट रियलटाइम मॉडल का उपयोग कर सकते हैं, जो कम लेटेंसी वाली वॉइस बातचीत के लिए बनाया गया ElevenLabs मॉडल है।
मुख्य सुविधाएं
- यूनिफ़ाइड एक्सेस: कम से कम कोड बदलावों के साथ प्रोवाइडर्स और मॉडल बदलें
- उच्च भरोसेमंदता: एक प्रोवाइडर के विफल होने पर दूसरे पर अपने-आप स्विच करें
- खर्च की निगरानी: अलग-अलग मॉडलों पर अपना खर्च मॉनिटर करें
समर्थित मॉडल
फ़िलहाल, निम्न मॉडल नेटिव रूप से समर्थित हैं और एजेंट सेटिंग्स से कॉन्फ़िगर किए जा सकते हैं:
आम तौर पर, कीमत को प्रति 10 लाख टोकन के लिए USD में बताया जाता है, जब तक कि कुछ और न लिखा हो। टोकन LLM के लिए टेक्स्ट डेटा की मूल इकाई है, जो औसतन लगभग 4 वर्णों के बराबर होती है।
कस्टम LLM
हमारे सुरक्षित सीक्रेट स्टोरेज के ज़रिए क्रेडेंशियल देकर और वह एंडपॉइंट बताकर, जिस पर हमें अनुरोध भेजने चाहिए, अपने कस्टम LLM का उपयोग किया जा सकता है। कस्टम LLM इंटीग्रेशन के बारे में और जानें।
EU डेटा रेज़िडेंसी सक्षम होने पर कुछ मॉडल उपलब्ध नहीं होते। उपलब्धता की जानकारी के लिए GDPR और डेटा रेज़िडेंसी देखें।
मॉडल चुनना
अपने ऐप्लिकेशन के लिए सबसे उपयुक्त LLM चुनते समय कई बातों पर विचार करना होता है:
- टास्क की जटिलता: अपने ऐप्लिकेशन के प्रतिनिधि कार्यों पर मॉडलों का मूल्यांकन करें
- लेटेंसी की ज़रूरतें: लाइव वॉइस बातचीत के लिए कम लेटेंसी वाला मॉडल चुनें और अपने प्रॉम्प्ट व टूल के साथ रिस्पॉन्स टाइम मापें
- कॉन्टेक्स्ट विंडो का आकार: अगर आपके ऐप्लिकेशन को लंबी बातचीत या विस्तृत दस्तावेज़ों से जानकारी प्रोसेस, समझने या याद रखने की ज़रूरत है, तो बड़ी कॉन्टेक्स्ट विंडो वाले मॉडल चुनें
- लागत-प्रभावशीलता: अपने बजट के साथ वांछित परफ़ॉर्मेंस और सुविधाओं का संतुलन बनाएं। LLM की कीमतें काफी अलग हो सकती हैं, इसलिए अपने अनुमानित उपयोग पैटर्न के आधार पर मूल्य संरचना (इनपुट, आउटपुट और कैश टोकन) का विश्लेषण करें
- HIPAA अनुपालन: अगर आपके ऐप्लिकेशन में प्रोटेक्टेड हेल्थ इन्फ़ॉर्मेशन (PHI) शामिल है, तो HIPAA अनुपालक घोषित LLM का उपयोग करना और यह सुनिश्चित करना ज़रूरी है कि आपकी पूरी डेटा हैंडलिंग प्रक्रिया नियामक मानकों को पूरा करती हो
अधिकतम सिस्टम प्रॉम्प्ट आकार 2MB है, जिसमें आपके एजेंट के निर्देश, नॉलेज बेस कॉन्टेंट और अन्य सिस्टम-स्तरीय कॉन्टेक्स्ट शामिल हैं।
मॉडल कॉन्फ़िगरेशन
टेम्परेचर
टेम्परेचर मॉडल के रिस्पॉन्स की रैंडमनेस नियंत्रित करता है। कम वैल्यू अधिक एकरूप, केंद्रित आउटपुट देती हैं, जबकि अधिक वैल्यू रचनात्मकता और विविधता बढ़ाती हैं।
- कम (0.0-0.3): संरचित इंटरैक्शन के लिए निर्धारक, एकरूप रिस्पॉन्स
- मध्यम (0.4-0.7): रचनात्मकता और एकरूपता का संतुलन
- उच्च (0.8-1.0): गतिशील बातचीत के लिए रचनात्मक, विविध रिस्पॉन्स
बैकअप LLM कॉन्फ़िगरेशन
प्राथमिक LLM के विफल होने या अनुपलब्ध होने पर बातचीत जारी रखने के लिए बैकअप LLM कॉन्फ़िगर करें।
कॉन्फ़िगरेशन विकल्प:
- डिफ़ॉल्ट: ElevenLabs के सुझाए गए फ़ॉलबैक क्रम का उपयोग करता है
- कस्टम: बैकअप मॉडलों का अपना कैस्केडिंग क्रम तय करें
- अक्षम: कोई फ़ॉलबैक नहीं (प्रोडक्शन के लिए बिल्कुल अनुशंसित नहीं)
बैकअप LLM अक्षम करने का मतलब है कि प्राथमिक LLM के विफल होने या अनुपलब्ध होने पर बातचीत अचानक समाप्त हो जाएगी। प्रोडक्शन उपयोग के लिए यह बिल्कुल अनुशंसित नहीं है।
LLM कैस्केडिंग के बारे में और जानें।
रीजनिंग
रीजनिंग एजेंटों को जटिल निर्णय संभालने में मदद करती है, जैसे टूल के बीच चुनाव करना, नीतियां लागू करना या कई चरणों वाले वर्कफ़्लो पूरे करना। मॉडल के आधार पर, आप थिंकिंग बजट या रीजनिंग एफ़र्ट स्तर के साथ तय कर सकते हैं कि वह कितनी रीजनिंग करेगा।
थिंकिंग बजट
न्यूमेरिक स्लाइडर से रीजनिंग टोकन की अधिकतम संख्या तय करें। बड़े बजट से रिस्पॉन्स समय बढ़ सकता है। अगर मॉडल अनुमति देता है, तो थिंकिंग अक्षम करने के लिए बजट 0 पर सेट करें।
रीजनिंग एफ़र्ट
रीजनिंग एफ़र्ट तय करता है कि मॉडल जवाब देने से पहले कितनी रीजनिंग करता है। उपलब्ध स्तर चुने गए मॉडल पर निर्भर करते हैं।
लाइव वॉइस एजेंट के लिए कम बजट या एफ़र्ट से शुरू करें, क्योंकि अतिरिक्त थिंकिंग से बारी लेने में देरी हो सकती है। अधिक जटिल निर्णयों वाले वर्कफ़्लो चरणों के लिए इसे बढ़ाएं।
रीजनिंग सारांश
रिस्पॉन्स, टूल कॉल या वर्कफ़्लो पाथ डीबग करते समय मॉडल की लौटाई गई रीजनिंग कैप्चर करने के लिए रीजनिंग सारांश सक्षम करें। एजेंट की LLM सेटिंग्स में रीजनिंग सारांश चालू करें या API के ज़रिए enable_reasoning_summary सेट करें। यह सेटिंग डिफ़ॉल्ट रूप से बंद रहती है।
कस्टम एंडपॉइंट के लिए, ElevenLabs रीजनिंग का अनुरोध और स्टोर कैसे करता है देखें।
रीजनिंग कॉन्टेंट रिटेंशन और PII रिडैक्शन सेटिंग्स के अधीन है। आप इसे इन चैनलों के ज़रिए एक्सेस कर सकते हैं:
ज़ीरो रिटेंशन मोड में, ElevenLabs **रीजनिंग कॉन्टेंट स्टोर नहीं करता **। इसे सिर्फ़ चैट क्लाइंट और पोस्ट-कॉल वेबहुक को भेजा जाता है।
सीमाएं
- रीजनिंग सारांश का अनुरोध करने से रिस्पॉन्स लेटेंसी बढ़ सकती है। लेटेंसी-संवेदनशील वॉइस एजेंट पर इसे सक्षम करने से पहले परीक्षण करें।
- प्रोवाइडर सारांश, विचार टेक्स्ट, रॉ रीजनिंग डेल्टा या कोई भी प्रदर्शित किया जा सकने वाला कॉन्टेंट नहीं लौटा सकते हैं।
कीमत समझना
- टोकन: LLM उपयोग का बिल आम तौर पर प्रोसेस किए गए टोकन की संख्या के आधार पर होता है। अंग्रेज़ी टेक्स्ट के लिए सामान्य तौर पर 100 टोकन लगभग 75 शब्दों के बराबर होते हैं
- इनपुट बनाम आउटपुट कीमत: प्रोवाइडर अक्सर इनपुट टोकन (वह डेटा जो आप मॉडल को भेजते हैं) और आउटपुट टोकन (जवाब में मॉडल द्वारा जनरेट किया गया डेटा) के लिए अलग-अलग कीमत तय करते हैं
- कैश कीमत:
input_cache_read: यह कैश से पहले प्रोसेस किए गए इनपुट डेटा को प्राप्त करने से जुड़ी लागत है। एक जैसे इनपुट को कई बार प्रोसेस करने पर कैश किए गए डेटा का उपयोग लागत बचा सकता हैinput_cache_write: यह इनपुट डेटा को कैश में स्टोर करने से जुड़ी लागत है। कुछ LLM प्रोवाइडर इस ऑपरेशन के लिए शुल्क ले सकते हैं
- इस दस्तावेज़ में दी गई कीमतें प्रति 10 लाख टोकन की हैं और लेखन के समय उपलब्ध जानकारी पर आधारित हैं। LLM प्रोवाइडर इन कीमतों को बदल सकते हैं
- पास-थ्रू कीमत: ElevenLabs बिना किसी मार्कअप के, प्रोवाइडर की प्रकाशित दर पर थर्ड-पार्टी LLM लागत पास करता है। चुनिंदा Gemini और Claude मॉडल Vertex AI की क्षेत्रीय (नॉन-ग्लोबल) कीमतों के अनुरूप हैं, जिन पर US और EU ट्रैफ़िक का बिल होता है — इनपुट, आउटपुट और कैश टोकन पर 10% बढ़ोतरी, जो Vertex की क्षेत्रीय दरों से मेल खाती है
मौजूदा मॉडल क्षमताओं, कीमतों और सेवा की शर्तों के लिए प्रोवाइडर का दस्तावेज़ देखें।
HIPAA अनुपालन
हमारे प्लैटफ़ॉर्म पर उपलब्ध कुछ LLM, HIPAA अनुपालन आवश्यक वाले परिवेशों में उपयोग के लिए उपयुक्त हो सकते हैं। अधिक जानकारी के लिए HIPAA अनुपालन दस्तावेज़ देखें।
संबंधित संसाधन
ElevenLabs द्वारा होस्ट किए गए मॉडल
ElevenLabs कई तरह के AI मॉडलों का एक्सेस देता है, जिनमें ElevenLabs द्वारा होस्ट किए गए चुनिंदा थर्ड-पार्टी मॉडल भी शामिल हैं।
जब किसी मॉडल को “ElevenLabs द्वारा होस्ट किया गया” बताया जाता है, तो वह मॉडल ElevenLabs द्वारा प्रबंधित इन्फ़्रास्ट्रक्चर पर डिप्लॉय और संचालित होता है। ये मॉडल फ़िलहाल अमेरिका में या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
ElevenLabs द्वारा होस्ट किए गए मॉडल की पहचान कैसे करें
ElevenLabs द्वारा होस्ट किए गए मॉडल को ElevenLabs इंटरफ़ेस में स्पष्ट रूप से लेबल किया जाता है। मॉडल ब्राउज़ या चुनते समय “ElevenLabs द्वारा होस्ट किया गया” लेबल देखें।
आपके डेटा को कैसे हैंडल किया जाता है
ElevenLabs द्वारा होस्ट किए गए मॉडलों के लिए, अनुरोध ElevenLabs-प्रबंधित इन्फ़्रास्ट्रक्चर में प्रोसेस होते हैं। इसका मतलब है कि मूल मॉडल प्रोवाइडर को ElevenLabs के माध्यम से सबमिट किए गए इनपुट और आउटपुट प्राप्त नहीं होते, न ही वह उन्हें एक्सेस या प्रोसेस करता है।
इन मॉडलों को होस्ट करके, ElevenLabs मॉडल अनुरोधों के लिए उपयोग किए जाने वाले इन्फ़्रास्ट्रक्चर पर नियंत्रण बनाए रखते हुए एक एकरूप अनुभव दे सकता है।
अक्सर पूछे जाने वाले सवाल
सेल्फ़-होस्टेड मॉडल कहां होस्ट किए जाते हैं?
ElevenLabs द्वारा होस्ट किए गए मॉडल फ़िलहाल अमेरिका में स्थित इन्फ़्रास्ट्रक्चर पर या आपके एंटरप्राइज़ डिप्लॉयमेंट के क्षेत्र में होस्ट किए जाते हैं।
क्या मूल मॉडल प्रोवाइडर मेरे डेटा या मेरे उपयोग के मेटाडेटा को एक्सेस करता है?
ElevenLabs द्वारा होस्ट किए गए मॉडलों के लिए, मॉडल के मूल डेवलपर को कभी भी आपके इनपुट या आउटपुट नहीं मिलते और उन्हें उन्हें प्रोसेस करने वाले डिप्लॉयमेंट के डेटा का कोई एक्सेस नहीं होता।
मुझे कैसे पता चलेगा कि कोई मॉडल ElevenLabs द्वारा होस्ट किया गया है?
ElevenLabs द्वारा होस्ट किए गए मॉडल को ElevenLabs इंटरफ़ेस में “ElevenLabs द्वारा होस्ट किया गया” लेबल के साथ स्पष्ट रूप से पहचाना जाता है।