रिट्रीवल-ऑगमेंटेड जेनरेशन

ओवरव्यू

रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG) आपके एजेंट को बातचीत के दौरान बड़े नॉलेज बेस का ऐक्सेस लेने और उनका इस्तेमाल करने देता है। पूरे दस्तावेज़ों को कॉन्टेक्स्ट विंडो में लोड करने के बजाय, RAG हर यूज़र क्वेरी के लिए सिर्फ़ सबसे प्रासंगिक जानकारी ढूंढता है, जिससे आपका एजेंट:

• प्रॉम्प्ट में समा सकने वाले आकार से कहीं बड़े नॉलेज बेस का ऐक्सेस ले सकता है
• ज़्यादा सटीक, जानकारी पर आधारित जवाब दे सकता है
• स्रोत सामग्री का संदर्भ देकर हैलुसिनेशन कम कर सकता है
• कई विशेष एजेंट बनाए बिना जानकारी को स्केल कर सकता है

RAG उन एजेंट्स के लिए आदर्श है जिन्हें बड़े दस्तावेज़ों, तकनीकी मैनुअल या विस्तृत नॉलेज बेस का संदर्भ लेना होता है, जो पारंपरिक प्रॉम्प्टिंग की कॉन्टेक्स्ट विंडो सीमाओं से अधिक हों। RAG आपके एजेंट के जवाब के समय में लगभग 250ms की थोड़ी देरी जोड़ता है।

RAG कैसे काम करता है

RAG सक्षम होने पर, आपका एजेंट इन चरणों के ज़रिए यूज़र क्वेरी प्रोसेस करता है:

1. क्वेरी प्रोसेसिंग: यूज़र के सवाल का विश्लेषण किया जाता है और बेहतर रिट्रीवल के लिए उसे दोबारा तैयार किया जाता है।
2. एम्बेडिंग जनरेशन: प्रोसेस की गई क्वेरी को वेक्टर एम्बेडिंग में बदला जाता है, जो यूज़र के सवाल को दर्शाती है।
3. रिट्रीवल: सिस्टम आपके नॉलेज बेस से अर्थ की दृष्टि से सबसे मिलती-जुलती सामग्री ढूंढता है।
4. जवाब जनरेशन: एजेंट बातचीत के कॉन्टेक्स्ट और रिट्रीव की गई जानकारी, दोनों का इस्तेमाल करके जवाब तैयार करता है।

यह प्रक्रिया सुनिश्चित करती है कि यूज़र की क्वेरी से जुड़ी प्रासंगिक जानकारी तथ्यात्मक रूप से सही जवाब बनाने के लिए LLM को भेजी जाए।

गाइड

ज़रूरी शर्तें

• एक ElevenLabs अकाउंट
• कॉन्फ़िगर किया गया ElevenLabs कन्वर्सेशनल एजेंट
• आपके एजेंट के नॉलेज बेस में जोड़ा गया कम से कम एक दस्तावेज़

अपने एजेंट के लिए RAG सक्षम करें

नॉलेज बेस इंडेक्सिंग

RAG के साथ इस्तेमाल होने से पहले, आपके नॉलेज बेस के हर दस्तावेज़ को इंडेक्स करना ज़रूरी है। यह प्रक्रिया RAG सक्षम एजेंट में दस्तावेज़ जोड़े जाने पर अपने-आप होती है।

दस्तावेज़ इस्तेमाल मोड कॉन्फ़िगर करें (वैकल्पिक)

अपने नॉलेज बेस के हर दस्तावेज़ के लिए, आप चुन सकते हैं कि उसका इस्तेमाल कैसे हो:

• Auto (डिफ़ॉल्ट): दस्तावेज़ सिर्फ़ क्वेरी से प्रासंगिक होने पर रिट्रीव किया जाता है
• Prompt: प्रासंगिकता की परवाह किए बिना, दस्तावेज़ हमेशा सिस्टम प्रॉम्प्ट में शामिल किया जाता है

अपने RAG-सक्षम एजेंट को टेस्ट करें

अपना कॉन्फ़िगरेशन सेव करने के बाद, अपने नॉलेज बेस से जुड़े सवाल पूछकर एजेंट को टेस्ट करें। अब एजेंट आपके दस्तावेज़ों से खास जानकारी रिट्रीव कर सकेगा और उसका संदर्भ दे सकेगा।

इस्तेमाल की सीमाएं

संसाधनों का उचित आवंटन सुनिश्चित करने के लिए, ElevenLabs सब्सक्रिप्शन टियर के आधार पर हर वर्कस्पेस में RAG के लिए इंडेक्स किए जा सकने वाले दस्तावेज़ों के कुल आकार पर सीमाएं लागू करता है।

सीमाएं इस प्रकार हैं:

नोट:

• ये सीमाएं RAG के लिए इंडेक्स किए गए दस्तावेज़ों के कुल मूल फ़ाइल आकार पर लागू होती हैं, RAG इंडेक्स के आंतरिक स्टोरेज आकार पर नहीं (जो काफ़ी बड़ा हो सकता है)।
• 500 बाइट से छोटे दस्तावेज़ों को RAG के लिए इंडेक्स नहीं किया जा सकता और उनकी जगह अपने-आप प्रॉम्प्ट में इस्तेमाल किया जाएगा।

API इम्प्लीमेंटेशन

आप API के ज़रिए भी RAG इम्प्लीमेंट कर सकते हैं:

from elevenlabs import ElevenLabs
import time
# Initialize the ElevenLabs client
elevenlabs = ElevenLabs(api_key="your-api-key")
# First, index a document for RAG
document_id = "your-document-id"
embedding_model = "e5_mistral_7b_instruct"
# Trigger RAG indexing
response = elevenlabs.conversational_ai.knowledge_base.document.compute_rag_index(
    documentation_id=document_id,
    model=embedding_model
)
# Check indexing status
while response.status not in ["SUCCEEDED", "FAILED"]:
    time.sleep(5)  # Wait 5 seconds before checking status again
    response = elevenlabs.conversational_ai.knowledge_base.document.compute_rag_index(
        documentation_id=document_id,
        model=embedding_model
    )
# Then update agent configuration to use RAG
agent_id = "agent_7101k5zvyjhmfg983brhmhkd98n6"
# Get the current agent configuration
agent_config = elevenlabs.conversational_ai.agents.get(agent_id=agent_id)
# Enable RAG in the agent configuration
agent_config.agent.prompt.rag = {
    "enabled": True,
    "embedding_model": "e5_mistral_7b_instruct",
    "max_documents_length": 10000
}
# Update document usage mode if needed
for i, doc in enumerate(agent_config.agent.prompt.knowledge_base):
    if doc.id == document_id:
        agent_config.agent.prompt.knowledge_base[i].usage_mode = "auto"
# Update the agent configuration
elevenlabs.conversational_ai.agents.update(
    agent_id=agent_id,
    conversation_config=agent_config.agent
)