Modellen

ElevenAgents biedt één interface waarmee je je agent kunt verbinden met meerdere modellen en providers, voor flexibiliteit, betrouwbaarheid en kostenoptimalisatie.

In plaats van hier een model te kiezen, kunnen spraakagenten een Realtime-model gebruiken: een ElevenLabs-model dat is gebouwd voor spraakgesprekken met lage latentie.

Belangrijkste functies

• Eén toegangspunt: Wissel tussen providers en modellen met minimale wijzigingen in de code
• Hoge betrouwbaarheid: Schakel automatisch over van de ene provider naar de andere als er een uitvalt
• Uitgavenmonitoring: Monitor je uitgaven voor verschillende modellen

Ondersteunde modellen

De volgende modellen worden momenteel standaard ondersteund en kunnen worden geconfigureerd via de agentinstellingen:

Aangepaste LLM

Je eigen aangepaste LLM gebruiken wordt ondersteund door het endpoint op te geven waarnaar we requests moeten sturen en inloggegevens via onze beveiligde secret storage te verstrekken. Lees meer over integratie van een aangepaste LLM.

Een model kiezen

Bij het selecteren van de meest geschikte LLM voor je applicatie moet je verschillende factoren overwegen:

• Complexiteit van taken: Evalueer modellen aan de hand van representatieve taken uit je applicatie
• Latentievereisten: Kies voor live spraakgesprekken een model met lage latentie en meet de reactietijd met je prompts en tools
• Grootte van het contextvenster: Als je applicatie informatie uit lange gesprekken of uitgebreide documenten moet verwerken, begrijpen of onthouden, selecteer dan modellen met grotere contextvensters
• Kosteneffectiviteit: Weeg de gewenste prestaties en functies af tegen je budget. LLM-prijzen kunnen sterk verschillen, dus analyseer de prijsstructuur (input-, output- en cachetokens) in verhouding tot je verwachte gebruikspatronen
• HIPAA-naleving: Als je applicatie Protected Health Information (PHI) verwerkt, is het essentieel om een LLM te gebruiken die als HIPAA-conform is aangemerkt en ervoor te zorgen dat je volledige gegevensverwerkingsproces aan de wettelijke normen voldoet

Modelconfiguratie

Temperatuur

Temperatuur bepaalt de willekeurigheid van modelreacties. Lagere waarden leveren consistentere, gerichtere output op, terwijl hogere waarden de creativiteit en variatie vergroten.

• Laag (0.0-0.3): Deterministische, consistente reacties voor gestructureerde interacties
• Gemiddeld (0.4-0.7): Evenwicht tussen creativiteit en consistentie
• Hoog (0.8-1.0): Creatieve, gevarieerde reacties voor dynamische gesprekken

Configuratie van backup-LLM’s

Configureer backup-LLM’s om de continuïteit van gesprekken te waarborgen wanneer de primaire LLM uitvalt of niet beschikbaar wordt.

Configuratieopties:

• Standaard: Gebruikt de aanbevolen fallbackvolgorde van ElevenLabs
• Aangepast: Definieer je eigen cascadevolgorde van backupmodellen
• Uitgeschakeld: Geen fallback (sterk afgeraden voor productie)

Lees meer over LLM-cascadering.

Redeneren

Redeneren helpt agents complexe beslissingen af te handelen, zoals kiezen tussen tools, beleid toepassen of workflows met meerdere stappen voltooien. Afhankelijk van het model bepaal je met een denkbudget of een niveau voor redeneervermogen hoeveel redenering het uitvoert.

Denkbudget

Stel met de numerieke slider het maximale aantal redeneringstokens in. Grotere budgetten kunnen de reactietijd verhogen. Stel het budget in op 0 om denken uit te schakelen als het model dat toestaat.

Redeneerinspanning

Redeneerinspanning bepaalt hoeveel het model redeneert voordat het antwoordt. De beschikbare niveaus zijn afhankelijk van het geselecteerde model.

Samenvatting van redenering

Schakel Samenvatting van redenering in om de geretourneerde redenering van het model vast te leggen wanneer je reacties, toolcalls of workflownavigatie debugt. Schakel Samenvatting van redenering in de LLM-instellingen van de agent in, of stel enable_reasoning_summary in via de API. Deze instelling staat standaard uit.

Voor aangepaste endpoints zie je hoe ElevenLabs redenering aanvraagt en opslaat.

De inhoud van de redenering valt onder instellingen voor bewaartermijnen en PII-redactie. Je hebt er toegang toe via de volgende kanalen:

Beperkingen

• Het aanvragen van een samenvatting van redenering kan de responslatentie verhogen. Test dit voordat je het inschakelt voor spraakagenten die gevoelig zijn voor latentie.
• Providers kunnen een samenvatting, gedachtestekst, onbewerkte redeneringsdelta’s of geen weer te geven inhoud retourneren.

Prijzen begrijpen

• Tokens: LLM-gebruik wordt doorgaans gefactureerd op basis van het aantal verwerkte tokens. Als algemene richtlijn voor Engelse tekst staat 100 tokens ongeveer gelijk aan 75 woorden
• Prijzen voor input en output: Providers hanteren vaak verschillende prijzen voor inputtokens (de gegevens die je naar het model stuurt) en outputtokens (de gegevens die het model als reactie genereert)
• Cacheprijzen:
  • input_cache_read: Dit verwijst naar de kosten voor het ophalen van eerder verwerkte inputgegevens uit een cache. Het gebruik van gecachte gegevens kan kostenbesparingen opleveren als identieke input meerdere keren wordt verwerkt
  • input_cache_write: Dit zijn de kosten voor het opslaan van inputgegevens in een cache. Sommige LLM-providers kunnen kosten in rekening brengen voor deze bewerking
• De prijzen in dit document gelden per 1 miljoen tokens en zijn gebaseerd op de informatie die beschikbaar was op het moment van schrijven. Deze prijzen kunnen door de LLM-providers worden gewijzigd
• Doorberekende prijzen: ElevenLabs berekent kosten van externe LLM’s door tegen het door de provider gepubliceerde tarief, zonder opslag. Bepaalde Gemini- en Claude-modellen zijn afgestemd op regionale (niet-globale) Vertex AI-prijzen, die worden gefactureerd voor verkeer uit de VS en EU — een verhoging van 10% voor input-, output- en cachetokens, overeenkomstig de regionale Vertex-tarieven

Raadpleeg de documentatie van de provider voor de actuele mogelijkheden, prijzen en servicevoorwaarden van modellen.

HIPAA-naleving

Bepaalde LLM’s die op ons platform beschikbaar zijn, kunnen geschikt zijn voor gebruik in omgevingen die HIPAA-naleving vereisen. Bekijk de documentatie over HIPAA-naleving voor meer informatie.

Gerelateerde resources

• Integratie van een aangepaste LLM
• LLM-cascadering
• Kosten optimaliseren

Modellen gehost door ElevenLabs

ElevenLabs biedt toegang tot diverse AI-modellen, waaronder geselecteerde modellen van derden die door ElevenLabs worden gehost.

Wanneer een model is aangemerkt als “Hosted by ElevenLabs”, wordt het model ingezet en uitgevoerd op infrastructuur die door ElevenLabs wordt beheerd. Deze modellen worden momenteel gehost in de Verenigde Staten of in de regio van je enterprise-implementatie.

Modellen herkennen die door ElevenLabs worden gehost

Modellen die door ElevenLabs worden gehost, zijn duidelijk gelabeld in de ElevenLabs-interface. Zoek naar de aanduiding “Hosted by ElevenLabs” wanneer je modellen doorzoekt of selecteert.

Hoe je gegevens worden verwerkt

Voor modellen die door ElevenLabs worden gehost, worden requests verwerkt binnen infrastructuur die door ElevenLabs wordt beheerd. Dit betekent dat de oorspronkelijke modelprovider de via ElevenLabs ingediende input en output niet ontvangt, opent of verwerkt.

Door deze modellen te hosten, kan ElevenLabs een consistente ervaring bieden en tegelijk controle houden over de infrastructuur die wordt gebruikt om modelrequests af te handelen.

Veelgestelde vragen

Waar worden zelfgehoste modellen gehost?

Modellen die door ElevenLabs worden gehost, worden momenteel gehost op infrastructuur in de Verenigde Staten of in de regio van je enterprise-implementatie.

Heeft de oorspronkelijke modelprovider toegang tot mijn gegevens of metadata over mijn gebruik?

Voor modellen die door ElevenLabs worden gehost, ontvangt de oorspronkelijke ontwikkelaar van het model nooit je input of output en heeft deze geen toegang tot de gegevens over de implementatie die deze verwerkt.

Hoe weet ik of een model Hosted by ElevenLabs is?

Modellen die door ElevenLabs worden gehost, zijn in de ElevenLabs-interface duidelijk herkenbaar aan de aanduiding “Hosted by ElevenLabs”.