モデル
ユースケースに適したモデルの選び方を学ぶ
ElevenAgentsは、エージェントを複数のモデルやプロバイダーに接続するための統一インターフェースを提供し、柔軟性、信頼性、コスト最適化を実現します。
ここでモデルを選択する代わりに、音声エージェントでは、低レイテンシの音声会話向けに構築されたElevenLabsモデルであるRealtimeモデルを使用できます。
主な機能
- 統一されたアクセス：最小限のコード変更でプロバイダーやモデルを切り替え
- 高い信頼性：プロバイダーで障害が発生した場合、別のプロバイダーへ自動的にフォールバック
- 支出のモニタリング：異なるモデルにまたがる支出を監視
対応モデル
現在、以下のモデルがネイティブにサポートされており、エージェント設定から構成できます。
特に明記されていない限り、料金は通常100万トークンあたりの米ドルで示されます。トークンはLLMにおける テキストデータの基本単位で、平均しておよそ4文字に相当します。
カスタムLLM
リクエスト送信先エンドポイントを指定し、安全なシークレットストレージを通じて認証情報を提供することで、独自のカスタムLLMを使用できます。詳しくはカスタムLLMインテグレーションをご覧ください。
EUデータレジデンシーが有効な場合、一部のモデルは利用できません。利用可否の詳細は、GDPRとデータ レジデンシーをご覧ください。
モデルの選択
アプリケーションに最適なLLMを選ぶには、複数の要素を検討する必要があります。
- タスクの複雑さ：アプリケーションの代表的なタスクでモデルを評価します
- レイテンシ要件：ライブ音声会話では、低レイテンシのモデルを選択し、プロンプトやツールを使用して応答時間を測定します
- コンテキストウィンドウのサイズ：長い会話や大量のドキュメントの情報を処理、理解、記憶する必要がある場合は、より大きなコンテキストウィンドウを持つモデルを選択します
- 費用対効果：必要なパフォーマンスと機能を予算と比較検討します。LLMの料金は大きく異なる場合があるため、想定される利用パターンに照らして料金体系（入力、出力、キャッシュトークン）を分析してください
- HIPAA準拠：アプリケーションで保護対象保健情報（PHI）を扱う場合は、HIPAA準拠として指定されたLLMを使用し、データ処理プロセス全体が規制基準を満たしていることを確認することが重要です
システムプロンプトの最大サイズは2MBです。これには、エージェントの指示、ナレッジベースの コンテンツ、その他のシステムレベルのコンテキストが含まれます。
モデル設定
温度
温度はモデル応答のランダム性を制御します。低い値ではより一貫性があり焦点を絞った出力になり、高い値では創造性と多様性が高まります。
- 低（0.0～0.3）：構造化された対話向けの、決定的で一貫性のある応答
- 中（0.4～0.7）：創造性と一貫性のバランス
- 高（0.8～1.0）：動的な会話向けの、創造的で多様な応答
バックアップLLMの設定
プライマリLLMで障害が発生した場合や利用できなくなった場合にも会話を継続できるよう、バックアップLLMを設定します。
設定オプション：
- デフォルト：ElevenLabs推奨のフォールバックシーケンスを使用
- カスタム：バックアップモデルのカスケードシーケンスを独自に定義
- 無効：フォールバックなし（本番環境では強く非推奨）
バックアップLLMを無効にすると、プライマリLLMで障害が発生した場合や利用できなくなった場合に会話が 突然終了します。本番環境での使用は強く非推奨です。
詳しくはLLMカスケーディングをご覧ください。
推論
推論により、ツール間の選択、ポリシーの適用、複数ステップのワークフローの完了など、複雑な判断をエージェントが処理できます。モデルに応じて、思考バジェットまたは推論努力レベルにより、実行する推論の量を制御できます。
思考バジェット
数値スライダーで推論トークンの最大数を設定します。バジェットを大きくすると応答時間が長くなる場合があります。モデルで許可されている場合は、バジェットを0に設定すると思考を無効にできます。
推論努力
推論努力は、モデルが回答前にどの程度推論を行うかを制御します。利用可能なレベルは、選択したモデルによって異なります。
ライブ音声エージェントでは、追加の思考によりターンテイキングが遅れる可能性があるため、まずは低いバジェットまたは努力レベルから始めてください。 より複雑な判断が必要なワークフローステップでは、値を上げてください。
推論サマリー
応答、ツール呼び出し、ワークフローパスをデバッグする際に、モデルから返された推論を記録するには、推論サマリーを有効にします。エージェントのLLM設定で推論サマリーをオンにするか、APIでenable_reasoning_summaryを設定します。この設定はデフォルトでオフです。
カスタムエンドポイントについては、ElevenLabsによる推論のリクエストと保存方法をご覧ください。
推論コンテンツは、保持およびPII編集設定の対象です。次のチャネルからアクセスできます。
ゼロ保持モードでは、ElevenLabsは**推論コンテンツを保存 しません **。チャットクライアントと通話後のWebhookにのみ配信されます。
制限事項
- 推論サマリーをリクエストすると、応答レイテンシが増加する場合があります。レイテンシの影響を受けやすい音声エージェントで有効にする前にテストしてください。
- プロバイダーは、サマリー、思考テキスト、生の推論差分、または表示可能なコンテンツなしを返す場合があります。
料金について
- トークン：LLMの利用料金は通常、処理したトークン数に基づいて請求されます。英語テキストの場合、目安として100トークンは約75語に相当します
- 入力と出力の料金：プロバイダーは多くの場合、入力トークン（モデルに送信するデータ）と出力トークン（モデルが応答として生成するデータ）で料金を区別しています
- キャッシュ料金：
input_cache_read：以前に処理した入力データをキャッシュから取得する際のコストです。同一の入力を複数回処理する場合、キャッシュデータを利用するとコストを削減できますinput_cache_write：入力データをキャッシュに保存する際のコストです。一部のLLMプロバイダーは、この操作に料金を請求する場合があります
- このドキュメントに記載されている料金は100万トークンあたりであり、執筆時点で入手可能な情報に基づいています。これらの料金はLLMプロバイダーによって変更される場合があります
- パススルー料金：ElevenLabsは、第三者LLMのコストをプロバイダーの公表料金でそのまま請求し、マークアップは加えません。一部のGeminiおよびClaudeモデルは、米国およびEUのトラフィックに適用されるVertex AIリージョナル（グローバル以外）料金に準拠しています。これは入力、出力、キャッシュトークンが10%増額されることを意味し、Vertexのリージョナル料金と一致します
最新のモデル機能、料金、利用規約については、プロバイダーのドキュメントをご確認ください。
HIPAA準拠
プラットフォームで利用可能な一部のLLMは、HIPAA準拠が求められる環境での使用に適している場合があります。詳しくはHIPAA準拠のドキュメントをご覧ください。
関連リソース
ElevenLabsがホストするモデル
ElevenLabsは、ElevenLabsがホストする一部のサードパーティモデルを含む、さまざまなAIモデルへのアクセスを提供します。
モデルが「Hosted by ElevenLabs」と指定されている場合、そのモデルはElevenLabsが管理するインフラストラクチャ上にデプロイされ、運用されています。これらのモデルは現在、米国またはエンタープライズデプロイメントのリージョンでホストされています。
ElevenLabsがホストするモデルを識別する方法
ElevenLabsがホストするモデルは、ElevenLabsのインターフェースで明確にラベル付けされています。モデルを参照または選択する際に、「Hosted by ElevenLabs」の表示を確認してください。
データの取り扱い
ElevenLabsがホストするモデルでは、リクエストはElevenLabsが管理するインフラストラクチャ内で処理されます。つまり、元のモデルプロバイダーは、ElevenLabs経由で送信された入力と出力を受信、アクセス、処理しません。
これらのモデルをホストすることで、ElevenLabsはモデルリクエストを処理するインフラストラクチャを管理しながら、一貫した体験を提供できます。
よくある質問
セルフホストモデルはどこでホストされていますか？
ElevenLabsがホストするモデルは現在、米国またはエンタープライズデプロイメントのリージョンにあるインフラストラクチャでホストされています。
元のモデルプロバイダーは、データや利用状況のメタデータにアクセスできますか？
ElevenLabsがホストするモデルの場合、モデルの元の開発者が入力や出力を受信することはなく、それらを処理するデプロイメントに関するデータにもアクセスできません。
モデルがElevenLabsによってホストされているかどうかは、どのように確認できますか？
ElevenLabsがホストするモデルは、ElevenLabsのインターフェースで「Hosted by ElevenLabs」と明確に表示されています。