--- title: "レイテンシとは｜AI-Ready.jp" url: https://www.ai-ready.jp/glossary/latency/ description: "レイテンシとは、要求を送ってから応答が返ってくるまでにかかる時間のことです。レイテンシは、システムに要求を送ってから応答が返るまでの待ち時間を指します。生成AIでは、最初の文字が表示されるまでの時" publisher: "フロレンティナ株式会社" --- [生成AI・LLM](https://www.ai-ready.jp/glossary/#genai) # レイテンシ れいてんし／ Latency 定義 レイテンシとは、要求を送ってから応答が返ってくるまでにかかる時間のことです。 レイテンシは、システムに要求を送ってから応答が返るまでの待ち時間を指します。生成AIでは、最初の文字が表示されるまでの時間と、回答の全体ができあがるまでの時間を分けて考えることがあります。大きなモデルや、考える工程を長くとる推論モデル、長い入力ほど時間がかかりやすく、通信の距離や混雑の影響も受けます。電話の自動応答や接客のように即答が求められる用途では、精度だけでなくレイテンシが使い勝手を大きく左右します。用途ごとに許容できる待ち時間を決め、小さなモデルの利用や、回答を少しずつ表示する方法などを組み合わせて検討すると、選びやすくなります。 生成AIの待ち時間の分け方 **要求を送る**：通信の距離や混雑の影響も受ける **最初の文字が表示される**：ここまでの時間を分けて考えることがある **回答の全体ができあがる**：大きなモデル・推論モデル・長い入力ほど時間がかかりやすい 用途ごとに**許容できる待ち時間を決め**、小さなモデルの利用や回答を少しずつ表示する方法を組み合わせて検討します。 自社のAI活用の準備度は？[7つの柱で、10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) ## 関連する用語 - [推論モデル](https://www.ai-ready.jp/glossary/reasoning-model/) - [SLM（小規模言語モデル）](https://www.ai-ready.jp/glossary/slm/) - [エッジAI](https://www.ai-ready.jp/glossary/edge-ai/) - [SLA（サービス水準合意）](https://www.ai-ready.jp/glossary/sla/) ## この用語が出てくる記事 - [エッジAIとは：手元の機器で動くAI](https://www.ai-ready.jp/column/edge-ai-overview/)コラム - [音声で対話するAIの業務利用](https://www.ai-ready.jp/column/voice-ai-agents/)コラム 最終更新 2026-11-13 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) --- 出典：フロレンティナ株式会社「レイテンシとは｜AI-Ready.jp」 https://www.ai-ready.jp/glossary/latency/