--- title: "AIの運用（MLOps・LLMOps）の基本：作った後に品質を保ち続ける仕組み｜AI-Ready.jp" url: https://www.ai-ready.jp/guide/mlops-llmops-basics/ description: "MLOps・LLMOpsは、AIを作った後も品質を保ち続けるための運用の考え方です。評価の基準と記録を先に用意し、変更は試してから入れ、利用中の状態を見張り、劣化や提供の終了に備える、の順に整えると定着させやすくなります。" updated: 2026-11-12 publisher: "フロレンティナ株式会社" --- 定着させる[柱：基盤とセキュリティ](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) # AIの運用（MLOps・LLMOps）の基本：作った後に品質を保ち続ける仕組み 執筆：[石田誠](https://www.ai-ready.jp/about/authors/#ishida)更新 2026-11-12最終確認 2026-11-12出典 4件[図解 2点](https://www.ai-ready.jp/zukai/) この記事の結論 MLOps・LLMOpsは、AIを作った後も品質を保ち続けるための運用の考え方です。評価の基準と記録を先に用意し、変更は試してから入れ、利用中の状態を見張り、劣化やモデルの提供の終了に備える、の順に整えると定着させやすくなります。 自社の「基盤とセキュリティ」の準備度は？[10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) AIの仕組みは、作って使い始めた時点が完成ではありません。扱うデータや業務が変わると予測の当たり方が変わり、生成AIでは外部のモデルの更新で回答の傾向が変わることもあります。この記事では、AIの運用の考え方であるMLOpsとLLMOpsの基本と、自社で整えたい仕組みを、公開されている資料をもとにまとめます。 この記事でわかること - MLOpsとLLMOpsの意味と違い - AIの品質が変わる主な理由 - 運用を整える手順と、小さく始める方法 ## MLOps・LLMOpsとは何ですか？ Google Cloudの資料は、MLOpsを、機械学習の仕組みの開発（Dev）と運用（Ops）をひとつにまとめる考え方と実践とし、統合・テスト・公開・配置・インフラの管理まで、全体に自動化と監視を取り入れるものと説明しています。 LLMOpsは、大規模言語モデル（LLM）を使う仕組みの運用を指す言葉です。Microsoftの資料は、生成AIの運用（GenAIOps、LLMOpsとも呼ぶ）を、LLMを本番で管理するための運用の実践と戦略と説明しています。 両者の違いを、企業の実務に合わせて整理すると次のようになります。 | 観点 | MLOps（予測などの機械学習） | LLMOps（生成AI） | |---|---|---| | 主に管理するもの | 学習データ、モデル、学習の手順 | 指示文（プロンプト）、参照するデータ、使うモデルとその版 | | 品質が変わる主な理由 | 入力されるデータの変化 | 指示文や参照データの変更、外部のモデルの更新 | | 品質の確かめ方 | 予測の当たり方を数字で見る | 評価用の質問の例で、回答の質を確かめる | | 主な対応 | 新しいデータで学習し直す | 指示文や参照データを直す、モデルを切り替える | どちらも、**作ったときの性能を前提にせず、使い続ける間に確かめ続ける**という考え方は共通です。 ## AIの品質は、なぜ変わるのですか？ Google Cloudの資料は、本番で使うモデルは、受け取るデータが変わり続けるために性能が落ちることがあり、監視が必要だと説明しています。たとえば、入力されるデータの形がモデルの想定と合わなくなる場合や、データの統計的な性質が変わる場合です。入力と結果の関係そのものが変わること（コンセプトドリフト）にも触れています。 需要予測で言えば、取扱商品の入れ替えや、販売の仕組みの変更が起きると、過去のデータで学んだモデルの当たり方が変わることがあります。 生成AIでは、これに加えて次のような変化が起きます。 - **指示文の変更**：一部を直したつもりが、別の質問への回答に影響することがあります - **参照データの変化**：社内の資料が古いままになったり、重複したりすると、回答が誤りやすくなります - **外部のモデルの更新と提供の終了**：ある生成AIの提供元は、公開しているモデルの提供を終える場合、利用中の顧客に少なくとも60日前に知らせ、後継のモデルを示すと案内しています。提供が終わったモデルへの呼び出しは失敗します AIの品質が変わる主な理由 予測などの機械学習 入力されるデータの変化データの形や統計的な性質が変わる 当たり方が変わる 性能が落ちることがある監視が必要 生成AI 指示文・参照データの変更、外部のモデルの更新提供が終わったモデルへの呼び出しは失敗 回答の傾向が変わる 回答の質が変わることがある確かめ続ける どちらも、作ったときの性能を前提にせず、**使い続ける間に確かめ続ける**という考え方が共通です。 読みながら、自社の現在地を確かめませんか クイック診断は10問・約3分・登録不要です。7つの柱ごとの目安と、「基盤とセキュリティ」を含めて次に取り組むことがわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/)[結果の解説（30分・無料）](https://www.ai-ready.jp/consult/review/) ## 運用は、どう整えればよいですか？ ① **評価の基準を先に決めます。** 業務で実際に出る質問や入力と、期待する回答・判断の基準をまとめた「評価用の例」を用意します。数十件からで構いません。Microsoftの資料は、成熟度が上がるにつれ、根拠に基づいているか、質問に合っているか、といった観点で評価することを挙げています。 ② **変更の記録を残します。** 指示文、参照データ、使うモデルとその版、設定を、いつ誰がどう変えたかを残します。前の状態に戻せるようにしておくと、問題が起きたときに落ち着いて対応できます。 ③ **変更は試してから入れます。** 指示文やモデルを変えるときは、評価用の例で前の状態と比べ、悪くなっていないことを確かめてから本番に反映します。Google Cloudの資料は、成熟した段階では、データとモデルの検証を含めて、こうした確認と配置を自動化すると説明しています。 ④ **利用中の状態を見張ります。** 入力の傾向、回答の質、処理の時間、利用料、利用者からの苦情や「役に立たなかった」という反応を定期的に見ます。予想と大きく違う値が出たら知らせる仕組みにします。利用状況の見方は「[AIを使い続けるための運用と見直し](https://www.ai-ready.jp/guide/ai-operation-monitoring/)」にもまとめています。 ⑤ **直す・切り替える手順を決めます。** 品質が落ちたときに、学習し直す、指示文や参照データを直す、モデルを切り替える、一時的に止めて人の対応に戻す、のどれを選ぶかと、誰が判断するかを決めます。 運用を整える5つの手順 **評価の基準を決める**：業務に近い質問と期待する回答の例（数十件から） **変更を記録する**：指示文・参照データ・モデルの版・設定。前の状態に戻せるように **試してから入れる**：評価用の例で前の状態と比べる **利用中を見張る**：入力の傾向・回答の質・処理の時間・利用料・苦情 **直す・切り替える**：学習し直す、指示文や参照データを直す、モデルを替える、止める ## どこまで自動化すればよいですか？ Google Cloudの資料は、MLOpsの段階を3つに分けています。すべての手順を人が手作業で行う段階（レベル0）、学習の手順を自動化して新しいデータで学習し直せる段階（レベル1）、さらに手順そのものの作成・テスト・配置まで自動化する段階（レベル2）です。 最初から高い段階を目指す必要はありません。使っているAIの数や、変更の頻度に合わせて段階を上げます。 - **AIの仕組みが1〜2件で、変更も少ない**：手作業でも、評価用の例と変更の記録があれば十分なことが多いです - **仕組みが増え、変更が月に何度もある**：評価の実行や記録の取得を自動化すると、確認の手間と漏れが減ります - **多くの部署で使い、止まると業務に大きく影響する**：配置や監視の自動化と、担当の体制を整えます ## 安全とリスクの面では、何を見ますか？ 運用では、品質だけでなく、安全とリスクの面も確かめ続けます。AIセーフティ・インスティテュート（AISI）は、AIの安全性を評価する観点をまとめた「AIセーフティに関する評価観点ガイド」を公表しており、2026年7月7日に第1.20版が公表されています。自社の評価の観点を決めるときの参考になります。 あわせて、次の点も運用に組み込みます。 - **細工された入力への備え**：不正な指示への対策を入れた後も、記録を見て、想定外の使われ方がないかを確かめます（「[自社のAIアプリのセキュリティの確かめ方](https://www.ai-ready.jp/guide/llm-app-security/)」参照） - **人の確認**：重要な判断にAIの出力を使う場合は、人が確かめる手順を残します（「[AIの出力を確かめる人の目](https://www.ai-ready.jp/column/human-review-of-ai-output/)」参照） - **不具合のときの対応**：誤った回答が広がった、情報が漏れた、といったときの連絡と対応の流れを決めます（「[AIの不具合・事故への備えと対応](https://www.ai-ready.jp/guide/ai-incident-management/)」参照） - **費用**：利用料の急な増加は、処理の不具合の兆しであることもあります（「[生成AIの利用料の見積もりと管理](https://www.ai-ready.jp/guide/ai-cost-management/)」参照） ## チェックリスト ## 関連するひな形・ガイド・用語 ひな形 - [AIの利用記録](https://www.ai-ready.jp/templates/ai-use-log/) ガイド - [AIを使い続けるための運用と見直し：利用状況・品質・リスクを定期的に確かめる](https://www.ai-ready.jp/guide/ai-operation-monitoring/) - [AIの不具合・事故への備えと対応：平時の準備と、起きたときの流れ](https://www.ai-ready.jp/guide/ai-incident-management/) - [自社のAIアプリのセキュリティの確かめ方](https://www.ai-ready.jp/guide/llm-app-security/) - [生成AIの利用料の見積もりと管理：定額と従量の考え方、上限と見直しの手順](https://www.ai-ready.jp/guide/ai-cost-management/) - [社内の資料をAIで探せるようにする（RAGの基本）](https://www.ai-ready.jp/guide/rag-basics/) コラム - [AIの出力を確かめる人の目：どこで、誰が、何を見るか](https://www.ai-ready.jp/column/human-review-of-ai-output/) 用語 - [MLOps](https://www.ai-ready.jp/glossary/mlops/) - [LLMOps](https://www.ai-ready.jp/glossary/llmops/) - [ドリフト（モデルの劣化）](https://www.ai-ready.jp/glossary/model-drift/) - [LLMの評価](https://www.ai-ready.jp/glossary/llm-evaluation/) - [トレーシング](https://www.ai-ready.jp/glossary/tracing/) ## よくあるご質問 QMLOpsとLLMOpsは、何が違うのですか？ AMLOpsは、機械学習の仕組みの開発と運用をひとつながりにして、自動化と監視を進める考え方です。LLMOpsは、そのうち大規模言語モデル（LLM）を使う仕組みの運用を指す言葉で、GenAIOpsとも呼ばれます。LLMOpsでは、モデルを自社で学習し直すことよりも、指示文（プロンプト）や参照するデータの管理、回答の質の評価、外部のモデルの変更への備えが中心になります。 Q小さな会社でも、MLOps・LLMOpsは必要ですか？ A専用の仕組みを入れる必要はありませんが、考え方は役立ちます。質問と期待する回答の例を数十件まとめて評価に使う、指示文を変えたら記録を残す、月に一度は利用状況と苦情を見る、といった小さな運用から始められます。 QAIの回答の質は、どうやって測るのですか？ A業務で実際に出る質問と、期待する回答や判断の基準をまとめた評価用の例を用意し、同じ例でくり返し確かめる方法が基本です。根拠に基づいているか、質問に合っているかといった観点で、人が確かめる方法と、別のAIに採点させる方法を組み合わせることもあります。 ## この記事に出てくる用語 - [MLOps](https://www.ai-ready.jp/glossary/mlops/) - [LLMOps](https://www.ai-ready.jp/glossary/llmops/) - [モデル](https://www.ai-ready.jp/glossary/model/) - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [機械学習](https://www.ai-ready.jp/glossary/machine-learning/) - [大規模言語モデル（LLM）](https://www.ai-ready.jp/glossary/llm/) - [学習データ](https://www.ai-ready.jp/glossary/training-data/) - [プロンプト](https://www.ai-ready.jp/glossary/prompt/) - [需要予測](https://www.ai-ready.jp/glossary/demand-forecasting/) - [AIセーフティ・インスティテュート（AISI）](https://www.ai-ready.jp/glossary/aisi/) - [LLMの評価](https://www.ai-ready.jp/glossary/llm-evaluation/) - [トレーシング](https://www.ai-ready.jp/glossary/tracing/) - [ドリフト（モデルの劣化）](https://www.ai-ready.jp/glossary/model-drift/) ## 「基盤とセキュリティ」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) [広げる／基盤とセキュリティAIと社内システムをAPIでつなぐ基本：仕組み・手順・安全の確かめ方石田誠2026-11-12](https://www.ai-ready.jp/guide/api-integration-basics/)[広げる／基盤とセキュリティAIのセキュリティの基本：AIへの攻撃とAIを使った攻撃への備え石田誠2026-10-26](https://www.ai-ready.jp/guide/ai-security-basics/)[広げる／基盤とセキュリティAIエージェントを安全に使うための権限と確認石田誠2026-11-12](https://www.ai-ready.jp/guide/ai-agent-security/) ## 出典 1. [Google Cloud「MLOps: Continuous delivery and automation pipelines in machine learning」](https://docs.cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning) 2. [Microsoft Learn「Advance your maturity level for GenAIOps」](https://learn.microsoft.com/azure/machine-learning/prompt-flow/concept-llmops-maturity) 3. [AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド」（第1.20版、2026年7月7日）](https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/) 4. [Anthropic「Model deprecations」（Claude Platform Docs）](https://platform.claude.com/docs/en/about-claude/model-deprecations) 最終確認日：2026-11-12 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. MLOps・LLMOpsとは何ですか？ 2. AIの品質は、なぜ変わるのですか？ 3. 運用は、どう整えればよいですか？ 4. どこまで自動化すればよいですか？ 5. 安全とリスクの面では、何を見ますか？ 6. チェックリスト 7. よくあるご質問 この記事が扱う柱 主に「基盤とセキュリティ」 [基盤とセキュリティの解説](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) 自社の準備度を確かめる 10問・約3分・登録不要。7つの柱ごとの目安がわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/) --- 出典：フロレンティナ株式会社「AIの運用（MLOps・LLMOps）の基本：作った後に品質を保ち続ける仕組み｜AI-Ready.jp」 https://www.ai-ready.jp/guide/mlops-llmops-basics/