AIの運用（MLOps・LLMOps）の基本：作った後に品質を保ち続ける仕組み
この記事の結論
MLOps・LLMOpsは、AIを作った後も品質を保ち続けるための運用の考え方です。評価の基準と記録を先に用意し、変更は試してから入れ、利用中の状態を見張り、劣化やモデルの提供の終了に備える、の順に整えると定着させやすくなります。
自社の「基盤とセキュリティ」の準備度は？10問・約3分で確かめる（無料・登録不要）
AIの仕組みは、作って使い始めた時点が完成ではありません。扱うデータや業務が変わると予測の当たり方が変わり、生成AIでは外部のモデルの更新で回答の傾向が変わることもあります。この記事では、AIの運用の考え方であるMLOpsとLLMOpsの基本と、自社で整えたい仕組みを、公開されている資料をもとにまとめます。
この記事でわかること
- MLOpsとLLMOpsの意味と違い
- AIの品質が変わる主な理由
- 運用を整える手順と、小さく始める方法
MLOps・LLMOpsとは何ですか？
Google Cloudの資料は、MLOpsを、機械学習の仕組みの開発（Dev）と運用（Ops）をひとつにまとめる考え方と実践とし、統合・テスト・公開・配置・インフラの管理まで、全体に自動化と監視を取り入れるものと説明しています。
LLMOpsは、大規模言語モデル（LLM）を使う仕組みの運用を指す言葉です。Microsoftの資料は、生成AIの運用（GenAIOps、LLMOpsとも呼ぶ）を、LLMを本番で管理するための運用の実践と戦略と説明しています。
両者の違いを、企業の実務に合わせて整理すると次のようになります。
| 観点 | MLOps（予測などの機械学習） | LLMOps（生成AI） |
|---|---|---|
| 主に管理するもの | 学習データ、モデル、学習の手順 | 指示文（プロンプト）、参照するデータ、使うモデルとその版 |
| 品質が変わる主な理由 | 入力されるデータの変化 | 指示文や参照データの変更、外部のモデルの更新 |
| 品質の確かめ方 | 予測の当たり方を数字で見る | 評価用の質問の例で、回答の質を確かめる |
| 主な対応 | 新しいデータで学習し直す | 指示文や参照データを直す、モデルを切り替える |
どちらも、作ったときの性能を前提にせず、使い続ける間に確かめ続けるという考え方は共通です。
AIの品質は、なぜ変わるのですか？
Google Cloudの資料は、本番で使うモデルは、受け取るデータが変わり続けるために性能が落ちることがあり、監視が必要だと説明しています。たとえば、入力されるデータの形がモデルの想定と合わなくなる場合や、データの統計的な性質が変わる場合です。入力と結果の関係そのものが変わること（コンセプトドリフト）にも触れています。
需要予測で言えば、取扱商品の入れ替えや、販売の仕組みの変更が起きると、過去のデータで学んだモデルの当たり方が変わることがあります。
生成AIでは、これに加えて次のような変化が起きます。
- 指示文の変更：一部を直したつもりが、別の質問への回答に影響することがあります
- 参照データの変化：社内の資料が古いままになったり、重複したりすると、回答が誤りやすくなります
- 外部のモデルの更新と提供の終了：ある生成AIの提供元は、公開しているモデルの提供を終える場合、利用中の顧客に少なくとも60日前に知らせ、後継のモデルを示すと案内しています。提供が終わったモデルへの呼び出しは失敗します
AIの品質が変わる主な理由
予測などの機械学習
生成AI
どちらも、作ったときの性能を前提にせず、使い続ける間に確かめ続けるという考え方が共通です。
運用は、どう整えればよいですか？
① 評価の基準を先に決めます。 業務で実際に出る質問や入力と、期待する回答・判断の基準をまとめた「評価用の例」を用意します。数十件からで構いません。Microsoftの資料は、成熟度が上がるにつれ、根拠に基づいているか、質問に合っているか、といった観点で評価することを挙げています。
② 変更の記録を残します。 指示文、参照データ、使うモデルとその版、設定を、いつ誰がどう変えたかを残します。前の状態に戻せるようにしておくと、問題が起きたときに落ち着いて対応できます。
③ 変更は試してから入れます。 指示文やモデルを変えるときは、評価用の例で前の状態と比べ、悪くなっていないことを確かめてから本番に反映します。Google Cloudの資料は、成熟した段階では、データとモデルの検証を含めて、こうした確認と配置を自動化すると説明しています。
④ 利用中の状態を見張ります。 入力の傾向、回答の質、処理の時間、利用料、利用者からの苦情や「役に立たなかった」という反応を定期的に見ます。予想と大きく違う値が出たら知らせる仕組みにします。利用状況の見方は「AIを使い続けるための運用と見直し」にもまとめています。
⑤ 直す・切り替える手順を決めます。 品質が落ちたときに、学習し直す、指示文や参照データを直す、モデルを切り替える、一時的に止めて人の対応に戻す、のどれを選ぶかと、誰が判断するかを決めます。
運用を整える5つの手順
どこまで自動化すればよいですか？
Google Cloudの資料は、MLOpsの段階を3つに分けています。すべての手順を人が手作業で行う段階（レベル0）、学習の手順を自動化して新しいデータで学習し直せる段階（レベル1）、さらに手順そのものの作成・テスト・配置まで自動化する段階（レベル2）です。
最初から高い段階を目指す必要はありません。使っているAIの数や、変更の頻度に合わせて段階を上げます。
- AIの仕組みが1〜2件で、変更も少ない：手作業でも、評価用の例と変更の記録があれば十分なことが多いです
- 仕組みが増え、変更が月に何度もある：評価の実行や記録の取得を自動化すると、確認の手間と漏れが減ります
- 多くの部署で使い、止まると業務に大きく影響する：配置や監視の自動化と、担当の体制を整えます
安全とリスクの面では、何を見ますか？
運用では、品質だけでなく、安全とリスクの面も確かめ続けます。AIセーフティ・インスティテュート（AISI）は、AIの安全性を評価する観点をまとめた「AIセーフティに関する評価観点ガイド」を公表しており、2026年7月7日に第1.20版が公表されています。自社の評価の観点を決めるときの参考になります。
あわせて、次の点も運用に組み込みます。
- 細工された入力への備え：不正な指示への対策を入れた後も、記録を見て、想定外の使われ方がないかを確かめます（「自社のAIアプリのセキュリティの確かめ方」参照）
- 人の確認：重要な判断にAIの出力を使う場合は、人が確かめる手順を残します（「AIの出力を確かめる人の目」参照）
- 不具合のときの対応：誤った回答が広がった、情報が漏れた、といったときの連絡と対応の流れを決めます（「AIの不具合・事故への備えと対応」参照）
- 費用：利用料の急な増加は、処理の不具合の兆しであることもあります（「生成AIの利用料の見積もりと管理」参照）
チェックリスト
関連するひな形・ガイド・用語
ひな形
ガイド
よくあるご質問
QMLOpsとLLMOpsは、何が違うのですか？
AMLOpsは、機械学習の仕組みの開発と運用をひとつながりにして、自動化と監視を進める考え方です。LLMOpsは、そのうち大規模言語モデル（LLM）を使う仕組みの運用を指す言葉で、GenAIOpsとも呼ばれます。LLMOpsでは、モデルを自社で学習し直すことよりも、指示文（プロンプト）や参照するデータの管理、回答の質の評価、外部のモデルの変更への備えが中心になります。
Q小さな会社でも、MLOps・LLMOpsは必要ですか？
A専用の仕組みを入れる必要はありませんが、考え方は役立ちます。質問と期待する回答の例を数十件まとめて評価に使う、指示文を変えたら記録を残す、月に一度は利用状況と苦情を見る、といった小さな運用から始められます。
QAIの回答の質は、どうやって測るのですか？
A業務で実際に出る質問と、期待する回答や判断の基準をまとめた評価用の例を用意し、同じ例でくり返し確かめる方法が基本です。根拠に基づいているか、質問に合っているかといった観点で、人が確かめる方法と、別のAIに採点させる方法を組み合わせることもあります。
この記事に出てくる用語
「基盤とセキュリティ」のほかの記事
この柱の解説 →出典
- Google Cloud「MLOps: Continuous delivery and automation pipelines in machine learning」
- Microsoft Learn「Advance your maturity level for GenAIOps」
- AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド」（第1.20版、2026年7月7日）
- Anthropic「Model deprecations」（Claude Platform Docs）
最終確認日：2026-11-12