--- title: "AIを使い続けるための運用と見直し：利用状況・品質・リスクを定期的に確かめる｜AI-Ready.jp" url: https://www.ai-ready.jp/guide/ai-operation-monitoring/ description: "全社でAIを使い始めた後は、利用状況・出力の品質・事故とヒヤリハット・費用・サービスやモデルの変更の5つを、担当と頻度を決めて定期的に確かめると、使い続けるか・直すか・止めるかを判断しやすくなります。" updated: 2026-10-26 publisher: "フロレンティナ株式会社" --- 定着させる[柱：ガバナンスと法令](https://www.ai-ready.jp/about-ai-ready/governance/)[柱：ユースケースと効果](https://www.ai-ready.jp/about-ai-ready/use-cases/) # AIを使い続けるための運用と見直し：利用状況・品質・リスクを定期的に確かめる 執筆：[石田誠](https://www.ai-ready.jp/about/authors/#ishida)更新 2026-10-26制度の最終確認 2026-10-26出典 10件[図解 2点](https://www.ai-ready.jp/zukai/) この記事の結論 全社でAIを使い始めた後は、①利用状況、②出力の品質、③事故とヒヤリハット、④費用、⑤サービスやモデルの変更の5つを、担当と頻度を決めて定期的に確かめると、使い続けるか・直すか・止めるかを判断しやすくなります。 AIは、導入した時点で取り組みが終わるわけではありません。使う人や業務が増え、サービスの中身も更新されていくため、導入のときに決めたルールや前提が少しずつ合わなくなります。この記事では、全社でAIを使っている会社（Lv.4〜5）に向けて、運用の段階で何を、誰が、どのくらいの頻度で確かめるとよいかを整理します。 この記事でわかること - 運用の段階で確かめたい5つの項目と、それぞれの見方 - 確かめる担当・頻度・判断の場の決め方 - 公的な指針や海外の枠組みが示している「続けて確かめる」考え方 ## なぜ導入後も確かめ続ける必要があるのですか？ 総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」は、AIガバナンスを、「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」といったサイクルを継続的に回していくもの（アジャイル・ガバナンス）として説明しています。一度決めたルールを守り続けるだけでなく、運用と評価の結果をもとに、ルールや仕組みを直していく考え方です。 ガイドラインの本編は、共通の指針の中で、必要に応じて**定期的かつ客観的なモニタリング**を行うことにも触れています。また、AIを使う会社（AI利用者）の役割として、AI提供者が意図する適正な使い方をし、**環境の変化などの情報をAI提供者と共有して、正常な稼働を続けること**を挙げています。 総務省・経済産業省の「AI事業者ガイドライン活用の手引き（案）」も、外部の環境の変化に対応するため、このサイクルを回し続けることが重要だとしています。 海外では、米国の国立標準技術研究所（NIST）が2023年1月26日に公表した「AIリスクマネジメントフレームワーク（AI RMF 1.0）」が、Govern（統治）・Map（状況の把握）・Measure（測る）・Manage（対処する）の4つの機能でAIのリスク管理を整理しています。任意で使う枠組みですが、運用中も定期的にリスクを確かめ、導入後の監視の計画を実行することが項目として挙げられています。 AIセーフティ・インスティテュート（AISI）の「AIセーフティに関する評価観点ガイド」（第1.20版）は、主にAIシステムの開発者や提供者に向けた資料です。その概要では、評価は一度だけでなく繰り返し行うこと、開発・提供・利用の段階に応じて評価の範囲が異なることが示されています。 ## 何を確かめればよいですか？ 運用の段階で確かめたい項目を、5つに分けて整理します。会社の状況に合わせて、まず2〜3項目から始めてもかまいません。 ### ① 利用状況 手引き（案）は、定期的なアンケートや聞き取りを使って、**どの部署が、どの目的で、どのAIを、どのデータで使っているか**を継続的に把握することを挙げています。運用の段階では、次の点を見ます。 - 利用者の数や、使われている部署の広がり - 申請や承認を経ていないサービスが使われていないか（シャドーAI） - 利用ルールで決めた目的の範囲で使われているか ### ② 出力の品質 AIの出力には誤りが含まれることがあります（ハルシネーション）。全社で使い始めた後も、代表的な業務を選んで次の点を確かめます。 - 誤りや手直しの件数、差し戻しの回数 - 人が確かめる工程が、決めたとおりに残っているか - 利用者からの「使いにくい」「答えがずれる」といった声 効果の指標の取り方は「[AIの効果の測り方](https://www.ai-ready.jp/guide/measuring-ai-impact/)」でご紹介しています。 ### ③ 事故とヒヤリハット 手引き（案）は、インシデントが起きたときにすぐ報告できる窓口を決め、社内外への説明や報告の流れまで事前に考え、予行演習をしておくことを挙げています。運用の段階では、報告された件数と内容、対応にかかった時間、同じ種類の報告がくり返されていないかを見ます。大きな事故に至らなかった「ヒヤリとした事例」も集めると、ルールを直す材料になります。 ### ④ 費用 利用者が増えると、利用料も増えていきます。利用料や設定・保守の費用が、計画や効果に見合っているかを確かめます。使われていないアカウントや契約がないかもあわせて見ます。 ### ⑤ サービスやモデルの変更 AIのサービスは、モデルの更新や機能の追加、利用規約の改定が続きます。同じ指示でも、更新の前後で出力の傾向が変わることがあります。提供者のお知らせや変更の履歴、規約の改定を確かめる担当を決め、影響がありそうな変更のときは、代表的な業務で出力を確かめ直します。 ガイドラインの別添の「AI利用者向け」には、利用状況や異常な操作を把握するために**ログを定期的に確かめること**と、異常な操作に気づいたときにすぐ報告できる体制を整えることが挙げられています。第1.2版の更新内容の資料でも、AI利用者向けの追記として、AIエージェントやフィジカルAIは自律性を持って行動するため、定期的な操作履歴の確認や報告が重要である旨が挙げられています。AIエージェントを業務に組み込んでいる場合は、操作の記録（ログ）を見る担当と頻度も決めておくとよいでしょう。 運用の段階で確かめる5つの項目 - **利用状況**：どの部署が、どの目的で、どのAIを、どのデータで使っているか - **出力の品質**：誤りや手直しの件数、**人が確かめる工程**が決めたとおりに残っているか - **事故とヒヤリハット**：報告の件数と内容、同じ種類の報告がくり返されていないか - **費用**：利用料や保守の費用が、計画や効果に見合っているか - **サービスやモデルの変更**：更新・規約の改定を確かめ、影響がありそうなときは代表的な業務で出力を確かめ直す ## 確かめる担当と頻度はどう決めればよいですか？ ### 手順 ① **項目ごとに担当を決める：** 利用状況と費用は推進役や情報システムの担当、品質は各部署の推進役、事故は既存の情報セキュリティの窓口、サービスの変更は契約や導入を担う担当、といったように、ふだんの仕事に近い人に割り当てます。体制の組み立て方は「[AI推進の体制のつくり方](https://www.ai-ready.jp/guide/ai-promotion-team/)」でご紹介しています。 ② **頻度を決める：** 次の組み立てが一つの目安です。 - **月に1回：** 利用者数・費用・事故の報告の件数を確かめる - **四半期に1回：** 品質の確かめ、利用ルール・禁止事項・研修の内容の見直し - **年に1回：** 方針と計画、使うサービスの選び直し、リスクの洗い出しのやり直し - **随時：** サービスやモデルの大きな変更、対象業務の追加、事故があったとき ③ **判断の場を決める：** 結果を報告する会議と、続ける・直す・止めるを決める人を決めます。新しい会議を作らず、既存の経営会議や部長会の議題に加える形でもかまいません。 ④ **記録を残す：** 何を確かめ、何を決めたかを記録します。ガイドラインの本編は、アカウンタビリティの考え方として、必要なときに参照できる形で文書を残すことにも触れています。記録は、後で内部点検を行うときの材料にもなります。 確かめる頻度の目安 - **月に1回**：利用者数・費用・事故の報告の件数 - **四半期に1回**：品質の確かめ、利用ルール・禁止事項・研修の内容の見直し - **年に1回**：方針と計画、サービスの選び直し、リスクの洗い出しのやり直し - **随時**：サービスやモデルの大きな変更、対象業務の追加、**事故があったとき** ※ 一つの目安です。会社の状況に合わせて決めます。 ## 判断の目安 確かめた結果から、次のように判断する考え方があります。 - **続ける：** 品質と事故の件数が安定し、効果が費用に見合っている - **直す：** 誤りや手直しが増えている、ルールの解釈の相談が同じ論点でくり返されている、サービスの変更で出力の傾向が変わった - **広げる：** 一部の部署で効果が安定し、ほかの部署にも同じ業務がある - **止める・切り替える：** 効果が費用に見合わない状態が続く、規約の改定で自社のルールと合わなくなった 止めることも、運用の大切な判断の一つです。結果を記録しておくと、判断の理由を社内に説明しやすくなります。 ## よくあるつまずきはどんなものですか？ - **数字だけを集めて判断しない：** 集計が目的になり、続ける・直すの判断につながらない状態です。報告の場で決めることを先に決めておきます。 - **確かめる項目が多すぎる：** 記録の手間が大きいと続きません。利用ツールの管理画面や既存の記録を使い、手で集める項目を絞ります。 - **サービスの変更に気づかない：** 担当が決まっていないと、規約の改定や機能の変更を見落とします。 - **事故の報告が集まらない：** 報告すると責められると感じると、報告が減ります。報告の窓口は「安心して伝えられる場」として運ぶと、ヒヤリハットも集まりやすくなります。 社内のセキュリティの基本の点検には、情報処理推進機構（IPA）の「中小企業の情報セキュリティ対策ガイドライン」（第4.0版）の付録にある情報セキュリティの自社診断や、セキュリティインシデント対応の手引きも参考になります。 ## チェックリスト ## 関連するひな形・ガイド・用語 ひな形 - [AIのリスク評価表](https://www.ai-ready.jp/templates/ai-risk-assessment/) - [効果測定シート](https://www.ai-ready.jp/templates/impact-measurement-sheet/) - [生成AIの利用ルール（ひな形）](https://www.ai-ready.jp/templates/generative-ai-usage-policy-template/) ガイド - [AIの効果の測り方：時間・費用・品質の指標](https://www.ai-ready.jp/guide/measuring-ai-impact/) - [AI推進の体制のつくり方：横断の会議体・推進役・相談窓口](https://www.ai-ready.jp/guide/ai-promotion-team/) - [生成AIの利用ルールの作り方（ひな形つき）](https://www.ai-ready.jp/guide/generative-ai-usage-policy/) - [AI事業者ガイドラインの読み方：AIを使う会社がやること](https://www.ai-ready.jp/guide/ai-business-guidelines-for-users/) - [AIのセキュリティの基本：AIへの攻撃とAIを使った攻撃への備え](https://www.ai-ready.jp/guide/ai-security-basics/) - [AIの内部点検・監査の進め方：社内の使い方をルールどおりか確かめる](https://www.ai-ready.jp/guide/ai-internal-audit/) 用語 - [AIガバナンス](https://www.ai-ready.jp/glossary/ai-governance/) - [シャドーAI](https://www.ai-ready.jp/glossary/shadow-ai/) - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) - [ログ](https://www.ai-ready.jp/glossary/log/) - [NIST AI RMF](https://www.ai-ready.jp/glossary/nist-ai-rmf/) - [ヒューマン・イン・ザ・ループ](https://www.ai-ready.jp/glossary/human-in-the-loop/) - [KPI](https://www.ai-ready.jp/glossary/kpi/) ## よくあるご質問 QAIの運用で、最初に確かめ始めるとよいのはどれですか？ A利用状況の把握から始めると取り組みやすくなります。どの部署が、どの目的で、どのAIを、どのデータで使っているかが分からないと、品質やリスクを確かめる対象も決められないためです。申請の記録や定期的なアンケートで把握する方法があります。 Q見直しはどのくらいの頻度で行えばよいですか？ A月に1回は数字と事故の報告を確かめ、四半期に1回はルールや使い方を見直す、という組み立てが一つの目安です。サービスやモデルの大きな変更、対象業務の追加、事故があったときは、頻度にかかわらず見直します。 QAIのサービスが更新されたことには、どう気づけばよいですか？ A提供者のお知らせや変更の履歴、利用規約の改定の案内を確かめる担当を決めておく方法があります。AI事業者ガイドラインも、AI利用者の役割として、環境の変化などの情報をAI提供者と共有することを挙げています。 Q専任の担当がいなくても運用できますか？ A既存の会議や窓口に役割を加える形でも始められます。大切なのは、何を、誰が、いつ確かめ、結果を誰が判断するかを決めておくことです。確かめる項目を絞り、記録の手間を小さくすると続けやすくなります。 ## 関連する法令・判例・指針（参考情報） - 指針 総務省・経済産業省「AI事業者ガイドライン」（第1.2版（2026年3月31日）） AIを安全・安心に活用するため、AIの開発・提供・利用に関わる事業者が取り組む事項をまとめた指針です。事業者を「AI開発者」「AI提供者」「AI利用者」に分けて示しています。拘束力のない文書で、状況の変化に応じて更新されています。 [発行元の公式ページで開く](https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html) - 指針 独立行政法人情報処理推進機構（IPA）「中小企業の情報セキュリティ対策ガイドライン」（第4.0版（2026年3月）） 中小企業の経営者と実務の担当者が、情報セキュリティ対策を進めるための手順と考え方をまとめたガイドラインです。付録に、自社の対策の状況を確かめる自己診断の様式などがあります。 [発行元の公式ページで開く](https://www.ipa.go.jp/security/guide/sme/about.html) 条文・指針は2026年10月26日に照合した内容です。要旨は編集部が平易にまとめたもので、条文・判決・指針の全文ではありません。個別の事案への当てはめは、弁護士などの専門家にご確認ください。表記の決まりは[関連する法令・判例・指針（凡例）](https://www.ai-ready.jp/legal/)をご覧ください。 ## この記事に出てくる用語 - [モデル](https://www.ai-ready.jp/glossary/model/) - [AI事業者ガイドライン](https://www.ai-ready.jp/glossary/ai-guidelines-for-business/) - [AIガバナンス](https://www.ai-ready.jp/glossary/ai-governance/) - [AIセーフティ・インスティテュート（AISI）](https://www.ai-ready.jp/glossary/aisi/) - [シャドーAI](https://www.ai-ready.jp/glossary/shadow-ai/) - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) - [ログ](https://www.ai-ready.jp/glossary/log/) - [AIエージェント](https://www.ai-ready.jp/glossary/ai-agent/) - [フィジカルAI](https://www.ai-ready.jp/glossary/physical-ai/) - [自律性](https://www.ai-ready.jp/glossary/autonomy/) - [アカウンタビリティ（説明責任）](https://www.ai-ready.jp/glossary/accountability/) - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [ヒューマン・イン・ザ・ループ](https://www.ai-ready.jp/glossary/human-in-the-loop/) - [NIST AI RMF](https://www.ai-ready.jp/glossary/nist-ai-rmf/) - [KPI](https://www.ai-ready.jp/glossary/kpi/) ## 「ガバナンスと法令」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/governance/) [定着させる／ガバナンスと法令AIの内部点検・監査の進め方：社内の使い方をルールどおりか確かめる嵐保憲2026-10-26](https://www.ai-ready.jp/guide/ai-internal-audit/)[定着させる／ガバナンスと法令AIの利用ルールを見直し、社内に定着させる：改定の手順と周知の進め方嵐保憲2026-10-26](https://www.ai-ready.jp/guide/ai-policy-revision/)[はじめる／ガバナンスと法令AI事業者ガイドラインの読み方：AIを使う会社がやること嵐保憲2026-10-25](https://www.ai-ready.jp/guide/ai-business-guidelines-for-users/) ## 出典 1. [経済産業省 AI事業者ガイドライン（第1.2版）](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html) 2. [AI事業者ガイドライン（第1.2版）本編（PDF）](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf) 3. [AI事業者ガイドライン（第1.2版）別添（PDF）](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_3.pdf) 4. [総務省・経済産業省 AI事業者ガイドライン活用の手引き（案）（PDF）](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_9.pdf) 5. [総務省・経済産業省「AI事業者ガイドライン」令和7年度更新内容（PDF）](https://www.soumu.go.jp/main_content/001064301.pdf) 6. [AIセーフティ・インスティテュート AIセーフティに関する評価観点ガイド](https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/) 7. [AIセーフティ・インスティテュート AIセーフティに関する評価観点ガイド（第1.20版）概要（PDF）](https://aisi.go.jp/assets/pdf/ai_safety_eval_summary_v1.20_ja.pdf) 8. [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) 9. [NIST AI RMF Core（Govern・Map・Measure・Manage）](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/) 10. [IPA 中小企業の情報セキュリティ対策ガイドライン](https://www.ipa.go.jp/security/guide/sme/about.html) 最終確認日：2026-10-26 ## 次の一歩 [測るAI-Ready診断（無償）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無償）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. なぜ導入後も確かめ続ける必要があるのですか？ 2. 何を確かめればよいですか？ 3. 確かめる担当と頻度はどう決めればよいですか？ 4. 判断の目安 5. よくあるつまずきはどんなものですか？ 6. チェックリスト 7. よくあるご質問 この記事が扱う柱 主に「ガバナンスと法令」、あわせて「ユースケースと効果」 [ガバナンスと法令の解説](https://www.ai-ready.jp/about-ai-ready/governance/)[ユースケースと効果の解説](https://www.ai-ready.jp/about-ai-ready/use-cases/) --- 出典：フロレンティナ株式会社「AIを使い続けるための運用と見直し：利用状況・品質・リスクを定期的に確かめる｜AI-Ready.jp」 https://www.ai-ready.jp/guide/ai-operation-monitoring/