--- title: "AIツールの安全性をどう見るか｜AI-Ready.jp" url: https://www.ai-ready.jp/column/evaluating-ai-tool-safety/ description: "AIツールの安全性は、データの扱い、出力の品質と安全、事業者の取り組み、自社の使い方の4つの面から見ると整理しやすくなります。公的な評価の観点を、使う側の確認に生かす方法を紹介します。" updated: 2026-11-12 publisher: "フロレンティナ株式会社" --- [柱：基盤とセキュリティ](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) # AIツールの安全性をどう見るか 執筆：[石田誠](https://www.ai-ready.jp/about/authors/#ishida)更新 2026-11-12最終確認 2026-11-12出典 3件[図解 1点](https://www.ai-ready.jp/zukai/) この記事の結論 AIツールの安全性は、「データの扱い」「出力の品質と安全」「事業者の取り組み」「自社の使い方」の4つの面から見ると整理しやすくなります。AIセーフティ・インスティテュート（AISI）の評価観点ガイドは開発・提供する側に向けた資料ですが、その観点を質問に置き換えると、使う側がツールを比べる手がかりになります。 自社の「基盤とセキュリティ」の準備度は？[10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) 業務で使うAIツールを選ぶとき、機能や料金に比べて、安全性は比べにくいと感じる方が多いのではないでしょうか。「安全です」と書かれていても、何がどのように安全なのかが分からなければ判断できません。この記事では、公的な資料の考え方を借りて、使う側がAIツールの安全性を見るときの整理のしかたを紹介します。 この記事でわかること - 公的な資料が示す、AIの安全性を見る観点 - 使う側が確かめる4つの面 - AIエージェントのように自動で動くツールで加わる観点 ## 公的な資料は、安全性をどのような観点で整理していますか？ AISIは、AIセーフティに関する評価観点ガイドを公表しています。2026年7月に公表された第1.20版の概要では、AIセーフティの重要な要素として、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性の6つを挙げています。 そのうえで、大規模言語モデル（LLM）を使ったシステムの評価の観点として、次の10項目を示しています。 - 有害情報の出力制御 - 偽誤情報の出力・誘導の防止 - ハイリスク利用・目的外利用への対処 - 公平性と包摂性 - プライバシー保護 - データ品質 - 検証可能性 - 説明可能性 - ロバスト性（想定外の入力に対する頑健さ） - セキュリティ確保 このガイドが主に想定する評価の担い手は、AIを開発・提供する事業者の担当者です。使う側がこれらをすべて自分で試験する必要はありません。ただし、事業者が各観点でどのような取り組みをしているかを尋ねる「質問の一覧」として使えます。 また、総務省と経済産業省の「AI事業者ガイドライン」は、AIを使う事業者（AI利用者）も含めて、取り組むことを整理しています。2026年3月に第1.2版が公表されており、チェックリストとワークシートも別添として用意されています。 読みながら、自社の現在地を確かめませんか クイック診断は10問・約3分・登録不要です。7つの柱ごとの目安と、「基盤とセキュリティ」を含めて次に取り組むことがわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/)[結果の解説（30分・無料）](https://www.ai-ready.jp/consult/review/) ## 使う側は、何を確かめればよいですか？ 使う側の確かめる点を、4つの面に分けると次のようになります。 1. **データの扱い：** 入力した内容がAIの学習に使われるか、どこに、どのくらいの期間保存されるか、管理者が設定で変えられるかを確かめます 2. **出力の品質と安全：** 誤った内容（ハルシネーション）や有害な内容への対策、出典の示し方、出力を人が確かめる前提になっているかを確かめます 3. **事業者の取り組み：** 安全性の評価や第三者による検証を行っているか、問題が見つかったときの連絡や対応の方針を公開しているかを確かめます 4. **自社の使い方：** 誰が、どの業務で、どの情報を入れて使うのかを決め、権限と記録の設定を確かめます AIツールの安全性を見る4つの面 - **データの扱い**：学習に使われるか、どこに、どのくらいの期間保存されるか、管理者が設定で変えられるか - **出力の品質と安全**：誤った内容や有害な内容への対策、出典の示し方、人が確かめる前提になっているか - **事業者の取り組み**：安全性の評価や第三者による検証、問題が見つかったときの対応の方針を公開しているか - **自社の使い方**：誰が、どの業務で、どの情報を入れて使うか。**同じツールでも、使い方によって安全性は変わります** AISIの評価観点ガイドの観点は、事業者に取り組みを尋ねる「質問の一覧」としても使えます。 4つ目の「自社の使い方」は見落とされがちですが、同じツールでも、使い方によって安全性は変わります。たとえば、社外秘の情報を入れない業務に限って使う場合と、顧客の情報を扱う業務で使う場合では、求める水準が異なります。 ### 事業者への質問は、どのように用意すればよいですか？ 上の4つの面に沿って、事業者の公開資料を読み、分からない点を質問にまとめます。公開資料で確かめた内容と、回答で確かめた内容を分けて記録しておくと、後から見直すときに役立ちます。確かめる項目の例は、ひな形「[AIの委託先・サービスの確認リスト](https://www.ai-ready.jp/templates/ai-vendor-checklist/)」にまとめています。 ## AIエージェントのように自動で動くツールでは、何が加わりますか？ AIが計画を立て、外部のシステムにつないで作業を進めるAIエージェントでは、確かめる点が増えます。評価観点ガイドの第1.20版では、AIエージェントに固有の観点として、「外部環境との相互作用」「自律的な挙動」、そしてシステム全体を見守り止められるようにする「観測と制御」が加わりました。 使う側では、次の点を確かめると考えやすくなります。 - AIがどのシステムに、どの権限でつながるか - 送信・削除・支払いなど、取り消しにくい操作の前に人の確認を入れられるか - AIが行った操作の記録を残し、あとから確かめられるか - 問題が起きたときに、すぐに止められるか 権限の決め方は[AIエージェントを安全に使うための権限と確認](https://www.ai-ready.jp/guide/ai-agent-security/)で詳しく説明しています。 ## 関連するひな形・ガイド・用語 ひな形 - [AIの委託先・サービスの確認リスト](https://www.ai-ready.jp/templates/ai-vendor-checklist/) ガイド - [法人向けの生成AIツールの選び方：契約と設定で確かめること](https://www.ai-ready.jp/guide/choosing-business-ai-tools/) - [AIの支援会社の選び方と付き合い方](https://www.ai-ready.jp/guide/ai-partner-selection/) - [AIエージェントを安全に使うための権限と確認](https://www.ai-ready.jp/guide/ai-agent-security/) - [自社のAIアプリのセキュリティの確かめ方](https://www.ai-ready.jp/guide/llm-app-security/) - [シャドーAIへの対策](https://www.ai-ready.jp/guide/shadow-ai-countermeasures/) - [AI事業者ガイドラインの読み方：AIを使う会社がやること](https://www.ai-ready.jp/guide/ai-business-guidelines-for-users/) 用語 - [AIセーフティ評価](https://www.ai-ready.jp/glossary/ai-safety-evaluation/) - [AIセーフティ・インスティテュート（AISI）](https://www.ai-ready.jp/glossary/aisi/) - [AI事業者ガイドライン](https://www.ai-ready.jp/glossary/ai-guidelines-for-business/) - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) ## よくあるご質問 QAIセーフティの評価観点ガイドは、AIを使うだけの会社にも関係がありますか？ A主な対象は、AIを開発・提供する事業者の担当者です。ただし、どのような観点で安全性を確かめるかが整理されているため、使う側がツールを選ぶときの質問の手がかりにもなります。事業者に、それぞれの観点でどのような取り組みをしているかを尋ねると、比べやすくなります。 Q安全性を一度確かめれば、その後は確かめなくてよいですか？ A続けて確かめることをお勧めします。AIツールは機能や設定が更新されることがあり、自社の使い方も広がっていきます。評価観点ガイドでも、評価は一度で終わるものではなく、繰り返し行うものとされています。年に一度など、見直しの時期を決めておくと続けやすくなります。 ## この記事に出てくる用語 - [AIセーフティ・インスティテュート（AISI）](https://www.ai-ready.jp/glossary/aisi/) - [AIエージェント](https://www.ai-ready.jp/glossary/ai-agent/) - [公平性](https://www.ai-ready.jp/glossary/fairness/) - [大規模言語モデル（LLM）](https://www.ai-ready.jp/glossary/llm/) - [モデル](https://www.ai-ready.jp/glossary/model/) - [データ品質](https://www.ai-ready.jp/glossary/data-quality/) - [説明可能性（XAI）](https://www.ai-ready.jp/glossary/explainable-ai/) - [ロバスト性](https://www.ai-ready.jp/glossary/robustness/) - [AI事業者ガイドライン](https://www.ai-ready.jp/glossary/ai-guidelines-for-business/) - [ハルシネーション](https://www.ai-ready.jp/glossary/hallucination/) - [観測と制御（AIエージェント）](https://www.ai-ready.jp/glossary/agent-observation-and-control/) - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [シャドーAI](https://www.ai-ready.jp/glossary/shadow-ai/) - [AIセーフティ評価](https://www.ai-ready.jp/glossary/ai-safety-evaluation/) ## 「基盤とセキュリティ」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) [基盤とセキュリティAIのベンダーロックインはどう避けるか？依存を減らすより「出口」を用意する考え方石田誠2026-11-12](https://www.ai-ready.jp/column/avoiding-vendor-lock-in/)[基盤とセキュリティAIの電力消費と企業の考え方石田誠2026-11-12](https://www.ai-ready.jp/column/ai-energy-use/)[基盤とセキュリティAPI連携で広がるAI活用石田誠2026-11-12](https://www.ai-ready.jp/column/api-and-ai/) ## 出典 1. [AIセーフティ・インスティテュート（AISI）「AIセーフティに関する評価観点ガイド」](https://aisi.go.jp/output/output_framework/guide_to_evaluation_perspective_on_ai_safety/) 2. [AISI「AIセーフティに関する評価観点ガイド（第1.20版）概要」](https://aisi.go.jp/assets/pdf/ai_safety_eval_summary_v1.20_ja.pdf) 3. [経済産業省「AI事業者ガイドライン（第1.2版）」](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html) 最終確認日：2026-11-12 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. 公的な資料は、安全性をどのような観点で整理していますか？ 2. 使う側は、何を確かめればよいですか？ 3. AIエージェントのように自動で動くツールでは、何が加わりますか？ 4. よくあるご質問 この記事が扱う柱 主に「基盤とセキュリティ」 [基盤とセキュリティの解説](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) 自社の準備度を確かめる 10問・約3分・登録不要。7つの柱ごとの目安がわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/) --- 出典：フロレンティナ株式会社「AIツールの安全性をどう見るか｜AI-Ready.jp」 https://www.ai-ready.jp/column/evaluating-ai-tool-safety/