AIツールの安全性をどう見るか

自社の「基盤とセキュリティ」の準備度は？10問・約3分で確かめる（無料・登録不要）

業務で使うAIツールを選ぶとき、機能や料金に比べて、安全性は比べにくいと感じる方が多いのではないでしょうか。「安全です」と書かれていても、何がどのように安全なのかが分からなければ判断できません。この記事では、公的な資料の考え方を借りて、使う側がAIツールの安全性を見るときの整理のしかたを紹介します。

公的な資料は、安全性をどのような観点で整理していますか？

AISIは、AIセーフティに関する評価観点ガイドを公表しています。2026年7月に公表された第1.20版の概要では、AIセーフティの重要な要素として、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性の6つを挙げています。

そのうえで、大規模言語モデル（LLM）を使ったシステムの評価の観点として、次の10項目を示しています。

• 有害情報の出力制御
• 偽誤情報の出力・誘導の防止
• ハイリスク利用・目的外利用への対処
• 公平性と包摂性
• プライバシー保護
• データ品質
• 検証可能性
• 説明可能性
• ロバスト性（想定外の入力に対する頑健さ）
• セキュリティ確保

このガイドが主に想定する評価の担い手は、AIを開発・提供する事業者の担当者です。使う側がこれらをすべて自分で試験する必要はありません。ただし、事業者が各観点でどのような取り組みをしているかを尋ねる「質問の一覧」として使えます。

また、総務省と経済産業省の「AI事業者ガイドライン」は、AIを使う事業者（AI利用者）も含めて、取り組むことを整理しています。2026年3月に第1.2版が公表されており、チェックリストとワークシートも別添として用意されています。

使う側は、何を確かめればよいですか？

使う側の確かめる点を、4つの面に分けると次のようになります。

1. データの扱い： 入力した内容がAIの学習に使われるか、どこに、どのくらいの期間保存されるか、管理者が設定で変えられるかを確かめます
2. 出力の品質と安全： 誤った内容（ハルシネーション）や有害な内容への対策、出典の示し方、出力を人が確かめる前提になっているかを確かめます
3. 事業者の取り組み： 安全性の評価や第三者による検証を行っているか、問題が見つかったときの連絡や対応の方針を公開しているかを確かめます
4. 自社の使い方： 誰が、どの業務で、どの情報を入れて使うのかを決め、権限と記録の設定を確かめます

4つ目の「自社の使い方」は見落とされがちですが、同じツールでも、使い方によって安全性は変わります。たとえば、社外秘の情報を入れない業務に限って使う場合と、顧客の情報を扱う業務で使う場合では、求める水準が異なります。

事業者への質問は、どのように用意すればよいですか？

上の4つの面に沿って、事業者の公開資料を読み、分からない点を質問にまとめます。公開資料で確かめた内容と、回答で確かめた内容を分けて記録しておくと、後から見直すときに役立ちます。確かめる項目の例は、ひな形「AIの委託先・サービスの確認リスト」にまとめています。

AIエージェントのように自動で動くツールでは、何が加わりますか？

AIが計画を立て、外部のシステムにつないで作業を進めるAIエージェントでは、確かめる点が増えます。評価観点ガイドの第1.20版では、AIエージェントに固有の観点として、「外部環境との相互作用」「自律的な挙動」、そしてシステム全体を見守り止められるようにする「観測と制御」が加わりました。

使う側では、次の点を確かめると考えやすくなります。

• AIがどのシステムに、どの権限でつながるか
• 送信・削除・支払いなど、取り消しにくい操作の前に人の確認を入れられるか
• AIが行った操作の記録を残し、あとから確かめられるか
• 問題が起きたときに、すぐに止められるか

権限の決め方はAIエージェントを安全に使うための権限と確認で詳しく説明しています。