失敗を共有できる場づくりとAI活用：ヒヤリ・ハットを報告しやすくする

自社の「組織と文化」の準備度は？10問・約3分で確かめる（無料・登録不要）

生成AIは便利な一方で、もっともらしい誤り（ハルシネーション）を出すことがあり、入力してよい情報の判断に迷う場面もあります。こうした「ヒヤッとしたこと」が職場で話題にならないと、同じ失敗が別の場所で繰り返され、やがて大きな事故につながりかねません。この記事では、AI活用の失敗やヒヤリ・ハット（事故には至らなかったが危なかった出来事）を共有できる場のつくり方をご紹介します。

なぜAI活用では、失敗を共有できることが大切なのですか？

チームの中で、意見や失敗を口にしても不利益を受けないと感じられる状態を「心理的安全性」と呼びます。AI活用では、次の理由から、この状態がいっそう大切になります。

• AIの誤りは、使う人が気づいて初めてわかる：出力の誤りに気づいた人が声を上げなければ、ほかの人は同じ誤りを見逃します。
• ルールの境目で迷う場面が多い：「この情報を入力してよいか」と迷ったときに相談できないと、自己判断で使う人や、使うのをやめてしまう人が出ます。
• 隠れた利用が生まれやすい：失敗が責められる職場では、会社が把握していないAIの利用（シャドーAI）が増えやすくなります。
• 道具の変化が速い：機能が変わるたびに新しいつまずきが生まれるため、現場の気づきを早く集める必要があります。

経済産業省と総務省の「AI事業者ガイドライン」の別添では、AIガバナンスの考え方を組織の文化として根付かせることを挙げています。そのうえで、ヒヤリ・ハットを報告しやすくするために、匿名で報告できる仕組みや報奨の制度、啓発の活動を整えることを例示しています。

また、経済産業省の「デジタルガバナンス・コード3.0」は、定量的なリターンの大きさやその確かさを求め過ぎず、必要な挑戦を促すことを望ましい方向性として挙げています。新しい道具を試すことには、一定の失敗がともないます。失敗を学びに変えられる職場であることが、挑戦を続ける前提になります。

どんな失敗やヒヤリ・ハットを共有すればよいですか？

共有の対象をはっきりさせると、報告する側が迷いません。AI活用でよく見られるものを分類すると、次のようになります。

個人情報や機密の情報を誤って入力した、社外に誤った内容を送ったなど、影響が大きいものは「共有」ではなく、事故として報告の手順に乗せます。事故への備えは「AIの不具合・事故への備えと対応」をご覧ください。

報告しやすい仕組みは、どう作ればよいですか？

① 経営陣が、失敗の共有を求めていると伝える

「AIを使っていてヒヤッとしたことは、ぜひ教えてほしい」と経営陣が自分の言葉で伝えます。一度だけでなく、会議や社内報などで繰り返し伝えることが大切です。

② 報告の窓口を決める

報告の先を一つに決めます。名前を出して報告する窓口に加えて、匿名で報告できる窓口を用意すると、報告のしやすさが上がります。報告の項目は「何が起きたか」「どう気づいたか」「どうしたか」の3つ程度にしぼります。

③ 報告の扱いを決めて公表する

うっかりの失敗や迷いの報告は責めないこと、報告したことで評価が下がらないことを、文書にして公表します。あわせて、故意の違反や重大な違反は就業規則などの決まりに沿って扱うことも明記し、線引きをはっきりさせます。懲戒などの扱いは、人事・労務の担当と相談して決めます。

④ 報告に応える

報告を受けたら、受け取ったことと、どう生かしたかを報告者に返します。報告しても何も変わらないと感じると、報告は続きません。

⑤ 報告をたたえる

役に立った報告を社内で紹介し、報告した行動をたたえます。AI事業者ガイドラインの別添が挙げる報奨の制度も、この一つの形です。

総務省と経済産業省の「AI事業者ガイドライン活用の手引き（案）」は、事故の際に速やかに報告できる連絡窓口を設け、社内外への説明や報告の流れをあらかじめ検討し、予行演習しておくことも挙げています。ヒヤリ・ハットの窓口と事故の窓口は、つながる形で設計しておくと、迷わずに済みます。

振り返りは、どう進めればよいですか？

報告を受けた後の振り返りでは、「誰が悪いか」ではなく「どの仕組みを直せば、同じことが起きにくくなるか」に目を向けます。進め方の一例です。

1. 事実を集める：何が、いつ、どの道具で起きたかを、報告者を責めずに聞き取ります。
2. 起きた理由を仕組みの側から考える：ルールの書き方がわかりにくかった、確認の手順がなかった、ツールの設定が初期のままだった、などを洗い出します。
3. 対策を決める：ルールの説明の追加、確認の手順の追加、設定の変更など、具体的な対策と担当、期限を決めます。
4. 共有する：個人名を出さずに、起きたことと対策を社内に共有します。

振り返りの記録は、同じ種類の失敗が繰り返されていないかを見るためにも残しておきます。

共有した失敗は、どう改善につなげればよいですか？

集まった報告を、ルールや手順、教育に反映して初めて、共有の仕組みが生きてきます。

• 利用ルールの見直し：迷いの報告が多い項目は、ルールの書き方や例を見直します。見直しの進め方は「AIの利用ルールを見直し、社内に定着させる」をご覧ください。
• 研修の教材にする：実際の社内の例は、研修で伝わりやすい教材になります。個人が特定されないように手を加えて使います。
• リスクの見直しのきっかけにする：AI事業者ガイドラインの別添は、定期的な分析とは別に、重大なヒヤリ・ハットが起きたときなどにも、リスクを分析し直すことを挙げています。
• うまくいった例とあわせて伝える：失敗の共有だけでなく、うまくいった例も紹介すると、前向きな雰囲気を保ちやすくなります。活用例の集め方は「社内の活用例の集め方・広め方」をご覧ください。

管理職は、何に気をつければよいですか？

失敗を共有できる場は、管理職のふるまいで大きく変わります。

• 報告を受けたら、まず礼を言う：内容を確かめる前に、報告してくれたことに感謝を伝えます。
• 自分の失敗も話す：管理職がAIを使って失敗した例を話すと、部下も話しやすくなります。
• 評価の場で持ち出さない：報告した失敗を、日々の評価の材料にしないことを守ります。AIを使った評価やモニタリングの注意は「AI活用と労務管理の注意」もご覧ください。
• 試すための時間を認める：試すことそのものを業務の一部として認めると、新しい使い方に挑戦しやすくなります。

チェックリスト

• 経営陣が、AI活用の失敗やヒヤリ・ハットの共有を求めていると伝えている
• 報告の窓口を決め、匿名で報告できる方法も用意している
• 報告を責めない扱いと、故意・重大な違反の扱いの線引きを文書にしている
• ヒヤリ・ハットの窓口と事故の報告の手順がつながっている
• 報告を受けたら、どう生かしたかを報告者に返している
• 振り返りでは、個人ではなく仕組みの改善に目を向けている
• 共有した失敗を、利用ルール・手順・研修に反映している
• 重大なヒヤリ・ハットが起きたときに、リスクを分析し直すことにしている