AIの利用と顧客の信頼

自社の「ガバナンスと法令」の準備度は？10問・約3分で確かめる（無料・登録不要）

問い合わせへの回答、提案書の作成、商品の説明など、顧客に関わる業務でもAIの利用が広がっています。早く、いつでも対応できるのは顧客にとってもよいことです。一方で、AIの誤った回答や、顧客の情報の扱いへの不安は、長く築いてきた信頼を損なうことがあります。この記事では、AIを使いながら顧客の信頼を守るための考え方を整理します。

顧客の信頼は、どんな場面で揺らぎやすいのでしょうか？

AIの利用で顧客の信頼が揺らぎやすいのは、次のような場面です。

• AIの誤りがそのまま顧客に届いた：料金や条件の説明、製品の仕様などを、AIが誤って答えた
• AIだと知らずにやり取りしていた：人が対応していると思っていたのに、後からAIだったと分かった
• 人に相談できなかった：AIの回答では解決せず、人の担当者につながる方法が分からなかった
• 自分の情報の扱いが分からなかった：入力した相談の内容や個人の情報がどう使われるのか、説明がなかった

いずれも、AIそのものより、使い方や伝え方に原因があることが多いものです。裏返すと、使い方と伝え方を整えれば、AIを使いながら信頼を守ることができます。

信頼を守るために、何を意識すればよいですか？

① AIを使っていることを伝える

総務省・経済産業省の「AI事業者ガイドライン」は、共通の指針の一つに「透明性」を挙げ、ステークホルダーに提供する情報の例として、AIを利用している事実や活用の範囲などを示しています。顧客がAIと直接やり取りする窓口では、「この回答はAIが作成しています」のように伝えておくと、顧客は回答をどう受け止めればよいかを判断しやすくなります。

② できることと限界を示す

同じガイドラインは、提供する情報の例に、AIの能力と限界、適切・不適切な利用方法も挙げています。たとえば「一般的なご質問にお答えします。契約の内容や個別の条件は担当者にご確認ください」のように、AIが答えられる範囲を示しておくと、顧客が誤った前提で判断するのを防げます。

③ 人に相談できる道を残す

AIの回答で解決しない場合や、顧客が人との対話を望む場合に、人の担当者につながる方法を分かりやすく示します。苦情や重要な契約に関わる相談など、人が対応すべき内容を決め、AIから人へ引き継ぐ流れを用意しておきます。

④ 顧客の情報を大切に扱う

顧客から預かった情報をAIのサービスに入力するときは、利用の目的の範囲内か、サービスの提供者がその情報をどう扱うかを確かめます。顧客に対しては、プライバシーポリシーなどで、情報をどのように使うかを分かりやすく示します。

社内では、何を決めておけばよいですか？

AIの出力をそのまま顧客に出す業務と、人が確かめる業務を分ける

料金、契約の条件、法令に関わる説明、健康や安全に関わる情報などは、AIの出力をそのまま出さず、人が確かめてから出す業務に分けます。分け方を決めておくと、担当者が迷わずに済みます。

誤りが見つかったときの対応を決めておく

AIの誤りが顧客に届いたときに、誰が、どの順番で対応するかを決めておきます。顧客への説明とお詫び、影響の範囲の確認、訂正、原因の振り返りまでの流れを、あらかじめ用意しておくと、落ち着いて対応できます。

記録を残す

総務省・経済産業省の「AI事業者ガイドライン」は「アカウンタビリティ」の項目で、関係する情報を文書化して一定期間保管し、必要なときに参照できる状態にすることを挙げています。顧客とのやり取りでAIを使った場合も、どの設定で、どのような回答をしたかを後から確かめられるようにしておくと、問い合わせや苦情に説明しやすくなります。

信頼は、使い方を示すことで育てられるのでしょうか？

AIの利用は、隠すほど不安を招きやすくなります。内閣府が平成31年に示した「人間中心のAI社会原則（案）」は、原則の一つに「公平性、説明責任、透明性」を挙げています。自社がAIをどのような考え方で使っているかを、方針として社外に示している会社もあります。

方針には、AIを使う業務の範囲、人が確かめる場面、顧客の情報の扱い、問い合わせの窓口などを書きます。立派な文書である必要はなく、顧客が知りたいことに短く答える形で十分です。使い方を示すことは、顧客に対する約束にもなり、社内のルールを守る力にもなります。