INSIGHT
顧客にAI利用をどう伝えるか——説明と人への切替を一緒に用意する
AIの範囲を伝えるだけでなく、人へ相談できるところまで用意できるか。
顧客向けの問い合わせ画面に、「AIが回答します」という一文を足した。これで説明は終わったように見える。けれども顧客が次に知りたいのは、何を答えられるのか、その答えを手続きに使ってよいのか、個別事情があるとき誰に相談できるのかである。
表示と相談窓口を別々に作ると、困った顧客が自分で境界を見つけることになる。公開前に、回答の近くで伝える内容と、人へ切り替わった後の受渡しを一つの体験として試したい。
AI利用の説明は、表示文を置いた時点では終わらない。答えられる範囲と、人へ移る方法まで届いて初めて役に立つ。
説明文は五つの答えから作る
長い仕組みの解説より、顧客がその場で判断できる五つの答えを用意する。
- どの場面でAIが回答や回答案を作っているか
- どの種類の質問に、何の資料を使って答えるか
- 回答をそのまま使えるのか、別の確認が必要か
- 何を答えず、どの条件で人へ切り替えるか
- 誤りや個別事情を、どこへ伝えられるか
たとえば「公開済みの操作手順を案内します。個別契約、返金の確定、本人確認が必要な変更は担当者が確認します。回答と根拠が合わない場合は、この画面から連絡できます」と書けば、表示、範囲、切替がつながる。内部の技術名や仕組みをすべて説明する必要はない。利用者が次の行動を選べる情報を優先する。
説明を置く場所も重要である。入力前に分かる短い説明、各回答の近くに置く根拠と注意、範囲外になった時点の切替案内に分ける。利用規約の奥に一度だけ書いても、回答を受け取る場面の判断には使いにくい。
利用場面に合わせて説明の強さを変える
同じ回答画面でも、一般的な操作方法を探す場面と、契約や支払いを決める場面では、回答が顧客へ与える影響が違う。接点ごとに、AIが下書きを作るのか、人が確認して送るのか、顧客へ直接表示するのかを分ける。
OECDのAI原則「透明性と説明可能性」 は、利用者がAIとのやり取りを認識できること、能力と限界について文脈に合う情報を得ること、影響を受けた人が出力を理解し異議を示せる情報を重視している。2024年に改訂された国際的な原則であり、日本で一律の表示方法や異議申立制度を定める法令ではない。説明の量や方法は、結果の重要性や利用場面に合わせて会社が決める必要がある。
一般情報なら、参照資料と更新時点を示し、顧客自身が確かめ直せる形が役立つ。個別事情が結論を変える質問では、AIが確定的に答えず、人へ渡す理由を示す。会社側に確認が必要な手続きでは、回答文より先に、誰が確定するかを伝える。
切替は入口・受渡し・受付後まで決める
「有人窓口へ」と表示するだけでは、人への切替が成立したとは言えない。どんなときに切り替えるか、どの窓口へつなぐか、担当者へ何を渡すか、受付後いつ・どの方法で返すかを決める。
切替条件には、回答の根拠が見つからない、資料同士が食い違う、個別契約や本人確認が必要、顧客が人による確認を求めた、などがある。担当者には、顧客の質問、AIの回答、参照した資料と版、会話の時刻、顧客が訂正を求めた箇所を渡す。個人情報を含む場合は、何を引き継ぐかを顧客へ示し、社内の権限と保存ルールに合わせる。
担当者の役割は、AIの回答を追認することではない。原資料と顧客の事情を確認し、必要なら回答を訂正し、次の手続きを決めることだ。切替先に確認権限がない、会話を読めない、回答できる時間が決まっていないなら、画面上のボタンだけ作っても顧客は行き止まりになる。
有人窓口の営業時間外は、その場で人につながるように見せない。受付だけ行うなら、受付済みであることと返答の目安を示す。緊急の用件を扱えない窓口では、待たずに使える別の連絡先も明らかにする。
人への切替はボタンではなく、理由と記録が担当者へ届き、確認済みの回答が顧客へ戻るまでの流れである。
誤案内の訂正を顧客まで通す
公開前に、許可された試験環境で架空の料金表を使い、古い料金を回答した想定を顧客対応の担当と試す。誰が報告を受け、該当する回答を止め、現行資料を確認し、影響を受けた顧客を調べ、訂正を知らせるかをたどる。画面だけを直しても、すでに回答を使って申込みや変更を進めた顧客には届かない。
NISTのGenerative AI Profile（NIST AI 600-1） は、虚偽の出力、出典確認、人とAIの役割、第三者との関係、継続的な評価などを扱う2024年の文書である。日本の顧客対応に特定の記録様式や通知義務を定める資料でも、製品の安全を保証する認証でもない。ここでは、正常な回答だけでなく、訂正と人の対応まで評価する観点として使う。
訂正記録には、元の質問と回答、根拠、発生した期間、影響する顧客や処理、正しい内容、連絡結果、再開判断を残す。顧客が誤りを知らせる入口も、通常の画面から見つけられるか確認する。
説明と切替を一件通して試し、公開判断へ確認結果を渡す
自分が作る画面で、説明を読むところから有人窓口で回答を受けるところまで、一件を通して試す。顧客対応と資料の担当へ、試した質問、引き渡された情報、届かなかった案内を見せる。公開範囲と返答時間の約束は、その結果を基に権限ある担当が決める。
合意は、次のように一文で残せる。以下の一営業日は説明用の例で、実際に約束する時間は窓口の対応能力を確認して決める。
「公開済み操作手順の案内に限って顧客へ直接表示する。資料名と更新日を回答に示す。個別契約、返金、本人確認が必要な変更、根拠不明は有人窓口へ渡す。質問・回答・根拠を担当者が受け取り、一営業日以内に確認方法を連絡する。訂正先を追えない質問は公開しない」
本番へ進める単位は画面全体ではない。説明、根拠、切替、訂正を通せた質問の範囲である。
AIの回答範囲を伝え、人への切替と誤案内の訂正まで試す
まずは架空の質問一件で、回答範囲の説明、切替理由、受付後の案内をたどりたい。顧客対応の担当と許可された試験として行い、実際の顧客へ試験連絡を送らない。自分が確かめた表示と未確認の受渡しを記録し、公開を判断する人へ渡す。