INSIGHT
AIの結果に異議が出たら——人が判断し直せる窓口を作る
誤った事実の訂正と、判断をやり直す申し立てをどう受け渡すか。
AIを使った一次判定について、「住所が古い」と連絡が来た。別の人からは、「入力内容は合っているが、この扱いは納得できない」と言われた。どちらも問い合わせではありますが、会社がやり直す仕事は違います。
前者は事実の訂正、後者は判断への異議です。一つの受付から始めても、入力を直す経路と、人が判断をやり直す経路は分けて設計します。
入口は一つでも、二つの経路へ分ける
利用者に専門用語を選ばせる必要はありません。「情報を直したい」「結果を見直してほしい」「理由を知りたい」と伝えれば受付できる入口を用意します。受付担当が内容を確認し、訂正と異議の経路へ振り分けます。
訂正では、氏名、住所、申請内容など元の入力に誤りがないかを確かめ、正しい情報へ更新した上で必要な再処理を行います。異議では、入力が正しくても、適用した基準、考慮された事情、結果の扱いが妥当かを人が見直します。技術的な不具合や一般的な質問は、それぞれの担当へ渡します。
受付担当、データを管理する部署、業務上の再審査担当は、どの経路へ送るか、回答期限、連絡が途切れた場合の引継ぎを合意します。複数の窓口を利用者に回らせず、社内で受け渡します。
一つの申出に両方が含まれることもあります。「住所を直したので解決」と閉じず、訂正前の判定で不利益が残っていないか、本人が求める結果の見直しも必要かを確認します。社内で経路を分けても、申出の全体を引き取る担当は一人決めておきます。
再審査する人には、記録と覆す権限を渡す
「担当者が確認しました」と返すだけでは、判断し直したことになりません。再審査担当には、元の入力、参照資料、AIの出力、処理時刻、その時点で適用した業務ルール、人が加えた変更を見られるようにします。必要以上の個人情報を見せない範囲も、情報管理担当と決めます。
さらに、元の結果を維持する、修正する、保留して追加資料を求める、取り消す権限が必要です。同じAIへ再度質問して同じ答えを得ることは、人による再判断ではありません。再審査担当は、AIの回答と同じかではなく、業務基準と個別の事情に照らして結論を出します。
担当者が元の決定に関与していた場合に別の人が見るか、専門知識が必要な案件を誰へ渡すかも決めます。独立性の必要度は業務の影響に合わせて設計します。
人の再審査には、元の結果を読む権限だけでなく、必要な記録へアクセスし、結論を変えられる権限が要ります。
返答では、理由と次の行動を伝える
OECDのAI原則「透明性と説明可能性」 は、AIとの関わりを認識できること、結果を理解するための情報、不利益を受けた人が結果へ異議を示せる情報を重視しています。原則は2024年に改訂されていますが、日本で一律の説明義務や異議申立権を作る法律ではありません。
実務での返答は、専門的な内部処理をすべて開示することとは限りません。受け付けた内容、訂正した事実、再審査で用いた主な基準、結論、次に取れる行動を、相手が理解できる言葉で示します。説明できない情報や、開示に制限がある情報は、その理由と確認できる範囲を法務・情報管理担当と整理します。
回答期限に間に合わない場合も、放置せず、現在の段階と次の連絡日を伝えます。再審査中に元の結果を実行すると取り返しにくい業務では、保留できる条件を業務責任者が定めます。
個別の訂正と、仕組みの改善をつなぐ
一件を直した後は、その案件を閉じる仕事と、同じ条件の案件を見直す仕事を分けます。古い住所が繰り返し使われたなら入力元や同期を確認する。同じ種類の相談が通常扱いへ誤分類されるなら、評価例や人の確認方法を見直します。
NISTの生成AI向けリスク管理資料 は、虚偽の出力、出典の確認、人とAIの関係、データや第三者との連携などを扱う任意の資料です。日本の法的義務や、個別の窓口設計を定めるものではありません。再審査に必要な証拠を考える参考として用います。
窓口責任者は、訂正と異議を分けて件数を数え、結論、所要日数、元の結果を変えた理由、足りなかった記録を業務責任者と品質担当へ共有します。公平性の傾向を評価する仕事と連携する場合も、個別の申出に対する回答を集計作業の完了まで待たせません。
個人への返答を終えた後に、同じ条件の案件と処理工程を見直す責任者へ記録を渡します。
異議の受付から訂正・再審査・返答まで、実際に通して試す
異議の窓口は、AIの結果を説明して納得してもらうためだけの場所ではありません。誤った情報を直すことと、正しい情報を前提に判断をやり直すことを区別し、必要な人へ届ける入口です。
受付、訂正、再審査、返答、改善を一度通して試すと、記録が足りない、結論を変えられる人がいない、利用者へ返す言葉がない、といった断絶が見えます。その断絶を埋めて初めて、「人が判断し直せる」と言えます。