AIの出力に誤りがあったとき、社内で最初に答えられるようにするのは「法的に誰が責任を負うか」ではなく、「誰が内容を確認し、誰が公開・送信を承認したか」です。法的責任は利用規約、契約、出力の使い方、実際の経緯によって判断が変わるため、ここでは一律に断定しません。
利用前に、業務を「人の確認なしで社外へ出す」「人の確認を必ず挟む」「AIを使わない」に分け、確認担当と記録を1枚に決めます。
最初に「利用区分」と「確認・承認」を分けて決める
社内ルールの最小単位は、部門や製品ではなく一つの業務工程です。同じ問い合わせ対応でも、受信確認、回答案の作成、契約条件への回答では、誤りの影響も確かめる人も違います。
まず、次の5欄を1枚にします。
| 欄 | 決める内容 |
|---|---|
| 対象工程 | AIへ任せる範囲を「回答案を作る」など動詞で書く |
| 利用区分 | そのまま社外へ／人の確認を挟む／AIを使わない |
| 内容確認者 | 元資料と出力を照合する人 |
| 公開・送信の承認者 | 社外へ出す最終操作を認める人 |
| 誤り発覚時の連絡先 | 利用停止と訂正の判断を受ける人 |
この記事でいう「正本」は、商品台帳や価格表など、社内で正しい情報源として管理している元資料です。
「内容確認」と「公開・送信の承認」は別の役割です。担当者が商品台帳と照合し、上長が顧客への回答を承認する運用もあります。低リスクの工程では同じ人が兼ねても構いませんが、両方の欄へ名前を入れます。
総務省・経済産業省のAI事業者ガイドライン第1.2版は、リスクの大きさに応じて対策を変える考え方を示し、責任者の設定、関係者間の責任分配、利用時の入出力などのログ保存を挙げています（本編p.4、p.21〜23）。ただし、これは個別の事故で法的責任を負う人を決める記述ではありません。この記事では、日常業務の確認先を空欄にしないための材料として使います。
人の確認なしで社外へ出すのは、条件をすべて満たす工程だけ
人が1件ずつ確認せずに社外へ出せる候補はあります。ただし、自由に作った文章を無条件で公開する工程は候補にせず、出力範囲と誤りへの対処を先に制限します。
次の表で一つでも「いいえ」なら、最初の区分は「人の確認を必ず挟む」か「AIを使わない」です。
| 確認する条件 | 「はい」とするために書くこと |
|---|---|
| 出力範囲を限定できるか | 承認済みの定型文・回答候補と、回答しない質問 |
| 正しさを自動照合できるか | 出力の全項目を、商品台帳などの正本や必須ルールと機械的に突き合わせる方法 |
| 個人の権利・安全や、法人の事業に重大な影響を与える判断を含まないか | 個人の採用・与信・診断、法人の与信・契約可否・取引停止などを対象外にする記述 |
| 誤りの影響を受け入れ、戻せるか | 取消・訂正の方法、影響を受ける相手と範囲 |
| 範囲外を人へ渡せるか | 回答停止の条件と引き継ぐ担当者 |
| 運用中のずれを見つけられるか | 抜き取り確認を行う担当者と頻度、苦情・誤りの受付先、停止条件 |
たとえば、受信日時などシステムが持つ値を承認済み文面へ差し込む受信確認は、候補になり得ます。承認済みFAQから該当する回答を選び、本文を変えずに返す工程も、範囲外の質問を人へ渡せるなら候補です。この場合は、送信文が承認済みFAQと一字一句一致することを機械的に確かめます。AIが要約・言い換えをするなら、この条件は満たしません。一方、納期、在庫、契約条件をAIが推測して答える工程は、この区分へ置きません。定型文を返すだけなら、まずメールソフトの自動応答や問い合わせフォームの自動返信で足りないかも検討します。
デジタル庁の行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（第2.0版）は、政府向けの高リスク判定で「誤りの影響」「誰が利用するか」「職員が出力の適切さを判断するか」を別々に確認しています（2026年6月12日、別紙1 p.43〜44）。民間企業へそのまま適用される基準ではありませんが、社内の仕分けでも、この3軸を混ぜない見方が役立ちます。
限定的な代表例として、Anthropicの法人向け利用規約は、出力の用途への適切さや事実主張の正確性を評価する旨を記載しています。この規約が自社に適用されるとは限らないため、利用するサービス、契約、プランに応じて、自社が同意した規約・契約を確認してください。規約に「確認」とあっても、確認すれば誤りがなくなるという意味ではありません。
担当者・上長・有資格者は、確認する内容で分ける
確認者は役職の高さだけで決めず、その項目の正本を読め、誤りを判定する権限がある人に割り当てます。AIに詳しい人と、商品・契約・資格業務の正しさを判断できる人は同じとは限りません。
| 確認者 | 主に確認する内容 | 確認に使う資料の例 |
|---|---|---|
| 業務担当者 | 転記、名称、日付、数量、既存手順との一致 | 商品台帳、案件管理表、承認済み定型文、手順書 |
| 上長・業務責任者 | 値引き、納期回答、対外的な約束、例外対応、公開可否 | 決裁規程、価格表、契約条件、承認記録 |
| 有資格者・その分野の専門担当 | 法務・税務・医療・安全・品質など、資格や専門判断を要する内容 | 法令、業界規程、契約書、診療・安全・品質の基準 |
一つの文面に複数の確認対象があるなら、項目ごとに分けます。営業担当者が商品名と数量を照合し、上長が値引きと納期を承認する形です。有資格者が必要な内容は、AIへ結論を決めさせず、論点整理や承認済み文章の整形までに範囲を狭めます。
確認者を増やすだけでは、同じ資料を全員で眺める作業になりかねません。「確認する欄」「照合する正本」「差し戻す条件」を担当者ごとに書いてください。AIセーフティ・インスティテュート（AISI）のChief AI Officer設置・AIガバナンス実務マニュアル第1.00版のp.20は、用途ごとのRACI（役割分担表）と承認フローの設計・見直しを示しています。p.53は、低リスクかつ対象範囲を限定した案件で、簡易フローや事後報告を検討する例を示しています。専任のAI利用責任者を置かない会社でも、AI導入担当者の4つの役割を兼任者へ割り振れます。
経緯説明に必要な記録は、入力から送信までつなげる
誤りの経緯を説明するには、AIとの会話だけでなく、どの資料と確認を経て社外へ出たかを一続きに残します。画面を撮るだけで終わらせず、検索できる台帳から証拠へたどれる形にします。
最低限、次の9項目を記録します。
| 記録項目 | 残す内容 |
|---|---|
| 1. 対象業務 | 業務名、工程、利用目的 |
| 2. 利用者 | AIへ入力した人・処理を起動した仕組み |
| 3. サービス | サービス名、機能、契約・プラン、分かる範囲のモデル名 |
| 4. 実行日時 | 入力・出力の日時と管理番号 |
| 5. 入力と参照元 | 指示文、添付、正本の名称・版・更新日 |
| 6. 採用した出力 | 実際に使った文章・データ、会話やファイルへの参照先 |
| 7. 確認 | 確認者、確認日時、照合項目、根拠資料、修正内容 |
| 8. 公開・送信 | 承認者、承認日時、送信先・公開先 |
| 9. 発覚後の対応 | 発覚日時、連絡元、影響範囲、停止・訂正・連絡・再開の判断 |
1〜6は利用ごと、7は人の確認を挟む区分、8は社外へ出すときに記録します。9は誤りが発覚したときに追記します。
以下は、そのまま社内の台帳へ貼って使うための記入欄です。一つの管理番号でつなげます。これは架空の記入形式であり、実際の事故記録ではありません。
管理番号：
対象業務／工程：
利用者・実行日時：
サービス／機能／契約・プラン：
入力・参照元の名称と版：
採用した出力の保存先：
確認者／確認日時／照合項目／修正内容：
承認者／承認日時／公開・送信先：
誤り発覚後の経過と判断：AI事業者ガイドライン第1.2版は、検証可能性のため、合理的な範囲で利用時の入出力や判断根拠等のログを記録・保存することを示しています（本編p.21）。デジタル庁の生成AIガイドライン第2.0版にある政府向け利用ルールひな形も、必要に応じて入力、AIへの指示文（プロンプト）、出力結果などを提出できる前提を置いています（別紙2 p.45〜46）。
一方で、入力や出力には個人情報や秘密情報が含まれることがあります。記録を無期限・全員閲覧にせず、保存対象、閲覧者、保存期間、削除方法を自社の規程と契約に合わせて決めます。入力情報と保存・共有・連携の整理は、生成AIの情報漏えい対策6項目も参照してください。
誤りが出たら、確認済みでも止めて記録を保全する
人が確認した出力でも、誤りを見落とすことはあります。「確認済み」を終了条件にせず、発覚後に止める範囲と判断者を利用前に決めます。
社内手順は、少なくとも次の順で用意します。
- 同じ出力の公開・送信と、関連する自動処理を一時停止する
- 入力、出力、参照元、確認・承認記録を消さずに保全する
- 誰に何が届いたかを確認し、業務責任者が訂正・連絡の要否を判断する
- 法務、個人情報、安全、品質などが関わる場合は、その分野の担当者や外部専門家へ確認する
- サービス提供者への連絡、相手方への通知、関係機関への報告が必要かを、契約・法令・社内規程で確認する
- 原因に応じて利用区分、確認項目、権限、停止条件を直してから再開を判断する
デジタル庁の生成AIガイドライン第2.0版も、対策を行ってもリスクをゼロにできない前提で、リスクが顕在化した場合の対応を準備するよう示しています（本編p.38〜39）。確認者の見落としだけを原因にせず、参照元が古かったのか、AIが資料外を補ったのか、確認項目が足りなかったのか、自動送信の範囲が広すぎたのかを分けて記録します。
個別の損害賠償、相手方への通知、関係機関への報告が必要かは、利用規約、個別契約、適用法令、実際の事実関係によって変わります。この記事の手順だけで判断せず、自社が同意した規約・契約と社内規程を確認し、必要に応じて顧問弁護士などへ相談してください。
確認コストが減らない業務は、AIを使わない
AIが早く文章を出しても、確認・修正・記録・差し戻しを含む工程全体が軽くならなければ、利用対象から外す判断があります。確認時間を「AIの後処理」として隠さず、導入前後で同じ完成条件を比べます。
比較する範囲は次のとおりです。
AIありの総作業時間（同じ1件または同じ期間）＝ AI用の資料準備＋入力＋確認＋修正＋記録＋差し戻し＋誤り対応
AIなしの総作業時間（同じ1件または同じ期間）＝ 作成＋従来の確認＋修正＋記録＋誤り対応
AIありだけに必要な確認が長く、同じ品質へ直す手間も減らないなら、「AIを使わない」か、候補抽出・表記統一など確認しやすい工程へ狭めます。有資格者が原文と全文を照合し直す必要があり、下書き時間の差も小さい業務では、AIを使わないほうが工程を短くできることがあります。
比較するときは、同じ完成条件・同じ種類の案件を単位にします。試行ごとに開始・終了時刻、差し戻し、確認で見つけた誤りを記録し、あらかじめ決めた試行件数または期間が終わった時点で区分を見直します。
誤り対応の時間は、試行中に実際に発生した停止・訂正・連絡だけを加え、発生しなかった場合は0として扱います。将来の事故時間を推測して足しません。
ただし、短い試行で誤りが0件だったことは、今後も起きない根拠にはなりません。通常時と繁忙時、扱う案件の種類が一巡する範囲を考え、試行件数または期間を決めます。
時間だけでなく、差し戻し件数、確認で見つかった誤り、社外へ出た誤り、停止・訂正にかかった作業も同じ期間で記録します。まだ起きていない損害を金額の実績にせず、発生した作業と件数を記録してください。試行前後の測り方は、AIに向いている業務を見分ける5問で整理しています。
まとめ｜1業務1枚の社内ルールにする
使い始める前に、一つの業務工程について利用区分、確認者、承認者、記録、誤り発覚時の連絡先を1枚へまとめます。法的責任の結論ではなく、社内で止め、確かめ、説明するための担当を決める書類です。
最初の1枚は、次の順で埋めます。
- 対象工程を一つに絞り、3区分のいずれかへ置く
- 内容確認者と照合する正本、公開・送信の承認者を書く
- 管理番号と保存先、停止範囲、連絡先、再開を決める人を書く
- 試行件数または期間と、利用区分を見直す日を決める
区分に迷う間は「人の確認を挟む」に置き、確認者が正誤を判断できない業務や、確認を含む負担が減らない業務は「AIを使わない」へ移します。
定例の見直し日を待たず、業務手順、正本、AIのモデル・機能、利用規約のいずれかが変わったときも見直してください。
本記事は一般的な情報提供です。個別の法的責任、契約解釈、通知・報告の要否は、自社の契約と事実関係をもとに弁護士などの専門家へご確認ください。
