AIに任せてはいけない業務の決め方｜使わないリストと承認ゲート

結論

生成AIの適用範囲は、全社で禁止するか全面的に使わせるかの二択で決める必要はありません。判断の単位を業務から工程へ落とすと、その間に置ける区分が見えてきます。「間違えた場合の被害」「入力材料の十分さ」「正解の検証可能性」という3つの基準を工程ごとに当て、任せてよい・条件付きで任せる・任せないの3区分へ仕分ければ、実際の業務名を書き込んだ「使わないリスト」ができます。

残る「条件付き」の領域を支えるのが承認ゲートです。数値の照合、出典の実在確認、必須項目の欠落チェックのように機械が判定できる誤りは自動チェックで止め、人の最終承認には機械が判定できない論点だけを残します。承認者が見る項目が減れば、1項目あたりに割ける時間は増えます。中身を確認しないまま通す承認から遠ざかるには、この絞り込みが前提になります。

なぜ「使わないリスト」から先に決めるのか

生成AIの誤りが生む損害は、業務ごとに大きく異なります。社内向けの議事録の要約が多少ずれても後から直せますが、取引先へ提出した見積の単価が誤っていれば、金銭と信用の両方が動きます。同じ「AIが1回間違えた」という事象でも、結果は非対称です。使ってよい業務を広く探すより、外せない領域を先に確定させるほうが運用は軽くなります。線が引かれていれば、相談が来るたびに可否を議論し直す必要がありません。誤りが1件見つかったときも、全面停止へ振れずに該当工程の区分だけを見直せます。

もう一つの理由は、生成AIの誤りが見た目で判別しにくいことにあります。文章としては整っていて、体裁も業務文書らしく、根拠らしき記述まで添えられている出力が、事実としては誤っている場合があります。当社のAIリテラシー研修でも、この現象を「ハルシネーション：AIが『嘘をつく』理由」として扱っています。読み手が違和感を持たないまま通り過ぎる出力がある以上、「気づいた人が直す」という運用は成り立ちません。誰も気づかなければ、誤りはそのまま次工程へ流れます。誰が・どこで・何と照らして見るのかを、工程として決める必要があります。

情報漏洩対策とこの線引きは、目的が別です。前者は入力したデータが外部へ出ないよう守る設計、後者はAIの出力を業務判断へ通してよいかを決める設計です。データを守り切れても、誤った出力が承認を通れば判断ミスは残ります。

あわせて読みたい

法人の生成AI利用リスクと情報漏洩対策｜経営者が導入前に確認する判断軸

2026 . 07 . 24

任せない業務を決める3基準

3つの基準は、この記事が提案する整理です。公的な基準ではありませんが、判定質問の形にしておくと、部門をまたいでも同じ物差しで議論できます。表の質問文を、自社の工程名に置き換えてそのまま使ってください。

間違えた場合の被害

被害の大きさは、金額よりも「取り消せるかどうか」で見ると判定がぶれにくくなります。金額の見積もりは前提の置き方で人によって変わりますが、取り消せるかどうかは工程の事実として確認できるからです。社内の下書きは差し戻せば消えます。送信済みの提案書、確定した支払、通知済みの人事評価は、事後の訂正では元に戻りません。取り消しがきかず、しかも相手方に不利益が及ぶ工程は、AIの出力を最終物として通さない側に置きます。

契約条件の確定、人事評価や処遇の決定、安全や健康に関わる判断は、規制や社外の基準が関わるぶん、この基準に該当しやすい工程です。ただし該当するかどうかは業態によって変わります。固定の禁止リストとして受け取らず、所管官庁の一次情報や自社の顧問専門家に確認したうえで区分を確定してください。

入力材料の十分さ

AIが参照できるのは、渡した材料と、モデルが持っている一般的な知識の範囲です。値引きに至った過去の経緯、担当者間の口頭合意、明文化されていない社内慣行が結論を左右する工程では、判断材料が構造的に欠けています。この状態で返ってくるのは、渡した範囲だけでもっともらしくまとまった案です。欠けている前提は、指摘されないまま抜け落ちます。

判定では、「その材料をAIへ渡してよいか」と「渡せる形で存在するか」を分けて考えます。渡してよいが未整理なだけなら、材料を整備すれば条件付きへ動かせます。渡せない性質の情報が判断を支配しているなら、その工程は任せない側に固定します。

正解の検証可能性

検証可能性は、照合先と所要時間の2つで測ります。社内規程の記載、取引先マスタ、計算元の数値のように照合先が特定できる出力は、どこを見れば判定できるかが決まっているため、確認が短時間で終わります。市場の見通し、相手の意図の解釈、前例のない判断には、照らし合わせる資料そのものがありません。

確認に元の作業と同じだけ時間がかかる工程では、AIを使う利点が薄れます。時間のかかる確認は現場で省かれやすく、省かれた確認は記録にも残りません。誰がどこまで見たのかが残らなければ、誤りが流れた経路も後から追えなくなります。

線引きの単位と体制

線引きは業務名ではなく工程で区切ります。請求書業務を一括で「任せる」「任せない」と決めると、実態と合いません。明細の文面整形は差し戻せば消えますが、金額の確定と発行の可否は相手へ届いた後では取り消せません。同じ業務の中で、被害の性質が途中から変わるからです。

区切りの軸は工程だけではありません。公開情報を材料にする工程と、個人情報や未公表の経営数値を材料にする工程は、同じ業務内でも別扱いにします。扱うデータ種別が変われば、誤った出力が外へ出たときの影響も変わります。

仕分け結果は3区分で表します。

原案づくりと最終確定は、別の人に割り当てます。原案を作るのは、工程の中身と例外を知っている現場の業務責任者です。経営や管理部門が机上で作ると、実際には存在しない工程を区分したり、現場が日常的に使っている工程を見落としたりします。

最終確定は経営または管理部門が担います。ここで見るのは、部門間で判定の厳しさがそろっているかどうかです。原案作成者と最終確定者を同じ人にすると、活用を進めたい立場と歯止めをかける立場が同居し、判定は甘い側へ傾きやすくなります。

使わないリストの作り方

着手前に固めておく前提が3つあります。会社として利用を認めたAI環境が用意されていること、最終確定者が指名されていること、初回の対象範囲を1〜2部門に絞ってあることです。全社一斉の棚卸しから入ると対象の工程数が膨らみ、判定が終わる前に手が止まります。

1. 対象部門の工程を書き出す — 業務単位ではなく、成果物が変わるところで区切ります。完了条件は、各工程に「入力材料」「出力物」「出力物の行き先」の3項目が埋まっていることです。
2. 判定質問を当てる — 工程ごとに表の3つの質問へ回答します。完了条件は、すべての工程に3つの回答と、判定の根拠が一行で書かれている状態です。「なんとなく危ない」は根拠になりません。
3. 3区分へ仕分ける — 判定結果から区分を割り当てます。完了条件は、「条件付きで任せる」に入った工程のすべてに、承認ゲートの担当者が仮置きされていることです。
4. 業務名を書き込んだリストに明文化する — 「機密情報の取り扱い」のような抽象語ではなく、「与信判断の可否決定」「就業規則の個別解釈回答」のように、現場が自分の作業と照合できる粒度で書きます。完了条件は、現場の担当者がリストを読み、自分の担当工程がどの区分か迷わず言える状態です。
5. 最終確定者が承認し、日付と次回見直し時期を記す — 完了条件は、承認日・承認者・次回見直し予定日がリスト上に記載されていることです。日付がなければ、いつ誰が手を入れるのかが決まらず、更新されないまま残ります。

承認ゲートの設計

承認ゲートは、「条件付きで任せる」に仕分けた工程だけに置きます。任せてよい工程に置けば確認作業が増えるだけで、任せない工程はAIを通さないためゲートの対象になりません。

ゲートの中では、確認を機械と人へ分けます。分けずに人へ一括で渡すと、承認者は誤字と単価誤りと前提の妥当性を同時に見ることになります。見る項目が増えるほど1項目あたりに割ける時間は減り、確認は表面をなぞる形に近づきます。

記録に残す項目は、後から経緯をたどれる最小限にします。確認した人の氏名、確認日時、機械検証の結果（合格・不合格と不合格項目）、人の承認可否、差し戻した場合はその理由の5点です。理由を残さないと、同じ誤りが繰り返されても傾向が見えず、区分を見直すときの材料が手元に残りません。

各ゲートの完了条件は、次の3つがそろった状態と定義します。

• 機械検証の全項目が合格している（1項目でも不合格なら人の承認へ回さない）
• 承認者が、人の承認項目それぞれについて確認済みと記録している
• 出力の根拠となった材料が、承認者から参照できる状態にある

差し戻す基準も、承認者の裁量に委ねず先に決めます。機械検証の不合格、判断の前提となる材料の欠落、材料と出力の不一致、使わないリストに該当する内容の混入の4つです。いずれかに当たれば、内容の良し悪しを議論する前に起案元へ返します。

ここで決めた区分とゲートは、規程として文面化し、全社へ周知して初めて運用に乗ります。文面の作り方、周知の進め方、違反時の扱いは、利用ルール側の設計です。

あわせて読みたい

経営者が研修前に決める生成AI利用ルール｜最低限の6項目

2026 . 07 . 23

見直しの運用

使わないリストを固定文書にすると、判定の前提が変わったときに現場の実態と離れ、守られない一覧として残ります。見直しは定期と随時の2系統で回してください。

定期見直しは四半期ごとが目安です。区分を変える提案が出ていない場合でも、「条件付きで任せる」工程の差し戻し記録を確認します。差し戻しが集中している工程は「任せない」へ、半年以上差し戻しがゼロの工程は運用条件を緩める候補として扱います。

随時見直しの契機は3つあります。使っているAIサービスの挙動や精度が変わったとき、ヒヤリハットや実際の誤りが発生したとき、新しい業務や取引形態が加わったときです。契機ごとに期限も添えておきます。ヒヤリハットなら発生から2週間以内に該当工程を再判定する、と先に書いておけば、報告が上がるたびに対応の要否から議論せずに済みます。

更新を承認するのは、初回のリストを最終確定した人です。原案は現場責任者、確定は経営または管理部門という体制を保てば、部門ごとの判定のばらつきを抑えられます。

失敗パターンと防止策

全面禁止に振れて活用が止まる

判定に迷った工程をすべて「任せない」へ寄せると、リストは安全に見えます。ただし条件付きで運用できたはずの工程まで止まり、用意したAI環境が使われないまま残ります。歯止めになるのは、判定質問への回答を根拠として書かせる運用です。「取り消せない被害があるから」「照合先がないから」と書けない工程は、任せない側へ入れず、条件付きで承認ゲートを通す扱いにします。

現場が申告せず抜け道で使う

任せない工程が多く、代替手段も示されていないと、個人アカウントでの利用が起きやすくなります。防ぐには、任せない区分の工程に「では何をしてよいか」を併記します。最終判断はAIに任せないが、論点の洗い出しや過去資料の検索には使ってよいと書き添えておけば、申告せずに使う理由が減ります。

リストが細かすぎて運用されない

工程を細分化しすぎると、現場が自分の作業をどこに当てはめるか判断できなくなります。対策は、初回の対象部門で工程数に上限を置くことです。1部門あたり20〜30工程を目安に、判断の分かれ目が同じ工程はまとめます。運用を始めてから、差し戻しの多い工程だけを分割していく順序が現実的です。

法人AI研修で支援できること

線引きと承認ゲートを設計しても、現場が「AIは何を間違えるのか」を説明できなければ、判定の根拠は個人の経験則にとどまります。当社の法人AI研修は、AIリテラシー・生成AI基礎・生成AI業務プロセス適用・社内ハッカソンの4レベルで構成しており、判断の前提を全社でそろえる役割は最初のAIリテラシー研修が担います。

AIリテラシー研修は、AIにできること・できないことの境界、ハルシネーションが起きる理由、情報の取り扱いとリスクを全社員向けに扱います。受講後に持ち帰るスキルとして、安全な使い方とルール、AI出力のチェックを置いています。AIがどこで間違えるのかを共有できていれば、判定質問への回答も具体的な言葉で書けます。

自部門の実業務を棚卸しし、生成AIを組み込んだワークフローを設計するところまで進める場合は、生成AI業務プロセス適用研修が該当します。研修後アンケートでは、80%以上の受講者が業務でAIを活用しています。

扱うデータの範囲と利用するAIサービスは、貴社のセキュリティポリシーに合わせて設計し、機密データを使わない題材設計にも対応します。対象人数・レベル・題材によって設計が変わるため、期間と費用は個別にお見積りしています。

最初の一歩

全社の棚卸しから始めず、1つの業務で試してください。選ぶのは、誤りが起きたときの影響を説明しやすく、工程数も追える業務です。その中の工程へ判定質問を当て、「条件付きで任せる」に落ちた工程へ承認ゲートを1つだけ置きます。差し戻しが実際に発生するか、承認者が何分で確認を終えるかを見れば、他部門へ広げるときの設計値が自社のデータとして残ります。

区分を最終確定する前に、AIの出力へ人の判断をどう介在させるかを扱った公的な枠組みにも目を通しておくと、社内での説明がしやすくなります。国内では総務省・経済産業省の「AI事業者ガイドライン」（第1.2版、令和8年3月31日）、国外ではNISTのAI Risk Management Framework（AI RMF 1.0）や、AIマネジメントシステムの国際規格ISO/IEC 42001:2023が参照先になります。