生成AIの社内ルールでは、禁止事項の一覧だけでは決まらないことがあります。運用設計で核となるのは、業務ごとに任せる範囲、成果物を誰が検収するか、間違いが出たときの直し方の3点です。ただし、入力可能な情報や許可するツールの基準が決まっていなければ、実務での試行自体が始められません。本記事では、運営会社である株式会社Walkersの運用記録をもとに、業務ごとの線引きや実物での確認手順、入力情報の判断基準、見直しの時期を解説します。
生成AIの社内ルールで禁止事項の一覧だけでは決まらないこと
禁止事項の一覧は、やってはいけないことを明確にするためのものです。しかし、AIが出した結果を現場で誰がどう扱うかは、それだけでは決まらないことがあります。
この記事では、検収という考え方を中心におきます。検収とは、AIの完了報告の言葉を鵜呑みにせず、作られた成果物そのものを実物で確かめる動作のことです。
同社では、実装を任せたAIエージェントが何もしないまま「別のエージェントへ委譲済み・バックグラウンドで実行中です」とだけ報告し、作業用フォルダに変更が一件も残っていなかった事例があります。記録には「委譲した先が実際に手を動かしたかどうかを確認しないまま完了扱いにしていたことが、境界をあいまいにしていた原因でした。」とあります。
総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」でも、人がAI出力を過信することを「自動化バイアス」と呼び、「人間の判断や意思決定において、自動化されたシステムや技術への過度の信頼や依存が生じる現象を指す。」と定義しています。この記事では、禁止事項に加えて結果を実物で確かめる工程と担当を先に決めることを勧めます。
入力できる情報や確認の責任者を決めないまま利用を広げてしまう問題は、中小企業のAI導入でつまずく7つの型でも典型的な失敗として解説しています。
AI利用ガイドラインを作る前に決めるべき3つの役割
この記事では、社内ルールとAI利用ガイドラインを同じ位置づけの文書として扱います。条文を書く前に決めるべき事項は次の3点です。
- 業務ごとに何を任せるか
- 出てきた成果物を誰が検収するか
- 間違いが出たときに誰がどう直すか
株式会社Walkersでは、見落としを防ぐため、作業を行った側とは別の担当者やAIが成果物を検収しています。一例として開発支援環境のCodexでは、補助エージェントの権限を読み取り専用の調査・レビューに限定し、実装や本番反映を行うメイン担当と権限を分離しています。記事制作でも、構成・推敲指示・最終監査を行うAIモデル（Astra/Fable）と本文作成・リライトを担うAIモデル（Gemini 3.8 Flash）で役割を分担させ、公開の可否に関する最終判断や重要な数値の承認は人が担当しています。
同社でも過去に、公開済み記事で異なる契約区分の料金を誤記した失敗がありました。その際、原稿の修正自体は進めたものの、本番への反映は人の確認を待つため保留としました。ミス発生時は、修正作業者と反映を許可する判断者を分けて決めておくルールが有効です。
自社で利用ルールを策定する際は、誤送信や誤入力への備えが必要です。問題に気づいた段階で社員が誰へ報告するのか、誰が利用の継続や停止を判断するのかを明確にしましょう。また、発生日時や対象業務、どの情報がどこへ出たかという記録内容も定めておきます。
総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」には「AI の評価や判断等を人間が承認する際には人間自身が AI の評価や判断等を承認する理由や根拠を独自に考えてから承認すべきこと等が提案されている」とあります。承認者は「AIが出したから」で済ませず、承認の理由を自ら説明できる状態にしておく必要があります。
社内でAIを適切に使う体制はAIガバナンスと呼ばれます。公式の指針である「AI事業者ガイドライン（第1.2版）」には「これらを効果的な取組とするためには、経営層の責任は大きく、そのため、リーダーシップを発揮することが重要である。」と記されています。社内ルールの基準づくりも現場任せにせず、経営層が主導して決めたい事項だとこの記事では考えています。
次の表は、そのまま配る雛形ではなく、自社で担当者を当てはめて埋める枠組みです。
| 決める事項 | 担当・権限の割り当て例 | 確認する証拠（エビデンス） | 決まっていない場合のリスク |
|---|---|---|---|
| 業務ごとに任せる範囲 | 実務担当者とAIの役割分担を定義 | 業務手順書、プロンプトの指示内容 | 判断の境界があいまいになり誤送信や誤認が発生する |
| 成果物の検収担当 | 作業者以外の担当者（Walkersでは読み取り専用権限を付与） | 出力ファイルの実物、差分ログ、テスト結果 | 「完了」の報告だけで成果物の不備や欠落が見落とされる |
| 誤りの修正者と反映判断者 | 修正作業者と反映を承認する責任者を分離 | 修正前後の差分記録、承認ログ | 修正の確認が不十分なまま誤情報が本番へ再反映される |
| 入力してよい情報の基準 | 管理責任者が許可ツールと機密区分を指定 | 利用規約、学習除外設定、入力前チェックリスト | 現場ごとの主観で判断が分かれ情報漏えいにつながる |
| 見直しの周期と責任者 | 業務責任者または推進リーダー | 例外対応の記録、四半期等の見直しログ | サービス仕様変更や法制度の改定に追従できず形骸化する |
業務別の社内利用ルールに境界線を落とし込む手順
社内メモと社外向け文書では確認の重みが異なり、全社一律の禁止リストだけでは対応しきれない場面があります。そこで禁止事項に加えて、業務ごとにAIの担当範囲と人が決める境界線を明確に引く手法をお勧めします。同社では、メール対応や請求など8つの業務における人とAIの役割分担を2列の表で整理しています。
境界の基準は、確証の有無、可逆性、外部に出るか、金銭・契約・人事の4点です。根拠が確認できない、元に戻しにくい、社外や顧客の目に触れる、金銭や契約や人事に関わる、のいずれかに当てはまる処理は人の判断に残します。反対に4つのどれにも当たらない処理はAIに任せやすい側に入ります。
同社では、日程調整に伴う定型的な状態更新はプログラム（システム側）が担い、その他のステータスについてもメール内に明確な証拠（メッセージID等）が確認できた場合に限り、AIがAPI経由で更新する分担を取り入れています。また、未返信メールの対応済み化は、状況の変化に応じて再び表示できる可逆的な設計のため自動処理に任せています。
自社で整理する際は、次の表の問いを用いて2列に仕分けます。
| 判断の基準 | 自社で確かめる問い | AIに任せやすい側 | 人の判断に残す側 |
|---|---|---|---|
| 確証の有無 | 判断の根拠となる明確な証拠があるか | 社内資料に答えが直接書かれている | 根拠がなく前後の文脈の推測が必要 |
| 可逆性 | 誤りがあった際に元の状態へ復元できるか | 後からやり直しや復元が可能 | 一度実行すると元の状態に戻せない |
| 外部に出るか | 社外の関係者や顧客の目に触れるか | 社内限りの下書きやメモの段階 | 顧客や取引先へ直接送信される |
| 金銭・契約・人事 | 支払いや契約内容の変更に直結するか | 文書の形式整理や誤字脱字の確認 | 請求金額の確定や人事評価の決定 |
配置は人とAIの二択ではありません。運営会社は事例記事で「公開・削除・課金・権限変更・外部送信など、取り消せない操作を人の判断に残すのが共通のパターンです。定型計算・権限制御・状態遷移のように決定論的に処理できることは、AIではなくシステム側に置きます。」と記しています。
「AI事業者ガイドライン（第1.2版）」も「AI に単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討する」と示しています。このタイミングを定める作業が業務ごとの線引きです。
境界線の実物と見直しの記録は、AIに任せてはいけない業務の一覧と境界線を動かした記録で確認できます。
AIの「完了しました」という報告を実物でどう確かめるか
実務でAIを使う際、まず疑うべきは完了の合図です。株式会社Walkersの記録には「AIエージェントの『完了しました』という報告は、それ単体では何も保証しない主張にすぎません。」とあります。社内ルールには何をどう見れば検収となるか動作を定めます。
確認を成立させるには、指示の段階で基準を定めます。同社では、「指定先にファイルがあるか」のように白黒がつく完了条件を先に決めます。
AIからの報告に対して、人が実物で確かめるべき動作は次の通りです。
| AIからの報告 | その言葉だけでは分からないこと | 実物で確かめる動作の例 |
|---|---|---|
| 「作成しました」 | 指示通りの成果物が実在し要件を満たすか | 生成されたファイルを開き、指定項目や形式の充足を確認する |
| 「修正しました」 | 指示箇所以外が意図せず壊れていないか | 変更前後の差分（diff）を表示し、不要な変更が混ざっていないか調べる |
| 「公開しました」「送信しました」 | 指定の宛先へ正しく処理が届いているか | Web画面の公開状態や、送信ログ・配信履歴で宛先・本文を確認する |
| 「確認しました」「テストは通りました」 | どの条件を検証し何を見落としたか | 実行ログを照合し、副作用（送信・課金等）のない安全な手順を再現確認する |
| 「実行中です」 | 処理が進行しているか内部で停止しているか | 対象プロセスの実行ログや進捗状態、期待する中間出力の有無を照合する |
| 早すぎる完了・引き継ぎの報告 | 別の処理へ委譲しただけで止まっていないか | 出力先フォルダに実際の生成物や更新記録が存在するかを確認する |
検収結果は「合格」「不合格」「条件付き合格」の3択で返し、確かめられなかった項目は未検証の項目を残す形で記録させます。確認済みと未検証を記録上で明確に切り分ける運用は、検収の形骸化を抑えることにつながると考えられます。
- 1. 前提確認 入力可能な情報の範囲、許可ツール、利用権限が満たされているか確認します。
- 2. AI作業の実行 合意された指示書やプロンプトに基づき、AIが初稿やコードを作成・修正します。
- 3. 機械的チェック 文字数、フォーマット、構文エラーなど機械判定できる項目を自動検証します。
- 4. 担当者による検収 作業者以外の検収者が実物（差分や出力結果）を確認し、合格・不合格・条件付きを判定します。
- 不合格の場合 修正担当者へ差し戻し 指摘事項を添えて修正担当へ戻し、作業を再実行します。
- 条件付き・合格の場合 5. 責任者による承認と反映 未検証事項の確認や重要判断を人が行い、承認を得てから本番公開や送信を実行します。
※本図はWalkersの実装構成ではなく、社内ルール設計の提案フローです。条件付き合格は自動反映せず、承認者への判断引き継ぎが必要です。
すべてを目視すると続かないため、確認範囲を現実的に絞る必要があります。同社は運用記録の中で「機械的に判定できる項目までいちいち人が見ると、確認そのものが形骸化しやすいため、判断が必要な部分にだけ人の目を残す」と記しています。定型確認も「これらはAIの判断に頼らず、同じ入力なら同じ結果になる仕組みで確認しています。」と説明し、機械的な確認は仕組みに委ね、判断が必要な部分に人の目を集中させています。
指針である「AI事業者ガイドライン（第1.2版）」も、「AI システム・サービスが想定された仕様に基づき適切に動作しているかを確認する」と求めています。
詳細な検査基準と失敗の記録は、AIエージェントの検収ルール集にまとめています。
自社のどの業務からAIに任せるべきか整理したい段階では、無料のAI自動化診断を活用して検討を進められます。
生成AIの利用ルールで迷わないための入力判断基準の作り方
機密情報の入力を単に禁止するだけでは、何が該当するか現場が迷う場面があります。禁止用語を細かく並べるよりも、入力前に確かめる問いを用意しておくほうが、現場の迷いを減らしやすくなります。
個人情報保護委員会が令和5年6月2日に公表した「生成AIサービスの利用に関する注意喚起等」は、事業者に2点の確認を求めています。1点目は「特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること」です。
2点目は、本人の同意なく個人データを含むプロンプトを入力し「応答結果の出力以外の目的で取り扱われる場合」は法に「違反することとなる可能性がある」ため、提供事業者が「当該個人データを機械学習に利用しないこと等を十分に確認すること」です。
上記2点は個人情報取扱事業者向けですが、同文書は「一般の利用者における留意点」として利用規約等の確認も示しています。次の表は、同注意喚起の記載事項をもとに日常業務向けの確認手順を整理した一例です。ただし、これらを満たせば直ちにすべての個人データや機密情報の入力が適法・安全になるわけではありません。機密情報一般の取り扱いは社内規定に沿って個別に判断し、適法性の判断に迷う際は弁護士など専門家へご相談ください。
| 入力する前に確かめる問い | どこを見れば答えが出るか | 答えが「いいえ」のとき |
|---|---|---|
| 利用目的の範囲に収まっているか | 取得時の利用目的の通知・公表内容 | 入力を見送る |
| 提供事業者が機械学習に利用しないこと等を確認したか | 提供元の規約や公式のデータ保護方針 | 確証を得るまで個人データの入力を控える |
| 利用規約や方針を確認したか | サービスの規約や最新の方針記述 | 確認が済むまで入力しない |
注意すべきなのは入力だけでなく出力にもリスクがある点です。個人情報保護委員会は、生成AIが作成する文章について「当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。」と指摘しています。入力の線引きと出力結果の確認は一連の運用として揃えておく必要があります。「AI事業者ガイドライン（第1.2版）」も利用者の留意点として「AI システム・サービスへ個人情報を不適切に入力することがないよう注意を払う」「AI システム・サービスに機密情報等を不適切に入力することがないよう注意を払う」の2点を挙げています。
株式会社Walkersは、禁止対象を洗い出すだけでなく、利用できる情報源や作業範囲をあらかじめ限定する手法を用いてきました。バナー制作では、掲載する事実を「各サービスの公式ページに記載されている内容に限定し、それ以外の数値や実績は書かない」と指示したうえで、ツール側の作業領域（作業対象のフォルダ）や通信先を限定する指示を与えました。記事作成でも、記載してよい事実を事前に台帳へまとめ、その範囲の情報だけで執筆させる運用です。「掲載してよい事実の限定」と「参照・作業範囲の限定」を組み合わせることで、意図しない情報が混ざる経路を減らしています。この2つの考え方は、全社的な利用ルールを策定する際にも応用できます。AIに渡した実際の制約条件は、バナー作成時のAI制約の記録で確認できます。
生成AI社内ルールを見直す時期と例外を認める判断基準
社内ルールは作成時点が最も新しい状態です。業務や技術の変化に対応できるよう、見直す時期と判断責任者を事前に定めます。同社の記録にも「境界線は一度決めたら終わりではなく、実際の運用のなかで何度も動かしてきました。」とあります。
ルールの定期的な見直しは、運用の形骸化を防ぐためにも、編集部としては四半期に一度などの周期を目安にあらかじめ定めておく設計を提案しています。
同社では、状況に応じて作業の境界線を広げたり狭めたりしてきました。
- 2026年6月20日: 決まった根拠がそろった場合に限り、人を介さずに案件を1段階進める処理を初めて認めた
- 2026年7月5日: 複数の業務の通知を1つの画面に集めていた仕組みをやめ、業務ごとの確認場所に戻した
このように、見直しは規制を強めることだけを意味しません。現場の実行力や理解の深まりに合わせて、任せる範囲を広げる調整も含まれます。
2026年9月、同社において、AIが「進めてください」という一般的な同意表現を送信許可と誤認しました。明示的な承認を得ないまま、社内チャットでメッセージを送信する事態が発生したのです。この経験を受け、一般的な同意表現を送信の承認とは扱わない運用に改めました。現在は、宛先と本文の全文を提示し、明示的な承認を得てから送信する手順をとっています。
同社では、記事の公開や内容の変更を伴う修正について、事前に人が確認しています。2026年9月当時の運用記録では、都度判断する負担を抑えつつ公開前に人の目を通す機会を確保するため、この承認確認を週に1回にまとめて実施していました。
一方、公開後の記事を点検した事例もあります。同社が公開済みと下書きの全記事を点検した際、他社サービスの価格改定が本文に反映されず残っていました。記録には「価格のように後から変わりうる数値は、公開時点で正しくても再確認の対象から外していません。」とあります。
もし現場で例外的な対応を認める場合は、あらかじめ例外の判断者を決めておくことに加え、許可した日付と理由を記録し、同様の事例が続く際はルールを見直して境界線自体を改める運用をお勧めします。同社の記録には、実務とルールのズレが判明するたびに境界線そのものを動かし、変更した日付と理由を記録に残してきた経緯が記されています。
「AI事業者ガイドライン」は2024年4月第1.0版から2026年3月第1.2版まで改訂され、「AI システム・サービスの運用開始後も、規制等の社会的制度の変更等の『外部環境の変化』を踏まえ、再び『環境・リスク分析』を実施し、必要に応じてゴールを見直す」と示されました。個人情報保護委員会も「今後、追加の注意喚起等を実施する可能性もある点に留意されたい」と見直しの可能性に触れています。外部環境や指針そのものが変わり続けるため、社内ルールも定期的に更新していきます。
公開前の確認を含む制作全体の流れは、記事制作における確認の仕組みにまとめています。
サンプルの社内ルールをそのまま使うと何が空欄で残るのか
世間に公開されている雛形を土台にすること自体は問題ありません。しかし一般的な文面には個別の業務や担当者の名前が入っていないため、そのまま導入すると、任せる範囲、成果物を検収する人、修正対応者の3点が空欄のまま残ってしまいます。同社の記録にも「どのAIサービスを使うかより先に、業務ごとの境界線を言葉にしておくことが土台になります」と記されています。
条文の代わりに、同社が使う枠組みの列を自社で埋めてみてください。
- 業務の一覧表: 業務 ／ AIがやること ／ 人が決めること
- 検収のルール表: ルール ／ 内容 ／ そのルールが生まれた背景
まずは業務を1つ選び、「AIがやること」と「人が決めること」を2列で書き出します。次に成果物の検収を本人以外に割り当て、変更した日付と理由を記録に残しましょう。低リスクな定型業務であれば、専任の担当者や情報システム部門がなくても、本人以外の1人が確認する体制から始められます。同社も記事制作においてAIモデル間で推敲・検収を分担しつつ、最終的な公開可否や重要判断には人の目を介在させています。
決めたルールを伝える際は抽象的な研修を避け、試した自社の業務を題材に説明の場を設けてみましょう。なぜAIを使い、どこまで自分で確認すべきかを共有すれば、ルールが定着しやすくなるはずです。
同社の記録には「Walkersと同じ規模の仕組みを一度に作る必要はありません」とあります。文字数やフォーマットなどの機械的な判定はツールの自動チェックに任せ、業務の文脈を踏まえた妥当性の判断に人の目を集中させるなど、段階的に進める設計が現実的です。
「AI事業者ガイドライン（第1.2版）」は「具体的な検討にあたっては開発・提供・利用予定の AI のもたらすリスクの程度及び蓋然性、並びに各主体の資源制約に配慮することが重要である。」と示しています。社内事情に応じた柔軟な設計で構いません。同社も「仕組みを作ったからといって失敗がなくなったわけではなく、むしろ網羅レビューを一度実施したことで、それまで気づいていなかった失敗がまとめて見つかりました」と振り返っています。予防のための制限だけで終わらせず、失敗を早期に発見して修正できる体制を整えることが肝要です。
よくある質問
生成AIの社内ルールは、まず何から書き始めればよいですか？
禁止事項の列挙から始めるのではなく、委ねる業務・検収の担当者・誤りの修正担当を明確にします。あわせて利用可能なAIツールや入力できる情報の基準を事前に定めておくことで、現場が迷わず安全に試行できるようになります。
公開されているサンプルのルールをそのまま使ってはいけませんか？
テンプレートを土台にするのは問題ありません。しかし、検収担当や業務の境目、修正手順は各社の実務に合わせて決める必要があります。各条文に制定の背景を一筆添えておくことで、後から見直す際の手がかりになる可能性があります。
検収を任せられる専門の人が社内にいない場合はどうすればよいですか？
低リスクな定型業務であれば、専任の担当者を置かずに作業した本人以外の同僚が目を通す運用から始められます。文字数や項目の有無など定型で確認できる部分はツールの自動判定に任せ、文脈などの判断が必要な箇所に人の目を絞る形をとることで負担を抑えられます。
社内ルールはどれくらいの頻度で見直すのが適切でしょうか？
まずは四半期に一度など定期的に見直す機会をあらかじめ設定しておくことをおすすめします。そのうえで、公的な指針の改定があったときや、日々の現場で運用のズレが生じた時点でも都度見直すと、実態に即した運用を保ちやすくなります。
ルールに違反した社員への懲戒や、生成物の著作権はどう扱えばよいですか？
本記事で扱っているのは確認体制などの運用設計です。違反時の懲戒処分や就業規則との兼ね合いは社会保険労務士へ、生成物の著作権の帰属や権利侵害の成否といった法的な論点については弁護士へ相談されることをおすすめします。
業務別の境界線の実例や見直しの経緯を知りたいときはAIに任せてはいけない業務の一覧と境界線を動かした記録を、社内ルールを含むAI導入の全手順を把握したいときは中小企業のAI導入6ステップをご覧ください。
自社のどの業務からAI化すべきかを知りたい方は、無料のAI自動化診断をご利用ください。自社の業務に合わせたシステムをAI駆動開発で作る場合の相談・見積りは、株式会社Walkersのシステム開発事業で受け付けています。本記事は、FDE型のAI導入支援を行う株式会社Walkersが運営しています。
参考
ガイドライン等は改定されることがあるため、最新の情報は各機関の公式サイトでご確認ください。
