AIを業務へ入れる企業が増えると、必ず「ガイドラインを作らなければ」という話になる。
個人情報を入力しない。生成物を鵜呑みにしない。著作権を確認する。最終判断は人間が行う。
どれも間違いではない。だが、紙に書いて配布しただけでは、実際にどのAIが動き、何のデータへ触れ、誰の判断を代替し、事故時に誰が止められるのかは分からない。
AIエージェントがメールを送り、ファイルを書き換え、外部サービスを操作する2026年には、「使い方に気をつける」だけでは足りない。
AIガバナンスとは、AIを禁止する規程ではない。用途、リスク、統制、証拠、責任者を接続し、安全に使える範囲を広げる運用システムである。
最初に作るべきものは、禁止リストではない
AIを止めずに、用途・判断・証拠をひと続きの仕組みにする。
生成AIの利用ルールを作る時、多くの会社はtool名から始める。
ChatGPTは許可、無料版は禁止。このmodelは利用可能、このpluginは未承認。もちろん入口の管理にはなるが、tool名だけではリスクの大きさを説明できない。
同じAIでも、公開済み文章の要約と、採用候補者の選別では影響が違う。社内アイデア出しと、顧客へ返金条件を案内するchatbotも違う。コードの補完と、本番環境で自律的に削除・送信するagentも違う。
管理すべき単位はmodelではなく、ユースケースである。
何の目的で使うのか
誰に影響するのか
どんなデータへ触れるのか
AIは提案するだけか、判断を代替するのか
間違いは取り消せるか
誰が承認し、止め、訂正できるのか
ここが分からない状態で「AI利用可」と書いても、会社は何を許可したのか説明できない。
2026年、日本のAIルールはどこまで来たのか
日本では2025年、「人工知能関連技術の研究開発及び活用の推進に関する法律」、いわゆるAI法が成立し、同年9月に全面施行された。
名称の通り、この法律の軸は研究開発と活用の推進にある。同時に、AIが不正な目的や不適切な方法で使われた場合、犯罪、個人情報漏えい、著作権侵害などを助長し得るとして、透明性その他の必要な施策を掲げている。
ここで誤解したくないのは、日本のAI法を「生成AI企業に一律の管理体制と罰金を課す法律」と単純化できないことだ。活用事業者には積極活用と国・自治体施策への協力が定められているが、AI法そのものにEU AI Actと同型の包括的な課徴金表が置かれているわけではない。
だから日本では何をしてもよい、という意味でもない。AIを使った結果には、個人情報保護法、著作権法、差別禁止に関わる法令、契約、不法行為、製造物責任、業法など既存のルールが重なる。
「AI専用法の罰則が弱い」ことと、「AI利用に責任がない」ことは別問題。事故は既存法、契約、業法、顧客への説明責任から具体化する。
2026年3月の「AI事業者ガイドライン第1.2版」は、AI開発者・提供者・利用者を分け、さらにAIエージェント、エージェンティックAI、フィジカルAIまで射程へ入れた。実践は、環境・リスク分析、ゴール設定、システムデザイン、運用、評価の循環として整理されている。
同年6月、デジタル庁は政府の生成AI調達・利活用ガイドラインを第2.0版へ更新した。各府省庁のAI統括責任者（CAIO）、高リスク判定、調達、契約、企画・運用・利用時の対応を一体で扱い、WordやExcelの運用資料まで公開している。
国の実装を見ても、ガバナンスは理念を掲げるだけではない。責任者、判定票、調達条件、契約条件、運用記録へ変換されている。
民事責任は、AIの名前より「どこまで任せたか」を見る
経済産業省は2026年4月、「AI利活用における民事責任の解釈適用に関する手引き」を公表した。裁判例の蓄積が十分でないことを明示しつつ、不法行為法と製造物責任法を中心に、現行法がどう適用され得るかを整理している。
題材は、配送ルート最適化、弁護士業務支援、画像生成、取引審査、外観検査、自律走行ロボット、AIエージェントまで幅広い。
特に実務で使いやすいのが、AIの利用形態を二つへ分けた点だ。
補助／支援型AI──人間が出力を材料として判断する
依拠／代替型AI──人間が出力へ強く依存し、判断や行動の一部を実質的に代替させる
同じmodelでも、文章の候補を三案出す使い方と、顧客の申込みを自動拒否する使い方では責任構造が違う。
「human in the loop」と書くだけでも足りない。確認者に専門性がなく、時間も権限もなく、AIの結論を追認するだけなら、人間はloopにいるように見えて機能していない。
誰が、何を確認し、どの条件でAIを覆し、どこまで説明できるか。 この権限設計が必要になる。
なお、この手引きは判決でも新しい責任法でもない。個別事件の結論を保証するものではないが、企業が事前に記録すべき論点をかなり具体的に示している。
事故はAIの内部だけでなく、業務との接続点で起きる
AIリスクというと、hallucination、bias、prompt injection、情報漏えいといったmodel側の性質が並ぶ。
しかし、実際の損害は「モデルが一度間違えた」だけでは完成しない。
誤回答を顧客へそのまま表示した。古い規程を検索した。採用の自動拒否へ使った。機密情報を入力できる環境だった。返金や送信の権限まで与えた。異常を報告する窓口がなかった。
つまり、損害はmodelと業務プロセスの接続点で具体化する。
入力、出力、データ、権限、正本、確認、通知、ログ。この接続を設計するのがAIガバナンスである。
三つの事例が示す、責任の場所
Air Canada、iTutorGroup、リクナビDMPフォロー。異なる三事例から、AIを導入する企業に残る責任を読む。
Air Canada──chatbotは企業の外側にいる「別人格」ではない
カナダのMoffatt v. Air Canadaでは、航空会社サイトのchatbotが、忌引運賃を搭乗後に遡及申請できると誤案内した。実際の会社方針とは矛盾していた。
British Columbia Civil Resolution Tribunalは2024年、negligent misrepresentationを認め、損害650.88カナダドル、利息36.14ドル、手数料125ドル、合計812.02ドルの支払いを命じた。
これは「巨額賠償」の事件ではない。重要なのは金額ではなく、企業サイトに置いたchatbotの情報を企業の責任から切り離さなかったことだ。
実装上の教訓は明確である。顧客向けAIには、規程の正本との同期、回答根拠、更新日、曖昧な時の人間への引継ぎ、会話ログ、誤案内時の訂正手順が必要になる。
iTutorGroup──AI専用法がなくても、差別禁止法は消えない
米国EEOCは、iTutorGroupの採用ソフトが女性55歳以上、男性60歳以上の応募者を自動拒否し、200人超の適格な応募者を年齢により排除したと主張した。2023年、企業は36.5万ドルと研修・新方針等の非金銭的措置で和解している。
これは全争点を裁判所が認定した判決ではないため、EEOCの主張と和解を区別して読む必要がある。それでも、既存の雇用差別法が自動判定にも及ぶことを示す実例になる。
採用AIで測るべきなのは平均精度だけではない。属性別の通過率、誤拒否、異議申立て、人間による再審査、設定変更履歴まで必要だ。
リクナビDMPフォロー──ベンダーへ任せても、利用企業の責任は残る
日本では2019年、リクナビDMPフォローをめぐり、個人情報保護委員会がリクルートキャリア等へ勧告・指導を行った。就活生の閲覧履歴等から内定辞退率を予測する仕組みで、同意や第三者提供、安全管理などが問題になった。
重要なのは、サービス提供者だけでなく、利用企業側にも利用目的の通知・公表、組織的検討、委託先監督などの問題が指摘されたことだ。
生成AI以前の事例だが、今のAI調達にも直結する。外部サービスのscoreやrecommendationを買ったからといって、自社が用途とデータフローを理解しなくてよいわけではない。
世界のルールは、同じ形ではない
EU、米国NIST、シンガポール、ISO/IEC 42001。形の違いを読み、共通する運用の骨格を掴む。
海外のAIガバナンス資料を横に並べる時は、種類を混ぜないことが重要だ。法律、任意framework、management standard、企業の自主実装は、権威も目的も異なる。
EU──bindingなリスクベース規制
EU AI Actは2024年8月に発効し、段階的に適用されている。禁止行為は2025年2月、general-purpose AI modelのガバナンス・義務は同年8月から適用された。欧州委員会によるGPAIへの執行権限は2026年8月2日に動き始めている。
2026年7月27日に発効したAI Omnibusは、企業に対するAI literacyの法的義務を非拘束的な奨励へ変更した。また、高リスク用途の規則は2027年12月2日、規制製品へ組み込まれる高リスクAIは2028年8月2日からの適用へ移行した。施行日や義務の内容が動くこと自体、法令監視を一度きりで終えられない理由になる。
禁止行為違反の罰金上限は3,500万ユーロまたは全世界年間売上高7%の高い方。ただし上限額は個別事件の罰金額ではなく、違反内容や事業規模等で判断される。
EU向け事業では、providerかdeployerか、用途分類、対象地域、modelの提供時期、適用日を台帳へ持つ必要がある。
米国NIST──Govern / Map / Measure / Manage
NIST AI Risk Management Frameworkは任意利用の枠組みで、四つのfunctionを示す。
Govern──方針、役割、文化、説明責任
Map──利用文脈、対象者、影響、リスクの把握
Measure──評価方法、指標、不確実性の測定
Manage──優先順位、対策、監視、対応
生成AI向けProfileは、confabulation、privacy、information integrity、security、bias、intellectual property等、生成AIで新しく生まれるか増幅されるリスクと推奨行動を整理している。
NIST準拠を宣言すれば安全になるわけではない。価値は、文脈を地図化し、測り、管理し、また見直すloopにある。
Singapore──modelではなくエコシステム全体を見る
SingaporeのIMDAとAI Verify Foundationは、生成AIガバナンスを九つのdimensionで整理した。accountability、data、trusted development and deployment、incident reporting、testing and assurance、security、content provenance、safety R&D、AI for public goodである。
ここではmodel developerだけでなく、利用者、研究者、政策担当、社会まで役割を持つ。生成AIの信頼は、一社のaccuracy testだけでは完結しないという考え方だ。
ISO/IEC 42001──AIを継続改善するmanagement system
ISO/IEC 42001:2023は、AI Management Systemを確立、実装、維持、継続改善するための国際規格である。
認証取得だけを目的にすると、帳票を増やす活動へ縮みやすい。本質は、責任、目標、risk assessment、control、monitoring、improvementを組織のPDCAへ入れることにある。
成熟企業は「全用途を同じ重さ」で審査しない
NECは、AIと人権に関する全社ポリシーを、取締役会が監督するリスク・コンプライアンス委員会、AIガバナンス遂行責任者、デジタルトラスト推進室、外部有識者会議へ接続している。
さらに、企画から運用までのリスク軽減プロセス、役割別研修、外部環境に応じた継続見直しを開示している。2024年度のWeb研修修了率は97%とされるが、成熟の核心は研修率だけではない。経営監督、専門部門、現場のcheck sheet、外部視点が一つのloopになっていることだ。
Microsoftも2025年のResponsible AI Transparency Reportで、pre-deployment reviewの文書を社内workflow toolへ集約し、高影響・高リスク用途をSensitive Uses and Emerging Technologies programで追加審査していると説明した。
両社の開示から見える共通点は、すべてを同じ委員会へ投げないことだ。
公開済み文章の要約まで毎回経営会議へ上げれば、現場はshadow AIへ逃げる。一方、採用、医療、金融、顧客権利、biometric、外部送信を軽いcheckだけで通せば、重大事故が起きる。
Low riskは明確なfast laneへ。High impactは専門家reviewへ。 全面禁止でも全面自由でもなく、影響に応じて統制の厚さを変える。
中小企業でも回せる「10の運用artifact」
use case、risk、control、evidence、ownerを、一つの運用関係として辿れるようにする。
ガバナンスを実装する時は、会議体の名前より、何が証拠として残るかを見る。最小構成は次の十個でよい。
AIユースケース台帳──tool名、目的、対象者、Owner、利用データ、外部影響、AIへの依拠度を記録する。
リスク階層──low / medium / highを、影響の大きさ、可逆性、対象者の脆弱性、法規制で分ける。
データ境界票──入力可否、個人情報、機密、保持期間、学習利用、越境移転、削除方法を確認する。
ベンダー・契約票──SLA、知財、補償、log、再委託、model変更、service終了時のdataを確認する。
評価カード──accuracyだけでなく、安全性、公平性、security、業務KPI、失敗時影響を測る。
Human authority matrix──誰が確認、承認、停止、訂正、顧客連絡、再開を決められるかを明示する。
権限manifest──agentのread / write / send / spend / delete / publish範囲を用途ごとに固定する。
変更・来歴log──model、version、prompt、RAG、tool、policy、評価結果、公開versionを追跡する。
incident runbook──kill switch、証拠保全、影響範囲、通知、復旧、再発防止の順序を決める。
定期review記録──法令、model、用途、事故、KPIの変化を反映し、古い統制を更新する。
十種類の立派なPDFを作る必要はない。一つの台帳へ関連fieldを持ち、必要な証拠へlinkできればよい。重要なのは、use case → risk → control → evidence → ownerの関係が辿れることだ。
AIエージェント時代は、回答より権限を管理する
chat型AIでは、主な事故は誤回答や不適切出力だった。agent型AIは、回答のあとにactionを起こす。
メールを送る。予定を登録する。商品を発注する。サーバへdeployする。ファイルを削除する。SNSへ公開する。複数agentが互いの出力を受け取る。
この時、promptの注意書きだけで守るのは弱い。最低でも四つの技術統制が必要になる。
最小権限──必要なresourceとactionだけを許す
明示trigger──送信、支出、削除、公開は意図が確認できるeventからだけ実行する
決定論的gate──金額上限、宛先、file path、schema、testをcodeで検査する
一度成功したら再実行しない──idempotency keyとreceiptで二重送信・二重課金を防ぐ
「人間へ確認する」場合も、何でも毎回聞けばよいわけではない。approval fatigueを避けるため、危険なactionを環境側で狭め、本当に判断が必要な場面だけを人間へ上げる。
30日で始める、最小のAIガバナンス
棚卸しから机上訓練、横展開まで。規程の厚さではなく、事故から戻れる時間を縮める。
最初から全社制度を完成させようとすると、AIの変化に追いつく前に止まる。まず30日で、最も影響の大きい三用途を管理可能にする。
1〜5日目──棚卸し
部署へ「どのAIを使っていますか」だけでなく、「何の仕事を、誰に対して、どのdataで、どこまで任せていますか」と聞く。無料toolや個人契約も責めずに拾う。罰から始めるとshadow AIは隠れる。
6〜10日目──riskとOwnerを決める
顧客、従業員、金銭、権利、個人情報、本番systemへ影響する用途をhigh impact候補にする。それぞれに一人のbusiness Ownerと停止条件を置く。
11〜20日目──上位三用途を固める
data境界、契約、評価、human authority、logを整える。全用途へ同じ重いreviewを広げず、まず事故時の影響が大きい場所へ集中する。
21〜25日目──机上訓練
誤回答、誤送信、情報漏えい、差別的結果、provider障害を一つずつ想定する。誰が止め、何を保存し、誰へ連絡し、どの正本を直すかを実際に辿る。
26〜30日目──直して横展開
訓練で詰まった箇所を直し、次の三用途へtemplateを再利用する。規程の厚さではなく、事故を再現・停止・訂正できる時間を成熟度として測る。
ガバナンスは、AI活用速度を落とすものではない
ルールがない組織は、一見速い。現場が自由にtoolを試し、その場で成果を出せる。
だが、重要業務へ進もうとした瞬間に止まる。どのdataを入れてよいか分からない。法務確認が毎回ゼロから始まる。顧客へ説明できない。事故が起きるとlogがない。成功した使い方も別部署へ再利用できない。
良いガバナンスは、禁止を増やすのではなく、一度確認した安全域を再利用可能にする。
許可されたdata境界、評価済みの用途、合意済みの契約条項、実行権限、公開gate、incident routeが揃えば、二回目から速くなる。現場は毎回恐る恐る使わずに済み、経営は何を許可しているか説明できる。
AIガバナンスの完成形は、AIを使わない会社ではない。
どこまで任せてよいかが分かり、任せた結果を追跡でき、間違えた時に戻せる会社である。
本記事は公開資料に基づく一般的な解説であり、個別案件への法的助言ではありません。法令・ガイドライン・適用時期は事業地域、業種、用途により異なるため、公開・導入時点の原典と専門家への確認が必要です。
参照した主な一次情報
関連動画
【2026年最新】企業のAI活用はリスクだらけ？賠償責任を防ぐ「AIガバナンス」基礎と10の対策
本動画をテーマの入口として参照し、本記事では2026年8月時点の法令、行政資料、裁定、海外framework、企業開示まで一次情報を追加して再構成した。
