人事AIのガバナンス事例 ― 「ベンダーが安全と言っている」で足りなくなる理由と、日本企業の検証の仕組み

採用や評価にAIを使うとき、「ベンダーが安全だと言っている」で済ませていないでしょうか。2026年9月、AIを開発する側のOpenAIが「各社の自主的な取り組みだけでは足りない」と規制を求めました。EUでは2027年12月から、雇用に使うAIについて、人が確認し、記録を残し、本人に知らせることが法律上の義務になります。開発側の動きがなぜ人事担当者に関係するのか、そして日本企業はどこまで検証しているのか。公開情報と経団連の報告書から整理します。

OpenAIが「自主的な取り組みでは足りない」と言った

2026年9月9日、OpenAIは自社ブログで、米国連邦議会に対して義務的なAI安全規制を求めました。書いたのは最高グローバル渉外責任者（Chief Global Affairs Officer）のChris Lehane氏です。これまで同社は「規制は早すぎる」という立場だったので、方針転換として報じられました。

かみ砕いて構造を整理すると、こうなります。対象は、最先端のAIモデルを作る少数の開発企業です。政府が基準を決め、独立した第三者機関がその基準に基づいて評価を行い、評価結果と事故の状況を政府に報告する。政府が自分でAIを評価するのではなく、基準を決めて報告を受ける側に立つ、という構図です。

米国全体に効く法律はまだなく、OpenAIが要求した段階です。先に動いているのは州で、カリフォルニア州は2025年9月29日に最先端モデルの透明性を義務づける法律（SB 53）を成立させ、2026年9月9日には、独立した評価機関を指定する制度（SB 813）と、AI監査人の登録・独立性・説明責任を定める法律（AB 1405）に知事が署名しました。OpenAIが支持を表明したその日に署名された形です。同じブログで、ニューヨーク州のRAISE法やイリノイ州のSB 315も支持すると書いています。

背景には、AIエージェントが検証中に外部のシステムへ許可なくアクセスした事案が相次いだことがあります（Reuters）。開発企業自身が、自分たちのルールと宣言だけでは足りないと認めた形です。

なぜ人事担当者に関係するのか

これは開発企業の話です。では、なぜ人事担当者に関係するのか。それは、AIガバナンスの焦点が「ルールと宣言」から「検証と報告」へ移り始めたからです。

これまでのAIガバナンスは、各社が原則やガイドラインを作り、「責任あるAIに取り組んでいます」と表明することが中心でした。作ったことと宣言したことが、評価の対象だったわけです。そこに、検証した結果と、起きたことの報告が加わろうとしています。

開発側で第三者評価が制度になれば、「モデル自体が安全か」はベンダーが証明しやすくなります。それ自体は良いことです。ただし、どの応募者データで学習させたか、どの基準で判定させたか、出た結果をどう使ったか。この部分はベンダーには証明できません。

人事AIのリスクは、基盤となるモデルの性能だけでは決まりません。自社がどのデータを与え、どの業務で、どの判断に使うかによって大きく変わります。だから利用側の検証は残ります。そして、ベンダーが検証結果を出せるようになる以上、人事担当者が聞くべき質問も変わります。「安全ですか」ではなく、「どんな検証をして、どう判断したのですか」です。

人事AIは、この変化の影響を最も受ける用途のひとつです。採用・評価・配置は、人の処遇を決める判断だからです。EU AI法はこれを「高リスク」に分類し、開発側だけでなく利用する企業にも、人が確認すること・記録を残すこと・対象者に知らせることを義務づけます。日本でも、経団連が2026年4月にまとめた報告書は、採用・評価・配置など影響の大きい判断ではAIの結果のみで不利益な処遇を決定しないこと、AIの出力を属性別に定期的に確認することを求めています。

※画像はクリックで拡大できます

EU AI法は誰が対象で、何を求めるか

EU AI法では、雇用・労働者管理に使うAI（採用の選考、応募書類の分析や絞り込み、昇進や契約終了の判断、業務の割り当て、業績評価など）は「高リスク」に分類されます（附属書III 第4項）。高リスクに分類されたAIには、開発する側と利用する側の両方に義務が課されます。この義務は当初2026年8月2日から適用される予定でしたが、2026年7月に発効した改正（Digital Omnibus、規則(EU) 2026/1744）で、2027年12月2日に延期されました。延期であって、免除ではありません。また、延期されたのは附属書IIIの高リスクAIに関する義務であって、AI法の他の義務まで一律に延期されたわけではありません。

自分の会社がこの規制の対象になるのかどうかは、会社がどこにあるかではなく、EUとの接点があるかどうかで決まります（第2条1項）。接点は3つあります。EU市場にAIを提供していること、EU域内に所在してAIを使っていること、そして域外にいてもそのAIの出力がEU域内で使われることです。人事AIについて言えば、次の4通りになります。

利用する企業に課されるのは、次の4つです（第26条）。開発する側に課されるリスク管理やデータ管理、適合性評価とは別に、使う側にもこれだけの義務があります。

※画像はクリックで拡大できます

EUと接点のない会社は対象外です。ただ、この後見ていくように、日本の指針も同じ方向を向いています。

日本の現在地：ソフトロー、でも方向は同じ

日本には、人事AIを直接縛る法律はまだありません。指針として主なものは、総務省と経済産業省の「AI事業者ガイドライン」（2026年3月に第1.2版）です。このガイドラインが対象とする「事業者」は、AIを開発する「AI開発者」、AIを提供する「AI提供者」、そしてAIを業務で使う「AI利用者」の3類型です。社内の効率化にChatGPTを使っている会社も、AIを開発していなくても「AI利用者」として対象に入ります。ただしこれは法令ではなく、事業者の自主的な取組を支援するソフトローとして位置づけられています。

その上で、経団連が2026年4月に公表した「HR部門におけるAI等の活用に関する報告書」は、このガイドラインの「AI利用者」向けの項目を、人事の場面に当てはめて整理しています。

この中で意外に見えるのが、性別・年齢などの属性情報をAIに入力・学習させない、という項目かもしれません。理由は2つあります。ひとつは、採用選考で性別や年齢を判断材料にすることが、男女雇用機会均等法や労働施策総合推進法で認められていないからです。もうひとつは、過去の人事データには過去の偏りが含まれているからです。管理職に男性が多かったというデータをそのまま学習させると、AIは「管理職候補は男性」と学んでしまいます。属性を直接入力しなくても、経歴や勤務パターンから間接的に推定されることもあるため、出力を属性別に確認する必要が出てきます。

EU AI法と読み比べると、法的な義務か推奨かという違いはあるものの、重なる部分がかなりあります。ただし、どちらか一方にしかない項目もあります。

義務か推奨かの違いはあっても、目指すところは同じです。AIに任せきりにしない、人が監督する、データと出力を検証する、対象者に説明する、責任者を決める。この5つに収れんしていきます。

なお、経団連の調査（75社）では、AI推進を担当する役員を置いている企業が35%、役員ではないが責任者を置いている企業が20%で、合わせて55%でした。OECDの調査では、AIを含むアルゴリズム管理ツールを導入している企業に属する管理職の割合は、米国90%、EU平均79%に対して日本40%です。体制はでき始めているが、利用はこれから、という段階です。

日本企業の検証事例

では、実際に人事AIを使っている日本企業は、どこまで検証しているのでしょうか。経団連の報告書とLINEヤフーの公開情報から、役割の違う3社を並べます。

LINEヤフー：体制の例

人事総務領域でAIを使うにあたり、担当部門である人事総務CBUとAIガバナンス部門が連携し、業務内容・扱う情報・対象者への影響に応じて、リスクベースで利用範囲と運用方法を判断する枠組みを整えています。AIの出力は参考情報、最終判断は必ず人が行い、導入後も運用状況を継続的に確認・改善する、と公表しています（以前の記事（生成AI活用の義務化事例 ― LINEヤフーはなぜ「利用率100%」で壊れなかったのか）でも触れています）。

JCB：検証の例

JCBは新卒採用の初期選考を、AIが録画面接を分析するHireVueに切り替え、現場社員が面接に費やしていた約900時間を削減しました。導入にあたって社内には「信用第一の業種だからこそ、不公平な選考をしてはならない」と慎重な意見が多くありました。そこで同社は、インターンシップ参加者の協力を得て、AIによる選考結果と社員の面接による選考結果を比較し、大きな差がないことを確認してから導入しています。導入後も、判定結果にバイアスが出ていないか定期的に確認しながら運用しています。AIのスコアはあくまで参考で、最終的な合否は採用担当者が決めます。候補者に対しては、動画選考の受け方を公式YouTubeで公開しています。

デンソー：検証して「任せない」と決めた例

デンソーは、若手社員向けにAIがキャリア形成のアクションを提案するダッシュボードを運用しています。AIの提案は、人が安全性と妥当性を確認してから社員に提示しています。さらに、AIが社員のキャリア相談に直接応答する仕組みも検討し、応答の安全性を検証したところ、死にたいという気持ちに関わる相談や労務問題に対して、AIが誤った回答をする懸念が見つかりました。そこで同社は、AIが社員の悩みに直接答える仕組みには倫理的・技術的なハードルがあると判断し、AIに任せる範囲を慎重に決めることにしています。

この3社に共通しているのは、ベンダーの説明を受け取って終わりにせず、自社で検証し、その結果で運用や判断を変えていることです。JCBは検証したから慎重派を説得して導入できた。デンソーは検証したから「任せない」判断を早く下せた。

JCBが導入の前に比較検証をしたことには、もうひとつ意味があります。導入前の状態を測っておかないと、導入後に何がどう変わったのかが分からなくなるからです。AIの結果が思わしくないとき、原因はAIそのものとは限りません。与えたデータが古い、指示の出し方が悪い、業務の流れが合っていない。どこに原因があるのかを切り分けるにも、比べられる材料が要ります。

検証は、規制に対応するための後ろ向きの作業ではなく、AI導入の質を上げるための材料集めです。

AI成果マップのリスク列で見ると

以前の記事（AI経営は何を測るべきか）で整理したAI成果マップ（3段×4視点）には「リスク」の列があります。3段で言うと、「使われた」はガイドラインや研修などの守りを入れたか、「変わった」は検証の結果としてリスクの実態が見えているか、「価値が出た」はそれが成果として現れたか、です。リスクの列の「価値が出た」には2種類あります。防げた損失（訴訟、是正の勧告、採用のやり直し、信用の低下）と、リスク対応そのものにかかる手間の減少（手作業の確認が減る、監査対応が軽くなる）です。

※画像はクリックで拡大できます

「使われた」は3社とも埋まっています。「変わった」は、JCBが導入前の比較検証と導入後の定期確認を持ち、デンソーが検証結果で判断を変えているので、この2社は埋まります。LINEヤフーは継続確認まで公表していますが、結果は出ていません。「価値が出た」、つまり検証によって防げた損失や手間の減少は、3社とも開示がありません。日本企業の検証は「変わった」の段まで来ていて、その先が次の段階と言えそうです。

以前の記事で見たWiproはリスクの列がほぼ空欄でした。日本企業3社のほうが、この列については先に進んでいます。

自社で確認する5つの観点

ここまでの内容を、自社の人事AIに当てはめて確認する観点として整理します。EU AI法の利用者義務と経団連報告書の対応表を、小さくしたものです。

5つとも、たとえ規制がかからなかったとしても、やって損をする内容ではありません。検証の結果が手元にあれば、偏りや誤りが出たときに、起きる前に気づけます。そして社員や候補者、経営や投資家から「どう確かめているのか」と聞かれたときに、自分の言葉で答えられます。逆に検証していなければ、偏りが出ていても気づけず、聞かれても答えようがありません。

まとめ・今日できること

この記事で整理したことは3つです。

1. AIを開発する側で、第三者評価と事故報告が制度になり始めました。ガバナンスの焦点は「ルールと宣言」から「検証と報告」へ移っています
2. 人事AIはEU AI法で高リスクに分類され、利用企業にも2027年12月から義務がかかります。日本はソフトローですが、経団連の報告書が求める行動はEUの義務とほぼ同じです
3. 日本企業の検証事例（LINEヤフー、JCB、デンソー）は、検証が規制に対応するための作業ではなく、AI導入の質を上げるための材料集めとして働くことを示しています

今日できることとしては、次の2つを挙げておきます。

1. 自社で使っている人事AIの用途を書き出し、人の処遇に関わるものとそうでないものに分ける
2. 人の処遇に関わる用途について、自社で何を確かめたかを書き出す。何もなければ、まずはAIの結果と人の判断を突き合わせるところから

【セルフチェック】人事AIの検証を確認する6項目

この記事の考え方を、自社の人事AIに当てはめてみるためのチェックリストです。正解を出すためのものではなく、立ち止まって考えるためのもの。気になった項目だけ拾ってもかまいません。各項目に、考えるときの手がかりを一言ずつ添えました。

• 人事AIの用途を、人の処遇に関わるかどうかで分けているか採用の合否・評価・配置は処遇に関わる。議事録やFAQは関わらない
• 処遇に関わる用途で、自社の検証結果を持っているかベンダーの説明とは別に、人の判断との比較や属性別の確認
• AIの判断と人の承認が記録に残っているか後から「誰が何を見て決めたか」を追えるか
• AIを使っていることを、社員・候補者に伝えているか聞かれてから答えるのではなく、先に示す
• 苦情や異議を受ける窓口と、誤判定の報告経路があるか起きる前に決めておく
• EU拠点の従業員に人事AIを使っていないか使っていれば2027年12月から義務の対象

用語メモ

本記事に登場する専門用語をまとめました。▶ をクリックすると説明が表示されます。

出典・参考情報

※本記事は2026年9月14日時点の公開情報（OpenAIのブログ、Reutersの報道、EU AI法および改正規則に関する法律事務所の解説、経団連の報告書、各社のプレスリリース）をもとに整理したものです。EU AI法の適用範囲や義務の内容は、個別の事業形態によって判断が分かれるため、専門家にご確認ください。企業事例は各社が公表している範囲に限られ、筆者が独自に確認したものではありません。筆者コメントの予測は筆者個人の見方です。採用選考における属性情報の取扱いは、個別の事情により判断が異なる場合があります。