# 米国のAI安全合意とは？トランプ政権の自主ルールと日本企業への影響

- URL: https://www.waltsu.co.jp/magazine/security/us-ai-safety-agreement/
- カテゴリ: セキュリティ > 法律・規制
- 執筆: 藤井 俊輔（代表取締役）
- 公開日: 2026-10-08 / 最終更新日: 2026-10-29
- 発行: waltsu株式会社（waltsu MAGAZINE）

## こんな人におすすめ

- 米国のAI安全合意が何を決めたのかを短時間で知りたい
- 法律ではなく自主ルールを選んだ理由と、その評価を知りたい
- 米国製のAIを使う自社で、何を決めておくべきかを整理したい

2026年9月29日、トランプ大統領と米国のAI大手6社の首脳が、最先端のAIを安全に開発するための合意に署名しました。ニュースでは「安全合意」と報じられましたが、法律でも規制でもありません。 米国のAI安全合意とは、AIを開発する企業が自社の管理と外部の監査を約束した、罰則のない自主的な取り決めです。米国はAIの安全を、法律ではなく企業の自己管理に委ねる道を選びました。本記事では合意の中身と限界、そこに至る政策の流れ、日本企業が自社で決めておくことを整理します。

**この記事のゴール（読了目安 約8分）**：米国のAI安全合意の中身と限界、法律ではなく自主合意を選んだ流れを理解し、米国製のAIを使う自社で何を決めるかを説明できるようになる。

## この記事の結論

- 2026年9月29日、米国のAI大手6社が罰則のない安全合意に署名
- 中身は内部統制から取締役会までの4層の管理
- 米国は許認可を作らず、企業の自己管理に委ねる方針を続けている
- 使う側は、開発元の約束・止める人・契約の3つを決めておく

## 米国のAI安全合意とは

2026年9月29日に米国のAI企業6社の首脳が署名した、罰則のない約束です。署名した顔ぶれと、大統領が使った「道義的な拘束力」の意味を見ます。

### 9月29日に6社が署名

署名したのは、Google、OpenAI、Anthropic、Meta、Nvidia、イーロン・マスク氏のAI企業の首脳です。正式名は「ホワイトハウス超知能合意：フロンティアの責任に関する共同約束」で、大統領が自身のSNSで公開した1ページの文書です。同じ日には、政府の文書で「人工知能」を「[超知能](https://www.waltsu.co.jp/magazine/ai/asi-agi/)」と呼び替える大統領令も出ています。

### 「道義的な拘束力」の意味

[Reutersによると](https://www.thestar.com.my/tech/tech-news/2026/10/03/as-public-fears-of-ai-grow-trump-digs-in-on-voluntary-safeguards)、大統領は合意を「道義的に拘束力がある」と表現しました。守らなかったときの罰則はなく、**破っても法的な責任は問われない約束**です。一方で文書は、将来これらの措置が法律や規則に組み込まれる可能性にも触れています。

![法律が罰則と当局の執行を伴うのに対し、今回の合意は署名と道義的な拘束にとどまることを左右で比べた図](https://www.waltsu.co.jp/wp-content/uploads/2026/10/us-ai-safety-agreement01.png)

## 合意が求める4層の管理

合意の中心は、開発と提供の各段階に置く4つの層です。報道各社が伝えた文書の内容を整理すると、次のとおりです。

| 層 | 求める中身 | 担う人 |
|---|---|---|
| 内部統制 | サイバー攻撃や生物・化学の脅威に関わる能力を監視し、意図しないシステムへの侵入を防ぐ | 開発チーム |
| 社内の監督 | 統制と監視が想定どおり動いているかを確かめ、問題を直す | 独立した社内チーム |
| 外部の監査 | 統制が機能しているかを社外から評価する | 独立した監査人 |
| 取締役会 | 報告を受け、見つかった問題が直されたかを見届ける | 独立した委員会 |

参加企業は定期的に集まり、安全の基準と実務を一緒に作ることにも同意しました。**何を測るかは、企業同士で決める**形です。署名した各社は、義務になるかどうかに関係なく、この統制と監査を自社に入れると約束しています。4層は会計の内部統制と監査に近い組み立てで、AIの開発に財務の管理の考え方を持ち込んだものといえます。

![内部統制、社内の監督、外部の監査、取締役会の4つの層が下から順に積み上がる構造を示した図](https://www.waltsu.co.jp/wp-content/uploads/2026/10/us-ai-safety-agreement02.png)

## 合意の限界と賛否

文書は細部と執行の仕組みに触れていないと報じられました。評価は、議員や政権の助言者、政策研究機関のあいだで分かれています。

### 罰則と詳細がない

Reutersは、文書が細部と執行の仕組みに触れていないと報じています。外交問題評議会でAIを担当するキャット・ダフィー氏は、懸念に耳を傾けている印象を与えつつ、規制は革新を妨げるという路線は崩していないと評しました。

### 監査人は誰に報告するか

民主党のロー・カンナ下院議員は、独立した監査人という考えを評価しつつ、報告先は企業の経営者ではなく独立した連邦機関であるべきだと述べました。政権に助言する投資家のデビッド・サックス氏は、問題を放置した企業は証券法などで罰せられると反論しています。保守系の政策研究機関からは、安全の懸念を認めた転換だと前向きに見る声も出ました。

## 合意の背景にある不安

Reutersとイプソスが9月22日に公表した調査では、米国人の4人に3人が、AI企業による深刻な害の防止は不十分だと答えました。[イプソスの解説](https://www.ipsos.com/en-us/where-americans-stand-ai-0)でも、AI開発の減速を「良いこと」とする人は55%で、「悪いこと」の13%を大きく上回っています。

事故も続きました。[Anthropicの公式発表](https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals)によると、OpenAIは7月21日、評価中のモデルが隔離された試験環境を抜け、Hugging Faceの本番基盤にアクセスしたと公表しています。Anthropicも7月30日、自社モデルが評価中に外部組織の実際のシステムへ不正にアクセスした3件を報告しました。**試験環境の中でも、AIは想定外の行動を取りうる**ことが明らかになった夏でした。Anthropicは8月31日、外部と組んだ評価を一時止め、試験環境から抜け出そうとする動きを検知して止める仕組みを入れたと説明しています。

## 規制より自主を選ぶ流れ

今回の合意は単発の判断ではありません。ホワイトハウスの公式文書をたどると、方針は一貫しています。

- **2025年1月**: 前政権の大統領令（2023年10月）を撤回し、障壁を取り除く大統領令を出す
- **2025年7月**: 90以上の施策を並べた「AI行動計画」を公表
- **2025年12月**: 州ごとにばらばらなAI法に対抗する大統領令
- **2026年3月**: 連邦の立法の枠組みを議会に提示
- **2026年6月**: [最先端モデルの任意の協力の枠組みを定め、許認可制度は作らないと明記](https://www.whitehouse.gov/fact-sheets/2026/06/fact-sheet-president-donald-j-trump-promotes-advanced-artificial-intelligence-innovation-and-security/)
- **2026年9月**: 6社との合意と、「超知能」への呼び替えの大統領令

共同通信によると、2026年5月には、公開前のAIを政府が審査する内容の大統領令への署名を直前で見送っています。安全を優先するか競争を優先するかで、政権内の意見が割れていたと報じられました。

**政府が許可を出す仕組みは作らず、企業と組む**のが政権の立場です。背景には、規制が中国との競争で米国企業を不利にするという考えがあります。

## 2023年の約束との違い

米国では2023年7月にも、[7社が政府に自主的な約束](https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/)をしています。中身を比べると、重点が変わっています。

| 項目 | 2023年7月 | 2026年9月 |
|---|---|---|
| 主な約束 | 公開前の試験、透かし、能力と限界の公表 | 4層の統制と監査 |
| 外部の関与 | 独立した専門家による試験 | 独立した監査人と取締役会の委員会 |
| 罰則 | なし | なし |

前回は「何を試すか」、今回は「誰が確かめるか」が中心です。**罰則がない点は、どちらも変わっていません**。

## EU・日本との違い

EUはAI法で、リスクの高いAIに義務と罰則を課す形をとっています。日本は2025年に施行されたAI推進法と指針で、罰則よりも企業の自主的な取り組みを促す形です。

米国は連邦の包括的なAI法を持たず、企業の約束と既存の法律で対応しています。**同じ自主路線でも、日本は国が指針を示し、米国は企業同士が基準を作る**点が違います。[日本とEUのルールの詳細](https://www.waltsu.co.jp/magazine/security/ai-regulation/)は別記事で解説しています。

## 日本企業への影響

合意の対象は開発企業ですが、そのAIを使う日本企業にも関係します。

- **安全の根拠**: 米国製AIの安全は、当面は開発企業の自己管理と監査に支えられる
- **ベンダーの説明**: 取引先の説明が、監査や取締役会の監督といった言葉で語られるようになる
- **方針の揺れ**: 合意は法制化の余地を残しており、政権や州の動きで前提が変わりうる
- **米国での事業**: 連邦と州のどちらのルールが適用されるかが定まっておらず、進出先の州ごとに確認が要る

**国が守ってくれない部分は、使う側が自分で決める**しかありません。

## 自社で決めておくこと

米国の合意を受けて、AIを使う側が決めておきたいのは次の3つです。

- **開発元の約束の確認**: 使っているAIの開発元が、どんな監査や公表を約束しているか。合意に署名していない開発元なら、代わりに何を公表しているか
- **止める人と手順**: 想定外の動きが起きたとき、誰が利用を止め、誰に報告するか。開発元が事故を公表したときに確かめる担当も決める
- **社外に頼む作業**: AIを使う作業を委託するとき、何を契約に書くか

[社内の体制づくりの手順](https://www.waltsu.co.jp/magazine/security/ai-governance-structure/)は別記事で解説しています。

## 【プロの視点】罰則より検証の経路を見る

自主合意の評価は、「罰則がないから無意味」か「首脳が署名したから安心」に分かれがちです。

ただ賛否の中身を見ると、どちらも同じ点を争っています。カンナ議員は監査人の報告先を問い、サックス氏は問題が起きた後に法律で罰せられると答えました。争点は罰則の有無ではなく、**誰が確かめ、結果がどこに届き、誰が止められるか**です。

[自社のAIルール](https://www.waltsu.co.jp/magazine/security/ai-governance/)も同じ基準で見られます。規程が立派でも、確かめる人が担当者本人だけなら、合意の第1層しか無い状態です。

逆に、規程が短くても、点検する人と報告先と止める権限がはっきりしていれば、ルールは機能します。**ルールの強さを決めるのは条文の量ではなく、確かめる経路の長さ**です。開発元の説明を聞くときも、何を約束したかより、誰が確かめて誰に報告するかを尋ねるほうが、実態が見えます。

![AIを動かす現場から、確かめる人、報告先、止める人へと流れる検証の経路を示し、報告先が社内で閉じる場合と社外へ開く場合を比べた図](https://www.waltsu.co.jp/wp-content/uploads/2026/10/us-ai-safety-agreement03.png)

## 【waltsu視点】4層を自社の規模で写す

4層の管理は大企業の話に見えますが、中小企業でも名前を書けば持てます。使う人が確かめ、管理者が点検し、社外の目を入れ、経営に報告する。この4つです。

難しいのは社外の目です。AIを使った制作の手順を外注先に渡す場面が増えたとき、業務委託の契約書を見直したことがあります。手順を再委託しないこと、ほかの仕事に流用しないことを条項に入れました。**社内のルールは、契約に書かない限り社外に届きません**。

4層を自社の規模で持つことで変わるのは、AIの新しい使い方を試すときの判断です。止め方と契約が決まっていれば、社外と組んで試す話を、その場で前に進められます。決まっていなければ、案件のたびに法務や経営の確認待ちが起き、試す前に時間がなくなります。

明日の一歩は、4層の欄に担当者の名前を書くことです。**空いた欄が、今の自社に足りない部分**です。

![使う人の確認、管理者の点検、社外の目、経営への報告の4つの欄に担当者の札を貼り、1つだけ空欄が残っている様子を示した図](https://www.waltsu.co.jp/wp-content/uploads/2026/10/us-ai-safety-agreement04.png)

## まとめ

米国のAI安全合意は、開発企業が4層の管理を約束した罰則のない取り決めです。法律ではなく自主に委ねる政権の方針の延長にあり、評価は分かれています。

米国製のAIを使う企業にとって大切なのは、誰が確かめ、誰が止めるかを自社で決めておくことです。自社のAI利用のルールや体制づくりに迷ったら、waltsuが検証の経路の設計からご支援します。

## よくある質問

**Q. 合意に法的な拘束力はある？**  
A. ありません。大統領は「道義的な拘束力」と表現しており、守らなかったときの罰則も定められていません。

**Q. 日本企業も対象になる？**  
A. 署名したのは米国の開発企業6社で、日本企業は対象外です。ただし、それらのAIを使う企業には間接的に関係します。

**Q. 「超知能」とは何のこと？**  
A. 合意と同じ日の大統領令で、政府の文書の「人工知能」を「超知能」と呼び替えることになりました。指す技術は変わらず、呼び方の変更です。

**Q. 米国にAIの連邦法はある？**  
A. 包括的な連邦法はありません。政権は2026年3月に立法の枠組みを議会へ示しましたが、成立していません。

**Q. 自社でも外部監査が必要？**  
A. 法律上の義務はありません。まずは社外の誰が自社のAI利用を確かめられるかを決めるところから始めるのが現実的です。

## 執筆者

**藤井 俊輔**（代表取締役）ベンチャー企業の外部CMOや水族館のマーケティング担当などに従事。オンライン/オフライン問わず集客を中心としたマーケティング施策に強み。

プロフィール: https://www.waltsu.co.jp/magazine/supervisor/shunsuke-fujii/

この記事は waltsu 公式ブログの記事（https://www.waltsu.co.jp/blog/us-ai-safety-agreement/）をもとに再編集したものです。