AIの安全・ガバナンス 2026年9月版
AIの悪用事例を、
観測と限界から読む
Anthropicの2026年9月脅威レポートは、Claudeが攻撃の実行、監視の仕組みづくり、詐欺の会話に組み込まれた事例を報告しています。報告された出来事と確認できない点を事例表で整理し、重要な原文と日本語訳からAIの役割と対策の限界を読み解きます。
Anthropicの報告で注目すべきなのは、AIが作業の実行や、悪用に使う仕組みの開発まで担った点です。自分に関係する事例を1つ選び、何を任せたか・何が起きたか・対策がどこまで届いたかを確認してください。
対象は、Anthropicが自社サービスで見つけた注目すべき事例です。世界全体の悪用件数や、日本で同じ被害が起きる確率を示す資料としては読めません。Anthropic公式レポート：対象範囲
こんな人におすすめ
- レポートが何を報告したのか、日本語で把握したい人
- AIの自動化と人の責任を分けて考えたい人
- 暮らし・仕事・社会にとっての意味を知りたい人
Anthropicの脅威レポートは何を示すか
Anthropicの2026年9月の脅威レポートは、同社が2025年12月〜2026年8月に対処した、AIの悪用や懸念のある利用を7分野に整理した報告書です。脅威インテリジェンスとは、悪用の主体や手口を調べ、対策に役立てる情報です。Anthropic公式レポート：報告の目的と対象
公式X投稿：レポート公開の目的
Anthropic（@AnthropicAI）・（日本時間）
投稿全文をXで読む本文の続きは、投稿内の「さらに表示」からも確認できます。
投稿文の日本語訳（抜粋・筆者訳）
「これまでで最も詳細な脅威インテリジェンスレポートを公開します。」
「これらの事例は典型的なものではありません。」
投稿全体の要旨
この投稿は、サイバー攻撃、情報工作、監視、生物学、兵器製造などへのClaudeの悪用の試みを調べた報告書の公開案内です。Anthropicは、掲載した活動を阻止し、得られた知見を安全対策の強化に反映したと説明しています。必要に応じて、当局や他のAI企業にも調査結果を共有したとしています。
取り上げたのは、同社が確認した中でも高度な悪用の一部です。悪用が向かう先や対策の効果・改善点を明らかにし、他社による類似活動の検知と、社会による新たな脅威の理解に役立てることを狙っています。
ここでいう「阻止」は、Anthropicが観測し、対処した活動についての説明です。すでに外部で動く仕組みの停止や、被害全体の解消まで意味すると読み替えず、事例ごとに措置が届いた範囲を確認します。本記事でも、悪用対策の効果と限界を分けて整理します。
Anthropic・Claude・Claude Codeの関係
Anthropic（アンソロピック）はClaudeを開発・提供する米国のAI企業です。ClaudeはAIやモデル群の名前、Claude Codeはソフトウェア開発を支援する製品の名前です。会社の対策と、製品やモデルを使った作業を区別して読みます。Anthropic公式：企業情報Claude Code公式製品ページ
対象期間・7分野・観測範囲
Anthropicは、典型的な悪用を代表する標本ではなく、特に注目すべき新しい活動を選んだと説明しています。各社を同じ母数・検知条件で比較した資料ではないため、報告件数だけでAI企業の安全性に順位を付ける用途には向きません。Anthropic公式レポート：事例の選定方針
7分野の事例はどこまで確認されたか
Anthropicの2026年9月レポートの事例を読む際は、同社が観測した行為と、意図・到達範囲・実害について確認できていない点を分ける必要があります。以下の表は、この読み方に合わせて代表的な論点を整理したものです。
気になる分野の行を選び、「不明点・限界」まで読んでから、右の「将来への意味」へ進んでください。各行の留保を省くと、考察の前提が変わります。
情報工作とは、発信や拡散を通じて人の認識に働きかける活動です。蒸留とは、あるモデルの出力などを学習に使い、別のモデルへ能力を移す方法です。技術そのものと、同社が不正と指摘する取得・利用方法は分けて読みます。
表は横にスクロールできます。観測内容と「不明点・限界」を一組で確認してください。
| 論点・代表事例 | Anthropicの観測・評価 | 不明点・限界 | 将来への意味筆者考察・推測 | 公式出典 |
|---|---|---|---|---|
| サイバー攻撃 侵入とデータ窃取 | 金銭目的の攻撃者が、Claudeを使って侵入後の作業や盗んだデータの収集を進めたと報告。 | 目標選択や結果確認には人が関与。人の指示が残ることと、被害が小さいことは同じではない。 | AIへ作業を任せる際は、実行できる権限と、人が承認する工程を分けて考えます。 | サイバー分野 |
| 情報工作 バングラデシュの偽ニュース | 偽ニュース運用で、見出し・記事などの作成にClaudeを利用したと報告。 | 複数のSNSで関連動画を確認したが、より広い層へ届いた証拠は得ていないとしている。 | 同じ話が複数の媒体に出ていても、別々の根拠に基づく報道かを確かめます。 | 情報工作分野 |
| 監視 マリのシステム開発 | マリの監視基盤のソフトウェア設計・開発にClaudeが使われたと報告。 | 完成物は利用者側の設備とモデルで稼働。アカウントへの措置は、配備済みの製品には影響しないとしている。 | 停止の発表を読むときは、開発支援を止めたのか、外部の運用にも届く措置なのかを確かめます。 | 監視分野 |
| 通常兵器 ロケット関連の試み | イエメンの開発主体がClaude Codeで制御用ソフトを作り、ロケットの実地試験を行ったと報告。 | 試験は失敗したとみられ、実用兵器の配備に成功した証拠はないとしている。 | 開発・試験・実用化のどの段階まで裏付けられているかで、報道の受け止め方を分けます。 | 通常兵器分野 |
| 生物学的悪用への懸念 研究利用と意図 | 生物安全上の懸念がある研究利用を報告。 | 対象研究者の加害意図は認定していない。差し迫った攻撃が確認された事例として扱わない。 | 研究内容への懸念を検討することと、研究者に加害意図があると判断することを分けます。 | 生物学的利用 |
| 詐欺 偽の出会い系アプリ | 「人が会話する」と宣伝しながら、AIの人物像と実在の人を混ぜた出会い系アプリを報告。 | 実在の人はビデオ通話なども担当。会話した人数と、金銭被害が確認された人数は同じではない。 | 自然な会話や人の応対だけで、運営者や相手の要求を信用できるとは判断しません。 | 詐欺分野 |
| 不正蒸留など モデル模倣・要求転送 | MoonshotやDeepSeekなどによるモデル模倣や、一部の利用要求のClaudeへの転送を指摘。 | 同社による帰属・評価。全利用者が対象、または現在も同じ状態とは一般化できない。 | 機密情報を入力する場面では、サービス名に加え、処理先や第三者への提供条件も確認します。 | 不正蒸留の記述 |
We do not assert that they intended harm
「彼らが危害を意図したとは主張していない」日本語訳：筆者
Anthropic公式PDF、p.130。生物学的利用の留保を原文で確認
この引用の「彼ら」は、報告対象となった研究者を指します。懸念のある研究利用が見つかったことと、誰かを傷つける意図が証明されたことは別です。
本記事はAnthropicの報告を紹介するもので、報告書全体が第三者によって独立に検証済みだとは扱いません。
AIは悪用のどの工程を担ったのか
Anthropicは2026年9月レポートで、攻撃者が目標設定や結果確認を担いながら、Claudeに実行や複数工程の調整を任せた事例を報告しています。AIへどの工程を渡したかを見ると、人の判断が残る場所も分かります。Anthropic公式：サイバー分野の分析
人の目標設定とAIによる実行・調整
報告された変化は、AIに個別の回答を求めるだけでなく、複数の作業をつないで任せる使い方が含まれることです。Anthropicは、章の見出しで次のように表現しています。
From assistant to orchestrator
「助手から、工程を取りまとめる役割へ」日本語訳：筆者
Anthropic公式PDF、p.4。工程を取りまとめる役割の原文
ここでの「オーケストレーター」は、複数の作業を調整する役割を意味します。人が目標を与え、AIが作業を進め、その結果に応じて次の作業をつなぐ、という関係です。「AIエージェント」という言葉も、目標に向けて道具や複数の処理を使い、作業を進める仕組みとして捉えると読みやすくなります。
人が担った目標選択や結果確認を省くと、誰が何を決めたのかが見えなくなります。本記事では、AIが作業を実行したことを、人の関与や判断責任がなくなったことへ置き換えません。
AIの自律性と実害を分ける
自律性と被害は、別々に確かめる必要があります。自律性とは、人が途中で指示・確認することなく、どこまで処理を進めるかという度合いです。
autonomy and harm are separate axes
「自律性と被害は別の軸である」日本語訳：筆者
Anthropic公式PDF、p.39。自律性と被害を分ける原文
自律性が高い事例でも、実害の裏付けがなければ被害規模は保留します。逆に、人の指示が多く残っていても、データの窃取などが確認されていれば、その被害を小さく扱う理由にはなりません。筆者は「AIに任せた度合い」と「確認できた結果」を別々に読み、人の関与を安全性の証明にしないことを提案します。
Anthropicの悪用対策はどこまで届くか
Anthropicは2026年9月レポートのマリの監視事例で、Claudeはソフトウェア開発に使われ、アカウントへの措置は外部に配備された製品には影響しないと説明しています。開発への支援と完成物の運用を分けると、対策が及ぶ範囲を判断できます。Anthropic公式：マリの監視事例と措置
アカウント停止と外部システムへの影響
利用アカウントへの措置が届く範囲と、外部に設置された完成物への影響は異なります。マリの事例では、Claudeは設計・開発に使われ、完成した仕組みは外部の設備とローカルのモデルで動いていたと報告されています。ローカルとは、ここでは利用者側の設備で処理することを指します。
筆者は、対策の説明に外部システムへの影響が書かれていなければ、開発用アカウントの停止だけで問題全体が解消したとは判断しません。現在の禁止事項は利用ポリシーで確認できますが、規定の存在と個別の措置の結果は別です（2026年9月13日確認）。Anthropic公式利用ポリシー
学習利用・保存・不正利用調査の違い
学習利用はモデルの改善への利用、保存は記録の保持、調査は不正利用などを確かめるための取り扱いです。「学習に使わない」という説明だけで、保存も調査も行わないとは判断できません。レポートの検知・調査の説明も、この違いを前提に読みます。
一般向けClaudeについては、プライバシーポリシーとデータ保持の説明を併せて確認します。通常の取り扱いに加え、安全性や規約違反に関係する例外も確認対象です（2026年9月13日確認）。Anthropic公式プライバシーポリシー一般向けClaudeのデータ保持
業務用・APIの利用では、商用利用条件と組織向けの保持条件を確認します。APIとは、開発者が自分のソフトウェアからサービスを利用するための接続口です。一般向けチャットと同じ説明を、そのまま当てはめないでください（2026年9月13日確認）。Anthropic公式商用利用条件組織向けデータ保持の説明
日本の暮らしや仕事で何を確認すべきか
Anthropicの2026年9月レポートが示す海外の事例は、日本の暮らし・仕事・社会で何を確かめるかを考える材料になります。日本で同じ被害が起きる確率を示す資料ではありません。
以下は、事例に基づく筆者考察・推測です。
暮らし：人と話せれば信用できるか
暮らしでは、会話相手が人間かどうかに加え、自分に何を求めているかで判断を分けます。送金や個人情報を求められ、運営者や料金の説明を確かめられない場合は、送金や情報提供を保留する、というのが筆者の提案です。
この判断が必要になる理由は、表の詐欺事例では実在の人も応対に加わっていたためです。「人と話せたから安全」という確認だけでは不十分な場面があると考えられます。相手の実在と、そのサービスや要求を信用できることを分けて考えます。
仕事：AIの実行前に誰が何を確認するか
仕事では、下書きが手元に留まる場合と、送信・公開・外部システムの変更を伴う場合で、人の確認位置を分けます。後者は実行前に内容・宛先・権限・承認者を確認し、不明な点があれば外への実行を保留する、というのが筆者の提案です。
任せた工程によって、誤りが届く先は変わります。今使っているAIの作業を1つ選び、「誰が、何を確かめてから外へ出すか」を決めれば、便利さと責任を同じ作業単位で見直せます。
社会：監視・研究・データ利用で何を問うか
社会では、AIの能力に加え、その仕組みで判断される人が理由を知り、誤りを訂正できるかを問うことを提案します。監視なら対象の選び方と利用の承認、研究なら懸念のある内容と加害意図の証拠、データ利用なら処理先と第三者への提供条件を確認します。
説明や根拠が足りない場合は、特定の国・企業への評価を先に決めず、どの点が未確認かを残します。このレポートの将来への意味は、AIができることの広がりに合わせて、信頼や責任を確認する場所も見直す必要を考えさせる点にあると筆者は考えます。
まとめ：脅威レポートをいつ見直すか
Anthropicの2026年9月レポートを今後の判断に使う際は、観測された行為と確認できない点を押さえ、公式の訂正や当事者の説明が出た段階で見直すのが本記事の方針です。AIの役割と対策の範囲を分けることで、将来への懸念を具体的な問いへ変えられます。
今取る行動は、自分に関係する分野を表から1つ選び、観測と不明点を一組で確認することです。暮らしなら信用する根拠、仕事なら外へ実行する前の確認、社会的な議論なら判断に足りない証拠を1つ決めてください。重要事例と根拠の整理表へ戻る
Anthropicの訂正や関連当事者の公式説明が出たら表の根拠と留保、同社の続報なら2026年9月版との違い、利用・データ条件が変わったらデータの取り扱いに関する条件を再確認してください。
引用元・参考情報
以下の公式情報を参照しています。再閲覧できた公式ページの最終確認日は2026年9月13日です。PDFは前回取得した資料で照合し、X投稿の再閲覧は未確認です。本文の日本語訳と考察は筆者によるもので、報告の主体であるAnthropicの説明と区別しています。
- Anthropic公式X：脅威レポートの公開告知前回確認した投稿の日本語訳の抜粋と要旨を掲載。投稿日時：2026-09-11（日本時間）。再閲覧：未確認（2026-09-13時点）。
- Anthropic：2026年9月の脅威レポート対象期間、7分野の事例、AIの役割、対策の範囲。最終確認：2026-09-13。
- Anthropic：レポート公式PDF原文引用はp.4、p.39、p.130。前回取得PDFとの照合：2026-09-13。
- Anthropic：企業情報発行元とClaudeの関係。最終確認：2026-09-13。
- Claude Code：公式製品ページ開発用製品の位置づけ。最終確認：2026-09-13。
- Anthropic：利用ポリシー悪用に関する禁止事項。最終確認：2026-09-13。
- Anthropic：プライバシーポリシー一般向けデータの取り扱い。最終確認：2026-09-13。
- Anthropic：一般向けClaudeのデータ保持保存と例外条件。最終確認：2026-09-13。
- Anthropic：商用利用条件業務用・API利用の条件。最終確認：2026-09-13。
- Anthropic：組織向けデータ保持組織・API利用での保存条件。最終確認：2026-09-13。
コメント