AIは人類を滅ぼすのか｜5つの経路で危険の根拠と追加条件を照合

次のAIの警告では、何を再確認すればよいのか

Anthropicは2026年9月9日付の追報で、同社が調査するサイバー評価中の事件を4件とし、初期の原因説明を見直したうえで単一の根本原因は未確定だとしています。この4件にAISIの事件は含まれません。件数だけでなく、説明の前提も追報で変わり得る例です。（2026年9月14日確認） Anthropicの追加調査と原因の再評価

ここからは筆者の判断基準です。新しい警告を見たら、照合表の該当行で「報告された行動」「実際の被害」「大きな被害に必要な追加条件」を確認します。観測された途中の行動だけで、後続の条件まで成立したことにしないためです。

その条件下で報告された事実は、対象を限って受け止めます。そこから先の被害を述べる部分は条件付きの予測として読み、条件や裏づけが足りない部分は保留します。AIの思考文や発言も、悪意や生存本能が実在する証明としては扱いません。思考文を含む原因説明の再評価

要点だけ読む場合も、評価条件が違う結果を通常利用へそのまま移さないこと、実験内の割合と専門家の主観確率を混ぜないことは省けません。どちらも「何についての数字か」を変えてしまう読み方だからです。

AIのリスクに対して、私たちにできることは何か

英国NCSCは、AIを安全に使う負担を個人の利用者だけに負わせるべきではないとしています。私たちは、日常の使い方を見直すとともに、提供企業がどこまで責任を持って対策しているかを確かめられます。NCSCの利用者保護と開発者の責任に関する説明

以下は公的機関の注意喚起を、一般の利用場面へ落とし込んだ筆者の提案です。目的は、入力した情報や誤った判断が、取り返しのつかない行動へつながる機会を減らすことです。個人の工夫だけで人類規模のリスクを解決できる、という意味ではありません。（この章の追加資料は2026年9月14日確認）

AIに任せるのは、誤りを確かめて戻せる作業から

最初に考えたいのは、「AIが間違えたら、誰にどんな影響が出るか」です。言い換えの案、学習の練習問題、公開資料の要約など、自分で元の情報と比べられ、採用しなくても困らない用途から使います。NCSCも、AIエージェントは範囲を限定した低リスクの作業から導入するよう勧めています。NCSCの段階的な導入の考え方

契約・支払い・他人への評価に関わる内容は、AIの返答だけで確定しないという線を引きます。引用先を自分で開き、数値・日付・対象者を原文と比べ、必要なら相手先の担当者に確かめます。別のAIにも同じ答えを出させたことを、原典の確認の代わりにはしません。内容を確認できない時は、下書きのまま止めます。

個人情報は必要な部分だけ入力する

個人情報保護委員会は、一般の利用者に対しても、入力情報の学習利用や不正確な出力のリスク、利用規約・プライバシーポリシーの確認を案内しています。まず、相談に必要な部分だけを切り出し、不要な氏名・住所・連絡先、他人の顔や顧客情報を外します。個人情報保護委員会の一般利用者向け留意点（PDF）

たとえば文章の添削なら、実名を「担当者A」に置き換え、署名や連絡先を削ってから依頼できます。ただし、置き換えただけで個人を特定できなくなるとは限りません。パスワード・認証コード・APIキーは説明用の文章に含めず、仕事の資料は勤務先が認めたサービスと取扱方法を確認します。

利用するサービスでは、学習への利用、保存、削除、外部サービスへの共有を別々に確かめます。学習利用を止める設定の説明だけで、保存や共有の条件まで判断しないためです。扱いを確認できない情報は、そのまま入力せず、情報を減らして相談する方法を選びます。

外部操作は権限を絞り、実行前に確認する

メール・ファイル・購入操作などをAIと連携させる場合は、必要な接続だけを許可します。閲覧だけで足りるなら書き込み権限を与えず、送信先・共有相手・金額・削除対象を、実行前に人間が確認できる形にします。NCSCは、権限の制限や人間による監督を、技術的な制御と組み合わせるよう勧めています。NCSCの権限・承認・実行環境に関する指針

「勝手に送らないで」という指示だけではなく、実際の設定で送信前の確認や権限制限ができるかを調べます。確認・停止の方法が分からない外部操作は任せず、下書きの作成までに留めます。使い終わった連携は見直し、不要なら解除します。ここで挙げた設定が、すべてのAIサービスにあるとは限りません。

声や画像を信用する前に、別の連絡先で確かめる

家族や知人に似た声で急な送金を頼まれても、その声だけで本人と決めません。米FTCは、AIによる声のなりすましに対して、自分が本人のものだと知っている番号へ連絡して確かめるよう案内しています。相手から新しく指定された番号へかけ直すだけでは、別の確認になりません。FTCの音声なりすましへの注意喚起

家族とは、「急な送金や認証コードの要求が来たら、その場で応じず、いつもの連絡手段で確かめる」と先に決めておけます。会社の依頼なら、既知の担当者や社内の確認経路を使います。映像の不自然さを見抜くことだけに、本人確認を任せないのが実行しやすい対策です。

SNSで警告や衝撃的な画像を共有する時も、元の発表、公開日、事件か実験かを確認します。自分で作ったAI生成の例を、実在する事件の証拠として投稿しないことも、私たちが選べる行動です。

異常があれば止め、記録して相談する

意図しない送信・共有・削除などに気づいたら、まず実行を止め、可能な範囲で連携を解除します。チャットを閉じただけで外部の処理まで止まったと思い込まず、実行履歴や連携先も確認します。NCSCは、記録の保護と、自律的な処理を停止できる仕組みの確保を重視しています。NCSCの記録・監視・緊急停止の説明

サービス名、分かる場合のモデル名、発生日時、許可していた操作、実際に起きたことを記録し、提供元の報告窓口へ伝えます。画面や会話の記録を共有する時は、他人の情報や認証情報を隠します。仕事中の出来事は勤務先の担当者にも知らせ、危険な操作を自分で繰り返して再現しようとしないでください。

金銭被害が疑われる場合は、利用した金融機関や決済サービスの公式窓口への連絡も急ぎます。契約・請求などの消費者トラブルは、日本では消費者ホットライン188が地域の相談窓口を案内します。相談は無料ですが通話料はかかります。（2026年9月14日確認） 消費者庁の相談窓口案内

企業や社会に、評価と責任の説明を求める

提供企業を選ぶ時は、便利さやモデルの順位に加え、入力データの扱い、権限を取り消す方法、問題の報告窓口、安全性評価の条件と限界が説明されているかも確認します。これらは筆者が勧める確認項目であり、説明があるだけで安全性が保証されるわけではありません。

職場や学校で導入の相談を受けたら、「誰が利用範囲を決め、異常時に誰が止められるのか」を尋ねられます。NCSCも、AIの導入・権限・監督・停止について、人間側の責任を明確にするよう求めています。NCSCの責任分担に関する説明

政策や公開の意見募集に接する時にも、安全性評価の検証可能性、事故の報告、監督と停止の責任が具体的かを問いにできます。どの制度が最善かをこの記事だけで決めることはできませんが、企業や政府の説明を、根拠と実行条件から吟味することはできます。

身近な被害を減らす工夫と、人類規模のリスクへの対策は、担う範囲が違います。個人の設定変更で絶滅リスクが何％下がるかを、今回の資料から示すことはできません。利用者としてできることを実行しつつ、開発・運営側の安全性評価や監督の責任まで、自分たちだけで背負う必要はありません。