生成AI時代のゼロトラストは、情報の中身を疑うこと

ゼロトラストの発想を、情報の中身にも広げる

ゼロトラストゼロトラスト：「何も信頼せず、常に検証する」を前提とするセキュリティの考え方。詳しく見る →という言葉は、セキュリティ関係者の間ではすっかり一般的になった。社内ネットワークだから安全とは考えない。アクセスする人や端末を確認し、必要な権限だけを与える。アクセス後も、状況に応じて継続的に確認する。こうした考え方は、クラウド利用やリモートワークが広がった企業にとって、もはや特別なものではなくなりつつある。

この変化自体は正しい。かつては、社内と社外の境界を守る発想が中心だった。社内ネットワークの内側にいるユーザーや端末は、ある程度信用する。外から入ってくる通信は警戒する。そのような考え方である。

しかし、いまは仕事の場所も、使う端末も、利用するサービスも分散している。社内にいるから安全、社外だから危険という単純な線引きはできない。だからこそ、「社内にいるというだけでは信用せず、都度必要な確認をする」というゼロトラストの考え方が必要になった。

ただし、生成AIがここまで進化した現在、ゼロトラストをネットワークや認証だけの話に閉じ込めておくのは危うい。これから疑うべき対象は、通信経路だけではない。そこを流れてくる情報の中身そのものである。

社長からの指示に見えるチャット。取引先から届いたように見えるメール。公式発表のように見える画像。本人が話しているように見える音声や動画。これらが簡単に、しかも高い品質で作られる時代になった。

つまり、これからのゼロトラスト的な発想では、「誰がアクセスしているか」だけでは足りない。「その情報は本物なのか」「誰が作ったのか」「改変されていないのか」「その指示に従ってよいのか」まで確認する考え方へ広げる必要がある。

本稿では、これを「情報のゼロトラスト」と呼びたい。

偽情報は、見抜く努力だけでは止められない

英国の国家サイバーセキュリティセンター（NCSC）は、2025年5月に公表した“Impact of AI on cyber threat from now to 2027”（2027年までのサイバー脅威に対するAIの影響）において、AIがサイバー侵入の各工程をより効果的・効率的にし、2027年までにサイバー脅威の頻度と強度を高めると見ている。ここで重要なのは、まったく新しい攻撃だけが問題になるわけではないという点である。偵察、弱点の調査、ソーシャルエンジニアリングソーシャルエンジニアリング：システムの技術的な脆弱性ではなく、人の心理や行動の隙を巧みに突いて、機密情報やアクセス権限を盗み出す攻撃の総称。詳しく見る →、既知の脆弱性の悪用といった、すでにある攻撃手法がAIによってより速く、大量に、巧妙になる。

これは、企業にとって非常に現実的な問題である。攻撃が急にSFのような姿になるわけではない。むしろ、いつものメール、いつもの申請、いつもの連絡、いつもの広告、いつもの問い合わせが、少しずつ見分けにくくなる。

これまで多くの会社は、従業員に「怪しいメールに注意しましょう」「不審なリンクを開かないようにしましょう」と教育してきた。もちろん、その教育は今後も必要である。だが、生成AI時代には、それだけでは限界がある。

偽物は多すぎる。巧みすぎる。速すぎる。人間の注意力だけに頼って見抜くには、負担が大きすぎるのである。こちらが一通ずつ慎重に確認している間に、攻撃者はAIを使って大量の文面を作り、相手に合わせて調整し、何度も試してくる。

分かりやすい例が、「『レターパックで現金を送れ』は全て詐欺」という注意喚起である。これはかなり強い言い切りである。例外があるのではないか、と感じる人もいるかもしれない。しかし、この言い切りが強いのは、受け手に「本物か偽物かを見抜け」と求めていないからだ。

受け手が細かく鑑定するのではなく、「この条件に当てはまるものは通さない」と決める。つまり、本物かどうかを受け手の注意力だけに背負わせるのではなく、正しい方法で依頼されているかどうかを仕組みで判断する。この発想は、生成AI時代の企業防衛にとって重要である。

社長からの急な送金依頼。取引先を名乗る口座変更の連絡。SNS広告で見かけた投資話。突然届いた友達申請。これらを一つひとつ人間が見抜こうとすると、いずれ限界が来る。必要なのは、怪しいものを見抜く目を鍛えることだけではない。本物だけが通る仕組みを作ることである。

「まず信じる」から「本物なら通す」へ

生成AI時代のゼロトラスト的な考え方を一言でいえば、「本物であることが確認されるまで、重要な判断には使わない」ということである。これは、「何も信じるな」という意味ではない。何でも疑え、という精神論でもない。大切なのは、確認できるまで重要な判断に使わない、という業務上のルールである。

例えば、送金指示はメールだけで動かない。別の連絡経路で確認する。取引先の口座変更は、担当者からの連絡だけで処理しない。登録済みの電話番号や契約上の窓口で確認する。社内の重要な承認は、チャットの文面だけで済ませない。ワークフローや電子署名など、記録と本人性が残る仕組みに通す。

つまりは、社内で取り決めている手順やルールを守るということに尽きる。ただし、その手順やルール自体を、生成AI時代の偽装能力を前提に見直す必要がある。

このように考えると、ゼロトラストは決して特殊なIT用語ではない。経営の言葉に置き換えると、「確認されていないものを、重要な意思決定に使わない」ということである。

従来のゼロトラストでは、「社内だから信用する」という前提をやめた。認証され、許可され、検証されたものだけを通すようにした。この発想を、情報の中身にも適用するのである。

公式らしいデザインだから信じる。有名人が話している動画だから信じる。文章が丁寧だから従う。社長らしい口調だから本物だと思う。こうした判断は、生成AI時代にはますます危険になる。見た目の自然さと本物であることは、もはや同じではない。

これから企業が重みを置くべきなのは、「それらしく見えるか」ではなく、「出所が確認できるか」「改変されていないか」「正しい手続きに乗っているか」「その指示に従う権限が確認できるか」である。

つまり、アクセス管理でやってきたことを、次は情報の取り扱いにも広げる。回線や端末のゼロトラストから、情報のゼロトラストへ。対象が広がっただけで、考え方は同じである。

AIで増幅された偽装に、人間だけで立ち向かわない

アメリカのアンソロピックは、2025年11月に公表した報告書“Disrupting the first reported AI-orchestrated cyber espionage campaign”（初めて確認されたAI主導のサイバー諜報活動を阻止）において、AIが戦術的作業の大部分を担ったサイバー諜報キャンペーンを検知・阻止したと説明している。同社によれば、偵察、弱点の探索、侵入、横展開、データ処理など、攻撃の多くの工程をAIが支えていた。

この事例が示すのは、AIが単に偽メールや偽画像を作る道具ではなくなっているということである。AIは、攻撃全体の作業効率を高める道具になっている。攻撃者は、より多くの対象を調べ、より速く試し、より自然な文面を作り、より効率よく攻撃を進められる。

企業が相手にするのは、もはや単発の詐欺師だけではない。AIによって増幅された偽装の供給能力である。そう考えると、従業員一人ひとりの注意力にすべてを背負わせるのは無理がある。

もちろん、人の教育は必要である。しかし「気をつけましょう」を増やすだけでは、現場は疲弊する。メールも、チャットも、申請も、広告も、ニュースも、採用応募も、問い合わせも、すべて疑えと言われれば、仕事は回らない。疲れた人は、最後には「たぶん大丈夫だろう」で処理してしまう。

だからこそ、仕組みで受け止める必要がある。重要な依頼は別経路で確認する。社内外の公式情報は、真正性を示す方法を持つ。生成物は、出所や改変履歴を追えるようにする。AIが作った文書や画像を業務で使う場合には、誰が確認し、どこまで利用してよいかを決める。AIエージェント、つまり作業を自動で進めるAIに対しても、人間と同じように権限と責任範囲を定める。

これは技術論に見えるが、実際には組織運営の問題である。ルール、承認経路、権限管理、取引先確認、情報発信の方法をどう設計するか。そこに経営の関与が必要になる。ある意味で、内部統制システム構築の一環である。

経営者が手を入れるべきは、現場の注意力向上だけではなく土台の構築

AI時代において、偽物をなくすことはできない。むしろ、偽物が当たり前に流通する社会になると考えた方がよい。重要なのは、偽物を根絶することではない。偽物があふれていても、本物だけが重要な業務を動かせるようにすることである。そのために経営者が見直すべきことは、いくつかある。

第1に、重要な指示や申請の確認経路である。送金、契約、口座変更、機密情報の共有、システム権限の付与など、会社に大きな影響を与える依頼は、メールやチャットだけで完結させてはならない。どの依頼は必ず別経路で確認するのか。誰が確認するのか。記録をどこに残すのか。ここを決める必要がある。

第2に、公式情報の出し方である。自社が顧客や取引先に発信する情報も、生成AI時代には偽装される可能性がある。企業は、自社の情報が本物であることを相手が確認できる手段を用意しなければならない。問い合わせ窓口、公式サイトでの告知、署名付きの通知、発信元の統一など、基本的な整備が重要になる。

第3に、AIが生成したものの扱いの整備だ。AIが作った文章、画像、議事録、提案書をどこまで業務で使うのか。外部に出す前に誰が確認するのか。誤情報や権利侵害、機密情報の混入をどう防ぐのか。便利だから現場任せにするのではなく、業務ルールとして決めるべきである。

そして第4に、人に過度な負担をかけない設計が肝要である。社員に「騙されるな」と言うだけでは足りない。普通の人が普通に働いても、危険な依頼が重要な手続きに入れないようにする。ここが、生成AI時代のセキュリティにおける経営の役割である。

ゼロトラストは冷たい思想ではない。むしろ、人間の弱さを前提にした優しい設計である。人は見間違える。焦る。権威に弱い。偉い人には褒められたい。忙しいと確認を省きたくなる。だから、人が騙されないことを前提にしない。騙されても、すぐに重大な被害につながらない土台を作る。

ネットワークやアクセスのゼロトラストは、回線、端末、ユーザー、リソースを守る考え方だった。生成AI時代に必要なのは、そこから一歩進んだ情報のゼロトラストである。情報の出所、真正性、改変の有無、指示の妥当性を確認する仕組みを持つこと。それは、認知を守ることであり、業務判断を守ることであり、経営を守ることである。

経営者が明日から社内で話題にすべき問いは、難しくない。自社では、どの情報を「見た目だけ」で信じているのか。どの指示が、メールやチャットだけで通ってしまうのか。顧客や取引先は、自社からの情報が本物だとどう確認できるのか。

生成AI時代のゼロトラストは、回線の話では終わらない。これからは、情報そのものをどう扱うかが問われる。