25年8月号　AI vs AI 　～これからのセキュリティ戦略～

著者：PACIFICサイバーセキュリティ研究所　リーダー研究員　R.E
公開日：2025年9月24日(水)
コラムテーマ：セキュリティトレンド

AIの進化は私たちの生活を便利にする一方で、サイバー攻撃の世界にも大きな影響を及ぼし始めている。従来は高いスキルを持つ一部の攻撃者だけが可能だったことが、生成AIの登場によって容易に実行できるようになった。自然な文章を即座に作成できる能力は、フィッシングメールや詐欺メッセージをかつてないほど巧妙にし、受け取る側が違和感を覚えにくくなっている。また、攻撃コードの一部をAIに書かせたり、脆弱性の探索を効率化するためにAIを用いるケースも現実化している。さらに近年は、音声を合成して本人になりすます詐欺の事例も増えつつあり、AIが攻撃の手口を広げていることは明らかである。こうした変化により、攻撃のコストは大きく下がり、特別な知識を持たない人間でもAIを活用すれば一定レベルの攻撃を行えるようになっている。つまり、攻撃者の裾野が広がり、量と質の両面で脅威が増しているのが現状だ。

一方、防御側も人間の力だけでは到底追いつけない状況に直面している。膨大なセキュリティログを一つひとつ確認していては、攻撃のスピードに遅れを取るだけでなく、誤検知や見落としが避けられない。そこで近年注目されているのが、防御のためのAI活用である。ネットワークや端末上の振る舞いをリアルタイムで監視し、通常とは異なる兆候を瞬時に見つけ出す仕組みは、人間の目では到底追えない速さで攻撃を検知する。また、膨大なログを解析し、複数のイベントを関連づけて脅威を浮かび上がらせる作業もAIが得意とする領域であり、攻撃が進行する前に封じ込めることが可能になりつつある。インシデント対応の場面でも、AIが一次調査を自動化し、担当者に「次に取るべきアクション」を提示することで、被害の拡大を防ぐスピード感ある対応を支援できる。

AI同士をぶつけて強化していくという点では、将棋や囲碁の研究が先行していると考える。これらの分野では、人間が相手をしなくてもAI同士を24時間、同時並行で対局させ、膨大な試行錯誤の中から新しい戦法や最適解を発見する研究が進んでいる。人間の経験や発想をはるかに超える一手が、AI同士の対局から生まれるようになっており、その成果がトップ棋士の研究にも取り入れられている。サイバーセキュリティも同じで、攻撃AIと防御AIを仮想環境でぶつけ合い、双方が進化する中で未知の攻撃手法や有効な防御策を見いだす取り組みがこれからますます重要になるだろう。

こうした状況を総合すると、サイバー空間ではすでに「AI対AI」の戦いが始まっているといえる。攻撃者はAIで精密な攻撃を練り上げ、防御側はAIでそれを検知し阻止する。まさにスピードと精度を競い合う構図であり、人間の力だけで決着がつく時代は終わりを告げている。AIの計算力と学習能力を活かさなければ、攻撃に立ち向かうことは難しくなっているのだ。

ただし、AIが万能というわけではない。AIは膨大な情報を処理できる一方で、ときに「ハルシネーション」と呼ばれるようなもっともらしい誤りを平然と示すことがある。この現象は、学習データの不正確さ、不足、偏り、またはAIモデル自体の限界に起因する。情報の真偽を見抜くためには、人間側に一定の知識や経験がなければならず、AIの出力をそのまま鵜呑みにするのは危険である。結局のところ、AIの力を最大限に活かすには人間が誤りを修正しながら協働することが欠かせない。セキュリティ担当者には、AIの仕組みや特性を理解した上で、自らの専門性を活かして判断を下す能力が求められるだろう。

攻撃者がAIを使う時代、防御側にとってもAI活用はもはや選択肢ではなく必須条件である。重要なのは「AIに置き換える」発想ではなく、「AIと協力する」姿勢だ。AIは疲れを知らず、大量のデータを処理する力を持つが、想定外の事象や倫理的な判断は人間にしかできない。だからこそ、これからのセキュリティはAIと人間の強みを掛け合わせることで初めて十分な効果を発揮する。そして、この「AIを制する者が守りを制する」という現実が、今後のサイバーセキュリティの大きな潮流になっていくに違いない。