AIはサイバー攻撃をどう変えるのか？「フロンティアAI」時代に企業が備えるべきこと

ChatGPTやCopilotの普及により、生成AIは身近な存在になりました。しかし、その進化は防御側だけでなく攻撃者にも恩恵をもたらしています。

最近では、海外メディアでも「フロンティアAI（Frontier AI）」がサイバーセキュリティに与える影響について取り上げられることが増えており、企業にとっても見過ごせないテーマとなっています。この記事では、フロンティアAIがサイバー攻撃にどのような影響を与えるのか、また、企業はどのような備えを進めるべきなのかについて、アクロニス脅威リサーチユニット（Acronis Threat Research Unit: TRU）リサーチリーダーであるサンティアゴ・ポンティロリ（Santiago Pontiroli）による見解とともに解説します。

本記事でいう「フロンティアAI（Frontier AI）」とは、現在のAI技術の最前線を担う高性能なAIモデルを指します。これらのAIは、高度な文章生成だけでなく、プログラム開発、情報分析、推論、コードレビューなど、従来は専門知識を必要としていた作業まで支援できる能力を備えています。

フロンティアAIは、企業における業務効率化やイノベーションを支える重要な技術として、大きな期待が寄せられている一方で、その高い能力は、防御側だけでなく、攻撃者によって悪用される可能性もあります。

アクロニスTRUは、フロンティアAIについて、「新しい種類のサイバー攻撃を生み出す技術というより、攻撃と防御の両方を加速させる技術」と捉えています。重要なのは、「AIそのもの」を脅威として捉えるのではなく、AIによって攻撃者の行動や攻撃手法がどのように変化するのかを理解することです。

 フロンティアAIによって、次のような攻撃活動がより短時間で実行できるようになる可能性があります。

• マルウェア開発の高速化
• 脆弱性調査の効率化
• フィッシングメールの品質向上
• ソーシャルエンジニアリング攻撃の高度化
• エクスプロイト開発の自動化

これらはいずれも新しい攻撃手法ではありません。しかし、AIの活用によって攻撃のスピードや規模が大幅に拡大することで、従来以上に迅速かつ広範囲な攻撃が行われる可能性があると考えられます。

一方で、フロンティアAIは防御側にとっても強力な武器になります。TRUでは、AIをセキュリティ運用の効率化や高度化を支える重要な技術と位置付けています。例えば、次のようなさまざまなセキュリティ運用の場面でAI活用が進んでいます。

• 未知の脅威の検知
• 振る舞い分析による攻撃の早期発見
• 脅威分析の迅速化
• インシデント調査の効率化

 アクロニスでは、TRUが継続的に脅威インテリジェンスやマルウェア分析を実施するとともに、AIを活用した検知技術や振る舞い分析、EDR/XDRを組み合わせた多層防御（Defense in Depth）のアプローチによって、AIを悪用した新たな攻撃への対応を進めています。

フロンティアAIの進化によってサイバー攻撃は加速すると考えられますが、サイバーセキュリティの基本原則そのものが変わるわけではありません。

AIを導入する企業においても、引き続き次のような基本対策が重要になります。

• 強固なID・アクセス管理
• 継続的な脆弱性管理
• EDR/XDRによるエンドポイント監視
• 従業員へのセキュリティ教育
• データガバナンスの強化
• AI利用に関する社内ポリシーの整備

特に、生成AIサービスへの情報入力や管理、業務におけるAI利用ルールを明確化することは、今後ますます重要になると考えられます。

フロンティアAIは、サイバー攻撃を根本から変える「新たな脅威」ではありません。しかし、攻撃者と防御側の双方にとって、さまざまな活動を加速させる「加速装置」のような存在になり得ます。

そのため企業は、AIを過度に恐れるのではなく、その特性やリスクを正しく理解した上で、自社のセキュリティ対策や運用に適切に取り入れていくことが重要です。

Acronis TRUでは、今後も脅威アクターによるAI活用の動向や新たな攻撃手法を継続的に分析し、その知見を脅威インテリジェンスや検知技術へ反映することで、お客様がAI時代においても安心してビジネスを継続できるよう支援してまいります。

① AI利用に関するルールは整備されていますか？：

生成AIを業務で利用する企業が増える中、「誰が」「どのAIサービスを」「どのような用途で利用できるのか」を明確にしておくことが重要です。また、機密情報や個人情報を外部AIサービスへ入力する際のルールも併せて定めておきましょう。

② ID・アクセス管理は適切ですか？：

AIサービスは多くがクラウド上で提供されています。MFA（多要素認証）の有効化、最小権限の原則、退職者アカウントの管理など、基本的なID・アクセス管理は、AI時代でも最も重要な対策の一つです。

③ エンドポイントの振る舞いを継続的に監視できていますか？：

AIによって攻撃のスピードは速くなる可能性があります。シグネチャだけではなく、不審なプロセスや振る舞いを検知できるEDR/XDRなどを活用し、未知の攻撃にも対応できる体制を整えましょう。

④ 社員へのセキュリティ教育を継続していますか？：

AIによって作成されたフィッシングメールやソーシャルエンジニアリングは、これまで以上に自然で巧妙になることが予想されます。技術的な対策だけでなく、従業員への継続的なセキュリティ教育や訓練も欠かせません。

⑤ インシデント発生時に備えた復旧体制は整っていますか？：

どれだけ対策を講じても、攻撃を100%防ぐことはできません。バックアップとリカバリ、インシデント対応計画を含めたサイバーレジリエンスを高めることが、AI時代の重要な備えとなります。