AI技術の進化により、高度なディープフェイク動画の制作が可能になったことから、ディープフェイクを巧妙な騙しの手口として悪用する犯罪が増えています。企業においては、以下のような被害が報告されています。

経営陣になりすました詐欺
香港のある多国籍企業のオンライン会議で、ディープフェイク技術を悪用して同社の最高財務責任者（CFO）になりすまし、2500万米ドル（約38億円）を送金させたという詐欺事件が発生しており、被害金額の規模の大きさが注目されています。

ビジネスメール詐欺の巧妙化
攻撃者は経営者や取引先になりすましてメールを送信後、さらにディープフェイクを使って本人の声を真似て電話をかけ金銭を要求する手法が確認されており、従来の文書による詐欺から音声・映像を組み合わせた多層的な攻撃へと進歩しています。

2024年もさまざまな生成AIが発表され、その普及に伴い、攻撃者の悪用におけるリスクとして、フェイクコンテンツとサイバー攻撃が挙げられます。特に注目すべき点は以下の通りです。

マルウェア作成の自動化
国内において生成AIを利用してマルウェアを作成し摘発された事例も確認されています。これまで高度な技術知識を要していたマルウェアの開発が、AIの支援により容易になっている状況です。

プロンプト・インジェクション攻撃
意図的に悪意のあるプロンプト（入力）を与えることでAIが意図しない動作や結果を引き起こす攻撃手法である「プロンプト・インジェクション」によって、不正な指示を与えて誤動作させ、公開すべきでない情報が引き出されるリスクが新たな脅威として認識されています。

デジタル決済市場は急速に拡大しており、取引量の増加に比例して不正リスクも拡大しています。キャッシュレス決済の普及とECサイトの利用増加により、企業が直面する不正リスクは多様化しています。

業界団体の発表によれば、2019年のクレジットカード不正利用被害額は約274億円に上っており、悪質なECサイトへの誘導を図り、クレジットカードの情報を盗み取る「オンラインスキミング」などの手口による被害が深刻化しています。

従来のやり方では、いずれ不正を検知しきれなくなり、スタッフの負担が大きくなることが予想されます。人的リソースに依存した不正監視では、以下の課題が顕在化しています。

• 大量取引データの監視における人的負荷の増大
• 新しい不正手法への対応の遅れ
• 人的コストの増大
• 検知精度の限界

年間数億件を超える決済データによって、あらゆる不正パターンを機械学習しモデルを作成することで、人間では見分けがつかない不正パターンとの類似性をスコアとしてリアルタイムに算出することが可能になっています。

パターン認識の高度化 AIを活用した場合は、機械学習によって顧客特性などから不正を判別できるため、人によるルール設定よりも柔軟に対応ができます。これにより、従来のルールベースシステムでは検知困難だった複雑な不正パターンの識別が可能となります。

自動学習機能 不正の手口は日々進化しているので、これからの不正に対応するためにはAIが必要になってくるでしょう。AI不正検知システムは継続的な学習により、新しい不正手法にも適応できる特徴を持っています。

AIによる不正検知システムを採用すれば、発見できる不正が増えるだけでなく、自ら学習していくため、精度を高めることができます。AIを活用することで、不正検知の監視に割いていたコストや時間を削減し、業務を効率化できます。

予防的検知の実現 AIの不正検知システムは、実際に行われた取引に対してスコアをつけるだけでなく、事前に防止することも可能です。メールアドレス、カード情報などを入力するとリスクが算出されるため、不正ユーザーを未然に検知可能です。

このようにAIを活用した不正検知システムは多くの優位性を持っていますが、一方で企業が実際に導入・運用する際には、様々な現実的な課題に直面することも事実です。以下では、企業が認識すべき具体的な課題について詳しく見ていきます。

ECサイトなどの事業者にとって、個人のお客様がクレジットカード情報を不正利用をされた場合は「チャージバック」といった返金の仕組みがあります。これはそのサイトの利用者にとっては安心できる仕組みですが、販売元である事業者にとっては送付した商品が戻ることはないうえ、売上も取り消されることから、損害が発生してしまいます。

金融業界 直接お金を奪い取る不正だけでなく、そもそも不正に手に入れたお金を様々な金融機関を経由して洗浄する、マネーロンダリングという不正もあります。アンチマネーロンダリング（AML）対策の重要性が高まっています。

流通・小売業界 流通や小売業界においても不正リスクが高まっています。換金性の高い商品（高級ブランド、PC パーツ等）を扱っている場合もあり、EC サイトなどデジタル化されたサービスはサイバー犯罪のターゲットになっています。

現代の不正対策では、単一のソリューションではなく、複数の技術と手法を組み合わせた多層防御が求められています。

技術的対策

• AI/機械学習による異常検知
• 行動分析によるリスクスコアリング
• デバイスフィンガープリンティング
• 本人認証の強化

運用面の対策

• 重要な取引について複数人でのチェック体制を構築する
• ゼロトラスト原則の適用
• 定期的な従業員教育とトレーニング

不正検知の精度を高めるためには、適切なデータの収集と分析が重要です。不正事例が少ない場合には、類似のリスクパターンも含めて学習データを充実させることで、AI が効果的にパターンを学習できるようになります。

効果的なAI不正検知には、適切なデータの準備と継続的なモデルの改善が不可欠です。

2025年以降、サイバーセキュリティの分野で新たな脅威として注目されているのが、マルチエージェント型AIによるサイバー攻撃です。これは複数のAIが連携してサイバー攻撃を行うというもので、従来のサイバー攻撃とは比較にならないスピード感と効率性があると予測されます。

防御側の対応 このような新たな脅威に対するセキュリティ対策として、防御側でもマルチエージェント型AIの活用が検討されています。例えば、企業内の各コンピューターにAIエージェントを配置し、それらが相互に連携してリアルタイムで脅威を検知・対処する仕組みの研究開発が進められています。

OT（Operational Technology：制御システム）セキュリティ、製品セキュリティ、AIセキュリティに関しては、海外での法整備が進み、日本企業においても海外の規制を考慮した対応が必須となりつつあります。

企業は技術的対策だけでなく、コンプライアンス面での対応も同時に進める必要があります。