Black Berry Cylanceのセキュリティソフトウェア「Cylance PROTECT」で、マルウェアを検出する機械学習アルゴリズムにファイルの改変で検知を回避されてしまう問題が報告された。Cylanceはアルゴリズムを改良するなどの対策を講じ、7月21日以降に同社サービスに接続したユーザーの製品へパッチを提供しているという。
この問題は、7月18日にセキュリティ企業Skylight Cyberの研究者が報告した。Cylance PROTECTでは、機械学習アルゴリズムを使って実行形式のファイルが悪性（マルウェア）か良性かを判定する。研究者の報告によれば、この機械学習アルゴリズムの特性を突いて、改変したマルウェアファイルを“良性”と誤判定させることができるという。
研究者の調査では、2019年5月のトップ10のマルウェア全てで検知の回避に成功し、代表的な384のマルウェアサンプルについても90％近くが検出を回避した。研究者は「Zeus」や「Gh0stRAT」「Qakbot」など10種類のマルウェアについて、アルゴリズムが算出するスコアの変化を具体例として提示している。
報告についてCylanceは、ファイルの改変操作がマルウェア検出のアルゴリズムに影響しないように機能を改良するなど複数の対策を講じたと説明。7月21日以降、対策済みのパッチを製品へ順次提供しているとした。
なお、米カーネギーメロン大学のソフトウェアエンジニアリング研究所は、Cylanceのパッチが問題の全てに対処できているかは分からないとの見解を示し、例えば、ホストがファイルをダウンロードする際に、ネットワークIDS（不正侵入検知システム）やウェブプロキシー、メールサーバーなどで構成を検証するような多層防御の適用を推奨する。
またセキュリティ製品開発者には、製品では機械学習だけではなく、シグネチャーやルールなど既存の検出手法を組み合わせるべきだと指摘。機械学習技術についても、CleverHansやFoolbox、Adversarial Robustness Toolboxなどのツールによるテストの実施を勧告している。
Cylanceは、マルウェア対策における機械学習技術が途上で攻撃者が検知の回避を試みる実態があるとしつつ、その上で有効な手法でありセキュリティ各社が導入していると主張、同社として第6世代の機械学習モデルの開発を進めていると説明する。
