機械学習のセキュリティ上の課題とは

2017.08.07

機械学習が世界を席巻しています。携帯電話(リンク先:英語)Amazon Echo、Google Home などのデバイスの機能の中核を担っているのが機械学習であり、Google の検索結果も機械学習に基づいて生成されています。専門家は、今後数十年の間にファストフードの製造、建設業界やトラック業界のさまざまな要素は機械学習によって自動化され、また、情報セキュリティの取り組みは次の段階に進んで今以上に効果的な侵入検知システムが誕生するだろうと予測しています。


しかし、すべての優れた技術的進歩がそうであるように、機械学習アルゴリズムも攻撃者に悪用される可能性があります。ソフォスのチーフデータサイエンティスト Joshua Saxe は次のように述べています。


機械学習アルゴリズムのセキュリティの低さが原因で、フィッシングサイトが Google 検索結果の上位に表示されたり、マルウェアがコンピュータのセキュリティ対策をすり抜けて侵入したりする可能性があります。また、将来的には攻撃者が自動運転車を誤動作させる可能性があります。


Saxe は水曜日に BSidesLV において、本格的な修正が完成するまでの間、そうした危険性を最小限に抑える方法について講演を行いました。


危険な未知の領域


機械学習はいまだ新しい分野であり、未知の要素が数多くあります。その 1 つとして、セキュリティプロフェッショナルが機械学習アルゴリズムのセキュリティを強化する方法を知らないことが挙げられます。Saxe は次のように述べています。


セキュリティコミュニティでは機械学習に関する懸念が生じていますが、ほとんどのセキュリティプロフェッショナルは機械学習の専門家ではないため、攻撃者が機械学習システムをどのような方法で操作するのかが分からない可能性があります。さらに、機械学習の専門家は、今日の機械学習システムが攻撃に対して脆弱であることも、これが未解決の問題であることも認識しています。


コンピュータサイエンティストはこの問題の解決に取り組んでいますが、現時点では、検索エンジン、ロボットシステム、自動運転車など実環境のシステムに導入されているすべての機械学習アルゴリズムは深刻なセキュリティ問題を抱えています。


以下のスライドが示すように、自動車にもたらされる危険性は、Saxe による講演の主な項目の 1 つでした。



セキュリティプロフェッショナルにとって、このような技術をハッキングできるということは、機械学習ベースのセキュリティ技術に攻撃者が大損害を与え得ることを意味します。Saxe が取り上げたもう 1 つの例が、次のスライドに示した生体認証システムが破壊される危険性です。



今後の展望と対策


危険性が明らかになったところで、次に問題になるのが、脅威を最小化するためにセキュリティプロフェッショナルに何ができるのか、です。Saxe は次のようにアドバイスしています。


  • ・できる限り、攻撃者には機械学習モデルへのアクセスを許可しない。
  • ・できる限り、攻撃者には機械学習モデルへのブラックボックスアクセスを許可しない。
  • ・サイバーセキュリティ設定では、単一の機械学習システムに対する攻撃の損害が軽減されるように多層型の保護機能を使用する。

一般のユーザーにとっては恐ろしい脅威のように思えますが、機械学習の専門家はこれらの脆弱性を十分に認識しており、その修正に取り組み続けています。Saxe は次のように述べています。


ソフォスの研究者は、サイバーセキュリティの機械学習アルゴリズムがどのように攻撃されるのかを調査するとともに、攻撃者によって発見、悪用される前に脆弱性を修正できるよう取り組んでいます。ソフォスはこれまで興味深い緩和策を発見してきました。たとえば、選択したトレーニングセットをランダム化し、さまざまな機械学習モデルを導入する方法では、攻撃の成功率が低下することが分かっています。


このテーマについては、今後 Naked Security で詳しく解説していく予定です。


引用元

おすすめの記事はこちら