KeyConductors

敵はいるのか？　人工知能が本当に必要なセキュリティとは

機械学習やディープラーニングは、ここ数年で劇的に進化を遂げた。一方でハッキングリスクを考えねばならない。求められるセキュリティ対策を議論する。

　人工知能は人間の仕事を奪い、いずれは人間の存在そのものをも駆逐する。機械が登場した頃から語られてきた終末論が現実になるかどうかは別として、少なくとも人間の学習能力をコンピュータで再現する技術の1つ、機械学習やディープラーニングはGoogleやIBMを始めとする大手企業によって、ここ数年で劇的に進化を遂げた。単純作業を肩代わりし、より生産的な業務を支援する域には十分到達している。IoTの普及と併せて、多種多様なモノが自動で最適な判断を行い、より便利な世の中になるのだろう。

　だが、一方で危惧されるのは、人工知能に対する依存度の高まりだ。日常生活から経済活動まで、あらゆるものが人工知能に頼る時代が来たとき、その人工知能に脆弱（ぜいじゃく）性が発見されて攻撃されたらどうなるのだろうか。

　「Interop Tokyo 2016」のパネルディスカッション「「人工知能の敵」～人工知能は完全なるセキュリティの夢を見るか　人工知能への攻撃の可能性を検討する～」でも、そんな熱い議論が繰り広げられた。

世界中で高まる人工知能への関心

　セキュリティの知識や技術力を競うCTF（Capture the Flag）などのコンテストではここ数年、機械学習や自動化の技術を攻撃や防御に取り入れる傾向が見られる。

　2016年8月に開催される、DARPA（米国の国防高等研究計画局）の「Cyber Grand Challenge」では、完全自動化されたソフトウェアプログラムがリアルタイムに既知および未知の脆弱（ぜいじゃく）性を発見、パッチ適用し、その速度や性能を競い合う。優勝チームは、翌日から開催されるハッカーカンファレンス「DEF CON 24」のCTFへの出場権が与えられ、世界各国の予選を勝ち抜いてきた人間チームと激突する。DEF CON 24の2016年の副題は「Rise of the Machines」（マシンの台頭）。人工知能に近づくマシンへの攻撃の可能性は、いま最も熱いトピックの1つだ。

どんなデータを人工知能に食わせるかが分かれ道になる？

　ディスカッションの冒頭で、長崎県立大学でサイバー攻撃の自動検出などを研究する松田健氏は魚を飲み込んだクラゲの写真を見せて、「人間がこの写真を見た場合、新種の魚だろうか、それとも加工画像だろうかとさまざまな推論を組み立てる。

　これを人工知能にやらせるには、本物の生き物の画像や加工画像の特徴を数値化してパラメータとして保持し、新しいデータを取り込みながら更新をかける必要がある」と述べ、「現状では回答パターンを幾つか用意するか、人間っぽい答え方を覚えさせるしかない」と吐露。私たちが想像するような人工知能は、まだまだ先の話と現状を整理した。

　日本アイ・ビー・エムの大津留 史郎氏も、「IBM Watsonでも、いかに正しい情報、または企業にとって適切な情報を学習させるかが業務活用でのポイント」と明かす。

　IBMでは、Watsonを人工知能ではなく「コグニティブインテリジェンス」と位置付けており、何かを判断・解釈するプロセスをWatsonが行うことで、人間による創造的なイノベーションを支援する機能としてさまざまな分野で活用されている。典型的な利用シーンは、コールセンターやチャットによるヘルプデスクだ。ソフトバンクはコールセンターでWatsonを採用し、正答率は90％を超える結果を出しており、みずほ銀行は人型ロボット「Pepper」を使った宝くじの照会応対を提供開始している。

　「課題は、適切な回答を設定するための工数がそれなりに必要という点だ。というのも、同じ業界でも用語に方言があり、結局は顧客ごとにインスタンスを作らなければならないからだ。標準化された用語でも、人や出身地によって解釈が異なるものもある。これをWatsonに覚えさせるのは、結構手間がかかる」（大津留氏）

　先日、同社はクラウド型セキュリティサービス「Watson for Cyber Security」を発表。2016年内にβ版を提供する予定という。

　「このサービスも、インプットされたデータから攻撃の判別を助ける情報を提供する。ネットをクローリングしてこれらデータを収集させることも可能だが、正確で有用なデータを収集できる必要がある」。そうと述べた大津留氏は、現在マサチューセッツ工科大学やウォータールー大学などと協力してWatsonを鍛えているところと説明した。

人工知能のセキュリティ対策はこれからの議論

　「インプットされるデータがいかに重要かはよく理解できた。つまり、学習するデータやパラメータを汚染することが攻撃になるということだろう。また、学習が必要なデータセットを業界ごとに用意した場合も、時代の変遷とともにデータセットのメンテナンスが必要になるが、その権限を奪えば人工知能を操ることも可能だ」。サイバー大学教授で国内最大規模のCTF大会「SECCON CTF」実行委員である園田道夫氏は、人工知能および機械学習のセキュリティ上の課題を指摘した。

　「新しい技術や革新が起こったとき、最初はそれをどう活用するかといった機能要件に注目が集まるが、使われ始めると今度は非機能要件の重要性が語られるようになる。セキュリティは非機能要件に分類され、今はまだ取り上げられることも少ないが、今後は真剣な議論が増えてくると思う」（大津留氏）

　園田氏は最後に、議論の続きを2017年1月ごろに開催予定の「SECCON CTF」のカンファレンスにて取り上げたいと会場に約束した。そのころには、人工知能や機械学習などへの攻撃手法や脆弱（ぜいじゃく）性がより具体的になっているのだろうか。人工知能のセキュリティ対策に関する動向を、今後も注視していきたい。

この記事の著者