JNSA幹事／アルテア・セキュリティ・コンサルティング 代表
二木 真明

昨日からラスベガス入りして、全米最大のエレクトロニクスショーであるCESを見て回ります。今日は、頭の中にインデックスを作るために、ひととおり駆け足で見て回ることにしました。まずは、メイン会場から少し離れた、IoT関連の展示会場へ向かいました。

スマートホーム系のIoTでは、次第に形が定まってきている印象を受けます。
機器の制御や通信については、ZWAVEやZigbee3.0といった標準に乗るメーカーがほとんどで、デバイスの選択肢も2年前に比べるとかなり増えた印象を受けます。

こうしたデバイスレイヤーの標準の上に、ユーザーインターフェイスとしてのAI,たとえばGoogle Assistant や Amazon Alexaなどを使用して全体をたばねるといった形が定着しつつあります。一方、家電メーカー系はというと、ちょっと混迷しているかもしれません。冷蔵庫や電子レンジといったものにAIを積んでネットにつなぐ・・・といった流れは2年前のCESでも見られていたのですが、そこから大きく進んだ感じでもなく、また、スマートホームとしての（住居インフラとなるIoT環境との）統一感もいまひとつ見られません。大手家電メーカーは、どうしても囲い込み戦略になりがちなので、そういう意味での停滞感があるのかもしれません。本格的なスマートホームを実現するためには、もっとオープンなインターフェイスが必要になりそうです。

さて、CESのもうひとつの目玉が自動車関連です。こちらは、自動運転が次第に実用化段階に入りつつあり、各社とも力が入っています。AI搭載の自動運転車のプロトタイプやコンセプトモデル展示の一方で、各社ともに、近未来の公共交通システム的なコンセプトでの展示も増えています。これは、自動運転化後に起きるであろう、自動車所有意欲の低下を意識したもののようにも思えます。所有から利用への変化はこの世界でもいずれ起きるのかもしれません。

また、AIは自動運転だけでなく、ドライバーや利用者のエクスペリエンス向上のためにも応用されます。利用者の顔などから感情や感覚を読み取り、適切なアシストをしたり、車内の環境をそれにあわせて制御するといった応用は各社とも力を入れているようです。

さて、IoT、家電、車、ヘルスケアなど、いずれの世界でも、AI搭載は普通に行われるようになってきたわけですが、私のようなセキュリティ屋の性分としては、どうしても「大丈夫か？」と思いながら見てしまいます。

気になるのは、AIにかかわらず、現在流行となっている技術の開発において、どこまでセキュリティが意識されているのか、という点です。たしかに、安全という面では、自動車やヘルスケアの分野、電気製品などについては一定の基準があるはずなのですが、それらが「悪意」を前提としたものかと言えば、必ずしもそうではありません。

たとえば、AIにおいては、近年、画像認識を混乱させるような攻撃が話題になっています。昨年11月にブリュッセルで開催されたESCAR EUROPEという自動車関連のセキュリティコンファレンスでは、道路標識を誤認させるような攻撃手法が紹介されていました。しかし、こうした問題への対応は簡単ではありません。現在、AIと呼ばれているものの多くが、人間や動物の五感についての神経系の動きを模倣する「深層学習」という手法を利用しています。これは、知能というより、神経系の学習能力を模したものです。ただ、これは神経系を電子的に再現するのではなく、その動きを数値的にシミュレーションしているため、統計解析などを応用した高度な数学的演算が必要になります。NVIDIAのようなAI用チップメーカーが提供しているのは、ニューラルネットワークを直接実現するチップではなく、こうした数値演算を高速化するための並列処理コンピュータなのです。

また、こうした演算のプログラミングには様々な統計解析手法や数学的手法に関する知識が必要となります。最近では、GAFAなどを含め、こうした深層学習のプログラミングを簡素化するためのツールキットを無償で提供する動きがあり、それほど高度な知識がなくても深層学習を応用したシステムを作ることができるようになっていますが、そのレベルでは、先に述べたような攻撃に対する対策は困難です。どうしても、深層学習の原理に詳しい専門技術者や研究者に悪意を前提として対応を考えてもらわざるをえません。

IoTなど、ハードウエアに近い分野に関しても似たような状況が存在します。こちらも近年、脆弱性の問題がクローズアップされていますが、結局のところ、開発者が「悪意」を意識できるかどうか、という点に問題は帰結します。

いずれも、我々、いわゆる「セキュリティ専門家」にとってはハードルが高い分野です。こうした分野に個別に足を踏み入れるのもひとつの方法かもしれませんが、おそらくそれならば、セキュリティを離れて、その分野の専門家に転身してしまったほうが早そうです。一方、こうした最新技術のプラットホームとなるコンピュータシステムは、いまだに従来型のものです。AIといえども例外ではなく、こうした部分については、これまでのベストプラクティスが応用
できます。つまり、従来型のセキュリティで基盤は守ることができるわけで、
専門知識が必要となるのは、その上のアプリケーション部分だけなのです。
ついでに言えば、AIで防ぎきれない問題については、従来型の枠組みの中に安全弁を入れる方法もあるでしょう。

逆に、先端技術の技術者や研究者に基盤のセキュリティまで考えてもらうのは荷が重いので、従来型のセキュリティ専門家は依然として必要とされます。問題は、この両者がうまくコラボレーションできるかどうかです。基盤とアプリケーションは相互に密接に関連しますから、全体をひとつのシステムとして考えられないと困ります。こうしたシステム設計の段階で、どうセキュリティを組み込んでいくのか、またアプリケーション開発者に対して、悪意を前提とした課題をきちんと提起していけるかどうかは、むしろ、我々、従来からセキュリティ畑で働く人間の仕事なのかもしれません。

深層学習への攻撃では、そのためにAIを使う手法なども明らかになっています。
こうした「敵対的」AIは、対AIだけでなく、今後セキュリティ全般に対する大きな脅威となることは間違いありません。今後、我々セキュリティ専門家が、様々な分野の専門家とうまくコラボレーションしていけるかどうかが、生き残りの鍵といっても過言ではないような気がするのです。

少し脱線気味になってしまいましたが、いつものセキュリティ関連のコンファレンスやショーではなく、こうした最先端技術を見て回ることで、セキュリティ屋としての自分を、その井戸の中から追い出すことは重要だろうと思います。
皆さんも是非、日頃の仕事を離れたところで、妄想（笑）を膨らませてみてください。

この記事は、写真入りでブログにも掲載していますので、ご覧ください。
http://altairsecurity.blogspot.com/

 

＃連載リレーコラム、ここまで

＜お断り＞
本稿の内容は著者の個人的見解であり、所属企業及びその業務と関係するものではありません。

【部会・WG便り】
★IoTセキュリティWGでは、セミナー「IoTセキュリティセミナー｜Society5.0
　で実現する社会におけるIoTとAI、そしてセキュリティはどうなるか？」を
　開催いたします。
　日　程：2019年2月1日（金）13：30-17：30
　会　場：ソニーシティ大崎（品川区大崎2-10-1）
　詳細・お申込みはこちらから↓
　https://www.jnsa.org/seminar/2019/0201/

★「2018 セキュリティ十大ニュース」を公開しました。
http://www.jnsa.org/active/news10/index.html

★「2018年度JNSA表彰」受賞者が決定しました。
http://www.jnsa.org/jnsaaward/2018/winner.html

★標準化部会「日本ISMSユーザーグループ」新規メンバー募集中です。
活動のご案内はこちらをご覧ください↓
https://www.jnsa.org/active/2018/std.html#ismsug
JNSAでの初回会合が以下日程で開催されます。
参加希望の方はJNSA事務局までご連絡下さい。
日　程：1月31日（木）18:00-21:00
会　場：JNSA事務局 会議室（西新橋）1階

【事務局からのお知らせ】
★「Black Hat Asia 2019」
2019年3月26-29日にシンガポールで開催される「Black Hat Asia 2019」に参加される方はディスカウントコード「JNSA18」を御利用いただくと15％（S$240 ）のディスカウントが適用されます。
http://online.ubmasia.com.sg/q/1mwF9pvU6Gl5Vd22DlQZ/wv

★JNSA構成団体となっております第4回「辻井重男セキュリティ論文賞」の論文募集中です。応募者以外の方（例えば指導教員など）からの他薦も
歓迎します。多くの皆様の応募をお待ちしております。
募集期間：2019年1月18日（金）まで
＜詳細は以下をご覧ください＞
http://www.jssm.net/wp/?page_id=3627

★JNSAは、（ISC）2やSANSの代理店として、会員企業の方へトレーニングの割引販売を行っております。受講の際にはぜひ事務局までご連絡下さい。

☆コラムに関するご意見、お問い合わせ等はJNSA事務局までお願いします。

*************************************
JNSAメールマガジン　第153号
発信日：2019年1月11日
発　行：JNSA事務局　
*************************************