ITエンジニアのための勉強会・イベントレポート情報メディア

顔認証技術を巡り繰り広げられる、人工知能(AI)とメーキャップ技術の攻防戦とは!?
news

顔認証技術を巡り繰り広げられる、
人工知能(AI)とメーキャップ技術の攻防戦とは!?

2018.06.26

 
  • このエントリーをはてなブックマークに追加

この10年での人工知能(AI)関連技術の進歩は目覚ましく、あっという間に顔認証技術もごく身近なものになってしまった。まるでSF映画のようであり、「怖い」という印象を持つ方も多いだろう。だが、安全とプライバシーは完全に両立させることはできない。

牧野武文

まるでSF映画のような顔認証技術、
安全とプライバシーの両立は!?

この10年での人工知能(AI)関連技術の進歩は目覚ましく、あっという間に顔認証技術もごく身近なものになってしまった。顔認証でドアロック解除をしたり、出退勤管理をしている企業も、珍しくなくなっている。

顔認証技術は、防犯の領域でも大いに期待され応用されている。この技術が最も進んでいるのはやはり中国だ。「天網(スカイネット)」というクラウドで顔識別する仕組みがすでに稼働しており、街頭カメラの映像を処理して、犯罪者データベースと照合。街を歩いている犯罪者を割り出すというものだ。

すでに1億7000万台の監視カメラ映像に対応し、さらに街頭監視カメラを3億台から4億台に増やす計画が進んでいるという。

まるでSF映画のようであり、「怖い」という印象を持つ方も多いだろう。しかし、規模の差はあれ、各国で、すでに顔識別技術は防犯に役立てられはじめている。多くの人が集まるイベントなどでは、入場ゲートにカメラを設置し、犯罪者やテロリストを顔識別技術で察知するということは当たり前のことになりつつある。

感じ方は人それぞれだろう。ずっと以前から警官が犯罪者の顔写真をもったり、記憶したりして、入場ゲートを通る人を監視することはやっていたのだから、それを自動化しただけで、安全に役立つことなのだからかまわないと考える方もいるだろう。いや、入場者全員の顔写真が情報処理されるのだから、それはプライバシーを侵害しているのではないかと考える方もいるだろう。

いずれにせよ、安全とプライバシーは完全に両立させることはできない。私たちの社会は、いずれかを選択しなければならないのだ。

深層学習(ディープラーニング)の「隙」
に関する研究も盛ん

顔認証技術、顔識別技術にはさまざまな考え方のものがあるが、一般的なのは、目尻や鼻梁、口角といった特徴点を識別して、それを結んだダイアグラムを描き、この相対位置によって、本人のものとの類似度を比較するというものだ。いわば、顔の特徴のある場所を三角測量して、その数値が似通っているかどうかで判断をしている。

この判別に、機械学習とくに多層ニューラルネットワークを使った深層学習(ディープラーニング)という手法が用いられている。

ところが問題は、「なぜ深層学習(ディープラーニング)をさせると、精度よく判別できるようになるのか」ということがよくわかっていないことだ。「理屈はよくわからないけど、やってみればいい結果が出るので使っている」という状態なので、深層学習(ディープラーニング)の「隙」に関する研究も盛んだ。

例えば図を見ていただきたい。左の列に、スクールバス、うずらのような鳥、遺跡のような建築物の写真が並んでいる。よく学習された人工知能(AI)は、この3枚の写真に写っているものが何であるかを正確に言い当てることができる。

ところが、右の列にも同じ写真が並んでいる。この3枚の写真を、先ほどの人工知能(AI)に判別させると、なんと3枚とも「ダチョウ」だと答えたのだ。

これは一体どういうことか。中央の列のノイズのような画像が鍵になる。このある方法で生成したノイズ画像を左の写真に合成をしても、人間の目にはほとんど違いはわからない。ところが、人工知能(AI)には「ダチョウ」に見えるのだ。

中央のノイズ画像は、左のスクールバスの画像とダチョウの画像の差異がベースになり作られている。つまり、スクールバスの画像を「ダチョウに寄せていく」のだが、人間が識別する観点と、人工知能(AI)が識別する観点がまったく次元が異なっているので、人間には何も変わっていないように見えて、人工知能(AI)にとっては右の列の画像はじゅうぶんダチョウになっている。

(左のスクールバスなどの映像に、ある方法で作成したノイズ映像を合成させ、右の画像を作る。人間にはほとんど違いがわからずスクールバスに見えるが、人工知能にはダチョウに見えるようになる。Christian Szegedy他の「Intriguing properties of neural networks」(https://arxiv.org/abs/1312.6199)より引用)

この深層学習(ディープラーニング)の「脆弱性」は、社会を混乱させる攻撃に利用される可能性がある。例えば、自動運転車が交通標識を画像解析しながら走行する世の中になった時に、人間には進入禁止の標識にしか見えないが、人工知能(AI)には一方通行に見える標識を作ってしまうことも可能になる。

このような攻撃は、Adversarial Attack(対立攻撃)と呼ばれ、そのメカニズムや対応策の研究が盛んになっている。

顔にペイントやアクセサリーをつけ、
本人と別認識させる不可視化攻撃

顔認識でも同様の研究が進んでいる。カーネギーメロン大学の研究では、顔に簡単なペイントや特殊なアクセサリーをつけるだけで、本人とは別人と認識されるInvisibility Attack (不可視化攻撃)が紹介されている。

写真は、テレビドラマ「24」などでおなじみの米国俳優キーファー・サザーランドの写真だ。中央の写真は顔にパターンのペイントがされている。また、右の写真には帽子と特徴的なパターンを持ったメガネが合成されている。これで、中央と右の写真はキーファー・サザーランドとは別人だと認識されてしまう。

つまり、顔認識監視に引っかかりたくないテロリストは、このようなパターンを顔に塗ったり、アクセサリーをつけたりすることで、人工知能(AI)の目を盗むことができるのだ。

(3枚の写真とも俳優のキーファー・サザーランドであると人間には見える。しかし、右の2枚は、パターンやアクセサリーに撹乱されて、顔識別技術では別人と判定されていまう。Mahmood Sharif他の「Accessorize to a Crime: Real and Stealthy Attacks on State-of-th-Art Face REcognition」(https://www.cs.cmu.edu/~sbhagava/papers/face-rec-ccs16.pdf)より引用)

「こんなパターンを顔につけて歩いていたら、顔認証の前に職務質問をされるのでは?」と思われる方もいるはずだ。この不可視化攻撃は、今や研究者だけでなく、アーティストも研究をしている。アーティストのアダム・ハーベーは、顔認証を避けることができるメーキャップ「CVダズル」を発表している。

(アーティストが考案した顔識別技術を回避するためのファッションメイク。今でもこんな人が夜の街を歩いていても不思議ではない気もする。アーティストであるアダム・ハーベー氏のサイトにはこの他のメーキャップ例も掲載されている(https://cvdazzle.com))

いかがだろうか。確かにこんな格好で街を歩いていたら、帰って目立ってしまう。しかし、最先端ファッションの街であれば、意外に違和感はない。むしろ、近未来的なファッションに映る。10年ほどしたら、世の中はこんな格好をした人ばかり歩いていることになるのかもしれない。すごく未来的な光景だ。

もちろん、深層学習(ディープラーニング)技術は現在発展途上であり、このような攻撃手法を指摘している研究者たちも、それを防ぐ技術開発をし、それを通じて人工知能(AI)技術をより深く理解することが目的だ。

深層学習(ディープラーニング)はすでに実用レベルになり、身の回りでどんどん使われるようになっている。しかし、まだ完全なものではなく、やらなければならないことがたくさん残されているということは知っておくべきだ。

原稿:牧野武文(まきの・たけふみ)

テクノロジーと生活の関係を考えるITジャーナリスト。著書に「Macの知恵の実」「ゼロからわかるインドの数学」「Googleの正体」「論語なう」「街角スローガンから見た中国人民の常識」「レトロハッカーズ」「横井軍平伝」など。

顔認証技術を巡り繰り広げられる、人工知能(AI)とメーキャップ技術の攻防戦とは!?

この記事はどうでしたか?

おすすめの記事

キャリアを考える

BACK TO TOP ∧

FOLLOW