TensorFlowで自己符号化器で特徴量抽出して類似度を測ってみた



表題の通り、画像データセットから自己符号化器で特徴を学習し、類似度を測ってみました。

データセットはKaggleからお借りし、ライブラリはTensorFlowを使いました。

画像処理と自己符号化器、そしてTensorFlowの勉強のためにやってみました。

自己符号化器(オートエンコーダ)

下記、Wikipediaより引用です。

オートエンコーダ(自己符号化器、英: autoencoder)とは、機械学習において、ニューラルネットワークを使用した次元圧縮のためのアルゴリズム。

何番煎じといったところなので説明も今更ですが、3層のニューラルネットワークを構築し、中間層を圧縮したい次元数に設定します。

その上で、入力値と出力値が同じデータの値になるように教師あり学習をさせることで、中間層の重みを更新するといった手法になります。

これにより、中間層はデータの次元よりも少ない次元で特徴を表現することになります。

  

※自己符号化器(オートエンコーダ)のイメージ(Wikipediaオートエンコーダより)

  

ちなみに次元圧縮の手法としては、主成分分析が定番かと思いますが、自己符号化器と主成分分析にも関係があったりします。

詳しい説明は省略しますが、中間層の活性化関数を恒等写像にした場合には、自己符号化器と主成分分析は同じ働きをします。

したがって、非線形性を加味することによりデータをうまく表現できることが期待できるのであれば、自己符号化器を使うことを検討するのもアリと解釈すれば良いと思います。

データセット

Kaggleで公開されているデータセットを利用します。

Kaggleは、データ分析のコンペティションサイトで、世界中のデータサイエンティスト達が分析スキルを競い合うことができるサイトです。

また、Kaggleではユーザーが集めたデータセットを公開することができます。

特に何か予測モデルを作って欲しいという目的はないので競い合うといったことにはなりませんが、ネタとして「こんなデータがあったとしたら、こんなことをしてみたい」と考えた時に、オープンデータを検索するような感覚で、探して使うことができます。

今回はそのデータセットの中で見つけた、下記の花の画像データセットを使ってみます。

Flower Color Images: https://www.kaggle.com/olgabelitskaya/flower-color-images

下記のような、花の写真の画像が約200枚格納されています。

TensorFlowによる実装

さて、今回はこのデータセットを自己符号化器で学習して、圧縮した特徴量の類似度から、似たような花を提示することができるかを実装してみます。

コードの全文は下記のGitHubにあげています。

GitHub: https://github.com/Gin04gh/kaggle/blob/master/datasets/Flower_Color_Images/AutoEncoderSimilarity.ipynb

ネットワークをTensorFlowで構築し、学習させるコードが下記になります。

学習が終了した後に、実際にちゃんとデコードができているか、いくつかの画像をサンプリングして確認してみます。

左から、org が取り込んだオリジナルの画像、x はリサイズ等を加えた後にネットワークに入力する時のデータの画像、dec がネットワークの出力値の画像です。

encが中間層の値なので、これがエンコードの値となります。

結果として、一部学習しきれていない画像もありましたが、ある程度はデコードできるところまで学習しているようです。

エンコードの値がやたら振り切れているのも気になりますが、ひとまずはこのまま突っ切ってみます。

いくつかのサンプル画像を抽出してきて、エンコードの値で類似度を測ってみます。

今回はコサイン類似度を測ってみて、類似度が高いものを並べて表示してみました。

サンプリングしてきた画像のエンコード値と、他のすべての画像のエンコード値を計算し、コサイン類似度を計算しています。

類似度の高いものを上から3つ取って、大きい画像を類似度と一緒に並べて出してみました。

こうしてみると、割りとうまくいっているように見えます。

まとめ

以上、TensorFlowで自己符号化器の実装を行ってみました。

学習が少しばかり足りていなさそうでしたので、もう少し学習させれば、色だけでなく形も似ているものを抽出してきてくれそうな気がしました。

といっても、画像データすべて確認しているわけではないので、理想的にこれ!って答えがあるわけではないのですが…。

また、エンコードの値であってもなくても、全ての画像データと類似度を測るのは時間がかかるのではないかとも思われるかもしれませんが、一度学習してしまえば、自己符号化器の推論は予想以上に早く、類似度計算も割とすぐにレスポンスを返してくれました。

こういった点から、対話的操作が求められるようなシステムの導入などに利点がありそうな気がしました。

追記(2017-12-16)

同じデータセットで、転移学習による類似度計算も試してみました。

Chainerで転移学習・特徴量抽出して類似度を測ってみた
(adsbygoogle = window.adsbygoogle || ).push({});一応、前回の続編的な感じになります。前回は自己符号化器で画像の画素値を次元圧縮し、得られた特徴量を使って類似度計算を行ってみました。今回は、モデルを一から学習するのではなく、転移学習で得られた特徴量...



 

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です