B'zの歌詞について、dov2vecによる類似検索と、感情分析を行う

こんにちは、tktです。

この記事はチャットボット Advent Calendar 2016の23日目の記事です。
http://qiita.com/advent-calendar/2016/chatbot

チャットボットを立ち上げる部分は皆さんが書いてくださっているので、
私は言語理解の部分について書いてみたいと思います。

お題は「その時の気分に合わせた歌詞を返してくれるBot」です。

入力テキストを理解し、それとよく似たシチュエーション・意味の歌詞をレスポンスするシステムを

1. 入力テキストに類似する歌詞をdov2vecで探す
2. 入力テキストと類似歌詞を感情分析し、結果を照合する

という、2段構えの仕組みで作ってみたいと思います。
では参りましょう。

TensorFlowでニューラルネットワーク － MLP（Multi Layer Perceptron）

　TensorFlow でニューラルネットワーク（MLP）を作成したところ、MNISTデータセットで約98%の精度がでましたので、紹介します。

概要

TensorFlow は、TheanoやChainerのように計算グラフを定義・構築し、実行するという素敵な仕組みを持っています。なにより、これらに共通する仕組みである自動微分がすばらしい。
　詳細は、TensorFlow の White Paper に譲りますが、個人的には、Theanoよりもわかりやすい印象を受けています。　一方で、TensorFlow は、Chainer に比べると、基本的なニューラルネットワーク（MLP）を構築するのにも、手間がかかる印象です。そこで、TensorFlowを使ってライブラリ風に作成したMLPモジュールを、実行方法含め、紹介したいと思います。