word2vecによる文章表現 / ディープラーニング所感

tl;dr Kerasを用いてDeepLearningをした上で得られた知見や、感じたことについて適当に列挙する。 Kerasについて sharply.hatenablog.com 以前に書いた。依然としてKerasはオススメである。 Optimizerについて ExampleではしばしばSGDを使っているが、上の図のようにSGDでは局所解に陥って動かなくなることがある。逆にAda…