rnnlm代码分析

这几天分析了一下rnnlm-0.3e的代码,做了一点点笔记,很多细节自己还没搞清楚,写的也非常粗略。因为懒得贴过来排版了,直接share一下evernote上的链接吧,请大家多多指正!

为像我这样的初学者了解rnnlm所需要的一些预备知识,sigmod和softmax的cost function和derivative,如何展开rnn,以及如何更新rnn的weights。

2 thoughts on “rnnlm代码分析

  1. 用RNNLM训练了个语言模型,结果连里面的数字代表什么意思都没搞懂,和常用的SRILM等完全不一样,请问有没有介绍 RNNLM Toolkit的资料

Leave a Reply

Your email address will not be published. Required fields are marked *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

To submit your comment, click the image below where it asks you to...
Clickcha - The One-Click Captcha