基于 PyTorch 从零实现自然语言处理经典模型的开源库 ToyNLP. 实现了 2003 年至 2018 年间共计 8 个经典的 NLP 模型：NNLM, Word2Vec, Seq2Seq, Attention, FastText, Transformer, BERT, GPT.
记录 BERT 论文的复现过程与经验教训。这是我一直想要找的一篇博客，但我一直没找到，于是决定自己来写一篇。
