背景介绍

建立这个仓库是为了梳理自然语言处理(NLP)各个方面的知识，提升自己的核心竞争力。我觉得NLP是一个值得深耕的领域，所以希望可以不停的提升自己的段位！

深度学习自然语言处理

1.Transformer/Bert

Transformer 相关知识	进度
史上最全Transformer面试题	已完成并上传
答案解析(1)-史上最全Transformer面试题	已经完成并上传
Pytorch代码分析--如何让Bert在finetune小数据集时更“稳”一点	已经完成并上传
解决老大难问题-如何一行代码带你随心所欲重新初始化bert的某些参数(附Pytorch代码详细解读)	已经完成并上传
3分钟从零解读Transformer的Encoder	已经完成并上传
原版Transformer的位置编码究竟有没有包含相对位置信息	已经完成并上传
BN踩坑记--谈一下Batch Normalization的优缺点和适用场景	已经完成并上传
谈一下相对位置编码	已经完成并上传
NLP任务中-layer-norm比BatchNorm好在哪里	已经完成并上传
谈一谈Decoder模块	已经完成并上传
Transformer的并行化	已经完成并上传
Transformer全部文章合辑	已经完成并上传

2.词向量-word embedding

• Word2vec

  Word2vec相关知识	进度
  史上最全词向量面试题-Word2vec/fasttext/glove/Elmo	已经完成并上传
  Word2vec各种细节的详细解读
  基于自己语料训练词向量的各种细节和经验

• Fasttext

  Fasttext相关知识	进度
  Fasttext源码详细解读(C++版)
  Fasttext各种细节的详细解读

• Glove

  Glove相关知识	进度
  GLove细节详细解读
  Glove训练词向量代码及解读

3 句向量-sentence embedding

无监督模式：

• 统计词袋模型表示句子向量

  统计词袋模型相关知识	进度
  One-hot/TF-IDF

• 词向量词袋模型

  词向量词袋模型相关知识	进度
  平均/tf-idf 词向量(word2vec/glove)

• Doc2vec

• SIF

  SIF 相关知识	进度
  SIF论文详细解读
  SIF在中文文本上代码及效果解读

• WMD

WMD的简单理解(不涉及优化加速)

• Skip-Thought vecotrs

• Quick-Thought Vectors

• Power Mean 均值模型

有监督：

• Cove

• InferSent

• Bert

  Bert表示句向量 相关知识	进度
  Bert表示句向量效果详细解读

文本相似度

文本相似度 相关知识	进度
基本相似度模型介绍

4. 机器翻译

机器翻译相关知识	进度
OpenNMT源代码解读(pytorch版)
手撕Seq2seq-attention机器翻译代码
基于seq2seq机器翻译的各种优化策略解读
subword相关论文详细解读
ConS2S论文详细解读
GNMT论文详细解读
Seq2seq过程图画版详细解读

5. 命名体识别

命名体识别相关资源	进度
HMM/CRF 详细解读
BiLstm-CRF详细解读
手撕BiLSTM-CRF代码
词典匹配命名体识别详细解读
命名体识别最新进展

6. 文本分类

文本分类相关知识	进度
TextCNN论文详细解读
手撕 TextCNN/Fasttext/Albert 文本分类
TextCNN/Fasttext/Albert 实际工作应用经验
多标签文本分类
文本分类各种优化策略和方法

7. 关键词提取

关键词提取相关知识	进度
TFIDF模型提取关键词解读
TextRank提取关键词
各种dirty工作技巧

搜索

搜索相关知识	进度
各种关于搜索的好文章资源总结-看到比较不错的就放上来

推荐系统

推荐系统相关知识	进度
各种关于推荐的好文章资源总结-看到比较不错的就放上来

模型部署

1.Kafka

2.Docker

3.Elasticsearch

4.Flask+nginx

5. Grpc

6. TensorRT

数据结构

主要是刷leetcode，和剑指offer，刷题不在多，在思路，在质量