文本数据增强深度学习训练技巧 文本纠错：Non-word拼写错误词汇预处理：低频词，停用词关键词的提取：基于主题模型假设有M篇文章，K个主题，N个单词，目标：文档-主题分布：M个维度为K的多项式分布主题-单词分布：K个维度为N的多项式分布 依存句法分析短语提取：点互信息 左右邻字熵新词发现：基于点互信息，左（右）邻字熵进行新词挖掘 文本数据增强： 同义词替换 文本回译 学习率调整 梯度调整

attention种类：点积，乘法，加法 bleu计算： precision_list进行几何平均seq2seq attention 命名实体识别：bert+lstm+crf Pointer Network: 全集找子集问题，从encoder里找到最大的Pointer Generator Network：combine language model and Pointer Network 取加和的原因是可能有些词是相同的，比如I love love china。 MultiSource Pointer Network for Product Title:多源数据做标题摘要 CopyN...

https://www.jianshu.com/p/7a9ea6ece2afhttps://ballsandbins.wordpress.com/2014/04/13/distributedparallel-reservoir-sampling/https://blog.csdn.net/anshuai_aw1/article/details/88750673

Generating Hierarchical Explanations on Text classification via Feature Interaction Detection:local explanation model: ignore interactions between words and phraseslime explanation： 单词级别的解释cd explanation：短语级别的解释 HEDGE：关注interaction contribution: 有点类似feature importance building hierarchical explana...

graph embedding面试级别整理https://blog.csdn.net/Dou_Hua_Hua/article/details/108095421考虑网络结构，deepwalk，graphrep, struc2vec, line, node2vec, graphsage考虑结构和其他信息：cene，cane，transnetdl：gcn，sdnegan：graphgan，ane DeepWalk:同质性和结构性Line：定义一阶相似度和二阶相似度Node2vec:节点 u 与其相连的节点 s1、s2、s3、s4 的 embedding 表达应该是接近的，这是同质性相似。节点 u ...

方差和偏差 能否用平方损失作为损失函数 指数族分布 项目1文本分类可以详见左边特征工程 数据不平衡处理方法欠采样： 随机删除：可能会丢失信息在里面 原型生成（PG）：过采样 随机复制：单纯复制容易过拟合 样本构建（SMOTE）： 模型算法MetaCost算法Focal Loss更加关注难分类样本 G-MeanROC曲线：优点：兼顾正例和负例 PR曲线：基本只看正例：纵坐标：precision横坐标：recallUDA回译EDA Jordon RNN和Elman RNNhttps://blog.csdn.net/qq_31375855/article/details/10...

https://blog.csdn.net/anshuai_aw1/article/details/83275299

渗透率计算方法：hk视频怎么做渗透率的，公式问了头条和滴滴实习的东西你在b站做了什么，为什么要来抖音，写算法题xgboost类别变量问题, lightgbm怎么做的, 写算法题字典树强化学习了解多么 pg，dqn，ddpg，ac，ppo为什么要用pg，和value-based什么区别ddpg完整上线流程xgboost二阶导意义，具体二阶导会有哪些变化xgboost分裂函数，xgboost如果一定要实现不可导的损失函数要怎么弄sum pooling和mean pooling会有哪些变化，为什么会有变化adam公式手写，adagrad公式，rmsprop公式variance reduction方法...

Bert及其后继者们https://zhuanlan.zhihu.com/p/68114716AMBerthttps://blog.csdn.net/qq_40199232/article/details/108333383 Transformer Assemble（PART I）https://zhuanlan.zhihu.com/p/104935987Transformer Assemble （PART II）https://zhuanlan.zhihu.com/p/107954547Transformer Assemble （PART III）https://zhuanlan.zhihu...

解题思路：https://leetcode-cn.com/problems/k-th-smallest-in-lexicographical-order/solution/dfsmo-ni-jian-zhi-guo-cheng-by-muyids/ typedef long long LL; class Solution { public: int findKthNumber(int n, int k) { int prefix = 1; k--; while(k>0){ int cnt = getCnt(n...

Time-based Sequence model for personalization and recommendation systemsTSL层TBSM模块其实就是加入第t步和之前部的相似性。

mse为什么不适用于分类https://blog.csdn.net/weixin_41888969/article/details/89450163pg和DQN区别鞍点和局部最小值哪个更多conditioning条件数：条件数刻画了一个函数的如下特性：当函数的输入发生了微小的变化时，函数的输出的变化有多大。

好处 统一inFerence和learning 端到端深度学习 Structure model Learning EM Algorithm for Joint Training 感觉主要好处是训练和inference统一了。

Persona控制emotion控制MAML：初始化参数调整Plug & Play language modelshttps://zhuanlan.zhihu.com/p/95569066