跳字专题

Word2Vec-------skip-gram跳字模型

1.什么是Skip-gram算法 Skip-gram算法就是在给出目标单词(中心单词)的情况下,预测它的上下文单词(除中心单词外窗口内的其他单词,这里的窗口大小是2,也就是左右各两个单词) 如下图 图中love是目标单词,其他事上下文单词,分别对其上下文中出现的概率进行预测,p(you|love),p(do|love),p(),等等 2.定义 在这里设定一些定义 d : 为词向量的维度