基于Python的自然语言处理系列（1）：Word2Vec

本文主要是介绍基于Python的自然语言处理系列（1）：Word2Vec，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

在自然语言处理（NLP）领域，Word2Vec是一种广泛使用的词向量表示方法。它通过将词汇映射到连续的向量空间中，使得计算机可以更好地理解和处理文本数据。本系列的第一篇文章将详细介绍Word2Vec模型的原理、实现方法及应用场景。

1. Word2Vec 原理

Word2Vec模型由Google的Tomas Mikolov等人在2013年提出，主要有两种训练方式：Skip-gram和Continuous Bag of Words (CBOW)。在本篇文章中，我们重点介绍Skip-gram方法。

1.1 Skip-gram 模型

Skip-gram模型的目标是通过给定的中心词预测其上下文词。具体来说，给定一个中心词（例如“apple”），Skip-gram模型尝试预测该中心词周围的上下文词（例如“banana”和“fruit”）。这种方法特别适合于大规模语料库，因为它可以有效地从大规模数据中学习词向量。

1.2 负采样

在训练过程中，为了提高计算效率，Skip-gram模型通常使用负采样技术。负采样通过从词汇表中随机选择一些词作为负样本，来减少计算量。这种方法在训练过程中大大减少了计算复杂度，提高了训练速度。

2. Word2Vec 实现

接下来，我们通过代码示例演示如何使用Python实现Word2Vec模型的Skip-gram方法。

2.1 定义简单数据集

首先，我们定义一个简单的语料库，以帮助理解Word2Vec的基本概念。

import numpy as np
import torch
import torch.nn as nn
import torch.optim as optim
import matplotlib.pyplot as plt# 定义语料库
corpus = ["apple banana fruit", "banana apple fruit", "banana fruit apple","dog cat animal", "cat animal dog", "cat dog animal"]corpus = [sent.split(" ") for sent in corpus]
print(corpus)

2.2 数据预处理

我们将语料库中的词汇映射到数字索引，并处理未知词汇。

flatten = lambda l: [item for sublist in l for item in sublist]
vocab = list(set(flatten(corpus)))
print(vocab)word2index = {w: i for i, w in enumerate(vocab)}
print(word2index)voc_size = len(vocab)
print(voc_size)vocab.append('<UNK>')
word2index['<UNK>'] = 0
index2word = {v: k for k, v in word2index.items()}
print(vocab)
print(word2index)

2.3 准备训练数据

我们将数据转换为Skip-gram形式，生成训练数据。

def random_batch(batch_size, word_sequence):# 生成Skip-gram数据skip_grams = []for sent in corpus:for i in range(1, len(sent) - 1):target = word2index[sent[i]]context = [word2index[sent[i - 1]], word2index[sent[i + 1]]]for w in context:skip_grams.append((target, w))return skip_grams