Python文本相似度：TF-IDF与余弦计算方法

想知道如何高效比较两段文本的相似度吗？本文将深入探讨Python中利用TF-IDF与余弦相似度进行文本相似度计算的方法。TF-IDF是一种评估词语在文档重要性的有效技术，结合词频（TF）和逆文档频率（IDF），能准确反映词语的权重。而余弦相似度则通过计算向量夹角的余弦值，直观地衡量文本的相似程度。文章将详细介绍如何使用jieba进行中文分词，利用TfidfVectorizer将文本转化为TF-IDF向量，并通过cosine_similarity函数计算相似度，更有常见问题与注意事项，助你轻松掌握文本相似度计算技巧，提升文本分析效率。

要比较两段文本的相似程度，使用TF-IDF结合余弦相似度是一种常见且有效的方法。TF-IDF用于评估词语在文档中的重要性，由词频（TF）和逆文档频率（IDF）组成；余弦相似度通过计算向量夹角的余弦值衡量相似性，值越接近1表示越相似。实现流程为：1. 使用jieba进行中文分词；2. 利用TfidfVectorizer将文本转为TF-IDF向量；3. 通过cosine_similarity函数计算相似度。注意事项包括：分词工具影响结果准确性、需处理停用词、文本长度差异可通过预处理解决。此外，批量比较多个文本时可一次性计算所有组合的相似度。该方法虽非最先进，但实现简单且效果良好。

要比较两段文本的相似程度，TF-IDF结合余弦相似度是一个常见且有效的方法。它能将文本转化为向量，并通过数学方式衡量它们之间的“距离”或“相似性”。

什么是TF-IDF和余弦相似度？

TF-IDF（Term Frequency-Inverse Document Frequency） 是一种统计方法，用于评估一个词在文档中的重要程度。简单来说：

• TF（词频）：某个词在文档中出现的次数。
• IDF（逆文档频率）：衡量这个词在整个语料库中的普遍重要性，越少见的词IDF越高。

余弦相似度（Cosine Similarity） 则是通过计算两个向量夹角的余弦值来判断它们的相似程度。值越接近1，表示越相似。

所以整个流程大致是：文本 → TF-IDF向量化 → 余弦相似度计算。

怎么用Python实现？

Python有很多现成的库可以完成这项任务，比如 scikit-learn 和 jieba（中文分词）。下面是一个基本流程：

1. 安装必要库

pip install scikit-learn jieba

2. 分词处理（中文）

对于英文可以直接按空格分割，中文需要使用像 jieba 这样的分词工具：

import jieba

text1 = "我喜欢机器学习"
text2 = "我热爱人工智能"

words1 = " ".join(jieba.cut(text1))
words2 = " ".join(jieba.cut(text2))

3. 使用 TfidfVectorizer 转换为向量

from sklearn.feature_extraction.text import TfidfVectorizer

corpus = [words1, words2]

vectorizer = TfidfVectorizer()
tfidf_matrix = vectorizer.fit_transform(corpus)

4. 计算余弦相似度

from sklearn.metrics.pairwise import cosine_similarity

similarity = cosine_similarity(tfidf_matrix[0], tfidf_matrix[1])
print(f"相似度：{similarity[0][0]:.4f}")

常见问题与注意事项

分词对结果影响大

• 中文必须先分词，否则直接当作一个个字处理会严重影响效果。
• 不同的分词工具（如jieba、HanLP）可能会有不同的切分结果，影响最终相似度。

停用词处理

一些无意义的词（如“的”、“了”、“是”）应该被过滤掉。可以用停用词表提升准确性：

vectorizer = TfidfVectorizer(stop_words=your_stopword_list)

文本长度差异太大怎么办？

如果两段文本长度相差悬殊，可能会影响TF-IDF的分布。可以考虑先做预处理，比如截断或分块比较。

小技巧：批量比较多个文本

如果你有多个文本需要比较，可以把所有文本都转换成TF-IDF向量，然后一次性计算所有组合的余弦相似度：

from sklearn.metrics.pairwise import cosine_similarity

all_texts = [text1, text2, text3]  # 更多文本
corpus = [" ".join(jieba.cut(t)) for t in all_texts]

tfidf_matrix = vectorizer.fit_transform(corpus)
similarities = cosine_similarity(tfidf_matrix)

# similarities[i][j] 就是第i篇和第j篇的相似度

基本上就这些。TF-IDF + 余弦相似度虽然不是最先进的方法，但在很多实际场景下已经够用了，而且实现起来不难。只要注意分词和停用词这些细节，就能得到不错的匹配结果。

到这里，我们也就讲完了《Python文本相似度：TF-IDF与余弦计算方法》的内容了。个人认为，基础知识的学习和巩固，是为了更好的将其运用到项目中，欢迎关注golang学习网公众号，带你了解更多关于的知识点！