使用tf*idf实现对文档集合的检索

2024-06-23 06:58

本文主要是介绍使用tf*idf实现对文档集合的检索,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

步骤:

  1. 读取三篇文档1.txt,2.txt,3.txt,里边的内容分别为“this is php”,“this is html html”,“this is java”

  2. 分词,并统计词频tf

  3. 计算文档频率df

  4. 计算每篇文档的特征向量

  5. 计算搜索词与文档的夹角余弦值

    <?php$_txts = array('1.txt','2.txt','3.txt');$_len = count($_txts);for ($i = 0;$i < $_len;$i++){$_contents[] = file_get_contents($_txts[$i]);   //读取内容}for ($i = 0;$i < $_len;$i++){//分词$_words[] = explode(' ',trim($_contents[$i]));foreach ($_words[$i] as $_key=>$_value){$_value = trim($_value);$_value = preg_replace('/[.|,|(|)|-|;]/','',$_value);$_words[$i][$_key]=strtolower($_value);}//统计文档所有词的长度,一般计算tf需要除以这个值,为了简便,本次试验省去这步//$_words_count[]=count($_words[$i]);//词频tf$_tf[] = array_count_values($_words[$i]);//去重$_words[$i]= array_unique($_words[$i]);} //合并$_words_com = array_merge($_words[0],$_words[1],$_words[2]);//文档频率$_df = array_count_values($_words_com);//特征向量for ($i = 0;$i < $_len;$i++){//初始化,与文档频率的维度相同$_vsm[$i] = $_df;//把每个维度的值设置为0foreach($_vsm[$i] as $_key=>$_value){$_vsm[$i][$_key] = 0;}for ($j=0;$j<count($_words[$i]);$j++){if (in_array($_words[$i][$j],$_words_com)){$_vsm[$i][($_words[$i][$j])] = ($_tf[$i][($_words[$i][$j])])*(log($_len/$_df[($_words[$i][$j])]));} }} for($i = 0;$i < count($_vsm); $i++){echo '第'.($i+1).'篇文档的特征向量: ('. implode(",",$_vsm[$i]).')<br/>';}//测试$_query = 'java';$_vsm_que = $_df;foreach($_vsm_que as $_key=>$_value){$_vsm_que[$_key] = 0;}if (in_array($_query,$_vsm_que)){$_vsm_que[$_query] = 1;}for ($i = 0; $i < count($_vsm); $i++){foreach($_vsm_que as $_key=>$_value){$_sim[$i] += ($_vsm[$i][$_key]) * ($_vsm_que[$_key]);$_w1 += pow($_vsm_que[$_key],2);$_w2 += pow($_vsm[$i][$_key],2);}//求夹角余弦值,相似度计算$_cos[$i] = $_sim[$i]/(sqrt($_w1)*sqrt($_w2));echo '<br/>';echo '第'.($i+1).'篇文档的相似度:'.$_cos[$i];}arsort($_cos);foreach($_cos as $_key=>$_value){echo '<br/><br/>';echo '最符合的结果为第'.($_key+1).'篇文档';break;}
    ?>

    在浏览器运行的结果:


    第1篇文档的特征向量: (0,0,1.09861228867,0,0)
    第2篇文档的特征向量: (0,0,0,2.19722457734,0)
    第3篇文档的特征向量: (0,0,0,0,1.09861228867)

    第1篇文档的相似度:0
    第2篇文档的相似度:0
    第3篇文档的相似度:0.235702260396

    最符合的结果为第3篇文档


这篇关于使用tf*idf实现对文档集合的检索的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1086452

相关文章

C++中零拷贝的多种实现方式

《C++中零拷贝的多种实现方式》本文主要介绍了C++中零拷贝的实现示例,旨在在减少数据在内存中的不必要复制,从而提高程序性能、降低内存使用并减少CPU消耗,零拷贝技术通过多种方式实现,下面就来了解一下... 目录一、C++中零拷贝技术的核心概念二、std::string_view 简介三、std::stri

Python常用命令提示符使用方法详解

《Python常用命令提示符使用方法详解》在学习python的过程中,我们需要用到命令提示符(CMD)进行环境的配置,:本文主要介绍Python常用命令提示符使用方法的相关资料,文中通过代码介绍的... 目录一、python环境基础命令【Windows】1、检查Python是否安装2、 查看Python的安

C++高效内存池实现减少动态分配开销的解决方案

《C++高效内存池实现减少动态分配开销的解决方案》C++动态内存分配存在系统调用开销、碎片化和锁竞争等性能问题,内存池通过预分配、分块管理和缓存复用解决这些问题,下面就来了解一下... 目录一、C++内存分配的性能挑战二、内存池技术的核心原理三、主流内存池实现:TCMalloc与Jemalloc1. TCM

OpenCV实现实时颜色检测的示例

《OpenCV实现实时颜色检测的示例》本文主要介绍了OpenCV实现实时颜色检测的示例,通过HSV色彩空间转换和色调范围判断实现红黄绿蓝颜色检测,包含视频捕捉、区域标记、颜色分析等功能,具有一定的参考... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.

Python中help()和dir()函数的使用

《Python中help()和dir()函数的使用》我们经常需要查看某个对象(如模块、类、函数等)的属性和方法,Python提供了两个内置函数help()和dir(),它们可以帮助我们快速了解代... 目录1. 引言2. help() 函数2.1 作用2.2 使用方法2.3 示例(1) 查看内置函数的帮助(

Linux脚本(shell)的使用方式

《Linux脚本(shell)的使用方式》:本文主要介绍Linux脚本(shell)的使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录概述语法详解数学运算表达式Shell变量变量分类环境变量Shell内部变量自定义变量:定义、赋值自定义变量:引用、修改、删

Python实现精准提取 PDF中的文本,表格与图片

《Python实现精准提取PDF中的文本,表格与图片》在实际的系统开发中,处理PDF文件不仅限于读取整页文本,还有提取文档中的表格数据,图片或特定区域的内容,下面我们来看看如何使用Python实... 目录安装 python 库提取 PDF 文本内容:获取整页文本与指定区域内容获取页面上的所有文本内容获取

基于Python实现一个Windows Tree命令工具

《基于Python实现一个WindowsTree命令工具》今天想要在Windows平台的CMD命令终端窗口中使用像Linux下的tree命令,打印一下目录结构层级树,然而还真有tree命令,但是发现... 目录引言实现代码使用说明可用选项示例用法功能特点添加到环境变量方法一:创建批处理文件并添加到PATH1

Java使用HttpClient实现图片下载与本地保存功能

《Java使用HttpClient实现图片下载与本地保存功能》在当今数字化时代,网络资源的获取与处理已成为软件开发中的常见需求,其中,图片作为网络上最常见的资源之一,其下载与保存功能在许多应用场景中都... 目录引言一、Apache HttpClient简介二、技术栈与环境准备三、实现图片下载与保存功能1.