N-Gram原码分析

2024-03-14 21:58
文章标签 分析 gram 原码

本文主要是介绍N-Gram原码分析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

N表示词的长度,Gram表示按长度N切分原词得到的词段

1.N最小取值规则,如果原词的长度大于5,则最小值为3,如果原词的长度等于5,则最小值为2,否则最小值为1.

2.N最大值取值规则,如果原词长度大于5,则最大值为4,原词长度等于5,则最大值为3,否则最大值为2.

原码如下:

  //获取最小值private static int getMin(int l) {if (l > 5) {return 3;}if (l == 5) {return 2;}return 1;}//获取最大值private static int getMax(int l) {if (l > 5) {return 4;}if (l == 5) {return 3;}return 2;}

  例如:"中国人民在会堂",原词长度为7,最小值为3,最大值为4

3.获取grams,原码如下:

      

//ng为原词长度最小值与最大值之间的值for (int ng = getMin(lengthWord); ng <= getMax(lengthWord); ng++) {key = "gram" + ng; // form key//获取gramsgrams = formGrams(word, ng); // form word into ngrams (allow dups too)if (grams.length == 0) {continue; // hmm}if (bStart > 0) { // should we boost prefixes?add(query, "start" + ng, grams[0], bStart); // matches start of word}if (bEnd > 0) { // should we boost suffixesadd(query, "end" + ng, grams[grams.length - 1], bEnd); // matches end of word}for (int i = 0; i < grams.length; i++) {add(query, key, grams[i]);}}

    

    

 //此方法分割原词,组成gramprivate static String[] formGrams(String text, int ng) {//原词长度int len = text.length();//字符串数组(长度为原词长度减去N的长度再加1),ng为最小值到最大值之间的数String[] res = new String[len - ng + 1];for (int i = 0; i < len - ng + 1; i++) {//截取原词()res[i] = text.substring(i, i + ng);}return res;}

      将"中国人民大会堂"进行切分,分割出来的grams为[中国人, 国人民, 人民大, 民大会, 大会堂]

      [中国人民, 国人民大, 人民大会, 民大会堂],将"华贸中心"进行切分,分割出来的grams为

      [华, 贸, 中, 心],[华贸, 贸中, 中心]

这篇关于N-Gram原码分析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/809836

相关文章

python使用Akshare与Streamlit实现股票估值分析教程(图文代码)

《python使用Akshare与Streamlit实现股票估值分析教程(图文代码)》入职测试中的一道题,要求:从Akshare下载某一个股票近十年的财务报表包括,资产负债表,利润表,现金流量表,保存... 目录一、前言二、核心知识点梳理1、Akshare数据获取2、Pandas数据处理3、Matplotl

python panda库从基础到高级操作分析

《pythonpanda库从基础到高级操作分析》本文介绍了Pandas库的核心功能,包括处理结构化数据的Series和DataFrame数据结构,数据读取、清洗、分组聚合、合并、时间序列分析及大数据... 目录1. Pandas 概述2. 基本操作:数据读取与查看3. 索引操作:精准定位数据4. Group

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致

深度解析Nginx日志分析与499状态码问题解决

《深度解析Nginx日志分析与499状态码问题解决》在Web服务器运维和性能优化过程中,Nginx日志是排查问题的重要依据,本文将围绕Nginx日志分析、499状态码的成因、排查方法及解决方案展开讨论... 目录前言1. Nginx日志基础1.1 Nginx日志存放位置1.2 Nginx日志格式2. 499

Olingo分析和实践之EDM 辅助序列化器详解(最佳实践)

《Olingo分析和实践之EDM辅助序列化器详解(最佳实践)》EDM辅助序列化器是ApacheOlingoOData框架中无需完整EDM模型的智能序列化工具,通过运行时类型推断实现灵活数据转换,适用... 目录概念与定义什么是 EDM 辅助序列化器?核心概念设计目标核心特点1. EDM 信息可选2. 智能类

Olingo分析和实践之OData框架核心组件初始化(关键步骤)

《Olingo分析和实践之OData框架核心组件初始化(关键步骤)》ODataSpringBootService通过初始化OData实例和服务元数据,构建框架核心能力与数据模型结构,实现序列化、URI... 目录概述第一步:OData实例创建1.1 OData.newInstance() 详细分析1.1.1

Olingo分析和实践之ODataImpl详细分析(重要方法详解)

《Olingo分析和实践之ODataImpl详细分析(重要方法详解)》ODataImpl.java是ApacheOlingoOData框架的核心工厂类,负责创建序列化器、反序列化器和处理器等组件,... 目录概述主要职责类结构与继承关系核心功能分析1. 序列化器管理2. 反序列化器管理3. 处理器管理重要方

SpringBoot中六种批量更新Mysql的方式效率对比分析

《SpringBoot中六种批量更新Mysql的方式效率对比分析》文章比较了MySQL大数据量批量更新的多种方法,指出REPLACEINTO和ONDUPLICATEKEY效率最高但存在数据风险,MyB... 目录效率比较测试结构数据库初始化测试数据批量修改方案第一种 for第二种 case when第三种

解决1093 - You can‘t specify target table报错问题及原因分析

《解决1093-Youcan‘tspecifytargettable报错问题及原因分析》MySQL1093错误因UPDATE/DELETE语句的FROM子句直接引用目标表或嵌套子查询导致,... 目录报js错原因分析具体原因解决办法方法一:使用临时表方法二:使用JOIN方法三:使用EXISTS示例总结报错原