医疗知识图谱工程研究记录

2024-08-28 04:52

本文主要是介绍医疗知识图谱工程研究记录,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

医疗诊断知识图谱

本项目是基于知识图谱的知识问答项目。过程为对问句进行解析,形成若干三元组及相关的操作条件,转换为查询语句,查询数据库返回结果。

KBQA方式的问答包括意图分析、标签(实体、操作符)识别、条件体与目标体识别、查询语句生成等几个关键步骤。

https://mp.weixin.qq.com/s/F-_qyHTsPtlrK77JgWidoA

1.意图分析

1)基于词典规则的意图分类

收集一下能明显区分问题类型的关键词集合,对输入的问句进行词语匹配或者设定规则。

如下医疗问题的分类,根据这些关键词分不同类型

image-20220908110817195

2)基于学习模型的意图分类

通过预先对问句进行意图标注,形成一定规模的标注数据集,然后通过构造分类器进行训练,然后得到分类结果。可以用CNN或者LSTM做意图分类。分类包含单分类,也可能包含多标签分类。例如:我今天为啥会头痛,该怎么办,包含“发病原因 和治疗措施 两个意图,需要多标签分类任务来处理。

一 工程1

/work/myCode/KBQA/MedicalKG/QASystemOnMedicalKG-master

源代码来源: https://github.com/liuhuanyong/QASystemOnMedicalKG/tree/master/data

1.1 配置
python3  (mac本地,conda activate python3)
py2neo
pyahocorasick  
1.2 用法
step0: neo4j start (启动neo4j)
step1:nohup python build_medicalgraph.py   (将数据导入neo4j图数据库中,大约需要几小时)
step2:python chatbot_graph.py (启动知识图谱诊断应用)

数据库情况

image-20220920113639717

问答展示:

image-20220920113705105

代码结构

image-20220711170144146

1.3 主要内容

1.对用户输入的query,做问题分类,分类主要靠关键词匹配,匹配到症状,原因,饮食,药物,预防。。等

image-20220711172146744

2.对输入的query,根据问题关键词,将query转为查询语句sql

image-20220711172225999

3.根据查询语句,从图数据库中查询出答案,并调用回复模板来返回。

image-20220711172342691

image-20220711172355927

1.4 存在的问题

1,不支持多轮问答,每轮问答都需要写明问的实体,“感冒怎么治疗” “感冒是什么,怎么治疗” 这种就不行。

2.实体链接不丰富,“头痛”可以支持,“头疼”就不行。

3.代码里写入了太多数据方面的定义,不好扩展到其他领域。

4.不能解决复合问句

二 工程2

/work/myCode/KBQA/MedicalKG/KBQA-for-Diagnosis-main
2.1 源码
https://github.com/wangle1218/KBQA-for-Diagnosis
2.2 用法:
step0: neo4j start (启动neo4j)
step1:nohup python build_kg/build_kg_utils.py    (将数据导入neo4j图数据库中,大约需要几小时)
step2:python start_app.py (启动知识图谱诊断应用)
2.3 主要内容
  1. 将json格式的数据导入图数据库中,此处数据来源就是上一个工程,medical.json

    build_kg/build_kg_utils.py 导入数据脚本
    ./graph_data/medical.json 数据路径
    
  2. 使用分类模型,来判断输入query是闲聊类问题,还是医疗诊断问题。分类模型由sklearn 库中的逻辑回归和gdbt实现,两种模型的预测结果概率值做平均,以此来区分是否是闲聊,以及闲聊的类别

    代码:nlu/sklearn_Classification
    模型训练:train.py 
    模型预测:clf_model.py
    函数:clf_model.predict(text)/nlu/sklearn_Classification/data/intent_recog_data.txt 中定义了闲聊类别:greet,goodbye,accept等
    
  3. 对诊断类问题,由意图识别模型判断是哪种意图。模型由bert训练

    代码:nlu/bert_intent_recognition
    模型训练:train.py
    模型构建:bert_model.py
    模型预测服务:app.py  基于flask的服务,可以单独运行
    意图类别:label中,细分为:定义,病因,预防,传染性,治愈率,治疗时间等。
    

    意图识别是先搭建flask服务,再从端口获取意图结果

    image-20220711175514706

4.对诊断类问题,获取对应的slot

image-20220920110331743

image-20220920110410067

需要提前标注数据,训练slot模型。模型用bilstm+crf来训练

代码:knowledge_extraction/bilstm_crf
基于knowledge_extraction/bilstm_crf的slot模型训练
模型训练:train.py
服务:app.py
slot标签定义:knowledge_extraction/bilstm_crf/checkpoint/diseases.json

5.对诊断类问题,根据意图和slot,获取答案。此处根据意图置信度做了确认和拒绝回答的处理。

当意图置信度达到一定阈值时(>=0.8),可以查询该意图下的答案
当意图置信度较低时(0.4~0.8),按最高置信度的意图查找答案,询问用户是否问的这个问题
当意图置信度更低时(<0.4),拒绝回答

6.如果是确定的问题,根据slot获取对应的cql语句,然后进行数据库查询,返回答案

cql语句模板定义:config.py

image-20220711180908511

​ 根据组织好的cql语句,在数据库中查询

image-20220711180957232

image-20220711181031243

2.4 其他目录
entity_normalization  实体对齐目录,定义了同一病症不同的说法
faiss_index   一种检索方法,包含数据
knowledge_extraction 知识抽取目录,包含了bert服务部署,bilstm-crf做slot训练,CasRel (??)
nlu/slotgate_slu 基于slotgate的slot训练。包含数据
doc :一些论文介绍
2.5 一些报错:
1.错误1

image-20220712165133106

解决:降低keras的版本

pip install keras==2.3.1
2.错误2

image-20240827143406284

解决

pip install 'h5py<3.0.0' -i https://pypi.tuna.tsinghua.edu.cn/simple
3.错误3:

image-20240827143345230

解决:

该报错的文件中import部分,
import keras  改为  import tensorflow.keras
4.报错4

image-20240827143259049

启动知识图谱服务时候报错,端口不支持

原因分析:

使用python连接neo4j数据库时出现了该问题, 原因是py2neo的版本太高。

解决:

下载低版本(如4.3.0)

pip install py2neo==4.3.0 -i https://pypi.douban.com/simple
5.报错5

image-20240827143318681

原因:numpy版本较老,版本不匹配。

解决:

pip install numpy --upgrade --user

三 其他医疗知识图谱构建结构图

3.1 糖尿病知识图谱

数据:https://tianchi.aliyun.com/dataset/dataDetail?dataId=88836

比赛: https://tianchi.aliyun.com/forum?spm=5176.21852664.0.0.44f867963jprX7#raceId=231687

image-20220907152014327

image-20220907152025749

3.2 中文医疗知识图谱 https://tianchi.aliyun.com/dataset/dataDetail?spm=5176.12282016.0.0.681c6d92qv5NDw&dataId=954143.3 医疗知识图谱各个实体解析 https://schema.omaha.org.cn/class/ClinicalFinding  汇知医学知识图谱数据 http://wiki.omaha.org.cn/pages/viewpage.action?pageId=31424961病人事件图谱 https://luckyxuli.github.io/peg/#/**运维行车设备知识图谱 http://openkg.cn/dataset/qm-data** 中药说明书实体识别数据集 https://tianchi.aliyun.com/dataset/dataDetail?dataId=86819中医文献问题生成数据集 http://openkg.cn/dataset/tcm-qg数控机床故障诊断知识图谱 https://github.com/wangrenyisme/Shukongdashi在线故障诊断平台比赛 http://www.cnsoftbei.com/plus/view.php?aid=353基于故障诊断的问答系统 https://github.com/LiuYuhanMIO/QA机械故障数据集 https://github.com/hustcxl/Rotating-machine-fault-data-set

这篇关于医疗知识图谱工程研究记录的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1113785

相关文章

apache的commons-pool2原理与使用实践记录

《apache的commons-pool2原理与使用实践记录》ApacheCommonsPool2是一个高效的对象池化框架,通过复用昂贵资源(如数据库连接、线程、网络连接)优化系统性能,这篇文章主... 目录一、核心原理与组件二、使用步骤详解(以数据库连接池为例)三、高级配置与优化四、典型应用场景五、注意事

SpringBoot实现文件记录日志及日志文件自动归档和压缩

《SpringBoot实现文件记录日志及日志文件自动归档和压缩》Logback是Java日志框架,通过Logger收集日志并经Appender输出至控制台、文件等,SpringBoot配置logbac... 目录1、什么是Logback2、SpringBoot实现文件记录日志,日志文件自动归档和压缩2.1、

qtcreater配置opencv遇到的坑及实践记录

《qtcreater配置opencv遇到的坑及实践记录》我配置opencv不管是按照网上的教程还是deepseek发现都有些问题,下面是我的配置方法以及实践成功的心得,感兴趣的朋友跟随小编一起看看吧... 目录电脑环境下载环境变量配置qmake加入外部库测试配置我配置opencv不管是按照网上的教程还是de

使用nohup和--remove-source-files在后台运行rsync并记录日志方式

《使用nohup和--remove-source-files在后台运行rsync并记录日志方式》:本文主要介绍使用nohup和--remove-source-files在后台运行rsync并记录日... 目录一、什么是 --remove-source-files?二、示例命令三、命令详解1. nohup2.

MyBatisX逆向工程的实现示例

《MyBatisX逆向工程的实现示例》本文主要介绍了MyBatisX逆向工程的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录逆向工程准备好数据库、表安装MyBATisX插件项目连接数据库引入依赖pom.XML生成实体类、

一文详解Java异常处理你都了解哪些知识

《一文详解Java异常处理你都了解哪些知识》:本文主要介绍Java异常处理的相关资料,包括异常的分类、捕获和处理异常的语法、常见的异常类型以及自定义异常的实现,文中通过代码介绍的非常详细,需要的朋... 目录前言一、什么是异常二、异常的分类2.1 受检异常2.2 非受检异常三、异常处理的语法3.1 try-

Java使用SLF4J记录不同级别日志的示例详解

《Java使用SLF4J记录不同级别日志的示例详解》SLF4J是一个简单的日志门面,它允许在运行时选择不同的日志实现,这篇文章主要为大家详细介绍了如何使用SLF4J记录不同级别日志,感兴趣的可以了解下... 目录一、SLF4J简介二、添加依赖三、配置Logback四、记录不同级别的日志五、总结一、SLF4J

在Spring Boot中浅尝内存泄漏的实战记录

《在SpringBoot中浅尝内存泄漏的实战记录》本文给大家分享在SpringBoot中浅尝内存泄漏的实战记录,结合实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录使用静态集合持有对象引用,阻止GC回收关键点:可执行代码:验证:1,运行程序(启动时添加JVM参数限制堆大小):2,访问 htt

MySQL 中查询 VARCHAR 类型 JSON 数据的问题记录

《MySQL中查询VARCHAR类型JSON数据的问题记录》在数据库设计中,有时我们会将JSON数据存储在VARCHAR或TEXT类型字段中,本文将详细介绍如何在MySQL中有效查询存储为V... 目录一、问题背景二、mysql jsON 函数2.1 常用 JSON 函数三、查询示例3.1 基本查询3.2

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢?我尝试一种更为智能的方法:P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验,