CN107845422A - 一种基于多模态线索融合的远程会诊会话理解与摘要方法 - Google Patents

一种基于多模态线索融合的远程会诊会话理解与摘要方法 Download PDF

Info

Publication number
CN107845422A
CN107845422A CN201711178650.5A CN201711178650A CN107845422A CN 107845422 A CN107845422 A CN 107845422A CN 201711178650 A CN201711178650 A CN 201711178650A CN 107845422 A CN107845422 A CN 107845422A
Authority
CN
China
Prior art keywords
session
module
expert
doctor
clue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711178650.5A
Other languages
English (en)
Inventor
赵杰
翟运开
陈昊天
孙东旭
季竞
陈保站
王琳琳
马倩倩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
First Affiliated Hospital of Zhengzhou University
Original Assignee
First Affiliated Hospital of Zhengzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by First Affiliated Hospital of Zhengzhou University filed Critical First Affiliated Hospital of Zhengzhou University
Priority to CN201711178650.5A priority Critical patent/CN107845422A/zh
Publication of CN107845422A publication Critical patent/CN107845422A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

本发明公开了一种基于多模态线索融合的远程会诊会话理解与摘要方法,属于远程医疗技术领域,建立远程视频会议***和中心服务器,远程视频会议***与中心服务器通过网线通信;在中心服务器中建立语音识别模块、图像识别模块、会话结构分析模块、摘要提取模块、未登录术语核对模块和存储库模块;将远程会议记录的音频和视频信息传输至中心服务器;中心服务器运用语音识别模块对多人会话内容和身份进行识别,通过图像识别模块,将多维度图像信息与语音信息在时间维度建立关联,用会话分析模块对会话文本进行结构分析,并通过摘要提取模块转化为结构化文摘,最后用存储库模块进行知识图谱更新,提升了远程会诊会话理解和摘要的准确性。

Description

一种基于多模态线索融合的远程会诊会话理解与摘要方法
技术领域
本发明属于远程医疗技术领域。
背景技术
目前会诊的电子病历一般由医生录入,由于录入过程没有遵循统一的规范,同一医学概念描述不一致,存在冗余甚至前后矛盾的问题,相似的表述在不同上下文中也存在歧义。基于模板的录入方式可以在旧病历上利用复制粘贴高效修改,但会导致文本重复内容多和信息不一致的问题。因而基于计算机复制的会诊病历自动生成***是病历输入的新趋势。而远程会诊记录的生成不同于普通会诊记录,由于时空受限,多人口语对话,信息掌握程度差异,问题复杂等,自动记录的生成存在诸多困难。
发明内容
本发明的目的是提供一种基于多模态线索融合的远程会诊会话理解与摘要方法,提升了远程会诊会话理解和摘要的准确性。
为实现上述目的,本发明采用以下技术方案:
一种基于多模态线索融合的远程会诊会话理解与摘要方法,包括如下步骤:
步骤1:建立远程视频会议***和中心服务器,远程视频会议***与中心服务器通过网线通信;专家、医生和患者分别在远程视频会议***中注册身份信息和语音信息;所述语音信息为声纹信息;
步骤2:在中心服务器中建立语音识别模块、图像识别模块、会话结构分析模块、摘要提取模块、未登录术语核对模块和存储库模块;
步骤3:远程视频会议***记录医生、专家和病人之间的多人会话,并将多人会话传输给中心服务器,中心服务器通过语音识别模块将多人会话转变成文本形式,生成多人会话文本;语音识别模块根据会话人的语音信息来识别其身份信息,并在多人会话文本中以话轮为单位标记相应的会话人的身份信息;语音识别模块识别话语的语调和重音的程度,并基于韵律结构为文本标记相应的语调和重音程度值;所述多人会话包括音频和视频信息;
步骤4:会话结构分析模块对多人会话文本进行分析,包括如下步骤:
步骤A:定义多人会话文本包括医生邀请患者和专家参与记录、医生向专家汇报病情记录、专家向患者确认病情记录、专家向患者或医生询问病史记录和专家与医生协商给出诊断方案以及治疗建议记录;
步骤B:根据说话人角色转换、问答语言形式及主题对会话文本进行语段划分;
步骤C:根据各段会话的权势地位关系确定会话的主导者和逻辑线索;
步骤5:摘要提取模块根据从汇报病情、确认病情和询问病史的话段中提取信息生成病情记录,包括如下步骤:
步骤D:对病情的描述主要见于医生的病情汇报以及专家和患者问答的陈述性信息,需要抽取的文本实体包括隐私信息、治疗经过、治疗类实体和时间信息;
步骤E:根据医疗领域命名实体和实体关系知识库将医生、患者、专家描述所用不同语言表述映射到知识图谱的概念结构图中,从而去除冗余信息,合并概念相同的关键信息;
步骤F:根据每一韵律结构单位的语调和重音程度值来辅助关键信息的判断:预设一个重音程度值的阈值,当重音程度值大于阈值时,标记该结构为关键信息;
步骤G:将关键信息与症状构成模式的词典库进行对比,生成症状记录文本;
步骤6:摘要提取模块根据协商诊断方案和治疗建议话段的信息生成诊断摘要,包括如下步骤:
步骤H:分析诊断过程,根据语法分析来判断医生或专家对应的会话文本的语言形式,并通过语言形式来分析辨识医生或专家的推断过程和肯定程度,以句子为单位将话语功能分为前提假设、证据、推理以及结论,并以一致性结论组织诊断结果记录;
步骤I:最终的结论可以和事理图谱中推理诊断结果相比较,以交叉验证,提升置信度;
步骤7:未登录术语核对模块为医生或专家设置核对窗口,医生或专家通过核对窗口对病情记录和诊断摘要中出现的未登录术语进行核对和确认;
步骤8:存储库模块将步骤7中核对和确认的未登录术语进行存储,更新知识图谱;病情事件与诊断结果之间的事理联系添加到事理图谱中以用于后续的推理和判断。
所述医患会话的整体结构包括开头、汇报病情、确认病情、询问病史、协商诊断方案和协商治疗建议。
所述会话各方的权势地位差异包括专家为最高权势,医生为第二权势,患者为第三权势。
所述治疗经过包括疾病、症状、检查和治疗的过程,所述治疗类实体包括药物。
所述多人会话文本包括叙述、提问、回答、反馈四种形式,叙述和回答对应的语言形式是陈述句,提问对应疑问句,具体分为特指问、选择问和是非问,反馈包括肯定、否定和沉默;各语言形式的确定可以通过语法分析和韵律分析得到。
在执行步骤H时,将图像记录的表情、眼神、手势和体态信息作为辅助陈述程度的判断。
所述存储库模块中存储知识图谱和事理图谱;知识图谱包括疾病库、症状库、治疗手段库、检查手段库,各库中的每个节点都是命名实体对应的概念;事理图谱通过逻辑关系在各个知识图谱之间进行映射,揭示事件之间的关系。
所述话语功能包括前提假设、证据、推理和结论。
本发明所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,根据语音识别的文本信息、韵律信息和图像信息在时间维度的综合,比之于传统只运用文本信息,提升了会话理解的准确性。通过会话分析手段对文本的宏观会话结构和微观推理模式进行分析,更有效地抽取关键信息,得出诊断摘要。通过对多人会话权势地位关系的分析,更为有效地把握会话逻辑线索。通过运用知识图谱,有效获取关键信息的准确表述,并通过会诊记录对知识图谱和事理图谱进行数据积累和扩充。
附图说明
图1是本发明的***结构图。
具体实施方式
如图1所示的一种基于多模态线索融合的远程会诊会话理解与摘要方法,包括如下步骤:
步骤1:建立远程视频会议***和中心服务器,远程视频会议***与中心服务器通过网线通信;专家、医生和患者分别在远程视频会议***中注册身份信息和语音信息;所述语音信息为声纹信息;
步骤2:在中心服务器中建立语音识别模块、图像识别模块、会话结构分析模块、摘要提取模块、未登录术语核对模块和存储库模块;
步骤3:远程视频会议***记录医生、专家和病人之间的多人会话,并将多人会话传输给中心服务器,中心服务器通过语音识别模块将多人会话转变成文本形式,生成多人会话文本;语音识别模块根据会话人的语音信息来识别其身份信息,并在多人会话文本中以话轮为单位标记相应的会话人的身份信息;语音识别模块识别话语的语调和重音的程度,并基于韵律结构为文本标记相应的语调和重音程度值;所述多人会话包括音频和视频信息;
步骤4:会话结构分析模块对多人会话文本进行分析,包括如下步骤:
步骤A:定义多人会话文本包括医生邀请患者和专家参与记录、医生向专家汇报病情记录、专家向患者确认病情记录、专家向患者或医生询问病史记录和专家与医生协商给出诊断方案以及治疗建议记录;
步骤B:根据说话人角色转换、问答语言形式及主题对会话文本进行语段划分;
步骤C:根据各段会话的权势地位关系确定会话的主导者和逻辑线索;
步骤5:摘要提取模块根据从汇报病情、确认病情和询问病史的话段中提取信息生成病情记录,包括如下步骤:
步骤D:对病情的描述主要见于医生的病情汇报以及专家和患者问答的陈述性信息,需要抽取的文本实体包括隐私信息、治疗经过、治疗类实体和时间信息;
步骤E:根据医疗领域命名实体和实体关系知识库将医生、患者、专家描述所用不同语言表述映射到知识图谱的概念结构图中,从而去除冗余信息,合并概念相同的关键信息;
步骤F:根据每一韵律结构单位的语调和重音程度值来辅助关键信息的判断:预设一个重音程度值的阈值,当重音程度值大于阈值时,标记该结构为关键信息;
步骤G:将关键信息与症状构成模式的词典库进行对比,生成症状记录文本;
步骤6:摘要提取模块根据协商诊断方案和治疗建议话段的信息生成诊断摘要,包括如下步骤:
步骤H:分析诊断过程,根据语法分析来判断医生或专家对应的会话文本的语言形式,并通过语言形式来分析辨识医生或专家的推断过程和肯定程度,以句子为单位将话语功能分为前提假设、证据、推理以及结论,并以一致性结论组织诊断结果记录;
步骤I:最终的结论可以和事理图谱中推理诊断结果相比较,以交叉验证,提升置信度;
步骤7:未登录术语核对模块为医生或专家设置核对窗口,医生或专家通过核对窗口对病情记录和诊断摘要中出现的未登录术语进行核对和确认;
步骤8:存储库模块将步骤7中核对和确认的未登录术语进行存储,更新知识图谱;病情事件与诊断结果之间的事理联系添加到事理图谱中以用于后续的推理和判断。
所述医患会话的整体结构包括开头、汇报病情、确认病情、询问病史、协商诊断方案和协商治疗建议。
所述会话各方的权势地位差异包括专家为最高权势,医生为第二权势,患者为第三权势。
所述治疗经过包括疾病、症状、检查和治疗的过程,所述治疗类实体包括药物。
所述多人会话文本包括叙述、提问、回答、反馈四种形式,叙述和回答对应的语言形式是陈述句,提问对应疑问句,具体分为特指问、选择问和是非问,反馈包括肯定、否定和沉默;各语言形式的确定可以通过语法分析(所述语法分析为现有技术,故不详细叙述)和韵律分析(所述韵律分析为现有技术,故不详细叙述)得到。
在执行步骤H时,将图像记录的表情、眼神、手势和体态信息作为辅助陈述程度的判断。
所述存储库模块中存储知识图谱和事理图谱;知识图谱包括疾病库、症状库、治疗手段库、检查手段库,各库中的每个节点都是命名实体对应的概念;事理图谱通过逻辑关系在各个知识图谱之间进行映射,揭示事件之间的关系。
所述话语功能包括前提假设、证据、推理和结论。
所述存储库模块中存储知识图谱和事理图谱。知识图谱呈网状结构,包括疾病库、症状库、治疗手段库、检查手段库,各库中的每个节点都是命名实体对应的概念,概念为书面语形式,其对应的口语中不同表述也包含其中,概念通过上下位关系构成树结构层级,概念之间距离的长短表示了语义距离的远近。事理图谱通过逻辑关系在各个知识图谱之间进行映射,揭示事件之间的关系,比如某些症状组合对应的某种疾病类型的概率,某种疾病采用某些治疗方式的概率。
本发明所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,根据语音识别的文本信息、韵律信息和图像信息在时间维度的综合,比之于传统只运用文本信息,提升了会话理解的准确性。通过会话分析手段对文本的宏观会话结构和微观推理模式进行分析,更有效地抽取关键信息,得出诊断摘要。通过对多人会话权势地位关系的分析,更为有效地把握会话逻辑线索。通过运用知识图谱,有效获取关键信息的准确表述,并通过会诊记录对知识图谱和事理图谱进行数据积累和扩充。

Claims (8)

1.一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:包括如下步骤:
步骤1:建立远程视频会议***和中心服务器,远程视频会议***与中心服务器通过网线通信;专家、医生和患者分别在远程视频会议***中注册身份信息和语音信息;所述语音信息为声纹信息;
步骤2:在中心服务器中建立语音识别模块、图像识别模块、会话结构分析模块、摘要提取模块、未登录术语核对模块和存储库模块;
步骤3:远程视频会议***记录医生、专家和病人之间的多人会话,并将多人会话传输给中心服务器,中心服务器通过语音识别模块将多人会话转变成文本形式,生成多人会话文本;语音识别模块根据会话人的语音信息来识别其身份信息,并在多人会话文本中以话轮为单位标记相应的会话人的身份信息;语音识别模块识别话语的语调和重音的程度,并基于韵律结构为文本标记相应的语调和重音程度值;所述多人会话包括音频和视频信息;
步骤4:会话结构分析模块对多人会话文本进行分析,包括如下步骤:
步骤A:定义多人会话文本包括医生邀请患者和专家参与记录、医生向专家汇报病情记录、专家向患者确认病情记录、专家向患者或医生询问病史记录和专家与医生协商给出诊断方案以及治疗建议记录;
步骤B:根据说话人角色转换、问答语言形式及主题对会话文本进行语段划分;
步骤C:根据各段会话的权势地位关系确定会话的主导者和逻辑线索;
步骤5:摘要提取模块根据从汇报病情、确认病情和询问病史的话段中提取信息生成病情记录,包括如下步骤:
步骤D:对病情的描述主要见于医生的病情汇报以及专家和患者问答的陈述性信息,需要抽取的文本实体包括隐私信息、治疗经过、治疗类实体和时间信息;
步骤E:根据医疗领域命名实体和实体关系知识库将医生、患者、专家描述所用不同语言表述映射到知识图谱的概念结构图中,从而去除冗余信息,合并概念相同的关键信息;
步骤F:根据每一韵律结构单位的语调和重音程度值来辅助关键信息的判断:预设一个重音程度值的阈值,当重音程度值大于阈值时,标记该结构为关键信息;
步骤G:将关键信息与症状构成模式的词典库进行对比,生成症状记录文本;
步骤6:摘要提取模块根据协商诊断方案和治疗建议话段的信息生成诊断摘要,包括如下步骤:
步骤H:分析诊断过程,根据语法分析来判断医生或专家对应的会话文本的语言形式,并通过语言形式来分析辨识医生或专家的推断过程和肯定程度,以句子为单位将话语功能分为前提假设、证据、推理以及结论,并以一致性结论组织诊断结果记录;
步骤I:最终的结论可以和事理图谱中推理诊断结果相比较,以交叉验证,提升置信度;
步骤7:未登录术语核对模块为医生或专家设置核对窗口,医生或专家通过核对窗口对病情记录和诊断摘要中出现的未登录术语进行核对和确认;
步骤8:存储库模块将步骤7中核对和确认的未登录术语进行存储,更新知识图谱;病情事件与诊断结果之间的事理联系添加到事理图谱中以用于后续的推理和判断。
2.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述医患会话的整体结构包括开头、汇报病情、确认病情、询问病史、协商诊断方案和协商治疗建议。
3.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述会话各方的权势地位差异包括专家为最高权势,医生为第二权势,患者为第三权势。
4.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述治疗经过包括疾病、症状、检查和治疗的过程,所述治疗类实体包括药物。
5.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述多人会话文本包括叙述、提问、回答、反馈四种形式,叙述和回答对应的语言形式是陈述句,提问对应疑问句,具体分为特指问、选择问和是非问,反馈包括肯定、否定和沉默;各语言形式的确定可以通过语法分析和韵律分析得到。
6.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:在执行步骤H时,将图像记录的表情、眼神、手势和体态信息作为辅助陈述程度的判断。
7.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述存储库模块中存储知识图谱和事理图谱;知识图谱包括疾病库、症状库、治疗手段库、检查手段库,各库中的每个节点都是命名实体对应的概念;事理图谱通过逻辑关系在各个知识图谱之间进行映射,揭示事件之间的关系。
8.如权利要求1所述的一种基于多模态线索融合的远程会诊会话理解与摘要方法,其特征在于:所述话语功能包括前提假设、证据、推理和结论。
CN201711178650.5A 2017-11-23 2017-11-23 一种基于多模态线索融合的远程会诊会话理解与摘要方法 Pending CN107845422A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711178650.5A CN107845422A (zh) 2017-11-23 2017-11-23 一种基于多模态线索融合的远程会诊会话理解与摘要方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711178650.5A CN107845422A (zh) 2017-11-23 2017-11-23 一种基于多模态线索融合的远程会诊会话理解与摘要方法

Publications (1)

Publication Number Publication Date
CN107845422A true CN107845422A (zh) 2018-03-27

Family

ID=61680195

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711178650.5A Pending CN107845422A (zh) 2017-11-23 2017-11-23 一种基于多模态线索融合的远程会诊会话理解与摘要方法

Country Status (1)

Country Link
CN (1) CN107845422A (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108538299A (zh) * 2018-04-11 2018-09-14 深圳市声菲特科技技术有限公司 一种自动会议记录方法
CN109189916A (zh) * 2018-08-17 2019-01-11 杜林蔚 英文摘要关键信息提取方法、装置及电子设备
CN109346164A (zh) * 2018-11-23 2019-02-15 广州华见智能科技有限公司 一种中医临床案例的自动采集设备及方法
CN109670048A (zh) * 2018-11-19 2019-04-23 平安科技(深圳)有限公司 基于风控管理的图谱构建方法、装置和计算机设备
CN110008326A (zh) * 2019-04-01 2019-07-12 苏州思必驰信息科技有限公司 会话***中的知识摘要生成方法及***
CN110289016A (zh) * 2019-06-20 2019-09-27 深圳追一科技有限公司 一种基于实时对话的语音质检方法、装置及电子设备
CN110675922A (zh) * 2019-09-23 2020-01-10 北京阳光欣晴健康科技有限责任公司 基于多模态的智能随访方法及***
CN110719436A (zh) * 2019-10-17 2020-01-21 浙江同花顺智能科技有限公司 一种会议文档信息获取方法、装置及其相关设备
CN111933239A (zh) * 2020-09-17 2020-11-13 泰康保险集团股份有限公司 数据处理的方法及装置、***、存储介质
CN112086155A (zh) * 2020-09-11 2020-12-15 北京欧应信息技术有限公司 一种基于语音录入的诊疗信息结构化收集方法
CN112528993A (zh) * 2020-12-17 2021-03-19 济南浪潮高新科技投资发展有限公司 一种基于知识图谱的图像识别准确率提升方法
CN113380234A (zh) * 2021-08-12 2021-09-10 明品云(北京)数据科技有限公司 基于语音识别生成表单的方法、装置、设备及介质
CN113992973A (zh) * 2021-09-22 2022-01-28 阿里巴巴达摩院(杭州)科技有限公司 视频摘要生成方法、装置、电子设备和存储介质
CN116340778A (zh) * 2023-05-25 2023-06-27 智慧眼科技股份有限公司 基于多模态的医疗大模型构建方法及其相关设备
CN116364312A (zh) * 2023-03-21 2023-06-30 杨彦晖 一种基于神经网络的智慧医疗管理***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN205336429U (zh) * 2016-01-11 2016-06-22 江苏省中医院 一种医院远程会诊与示教***
CN106777942A (zh) * 2016-12-07 2017-05-31 平顶山学院 一种基于智慧医疗服务的远程疾病诊断***

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN205336429U (zh) * 2016-01-11 2016-06-22 江苏省中医院 一种医院远程会诊与示教***
CN106777942A (zh) * 2016-12-07 2017-05-31 平顶山学院 一种基于智慧医疗服务的远程疾病诊断***

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108538299A (zh) * 2018-04-11 2018-09-14 深圳市声菲特科技技术有限公司 一种自动会议记录方法
CN109189916A (zh) * 2018-08-17 2019-01-11 杜林蔚 英文摘要关键信息提取方法、装置及电子设备
CN109670048B (zh) * 2018-11-19 2023-06-23 平安科技(深圳)有限公司 基于风控管理的图谱构建方法、装置和计算机设备
CN109670048A (zh) * 2018-11-19 2019-04-23 平安科技(深圳)有限公司 基于风控管理的图谱构建方法、装置和计算机设备
CN109346164A (zh) * 2018-11-23 2019-02-15 广州华见智能科技有限公司 一种中医临床案例的自动采集设备及方法
CN110008326A (zh) * 2019-04-01 2019-07-12 苏州思必驰信息科技有限公司 会话***中的知识摘要生成方法及***
CN110289016A (zh) * 2019-06-20 2019-09-27 深圳追一科技有限公司 一种基于实时对话的语音质检方法、装置及电子设备
CN110675922A (zh) * 2019-09-23 2020-01-10 北京阳光欣晴健康科技有限责任公司 基于多模态的智能随访方法及***
CN110719436A (zh) * 2019-10-17 2020-01-21 浙江同花顺智能科技有限公司 一种会议文档信息获取方法、装置及其相关设备
CN112086155A (zh) * 2020-09-11 2020-12-15 北京欧应信息技术有限公司 一种基于语音录入的诊疗信息结构化收集方法
CN111933239A (zh) * 2020-09-17 2020-11-13 泰康保险集团股份有限公司 数据处理的方法及装置、***、存储介质
CN112528993A (zh) * 2020-12-17 2021-03-19 济南浪潮高新科技投资发展有限公司 一种基于知识图谱的图像识别准确率提升方法
CN113380234A (zh) * 2021-08-12 2021-09-10 明品云(北京)数据科技有限公司 基于语音识别生成表单的方法、装置、设备及介质
CN113992973A (zh) * 2021-09-22 2022-01-28 阿里巴巴达摩院(杭州)科技有限公司 视频摘要生成方法、装置、电子设备和存储介质
CN113992973B (zh) * 2021-09-22 2024-06-11 阿里巴巴达摩院(杭州)科技有限公司 视频摘要生成方法、装置、电子设备和存储介质
CN116364312A (zh) * 2023-03-21 2023-06-30 杨彦晖 一种基于神经网络的智慧医疗管理***
CN116340778A (zh) * 2023-05-25 2023-06-27 智慧眼科技股份有限公司 基于多模态的医疗大模型构建方法及其相关设备
CN116340778B (zh) * 2023-05-25 2023-10-03 智慧眼科技股份有限公司 基于多模态的医疗大模型构建方法及其相关设备

Similar Documents

Publication Publication Date Title
CN107845422A (zh) 一种基于多模态线索融合的远程会诊会话理解与摘要方法
Bharti et al. Medbot: Conversational artificial intelligence powered chatbot for delivering tele-health after covid-19
Hsieh et al. Dimensions of trust: The tensions and challenges in provider—interpreter trust
Ruusuvuori Control in the medical consultation: Practices of giving and receiving the reason for the visit in primary health care
Prior Overcoming stigma: How young people position themselves as counselling service users
CN105190628B (zh) 确定临床医生的预订项目的意图的方法和设备
Kavitha et al. Design of IoT based Rural Health Helper using Natural Language Processing
KR20200080290A (ko) 기계-보조 대화 시스템 및 의학적 상태 문의 장치 및 방법
Cossins et al. Masculinity and sexual abuse: Explaining the transition from victim to offender
Han et al. Deep learning for mobile mental health: Challenges and recent advances
JP2015014834A (ja) 機械対話による感情推定システム及びそのプログラム
Jacob et al. Psychotherapy across cultures: the form–content dichotomy
Meditskos et al. Converness: Ontology‐driven conversational awareness and context understanding in multimodal dialogue systems
Yao et al. Toward automated evaluation of empathetic responses in virtual human interaction systems for mental health scenarios
CN108648831A (zh) 一种医患沟通辅助平台及其交互方法
Rocheteau On the role of artificial intelligence in psychiatry
Drakopoulos et al. Emotion Recognition from Speech: A Survey.
Jagannath et al. An analysis of speech as a modality for activity recognition during complex medical teamwork
Sharma et al. Chatbots in healthcare: Challenges, technologies and applications
Nigam et al. Self-diagnosis in healthcare systems using AI chatbots
WO2024090712A1 (ko) 공감대 형성을 통한 심리 치료용 인공지능 대화 시스템
KR102314332B1 (ko) 머신러닝 자연어 처리를 활용한 의사-환자의 진료상담 지원 시스템 및 방법
Perera et al. Data driven knowledge acquisition method for domain knowledge enrichment in the healthcare
Bonacin et al. Architecture and services for formalising and evaluating care actions from computer-interpretable guidelines
Arachchillage Smart Virtual Expert System to Assist Psychiatrists (SVESTAP)

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20180327