CN107662617A - 基于深度学习的车载交互控制算法 - Google Patents

基于深度学习的车载交互控制算法 Download PDF

Info

Publication number
CN107662617A
CN107662617A CN201710873933.5A CN201710873933A CN107662617A CN 107662617 A CN107662617 A CN 107662617A CN 201710873933 A CN201710873933 A CN 201710873933A CN 107662617 A CN107662617 A CN 107662617A
Authority
CN
China
Prior art keywords
deep learning
vehicle
natural language
knowledge
algorithm based
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710873933.5A
Other languages
English (en)
Other versions
CN107662617B (zh
Inventor
李嫄源
朱庆元
朱智勤
李鹏华
王冠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN201710873933.5A priority Critical patent/CN107662617B/zh
Publication of CN107662617A publication Critical patent/CN107662617A/zh
Application granted granted Critical
Publication of CN107662617B publication Critical patent/CN107662617B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Animal Behavior & Ethology (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及一种基于深度学习的车载交互控制算法，属于车联网智能控制技术领域。该算法包括：多特征融合下的自然语言数据稀疏表示，使词、句子等多层次结构中的词向量与词性、依存关系等语境向量深度融合，且稀疏表示融合生成的词向量；半监督学习下的自然语言深度学习模型优化，使深度学习模型与自然语言任务匹配，并按不同训练环境快速切换梯度学习机制；表示学习下的自然语言张量知识图构建与推理，使知识图中的实体、概念、类别以及语义关系转换为同一语义空间的数值向量，利用多列卷积神经网络学习获取知识特征向量，通过目标问句向量与知识特征向量的相似度得分计算实现知识推理。本发明能有效应答用户交互的自然语言信息，满足用户的行车需求。

Description

基于深度学习的车载交互控制算法
技术领域
本发明属于车联网智能控制技术领域，涉及一种基于深度学习的车载交互控制算法。
背景技术
随着汽车行业的快速发展，汽车不断深入进人们的生活之中。与此同时，由于车载智能设备为驾驶者提供了诸多便利与舒适体验，消费者对于车载设备的需求量越来越大，对其性能要求也逐渐提高。
现有技术中，通过按钮或键盘进行操作控制的***只能实现基本控制功能，在短信与导航方面需要反复操作，不利于行车安全并给用户带来了较差的使用体验。而当前使用语音识别控制则多采用类似字符串匹配的方法进行用户交互控制的***，驾驶员需要记忆并准确呼叫特定语音信息才能实现控制功能，缺乏人性化的人机交互设计，对于行车体验显得复杂而繁琐，降低了用户体验且不利于行车安全。
对于目前存在的情况，迫切需要开发一种新型车载交互控制技术，而深度学习近年来在自然语言处理方向迅猛发展为车载交互控制提供了新的思路。
发明内容
有鉴于此，本发明的目的在于提供一种基于深度学习的车载交互控制算法，旨在提供用户快捷舒适的操作体验与安全的行车环境。
为达到上述目的，本发明提供如下技术方案：
一种基于深度学习的车载交互控制算法，包括以下步骤：
S1：获取行车过程相关控制命令与行车自然语言的训练文本；
S2：采用词向量表征方式融合多语境描述进行数据稀疏表示；
S3：构建优化型卷积神经网络学习模型；
S4：在同一语义空间中利用相似度得分机制实现知识图推理。
进一步，由网络爬虫获取互联网行车自然语言，辅以人工整合方式过滤冗杂信息并归类控制命令作所述训练文本。
进一步，用HanLP中CRF句法分析器与最大熵依存句法分析器划分文本短语并获取语境量化描述；采用word2vec将其融合成词向量，借助无监督最大释然学习实现所述数据稀疏表示。
进一步，构造条件函数来优化切换SGD、LBFGS、CG学习机制构成所述不同梯度学习机制；选择合适的梯度表示完成学习模型检查，对所述稀疏表示的训练数据进行无监督学习预训练进而获取其训练权值；按照适当比例将人工知识注入部分训练数据进行再学习构成所述神经网络模型。
进一步，通过表示学习捕获文本分布式语义信息并设计带有语义信息的三维张量来表征知识图中的三元组；构造表征语义关系的映射向量或映射矩阵将知识图中的实体你、概念、类别以及关系转换为同一语义空间的数值向量；利用人工设定模板对已有三元组进行扩展，按照弱监督方式标定训练数据，采用随机破坏方式获取负样本；将稀疏表示的三元组数值向量提交给多列卷积神经网络，通过哈希、卷积、池化和语义映射运算后得到所述答案相关特征向量。
本发明的有益效果在于：本发明能有效应答用户交互的自然语言信息，提供用户快捷舒适的操作体验与安全的行车环境，满足用户的行车需求。
附图说明
为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：
图1为车载交互控制算法流程示意图；
图2为车载交互控制算法结构示意图；
图3为多特征融合下的词向量稀疏编码表示；
图4为深度学习下的自然语言理解模型；
图5为表示学习下的知识图构建，(a)为三维张量知识表征；(b)为知识实体的语义关系映射。
具体实施方式
下面将结合附图，对本发明的优选实施例进行详细的描述。
如图1、图2所示，本发明提供一种基于深度学习的车载交互控制算法。该算法通过HanLP与Stanfordparser中的CRF句法分析器与最大熵依存句法分析器将文本划分为词或短语，并获取词性、词序、关键词、依存关系等量化描述。
本发明采用word2vec将划分的词或短语转化为词向量，并与获取的量化描述融合成新的词向量。根据不同自然语言处理任务的需要，词向量融合方式可采取拼接、加权、或者哈希计算。词向量融合效果由随后进行的无监督学习下稀疏表示过程的参数进行综合评判。
如图3所示，本发明通过在深置信度神经网络的隐藏层神经元中引入稀疏限制和正则项，推导相应的损失函数和惩罚函数，构建稀疏边缘降噪自动编码器；将融合词序、词序、依存关系等语境特征的词向量提交给该编码器，借助损失函数的更新完成深度神经网络的预训练，微调神经网络的权值、偏置、稀疏限制和正则限制项等参数，完成自然语言数据的稀疏表示。
如图4所示，本发明根据自然语言处理任务，综合考虑Sigmoid、Tanh、Hard、Softsign、Rectifier等非线性函数特性，选取能有效降低深度网络训练复杂度的非线性过程，构建面向自然语言的深度学习模型。通过选择合适的梯度表示，对学习模型进行交叉验证，检查学习模型是否存在缺陷。
本发明依据选择的基本表示结构，将稀疏表征下自然语言训练数据全集(未进行人工知识标注)，提交给构建的深度学习模型进行无监督学习预训练，获得预训练权值。其中，设置深度神经网络隐藏层偏置为0，输出层的偏置为假定权值时的最优值。权值设置为w∈(-r,r)，这里的fanin为前一层网络节点数，fanout为后一层网络节点数。完成预训练后，对训练数据中的部分数据集(不超过整体的20％)进行人工知识标注，将这些数据按照同样的表示结构提交给带有预训练权值的深度学习模型进行有监督训练。为提高训练速度，在多核机驱动下，构建关于学习率的切换函数实现SGD、LBFGS、CG学习机制的优化切换。
如图5(a)所示，本发明通过定义三元组(h,r,t)生成三维张量来构建语义知识图，其中，代表头语义实体，代表语义关系，代表尾语义实体。通过张量分解，得到一个核心张量和一个因子矩阵，核心张量中每个二维矩阵切片代表一种语义关系，因子矩阵中每一行代表一个语义实体。由核心张量和因子矩阵还原的结果可看作对应三元组成立的概率。
如图5(b)所示，假设和经过某种与相关的映射后所得的向量相似或相等，在定义能量函数fr(h,t)前提下，构建学习目标函数来保证知识图中出现的三元组获得较高学习目标值，同时对未出现的三元组进行惩罚。语义关系采用映射向量或映射矩阵来表示，通过设定映射函数将三元组的头实体和尾实体映射到与目标关系相关的语义空间中来实现知识“1-to-1”、“1-to-N”、“N-to-N”的转换。
本发明利用人工设定的模板对已有的三元组进行扩展,生成自然语言问句,以弱监督的方式标定大量的训练数据，并采用随机破坏已有“问句--答案”三元组对中元素的方式获取负样本。引入词嵌入概念将获取的知识图训练样本转换为为低维空间向量,使知识推理转化为通过构建深度神经网络处理自然语言问句的问题，从而找到“问句实体--知识图实体”的对应关系，以及“问句自然语言描述--知识图语义关系”的对应关系。
本发明对词嵌入学习得到的知识图三元组数值向量采用Recursive sentence基本表示结构，在稀疏化表示后提交给多列卷积神经网络模型(Multi-column CNN)。通过该神经网络模型的哈希、卷积、最大池化和语义映射运算之后得到答案类型、答案路径、答案周围实体三种特征向量。将这三种特征向量分别与问句向量做相似度计算，最终的推理得分由三种相似度求和而得。即，S(q,a)＝f1(q)Tg1(a)+f2(q)Tg2(a)+f3(q)Tg3(a)。其中，f1(q)Tg1(a)表示答案类型的相似度，f2(q)Tg2(a)表示答案路径的相似度，f3(q)Tg3(a)表示答案周围实体的相似度。
通过以上的实施方式的描述，所述功能如果以软件功能单元的形式实现并作为独立的产品销售或者使用时，可以存储在计算机或车机可读存储介质中执行各个实施例或者实施例的某些部分所述的方法。
最后说明的是，以上优选实施例仅用以说明本发明的技术方案而非限制，尽管通过上述优选实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其作出各种各样的改变，而不偏离本发明权利要求书所限定的范围。

Claims (6)

1.一种基于深度学习的车载交互控制算法，其特征在于：该算法包括以下步骤：
S1：获取行车过程相关控制命令与行车自然语言的训练文本；
S2：采用词向量表征方式融合多语境描述进行数据稀疏表示；
S3：构建优化型卷积神经网络学习模型；
S4：在同一语义空间中利用相似度得分机制实现知识图推理。
2.根据权利要求1所述的一种基于深度学习的车载交互控制算法，其特征在于：所述步骤S1具体为：由网络爬虫从互联网获取行车自然语言数据；过滤冗余信息并人工整合行车控制命令与行车自然语言数据；获取训练文本。
3.根据权利要求1所述的一种基于深度学习的车载交互控制算法，其特征在于：所述步骤S2具体为：用最大熵依存句法分析器划分文本短语并获取语境量化描述；采用word2vec将其融合成词向量，借助无监督最大释然学习实现所述数据稀疏表示。
4.根据权利要求1所述的一种基于深度学习的车载交互控制算法，其特征在于：所述步骤S3具体为：构造条件函数来优化切换多学习机制；对稀疏表示的训练数据进行无监督学习预训练进而获取其训练权值；按照适当比例将人工知识注入部分训练数据进行再学习构成所述神经网络学习模型。
5.根据权利要求4所述的一种基于深度学习的车载交互控制算法，其特征在于：所述学习模型通过训练文本稀疏表示进行重复迭代训练更新权重至误差在预设的误差范围之内。
6.根据权利要求1所述的一种基于深度学习的车载交互控制算法，其特征在于：所述步骤S4具体为：根据人类知识表征结构构造附有语义信息的三维张量定义知识图三元组；通过多列卷积神经网络生成知识实体与所需答案相关特征向量；通过哈希、卷积、池化和语义映射运算后得到所述答案相关特征向量。
CN201710873933.5A 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法 Active CN107662617B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710873933.5A CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710873933.5A CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Publications (2)

Publication Number Publication Date
CN107662617A true CN107662617A (zh) 2018-02-06
CN107662617B CN107662617B (zh) 2019-11-05

Family

ID=61097470

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710873933.5A Active CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Country Status (1)

Country Link
CN (1) CN107662617B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509519A (zh) * 2018-03-09 2018-09-07 北京邮电大学 基于深度学习的通用知识图谱增强问答交互***及方法
CN108717574A (zh) * 2018-03-26 2018-10-30 浙江大学 一种基于连词标记和强化学习的自然语言推理方法
CN109388801A (zh) * 2018-09-30 2019-02-26 阿里巴巴集团控股有限公司 相似词集合的确定方法、装置和电子设备
CN110427484A (zh) * 2018-04-26 2019-11-08 上海意仕腾教育科技有限公司 一种基于深度学习的中文自然语言处理方法
EP3709223A1 (en) * 2019-03-12 2020-09-16 Beijing Baidu Netcom Science and Technology Co., Ltd. Method and apparatus for generating neural network
CN112001182A (zh) * 2020-07-20 2020-11-27 北京百度网讯科技有限公司 多语言语义表示模型的训练方法、装置、设备及存储介质
WO2021056733A1 (zh) * 2019-09-23 2021-04-01 苏州车付通信息科技有限公司 智能逻辑分析***
US20210406467A1 (en) * 2020-06-24 2021-12-30 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for generating triple sample, electronic device and computer storage medium
CN116804691A (zh) * 2023-06-28 2023-09-26 国网安徽省电力有限公司青阳县供电公司 一种用于电力***的调度自动化设备故障监测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5632007A (en) * 1994-09-23 1997-05-20 Actv, Inc. Interactive system and method for offering expert based interactive programs
US20110093271A1 (en) * 2005-01-24 2011-04-21 Bernard David E Multimodal natural language query system for processing and analyzing voice and proximity-based queries
CN104867356A (zh) * 2015-06-04 2015-08-26 重庆邮电大学 一种基于DSRC和Telematics的车辆威胁评估***
CN106055722A (zh) * 2016-07-26 2016-10-26 重庆兆光科技股份有限公司 网页爬虫抓取方法及***
CN107133349A (zh) * 2017-05-24 2017-09-05 北京无忧创新科技有限公司 一种对话机器人***

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5632007A (en) * 1994-09-23 1997-05-20 Actv, Inc. Interactive system and method for offering expert based interactive programs
US20110093271A1 (en) * 2005-01-24 2011-04-21 Bernard David E Multimodal natural language query system for processing and analyzing voice and proximity-based queries
CN104867356A (zh) * 2015-06-04 2015-08-26 重庆邮电大学 一种基于DSRC和Telematics的车辆威胁评估***
CN106055722A (zh) * 2016-07-26 2016-10-26 重庆兆光科技股份有限公司 网页爬虫抓取方法及***
CN107133349A (zh) * 2017-05-24 2017-09-05 北京无忧创新科技有限公司 一种对话机器人***

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509519B (zh) * 2018-03-09 2021-03-09 北京邮电大学 基于深度学习的通用知识图谱增强问答交互***及方法
CN108509519A (zh) * 2018-03-09 2018-09-07 北京邮电大学 基于深度学习的通用知识图谱增强问答交互***及方法
CN108717574A (zh) * 2018-03-26 2018-10-30 浙江大学 一种基于连词标记和强化学习的自然语言推理方法
CN108717574B (zh) * 2018-03-26 2021-09-21 浙江大学 一种基于连词标记和强化学习的自然语言推理方法
CN110427484A (zh) * 2018-04-26 2019-11-08 上海意仕腾教育科技有限公司 一种基于深度学习的中文自然语言处理方法
CN109388801A (zh) * 2018-09-30 2019-02-26 阿里巴巴集团控股有限公司 相似词集合的确定方法、装置和电子设备
CN109388801B (zh) * 2018-09-30 2023-07-14 创新先进技术有限公司 相似词集合的确定方法、装置和电子设备
US11620532B2 (en) 2019-03-12 2023-04-04 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for generating neural network
KR102342604B1 (ko) * 2019-03-12 2021-12-24 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 뉴럴 네트워크 생성 방법 및 장치
KR20200109230A (ko) * 2019-03-12 2020-09-22 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 뉴럴 네트워크 생성 방법 및 장치
EP3709223A1 (en) * 2019-03-12 2020-09-16 Beijing Baidu Netcom Science and Technology Co., Ltd. Method and apparatus for generating neural network
WO2021056733A1 (zh) * 2019-09-23 2021-04-01 苏州车付通信息科技有限公司 智能逻辑分析***
US20210406467A1 (en) * 2020-06-24 2021-12-30 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for generating triple sample, electronic device and computer storage medium
CN112001182A (zh) * 2020-07-20 2020-11-27 北京百度网讯科技有限公司 多语言语义表示模型的训练方法、装置、设备及存储介质
CN112001182B (zh) * 2020-07-20 2024-02-13 北京百度网讯科技有限公司 多语言语义表示模型的训练方法、装置、设备及存储介质
CN116804691A (zh) * 2023-06-28 2023-09-26 国网安徽省电力有限公司青阳县供电公司 一种用于电力***的调度自动化设备故障监测方法
CN116804691B (zh) * 2023-06-28 2024-02-13 国网安徽省电力有限公司青阳县供电公司 一种用于电力***的调度自动化设备故障监测方法

Also Published As

Publication number Publication date
CN107662617B (zh) 2019-11-05

Similar Documents

Publication Publication Date Title
CN107662617B (zh) 基于深度学习的车载交互控制算法
CN108009285B (zh) 基于自然语言处理的林业生态环境人机交互方法
CN108734276B (zh) 一种基于对抗生成网络的模仿学习对话生成方法
CN107239446B (zh) 一种基于神经网络与注意力机制的情报关系提取方法
CN107578106B (zh) 一种融合单词语义知识的神经网络自然语言推理方法
CN108763326B (zh) 一种基于特征多样化的卷积神经网络的情感分析模型构建方法
Wang et al. Research on Web text classification algorithm based on improved CNN and SVM
CN111008293A (zh) 基于结构化语义表示的视觉问答方法
CN110321563B (zh) 基于混合监督模型的文本情感分析方法
CN108255805A (zh) 舆情分析方法及装置、存储介质、电子设备
CN108763510A (zh) 意图识别方法、装置、设备及存储介质
CN105938485A (zh) 一种基于卷积循环混合模型的图像描述方法
CN111340661B (zh) 一种基于图神经网络的应用题自动解题方法
CN108197294A (zh) 一种基于深度学习的文本自动生成方法
CN111898374B (zh) 文本识别方法、装置、存储介质和电子设备
CN108170848A (zh) 一种面向***智能客服的对话场景分类方法
CN113204674B (zh) 基于局部-整体图推理网络的视频-段落检索方法及***
CN114398976A (zh) 基于bert与门控类注意力增强网络的机器阅读理解方法
CN106959946A (zh) 一种基于深度学习的文本语义特征生成优化方法
CN112256866A (zh) 一种基于深度学习的文本细粒度情感分析方法
CN116028604A (zh) 一种基于知识增强图卷积网络的答案选择方法及***
CN113920379B (zh) 一种基于知识辅助的零样本图像分类方法
CN115510226A (zh) 一种基于图神经网络的情感分类方法
CN114429122A (zh) 一种基于循环注意力的方面级情感分析***和方法
CN110297894A (zh) 一种基于辅助网络的智能对话生成方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant