CN112455461A - 自动驾驶车辆的人车交互的方法、自动驾驶*** - Google Patents
自动驾驶车辆的人车交互的方法、自动驾驶*** Download PDFInfo
- Publication number
- CN112455461A CN112455461A CN201910844653.0A CN201910844653A CN112455461A CN 112455461 A CN112455461 A CN 112455461A CN 201910844653 A CN201910844653 A CN 201910844653A CN 112455461 A CN112455461 A CN 112455461A
- Authority
- CN
- China
- Prior art keywords
- state
- brain wave
- driver
- driving state
- product
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 230000003993 interaction Effects 0.000 title claims abstract description 19
- 230000000694 effects Effects 0.000 claims abstract description 416
- 210000004556 brain Anatomy 0.000 claims abstract description 410
- 238000012545 processing Methods 0.000 claims description 128
- 230000015654 memory Effects 0.000 claims description 30
- 230000036772 blood pressure Effects 0.000 claims description 13
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 230000006870 function Effects 0.000 description 27
- 238000004891 communication Methods 0.000 description 26
- 238000010586 diagram Methods 0.000 description 21
- 241000282414 Homo sapiens Species 0.000 description 17
- 230000004044 response Effects 0.000 description 17
- 238000003062 neural network model Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 15
- 230000008859 change Effects 0.000 description 12
- 230000033001 locomotion Effects 0.000 description 9
- 238000012549 training Methods 0.000 description 9
- 230000006399 behavior Effects 0.000 description 8
- 230000007177 brain activity Effects 0.000 description 8
- 230000002093 peripheral effect Effects 0.000 description 8
- 238000005070 sampling Methods 0.000 description 8
- 239000013598 vector Substances 0.000 description 8
- 238000013500 data storage Methods 0.000 description 7
- 230000014509 gene expression Effects 0.000 description 7
- 230000001419 dependent effect Effects 0.000 description 6
- 239000000725 suspension Substances 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 206010041349 Somnolence Diseases 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 3
- 230000004397 blinking Effects 0.000 description 3
- 230000010267 cellular communication Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 210000000613 ear canal Anatomy 0.000 description 3
- 230000008921 facial expression Effects 0.000 description 3
- 210000001061 forehead Anatomy 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 231100000206 health hazard Toxicity 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000001817 pituitary effect Effects 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 208000003464 asthenopia Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 210000003710 cerebral cortex Anatomy 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 239000012141 concentrate Substances 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 230000036632 reaction speed Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000007958 sleep Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 206010001497 Agitation Diseases 0.000 description 1
- 208000014644 Brain disease Diseases 0.000 description 1
- 206010051290 Central nervous system lesion Diseases 0.000 description 1
- 206010012374 Depressed mood Diseases 0.000 description 1
- 208000000059 Dyspnea Diseases 0.000 description 1
- 206010013975 Dyspnoeas Diseases 0.000 description 1
- 208000036993 Frustration Diseases 0.000 description 1
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 208000032140 Sleepiness Diseases 0.000 description 1
- 208000006011 Stroke Diseases 0.000 description 1
- 206010044565 Tremor Diseases 0.000 description 1
- 239000002253 acid Substances 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 230000001121 heart beat frequency Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 208000010125 myocardial infarction Diseases 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000007830 nerve conduction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 230000037361 pathway Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 239000001294 propane Substances 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000000979 retarding effect Effects 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 210000004761 scalp Anatomy 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000037321 sleepiness Effects 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 230000002618 waking effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0257—Control of position or course in two dimensions specially adapted to land vehicles using a radar
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/027—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising intertial navigation means, e.g. azimuth detector
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
- G05D1/0278—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
- G05D1/0285—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using signals transmitted via a public communication network, e.g. GSM network
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0872—Driver physiology
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- General Physics & Mathematics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Electromagnetism (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
本申请涉及人工智能,提供了一种自动驾驶车辆的人车交互的方法,包括:获取驾驶员的脑波信号;根据驾驶员的脑波信号,确定驾驶员的脑波活动状态;根据驾驶员的脑波活动状态,控制自动驾驶车辆的驾驶状态,驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。本申请提供一种自动驾驶车辆的人车交互的方法、自动驾驶***,目的在于提升自动驾驶***的用户体验度。
Description
技术领域
本申请涉及自动驾驶领域,更具体地,特别涉及一种自动驾驶车辆的人车交互的方法、自动驾驶***。
背景技术
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说,人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人、自然语言处理、计算机视觉、决策与推理、人机交互、推荐与搜索、AI基础理论等。
自动驾驶是人工智能领域的一种主流应用,自动驾驶技术依靠计算机视觉、雷达、监控装置和全球定位***等协同合作,让机动车辆可以在不需要人类主动操作下,实现自动驾驶。自动驾驶的车辆使用各种计算***来帮助将乘客从一个位置运输到另一位置。一些自动驾驶车辆可能要求来自操作者(诸如,领航员、驾驶员、或者乘客)的一些初始输入或者连续输入。自动驾驶车辆准许操作者从手动操作模式切换到自动驾驶模式或者介于两者之间的模式。由于自动驾驶技术无需人类来驾驶机动车辆,所以理论上能够有效避免人类的驾驶失误,减少交通事故的发生,且能够提高公路的运输效率。因此,自动驾驶技术越来越受到重视。
实现自动驾驶,首先要准确感知驾驶员的行为举止、身体状态,在保证安全的情况下为驾驶员提供人性化的辅助驾驶服务。由于驾驶员的性别、长相、性格、身体状态不同,正确识别驾驶员的驾驶状态成为一个研究重点。只有正确识别驾驶员的驾驶状态,驾驶***才可以人性化地提供驾驶员所需的合适辅助驾驶功能。
发明内容
本申请提供一种自动驾驶车辆的人车交互的方法、自动驾驶***,目的在于为驾驶员提供合适的辅助驾驶功能,提升自动驾驶***的用户体验度。
第一方面,提供了一种自动驾驶车辆的人车交互的方法,包括:获取驾驶员的脑波信号;根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
脑波信号又可以被称为脑电(electroencephalogram,EEG)信号。可选的,所述脑波信号为经过去伪迹处理后得到的信号。
脑波活动状态可以包括注意力集中、注意力分散、正常驾驶、应急反应、注意力水平等。当脑部活动状态为注意力水平时,脑部活动状态可以是一个数值。该数值较大则驾驶员的注意力可以较集中,该数值较小则驾驶员的注意力可以较分散。驾驶员注意力分散的表现例如可以是发呆、同时关注多个事物、无法集中注意力等情况。
在本申请实施例中,脑波信号可以反映大脑的活动状态,可以反映驾驶员的心理活动。由于脑波可以更倾向于反映驾驶员的深层次需要,且通常很难受到驾驶员的主观控制,因此,脑波信号能够反映驾驶员的真实驾驶意愿或真实驾驶能力,因此可以为驾驶员提供更合适的自动驾驶服务,保证行车安全。并且脑波信号能够体现驾驶员的喜好、习惯,有利于为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,所述根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态,包括:根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
在本申请实施例中,当两个不同时段的第一脑波信号与第二脑波信号的相似度较高时,往往意味着驾驶员的注意力集中,而当两个不同时段的第一脑波信号与第二脑波信号的相似度较低时,意味着驾驶员的注意力发生了变化,例如出现注意力分散、注意力转移、遭遇紧急路况等情况。脑波信号的相似度可以直观地反映驾驶员的注意力变化,使驾驶员驾驶状态的变化的判断过程更加容易,从而可以及时修正车辆的驾驶状态。
结合第一方面,在第一方面的某些实现方式中,所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
例如,在所述脑波活动状态高于第二预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态,在所述脑波活动状态低于所述第二预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
可选的,该第二预设阈值可以是通过神经网络模型训练得到。
在本申请实施例中,在驾驶员注意力集中或处于正常驾驶状态的情况下,自动驾驶车辆的驾驶状态为人工驾驶状态,使驾驶员可以自由地控制、驾驶车辆;在驾驶员发生注意力分散、注意力转移或正在遭遇紧急路况的情况下,自动驾驶车辆的驾驶状态为辅助自动驾驶状态,从而可以及时为驾驶员提供自动驾驶服务,避免出现安全隐患。并且,可以对不同的驾驶员设置不同的第二预设阈值,也可以对同一驾驶员在不同驾驶时段设置不同的第二预设阈值,因此可以为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
在本申请实施例中,在驾驶员发生注意力分散、注意力转移或正在遭遇紧急路况的情况下,可以根据驾驶员的脑波活动状态,判断提供何种类型的辅助自动驾驶状态,从而为驾驶员提供合适的自动驾驶服务,避免出现安全隐患,且更符合驾驶员的实际需求。并且,可以对不同的驾驶员设置不同的第三预设阈值,也可以对同一驾驶员在不同驾驶时段设置不同的第三预设阈值,因此可以为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
在本申请实施例中,与仅考虑脑波活动状态相比,由于进一步考虑眼部活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。
结合第一方面,在第一方面的某些实现方式中,所述根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
例如,在第一乘积同第二乘积的和大于第四预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态;在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
在本申请实施例中,由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而眼部活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于眼部活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态,因此可以保证确定驾驶员驾驶状态的稳定性。另外,可以对不同的驾驶员设置不同的第四预设阈值、第一权重值、第二权重值,也可以对同一驾驶员在不同驾驶时段设置不同的第四预设阈值、第一权重值、第二权重值,因此可以为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
在本申请实施例中,与仅考虑脑波活动状态相比,由于进一步考虑生物特征活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。
结合第一方面,在第一方面的某些实现方式中,所述根据所述生物特征数据,确定所述驾驶员的生物特征活动状态,包括:根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
在本申请实施例中,当两个不同时段的第一生物特征数据与第二生物特征数据的相似度较高时,往往意味着驾驶员的驾驶状态较为稳定,或者驾驶员处于正常驾驶状态;而当两个不同时段的第一生物特征数据与第二生物特征数据的相似度较低时,意味着驾驶员的驾驶状态发生了变化,例如出现健康隐患、遭遇紧急路况等情况。生物特征数据的相似度可以直观地反映驾驶员的身体状态的变化,使驾驶员驾驶状态的变化的判断过程更加容易,从而可以及时修正车辆的驾驶状态。
可选的,所述第一时段同所述第三时段或第四时段的时间间隔小于第八预设阈值,和/或,所述第二时段同所述第三时段或第四时段的时间间隔小于第九预设阈值。
在本申请实施例中,获取脑波信号与获取生物特征信号的时间间隔应尽可能小,确保生物特征活动状态与脑波活动状态的可比性,从而为驾驶员提供更合适的驾驶服务。
结合第一方面,在第一方面的某些实现方式中,所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
例如,在第一乘积同第三乘积的和大于第六预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态;在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
在本申请实施例中,由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而生物特征活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于生物特征活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态,因此可以保证确定驾驶员驾驶状态的稳定性。另外,可以对不同的驾驶员设置不同的第六预设阈值、第一权重值、第三权重值,也可以对同一驾驶员在不同驾驶时段设置不同的第六预设阈值、第一权重值、第三权重值,因此可以为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,在所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
可选的,所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在第一乘积、第二乘积同第三乘积的和大于第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态。
在本申请实施例中,与仅考虑脑波活动状态相比,由于进一步考虑眼部活动状态、生物特征活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而眼部活动状态、生物特征活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于生物特征活动状态所对应的权重值,且脑波活动状态所对应的权重值大于眼部活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态,因此可以保证确定驾驶员驾驶状态的稳定性。另外,可以对不同的驾驶员设置不同的第七预设阈值、第一权重值、第二权重值、第三权重值,也可以对同一驾驶员在不同驾驶时段设置不同的第七预设阈值、第一权重值、第二权重值、第三权重值,因此可以为驾驶员提供个性化服务。
结合第一方面,在第一方面的某些实现方式中,所述获取驾驶员的脑波信号,包括:接收入耳式耳塞采集并发送的所述脑波信号。
在本申请实施例中,入耳式的脑波采集装置具有结构小巧、容易佩戴、舒适度高的特点,有利于增加驾驶员的体验感。
第二方面,提供了一种自动驾驶***,包括:脑波采集装置,用于采集驾驶员的脑波信号;驾驶员状态处理装置,用于根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;车辆状态处理装置,用于根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
结合第二方面,在第二方面的某些实现方式中,所述脑波采集装置具体用于,根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
结合第二方面,在第二方面的某些实现方式中,所述车辆状态处理装置具体用于,在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
结合第二方面,在第二方面的某些实现方式中,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
结合第二方面,在第二方面的某些实现方式中,所述自动驾驶***还包括:眼部数据采集装置,用于采集所述驾驶员的眼部数据;所述驾驶员状态处理装置还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述车辆状态处理装置具体用于,根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
结合第二方面,在第二方面的某些实现方式中,所述车辆状态处理装置具体用于,在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
结合第二方面,在第二方面的某些实现方式中,所述自动驾驶***还包括:生物特征数据采集装置,用于采集驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;所述驾驶员状态处理装置还用于,根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述车辆状态处理装置具体用于,根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
结合第二方面,在第二方面的某些实现方式中,所述驾驶员状态处理装置具体用于,根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
结合第二方面,在第二方面的某些实现方式中,所述车辆状态处理装置具体用于,在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
结合第二方面,在第二方面的某些实现方式中,所述自动驾驶***还包括:眼部数据采集装置,用于采集所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述驾驶员状态处理装置还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述车辆状态处理装置具体用于,在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
可选的,所述车辆状态处理装置具体用于,在第一乘积、第二乘积同第三乘积的和大于第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态。
结合第二方面,在第二方面的某些实现方式中,所述脑波采集装置为入耳式耳塞。
第三方面,提供了一种驾驶状态处理装置,包括:获取模块,用于获取驾驶员的脑波信号;处理模块,用于根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态,并根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
结合第三方面,在第三方面的某些实现方式中,所述处理模块具体用于,根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
结合第三方面,在第三方面的某些实现方式中,所述处理模块具体用于,在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
结合第三方面,在第三方面的某些实现方式中,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
结合第三方面,在第三方面的某些实现方式中,所述获取模块还用于,获取所述驾驶员的眼部数据;所述处理模块还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述处理模块具体用于,根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
结合第三方面,在第三方面的某些实现方式中,所述处理模块具体用于,在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
结合第三方面,在第三方面的某些实现方式中,所述获取模块还用于,获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;所述处理模块还用于,根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述处理模块具体用于,根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
结合第三方面,在第三方面的某些实现方式中,所述处理模块具体用于,根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
结合第三方面,在第三方面的某些实现方式中,所述处理模块具体用于,在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
结合第三方面,在第三方面的某些实现方式中,所述获取模块还用于,获取所述驾驶员的眼部数据;所述处理模块还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述处理模块具体用于,在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
可选的,所述处理模块还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述处理模块具体用于,在第一乘积、第二乘积同第三乘积的和大于第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态,
结合第三方面,在第三方面的某些实现方式中,所述获取模块具体用于,接收入耳式耳塞采集并发送的所述脑波信号。
第四方面,提供了一种驾驶状态处理装置,所述装置包括存储介质和中央处理器,所述存储介质可以是非易失性存储介质,所述存储介质中存储有计算机可执行程序,所述中央处理器与所述非易失性存储介质连接,并执行所述计算机可执行程序以实现所述第一方面或者第一方面的任一可能的实现方式中的方法。
第五方面,提供了一种自动驾驶车辆,其特征在于,包括如第二方面以及第二方面任一种可能的实现方式中的自动驾驶***。
第六方面,提供了一种自动驾驶车辆,其特征在于,包括如第三方面以及第三方面任一种可能的实现方式中的驾驶状态处理装置。
第七方面,提供一种芯片,所述芯片包括处理器与数据接口,所述处理器通过所述数据接口读取存储器上存储的指令,执行第一方面或第一方面的任一可能的实现方式中的方法。
可选地,作为一种实现方式,所述芯片还可以包括存储器,所述存储器中存储有指令,所述处理器用于执行所述存储器上存储的指令,当所述指令被执行时,所述处理器用于执行第一方面或第一方面的任一可能的实现方式中的方法。
第八方面,提供一种计算机可读存储介质,所述计算机可读介质存储用于设备执行的程序代码,所述程序代码包括用于执行第一方面或者第一方面的任一可能的实现方式中的方法的指令。
附图说明
图1是本申请实施例提供的一种自动驾驶车辆的结构示意图。
图2是本申请实施例提供的一种计算机***的结构示意图。
图3是本申请实施例提供的一种云侧指令自动驾驶车辆的应用示意图。
图4是本申请实施例提供的一种自动驾驶车辆的人机交互方法的示意性流程图。
图5是本申请实施例提供的一种耳侧佩戴装置的结构示意图。
图6是本申请实施例提供的一种耳侧佩戴装置的佩戴位置示意图。
图7是注意力集中时的一种脑波信号的示意图。
图8是注意力分散时的一种脑波信号的示意图。
图9是本申请实施例提供的一种自动驾驶***的结构性示意框图。
图10是本申请实施例提供的一种包含自动驾驶***的车内环境的示意图。
图11是本申请实施例提供的一种驾驶状态处理装置示意性结构框图。
图12是本申请实施例提供的一种驾驶状态处理装置示意性结构框图。
图13是本申请实施例提供的一种驾驶状态处理装置示意性结构框图。
具体实施方式
下面将结合附图,对本申请中的技术方案进行描述。
图1是本申请实施例提供的车辆100的功能框图。在一个实施例中,将车辆100配置为完全或部分地自动驾驶模式。例如,车辆100可以在处于自动驾驶模式中的同时控制自身,并且可通过人为操作来确定车辆及其周边环境的当前状态,确定周边环境中的至少一个其他车辆的可能行为,并确定该其他车辆执行可能行为的可能性相对应的置信水平,基于所确定的信息来控制车辆100。在车辆100处于自动驾驶模式中时,可以将车辆100置为在没有和人交互的情况下操作。
车辆100可包括各种子***,例如行进***102、传感器***104、控制***106、一个或多个***设备108以及电源110、计算机***162和用户接口116。可选地,车辆100可包括更多或更少的子***,并且每个子***可包括多个元件。另外,车辆100的每个子***和元件可以通过有线或者无线互连。
行进***102可包括为车辆100提供动力运动的组件。在一个实施例中,推进***102可包括引擎118、能量源119、传动装置120和车轮/轮胎121。引擎118可以是内燃引擎、电动机、空气压缩引擎或其他类型的引擎组合,例如汽油发动机和电动机组成的混动引擎,内燃引擎和空气压缩引擎组成的混动引擎。引擎118将能量源119转换成机械能量。
能量源119的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源119也可以为车辆100的其他***提供能量。
传动装置120可以将来自引擎118的机械动力传送到车轮121。传动装置120可包括变速箱、差速器和驱动轴。在一个实施例中,传动装置120还可以包括其他器件,比如离合器。其中,驱动轴可包括可耦合到一个或多个车轮121的一个或多个轴。
传感器***104可包括感测关于车辆100周边的环境的信息的若干个传感器。例如,传感器***104可包括定位***122(定位***可以是全球定位***(globalpositioning system,GPS)***,也可以是北斗***或者其他定位***)、惯性测量单元(inertial measurement unit,IMU)124、雷达126、激光测距仪128以及相机130。传感器***104还可包括被监视车辆100的内部***的传感器(例如,车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是自主车辆100的安全操作的关键功能。
定位***122可用于估计车辆100的地理位置。IMU 124用于基于惯性加速度来感测车辆100的位置和朝向变化。在一个实施例中,IMU 124可以是加速度计和陀螺仪的组合。
雷达126可利用无线电信号来感测车辆100的周边环境内的物体。在一些实施例中,除了感测物体以外,雷达126还可用于感测物体的速度和/或前进方向。
激光测距仪128可利用激光来感测车辆100所位于的环境中的物体。在一些实施例中,激光测距仪128可包括一个或多个激光源、激光扫描器以及一个或多个检测器,以及其他***组件。
相机130可用于捕捉车辆100的周边环境的多个图像。相机130还可用于捕捉驾驶员的面部表情。相机130可以是静态相机或视频相机。
控制***106为控制车辆100及其组件的操作。控制***106可包括各种元件,其中包括转向***132、油门134、制动单元136、传感器融合算法138、计算机视觉***140、路线控制***142以及障碍物避免***144。
转向***132可操作来调整车辆100的前进方向。例如在一个实施例中可以为方向盘***。
油门134用于控制引擎118的操作速度并进而控制车辆100的速度。
制动单元136用于控制车辆100减速。制动单元136可使用摩擦力来减慢车轮121。在其他实施例中,制动单元136可将车轮121的动能转换为电流。制动单元136也可采取其他形式来减慢车轮121转速从而控制车辆100的速度。
计算机视觉***140可以操作来处理和分析由相机130捕捉的图像以便识别车辆100周边环境中的物体和/或特征。所述物体和/或特征可包括交通信号、道路边界和障碍物。计算机视觉***140可使用物体识别算法、运动中恢复结构(structure from motion,SFM)算法、视频跟踪和其他计算机视觉技术。在一些实施例中,计算机视觉***140可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。当相机130捕捉有驾驶员的面部图像,计算机视觉***140可以分析驾驶员面部表情的特征。例如,驾驶员眼神是否有偏移,驾驶员是否正在进行话语交谈等。计算机视觉***140可使用面部识别算法。
路线控制***142用于确定车辆100的行驶路线。在一些实施例中,路线控制***142可结合来自传感器138、GPS 122和一个或多个预定地图的数据以为车辆100确定行驶路线。
障碍物避免***144用于识别、评估和避免或者以其他方式越过车辆100的环境中的潜在障碍物。
当然,在一个实例中,控制***106可以增加或替换地包括除了所示出和描述的那些以外的组件。或者也可以减少一部分上述示出的组件。
车辆100通过***设备108与外部传感器、其他车辆、其他计算机***或用户之间进行交互。***设备108可包括无线通信***146、车载电脑148、麦克风150和/或扬声器152。
在一些实施例中,***设备108提供车辆100的用户与用户接口116交互的手段。例如,车载电脑148可向车辆100的用户提供信息。用户接口116还可操作车载电脑148来接收用户的输入。车载电脑148可以通过触摸屏进行操作。在其他情况中,***设备108可提供用于车辆100与位于车内的其它设备通信的手段。例如,麦克风150可从车辆100的用户接收音频(例如,语音命令或其他音频输入)。类似地,扬声器152可向车辆100的用户输出音频。
无线通信***146可以直接地或者经由通信网络来与一个或多个设备无线通信。例如,无线通信***146可使用3G蜂窝通信,例如码分多址(code division multipleaccess,CDMA)、全球移动通信***(global system for mobile communications,GSM)、通用分组无线服务技术(general packet radio service,GPRS),或者4G蜂窝通信,例如长期演进(long term evolution,LTE)。或者5G蜂窝通信。无线通信***146可利用WiFi与无线局域网(wireless local area network,WLAN)通信。在一些实施例中,无线通信***146可利用红外链路、蓝牙等与设备直接通信。其他无线协议,例如各种车辆通信***,例如,无线通信***146可包括一个或多个专用短程通信(dedicated short range communications,DSRC)设备,这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
电源110可向车辆100的各种组件提供电力。在一个实施例中,电源110可以为可再充电锂离子或铅酸电池。这种电池的一个或多个电池组可被配置为电源为车辆100的各种组件提供电力。在一些实施例中,电源110和能量源119可一起实现,例如一些全电动车中那样。
车辆100的部分或所有功能受计算机***162控制。计算机***162可包括至少一个处理器163,处理器163执行存储在例如数据存储装置114这样的非暂态计算机可读介质中的指令165。计算机***162还可以是采用分布式方式控制车辆100的个体组件或子***的多个计算设备。
处理器163可以是任何常规的处理器,诸如商业可获得的中央处理器(centralprocessing unit,CPU)。替选地,该处理器可以是诸如ASIC或其它基于硬件的处理器的专用设备。尽管图1功能性地图示了处理器、存储器、和在相同块中的计算机110的其它元件,但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如,存储器可以是硬盘驱动器或位于不同于计算机110的外壳内的其它存储介质。因此,对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤,诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器,所述处理器只执行与特定于组件的功能相关的计算。
在此处所描述的各个方面中,处理器可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中,此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行,包括采取执行单一操纵的必要步骤。
在一些实施例中,数据存储装置114可包含指令165(例如,程序逻辑),指令165可被处理器163执行来执行车辆100的各种功能,包括以上描述的那些功能。数据存储装置114也可包含额外的指令,包括向推进***102、传感器***104、控制***106和***设备108中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令165以外,数据存储装置114还可存储数据,例如道路地图、路线信息,车辆的位置、方向、速度以及其它这样的车辆数据,以及其他信息。这种信息可在车辆100在自主、半自主和/或手动模式中操作期间被车辆100和计算机***162使用。
用户接口116,用于向车辆100的用户提供信息或从其接收信息。可选地,用户接口116可包括在***设备108的集合内的一个或多个输入/输出设备,例如无线通信***146、车车在电脑148、麦克风150和扬声器152。
计算机***162可基于从各种子***(例如,行进***102、传感器***104和控制***106)以及从用户接口116接收的输入来控制车辆100的功能。例如,计算机***162可利用来自控制***106的输入以便控制转向单元132来避免由传感器***104和障碍物避免***144检测到的障碍物。在一些实施例中,计算机***162可操作来对车辆100及其子***的许多方面提供控制。
可选地,上述这些组件中的一个或多个可与车辆100分开安装或关联。例如,数据存储装置114可以部分或完全地与车辆1100分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地,上述组件只是一个示例,实际应用中,上述各个模块中的组件有可能根据实际需要增添或者删除,图1不应理解为对本申请实施例的限制。
在道路行进的自动驾驶汽车,如上面的车辆100,可以识别其周围环境内的物体以确定对当前速度的调整。所述物体可以是其它车辆、交通控制设备、或者其它类型的物体。在一些示例中,可以独立地考虑每个识别的物体,并且基于物体的各自的特性,诸如它的当前速度、加速度、与车辆的间距等,可以用来确定自动驾驶汽车所要调整的速度。
可选地,自动驾驶汽车车辆100或者与自动驾驶车辆100相关联的计算设备(如图1的计算机***162、计算机视觉***140、数据存储装置114)可以基于所识别的物体的特性和周围环境的状态(例如,交通、雨、道路上的冰、等等)来预测所述识别的物体的行为。可选地,每一个所识别的物体都依赖于彼此的行为,因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆100能够基于预测的所述识别的物体的行为来调整它的速度。换句话说,自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到(例如,加速、减速、或者停止)什么稳定状态。在这个过程中,也可以考虑其它因素来确定车辆100的速度,诸如,车辆100在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外,计算设备还可以提供修改车辆100的转向角的指令,以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如,道路上的相邻车道中的轿车)的安全横向和纵向距离。
可选的,可选地,自动驾驶汽车车辆100或者与自动驾驶车辆100相关联的计算设备(如图1的计算机***162、计算机视觉***140、数据存储装置114)可以基于驾驶员的面部表情(例如,驾驶员眼神是否涣散、驾驶员是否与他人用言语交谈等)来预测驾驶员在驾驶过程中的注意力。车辆100能够基于驾驶员的注意力,启动或关闭自身的辅助驾驶功能。换句话说,自动驾驶汽车能够基于驾驶员的注意力,确定车辆的自动驾驶级别为L0-L5中的一个。
L0:驾驶员完全掌控车辆。
L1:自动***有时能够辅助驾驶员完成某些驾驶任务。
L2:自动***能够完成某些驾驶任务,但驾驶员需要监控驾驶环境,完成剩余部分,同时保证出现问题,随时进行接管。在这个层级,自动***的错误感知和判断有驾驶员随时纠正。L2可以通过速度和环境分割成不同的使用场景,如环路低速堵车、高速路上的快速行车和驾驶员在车内的自动泊车。
L3:自动***既能完成某些驾驶任务,也能在某些情况下监控驾驶环境,但驾驶员必须准备好重新取得驾驶控制权(自动***发出请求时)。所以在该层级下,驾驶者仍无法进行睡觉或者深度的休息。
L4:自动***在某些环境和特定条件下,能够完成驾驶任务并监控驾驶环境。这个阶段下,在自动驾驶可以运行的范围内,驾驶相关的所有任务和驾乘人已经没关系了,感知外界责任全在自动驾驶***。
L5:自动***在所有条件下都能完成的所有驾驶任务。
上述车辆100可以为轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车、和手推车等,本申请实施例不做特别的限定。
图2是本申请实施例提供的自动驾驶***的示意图。
如图2所示的自动驾驶***包括计算机***101,其中,计算机***101包括处理器103,处理器103和***总线105耦合。处理器103可以是一个或者多个处理器,其中每个处理器都可以包括一个或多个处理器核。显示适配器(video adapter)107,显示适配器可以驱动显示器109,显示器109和***总线105耦合。***总线105通过总线桥111和输入输出(input/output,I/O)总线113耦合。I/O接口115和I/O总线耦合。I/O接口115和多种I/O设备进行通信,比如输入设备117(如:键盘,鼠标,触摸屏等),多媒体盘(media tray)121,(例如,只读光盘(compact disc read-only memory,CD-ROM),多媒体接口等)。收发器123(可以发送和/或接受无线电通信信号),摄像头155(可以捕捉景田和动态数字视频图像)和外部通用串行总线(universal serial bus,USB)接口125。其中,可选地,和I/O接口115相连接的接口可以是USB接口。
其中,处理器103可以是任何传统处理器,包括精简指令集计算(reducedinstruction set computer,RISC)处理器、复杂指令集计算(complex instruction setcomputer,CISC)处理器或上述的组合。可选地,处理器可以是诸如专用集成电路(application specific integrated circuit,ASIC)的专用装置。可选地,处理器103可以是神经网络处理器或者是神经网络处理器和上述传统处理器的组合。
可选地,在本文所述的各种实施例中,计算机***101可位于远离自动驾驶车辆的地方,并且可与自动驾驶车辆无线通信。在其它方面,本文所述的一些过程在设置在自动驾驶车辆内的处理器上执行,其它由远程处理器执行,包括采取执行单个操纵所需的动作。
计算机101可以通过网络接口129和软件部署服务器149通信。网络接口129是硬件网络接口,比如,网卡。网络127可以是外部网络,比如因特网,也可以是内部网络,比如以太网或者虚拟私人网络(virtual private network,VPN)。可选地,网络127还可以是无线网络,比如WiFi网络,蜂窝网络等。
硬盘驱动接口和***总线105耦合。硬件驱动接口和硬盘驱动器相连接。***内存135和***总线105耦合。运行在***内存135的数据可以包括计算机101的操作***137和应用程序143。
操作***包括解析器139(shell)和内核141(kernel)。shell 139是介于使用者和操作***之内核(kernel)间的一个接口。shell是操作***最外面的一层。shell管理使用者与操作***之间的交互:等待使用者的输入,向操作***解释使用者的输入,并且处理各种各样的操作***的输出结果。
内核141由操作***中用于管理存储器、文件、外设和***资源的那些部分组成。直接与硬件交互,操作***内核通常运行进程,并提供进程间的通信,提供CPU时间片管理、中断、内存管理、输入输出管理等等。
应用程序143包括控制汽车自动驾驶相关的程序,比如,管理自动驾驶的汽车和路上障碍物交互的程序,控制自动驾驶汽车路线或者速度的程序,控制自动驾驶汽车和路上其他自动驾驶汽车交互的程序。应用程序143也存在于deploying server 149的***上。在一个实施例中,在需要执行应用程序147时,计算机***101可以从deploying server14下载应用程序143。
例如,应用程序141还可以是控制自动驾驶车辆避免与其它车辆碰撞,安全通过交叉路口的程序。
又如,应用程序141还可以是控制自动驾驶车辆启动或关闭辅助自动驾驶功能的程序。
传感器153和计算机***101关联。传感器153用于探测计算机101周围的环境。举例来说,传感器153可以探测动物,汽车,障碍物和人行横道等,进一步传感器还可以探测上述动物,汽车,障碍物和人行横道等物体周围的环境,比如:动物周围的环境,例如,动物周围出现的其他动物,天气条件,周围环境的光亮度等。可选地,如果计算机101位于自动驾驶的汽车上,传感器可以是摄像头,红外线感应器,化学检测器,麦克风等。
图1中的计算机***162还可以从其它计算机***接收信息或转移信息到其它计算机***。或者,从车辆100的传感器***104收集的传感器数据可以被转移到另一个计算机对此数据进行处理。
例如,如图3所示,来自计算机***312的数据可以经由网络被传送到云侧的服务器320用于进一步的处理。网络以及中间节点可以包括各种配置和协议,包括因特网、万维网、内联网、虚拟专用网络、广域网、局域网、使用一个或多个公司的专有通信协议的专用网络、以太网、WiFi和超文本传输协议(hyper text transfer protocol,HTTP)、以及前述的各种组合。这种通信可以由能够传送数据到其它计算机和从其它计算机传送数据的任何设备,诸如调制解调器和无线接口。例如,将驾驶员的注意力数据传送至云侧的服务器320以进一步处理,云侧服务器可以利用多种神经网络模型对注意力数据进行识别、处理,并将驾驶员的注意力识别结果反馈计算机***312,使得计算机***312可以确认是否开启或关闭辅助自动驾驶功能。
在一个示例中,服务器320可以包括具有多个计算机的服务器,例如负载均衡服务器群,为了从计算机***312接收、处理并传送数据的目的,其与网络的不同节点交换信息。该服务器可以被类似于计算机***312配置,具有处理器330、存储器340、指令350、和数据360。
自动驾驶***可以包含若干辅助自动驾驶功能。例如预碰撞安全制动(pre-collision system,PCS)、自适应巡航控制(adaptive cruise control,ACC),车道保持辅助(lane keeping aid,LKA),横穿交通警告(cross traffic alert,CTA)、车尾横穿交通警告(rear cross traffic alert,RCTA)、盲点报警(blind spot warning,BSW)、关闭车辆报警以及交通拥堵辅助(traffic jam assist,TJA)等。
因人的智力、反应速度、身体状态、性格不同,不同的驾驶员通常有不同的驾驶***较高,能够处理复杂的交通问题,而有一部分驾驶员的驾驶水平较低,往往需要低速、小心行驶。也就是说,即使车辆行驶在相同的路况,不同的驾驶员会表现出不同的驾驶反应,例如有一些驾驶员反应敏捷,而有一些驾驶员反应迟钝。也就是说,驾驶员的智力、反应速度、身体状态、性格对驾驶员的真实驾驶状态影响较大,因此获取驾驶员的真实驾驶状态的难度很大。如果无法准确感知驾驶员真实的内心活动或真实的驾驶状态,就无法提供用户体验度高的自动驾驶服务。
为此,本申请提供了一种自动驾驶车辆的人车交互的方法,通过对驾驶员的脑波数据进行处理以识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶功能。图4所示的方法400可以由图1所示自动驾驶车辆,或者,图2所示的自动驾驶***,或者图3所示的服务器320来执行。
401,获取驾驶员的脑波信号。
脑波信号又可以被称为脑电(electroencephalogram,EEG)信号,是大脑活动的外在体现,不同的大脑活动表现为具有不同特征的脑波。通过监测脑波,可以监测到驾驶员的大脑活动状态。脑波是脑神经细胞电生理活动在大脑皮层或头皮表面的总体反映。脑波中包含了大量的生理与疾病信息,在临床医学方面脑波可为脑疾病提供诊断依据。在平时的人类活动中,主要会产生α、β、γ、θ脑波。
θ波:频率分布在4Hz到7Hz之间,幅度在20uv到40uv之间,属于慢波,主要出现在枕部和顶枕部,且左右两边对称,在人困倦或者浅睡时一般可以测到,同时与人的心理状态存在着普遍的联系。通常在情绪低落、遇到挫折、或者困倦时,中枢神经处于抑制状态下该波会出现。
δ波:频率分布在1Hz到4Hz之间,波幅在20uv到200uv之间,在鼎业和脑垂体的表现比较明显,在婴儿时期或者智力发育还不成熟的时期表现较为显著,和θ波一样,也属于慢波。正常情况下,δ波只存在于季度缺乏氧气,深睡状态或者存在脑科病变等状态。
α波:频率分布在8Hz到12Hz之间,波幅在25uv到75uv之间,主要出现在顶枕部,并且双侧基本保持同步,是正常人EEG该有的基本节律。处于思考、静息状态时该波表现较为明显,当个体发生具有目标性的活动、睁眼或收到其他刺激时,该波会消失,β波取而代之。
β波:频率分布于14Hz到30Hz之间,波幅约为δ波的一半,主要出现在额头部位和中央区,该波的频率显著代表了大脑皮层的亢奋层度,个体在清醒状态和思睡觉期会出现。
在一个示例中,获取脑波的方式可以是分别获取枕部、顶针部、鼎业、脑垂体、额头等位置的脑波。例如,在驾驶员的头部穿戴有头套,头套内设置有多个脑波采集模块,该多个脑波采集模块与上述枕部、顶针部、鼎业、脑垂体、额头等位置对应,从而测量上述位置的脑波,因此可以得到驾驶员的α、β、γ、θ脑波。
在一个示例中,获取脑波的方式可以是通过耳侧佩戴装置测量驾驶员脑波。本申请实施例中的耳侧指的是人体耳朵上以及耳朵附近可以测量得到生物电信号的区域,如耳道内侧,耳廓,耳沟,耳背,以及耳周等位置。耳侧佩戴装置可以有多种形态,例如可以是耳机形态,也可以是耳塞的形态。图5所示为一种用于测量脑波的入耳式耳塞,耳塞包括耳塞本体501,柔性电极载体502和多个表面柔性电极503。柔性电极载体502提供一个足够弹性的支撑,确保附着在柔性电极载体502表面的多个柔性电极503和用户的耳侧表面形成紧密贴合,确保稳定地采集用户的脑电波信号。510部分示例性地呈现了一种表面柔性电极503的构成,包括呈现等角120°分布的生物感测柔性电极503A,生物感测柔性电极503B,接地的公共柔性电极503C,504是耳塞孔。针对另一些可行的实施例,附着在柔性电极载体502表面的生物感测柔性电极503可以只有1个或2个,而将耳塞本体501连接接地的公共柔性电极。或者在其他一些可行的实施例中,接地的公共柔性电极也可以采取耳廓支架上的电极触电来实现等多种方式。图5中耳塞形态的耳侧佩戴装置的佩戴示意图如图6所示,其中601为用户的耳道,602为脑波信号测量的入耳式的耳塞,603为柔性电极,604为用户的耳廓。从图6可以看出,佩戴时柔性电极载体表面的多个柔性电极603和用户的耳道601内表面形成紧密贴合,和用户的头部形成一个测量***。虽然图中没有示出,耳侧佩戴装置还可以,包括通信模块用于接收或者发送信号(如脑波信号)。
可选的,所述方法还包括:去伪迹处理。
也就是去除与脑波信号无关的信号。
在人体内部,有很多地方都产生电现象,最常见的就是神经传导,一个神经元接收刺激后传递生物电给下一个神经元,这种电现象是随着人类的存活无时无刻都在发生的,人类的每一个微小的表情都与神经电流的传导息息相关。不仅神经细胞如此,人体内的器官也能产生不同程度、不同强弱的生物电信号,然而,在测量脑电时,其他生物电信号也同样的混杂其中,因为不能完全提取到初凝的脑电原始信号,基本都是混杂着来自人体不同的生物电,其影响或大或小。除此之外,人类的表情、肢体动作也能很大的影响脑波信号,如心脏跳动、肌肉动作、眨眼动作、深呼吸、皮肤排汗等等。同时,温度的差异也会噪声生物电信号不同程度的强弱变化,若环境温度较低,会引起少数人的寒颤及抖动,这些动作幅度都比较大,对脑电也可以造成干扰。例如,滤除大于32Hz的波形(不是脑波信号所在频段的信号)。
可选的,所述方法还包括:数字化编码:是对脑波信号进行数字化编码,将脑波信号转化为数字信号。
其中去伪迹处理可以对生物电信号进行,也可以是针对特征提取的后脑波信号来进行。
402,根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态。
脑波信号可以用于表征驾驶员的脑波活动状态。脑波活动状态可以包括注意力集中、注意力分散、正常驾驶、应急反应、注意力水平等。也就是说,脑波信号可以反映驾驶员的注意力为集中状态或分散状态,和/或脑波信号可以反映驾驶员响应交通状况的大脑活动变化(即驾驶员在正常驾驶和遭遇紧急状况时产生的脑波信号不同)。当脑部活动状态为注意力水平时,脑部活动状态可以是一个数值。该数值较大则驾驶员的注意力可以较集中,该数值较小则驾驶员的注意力可以较分散。
如图7所示为注意力集中时脑波信号的示意图。图8所示为注意力分散时脑波信号的示意图。当驾驶员的注意力较集中的情况下,脑波活动状态为注意力集中,或者注意力水平较高,脑波信号往往较为稳定,几乎不会发生波动。而当驾驶员的注意力分散的情况下,脑波活动状态为注意力分散,或者注意力水平较低,脑波信号会发生波动、震荡。驾驶员注意力分散的表现例如可以是发呆、同时关注多个事物、无法集中注意力等情况。
另外,在观察不同类型的事物时,驾驶员大脑通常会采取不同的注意力。驾驶员观察交通路况和关注非路况信息的注意力往往是不同的。因此,当驾驶员从观察交通路况转移至关注其他非交通信息时(例如转移至电话沟通、通讯交流等),驾驶员的注意力会发生波动,导致驾驶员的脑波信号发生突变、震荡等情况。
可选的,根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
也就是说,当两个不同时段的第一脑波信号与第二脑波信号的相似度较高时,往往意味着驾驶员的注意力集中,或者驾驶员处于正常驾驶状态;而当两个不同时段的第一脑波信号与第二脑波信号的相似度较低时,意味着驾驶员的注意力发生了变化,例如出现注意力分散、注意力转移、遭遇紧急路况等情况。并且,为了确保第一脑波信号与第二脑波信号之间的可比性,第一时段与第二时段之间的时间间隔要小于第一预设阈值。
一种情况,第一时段的起始时刻与第二时段的起始时刻之间的时间间隔小于第一预设阈值。
一种情况,第一时段早于第二时段,且第一时段的中止时刻与第二时段的起始时刻之间的时间间隔小于第一预设阈值。
可选的,第一时段与第二时段可以有重叠。
可选的,第一时段、第二时段的时长可以是脑波信号处理的单位时长。
特别地,第一时段与第二时段不能是相同的时段。如果第一时段与第二时段相同,意味着第一时段的起始时刻与第二时段的起始时刻相同、第一时段的中止时刻与第二时段的中止时刻相同。如果第一时段与第二时段相同,那么第一脑波信号与第二脑波信号将完全相同,相似度为1或为极大值,不能反映驾驶员的真实脑波活动状态。
下面通过一个示例阐述根据第一时段的第一脑波信号以及第二时段的第二脑波信号之间的相似度,确定驾驶员的脑波活动状态的实现方式。可以理解的是,该示例仅是为了帮助本领域技术人员更好地理解本申请的技术方案,而并非是对本申请技术方案的限制。在受益于前述描述和相关附图中呈现的指导启示下,本领域技术人员将会想到本申请的许多改进和其他实施例。因此,应理解,本申请不限于所公开的特定实施例。
A,截取第一时段的第一脑波信号,获得N个信号采样点,u1(1),u1(2),...,u1(N),N为大于1的整数。该N个信号采样点可以是等时间间隔的N个信号采样点。
B,基于该N个信号采样点,分别以u1(1),u1(2),…,u1(N-m+1)为起始点依次截取m个采样点来构造出N-m+1个m维向量,所构建的N-m+1个m维向量为X1(1),X1(2),...,X1(N-m+1),其中X1(i)=[u(i),u(i+1),...,u(i+m-1)],i≤N-m+1且i为正整数,m为小于N的正整数。
C,确定X1(i)与X1(1),...,X1(i-1),X1(i+1),...,X1(i-m+1)之间的距离分别为r1,i(1),...,r1,i(i-1),r1,i(i+1),...,r1,i(i-m+1),确定r1,i(1),...,r1,i(i-1),r1,i(i+1),...,r1,i(i-m+1)中小于或等于r的数目为B1(i)。即B1(i)=(number of X(j)such thatd[X(i),X(j)]≤r)/(N-m),i≠j,且i、j的取值范围为[1,N-m+1]。求B1(i)对所有i值的平均值,记为B1,即B1=(B1(1)+…+B1(i)+…+B1(N-m+1))/(N-m+1)-1。
r为一个预设值,例如,r的取值可以和上述采样点的标准差δ相关,取值可以在0.1δ至0.3δ之间。
d[X(i),X(j)]可以被定义为d[X(i),X(j)]=max|ui(a)-uj(a)|,i≠j。ui(a)为向量X(i)的a维度元素,ui(a)为向量X(j)的a维度元素。也就是说,d表示向量X(i)与X(j)的距离,向量X(i)与X(j)的距离由对应元素的差值中的最大差值决定。例如X(1)=[2,3,4,6],X(2)=[4,5,7,10],则对应元素的最大差值为|6-10|=4,因此d[X(1),X(2)]=4。
D,基于所述N个信号采样点,分别以u(1),u(2),…,u(N-m)为起始点依次截取m+1个采样点来构造出N-m个m+1维向量,所构建的N-m个m+1维向量为X2(1),X2(2),...,X2(N-m+1),其中X2(i)=[u(i),u(i+1),...,u(i+m)],i≤N-m且i为正整数。
E,确定X2(i)与X2(1),...,X2(i-1),X2(i+1),...,X2(i-m)之间的距离分别为r2,i(1),...,r2,i(i-1),r2,i(i+1),...,r2,i(i-m),确定r2,i(1),...,r2,i(i-1),r2,i(i+1),...,r2,i(i-m)中小于或等于r的数目为B2(i)。即B2(i)=(number of X(j)such that d[X(i),X(j)]≤r)/(N-m-1),i≠j,且i、j的取值范围为[1,N-m]。求B2(i)对所有i值的平均值,记为B2,即B2=(B2(1)+…+B2(i)+…+B2(N-m-))/(N-m-)-1。
F,基于B1与B2确定脑波信号的样本熵SampEn。SampEn={-ln[B2/B1]}。样本熵SampEn可以是一种脑波活动状态。
其中A-F的顺序并不固定,比如B、C和D、E的实施并没有固定的先后顺序。如D、E可以在B、C之前进行,也可以同时进行D、B和/或同时进行E、C,或者时间上部分重叠地实施。
当m取N-2时,X1(1)=[u(1),...,u(N-2)],X1(2)=[u(2),...,u(N-1)],X1(3)=[u(3),...,u(N)],X1(1)可以是用于表征第一时段的第一脑波信号,X1(2)可以是用于表征第二时段的第二脑波信号,X1(3)可以是用于表征第三时段的第三脑波信号。B1(1)、B1(2)或B1(3)可以用于表征第一脑波信号与第二脑波信号、第一脑波信号与第三脑波信号或者第二脑波信号与第三脑波信号之间的相似度。
当m取N-1时,X2(1)=[u(1),...,u(N-1)],X2(2)=[u(2),...,u(N)],X2(1)可以是用于表征第四时段的第四脑波信号,X2(2)可以是用于表征第五时段的第五脑波信号。B2(1)或B2(2)可以用于表征第四脑波信号与第五脑波信号之间的相似度。
可选的,根据脑波信号中α、β、γ、θ脑波在脑波信号中的占比,确定所述脑波活动状态。
由于α、β、γ、θ脑波所反映的状态不同,因此可以通过α、β、γ、θ脑波的占比确定驾驶员的脑波活动状态。
例如,在α脑波的占比较高的情况下,驾驶员的注意力可以是较为集中的,或者驾驶员正处于正常驾驶状态。相反,在α脑波的占比由高变低时,驾驶员的脑波活动可能发生了注意力转移、注意力分散,或者驾驶员正在遭遇紧急路况。
又如,在第一时段对驾驶员的脑波进行采集,得到α、β、γ、θ脑波的平均占比分别为W1、W2、W3、W4,在第二时段对驾驶员的脑波进行采集,得到α、β、γ、θ脑波的平均占比分别为W5、W6、W7、W8。分析W1与W5、W2与W6、W3与W7、W4与W8相似度,确定驾驶员的脑波是否发生了变化。若未发生变化,则驾驶员的注意力可以是较为集中的,或者驾驶员正处于正常驾驶状态。若发送了变化,则驾驶员的脑波活动可能发生了注意力转移、注意力分散,或者驾驶员正在遭遇紧急路况。
可选的,根据驾驶员的当前脑波信号与预设脑波信号之间的相似度,确定当前驾驶员的脑波活动状态。
例如,可以将驾驶员当前的脑波信号周期与预设脑波信号进行比对。若比对结果为大致相同,那么驾驶员的注意力可以是较为集中的,或者驾驶员正处于正常驾驶状态;若比对结果为相差较大,那么驾驶员的脑波活动可能发生了注意力转移、注意力分散,或者驾驶员正在遭遇紧急路况。
又如,可以将驾驶员当前脑波中α、β、γ、θ脑波的占比与预设脑波占比进行比对。若比对结果为大致相同,那么驾驶员的注意力可以是较为集中的,或者驾驶员正处于正常驾驶状态;若比对结果为相差较大,那么驾驶员的脑波活动可能发生了注意力转移、注意力分散,或者驾驶员正在遭遇紧急路况。
可以通过预先采集驾驶员正常驾驶过程中的脑波信号,得到该预设脑波信号。由于有一些驾驶员的反应敏捷、有一些驾驶员的反应迟钝,在面对相同的紧急状况时,不同驾驶员的脑部反应通常并不相同。例如,不同驾驶员的注意力峰值可能是不同的。也就是说,在驾驶过程中有一些驾驶员集中注意力的能力相对更强,在驾驶过程中另一些驾驶员集中注意力的能力相对较弱。因此,若预设脑波信号是引人而异的,脑波活动状态也就能够体现驾驶员的独特性,因此更容易为用户提供优质的自动驾驶服务。
403,根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
人工驾驶状态可以指不启动或启动极少辅助驾驶功能的驾驶状态。在人工驾驶状态下,驾驶员需要及时响应全部或几乎全部路况信息。人工驾驶状态例如可以是上文中自动驾驶级别为L0的驾驶状态。
辅助自动驾驶状态启动了部分或全部辅助驾驶功能的驾驶状态,可以为用户提供一定的辅助功能,使得驾驶员可以对部分或全部路况信息不作响应。辅助自动驾驶状态例如可以是上文中自动驾驶级别为L1-L5的一个或多个驾驶状态。
辅助驾驶功能可以包括预碰撞安全制动(pre-collision system,PCS)、自适应巡航控制(adaptive cruise control,ACC),车道保持辅助(lane keeping aid,LKA),横穿交通警告(cross traffic alert,CTA)、车尾横穿交通警告(rear cross traffic alert,RCTA)、盲点报警(blind spot warning,BSW)、关闭车辆报警以及交通拥堵辅助(trafficjam assist,TJA)中的至少一种。
由于脑波信号可以反映驾驶员的思维和心理活动,因此可以根据脑波信号判断驾驶员的驾驶状态,从而为驾驶员提供合适的自动驾驶服务。
在一个示例中,可以仅根据脑波信号分析驾驶员的驾驶状态,并控制自动驾驶车辆的驾驶状态。也就是说,将驾驶员的脑波活动状态视为驾驶员的驾驶状态,仅根据驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,一种方式是,在脑波活动状态持续低于第二预设阈值的情况下,维持当前自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;另一种方式是,在脑波活动状态从高于第二预设阈值转变为低于第二预设阈值的情况下,将当前自动驾驶车辆的驾驶状态从人工驾驶状态转变为辅助自动驾驶状态;一种方式是,在启动车辆时检测驾驶员的脑波活动状态,在驾驶员的脑波活动状态低于第二预设阈值的情况下,确定车辆启动后的驾驶状态为所述辅助自动驾驶状态。
可选的,所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述脑波活动状态高于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态。
控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态,一种方式是,在脑波活动状态持续高于第二预设阈值的情况下,维持当前自动驾驶车辆的驾驶状态为所述人工驾驶状态;另一种方式是,在脑波活动状态从低于第二预设阈值转变为高于第二预设阈值的情况下,将当前自动驾驶车辆的驾驶状态从辅助自动驾驶状态转变为人工驾驶状态;一种方式是,在启动车辆时检测驾驶员的脑波活动状态,在驾驶员的脑波活动状态高于第二预设阈值的情况下,确定车辆启动后的驾驶状态为所述人工驾驶状态。
也就是说,在所述脑波活动状态高于第二预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态,在所述脑波活动状态低于所述第二预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
脑波活动状态较高可以意味着驾驶员的驾驶状态为注意力集中或处于正常驾驶状态,脑波活动状态较低可以意味着驾驶员的驾驶状态为注意力分散、注意力转移或正在遭遇紧急路况。因此,在驾驶员注意力集中或处于正常驾驶状态的情况下,自动驾驶车辆的驾驶状态为人工驾驶状态,使驾驶员可以自由地控制、驾驶车辆;在驾驶员发生注意力分散、注意力转移或正在遭遇紧急路况的情况下,自动驾驶车辆的驾驶状态为辅助自动驾驶状态,从而可以及时为驾驶员提供自动驾驶服务,避免出现安全隐患。
可选的,该第二预设阈值可以是通过神经网络模型训练得到。
例如可以将驾驶员的脑波信号以及对应时段由驾驶员选择的驾驶状态输入神经网络模型,从而得到训练后的第二预设阈值。
由于有一些驾驶员的反应敏捷、有一些驾驶员的反应迟钝,在面对相同的紧急状况时,不同驾驶员的脑部反应通常并不相同。因此,对于不同的驾驶员,第二预设阈值的具体取值往往不同。
例如,驾驶员A集中注意力的能力相对更强,驾驶员B集中注意力的能力相对较弱,驾驶员A比驾驶员B更能够及时响应复杂路况。因此,与驾驶员A对应的第二预设阈值1应当低于与驾驶员B对应的第二预设阈值2。也就是说,驾驶员B更容易满足启动辅助自动驾驶服务的条件。
又如,驾驶员在短时间驾驶、长时间驾驶的注意力集中度不同,因此,可以根据驾驶时长不同,设置不同的第二预设阈值,以保证长时间驾驶的安全性。
可选的,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
也就是说,当驾驶员的驾驶状态需要控制自动驾驶车辆处于辅助自动驾驶状态时,还可以根据驾驶员的驾驶状态进一步判断自动驾驶车辆应当处于何种驾驶级别(如全文所述的L1-L5级别)。例如,驾驶员的注意力越低,自动驾驶车辆所提供的辅助自动驾驶服务就越多。
第二类型辅助自动驾驶状态的自动化水平高于第一类型辅助自动驾驶状态,例如可以是第二类型辅助自动驾驶状态对应开启的辅助自动驾驶功能对于第一类型辅助自动驾驶状态对应开启的辅助自动驾驶功能。比如当自动驾驶车辆处于第二类型辅助自动驾驶状态时,将会开启5个辅助自动驾驶功能;当自动驾驶车辆处于第一类型辅助自动驾驶状态时,将会开启3个辅助自动驾驶功能。
第二类型辅助自动驾驶状态的自动化水平高于第一类型辅助自动驾驶状态,例如可以是第二类型辅助自动驾驶状态对应开启的辅助自动驾驶功能包含第一类型辅助自动驾驶状态对应开启的辅助自动驾驶功能。比如当自动驾驶车辆处于第二类型辅助自动驾驶状态时,将会开启辅助驾驶功能可以包括预碰撞安全制动、自适应巡航控制,车道保持辅助,横穿交通警告、车尾横穿交通警告、盲点报警、关闭车辆报警以及交通拥堵辅助;当自动驾驶车辆处于第一类型辅助自动驾驶状态时,将会开启预碰撞安全制动、车尾横穿交通警告、盲点报警、关闭车辆报警以及交通拥堵辅助。
可选的,该第三预设阈值可以是通过神经网络模型训练得到。
在一个示例中,根据脑波活动状态、眼部活动状态控制自动驾驶车辆的驾驶状态。也就是说,综合考虑脑波信号、眼部数据可以得到驾驶员的驾驶状态,并依据驾驶员的驾驶状态控制自动驾驶车辆的驾驶状态。
可选的,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
获取驾驶员眼部数据的方法可以是通过摄像头拍摄驾驶员的面部或眼部图片,并眼部图像信息。眼部数据可以包括多个时刻的眼部图像信息。
眼部活动状态主要包括眼神是否发生偏移、眼神偏移程度,眼神偏移的起始方向以及中止方向、眨眼频率、眼部疲劳程度等。
眼部活动状态可以是一个数值。当眼部活动状态的数值较小时,可能是驾驶员出现了眼神明显偏移、眼部疲劳等情况,也就意味着驾驶员的驾驶状态较差,无法适应复杂交通路况;当眼部活动状态的数值较大时,可能是驾驶员眼神未偏移,也就意味着驾驶员的驾驶状态为优,可以适应复杂交通路况。
确定驾驶员的眼部活动状态的一种方式可以是判断多个时刻的眼部图像信息的相似度。例如第一时刻的第一眼部图像信息与第二时刻的第二眼部图像信息比较,当眼部图像信息的相似度较低时,说明眼神可能发生的偏移。
确定驾驶员的眼部活动状态的另一种方式可以是将眼部数据输入神经网络模型,通过神经网络模型对图像进行识别,可以得到眼神是否发送偏移、眼神偏移程度,眼神偏移的起始方向以及中止方向、眨眼频率、眼部疲劳程度等识别结果。
与仅考虑脑波活动状态相比,由于进一步考虑眼部活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。
特别地,眼神未发生偏移并不意味着驾驶员的注意力是集中的,眼神发生偏移也并不意味着驾驶员的注意力是不集中的。因此会出现眼部活动状态与脑波活动状态不符的情况。
一种可能的方式,将脑波活动状态、眼部活动状态视为一个组合,根据组合(脑波活动状态,眼部活动状态)所对应的驾驶状态控制所述自动驾驶车辆的驾驶状态。
例如,当脑波活动状态为正常行驶、眼部活动状态为眼神偏移,则控制自动驾驶车辆的驾驶状态为人工驾驶状态;当脑波活动状态为正常行驶、眼部活动状态为眼部出现疲劳,则控制自动驾驶车辆的驾驶状态为辅助自动驾驶状态;当脑波活动状态为注意力分散、眼部活动状态为眼神未偏移,则控制自动驾驶车辆的驾驶状态为辅助自动驾驶状态。
可选的,所述根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
也就是说,在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
可选的,所述根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
也就是说,在第一乘积同第二乘积的和大于第四预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态。
第一乘积同第二乘积的和可以反映驾驶员的驾驶状态。由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而眼部活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于眼部活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态。
可选的,第四预设阈值可以是通过神经网络模型训练得到。
可选的,第一权重值可以是通过神经网络模型训练得到。
可选的,第二权重值可以是通过神经网络模型训练得到。
例如可以将驾驶员的脑波信号、眼神数据以及对应时段由驾驶员选择的驾驶状态输入神经网络模型,从而得到训练后的第四预设阈值、第一权重值、第二权重值中的一个或多个。
特别地,当第二权重值为0的情况下,则可以认为在确定驾驶员的驾驶状态时不考虑眼部活动状态。
由于有一些驾驶员的反应敏捷、有一些驾驶员的反应迟钝,在面对相同的紧急状况时,不同驾驶员的脑部反应通常并不相同。因此,对于不同的驾驶员,第四预设阈值的具体取值往往不同。由于驾驶员的独特性,为了提高用户体验度,可以根据驾驶员的喜好、习惯等确认第一权重值、第二权重值。
例如,驾驶员A集中注意力的能力相对更强,驾驶员B集中注意力的能力相对较弱,驾驶员A比驾驶员B更能够及时响应复杂路况。因此,与驾驶员A对应的第四预设阈值1应当低于与驾驶员B对应的第四预设阈值2。也就是说,驾驶员B更容易满足启动辅助自动驾驶服务的条件。
又如,驾驶员在短时间驾驶、长时间驾驶的注意力集中度不同,因此,可以根据驾驶时长不同,设置不同的第四预设阈值,以保证长时间驾驶的安全性。
在一个示例中,根据脑波活动状态、生物特征活动状态控制自动驾驶车辆的驾驶状态。也就是说,综合考虑脑波信号、生物特征数据可以得到驾驶员的驾驶状态,并依据驾驶员的驾驶状态控制自动驾驶车辆的驾驶状态。
可选的,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。获取驾驶员眼部数据的方法可以是通过摄像头拍摄驾驶员的面部或眼部图片,并眼部图像信息。眼部数据可以包括多个时刻的眼部图像信息。
获取生物特征的一种方式可以是通过驾驶员佩戴的手表,获取驾驶员的生物特征数据,如脉搏数据以及心跳数据。
获取生物特征的一种方式可以是通过设置在驾驶座椅上的生物特征采集装置,获取驾驶员的生物特征数据,如脉搏数据、心跳数据、血压数据。
生物特征活动状态可以用于识别驾驶员是否健康的,例如驾驶员是否出现中风、呼吸不畅、心脏病突发等情况。
生物特征活动状态可以是一个数值。当生物特征活动状态的数值较小时,可能是驾驶员的身体存在健康隐患,也就意味着驾驶员的驾驶状态较差,无法适应复杂交通路况;当生物特征活动状态的数值较大时,可能是驾驶员非常健康,也就意味着驾驶员的驾驶状态为优,可以适应复杂交通路况。
确定驾驶员的生物特征活动状态的一种方式可以是将驾驶员的生物特征数据与人体健康临界值进行比较,从而确定驾驶员的生物特征活动状态。也就是说,当驾驶员的生物特征数据超出了健康临界值,驾驶员可能会出现健康隐患。
确定驾驶员的生物特征活动状态的一种方式可以是将驾驶员正常驾驶过程中的生物特征数据与驾驶员当前驾驶状态进行比较,从而确定驾驶员的生物特征活动状态。也就是说,当驾驶员的生物特征数据出现了明显波动,驾驶员的驾驶状态很可能也会出现变化。
可选的,所述根据所述生物特征数据,确定所述驾驶员的生物特征活动状态,包括:根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
也就是说,当两个不同时段的第一生物特征数据与第二生物特征数据的相似度较高时,往往意味着驾驶员的驾驶状态较为稳定,或者驾驶员处于正常驾驶状态;而当两个不同时段的第一生物特征数据与第二生物特征数据的相似度较低时,意味着驾驶员的驾驶状态发生了变化,例如出现健康隐患、遭遇紧急路况等情况。并且,为了确保第一生物特征数据与第二生物特征数据之间的可比性,第三时段与第四时段之间的时间间隔要小于第五预设阈值。
一种情况,第三时段的起始时刻与第四时段的起始时刻之间的时间间隔小于第五预设阈值。
一种情况,第三时段早于第四时段,且第三时段的中止时刻与第四时段的起始时刻之间的时间间隔小于第五预设阈值。
可选的,第三时段与第四时段可以有重叠。
可选的,第三时段、第四时段的时长可以是生物特征处理的单位时长。
特别地,第三时段与第四时段不能是相同的时段。如果第三时段与第四时段相同,意味着第三时段的起始时刻与第四时段的起始时刻相同、第三时段的中止时刻与第四时段的中止时刻相同。如果第三时段与第四时段相同,那么第三脑波信号与第四脑波信号将完全相同,相似度为1或为极大值,不能反映驾驶员的真实脑波活动状态。
确定第一生物特征数据与第二生物特征数据之间的相似度的方法可以参照确定第一脑波信号、第二脑波信号之间相似度的方法,在此就不必赘述。
可选的,所述第一时段同所述第三时段或第四时段的时间间隔小于第八预设阈值,和/或,所述第二时段同所述第三时段或第四时段的时间间隔小于第九预设阈值。
也就是说,为了确保生物特征活动状态与脑波活动状态的可比性,第一时段同所述第三时段或第四时段的时间间隔小于第八预设阈值,和/或,所述第二时段同所述第三时段或第四时段的时间间隔小于第九预设阈值。也就是说,脑波信号的任一测量时段与生物特征的任一测量时段之间的时间间隔应当足够小。
可选的,第一时段与第三时段和/或第四时段可以有重叠。
可选的,第二时段与第三时段和/或第四时段可以有重叠。
与仅考虑脑波活动状态相比,由于进一步考虑生物特征活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。
特别地,生物特征活动状态未发生变化并不意味着驾驶员的注意力是集中的,生物特征活动状态发生变化也并不意味着驾驶员的注意力是不集中的。因此会出现生物特征活动状态与脑波活动状态不符的情况。
一种可能的方式,将脑波活动状态、生物特征活动状态视为一个组合,根据组合(脑波活动状态,生物特征活动状态)所对应的驾驶状态控制所述自动驾驶车辆的驾驶状态。
例如,当脑波活动状态为正常行驶、生物特征活动状态为心跳频率过高,则控制自动驾驶车辆的驾驶状态为辅助自动驾驶状态;当脑波活动状态为注意力分散、生物特征活动状态为健康,则控制自动驾驶车辆的驾驶状态为辅助自动驾驶状态;当脑波活动状态为正常行驶、生物特征活动状态为健康,则控制自动驾驶车辆的驾驶状态为人工驾驶状态。
可选的,所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
也就是说,在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
可选的,所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:在第一乘积同第三乘积的和大于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
也就是说,在第一乘积同第三乘积的和大于第六预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述人工驾驶状态。
第一乘积同第三乘积的和可以反映驾驶员的驾驶状态。由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而生物特征活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于生物特征活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态。
可选的,第六预设阈值可以是通过神经网络模型训练得到。
可选的,第三权重值可以是通过神经网络模型训练得到。
例如可以将驾驶员的脑波信号、生物特征数据以及对应时段由驾驶员选择的驾驶状态输入神经网络模型,从而得到训练后的第六预设阈值、第一权重值、第三权重值中的一个或多个。
特别地,当第三权重值为0的情况下,则可以认为在确定驾驶员的驾驶状态时不考虑生物特征活动状态。
由于有一些驾驶员的反应敏捷、有一些驾驶员的反应迟钝,在面对相同的紧急状况时,不同驾驶员的脑部反应通常并不相同。因此,对于不同的驾驶员,第六预设阈值的具体取值往往不同。由于驾驶员的独特性,为了提高用户体验度,可以根据驾驶员的喜好、习惯等确认第一权重值、第三权重值。
例如,驾驶员A集中注意力的能力相对更强,驾驶员B集中注意力的能力相对较弱,驾驶员A比驾驶员B更能够及时响应复杂路况。因此,与驾驶员A对应的第六预设阈值1应当低于与驾驶员B对应的第六预设阈值2。也就是说,驾驶员B更容易满足启动辅助自动驾驶服务的条件。
又如,驾驶员在短时间驾驶、长时间驾驶的注意力集中度不同,因此,可以根据驾驶时长不同,设置不同的第六预设阈值,以保证长时间驾驶的安全性。
在一个示例中,根据脑波活动状态、生物特征活动状态、眼部活动状态控制自动驾驶车辆的驾驶状态。也就是说,综合考虑脑波信号、生物特征数据、眼部数据可以得到驾驶员的驾驶状态,并依据驾驶员的驾驶状态控制自动驾驶车辆的驾驶状态。
可选的,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:获取所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:根据所述驾驶员的脑波活动状态、眼部活动状态、生物特征状态,控制所述自动驾驶车辆的驾驶状态。
前文已经阐述了脑波活动状态、眼部活动状态、生物特征状态以及获取脑波活动状态、眼部活动状态、生物特征状态的方法,在此就不必赘述。
由于总和考虑了脑波活动状态、眼部活动状态、生物特征活动状态,更容易准确识别驾驶员的驾驶状态,从而为驾驶员提供合适的辅助驾驶服务。
特别地,眼神未发生偏移并不意味着驾驶员的注意力是集中的,眼神发生偏移也并不意味着驾驶员的注意力是不集中的。另外,生物特征活动状态未发生变化并不意味着驾驶员的注意力是集中的,生物特征活动状态发生变化也并不意味着驾驶员的注意力是不集中的。因此会出现生物特征活动状态、眼部活动状态、脑波活动状态三者相互不符的情况。
可选的,在第一乘积、第二乘积同第三乘积的和大于第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述人工驾驶状态;在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
第一乘积、第二乘积同第三乘积的和可以反映驾驶员的驾驶状态。由于脑波活动状态能够直接反应驾驶员的思维和心理状态,而生物特征活动状态、眼神活动状态间接或不能反应驾驶员的思维或心理状态,因此,通过设置脑波活动状态所对应的权重值大于生物特征活动状态所对应的权重值,且脑波活动状态所对应的权重值大于眼部活动状态所对应的权重值,使得确定驾驶员的驾驶状态相对地更依赖于脑波活动状态。
可选的,第七预设阈值可以是通过神经网络模型训练得到。
在本申请实施例中,脑波信号可以反映大脑的活动状态,可以反映驾驶员的心理活动。由于脑波可以更倾向于反映驾驶员的深层次需要,且通常很难受到驾驶员的主观控制,因此,脑波信号能够反映驾驶员的真实驾驶意愿或真实驾驶能力,为确定车辆的驾驶状态提供更为准确的信息,保证行车安全。并且脑波信号能够体现驾驶员的喜好、习惯,有利于为驾驶员提供个性化服务。
图9是本申请一个实施例提供的自动驾驶***的示意图。应理解,图9示出的自动驾驶***900仅是示例,本申请实施例的自动驾驶***可以包括图9所示的部分或全部模块或单元,还可包括未被图9示出的其他模块或单元。
自动驾驶***900包括脑波采集装置,用于采集驾驶员的脑波信号。
自动驾驶***900还包括驾驶员状态处理装置,用于确定所述驾驶员的脑波活动状态。自动驾驶***900还包括连接在脑波采集装置与驾驶员状态处理装置之间的脑机接口。
自动驾驶***900还包括车辆状态处理装置,用于根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,自动驾驶***900包括驾驶员操作传感器,用于检测包括车辆油门、制动器、方向盘等的操作状态。
可选的,自动驾驶***900还包括驾驶环境传感器,用于检测车辆在行驶和停止过程中周围的环境状态。
可选的,自动驾驶***900还包括人机接口、触控显示屏,通过外部触控显示屏和驾驶员保持互动。
可选的,自动驾驶***900还包括切换开关,由驾驶员操控该开关,从而使车辆在人工驾驶状态与辅助自动驾驶状态之间进行切换。车辆状态处理装置可以响应该切换开关,执行车辆状态的切换。
可选的,自动驾驶***900还包括:眼部数据采集装置,用于采集驾驶员的眼部数据;驾驶员状态处理装置还用于根据所述眼部数据,确定所述驾驶员的眼部活动状态;车辆状态处理装置具体用于根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,眼部数据采集装置可以是图像采集装置,例如摄像头。
可选的,眼部数据采集装置还可以用于监测驾驶员的表情、肢体行动和车内环境。
可选的,自动驾驶***900还包括:生物特征数据采集装置,用于采集驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;驾驶员状态处理装置还用于根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;车辆状态处理装置具体用于根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,自动驾驶***900还包括:眼部数据采集装置,用于采集驾驶员的眼部数据;生物特征数据采集装置,用于采集驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;驾驶员状态处理装置还用于根据所述眼部数据,确定所述驾驶员的眼部活动状态;驾驶员状态处理装置还用于根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;车辆状态处理装置具体用于根据所述脑波活动状态、所述眼部活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,眼部数据采集装置可以是图像采集装置,例如摄像头。
可选的,眼部数据采集装置还可以用于监测驾驶员的表情、肢体行动和车内环境。
图10是一种车内环境示意图,图10示出了一种自动驾驶***以及自动驾驶***内各个模块的大致位置。自动驾驶车辆由驾驶员1001操控或者辅助自动驾驶控制器控制,车辆驾驶员1001佩戴入耳式脑电波采集装置1002,用于提取驾驶员1001的脑电波信号,车内还包括图像传感器1003,用于监测驾驶员的表情、肢体行动和车内环境。车内还包括触控显示屏1004,用于接收驾驶员1001的操控信息,还包括语音装置1005,用于接收驾驶员1001的语音,或者向驾驶员1001传递声音信息,1006为车辆的控制方向盘,1007为用于在人工驾驶状态与辅助自动驾驶状态之间进行切换的切换开关。图中车中其他的装置如刹车、油门等未一一标识。
图11是本申请一个实施例提供的驾驶状态处理装置的结构示意图。应理解,图11示出的自动驾驶***1100仅是示例,本申请实施例的装置还可包括其他模块或单元。应理解,自动驾驶***1100能够执行图4的方法中的各个步骤,为了避免重复,此处不再详述。
如图11所示,驾驶状态处理装置1100可以包括获取模块1110和处理模块1120,其中,获取模块1110,用于获取驾驶员的脑波信号;处理模块1120,用于根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;所述处理模块1120,还用于根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态。
可选地,在一种可能的实现方式中,所述处理模块1120,具体用于根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
可选地,在一种可能的实现方式中,所述处理模块1120,具体用于在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
可选地,在一种可能的实现方式中,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
可选地,在一种可能的实现方式中,所述获取模块1110,还用于获取所述驾驶员的眼部数据;所述处理模块1120,还用于根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述处理模块1120,具体用于根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
可选地,在一种可能的实现方式中,所述处理模块1120,具体用于在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
可选地,在一种可能的实现方式中,所述获取模块1110,还用于获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;所述处理模块1120,还用于根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述处理模块1120,具体用于根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
可选地,在一种可能的实现方式中,所述处理模块1120具体用于,根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
可选地,在一种可能的实现方式中,所述处理模块1120,具体用于在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
可选地,在一种可能的实现方式中,所述获取模块1110,还用于获取所述驾驶员的眼部数据;所述处理模块1120,还用于根据所述眼部数据,确定所述驾驶员的眼部活动状态;所述获取模块1110,还用于获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;所述处理模块1120,还用于根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;所述处理模块1120,具体用于根据所述脑波活动状态、眼部活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
可选地,在一种可能的实现方式中,所述处理模块1120,具体用于在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
可选地,在一种可能的实现方式中,所述获取模块1110具体用于接收入耳式耳塞采集并发送的所述脑波信号。
应理解,这里的驾驶状态处理装置1100以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。例如,“模块”可以是实现上述功能的软件程序、硬件电路或二者结合。所述硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
在一个示例中,驾驶状态处理装置的结构示意图可以如图12所示。驾驶状态处理装置1200可以包括驾驶员状态处理装置1210、车辆状态处理装置1220。其中,驾驶状态处理装置1200包括的各个模块可以通过软件和/或硬件方式实现。
例如,驾驶员状态处理装置1210可以用于获取驾驶员的脑波信号并根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;车辆状态处理装置1220可以用于根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
可选的,驾驶员状态处理装置1210还可以用于获取所述驾驶员的眼部数据,并根据所述眼部数据,确定所述驾驶员的眼部活动状态;车辆状态处理装置1220可以用于根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,驾驶员状态处理装置1210还可以用于获取所述驾驶员的生物特征数据,并根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;车辆状态处理装置1220可以用于根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
可选的,驾驶员状态处理装置1210还可以用于获取所述驾驶员的生物特征数据以及眼部数据,并根据所述生物特征数据,确定所述驾驶员的生物特征活动状态,根据所述眼部数据,确定所述驾驶员的眼部活动状态;车辆状态处理装置1220可以用于根据所述脑波活动状态、眼部活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
作为一个示例,本申请实施例提供的自动驾驶车辆的驾驶状态处理装置可以是自动驾驶车辆的车载设备,或者,可以是配置于车载设备中的芯片,可以执行本申请实施例所述的方法。
图13是本申请一个实施例的驾驶状态处理的装置的示意性框图。图13所示的装置1300包括存储器1301、处理器1302、通信接口1303以及总线1304。其中,存储器1301、处理器1302、通信接口1303通过总线1304实现彼此之间的通信连接。
存储器1301可以是只读存储器(read only memory,ROM),静态存储设备,动态存储设备或者随机存取存储器(random access memory,RAM)。存储器1301可以存储程序,当存储器1301中存储的程序被处理器1302执行时,处理器1302用于执行本申请实施例的规划自动驾驶车辆的方法的各个步骤,例如,可以执行图4所示实施例的各个步骤。
处理器1302可以采用通用的CPU,微处理器,应用专用集成电路(applicationspecific integrated circuit,ASIC),或者一个或多个集成电路,用于执行相关程序,以实现本申请方法实施例的规划自动驾驶车辆的方法。
处理器1302还可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,本申请实施例的自动驾驶车辆的人车交互的方法的各个步骤可以通过处理器1302中的硬件的集成逻辑电路或者软件形式的指令完成。
上述处理器1302还可以是通用处理器、数字信号处理器(digital signalprocessing,DSP)、专用集成电路(ASIC)、现成可编程门阵列(field programmable gatearray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器1301,处理器1302读取存储器1301中的信息,结合其硬件完成本申请实施例中自动驾驶车辆的驾驶状态处理装置包括的单元所需执行的功能,或者,执行本申请方法实施例的规划自动驾驶车辆的方法,例如,可以执行图4所示实施例的各个步骤/功能。
通信接口1303可以使用但不限于收发器一类的收发装置,来实现装置1300与其他设备或通信网络之间的通信。
总线1304可以包括在装置1300各个部件(例如,存储器1301、处理器1302、通信接口1303)之间传送信息的通路。
应理解,本申请实施例所示的装置可以是自动驾驶车辆中的车载设备,或者,也可以是配置于车载设备中的芯片。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的***、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (38)
1.一种自动驾驶车辆的人车交互的方法,其特征在于,包括:
获取驾驶员的脑波信号;
根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;
根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
2.根据权利要求1所述的方法,其特征在于,所述根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态,包括:
根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
4.根据权利要求3所述的方法,其特征在于,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
5.根据权利要求1或2所述的方法,其特征在于,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:
获取所述驾驶员的眼部数据;
根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
6.根据权利要求5所述的方法,其特征在于,所述根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
7.根据权利要求1或2所述的方法,其特征在于,在所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:
获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;
根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;
所述根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
8.根据权利要求7所述的方法,其特征在于,所述根据所述生物特征数据,确定所述驾驶员的生物特征活动状态,包括:
根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
9.根据权利要求7或8所述的方法,其特征在于,所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
10.根据权利要求7或8所述的方法,其特征在于,在所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态之前,所述方法还包括:
获取所述驾驶员的眼部数据;
根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态,包括:
在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
11.根据权利要求1至10中任一项所述的方法,其特征在于,所述获取驾驶员的脑波信号,包括:
接收入耳式耳塞采集并发送的所述脑波信号。
12.一种自动驾驶***,其特征在于,包括:
脑波采集装置,用于采集驾驶员的脑波信号;
驾驶员状态处理装置,用于根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态;
车辆状态处理装置,用于根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
13.根据权利要求12所述的自动驾驶***,其特征在于,
所述脑波采集装置具体用于,根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
14.根据权利要求12或13所述的自动驾驶***,其特征在于,
所述车辆状态处理装置具体用于,在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
15.根据权利要求14所述的自动驾驶***,其特征在于,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
16.根据权利要求12或13所述的自动驾驶***,其特征在于,所述自动驾驶***还包括:
眼部数据采集装置,用于采集所述驾驶员的眼部数据;
所述驾驶员状态处理装置还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述车辆状态处理装置具体用于,根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
17.根据权利要求16所述的自动驾驶***,其特征在于,
所述车辆状态处理装置具体用于,在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
18.根据权利要求12或13所述的自动驾驶***,其特征在于,所述自动驾驶***还包括:
生物特征数据采集装置,用于采集驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;
所述驾驶员状态处理装置还用于,根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;
所述车辆状态处理装置具体用于,根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
19.根据权利要求18所述的自动驾驶***,其特征在于,
所述驾驶员状态处理装置具体用于,根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
20.根据权利要求18或19所述的自动驾驶***,其特征在于,
所述车辆状态处理装置具体用于,在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
21.根据权利要求18或19所述的自动驾驶***,其特征在于,所述自动驾驶***还包括:
眼部数据采集装置,用于采集所述驾驶员的眼部数据;根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述驾驶员状态处理装置还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述车辆状态处理装置具体用于,在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
22.根据权利要求12至21中任一项所述的自动驾驶***,其特征在于,所述脑波采集装置为入耳式耳塞。
23.一种驾驶状态处理装置,其特征在于,包括:
获取模块,用于获取驾驶员的脑波信号;
处理模块,用于根据所述驾驶员的脑波信号,确定所述驾驶员的脑波活动状态,并根据所述驾驶员的脑波活动状态,控制所述自动驾驶车辆的驾驶状态,所述驾驶状态包括人工驾驶状态和辅助自动驾驶状态中的至少一种。
24.根据权利要求23所述的驾驶状态处理装置,其特征在于,
所述处理模块具体用于,根据第一脑波信号与第二脑波信号之间的相似度,确定所述驾驶员的脑波活动状态,所述第一脑波信号为第一时段获取的脑波信号,所述第二脑波信号为第二时段获取的脑波信号,所述第一时段与所述第二时段之间的时间间隔小于第一预设阈值。
25.根据权利要求23或24所述的驾驶状态处理装置,其特征在于,所述处理模块具体用于,在所述脑波活动状态低于所述第二预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态。
26.根据权利要求25所述的驾驶状态处理装置,其特征在于,所述辅助自动驾驶状态包括第一类型辅助自动驾驶状态以及第二类型辅助自动驾驶状态,在所述脑波活动状态高于第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第一类型辅助自动驾驶状态,在所述脑波活动状态低于所述第三预设阈值的情况下,所述自动驾驶车辆的驾驶状态为所述第二类型辅助自动驾驶状态,所述第二类型辅助自动驾驶状态的自动化水平高于所述第一类型辅助自动驾驶状态的自动化水平,所述第三预设阈值低于所述第二预设阈值。
27.根据权利要求23或24所述的驾驶状态处理装置,其特征在于,
所述获取模块还用于,获取所述驾驶员的眼部数据;
所述处理模块还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述处理模块具体用于,根据所述脑波活动状态以及所述眼部活动状态,控制所述自动驾驶车辆的驾驶状态。
28.根据权利要求27所述的驾驶状态处理装置,其特征在于,
所述处理模块具体用于,在所述第一乘积同所述第二乘积的和小于所述第四预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第一权重值大于所述第二权重值。
29.根据权利要求23或24所述的驾驶状态处理装置,其特征在于,
所述获取模块还用于,获取所述驾驶员的生物特征数据,所述生物特征数据包括脉搏数据、心跳数据、血压数据中的一个或多个;
所述处理模块还用于,根据所述生物特征数据,确定所述驾驶员的生物特征活动状态;
所述处理模块具体用于,根据所述脑波活动状态以及所述生物特征活动状态,控制所述自动驾驶车辆的驾驶状态。
30.根据权利要求29所述的驾驶状态处理装置,其特征在于,
所述处理模块具体用于,根据第一生物特征数据与第二生物特征数据之间的相似度,确定所述驾驶员的生物特征活动状态,所述第一生物特征数据为第三时段获取的生物特征数据,所述第二生物特征数据为第四时段获取的生物特征数据,所述第三时段与所述第四时段之间的时间间隔小于第五预设阈值。
31.根据权利要求29或30所述的驾驶状态处理装置,其特征在于,
所述处理模块具体用于,在第一乘积同第三乘积的和小于所述第六预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态;
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第三权重值。
32.根据权利要求29或30所述的驾驶状态处理装置,其特征在于,
所述获取模块还用于,获取所述驾驶员的眼部数据;
所述处理模块还用于,根据所述眼部数据,确定所述驾驶员的眼部活动状态;
所述处理模块具体用于,
在第一乘积、第二乘积同第三乘积的和小于所述第七预设阈值的情况下,控制所述自动驾驶车辆的驾驶状态为所述辅助自动驾驶状态,
其中,所述第一乘积为第一权重值与所述脑波活动状态的乘积,所述第二乘积为第二权重值与所述眼部活动状态的乘积,所述第三乘积为第三权重值与所述生物特征活动状态的乘积,所述第一权重值大于所述第二权重值,所述第一权重值大于所述第三权重值。
33.根据权利要求23至32中任一项所述的驾驶状态处理装置,其特征在于,所述获取模块具体用于,接收入耳式耳塞采集并发送的所述脑波信号。
34.一种驾驶状态处理装置,其特征在于,包括处理器和存储器,所述存储器用于存储程序指令,所述处理器用于调用所述程序指令来执行权利要求1至11中任一项所述的自动驾驶车辆的人车交互的方法。
35.一种自动驾驶车辆,其特征在于,包括权利要求12至22中任一项所述的自动驾驶***。
36.一种自动驾驶车辆,其特征在于,包括权利要求23至33中任一项所述的驾驶状态处理装置。
37.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有程序指令,当所述程序指令由处理器运行时,实现权利要求1至11中任一项所述的自动驾驶车辆的人车交互的方法。
38.一种芯片,其特征在于,所述芯片包括处理器与数据接口,所述处理器通过所述数据接口读取存储器上存储的指令,以执行如权利要求1至11中任一项所述的自动驾驶车辆的人车交互的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910844653.0A CN112455461B (zh) | 2019-09-06 | 2019-09-06 | 自动驾驶车辆的人车交互的方法、自动驾驶*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910844653.0A CN112455461B (zh) | 2019-09-06 | 2019-09-06 | 自动驾驶车辆的人车交互的方法、自动驾驶*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112455461A true CN112455461A (zh) | 2021-03-09 |
CN112455461B CN112455461B (zh) | 2022-10-28 |
Family
ID=74806949
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910844653.0A Active CN112455461B (zh) | 2019-09-06 | 2019-09-06 | 自动驾驶车辆的人车交互的方法、自动驾驶*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112455461B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113276867A (zh) * | 2021-06-15 | 2021-08-20 | 王晓铭 | 一种自动驾驶情景下的脑电波紧急控制***及方法 |
CN113347522A (zh) * | 2021-05-08 | 2021-09-03 | 歌尔股份有限公司 | 耳机的控制方法、装置、设备及存储介质 |
CN114385099A (zh) * | 2021-11-26 | 2022-04-22 | 中国航空无线电电子研究所 | 基于主动推显的多无人机动态监控界面显示方法和装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107336711A (zh) * | 2017-06-19 | 2017-11-10 | 北京汽车股份有限公司 | 车辆及其自动驾驶***和方法 |
CN107428245A (zh) * | 2015-03-03 | 2017-12-01 | 雷诺两合公司 | 用于预测机动车辆驾驶员的警觉水平的设备和方法 |
US20190083022A1 (en) * | 2017-09-15 | 2019-03-21 | Hsin Ming Huang | Fatigue driving monitoring device |
CN109747656A (zh) * | 2017-11-02 | 2019-05-14 | 罗曦明 | 人工智能车辆辅助驾驶方法、装置、设备及存储介质 |
CN109910900A (zh) * | 2019-04-01 | 2019-06-21 | 广东科学技术职业学院 | 一种智能驾驶***及方法 |
KR101999211B1 (ko) * | 2018-01-03 | 2019-07-11 | 가톨릭대학교 산학협력단 | 뇌파를 이용한 운전자 상태 검출 장치 및 그 방법 |
-
2019
- 2019-09-06 CN CN201910844653.0A patent/CN112455461B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107428245A (zh) * | 2015-03-03 | 2017-12-01 | 雷诺两合公司 | 用于预测机动车辆驾驶员的警觉水平的设备和方法 |
CN107336711A (zh) * | 2017-06-19 | 2017-11-10 | 北京汽车股份有限公司 | 车辆及其自动驾驶***和方法 |
US20190083022A1 (en) * | 2017-09-15 | 2019-03-21 | Hsin Ming Huang | Fatigue driving monitoring device |
CN109747656A (zh) * | 2017-11-02 | 2019-05-14 | 罗曦明 | 人工智能车辆辅助驾驶方法、装置、设备及存储介质 |
KR101999211B1 (ko) * | 2018-01-03 | 2019-07-11 | 가톨릭대학교 산학협력단 | 뇌파를 이용한 운전자 상태 검출 장치 및 그 방법 |
CN109910900A (zh) * | 2019-04-01 | 2019-06-21 | 广东科学技术职业学院 | 一种智能驾驶***及方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113347522A (zh) * | 2021-05-08 | 2021-09-03 | 歌尔股份有限公司 | 耳机的控制方法、装置、设备及存储介质 |
CN113276867A (zh) * | 2021-06-15 | 2021-08-20 | 王晓铭 | 一种自动驾驶情景下的脑电波紧急控制***及方法 |
CN114385099A (zh) * | 2021-11-26 | 2022-04-22 | 中国航空无线电电子研究所 | 基于主动推显的多无人机动态监控界面显示方法和装置 |
CN114385099B (zh) * | 2021-11-26 | 2023-12-12 | 中国航空无线电电子研究所 | 基于主动推显的多无人机动态监控界面显示方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112455461B (zh) | 2022-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7204739B2 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
JP7288911B2 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
JP7155122B2 (ja) | 車両制御装置及び車両制御方法 | |
JP7080598B2 (ja) | 車両制御装置および車両制御方法 | |
JP7032966B2 (ja) | 車両安全支援装置および方法 | |
US10308258B2 (en) | System and method for responding to driver state | |
JP7324716B2 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
CN111989729B (zh) | 信息处理装置、移动装置、信息处理***、方法和程序 | |
CN113665528B (zh) | 自主车辆安全***和方法 | |
KR102053794B1 (ko) | 생체신호를 이용한 차량 간 운전자의 주행의도정보 상호전달 시스템 및 그 제어방법 | |
CN112455461B (zh) | 自动驾驶车辆的人车交互的方法、自动驾驶*** | |
WO2021145131A1 (ja) | 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム | |
JP7357006B2 (ja) | 情報処理装置、移動装置、および方法、並びにプログラム | |
JPWO2018190152A1 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
WO2022172724A1 (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
JP7238193B2 (ja) | 車両制御装置および車両制御方法 | |
CN116872944A (zh) | 一种车辆速度控制方法、***、电子设备及存储介质 | |
CN116204806A (zh) | 一种脑状态确定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |