CN105976829A - 声音处理装置、声音处理方法 - Google Patents

声音处理装置、声音处理方法 Download PDF

Info

Publication number
CN105976829A
CN105976829A CN201610048482.7A CN201610048482A CN105976829A CN 105976829 A CN105976829 A CN 105976829A CN 201610048482 A CN201610048482 A CN 201610048482A CN 105976829 A CN105976829 A CN 105976829A
Authority
CN
China
Prior art keywords
sound
signal
acoustical signal
suppression
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610048482.7A
Other languages
English (en)
Other versions
CN105976829B (zh
Inventor
野村和也
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of CN105976829A publication Critical patent/CN105976829A/zh
Application granted granted Critical
Publication of CN105976829B publication Critical patent/CN105976829B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78Detection of presence or absence of voice signals
    • G10L25/84Detection of presence or absence of voice signals for discriminating voice from noise
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0272Voice signal separating
    • G10L21/028Voice signal separating using properties of sound source
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0272Voice signal separating
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
    • H04R25/40Arrangements for obtaining a desired directivity characteristic
    • H04R25/407Circuits for combining signals of a plurality of transducers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78Detection of presence or absence of voice signals
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78Detection of presence or absence of voice signals
    • G10L25/81Detection of presence or absence of voice signals for discriminating voice from music
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/10Earpieces; Attachments therefor ; Earphones; Monophonic headphones
    • H04R1/1083Reduction of ambient noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurosurgery (AREA)
  • Otolaryngology (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Telephone Function (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Soundproofing, Sound Blocking, And Sound Damping (AREA)

Abstract

本公开提供能够从用户周围的声音之中,输出向用户提供的声音的声音处理装置、声音处理方法和声音处理程序。声音提取部(12)取得表示用户周围的声音的周围声音信号,抑制声音判别部(152)从由声音提取部(12)取得的周围声音信号中提取表示向用户提供的声音的提供声音信号,信号加算部(17)输出提供声音信号和表示主声音的第1声音信号。

Description

声音处理装置、声音处理方法
技术领域
本公开涉及取得表示用户周围的声音的声音信号,并对取得的声音信号实施预定的处理的声音处理装置、声音处理方法。
背景技术
助听器的一项基本功能是如何容易听到谈话的对方的声音。作为为了实现该功能而强调谈话的对方的声音的手段,采用自适应指向性拾音处理、杂音抑制处理和声源分离处理等。由此,能够抑制除了谈话的对方的声音以外的声音。
另外,便携式音乐播放器或便携式收音机等,不具有输入周围的声音的手段,而是再现专门存储在设备中的内容、或输出接收到的广播的内容。
而且,一部分头戴式耳机具备输入周围的声音的手段,通过内部处理生成用于消除周围的声音的信号,将所生成的信号与再现声音混合并输出,由此来抑制周围的声音。根据该技术,能够阻断在用于再现的电子设备的用户周围所存在的噪音,并且能够得到用户期望的再现声音。
例如,专利文献1中的听觉辅助装置(助听器),时常将由麦克风收集的外来声音写入环形缓冲区,从环形缓冲区存储的外来声音数据中读取一定期间量的外来声音数据进行分析,判定声音的有无,在前一判定结果为无声的情况下,读取刚写入环形缓冲区后的外来声音数据,以环境声音用的放大率进行放大并从扬声器输出,在前一判定结果为无声而本次的判定结果为有声的情况下,从环形缓冲区读取判定为有声的一定期间量的外来声音数据,一边进行时间压缩,一边以声音用的放大率进行放大并从扬声器输出。
另外,专利文献2中的语速转换装置,将输入声音信号分离为有声区间和无音、无声区间,输出通过实施使有声区间在时间上向无音、无声区间延长的信号处理而转换了语速的信号,根据输入声音信号检测由预先报音信号和准时报音信号构成的报时信号中的预先报音信号,在检测出预先报音信号的情况下,从信号处理后的有声区间中消除报时信号,在检测出预先报音信号的情况下,生成由预先报音信号和准时报音信号构成的新的报时信号,对输出信号进行所生成的新的报时信号的合成,使得该报时信号的准时报音的输出定时与假设输入声音信号的报时信号中的准时报音被输出的情况下的输出定时一致。
另外,专利文献3中的双耳助听器***具备第一麦克风***和第二麦克风***,第一麦克风***构成为配置在使用者的第一只耳朵之中或旁边,提供第一输入信号,第二麦克风***构成为配置在使用者的第二只耳朵之中或旁边,提供第二输入信号,该双耳助听器***自动切换全方向性(OMNI)麦克风模式和指向性(DIR)麦克风模式。
在先技术文献
专利文献1:日本特开2005-64744号公报
专利文献2:日本特开2005-148434号公报
专利文献3:日本特表2009-528802号公报
发明内容
上述现有技术中,需要进一步的改善。
本公开的一技术方案涉及的声音处理装置,具备:周围声音取得部,其取得表示用户周围的声音的周围声音信号;声音提取部,其从由所述周围声音取得部取得的所述周围声音信号中,提取表示向用户提供的声音的提供声音信号;以及输出部,其输出所述提供声音信号和表示主声音的第1声音信号。
再者,这些概括或具体的方式,既可以通过***、方法、集成电路、计算机程序或记录介质实现,也可以通过***、装置、方法、集成电路、计算机程序和记录介质的任意组合实现。
根据本公开,能够从用户周围的声音之中,输出向用户提供的声音。
附图说明
图1是表示实施方式1中的声音处理装置的结构的图。
图2是表示实施方式1中的输出模式的一例的图。
图3是用于说明实施方式1中的声音处理装置的动作的一例的流程图。
图4是用于对将向用户提供的抑制声音信号延迟输出的定时的第1变形例进行说明的示意图。
图5是用于对将向用户提供的抑制声音信号延迟输出的定时的第2变形例进行说明的示意图。
图6是表示实施方式2中的声音处理装置的结构的图。
图7是用于说明实施方式2中的声音处理装置的动作的一例的流程图。
图8是表示实施方式3中的声音处理装置的结构的图。
图9是用于说明实施方式3中的声音处理装置的动作的一例的流程图。
图10是表示实施方式4中的声音处理装置的结构的图。
图11是用于说明实施方式4中的声音处理装置的动作的一例的流程图。
标号说明
1、2、3、4 声音处理装置
11 麦克风阵列
12 声音提取部
13 谈话评价部
14 抑制声音存储部
15 优先级评价部
16 抑制声音输出部
17 信号加算部
18 声音强调部
19 扬声器
20 报知声音存储部
21 报知声音输出部
22 优先级评价部
30 声源部
31 再现部
32 声音提取部
33 周围声音存储部
34 优先级评价部
35 周围声音输出部
36 信号加算部
37 优先级评价部
38 报知声音存储部
39 报知声音输出部
121 指向性合成部
122 声源分离部
151 抑制声音样本存储部
152 抑制声音判别部
153 抑制声音输出控制部
154 报知声音输出控制部
321 指向性合成部
322 声源分离部
341 周围声音样本存储部
342 周围声音判别部
343 周围声音输出控制部
344 报知声音输出控制部
具体实施方式
(成为本公开的基础的见解)
根据现有技术,由于抑制除了谈话的对方的声音以外的声音,因此用户无法完全听到包含例如电话的铃声等的用户周围的声音。因此,会发生即使电话的铃声响了用户也没有听到,从而没有注意到来电的情况。
另外,专利文献1中,判定声音的有无,在判定为有声的情况下,放大率被设定为比判定为无声时的放大率高,因此在噪音大的环境下谈话时,由于噪音也以大音量输出,从而有可能导致难以听到谈话。
另外,专利文献2中,即使是在对输入声音信号进行了语速转换的情况下,对于报时,也能同时或几乎不发生延迟地输出声音,但对于声音和报时以外的环境声音,未被进行抑制,有可能导致难以听到谈话。
另外,专利文献3中,公开了对取得声音的麦克风的全方向性麦克风模式和指向性麦克风模式进行自动切换,但并没有公开从取得的声音中,一边抑制对用户而言不需要的声音,一边提取对用户而言需要的声音。
本发明人基于以上的考察,想到了本公开的各技术方案。
本公开的一方面涉及的声音处理装置,具备:周围声音取得部,其取得表示用户周围的声音的周围声音信号;声音提取部,其从由所述周围声音取得部取得的所述周围声音信号中,提取表示向用户提供的声音的提供声音信号;以及输出部,其输出所述提供声音信号和表示主声音的第1声音信号。
根据该技术构成,取得表示用户周围的声音的周围声音信号,从取得的周围声音信号中提取表示向用户提供的声音的提供声音信号,输出提供声音信号和表示主声音的第1声音信号。
因此,能够从用户周围的声音之中,输出向用户提供的声音。
另外,上述的声音处理装置中,可以设置成:还具备将由所述周围声音取得部取得的所述周围声音信号分离为所述第1声音信号和第2声音信号的声音分离部,所述第2声音信号表示与所述主声音不同的声音,所述声音提取部从由所述声音分离部分离出的所述第2声音信号中提取所述提供声音信号,所述输出部输出由所述声音分离部分离出的所述第1声音信号,并且输出由所述声音提取部提取的所述提供声音信号。
根据该技术构成,取得的周围声音信号被分离为第1声音信号和第2声音信号,所述第2声音信号表示与主声音不同的声音。从分离出的第2声音信号中提取提供声音信号。输出分离出的第1声音信号,并且输出所提取的提供声音信号。
因此,从用户周围的声音之中,由于主声音和与主声音不同的声音被分离,从而通过抑制与主声音不同的声音,用户能够更清晰地听到主声音。
另外,上述的声音处理装置中,可以设置成:所述主声音包含参与谈话的人讲话的声音。
根据该技术构成,通过抑制与参与谈话的人讲话的声音不同的声音,用户能够更明确地听到参与谈话的人讲话的声音。
另外,上述的声音处理装置中,可以设置成:还具备预先存储所述第1声音信号的声音信号存储部,所述输出部输出从所述声音信号存储部读取的所述第1声音信号,并且输出由所述声音提取部提取的所述提供声音信号。
根据该技术构成,第1声音信号预先存储于声音信号存储部,从声音信号存储部读取的第1声音信号被输出,并且所提取的提供声音信号被输出,因此能够不从用户周围的声音中分离主声音,而是输出预先存储的主声音。
另外,上述的声音处理装置中,可以设置成:所述主声音包含音乐数据。根据该技术构成,能够输出音乐数据。
另外,上述的声音处理装置中,可以设置成:还具备存储与所述提供声音信号相关的样本声音信号的样本声音存储部,所述声音提取部将所述周围声音信号的特征量与存储于所述样本声音存储部的所述样本声音信号的特征量进行比较,提取具有与所述样本声音信号的特征量类似的特征量的声音信号作为所述提供声音信号。
根据该技术构成,与提供声音信号相关的样本声音信号被存储于样本声音存储部。将周围声音信号的特征量与存储于样本声音存储部的样本声音信号的特征量进行比较,提取具有与样本声音信号的特征量类似的特征量的声音信号作为提供声音信号。
因此,通过将周围声音信号的特征量与存储于样本声音存储部的样本声音信号进行比较,能够简单地提取提供声音信号。
另外,上述的声音处理装置中,可以设置成:还具备:选择部,其选择第1输出模式、第2输出模式和第3输出模式之中的任一输出模式,所述第1输出模式是将所述提供声音信号无延迟地与所述第1声音信号一起输出的模式,所述第2输出模式是在仅输出第1声音信号之后延迟输出所述提供声音信号的模式,所述第3输出模式是在没有从所述周围声音信号中提取所述提供声音信号的情况下仅输出所述第1声音信号的模式;和声音输出部,其在选择所述第1输出模式的情况下,将所述提供声音信号无延迟地与所述第1声音信号一起输出,在选择所述第2输出模式的情况下,在仅输出所述第1声音信号之后,延迟输出所述提供声音信号,在选择所述第3输出模式的情况下,仅输出所述第1声音信号。
根据该技术构成,选择第1输出模式、第2输出模式和第3输出模式之中的任一输出模式,所述第1输出模式是将提供声音信号无延迟地与第1声音信号一起输出的模式,所述第2输出模式是在仅输出第1声音信号之后延迟输出提供声音信号的模式,所述第3输出模式是在没有从周围声音信号中提取提供声音信号的情况下仅输出第1声音信号的模式。在选择第1输出模式的情况下,将提供声音信号无延迟地与第1声音信号一起输出。在选择第2输出模式的情况下,在仅输出第1声音信号之后,延迟输出提供声音信号。在选择第3输出模式的情况下,仅输出第1声音信号。
因此,能够根据提供声音信号的优先级来确定输出提供声音信号的定时,对于紧急度更高的提供声音信号,能够与第1声音信号一起输出,对于紧急度低的提供声音信号,能够在输出第1声音信号后输出,对于不需要特别向用户提供的周围声音信号,能够不输出而进行抑制。
另外,上述的声音处理装置中,可以设置成:还具备检测从所述第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间的无声区间检测部,所述声音输出部在选择所述第2输出模式的情况下,判断通过所述无声区间检测部是否检测出所述无声区间,在判断为检测出所述无声区间的情况下,将第3声音信号输出到所述无声区间。
根据该技术构成,检测从第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间。在选择第2输出模式的情况下,判断通过无声区间检测部是否检测出无声区间,在判断为检测出无声区间的情况下,将第3声音信号输出到无声区间。
因此,向没有人的讲话的无声区间输出第3声音信号,从而用户能够更明确地听到第3声音信号。
另外,上述的声音处理装置中,可以设置成:还具备检测所述第1声音信号中的语速的语速检测部,所述声音输出部在选择所述第2输出模式的情况下,判断由所述语速检测部检测出的所述语速是否比预定的速度慢,在判断为所述语速比预定的速度慢的情况下,输出所述第3声音信号。
根据该技术构成,检测第1声音信号中的语速。在选择第2输出模式的情况下,判断检测出的语速是否比预定的速度慢,在判断为语速比预定的速度慢的情况下,输出第3声音信号。
因此,在语速比预定的速度慢的情况下,输出第3声音信号,从而用户能够更明确地听到第3声音信号。
另外,上述的声音处理装置中,可以设置成:还具备检测从所述第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间的无声区间检测部,所述声音输出部在选择所述第2输出模式的情况下,判断由所述无声区间检测部检测出的所述无声区间是否为预定的长度以上,在判断为所述无声区间为预定的长度以上的情况下,将所述第3声音信号输出到所述无声区间。
根据该技术构成,检测从第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间。在选择第2输出模式的情况下,判断检测出的无声区间是否为预定的长度以上,在判断为无声区间为预定的长度以上的情况下,将第3声音信号输出到无声区间。
因此,在讲话中断的情况下,输出第3声音信号,从而用户能够更明确地听到第3声音信号。
本公开的另一方面涉及的声音处理方法,包括以下步骤:周围声音取得步骤,取得表示用户周围的声音的周围声音信号;声音提取步骤,从在所述周围声音取得步骤中取得的所述周围声音信号中,提取表示向用户提供的声音的提供声音信号;以及输出步骤,输出所述提供声音信号和表示主声音的第1声音信号。
根据该技术构成,取得表示用户周围的声音的周围声音信号,从取得的周围声音信号中,提取表示向用户提供的声音的提供声音信号,输出提供声音信号和表示主声音的第1声音信号。
因此,能够从用户周围的声音之中,输出向用户提供的声音。
以下,参照附图对本公开的实施方式进行说明。再者,以下的实施方式是将本公开具体化的一例,并不限定本公开的技术范围。
(实施方式1)
图1是表示实施方式1中的声音处理装置的结构的图。声音处理装置1例如为助听器。
图1所示的声音处理装置1具备麦克风阵列11、声音提取部12、谈话评价部13、抑制声音存储部14、优先级评价部15、抑制声音输出部16、信号加算部17、声音强调部18和扬声器19。
麦克风阵列11由多个麦克风构成。多个麦克风分别收集周围的声音,将收集的声音转换为声音信号。
声音提取部12按每个声源而提取声音信号。声音提取部12取得表示用户周围的声音的周围声音信号。声音提取部12基于由麦克风阵列11取得的多个声音信号,提取声源不同的多个声音信号。声音提取部12具备指向性合成部121和声源分离部122。
指向性合成部121从麦克风阵列11输出的多个声音信号中,提取同一声源输出的多个声音信号。
声源分离部122例如通过盲声源分离处理,将输入的多个声音信号分离为表示人讲话的声音即主声音的讲话声音信号、和表示讲话以外的声音即与主声音不同的应该被抑制的声音的抑制声音信号。主声音包括参与谈话的人讲话的声音。声源分离部122按每个声源而分离声音信号。例如,在多个讲话者说话的情况下,声源分离部122对多个讲话者的每一个分离声音信号。声源分离部122将分离出的讲话声音信号向谈话评价部13输出,将分离出的抑制声音信号向抑制声音存储部14输出。
谈话评价部13对从声源分离部122输入的多个讲话声音信号进行评价。具体而言,谈话评价部13确定多个讲话声音信号的每一个的讲话者。例如,谈话评价部13将讲话者和用于识别讲话者的声音参数相关联地存储。谈话评价部13将输入的讲话声音信号和储存的声音参数进行比较,由此确定与讲话声音信号对应的讲话者。再者,谈话评价部13可以基于输入的讲话声音信号的大小(等级)来识别讲话者。即,使用声音处理装置1的用户的声音大于谈话的对方的声音。因此,谈话评价部13可以在输入的讲话声音信号的等级为预定值以上的情况下,判断为该讲话声音信号是用户自身的讲话,在输入的讲话声音信号的等级小于预定值的情况下,判断该讲话声音信号是用户以外的人物的讲话。另外,谈话评价部13可以将等级第2大的讲话声音信号判断为表示与用户谈话的对方的声音的讲话声音信号。
另外,谈话评价部13确定多个讲话声音信号各自的讲话区间。另外,谈话评价部13可以检测从讲话声音信号的输出结束到输入下一个讲话声音信号为止的无声区间。再者,无声区间表示没有谈话的区间。因此,谈话评价部13在具有谈话的声音的情况下不作为无声区间进行检测。
另外,谈话评价部13可以算出多个讲话声音信号的语速(讲话速度)。例如,谈话评价部13可以将预定的时间内所说出的文字数除以预定的时间而得到的值作为语速来算出。
抑制声音存储部14存储从声源分离部122输入的多个抑制声音信号。另外,谈话评价部13可以向抑制声音存储部14输出表示用户自身讲话的声音的讲话声音信号、和表示与用户谈话的对方以外的人讲话的声音的讲话声音信号。抑制声音存储部14可以存储表示用户自身讲话的声音的讲话声音信号、和表示与用户谈话的对方以外的人讲话的声音的讲话声音信号。
优先级评价部15对多个抑制声音信号的优先级进行评价。优先级评价部15具备抑制声音样本存储部151、抑制声音判别部152和抑制声音输出控制部153。
抑制声音样本存储部151对于每个抑制声音信号存储表示向用户提供的抑制声音信号的特征量的声音参数。另外,抑制声音样本存储部151可以与声音参数相关联地存储优先级。对重要度(紧急度)高的声音赋予高的优先级,对重要度(紧急度)低的声音赋予低的优先级。例如,对尽管用户正在谈话中、但还是最好马上通知用户的声音赋予第1优先级,对可以在谈话结束后通知用户的声音赋予比第1优先级低的第2优先级。另外,对于不需要通知用户的声音,可以赋予比第2优先级低的第3优先级。再者,抑制声音样本存储部151可以不存储不需要通知用户的声音的声音参数。
在此,向用户提供的声音有例如电话机的铃声、电子邮件的铃声、对讲机的声音、车的发动机的声音(车接近的声音)、车的喇叭声、或通知洗衣完成的提示音等由家用电器通知的提示音等。这些向用户提供的声音之中,包括需要用户立即应对的声音、和不需要用户立即应对但需要稍后应对的声音。
抑制声音判别部152对存储于抑制声音存储部14的多个抑制声音信号之中、表示向用户提供的声音的抑制声音信号(提供声音信号)进行判别。抑制声音判别部152从取得的周围声音信号(抑制声音信号)中提取表示向用户提供的声音的抑制声音信号。抑制声音判别部152将存储于抑制声音存储部14的多个抑制声音信号的声音参数、与存储于抑制声音样本存储部151的声音参数进行比较,从抑制声音存储部14中提取具有与存储于抑制声音样本存储部151的声音参数类似的声音参数的抑制声音信号。
抑制声音输出控制部153根据与由抑制声音判别部152判别为是表示向用户提供的声音的抑制声音信号的抑制声音信号相关联的优先级,判断是否输出该抑制声音信号,并且判断输出抑制声音信号的定时。抑制声音输出控制部153选择第1输出模式、第2输出模式和第3输出模式之中的任一输出模式,所述第1输出模式是将抑制声音信号无延迟地与讲话声音信号一起输出的模式,所述第2输出模式是在仅输出讲话声音信号之后延迟输出抑制声音信号的模式,所述第3输出模式是在没有提取抑制声音信号的情况下仅输出讲话声音信号的模式。
图2是表示实施方式1中的输出模式的一例的图。抑制声音输出控制部153,在第1优先级与抑制声音信号相关联的情况下,选择将抑制声音信号无延迟地与讲话声音信号一起输出的第1输出模式。另外,抑制声音输出控制部153在比第1优先级低的第2优先级与抑制声音信号相关联的情况下,选择在仅输出讲话声音信号之后延迟输出抑制声音信号的第2输出模式。另外,抑制声音输出控制部153在没有提取向用户提供的抑制声音信号的情况下,选择仅输出讲话声音信号的第3输出模式。
另外,抑制声音输出控制部153在选择第1输出模式的情况下,指示抑制声音输出部16输出抑制声音信号。另外,抑制声音输出控制部153在选择第2输出模式的情况下,判断通过谈话评价部13是否检测出无声区间,在判断为检测出无声区间的情况下,指示抑制声音输出部16输出抑制声音信号。另外,抑制声音输出控制部153在选择第3输出模式的情况下,指示抑制声音输出部16不输出抑制声音信号。
再者,抑制声音输出控制部153可以判断向用户提供的抑制声音信号是否与讲话声音信号时间重叠地输入。抑制声音输出控制部153可以在判断为向用户提供的抑制声音信号与讲话声音信号时间重叠地输入的情况下,选择第1~第3输出模式的任一模式,在判断为向用户提供的抑制声音信号没有与讲话声音信号时间重叠地输入的情况下,输出该抑制声音信号。
另外,抑制声音输出控制部153可以在选择第2输出模式的情况下,判断由谈话评价部13检测出的无声区间是否为预定的长度以上,在判断为无声区间为预定的长度以上的情况下,指示抑制声音输出部16输出抑制声音信号。
并且,抑制声音输出控制部153可以在选择第2输出模式的情况下,判断由谈话评价部13检测出的语速是否比预定的速度慢,在判断为语速比预定的速度慢的情况下,指示抑制声音输出部16输出抑制声音信号。
抑制声音输出部16根据来自抑制声音输出控制部153的指示输出抑制声音信号。
信号加算部17输出表示主声音的讲话声音信号(第1声音信号)和向用户提供的抑制声音信号(提供声音信号)。信号加算部17将从谈话评价部13输出的分离出的讲话声音信号、和由抑制声音输出部16输出的抑制声音信号合成(加算(加法运算))输出。信号加算部17在选择第1输出模式的情况下,将抑制声音信号无延迟地与讲话声音信号一起输出。信号加算部17在选择第2输出模式的情况下,在仅输出讲话声音信号后,延迟输出抑制声音信号。信号加算部17在选择第3输出模式的情况下,仅输出讲话声音信号。
声音强调部18强调由信号加算部17输出的讲话声音信号和/或抑制声音信号。声音强调部18为了配合使用者的听觉特性,通过例如将声音信号放大和/或对每个频带调整声音信号的放大率等来强调声音信号。通过强调讲话声音信号和/或抑制声音信号,听力障碍者变得容易听到讲话声音和/或抑制声音。
扬声器19将由声音强调部18强调后的讲话声音信号和/或抑制声音信号转换为讲话声音和/或抑制声音,并输出转换后的讲话声音和/或抑制声音。再者,扬声器19例如是耳机。
再者,本实施方式1中的声音处理装置1可以具备麦克风阵列11、声音强调部18和扬声器19。例如,用户戴的助听器可以具备麦克风阵列11、声音强调部18和扬声器19,助听器通过网络与声音处理装置1可通信地连接。
图3是用于说明实施方式1中的声音处理装置的动作的一例的流程图。
首先,在步骤S1中,指向性合成部121取得由麦克风阵列11转换的声音信号。
接着,在步骤S2中,声源分离部122按每个声源而将取得的声音信号分离。特别是声源分离部122将按每个声源而分离出的声音信号之中,表示人讲话的声音信号的讲话声音信号向谈话评价部13输出,将讲话声音信号以外的表示应该抑制的声音信号的抑制声音信号向抑制声音存储部14输出。
然后,在步骤S3中,声源分离部122将分离出的抑制声音信号存储于抑制声音存储部14。
接着,在步骤S4中,抑制声音判别部152判断抑制声音存储部14中是否具有向用户提供的抑制声音信号。抑制声音判别部152将提取的抑制声音信号的特征量、与存储于抑制声音样本存储部151的抑制声音信号的样本的特征量进行比较。抑制声音判别部152在存在具有与存储于抑制声音样本存储部151的抑制声音信号的样本的特征量类似的特征量的抑制声音信号的情况下,判断为抑制声音存储部14中具有向用户提供的抑制声音信号。
在此,判断为抑制声音存储部14中没有向用户提供的抑制声音信号的情况下(步骤S4中为否),在步骤S5中,信号加算部17仅输出从谈话评价部13输出的讲话声音信号。声音强调部18强调由信号加算部17输出的讲话声音信号。并且,扬声器19将由声音强调部18强调的讲话声音信号转换为讲话声音,并输出转换后的讲话声音。该情况下,讲话以外的声音被抑制,因此没有被输出。在输出讲话声音后,处理返回步骤S1的处理。
另一方面,判断为抑制声音存储部14中具有向用户提供的抑制声音信号的情况下(步骤S4中为是),在步骤S6中,抑制声音判别部152从抑制声音存储部14中提取向用户提供的抑制声音信号。
接着,在步骤S7中,抑制声音输出控制部153根据与由抑制声音判别部152提取的向用户提供的抑制声音信号相关联的优先级,判断是否使该抑制声音信号延迟。例如,抑制声音输出控制部153在与被判别为是向用户提供的抑制声音信号的抑制声音信号相关联的优先级为预定的值以上的情况下,判断为不使向用户提供的抑制声音信号延迟。另外,抑制声音输出控制部153在与被判别为是向用户提供的抑制声音信号的抑制声音信号相关联的优先级小于预定的值的情况下,判断为使向用户提供的抑制声音信号延迟。
在判断为不使向用户提供的抑制声音信号延迟的情况下,抑制声音输出控制部153指示抑制声音输出部16输出在步骤S6中提取的向用户提供的抑制声音信号。抑制声音输出部16根据来自抑制声音输出控制部153的指示输出向用户提供的抑制声音信号。
在此,判断为不使向用户提供的抑制声音信号延迟的情况下(步骤S7中为否),在步骤S8中,信号加算部17输出从谈话评价部13输出的讲话声音信号、和由抑制声音输出部16输出的向用户提供的抑制声音信号。声音强调部18强调由信号加算部17输出的讲话声音信号和抑制声音信号。并且,扬声器19将由声音强调部18强调后的讲话声音信号和抑制声音信号转换为讲话声音和抑制声音,并输出转换后的讲话声音和抑制声音。该情况下,讲话以外的声音与讲话重叠输出。在输出讲话声音和抑制声音后,处理返回步骤S1的处理。
另一方面,判断为使向用户提供的抑制声音信号延迟的情况下(步骤S7中为是),在步骤S9中,信号加算部17仅输出从谈话评价部13输出的讲话声音信号。声音强调部18强调由信号加算部17输出的讲话声音信号。并且,扬声器19将由声音强调部18强调后的讲话声音信号转换为讲话声音,并输出转换的讲话声音。
接着,在步骤S10中,抑制声音输出控制部153判断是否检测出没有检测到用户的谈话的无声区间。谈话评价部13检测从讲话声音信号的输出结束到输入下一个讲话声音信号为止的无声区间。谈话评价部13检测出无声区间的情况下,通知抑制声音输出控制部153。抑制声音输出控制部153在被从谈话评价部13通知了检测出无声区间的情况下,判断为检测出无声区间。在判断为检测出无声区间的情况下,抑制声音输出控制部153指示抑制声音输出部16将在步骤S6中提取的向用户提供的抑制声音信号输出到无声区间。抑制声音输出部16根据来自抑制声音输出控制部153的指示,输出向用户提供的抑制声音信号。在此,在判断为没有检测出无声区间的情况下(步骤S10中为否),进行步骤S10的处理,直到检测出无声区间为止。
另一方面,在判断为检测出无声区间的情况下(步骤S10中为是),在步骤S11中,信号加算部17输出由抑制声音输出部16输出的向用户提供的抑制声音信号。声音强调部18强调由信号加算部17输出的抑制声音信号。并且,扬声器19将由声音强调部18强调后的抑制声音信号转换为抑制声音,并输出转换后的抑制声音。在输出抑制声音后,处理返回步骤S1的处理。
在此,对延迟输出向用户提供的抑制声音信号的定时的变形例进行说明。
图4是用于对延迟输出向用户提供的抑制声音信号的定时的第1变形例进行说明的示意图。
用户自身能够控制讲话,因此即使抑制声音与用户自身的讲话重叠输出也没有问题。所以,抑制声音输出控制部153可以预测用户自身的讲话即讲话声音信号输出的定时,并指示在预测出的定时输出向用户提供的抑制声音。
如图4所示,在对方的讲话和用户自身的讲话交替输入的情况下,当对方讲话后检测出无声区间时,可以预测为下一个输入的是用户自身的讲话。因此,谈话评价部13对输入的讲话声音信号的讲话者进行识别,并通知给抑制声音输出控制部153。抑制声音输出控制部153,在向用户提供的抑制声音即抑制声音信号与对方的讲话即讲话声音信号重叠输入后,交替输入作为用户自身的讲话的讲话声音信号和作为对方的讲话的讲话声音信号,在作为对方的讲话的讲话声音信号之后检测出无声区间的情况下,指示输出向用户提供的抑制声音。
由此,在用户自身讲话的定时输出向用户提供的抑制声音,因此用户能够更切实地听到向用户提供的抑制声音。
另外,抑制声音输出控制部153可以在向用户提供的抑制声音的抑制声音信号与对方的讲话的讲话声音信号重叠输入后,输入作为用户自身的讲话的讲话声音信号的情况下,指示输出向用户提供的抑制声音。
另外,抑制声音输出控制部153可以在谈话量减少、讲话与讲话的间隔变大的情况下,指示输出向用户提供的抑制声音。
图5是对延迟输出向用户提供的抑制声音信号的定时的第2变形例进行说明的示意图。
在谈话量减少、讲话与讲话的间隔变大的情况下,即使在无声区间输出了向用户提供的抑制声音,向用户提供的抑制声音与讲话不重叠的可能性也高。因此,抑制声音输出控制部153可以存储由谈话评价部13检测出的无声区间,在检测出的无声区间比上一次检测出的无声区间长的次数连续预定次数的情况下,指示输出向用户提供的抑制声音。
如图5所示,当讲话与讲话之间的无声区间慢慢变长时,能够判断谈话量减少下来。因此,谈话评价部13检测从讲话声音信号的输出结束到输入下一个讲话声音信号为止的无声区间。抑制声音输出控制部153存储由谈话评价部13检测出的无声区间的长度。并且,抑制声音输出控制部153在检测出的无声区间比上一次检测出的无声区间长的次数连续预定次数的情况下,指示输出向用户提供的抑制声音。图5的例子中,抑制声音输出控制部153在检测出的无声区间比上一侧检测出的无声区间长的次数连续3次的情况下,指示输出向用户提供的抑制声音。
由此,在谈话量变少的定时输出向用户提供的抑制声音,因此用户能够更切实地听到向用户提供的抑制声音。
另外,声音处理装置1可以还具备讲话声音存储部,所述讲话声音存储部在由抑制声音输出控制部153判断为向用户提供的抑制声音信号的优先级是最高的优先级的情况、即向用户提供的抑制声音信号是应该紧急通知用户的声音的情况下,存储由声源分离部122分离出的讲话声音信号。抑制声音输出控制部153,在判断为向用户提供的抑制声音信号的优先级是最高的优先级的情况下,指示抑制声音输出部16输出抑制声音信号,并且指示讲话声音存储部存储由声源分离部122分离出的讲话声音信号。信号加算部17在抑制声音信号的输出完成后,读取存储于讲话声音存储部的讲话声音信号并进行输出。
由此,例如能够在输出应该紧急通知的抑制声音信号之后,将在输出抑制声音信号期间输入的讲话声音信号输出,因此,用户能够切实地听到向用户提供的抑制声音,并且,能够切实地听到谈话。
另外,抑制声音输出部16可以变更抑制声音信号的频率而进行输出。另外,抑制声音输出部16可以使抑制声音信号的相位连续变化而输出。并且,声音处理装置1可以具备振动部,该振动部在从扬声器19输出抑制声音的情况下,使具有扬声器19的耳机振动。
(实施方式2)
接下来,对实施方式2中的声音处理装置进行说明。实施方式1中,直接输出向用户提供的抑制声音,而实施方式2中,不直接输出向用户提供的抑制声音,而是输出报知存在向用户提供的抑制声音这一情况的报知声音。
图6是表示实施方式2中的声音处理装置的结构的图。声音处理装置2例如是助听器。
图6所示的声音处理装置2具备麦克风阵列11、声音提取部12、谈话评价部13、抑制声音存储部14、信号加算部17、声音强调部18、扬声器19、报知声音存储部20、报知声音输出部21和优先级评价部22。再者,以下的说明中,对于与实施方式1相同的结构,附带相同的标号并省略说明,仅对与实施方式1不同的结构进行说明。
优先级评价部22具备抑制声音样本存储部151、抑制声音判别部152和报知声音输出控制部154。
报知声音输出控制部154根据与由抑制声音判别部152判别为是表示向用户提供的声音的抑制声音信号的抑制声音信号相关联的优先级,判断是否输出与该抑制声音信号对应关联的报知声音信号,并且,判断输出报知声音信号的定时。报知声音输出控制部154中的报知声音信号的输出控制处理与实施方式1中的抑制声音输出控制部153中的抑制声音信号的输出控制处理相同,因此省略详细的说明。
报知声音存储部20将报知声音信号与向用户提供的抑制声音信号相关联地存储。报知声音信号是用于报知输入了向用户提供的抑制声音信号的声音。例如,“电话响了”之类的报知声音信号与表示电话机的铃声的抑制声音信号相关联,“车接近中”这样的报知声音信号与表示车的发动机声音的抑制声音信号相关联。
报知声音输出部21根据来自报知声音输出控制部154的指示,从报知声音存储部20读取与向用户提供的抑制声音信号相关联的报知声音信号,将读取的报知声音信号向信号加算部17输出。实施方式2中的输出报知声音信号的定时,与实施方式1中的输出抑制声音信号的定时相同。
图7是用于说明实施方式2中的声音处理装置的动作的一例的流程图。
再者,图7所示的步骤S21~步骤S27的处理与图3所示的步骤S1~步骤S7的处理相同,因此省略说明。
在判断为不使向用户提供的抑制声音信号延迟的情况下,报知声音输出控制部154指示报知声音输出部21输出与在步骤S26中提取的向用户提供的抑制声音信号相关联的报知声音信号。
在判断为不使向用户提供的抑制声音信号延迟的情况下(步骤S27中为否),在步骤S28中,报知声音输出部21从报知声音存储部20读取与在步骤S26中提取的向用户提供的抑制声音信号相关联的报知声音信号。报知声音输出部21将读取的报知声音信号向信号加算部17输出。
接着,在步骤S29中,信号加算部17输出从谈话评价部13输出的讲话声音信号、和由报知声音输出部21输出的报知声音信号。声音强调部18强调由信号加算部17输出的讲话声音信号和报知声音信号。并且,扬声器19将由声音强调部18强调后的讲话声音信号和报知声音信号转换为讲话声音和报知声音,并输出转换后的讲话声音和报知声音。输出讲话声音和报知声音后,处理返回步骤S21的处理。
另一方面,在判断为使向用户提供的抑制声音信号延迟的情况下(步骤S27中为是),在步骤S30中,信号加算部17仅输出从谈话评价部13输出的讲话声音信号。声音强调部18强调由信号加算部17输出的讲话声音信号。并且,扬声器19将由声音强调部18强调后的讲话声音信号转换为讲话声音,并输出转换后的讲话声音。
然后,在步骤S31中,报知声音输出控制部154判断是否检测出没有检测到用户的谈话的无声区间。谈话评价部13检测从讲话声音信号的输出结束到输入下一个讲话声音信号为止的无声区间。谈话评价部13在检测出无声区间的情况下通知报知声音输出控制部154。报知声音输出控制部154在被从谈话评价部13通知检测到无声区间的情况下,判断为检测出无声区间。在判断为检测出无声区间的情况下,报知声音输出控制部154指示报知声音输出部21输出与在步骤S26中提取的向用户提供的抑制声音信号相关联的报知声音信号。在此,判断为没有检测出无声区间的情况下(步骤S31中为否),进行步骤S31的处理,直到检测出无声区间为止。
另一方面,判断为检测出无声区间的情况下(步骤S31中为是),在步骤S32中,报知声音输出部21从报知声音存储部20读取与在步骤S26中提取的向用户提供的抑制声音信号相关联的报知声音信号。报知声音输出部21将读取的报知声音信号向信号加算部17输出。
接着,在步骤S33中,信号加算部17输出由报知声音输出部21输出的报知声音信号。声音强调部18强调由信号加算部17输出的报知声音信号。并且,扬声器19将由声音强调部18强调后的报知声音信号转换为报知声音,并输出转换后的报知声音。在输出报知声音后,处理返回步骤S21的处理。
如以上那样,不直接输出向用户提供的抑制声音,而是输出报知输入了向用户提供的抑制声音这一情况的报知声音,因此,能够报知应该通知用户的周围的状况。
再者,本实施方式2中,在分离出的抑制声音信号之中存在向用户提供的抑制声音信号的情况下,输出报知存在向用户提供的抑制声音这一情况的报知声音,但本公开不特别限定于此,也可以在分离出的抑制声音信号之中存在向用户提供的抑制声音信号的情况下,显示报知存在向用户提供的抑制声音这一情况的报知图像。
该情况下,声音处理装置2代替实施方式2的报知声音输出控制部154、报知声音存储部20和报知声音输出部21,具备报知图像输出控制部、报知图像存储部、报知图像输出部和显示部。
报知图像输出控制部根据与由抑制声音判别部152判别为是表示向用户提供的声音的抑制声音信号的抑制声音信号相关联的优先级,判断是否输出与该抑制声音信号相关联的报知图像,并且,判断输出报知图像的定时。
报知图像存储部将报知图像与向用户提供的抑制声音信号相关联地存储。报知图像是用于报知输入了向用户提供的抑制声音信号的图像。例如,“电话响了”之类的报知图像与表示电话机的铃声的抑制声音信号相关联,“车接近中”之类的报知图像与表示车的发动机声音的抑制声音信号相关联。
报知图像输出部根据来自报知图像输出控制部的指示,从报知图像存储部读取与向用户提供的抑制声音信号相关联的报知图像,并将读取的报知图像向显示部输出。显示部显示由报知图像输出部输出的报知图像。
另外,在本实施方式中,报知声音由表示向用户提供的抑制声音的内容的语句表示,但本公开不限定于此,也可以由与向用户提供的抑制声音的内容对应的声音表示。即,报知声音存储部20也可以预先将声音与每个向用户提供的抑制声音信号相关联地存储,报知声音输出部21也可以从报知声音存储部20读取与向用户提供的抑制声音信号相关联的声音并进行输出。
(实施方式3)
接下来,对实施方式3中的声音处理装置进行说明。实施方式1、2中,将表示用户周围的声音的周围声音信号分离为表示人讲话的声音的讲话声音信号和表示与讲话的声音不同的要被抑制的声音的抑制声音信号,实施方式3中,输出从声源再现的再现声音信号,并且,从表示用户周围的声音的周围声音信号中提取向用户提供的周围声音信号并进行输出。
图8是表示实施方式3中的声音处理装置的结构的图。声音处理装置3例如是便携式音乐播放器或无线电广播接收器。
图8所示的声音处理装置3具备麦克风阵列11、声源部30、再现部31、声音提取部32、周围声音存储部33、优先级评价部34、周围声音输出部35、信号加算部36和扬声器19。再者,以下的说明中,对于与实施方式1相同的结构,附带相同的标号并省略说明,仅对与实施方式1不同的结构进行说明。
声源部30例如由存储器构成,存储表示主声音的声音信号。再者,主声音例如是音乐数据。另外,声源部30例如可以由无线电广播接收器构成,可以接收无线电广播,将接收到的无线电广播转换为声音信号。另外,声源部30例如可以由光盘驱动器构成,可以读取记录在光盘中的声音信号。
再现部31从声源部30再现声音信号,并输出再现的再现声音信号。
声音提取部32具备指向性合成部321和声源分离部322。指向性合成部321从由麦克风阵列11输出的多个周围声音信号中,提取由同一声源输出的多个周围声音信号。
声源分离部322例如通过盲声源分离处理,按每个声源而分离所输入的多个周围声音信号。
周围声音存储部33存储从声源分离部322输入的多个周围声音信号。
优先级评价部34具备周围声音样本存储部341、周围声音判别部342和周围声音输出控制部343。
周围声音样本存储部341按每个周围声音信号而存储表示向用户提供的周围声音信号的特征量的声音参数。另外,周围声音样本存储部341可以与声音参数相关联地存储优先级。对重要度(紧急度)高的声音赋予高的优先级,对重要度(紧急度)低的声音赋予低的优先级。例如,即使是用户正在听再现的声音的情况下也最好立即通知用户的声音被赋予第1优先级,可以在声音的再现结束后通知用户的声音被赋予比第1优先级低的第2优先级。另外,对于不需要通知用户的声音,可以赋予比第2优先级低的第3优先级。再者,抑制声音样本存储部151可以不存储无需通知用户的声音的声音参数。
周围声音判别部342判别存储于周围声音存储部33的多个周围声音信号之中、表示向用户提供的声音的周围声音信号。周围声音判别部342从取得的周围声音信号中提取表示向用户提供的声音的周围声音信号。周围声音判别部342将存储于周围声音存储部33的多个周围声音信号的声音参数、与存储于周围声音样本存储部341的声音参数进行比较,从周围声音存储部33提取具有与存储于周围声音样本存储部341的声音参数类似的声音参数的周围声音信号。
周围声音输出控制部343根据与由周围声音判别部342判别为是表示向用户提供的声音的周围声音信号的周围声音信号相关联的优先级,判断是否输出该周围声音信号,并且,判断输出周围声音信号的定时。周围声音输出控制部343选择第1输出模式、第2输出模式和第3输出模式之中任一输出模式,所述第1输出模式是将周围声音信号无延迟地与再现声音信号一起输出的模式,所述第2输出模式是在仅输出再现声音信号之后延迟输出周围声音信号的模式,所述第3输出模式在没有提取周围声音信号的情况下仅输出再现声音信号的模式。
另外,周围声音输出控制部343在选择第1输出模式的情况下,指示周围声音输出部35输出周围声音信号。另外,周围声音输出控制部343在选择第2输出模式的情况下,判断由再现部31进行的声音信号的再现是否结束,在判断为声音信号的再现结束的情况下,指示周围声音输出部35输出周围声音信号。另外,周围声音输出控制部343在选择第3输出模式的情况下,指示周围声音输出部35不输出周围声音信号。
周围声音输出部35根据来自周围声音输出控制部343的指示,输出周围声音信号。
信号加算部36输出从声源部30读取的再现声音信号(第1声音信号),并且,输出由抑制声音判别部152提取的向用户提供的周围声音信号(提供声音信号)。信号加算部36将从再现部31输出的再现声音信号和由周围声音输出部35输出的周围声音信号合成(加算)来输出。信号加算部36在选择第1输出模式的情况下,将周围声音信号无延迟地与再现声音信号一起输出。信号加算部36在选择第2输出模式的情况下,在仅输出再现声音信号之后,延迟输出周围声音信号。信号加算部36在选择第3输出模式的情况下,仅输出再现声音信号。
图9是用于说明实施方式3中的声音处理装置的动作的一例的流程图。
首先,在步骤S41中,指向性合成部121取得由麦克风阵列11转换后的周围声音信号。周围声音信号表示用户(声音处理装置)周围的声音。
接着,在步骤S42中,声源分离部322按每个声源而将所取得的周围声音信号分离。
然后,在步骤S43中,声源分离部322将分离出的周围声音信号存储于周围声音存储部33。
接着,在步骤S44中,周围声音判别部342判断周围声音存储部33是否具有向用户提供的抑制声音信号。周围声音判别部342将提取的抑制声音信号的特征量与存储于周围声音样本存储部341的抑制声音信号的样本的特征量进行比较。周围声音判别部342在存在具有与存储于周围声音样本存储部341的周围声音信号的样本的特征量类似的特征量的周围声音信号的情况下,判断为周围声音存储部33具有向用户提供的周围声音信号。
在此,在判断为周围声音存储部33不具有向用户提供的周围声音信号的情况下(步骤S44中为否),在步骤S45中,信号加算部36仅输出从再现部31输出的再现声音信号。并且,扬声器19将由信号加算部36输出的再现声音信号转换为再现声音,并输出转换后的再现声音。在输出再现声音后,处理返回步骤S41的处理。
另一方面,判断为周围声音存储部33具有向用户提供的周围声音信号的情况下(步骤S44中为是),在步骤S46中,周围声音判别部342从周围声音存储部33提取向用户提供的周围声音信号。
接着,在步骤S47中,周围声音输出控制部343根据与由周围声音判别部342提取的向用户提供的周围声音信号相关联的优先级,判断是否使该周围声音信号延迟。例如,周围声音输出控制部343在与被判别为是向用户提供的周围声音信号的周围声音信号相关联的优先级为预定的值以上的情况下,判断为不使向用户提供的周围声音信号延迟。另外,周围声音输出控制部343在与被判别为是向用户提供的周围声音信号的周围声音信号相关联的优先级小于预定的值的情况下,判断为使向用户提供的周围声音信号延迟。
在判断为不使向用户提供的周围声音信号延迟的情况下,周围声音输出控制部343指示周围声音输出部35输出在步骤S46中提取的向用户提供的周围声音信号。周围声音输出部35根据来自周围声音输出控制部343的指示,输出向用户提供的周围声音信号。
在此,判断为不使向用户提供的周围声音信号延迟的情况下(步骤S47中为否),在步骤S48中,信号加算部36输出从再现部31输出的再现声音信号、和由周围声音输出部35输出的向用户提供的周围声音信号。并且,扬声器19将由信号加算部36输出的再现声音信号和周围声音信号转换为再现声音和周围声音,并输出转换后的再现声音和周围声音。在输出再现声音和周围声音后,处理返回步骤S41的处理。
另一方面,在判断为使向用户提供的周围声音信号延迟的情况下(步骤S47中为是),在步骤S49中,信号加算部36仅输出从再现部31输出的再现声音信号。并且,扬声器19将由信号加算部36输出的再现声音信号转换为再现声音,并输出转换后的再现声音。
接着,在步骤S50中,周围声音输出控制部343判断由再现部31进行的再现声音信号的再现是否结束。再现部31在再现声音信号的再现结束的情况下,通知给周围声音输出控制部343。周围声音输出控制部343在被从再现部31通知再现声音信号的再现结束的情况下,判断为再现声音信号的再现结束。在判断为再现声音信号的再现结束的情况下,周围声音输出控制部343指示周围声音输出部35输出在步骤S46中提取的向用户提供的周围声音信号。周围声音输出部35根据来自周围声音输出控制部343的指示,输出向用户提供的周围声音信号。在此,判断为再现声音信号的再现没有结束的情况下(步骤S50中为否),进行步骤S50的处理,直到再现声音信号的再现结束。
另一方面,判断为再现声音信号的再现结束的情况下(步骤S50中为是),在步骤S51中,信号加算部36输出由周围声音输出部35输出的向用户提供的周围声音信号。并且,扬声器19将由信号加算部36输出的周围声音信号转换为周围声音,并输出转换后的周围声音。在输出周围声音后,处理返回步骤S41的处理。
再者,实施方式3中的输出周围声音的定时,可以与实施方式1中的输出抑制声音的定时相同。
(实施方式4)
接下来,对实施方式4中的声音处理装置进行说明。实施方式3中,直接输出向用户提供的周围声音,而实施方式4中,不直接输出向用户提供的周围声音,而是输出报知存在向用户提供的周围声音这一情况的报知声音。
图10是表示实施方式4中的声音处理装置的结构的图。声音处理装置4例如是便携式音乐播放器或无线电广播接收器。
图10所示的声音处理装置4具备麦克风阵列11、扬声器19、声源部30、再现部31、声音提取部32、周围声音存储部33、信号加算部36、优先级评价部37、报知声音存储部38和报知声音输出部39。再者,以下的说明中,对于与实施方式3相同的结构,附带相同标号并省略说明,仅对与实施方式3不同的结构进行说明。
优先级评价部37具备周围声音样本存储部341、周围声音判别部342和报知声音输出控制部344。
报知声音输出控制部344根据与由周围声音判别部342判别为是表示向用户提供的声音的周围声音信号的周围声音信号相关联的优先级,判断是否输出与该周围声音信号相关联的报知声音信号,并且,判断输出报知声音信号的定时。报知声音输出控制部344中的报知声音信号的输出控制处理,与实施方式3中的周围声音输出控制部343中的周围声音信号的输出控制处理相同,因此省略详细的说明。
报知声音存储部38将报知声音信号与向用户提供的周围声音信号相关联地存储。报知声音信号是用于报知输入了向用户提供的周围声音信号这一情况的声音。例如,“电话响了”之类的报知声音信号与表示电话机的铃声的周围声音信号相关联,“车接近中”之类的报知声音信号与表示车的发动机声音的周围声音信号相关联。
报知声音输出部39根据来自报知声音输出控制部344的指示,从报知声音存储部38读取与向用户提供的周围声音信号相关联的报知声音信号,将读取的报知声音信号向信号加算部36输出。实施方式4中的输出报知声音信号的定时,与实施方式3中的输出抑制声音信号的定时相同。
图11是用于说明实施方式4中的声音处理装置的动作的一例的流程图。
再者,图11所示的步骤S61~步骤S67的处理与图9所示的步骤S41~步骤S47的处理相同,因此省略说明。
在判断为不使向用户提供的周围声音信号延迟的情况下,报知声音输出控制部344指示报知声音输出部39输出与在步骤S66中提取的向用户提供的周围声音信号相关联的报知声音信号。
在判断为不使向用户提供的周围声音信号延迟的情况下(步骤S67中为否),在步骤S68中,报知声音输出部39从报知声音存储部38读取与在步骤S66中提取的向用户提供的周围声音信号相关联的报知声音信号。报知声音输出部39将读取的报知声音信号向信号加算部36输出。
接着,在步骤S69中,信号加算部36输出从再现部31输出的再现声音信号、和由报知声音输出部39输出的报知声音信号。并且,扬声器19将由信号加算部36输出的再现声音信号和报知声音信号转换为再现声音和报知声音,并输出转换后的再现声音和报知声音。在输出再现声音和报知声音后,处理返回步骤S61的处理。
另一方面,在判断为使向用户提供的周围声音信号延迟的情况下(步骤S67中为是),在步骤S70中,信号加算部36仅输出从再现部31输出的再现声音信号。并且,扬声器19将由信号加算部36输出的再现声音信号转换为再现声音,并输出转换后的再现声音。
接着,在步骤S71中,报知声音输出控制部344判断由再现部31进行的再现声音信号的再现是否结束。再现部31在再现声音信号的再现结束的情况下,通知给报知声音输出控制部344。报知声音输出控制部344在被从再现部31通知再现声音信号的再现结束的情况下,判断为再现声音信号的再现结束。在判断为再现声音信号的再现结束的情况下,报知声音输出控制部344指示报知声音输出部39输出与在步骤S66中提取的向用户提供的周围声音信号相关联的报知声音信号。在此,判断为再现声音信号的再现没有结束的情况下(步骤S71中为否),进行步骤S71的处理,直到再现声音信号的再现结束为止。
另一方面,在判断为再现声音信号的再现结束的情况下(步骤S71中为是),在步骤S72中,报知声音输出部39从报知声音存储部38读取与在步骤S66中提取的向用户提供的周围声音信号相关联的报知声音信号。报知声音输出部39将读取的报知声音信号向信号加算部36输出。
接着,在步骤S73中,信号加算部36输出由报知声音输出部39输出的报知声音信号。并且,扬声器19将由信号加算部36输出的报知声音信号转换为报知声音,并输出转换后的报知声音。在输出报知声音后,处理返回步骤S61的处理。
如以上那样,不直接输出向用户提供的周围声音,而是输出报知输入了向用户提供的周围声音这一情况的报知声音,因此,能够报知应该通知用户的周围的状况。
产业可利用性
本公开涉及的声音处理装置、声音处理方法作为能够从用户周围的声音之中输出向用户提供的声音,取得表示用户周围的声音的声音信号,并对所取得的声音信号实施预定的处理的声音处理装置、声音处理方法是有用的。

Claims (11)

1.一种声音处理装置,具备:
周围声音取得部,其取得表示用户周围的声音的周围声音信号;
声音提取部,其从由所述周围声音取得部取得的所述周围声音信号中,提取表示向用户提供的声音的提供声音信号;以及
输出部,其输出所述提供声音信号和表示主声音的第1声音信号。
2.根据权利要求1所述的声音处理装置,
还具备将由所述周围声音取得部取得的所述周围声音信号分离为所述第1声音信号和第2声音信号的声音分离部,所述第2声音信号表示与所述主声音不同的声音,
所述声音提取部从由所述声音分离部分离出的所述第2声音信号中提取所述提供声音信号,
所述输出部输出由所述声音分离部分离出的所述第1声音信号,并且输出由所述声音提取部提取的所述提供声音信号。
3.根据权利要求2所述的声音处理装置,
所述主声音包含参与谈话的人讲话的声音。
4.根据权利要求1所述的声音处理装置,
还具备预先存储所述第1声音信号的声音信号存储部,
所述输出部输出从所述声音信号存储部读取的所述第1声音信号,并且输出由所述声音提取部提取的所述提供声音信号。
5.根据权利要求4所述的声音处理装置,
所述主声音包含音乐数据。
6.根据权利要求1~5的任一项所述的声音处理装置,
还具备存储与所述提供声音信号相关的样本声音信号的样本声音存储部,
所述声音提取部将所述周围声音信号的特征量与存储于所述样本声音存储部的所述样本声音信号的特征量进行比较,提取具有与所述样本声音信号的特征量类似的特征量的声音信号作为所述提供声音信号。
7.根据权利要求1~6的任一项所述的声音处理装置,还具备:
选择部,其选择第1输出模式、第2输出模式和第3输出模式之中的任一输出模式,所述第1输出模式是将所述提供声音信号无延迟地与所述第1声音信号一起输出的模式,所述第2输出模式是在仅输出所述第1声音信号之后延迟输出所述提供声音信号的模式,所述第3输出模式是在没有从所述周围声音信号中提取所述提供声音信号的情况下仅输出所述第1声音信号的模式;和
声音输出部,其在选择所述第1输出模式的情况下,将所述提供声音信号无延迟地与所述第1声音信号一起输出,在选择所述第2输出模式的情况下,在仅输出所述第1声音信号之后,延迟输出所述提供声音信号,在选择所述第3输出模式的情况下,仅输出所述第1声音信号。
8.根据权利要求7所述的声音处理装置,
还具备检测从所述第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间的无声区间检测部,
所述声音输出部在选择所述第2输出模式的情况下,判断通过所述无声区间检测部是否检测出所述无声区间,在判断为检测出所述无声区间的情况下,将所述延迟输出的提供声音信号输出到所述无声区间。
9.根据权利要求7所述的声音处理装置,
还具备检测所述第1声音信号中的语速的语速检测部,
所述声音输出部在选择所述第2输出模式的情况下,判断由所述语速检测部检测出的所述语速是否比预定的速度慢,在判断为所述语速比预定的速度慢的情况下,输出所述延迟输出的提供声音信号。
10.根据权利要求7所述的声音处理装置,
还具备检测从所述第1声音信号的输出结束到输入下一个第1声音信号为止的无声区间的无声区间检测部,
所述声音输出部在选择所述第2输出模式的情况下,判断由所述无声区间检测部检测出的所述无声区间是否为预定的长度以上,在判断为所述无声区间为预定的长度以上的情况下,将所述延迟输出的提供声音信号输出到所述无声区间。
11.一种声音处理方法,包括以下步骤:
周围声音取得步骤,取得表示用户周围的声音的周围声音信号;
声音提取步骤,从在所述周围声音取得步骤中取得的所述周围声音信号中,提取表示向用户提供的声音的提供声音信号;以及
输出步骤,输出所述提供声音信号和表示主声音的第1声音信号。
CN201610048482.7A 2015-03-10 2016-01-25 声音处理装置、声音处理方法 Active CN105976829B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015-046572 2015-03-10
JP2015046572 2015-03-10

Publications (2)

Publication Number Publication Date
CN105976829A true CN105976829A (zh) 2016-09-28
CN105976829B CN105976829B (zh) 2021-08-20

Family

ID=56886727

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610048482.7A Active CN105976829B (zh) 2015-03-10 2016-01-25 声音处理装置、声音处理方法

Country Status (3)

Country Link
US (1) US10510361B2 (zh)
JP (2) JP6731632B2 (zh)
CN (1) CN105976829B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110097872A (zh) * 2019-04-30 2019-08-06 维沃移动通信有限公司 一种音频处理方法及电子设备
US11869475B1 (en) 2018-10-26 2024-01-09 Meta Platforms Technologies, Llc Adaptive ANC based on environmental triggers

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2017262404B2 (en) * 2016-05-11 2020-12-10 Hellberg Safety Ab Hearing protector and data transmission device
EP3627495B1 (en) * 2017-05-16 2022-08-10 Sony Group Corporation Information processing device and information processing method
US20230267812A1 (en) * 2020-07-14 2023-08-24 Sony Group Corporation Notification control device, notification control method, and notification system
EP4037338A1 (en) * 2021-02-01 2022-08-03 Orcam Technologies Ltd. Systems and methods for transmitting audio signals with varying delays
WO2023140149A1 (ja) * 2022-01-21 2023-07-27 京セラ株式会社 音声処理装置、音声処理方法及び音声処理システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1684547A (zh) * 2004-04-16 2005-10-19 田德扬 助听装置
US20070160243A1 (en) * 2005-12-23 2007-07-12 Phonak Ag System and method for separation of a user's voice from ambient sound
US20070189544A1 (en) * 2005-01-15 2007-08-16 Outland Research, Llc Ambient sound responsive media player
CN101193460A (zh) * 2006-11-20 2008-06-04 松下电器产业株式会社 检测声音的装置及方法
JP2011170282A (ja) * 2010-02-22 2011-09-01 Toshiba Corp 再生装置および再生方法
CN102915753A (zh) * 2012-10-23 2013-02-06 华为终端有限公司 一种电子设备的智能控制音量的方法及实现装置
EP2603018A1 (de) * 2011-12-08 2013-06-12 Siemens Medical Instruments Pte. Ltd. Hörvorrichtung mit Sprecheraktivitätserkennung und Verfahren zum Betreiben einer Hörvorrichtung

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6420975B1 (en) * 1999-08-25 2002-07-16 Donnelly Corporation Interior rearview mirror sound processing system
WO2004084187A1 (ja) * 2003-03-17 2004-09-30 Nagoya Industrial Science Research Institute 対象音検出方法、信号入力遅延時間検出方法及び音信号処理装置
JP4134844B2 (ja) * 2003-08-08 2008-08-20 ヤマハ株式会社 聴覚補助装置
JP2005084253A (ja) * 2003-09-05 2005-03-31 Matsushita Electric Ind Co Ltd 音響処理装置、方法、プログラム及び記憶媒体
JP4381108B2 (ja) 2003-11-17 2009-12-09 日本ビクター株式会社 話速変換装置における時報処理装置
JP5188558B2 (ja) * 2004-12-14 2013-04-24 アルパイン株式会社 音声処理装置
JP2007036608A (ja) * 2005-07-26 2007-02-08 Yamaha Corp ヘッドホン装置
CN101433098B (zh) 2006-03-03 2015-08-05 Gn瑞声达A/S 助听器内的全向性和指向性麦克风模式之间的自动切换
US7903826B2 (en) * 2006-03-08 2011-03-08 Sony Ericsson Mobile Communications Ab Headset with ambient sound
JP4557919B2 (ja) * 2006-03-29 2010-10-06 株式会社東芝 音声処理装置、音声処理方法および音声処理プログラム
DE102006047982A1 (de) * 2006-10-10 2008-04-24 Siemens Audiologische Technik Gmbh Verfahren zum Betreiben einer Hörfilfe, sowie Hörhilfe
CN101166017B (zh) * 2006-10-20 2011-12-07 松下电器产业株式会社 用于声音产生设备的自动杂音补偿方法及装置
WO2008083315A2 (en) * 2006-12-31 2008-07-10 Personics Holdings Inc. Method and device configured for sound signature detection
US7987090B2 (en) * 2007-08-09 2011-07-26 Honda Motor Co., Ltd. Sound-source separation system
JP5207273B2 (ja) * 2007-10-12 2013-06-12 Necカシオモバイルコミュニケーションズ株式会社 端末装置
ATE490693T1 (de) * 2007-10-29 2010-12-15 Lipid Nutrition Bv Dressingzusammensetzung
JP5233914B2 (ja) * 2009-08-28 2013-07-10 富士通株式会社 ノイズ低減装置およびノイズ低減プログラム
JP5607627B2 (ja) * 2010-02-25 2014-10-15 パナソニック株式会社 信号処理装置及び信号処理方法
JP2012074976A (ja) * 2010-09-29 2012-04-12 Nec Casio Mobile Communications Ltd 携帯端末、携帯システムおよび警告方法
JP5514698B2 (ja) * 2010-11-04 2014-06-04 パナソニック株式会社 補聴器
JP5724367B2 (ja) * 2010-12-21 2015-05-27 大日本印刷株式会社 音楽再生装置及び再生音量制御システム,
US9191744B2 (en) * 2012-08-09 2015-11-17 Logitech Europe, S.A. Intelligent ambient sound monitoring system
US9479872B2 (en) * 2012-09-10 2016-10-25 Sony Corporation Audio reproducing method and apparatus
JP6054142B2 (ja) * 2012-10-31 2016-12-27 株式会社東芝 信号処理装置、方法およびプログラム
US9050212B2 (en) * 2012-11-02 2015-06-09 Bose Corporation Binaural telepresence
US9270244B2 (en) * 2013-03-13 2016-02-23 Personics Holdings, Llc System and method to detect close voice sources and automatically enhance situation awareness
CN105378826B (zh) * 2013-05-31 2019-06-11 诺基亚技术有限公司 音频场景装置
EP3796678A1 (en) * 2013-11-05 2021-03-24 Oticon A/s A binaural hearing assistance system allowing the user to modify a location of a sound source
JP6334895B2 (ja) * 2013-11-15 2018-05-30 キヤノン株式会社 信号処理装置及びその制御方法、プログラム
TWI543635B (zh) * 2013-12-18 2016-07-21 jing-feng Liu Speech Acquisition Method of Hearing Aid System and Hearing Aid System
DK2904972T3 (da) * 2014-02-05 2021-08-16 Oticon As Indretning til bestemmelse af dødt cochlear-område
US9685926B2 (en) * 2014-12-10 2017-06-20 Ebay Inc. Intelligent audio output devices
US9513866B2 (en) * 2014-12-26 2016-12-06 Intel Corporation Noise cancellation with enhancement of danger sounds

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1684547A (zh) * 2004-04-16 2005-10-19 田德扬 助听装置
US20070189544A1 (en) * 2005-01-15 2007-08-16 Outland Research, Llc Ambient sound responsive media player
US20070160243A1 (en) * 2005-12-23 2007-07-12 Phonak Ag System and method for separation of a user's voice from ambient sound
CN101193460A (zh) * 2006-11-20 2008-06-04 松下电器产业株式会社 检测声音的装置及方法
JP2011170282A (ja) * 2010-02-22 2011-09-01 Toshiba Corp 再生装置および再生方法
EP2603018A1 (de) * 2011-12-08 2013-06-12 Siemens Medical Instruments Pte. Ltd. Hörvorrichtung mit Sprecheraktivitätserkennung und Verfahren zum Betreiben einer Hörvorrichtung
CN102915753A (zh) * 2012-10-23 2013-02-06 华为终端有限公司 一种电子设备的智能控制音量的方法及实现装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A. HOMAYOUN KAMKAR-PARSI AND MARTIN BOUCHARD: "Instantaneous Binaural Target PSD Estimation for Hearing Aid Noise Reduction in Complex Acoustic Environments", 《IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT》 *
张戌宝: "现代助听器的降噪技术(单麦克风类)和性能(1)", 《JOURNAL OF AUDIOLOGY AND SPEECH PATHOLOGY》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11869475B1 (en) 2018-10-26 2024-01-09 Meta Platforms Technologies, Llc Adaptive ANC based on environmental triggers
CN110097872A (zh) * 2019-04-30 2019-08-06 维沃移动通信有限公司 一种音频处理方法及电子设备
CN110097872B (zh) * 2019-04-30 2021-07-30 维沃移动通信有限公司 一种音频处理方法及电子设备

Also Published As

Publication number Publication date
CN105976829B (zh) 2021-08-20
JP6731632B2 (ja) 2020-07-29
JP2016170405A (ja) 2016-09-23
JP2020156107A (ja) 2020-09-24
US10510361B2 (en) 2019-12-17
US20160267925A1 (en) 2016-09-15
JP6931819B2 (ja) 2021-09-08

Similar Documents

Publication Publication Date Title
CN105976829A (zh) 声音处理装置、声音处理方法
US9299333B2 (en) System for adaptive audio signal shaping for improved playback in a noisy environment
KR101731714B1 (ko) 음질 개선을 위한 방법 및 헤드셋
JP2018528479A (ja) スーパー広帯域音楽のための適応雑音抑圧
CN106302997B (zh) 一种输出控制方法、电子设备及***
CN108335701B (zh) 一种进行声音降噪的方法及设备
EP3038255B1 (en) An intelligent volume control interface
EP2996352B1 (en) Audio system and method using a loudspeaker output signal for wind noise reduction
CN105741862A (zh) 一种移动终端音频录入的方法和装置及移动终端
US20150049879A1 (en) Method of audio processing and audio-playing device
CN103888610A (zh) 同时通话和录音的方法和通讯终端
CN106066782B (zh) 一种数据处理方法及电子设备
JP2024001353A (ja) ヘッドホン、および音響信号処理方法、並びにプログラム
JP4756560B2 (ja) 情報処理装置および情報処理方法
CN104184886A (zh) 一种信息处理方法和电子设备
KR20120124351A (ko) 휴대 단말기를 이용한 음성인식 보청 시스템 및 그것의 운영방법
CN113612881B (zh) 基于单移动终端的扬声方法、装置及存储介质
CN112954577B (zh) 评测设备和耳机评测实时展示方法
JP5812932B2 (ja) 音声聴取装置とその方法とプログラム
CN115580678A (zh) 一种数据处理方法、装置和设备
JP4684941B2 (ja) 通信装置、プログラムおよび受信音声出力方法
CN110570875A (zh) 检测环境噪音以改变播放语音频率的方法及声音播放装置
KR20130130325A (ko) 휴대 단말기를 이용한 음성인식 보청 시스템 및 그것의 운영방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant