JP6738342B2 - 聴力を改善するためのシステムおよび方法 - Google Patents

聴力を改善するためのシステムおよび方法 Download PDF

Info

Publication number
JP6738342B2
JP6738342B2 JP2017542487A JP2017542487A JP6738342B2 JP 6738342 B2 JP6738342 B2 JP 6738342B2 JP 2017542487 A JP2017542487 A JP 2017542487A JP 2017542487 A JP2017542487 A JP 2017542487A JP 6738342 B2 JP6738342 B2 JP 6738342B2
Authority
JP
Japan
Prior art keywords
user
smartphone
microphone
microphones
audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017542487A
Other languages
English (en)
Other versions
JP2018511212A5 (ja
JP2018511212A (ja
Inventor
バードナー,スティーブン
スパークス,ロドニー
スノー,ケビン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noopl inc
Original Assignee
Noopl inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noopl inc filed Critical Noopl inc
Publication of JP2018511212A publication Critical patent/JP2018511212A/ja
Publication of JP2018511212A5 publication Critical patent/JP2018511212A5/ja
Application granted granted Critical
Publication of JP6738342B2 publication Critical patent/JP6738342B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/17Image acquisition using hand-held instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • H04S7/303Tracking of listener position or orientation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • G10L2021/02161Number of inputs available containing the signal or the noise to be suppressed
    • G10L2021/02166Microphone arrays; Beamforming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2201/00Details of transducers, loudspeakers or microphones covered by H04R1/00 but not provided for in any of its subgroups
    • H04R2201/40Details of arrangements for obtaining desired directional characteristic by combining a number of identical transducers covered by H04R1/40 but not provided for in any of its subgroups
    • H04R2201/4012D or 3D arrays of transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2225/00Details of deaf aids covered by H04R25/00, not provided for in any of its subgroups
    • H04R2225/43Signal processing in hearing aids to enhance the speech intelligibility
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2225/00Details of deaf aids covered by H04R25/00, not provided for in any of its subgroups
    • H04R2225/55Communication between hearing aids and external devices via a network for data exchange
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2225/00Details of deaf aids covered by H04R25/00, not provided for in any of its subgroups
    • H04R2225/61Aspects relating to mechanical or electronic switches or control elements, e.g. functioning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2410/00Microphones
    • H04R2410/01Noise reduction using microphones having different directional characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2420/00Details of connection covered by H04R, not provided for in its groups
    • H04R2420/07Applications of wireless loudspeakers or wireless microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic
    • H04R2430/23Direction finding using a sum-delay beam-former
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
    • H04R25/40Arrangements for obtaining a desired directivity characteristic
    • H04R25/407Circuits for combining signals of a plurality of transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Otolaryngology (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Quality & Reliability (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Neurosurgery (AREA)
  • Details Of Audible-Bandwidth Transducers (AREA)

Description

<関連出願の相互参照>
本願は、2015年2月13日出願の米国特許仮出願第62/116,231号の優先権を主張するものであり、参照によりその開示の全てを本明細書に援用する。
<技術分野>
本発明は、概して、聴力のためのシステムおよび方法に関する。より具体的には、本発明は聴力を改善するためのシステムおよび方法である。
補聴器は、ある一定の環境において良好に機能するが、補聴器上のマイクロフォンの場所は、指向性マイクロフォンおよびノイズキャンセルを十分に利用するのに最適な位置にはない。さらに、補聴器は、電力および電池寿命を有効に利用しなければならず、したがって、リアルタイムでのノイズキャンセル増幅や他のオーディオエンハンスメントに活用するのに十分に最適化することができない。加えて、レストランなどのノイズの多い環境によって、硬質表面でのノイズの跳ね返りや方向の変化というさらなる課題が生じている。
本発明の目的は、聴力が損失した個人のために聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、頭部位置および/または注視を判定することにより、対象とするオーディオ領域を増大させる、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、場所認識の解析、頭部または注視の追跡、マイクロフォンの組合せの選択、角度および強度、音声増幅ならびにノイズキャンセルの機能を実行するための小型マイクロプロセッサを含む、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、手に保持されるケースに上記機能が含まれる、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、装置がテーブル上に置かれるか、あるいは、手に持った状態または机などの表面に起立させた状態で使用できるようにゴムで被覆した脚部を有するキックスタンドを有する、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、聴力を改善するためのシステムおよび方法を提供することであり、当該システムは、左耳および/または右耳に向けられ得るパラメトリックスピーカで構成される。
本発明の目的は、外部スピーカ、外部パラメトリックスピーカ、(小型イヤホンを有するかあるいは有しない)スマートフォンそれ自体、補聴器、補助聴覚装置、BLUETOOTH(登録商標)ヘッドセット、人工内耳、ヘッドホン、または聴取もしくは聴力向上のために用いられる他の任意の装置に対して音声パック(sound puck)がオーディオをストリーミングする、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、聴力を改善するためのシステムおよび方法を提供することであり、当該システムは、上記の音声向上に関する目的を達成するために、多数個のカメラを装備したスマートフォンと共に、またその注視追跡能力と統合して使用することができる。
本発明の目的は、タブレット、時計または身体着用型装置である、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、マイクロフォンアレイからの注視追跡向上型音声増幅と同様の目的を達成する専用装置であるが、スマートフォンでもタブレットでもない専用装置を用いる、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、音声パックまたはIHOLDER(登録商標)装置以外の様々な電源によって駆動され得る、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、オーディオが、遅延再生または繰り返し再生のために記録される、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、音声をさらに向上させ通知を再生するためのパラメータが、装置自体で、スマートフォンまたはタブレットで、タッチ入力によって、またはユーザの特定の注視動作もしくは他のジェスチャーによって制御される、聴力を改善するためのシステムおよび方法を提供することである。たとえば、ボリュームを上げるためには素早く上を向き、ボリュームを下げるためには素早く下を向くことができる。通知を再生するには、スマートフォンを長時間注視するだけでもよいし、あるいは指または手を振る、指を鳴らすまたは頭を傾けるといった別のジェスチャーを行ってもよい。
本発明の目的は、聴力を改善するためのシステムおよび方法を提供することであり、ここで、音声をさらに向上させ通知を再生するためのパラメータは、EEGなどの身体の生命徴候をEEGセンサで検知するためのセンサを装備した小型イヤホン、プロセッサ、ならびにスマートフォンまたは通知再生の機能および起動を制御するための他のプロセッサ/装置へのその後の送信によって、制御される。たとえば、通知を再生するためには、スマートフォンでの通知の再生を起動する事前プログラムされたEEG信号を得るだけでよい。
本発明の目的は、注視追跡が、目または頭部の位置だけで、または小型イヤホン内にある頭部位置センサによって行われかつ検出され、そして指向性を最適化するためにまたはビーム形成マイクロフォンアルゴリズムおよびノイズキャンセルを駆動するために使用される、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、電力充電回路により、スマートフォンおよび小型イヤホンを充電するためにIHOLDER(登録商標)装置または音声パックも使用する、聴力を改善するためのシステムおよび方法を提供することである。
本発明の目的は、発泡体を有するケースからマイクロフォンを分離すること、ケースに成形用プラスチックを充填すること、およびキャビティ内に吸収性発泡体層を挿入することを実現するケースまたはエンクロージャを提供することである。
本発明は、上記補聴器が有する問題に多くの方法で対処するシステムおよび方法を提供する。まず、複数の指向性マイクロフォンまたはビーム形成マイクロフォンを有するマイクロフォンアレイは、エンクロージャに挿入され、より最適な位置に配置されてもよい。このような位置の例の一つは、レストランのテーブルに着いている聴覚障害者の目の前である。エンクロージャは、多くの形態をとることができ、指向性マイクロフォンまたはビーム形成マイクロフォンの小型または大型のアレイを収容することができる。マイクロフォンからのオーディオ入力を処理するために、エンクロージャは、補聴器で潜在的に可能なものよりも強力な処理回路を含むことができる。なぜなら、外部から電源を供給する、あるいは、より最適には、電池、プロセッサを有する携帯電話、または取り付けられたスマートフォンのスマートフォン電池(たとえば、スマートフォンの卓上ホルダ)によって電源を供給することができるからである。この装置は、BLUETOOTH(登録商標)プロトコル装置および他の無線通信プロトコルを含む、装置自体に含まれる電子部品を用いてもよく、あるいは、処理能力、電池、グラフィック処理ユニットすなわちGPU、カメラ、BLUETOOTH(登録商標)装置、ならびにジャイロスコープおよび位置検出用加速度計などの他のスマートフォン機能などの、スマートフォンに内蔵される機能のうちのいずれか1つまたは複数を利用してもよい。
エンクロージャの上部でスマートフォンが利用され、このスマートフォンがユーザに向けて上向きに傾斜している(あるいはエンクロージャの一部であるミラーを介して上方に向けられている)場合、内蔵カメラ(またはエンクロージャに内蔵されたカメラ)自体を利用してユーザの頭部位置および注視を監視することができる。注視および頭部位置を把握することは、音声処理アルゴリズムの導出や、指向性マイクロフォンの選択、ビーム形成アルゴリズムおよび処理の最適化に役立ち得る。加えて、頭部位置を判定するセンサを含む小型イヤホンもまた、マイクロフォンの指向性を増大させたり、ビーム形成アルゴリズムを所望の対象とする人物/オーディオに対して導出することができる。サウンドパックは、補聴器、補助聴覚装置、ヘッドホン、小型イヤホン、人工内耳または骨伝導装置を含む、有線および/またはBLUETOOTH(登録商標)を装備した聴覚装置と接続することができる。一実施形態において、注視追跡は必要ではなく、頭部位置は、ジャイロスコープおよび/または加速度計を有する補聴器、ヘッドホン、小型イヤホン、または骨伝導装置を装備して頭部の動きを検出することによって判定され、これによって、どのマイクロフォンがアクティブリスニングに最適となるかを判定する能力が増大する。これは、マイクロフォンアレイの一部および/もしくはマイクロフォン組立体の一部であるセンサ、ならびに/またはスマートフォンに含まれるセンサとペアリングすることによって行うことができる。このペアリングは、頭部位置を判定するためにテーブルに置かれている特定のスマートフォンに対して行うことができる。別の実施形態において、振動といったジェスチャーを検出可能な回路を同様な聴取装置に装備し、それにより、ユーザは装置あるいは眼鏡のツルを指でタッピングすることによって、効果的に「クリック」を行うことができる。多数個のタップコードにより、異なるメッセージおよび/または動作を送信することができる。別の実施形態において、骨伝導「スピーカ」が、眼鏡のツルの後部に、耳の裏でかつ視野に入らないように取り付けられる。この実施形態において、骨伝導装置は、眼鏡の後方にスライドすることができるとともに、快適さを提供する発泡外装体を含むことができる。
「音声パック」またはIHOLDER(登録商標)装置およびスマートフォンからの出力は、BLUETOOTH(登録商標)プロトコルまたは他の無線プロトコルを介して、無線を装備した補聴器、補助聴覚装置、BLUETOOTH(登録商標)プロトコルヘッドセット、小型イヤホン、ヘッドホン、骨伝導聴覚装置または人工内耳に送信することができる。対象とするオーディオ領域についての注視を判定するために、指向性マイクロフォンアレイを利用する能力と、頭部・注視追跡による増大とを組み合わせてもよい。対象とするオーディオ領域についての頭部位置を判定するために、頭部追跡および/もしくは注視追跡、ならびに/またはジャイロスコープ/加速度計を装備した増大構成(augmentation)と組み合わせた指向性マイクロフォンアレイおよび/またはビーム形成マイクロフォンアレイを使用することが可能である。皮膚または眼鏡のツルに取り付けられる、耳の隠れた骨用の骨伝導スピーカおよび/または軟骨伝導スピーカの裏側で、タップ振動検出を用いてマウスクリックまたはタッチ動作を模倣することができる。タッチ動作を模倣するために、特定の注視ジェスチャーを使用することが可能である。オーディオは、繰り返し再生または×秒の再生(たとえば、Tivo)のために記録してもよい。上記再生は、装置または眼鏡のツルでのタップまたはスマートフォンのカメラでの長時間にわたる注視といったジェスチャーの検出により開始することができる。加速度計およびジャイロスコープは動き追跡、睡眠追跡のために用いられてもよく、また、ECG、温度および皮膚水分(ただし、これらに限定されない)用のセンサを含み得る。小型の骨伝導スピーカ(「骨伝導装置」)を、耳の裏側で乳様突起(または耳の周囲の任意の骨の場所)に当てて、または耳の裏側で軟骨に当てて装着することができる。これらは、皮膚または耳の後部に密着する独立型であってもよく、あるいは他の音声パック装置とペアリングされた耳の裏側にある眼鏡のツルの後部に取り付けられ、かつ/または摺動させることができる。これらは、快適性をもたらすための発泡体を含んでいてもよく、眼鏡の各種様式とインターフェース接続するために汎用的なものとなる。これらの装置は、頭部位置を判定してマイクロフォン選択および音声最適化を増強するための1つまたは複数のセンサを含み得る。これらは、ジャイロスコープおよび/または加速度計の任意の組み合わせを含み得る。これらの装置は、活動、睡眠追跡等のFitbit式測定に使用することができ、かつ/または温度、皮膚水分および/またはECGを測定するための他のセンサを含むことができる。上記設計にマイクロプロジェクタを組み込むことが可能である。プロジェクタは、耳の裏にあってもよく、また、眼鏡のツルに沿って延びる光導波管に接続することができ、そして、所望の画像および/またはテキストをユーザの眼鏡の表面に、次いで瞳を通過させて目に投射する。これは、眼鏡にビームスプリッタのコーティングを設けるかあるいは設けることなく行うことができる。これにより、眼鏡を通して画像およびテキストを見ること、加えて、所望のシーンを見ることが可能となる。一実施形態において、この機構は視野から隠れている。ビームスプリッタは、特殊ガラスレンズ、コーティングおよび/または眼鏡用のプラスチックオーバーレイによって実現することができる。
本発明は、また、聴力を改善するためのシステムを提供し、当該システムは、プロセッサシステムと、通信インターフェースと、通信システムと、入力システムと、出力システムとを有するサーバシステムであって、通信ネットワークへのアクセスを有するサーバシステムと、オペレーティングシステムと、通信モジュールと、ウェブブラウザモジュールと、複数のマクロフォンから取得されたオーディオ信号を示す情報を処理してオーディオ信号の音質を向上させ、向上したオーディオ信号を送信するためのアプリケーションソフトウェアを記憶するための聴力改善用の非一時的記憶媒体とを有するメモリシステムと、聴力改善用の非一時的記憶媒体上に存在する聴力改善情報を表示するウェブサイトとを含み、出力システムおよび通信システムは、向上したオーディオ信号をユーザに送信する。
本発明は、聴力を改善するための方法を提供し、当該方法は、複数のマイクロフォンからオーディオ信号を取得するステップと、オーディオ信号を表す情報を通信システム上で通信インターフェースを介してサーバに送信するステップと、送信された情報を処理してオーディオ信号の音質を向上させるステップと、向上したオーディオ信号をユーザに送信するステップとを含む。
本発明を添付の図面に示す例示的かつ非限定的な実施形態によって説明する。図中、同様の参照符号は類似の要素を示す。
3つのマイクロフォンを担持する繰出し片を有する向上したスマートフォンの形態である本発明の実施形態の斜視図である。 図1Aの実施形態の異なる斜視図であり、向上したスマートフォンから延出した繰出し片を示す。 図1Aの向上したスマートフォンの正面立面図である。 向上したスマートフォンの背面立面図である。 図1A〜図1Dの実施形態の図1CのA−A部分に沿った側面断面図である。 光学カメラで取得されたユーザの光学画像をユーザの目および他の頭部特徴を特定するために用いられる参照ドットと共に示す斜視図である。 本発明の一実施形態に係るマイクロフォンアレイを示す。 指向性マイクロフォンを示すスマートフォンの斜視図である。 本発明の一実施形態に係る音声パック装置を示す。 会議パック装置の斜視図を示し、スピーカを中間に、ベース周辺部の周囲のビーム形成マイクロフォンおよび上部周辺部の周囲のウェブカムカメラを示す。 本発明の一実施形態に係るスマートフォンホルダを示す。 小型イヤホン用の充電部として用いられるソケットを有するスマートフォンの実施形態を示す。 スマートパックにおいて用いることができるコントロールボタンまたはアイコンを示す。 ネックバンド式小型イヤホンの斜視図を示す。 本発明に係る方法のためのステップのフローチャートを示す。 信号図を示す。 マイクロフォンが外表面に取り付けられたエンクロージャの実施形態を示す。 iPhone6+のケースを用いた実施形態を示す。 マイクロフォンを装置の後方に向けて配置した状態(180°方位角)で図12Aの装置から得られた測定値のグラフである。 12Aの装置と同様の装置から得られた(ただし、成形カバーを外した状態で)測定値のグラフである。 マイクロフォンをケースの正面に向けて配置した状態(0°方位角)で得られた測定値のグラフである。 マイクロフォンをケースの正面に向けて配置した状態(0°方位角)で得られた測定値のグラフである。 マイクロフォンをケースの正面に向けて配置した状態(0°方位角)で得られた測定値のグラフである。 マイクロフォンをケースの正面に向けて配置した状態(0°方位角)で得られた測定値のグラフである。 テーブルに配置した片面マイクロフォンから得られた測定値のグラフである。 ケースに直接表面実装したマイクロフォンから得られた測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 表面実装マイクロフォンをテーブル上に直接配置して取得された「ケース無し」の基準測定値と、各ケース内測定値との比較を示す測定値のグラフである。 本発明の一実施形態に係る聴力を改善するためのシステムのネットワークベースのシステム概要を示す。 本発明の一実施形態に係るクライアントシステムのブロック図を示す。 本発明の一実施形態に係るサーバシステムのブロック図を示す。
例示的な実施形態の様々な態様について、当業者がその研究を他の当業者に伝えるために一般的に用いる用語を用いて説明する。しかし、説明される側面の一部のみによって本発明が実施され得ることは、当業者には明らかであろう。説明のため、例示的な実施形態の理解を十分に図るべく、特定の数字、材料および構成について記載する。しかし、具体的な詳細事項が無くとも本発明が実施され得ることは、当業者には明らかであろう。また、例示的な実施形態を不明瞭にしないよう、周知の特徴については省略または簡略化している。
各種動作は、本発明の理解に最も有用となるよう、順次、多数の個別の動作として説明する。しかし、説明の順序は、これらの動作が必ず順序に依存するということを示唆していると理解すべきではない。特に、これらの動作は、提示された順序で実施される必要はない。
「一実施形態において」という表現は、同じ実施形態について言及する場合もそうでない場合もある。「備える(comprising)」、「有する(having)」、「含む(including)」という用語は、文脈がそうでないことを示さない限り同義である。
図1A〜図1Eは、向上した変形スマートフォンの形態における本発明の実施形態を示す。図1Aは、スライド式の繰出し片12を含むように変形および向上したスマートフォン10の斜視図を示し、繰出し片12は、延出された際に露出する3つのマイクロフォン14A、14Bおよび14Cを有する。繰出し片12を後退させると、マイクロフォン14A、14Bおよび14Cは後退し、露出から保護される。スマートフォン10は、ユーザの光学画像を含む光学画像を取得するためのカメラ16を有する。このカメラは、スマートフォン上の他の位置に置くことが可能である。図1A〜図1Eの特定の実施形態において、上記マイクロフォンはビーム形成マイクロフォンであり、その動作については後述する。
図2は、スマートフォンがユーザに対してある位置にあるときに当該ユーザから取得された画像を、ユーザの目および他の頭部特徴を特定するために用いられるドットで示す基準点とともに示す。ユーザの頭部の光学画像からユーザの顔の特徴を特定するために用いられるアルゴリズムは、任意の既知のアルゴリズムであってよい。ここでは、参照座標系に対してヨー=−34.2°、ピッチ=11.0°およびロール=10.3°の値を有する、アルゴリズムから求めたヨー、ピッチおよびロールのパラメータを示す。ユーザの頭部の位置を特定するための他の方法としては、音声パックに含まれるウェブカムを使用すること、位置特定装置を小型イヤホンに埋め込みこと、位置特定装置を眼鏡に埋め込むこと等が挙げられる。勿論、ユーザの頭部を特定する他の方法が当業者によって想到されるであろう。本発明は本明細書に記載の方法に限定されるものではない。
図3は、より詳細には後述するように、複数のビーム形成マイクロフォン(図3においては、このような4つのマイクロフォン)の音響ビームが、マイクロフォンの場所に対する会話中のユーザ334の位置に関する情報を用いたアルゴリズムに基づいてどのように規定されるかを平面図で示す。この場合、ビーム形成マイクロフォンのうちの1つは規定された音響ビーム領域332を有し、この音響ビーム領域332は、会話中のユーザの声を取得しかつ対象とするオーディオの取得を最適化するために、同図の左下に一例を示す背景ノイズと比較して、より大きく、また会話中のユーザの方に向けられている。装置310に含まれるオーディオ処理回路330は、音響ビーム形成器を形成する。
対象とする音響信号の取得は、ビーム形成マイクロフォンまたは指向性マイクロフォンによって行うことが可能である。ビーム形成マイクロフォンの場合、ユーザの位置および向きに関するデータを用いてビーム形成マイクロフォンのビーム形成パターンを規定して、信号処理アルゴリズムによってユーザの聴力に提供される音響信号を向上させる。
指向性マイクロフォンの場合、アレイとして設けられ得る複数の指向性マイクロフォンが備えられ、これらマイクロフォンのうちの1つまたは複数を所望の音響信号が提供されるように選択して、信号を向上させるとともに、ノイズや他の不要な音を最小限にする。指向性マイクロフォンを用いた実施形態の一例を図4に示す。同図は、合計6つの指向性マイクロフォン14A、14B、14C、14D、14E、14Fを有するスマートフォンを示し、1つの角につき1つのマイクロフォン(14A、14C、14Dおよび14F)およびスマートフォン10の1つの長辺につき1つのマイクロフォン(14B、14Eを参照)が配置される。ユーザの位置によっては、指向性マイクロフォンのうちの1つまたは複数を所望の音響信号の受信を最適化するよう有効化し、一方、ノイズの一因となる他のマイクロフォンを無効化する。所望の音響信号が図4の左下からのものである場合、指向性マイクロフォン14Bおよび14Cのいずれか一方または両方を有効化し、それ以外を無効化する。有効化したマイクロフォンの貢献度は、1つのマイクロフォンがその他のマイクロフォンよりも貢献度が高くなるように、標準的なミキシング技術を用いて調整することができる。
図3は、本発明の一実施形態に係るマイクロフォンアレイ300を示す。
マイクロフォンアレイ300は、エンクロージャ310、複数の指向性マイクロフォンまたはビーム形成マイクロフォン(「マイクロフォン」)320および電子処理回路330を含み得る。エンクロージャ310は、プラスチック、金属または他の適した材料で形成されてもよい。マイクロフォン320は、ユーザの音声品質等を向上させ得るマイクロフォンアレイ320Aを含み得る。電子処理回路330は、エンクロージャ310内に含まれてもよい。電子処理回路330は、ユーザが着用する補聴器334からのいかなるオーディオ入力よりも聴こえやすいものであり得る複数の向上した音響ビーム332を生成し得る。
マイクロフォンアレイ300は、装置自体に含まれる、BLUETOOTH(登録商標)プロトコルおよび他の適した無線通信プロトコルを利用する電子処理回路330を使用するか、あるいは、処理能力、電力、電池、グラフィック処理ユニットすなわちGPU、カメラ、BLUETOOTH(登録商標)通信プロトコルおよび他のスマートフォン機能といったスマートフォン(図、124)に内蔵された機能のうちの任意の1つまたは複数を利用することもできる。
マイクロフォンアレイは、エンクロージャに挿入され、より最適な位置に配置され得る複数のマイクロフォンを有してもよい。そのような例の一つとしては、レストランのテーブルに着いている聴覚障害者の目の前である。エンクロージャは、多くの形態をとることができ、小型または大型の指向性マイクロフォンアレイを収容することができる。マイクロフォンからのオーディオ入力を処理するために、エンクロージャは、補聴器で潜在的に可能なものよりも強力な処理回路を含むことができる。なぜなら、外部から電源を供給する、あるいは、より最適には、電池、プロセッサを有する携帯電話または取り付けられたスマートフォンのスマートフォン電池(たとえば、スマートフォンの卓上ホルダ)によって電源を供給することができるからである。この装置は、BLUETOOTH(登録商標)プロトコルおよび他の無線通信プロトコルを含む、装置自体に含まれる電子部品を用いてもよく、あるいは、処理能力、電源、電池、グラフィック処理ユニットすなわちGPU、カメラ、BLUETOOTH(登録商標)プロトコル、および他のスマートフォン機能といった、スマートフォンに内蔵される機能のうちのいずれか1つまたは複数を利用してもよい。
エンクロージャの上部でスマートフォンが利用され、このスマートフォンがユーザに向けて上向きに傾斜している場合、内蔵カメラ(またはエンクロージャに内蔵されたカメラ)自体を利用してユーザの頭部位置および注視を監視することができる。注視および頭部位置を把握することは、上記アルゴリズムの導出や、指向性マイクロフォンの選択および処理の最適化に役立ち得る。
図5は、本発明の一実施形態に係る音声パック400を示す。
音声パック400は、ケーシング410、入力ソケット420、出力ソケット430および1つまたは複数のスピーカ440を含み得る。
ケーシング410は、上面410Aおよび周壁板410Bを含み得る。ケーシング410は、プラスチック、金属、鋼、ステンレス鋼等で形成されてもよい。入力ソケット420は、ケーシング410の周壁板410B上に配置されてもよい。図は、AUXIN入力ソケット420Aである入力ソケット420、AUXOUT表示灯422Aである第1の表示灯422、および透明電池表示426であり得る第2の表示灯424を示す。透明電池表示426は、音声パック400の電池(図示せず)の充電中に該電池が充電されているときに点滅によって通知するための機能表示として機能し得る。透明電池表示426は、音声パック400の前記電池が充電を維持している間は、前記電池が満充電であるときに点灯し続けることによって通知を行う機能表示として機能し得る。出力ソケット430は、直流および状態ベクトルソケット、すなわちDC/SV出力ソケット432等であってもよい。1つまたは複数のスピーカ440は、ケーシング410の上面410Aに配置されてもよい。1つまたは複数のスピーカ440は、1つまたは複数のパラメトリックスピーカ440A等であってもよい。
システムは、IHOLDER(登録商標)装置および/または音声パックを含み得る。システムは、正常な聴取環境において聴力を増強するためにも使用され得る。これは、補聴器、補助聴覚装置、BLUETOOTH(登録商標)プロトコルヘッドセット、小型イヤホン、ヘッドホンまたは人工内耳といった補助聴覚装置への無線接続(BLUETOOTH(登録商標)プロトコルおよびその他)によって実現され得る。また、補聴器のような耳装着型装置を使用することなく音声をユーザの左右の耳に直接向けるためのパラメトリックスピーカをシステム(指向性増大型注視追跡を含む)に装備することができる。
スマートフォンホルダ(この1つのバージョンはIPHONE6(登録商標)装置用のもの、すなわち、IHOLDER(登録商標)装置)は、スマートフォンを、机に座りながら見るのに理想的な角度で机の上で保持する。このホルダの底部は、摺動を防止するためのゴムパッドを有する。IHOLDER(登録商標)装置は、IPHONE(登録商標)装置に対して電力および快適な視認をもたらすことができる。IHOLDER(登録商標)装置は、ユーザの顔を見ることができるように焦点および倍率を理想化した1つまたは複数のカメラを含み、また、2つ以上のカメラを利用して頭部位置および注視を判定してもよい。このIHOLDER(登録商標)カメラは、ユーザを常時監視しており、第1の注視認識ステップを(またはスマートフォンのソフトウェアを介して)行う回路を含む。注視認識の際、IPHONE(登録商標)装置は、ソフトウェアおよび/またはハードウェアのいずれかを介して、マイクロフォンアレイからの理想的なマイクロフォン組み合わせを選択する情報をフィードバックするとともに、ノイズキャンセルも行ってもよい。この機能は、Android、Windowsおよび他のスマートフォン、または同様に機能するがスマートフォンではない専用装置上でも実現され得る。
図7は、本発明の一実施形態に係るスマートフォンホルダ500を示す。より具体的には、図7は、表面に配置されたスマートフォンホルダ500を示す。
スマートフォンホルダ500は、ベース510およびスマートフォン取付片520を含み得る。
ベース510は、底面510Aと、中間部510B’を有する上面510Bとを含み得る。ベース510は、ベース510の上面510Bの中間部510B’を有する上面510Bに配置された***中心継手512を含み得る。ベース510の上面510Bは、***中心継手512の周囲に配置された4つの等間隔配置の凹部514を含み得る。ベース510は、スマートフォンホルダ500が表面または物体等に配置されている間に動かないようにするために、ベース510の底面510Aに配置され得る1つまたは複数のゴムパッド516も含み得る。スマートフォン取付片520は、中心取付孔522を含んでいてもよく、中心取付孔522は4つの等間隔配置の取付タブ524をその周囲に有する。スマートフォン取付片520は、4つの等間隔配置の取付タブ524を有する中心取付孔522を、位置合わせした***中心継手512および4つの等間隔配置の凹部514に挿入し、スマートフォン取付片520に連結されたスマートフォン124を捩じることによりベース510に連結されてもよく、これにより、連結されたスマートフォン124が定位置に固定される。スマートフォン124は、1つまたは複数のカメラ530と、ユーザのビデオおよび音声をスマートフォン124のオーディオ能力の範囲で取得し得る音声記録アプリ540とを含み得る。
図11Aは、本発明の一実施形態に係る聴力を改善するための方法のフローチャートを示す。
方法600は、スマートフォンを、スマートフォンを持つユーザを見ることができる表面で保持するステップ610と、クライアントシステムに、スマートフォンを表面に固定しながら電力を供給させるステップ620と、ユーザを見ることができるように焦点および倍率を理想化したスマートフォンによってユーザを常時監視するステップ630と、スマートフォンのマイクロフォンアレイからの理想的なマイクロフォン組み合わせを選択するクライアントシステムからの聴覚情報をフィードバックするステップ640とを含み得る。
保持ステップ610における表面は、物体等の表面を含み得る。電力供給ステップ620におけるクライアントシステムは、マイクロフォンアレイ、音声パックまたはスマートフォンホルダを含み得る。常時監視ステップ630は、ユーザの頭部位置および注視を判定するために利用される2つ以上のカメラを使用してもよい。聴覚情報フィードバックステップ640は、1つもしくは複数の外部スピーカ、1つもしくは複数の外部パラメトリックスピーカ、1つもしくは複数の小型イヤホンを有するかあるいは有しないスマートフォン、補聴器、補助聴覚装置、BLUETOOTH(登録商標)プロトコルヘッドセット、人工内耳、一組のヘッドホン、または聴取もしくは聴力の改善に用いられる任意の装置からなる群から選択される装置からの聴覚情報を使用してもよい。聴覚情報フィードバックステップ640は、注視追跡、ノイズキャンセル、注視追跡解析、マイクロフォン組合せ選択および音声増幅を実行する1つまたは複数のステップも含み得る。命令が記憶された非一時的コンピュータ記憶媒体は、実行された際に、方法600全体のステップを実行し得る。
図11Bは、どのように音響信号が入力され、処理され、イヤホンに出力されるかを示すフロー信号図を示す。この場合のマイクロフォンアレイは、3つのマイクロフォンがBBF(ビーム形成器)に供給される。BBFは、ユーザの位置および向きを示す顔追跡器の信号もSMARTを介して受信してもよく、SMARTは、データ信号θ°およびβを出力する。SMARTは、テーブル・車・ポケットブロックに対しても出力を行い、このブロックは、ケースパラメータブロックに対して出力を行う。CRC−アルゴリズムは、音響処理を行う。
聴力を改善するためのシステムおよび方法が使用されるであろう環境の一つは、当該システムおよび方法によって聴力が改善され得るノイズの多い環境(すなわち、レストラン等)であってもよい。
センサおよび/またはマイクロフォンアレイが眼鏡に埋め込まれてもよい。ユーザの眼鏡の前部に小型マイクロフォンを取り付けて、眼鏡に含まれるビーム形成マイクロフォンおよび/または指向性マイクロフォンを用いて、ノイズ中での聴取能力を増強することが可能である。指向性チップおよび/または指向性マイクロフォンが眼鏡に埋め込まれてもよい。別の実施形態において、頭部の位置および追跡は、ジャイロスコープ/加速度計を装備した、小型イヤホン、ヘッドホン、骨伝導装置/軟骨伝導装置、補聴器、人工内耳、または、マイクロフォン選択、最適なオーディオ設定およびノイズキャンセルを最適化するために検出され用いられる他の任意の聴取装置を介して行ってもよい。別の実施形態において、オーディオ出力信号は、スピーカフォンを介して出力することが可能である。システムは、場所を検出しかつ当該場所の最適なオーディオ特性を制御するGPS装置などの、位置検出センサを含み得る。超小型骨伝導スピーカ(「骨伝導装置」)を耳の裏側で乳様突起(または耳の周囲の任意の骨の場所)に当てて、または耳の裏側で軟骨に当てて装着することができる。これらは、皮膚または耳の後部に密着する独立型であってもよく、あるいは他の音声パック装置とペアリングされた耳の裏側にある眼鏡のツルの後部に取り付けられ、かつ/または摺動させることができる。これらは、快適性をもたらすための発泡体を含んでいてもよく、眼鏡の各種様式とインターフェース接続するために汎用的なものであり得る。これらの装置は、頭部位置を判定してマイクロフォン選択および音声最適化を増強するための1つまたは複数のセンサを含み得る。センサは、ジャイロスコープおよび/または加速度計の任意の組み合わせを含み得る。これらの装置は、活動、睡眠追跡等のFitbit式測定に使用することもでき、かつ/または、温度、皮膚水分および/またはECGを測定するための他のセンサを含むことができる。
以下の特許および公開特許出願が参照により本明細書に援用され、これらは、信号処理アルゴリズムによってローカル装置上で、あるいは遠隔サーバによって行うことが可能なタイプの信号向上に関する開示を提供する。
米国特許第8,953,817号は、指向性出力信号を生成するためのシステムおよび方法を開示する。その2つのマイクロフォンを本発明において使用することができ、音声を処理し向上させるためのアルゴリズムを本発明のシステムにおいて使用することができる。
米国特許第8,947,978号は、音声が到着する方向を推定するシステムおよび方法を開示する。そのマイクロフォンを本発明において使用することができ、音声を処理し向上させるためのアルゴリズムは、本発明のシステムにおいて使用することができ、または音声の発生源の場所を検出することができる。
米国特許第8,755,547号は、音声の了解度を向上させるための方法およびシステムを開示する。このシステムは、音声信号の音質を向上させるために本発明のシステムで使用することができる。
米国公開特許出願第2013/0223644号は、マイクロフォン構成から受信された信号に含まれる不要な音声を低減するためのシステムおよび方法を記載する。このシステムは、音声信号の音質を向上させるために本発明のシステムにおいて使用することができる。
米国公開特許出願第2016/0005417号は、ノイズ低減システムおよび方法を開示する。このシステムは、ノイズを低減し、それによって音声信号の音質を向上させるために、本発明のシステムにおいて使用することができる。
米国公開特許出願第2008/0063228は、音響的に透明なオクルージョンを低減するシステムおよび方法を開示する。このシステムは、音質または少なくともユーザによる音質の知覚を改善するために本発明のシステムにおいて使用されてもよい。
上記の特許および公開特許出願は、音質を向上させるための、マイクロフォンなどの音響部品およびアルゴリズムの両方を開示する。これらのアルゴリズムは、当業者によって理解されるように、本発明のシステムにおけるアルゴリズムとして使用されてもよい。
図12Aは、外表面に取り付けられたマイクロフォンを有するエンクロージャの一実施形態を示す。本実施形態は、ケースの一端にプリズム状成形ゴム片を有しケースの他端に6つの(6)マイクロフォン(番号1〜6を参照)を有する堅牢なiPhone6+ケースの形態であるエンクロージャで構成される。成形ゴム「プリズム」を用いずに測定を行い、その性能に対する影響を調べた。さらなるマイクロフォンの場所(番号6を参照)は、装置の縁部付近に配置した。
図12Bは、堅牢なiPhone6+ケースおよび最適に配置された表面実装マイクロフォンを用いて構成された実施形態を示す。
図13および図14は、図12Aのマイクロフォン#1からマイクロフォンを装置の後部(180°方位角)に向けて配置した状態で得られた測定値を示す。図12Aでは成形ゴムは定位置にあるが、図12Bでは成形ゴムは取り外されている。実線は、0°の音源の測定値を示し、他の全ての線はこの0°線を基準としている。0°線は、両方の場合について性能が劣っていることを表しており、ケース自体からの回折が櫛型フィルタリング作用の大きな一因になっていることを示している。これらの結果は、目的の用途では、マイクロフォンの場所はケースの前部寄りとし、装置の後部の音源に対するマイクロフォンの応答不良をデリゲート(delegating)することが好ましいことを示している。
図15〜図18は、マイクロフォンの位置をケースの前部(0°方位角)寄りにして取得された測定値の詳細を示す。これらの測定値により、マイクロフォンとケース前方縁との間の距離が測定された性能に及ぼす影響を考察する。図15の黒丸は、マイクロフォン#6の方位角0°での測定値において生じる5〜6kHzにおけるノッチを示す。このノッチは、マイクロフォンの場所がさらに奥に移動するにしたがって埋まる。これらの結果から、マイクロフォンの最適な場所は、ケース前方縁から20mmと50mmとの間であると思われる。テーブルに配置された単一の表面実装マイクロフォンの測定値により、マイクロフォン応答は線形か無指向性であることが確認された。マイクロフォンのノイズフロアを、図19に示す、テーブルトップにおける65dBSPLのILTASS(長期スピーチスペクトル)ノイズの測定値と比較した。これらの結果は、この表面実装マイクロフォンが目的とする用途について許容可能な自己雑音特性を有することを示している。ケースに取り付けたマイクロフォンの測定値は、マイクロフォンの信号の固体伝搬ノイズ汚染および/または空気伝播ノイズ汚染を示している。以下の図20に示す、ケースに取り付けたマイクロフォンのポーラ測定は、固体伝搬ノイズおよび/または空気伝播ノイズによる遅延信号の追加から生じた強い櫛型フィルタリング作用を示している。汚染源をよりよく理解するため、以下を含む、このプロトタイプの様々な変形例を評価した。
−発泡体を有するケースからマイクロフォンを分離する
−テーブルから装置を分離する
−ケースに成形用プラスチックを充填する
−吸収性ウール層をキャビティ内に挿入する
−吸収性発泡体層をキャビティ内に挿入する
図21〜図26は、表面実装マイクロフォンをテーブル上に直接配置して行った「ケース無し」基準測定と、各ケース内測定との比較を示す。最も影響が大きかった変形例は、図26に示す内蔵発泡体を有するケースであった。この変形例は、以下のいくつかの点で性能を向上させる。第1には、ケースの前面パネルおよび背面パネルをしっかりと押圧してパネル共振の制振効果をもたらし、第2には、キャビティ内の空気伝播放射を吸収する。結果として得られる応答は、他のすべての図面で見られる櫛型フィルタリング作用を含まない。
製品は、試験を行ったプロトタイプに匹敵するような大きさの内部キャビティを好ましくは有さず、パネル共振は、ケース内で面一に取り付けられたスマートフォンの存在により制振されやすくなる。しかし、表面実装マイクロフォンは、空気伝播ノイズ汚染および固体伝搬ノイズ汚染の両方に対して非常に感受性が高い。マイクロフォンは、ケースからの振動絶縁性および吸収性発泡体によって処理が施された隣接内部キャビティを好ましくは含む。
これらの結果により、図1A〜図1Eの好適な実施形態によってマイクロフォン配置に関して最良の音響性能が得られることが確認される。
上記設計にマイクロプロジェクタを組み込むことが可能である。プロジェクタは、耳の裏にあってもよく、また、眼鏡のツルに沿って延びる光導波管に接続することができ、そして、所望の画像および/またはテキストをユーザの眼鏡の表面に、次いで瞳を通過させて目に投射する。これは、眼鏡にビームスプリッタのコーティングを設けるかあるいは設けることなく行うことができる。これにより、眼鏡を通して画像およびテキストを見ること、加えて、所望のシーンを見ることが可能となる。一実施形態において、この機構は視野から隠れている。ビームスプリッタは、特殊ガラスレンズ、コーティングおよび/または眼鏡用のプラスチックオーバーレイによって実現することができる。
図27は、聴力を改善するためのシステム100のシステム概要を示す。
システム100は、サーバシステム104と、入力システム106と、出力システム108と、複数のクライアントシステム110、114、116、118および120と、通信ネットワーク112と、携帯型無線装置122とを含み得る。他の実施形態において、システム100は、追加の構成要素を含んでいてもよく、かつ/あるいは上記の構成要素のすべてを含まなくてもよい。
サーバシステム104は、1つまたは複数のサーバを含み得る。1つのサーバシステム104は、任意の関連ソフトウェアまたは非一時的記憶媒体の販売業者の所有物であってもよい。
入力システム106は、サーバシステム104に入力を行うために利用されてもよく、キーボードシステム、マウスシステム、トラックボールシステム、トラックパッドシステム、携帯型システム上の複数のボタン、モバイルシステム、スキャナシステム、無線受信機、マイクロフォンシステム、音声システムへの接続、ならびに/または、コンピュータシステム、イントラネットおよび/もしくはインターネットへの接続および/もしくはインターフェースシステム(すなわち、赤外線データ通信機能標準化協会規格(IrDA)、ユニバーサルシリアルバスすなわち(USB))のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。
出力システム108は、サーバシステム104からの出力を受信するために利用されてもよい。また、出力システム108は、モニタシステム、無線送信機、携帯型ディスプレイシステム、モバイルディスプレイシステム、プリンタシステム、スピーカシステム、音声システムに対する接続もしくはインターフェースシステム、1つもしくは複数の周辺機器に対するインターフェースシステム、ならびに/または、コンピュータシステム、イントラネットおよび/もしくはインターネットに対する接続もしくはインターフェースシステムのうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。
システム100は、情報提供ウェブサイト(図示せず)であってもよいサーバシステム104への接続方法の変形例のいくつかを示す。サーバシステム104は、複数のクライアントシステム110、114、116、118および120に直接接続および/または無線接続されてもよく、通信ネットワーク112を介して接続されてもよい。クライアントシステム120は、クライアントシステム118を介してサーバシステム104に接続されてもよい。通信ネットワーク112は、1つまたは複数のローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、無線ネットワーク、電話ネットワーク、インターネットおよび/または他のネットワークのうちのいずれか1つまたは任意の組み合わせであってよい。通信ネットワーク112は、1つまたは複数の無線ポータルを含み得る。クライアントシステム110、114、116、118および120は、エンドユーザがサーバシステム104にアクセスするために利用し得る任意のシステムであってよい。たとえば、クライアントシステム110、114、116、118および120は、パーソナルコンピュータ、ワークステーション、ラップトップコンピュータ、ゲーム機、携帯型ネットワーク対応式のオーディオプレーヤー/ビデオプレーヤー、モバイル装置および/または他の任意のネットワーク機器であってもよい。
クライアントシステム120は、通信ネットワーク112と別のシステムとの組み合わせを介してサーバシステム104にアクセスしてもよく、この別のシステムは、本例においてはクライアントシステム118であってもよい。クライアントシステム120は、携帯電話、タブレットまたは携帯型ネットワーク対応式のオーディオプレーヤーまたは音楽プレーヤーといった、ネットワークコンテンツにアクセスするためにも利用され得る携帯型無線装置122であってもよい。クライアントシステム120は、オペレーティングシステムを有する携帯電話すなわちスマートフォン124またはオペレーティングシステムを有するタブレットすなわちIPAD(登録商標)装置126であってもよい。
図28は、クライアントシステム200のブロック図を示す。
クライアントシステム200は、出力システム202、入力システム204、メモリシステム206、プロセッサシステム208、通信システム212、入出力システム214、ウェブサイト216および無線ポータル218を含み得る。クライアントシステム200の他の実施形態は、上記構成要素のすべてを含んでいなくてもよく、かつ/または上記の構成要素に加えてもしくはその代わりに他の実施形態を有していてもよい。
クライアントシステム200は、図1のネットワーク装置のうちの1つとして利用され得るクライアントシステム110、114、116、118、120および/または携帯型無線装置122、スマートフォン124もしくはIPAD(登録商標)装置126のうちのいずれか1つであってよい。他の実施形態において、クライアントシステム200は、追加の構成要素を含んでいてもよく、かつ/または上記の構成要素をすべて含まなくてもよい。出力システム202は、モニタシステム、無線送信機、携帯型ディスプレイシステム、プリンタシステム、スピーカシステム、音声システムへの接続もしくはインターフェースシステム、周辺装置へのインターフェースシステム、ならびに/またはコンピュータシステム、イントラネットおよび/もしくはインターネットへの接続および/もしくはインターフェースシステムのうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。
入力システム204は、キーボードシステム、マウスシステム、トラックボールシステム、トラックパッドシステム、携帯型システム上の1つもしくは複数のボタン、スキャナシステム、無線受信機、マイクロフォンシステム、音声システムへの接続、ならびに/またはコンピュータシステム、イントラネットおよび/もしくはインターネットへの接続もしくはインターフェースシステム(すなわち、赤外線データ通信機能標準化協会規格(IrDA)、ユニバーサルシリアルバスすなわち(USB))のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。メモリシステム206は、ハードドライブなどの長期記憶システム、ランダムアクセスメモリなどの短期記憶システム、フロッピードライブまたはリムーバブルドライブおよび/またはフラッシュメモリなどの着脱可能な記憶システムのうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。メモリシステム206は、様々な異なる種類の情報を記憶し得る1つまたは複数の機械可読媒体を含み得る。「機械可読媒体」という用語は、機械によって読み込まれ得る形式で情報を保持するように構造的に構成され得る任意の媒体を指すために使用され得る。機械可読媒体の一例は、コンピュータ可読媒体であり得る。メモリシステム206は、聴力改善用の非一時的記憶媒体を格納していてもよい。
プロセッサシステム208は、多数個の並列プロセッサ、単一のプロセッサ、1つもしくは複数中央プロセッサおよび/または1つもしくは複数の特定のタスク専用の専用プロセッサを有するプロセッサのシステム、のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。プロセッサシステム208は、メモリシステム206に記憶されたプログラムを実施し得る。通信システム212は、出力システム202、入力システム204、メモリシステム206、プロセッサシステム208および/または入出力システム214を互いに通信可能にリンクし得る。通信システム212は、1つもしくは複数の電気ケーブル、光ファイバケーブル、および/または空気もしくは水を介して信号を送信する手段(すなわち、無線通信)等のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。空気および/または水を介して信号を送信する手段のいくつかの例には、赤外線波および/もしくは電波などの電磁波を送信するためのシステムならびに/または音波を送信するためのシステムが含まれ得る。
入出力システム214は、入力装置および出力装置としての二重の機能を有する装置を含み得る。たとえば、入出力システム214は、1つまたは複数のタッチセンシティブスクリーンを含んでいてもよく、タッチセンシティブスクリーンは、画像を表示し、したがって、出力装置であり得るとともに、画面が指またはスタイラスによって押圧されると入力を受け付けることができる。タッチセンシティブスクリーンは、熱、静電容量および/または圧力に対して感受性を有していてもよい。入出力装置のうちの1つまたは複数が、スタイラスによって発生する電圧または電流に対して感受性を有していてもよい。入出力システム214は、必要に応じて設けられるものであり、出力システム202および/または出力装置204に加えてまたはその代わりに利用されてもよい。
クライアントシステム110、114、116、118、120および携帯型無線装置122は、通信システム212に直接結合され得るウェブサイト216または無線ポータル218に結合されていてもよい。ウェブサイト216または無線ポータル218はいずれもまた、非一時的記憶媒体と、ウェブサイトを維持し、ウェブサイトへのアクセスを可能にし、ウェブサイトを運営するためのウェブサイトモジュール(図示せず)とを含み得る。
図29は、聴力を改善するために利用され得るサーバシステム104のブロック図を示す。サーバシステム104は、電源220と、出力システム230と、入力システム240と、オペレーティングシステム251を記憶し得るメモリシステム250と、通信モジュール252と、ウェブブラウザモジュール253と、ウェブサーバアプリケーション254と、聴力改善用の非一時的記憶媒体256とを含み得る。サーバシステム104は、プロセッサシステム260、通信インターフェース270、通信システム275、および入出力システム280も含み得る。他の実施形態において、サーバシステム104は、追加の構成要素を含んでいてもよく、かつ/または上記の構成要素のすべてを含まなくてもよい。
出力システム230は、モニタシステム、携帯型ディスプレイシステム、プリンタシステム、スピーカシステム、音声システムへの接続もしくはインターフェースシステム、1つもしくは複数の周辺機器へのインターフェースシステム、ならびに/またはコンピュータシステム、イントラネットおよび/もしくはインターネットへの接続および/もしくはインターフェースシステムのうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。
入力システム240は、キーボードシステム、マウスシステム、トラックボールシステム、トラックパッドシステム、携帯型システム上の1つもしくは複数のボタン、スキャナシステム、マイクロフォンシステム、音声システムへの接続、ならびに/またはコンピュータシステム、イントラネットおよび/もしくはインターネットへの接続および/もしくはインターフェースシステム(すなわち、IrDA、USB)のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。
メモリシステム250は、ハードドライブなどの長期記憶システム、ランダムアクセスメモリなどの短期記憶システム、またはフロッピードライブもしくはリムーバブルドライブおよび/またはフラッシュメモリなどの着脱可能な記憶システムのうちのいずれか1つ、いくつか、任意の組み合わせまたはすべて含み得る。メモリシステム250は、様々な異なる種類の情報を記憶し得る1つまたは複数の機械可読媒体を含み得る。「機械可読媒体」という用語は、機械によって読み取り可能な情報を保持することが可能な任意の媒体を指すために利用され得る。機械可読媒体の一例は、非一時的記憶媒体などのコンピュータ可読媒体であり得る。メモリシステム250は、聴力を改善するための1つまたは複数の機械命令を記憶していてもよい。オペレーティングシステム251は、システム100のすべてのソフトウェアおよびハードウェアを制御し得る。通信モジュール252は、サーバシステム104が通信ネットワーク112上で通信を行うことを可能にし得る。ウェブブラウザモジュール253は、インターネットのブラウジングを可能にし得る。ウェブサーバアプリケーション254は、ウェブページをリクエストするクライアントシステムに対して複数のウェブページを提供し、それにより、インターネット上でのブラウジングを容易にし得る。聴力改善用の非一時的記憶媒体256は、メモリシステム250にあってもよい。プロセッサシステム260は、多数個の並列プロセッサ、単一のプロセッサ、1つもしくは複数の中央プロセッサおよび/または1つもしくは複数の特定のタスク専用の専用プロセッサを有するプロセッサのシステム、のうちのいずれか1つ、いくつか、任意の組み合わせまたはすべてを含み得る。プロセッサシステム260は、メモリシステム250に記憶された機械命令を実行してもよい。
別の実施形態において、通信インターフェース270は、サーバシステム104が通信ネットワーク112とインターフェース接続を行うことを可能にしてもよい。この実施形態において、出力システム230は、通信インターフェース270に通信を送信してもよい。通信システム275は、出力システム230、入力システム240、メモリシステム250、プロセッサシステム260および/または入出力システム280を互いに通信可能にリンクする。通信システム275は、1つまたは複数の電気ケーブル、光ファイバケーブルおよび/または空気もしくは水を介した信号の送信(すなわち、無線通信)等のうちの1つ、いくつか、任意の組み合わせまたはすべてを含み得る。空気および/または水を介した信号の送信のいくつかの例には、赤外線波および/もしくは電波などの電磁波を送信するためのシステムならびに/または音波を送信するためのシステムが含まれ得る。
入出力システム280は、入力装置および出力装置としての二重の機能を有する装置を含み得る。たとえば、入出力システム280は、1つまたは複数のタッチセンシティブスクリーンを含んでいてもよく、タッチセンシティブスクリーンは、画像を表示し、したがって、出力装置であり得るとともに、画面が指またはスタイラスによって押圧されると入力を受け付けることができる。タッチセンシティブスクリーンは、熱および/または圧力に対して感受性を有していてもよい。入出力装置のうちの1つまたは複数が、スタイラスによって発生する電圧または電流に対して感受性を有していてもよい。入出力システム280は、必要に応じて設けられるものであり、出力システム230および/または入力システム240に加えてまたはその代わりに利用されてもよい。
本発明を上記実施形態に関して説明したが、当業者であれば、本発明が説明された実施形態に限定されるものではないことを理解するであろう。本発明は、添付の特許請求の範囲の趣旨および範囲において、変形および変更して実施され得る。よって、上記の説明は、例示であって、本発明を限定するものではなく、本発明は添付の請求の範囲によってのみ定義される。

Claims (32)

  1. 聴力を改善するためのシステムであって、
    エンクロージャの外部から音響信号を受信し、マイクロフォン出力信号を生成するための複数のマイクロフォンであって、同一平面上に三角形を成すように配置されるマイクロフォンと、
    ユーザの位置に関する情報を受信し、前記ユーザの頭部の位置を計算するユーザ位置処理回路と、
    前記マイクロフォン出力信号および前記ユーザの頭部の位置に関する情報を受信し、前記マイクロフォンによって受信され、前記ユーザの聴覚欠損プロファイルに合わせて調整した前記音響信号と比較して音響音質が向上したオーディオ出力信号を生成する処理回路であって、ノイズ低減のために、前記ユーザーの位置によって少なくとも1つの前記マイクロフォンが無効化される、処理回路と、
    オーディオ出力信号を前記ユーザに提供する補助聴覚装置と
    を備えるシステム。
  2. 前記ユーザ位置処理回路は、
    前記ユーザの頭部の光学画像を取得するための視野を有するカメラと、
    ユーザの頭部の位置および注視の向きを計算する位置処理回路とを含み、
    前記位置および注視の向きは、前記オーディオ出力信号の方向、強度、角度および品質のうち少なくとも1つを最適化するために前記処理回路によって受信される、請求項1に記載のシステム。
  3. 前記複数のマイクロフォン、ユーザ位置処理回路およびオーディオ送信機が、卓上型装置、スマートウォッチ、電子タブレット、および身体着用型装置のうち1つの中に位置する、請求項1に記載のシステム。
  4. 前記卓上型装置はスマートフォンの形態であって、前記複数のマイクロフォンは、前記スマートフォンから出退可能である出退自在な繰出し片上に位置する、請求項3に記載のシステム。
  5. 前記複数のマイクロフォンはビーム形成マイクロフォンを備え、前記処理回路は各マイクロフォンのビーム形成パターンを規定するビーム形成アルゴリズムを実行する、請求項1に記載のシステム。
  6. 前記ユーザのジェスチャーを検出し、前記オーディオ出力信号の特性を制御するための制御信号を出力するセンサを含む、請求項1に記載のシステム。
  7. 前記センサは、前記ユーザの長時間にわたる注視ジェスチャーを検出し、長時間にわたる注視ジェスチャーの検出により、前記ユーザに対する通知が起動される、請求項6に記載のシステム。
  8. ヘッドセットをさらに含み、前記ヘッドセットは、複数のマイクロフォンおよび頭部の動きと位置とを検出するためのセンサのうち少なくとも1つを含む、請求項1に記載のシステム。
  9. 前記センサおよびマイクロフォンアレイは、組み合わされかつ眼鏡の形態である、請求項8に記載のシステム。
  10. 前記ヘッドセットは、小型イヤホン(earbud)、イヤホン、補聴器、補助聴覚装置、BLUETOOTH(登録商標)ヘッドセット、人工内耳、およびヘッドホンの少なくとも1つの形態である、請求項8に記載のシステム。
  11. 前記補助聴覚装置は、オーディオスピーカ、無線搭載補聴器、BLUETOOTH(登録商標)ヘッドセット、小型イヤホン、ヘッドホン、骨伝導聴覚装置および人工内耳のうち少なくとも1つを備える、請求項1に記載のシステム。
  12. 前記補助聴覚装置は小型イヤホンであり、前記小型イヤホンはEEGセンサを有し、前記オーディオ出力信号は前記EEGセンサの出力に応じるものである、請求項1に記載のシステム。
  13. 前記オーディオ出力信号を前記補助聴覚装置に送信するためのオーディオ送信機をさらに含む、請求項1に記載のシステム。
  14. 前記複数のマイクロフォンおよび処理回路は、エンクロージャに組み込まれたウェブカムと会議電話通話およびビデオ会議能力とを有する会議パック(conference puck)の形態である、請求項1に記載のシステム。
  15. 前記会議パックは、前記ユーザの場所を検出するウェブカムを含む、請求項14に記載のシステム。
  16. 携帯型装置が水平面で平らに横たわることができるよう前記ユーザの頭部を指すように適合されたミラーを有する前記携帯型装置を含む、請求項1に記載のシステム。
  17. 遅延再生または繰り返し再生のために前記オーディオ出力信号を記憶するためのオーディオ記憶媒体をさらに含む、請求項1に記載のシステム。
  18. 眼球運動、EEG活性、頭部位置またはユーザのタッチのうち少なくとも1つを検出するセンサをさらに含む、請求項1に記載のシステム。
  19. 注視追跡、ノイズキャンセル、注視追跡の解析、マイクロフォンの組合せの選択、ノイズキャンセルおよび抑制、ならびに音声増幅のうち少なくとも1つを実行するクライアントシステムをさらに備える、請求項1に記載のシステム。
  20. 前記クライアントシステムは、ケーシングと、入力ソケットと、出力ソケットと、少なくとも1つのスピーカと、透明な電池表示を有する第2の表示灯とを有する音声パック(sound puck)を備える、請求項19に記載のシステム。
  21. 前記クライアントシステムは、ベース取付片、スマートフォン取付片およびスマートフォンを有するスマートフォンホルダをさらに備える、請求項19に記載のシステム。
  22. 聴力を改善するための方法であって、
    スマートフォンを、前記スマートフォンを持つユーザを前記スマートフォンに含まれるカメラで見ることができる位置で保持して、前記ユーザの場所を検出するステップと、
    前記スマートフォンに含まれる複数のビーム形成マイクロフォンであって、同一平面上に三角形を成すよう配置されているマイクロフォンによってオーディオ信号を取得するステップと、
    前記複数のビーム形成マイクロフォンの角度および強度を定めるビーム形成アルゴリズムを用いる前記ビーム形成マイクロフォンのうち少なくとも1つから処理された向上したオーディオ信号によって、前記ユーザに聴覚情報をフィードバックするステップであって、ノイズ低減のために、前記ユーザの位置によって少なくとも1つのビーム形成マイクロフォンが無効化される、ステップとを含む方法。
  23. 前記複数のビーム形成マイクロフォンは、マイクロフォンアレイ、音声パック、会議パックおよびスマートフォンからなる群から選択される形態である、聴力を改善するための請求項22に記載の方法。
  24. 前記ユーザの頭部位置および注視を判定するために利用される複数のカメラを使用することを含む、聴力を改善するための請求項22に記載の方法。
  25. 前記ユーザの頭部位置を検出するためのセンサを有する小型イヤホンを使用することを含む、聴力を改善するための請求項22に記載の方法。
  26. 前記向上したオーディオ信号は、少なくとも1つの外部スピーカ、少なくとも1つまたは複数の外部パラメトリックスピーカ、少なくとも1つの小型イヤホンを有するかあるいは有しない前記スマートフォン、補聴器、補助聴覚装置、BLUETOOTH(登録商標)ヘッドセット、人工内耳、骨伝導聴覚装置および一組のヘッドホンからなる群から選択される装置によって出力される、聴力を改善するための請求項22に記載の方法。
  27. 前記フィードバックするステップは、ユーザの頭部位置の検出、注視追跡、ノイズキャンセル、注視追跡の解析、マイクロフォンの組合せの選択および音声増幅のうち少なくとも1つも行う、聴力を改善するための請求項22に記載の方法。
  28. 実行されたときに、ユーザに向上したオーディオ信号を提供するための方法を実行する命令を記憶した非一時的コンピュータ記憶媒体であって、前記方法が、
    スマートフォンに含まれる複数のビーム形成マイクロフォンであって、同一平面上に三角形を成すよう配置されているマイクロフォンによってオーディオ信号を受信するステップと、
    前記ユーザが見えるように焦点が合わされかつ倍率が拡大されたカメラを有する前記スマートフォンによって、前記ユーザの位置を監視するステップと、
    前記複数のビーム形成マイクロフォンを用いて処理された向上したオーディオ信号によって、前記ユーザに聴覚情報をフィードバックするステップであって、ノイズ低減のために、前記ユーザの位置によって少なくとも1つのビーム形成マイクロフォンが無効化される、ステップ
    を含む非一時的コンピュータ記憶媒体。
  29. 前記スマートフォンは、マイクロフォンアレイ、音声パックおよびスマートフォンホルダからなる群から選択されるクライアントシステムに接続される、請求項28に記載の非一時的コンピュータ記憶媒体。
  30. ユーザの頭部位置および注視を判定するために複数のカメラが利用される、請求項28に記載の非一時的コンピュータ記憶媒体。
  31. 前記向上したオーディオ信号は、外部スピーカ、前記スマートフォンに含まれる小型イヤホン、補聴器、補助聴覚装置、BLUETOOTH(登録商標)ヘッドセット、人工内耳および一組のヘッドホンからなる群から選択される装置によって出力される、請求項28に記載の非一時的コンピュータ記憶媒体。
  32. 前記フィードバックするステップは、ユーザの頭部位置の検出、注視追跡、ノイズキャンセル、注視追跡の解析、マイクロフォンの組合せの選択および音声増幅のうち少なくとも1つも実行する、請求項28に記載の非一時的コンピュータ記憶媒体。
JP2017542487A 2015-02-13 2016-02-16 聴力を改善するためのシステムおよび方法 Expired - Fee Related JP6738342B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562116231P 2015-02-13 2015-02-13
US62/116,231 2015-02-13
PCT/US2016/018132 WO2016131064A1 (en) 2015-02-13 2016-02-16 System and method for improving hearing

Publications (3)

Publication Number Publication Date
JP2018511212A JP2018511212A (ja) 2018-04-19
JP2018511212A5 JP2018511212A5 (ja) 2019-03-22
JP6738342B2 true JP6738342B2 (ja) 2020-08-12

Family

ID=56615706

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017542487A Expired - Fee Related JP6738342B2 (ja) 2015-02-13 2016-02-16 聴力を改善するためのシステムおよび方法

Country Status (6)

Country Link
US (1) US10856071B2 (ja)
EP (1) EP3257266A4 (ja)
JP (1) JP6738342B2 (ja)
AU (1) AU2016218989B2 (ja)
CA (1) CA2975955A1 (ja)
WO (1) WO2016131064A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9838775B2 (en) * 2015-09-16 2017-12-05 Apple Inc. Earbuds with biometric sensing
US10856068B2 (en) 2015-09-16 2020-12-01 Apple Inc. Earbuds
US10994137B2 (en) * 2016-05-09 2021-05-04 Advanced Bionics Ag Neural stimulation system
CN109076277B (zh) 2016-09-06 2020-10-23 苹果公司 具有用于固定到用户的翼尖的耳机组件
US10512750B1 (en) 2016-12-28 2019-12-24 X Development Llc Bone conduction speaker patch
US10284982B1 (en) 2016-12-28 2019-05-07 X Development Llc Bone conduction speaker patch
US10133544B2 (en) 2017-03-02 2018-11-20 Starkey Hearing Technologies Hearing device incorporating user interactive auditory display
JP2018191145A (ja) * 2017-05-08 2018-11-29 オリンパス株式会社 収音装置、収音方法、収音プログラム及びディクテーション方法
US10939207B2 (en) 2017-07-14 2021-03-02 Hewlett-Packard Development Company, L.P. Microwave image processing to steer beam direction of microphone array
US10157628B1 (en) * 2017-11-07 2018-12-18 Fortemedia, Inc. Sound identification device with microphone array
US10540015B2 (en) * 2018-03-26 2020-01-21 Chian Chiu Li Presenting location related information and implementing a task based on gaze and voice detection
CN112544089B (zh) * 2018-06-07 2023-03-28 索诺瓦公司 提供具有空间背景的音频的麦克风设备
CN108831472B (zh) * 2018-06-27 2022-03-11 中山大学肿瘤防治中心 一种基于唇语识别的人工智能发声***及发声方法
WO2020004363A1 (ja) * 2018-06-27 2020-01-02 ヤマハ株式会社 音響装置および情報管理システム
EP3945735A1 (en) 2020-07-30 2022-02-02 Koninklijke Philips N.V. Sound management in an operating room
US11290837B1 (en) * 2020-10-23 2022-03-29 Facebook Technologies, Llc Audio system using persistent sound source selection for audio enhancement
EP4093046A1 (en) * 2021-05-21 2022-11-23 Nokia Technologies Oy Multi-microphone audio capture
US11478184B1 (en) 2021-09-14 2022-10-25 Applied Cognition, Inc. Non-invasive assessment of glymphatic flow and neurodegeneration from a wearable device
US11689841B2 (en) 2021-09-29 2023-06-27 Microsoft Technology Licensing, Llc Earbud orientation-based beamforming
CA3239888A1 (en) * 2022-06-08 2023-12-14 Kanishka Patel A sound receiver watch for non-surgical hearing aid
DE102022121636A1 (de) * 2022-08-26 2024-02-29 Telefónica Germany GmbH & Co. OHG System, Verfahren, Computerprogramm und computerlesbares Medium
US12004874B2 (en) 2022-10-24 2024-06-11 Applied Cognition, Inc. Wearable device and method for non-invasive assessment of glymphatic flow

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61234699A (ja) * 1985-04-10 1986-10-18 Tokyo Tatsuno Co Ltd 補聴器
JPH11510067A (ja) 1995-07-21 1999-09-07 ステステック コーポレーション 電子聴診器
JPH09327097A (ja) * 1996-06-07 1997-12-16 Nec Corp 補聴器
ATE230917T1 (de) * 1999-10-07 2003-01-15 Zlatan Ribic Verfahren und anordnung zur aufnahme von schallsignalen
JP2001292212A (ja) * 2000-04-07 2001-10-19 Mitsubishi Electric Corp 携帯電話機
DK1795045T3 (da) 2004-10-01 2013-02-18 Hear Ip Pty Ltd Akustisk transparent okklusionsreduktionssystem og -fremgangsmåde
US20080260189A1 (en) * 2005-11-01 2008-10-23 Koninklijke Philips Electronics, N.V. Hearing Aid Comprising Sound Tracking Means
DK2030476T3 (da) 2006-06-01 2012-10-29 Hear Ip Pty Ltd Fremgangsmåde og system til forbedring af forståeligheden af lyde
US8526632B2 (en) * 2007-06-28 2013-09-03 Microsoft Corporation Microphone array for a camera speakerphone
US9445193B2 (en) 2008-07-31 2016-09-13 Nokia Technologies Oy Electronic device directional audio capture
US20100074460A1 (en) * 2008-09-25 2010-03-25 Lucent Technologies Inc. Self-steering directional hearing aid and method of operation thereof
US8301193B1 (en) * 2008-11-03 2012-10-30 Sprint Communications Company L.P. Differential planes for video I/O in a hearing impaired application
US8953817B2 (en) 2008-11-05 2015-02-10 HEAR IP Pty Ltd. System and method for producing a directional output signal
US8154588B2 (en) 2009-01-14 2012-04-10 Alan Alexander Burns Participant audio enhancement system
US20100317413A1 (en) * 2009-06-15 2010-12-16 Qing Song Tan Portable phone holder and solar charger
DK2449798T4 (da) 2009-08-11 2020-12-21 Sivantos Pte Ltd System og fremgangsmåde til estimering af en lyds ankomstretning
US8538049B2 (en) * 2010-02-12 2013-09-17 Audiotoniq, Inc. Hearing aid, computing device, and method for selecting a hearing aid profile
US8654999B2 (en) * 2010-04-13 2014-02-18 Audiotoniq, Inc. System and method of progressive hearing device adjustment
TWI401015B (zh) * 2010-06-08 2013-07-01 Htc Corp 具有連動支撐件的手持裝置
JP2012029209A (ja) * 2010-07-27 2012-02-09 Hitachi Ltd 音処理システム
WO2012017270A1 (en) * 2010-08-05 2012-02-09 Nokia Corporation An apparatus
DK2641346T4 (da) 2010-11-18 2024-03-04 Noopl Inc Systemer og fremgangsmåder til reducering af uønskede lyde i signaler, der modtages fra et arrangement af mikrofoner
US9084038B2 (en) 2010-12-22 2015-07-14 Sony Corporation Method of controlling audio recording and electronic device
WO2012164346A1 (en) * 2011-05-27 2012-12-06 Sony Ericsson Mobile Communications Ab Head-related transfer function (hrtf) selection or adaptation based on head size
US20130028443A1 (en) * 2011-07-28 2013-01-31 Apple Inc. Devices with enhanced audio
DE102011085361A1 (de) * 2011-10-28 2013-05-02 Sennheiser Electronic Gmbh & Co. Kg Mikrofoneinrichtung
US9104048B2 (en) 2012-01-25 2015-08-11 International Business Machines Corporation Three dimensional image projector with single modulator
US8781142B2 (en) * 2012-02-24 2014-07-15 Sverrir Olafsson Selective acoustic enhancement of ambient sound
EP2832111B1 (en) * 2012-03-26 2018-05-23 University of Surrey Acoustic source separation
US9746916B2 (en) * 2012-05-11 2017-08-29 Qualcomm Incorporated Audio user interaction recognition and application interface
US20140189586A1 (en) * 2012-12-28 2014-07-03 Spritz Technology Llc Methods and systems for displaying text using rsvp
US8995698B2 (en) * 2012-07-27 2015-03-31 Starkey Laboratories, Inc. Visual speech mapping
KR102060712B1 (ko) * 2013-01-31 2020-02-11 엘지전자 주식회사 이동 단말기, 및 그 동작방법
JP2016515342A (ja) 2013-03-12 2016-05-26 ヒア アイピー ピーティーワイ リミテッド ノイズ低減法、およびシステム
US10365716B2 (en) * 2013-03-15 2019-07-30 Interaxon Inc. Wearable computing apparatus and method
US9280972B2 (en) 2013-05-10 2016-03-08 Microsoft Technology Licensing, Llc Speech to text conversion
EP3917167A3 (en) 2013-06-14 2022-03-09 Oticon A/s A hearing assistance device with brain computer interface
US9596437B2 (en) * 2013-08-21 2017-03-14 Microsoft Technology Licensing, Llc Audio focusing via multiple microphones
US20150118959A1 (en) * 2013-10-28 2015-04-30 Nicolas Jean Petit Platform framework for wireless media device simulation and design
US20150117695A1 (en) * 2013-10-28 2015-04-30 Aliphcom Orienting earbuds and earbud systems
US8891800B1 (en) 2014-02-21 2014-11-18 Jonathan Everett Shaffer Earbud charging case for mobile device
JP6415608B2 (ja) * 2014-03-03 2018-10-31 アイウェイ ビジョン エルティーディー. 目用投影システム
US9426568B2 (en) * 2014-04-15 2016-08-23 Harman International Industries, LLC Apparatus and method for enhancing an audio output from a target source
US20150382129A1 (en) * 2014-06-30 2015-12-31 Microsoft Corporation Driving parametric speakers as a function of tracked user location
US10284956B2 (en) * 2015-06-27 2019-05-07 Intel Corporation Technologies for localized audio enhancement of a three-dimensional video
US20170243582A1 (en) * 2016-02-19 2017-08-24 Microsoft Technology Licensing, Llc Hearing assistance with automated speech transcription

Also Published As

Publication number Publication date
US20160249141A1 (en) 2016-08-25
AU2016218989B2 (en) 2020-09-10
CA2975955A1 (en) 2016-08-18
US10856071B2 (en) 2020-12-01
AU2016218989A1 (en) 2017-08-17
WO2016131064A1 (en) 2016-08-18
EP3257266A1 (en) 2017-12-20
EP3257266A4 (en) 2018-10-03
JP2018511212A (ja) 2018-04-19

Similar Documents

Publication Publication Date Title
JP6738342B2 (ja) 聴力を改善するためのシステムおよび方法
US10448139B2 (en) Selective sound field environment processing system and method
US10405081B2 (en) Intelligent wireless headset system
US10085091B2 (en) Ambient volume modification through environmental microphone feedback loop system and method
JP2018511212A5 (ja)
US11706577B2 (en) Systems and methods for equalizing audio for playback on an electronic device
KR102378762B1 (ko) 지향성의 사운드 변형
EP2839675B1 (en) Auto detection of headphone orientation
US9491553B2 (en) Method of audio signal processing and hearing aid system for implementing the same
EP3275207B1 (en) Intelligent switching between air conduction speakers and tissue conduction speakers
US10359839B2 (en) Performing output control based on user behaviour
US8965012B1 (en) Smart sensing bone conduction transducer
US10306142B2 (en) Headset
CN106302974B (zh) 一种信息处理的方法及电子设备
US20220342213A1 (en) Miscellaneous audio system applications
JP6290827B2 (ja) オーディオ信号を処理する方法及び補聴器システム
CN114339562A (zh) 基于感兴趣方向的声音修改
WO2018149073A1 (zh) 降噪耳机以及电子设备
JP6930280B2 (ja) メディアキャプチャ・処理システム
US20240214725A1 (en) Apparatuses, systems, and methods for detecting sound via a wearable device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171225

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200717

R150 Certificate of patent or registration of utility model

Ref document number: 6738342

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees