JP7227395B2 - インタラクティブ対象の駆動方法、装置、デバイス、及び記憶媒体 - Google Patents
インタラクティブ対象の駆動方法、装置、デバイス、及び記憶媒体 Download PDFInfo
- Publication number
- JP7227395B2 JP7227395B2 JP2021556973A JP2021556973A JP7227395B2 JP 7227395 B2 JP7227395 B2 JP 7227395B2 JP 2021556973 A JP2021556973 A JP 2021556973A JP 2021556973 A JP2021556973 A JP 2021556973A JP 7227395 B2 JP7227395 B2 JP 7227395B2
- Authority
- JP
- Japan
- Prior art keywords
- driving
- data
- interactive
- interactive object
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
- G06V40/176—Dynamic expression
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、出願番号が2020102461120であり、出願日が2020年3月31日である中国特許出願の優先権を主張し、当該中国特許出願の全ての内容が援用により本願に組み入れられる。
Claims (12)
- 表示デバイスに展示されているインタラクティブ対象の駆動方法であって、
前記インタラクティブ対象の駆動データを取得し、前記駆動データの駆動モードを確定することと、
前記駆動モードに応答して、前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得することと、
前記制御パラメータ値に基づいて前記インタラクティブ対象の姿態を制御することと、を含み、
前記駆動データに対応する駆動モードを確定することは、
前記駆動データのタイプに基づいて、前記駆動データに対応する音声データシーケンスを取得することであって、前記音声データシーケンスは複数の音声データ単位を含むことと、
前記音声データ単位に含まれている目標データが検出されたことに応答して、前記駆動データの駆動モードを第1駆動モードとして確定することであって、前記目標データは前記インタラクティブ対象の所定の制御パラメータ値に対応することと、
前記音声データ単位に含まれている前記目標データが検出されなかったことに応答して、前記駆動データの駆動モードを第2駆動モードとして確定することと、を含み、
前記駆動モードに応答して、前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得することは、
前記第1駆動モードに応答して、前記目標データに対応する前記所定の制御パラメータ値を前記インタラクティブ対象の制御パラメータ値として使用することと、
前記第2駆動モードに応答して、前記音声データシーケンス中の少なくとも1つの音声データ単位の特徴情報を取得すると共に、前記特徴情報に対応する前記インタラクティブ対象の制御パラメータ値を取得することと、を含む、
ことを特徴とするインタラクティブ対象の駆動方法。 - 前記駆動データに基づいて、前記表示デバイス出力音声を制御し、および/または、テキストを展示することをさらに含む
ことを特徴とする請求項1に記載のインタラクティブ対象の駆動方法。 - 前記目標データは、キー単語またはキー文字を含み、前記キー単語または前記キー文字は、前記インタラクティブ対象の所定の動作の所定の制御パラメータ値に対応し、または、
前記目標データは、音節を含み、前記音節は、前記インタラクティブ対象の所定の口形状動作の所定の制御パラメータ値に対応する
ことを特徴とする請求項1に記載のインタラクティブ対象の駆動方法。 - 前記音声データシーケンスは、音素シーケンスを含み、
前記音声データシーケンス中の少なくとも1つの音声データ単位の特徴情報を取得することは、
前記音素シーケンスに対して特徴エンコーディングを実行して、前記音素シーケンス対応する第1コードシーケンスを得ることと、
前記第1コードシーケンスに基づいて少なくとも1つの音素に対応する特徴コードを取得することと、
前記特徴コードに基づいて前記少なくとも1つの音素の特徴情報を得ることと、を含む
ことを特徴とする請求項1に記載のインタラクティブ対象の駆動方法。 - 前記音声データシーケンスは、音声フレームシーケンスを含み、
前記音声データシーケンス中の少なくとも1つの音声データ単位の特徴情報を取得することは、
前記音声フレームシーケンス対応する第1音響特徴シーケンスを取得することであって、前記第1音響特徴シーケンスは、前記音声フレームシーケンス中の各音声フレームに対応する音響特徴ベクトルを含むことと、
前記第1音響特徴シーケンスに基づいて少なくとも1つの音声フレームに対応する音響特徴ベクトルを取得することと、
前記音響特徴ベクトルに基づいて前記少なくとも1つの音声フレームに対応する特徴情報を得ることと、を含む
ことを特徴とする請求項1に記載のインタラクティブ対象の駆動方法。 - 前記インタラクティブ対象の制御パラメータは、顔部姿態パラメータを含み、前記顔部姿態パラメータは、顔部筋肉制御係数を含み、前記顔部筋肉制御係数は、少なくとも1つの顔部筋肉の運動状態を制御するために使用され、
前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得することは、
前記駆動データに基づいて前記インタラクティブ対象の顔部筋肉制御係数を取得することを含み、
前記制御パラメータ値に基づいて前記インタラクティブ対象の姿態を制御することは、
取得した顔部筋肉制御係数に基づいて前記インタラクティブ対象が前記駆動データにマッチングする顔部動作を行うように前記インタラクティブ対象を駆動することを含む
ことを特徴とする請求項1から5のいずれか1項に記載のインタラクティブ対象の駆動方法。 - 前記顔部姿態パラメータに関連している体姿態の駆動データを取得することと、
前記顔部姿態パラメータ値に関連している体姿態の駆動データに基づいて前記インタラクティブ対象が肢体動作を行うように駆動することと、をさらに含む
ことを特徴とする請求項6に記載のインタラクティブ対象の駆動方法。 - 前記インタラクティブ対象の制御パラメータは、前記インタラクティブ対象の少なくとも1つの部分的領域の制御ベクトルを含み、
前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得することは、
前記駆動データに基づいて前記インタラクティブ対象の少なくとも1つの部分的領域の制御ベクトルを取得することを含み、
前記制御パラメータ値に基づいて前記インタラクティブ対象の姿態を制御することは、
取得した前記少なくとも1つの部分的領域の制御ベクトルに基づいて前記インタラクティブ対象の顔部動作および/または肢体動作を制御することを含む
ことを特徴とする請求項1から7のいずれか1項に記載のインタラクティブ対象の駆動方法。 - 前記特徴情報に対応する前記インタラクティブ対象の制御パラメータ値を取得することは、
前記特徴情報を事前に訓練されたリカレントニューラルネットワークに入力して、前記特徴情報に対応する前記インタラクティブ対象の制御パラメータ値を得ることを含む
ことを特徴とする請求項1に記載のインタラクティブ対象の駆動方法。 - 表示デバイスに展示されているインタラクティブ対象の駆動装置であって、
前記インタラクティブ対象の駆動データを取得し、前記駆動データの駆動モードを確定するための第1取得ユニットと、
前記駆動モードに応答して、前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得するための第2取得ユニットと、
前記制御パラメータ値に基づいて前記インタラクティブ対象の姿態を制御するための駆動ユニットと、を備え、
前記駆動データに対応する駆動モードを確定することは、
前記駆動データのタイプに基づいて、前記駆動データに対応する音声データシーケンスを取得することであって、前記音声データシーケンスは複数の音声データ単位を含むことと、
前記音声データ単位に含まれている目標データが検出されたことに応答して、前記駆動データの駆動モードを第1駆動モードとして確定することであって、前記目標データは前記インタラクティブ対象の所定の制御パラメータ値に対応することと、
前記音声データ単位に含まれている前記目標データが検出されなかったことに応答して、前記駆動データの駆動モードを第2駆動モードとして確定することと、を含み、
前記駆動モードに応答して、前記駆動データに基づいて前記インタラクティブ対象の制御パラメータ値を取得することは、
前記第1駆動モードに応答して、前記目標データに対応する前記所定の制御パラメータ値を前記インタラクティブ対象の制御パラメータ値として使用することと、
前記第2駆動モードに応答して、前記音声データシーケンス中の少なくとも1つの音声データ単位の特徴情報を取得すると共に、前記特徴情報に対応する前記インタラクティブ対象の制御パラメータ値を取得することと、を含む、
ことを特徴とするインタラクティブ対象の駆動装置。 - 電子デバイスであって、
メモリとプロセッサとを備え、
前記メモリは、プロセッサ上で運行可能なコンピュータ命令を記憶し、
前記プロセッサは、前記コンピュータ命令が実行されるときに、請求項1から9のいずれか1項に記載の方法を実行する
ことを特徴とする電子デバイス。 - コンピュータプログラムが記憶されているコンピュータ可読記録媒体であって、
前記コンピュータプログラムがプロセッサによって実行されるときに、請求項1から9のいずれか1項に記載の方法が実行される
ことを特徴とするコンピュータ可読記録媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010246112.0A CN111459452B (zh) | 2020-03-31 | 2020-03-31 | 交互对象的驱动方法、装置、设备以及存储介质 |
CN202010246112.0 | 2020-03-31 | ||
PCT/CN2020/129806 WO2021196645A1 (zh) | 2020-03-31 | 2020-11-18 | 交互对象的驱动方法、装置、设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022531072A JP2022531072A (ja) | 2022-07-06 |
JP7227395B2 true JP7227395B2 (ja) | 2023-02-21 |
Family
ID=71683479
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021556973A Active JP7227395B2 (ja) | 2020-03-31 | 2020-11-18 | インタラクティブ対象の駆動方法、装置、デバイス、及び記憶媒体 |
Country Status (5)
Country | Link |
---|---|
JP (1) | JP7227395B2 (ja) |
KR (1) | KR20210129713A (ja) |
CN (1) | CN111459452B (ja) |
TW (1) | TWI760015B (ja) |
WO (1) | WO2021196645A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111460785B (zh) * | 2020-03-31 | 2023-02-28 | 北京市商汤科技开发有限公司 | 交互对象的驱动方法、装置、设备以及存储介质 |
CN111459450A (zh) * | 2020-03-31 | 2020-07-28 | 北京市商汤科技开发有限公司 | 交互对象的驱动方法、装置、设备以及存储介质 |
CN111459452B (zh) * | 2020-03-31 | 2023-07-18 | 北京市商汤科技开发有限公司 | 交互对象的驱动方法、装置、设备以及存储介质 |
CN113050859B (zh) * | 2021-04-19 | 2023-10-24 | 北京市商汤科技开发有限公司 | 交互对象的驱动方法、装置、设备以及存储介质 |
CN114283227B (zh) * | 2021-11-26 | 2023-04-07 | 北京百度网讯科技有限公司 | 虚拟人物的驱动方法、装置、电子设备及可读存储介质 |
CN116932706A (zh) * | 2022-04-15 | 2023-10-24 | 华为技术有限公司 | 汉语翻译的方法和电子设备 |
CN116977499B (zh) * | 2023-09-21 | 2024-01-16 | 粤港澳大湾区数字经济研究院(福田) | 一种面部、身体运动参数的联合生成方法及相关设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000200125A (ja) | 1998-12-30 | 2000-07-18 | Fuji Xerox Co Ltd | インタフェ―ス |
JP2016038601A (ja) | 2014-08-05 | 2016-03-22 | 日本放送協会 | Cgキャラクタ対話装置及びcgキャラクタ対話プログラム |
CN109739350A (zh) | 2018-12-24 | 2019-05-10 | 武汉西山艺创文化有限公司 | 基于透明液晶显示屏的ai智能助理设备及其交互方法 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4661074B2 (ja) * | 2004-04-07 | 2011-03-30 | ソニー株式会社 | 情報処理システム、情報処理方法、並びにロボット装置 |
JP5855742B2 (ja) * | 2011-05-11 | 2016-02-09 | ザ クリーブランド クリニック ファウンデーションThe Cleveland ClinicFoundation | ヘルスケア用の対話型グラフィカルマップのビジュアライゼーション |
CN102609969B (zh) * | 2012-02-17 | 2013-08-07 | 上海交通大学 | 基于汉语文本驱动的人脸语音同步动画的处理方法 |
JP2015166890A (ja) * | 2014-03-03 | 2015-09-24 | ソニー株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
US20180160077A1 (en) * | 2016-04-08 | 2018-06-07 | Maxx Media Group, LLC | System, Method and Software for Producing Virtual Three Dimensional Avatars that Actively Respond to Audio Signals While Appearing to Project Forward of or Above an Electronic Display |
CN106056989B (zh) * | 2016-06-23 | 2018-10-16 | 广东小天才科技有限公司 | 一种语言学习方法及装置、终端设备 |
CN107329990A (zh) * | 2017-06-06 | 2017-11-07 | 北京光年无限科技有限公司 | 一种用于虚拟机器人的情绪输出方法以及对话交互*** |
CN107704169B (zh) * | 2017-09-26 | 2020-11-17 | 北京光年无限科技有限公司 | 虚拟人的状态管理方法和*** |
CN107861626A (zh) * | 2017-12-06 | 2018-03-30 | 北京光年无限科技有限公司 | 一种虚拟形象被唤醒的方法及*** |
CN108942919B (zh) * | 2018-05-28 | 2021-03-30 | 北京光年无限科技有限公司 | 一种基于虚拟人的交互方法及*** |
CN110876024B (zh) * | 2018-08-31 | 2021-02-12 | 百度在线网络技术(北京)有限公司 | 确定虚拟形象唇部动作的方法和装置 |
CN109377539B (zh) * | 2018-11-06 | 2023-04-11 | 北京百度网讯科技有限公司 | 用于生成动画的方法和装置 |
CN110009716B (zh) * | 2019-03-28 | 2023-09-26 | 网易(杭州)网络有限公司 | 面部表情的生成方法、装置、电子设备及存储介质 |
CN110176284A (zh) * | 2019-05-21 | 2019-08-27 | 杭州师范大学 | 一种基于虚拟现实的言语失用症康复训练方法 |
CN110716634A (zh) * | 2019-08-28 | 2020-01-21 | 北京市商汤科技开发有限公司 | 交互方法、装置、设备以及显示设备 |
CN110688008A (zh) * | 2019-09-27 | 2020-01-14 | 贵州小爱机器人科技有限公司 | 虚拟形象交互方法和装置 |
CN110815258B (zh) * | 2019-10-30 | 2023-03-31 | 华南理工大学 | 基于电磁力反馈和增强现实的机器人遥操作***和方法 |
CN111459452B (zh) * | 2020-03-31 | 2023-07-18 | 北京市商汤科技开发有限公司 | 交互对象的驱动方法、装置、设备以及存储介质 |
-
2020
- 2020-03-31 CN CN202010246112.0A patent/CN111459452B/zh active Active
- 2020-11-18 WO PCT/CN2020/129806 patent/WO2021196645A1/zh active Application Filing
- 2020-11-18 KR KR1020217031139A patent/KR20210129713A/ko not_active Application Discontinuation
- 2020-11-18 JP JP2021556973A patent/JP7227395B2/ja active Active
- 2020-12-18 TW TW109144967A patent/TWI760015B/zh active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000200125A (ja) | 1998-12-30 | 2000-07-18 | Fuji Xerox Co Ltd | インタフェ―ス |
JP2016038601A (ja) | 2014-08-05 | 2016-03-22 | 日本放送協会 | Cgキャラクタ対話装置及びcgキャラクタ対話プログラム |
CN109739350A (zh) | 2018-12-24 | 2019-05-10 | 武汉西山艺创文化有限公司 | 基于透明液晶显示屏的ai智能助理设备及其交互方法 |
Also Published As
Publication number | Publication date |
---|---|
TWI760015B (zh) | 2022-04-01 |
WO2021196645A1 (zh) | 2021-10-07 |
JP2022531072A (ja) | 2022-07-06 |
TW202138970A (zh) | 2021-10-16 |
KR20210129713A (ko) | 2021-10-28 |
CN111459452A (zh) | 2020-07-28 |
CN111459452B (zh) | 2023-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7227395B2 (ja) | インタラクティブ対象の駆動方法、装置、デバイス、及び記憶媒体 | |
TWI766499B (zh) | 互動物件的驅動方法、裝置、設備以及儲存媒體 | |
WO2021169431A1 (zh) | 交互方法、装置、电子设备以及存储介质 | |
WO2021196646A1 (zh) | 交互对象的驱动方法、装置、设备以及存储介质 | |
WO2021196644A1 (zh) | 交互对象的驱动方法、装置、设备以及存储介质 | |
US20230082830A1 (en) | Method and apparatus for driving digital human, and electronic device | |
CN110148406B (zh) | 一种数据处理方法和装置、一种用于数据处理的装置 | |
CN110162598B (zh) | 一种数据处理方法和装置、一种用于数据处理的装置 | |
WO2023284435A1 (zh) | 生成动画的方法及装置 | |
WO2021232876A1 (zh) | 实时驱动虚拟人的方法、装置、电子设备及介质 | |
TW202248994A (zh) | 互動對象驅動和音素處理方法、設備以及儲存媒體 | |
WO2021232877A1 (zh) | 实时驱动虚拟人的方法、装置、电子设备及介质 | |
CN110166844B (zh) | 一种数据处理方法和装置、一种用于数据处理的装置 | |
CN112632262A (zh) | 一种对话方法、装置、计算机设备及存储介质 | |
JP2022531056A (ja) | インタラクティブ対象の駆動方法、装置、デバイス、及び記録媒体 | |
CN117036556A (zh) | 虚拟形象驱动方法、装置及机器人 | |
Pueblo | Videorealistic facial animation for speech-based interfaces |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210922 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210922 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220727 |
|
A603 | Late request for extension of time limit during examination |
Free format text: JAPANESE INTERMEDIATE CODE: A603 Effective date: 20221124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230120 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230209 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7227395 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |