CN111694429B - 虚拟对象驱动方法、装置、电子设备及可读存储 - Google Patents

虚拟对象驱动方法、装置、电子设备及可读存储 Download PDF

Info

Publication number
CN111694429B
CN111694429B CN202010513294.3A CN202010513294A CN111694429B CN 111694429 B CN111694429 B CN 111694429B CN 202010513294 A CN202010513294 A CN 202010513294A CN 111694429 B CN111694429 B CN 111694429B
Authority
CN
China
Prior art keywords
coordinates
key point
real object
determining
target image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010513294.3A
Other languages
English (en)
Other versions
CN111694429A (zh
Inventor
孟庆月
赵晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010513294.3A priority Critical patent/CN111694429B/zh
Publication of CN111694429A publication Critical patent/CN111694429A/zh
Priority to US17/196,664 priority patent/US11532127B2/en
Priority to EP21162229.5A priority patent/EP3825962A3/en
Priority to KR1020210034282A priority patent/KR102590841B1/ko
Priority to JP2021050134A priority patent/JP7273880B2/ja
Application granted granted Critical
Publication of CN111694429B publication Critical patent/CN111694429B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G06T13/20—3D [Three Dimensional] animation
    • G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/23—Recognition of whole body movements, e.g. for sport training
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/004—Annotating, labelling

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了虚拟对象驱动方法、装置、电子设备及可读存储，涉及人工智能技术领域和深度学习技术领域，具体实现方案为：获取摄像头采集的真实对象做出肢体动作时的目标图像；将所述目标图像输入坐标获取模型中，得到位于所述真实对象的肢体上的多个关键点的坐标；根据各所述关键点的坐标，确定所述真实对象的肢体的姿态；根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。该方法极大降低了虚拟形象驱动时的操作复杂度以及成本耗费。

Description

虚拟对象驱动方法、装置、电子设备及可读存储
技术领域
本申请实施例涉及计算机领域中的人工智能技术领域和深度学习技术领域，尤其涉及一种虚拟对象驱动方法、装置、电子设备及可读存储。
背景技术
虚拟人物可以指利用计算机图形(Computer Graphics，简称CG)等技术制作的虚拟人物形象，虚拟人物例如可以包括3D动画电影中的虚拟人物、网络直播平台中的虚拟人物等。以网络直播平台为例，根据进行直播的真人的动作，驱动虚拟人物呈现与真人相同的动作，以实现特定场景中的实际需要。在这些场景中，如何基于真人的动作驱动虚拟人物呈现与真人相同的动作，是需要解决的问题。
现有技术中，可以通过专用的动作捕捉设备对真人的关键点动作进行捕捉，进而根据真人的动作驱动虚拟人物呈现同样的动作。
但是，使用现有技术的方法会导致操作复杂并且成本过高。
发明内容
本申请提供了一种虚拟对象驱动方法、装置、电子设备及可读存储。
根据本申请的一方面，提供了一种虚拟对象驱动方法，包括：
获取摄像头采集的真实对象做出肢体动作时的目标图像；将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标；根据各所述关键点的坐标，确定所述真实对象的肢体的姿态；根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
根据本申请的另一方面，提供了一种虚拟对象驱动装置，包括：获取模块，用于获取摄像头采集的真实对象做出肢体动作时的目标图像；处理模块，用于将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标。
确定模块，用于根据各所述关键点的坐标，确定所述真实对象的肢体的姿态。
驱动模块，用于根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
根据本申请的又一方面，提供了一种电子设备，包括：
至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的方法。
根据本申请的再一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述第一方面所述的方法。
根据本申请的再一方面，提供了一种计算机程序产品，所述程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的方法。该电子设备例如可以是终端设备或服务器。
根据本申请的技术，利用摄像头采集的真实对象做出肢体动作时的目标图像，可以确定出真实对象肢体上各关键点的坐标，利用这些坐标，可以确定出真实对象的肢体的姿态，进而可以基于真实对象的肢体的姿态驱动屏幕上的虚拟对象呈现出真实对象的肢体动作。该过程中真人用户仅需要站在摄像头的镜头范围内做出肢体动作即可进行虚拟对象驱动，而无需使用任何额外的设备，因此极大降低了虚拟形象驱动时的操作复杂度以及成本耗费，能够适用于网络直播平台的虚拟形象驱动等场景中用户的实际需求，极大提升用户的体验。同时，上述过程利用关键点的坐标确定真实对象的肢体姿态并进行虚拟形象驱动，还能够保证虚拟形象驱动时的关节灵活性高，保证虚拟形象驱动达到较佳的效果。
应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请实施例提供的虚拟对象驱动方法的一种示例性场景示意图；
图2为本申请实施例提供的虚拟对象驱动方法的一种示例性场景示意图；
图3为本申请实施例提供的虚拟形象驱动方法的流程示意图；
图4为本实施例的效果示意图；
图5为本申请实施例提供的虚拟形象驱动方法的流程示意图；
图6为手臂上的关键点的示意图；
图7为本申请实施例提供的一种虚拟对象驱动装置的模块结构图；
图8是根据本申请实施例的虚拟对象驱动的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
现有技术依赖于专用的动作捕捉设备进行虚拟人物驱动，动作捕捉设备一般为成套的设备，包括一系列***，需要由真人将这些***穿戴在身上，当真人做出肢体动作时，***的位置发生变化，处理设备基于***的位置变化计算得出肢体的位置变化信息，进而基于肢体的位置变化信息驱动虚拟人物。一方面，这种方式需要真人穿戴专用的设备，因此，会导致进行虚拟人物驱动时的操作复杂。另一方面，专用的动作捕捉设备的成本往往比较昂贵，难以适用于有低成本要求的用户。例如，对于在网络直播平台上进行虚拟人物驱动的用户，这些用户往往无法承担较高的成本。
考虑到现有技术中使用动作捕捉设备进行虚拟人物驱动所导致的操作复杂以及成本过高的问题，本申请实施例基于摄像头采集的真人做出肢体动作时的图像得到真人的姿态，并基于真人的姿态对虚拟人物进行驱动，而无需负载的操作以及额外的设备，从而实现方便以及低成本的虚拟人物驱动。
图1为本申请实施例提供的虚拟对象驱动方法的一种示例性场景示意图，如图1所示，该方法涉及真人用户和终端设备。终端设备上设置摄像头。由摄像头采集真人用户做出肢体动作时的图像，终端设备基于使用本申请实施例的方法驱动终端设备的屏幕上显示的虚拟对象呈现出真人用的肢体动作。
图2为本申请实施例提供的虚拟对象驱动方法的一种示例性场景示意图，如图1所示，该方法涉及终端设备和服务器，终端设备和服务器之间通信连接。终端设备上设置摄像头。由摄像头采集真人用户做出肢体动作时的图像，终端设备将摄像头采集到的图像发送给服务器，服务器使用本申请实施例的方法驱动终端设备上显示的虚拟对象呈现出真人用户的肢体动作。
图3为本申请实施例提供的虚拟形象驱动方法的流程示意图，该方法的执行主体可以为上述图1所示例的终端设备，或者为图2所示例的服务器。本申请以下实施例以执行主体为终端设备为例进行说明。如图3所示，该方法包括：
S301、获取摄像头采集的真实对象做出肢体动作时的目标图像。
可选的，本申请实施例的真实对象，可以是指真人，或者，也可以是指真实的动物等。本申请实施例均以真人为例进行说明。
上述摄像头可以为终端设备上设置的摄像头，或者，上述摄像头还可以不设置在终端设备上，而是独立的设备或者设置在其他设备上。如果摄像头不设置在终端设备上，则可以由摄像头所在设备将图像发送给终端设备。
可选的，上述摄像头可以为单目摄像头或者为双目摄像头，本申请实施例对于摄像头的具体形态不做限定。
可选的，摄像头可以按照一定的周期采集图像，当真实对象做出肢体动作时，摄像头采集到目标图像，则该目标图像中可以包括真实对象的肢体动作。例如，真实对象做出了伸直手臂这一肢体动作，则摄像头采集的图像中包括了真实对象伸直手臂这一动作。
S302、将上述目标图像输入坐标获取模型中，得到位于上述目标图像中的真实对象的肢体上的多个关键点的坐标。
可选的，真实对象的肢体上的多个关键点可以指肢体上的多个关节。例如，真人的肩关节为一个关键点，左肘关节为一个关键点，每个手指的关节均为一个关键点。
上述坐标获取模型可以为预先经过训练的模型，该模型例如可以为神经网络模型。
基于坐标获取模型可以得到多个关键点的二维坐标，或者，也可以得到多个关键点的三维坐标，可以根据应用的场景进行灵活选择。例如，如果需要呈现的虚拟对象为二维的对象，则可以仅得到多个关键点的二维坐标。如果需要呈现的虚拟对象为三维的对象，则可以得到多个关键点的三维坐标。
S303、根据各上述关键点的坐标，确定上述真实对象的肢体的姿态。
可选的，利用各关键点的坐标，可以获知各关键点之间的位置变化信息，基于位置变化信息可以得到真实对象的肢体姿态。示例性的，真人做出弯曲手臂的肢体动作时，肘关节、肩关节以及腕关节之间出现位置变化，利用这一位置变化，可以得到真人的手臂为弯曲这一姿态。
肢体的姿态具体可以通过角度等表征，具体过程将在下述实施例中详细说明。
S304、根据上述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出上述真实对象的肢体动作。
上述屏幕可以指终端设备上的屏幕。
上述虚拟对象可以为虚拟的人物形象、动物形象等，本申请实施例对于虚拟对象的具体形式不做限定。
示例性的，真人的姿态为手臂弯曲，则根据手臂弯曲的角度，可以驱动虚拟对象的手臂进行相应旋转，从而呈现出与真实对象同样的肢体动作。
当本申请实施例的执行主体为服务器时，服务器在驱动虚拟对象时，可以将驱动的指令发送给终端设备，由终端设备执行指令，以使得虚拟形象呈现出与真实对象同样的肢体动作。
图4为本实施例的效果示意图，如图4所示，真人用户做出伸直手臂这一肢体动作，手机的摄像头采集到真人用户做出这一动作的图像。用户在手机上选择的虚拟对象为猫的卡通形象。手机基于摄像头采集的用户伸直手臂的图像，对虚拟猫的手臂进行旋转，并在屏幕上呈现出虚拟猫伸直手臂的效果。
本实施例中，利用摄像头采集的真实对象做出肢体动作时的目标图像，可以确定出真实对象肢体上各关键点的坐标，利用这些坐标，可以确定出真实对象的肢体的姿态，进而可以基于真实对象的肢体的姿态驱动屏幕上的虚拟对象呈现出真实对象的肢体动作。该过程中真人用户仅需要站在摄像头的镜头范围内做出肢体动作即可进行虚拟对象驱动，而无需使用任何额外的设备，因此极大降低了虚拟形象驱动时的操作复杂度以及成本耗费，能够适用于网络直播平台的虚拟形象驱动等场景中用户的实际需求，极大提升用户的体验。同时，上述过程利用关键点的坐标确定真实对象的肢体姿态并进行虚拟形象驱动，还能够保证虚拟形象驱动时的关节灵活性高，保证虚拟形象驱动达到较佳的效果。
作为一种可选的实施方式，在根据关键点的坐标确定真实对象的肢体坐标时，可以基于关键点之间的角度来确定。
图5为本申请实施例提供的虚拟形象驱动方法的流程示意图，如图5所示，上述步骤S303的一种可选方式包括：
S501、根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息。
其中，上述第一部位由第一关键点和与上述第一关键点相邻的第二关键点表征，上述第二部位由上述第二关键点和与上述第二关键点相邻的第三关键点表征，上述第二关键点为上述第一部位和上述第二部位的连接点。
其中，第一关键点与第二关键相邻，是指第一关键点与第二关键点之间不存在其他的关键点。
示例性的，第一关键点为肩关节，第二关键点为肘关节，第三关键点为腕关节，则通过肩关节以及肘关节的连线来表示大臂，通过肘关节和腕关节的连线可以来表示。图6为手臂上的关键点的示意图，如图6所示，以肩关节为第一关键点，肘关节为第二关键点，腕关节为第三关键点，在第一关键点和第二关键点的连线可以表示大臂，第二关键点和第三关键点的连线可以表示小臂。
第一关键点和第二关键点能够表征第一部位，第二关键点和第三关键点能够表征第二部位，因此，利用该三个关键点的坐标，可以确定出第一部位和第二部位之间的角度信息。
可选的，上述角度信息可以是夹角、轴角、欧拉角、四元数等。
关键点的坐标为二维坐标和三维坐标时，确定上述角度信息的过程可以不同。具体确定角度信息的过程将在下述实施例中详细说明。
S502、根据上述角度信息，确定上述第一部位和上述第二部位所表征的肢体的姿态。
可选的，以角度信息为夹角为例，当通过上述步骤计算出第一部位和第二部位之间的夹角之后，即可以将该夹角作为第一部位和第二部位之间的姿态。示例性的，当计算出大臂和小臂之间的夹角为90度时，以该90度作为真实对象的肢体的姿态，驱动对象的小臂向上旋转90度，从而实现驱动对象呈现出小臂弯曲的肢体动作。
本实施例中，基于三个关键点的坐标可以确定出两个部位之间的角度信息，并基于部位之间的角度信息确定真实对象的肢体姿态，从而仅需要较少的计算量即可得出肢体姿态信息，同时又能够准确表示肢体的实际姿态。
如前文所述，上述各关键点的坐标可以为二维坐标，也可以为三维坐标。以下分别对这两种情况下利用坐标获取模型确定关键点的坐标以及确定真实对象的肢体姿态的过程进行说明。
首先说明关键点坐标为三维坐标时的处理过程。
可选的，可以预先使用预设的训练图像以及该训练图像的标注数据训练上述坐标获取模型。其中，上述训练图像的标注数据包括上述训练图像中各关键点的坐标，上述标注数据通过对上述训练图像中的关键点在相机坐标系下的三维坐标进行转换得到。
具体的，在训练上述坐标获取模型之前，首先对训练模型所需的数据进行数据标注。具体的，首先进行真实对象做出肢体动作时的图像采集，并在每次采集时记录各关键点在相机坐标系下的坐标，并标注各关键点在图像中的像素坐标以及深度值。坐标获取模型在训练过程中将相机坐标系下的坐标转换为关键点的像素坐标以及深度值。
上述坐标获取模型训练过程中，可以基于预先选定的关键点进行训练，则训练完成后的坐标获取模型仅进行这些关键定的坐标处理。关键点的选定可以根据应用的场景进行灵活设置。示例性的，如果某个场景中仅涉及到虚拟形象的上半身，则在模型训练时，可以仅选定上半身的关键点并进行标注和训练。
上述坐标获取模型训练完成后即可用于上述的确定关键点的坐标的过程。
可选的，关键点的三维坐标，可以是指关键点的像素坐标以及深度值，或者，还可以指关键点在相机坐标系下的坐标。
其中，上述深度值是指关键点在相机坐标系的深度值。
基于上述两种三维坐标中的任意一种作为关键点的三维坐标，均能够进行真实对象位姿的计算，从而使得本申请具有更高的灵活性。
第一种可选方式中，如果关键点的三维坐标指关键点的像素坐标以及深度值，则可以在将目标图像输入坐标获取模型后，由坐标获取模型直接得到关键点的三维坐标，即像素坐标以及深度值。
可选的，由坐标获取模型输出像素坐标的单位为像素，表示关键点在相机坐标系中映射到二维图像上的uv坐标。深度值的单位为mm，表示关键点在相机坐标系中与相机的距离。
第二种可选方式中，如果关键点的三维坐标指关键点在相机坐标系下的坐标，则可以首先将上述目标图像输入坐标获取模型中，得到上述坐标获取模型输出的上述关键点在上述目标图像中的像素坐标以及上述关键点在相机坐标系的深度值，进而，基于上述关键点在上述目标图像中的像素坐标以及上述关键点在相机坐标系的深度值进行坐标转换，得到上述关键点在相机坐标系中的坐标。
其中，由上述坐标获取模型得到关键点在目标图像中的像素坐标以及深度值的过程与上述第一种可选方式中相同，此处不再进行赘述。进一步的，在得到上述像素坐标和深度值之后，可以根据相机的内参，将上述像素坐标和深度值转换为关键点在相机坐标中的坐标。
通过该方式，可以由模型输出的像素坐标以及深度值得到关键点在相机坐标系下的坐标，从而可以实现相机坐标系下的姿态获取。
在通过上述过程得到关键点的三维坐标后，可以利用该三维坐标，在上述步骤S501中确定第一部位和第二部位之间的角度信息。
可选的，首先分别根据第一关键点的三维坐标以及上述第二关键点的三维坐标，确定上述第一部位的三维向量，以及，根据上述第二关键点的三维坐标以及上述第三关键点的三维坐标，确定上述第二部位的三维向量，进而，根据上述第一部位的三维向量和上述第二部位的三维向量，确定上述第一部位和上述第二部位之间的角度信息。
通过计算相邻部位的三维向量，可以获知相邻部位的位置信息，进而可以利用位置间的差异得到相邻部位的准确的角度信息，从而使得计算过程简单高效。
以下以角度信息为上述的四元数为例，说明基于关键点的三维坐标计算第一部位和第二部位之间的角度信息的过程。
首先使用(x，y，z)表示关键点的三维坐标，应理解，当关键点的三维坐标为上述第一种可选方式中的坐标时，(x，y，z)中，x，y表示关键点的像素坐标，z表示深度信息。当关键点的三维坐标为上述第二种可选方式中的坐标时，(x，y，z)表示关键点在相机坐标系中的坐标。以下不再单独进行解释。
假设三个关键点分别为手臂的肩关节、肘关节和腕关节，其中，肩关节的三维坐标为A(xA，yA，zA)，肘关节的三维坐标为B(xB，yB，zB)，腕关节的三维坐标为C(xC，yC，zC)，则通过如下三个步骤计算出手臂的大臂与小臂之间的四元数。
1、分别使用下述公式(1)和公式(2)计算大臂和小臂的空间向量。
A＝(xB-xA，yB-yA，zB-zA) (1)
B＝(xC-xB，yC-yB，zC-zB) (2)
2、使用下述公式(3)和公式(4)计算单位旋转轴和旋转角。
Figure GDA0002841316480000101
Figure GDA0002841316480000102
3、使用下述公式(5)计算四元数。
Figure GDA0002841316480000103
其中，
Figure GDA0002841316480000104
以下说明关键点坐标为二维坐标时的处理过程。
当关键点坐标为二维坐标时，该二维坐标为关键点在目标图像中的像素坐标。
在某些场景中，例如虚拟对象为二维的平面图像时，仅使用关键点在目标图像中的像素坐标，即可实现虚拟对象的驱动，因此，可以在满足场景要求的前提下降低计算的复杂度。
可选的，在关键点为二维坐标时，可以仅使用进行过二维标注的图像训练上述坐标获取模型。具体的，在采集真实对象做出肢体动作时的图像时，标注各关键点在图像中的像素坐标。所训练出的坐标获取模型可以输出关键点的像素坐标。
具体的，将目标图像输入坐标获取模型中，得到坐标获取模型输出的关键点在目标图像中的像素坐标。
通过这种方式，可以使得坐标获取模型在满足二维场景要求的前提下，模型复杂度得到极大降低。
或者，坐标获取模型仍然使用上述三维坐标时的训练方式。在使用模型时，模型输出像素坐标和深度信息后，仅使用其中的像素坐标即可。
在通过上述过程得到关键点的二维坐标后，可以利用该二维坐标，在上述步骤S501中确定第一部位和第二部位之间的角度信息。
可选的，首先分别根据第一关键点的二维坐标以及上述第二关键点的二维坐标，确定上述第一部位的二维向量，以及，根据上述第二关键点的二维坐标以及上述第三关键点的二维坐标，确定上述第二部位的二维向量，进而，根据上述第一部位的二维向量和上述第二部位的二维向量，确定上述第一部位和上述第二部位之间的角度信息。
通过计算相邻部位的二维向量，可以获知相邻部位在二维场景下的位置信息，进而可以利用位置间的差异得到相邻部位的准确的角度信息，从而使得计算过程简单高效。
以下以角度信息为上述的夹角为例，说明基于关键点的二维坐标计算第一部位和第二部位之间的角度信息的过程。
首先使用(x，y)表示关键点的二维坐标。
假设三个关键点分别为手臂的肩关节、肘关节和腕关节，其中，肩关节的二维坐标为A(xA，yA)，肘关节的二维坐标为B(xB，yB)，腕关节的二维坐标为C(xC，yC)，则通过如下三个步骤计算出手臂的大臂与小臂之间的四元数。
1、分别使用下述公式(6)和公式(7)计算大臂和小臂的空间向量。
Figure GDA0002841316480000111
Figure GDA0002841316480000112
2、使用下述公式(8)和公式(9)计算大臂和小臂的空间向量的模。
Figure GDA0002841316480000113
/>
Figure GDA0002841316480000114
3、使用下述公式(10)计算大臂和小臂之间的夹角θ。
Figure GDA0002841316480000115
如上述步骤S304中所描述的，可以根据真实对象的姿态驱动虚拟对象呈现出真实对象的肢体动作。具体可以按照下述两种方式进行。
第一种方式中，可以仅基于上述真实对象的姿态进行驱动。
以真实对象的姿态为上述的四元数为例，基于四元数驱动虚拟对象时，可以基于四元数对虚拟对象的肢体进行旋转，从而呈现出真实对象的肢体的姿态。
第二种方式中，可以基于上述真实对象的姿态以及真实对象的关键点的坐标，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
上述真实对象的关键点的坐标表示了关键点的位置，同时基于姿态以及该位置驱动虚拟对象时，可以使得虚拟对象的姿态和位置均得以驱动。例如，基于四元数，可以驱动虚拟对象呈现真实对象的姿态。而如果真实对象发生了移动，例如向左行走了一定距离，则关键点的坐标发生变换，利用该坐标，还可以驱动虚拟对象向左移动。
图7为本申请实施例提供的一种虚拟对象驱动装置的模块结构图，如图7所示，该装置包括：
获取模块701，用于获取摄像头采集的真实对象做出肢体动作时的目标图像。
处理模块702，用于将所述目标图像输入坐标获取模型中，得到位于所述真实对象的肢体上的多个关键点的坐标。
确定模块703，用于根据各所述关键点的坐标，确定所述真实对象的肢体的姿态。
驱动模块704，用于根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
作为一种可选的实施方式，确定模块703具体用于：
根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息；其中，所述第一部位由第一关键点和与所述第一关键点相邻的第二关键点表征，所述第二部位由所述第二关键点和与所述第二关键点相邻的第三关键点表征，所述第二关键点为所述第一部位和所述第二部位的连接点；根据所述角度信息，确定所述第一部位和所述第二部位所表征的肢体的姿态。
作为一种可选的实施方式，所述坐标为三维坐标；所述三维坐标包括所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值，或者，所述三维坐标为所述关键点在相机坐标系中的坐标。
作为一种可选的实施方式，若所述三维坐标为所述关键点在相机坐标系中的坐标，则处理模块702具体用于：
将所述目标图像输入坐标获取模型中，得到所述坐标获取模型输出的所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值；基于所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值进行坐标转换，得到所述关键点在相机坐标系中的坐标。
作为一种可选的实施方式，处理模块702具体用于：
根据所述第一关键点的三维坐标以及所述第二关键点的三维坐标，确定所述第一部位的三维向量；根据所述第二关键点的三维坐标以及所述第三关键点的三维坐标，确定所述第二部位的三维向量；根据所述第一部位的三维向量和所述第二部位的三维向量，确定所述第一部位和所述第二部位之间的角度信息。
作为一种可选的实施方式，所述坐标为二维坐标；所述二维坐标为所述关键点在所述目标图像中的像素坐标。
作为一种可选的实施方式，处理模块702具体用于：
将所述目标图像输入所述坐标获取模型中，得到所述坐标获取模型输出的所述关键点在所述目标图像中的像素坐标。
作为一种可选的实施方式，确定模块703具体用于：根据所述第一关键点的二坐标以及所述第二关键点的二维坐标，确定所述第一部位的二维向量；根据所述第二关键点的二维坐标以及所述第三关键点的二维坐标，确定所述第二部位的二维向量；根据所述第一部位的二维向量和所述第二部位的二维向量，确定所述部位和所述第二部位之间的角度信息。
作为一种可选的实施方式，驱动模块704具体用于：
根据所述真实对象的姿态，以及所述真实对象的关键点的坐标，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
作为一种可选的实施方式，处理模块702还用于：
使用预设的训练图像以及所述训练图像的标注数据训练所述坐标获取模型。
其中，所述训练图像的标注数据包括所述训练图像中各关键点的坐标，所述标注数据通过对所述训练图像中的关键点在相机坐标系下的三维坐标进行转换得到。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
根据本申请的实施例，本申请还提供了一种计算机程序产品，程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。该电子设备例如可以是终端设备或服务器。
如图8所示，是根据本申请实施例的虚拟对象驱动的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图8所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器***)。图8中以一个处理器801为例。
存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的虚拟对象驱动的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的虚拟对象驱动的方法。
存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的虚拟对象驱动的方法对应的程序指令/模块(例如，附图7所示的获取模块701、和处理模块702)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的虚拟对象驱动的方法。
存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储根据虚拟对象驱动的电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至虚拟对象驱动的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
虚拟对象驱动的方法的电子设备还可以包括：输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接，图8中以通过总线连接为例。
输入装置803可接收输入的数字或字符信息，以及产生与虚拟对象驱动的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (11)

1.一种虚拟对象驱动方法，包括：
获取摄像头采集的真实对象做出肢体动作时的目标图像；
将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标；
根据各所述关键点的坐标，确定所述真实对象的肢体的姿态；
根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作；
所述根据各所述关键点的坐标，确定所述真实对象的肢体的姿态，包括：
根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息；其中，所述第一部位由第一关键点和与所述第一关键点相邻的第二关键点表征，所述第二部位由所述第二关键点和与所述第二关键点相邻的第三关键点表征，所述第二关键点为所述第一部位和所述第二部位的连接点；
根据所述角度信息，确定所述第一部位和所述第二部位所表征的肢体的姿态；
所述根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息，包括：
根据第一关键点的三维坐标、第二关键点的三维坐标、第三关键点的三维坐标，确定第一部位的三维向量以及第二部位的三维向量
根据所述第一部位的三维向量和所述第二部位的三维向量，确定单位旋转轴和旋转角；
根据所述单位旋转轴和旋转角，确定所述第一部位和所述第二部位之间的四元数。
2.根据权利要求1所述的方法，其中，所述坐标为三维坐标；所述三维坐标包括所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值，或者，
所述三维坐标为所述关键点在相机坐标系中的坐标。
3.根据权利要求2所述的方法，其中，若所述三维坐标为所述关键点在相机坐标系中的坐标，则所述将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标，包括：
将所述目标图像输入坐标获取模型中，得到所述坐标获取模型输出的所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值；
基于所述关键点在所述目标图像中的像素坐标以及所述关键点在相机坐标系的深度值进行坐标转换，得到所述关键点在相机坐标系中的坐标。
4.根据权利要求1所述的方法，其中，所述坐标为二维坐标；所述二维坐标为所述关键点在所述目标图像中的像素坐标。
5.根据权利要求4所述的方法，其中，所述将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标，包括：
将所述目标图像输入所述坐标获取模型中，得到所述坐标获取模型输出的所述关键点在所述目标图像中的像素坐标。
6.根据权利要求4或5所述的方法，其中，所述根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息，包括：
根据所述第一关键点的二维坐标以及所述第二关键点的二维坐标，确定所述第一部位的二维向量；
根据所述第二关键点的二维坐标以及所述第三关键点的二维坐标，确定所述第二部位的二维向量；
根据所述第一部位的二维向量和所述第二部位的二维向量，确定所述部位和所述第二部位之间的角度信息。
7.根据权利要求6所述的方法，其中，所述根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作，包括：
根据所述真实对象的姿态，以及所述真实对象的关键点的坐标，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作。
8.根据权利要求7所述的方法，还包括：
使用预设的训练图像以及所述训练图像的标注数据训练所述坐标获取模型；
其中，所述训练图像的标注数据包括所述训练图像中各关键点的坐标，所述标注数据通过对所述训练图像中的关键点在相机坐标系下的三维坐标进行转换得到。
9.一种虚拟对象驱动装置，包括：
获取模块，用于获取摄像头采集的真实对象做出肢体动作时的目标图像；
处理模块，用于将所述目标图像输入坐标获取模型中，得到位于所述目标图像中的真实对象的肢体上的多个关键点的坐标；以及，
确定模块，用于根据各所述关键点的坐标，确定所述真实对象的肢体的姿态；
驱动模块，用于根据所述真实对象的姿态，驱动屏幕上显示的虚拟对象呈现出所述真实对象的肢体动作；
所述确定模块，具体用于：
根据第一关键点的坐标、第二关键点的坐标、第三关键点的坐标，确定第一部位与第二部位之间的角度信息；其中，所述第一部位由第一关键点和与所述第一关键点相邻的第二关键点表征，所述第二部位由所述第二关键点和与所述第二关键点相邻的第三关键点表征，所述第二关键点为所述第一部位和所述第二部位的连接点；根据所述角度信息，确定所述第一部位和所述第二部位所表征的肢体的姿态；
处理模块，具体用于：
根据第一关键点的三维坐标、第二关键点的三维坐标、第三关键点的三维坐标，确定第一部位的三维向量以及第二部位的三维向量；
根据所述第一部位的三维向量和所述第二部位的三维向量，确定单位旋转轴和旋转角；
根据所述单位旋转轴和旋转角，确定所述第一部位和所述第二部位之间的四元数。
10. 一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
11.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
CN202010513294.3A 2020-06-08 2020-06-08 虚拟对象驱动方法、装置、电子设备及可读存储 Active CN111694429B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010513294.3A CN111694429B (zh) 2020-06-08 2020-06-08 虚拟对象驱动方法、装置、电子设备及可读存储
US17/196,664 US11532127B2 (en) 2020-06-08 2021-03-09 Virtual object driving method, apparatus, electronic device, and readable storage medium
EP21162229.5A EP3825962A3 (en) 2020-06-08 2021-03-12 Virtual object driving method, apparatus, electronic device, and readable storage medium
KR1020210034282A KR102590841B1 (ko) 2020-06-08 2021-03-16 가상 오브젝트 구동 방법, 장치, 전자기기 및 판독 가능 저장매체
JP2021050134A JP7273880B2 (ja) 2020-06-08 2021-03-24 仮想オブジェクト駆動方法、装置、電子機器及び可読記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010513294.3A CN111694429B (zh) 2020-06-08 2020-06-08 虚拟对象驱动方法、装置、电子设备及可读存储

Publications (2)

Publication Number Publication Date
CN111694429A CN111694429A (zh) 2020-09-22
CN111694429B true CN111694429B (zh) 2023-06-02

Family

ID=72479805

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010513294.3A Active CN111694429B (zh) 2020-06-08 2020-06-08 虚拟对象驱动方法、装置、电子设备及可读存储

Country Status (5)

Country Link
US (1) US11532127B2 (zh)
EP (1) EP3825962A3 (zh)
JP (1) JP7273880B2 (zh)
KR (1) KR102590841B1 (zh)
CN (1) CN111694429B (zh)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10984575B2 (en) 2019-02-06 2021-04-20 Snap Inc. Body pose estimation
US11660022B2 (en) 2020-10-27 2023-05-30 Snap Inc. Adaptive skeletal joint smoothing
US11615592B2 (en) * 2020-10-27 2023-03-28 Snap Inc. Side-by-side character animation from realtime 3D body motion capture
US11450051B2 (en) 2020-11-18 2022-09-20 Snap Inc. Personalized avatar real-time motion capture
US11748931B2 (en) 2020-11-18 2023-09-05 Snap Inc. Body animation sharing and remixing
US11734894B2 (en) 2020-11-18 2023-08-22 Snap Inc. Real-time motion transfer for prosthetic limbs
CN112528831B (zh) * 2020-12-07 2023-11-24 深圳市优必选科技股份有限公司 多目标姿态估计方法、多目标姿态估计装置及终端设备
CN112714337A (zh) * 2020-12-22 2021-04-27 北京百度网讯科技有限公司 视频处理方法、装置、电子设备和存储介质
CN112562068B (zh) * 2020-12-24 2023-07-14 北京百度网讯科技有限公司 人体姿态生成方法、装置、电子设备及存储介质
CN112716509B (zh) * 2020-12-24 2023-05-02 上海联影医疗科技股份有限公司 一种医学设备的运动控制方法及***
CN112991552B (zh) * 2021-03-10 2024-03-22 中国商用飞机有限责任公司北京民用飞机技术研究中心 人体虚实匹配方法、装置、设备及存储介质
CN113034652A (zh) * 2021-04-19 2021-06-25 广州虎牙科技有限公司 虚拟形象驱动方法、装置、设备及存储介质
CN113298858A (zh) * 2021-05-21 2021-08-24 广州虎牙科技有限公司 一种虚拟形象的动作生成方法、装置、终端以及存储介质
CN113325950B (zh) * 2021-05-27 2023-08-25 百度在线网络技术（北京）有限公司 功能控制方法、装置、设备以及存储介质
CN113422977B (zh) * 2021-07-07 2023-03-14 上海商汤智能科技有限公司 直播方法、装置、计算机设备以及存储介质
CN113660503B (zh) * 2021-08-17 2024-04-26 广州博冠信息科技有限公司 同屏互动控制方法及装置、电子设备、存储介质
KR102584076B1 (ko) * 2021-09-08 2023-10-05 주식회사 애이비씨랩 예술과 기술의 융합 교육을 위한 가상 스테이지에서의 아바타 제공 장치 및 방법
CN113900516A (zh) * 2021-09-27 2022-01-07 阿里巴巴达摩院(杭州)科技有限公司 数据处理方法、装置、电子设备和存储介质
CN115908665A (zh) * 2021-09-30 2023-04-04 北京字节跳动网络技术有限公司 一种视频处理方法、装置、设备、介质及产品
CN113706699B (zh) * 2021-10-27 2022-02-08 腾讯科技（深圳）有限公司 数据处理方法、装置、电子设备及计算机可读存储介质
CN114115530A (zh) * 2021-11-08 2022-03-01 深圳市雷鸟网络传媒有限公司 虚拟对象控制方法、装置、电子设备及存储介质
CN114120448B (zh) * 2021-11-29 2023-04-07 北京百度网讯科技有限公司 图像处理方法和装置
CN114119935B (zh) * 2021-11-29 2023-10-03 北京百度网讯科技有限公司 图像处理方法和装置
KR20230090852A (ko) * 2021-12-15 2023-06-22 삼성전자주식회사 복수의 카메라를 이용하여 촬영된 손의 3차원 골격 데이터를 획득하는 전자 장치 및 방법
US11880947B2 (en) 2021-12-21 2024-01-23 Snap Inc. Real-time upper-body garment exchange
CN114863005A (zh) * 2022-04-19 2022-08-05 佛山虎牙虎信科技有限公司 一种肢体特效的渲染方法、装置、存储介质和设备
CN114797096A (zh) * 2022-04-28 2022-07-29 北京字跳网络技术有限公司 虚拟对象的控制方法、装置、设备及存储介质
KR102608117B1 (ko) * 2022-06-16 2023-11-30 주식회사 엘지유플러스 이미지 보정 방법 및 이미지 보정 시스템
CN115937964B (zh) * 2022-06-27 2023-12-15 北京字跳网络技术有限公司 姿态估计的方法、装置、设备和存储介质
CN115331309A (zh) * 2022-08-19 2022-11-11 北京字跳网络技术有限公司 用于识别人体动作的方法、装置、设备和介质
CN115714888B (zh) * 2022-10-09 2023-08-29 名之梦(上海)科技有限公司 视频生成方法、装置、设备与计算机可读存储介质
CN115345981B (zh) * 2022-10-19 2023-03-24 北京百度网讯科技有限公司 图像处理方法、装置、电子设备和存储介质
CN118052964A (zh) * 2022-11-11 2024-05-17 腾讯科技（深圳）有限公司 基于虚拟对象穿戴的数据处理方法及装置、设备、介质
CN115866354A (zh) * 2022-11-25 2023-03-28 广州美术学院 基于交互虚拟现实的非物质遗产具象化演绎方法及装置
CN115937373B (zh) * 2022-12-23 2023-10-03 北京百度网讯科技有限公司 虚拟形象驱动方法、装置、设备以及存储介质
CN116310213B (zh) * 2023-02-23 2023-10-24 北京百度网讯科技有限公司 三维物体模型的处理方法、装置、电子设备与可读存储介质
CN117456611B (zh) * 2023-12-22 2024-03-29 拓世科技集团有限公司 一种基于人工智能的虚拟人物训练方法及***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054009A (ja) * 2011-09-06 2013-03-21 Toyota Motor Corp 姿勢推定装置、姿勢推定方法、姿勢推定プログラム
CN103845065A (zh) * 2012-12-05 2014-06-11 深圳迈瑞生物医疗电子股份有限公司 肌肉松弛程度测量方法、处理装置和肌松测量仪
WO2017007166A1 (ko) * 2015-07-08 2017-01-12 고려대학교 산학협력단 투영 이미지 생성 방법 및 그 장치, 이미지 픽셀과 깊이값간의 매핑 방법
CN110889382A (zh) * 2019-11-29 2020-03-17 深圳市商汤科技有限公司 虚拟形象渲染方法及装置、电子设备和存储介质

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6115052A (en) 1998-02-12 2000-09-05 Mitsubishi Electric Information Technology Center America, Inc. (Ita) System for reconstructing the 3-dimensional motions of a human figure from a monocularly-viewed image sequence
JP2007066094A (ja) 2005-08-31 2007-03-15 Matsushita Electric Ind Co Ltd 姿勢推定装置および姿勢推定方法
US8253801B2 (en) * 2008-12-17 2012-08-28 Sony Computer Entertainment Inc. Correcting angle error in a tracking system
US20100306701A1 (en) * 2009-05-29 2010-12-02 Sean Glen Creation, Previsualization, Communication, and Documentation of Choreographed Movement
KR20130030117A (ko) * 2011-09-16 2013-03-26 한국전자통신연구원 실시간 캐릭터 애니메이션에서의 발 미끄러짐 제거를 위한 캐릭터 영상 처리 장치 및 방법
JP6091407B2 (ja) * 2013-12-18 2017-03-08 三菱電機株式会社 ジェスチャ登録装置
EP3163422B1 (en) * 2014-06-30 2020-02-12 Sony Corporation Information processing device, information processing method, computer program, and image processing system
WO2016132371A1 (en) 2015-02-22 2016-08-25 Technion Research & Development Foundation Limited Gesture recognition using multi-sensory data
US20170177087A1 (en) * 2015-12-18 2017-06-22 Intel Corporation Hand skeleton comparison and selection for hand and gesture recognition with a computing interface
US20180225858A1 (en) * 2017-02-03 2018-08-09 Sony Corporation Apparatus and method to generate realistic rigged three dimensional (3d) model animation for view-point transform
US20210264144A1 (en) 2018-06-29 2021-08-26 Wrnch Inc. Human pose analysis system and method
WO2020033380A1 (en) * 2018-08-07 2020-02-13 Butterfly Network, Inc. Methods and apparatuses for determining and displaying locations on images of body portions based on ultrasound data
CN109191593A (zh) * 2018-08-27 2019-01-11 百度在线网络技术（北京）有限公司 虚拟三维模型的运动控制方法、装置及设备
CN109191548A (zh) * 2018-08-28 2019-01-11 百度在线网络技术（北京）有限公司 动画制作方法、装置、设备及存储介质
KR102118519B1 (ko) 2018-11-22 2020-06-15 삼성전자주식회사 전자 장치 및 그 제어 방법
CN109785445B (zh) * 2019-01-22 2024-03-08 京东方科技集团股份有限公司 交互方法、装置、***及计算机可读存储介质
JP6585866B1 (ja) * 2019-02-20 2019-10-02 株式会社ドワンゴ 位置データ処理装置およびプログラム
CN110139115B (zh) * 2019-04-30 2020-06-09 广州虎牙信息科技有限公司 基于关键点的虚拟形象姿态控制方法、装置及电子设备
TWI710972B (zh) * 2019-11-01 2020-11-21 緯創資通股份有限公司 基於原子姿勢的動作辨識方法及其系統與電腦可讀取記錄媒體
CN110827383B (zh) * 2019-11-25 2020-11-10 腾讯科技（深圳）有限公司 三维模型的姿态模拟方法、装置、存储介质和电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054009A (ja) * 2011-09-06 2013-03-21 Toyota Motor Corp 姿勢推定装置、姿勢推定方法、姿勢推定プログラム
CN103845065A (zh) * 2012-12-05 2014-06-11 深圳迈瑞生物医疗电子股份有限公司 肌肉松弛程度测量方法、处理装置和肌松测量仪
WO2017007166A1 (ko) * 2015-07-08 2017-01-12 고려대학교 산학협력단 투영 이미지 생성 방법 및 그 장치, 이미지 픽셀과 깊이값간의 매핑 방법
CN110889382A (zh) * 2019-11-29 2020-03-17 深圳市商汤科技有限公司 虚拟形象渲染方法及装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN111694429A (zh) 2020-09-22
KR102590841B1 (ko) 2023-10-19
KR20210036879A (ko) 2021-04-05
US11532127B2 (en) 2022-12-20
US20210383607A1 (en) 2021-12-09
EP3825962A2 (en) 2021-05-26
JP2021103564A (ja) 2021-07-15
JP7273880B2 (ja) 2023-05-15
EP3825962A3 (en) 2021-10-13

Similar Documents

Publication Publication Date Title
CN111694429B (zh) 虚拟对象驱动方法、装置、电子设备及可读存储
US11816847B2 (en) Method and apparatus for prompting motion, electronic device and storage medium
Schneider et al. Augmented reality based on edge computing using the example of remote live support
CN112652016B (zh) 点云预测模型的生成方法、位姿估计方法及其装置
WO2019242262A1 (zh) 基于增强现实的远程指导方法、装置、终端和存储介质
CN111783605B (zh) 一种人脸图像识别方法、装置、设备及存储介质
CN112270669B (zh) 人体3d关键点检测方法、模型训练方法及相关装置
CN113706699B (zh) 数据处理方法、装置、电子设备及计算机可读存储介质
CN111709874A (zh) 图像调整的方法、装置、电子设备及存储介质
CN111968203B (zh) 动画驱动方法、装置、电子设备及存储介质
CN112270711B (zh) 模型训练以及姿态预测方法、装置、设备以及存储介质
CN109840946B (zh) 虚拟对象显示方法及装置
CN112001248B (zh) 主动交互的方法、装置、电子设备和可读存储介质
CN113447128B (zh) 一种多人体温检测方法、装置、电子设备及存储介质
WO2022187073A1 (en) Modeling objects from monocular camera outputs
CN111462179B (zh) 三维物体跟踪方法、装置及电子设备
Pandey et al. Efficient 6-dof tracking of handheld objects from an egocentric viewpoint
Liu et al. Hand pose estimation from rgb images based on deep learning: A survey
CN111599002A (zh) 用于生成图像的方法和装置
CN113496168B (zh) 手语数据采集方法、设备、存储介质
CN111915642B (zh) 图像样本的生成方法、装置、设备和可读存储介质
CN111369571B (zh) 三维物***姿准确性判断方法、装置及电子设备
Narducci et al. Enabling consistent hand-based interaction in mixed reality by occlusions handling
CN112927330B (zh) 用于生成虚拟人体图像的方法和***
EP3971683A1 (en) Human body portion tracking method and human body portion tracking system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant