CN106687991A - 用于基于社交关系来设置数字图像的焦点的***和方法 - Google Patents

用于基于社交关系来设置数字图像的焦点的***和方法 Download PDF

Info

Publication number
CN106687991A
CN106687991A CN201580049560.9A CN201580049560A CN106687991A CN 106687991 A CN106687991 A CN 106687991A CN 201580049560 A CN201580049560 A CN 201580049560A CN 106687991 A CN106687991 A CN 106687991A
Authority
CN
China
Prior art keywords
face
personal
focus
electronic installation
identity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201580049560.9A
Other languages
English (en)
Other versions
CN106687991B (zh
Inventor
M·延森
V·康达巴提尼
S·温德尔
S·诺德斯特罗姆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN106687991A publication Critical patent/CN106687991A/zh
Application granted granted Critical
Publication of CN106687991B publication Critical patent/CN106687991B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/179Human faces, e.g. facial parts, sketches or expressions metadata assisted face recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Studio Devices (AREA)

Abstract

本公开提供基于社交关系来设置数字图像的焦点的***和方法。根据本公开的实施方式,用电子装置(10)对场景成像,并且检测存在于所成像的场景中的人脸。通过确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸的个人的身份。图像的焦点被设置成聚焦于识别出的个人的人脸上。

Description

用于基于社交关系来设置数字图像的焦点的***和方法
相关申请数据
本申请要求2014年7月16日提交的第14/332664号美国专利申请的权益,此处以引证的方式将本申请公开的全文并入。
技术领域
本公开的技术总体涉及数字图像中的人脸检测和识别,更具体地涉及用于基于社交关系来设置数字图像的焦点的***和方法。
背景技术
移动无线电子装置变得越来越流行。例如,移动电话和平板电脑现在广泛使用。这些电子装置经常与用户的日常事件高度结合。例如,许多电子装置包括摄像头,并且电子装置的用户可以使用摄像头来捕捉各种活动和事件的数字图像。
常见的是电子装置上捕捉的数字图像包括电子装置的用户可以与其共享社交关系的个人(例如,朋友、家庭、同事等)的图像。存在用于检测并聚焦于存在于待捕捉图像中的人脸的软件应用和方法。实施人脸检测的希望可以为所捕捉图像将聚焦于预期对象(即,个人)上。然而,人脸检测在未考虑到电子装置用户与存在于图像中的个人的社交关系的情况下被执行。这会导致针对所捕捉的数字图像的不期望对成像效果。
发明内容
本公开提供了用于基于与电子装置的用户的社交关系来设置数字图像的焦点的***和方法。根据本公开,人脸检测和社交关系共同用于设置数字图像的焦点。通过将图像的焦点连结到与电子装置的用户共享社交关系的个人,由电子装置捕捉的图像可以具有较大概率被聚焦于图像的预期目标上。同样,通过将存在于数字图像中的个人连同个人与用户的社交关系一起识别,电子装置的用户可以较容易地在适当的社交媒体服务上与那些个人共享图像。
根据本公开的一个方面,一种基于与电子装置的用户的社交关系来设置数字图像的焦点的方法包括以下步骤:用电子装置的摄像头对场景成像;用电子装置的处理装置检测存在于所成像的场景中的人脸;通过用处理装置确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸的个人的身份;用处理装置将摄像头的焦点设置成聚焦于识别出的个人的人脸上;以及在焦点在识别出的个人的人脸上的情况下,用摄像头捕捉数字图像。
在一些实施方式中,使用存储在电子装置上的社交关系数据库来识别具有检测到的人脸的个人的身份。
在一些实施方式中,使用存储在社交媒体服务器上的社交关系数据库来识别具有检测到的人脸的个人的身份,并且确定包括:从电子装置向社交媒体服务器发送身份请求,身份请求包括检测到的人脸的信息;以及在电子装置处从社交媒体服务器接收身份响应,该身份响应包括具有检测到的人脸的个人的身份。
在一些实施方式中,方法还包括以下步骤:将识别出的个人的身份作为元数据存储到数字图像。
在一些实施方式中,在所成像的场景中检测多个人脸,并且个人的身份被识别为具有来自检测到的多个人脸中的人脸。
在一些实施方式中,方法还包括以下步骤:将另外的个人的身份识别为具有来自多个人脸中的另一个人脸。
在一些实施方式中,方法还包括以下步骤:将摄像头的另外的焦点设置成聚焦于另外识别出的个人的人脸上;以及在焦点在另外识别出的个人的人脸上的情况下,捕捉另外的数字图像。
在一些实施方式中,方法还包括以下步骤:组合数字图像与另外的数字图像,以在焦点在识别出的个人的人脸上且焦点在另外识别出的个人的人脸上的情况下创建图像。
在一些实施方式中,方法包括以下步骤:对识别出的个人赋予优先级,其中,摄像头的焦点被设置成聚焦于被赋予优先级的识别出的个人的人脸上;以及在焦点在被赋予优先级的识别出的个人的人脸上的情况下捕捉数字图像。
在一些实施方式中,方法包括以下步骤:在接近检测到的人脸的所成像的场景上显示和识别出的个人与电子装置的用户之间的社交关系有关的信息。
根据本公开的另一个方面,一种基于与电子装置的用户的社交关系来设置数字图像的焦点的方法包括以下步骤:用电子装置的摄像头对场景成像;用电子装置的处理装置检测存在于所成像的场景中的多个人脸;用电子装置的摄像头捕捉一个或更多个数字图像,各数字图像聚焦于检测到的人脸中的至少一个人脸上;通过用处理装置确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸中的一个人脸的个人的身份;以及将一个或更多个数字图像中的焦点设置成聚焦于识别出的个人的人脸上。
在一些实施方式中,使用存储在电子装置上的社交关系数据库来识别具有检测到的人脸中的一个的个人的身份。
在一些实施方式中,使用存储在社交媒体服务器上的社交关系数据库来识别具有检测到的人脸中的一个的个人的身份,并且确定包括:从电子装置向社交媒体服务器发送身份请求,身份请求包括检测到的人脸的信息;以及在电子装置处从社交媒体服务器接收身份响应,该身份响应包括具有检测到的人脸中的一个的个人的身份。
在一些实施方式中,方法还包括以下步骤:将识别出的个人的身份作为元数据存储到数字图像。
在一些实施方式中,方法还包括以下步骤:将另外的个人的身份识别为具有来自多个人脸中的另一个人脸。
在一些实施方式中,捕捉包括用摄像头捕捉多个数字图像;并且设置焦点包括组合多个数字图像,以在焦点在识别出的个人的人脸上且在另外识别出的个人的人脸上的情况下创建图像。
在一些实施方式中,方法还包括以下步骤:在接近检测到的人脸的所成像的场景上显示和识别出的个人与电子装置的用户之间的社交关系有关的信息。
根据本公开的另一个方面,一种电子装置包括:摄像头;和处理装置,该处理装置通过以下方式执行被构造成基于与电子装置的用户的社交关系来设置数字图像的焦点的数字成像功能:用摄像头对场景成像;检测存在于所成像的场景中的人脸;通过确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸的个人的身份;将摄像头的焦点设置成聚焦于识别出的个人的人脸上;以及在焦点在识别出的个人的人脸上的情况下用摄像头捕捉所述数字图像。
在一些实施方式中,使用存储在电子装置上的社交关系数据库来识别具有检测到的人脸的个人的身份。
在一些实施方式中,在所成像的场景中检测多个人脸,个人的身份被识别为具有来自检测到的多个人脸中的人脸,并且另外的个人的身份被识别为具有来自多个人脸中的另一个人脸,数字成像功能还被构造成:将摄像头的另外的焦点设置成聚焦于另外识别出的个人的人脸上;在焦点在另外识别出的个人的人脸上的情况下捕捉另外的数字图像;并且组合数字图像和另外的数字图像,以在焦点在识别出的个人的人脸上且在另外识别出的个人的人脸上的情况下创建图像。
这些特征和另外特征将参照以下描述和附图清楚。在描述和附图中,本发明的特定实施方式已经被详细公开为指示可以采用本发明的原理的方式中的一些,但理解,本发明在范围上不对应地受限。相反,本发明包括落入所附权利要求范围内的所有变化、修改以及等同物。
附图说明
图1是作为示例性电子装置的移动电话的示意图;
图2是图1的示例性电子装置的示意框图;
图3是一个或更多个电子装置可以在其中操作的通信***的示意图;
图4至图6是可以作为数字图像被捕捉的示例性场景;以及
图7至图9是表示基于与电子装置的用户的社交关系来设置数字图像的焦点的示例性方法的流程图。
具体实施方式
在以下描述中,给予类似部件相同的附图标记,而不管它们是否在不同的实施方式中示出。为了以清晰且简明的方式例示本发明的实施方式,附图可以不是必须为表示比例,并且特定特征可以以稍微示意的形式来示出。关于一个实施方式描述和/或例示的特征可以以相同方式或类似方式用于一个或更多个其他实施方式中和/或与其他实施方式的特征组合或代替其他实施方式的特征。
初始参照图1和图2,在10处示出了电子装置。所例示实施方式的电子装置是移动电话,并且将被称为电子装置10。将理解,虽然这里所述实施方式主要在诸如所例示移动电话的便携式无线通信装置的环境中描述,但移动电话的示例性环境不是可以使用所公开***和方法的方面的唯一操作环境。本文献中所述的技术可以应用于任何类型的适当电子装置,电子装置的示例包括移动电话、平板计算装置、媒体播放器、游戏装置、膝上型计算机或台式计算机、视频电话、电子记事本、个人数字助理(PDA)、摄像头、便携式摄像机等。
电子装置10可以包括被构造成执行电子装置10的功能和操作的总体控制的控制电路12。控制电路12可以包括诸如中央处理单元(CPU)、微控制器或微处理器的处理装置14。处理装置14执行存储在控制电路12内的存储器(未示出)中和/或单独的存储器(诸如存储器16)中的代码,以执行电子装置10的操作。例如,处理装置14可以执行操作***18和数字成像功能20。在所示的示例中,操作***18和数字成像功能20存储在存储器16上。在其他示例(未示出)中,操作***18和/或数字成像功能20可以存储在控制电路12内的存储器中。
操作***18和数字成像功能20可以以可执行逻辑例程(例如,代码行、软件程序等)的形式来具体实施,逻辑例程存储在电子装置10的永久计算机可读介质(例如,存储器16)上,并且由控制电路12(例如,使用处理装置14)来执行。此外,操作***18和/或数字成像功能20可以为执行与电子装置10有关的另外任务的独立软件应用或形成该软件应用的一部分(例如,操作***18的一部分)。同样,借助以下描述,描述了用于基于社交关系来聚焦数字图像的示例性技术。将理解,借助示例性技术的描述,描述了可以通过执行软件部分执行的操作的描述。所述操作可以被认为是对应装置被构造成执行的方法。同样,虽然数字成像功能20根据实施方式在软件中实施,但这种功能还可以经由专用硬件或固件、或硬件、固件和/或软件的某一组合来执行。
操作***18可以由处理装置14执行以控制电子装置10中的资源分配和使用,而且提供基本用户接口特征。具体地,操作***18可以控制存储器16的分配和使用、专用于由处理装置14执行的各种应用的处理装置14的处理时间以及执行其他功能。这样,如由本领域普通技术人员通常已知的,操作***18可以充当诸如数字成像功能20的应用所依赖的基础。操作***18还可以控制向用户呈现的用户接口环境中的大部分,诸如用于电子装置的整体图形用户接口(GUI)的特征。
数字成像功能20可以被构造成控制电子装置的摄像头成像并捕捉一个或更多个数字图像。因此,数字成像功能20可以被构造成用电子装置的摄像头成像并捕捉场景。当场景包括一个或更多个识别出的个人时,数字成像功能可以被构造成基于一个或更多个个人与电子装置的用户的社交关系来设置数字图像的焦点。
在一些实施方式中,数字成像功能20可以被构造成设置待捕捉图像的焦点。因此,数字成像功能20可以被构造成检测存在于(如由摄像头成像的)所成像的场景中的人脸,并且通过确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸的个人的身份。数字成像功能20还可以被构造成在电子装置的显示器上显示所成像的场景,这可以允许电子装置的用户确认和/或去除任何所识别的身份。在指示捕捉数字图像时,数字成像功能还可以被构造成将摄像头的焦点设置成聚焦于识别出的个人的人脸上,并且在焦点在识别出的个人的人脸上的情况下捕捉数字图像。
在其他实施方式中,数字成像功能20可以被构造成设置所捕捉数字图像的焦点。因此,数字成像功能20可以被构造成检测存在于所成像的场景中的多个人脸,并且用电子装置的摄像头捕捉一个或更多个数字图像,各数字图像聚焦于检测到的人脸中的至少一个人脸上。数字成像功能20还可以被构造成通过确定检测到的人脸是与电子装置的用户具有社交关系的个人的人脸来识别具有检测到的人脸的个人的身份。数字成像功能还可以被构造成在电子装置的显示器上显示图像,这可以允许电子装置的用户确认和/或去除任何所识别的身份。数字成像功能还可以被构造成将一个或更多个数字图像的焦点设置成聚焦于识别出的个人的人脸上。
数字成像功能还可以被构造成(例如,与识别出的个人和/或在社交媒体服务上)共享图像。
虽然数字成像功能20在这里被描述为执行上述操作中的每一个,但将理解,数字成像功能20可以包括一个或更多个模块,各模块被构造成执行一个或更多个专用功能。例如,虽然未具体示出,但数字成像功能20可以包括:图像显示功能,该图像显示功能被构造成在显示器上显示待捕捉图像或所捕捉图像;图像捕捉功能,该图像捕捉功能被构造成捕捉图像;人脸检测功能,该人脸检测功能被构造成识别具有检测到的人脸的个人的身份;聚焦功能,该聚焦功能被构造成将图像的焦点设置在识别出的个人的人脸上;和/或共享功能,该共享功能被构造成与识别出的个人共享经聚焦的图像。下面将更详细地描述数字成像功能20的另外细节和操作。
存储器16例如可以为缓冲器、闪速存储器、硬盘驱动器、可移动介质、易失性存储器、非易失性存储器、随机存取存储器(RAM)或其他合适装置中的一个或更多个。在典型结构中,存储器16可以包括用于长期数据存储的非易失性存储器和起用于控制电路12的***存储器的作用的易失性存储器。存储器16可以通过数据总线与控制电路12交换数据。存储器16与控制电路12之间的伴随控制线和地址总线也可以存在。存储器16被认为是永久计算机可读介质。
存储器16可以存储与电子装置10的用户在社交上相关的个人的数据库21。数据库21可以根据用户在一个或更多个社交媒体服务上的活动来建立、填充和/或更新。例如,数据库21可以包括在一个或更多个社交媒体服务上被分类为用户的“朋友”或“追随者”的个人的列表。另外,数据库21可以包括这种个人的信息,诸如个人与用户的具体关系(例如,朋友、家庭成员、同事等)、个人的相片、个人的关联人脸特征、个人和用户连接的社交媒体服务的列表、个人的简历数据等。数据库21可以另选或另外地根据由电子装置10的用户直接输入的数据来建立、填充和/或更新。
电子装置10包括使得电子装置10能够与另一个装置建立通信的通信电路。通信可以包括通话、数据传送等。通话可以采取任何合适的形式,诸如但不限于语音通话和视频通话。通话例如可以通过蜂窝电路交换网络来进行,或者可以为通过蜂窝网络的包交换能力或通过另选的包交换网络(例如,可与IEEE 802.11兼容的网络,该网络通常被称为WiFi;或可与IEEE 802.16兼容的网络,该网络通常被称为WiMAX)建立的互联网协议电话(VoIP)的形式。数据传送可以包括但不限于接收串流内容(例如,串流音频、串流视频等)、接收数据馈送(例如,被推送数据、播客、真正简易聚合(RSS)数据馈送)、下载和/或上传数据(例如,图像文件、视频文件、音频文件、铃声、因特网内容等)、接收或发送消息(例如,文本消息、即时消息、电子邮件消息、多媒体消息)等。该数据可以由电子装置10来处理,包括将数据存储在存储器16中,执行允许用户与数据的互动的应用,显示与数据关联的视频和/或图像内容,输出与数据关联的音频声音等。
在示例性实施方式中,通信电路可以包括耦接到无线电路24的天线22。无线电路24包括用于经由天线22发送和接收信号的射频发送器和接收器。
另外参照图3,无线电路24可以被构造成在移动通信***100中操作。用于与移动无线网络和/或广播网络交互的无线电路类型包括但不限于全球移动通信***(GSM)、码分多址(CDMA)、宽带CDMA(WCDMA)、通用分组无线业务(GPRS)、长期演进(LTE)、WiFi、WiMAX、数字视频广播-手持(DVB-H)、集成服务数字广播(ISDB)、高速分组接入(HSPA)等、以及这些标准或任何其他适当标准的高级版本。将理解,电子装置10可以能够使用多于一个标准来通信。因此,天线22和无线电路24可以表示一个或多于一个无线收发器。
通信***100可以包括通信网络102,该通信网络具有用于管理由电子装置10拨打且注定到电子装置10的通话,向电子装置10发送数据和从电子装置10接收数据,并且执行任何其他支持功能。服务器104经由传输介质与电子装置10通信。传输介质可以为任何适当的装置或组件,例如包括通信基站(例如,蜂窝服务塔或“蜂窝”塔)、无线接入点、卫星等。通信网络120可以支持多个电子装置和其他类型的最终用户装置的通信能力。如将理解的,服务器104可以被构造成用于执行服务器功能的典型计算机***,并且可以包括处理器,该处理器被构造成执行含有具体实施服务器104的功能的逻辑指令的软件;和存储器,该存储器存储这种软件。
图3中所示的通信***100的示例性实施方式包括经由通信网络102与电子装置10通信的社交媒体服务器106。社交媒体服务器106可以与一个或更多个社交媒体服务关联。示例性社交媒体服务包括Facebook、Myspace、Google+、Twitter、LinkedIn等。电子装置10的用户可以具有配置文件或账户,该配置文件或账户具有一个或更多个社交媒体服务,并且接入可以经由社交媒体网络服务器提供给用户的配置文件或账户。电子装置10的用户可以通过执行各种功能(诸如宣告更新/评论,上传/下载媒体内容,观看来自其他个人的帖子和/或媒体内容等)来与社交媒体服务互相影响。图3中所示的通信***100示出了单个社交媒体服务器106。在其他实施方式中,其他社交媒体服务器可以存在,各社交媒体服务器与各社交媒体服务关联。
社交媒体服务器106可以被构造成用于执行多个功能的典型计算机***。社交媒体服务器106可以包括被构造成执行社交媒体服务器106的功能和操作的总体控制的控制电路108。控制电路108可以包括诸如中央处理单元(CPU)、微控制器或微处理器的处理装置110。处理装置110执行存储在控制电路108内的存储器(未示出)中和/或单独的存储器(诸如存储器112)中的代码,以执行社交媒体服务器106的操作。例如,处理装置110可以执行身份识别功能114和/或其他应用。在所示的示例中,身份识别功能114存储在存储器112上。在其他示例(未示出)中,身份识别功能114可以存储在控制电路108内的存储器上。
存储器112例如可以为缓冲器、闪速存储器、硬盘驱动器、可移动介质、易失性存储器、非易失性存储器、随机存取存储器(RAM)或其他合适装置中的一个或更多个。在典型结构中,存储器112可以包括用于长期数据存储的非易失性存储器和起用于控制电路108的***存储器的作用的易失性存储器。存储器112可以通过数据总线与控制电路108交换数据。存储器112与控制电路108之间的伴随控制线和地址总线也可以存在。存储器112被认为是永久计算机可读介质。
存储器112可以存储与电子装置的用户在社交上相关的个人的数据库116。数据库116可以根据用户关于一个或更多个社交媒体服务的活动来建立和更新。例如,数据库116可以包括在社交媒体服务上被分类为用户的“朋友”或“追随者”的个人的列表。另外,数据库116可以包括这些个人的信息,诸如个人与用户的具体关系(例如,朋友、家庭成员、同事等)、个人的相片、个人的关联人脸特征、个人的简历数据等。
身份识别功能114可以被构造成识别被包括在数字图像中的个人的身份。例如,身份识别功能114可以从电子装置10的数字成像功能20接收身份请求。该身份请求可以包括电子装置10的用户的身份以及属性信息和/或包括检测到的一个或更多个人脸的图像。身份识别功能114可以被构造成将所检测的检测到的一个或更多个人脸与关于一个或更多个社交媒体服务连接到用户的个人进行比较(例如,作为人脸识别处理的一部分),并且确定检测到的人脸中的一个或更多个是否对应于与电子装置10的用户在社交上相关的个人。身份识别功能114还可以被构造成向电子装置10的数字成像功能20发送身份响应。下面将更详细地描述身份识别功能114的另外细节和操作。
在一个实施方式中,身份识别功能114可以以可执行逻辑例程(例如,代码行、软件程序等)的形式来具体实施,逻辑例程存储在社交媒体服务器106的永久计算机可读介质(例如,存储器36)上,并且由控制电路108(例如,使用处理装置110)来执行。此外,身份识别功能114可以为执行与社交媒体服务器106有关的另外任务的独立软件应用或形成该软件应用的一部分(例如,服务器操作***的一部分)。同样,虽然身份识别功能114根据实施方式在软件中实施,但这种功能还可以经由专用硬件或固件、或硬件、固件和/或软件的某一组合来执行。
继续参照图1和图2,电子装置10可以包括显示器26。显示器26向用户显示使得用户能够使用电子装置10的各种特征的信息,诸如操作状态、时间、电话号码、联系信息、来电信息、去话信息、各种菜单等。显示器26可以用于视觉地显示由电子装置10接收和/或从电子装置10的存储器16取得的内容。显示器26可以用于向用户呈现图像、视频以及其他图形。例如,显示器26可以用作示出由电子装置10的摄像头成像的场景的取景器。作为另一个示例,显示器26可以用于显示由电子装置10的摄像头捕捉的图像。在一些实施方式中,显示器可以为背光液晶显示器(LCD)、有机发光二极管(OLED)显示器或另一个合适类型的显示器。
显示器26可以由将视频数据转换成用于驱动显示器26的视频信号的视频处理电路28耦接到控制电路12。视频处理电路28可以包括任何适当的缓冲器、解码器、视频数据处理器等。视频数据可以由控制电路12生成,从存储在存储器16中的视频文件取得,从由无线电路24接收的进入视频数据流导出,从电子装置10的摄像头获得,或者由任何其他合适的方法获得。
电子装置10可以包括用于接收用于控制电子装置10的操作的用户输入的一个或更多个用户输入30。示例性用户输入30包括但不限于用于触摸屏功能的、与显示器26叠加的触摸输入、一个或更多个按钮(例如,硬件按钮)、动作传感器(例如,陀螺仪传感器、加速计)等。
电子装置10还可以包括用于处理音频信号的声音信号处理电路32。扬声器34和麦克风36耦接到声音信号处理电路32,使得用户能够经由电子装置10进行听说,并且听到关于装置10的其他功能生成的声音。声音信号处理电路32耦接到控制电路12,以执行整体操作。音频数据可以从控制电路12传递到声音信号处理电路32,以向用户回放。声音信号处理电路32可以包括任何适当的缓冲器、解码器、编码器、放大器等。
电子装置10还可以包括一个或更多个输入/输出(I/O)接口38。I/O接口38可以为典型移动电话I/O接口的形式,并且可以包括一个或更多个电连接件。I/O接口38可以形成用于经由电缆将电子装置10连接到另一个装置(例如,计算机)或配件(例如,耳机)的一个或更多个数据端口。进一步地,操作电力可以通过I/O接口38来接收,并且对电子装置10内的电源单元(PSU)40的电池充电的电力可以通过I/O接口38来接收。PSU 40可以在不存在外部电源时供给操作电子装置10的电力。
电子装置10还可以包括摄像头42。摄像头42可以被构造成对场景成像并捕捉数字图像。与由摄像头42捕捉的图像对应的图像和/或视频文件可以存储在存储器16中。如下面更详细讨论的,由摄像头42捕捉的数字图像的焦点可以基于与电子装置的用户的社交关系来设置。
电子装置10还可以包括各种其他部件。位置数据接收器44(诸如全球定位***(GPS)接收器、伽利略卫星***接收器等)可以被涉及在确定电子装置10的位置中。诸如红外收发器和/或RF收发器这样的本地收发器46(例如,蓝牙芯片组)可以用于与附近装置(诸如配件(例如,耳机)、另一个移动无线终端、计算机或另一个装置)建立通信。诸如光检测器的光传感器48可以用于检测存在于电子装置10所位于的环境中的环境光量。
如上所述,数字成像功能20可以被构造成控制电子装置10的摄像头成像并捕捉场景的一个或更多个数字图像。成像和捕捉可以响应于在电子装置10处执行的用户命令由摄像头42执行。作为示例,用户可以(例如,通过经由触摸屏选择接口26上显示的图标)与电子装置的显示器26上显示的接口相互作用,以启动场景的成像和/或数字图像的捕捉。作为另一个示例,用户可以按压电子装置的硬件按钮,以启动场景的成像和/或数字图像的捕捉。
当用摄像头对场景成像时,数字成像功能20可以被构造成控制电子装置10的显示器26显示所成像的场景。由此可见,电子装置的显示器在数字图像的捕捉之前可以起用于摄像头42的取景器的作用。所成像的场景可以被显示为来自摄像头42的直播视频馈送,该直播视频馈送可以允许电子装置10的用户确定被成像的视场。如下面讨论的,在用摄像头42对场景成像时且在捕捉数字图像之前,数字成像功能20可以将场景的图像用作检测一个或更多个人脸在场景中的存在、各检测到的人脸的身份、和/或各识别出的个人与电子装置10的用户的社交关系的基础。
当用摄像头42对场景成像时,数字成像功能20可以被构造成包括位于所显示的图像上的一个或更多个指示符。一个或更多个指示符可以被包括在所显示的图像上,以指示个人与电子装置10的用户的社交关系。在一些实施方式中,一个或更多个指示符可以包括概括和/或包围所识别人脸的形状,诸如矩形、圆形或其他合适形状。在一些实施方式中,一个或更多个指示符可以包括识别出的个人的姓名(身份)。在一些实施方式中,一个或更多个指示符可以包括表示用户与识别出的个人的关系的一个或更多个符号、型号或颜色。例如,根据社交关系(例如,家庭、亲戚、同事等),可以在显示器上接近个人人脸显示各符号(例如,“f”用于家庭、“r”用于亲戚,并且“c”用于同事)。作为另一个示例,概括个人人脸的线的颜色和/或形状可以根据社交关系而不同(例如,家庭成员以蓝色来概括,亲戚以红色来概括,同事以绿色来概括)。在一些实施方式中,一个或更多个指示符可以包括表示识别出的个人与电子装置10的用户共享的社交媒体连接的符号。例如,社交媒体服务的象征或商标可以出现在识别出的个人的人脸附近,以指示连接电子装置的用户与识别出的个人的社交网络。如果个人和用户由多于一个社交媒体服务来连接,则多于一个象征或商标可以出现在用户的人脸附近。图4至图6各示出了被包括位于所显示的图像(例如,叠加在图像上)上的示例性指示符。在这些示例性实施方式中,对应于识别出的个人的各人脸用方框来概括,并且包括个人的姓名(身份)。
由摄像头42捕捉的场景可以被捕捉为数字图像。更具体地,数字成像功能可以被构造成(例如,响应于用户命令)控制摄像头42捕捉数字图像。在一些实施方式中,摄像头可以被控制为捕捉单个图像。例如,摄像头42可以聚焦于场景中的关注对象(例如,与电子装置的用户具有社交关系的个人的人脸),并且捕捉图像。在另一个示例中,摄像头42可以聚焦于场景中具有相同或基本上相同焦距的关注对象(例如,被确定为与电子装置的用户具有社交关系的多个个人的人脸),并且捕捉图像。在其他实施方式中,摄像头42可以被控制为捕捉可以共同形成数字图像的多个图像。例如,摄像头42可以以不同的焦距捕捉场景的图像,这些图像随后可以以给定方式组合,以形成具有多个焦距的数字图像。这种处理还可以被称为“焦点堆叠(Focus Stacking)”处理。在一些实施方式中,图像和/或摄像头42捕捉多个图像的各焦距的数量可以依赖于场景中所识别或检测到的人脸的数量和/或位置。
数字成像功能20可以被构造成基于所捕捉场景中一个或更多个个人与电子装置10的用户之间的社交关系来设置数字图像的焦点。在一些实施方式中,该社交关系可以在捕捉数字图像之前从场景识别。因此,数字图像的焦点可以在捕捉之前设置。在其他实施方式中,该社交关系可以在捕捉数字图像之后识别。因此,数字图像的焦点可以在捕捉之后设置。下面更详细地描述这些实施方式中的每个的示例。
在上述实施方式中,数字成像功能20可以被构造成检测存在于图像(例如,所成像的场景或被捕捉的数字图像)中的一个或更多个人脸,并且识别检测到的人脸中的一个或更多个的身份。基于该识别,可以设置数字图像的焦点。
数字成像功能20可以被构造成分析图像并检测图像中一个或更多个人脸的存在。人脸检测在本领域中已知,并且数字成像功能20可以被构造成使用合适的识别算法来检测存在于图像中的人脸。在一个被称为维奥拉-琼斯(Viola-Jones)方法的示例性方法中,基于用于多组相邻像素的亮度值的和将图像划分成矩形块,然后将图像分组以形成特征。将图像内的特征与被已知为指示人脸的特征的数据库进行比较。比较可以涉及多个迭代,以增大人脸检测的准确度。在图像包括多于一个人脸的实施方式中,人脸检测可以用于检测数字图像中的多个人脸。
对于各所检测的人脸,数字成像功能20可以被构造成通过确定识别出的个人与电子装置的用户之间的社交关系来识别具有检测到的人脸的个人的身份。该识别可以使用人脸识别来执行。人脸识别算法在本领域中也是已知的并且商业可得。这种算法通常涉及检测到的人脸与一个或更多个其他数字图像中其他检测到的人脸之间的人脸特征的比较。
在一些实施方式中,数字成像功能20可以被构造成在电子装置10处执行人脸识别。当尝试识别数字图像中的检测到的人脸时,处理可以从任何数量的源提取以比较。例如,电子装置10可以在存储器16内存储有个人和关联的人脸特征的数据库21。数据库116还可以存储在社交媒体服务器106处。作为人脸识别处理的一部分,数字成像功能20可以被构造成在尝试识别数字图像中的检测到的人脸时从社交媒体服务器106的数据库116请求数据。在多个社交媒体服务器连接到电子装置10的实施方式中,数字成像功能20可以被构造成从所连接社交媒体服务器的一部分或各个所连接的社交媒体服务器的数据库请求数据。
在一些实施方式中,数字成像功能20可以被构造成通过向社交媒体服务器106发送身份请求并从社交媒体服务器106接收身份响应来执行人脸识别。例如,数字成像功能20可以向社交媒体服务器106的身份识别功能114发送身份请求。该身份请求可以包括电子装置10的用户的身份以及属性信息和/或包括检测到的一个或更多个人脸的图像。身份识别功能114可以被构造成将检测到的一个或更多个人脸与在社交媒体服务上连接到用户的个人进行比较(例如,作为人脸识别处理的一部分),并且确定检测到的人脸中的一个或更多个是否对应于与用户在社交上相关的个人。身份识别功能114可以被构造成生成身份响应。该身份响应可以包括被确定为对应于检测到的人脸的各个人的身份。身份响应还可以包括诸如个人与用户的具体关系的信息。身份请求可以被发送给多个社交媒体服务器(各社交媒体服务器与各社交媒体服务关联)。身份识别功能114可以向数字成像功能20发送身份响应,并且数字成像功能20可以接收身份响应。
数字成像功能20可以被构造成在图像(例如,所成像的场景或所捕捉图像)上显示一个或更多个指示符,该图像被显示在电子装置10的显示器26上。一个或更多个指示符可以根据场景中个人的所识别身份来显示。如上所述,一个或更多个指示符可以包括概括和/或包围所识别人脸的形状、识别出的个人的姓名(身份)、表示用户与识别出的个人的关系的一个或更多个符号、形状或颜色、和/或表示识别出的个人与电子装置10的用户共享的社交媒体连接的符号。一个或更多个指示符的设置(例如,在图像上显示一个或更多个指示符的方式)可以由电子装置10的用户预先设置。一个或更多个指示符可以允许电子装置10的用户使由数字成像功能识别的关系可视化。指示符还可以允许用户确认和/或去除任何所识别的身份。例如,如果用户不期望识别出的个人与所捕捉的数字图像关联,则数字成像功能可以被构造成(例如,作为用户输入命令的结果而)去除一个或更多个指示符。
如上所述,数字成像功能20可以被构造成基于所捕捉场景中一个或更多个个人与电子装置的用户的社交关系来设置数字图像的焦点。如果在图像中识别单个个人,则图像可以用聚焦于个人的人脸上的焦距来捕捉/处理。类似地,如果在场景中识别多个个人,则图像在各个识别出的个人处于相同或基本上相同的焦距时仍然可以用单个焦距来捕捉/处理。在识别多个个人且个人处于各不同焦距的实施方式中,聚焦在各个识别出的个人上可能需要捕捉/处理具有多个焦距的数字图像。该数字图像可以使用焦点堆叠技术来捕捉,其中将所捕捉的具有相应焦距的两个或更多个图像组合。
在一些实施方式中,多个个人被识别且个人处于各自不同焦距,摄像头42可能无法捕捉/处理具有多个焦距的数字图像。即,摄像头42仅可以能够捕捉/处理具有单个焦距的数字图像。因此,数字成像功能20可以被构造成选择识别出的个人中上面待聚焦的一个。数字成像功能可以基于一个或更多个因素来进行该选择。这种因素例如包括人脸本身的特性(例如,人脸的突起、相片中的位置、微笑、眼睛的方向等)和/或识别出的个人与图像剩余部分的关系(例如,社交媒体关系的数量、关系的类型等)。在一些实施方式中,电子装置10的用户可以手动选择识别出的个人中上面待聚焦的一个个人。
图4至图6例示了可以被捕捉为数字图像的、在显示器26上显示的场景的示例性图像。图4至图6中所示的图像可以表示预览图像(例如,该图像在捕捉数字图像之前示出在显示器26上,或者示出在显示器26上作为捕捉后处理一部分)。在各个场景中,已经检测多个人脸,并且检测到的人脸中的至少一个已经被识别为对应于与电子装置10的用户具有社交关系的个人。数字成像功能20在各所成像的场景中具有关于识别出的个人的人脸的叠加指示符。在这些示例性实施方式中,对应于识别出的个人的各人脸用方框来概括,并且包括个人的姓名。此外,图像的焦点根据个人与电子装置的用户之间的所识别社交关系来设置。在图4中,识别出的个人处于前景中。因此,焦点被设置在处于前景中的识别出的个人的人脸上。在图5中,识别出的个人处于背景中。因此,焦点被设置在处于背景中的识别出的个人的人脸上。在图6中,识别出的个人处于前景中,并且另外识别出的个人处于背景中。因此,焦点被设置在前景和背景这两者上。注意,图6中所示的图像时用于例示的目的,并且在一些实施方式中,前景和背景这两者上的焦点将在焦点堆叠过程中捕捉和组合多个图像时实现。
此外,如下面关于图9描述的,图4至图6中所示的图像相反可以表示所捕捉的图像。
一旦捕捉了数字图像,则数字成像功能20可以被构造成将该数字图像存储在电子装置的存储器上。当从检测到的人脸识别个人时,还可以与图像关联地存储个人的一个或更多个对应指示符。例如,指示符可以作为元数据存储在数字图像文件中。在其他实施方式中,数字成像功能可以将数字文件(和对应的指示符)存储于别处,诸如存储在外部存储装置(未示出)或电子装置10的用户的远程服务器(未示出)上或存储在社交媒体服务的服务器106上。图像可以被存储为相簿或其他数字图像库的一部分。相簿可以由电子装置10上的软件来促进,或者由社交媒体服务来促进。数字成像功能还可以被构造成(例如,与识别出的个人和/或在社交媒体服务上)共享图像。
图7至图9中举例了数字成像功能20的特征,示出了用于实施基于与电子装置10的用户的社交关系来设置数字图像的焦点的各示例性方法的逻辑操作。示例性方法可以通过执行例如电子装置10的数字成像功能20的实施方式和/或社交媒体服务器106的身份识别功能114的实施方式来进行。虽然图7和图8示出了逻辑操作的具体顺序,但可以相对于所示顺序改变逻辑操作的顺序。同样,可以同时或部分同时执行连续示出的两个或更多个逻辑操作。还可以省略特定逻辑操作。
图7示出了用于实施基于社交关系来聚焦数字图像的示例性方法500的逻辑操作,在该方法中,图像的焦点在图像捕捉之前或与图像捕捉同时设置。
逻辑流程可以在502处开始,在502中,数字成像功能20控制摄像头42对场景成像。这可以作为电子装置10的用户输入启动图像捕捉处理的命令的结果来执行。例如,电子装置的用户可以选择接口26上所显示的图标,其启动图像捕捉处理。作为另一个示例,用户可以按压电子装置10的硬件按钮,以启动图像捕捉处理。
在504处,数字成像功能20控制显示器26显示所成像的场景。所成像的场景可以作为来自摄像头42的视频馈送显示在显示器26上。由此可见,电子装置10的显示器在数字图像的捕捉之前可以起用于摄像头42的取景器的作用。视频馈送可以允许电子装置10的用户确定所捕捉数字图像的视场。对图5中所示的所成像的场景进行示例性参照。在该示例中,场景包括多个个人的图像。
在506处,数字成像功能20分析图像,以检测存在于所成像的场景中的人脸。这可以通过分析组成来自摄像头42的馈送的图像(例如,帧)中的一个来进行。如上所述,数字成像功能可以被构造成使用任何合适的识别算法(例如,维奥拉-琼斯方法)来检测存在于场景中的人脸。示例性地参照图5,数字成像功能20可以检测存在于所成像的场景中的三个人脸。
在508处,数字成像功能20基于506中分析的结果(例如,基于由数字成像功能20执行的人脸检测处理的结果)确定是否在所成像的场景中检测到一个或更多个人脸。如果确定在所成像的场景中不存在人脸,则逻辑流程可以进行到等待捕捉图像的指令的528。一旦接收捕捉指令,则数字成像功能控制摄像头42捕捉场景的一个或更多个图像(530)。将所捕捉的图像保存到电子装置10的存储器16(530),并且处理可以结束(530)。
如果确定具有存在于图像中的至少一个人脸,则逻辑流程进行到分析各检测到的人脸的510。该分析可以通过将各所检测的人脸和与电子装置10的用户具有社交关系的个人的人脸进行比较来执行。在一些实施方式中,数字成像功能20可以被构造成在电子装置10处执行人脸识别。当尝试识别数字图像中的检测到的人脸时,数字成像功能20可以从一个或更多个源提取,源诸如存储在电子装置上的数据库21和/或存储在社交媒体服务器106上的数据库116。
在其他实施方式中,数字成像功能20可以被构造成通过向社交媒体服务器发送身份请求并从社交媒体服务器接收身份响应来执行人脸识别。图8示出了在社交媒体服务器处执行分析的示例性处理600。在602处,数字成像功能20生成身份请求。身份请求可以包括电子装置的用户的身份以及属性信息和/或包括来自所成像的场景的检测到的一个或更多个人脸的一个或更多个图像。在604处,向社交媒体服务器106的身份识别功能114发送身份请求;并且在606处,在身份识别功能114处接收身份请求。在608处,身份识别功能114生成身份响应。更具体地,身份识别功能114将身份请求中所包括的检测到的一个或更多个人脸与在社交媒体服务上连接到用户的个人进行比较(例如,作为人脸识别处理的一部分),并且确定检测到的人脸中的一个或更多个是否对应于与用户在社交上相关的个人。身份响应可以包括由身份识别功能114确定为对应于检测到的人脸的各个人的身份。身份响应还可以包括诸如个人与用户的具体关系的信息。在610处,从社交媒体服务器106的身份识别功能114发送身份响应;并且在612处,在数字成像功能20处接收身份响应。
在另一些实施方式中,可以进行两种类型的分析(例如,在电子装置10处和在社交媒体服务器106处)。
示例性参照图5,数字成像功能20(单独或与身份识别功能114结合)可以确定位于所成像的场景的背景中的检测到的人脸是与电子装置的用户具有社交关系的个人的人脸。个人的身份被识别为具有所检测到的人脸。
继续参照图7,在512处,数字成像功能基于510处的分析确定检测到的人脸是否被识别为对应于与电子装置10的用户具有社交关系的个人。确定可以基于如由数字成像功能20确定和/或由社交媒体服务器提供的结果。如果确定不存在所识别的身份,则处理进行到等待捕捉图像的指令的528。一旦接收到捕捉指令,则数字成像功能控制摄像头42捕捉场景的一个或更多个图像(530)。可以保存所捕捉的图像(532),并且处理可以结束。
如果确定存在至少一个所识别的身份,则逻辑流程进行到514,其中数字成像功能20使各所识别身份与检测到的人脸关联。关联可以包括在图像上显示一个或更多个指示符,该图像根据场景中个人的所识别的身份而显示在电子装置10的显示器26上。如上所述,一个或更多个指示符可以包括概括和/或包围所识别人脸的形状、识别出的个人的姓名(身份)、表示用户与识别出的个人的关系的一个或更多个符号、形状或颜色、和/或表示识别出的个人与电子装置的用户共享的社交媒体连接的符号。示例性参照图5,对应于识别出的个人的在背景中的人脸用方框来概括,并且包括个人的姓名。
在516处,数字成像功能20可以被构造成基于所捕捉场景中一个或更多个个人与电子装置的用户的社交关系来设置数字图像的焦点。示例性参照图5,个人处于背景中。因此,焦点被设置在处于背景中的识别出的个人的人脸上。
在518处,数字成像功能20等待捕捉数字图像的指令。一旦接收捕捉指令,则处理进行到520,并且数字成像功能20控制摄像头42捕捉场景的一个或更多个图像。所捕捉图像的数量可以依赖于焦点集。在图5的示例中,仅识别一个个人。因此,在焦点在识别出的个人的人脸上的情况下捕捉单个数字图像。在其他实施方式(例如,图6)中,焦点设置可以指示所捕捉的数字图像的数量。
在522处,数字成像功能20可以处理数字图像。处理可以包括焦点堆叠、拼接或任何其他捕捉后处理。处理可以可选地来执行。例如,图5中所示的图像的、所捕捉的数字图像可以不经受处理(因为在图像中仅识别一个个人,并且焦点被设置在背景中的识别出的个人的人脸上)。在(例如,如图6中举例的)其他实施方式中,可以执行捕捉后处理。
在524处,数字成像功能20可以保存、发送和/或上传所捕捉的数字图像。在一些实施方式中,所捕捉的数字图像可以被保存到电子装置10的存储器16、外部存储装置、电子装置用户的远程服务器或另一个合适的存储装置。在一些实施方式中,所捕捉的数字图像可以(例如,经由社交媒体服务器)上传到一个或更多个社交媒体服务。在示例中,所捕捉的数字图像可以被上传到电子装置的用户关联到的各社交媒体服务。在另一个示例中,所捕捉的数字图像可以被上传到电子装置的用户关联到的社交媒体服务的子集。该子集可以为由用户具体选择的社交媒体服务,或者可以为识别出的个人连接到电子装置10的用户所关于的那些社交媒体服务。在一些实施方式中,所捕捉的数字图像可以经由一个或更多个社交媒体服务和/或通过(例如,经由文本、电子邮件等)向识别出的个人直接发送所捕捉的数字图像来与图像中识别出的个人共享。
在526处,处理结束。
图9示出了用于实施基于社交关系来聚焦数字图像的示例性方法700的逻辑操作,在该方法中,设置已经捕捉的图像的焦点。
逻辑流程可以在702处开始,在702中,电子装置10的数字成像功能20控制摄像头捕捉场景的图像。这可以作为电子装置10的用户输入启动图像捕捉处理的命令的结果来执行。例如,电子装置的用户可以选择接口26上所显示的图标,其启动图像捕捉处理。作为另一个示例,用户可以按压电子装置10的硬件按钮,以启动图像捕捉处理。对图6中所示的场景进行示例性参照。在该示例中,场景可以包括多个个人的图像。
在704处,数字成像功能20分析图像,以检测存在于所成像的场景中的人脸。这可以通过分析组成来自摄像头的馈送的图像(例如,帧)中的一个来进行。如上所述,数字成像功能可以被构造成使用任何合适的识别算法(例如,维奥拉-琼斯方法)来检测存在于场景中的人脸。参照图6,数字成像功能20可以检测存在于所成像的场景中的三个人脸。
在706处,数字成像功能控制摄像头42捕捉场景的一个或更多个图像。所捕捉图像的数量可以依赖于图像中所检测的人脸的数量和/或这种人脸在图像中的位置/焦点位置。在图6的示例中,检测到三个人脸,并且各人脸以各自不同的焦距位于图像中。因此,可以捕捉三个数字图像,各图像以不同的焦距来捕捉,并且聚焦在所检测的人脸上。
在708处,数字成像功能20基于704中分析的结果(例如,基于由数字成像功能20执行的人脸检测处理的结果)确定是否在所成像的场景中检测到一个或更多个人脸。如果确定在所成像的场景中不存在人脸,则逻辑流程可以进行到724并结束。
如果具有存在于图像中的至少一个人脸,则逻辑流程进行到分析各检测到的人脸的710。该分析可以通过将各所检测的人脸和与电子装置的用户具有社交关系的个人的人脸进行比较来执行。在一些实施方式中,数字成像功能20可以被构造成在电子装置10处执行人脸识别。当尝试识别数字图像中的检测到的人脸时,数字成像功能20可以从一个或更多个源(诸如存储在电子装置10上的数据库21和/或存储在社交媒体服务器106上的数据库116)提取。在其他实施方式中,数字成像功能20可以被构造成通过向社交媒体服务器106发送身份请求并从社交媒体服务器106接收身份响应来执行人脸识别。这种处理可以根据图8中所示的上述处理600来执行。在另一些实施方式中,可以执行两种类型的分析。
示例性参照图6,数字成像功能20(单独或与身份识别功能114组合)可以确定位于所成像的场景的背景中的检测到的人脸是与电子装置的用户具有社交关系的个人的人脸。另外,数字成像功能20(单独或与身份识别功能114组合)可以确定位于所成像的场景的前景中的检测到的人脸是与电子装置10的用户具有社交关系的另外的个人的人脸。
在712处,数字成像功能基于710处的分析确定检测到的人脸是否被识别为对应于与电子装置10的用户具有社交关系的个人。确定可以基于如由数字成像功能20确定的和/或由社交媒体服务器106提供的检测结果。如果确定不存在所识别的身份,则处理可以进行到724并结束。
如果确定存在至少一个所识别的身份,则逻辑流程进行到数字成像功能20控制显示器26显示所成像的场景的714。在摄像头捕捉场景的多于一个图像的实施方式中,可以在显示器26上显示图像中的一个。
在716处,数字成像功能20使各所识别的身份与所检测的人脸关联。关联可以包括一个或更多个指示符在所捕捉图像上的显示,该图像根据场景中个人的所识别身份显示在电子装置10的显示器26上。如上所述,一个或更多个指示符可以包括概括和/或包围所识别人脸的形状、识别出的个人的姓名(身份)、表示用户与识别出的个人的关系的一个或更多个符号、形状或颜色、和/或表示识别出的个人与电子装置的用户共享的社交媒体连接的符号。示例性参照图6,对应于识别出的个人的在背景中的人脸用方框来概括,并且包括个人的姓名。类似地,对应于另一个识别出的个人的、前景中的人脸用方框来概括,并且包括个人的姓名。
在718处,设置数字图像的焦点。数字成像功能20可以被构造成基于所捕捉场景中一个或更多个个人与电子装置的用户的社交关系来设置数字图像的焦点。示例性参照图6,与电子装置的用户具有社交关系的一个个人处于图像的背景中,并且与电子装置的用户具有社交关系的另外的个人处于图像的前景中。因此,焦点被设置在处于背景中的识别出的个人的人脸上。这可以由诸如所捕捉图像的焦点堆叠的处理来执行。在仅识别一个个人或识别出的个人位于相同或大致相同焦距的其他实施方式中,仅可以使用所捕捉图像中的一个。
在720处,数字成像功能20等待用户是否接受调节了焦点的数字图像的决定。如果用户不接受该图像(例如,将更喜欢图像以其他方式来聚焦),则处理可以返回到714。如果用户接受该图像,则处理可以进行到722,在722中,数字成像功能20可以保存、发送和/或上传所捕捉的数字图像。在一些实施方式中,所捕捉的数字图像可以被保存到电子装置10的存储器16、外部存储装置、电子装置用户的远程服务器或另一个合适的存储装置。在一些实施方式中,所捕捉的数字图像可以(例如,经由社交媒体服务器)上传到一个或更多个社交媒体服务。在示例中,所捕捉的数字图像可以被上传到电子装置的用户关联到的各社交媒体服务。在另一个示例中,所捕捉的数字图像可以被上传到电子装置的用户关联到的社交媒体服务的子集。该子集可以为由用户具体选择的社交媒体服务,或者可以为识别出的个人连接到电子装置的用户所关于的那些社交媒体服务。在一些实施方式中,所捕捉的数字图像可以经由一个或更多个社交媒体服务和/或通过(例如,经由文本、电子邮件等)向识别出的个人直接发送所捕捉的数字图像来与图像中识别出的个人共享。
在722处,处理结束。
虽然已经示出并描述了特定实施方式,但理解,本领域其他技术人员在阅读并理解该规范时将想到落在所附权利要求范围内的等同物和修改例。

Claims (20)

1.一种基于与电子装置的用户的社交关系来设置数字图像的焦点的方法,该方法包括以下步骤:
用所述电子装置的摄像头对场景成像;
用所述电子装置的处理装置检测存在于所成像的场景中的人脸;
通过用所述处理装置确定所检测到的人脸是与所述电子装置的所述用户具有社交关系的个人的人脸来识别具有所检测到的人脸的个人的身份;
用所述处理装置将所述摄像头的所述焦点设置成聚焦于识别出的个人的所述人脸上;以及
在所述焦点在识别出的个人的所述人脸上的情况下,用所述摄像头捕捉所述数字图像。
2.根据权利要求1所述的方法,其中,使用存储在所述电子装置上的社交关系数据库来识别具有所检测到的人脸的所述个人的所述身份。
3.根据权利要求1所述的方法,其中,使用存储在社交媒体服务器上的社交关系数据库来识别具有所检测到的人脸的所述个人的所述身份,并且所述确定包括:
从所述电子装置向所述社交媒体服务器发送身份请求,该身份请求包括所检测到的人脸的信息;以及
在所述电子装置处从所述社交媒体服务器接收身份响应,所述身份响应包括具有所检测到的人脸的所述个人的所述身份。
4.根据权利要求1至3中任一项所述的方法,所述方法还包括以下步骤:将识别出的个人的所述身份作为元数据存储到所述数字图像。
5.根据权利要求1至4中任一项所述的方法,其中,在所成像的场景中检测多个人脸,并且所述个人的所述身份被识别为具有来自所检测到的多个人脸中的人脸。
6.根据权利要求5所述的方法,其中,所述方法还包括以下步骤:将另外的个人的身份识别为具有来自所述多个人脸中的另一个人脸。
7.根据权利要求6所述的方法,其中,所述方法还包括以下步骤:
将所述摄像头的另外的焦点设置成聚焦于另外识别出的个人的所述人脸上;以及
在所述焦点在所述另外识别出的个人的人脸上的情况下,捕捉另外的数字图像。
8.根据权利要求7所述的方法,所述方法还包括以下步骤:组合所述数字图像与所述另外的数字图像,以在焦点在识别出的个人的人脸上且焦点在所述另外识别出的个人的人脸上的情况下创建图像。
9.根据权利要求6至8中任一项所述的方法,所述方法还包括以下步骤:对识别出的个人赋予优先级,其中,
所述摄像头的所述焦点被设置成聚焦于被赋予优先级的识别出的个人的人脸上;以及
在所述焦点在被赋予优先级的识别出的个人的人脸上的情况下,捕捉所述数字图像。
10.根据权利要求1至9中任一项所述的方法,所述方法还包括以下步骤:在接近所检测到的人脸的所成像的场景上显示和识别出的个人与所述电子装置的用户之间的所述社交关系有关的信息。
11.一种基于与电子装置的用户的社交关系来设置数字图像的焦点的方法,该方法包括以下步骤:
用所述电子装置的摄像头对场景成像;
用所述电子装置的处理装置检测存在于所成像的场景中的多个人脸;
用所述电子装置的摄像头捕捉一个或更多个数字图像,各数字图像聚焦于所检测到的人脸中的至少一个人脸上;
通过用所述处理装置确定所检测到的人脸是与所述电子装置的所述用户具有社交关系的个人的人脸来识别具有所检测到的人脸中的一个人脸的个人的身份;以及
将所述一个或更多个数字图像中的所述焦点设置成聚焦于识别出的个人的人脸上。
12.根据权利要求11所述的方法,其中,使用存储在所述电子装置上的社交关系数据库来识别具有所检测到的人脸中的一个的所述个人的所述身份。
13.根据权利要求11所述的方法,其中,使用存储在社交媒体服务器上的社交关系数据库来识别具有所检测到的人脸中的一个的所述个人的所述身份,并且所述确定包括:
从所述电子装置向所述社交媒体服务器发送身份请求,所述身份请求包括所检测到的人脸的信息;以及
在所述电子装置处从所述社交媒体服务器接收身份响应,所述身份响应包括具有所检测到的人脸中的一个的所述个人的所述身份。
14.根据权利要求11至13中任一项所述的方法,所述方法还包括以下步骤:将识别出的个人的所述身份作为元数据存储到所述数字图像。
15.根据权利要求11至14中任一项所述的方法,其中,所述方法还包括以下步骤:将另外的个人的身份识别为具有来自所述多个人脸中的另一个人脸。
16.根据权利要求15所述的方法,其中,
所述捕捉包括用所述摄像头捕捉多个数字图像;以及
设置所述焦点包括组合所述多个数字图像,以在焦点在识别出的个人的所述人脸上且在所述另外识别出的个人的所述人脸上的情况下创建图像。
17.根据权利要求11至16中任一项所述的方法,所述方法还包括以下步骤:在接近所检测到的人脸的所成像的场景上显示和识别出的个人与所述电子装置的用户之间的所述社交关系有关的信息。
18.一种电子装置,该电子装置包括:
摄像头;和
处理装置,该处理装置通过以下来执行被构造成基于与电子装置的用户的社交关系来设置数字图像的焦点的数字成像功能:
用所述摄像头对场景成像;
检测存在于所成像的场景中的人脸;
通过确定所检测到的人脸是与所述电子装置的所述用户具有社交关系的个人的人脸来识别具有所检测到的人脸的个人的身份;
将所述摄像头的所述焦点设置成聚焦于识别出的个人的所述人脸上;以及
在所述焦点在识别出的个人的所述人脸上的情况下,用所述摄像头捕捉所述数字图像。
19.根据权利要求18所述的电子装置,其中,使用存储在所述电子装置上的社交关系数据库来识别具有所检测到的人脸的所述个人的所述身份。
20.根据权利要求18至19中任一项所述的电子装置,其中,在所成像的场景中检测多个人脸,所述个人的所述身份被识别为具有来自所检测到的多个人脸中的人脸,并且另外的个人的身份被识别为具有来自所述多个人脸中的另一个人脸,所述数字成像功能还被构造成:
将所述摄像头的另外的焦点设置成聚焦于所述另外识别出的个人的所述人脸上;
在所述焦点在所述另外识别出的个人的所述人脸上的情况下,捕捉另外的数字图像;并且
组合所述数字图像和所述另外的数字图像,以在焦点在识别出的个人的所述人脸上且在所述另外识别出的个人的所述人脸上的情况下创建图像。
CN201580049560.9A 2014-07-16 2015-07-14 用于基于社交关系来设置数字图像的焦点的***和方法 Active CN106687991B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/332,664 2014-07-16
US14/332,664 US9444990B2 (en) 2014-07-16 2014-07-16 System and method for setting focus of digital image based on social relationship
PCT/IB2015/055330 WO2016009358A1 (en) 2014-07-16 2015-07-14 System and method for setting focus of digital image based on social relationship

Publications (2)

Publication Number Publication Date
CN106687991A true CN106687991A (zh) 2017-05-17
CN106687991B CN106687991B (zh) 2020-08-07

Family

ID=53758490

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580049560.9A Active CN106687991B (zh) 2014-07-16 2015-07-14 用于基于社交关系来设置数字图像的焦点的***和方法

Country Status (4)

Country Link
US (1) US9444990B2 (zh)
EP (1) EP3170123B1 (zh)
CN (1) CN106687991B (zh)
WO (1) WO2016009358A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108596057A (zh) * 2018-04-11 2018-09-28 重庆第二师范学院 一种基于人脸识别的信息安全管理***
CN109493073A (zh) * 2018-10-25 2019-03-19 阿里巴巴集团控股有限公司 一种基于人脸的身份识别方法、装置及电子设备
CN109508523A (zh) * 2017-09-11 2019-03-22 金德奎 一种基于人脸识别的社交方法
CN110139037A (zh) * 2019-05-20 2019-08-16 深圳铂石空间科技有限公司 对象监测方法及装置、存储介质和电子设备

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016219991A (ja) * 2015-05-19 2016-12-22 キヤノン株式会社 画像処理装置及びその制御方法、並びにプログラム
WO2017044910A1 (en) 2015-09-10 2017-03-16 I'm In It, Llc Methods, devices, and systems for determining a subset for autonomous sharing of digital media
US10534954B2 (en) * 2016-06-03 2020-01-14 Magic Leap, Inc. Augmented reality identity verification
US10255668B2 (en) 2016-08-23 2019-04-09 International Business Machines Corporation Enhancement of a profile photo system
US10416859B2 (en) * 2016-08-23 2019-09-17 International Business Machines Corporation Enhanced configuration of a profile photo system
CN106445654B (zh) * 2016-08-31 2019-06-11 北京康力优蓝机器人科技有限公司 确定响应控制命令优先顺序的方法及装置
US10218898B2 (en) 2016-09-09 2019-02-26 International Business Machines Corporation Automated group photograph composition
US11672196B2 (en) * 2016-11-16 2023-06-13 Precision Planting Llc Seed delivery apparatus
US10136049B2 (en) * 2017-01-09 2018-11-20 International Business Machines Corporation System, method and computer program product for contextual focus/zoom of event celebrities
US10311308B2 (en) * 2017-03-31 2019-06-04 International Business Machines Corporation Image processing to identify selected individuals in a field of view
US20180315414A1 (en) * 2017-04-26 2018-11-01 International Business Machines Corporation Adaptive digital assistant and spoken genome
US10607143B2 (en) 2017-08-22 2020-03-31 Internatonal Business Machines Corporation Profile data camera adjustment
US11006038B2 (en) * 2018-05-02 2021-05-11 Qualcomm Incorporated Subject priority based image capture
US11283989B1 (en) * 2021-06-11 2022-03-22 Bennet Langlotz Digital camera with multi-subject focusing
US20220400211A1 (en) * 2021-06-11 2022-12-15 Bennet Langlotz Digital camera with multi-subject focusing
US20230283878A1 (en) * 2022-03-07 2023-09-07 Meta Platforms Technologies, Llc Smart Cameras Enabled by Assistant Systems

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101080742A (zh) * 2004-10-15 2007-11-28 松下电器产业株式会社 利用多焦点透镜获取的图像的增强
US20080118156A1 (en) * 2006-11-21 2008-05-22 Sony Corporation Imaging apparatus, image processing apparatus, image processing method and computer program
WO2013025354A2 (en) * 2011-08-18 2013-02-21 Qualcomm Incorporated Smart camera for taking pictures automatically
US20130169853A1 (en) * 2011-12-29 2013-07-04 Verizon Corporate Services Group Inc. Method and system for establishing autofocus based on priority
CN103685905A (zh) * 2012-09-17 2014-03-26 联想(北京)有限公司 一种拍照方法及电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7860387B2 (en) 2008-08-12 2010-12-28 Canon Kabushiki Kaisha Imaging apparatus and control method therefor

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101080742A (zh) * 2004-10-15 2007-11-28 松下电器产业株式会社 利用多焦点透镜获取的图像的增强
US20080118156A1 (en) * 2006-11-21 2008-05-22 Sony Corporation Imaging apparatus, image processing apparatus, image processing method and computer program
CN101188677A (zh) * 2006-11-21 2008-05-28 索尼株式会社 摄影装置、图像处理装置、图像处理方法以及使计算机执行该方法的程序
WO2013025354A2 (en) * 2011-08-18 2013-02-21 Qualcomm Incorporated Smart camera for taking pictures automatically
US20130169853A1 (en) * 2011-12-29 2013-07-04 Verizon Corporate Services Group Inc. Method and system for establishing autofocus based on priority
CN103685905A (zh) * 2012-09-17 2014-03-26 联想(北京)有限公司 一种拍照方法及电子设备

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109508523A (zh) * 2017-09-11 2019-03-22 金德奎 一种基于人脸识别的社交方法
CN108596057A (zh) * 2018-04-11 2018-09-28 重庆第二师范学院 一种基于人脸识别的信息安全管理***
CN108596057B (zh) * 2018-04-11 2022-04-05 重庆第二师范学院 一种基于人脸识别的信息安全管理***
CN109493073A (zh) * 2018-10-25 2019-03-19 阿里巴巴集团控股有限公司 一种基于人脸的身份识别方法、装置及电子设备
CN109493073B (zh) * 2018-10-25 2021-07-16 创新先进技术有限公司 一种基于人脸的身份识别方法、装置及电子设备
CN110139037A (zh) * 2019-05-20 2019-08-16 深圳铂石空间科技有限公司 对象监测方法及装置、存储介质和电子设备

Also Published As

Publication number Publication date
CN106687991B (zh) 2020-08-07
EP3170123A1 (en) 2017-05-24
US20160021293A1 (en) 2016-01-21
EP3170123B1 (en) 2021-03-03
US9444990B2 (en) 2016-09-13
WO2016009358A1 (en) 2016-01-21

Similar Documents

Publication Publication Date Title
CN106687991A (zh) 用于基于社交关系来设置数字图像的焦点的***和方法
US10313288B2 (en) Photo sharing method and device
US9953212B2 (en) Method and apparatus for album display, and storage medium
US10089380B2 (en) Method and apparatus for operating electronic device
CN105659286B (zh) 自动化图像裁剪和分享
US20130120602A1 (en) Taking Photos With Multiple Cameras
WO2018010512A1 (zh) 拍摄文件上传方法及装置
CN105094760B (zh) 一种图片标记方法及装置
EP3125135A1 (en) Picture processing method and device
KR101899351B1 (ko) 이동 단말기에서 비디오 통신을 수행하는 방법 및 장치
US8983150B2 (en) Photo importance determination
US20130201344A1 (en) Smart camera for taking pictures automatically
US20170118298A1 (en) Method, device, and computer-readable medium for pushing information
US20170034325A1 (en) Image-based communication method and device
JP2017515253A (ja) 数値移転方法、端末およびクラウドサーバ
KR20150034724A (ko) 사용자 개입 없이 레이아웃에 따라 이미지를 식별하고 정리하는 기법
US20150085146A1 (en) Method and system for storing contact information in an image using a mobile device
US20210168279A1 (en) Document image correction method and apparatus
US10924529B2 (en) System and method of transmitting data by using widget window
US20220215050A1 (en) Picture Search Method and Device
US20160134804A1 (en) Image capture methods and systems
CN105653623B (zh) 图片收集方法及装置
US20130235233A1 (en) Methods and devices for capturing images
CN111064892A (zh) 图像自动分享方法、***、电子装置及存储介质
CN110447000A (zh) 终端通过图片搜索vr资源

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant