WO2019164374A1 - 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법 - Google Patents

전자 장치 및 아바타 기반의 커스텀 객체 운용 방법 Download PDF

Info

Publication number
WO2019164374A1
WO2019164374A1 PCT/KR2019/002291 KR2019002291W WO2019164374A1 WO 2019164374 A1 WO2019164374 A1 WO 2019164374A1 KR 2019002291 W KR2019002291 W KR 2019002291W WO 2019164374 A1 WO2019164374 A1 WO 2019164374A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
avatar
user
processor
custom
Prior art date
Application number
PCT/KR2019/002291
Other languages
English (en)
French (fr)
Inventor
황호익
김지연
권오윤
신새벽
이재한
최준호
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/975,337 priority Critical patent/US20200402304A1/en
Publication of WO2019164374A1 publication Critical patent/WO2019164374A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10—Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G06T13/20—3D [Three Dimensional] animation
    • G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/168—Segmentation; Edge detection involving transform domain methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G06V40/176—Dynamic expression
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Definitions

  • Various embodiments of the present disclosure relate to an electronic device and an avatar-based custom object operating method.
  • Emoticons or stickers are used in place of text as an auxiliary means of communication in cyberspace. Emoticons or stickers are used as symbols to convey a user's emotions, moods, or thoughts using characters, letters, symbols, or numbers.
  • an emoticon or a sticker service of an electronic device must use an emoticon or a sticker provided by a service provider including a designated application or an original third party.
  • Such an emoticon or a sticker service has a limitation in using the same data as a tool for communication through various applications, and there is a disadvantage in that a user cannot create an emoticon or a sticker desired by the user.
  • the avatar which means their own alternation, is a graphic character that takes the role of a user, and is used in various fields other than games and chat services.
  • graphic technology researches are being conducted to realistically reflect the physical characteristics of users' appearances and movements to avatars of the virtual world.
  • a method and an electronic device in which a user can create a user avatar using his self-image and create a custom sticker using the user avatar to utilize the custom sticker in various applications.
  • the user can utilize the optimized avatar and custom sticker similar to the user by analyzing the user's appearance change by analyzing the accumulated gallery image of the user, or by updating the user avatar by improving the accuracy of the user feature point. It is intended to provide a method and apparatus.
  • an electronic device includes a display, a camera module, a memory, and a processor, wherein the processor acquires a selfie image, generates a user avatar based on the acquired selfie image, and generates the user.
  • Reprocessing the avatar may be configured to generate at least one custom object linked to the applications of the electronic device, and output the at least one custom object to the application execution screen while executing the application.
  • a user's personality may be reflected by using a custom sticker resembling a user in various applications of the electronic device.
  • the gallery image of the user is learned and updated with the user avatar and the custom sticker, thereby improving the user recognition rate and more accurately reflecting the user's state change.
  • various and special forms of states may be expressed as well as general emotion expression.
  • FIG. 1 illustrates an electronic device in a network environment, in various embodiments.
  • FIG. 2 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 3 is a conceptual diagram illustrating an operation of an electronic device and an external electronic device according to various embodiments of the present disclosure.
  • FIG. 4 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 is a diagram illustrating an avatar-based custom object generation method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 6 is a diagram illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • FIG. 9 illustrates an example hierarchical structure of a custom object according to various embodiments.
  • FIG 10 illustrates an example of operating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • 11 and 12 are diagrams illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a view illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • 15 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • 16 is a diagram illustrating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • 17 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 18 is a view illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • FIG 19 illustrates an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • Electronic devices may be various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smartphone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smartphone
  • a computer device e.g., a tablet, or a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch, or a smart watch
  • first, second, or first or second may be used merely to distinguish a component from other corresponding components, and to separate the components from other aspects (e.g. Order).
  • Some (eg, first) component may be referred to as “coupled” or “connected” to another (eg, second) component, with or without the term “functionally” or “communicatively”.
  • any component can be connected directly to the other component (eg, by wire), wirelessly, or via a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic block, component, or circuit.
  • the module may be an integral part or a minimum unit or part of the component, which performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment according to various embodiments.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (for example, a short range wireless communication network) or a second network 199 (for example, Communication with the electronic device 104 or the server 108 via a remote wireless communication network.
  • a first network 198 for example, a short range wireless communication network
  • a second network 199 for example, Communication with the electronic device 104 or the server 108 via a remote wireless communication network.
  • the electronic device 101 may communicate with the electronic device 104 through the server 108.
  • the electronic device 101 may include a processor 120, a memory 130, an input device 150, an audio output device 155, a display device 160, an audio module 170, and a sensor module ( 176, interface 177, haptic module 179, camera module 180, power processing module 188, battery 189, communication module 190, subscriber identification module 196, or antenna module 197. ) May be included.
  • a sensor module 176, interface 177, haptic module 179, camera module 180, power processing module 188, battery 189, communication module 190, subscriber identification module 196, or antenna module 197.
  • the components for example, the display device 160 or the camera module 180
  • the sensor module 176 may be implemented embedded in the display device 160 (eg, display).
  • the processor 120 executes software (eg, the program 140) to execute at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to one embodiment, as at least part of the data processing or operation, the processor 120 may send instructions or data received from another component (eg, the sensor module 176 or the communication module 190) to the volatile memory 132. Can be loaded into, processed in a command or data stored in volatile memory 132, and stored in the non-volatile memory (134).
  • software eg, the program 140
  • the processor 120 may send instructions or data received from another component (eg, the sensor module 176 or the communication module 190) to the volatile memory 132. Can be loaded into, processed in a command or data stored in volatile memory 132, and stored in the non-volatile memory (134).
  • the processor 120 may include a main processor 121 (eg, a central processing unit or an application processor), and a coprocessor 123 (eg, a graphics processing unit, an image signal processor) that may operate independently or together. , Sensor hub processor, or communication processor). Additionally or alternatively, the coprocessor 123 may be set to use lower power than the main processor 121 or to be specialized for its designated function. The coprocessor 123 may be implemented separately from or as part of the main processor 121.
  • a main processor 121 eg, a central processing unit or an application processor
  • a coprocessor 123 eg, a graphics processing unit, an image signal processor
  • the coprocessor 123 may be set to use lower power than the main processor 121 or to be specialized for its designated function.
  • the coprocessor 123 may be implemented separately from or as part of the main processor 121.
  • the coprocessor 123 may, for example, replace the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 may be active (eg, execute an application). At least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) together with the main processor 121 while in the) state. Control at least some of the functions or states associated with the. According to one embodiment, the coprocessor 123 (eg, an image signal processor or communication processor) may be implemented as part of other functionally related components (eg, camera module 180 or communication module 190). have.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176) of the electronic device 101.
  • the data may include, for example, software (eg, the program 140) and input data or output data for a command related thereto.
  • the memory 130 may include a volatile memory 132 or a nonvolatile memory 134.
  • the program 140 may be stored as software in the memory 130, and may include, for example, an operating system 142, middleware 144, or an application 146.
  • the input device 150 may receive a command or data to be used for a component (for example, the processor 120) of the electronic device 101 from the outside (for example, a user) of the electronic device 101.
  • the input device 150 may include, for example, a microphone, a mouse, or a keyboard.
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101.
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker may be used for general purposes such as multimedia playback or recording playback, and the receiver may be used to receive an incoming call.
  • the receiver may be implemented separately from or as part of a speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101.
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display device 160 may include a touch circuitry configured to sense a touch, or a sensor circuit (eg, a pressure sensor) configured to measure the strength of a force generated by the touch. have.
  • the audio module 170 may convert sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 may acquire sound through the input device 150, or may output an external electronic device (eg, a sound output device 155, or directly or wirelessly connected to the electronic device 101). Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • an external electronic device eg, a sound output device 155, or directly or wirelessly connected to the electronic device 101. Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101, or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an infrared sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more designated protocols that may be used for the electronic device 101 to be directly or wirelessly connected to an external electronic device (for example, the electronic device 102).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 178 may include a connector through which the electronic device 101 may be physically connected to an external electronic device (eg, the electronic device 102).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that can be perceived by the user through tactile or kinesthetic senses.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and videos. According to one embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power processing module 188 may manage power supplied to the electronic device 101.
  • the power processing module 388 may be implemented as at least part of a power management integrated circuit (PMIC), for example.
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101.
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell or a fuel cell.
  • the communication module 190 may establish a direct (eg wired) communication channel or wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). Establish and perform communication over established communication channels.
  • the communication module 190 may operate independently of the processor 120 (eg, an application processor) and include one or more communication processors supporting direct (eg, wired) or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a near field communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg It may include a local area network (LAN) communication module, or a power line communication module.
  • GNSS global navigation satellite system
  • the corresponding communication module of these communication modules may be a first network 198 (e.g. a short range communication network such as Bluetooth, WiFi direct or infrared data association (IrDA)) or a second network 199 (e.g. cellular network, the Internet, or Communicate with external electronic devices via a telecommunications network, such as a computer network (eg, LAN or WAN).
  • a first network 198 e.g. a short range communication network such as Bluetooth, WiFi direct or infrared data association (IrDA)
  • a second network 199 e.g. cellular network, the Internet, or Communicate with external electronic devices via a telecommunications network, such as a computer network (eg, LAN or WAN).
  • a telecommunications network such as a computer network (eg, LAN or WAN).
  • the wireless communication module 192 uses subscriber information (e.g., international mobile subscriber identifier (IMSI)) stored in the subscriber identification module 196 in a communication network such as the first network 198 or the second network 199.
  • subscriber information e.g., international mobile subscriber identifier (IMSI)
  • IMSI international mobile subscriber identifier
  • the antenna module 197 may transmit or receive a signal or power to an external (eg, an external electronic device) or from the outside.
  • antenna module 197 may include one or more antennas, from which at least one antenna suitable for a communication scheme used in a communication network, such as first network 198 or second network 199, For example, it may be selected by the communication module 190.
  • the signal or power may be transmitted or received between the communication module 190 and the external electronic device through the at least one selected antenna.
  • peripheral devices eg, a bus, a general purpose input and output (GPIO), a serial peripheral interface (SPI), or a mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199.
  • Each of the electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • all or part of operations executed in the electronic device 101 may be executed in one or more external devices among the external electronic devices 102, 104, or 108. For example, when the electronic device 101 needs to perform a function or service automatically or in response to a request from a user or another device, the electronic device 101 instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that receive the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101.
  • the electronic device 101 may process the result as it is or additionally and provide it as at least part of a response to the request.
  • cloud computing distributed computing, or client-server computing technology may be used.
  • the processor 120 of the electronic device 101 generates a user avatar based on a selfie image specified by a user, and reprocesses the user avatar to generate a custom object linked to applications of the electronic device.
  • the custom object may be output to the application execution screen when the electronic device 101 executes the application.
  • the processor 120 of the electronic device 101 may recognize a specific image region from the selfie image and extract a distinguishing feature of the user.
  • the processor 120 may generate an avatar component for generating an avatar and generate a mapping element mapped to a user image based on a feature point.
  • the processor 120 may transform the user into a three-dimensional face by applying an avatar component using a pre-stored face base model, and generate a user avatar having a three-dimensional face by combining a mapping element with the three-dimensional face.
  • the feature point may include at least one of an eye, a nose, an ear, a mouth, a spot, a scar, a beard, a face, a hair, and a skin color.
  • the mapping element may include at least one of shape, shape information, position information, color information, length information, and width information of each feature point.
  • the processor 120 of the electronic device 101 may detect a face element and an outline of a face from the user avatar.
  • the facial elements may include eyes, noses, mouths, ears or specific elements (eg, dots, beards, glasses, etc.), and the outlines of the faces may include facial lines and hair lines.
  • the processor 120 applies a detected face element and an outline of a face to a model suitable for each pose based on a pose set of a defined sticker format, and changes the avatar form into an avatar form corresponding to each pose, A custom sticker set in which the changed avatar shape is inserted can be generated.
  • the pose set in the sticker format may include at least one emotion pose, and may include a model corresponding to each emotion pose.
  • the model can be used to change the shape of facial elements and outlines to face shapes corresponding to emotional poses.
  • the model may be used to change a user's avatar to a sticker format pose such as a smiley face, a crying face, or an angry face.
  • the processor 120 of the electronic device 101 detects a condition in which an avatar related event schedule or an external environment changes and changes an event schedule or an external environment in response to a detected event schedule or a change condition of an external environment. You can create additional custom objects by adding images corresponding to the conditions to the custom objects.
  • the processor 120 may provide a custom object added in addition to the custom sticker set of the sticker format generated when the application is executed.
  • the processor 120 of the electronic device 101 analyzes the gallery database DB to detect a difference change between an image of a user and a generated user avatar, and based on the difference change information. You can update your avatar.
  • the processor 120 of the electronic device 101 identifies a person who recognizes the gallery DB at a frequency other than a defined frequency other than a user, generates at least one of another person's avatar and another person's custom sticker for the other person,
  • the electronic device eg, the external electronic device 104 of FIG. 1
  • FIG. 2 is a block diagram illustrating a camera module 180, in accordance with various embodiments.
  • the camera module may include the lens assembly 210, the flash 220, the image sensor 230, the image stabilizer 240, and the memory 250 (eg, a buffer). Memory) or an image signal processor 260.
  • the lens assembly 210 may collect light emitted from a subject that is a target of image capturing.
  • the lens assembly 210 may include one or more lenses.
  • the camera a module 180 may include a plurality of lens assemblies 210. In this case, the camera module 180 may form, for example, a dual camera, a 360 degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 210 have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly is another lens assembly. It may have one or more lens properties different from the lens properties of.
  • the lens assembly 210 may include, for example, a wide angle lens or a telephoto lens.
  • the flash 220 may emit light used to enhance the light emitted or reflected from the subject.
  • the flash 220 may include one or more light emitting diodes (eg, red-green-blue (LED), white LED, infrared LED, or ultraviolet LED), or xenon lamp.
  • the image sensor 230 may acquire an image corresponding to the subject by converting light emitted from or reflected from the subject and transmitted through the lens assembly 210 into an electrical signal.
  • the image sensor 230 is the same as one image sensor selected from among image sensors having different properties, such as, for example, an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor.
  • a plurality of image sensors having a property, or a plurality of image sensors having another property may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 240 moves the at least one lens or the image sensor 230 included in the lens assembly 210 in a specific direction in response to the movement of the camera module 180 or the electronic device 101 including the same.
  • An operating characteristic of the image sensor 230 may be controlled (eg, read-out timing may be adjusted). This allows to compensate for at least some of the negative effects of the movement on the image taken.
  • the image stabilizer 240 according to one embodiment, the image stabilizer 240 is a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 180. Such movement of the camera module 180 or the electronic device 101 can be detected by using the C-type.
  • the image stabilizer 240 may be implemented as, for example, an optical image stabilizer.
  • the memory 250 may at least temporarily store at least a portion of the image acquired through the image sensor 230 for the next image processing task. For example, if the image acquisition according to the shutter is delayed or a plurality of images are obtained at high speed, the obtained original image (eg, Bayer-patterned image or high resolution image) is stored in the memory 250. The corresponding copy image (eg, a low resolution image) may be previewed through the display device 160. Thereafter, if a specified condition is satisfied (eg, a user input or a system command), at least a part of the original image stored in the memory 250 may be acquired and processed by, for example, the image signal processor 260.
  • the memory 250 may be configured as a separate memory operated as at least a part of the memory 130 or independently of the memory 130.
  • the image signal processor 260 may perform one or more image processes on the image obtained through the image sensor 230 or the image stored in the memory 250.
  • the one or more image processes may include, for example, depth map generation, three-dimensional modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring) may include blurring, sharpening, or softening
  • the image signal processor 260 may include at least one of components included in the camera module 180 (eg, an image sensor). Control (eg, exposure time control, read-out timing control, etc.) for the image 230. An image processed by the image signal processor 260 is stored back in the memory 250 for further processing.
  • the null processor 260 may be configured as at least a part of the processor 120, or may be configured as a separate processor operating independently of the processor 120.
  • the image signal processor 260 may be a separate processor from the processor 120. When configured, the at least one image processed by the image signal processor 260 may be displayed through the display device 160 as it is or after additional image processing by the processor 120.
  • the electronic device 101 may include a plurality of camera modules 180 having different properties or functions.
  • at least one of the plurality of camera modules 180 may be a wide angle camera, and at least another may be a telephoto camera.
  • one of the plurality of camera modules 180 may be a front camera, and at least the other may be a rear camera.
  • FIG. 3 is a block diagram illustrating an electronic device and an external electronic device according to various embodiments of the present disclosure.
  • an electronic device 301 may include a camera module 380 (eg, the camera module 180 of FIG. 1) and an avatar generating module 383. And a memory 387.
  • the electronic device 301 may include a communication module (eg, the communication module 190 of FIG. 1) capable of transmitting and receiving data with the external electronic device 308, for example, a server.
  • the external electronic device 308 may also include a communication module capable of transmitting and receiving data with the electronic device 101.
  • the electronic device 301 may further include a recognition module 381 and a custom object processing module 385.
  • the recognition module 381 and the custom object processing module 385 included in the electronic device 301 may be implemented as a processor (eg, the processor 120 of FIG. 1).
  • the recognition module 381 and the custom object processing module 385 of the electronic device 301 may perform the same functions as at least some of the functions of the recognition module 331 and the custom object processing module 335 of the external electronic device 308. It can be configured to perform.
  • the recognition module 381 of the electronic device 301 is hardware configured to recognize a face in an image, and is used to recognize a face more simply and faster than the external electronic device 308 (eg, the server 108).
  • the custom object processing module 385 of the electronic device 301 may be used for generating a custom object from the generated avatar.
  • the external electronic device 308 may include a recognition module 331, a custom object processing module 335, and a storage 337.
  • the recognition module 331 may be a logic module or may be implemented as a processor of the external electronic device 308.
  • the custom object processing module 335 may also be implemented as a processor of the external electronic device 308. According to an embodiment, the processor of the external electronic device 308 may perform both recognition and custom object processing.
  • the avatar generating module 333 may be further included in the external electronic device 308.
  • the avatar generating module 333 of the external electronic device 308 may be configured to perform at least some of the functions of the avatar generating module 381 of the electronic device 301.
  • the avatar generation module 333 of the external electronic device 308 may be used to generate a user avatar having a higher similarity to the user face than the user avatar generated by the electronic device 301.
  • Images stored in the memory 387 of the electronic device 301 or obtained from the camera module 380 may be uploaded to the storage 337 of the external electronic device 308.
  • the electronic device 301 and the external electronic device 308 may transmit and receive data related to a user avatar through a communication module.
  • the electronic device 301 and the external electronic device 308 may cooperate with each other to generate a user avatar and create a custom object.
  • both the electronic device 301 and the external electronic device 308 can perform respective operations.
  • the recognition module 331 of the external electronic device 308 may recognize at least one image area by applying an object recognition algorithm or a texture recognition algorithm to the image area.
  • the recognition module 331 of the external electronic device 308 may recognize at least one image area by using various recognition algorithms, and machine learning or deep learning in the storage 337 (eg, image storage).
  • At least one image area eg, a face
  • the recognition module 331 may recognize at least one object, for example, a face.
  • the electronic device 301 may provide image recognition information by a recognition algorithm obtained by applying machine learning or deep learning.
  • the avatar generation module 383 of the electronic device 301 may be a logic circuit, or may be implemented as a processor (eg, the processor 120 of FIG. 1) of the electronic device 301.
  • the generation module 383 may extract a user's distinctive feature from a recognized image region from the image, generate an avatar component for generating an avatar, and generate a mapping element mapped to the user's image based on the feature.
  • the avatar generation module 383 may transform the avatar component into a three-dimensional face shape by reflecting an avatar component in a pre-stored face base model, and the avatar generation module 383 may combine the mapping elements into a three-dimensional face shape.
  • the avatar generating module 383 may generate the recognized user avatar image and the generated user avatar image from the actual face of the user. May process the image to use.
  • Avatar generation module 383 of the electronic device 301, the generated user avatar information may be shared with the external electronic device (308).
  • the custom object processing module 335 of the external electronic device 308 may detect the face element and the outline of the face from the user avatar.
  • Facial elements may include eyes, nose, mouth or ears, specific elements (eg, dots, beards, glasses, etc.), and the outlines of the faces may include facial lines and hair lines.
  • the custom object processing module 335 may apply the detected face elements and the outline of the face to a model suitable for each pose based on a pose set of a defined sticker format to change the user avatar form corresponding to each pose.
  • the set of poses in the defined sticker format may include at least one emotional pose, and the model may be used to change the shape of the facial element and the outline to a shape corresponding to the emotional pose.
  • the custom object processing module 335 may generate a custom sticker set including a plurality of stickers changed to a user avatar corresponding to each pose.
  • the custom object processing module 335 of the external electronic device 308 detects a condition in which an avatar related event schedule or an external environment changes and responds to a detected event schedule or an external environment change condition in response to a detected event schedule or an external environment change condition. You can create additional custom objects by adding the image that corresponds to the custom object.
  • the custom object processing module 335 of the external electronic device 308 analyzes the gallery database DB to detect a difference change between the image recognizing the user and the generated user avatar, and based on the difference change information, the user avatar Can be processed to update
  • the custom object processing module 335 of the external electronic device 308 may share information regarding the avatar data processing and the custom object data processing with the electronic device 301.
  • FIG. 4 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may operate in operation 410.
  • the camera application may be executed.
  • the processor 120 displays, as a preview image, an image acquired through a camera module (eg, the camera module 180 of FIG. 1 and the camera module 380 of FIG. 3) as a camera application (eg, of FIG. 1).
  • the display may be output to the display device 160.
  • the processor 120 may switch to the avatar generation mode in response to an input for requesting entry to the avatar generation mode.
  • the camera application may include menu items for switching to a camera function mode supported by the electronic devices 101 and 301, for example, an avatar generation mode, a camera switching mode, and a video shooting mode.
  • the avatar generation mode may be a mode in which the front camera is activated to acquire a selfie image of the user.
  • the processor 120 may acquire a selfie image.
  • the processor 120 may capture a selfie image of the user.
  • the processor 120 may call the gallery app and obtain a selfie image selected in the gallery app in response to an input for calling the gallery app in the avatar generation mode.
  • the processor 120 may set the self-image obtained automatically or manually as an image for generating an avatar.
  • the processor 120 may generate a user avatar based on the obtained selfie image.
  • the processor 120 may recognize a face region and a hair region from the selfie image and extract a user's distinctive feature.
  • the processor 120 may generate an avatar component for generating an avatar from the selfie image and generate a mapping element mapped to the user image based on the feature point.
  • the feature points may include at least one of eyes, nose, ears, mouths, spots, scars, beards, facial shapes, hairstyles, and skin colors.
  • the mapping element may include at least one of shape, shape information, location information, color information, length information, and width information of each feature point.
  • the processor 120 may transform the pre-stored face basic model into a 3D face shape using the generated avatar component, and combine the mapping element with the 3D face shape to generate a 3D face user avatar. .
  • the processor 120 may output guide information for agreeing to use the avatar information on a display (eg, the display device 160 of FIG. 1) and receive an input for agreeing to use the avatar information from the user.
  • the avatar information utilization agreement may be an agreement of usage rights for creating an avatar-based custom object (eg, sticker or emotico) and sharing the custom object in another application.
  • the processor 120 may generate a custom object by reprocessing the generated user avatar in response to a user input of agreeing to use the avatar information.
  • the processor 120 detects facial elements and outlines of faces from a user avatar, and changes an avatar shape corresponding to each pose based on a pose set of a defined sticker format.
  • a custom sticker object or a set of objects inserted with a user avatar may be generated.
  • the custom object may be at least one sticker (or emoticon) to which the user avatar is applied.
  • the custom object may be generated in the form of a set of stickers representing various emotion expressions.
  • the custom object may have a plurality of stickers having the same pose in various image formats.
  • the custom object may be generated as a first custom sticker generated in the form of a Graphics Interchange Format (GIF) image format and a second custom sticker created in the form of a PNG Portable Network Graphics (GIF) image format.
  • GIF Graphics Interchange Format
  • GIF PNG Portable Network Graphics
  • the processor 120 may transmit the generated user avatar to an external electronic device (eg, the electronic device 108 of FIG. 1, or FIG. 3) through a communication module (eg, the communication module 190 of FIG. 1). It may transmit to the external electronic device 308.
  • an external electronic device eg, the electronic device 108 of FIG. 1, or FIG. 3
  • a communication module eg, the communication module 190 of FIG. 1.
  • the processor 120 may transmit the user avatar information generated to the external electronic devices 108 and 308, and receive data about the custom object from the external electronic devices 108 and 308.
  • the processor 120 may provide a custom object generated based on the user avatar on the executed application screen according to a user request while executing the applications of the electronic devices 101 and 301.
  • the processor 120 may set the generated custom object to be linked with another application.
  • the processor 120 may additionally set a custom object in a keypad layout called to a top layer such as a keypad.
  • the processor 120 may additionally set an item for calling a custom object to a menu item for calling a gallery or an image on an application execution screen.
  • the processor 120 may set a user avatar as a user profile and change avatar information of an application related to the user profile into a user avatar.
  • the processor 120 may receive a user input for requesting a custom object call when the application is executed, and may call a custom sticker generated on the running application screen in response to the reception. For example, when the user selects a custom object call menu added to a keypad or an emoticon window when the message application is executed, the processor 120 may output a custom sticker set on the message application screen. When the user selects any one of the custom sticker sets, the processor 120 may transmit the selected sticker to the external electronic devices 108 and 308 in response to the user's request for transmission.
  • FIG. 5 is a diagram illustrating an avatar-based custom object generation method of an electronic device according to various embodiments of the present disclosure.
  • a user may execute a camera application of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) and enter the avatar generation mode. have.
  • an electronic device eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3
  • an electronic device In response to a request for executing a camera application of a user, an electronic device (eg, the processor of the electronic devices 101 and 301 of FIG. 1 (the processor 120 of FIG. 1) displays a display (eg, the display module 160 of FIG. 1).
  • a camera execution screen 510 may be output, which includes a menu area 511 for executing a camera function and a preview area 512 for displaying a preview image.
  • the menu area 511 may include at least one of a shooting button item 521, a video button item 522, and a gallery call item 523.
  • the mode switch area 513 is illustrated as being positioned on the upper part of the preview area 512 in ⁇ 5001>, but this is only a difference with respect to the screen layout, and may be arranged in another location according to the setting.
  • the user may select the avatar generation mode item 530 among the items in the mode switch area 513.
  • the processor 120 may enter the avatar generation mode and switch to the front camera to acquire a selfie image, as shown at 5002.
  • the face guide line 540 for the user's face recognition accuracy may be output to the display 160.
  • the user may select the photographing button item 521 for obtaining his selfie image.
  • the processor 120 moves the user from the camera module (eg, the camera module 180 of FIG. 1 and the camera module 380 of FIG. 3) in response to the selection of the shooting button item 521 as shown in FIG.
  • the selfie image 550 may be obtained by photographing.
  • the user may skip the shooting operation after entering the avatar generation mode, select the gallery call item 523, and then call the selfie image of the user stored in the gallery.
  • the selfie image of the user may be called a selfie image having a face size corresponding to the face guide line.
  • the processor 120 may output gender selection items 551 and 552 for generating an avatar.
  • the user may select a gender item, for example, a female item 551 and a next item 553, for generating an avatar. Then, the processor 120 may process the data so that an avatar having the selected female gender is generated, and output information indicating that the data is being processed as shown in ⁇ 5004>.
  • a gender item for example, a female item 551 and a next item 553, for generating an avatar. Then, the processor 120 may process the data so that an avatar having the selected female gender is generated, and output information indicating that the data is being processed as shown in ⁇ 5004>.
  • the processor 120 may output a user avatar output screen as shown in 5001 after data processing for generating a user avatar having characteristics similar to the user face based on the user image is completed.
  • the user avatar output screen includes edit items for editing an avatar, for example, hair 561 and hair color 562. At least one of the accessories 563, items for changing the clothes 564, and items 565 for adjusting the avatar size may be output.
  • the user may change the appearance of the generated user avatar by using the edit items displayed on the screen.
  • the appearance may include at least one of hair, accessories, clothes, skin color, and the appearance may be provided in a defined format form.
  • the user may select the confirmation item 566 and store the generated avatar in the electronic devices 101 and 301.
  • the processor 120 may output the avatar information utilization agreement guide screen as shown in 5007 in response to the selection of the confirmation item 566.
  • the avatar information utilization consent guide screen may output information 570 for guiding the creation of a user avatar-based custom object (eg, a sticker or emoticon) and setting of a usage right for sharing with another application.
  • the processor 120 may automatically generate a custom object based on the user avatar, and set the generated custom object to be linked to another application.
  • the processor 120 outputs a consent item and a disagreement item on the avatar information utilization consent guide screen, and when a selection input of the consent item is received, generates a custom object, You can set the created custom object to work with other applications.
  • FIG. 6 is a diagram illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3 uses a user avatar in a camera application to real-time expression and behavior of a user. It can be reflected and recorded.
  • the user may photograph the user to execute the camera application and output the selfie image 610 on the camera app screen 620.
  • the user may select the avatar generation mode item 615 and request generation of an avatar.
  • the processor may output the user avatar 630 generated on the camera app screen 620 as illustrated in ⁇ 6002>.
  • the processor 120 may maintain the execution of the camera and continuously acquire the preview image of the user.
  • the processor 120 analyzes the preview image of the user in parallel while the user avatar is output on the camera execution screen 620 and recognizes a gesture change such as a movement change or a facial expression change from the preview image of the user. Can be done.
  • the user may perform an open mouth or move head. Then, the processor 120 may control the user avatar output on the camera execution screen 620 to be changed according to the user's movement in real time by reflecting the recognized gesture change to the user avatar as shown in FIG. have. The user may capture an image in which the face shape of the user avatar 630 changes according to the user's movement in the camera shooting mode.
  • FIG. 7 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) according to various embodiments of the present disclosure may perform operation 710.
  • the processor 120 may set a use authority to utilize the custom sticker in another application when creating the custom sticker.
  • the processor 120 may execute an application (application) of the electronic device according to a user app execution request.
  • the application may be a text based application such as a message, a memo, a schedule, a social network service based application, a gallery, a photo application, but is not limited thereto.
  • the processor 120 may receive an input for calling a custom sticker in the executed application.
  • the processor 120 may receive a selection input for a custom sticker call item included in a keypad menu or an emoticon call menu on an application screen.
  • the processor 120 may check an image format type available in the executed app, and may output a custom sticker generated with the image format type identified in operation 750.
  • operation 740 may be omitted, and the operation may proceed from operation 730 to operation 750.
  • the processor 120 may output a custom sticker on the app execution screen.
  • the processor 120 may output a custom sticker set (or set) having various poses on a certain application screen in a popup form, an overlay form, or a split screen form.
  • the processor 120 may receive a user input of selecting at least one sticker from the output custom sticker set.
  • the processor 120 may apply the selected sticker to the executed app. For example, the processor 120 may insert and store a sticker selected by a user in a specific schedule when recording a schedule in a schedule application.
  • FIG. 8 is a diagram illustrating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure
  • FIG. 9 is a diagram illustrating a hierarchical structure of a custom object according to various embodiments of the present disclosure.
  • an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) according to various embodiments may support generation of various kinds of custom stickers.
  • the set of custom stickers can be generated based on a set of poses in a defined sticker format.
  • the pose set may be a set that can express at least 18 emotions, but is not limited thereto.
  • the pose set in the sticker format may be changed in various forms, and the number thereof is not limited.
  • the set of custom stickers as shown in Figure 8, stressful (811), sulky (812), okay (813), sadness (814), angry (815), hello (816), kiss (817), relieved (818), V Mark (819), weary (820), thinking (821), concentration (822), fearful (823), best (824), pretty (825), smile / happy ( 826), a negative 827, a laugh 828, and the like may be generated as a sticker that can express the emotion, but in addition to the above-described emotions may be generated stickers of other emotional expression.
  • the processor 120 of the electronic device may check out facial elements (eyes, noses, mouths or ears, unusual elements (eg, dots, beards, glasses, etc.)) and faces out of a face in a model corresponding to each emotional pose.
  • the line may be changed to reflect the user avatar to be applied.
  • the custom sticker can be produced in three layers. As shown in FIG. 9, when comparing the sticker object of 9001 and the hierarchy of 9002, the background image is the first layer (or layer) 910, and the user avatar is the second layer 920.
  • the third layer 930 may be generated to be distinguished.
  • the processor 120 may generate a custom sticker set of various types by replacing the data of the second layer with user avatar data generated based on the selfie image.
  • FIG 10 illustrates an example of operating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • the electronic device may support using a custom object in a certain application.
  • the processor eg, the processor 120 of FIG. 1 of the electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may execute a certain application in response to a request for execution of the user. .
  • the processor 120 may output the schedule recording screen 1010 as shown in ⁇ 1001>.
  • the user may select the text input window 1015 to call the keypad 1020.
  • the processor 120 displays the custom sticker set 1030 on the schedule recording screen 1010 as shown in ⁇ 1002>. You can print
  • the processor 120 may output the custom sticker set 1030 on the schedule recording screen 1010 without calling the keypad. have.
  • the user may select any one of the printed custom sticker sets and request completion of a schedule recording.
  • the processor 120 may insert the selected custom sticker 1055 on a specific day and store the schedule as shown in ⁇ 1003>.
  • 11 and 12 are diagrams illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • an electronic device may utilize a custom object in a message application or a social network-based application. Can be supported.
  • the processor 120 executes the message application in response to the message execution request and displays the message app screen 1101 on the display (eg, the display device 160 of FIG. 1) as shown at ⁇ 1101>. ) Can be printed. Since the message app corresponds to an application embedded in the electronic devices 101 and 301, a custom sticker item may be added to the emoticon menu and provided to the user. The user may call the custom sticker by selecting the emoticon item 1135 of the text input window 1130 on the message app screen 1101. As shown in ⁇ 1102>, the processor 120 may output the custom stocker set 1140 on the message app screen.
  • the user may request to run a social network based app.
  • the social network service based application may be an application provided by a service provider including a third party.
  • the processor eg, the processor 120 of FIG. 1
  • the social network-based app screen 1210 may be output.
  • the user can select text input window 1215 for keypad call.
  • the processor 120 may call the keypad 1220 on the social network-based app screen 1210 as shown in ⁇ 1202>.
  • the user may select a emoticon item 1225 of the keypad to call a custom sticker. Can be.
  • the processor 120 may output the custom sticker set 1230 on the social network-based app screen 1210 as shown in ⁇ 1203>.
  • the user may select one sticker among the printed custom sticker sets and select a transmission item.
  • the processor 120 may transmit the sticker selected by the user to the counterpart electronic device, as shown in FIG.
  • FIG. 13 is a view illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may include a gallery and a gallery. You can support the use of custom objects in video editing applications.
  • the user may request to execute an editing application for a gallery or an image.
  • the processor 120 may execute the editing application in response to the execution request and may output the editing app screen 1310 on the display (for example, the display device 160 of FIG. 1).
  • the user may call to output the image or image 1320 on the display for editing.
  • the user may select a sticker call item 1330 included in the editing app screen 1310 to call a custom sticker.
  • the processor 120 may output the custom sticker set 1340 on the image or image 1320 output on the editing app screen 1310 as shown in ⁇ 1302>.
  • the processor 120 may add the selected sticker 1345 to the image output on the screen. Can be. Thereafter, when the user selects the storage item 1350, the processor 120 may store the edited image to which the sticker is added.
  • FIG. 14 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor (eg, the processor 120 of FIG. 1) of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may be used. )) May detect a condition in which an avatar related event schedule or an external environment changes.
  • the processor 120 may determine whether an event schedule exists based on information of a schedule application.
  • the event schedule may be at least one of New Year's Day, Christmas Day, Chuseok, Valentine's Day, Birthday, and Anniversary, but is not limited thereto and may include various event schedules.
  • the processor 120 may determine whether the current weather has changed or the season has changed based on the weather information.
  • the processor 120 may generate a new custom object by adding an additional image corresponding to the event schedule or external environment change condition to the custom object in response to the detected event schedule or the external environment change condition.
  • the additional image may be an image of the background layer of the custom object or an image of the text layer, but is not limited thereto.
  • the electronic device may confirm that January 6 is the user's birthday schedule, and may create a custom object corresponding to the birthday image.
  • the processor 120 may provide a custom object added in addition to the custom sticker set in the sticker format defined when the application is executed. For example, when a user's input of a custom object call is received, the electronic device at January 6 may provide a custom object corresponding to a birthday image in addition to a custom sticker set based on a defined sticker format.
  • the processor 120 may determine that the additional custom object created based on the specific schedule is January 6 is the birthday schedule, and the birthday application is automatically set to provide the birthday sticker on January 6 Can be.
  • the processor 120 confirms that the external environment has changed when the weather rains, snows, or changes the season due to the detection of the external environment change condition, and the image corresponding to the rain A new custom object can be created based on the corresponding image and the image corresponding to each season.
  • the electronic device may generate a new custom object related to the weather and provide it to the user based on the background image falling on the snow and the text image of the snow.
  • the processor 120 may change the background image of the user avatar so that the external environment change is reflected in the user avatar set as the user profile as well as the custom object according to the external environment change condition.
  • 15 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) in operation 1510. May generate an avatar in operation.
  • the processor 120 may set the generated avatar as a user profile.
  • the processor 120 may output guide information for confirming whether to set a user profile when generating an avatar.
  • the processor 120 may store the generated user avatar as a user profile.
  • the processor 120 may change information of applications related to the profile in response to the user profile setting. For example, the processor 120 may change the profile set by default in the contact application to the generated user avatar. The user avatar changed to the user profile may be utilized in a call application, a message application, and a social network based application.
  • the electronic device may support the user to call the user avatar by adding the user avatar call item to the gallery call item when the user profile is set in the social network based application.
  • the user may call the user avatar from the social network based application or the avatar settable application to designate the user profile.
  • the electronic device may transmit the user avatar set when the call application is executed to the counterpart electronic device. Then, the user avatar transmitted from the electronic device may be output on the call screen of the counterpart electronic device.
  • 16 is a diagram illustrating an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • an electronic device may support setting a user profile using a custom sticker. For example, as shown in ⁇ 1601>, not only the user avatar but also any custom object generated based on the user avatar may be set in the user profile screen 1610.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may display various images of a custom sticker having the same pose.
  • a plurality of formats may be generated in a format, and a custom sticker in an image format suitable for an application may be utilized.
  • the processor 120 may generate the custom object as a first custom sticker generated in the form of a Graphics Interchange Format (GIF) image format and a second custom sticker generated in the form of a Portable Network Graphics (PNG) image format.
  • GIF Graphics Interchange Format
  • PNG Portable Network Graphics
  • the electronic device may generate a custom sticker in the form of another image format supported by an application installed in the electronic device, in addition to GIF and PNG.
  • the electronic device may be configured to identify an image format type available in an application executed according to a user request and to provide a custom sticker of an image format corresponding to the type to the execution application.
  • a custom sticker generated in the GIF image format may be applied.
  • a custom sticker generated in the GIF image format and the PNG image format may be applied.
  • a custom sticker generated in the PNG image format may be applied.
  • 17 is a flowchart illustrating an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may be used.
  • the processor 120 may detect the images recognized as the user by performing face recognition from the gallery database.
  • the processor 120 may determine whether at least one of the feature point and the face element is changed from the selected images.
  • the feature points may include at least one of eyes, nose, ears, mouths, spots, scars, beards, facial shapes, hairstyles, and skin colors.
  • the processor 120 may determine whether the feature point changes by comparing feature points recognized by a recognition algorithm obtained by applying machine learning or deep learning.
  • the processor 120 may detect a change in facial elements and an outline of a face from the user image, and determine whether the state change is detected by the user.
  • Facial elements may include eyes, nose, mouth or ears, specific elements (eg, dots, beards, glasses, etc.), and the outlines of the faces may include facial lines and hair lines.
  • the processor 120 may provide guide information on whether to perform an avatar update on a display screen.
  • the processor 120 may update the avatar by changing the avatar based on the change information.
  • the processor 120 may change the setting to the updated user avatar.
  • the processor 120 may change the reprocessed custom object based on the updated user avatar.
  • FIG. 18 is a view illustrating an operation of an avatar-based custom object of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) may be used. ) May assist in analyzing the gallery database to recognize the difference and reflect the difference in the user avatar when a difference occurs between the image recognized by the user and the generated user avatar.
  • the processor 120 may generate the user avatar 1815 generated based on the user image 1810 at ⁇ 1801> in the form shown at ⁇ 1802>.
  • the processor 120 may recognize that the change in the state of the face element of the user has been changed to the form in which the user image 1820 is wearing glasses accessories as shown in FIG.
  • the processor 120 may recognize the state change of the face element, recognize the glasses accessory, and generate the user avatar 1815 wearing the glasses as shown in the figure 1820.
  • the processor 120 may be configured to update the user avatar when a defined condition such as a latest image condition within a predetermined period of time or a state change condition that is repeated over a predetermined reference is satisfied.
  • a defined condition such as a latest image condition within a predetermined period of time or a state change condition that is repeated over a predetermined reference is satisfied.
  • FIG 19 illustrates an avatar-based custom object operating method of an electronic device according to various embodiments of the present disclosure.
  • a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 301 of FIG. 3) according to various embodiments of the present disclosure is operated in operation 1910.
  • the processor 120 may output guide information for notifying whether to agree with another avatar on the display.
  • the processor 120 may generate another avatar based on the image of the other recognized in the gallery.
  • the processor 120 may generate a custom sticker based on another avatar based on the generated other avatar.
  • the processor 120 may set the generated third person avatar to be applied as a profile of another person stored in the electronic device.
  • the processor 120 may transmit the other avatar information to the electronic device of the other person through the communication module.
  • the processor 120 outputs, on the display screen, guide information for notifying whether or not the other person's avatar information is transmitted to the other electronic device, and transmits the other person's avatar information to the other person's electronic device in response to a user's request for transmission. Can be.
  • operation 1950 may be omitted.
  • the processor 120 when the processor 120 generates a custom sticker based on another avatar, the processor 120 may transmit the custom sticker generated based on the other avatar to the other electronic device.
  • the processor 120 may determine whether change information on another avatar generated through gallery analysis is detected to determine whether to update another avatar. When it is necessary to change the avatar of another person in operation 1970, the processor 120 may provide updated information to the electronic device of another person.
  • Various embodiments of this document may include one or more instructions stored on a storage medium (eg, internal memory 136 or external memory 138) that can be read by a machine (eg, electronic device 101). It may be implemented as software (eg, program 140) including the.
  • a processor eg, the processor 120 of the device (eg, the electronic device 101) may call and execute at least one command among one or more instructions stored from the storage medium. This enables the device to be operated to perform at least one function in accordance with the at least one command invoked.
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' means only that the storage medium is a tangible device and does not contain a signal (e.g., electromagnetic waves), which is the case when data is stored semi-permanently on the storage medium. It does not distinguish cases where it is temporarily stored.
  • a signal e.g., electromagnetic waves
  • a method according to various embodiments disclosed in the present disclosure may be included in a computer program product.
  • the computer program product may be traded between the seller and the buyer as a product.
  • the computer program product may be distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play Store TM ) or two user devices ( Example: smartphones) can be distributed (eg downloaded or uploaded) directly or online.
  • a device-readable storage medium such as a server of a manufacturer, a server of an application store, or a relay server, or may be temporarily created.
  • each component eg, module or program of the above-described components may include a singular or plural entity.
  • one or more of the aforementioned components or operations may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of the component of each of the plurality of components the same as or similar to that performed by the corresponding component of the plurality of components before the integration. .
  • operations performed by a module, program, or other component may be executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations may be executed in a different order, or omitted. Or one or more other actions may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Tourism & Hospitality (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

다양한 실시예에 따르면 전자 장치에 있어서, 디스플레이와, 카메라 모듈과, 메모리와 및 프로세서를 포함하고, 상기 프로세서는, 셀피 이미지를 획득하고, 획득한 셀피 이미지를 기반으로 사용자 아바타를 생성하고, 상기 사용자 아바타를 재가공하여 전자 장치의 어플리케이션들과 연동되는 적어도 하나의 커스텀 객체를 생성하고, 어플리케이션을 실행하는 동안 상기 적어도 하나의 커스텀 객체를 상기 어플리케이션 실행 화면에 출력하도록 설정될 수 있다. 그 외에도, 다양한 실시예들이 가능하다.

Description

전자 장치 및 아바타 기반의 커스텀 객체 운용 방법
본 발명의 다양한 실시예는 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법에 관한 것이다.
사이버 공간에서 의사 소통의 보조 수단으로서 텍스트를 대신하여 이모티콘(emoticon) 또는 스티커가 사용되고 있다. 이모티콘 또는 스티커는 캐릭터, 문자, 기호 또는 숫자를 활용하여 사용자의 감정이나, 기분 또는 생각을 전달하기 위한 기호로 사용되고 있다. 그러나, 전자 장치의 이모티콘 또는 스티커 서비스는 지정된 어플리케이션 또는 독작적인 써드파티를 포함한 서비스 공급자가 제공하는 이모티콘 또는 스티커를 이용해야 하는 문제점이 존재한다. 이러한 이모티콘 또는 스티커 서비스는, 동일한 데이터를 다양한 어플리케이션을 통해 의사 전달을 위한 도구로 사용하는데 한계가 있으며, 사용자가 원하는 이모티콘 또는 스티커를 생성할 수 없는 단점이 존재한다.
한편, 자신의 분신을 의미하는 아바타는 사용자의 역할을 대신하는 그래픽 캐릭터로서, 게임, 채팅 서비스 이외의 다양한 분야에서 활용되고 있다. 최근 그래픽 기술의 향상에 따라 사용자들의 외모, 움직임 등의 실제 특징들을 가상 세계의 아바타에게 현실감 있게 반영하기 위한 연구가 이루어지고 있다.
본 발명의 실시예에 따르면, 사용자가 자신의 셀피 이미지를 이용하여 사용자 아바타를 생성하고, 사용자 아바타를 활용하여 커스텀 스티커를 생성함으로써 다양한 어플리케이션에서 커스텀 스티커를 활용할 수 있는 방법 및 전자 장치를 제공하고자 한다.
본 발명의 실시예에 따르면, 누적되는 사용자의 갤러리 이미지를 분석하여 사용자의 외형 변화를 분석하거나, 사용자 특징점의 정확성을 향상시켜 사용자 아바타를 업데이트함으로써 사용자와 닮은 최적화된 아바타 및 커스텀 스티커를 활용할 수 있는 방법 및 장치를 제공하고자 한다.
다양한 실시예에 따르면 전자 장치에 있어서, 디스플레이와, 카메라 모듈과, 메모리와 및 프로세서를 포함하고, 상기 프로세서는, 셀피 이미지를 획득하고, 획득한 셀피 이미지를 기반으로 사용자 아바타를 생성하고, 상기 사용자 아바타를 재가공하여 전자 장치의 어플리케이션들과 연동되는 적어도 하나의 커스텀 객체를 생성하고, 어플리케이션을 실행하는 동안 상기 적어도 하나의 커스텀 객체를 상기 어플리케이션 실행 화면에 출력하도록 설정될 수 있다.
다양한 실시예에 따르면 전자 장치의 아바타 기반의 커스텀 객체 운용 방법에 있어서, 사용자의 셀피 이미지를 획득하는 동작과, 상기 획득한 셀피 이미지를 기반으로 사용자 아바타 생성하는 동작과, 상기 생성된 사용자 아바타를 재가공하여 전자 장치의 어플리케이션들과 연동되는 적어도 하나의 커스텀 객체를 생성하는 동작과 상기 전자 장치의 어플리케이션을 실행하는 동안 사용자 요청에 따라 상기 사용자 아바타를 기반으로 생성된 상기 적어도 하나의 커스텀 객체를 사용자에게 제공하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치의 다양한 어플리케이션에서 사용자를 닮은 커스텀 스티커를 활용함으로써, 사용자의 개성이 반영되도록 할 수 있다.
다양한 실시예에 따르면, 사용자의 갤러리 이미지를 학습하여 사용자 아바타 및 커스텀 스티커로 업데이트함으로써, 사용자 인식률을 향상시키고, 사용자의 상태 변화를 보다 더 정확하게 반영할 수 있다.
다양한 실시예에 따르면, 이벤트 일정 발생, 외부 환경 변경 조건에 따라 사용자 아바타 또는 스티커의 외형을 변경함으로써 일반적인 감정 표현뿐만 아니라, 다양하고 특별한 형태의 상태를 표현할 수 있다.
도 1은 다양한 실시예에서의, 네트워크 환경 내의 전자 장치를 도시한다.
도 2는 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 3은 본 발명의 다양한 실시예에 따른 전자 장치 및 외부 전자 장치의 동작을 설명하기 위한 개념도를 도시한다.
도 4는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 5는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 생성 방법의 예시도이다.
도 6은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법의 예시도이다.
도 7은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 8은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 예시도이다.
도 9는 다양한 실시예에 따른 커스텀 객체의 계층 구조의 예시를 나타낸다.
도 10은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 11 및 도 12는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 13은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 14는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 15는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 16은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 예시도이다.
도 17은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 18은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 19는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치(101)의 블럭도이다.
도 1을 참조하면, 네트워크 환경에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 처리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)은 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)은, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)이 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimediainterface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 처리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 처리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 하나 이상의 안테나들을 포함할 수 있고, 이로부터, 제 1 네트워크 198 또는 제 2 네트워크 199와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purposeinput and output),SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)의 프로세서(120)는, 사용자가 지정한 셀피 이미지를 기반으로 사용자 아바타를 생성하고, 상기 사용자 아바타를 재가공하여 전자 장치의 어플리케이션들과 연동되는 커스텀 객체를 생성하고, 전자 장치(101)의 어플리케이션 실행 시 사용자 요청에 응답하여 상기 커스텀 객체를 어플리케이션 실행 화면에 출력하도록 제어할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)의 프로세서(120)는, 셀피 이미지로부터 특정 이미지 영역을 인식하여 사용자의 특징점(distinguishing feature)을 추출할 수 있다. 상기 프로세서(120)는 아바타 생성을 위한 아바타 구성 요소를 생성하고 특징점을 기반으로 사용자 이미지와 매핑되는 매핑 요소를 생성할 수 있다. 상기 프로세서(120)는, 미리 저장된 얼굴 기본 모델을 이용하여 아바타 구성 요소를 적용하여 3차원 얼굴 형태로 변형하고, 3차원 얼굴 형태에 매핑 요소를 결합하여 3차원 얼굴 형태의 사용자 아바타를 생성할 수 있다. 상기 특징점은, 눈, 코, 귀, 입, 점, 흉터, 수염, 얼굴형, 머리형 및 피부색 중 적어도 하나를 포함할 수 있다. 상기 매핑 요소는, 각 특징점들의 모양, 형태 정보, 위치 정보, 색상 정보, 길이 정보 및 너비 정보 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)의 프로세서(120)는, 상기 사용자 아바타로부터 얼굴 요소 및 얼굴의 아웃 라인을 검출할 수 있다. 상기 얼굴 요소는 눈, 코, 입, 귀 또는 특이 요소(예, 점, 수염, 안경 등)를 포함할 수 있고, 상기 얼굴의 아웃 라인은, 얼굴 라인 및 머리 라인을 포함할 수 있다.
상기 프로세서(120)는, 정의된 스티커 포맷의 포즈 세트(pose set)를 기반으로 검출된 얼굴 요소 및 얼굴의 아웃라인을 각 포즈에 맞는 모델에 적용하여 각 포즈에 대응하는 아바타 형태로 변경하고, 변경된 아바타 형태가 삽입된 커스텀 스티커 집합을 생성할 수 있다. 스티커 포맷의 포즈 세트는 적어도 하나 이상의 감정 포즈를 포함할 수 있으며, 각 감정 포즈에 대응하는 모델을 포함할 수 있다. 상기 모델은 얼굴 요소 및 아웃 라인의 형상을 감정 포즈에 대응하는 얼굴 형상으로 변경하기 위해 이용될 수 있다. 예를 들어, 모델은 웃는 표정, 우는 표정, 화난 표정 등의 얼굴의 표정을 스티커 포맷의 포즈에 맞게 사용자 아바타를 변경하는데 이용될 수 있다.
다양한 실시예에 따른 전자 장치(101)의 프로세서(120)는 아바타 관련 이벤트 일정 또는 외부 환경이 변경되는 조건을 검출하고, 검출된 이벤트 일정 또는 외부 환경의 변경 조건에 응답하여 이벤트 일정 또는 외부 환경 변경 조건에 대응하는 이미지를 커스텀 객체에 추가하여 추가 커스텀 객체를 생성할 수 있다. 상기 프로세서(120)는, 어플리케이션 실행 시 생성된 스티커 포맷의 커스텀 스티커 집합 이외에 추가된 커스텀 객체를 제공할 수 있다.
다양한 실시예에 따른 전자 장치(101)의 프로세서(120)는 갤러리 데이터 베이스(DB)를 분석하여 사용자를 인식한 이미지와, 생성된 사용자 아바타 간의 차이 변화를 검출하고, 차이 변화 정보를 기반으로 사용자 아바타를 업데이트할 수 있다.
다양한 실시예에 따른 전자 장치(101)의 프로세서(120)는 갤러리 DB를 사용자 이외에 정의된 빈도수 이상으로 인식된 타인을 확인하고, 타인에 대한 타인 아바타 및 타인 커스텀 스티커 중 적어도 하나를 생성하고, 타인 전자 장치(예, 도 1의 외부 전자 장치 104)로 생성된 타인 아바타 및 타인 커스텀 스티커 중 적어도 하나를 전송할 수 있다.
도 2는 다양한 실시예들에 따른, 카메라 모듈(180)을 예시하는 블럭도이다.
도 2를 참조하면, 카메라 모듈(도 1의 카메라 모듈(180))은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라a 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number),또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 일실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 표시 장치(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(160)를 통해 표시될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3 은 본 발명의 다양한 실시예에 따른 전자 장치 및 외부 전자 장치의 구성을 도시한다.
도 3을 참조하면, 다양한 실시예에 따른 전자 장치(301: 예, 도 1의 전자 장치(101))은 카메라 모듈(380: 예 도 1의 카메라 모듈(180)), 아바타 생성 모듈(383) 및 메모리(387)를 포함할 수 있다.
도시되지는 않았지만, 전자 장치(301)는 외부 전자 장치(308) 예를 들어 서버와 데이터를 송수신할 수 있는 통신 모듈(예: 도 1의 통신 모듈(190))을 포함할 수 있다. 외부 전자 장치(308) 역시 전자 장치(101)와 데이터를 송수신할 수 있는 통신 모듈을 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치(301)는 인식 모듈(381) 및 커스텀 객체 처리 모듈(385)이 더 포함할 수 있다. 예를 들어, 전자 장치(301)에 포함된 인식 모듈(381) 및 커스텀 객체 처리 모듈(385)은 프로세서(예, 도 1의 프로세서(120))로서 구현될 수 있다. 전자 장치(301)의 인식 모듈(381) 및 커스텀 객체 처리 모듈(385)은 외부 전자 장치(308)의 인식 모듈(331) 및 커스텀 객체 처리 모듈(335)의 기능들 중 적어도 일부와 동일한 기능을 수행하도록 구성될 수 있다. 예를 들어, 전자 장치(301)의 인식 모듈(381)은, 이미지에서 얼굴을 인식하도록 구성된 하드웨어로서, 외부 전자 장치(308)(예: 서버(108)보다 간단하고 빠르게 얼굴을 인식하기 위한 용도로 사용될 수 있다. 전자 장치(301)의 커스텀 객체 처리 모듈(385)은 생성된 아바타에서 커스텀 객체를 생성하기 위한 용도로 사용될 수 있다.
외부 전자 장치(308)(예: 도 1의 전자 장치(104) 또는 서버(108))는 인식 모듈(331), 커스텀 객체 처리 모듈(335) 및 저장소(337)를 포함할 수 있다. 인식 모듈(331)은 논리 모듈일 수 있으며, 외부 전자 장치(308)의 프로세서(processor)로 구현될 수도 있다. 커스텀 객체 처리 모듈(335) 또한 외부 전자 장치(308)의 프로세서로 구현될 수 있다. 일 실시예에 따르면, 외부 전자 장치(308)의 프로세서가 인식과 커스텀 객체 처리를 모두 수행할 수도 있다.
어떤 실시예에서는 외부 전자 장치(308)에 아바타 생성 모듈(333)이 더 포함될 수도 있다. 외부 전자 장치(308)의 아바타 생성 모듈(333)은 전자 장치(301)의 아바타 생성 모듈(381)의 기능들 중 적어도 일부와 동일한 기능을 수행하도록 구성될 수 있다. 외부 전자 장치(308)의 아바타 생성 모듈(333)은 전자 장치(301)에서 생성되는 사용자 아바타 보다 사용자 얼굴과 유사도가 높은 사용자 아바타를 생성하기 위한 용도로 사용될 수 있다.
전자 장치(301)의 메모리(387)에 저장되거나 카메라 모듈(380)로부터 획득한 이미지는 외부 전자 장치(308)의 저장소(337)로 업로드 될 수 있다. 전자 장치(301)와 외부 전자 장치(308)는 통신 모듈을 통해 사용자 아바타와 관련된 데이터를 송수신할 수 있다.
어떤 실시예에서는 전자 장치(301)와 외부 전자 장치(308)가 상호 협동적으로 동작하여 사용자 아바타 생성 및 커스텀 객체를 생성할 수 있다, 이하 설명의 편의를 위하여 각 동작의 주체를 구분하였을 뿐, 전자 장치(301) 및 외부 전자 장치(308) 둘 다 각 동작들을 수행할 수 있음은 당연하다.
일 실시예에 따르면, 외부 전자 장치(308)의 인식 모듈(331)은, 이미지 영역에 대하여 사물 인식 알고리즘 또는 텍스처 인식 알고리즘을 적용하여, 적어도 하나의 이미지 영역을 인식할 수도 있다. 외부 전자 장치(308)의 인식 모듈(331)은, 다양한 인식 알고리즘을 이용하여 적어도 하나의 이미지 영역을 인식할 수 있으며, 저장소(337, 예, 이미지 저장소)에 머신 러닝(machine learning) 또는 딥 러닝(deep learning)을 적용한 인식 알고리즘을 이용하여 적어도 하나의 이미지 영역(예, 얼굴 )을 인식할 수 있다. 인식 모듈(331)은 적어도 하나의 객체 예를 들어 얼굴을 인식할 수 있다.
어떤 실시예에서는 머신 러닝(machine learning) 또는 딥 러닝(deep learning)을 적용하여 획득한 인식 알고리즘에 의한 이미지 인식 정보를 전자 장치(301)로 제공할 수 있다.
일 실시예에 따르면, 전자 장치(301)의 아바타 생성 모듈(383)은, 논리 회로일 수 있으며, 전자 장치(301)의 프로세서(예, 도 1의 프로세서(120)로 구현될 수도 있다. 아바타 생성 모듈(383)은 이미지로부터 인식된 이미지 영역으로부터 사용자의 특징점(distinguishing feature)을 추출하고, 아바타 생성을 위한 아바타 구성 요소를 생성하고 특징점을 기반으로 사용자 이미지와 매핑되는 매핑 요소를 생성할 수 있다. 아바타 생성 모듈(383)은 미리 저장된 얼굴 기본 모델에 아바타 구성 요소를 반영하여 3차원 얼굴 형태로 변형할 수 있다. 아바타 생성 모듈(383)은 3차원 얼굴 형태에 매핑 요소를 결합하여 3차원 얼굴 형태의 사용자 아바타를 생성할 수 있다. 아바타 생성 모듈(383)은, 인식된 사용자의 얼굴 이미지와 생성된 사용자 아바타 이미지가 사용자의 실제 얼굴과 유사하도록 이미지를 처리할 수 있다. 전자 장치(301)의 아바타 생성 모듈(383)은, 생성된 사용자 아바타 정보를 외부 전자 장치(308)와 공유할 수 있다.
일 실시예에 따르면, 외부 전자 장치(308)의 커스텀 객체 처리 모듈(335)은 사용자 아바타로부터 얼굴 요소 및 얼굴의 아웃 라인을 검출할 수 있다. 얼굴 요소는 눈, 코, 입 또는 귀, 특이 요소(예, 점, 수염, 안경 등)를 포함할 수 있고, 얼굴의 아웃 라인은, 얼굴 라인 및 머리 라인을 포함할 수 있다. 커스텀 객체 처리 모듈(335)은 정의된 스티커 포맷의 포즈 세트(pose set)를 기반으로 검출된 얼굴 요소 및 얼굴의 아웃라인을 각 포즈에 맞는 모델에 적용하여 각 포즈에 대응하는 사용자 아바타 형태로 변경할 수 있다. 정의된 스티커 포맷의 포즈 세트는 적어도 하나 이상의 감정 포즈를 포함할 수 있으며, 모델은 얼굴 요소 및 아웃 라인의 형상을 감정 포즈에 대응하는 형상으로 변경하기 위해 이용될 수 있다. 커스텀 객체 처리 모듈(335)은 각 포즈에 대응하는 사용자 아바타로 변경된 복수의 스티커를 포함하는 커스텀 스티커 집합을 생성할 수 있다.
외부 전자 장치(308)의 커스텀 객체 처리 모듈(335)은 아바타 관련 이벤트 일정 또는 외부 환경이 변경되는 조건을 검출하고, 검출된 이벤트 일정 또는 외부 환경의 변경 조건에 응답하여 이벤트 일정 또는 외부 환경 변경 조건에 대응하는 이미지를 커스텀 객체에 추가하여 추가 커스텀 객체를 생성할 수 있다.
외부 전자 장치(308)의 커스텀 객체 처리 모듈(335)은 갤러리 데이터 베이스(DB)를 분석하여 사용자를 인식한 이미지와, 생성된 사용자 아바타 간의 차이 변화를 검출하고, 차이 변화 정보를 기반으로 사용자 아바타를 업데이트하도록 처리할 수 있다.
외부 전자 장치(308)의 커스텀 객체 처리 모듈(335)은 아바타 데이터 처리 및 커스텀 객체 데이터 처리에 관한 정보를 전자 장치(301)와 공유할 수 있다.
도 4는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 4를 참조하면, 일 실시예에 따른 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120)) 는 410 동작에서, 사용자의 카메라 실행 요청에 응답하여 카메라 어플리케이션(application, 앱)을 실행할 수 있다. 프로세서(120)는, 카메라 어플리케이션 실행에 따라 카메라 모듈(예, 도 1의 카메라 모듈(180), 도 3의 카메라 모듈(380))을 통해 획득한 영상을 프리뷰 이미지로서 디스플레이(예, 도 1의 표시 장치(160))에 출력할 수 있다.
420 동작에서, 프로세서(120)는, 아바타 생성 모드 진입을 요청하는 입력에 응답하여 아바타 생성 모드로 전환할 수 있다. 일 실시예에 따르면, 카메라 어플리케이션은, 전자 장치(101,301)에서 지원 가능한 카메라 기능 모드로 전환할 수 있는 메뉴 항목들 예를 들어, 아바타 생성 모드, 카메라 전환 모드, 동영상 촬영 모드를 포함할 수 있다. 아바타 생성 모드는, 사용자의 셀피 이미지를 획득하기 위해 전면 카메라가 활성화된 모드일 수 있다.
430 동작에서, 프로세서(120)는 셀피 이미지를 획득할 수 있다.
일 예를 들어, 아바타 생성 모드에서 촬영 입력 요청을 수신하는 경우, 프로세서(120)는 사용자의 셀피 이미지를 촬영할 수 있다.
다른 예를 들어, 프로세서(120)는 아바타 생성 모드에서 갤러리 앱을 호출하는 입력에 응답하여 갤러리 앱을 호출하고 갤러리 앱에서 선택된 셀피 이미지를 획득할 수 있다.
일 실시예에 따르면, 프로세서(120)는 자동적으로 또는 수동적으로 획득한 셀피 이미지를 아바타 생성을 위한 이미지로서 설정할 수 있다.
440 동작에서 프로세서(120)는 획득한 셀피 이미지를 기반으로 사용자 아바타를 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 셀피 이미지로부터 얼굴 영역과, 헤어 영역을 인식하고, 사용자의 특징점(distinguishing feature)을 추출할 수 있다. 프로세서(120)는, 셀피 이미지로부터 아바타 생성을 위한 아바타 구성 요소를 생성하고 특징점을 기반으로 사용자 이미지와 매핑되는 매핑 요소를 생성할 수 있다. 특징점은, 눈, 코, 귀, 입, 점, 흉터, 수염, 얼굴형, 머리형 및 피부색 중 적어도 하나를 포함할 수 있다. 매핑 요소는, 각 특징점들의 모양, 형태 정보, 위치 정보, 색상 정보, 길이 정보 및 너비 정보 중 적어도 하나를 포함할 수 있다. 프로세서(120)는, 미리 저장된 얼굴 기본 모델을 생성된 아바타 구성 요소를 이용하여 3차원 얼굴 형태로 변형하고, 3차원 얼굴 형태에 매핑 요소를 결합하여 3차원 얼굴 형태의 사용자 아바타를 생성할 수 있다.
450 동작에서, 프로세서(120)는 아바타 정보 활용을 동의하는 안내 정보를 디스플레이(예, 도 1의 표시 장치(160))에 출력하고, 사용자로부터 아바타 정보 활용에 동의하는 입력을 수신할 수 있다. 아바타 정보 활용 동의는 아바타 기반의 커스텀 객체(예, 스티커 또는 이모티코) 생성 및 다른 어플리케이션에서 커스텀 객체 공유를 위한 사용 권한의 동의일 수 있다.
460 동작에서, 프로세서(120)는 아바타 정보 활용을 동의하는 사용자 입력에 응답하여 생성된 사용자 아바타를 재가공하여 커스텀 객체를 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 사용자 아바타로부터 얼굴 요소 및 얼굴의 아웃 라인을 검출하고, 정의된 스티커 포맷의 포즈 세트(pose set)를 기반으로 각 포즈에 대응하는 아바타 형태를 변경하여 사용자 아바타가 삽입된 커스텀 스티커 객체 또는 객체들의 집합을 생성할 수 있다.
일 실시예에 따르면, 커스텀 객체는 사용자 아바타가 적용된 적어도 하나 이상의 스티커(또는 이모티콘)일 수 있다. 커스텀 객체는 다양한 감정 표현으로 나타내는 복수의 스티커의 집합 형태로 생성될 수도 있다. 커스텀 객체는 동일한 포즈의 스티커가 다양한 이미지 포맷 형태로 복수 개 생성될 수 있다. 예를 들어, 커스텀 객체는 GIF(Graphics Interchange Format) 이미지 포맷 형태로 생성된 제1 커스텀 스티커 및 PNG Portable Network Graphics)이미지 포맷 형태로 생성된 제2 커스텀 스티커로 생성될 수 도 있다.
일 실시예에 따르면, 프로세서(120)는 생성된 사용자 아바타를 통신 모듈(예, 도 1의 통신 모듈 (190))을 통해 외부 전자 장치(예, 도 1의 전자 장치(108), 도 3의 외부 전자 장치(308))로 전송할 수 있다.
다른 실시예에 따르면, 프로세서(120)는 외부 전자 장치(108,308)로 생성된 사용자 아바타 정보를 전달하고, 외부 전자 장치(108,308)로부터 커스텀 객체에 대한 데이터를 수신할 수도 있다.
470 동작에서, 프로세서(120)는 전자 장치(101,301)의 어플리케이션을 실행하는 동안 사용자 요청에 따라 사용자 아바타를 기반으로 생성된 커스텀 객체를 실행된 어플리케이션 화면에 제공할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 생성된 커스텀 객체를 다른 어플리케이션과 연동되도록 설정할 수 있다. 프로세서(120)는 키패드와 같이 최상위 계층으로 호출되는 키패드 레이아웃에 커스텀 객체를 추가 설정할 수 있다. 프로세서(120)는 어플리케이션 실행 화면에서 갤러리, 영상을 호출하는 메뉴 항목에 커스텀 객체를 호출하기 위한 항목을 추가 설정할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는, 사용자 아바타를 사용자 프로파일로 설정하고 사용자 프로파일과 관련되는 어플리케이션의 아바타 정보를 사용자 아바타로 변경할 수 있다.
다양한 실시예에 따르면, 프로세서(120)는 어플리케이션 실행 시 커스텀 객체 호출을 요청하는 사용자 입력을 수신하고, 수신에 응답하여 실행중인 어플리케이션 화면에 생성된 커스텀 스티커를 호출할 수 있다. 예를 들어, 메시지 어플리케이션 실행 시 사용자가 키패드 또는 이모티콘 창에 추가된 커스텀 객체 호출 메뉴를 선택하는 경우, 프로세서(120)는 메시지 어플리케이션 화면에 커스텀 스티커 세트를 출력할 수 있다. 사용자가 커스텀 스티커 세트 중 어느 하나의 커스텀 스티커를 선택하는 경우, 프로세서(120)는 선택된 스티커를 사용자의 전송 요청에 응답하여 외부 전자 장치(108, 308)로 전송할 수 있다.
도 5는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 생성 방법의 예시도이다.
도 5를 참조하면, 다양한 실시예에 따르면, 사용자는 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 카메라 어플리케이션을 실행하고 아바타 생성 모드로 진입할 수 있다.
사용자의 카메라 어플리케이션을 실행 요청에 응답하여 전자 장치(예, 도 1의 전자 장치(101, 301)의 프로세서(도 1의 프로세서(120))는 디스플레이(예, 도 1의 표시 모듈(160))에 <5001>에 도시된 바와 같이, 카메라 실행 화면(510)을 출력할 수 있다. 카메라 실행 화면(510)은 카메라 기능 실행을 위한 메뉴 영역(511)과, 프리뷰 이미지가 표시되는 프리뷰 영역(512), 모드 전환 영역(513)을 포함할 수 있다. 메뉴 영역(511)은, 촬영 버튼 항목(521), 동영상 버튼 항목(522), 갤러리 호출 항목(523) 중 적어도 하나를 포함할 수 있으나, 이에 한정하는 것은 아니다. <5001>에서 모드 전환 영역(513)이 프리뷰 영역(512) 상단에 위치한 것으로 도시되나 이는 화면 배치에 대한 차이일 뿐, 설정에 따라 다른 위치에 배치될 수 있다.
사용자는 모드 전환 영역(513)의 항목들 중 아바타 생성 모드 항목(530)을 선택할 수 있다. 프로세서(120)는 아바타 생성 모드로 진입하고 <5002>에 도시된 바와 같이, 셀피 이미지를 획득하기 위해 전면 카메라로 전환할 수 있다. 아바타 생성 모드의 경우, 사용자의 얼굴 인식 정확성을 위한 얼굴 가이드 라인(540)이 디스플레이(160)에 출력될 수 있다.
사용자는 자신의 셀피 이미지 획득을 위해 촬영 버튼 항목(521)을 선택할 수 있다. 프로세서(120)는 <5003> 에 도시된 바와 같이 촬영 버튼 항목(521)의 선택에 응답하여 카메라 모듈(예, 도 1의 카메라 모듈(180), 도 3의 카메라 모듈(380))로부터 사용자를 촬영하여 셀피 이미지(550)를 획득할 수 있다.
다른 실시예에 따르면, 사용자는 아바타 생성 모드로 진입 후 촬영 동작을 생략하고, 갤러리 호출 항목(523)을 선택한 후, 갤러리에 저장된 사용자의 셀피 이미지를 호출할 수도 있다. 이 경우, 사용자의 셀피 이미지는 얼굴 가이드 라인에 대응하는 얼굴 크기를 갖는 셀피 이미지가 호출될 수 있다.
<5003> 도면에서 프로세서(120)는 아바타 생성을 위한 성별 선택 항목(551,552)을 출력할 수 있다.
사용자는 아바타 생성을 위해 성별 항목 예를 들어, female 항목(551)을 선택하고 next 항목(553)을 선택할 수 있다. 그러면, 프로세서(120)는 선택된 female 성별을 갖는 아바타가 생성되도록 데이터를 처리하고, 데이터 처리 중임을 안내하는 정보를 <5004>에 도시된 바와 같이 출력할 수 있다.
프로세서(120)는, 사용자 이미지를 기반으로 사용자 얼굴과 유사한 특징을 갖는 사용자 아바타를 생성하기 위한 데이터 처리가 완료된 후, <5006>에 도시된 바와 같이, 사용자 아바타 출력 화면을 출력할 수 있다. 사용자 아바타 출력 화면은 아바타 편집을 위한 편집 항목들 예를 들어, 헤어(561), 헤어 색상(562). 액세서리(563), 옷(564)을 변경하기 위한 항목들, 아바타 크기를 조절하기 위한 항목(565) 중 적어도 하나를 출력할 수 있다.
사용자는 화면에 출력된 편집 항목들을 이용하여 생성된 사용자 아바타의 외형을 변경할 수 있다. 외형은, 헤어, 악세서리, 옷, 피부 색상 중 적어도 하나를 포함할 수 있으며, 이러한 외형은 정의된 포맷 형태가 제공될 수 있다.
사용자는 확인 항목(566)을 선택하여 생성된 아바타를 전자 장치(101, 301)에 저장할 수 있다
프로세서(120)는 확인 항목(566) 선택에 응답하여 <5007>에 도시된 바와 같이, 아바타 정보 활용 동의 안내 화면을 출력할 수 있다. 아바타 정보 활용 동의 안내 화면에는 사용자 아바타 기반의 커스텀 객체(예, 스티커 또는 이모티콘)의 생성 및 다른 어플리케이션과의 공유를 위한 사용 권한의 설정을 안내하는 정보(570)가 출력될 수 있다.
일 실시예에 따르면, 프로세서(120)는 아바타 생성 완료 시 자동적으로 사용자 아바타를 기반으로 커스텀 객체를 생성하고, 생성된 커스텀 객체를 다른 어플리케이션에 연동되도록 설정할 수 있다.
다른 실시예에 따르면, 도면에 도시되지 않았으나, 프로세서(120)는 아바타 정보 활용 동의 안내 화면에 동의 항목 및 비동의 항목을 출력하고, 동의 항목의 선택 입력이 수신되는 경우, 커스텀 객체를 생성하고, 생성된 커스텀 객체를 다른 어플리케이션에 연동되도록 설정할 수 있다.
도 6은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법의 예시도이다.
도 6을 참조하면, 다양한 실시예에 따르면, 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301)는 카메라 어플리케이션에서 사용자 아바타를 이용하여 사용자의 표정, 행동을 실시간으로 반영하고, 이를 녹화하는 기능을 지원할 수 있다.
<6001>에 도시된 바와 같이 사용자가 카메라 어플리케이션 실행하여 카메라 앱 화면(620)에 셀피 이미지(610)를 출력하도록 사용자를 촬영 할 수 있다. 사용자는 아바타 생성 모드 항목(615)을 선택하여 아바타 생성을 요청할 수 있다.
프로세서(예, 도 1의 프로세서(120))는 <6002>에 도시된 바와 같이, 카메라 앱 화면(620)에 생성된 사용자 아바타(630)를 출력할 수 있다. 이 때, 프로세서(120)는, 카메라의 실행을 유지하고 사용자의 프리뷰 이미지를 지속적으로 획득할 수 있다.
프로세서(120)는, 카메라 실행 화면(620)에 사용자 아바타가 출력된 상태에서 병렬적으로 사용자의 프리뷰 이미지를 분석하고, 사용자의 프리뷰 이미지로부터 움직임 변화, 표정 변화 등의 제스처 변화를 인식하는 동작을 수행할 수 있다.
사용자는 입을 벌리거나 고개를 움직이는 행동을 수행할 수 있다. 그러면, 프로세서(120)는 <6003> 에 도시된 바와 같이, 인식된 제스처 변화를 사용자 아바타에 반영하여 카메라 실행 화면(620)에 출력된 사용자 아바타가 실시간으로 사용자의 움직임에 따라 변경되도록 제어할 수 있다. 사용자는 카메라 촬영 모드에서 사용자 아바타(630) 얼굴 형태가 사용자의 움직임에 따라 변화되는 영상을 촬영할 수 있다.
도 7은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 7을 참조하면, 다양한 실시예에 따른 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 710 동작에서 사용자 아바타를 기반으로 커스텀 스티커를 생성할 수 있다. 프로세서(120)는 커스텀 스티커 생성 시 커스텀 스티커를 다른 어플리케이션에 활용되도록 사용 권한을 설정할 수 있다.
720 동작에서, 프로세서(120)는 사용자 앱 실행 요청에 따라 전자 장치의 어플리케이션(application, 앱)을 실행할 수 있다. 여기서, 어플리케이션을 메시지, 메모, 일정 등 텍스트 기반의 어플리케이션, 소셜 네트워크 서비스 기반의 어플리케이션, 갤러리, 포토 어플리케이션 일 수 있으나, 이에 한정하는 것은 아니다.
730 동작에서, 프로세서(120)는 실행된 어플리케이션 내에서 커스텀 스티커를 호출하는 입력을 수신할 수 있다. 예를 들어, 프로세서(120)는 어플리케이션 화면에서 키패드 메뉴 또는 이모티콘 호출 메뉴에 포함된 커스텀 스티커 호출 항목에 대한 선택 입력을 수신할 수 있다.
일 실시예에 다르면, 740 동작에서, 프로세서(120)는 실행된 앱에서 이용 가능한 이미지 포맷 타입을 확인하고, 750 동작에서 확인된 이미지 포맷 타입으로 생성된 커스텀 스티커를 출력할 수 있다. 어떤 실시예에서 740 동작은 생략되고, 730 동작에서 750 동작으로 진행할 수도 있다.
750 동작에서, 프로세서(120)는 앱 실행 화면에 커스텀 스티커를 출력할 수 있다. 예를 들어, 프로세서(120)는 일정 어플리케이션 화면에 다양한 포즈를 갖는 커스텀 스티커 집합(또는 세트)을 팝업 형태, 오버레이 형태 또는 화면 분할 형태로 출력할 수 있다.
760 동작에서, 프로세서(120)는 출력된 커스텀 스티커 집합 중 적어도 하나의 스티커를 선택하는 사용자 입력을 수신할 수 있다. 770 동작에서, 프로세서(120)는 실행된 앱에 선택된 스티커를 적용할 수 있다. 예를 들어, 프로세서(120)는 일정 어플리케이션에 일정 기록 시 사용자가 선택한 스티커를 특정 일정에 삽입하여 저장할 수 있다,
도 8은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 예시도이고 도 9는 다양한 실시예에 따른 커스텀 객체의 계층 구조의 예시를 나타낸다.
도 8을 참조하면, 다양한 실시예에 따른 전자 장치 (예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))는 다양한 종류의 커스텀 스티커의 생성을 지원할 수 있다.
커스텀 스티커의 집합은, 정의된 스티커 포맷의 포즈 세트를 기반으로 생성될 수 있다. 포즈 세트는 적어도 18 개의 감정을 표현할 수 있는 세트일 수 있으나, 이에 한정하지 않는다. 스티커 포맷의 포즈 세트는 다양한 형태로 변경될 수 있으며, 그 개수 또한 제한적이지 않다.
일 실시예에 따르면, 커스텀 스티커의 집합은, 도 8에 도시된 바와 같이, stressful(811), sulky(812), okay(813), sadness(814), angry(815), hello(816), kiss(817), relieved(818), V Mark(819), weary(820), thinking(821), concentration(822), fearful(823), best(824), pretty(825), smile/happy(826), negative(827), laugh(828) 등과 같은 감정을 표현할 수 있는 스티커로 생성될 수 있으나, 상술한 감정 이외에 다른 감정 표현의 스티커를 생성할 수도 있다.
다양한 실시예에 따르면, 전자 장치의 프로세서(120)는 각 감정 포즈에 대응하는 모델에서 얼굴 요소(눈, 코, 입 또는 귀, 특이 요소(예, 점, 수염, 안경 등)) 및 얼굴의 아웃 라인을 변경하여 사용자 아바타가 적용되도록 반영할 수 있다. 이를 위해 커스텀 스티커는 3계층 형태로 제작될 수 있다. 도 9에 도시된 바와 같이, 9001의 스티커 객체와 9002의 계층 구조를 비교해 보면, 백그라운드 이미지는 제1 레이어(또는 계층) 로(910), 사용자 아바타는 제2 레이어(920)로, 텍스트 이미지를 제3 레이어(930)로 구별하여 생성할 수 있다. 프로세서(120)는, 제2 레이어의 데이터를 셀피 이미지에 기반하여 생성된 사용자 아바타 데이터로 교체함으로써, 다양한 형태의 커스텀 스티커 집합을 생성할 수 있다.
도 10은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 10을 참조하면, 다양한 실시예에 따르면 전자 장치는 일정 어플리케이션에서 커스텀 객체를 활용하도록 지원할 수 있다.
전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 사용자의 실행 요청에 응답하여 일정 어플리케이션을 실행할 수 있다. 사용자가 특정일을 기록하기 위해 특정일을 선택할 경우, 프로세서(120)는 <1001>에 도시된 바와 같이, 일정 기록 화면(1010)을 출력할 수 있다. 일정 기록 화면(1010)에서 사용자는 텍스트 입력 창(1015)을 선택하여 키패드(1020)를 호출할 수 있다.
일 예에서, 사용자가 키패드의 이모티콘 항목(1025)을 선택하여 커스텀 스티커를 호출할 경우, 프로세서(120)는 <1002>에 도시된 바와 같이 일정 기록 화면(1010) 위에 커스텀 스티커 집합(1030)을 출력할 수 있다.
다른 예에서, 일정 기록 화면(1010)에 포함된 스티커 호출 항목(1040)을 선택할 경우, 프로세서(120)는 키패드의 호출 없이, 일정 기록 화면(1010) 위에 커스텀 스티커 집합(1030)을 출력할 수도 있다.
사용자가 출력된 커스텀 스티커 집합 중 어느 하나의 스티커를 선택하고 일정 기록의 완료를 요청할 수 있다. 프로세서(120)는 완료 요청에 응답하여 <1003>에 도시된 바와 같이, 선택된 커스텀 스티커(1055)를 특정일에 삽입하여 일정을 저장할 수 있다.
도 11 및 도 12는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 11 및 도 12를 참조하면, 다양한 실시예에 따르면 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))는 메시지 어플리케이션 또는 소셜 네트워크 기반 어플리케이션에서 커스텀 객체를 활용하도록 지원할 수 있다.
일 실시예에 따르면, 프로세서(120)는 메시지 실행 요청에 응답하여 메시지 어플리케이션을 실행하고 디스플레이(예, 도 1의 표시 장치(160))에 <1101>에 도시된 바와 같이, 메시지 앱 화면(1101)을 출력할 수 있다. 메시지 앱은 전자 장치(101,301)에 내장된 어플리케이션에 해당되므로, 이모티콘 메뉴에 커스텀 스티커 항목이 추가되어 사용자에게 제공될 수 있다. 사용자가 메시지 앱 화면(1101)에서 텍스트 입력 창(1130)의 이모티콘 항목(1135)을 선택하여 커스텀 스티커를 호출할 수 있다. <1102>에 도시된 바와 같이, 프로세서(120)은 커스텀 스터커 집합(1140))을 매시지 앱 화면 위에 출력할 수 있다,
일 실시예에 따르면, 사용자는 소셜 네트워크 기반 앱 실행을 요청할 수 있다. 소셜 네트워크 서비스 기반의 어플리케이션은 써드파티를 포함한 서비스 공급자에서 제공하는 어플리케이션일 수 있다. 전자 장치(101,301)의 프로세서(예, 도 1의 프로세서(120))는 실행 요청에 응답하여 소셜 네트워크 기반의 어플리케이션을 실행하고 디스플레이(예, 도 1의 표시 장치(160))에 <1201>에 도시된 바와 같이, 소셜 네크워크 기반의 앱 화면(1210)을 출력할 수 있다.
사용자는 키패드 호출을 위해 텍스트 입력 창(1215)을 선택할 수 있다. 프로세서(120)는 <1202>에 도시된 바와 같이 소셜 네크워크 기반의 앱 화면(1210)에서 키패드(1220)를 호출할 수 있다, 사용자는 키패드의 이모티콘 항목(1225)을 선택하여 커스텀 스티커를 호출 할 수 있다. 프로세서(120)는 <1203>에 도시된 바와 같이 소셜 네크워크 기반의 앱 화면(1210) 위에 커스텀 스티커 집합(1230)을 출력할 수 있다.
이후 사용자가 출력된 커스텀 스티커 집합 중 어느 하나의 스티커를 선택하고 전송 항목을 선택할 수 있다. 그러면, 프로세서(120)는 에 도시된 바와 같이, 사용자가 선택한 스티커를 상대방 전자 장치로 전송할 수 있다.
도 13은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 13을 참조하면, 다양한 실시에에 따르면 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 갤러리 및 영상 편집 어플리케이션에서 커스텀 객체를 활용하도록 지원할 수 있다.
사용자는 갤러리 또는 영상을 위한 편집 어플리케이션의 실행을 요청할 수 있다. 프로세서(120)는 실행 요청에 응답하여 편집 어플리케이션을 실행하고 디스플레이(예, 도 1의 표시 장치(160))에 편집 앱 화면(1310)을 출력할 수 있다.
사용자는 편집을 위해 이미지 또는 영상(1320)이 디스플레이에 출력되도록 호출할 수 있다. 사용자는 편집 앱 화면(1310)에 포함된 스티커 호출 항목(1330)을 선택하여 커스텀 스티커를 호출 할 수 있다. 그러면, 프로세서(120)는 <1302>에 도시된 바와 같이 편집 앱 화면(1310)에 출력된 이미지 또는 영상(1320)위에 커스텀 스티커 집합(1340)을 출력할 수 있다.
사용자가 출력된 커스텀 스티커 집합(1340) 중 어느 하나의 스티커(1345)를 선택한 경우, <1303>에 도시된 바와 같이, 프로세서(120)는 화면에 출력된 이미지 위에 선택된 스티커(1345)를 추가시킬 수 있다. 이후 사용자가 저장 항목(1350)을 선택한 경우, 프로세서(120)는 스티커가 추가된 편집 이미지를 저장할 수 있다.
도 14는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 14를 참조하면, 다양한 실시예에 따르면, 1410 동작에서, 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 아바타 관련 이벤트 일정 또는 외부 환경이 변경되는 조건을 검출할 수 있다.
일 실시예에 따르면, 프로세서(120)는 일정 어플리케이션의 정보에 기반하여 이벤트 일정이 존재하는지를 확인할 수 있다. 이벤트 일정은 설날, 크리스마스날, 추석, 발렌타인 데이, 생일, 기념일 중 적어도 하나일 수 있으나, 이에 한정하지 않으며, 다양한 이벤트 일정이 포함될 수 있다.
일 실시예에 따르면, 프로세서(120)는 날씨 정보에 기반하여 현재 날씨가 변경되었는지 계절이 변경되었는지 여부를 확인할 수 있다.
1420 동작에서, 프로세서(120)는 검출된 이벤트 일정 또는 외부 환경의 변경 조건에 응답하여 이벤트 일정 또는 외부 환경 변경 조건에 대응하는 추가 이미지를 커스텀 객체에 추가하여 새로운 커스텀 객체를 생성할 수 있다. 추가 이미지는, 커스텀 객체의 백그라운드 계층의 이미지, 텍스트 계층의 이미지일 수 있으나, 이에 한정하는 것은 아니다.
일 예를 들어, 1월 6일이 사용자의 생일일 경우, 전자 장치는 1월 6일이 사용자의 생일 일정임을 확인하고, 생일 이미지에 대응하는 커스텀 객체를 생성할 수 있다.
1430 동작에서, 프로세서(120)는 어플리케이션 실행 시 정의된 스티커 포맷의 커스텀 스티커 집합 이외에 추가된 커스텀 객체를 제공할 수 있다. 일 예를 들어, 1월 6일 시점의 전자 장치는 사용자의 커스텀 객체 호출 입력이 수신되면, 정의된 스티커 포맷 기반의 커스텀 스티커 집합 이외의 추가적으로 생일 이미지에 대응하는 커스텀 객체를 제공할 수 있다.
다른 실시예에 따르면, 프로세서(120)는 특정 일정에 기반하여 생성된 추가 커스텀 객체는 1월 6일이 생일 일정임을 확인하고, 일정 어플리케이션에 자동적으로 1월 6일에 생일 스티커가 제공되도록 설정될 수 있다.
다른 실시예에 따르면, 프로세서(120)는 외부 환경 변경 조건이 검출에 의해 날씨가 비가 오거나, 눈이 오거나, 계절이 변경된 경우, 외부 환경이 변경됐음을 확인하고, 비에 대응하는 이미지, 눈에 대응하는 이미지, 각 계절에 대응하는 이미지를 기반으로 새로운 커스텀 객체를 생성할 수 있다. 눈이 올 경우, 전자 장치는 눈에 내리는 배경 이미지와 눈의 의미하는 텍스트 이미지를 기반으로 날씨와 관련된 새로운 커스텀 객체를 생성하여 사용자에게 제공할 수 있다.
다른 실시예에 따르면, 프로세서(120)는 외부 환경 변경 조건에 따라 커스텀 객체뿐만 아니라 사용자 프로파일로 설정된 사용자 아바타에 외부 환경 변화가 반영되도록 사용자 아바타의 배경 이미지를 변경시킬 수도 있다.
도 15는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 15를 참조하면, 다양한 실시예에 따르면 1510 동작에서 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 동작에서 아바타를 생성할 수 있다.
1520 동작에서 프로세서(120)는 생성된 아바타를 사용자 프로파일로 설정할 수 있다.
일 실시에에 따르면, 프로세서(120)는 아바타 생성 시 사용자 프로파일로 설정하는지 여부를 확인하는 안내 정보를 출력할 수 있다. 사용자로부터 사용자 프로파일로 설정하는 승인 입력이 수신되는 경우, 프로세서(120)는 생성된 사용자 아바타를 사용자 프로파일로 저장할 수 있다.
1530 동작에서 프로세서(120)는 사용자 프로파일 설정에 응답하여 프로파일과 관련된 어플리케이션들의 정보를 변경할 수 있다. 예컨대, 프로세서(120)는 연락처 어플리케이션에 디폴트로 설정된 프로파일을 생성된 사용자 아바타로 변경할 수 있다. 사용자 프로파일로 변경된 사용자 아바타는 콜 어플리케이션, 메시지 어플리케이션, 소셜 네크워크 기반 어플리케이션에서 활용될 수 있다.
일 실시예에 따르면, 전자 장치는, 소셜 네트워크 기반 어플리케이션에서 사용자 프로파일 설정 시 갤러리 호출 항목에 사용자 아바타 호출 항목을 추가하여 사용자가 사용자 아바타를 호출할 수 있도록 지원할 수 있다. 사용자는 소셜 네트워크 기반 어플리케이션, 아바타 설정 가능한 어플리케이션에서 사용자 아바타를 호출하여 사용자 프로파일로 지정할 수 있다.
일 실시예에 따르면, 전자 장치는, 콜 어플리케이션 실행 시 설정된 사용자 아바타를 상대방 전자 장치로 전달할 수 있다. 그러면, 상대방 전자 장치의 콜 화면에는 전자 장치로부터 전달된 사용자 아바타가 출력될 수도 있다.
도 16은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 예시도이다.
도 16을 참조하면, 다양한 실시예에 따른 전자 장치는 커스텀 스티커를 이용하여 사용자 프로파일이 설정되도록 지원할 수 있다. 예를 들어, <1601>에 도시된 바와 같이, 사용자 프로파일 화면(1610)에 사용자 아바타 뿐만 아니라 사용자의 설정 요청에 따라 사용자 아바타 기반으로 생성된 어느 하나의 커스텀 객체가 설정될 수도 있다.
다양한 실시예에 따른 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 동일한 포즈의 커스텀 스티커를 다양한 이미지 포맷 형태로 복수 개 생성하고, 어플리케이션의 타입에 따라 적합한 이미지 포맷 형태의 커스텀 스티커가 활용되도록 지원할 수 있다.
예를 들어, 프로세서(120)는 커스텀 객체를 GIF(Graphics Interchange Format) 이미지 포맷 형태로 생성된 제1 커스텀 스티커 및 PNG(Portable Network Graphics)이미지 포맷 형태로 생성된 제2 커스텀 스티커로 생성할 수 있으나, 이에 한정하지 않는다 전자 장치는 GIF, PNG 이외에 전자 장치에 설치되는 어플리케이션에서 지원하는 다른 이미지 포맷 형태로 커스텀 스티커를 생성할 수 도 있다.
전자 장치는 사용자 요청에 따라 실행되는 어플리케이션에서 이용가능한 이미지 포맷 타입을 확인하고, 해당 타입에 대응하는 이미지 포맷의 커스텀 스티커를 실행 어플리케이션에 제공되도록 설정될 수 있다.
일 예를 들어, <1602> 도시된 바와 같이, 콜 어플리케이션 화면(1620)의 경우, GIF 이미지 포맷으로 생성된 커스텀 스티커가 적용할 수 있다.
<1603> 에 도시된 바와 같이, 연락처 어플리케이션 화면(1630)의 경우, GIF 이미지 포맷 및 PNG 이미지 포맷으로 생성된 커스텀 스티커가 적용될 수 있다. 다른 예를 들어, 일정 어플리케이션 화면의 경우, PNG 이미지 포맷으로 생성된 커스텀 스티커가 적용될 수 있다.
도 17은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 17을 참조하면, 다양한 실시예에 따르면 1710 동작에서, 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))의 프로세서(120)는 갤러리 데이터 베이스로부터 얼굴 인식을 수행하여 사용자로 인식된 이미지들을 선별할 수 있다.
1720 동작에서, 프로세서(120)는 선별된 이미지들로부터 특징점 및 얼굴 요소 중 적어도 하나의 변경 여부를 판단할 수 있다. 특징점은, 눈, 코, 귀, 입, 점, 흉터, 수염, 얼굴형, 머리형 및 피부색 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 프로세서(120)는 머신 러닝(machine learning) 또는 딥 러닝(deep learning)을 적용하여 획득한 인식 알고리즘에 의해 인식된 특징점들을 비교하여 특징점의 변화 여부를 판단할 수 있다.
일 실시예에 따르면, 프로세서(120)는 사용자 이미지로부터 얼굴 요소 및 얼굴의 아웃 라인의 변화를 검출하여 사용자가 상태 변화가 검출되는지 여부를 판단할 수 있다. 얼굴 요소는 눈, 코, 입 또는 귀, 특이 요소(예, 점, 수염, 안경 등)를 포함할 수 있고, 얼굴의 아웃 라인은, 얼굴 라인 및 머리 라인을 포함할 수 있다.
1730 동작에서, 프로세서(120)는 특징점의 변화 또는 사용자의 상태 변화가 발생된 경우, 아바타 업데이트를 수행할지에 대한 안내 정보를 디스플레이 화면에 제공할 수 있다.
1740 동작에서, 프로세서(120)는 사용자로부터 아바타 업데이트에 대해 동의 입력을 수신하는 경우, 동작에서 변경 정보를 기반으로 아바타를 변경하여 업데이트할 수 있다. 1750 동작에서, 프로세서(120)는 업데이트된 사용자 아바타로 설정을 변경할 수 있다.
1760 동작에서, 프로세서(120)는, 업데이트된 사용자 아바타를 기반으로 재가공된 커스텀 객체를 변경할 수 있다.
도 18은 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체의 운용 예시도이다.
도 18을 참조하면, 본 발명의 다양한 실시예에 따르면, 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 갤러리 데이터 베이스를 분석하여 사용자를 인식한 이미지와, 생성된 사용자 아바타 간의 차이점이 발생하는 경우, 차이점을 인식하고 이를 사용자 아바타에 반영하도록 지원할 수 있다.
일 실시예에 따르면 프로세서(120)는 <1801> 에서 사용자 이미지(1810)에 기반하여 생성된 사용자 아바타(1815)는 <1802>에 도시된 형태로 생성할 수 있다. 프로세서(120)는 갤러리 데이터 베이스를 분석하는 도중에 사용자의 얼굴 요소 상태 변화가 <1811>에서와 같이 사용자 이미지(1820)가 안경 액세서리를 쓴 형태로 변경되었음을 인지할 수 있다. 프로세서(120)는 얼굴 요소의 상태 변화를 인지하고, 안경 액세서리를 인식하여 사용자 아바타(1815)를 <1812>에 도시된 형태와 같이 안경을 쓴 사용자 아바타(1825) 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는 일정 기간 이내의 최신 이미지 조건, 일정 기준 이상 반복되는 상태 변화 조건 등 정의된 조건을 만족하는 경우, 사용자 아바타를 업데이트 하도록 설정될 수 있다. 이로 인해, 단발성 상태 변화에 따라 반복적인 사용자 아바타 업데이트 구현에 대한 문제점을 해소할 수 있다.
도 19는 다양한 실시예에 따른 전자 장치의 아바타 기반의 커스텀 객체 운용 방법을 도시한다.
도 19를 참조하면, 다양한 실시예에 따른 전자 장치(예, 도 1의 전자 장치(101), 도 3의 전자 장치(301))의 프로세서(예, 도 1의 프로세서(120))는 1910 동작에서, 갤러리 분석에 기반하여 사용자 이외에 정의된 빈도수 이상으로 인식된 타인을 확인할 수 있다.
1920 동작에서 프로세서(120)는, 타인 아바타 생성에 대한 동의 여부를 알림하는 안내 정보를 디스플레이를 통해 출력할 수 있다. 1930 동작에서, 프로세서(120)는 타인 아바타 생성에 동의하는 입력을 수신하는 경우, 갤러리에서 인식된 타인 이미지를 기반으로 타인 아바타를 생성할 수 있다.
어떤 실시예에서, 프로세서(120)는 생성된 타인 아바타를 기반으로 타인 아바타에 기반한 커스텀 스티커를 생성할 수도 있다.
1940 동작에서 프로세서(120)는 생성된 타인 아바타를 전자 장치에 저장된 타인의 프로파일로 적용되도록 설정할 수 있다.
1950 동작에서, 프로세서(120)는 타인의 전자 장치로 타인 아바타 정보를 통신 모듈을 통해 전송할 수 있다. 일 예를 들어, 프로세서(120)는 타인 전자 장치로 타인 아바타 정보의 전송 여부를 알림하는 안내 정보를 디스플레이 화면에 출력하고, 사용자의 전송 승인 요청에 응답하여 타인의 전자 장치로 타인 아바타 정보를 전송할 수 있다.
어떤 실시예에서 1950 동작은 생략될 수도 있다.
어떤 실시예에서 1950 동작은 프로세서(120)가 타인 아바타에 기반한 커스텀 스티커를 생성한 경우, 타인 전자 장치로 타인 아바타에 기반하여 생성된 커스텀 스티커를 전송할 수도 있다.
1960 동작에서, 프로세서(120)는 갤러리 분석을 통해 생성된 타인 아바타에 대한 변경 정보가 검출되는지를 판단하여 타인 아바타를 업데이트해야 하는지를 판단할 수 있다. 1970 동작에서 타인 아바타를 변경해야 할 경우, 프로세서(120) 는 업데이트된 정보를 타인의 전자 장치로 제공할 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    카메라 모듈;
    메모리; 및
    프로세서를 포함하고, 상기 프로세서는,
    상기 카메라 모듈 및 상기 메모리 중 적어도 하나를 이용하여 셀피 이미지를 획득하고, 획득한 셀피 이미지를 기반으로 사용자 아바타를 생성하고, 상기 사용자 아바타를 재가공하여 전자 장치의 적어도 하나의 어플리케이션과 연동하는 적어도 하나의 커스텀 객체를 생성하고, 상기 적어도 하나의 어플리케이션을 실행하는 동안 상기 적어도 하나의 커스텀 객체를 어플리케이션 실행 화면에 출력하도록 설정된 전자 장치.
  2. 제1 항에 있어서,
    상기 적어도 하나의 커스텀 객체는 상기 사용자 아바타가 포함된 커스텀 스티커 또는 커스텀 이모티콘을 포함하는 전자 장치.
  3. 제1 항에 있어서,
    상기 프로세서는,
    상기 사용자 아바타 생성 이후에 수신되는 프로파일의 설정 요청 입력에 응답하여 상기 사용자 아바타를 사용자 프로파일로 설정하고, 상기 사용자 프로파일과 연동하는 적어도 하나의 어플리케이션의 정보를 변경하도록 설정된 전자 장치.
  4. 제1 항에 있어서,
    상기 프로세서는,
    갤러리 데이터베이스에서 셀피 이미지와 동일하게 인식되는 얼굴 이미지들을 추출하고,
    상기 추출된 이미지들로부터 인식된 얼굴의 특징점 및 얼굴 요소 중 적어도 하나가 변경되는지를 확인하고,
    상기 특징점의 변화 또는 얼굴 요소의 변화에 응답하여 상기 사용자 아바타를 업데이트하도록 설정된 전자 장치.
  5. 제4항에 있어서,
    상기 프로세서는,
    상기 업데이트된 사용자 아바타로 상기 사용자 프로파일을 재설정하고, 업데이트된 사용자 아바타를 기반으로 상기 생성된 적어도 하나의 커스텀 객체를 업데이트하도록 설정된 전자 장치.
  6. 제5항에 있어서,
    상기 적어도 하나의 커스텀 객체는, 백그라운드 계층, 아바타 계층, 텍스트 계층으로 구성되며,
    상기 프로세서는, 상기 아바타 계층의 사용자 아바타를 변경하여 상기 적어도 하나의 커스텀 객체를 업데이트하는 것을 특징으로 하는 전자 장치.
  7. 제1항에 있어서,
    상기 프로세서는,
    상기 커스텀 객체 생성에 응답하여 전자 장치에 설치된 적어도 하나의 어플리케이션에 상기 적어도 하나의 커스텀 객체의 사용 권한을 설정하고, 키패드 레이아웃 및 상기 적어도 하나의 어플리케이션의 이모티콘 호출 항목에 커스텀 객체 호출 항목을 추가하도록 설정된 전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    다양한 이미지 포맷 형태로 커스텀 객체를 생성하고, 각 어플리케이션에서 이용 가능한 이미지 포맷 형태를 확인하고, 각 어플리케이션에 적합한 이미지 포맷의 커스텀 객체를 호출하도록 설정된 전자 장치.
  9. 제1항에 있어서,
    상기 프로세서는,
    아바타 관련 이벤트 일정 또는 외부 환경이 변경되는 조건을 검출하고, 검출에 응답하여 이벤트 일정 또는 외부 환경 변경 조건에 대응하는 백그라운드 이미지 또는 텍스트 정보를 획득하고, 획득한 백그라운드 이미지 또는 텍스트 정보에 기반하여 새로운 커스텀 객체를 생성하도록 설정된 전자 장치.
  10. 제1항에 있어서,
    상기 프로세서는,
    갤러리 데이터 베이스를 분석하는 동안 사용자 인식 이외에 정의된 빈도수 이상으로 인식된 타인 이미지를 확인하고, 갤러리 데이터 베이스에서 인식된 타인 이미지를 기반으로 타인 아바타를 생성하도록 설정된 전자 장치.
  11. 전자 장치의 아바타 기반의 커스텀 객체 운용 방법에 있어서,
    사용자의 셀피 이미지를 획득하는 동작;
    상기 획득한 셀피 이미지를 기반으로 사용자 아바타 생성하는 동작;
    상기 생성된 사용자 아바타를 재가공하여 전자 장치의 적어도 하나의 어플리케이션과 연동하는 적어도 하나의 커스텀 객체를 생성하는 동작; 및
    상기 전자 장치의 적어도 하나의 어플리케이션을 실행하는 동안 사용자 요청에 따라 상기 사용자 아바타를 기반으로 생성된 상기 적어도 하나의 커스텀 객체를 어플리케이션 실행 화면에 제공하는 동작을 포함하는 방법.
  12. 제11항에 있어서,
    상기 적어도 하나의 커스텀 객체는 상기 사용자 아바타가 포함된 커스텀 스티커 또는 커스텀 이모티콘을 포함하고,
    상기 아바타를 생성하는 동작은,
    프로파일 및 상기 커스텀 객체의 사용 권한 설정 여부를 확인하는 안내 정보를 출력하는 동작;
    상기 확인 승인 입력에 응답하여 상기 사용자 아바타를 사용자 프로파일로 설정하는 동작; 및
    상기 사용자 프로파일과 연동되는 적어도 하나의 어플리케이션의 정보를 변경하는 동작을 더 포함하는 방법.
  13. 제12항에 있어서,
    상기 사용자 아바타를 사용자 프로파일로 설정하는 동작은,
    상기 확인을 승인하는 입력에 응답하여 상기 생성된 적어도 하나의 커스텀 객체가 사용되도록 사용 권한을 설정하는 동작; 및
    키패드 레이아웃 및 전자 장치의 적어도 하나의 어플리케이션의 이모티콘 호출 항목에 커스텀 객체 호출 항목을 추가하도록 제어하는 동작을 더 포함하는 방법.
  14. 제13항에 있어서,
    상기 적어도 하나의 커스텀 객체를 어플리케이션 실행 화면에 제공하는 동작은,
    키패드 레이아웃 및 전자 장치의 어플리케이션의 이모티콘 호출 항목에 포함된 상기 커스텀 객체 호출 항목을 선택하는 입력을 수신하는 동작;
    상기 선택 입력에 응답하여 상기 어플리케이션 실행 화면에 상기 적어도 하나의 커스컴 객체를 출력하는 동작; 및
    상기 출력된 커스텀 객체의 선택에 응답하여 커스텀 객체와 관련된 어플리케이션의 기능을 실행하는 동작을 더 포함하는 방법.
  15. 제11항에 있어서,
    상기 적어도 하나의 커스텀 객체를 생성하는 동작은,
    동일한 커스텀 스티커를 다양한 이미지 포맷 형태로 복 수 개 생성하는 것을 특징으로 하는 방법.
PCT/KR2019/002291 2018-02-23 2019-02-25 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법 WO2019164374A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/975,337 US20200402304A1 (en) 2018-02-23 2019-02-25 Electronic device and method for managing custom object on basis of avatar

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180022257A KR20190101832A (ko) 2018-02-23 2018-02-23 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법
KR10-2018-0022257 2018-02-23

Publications (1)

Publication Number Publication Date
WO2019164374A1 true WO2019164374A1 (ko) 2019-08-29

Family

ID=67688479

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/002291 WO2019164374A1 (ko) 2018-02-23 2019-02-25 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법

Country Status (3)

Country Link
US (1) US20200402304A1 (ko)
KR (1) KR20190101832A (ko)
WO (1) WO2019164374A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110782510A (zh) * 2019-10-25 2020-02-11 北京达佳互联信息技术有限公司 一种贴纸生成方法及装置
US20220263781A1 (en) * 2021-02-16 2022-08-18 LINE Plus Corporation Method and system for managing avatar usage rights

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12033296B2 (en) 2018-05-07 2024-07-09 Apple Inc. Avatar creation user interface
KR20200129584A (ko) * 2019-05-09 2020-11-18 삼성전자주식회사 복수의 카메라들을 이용한 촬영 제어 방법 및 폴더블 장치
US11252274B2 (en) * 2019-09-30 2022-02-15 Snap Inc. Messaging application sticker extensions
CN110827378B (zh) * 2019-10-31 2023-06-09 北京字节跳动网络技术有限公司 虚拟形象的生成方法、装置、终端及存储介质
US11921998B2 (en) 2020-05-11 2024-03-05 Apple Inc. Editing features of an avatar
KR20210147654A (ko) * 2020-05-29 2021-12-07 삼성전자주식회사 전자 장치 및 사용자 아바타 기반의 이모지 스티커를 생성하는 방법
USD976278S1 (en) * 2021-01-08 2023-01-24 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional graphical user interface
US20220319075A1 (en) * 2021-03-30 2022-10-06 Snap Inc. Customizable avatar modification system
US11714536B2 (en) * 2021-05-21 2023-08-01 Apple Inc. Avatar sticker editor user interfaces
US12026816B2 (en) 2021-07-12 2024-07-02 Samsung Electronics Co., Ltd. Method for providing avatar and electronic device supporting the same
CN114398133A (zh) * 2022-01-14 2022-04-26 北京字跳网络技术有限公司 显示方法、装置、电子设备及存储介质
KR102498056B1 (ko) * 2022-02-18 2023-02-10 주식회사 공간과 상상 메타버스내 메타휴먼의 생성 시스템 및 방법
US20230342487A1 (en) * 2022-04-20 2023-10-26 Qualcomm Incorporated Systems and methods of image processing for privacy management
WO2024059606A1 (en) * 2022-09-13 2024-03-21 Katmai Tech Inc. Avatar background alteration
KR102620808B1 (ko) * 2022-12-30 2024-01-09 (주)재미진 엔터테인먼트 애니메이션 컨텐츠 제작 시스템

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100028689A (ko) * 2008-09-05 2010-03-15 고광현 개인 실사 캐릭터 생성 시스템 및 그 방법
KR20140049340A (ko) * 2012-10-17 2014-04-25 에스케이플래닛 주식회사 이모티콘 생성 장치 및 이모티콘 생성 방법
KR20170002097A (ko) * 2015-06-29 2017-01-06 김영자 감성 아바타 이모티콘 기반의 초경량 데이터 애니메이션 방식 제공 방법, 그리고 이를 구현하기 위한 감성 아바타 이모티콘 제공 단말장치
KR20170134366A (ko) * 2015-04-07 2017-12-06 인텔 코포레이션 아바타 키보드
KR20170136920A (ko) * 2016-06-02 2017-12-12 삼성전자주식회사 화면 출력 방법 및 이를 지원하는 전자 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100028689A (ko) * 2008-09-05 2010-03-15 고광현 개인 실사 캐릭터 생성 시스템 및 그 방법
KR20140049340A (ko) * 2012-10-17 2014-04-25 에스케이플래닛 주식회사 이모티콘 생성 장치 및 이모티콘 생성 방법
KR20170134366A (ko) * 2015-04-07 2017-12-06 인텔 코포레이션 아바타 키보드
KR20170002097A (ko) * 2015-06-29 2017-01-06 김영자 감성 아바타 이모티콘 기반의 초경량 데이터 애니메이션 방식 제공 방법, 그리고 이를 구현하기 위한 감성 아바타 이모티콘 제공 단말장치
KR20170136920A (ko) * 2016-06-02 2017-12-12 삼성전자주식회사 화면 출력 방법 및 이를 지원하는 전자 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110782510A (zh) * 2019-10-25 2020-02-11 北京达佳互联信息技术有限公司 一种贴纸生成方法及装置
CN110782510B (zh) * 2019-10-25 2024-06-11 北京达佳互联信息技术有限公司 一种贴纸生成方法及装置
US20220263781A1 (en) * 2021-02-16 2022-08-18 LINE Plus Corporation Method and system for managing avatar usage rights

Also Published As

Publication number Publication date
US20200402304A1 (en) 2020-12-24
KR20190101832A (ko) 2019-09-02

Similar Documents

Publication Publication Date Title
WO2019164374A1 (ko) 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법
WO2020171540A1 (en) Electronic device for providing shooting mode based on virtual character and operation method thereof
WO2020162673A1 (en) Electronic device for providing avatar animation and method thereof
WO2020032555A1 (en) Electronic device and method for providing notification related to image displayed through display and image stored in memory based on image analysis
WO2020159147A1 (ko) 전자 장치 및 전자 장치의 그래픽 객체 제어 방법
WO2020171541A1 (ko) 전자 장치 및 이를 이용한 카메라 기능과 연동하여 이모지 편집을 위한 사용자 인터페이스를 제공하는 방법
WO2021020814A1 (en) Electronic device for providing avatar and operating method thereof
WO2020130281A1 (en) Electronic device and method for providing avatar based on emotion state of user
WO2020171429A1 (ko) 애니메이티드 이미지를 제공하기 위한 전자 장치 및 그에 관한 방법
WO2021242005A1 (ko) 전자 장치 및 사용자 아바타 기반의 이모지 스티커를 생성하는 방법
WO2019125029A1 (ko) 증강 현실을 위한 객체를 표시하기 위한 전자 장치 및 그의 동작 방법
WO2020153785A1 (ko) 전자 장치 및 이를 이용한 감정 정보에 대응하는 그래픽 오브젝트를 제공하는 방법
WO2020130691A1 (en) Electronic device and method for providing information thereof
WO2020032497A1 (en) Method and apparatus for incorporating noise pattern into image on which bokeh processing has been performed
WO2021025509A1 (en) Apparatus and method for displaying graphic elements according to object
WO2019156428A1 (en) Electronic device and method for correcting images using external electronic device
WO2020116868A1 (en) Electronic device for generating augmented reality emoji and method thereof
WO2019039861A1 (ko) 전자 장치 및 전자 장치에서 카메라 기능과 연관된 콘텐트 제공 방법
WO2020085718A1 (ko) 보정 이미지 기반 아바타 생성 방법 및 장치
WO2019103420A1 (en) Electronic device and method for sharing image with external device using image link information
WO2021162353A1 (ko) 카메라를 포함하는 전자 장치 및 그의 동작 방법
WO2021020940A1 (en) Electronic device and method for generating augmented reality object
WO2020171558A1 (en) Method of providing augmented reality contents and electronic device therefor
WO2021107200A1 (ko) 이동 단말기 및 이동 단말기 제어 방법
WO2020171333A1 (ko) 이미지 내의 오브젝트 선택에 대응하는 서비스를 제공하기 위한 전자 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19756874

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19756874

Country of ref document: EP

Kind code of ref document: A1