WO2017135769A1 - 전자 장치 및 그의 동작 방법 - Google Patents

전자 장치 및 그의 동작 방법 Download PDF

Info

Publication number
WO2017135769A1
WO2017135769A1 PCT/KR2017/001248 KR2017001248W WO2017135769A1 WO 2017135769 A1 WO2017135769 A1 WO 2017135769A1 KR 2017001248 W KR2017001248 W KR 2017001248W WO 2017135769 A1 WO2017135769 A1 WO 2017135769A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
data
present disclosure
probe
various embodiments
Prior art date
Application number
PCT/KR2017/001248
Other languages
English (en)
French (fr)
Inventor
이미영
문종채
윤민경
김현진
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US16/075,835 priority Critical patent/US11571183B2/en
Priority to EP17747814.6A priority patent/EP3412212B1/en
Publication of WO2017135769A1 publication Critical patent/WO2017135769A1/ko

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4411—Device being modular
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4427—Device being portable or laptop-like
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • A61B8/4472—Wireless probes
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461—Displaying means of special interest
    • A61B8/465—Displaying means of special interest adapted to display user selection data, e.g. icons or menus
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means
    • A61B8/468—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means allowing annotation or message recording
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • A61B8/5253—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode combining overlapping images, e.g. spatial compounding
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/54—Control of the diagnostic device
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/56—Details of data transmission or power supply
    • A61B8/565—Details of data transmission or power supply involving data transmission via a network
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/58—Testing, adjusting or calibrating the diagnostic device
    • A61B8/582—Remote testing of the device
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16Z—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
    • G16Z99/00—Subject matter not provided for in other main groups of this subclass
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461—Displaying means of special interest
    • A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means

Definitions

  • Various embodiments of the present disclosure disclose a method and apparatus for providing telediagnosis and telemedicine using mobile ultrasound.
  • An ultrasound imaging apparatus irradiates an ultrasound signal generated from a transducer of a probe toward a desired area in the body from an object's body surface, and reflects an ultrasound signal (eg, an ultrasound echo signal) reflected from the object. ) Can be used to obtain an image of the corresponding area inside the object.
  • the ultrasound imaging apparatus may be used for medical purposes such as observation inside an object, foreign object detection, and injury measurement.
  • the ultrasound imaging apparatus is widely used together with other image diagnosis apparatuses because it has a higher stability, a display of an image in real time, and no radiation exposure and is safer than a diagnosis apparatus using X-rays.
  • the ultrasound imaging apparatus includes a control panel for a user to operate the ultrasound imaging apparatus.
  • the control panel displays a menu for optimizing the ultrasound image displayed on the display device, a touch screen providing a function of selecting the displayed menu, and moving a cursor displayed on the screen of the display unit to display an image on a cine image.
  • It includes a trackball that provides functions such as searching for and a keyboard that inputs text and provides a shortcut function according to a measurement mode, and is equipped in an ultrasound diagnosis system to move up, down, left, and right according to the position of the patient. .
  • the ultrasound imaging apparatus may be fixedly used in a specific space (eg, in a medical office). Therefore, there is an inconvenience that the patient must move to the corresponding office for the ultrasound diagnosis of the patient. In addition, there is a problem that can not perform the ultrasound diagnosis in an emergency situation, such as disaster site, emergency rescue, remote patients. In addition, in recent years, telemedicine, visiting medical care, medical care in Silver Town is gradually expanding, but due to the limited usability of the ultrasound imaging apparatus, there is a problem that smooth ultrasound diagnosis is difficult.
  • a method and an apparatus for performing a function of an ultrasound imaging apparatus and providing telemedicine according to the present disclosure are disclosed.
  • a method and apparatus for connecting a probe to an electronic device and using a communication function or a camera function of the electronic device to share a remote patient's condition and an ultrasound diagnosis with a remote doctor in real time Discloses.
  • a method and apparatus for providing a remote medical care by switching from an ultrasound image screen acquired by an electronic device to a remote medical care screen are disclosed.
  • a method and apparatus for outputting an indicator related to telemedicine based on an electronic device or a probe connected to the electronic device to increase the accuracy of the remote ultrasound diagnosis are disclosed.
  • an electronic device may include a display; camera; First communication circuitry for probe connection; Second communication circuitry for communicating with at least one external device; And a processor electrically connected to the display, the camera, the first communication circuit, and the second communication circuit, wherein the processor senses an ultrasound diagnostic mode and executes an ultrasound diagnostic mode in response to detecting the ultrasound diagnostic mode. And establish communication with the external device, obtain data in the ultrasound diagnostic mode, stream the data to the external device using the display and the second communication circuit via the display, and from the external device.
  • the control guide may be configured to provide an operation guide of the probe.
  • an electronic device may include a display; Communication circuitry for communicating with an external device; And a processor electrically coupled with the display and the communication circuitry, the processor establishing communication with the external device, receiving streaming data from the external device, and displaying the data or an external screen of the data. At least one of mirroring may be performed, and based on at least a portion of the data, control information related to control of a probe connected to the external device may be received, and the control information may be transmitted to the external device.
  • An operation method of an electronic device may include detecting an ultrasound diagnosis mode, executing an ultrasound diagnosis mode and forming communication with a set external device in response to the detection of the ultrasound diagnosis mode, and the ultrasound diagnosis mode. Acquiring data in a stream, streaming the data through a display to the external device using a display and communication circuit, and providing a manipulation guide of the probe in response to receiving control information from the external device. It may include.
  • An operation method of an electronic device may include at least one of forming a communication with an external device, receiving streaming data from the external device, displaying the data, or mirroring the external screen of the data. And performing control, receiving control information related to control of a probe connected to the external device based at least in part on the data, and transmitting the control information to the external device.
  • various embodiments of the present disclosure may include a computer-readable recording medium having recorded thereon a program for executing the method in a processor.
  • a function of the ultrasound imaging apparatus may be performed using the electronic device and telemetry accordingly may be provided.
  • the state of the remote patient and the ultrasound diagnosis may be shared in real time with a remote doctor to accurately diagnose the ultrasound. You can make this possible.
  • an accurate ultrasound diagnosis may be achieved through a remote medical examination with a specialist in a hospital. For example, an ultrasound image and a wounded image may be transmitted to a specialist who is waiting in a hospital in real time, thereby sharing an accurate state of a patient, and enabling emergency treatment immediately when the patient is transferred to a hospital.
  • patient diagnosis information may be easily shared in real time by utilizing a wireless network and a camera function in the electronic device.
  • communication may be quickly connected at a remote location between a predetermined user or a device in a hospital.
  • a screen of an ultrasound image, a video call, and a probe guide indicator may simultaneously provide or freely change screens through an electronic device.
  • FIG. 1 is a diagram illustrating a network environment including an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram illustrating an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram schematically illustrating a configuration of an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 is a diagram illustrating an electronic device and a probe according to various embodiments of the present disclosure.
  • FIG. 6 is a diagram schematically illustrating a configuration of an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is a diagram illustrating an operation of providing data between electronic devices according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an operation of providing data between electronic devices according to various embodiments of the present disclosure.
  • FIG. 9 is a diagram illustrating an operation of providing an operation guide of a probe in an electronic device according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram illustrating an example of an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • FIG. 11 is a diagram illustrating an example of an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • FIG. 12 is a diagram illustrating an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • FIG. 13 is a diagram illustrating an example of a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a diagram illustrating an example of a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • 15 is a diagram illustrating an operation of displaying data in an electronic device according to various embodiments of the present disclosure.
  • 16 is a flowchart illustrating an operation of sharing data in an electronic device according to various embodiments of the present disclosure.
  • 17 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure.
  • 18A and 18B are diagrams for describing an operation of providing an operation image for a probe manipulation guide according to various embodiments of the present disclosure.
  • 19A, 19B, and 19C are diagrams for explaining an operation of providing an indicator for a probe manipulation guide according to various embodiments of the present disclosure.
  • 20A and 20B are diagrams for describing an operation of providing a manipulation image for a probe manipulation guide according to various embodiments of the present disclosure.
  • 21 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure.
  • FIG. 22 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure. Referring to FIG.
  • 23 is a flowchart illustrating an operation of guiding a probe operation in an electronic device according to various embodiments of the present disclosure.
  • 24 is a flowchart illustrating an operation of guiding a probe operation in an electronic device according to various embodiments of the present disclosure.
  • 25 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • FIG. 26 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • FIG. 27 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • FIG. 28 is a flowchart illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • FIG. 29 is a diagram illustrating an operation of sharing data based on screen mirroring between electronic devices according to various embodiments of the present disclosure.
  • FIG. 30 is a diagram illustrating an operation of sharing data by switching a communication mode in an electronic device according to various embodiments of the present disclosure.
  • 31 is a flowchart illustrating an operation of providing a communication mode in an electronic device according to various embodiments of the present disclosure.
  • FIG. 32 is a diagram illustrating an example of a screen interface provided according to a screen direction in an electronic device according to various embodiments of the present disclosure.
  • FIG 33 is a diagram illustrating an example of a screen interface provided according to a screen direction in an electronic device according to various embodiments of the present disclosure.
  • 34 is a diagram illustrating an example menu setting in an electronic device according to various embodiments of the present disclosure.
  • 35 and 36 illustrate examples in which a screen interface is provided in an electronic device according to various embodiments of the present disclosure.
  • FIG. 37 is a diagram illustrating a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • 38, 39, and 40 are diagrams for describing an example of a screen interface provided by an electronic device according to various embodiments of the present disclosure.
  • expressions such as “A or B,” “at least one of A or / and B,” or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B,” “at least one of A and B,” or “at least one of A or B,” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” and the like may modify various components, regardless of order and / or importance, and may form a component. It is used to distinguish it from other components and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • no other component e.g., a third component
  • the expression “configured to” as used in this document is, for example, “having the capacity to” depending on the context, for example, “suitable for,” “. It may be used interchangeably with “designed to,” “adapted to,” “made to,” or “capable of.”
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general-purpose processor (eg, a central processing unit (CPU) or an application processor (AP)) capable of performing corresponding operations.
  • a dedicated processor eg, an embedded processor
  • AP application processor
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, an e-book reader, Desktop personal computer (PC), laptop personal computer (PC), netbook computer, workstation, server, personal digital assistant (PDA), portable multimedia player (PMP), MP3 player, mobile medical It may include at least one of a device, a camera, or a wearable device.
  • a wearable device may be an accessory (eg, a watch, ring, bracelet, anklet, necklace, glasses, contact lens, or head-mounted-device (HMD), fabric, or clothing) (Eg, an electronic garment), a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • an accessory eg, a watch, ring, bracelet, anklet, necklace, glasses, contact lens, or head-mounted-device (HMD), fabric, or clothing
  • HMD head-mounted-device
  • fabric or clothing
  • clothing Eg, an electronic garment
  • a body attachment type eg, a skin pad or a tattoo
  • a living implantable type eg, an implantable circuit
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwaves, washing machines, air purifiers, set-top boxes, home automation controls Panel (home automation control panel), security control panel, TV box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Computed tomography (CT), imaging or ultrasound), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment Devices, ship electronics (e.g.
  • various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters
  • MRA magnetic resonance angiography
  • MRI magnetic resonance imaging
  • CT Computed tomography
  • imaging or ultrasound navigation devices
  • GNSS global navigation satellite systems
  • EDRs event data recorders
  • FDRs flight data recorders
  • automotive infotainment Devices ship electronics
  • POS Point of sales
  • Internet of things e.g., light bulbs, sensors, electricity or gas meters, sprinkler devices, fire alarms, thermostats, street lights, sat. It may include at least one of (toaster), exercise equipment, hot water tank, heater, boiler.
  • an electronic device may be a furniture or part of a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be a combination of one or more of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • FIG. 1 is a diagram illustrating a network environment including an electronic device according to various embodiments of the present disclosure.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170. have. According to an embodiment of the present disclosure, the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include, for example, circuitry that connects the components 110-170 to each other and delivers communication (eg, control messages and / or data) between the components.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other element of the electronic device 101.
  • the processing (or control) operation of the processor 120 according to various embodiments of the present disclosure will be described in detail with reference to the accompanying drawings.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, a command or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or program 140.
  • the program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, and / or an application program (or “application”) 147. have. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the memory 130 may include a computer-readable recording medium having recorded thereon a program for executing the method according to various embodiments of the present disclosure.
  • the kernel 141 may be a system resource (eg, bus 110, processor 120, or, for example) that is used to execute an action or function implemented in other programs (eg, middleware 143, API 145, or application program 147). Memory 130, etc.) can be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority. For example, the middleware 143 may give priority to the use of system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 to at least one of the application programs 147. For example, the middleware 143 may perform the scheduling or load balancing on the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • system resources eg, the bus 110, the processor 120, or the memory 130, etc.
  • API 145 is, for example, an interface for application 147 to control functions provided by kernel 141 or middleware 143. For example, file control, window control, image processing, and the like. ), Or at least one interface or function (eg, a command) for character control or the like.
  • the input / output interface 150 may serve as an interface that may transfer commands or data input from a user or another external device to other component (s) of the electronic device 101. Also, the input / output interface 150 may output a command or data received from other component (s) of the electronic device 101 to a user or another external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or microelectronics.
  • LCD liquid crystal display
  • LED light-emitting diode
  • OLED organic light-emitting diode
  • MEMS Microelectromechanical systems
  • the display 160 may display, for example, various types of content (eg, text, image, video, icon, symbol, etc.) to the user.
  • the display 160 may include a touch screen, and may include, for example, a touch, gesture, proximity, or hovering using an electronic pen or a part of a user's body. An input can be received.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106).
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal
  • the wireless communication may include, for example, short range communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth (Bluetooth), near field communication (NFC), global navigation satellite system (GNSS), and the like.
  • GNSS may be used according to the area of use or bandwidth, for example, global positioning system (GPS), global navigation satellite system (Glonass), Beidou navigation satellite system (hereinafter referred to as "Beidou”) or Galileo, the European global satellite-based navigation system. It may include at least one of.
  • GPS global positioning system
  • Glonass global navigation satellite system
  • Beidou Beidou navigation satellite system
  • Galileo the European global satellite-based navigation system. It may include at least one of.
  • GPS global positioning system
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard 232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or a WAN), the Internet, and a telephone network.
  • Each of the first and second external electronic devices 102 and 104 may be the same or different type of device as the electronic device 101.
  • the server 106 may include a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106.
  • the electronic device 101 may, in addition to or in addition execute the function or service itself, perform at least some of the functions associated with another device (eg, an electronic device). (102, 104) or server 106.
  • Another electronic device executes the requested function or additional function, and outputs the result to electronic device 101.
  • the electronic device 101 may process the received result as it is or additionally to provide the requested function or service.
  • Cloud computing cloud computing
  • Distributed Computing distributed computing
  • client-server computing client-server computing
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, a display 260, an interface 270, an audio module 280, and a camera module. 291, power management module 295, battery 296, indicator 297, and motor 298.
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by driving an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of the other components (eg, nonvolatile memory) into the volatile memory, and store various data in the nonvolatile memory.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227 (e.g., a GPS module, a Glonass module, a Beidou module, or a Galileo module), an NFC module 228, and a radio frequency (RF).
  • Module 229 may be included.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment of the present disclosure, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network using a subscriber identification module (eg, a subscriber identification module (SIM) card) 224. According to an embodiment of the present disclosure, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment of the present disclosure, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • Each of the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted and received through a corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be included in one integrated chip (IC) or IC package. .
  • the RF module 229 may transmit / receive, for example, a communication signal (eg, an RF signal).
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module.
  • the subscriber identification module 224 may include, for example, a card including a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID) or subscriber information). (Eg, international mobile subscriber identity).
  • ICCID integrated circuit card identifier
  • subscriber information e.g, international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), or nonvolatile memory (non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • nonvolatile memory non-volatile memory
  • -volatile memory e.g., one time programmable read only memory (OTPROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EEPROM), mask ROM, flash ROM, flash
  • OTPROM one time programmable read only memory
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EEPROM electrically erasable and programmable ROM
  • mask ROM mask e.g., one time programmable read only memory (OTPROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EEPROM), mask ROM, flash ROM, flash
  • It may include at least one of a memory (for example, NAND flash or NOR flash), a hard drive, or a solid state drive (SSD).
  • a memory for example, NAND flash or NOR flash
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (mini-SD), or extreme digital (XD). It may further include a MMC (MultiMediaCard) or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure a physical quantity or detect an operation state of the electronic device 201 to convert the measured or detected information into an electrical signal.
  • the sensor module 240 may include, for example, a gesture sensor 240A, a gyro sensor 240B, a barometer 240C, a magnetic sensor 240D, an acceleration sensor 240E, and a grip sensor. (grip sensor) 240F, proximity sensor 240G, color sensor 240H (e.g. RGB, red, green, blue) sensor, medical sensor 240I, temperature / humidity sensor It may include at least one of a humidity sensor 240J, an illumination sensor 240K, or an UV (ultra violet) sensor 240M.
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor, or an IR. (infrared) sensor, iris sensor (iris scan sensor) and / or fingerprint scan sensor (finger scan sensor).
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 may further include a processor configured to control the sensor module 240 as part of or separately from the processor 210 to control the sensor module 240 while the processor 210 is in a sleep state. .
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by the input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • the display 260 may include a panel 262, a hologram device 264, or a projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the panel 262 may include a pressure sensor (or force sensor) capable of measuring the strength of pressure with respect to a user's touch.
  • the pressure sensor may be integrated with the touch panel 252 or may be implemented with one or more sensors separate from the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may include, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature (D-sub) 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may include, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an infrared data association. ) May include a standard interface.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • infrared data association May include a standard interface.
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 150 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include at least one image sensor (eg, a front sensor or a rear sensor), a lens, an image signal processor (ISP), or Flash (eg, LED or xenon lamp, etc.).
  • ISP image signal processor
  • Flash eg, LED or xenon lamp, etc.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery 296 or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a portion thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibration, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or MediaFlo TM .
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • MediaFlo TM MediaFlo TM
  • each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include other additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form one entity, and thus may perform the same functions of the corresponding components before being combined.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the program module 310 (eg, the program 140) is an operating system (OS) for controlling resources related to the electronic device (eg, the electronic device 101) and / or various applications running on the operating system.
  • OS operating system
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (for example, the electronic devices 102 and 104, the server 106, and the like).
  • API application programming interface
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • IPC inter-process communication
  • the middleware 330 may provide functions commonly required by the application 370 or provide various functions to the application 370 through the API 360 so that the application 370 can efficiently use limited system resources inside the electronic device. have.
  • the middleware 330 eg, the middleware 143 may include a runtime library 335, an application manager 341, a window manager 342, a multimedia manager 343, and a resource manager 344.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage a life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may identify a format necessary for playing various media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate in conjunction with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • BIOS basic input / output system
  • the database manager 346 may generate, search for, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 manages location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device (eg, the electronic device 101) includes a telephone function, the middleware 330 may further include a telephone manager for managing a voice or video call function of the electronic device.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide modules specialized according to types of operating systems in order to provide differentiated functions.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 (eg, API 145) is, for example, a set of API programming functions and may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in the case of Tizen, two or more API sets may be provided for each platform.
  • Application 370 (e.g., application program 147) is, for example, home 371, dialer 372, SMS / MMS 373, instant message (IM) 374, browser 375, camera 376, alarm 377, contact 378, voice dial 379, e-mail. 380, calendar 381, media player 382, album 383, clock 384, and the like.
  • the application 370 may perform functions such as health care (eg, measuring exercise amount or blood sugar) or providing environmental information (eg, providing barometric pressure, humidity, or temperature information). It may include one or more applications that can.
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (eg, the electronic devices 102 and 104).
  • Information exchange application ").
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application). , 104)). Also, the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application. , 104)
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn at least one function of an external electronic device (eg, the electronic devices 102 and 104) in communication with the electronic device (eg, turn on the external electronic device itself (or some component part). Turn-on / turn-off or adjust the brightness (or resolution) of the display, applications that operate on an external electronic device, or services provided by an external electronic device, such as call or message services Etc.) can be managed (e.g., installed, deleted, or updated).
  • the application 370 may be an application (eg, a health care application of a mobile medical device, an audiometric application, an audio reproduction application, etc.) designated according to an external electronic device (eg, an attribute of the electronic devices 102 and 104). It may include. According to an embodiment of the present disclosure, the application 370 may include an application received from an external electronic device (for example, the server 106 or the electronic devices 102 and 104). According to an embodiment of the present disclosure, the application 370 may include a preloaded application or a third party application downloadable from a server.
  • the names of the components of the program module 310 according to the shown embodiment may vary depending on the type of operating system.
  • At least a part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least some of the program module 310 may be implemented (for example, executed) by, for example, a processor (for example, the processor 210). At least some of the program module 310 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in. When the command is executed by a processor (eg, the processor 120), the one or more processors may perform a function corresponding to the command.
  • the computer-readable recording medium may be, for example, the memory 130.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments of the present disclosure may include at least one or more of the aforementioned components, some of them may be omitted, or may further include additional other components.
  • Operations performed by a module, program module, or other component according to various embodiments of the present disclosure may be executed in a sequential, parallel, repetitive, or heuristic manner.
  • some operations may be executed in a different order, may be omitted, or other operations may be added.
  • the embodiments disclosed in this document are presented for the purpose of explanation and understanding of the disclosed, technical content, it does not limit the scope of the technology described in this document. Accordingly, the scope of this document should be construed as including all changes or various other embodiments based on the technical spirit of this document.
  • an ultrasonic diagnostic method and apparatus based on an electronic device are disclosed.
  • remote diagnosis and / or telemedicine may be provided using mobile ultrasound.
  • an electronic device eg, a smartphone, a tablet PC, etc.
  • a remote patient's state and an ultrasound diagnosis may be transmitted to a hospital in real time, and the user's state may be performed by a specialist in the hospital. Can be shared and diagnosed.
  • An electronic device may support a communication function and / or a camera function, and may include an application processor (AP), a communication processor (CP), a graphic processing unit (GPU), a central processing unit (CPU), and the like. It may include any device that uses one or more of a variety of processors.
  • an electronic device may include all information communication devices, multimedia devices, wearable devices, Internet of things (IoT) devices, hearing devices, or the like that support communication functions and / or camera functions. It may include an application device therefor.
  • FIG. 4 is a diagram illustrating a system according to various embodiments of the present disclosure.
  • a system may include a first electronic device 400, a probe 600, and a second electronic device 500.
  • the first electronic device 400 may be connected (eg, paired) with the probe 600 by first communication (eg, wired communication or wireless communication), and the second electronic device 500 and the second electronic device 400 may be connected. May be connected by communication (eg, wireless communication).
  • the first communication may be a wired communication method such as cable communication, or may include a short range wireless communication method such as BT, BLE, or near-field magnetic induction (NFMI).
  • the first communication is not limited thereto and may include other various wireless communication, for example, wireless communication such as WiFi, NFC, ZigBee, UWB, or IrDA.
  • the second communication may be a mobile communication method such as cellular communication, or may include a wireless communication method such as WiFi.
  • the first electronic device 400 may acquire first data (eg, ultrasound scan data) by the connected probe 600 and display the obtained first data (eg, an ultrasound scan image). .
  • the first electronic device 400 may acquire second data (eg, affected area image data) captured by the internal camera, and display the obtained second data (eg, preview image).
  • the first electronic device 400 may display the first data and the second data together by screen division, or independently display the first data or the second data on the full screen.
  • the first electronic device 400 may transmit at least one of the first data acquired from the probe 600 or the second data obtained from the camera to the second electronic device 500 at a remote location.
  • the first electronic device 400 may include, for example, a smartphone, a tablet personal computer, or the like. According to various embodiments of the present disclosure, the first electronic device 400 may display various user interfaces (UIs) or graphical user interfaces (GUIs) related to remote diagnosis using the probe 600.
  • UIs user interfaces
  • GUIs graphical user interfaces
  • the probe 600 may include, for example, an ultrasonic probe.
  • the probe 600 may be connected to the first electronic device 400, generate ultrasound scan data, and provide the ultrasound scan data to the first electronic device 400.
  • the probe 600 may irradiate an ultrasound signal from a body surface of the object toward a desired part of the body, and acquire an image of the soft tissue tomography or blood flow using information of the reflected ultrasound signal (for example, an ultrasound echo signal).
  • an ultrasound echo signal for example, an ultrasound echo signal.
  • the second electronic device 500 is an external device located at a remote location, for example, another electronic device, an external screen (eg, a monitor, TV, large screen, etc.), a server (eg, Computer) or the like.
  • the second electronic device 500 may connect to the first electronic device 400 by wireless communication, and may receive data (eg, ultrasound scan data) from the first electronic device 400 in real time.
  • the second electronic device 500 may display various UIs or GUIs related to telemedicine based at least in part on the received data.
  • the second electronic device 500 may generate various remote control information related to telemedicine based on at least a part of the received data and transmit the generated control information to the first electronic device 400.
  • the second electronic device 500 may be connected to another device at a remote location to share data (eg, screen mirroring) received from the first electronic device 400.
  • data eg, screen mirroring
  • the second electronic device 500 is a smartphone and a monitor, and it is assumed that the smartphone and the monitor exist in the same space (for example, within a short range communication radius).
  • the smartphone may receive data from the first electronic device 400, display the received data through the smartphone, and share the displayed data through a connected monitor using screen mirroring.
  • FIG. 5 is a diagram illustrating an electronic device and a probe according to various embodiments of the present disclosure.
  • the first electronic device 400 is illustrated in FIG. 5, and the first electronic device 400 and the probe are connected based on wireless communication.
  • the electronic device 400 may be formed on the display 410, a housing (or main body) 420 on which the display 410 is seated and fastened, and formed on the housing 420 to perform a function of the electronic device 400. It may be configured to include an additional device for.
  • the additional device may include a first speaker 401, a second speaker 403, a microphone 405, a sensor (eg, the front camera module 407, an illuminance sensor 409, etc.), a communication interface (eg, A charge or data input / output port 411, an audio input / output port 413, etc.), a button 415, and the like.
  • the electronic device 400 and the probe 600 may include at least some ports (eg, data input / output ports) of a communication interface. 411).
  • the display 410 may include a bent display (or curved display) that can bend, bend, or roll without damage through a thin, flexible substrate, such as a flat panel display or paper.
  • the bent display may be fastened to the housing 420 to maintain a curved shape.
  • the electronic device 400 may be implemented as a display device that can be bent and detached freely, such as a flexible display, including a bent display.
  • the display 410 may be a liquid crystal display in a liquid crystal display (LCD), a light emitting diode (LED), an organic light emitting diode (OLED), and an active OLED (AMOLED). By replacing the glass substrate wrapped with a plastic film, it can be given the flexibility to fold and unfold.
  • LCD liquid crystal display
  • LED light emitting diode
  • OLED organic light emitting diode
  • AMOLED active OLED
  • the electronic device 400 may be connected to the probe 600. In various embodiments, the electronic device 400 may be connected to the probe 600 based on wireless communication (eg, Bluetooth, Bluetooth low energy (BLE), etc.).
  • wireless communication eg, Bluetooth, Bluetooth low energy (BLE), etc.
  • the electronic device 400 is connected to the probe 600 to generate related data (eg, ultrasound scan data, affected image data, etc.) for telemedicine, and to generate the second electronic device at a remote location. 500 may be sent.
  • related data eg, ultrasound scan data, affected image data, etc.
  • the electronic device 400 may recognize the start of an emergency diagnosis and enter an emergency mode.
  • the electronic device 400 may skip the preset setting step and immediately execute an emergency preset. This will be described in detail with reference to the drawings to be described later.
  • the electronic device 400 may perform a diagnosis start using the probe 600 (eg, to acquire ultrasound data by controlling the probe 600), and display a result of diagnosis (eg, ultrasound data) on a remote location.
  • a diagnosis start using the probe 600 eg, to acquire ultrasound data by controlling the probe 600
  • a result of diagnosis eg, ultrasound data
  • An operation related to the transmission to the second electronic device 500 may be processed.
  • the electronic device 400 may receive remote control information (eg, an ultrasound diagnosis guide, a first aid guide, a probe 600 operation guide, etc.) from the second electronic device 500, and may receive the remote control information.
  • remote control information eg, an ultrasound diagnosis guide, a first aid guide, a probe 600 operation guide, etc.
  • Various related operations eg, guide display, indicator output, or control of the probe 600 for the indicator output, etc.
  • various examples related to supporting the remote medical care by interworking with the probe 600 will be described in detail with reference to the accompanying drawings.
  • the probe 600 may be connected to the electronic device 400 by wireless communication.
  • the probe 600 may, for example, irradiate an ultrasound signal generated from a transducer to an object (a subject), receive information of an echo signal reflected from the object, and acquire an image of a region inside the object. can do.
  • the probe 600 may be used for medical purposes, such as observation inside an object, foreign matter detection, and injury measurement.
  • the probe 600 may transmit the obtained image to the connected electronic device 400.
  • the probe 600 may output an indicator related to the probe manipulation guide or the diagnostic guide based on the control of the electronic device 400.
  • the probe 600 may operate to output lighting through an output unit (for example, a light emitting device, an LED, an infrared light, etc.) provided.
  • an output unit for example, a light emitting device, an LED, an infrared light, etc.
  • FIG. 6 is a diagram schematically illustrating a configuration of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 400 may include, for example, a wireless communication unit 610, a user input unit 620, a touchscreen 830, and an audio processor 640. ), A memory 650, an interface unit 660, a camera module 670, a controller 680 (eg, the processor 120), and a power supply unit 690.
  • the electronic device 400 since the components illustrated in FIG. 6 are not essential, the electronic device 400 may be implemented to have more or fewer components than those illustrated in FIG. 6. .
  • the wireless communication unit 610 may have a configuration that is the same as or similar to that of the communication module 220 of FIG. 2, for example.
  • the wireless communication unit 610 includes one or more modules that enable wireless communication between the electronic device 400 and another external device (eg, the probe 600, the other electronic device 500, the server 106). can do.
  • the wireless communication unit 610 may include a mobile communication module 611, a wireless local area network (WLAN) module 613, a short range communication module 615, and a location calculation module 617. Can be configured.
  • the wireless communication unit 610 may include a module (eg, a short range communication module, a telecommunication module, etc.) for communicating with a peripheral external device.
  • the mobile communication module 611 may have a configuration that is the same as or similar to that of the cellular module 221 of FIG. 2, for example.
  • the mobile communication module 611 may include a base station, an external electronic device (eg, another electronic device 104), and various servers (eg, an application server, a management server, an integration server, and a provider server) on a mobile communication network.
  • a wireless signal may be transmitted and received with at least one of a provider server, a content server, an internet server, a cloud server, and the like.
  • the wireless signal may include a voice signal, a data signal or various types of control signals.
  • the mobile communication module 611 may transmit various data necessary for the operation of the electronic device 400 to an external electronic device (for example, the server 106 or the other electronic device 104, etc.) in response to a user request.
  • the WLAN module 613 may have, for example, a configuration that is the same as or similar to that of the WiFi module 223 of FIG. 2.
  • the WLAN module 613 may represent a module for forming a WLAN link with a wireless Internet connection and another external device (eg, the probe 600, the other electronic device 102, the server 106, etc.). have.
  • the wireless LAN module 613 may be internal or external to the electronic device 400.
  • Wireless Internet technologies may include wireless fidelity (WiFi), wireless broadband (Wibro), world interoperability for microwave access (WiMax), high speed downlink packet access (HSDPA), or millimeter wave (mmWave).
  • the wireless LAN module 613 may be connected to another external device (eg, a probe 600) or another electronic device 104 connected to the electronic device 400 through a network (eg, a wireless Internet network) (eg, a network 162). ), Etc.), various data of the electronic device 400 may be transmitted to the outside or received from the outside.
  • the wireless LAN module 613 may be always on, or may be turned on according to a setting or a user input of the electronic device 400.
  • the short range communication module 615 may represent a module for performing short range communication.
  • Near field communication technologies include Bluetooth, Bluetooth Low Energy (BLE), Radio Frequency IDentification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, or NFC ( Near Field Communication) may be used.
  • the short range communication module 615 interoperates with other external devices (eg, the probe 600, etc.) connected to the electronic device 400 through a network (for example, a short range communication network), and various data of the electronic device 400 may be used. Can be sent to or received from an external device.
  • the short range communication module 615 may maintain the always on state or may be turned on according to a setting or a user input of the electronic device 400.
  • the location calculation module 617 may have a configuration that is the same as or similar to that of the GNSS module 227 of FIG. 2, for example.
  • the position calculation module 617 is a module for acquiring the position of the electronic device 400, and may include a global position system (GPS) module as a representative example.
  • GPS global position system
  • the location calculation module 617 may measure the location of the electronic device 400 on the basis of triangulation.
  • the user input unit 620 may generate input data for controlling the operation of the electronic device 400 in response to a user input.
  • the user input unit 620 may include at least one input device for detecting various inputs of a user.
  • the user input unit 620 may include a keypad, a dome switch, a physical button, a touch pad (static pressure / capacitance), a jog & shuttle, and a sensor (eg, a sensor module). 240), and the like.
  • the user input unit 620 may be partially implemented in the form of a button on the outside of the electronic device 400, or may be partially or entirely implemented as a touch panel.
  • the user input unit 620 may be a user for initiating an operation of the electronic device 400 (eg, connecting and recognizing a probe 600, an ultrasound diagnosis function, and a data transmission / reception function) according to various embodiments of the present disclosure.
  • An input may be received and an input signal according to a user input may be generated.
  • the touch screen 630 represents an input / output device capable of simultaneously performing an input function and a display function, and may include a display 631 (eg, the display 160 and 260) and a touch sensing unit 633.
  • the touch screen 630 may provide an input / output interface between the electronic device 400 and the user, may transmit a user's touch input to the electronic device 400, and may also display an output from the electronic device 400 to the user. May include roles.
  • the touch screen 630 may show a visual output to the user. The visual output may appear in the form of text, graphics, video, and combinations thereof.
  • the display 631 may display (output) various types of information processed by the electronic device 400.
  • the display 631 may be an operation in which the electronic device 400 performs a connection with the probe 600, an operation of displaying data of the probe 600 (eg, ultrasound scan data, affected image data, etc.) and data.
  • the interface (GUI, graphical UI) can be displayed.
  • various displays eg, the display 160
  • the display 631 may be a bent display.
  • the touch sensing unit 633 may be mounted on the display 631, and may sense a user input contacting or approaching the surface of the touch screen 630.
  • the user input may include a touch input or a proximity input input based on at least one of single-touch, multi-touch, hovering, or air gesture.
  • the touch sensing unit 633 may receive a user input for starting an operation related to the use of the electronic device 400 and generate an input signal according to the user input in various embodiments.
  • the audio processor 640 may have a configuration that is the same as or similar to that of the audio module 280 of FIG. 2, for example.
  • the audio processor 640 transmits an audio signal received from the controller 680 to the speaker 841 and transmits an audio signal such as a voice received from the microphone 843 to the controller 680. ) Can be performed.
  • the audio processor 640 converts the audio / sound data into an audible sound through the speaker 641 under the control of the controller 680, and converts audio signals such as voice received from the microphone 643 into digital signals.
  • the controller 680 may transmit the information to the controller 680.
  • the speaker 641 may output audio data received from the wireless communication unit 610 or stored in the memory 650.
  • the speaker 641 may output sound signals related to various operations (functions) performed by the electronic device 400.
  • the microphone 643 may receive an external sound signal and process the same as electrical voice data. Various noise reduction algorithms may be implemented in the microphone 643 to remove noise generated in the process of receiving an external sound signal.
  • the microphone 643 may be responsible for input of audio streaming, such as a voice command (eg, a voice command for initiating a function such as executing an emergency mode or connecting another electronic device).
  • the memory 650 may store one or more programs executed by the controller 680 and may temporarily store one or more programs. You can also perform a function.
  • the input / output data may include, for example, a file such as a video, an image, a photo, or an audio, and an ultrasound image of the probe 600.
  • the memory 650 is responsible for storing the obtained data, and the data obtained in real time may be stored in a temporary storage device, and data determined to be stored may be stored in a storage device that can be stored for a long time.
  • the memory 650 may, in various embodiments, be configured by the controller 680 (eg, a processor) to detect an ultrasound diagnostic mode and to execute an ultrasound diagnostic mode in response to the detection of the ultrasound diagnostic mode and to execute an external device (eg, a second electronic device). 500), to establish communication with an external screen, to acquire data in an ultrasound diagnostic mode, to send data via a display to an external device using a display and communication circuit, and in response to receiving control information from the external device. It may store one or more programs, data or instructions related to providing a manipulation guide of the probe 600.
  • the controller 680 eg, a processor
  • the memory 650 may, in various embodiments, be configured by the controller 680 (eg, a processor) to communicate with an external device (eg, the first electronic device 400), receive data from the external device, and stream data from the external device. Perform at least one of a display or mirroring of the data to an external screen, and receive control information related to the control of the probe 600 connected to the external device based on at least in part on the data, and transmit the control information to the external device. Store one or more programs, data, or instructions related to doing the same.
  • the controller 680 eg, a processor
  • the memory 650 may include one or more application modules (or software modules).
  • the interface unit 660 may have a configuration that is the same as or similar to that of the interface 270 of FIG. 2, for example.
  • the interface unit 660 may receive data from another electronic device or receive power and transfer the power to each of the components in the electronic device 400.
  • the interface unit 660 may transmit data in the electronic device 400 to another electronic device.
  • wired / wireless headphone port, external charger port, wired / wireless data port, memory card port, audio input / output port, video input / output port, earphone port Etc. may be included in the interface unit 660.
  • the electronic device 400 and the probe 600 are connected in a wired communication manner, the electronic device 400 may be connected based on at least some ports of the interface unit 600.
  • the camera module 670 (eg, the camera module 291) represents a configuration supporting the capturing function of the electronic device 400.
  • the camera module 670 may photograph an arbitrary subject under the control of the controller 680, and transfer the photographed data (eg, an image) to the display 631 and the controller 680.
  • the controller 680 may control the overall operation of the electronic device 400.
  • the controller 680 may have, for example, a configuration that is the same as or similar to that of the processor 210 of FIG. 2.
  • the controller 680 may detect an ultrasound diagnosis mode, execute an ultrasound diagnosis mode in response to the detection of the ultrasound diagnosis mode, and the external device.
  • the controller 680 may establish communication with an external device (eg, the first electronic device 400). Receiving at least one of streaming data, performing at least one of display of data or mirroring to an external screen of data, and receiving control information related to control of the probe 600 connected to the external device based at least in part on the data. And transmitting the control information to the external device.
  • an external device eg, the first electronic device 400.
  • the controller 680 may include one or more processors for controlling the operation of the electronic device 400.
  • the controller 680 may control the operation of hardware modules such as the audio processor 640, the interface 660, the display 631, and the camera module 670. Control operation of the controller 680 according to various embodiments of the present invention will be described in detail with reference to the drawings to be described later.
  • the controller 680 may execute one or more programs stored in the memory 650 to control one or more operations of the electronic device 400 according to various embodiments of the present disclosure. It may be implemented as one or more processors.
  • the power supply unit 690 may receive an external power source or an internal power source under the control of the controller 680 to supply power for operation of each component.
  • the power supply unit 690 may supply or turn off (on / off) power to the wireless communication unit 610, the display 631, the camera module 670, and the like by the control of the controller 680. have.
  • the configuration of the second electronic device 500 is not illustrated, but in various embodiments, the second electronic device 500 may have the same or similar configuration as the electronic device 400 of FIG. 6.
  • the first electronic device 400 and the second electronic device 500 may be the same device (eg, a smartphone: a smartphone, a tablet PC: a tablet PC), or another device (eg, a smartphone: a tablet PC, a tablet).
  • PC smart phone, smart phone: can be implemented as an external screen (TV, monitor, etc.).
  • the electronic device 400 may include a display (eg, a display 631, a touch screen 630), a camera (eg, a camera module 670), and a probe ( 600, a second communication circuit (eg, the wireless communication unit 610, the interface unit 660) for connection, and a second communication device for communicating with at least one external device (eg, the second electronic device 500, an external screen).
  • a communication circuit eg, a wireless communication unit 810
  • a processor eg, a control unit 680
  • the communication circuit may be configured to provide streaming operation to the external device and to provide an operation guide of the probe in response to receiving control information (eg, guide information) from the external device.
  • the processor may acquire first data (eg, ultrasound image and ultrasound scan data) captured by the probe 600, and second data (eg, probe manipulation) captured by the camera. Image, affected image data), display at least one of the first data and the second data in a set manner, and transmit the first data and the second data to the external device.
  • first data eg, ultrasound image and ultrasound scan data
  • second data eg, probe manipulation
  • the processor may be configured to automatically connect a voice call or a video call with the external device.
  • the processor is configured to transmit data acquired in the ultrasound diagnostic mode to at least one of the external device and the external screen different from the external device, and perform a call connection with the external device. can do.
  • the processor may receive the control information transmitted based at least in part on the data from the external device, and output an indicator corresponding to the control information based on at least some of the data or the probe. Can be configured to process.
  • the processor may be configured to detect a detection signal by the probe 600, determine an emergency diagnosis mode execution, and provide an emergency preset in response to the detection signal.
  • the processor may be configured to omit a preset setting step and provide a simple menu in the emergency diagnosis mode.
  • the electronic device 500 may include a display (eg, the display 631 and a touch screen 630) and an external device (eg, the first electronic device 400).
  • Communication circuitry eg, a wireless communication unit 610 for communication with the display, and a processor (eg, the controller 680) electrically connected to the display and the communication circuit, the processor communicating with the external device.
  • Form, receive and stream data from the external device perform at least one of display of the data or mirroring of the data to an external screen (e.g., TV, monitor, etc.), and based on the data at least in part, the external Receive control information (eg, guide information) related to the control of the probe 600 connected to the device, and transmit the control information to the external device.
  • an external screen e.g., TV, monitor, etc.
  • the external Receive control information eg, guide information
  • the data may include first data (eg, ultrasound image and ultrasound scan data) captured by the probe 600 connected to the external device, or a camera (eg, a camera module) of the external device. And at least one of the second data (eg, probe manipulation image and affected image data) photographed through the image.
  • first data eg, ultrasound image and ultrasound scan data
  • camera eg, a camera module
  • the processor may be configured to perform a call connection with the external device along with the data reception.
  • the processor may receive a user input for guiding the probe 600 based at least in part on the data, generate the control information based on the user input, and generate the control information. Can be configured to transmit to the external device.
  • the processor may execute a communication mode and perform image processing related to the sharing of the data based on the communication mode (eg, screen sharing, image processing for transmission or screen switching to a connected external device).
  • image processing related to the sharing of the data based on the communication mode (eg, screen sharing, image processing for transmission or screen switching to a connected external device).
  • FIG. 7 is a diagram illustrating an operation of providing data between electronic devices according to various embodiments of the present disclosure.
  • FIG. 7 illustrates an example of transmitting a state and an ultrasound diagnosis state of a remote patient (eg, a user of the first electronic device 400) between the first electronic device 400 and the second electronic device 500.
  • a remote patient eg, a user of the first electronic device 400
  • the first author device 400 may represent a device connected to the probe 600
  • the second electronic device 500 may represent a remote PC, a TV, or other separate computing and communication device.
  • the first electronic device 400 may transmit a connection request to the second electronic device 500.
  • the first electronic device 400 may automatically transmit or manually transmit a connection request.
  • the automatic connection request method is as follows.
  • the first electronic device 400 obtains emergency contact information in response to detecting probe 600 connection detection or entry into a remote diagnostic mode, and based on the obtained emergency contact information.
  • the emergency contact information may be contact information (eg, connection information of the second electronic device 500 designated by the user) registered in advance in the first electronic device 400 or the first electronic device 400.
  • the connection information of the second electronic device 500 acquired based on at least a part of the health information of the user registered in advance in the first electronic device 400 or the hospital connection information of the nearest neighbor acquired based on the location of the first electronic device 400. can do.
  • the second electronic device 500 may transmit a connection response to the first electronic device 400 in response to the connection request of the first electronic device 400.
  • the first electronic device 400 and the second electronic device 500 may generate a session shared key, respectively.
  • the first hearing device 400 and the second hearing device 500 generate and store a session shared key when a connection is established according to a negotiation performed according to a connection request and a connection response.
  • a session may be used to mean, for example, a process of one unit of data for remote mirroring.
  • a shared key which is a kind of identifier (ID).
  • the first electronic device 400 may photograph the affected part of the patient.
  • the first electronic device 400 turns on the camera when the camera is in an off state in response to detecting the connection of the probe 600 or entering the remote diagnosis mode. ) You can control and take an external video through the camera.
  • the first electronic device 400 may display an image (eg, a preview image) captured by a camera based on a set user interface.
  • the first electronic device 400 may generate affected image data based at least in part on an image acquired from a camera (eg, the camera module 670). According to an embodiment of the present disclosure, the first electronic device 400 may be packetized based at least in part on the preview image. According to an embodiment of the present disclosure, the first electronic device 400 may generate first packet data for transmission to the second electronic device 500 through packetization of the affected area image data.
  • a camera eg, the camera module 670
  • the first electronic device 400 may be packetized based at least in part on the preview image.
  • the first electronic device 400 may generate first packet data for transmission to the second electronic device 500 through packetization of the affected area image data.
  • the first electronic device 400 may obtain ultrasonic scan data from the probe 600. According to an embodiment of the present disclosure, the first electronic device 400 may receive data scanned by the probe 600.
  • the first electronic device 400 may compress the ultrasound scan data.
  • the first electronic device 400 may packetize the compressed ultrasound scan data.
  • the first electronic device 400 may generate second packet data for transmission to the second electronic device 500 through packetization of the ultrasound scan data.
  • the ultrasound scan data may include binary data converted by a transducer of the probe 600, and the transmission size of the ultrasound scan data may be reduced by compressing and transmitting the binary data.
  • the first electronic device 400 may encrypt packet data. According to an embodiment of the present disclosure, the first electronic device 400 may encrypt the first packet data and the second packet data. According to various embodiments of the present disclosure, the first electronic device 400 may encrypt the first packet data and the second packet data into one packet, or may encrypt the first packet data and the second packet data into independent packets. have.
  • the first electronic device 400 may transmit packet data to the second electronic device 500.
  • the first electronic device 400 may separately distinguish the first packet data and the second packet data, and transmit the packets independently or transmit them in one packet.
  • the second electronic device 500 may decrypt the encrypted packet data.
  • the second electronic device 500 may decode the first packet data and the second packet data, respectively. Can be.
  • the second electronic device 500 may decode the received packet data.
  • the second electronic device 500 may acquire affected image data corresponding to the first packet data and compressed ultrasound scan data corresponding to the second packet data by packet data decoding.
  • the second electronic device 500 may output (display) the affected image based at least in part on the decoded affected image data.
  • the second electronic device 500 may reconstruction and render the decoded compressed ultrasound image data.
  • the second electronic device 500 may output (display) the ultrasound image based at least in part on the restored ultrasound image data.
  • the second electronic device 500 displays the wound image and the ultrasound image at the same time based on screen division or a picture in picture (PIP) or picture by picture (PBP) scheme, or the wound image or the ultrasound image.
  • PIP picture in picture
  • PBP picture by picture
  • the images can be displayed independently in full screen.
  • the ultrasound scan data may be restored and rendered by the second electronic device 500 to implement an ultrasound image.
  • an ultrasound image may be configured in the first electronic device 400 and then the result may be transmitted to the second electronic device 500.
  • FIG. 8 is a diagram illustrating an operation of providing data between electronic devices according to various embodiments of the present disclosure.
  • FIG. 8 illustrates ultrasound waves of the first electronic device 400 in the second electronic device 500 (for example, a device possessed by a doctor in a hospital) in a user (for example, a user of the second electronic device 500 and a doctor).
  • An operation example for providing a diagnostic guide may be shown.
  • the first electronic device 400 and the second electronic device 500 may identify the session sharing key, respectively.
  • the session sharing key indicates a shared key generated and stored by the first electronic device 400 and the second electronic device 500 at the first remote connection, and thereby distinguishing and controlling a plurality of sessions. Can be used for
  • the second electronic device 500 may generate a probe 600 positioning guide.
  • the second electronic device 500 may provide location information for guiding a location for adjusting the probe 600 connected to the first electronic device 400 at a remote location according to an input of a user (eg, a doctor). (Or control information) can be generated.
  • the second electronic device 500 may transmit location information to the first electronic device 400.
  • the first electronic device 400 may check location information of the probe 600. According to an embodiment of the present disclosure, the first electronic device 400 may determine a location for guiding the adjustment position of the probe 600 based on the location information received from the second electronic device 500.
  • the first electronic device 400 may operate to output a direction indicator for moving the position of the probe 600 based on at least one of the affected area photographing screen or the probe 600. .
  • the first electronic device 400 may guide the position movement of the probe 600 by displaying an indicator at a position corresponding to the direction information on the affected area photographing screen.
  • the first electronic device 400 determines one of a plurality of output units (eg, a light emitting device) of the probe 600 in response to the direction information, and commands a writing output by the determined output unit. By transmitting a command to the probe 600, the position movement of the probe 600 may be guided by the lighting of the probe 600.
  • a plurality of output units eg, a light emitting device
  • FIG. 9 is a diagram illustrating an operation of providing an operation guide of a probe in an electronic device according to various embodiments of the present disclosure.
  • FIG. 9 illustrates a detailed example of an operation in which the first electronic device 400 checks probe position information of operation 809 in FIG. 8.
  • the first electronic device 400 may wait for reception of a guide from the second electronic device 500, and in operation 903, may determine whether to receive guide information.
  • the first electronic device 400 may include a guide including position information (or direction information) and / or control information for guiding adjustment of the probe 600 from the second electronic device 500 connected by wireless communication. It can wait to receive information.
  • the first electronic device 400 continuously transmits ultrasound scan data obtained from the probe 600 and affected image data obtained from the camera in real time (eg, streaming) to the second electronic device 500. It may be in a state.
  • the first electronic device 400 may proceed to operation 901 to process an operation of operation 901 or less.
  • the first electronic device 400 may analyze the guide information.
  • the guide information may include position (direction) information related to movement of the position of the probe 600, an action related to manipulation of the probe 600, or an action on a patient (eg, a user of the first electronic device 400). It may include one or more of the text or image information associated with.
  • the first electronic device 400 may determine whether the direction information is included in the guide information. According to an embodiment of the present disclosure, based on the analysis of the guide information, whether the first electronic device 400 includes direction (position) information for guiding the direction of movement of the probe 600 in the received guide information or guide information. Can be determined.
  • the first electronic device 400 may proceed to operation 901 to process an operation of operation 901 or less.
  • the first electronic device 400 may perform a related operation in response to the received guide. For example, an operation of displaying text or an image may be performed according to the received guide.
  • the first electronic device 400 may include at least one of the affected area photographing screen or the probe 600. It may be operable to output a direction indicator for position movement of the probe 600 based on one. According to an embodiment of the present disclosure, the first electronic device 400 may guide the position movement of the probe 600 by displaying an indicator at a position corresponding to the direction information on the affected area photographing screen. According to an embodiment of the present disclosure, the first electronic device 400 determines one of a plurality of output units (eg, a light emitting device) of the probe 600 in response to the direction information, and commands a writing output by the determined output unit.
  • a plurality of output units eg, a light emitting device
  • the position movement of the probe 600 may be guided by the lighting of the probe 600. According to various embodiments of the present disclosure, an operation of guiding the movement of the probe 600 and related screen examples are described in detail with reference to the accompanying drawings.
  • FIG. 10 is a diagram illustrating an example of an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • the mirroring operation may be performed by using a video call (eg, voice + image) method between the first electronic device 400 and the second electronic device 500, to the ultrasound scan data or the camera photographing with the probe 600.
  • An operation of real time sharing may be performed based on at least some of the affected part image data being photographed.
  • the mirroring operation may be performed by transmitting the second electronic device 500 from the first electronic device 400 to display a related screen through the second electronic device 500, and the second electronic device 500. ) May display the data received from the first electronic device 400 through a related external device (eg, a monitor, a TV, etc.) connected to the second electronic device 500.
  • a related external device eg, a monitor, a TV, etc.
  • the first electronic device 400 may display an emergency preset related user interface.
  • the emergency preset related user interface may include a patient information area 1010, a screen mirroring area 1020, a communication area 1030, and a menu area 1040.
  • the patient information area 1010 information related to a user of the first electronic device 400 may be provided.
  • the patient information area 1010 may include an image (eg, a preview image or a still image) captured by a camera of the first electronic device 400, time information (eg, current date, time, etc.), Location information and the like.
  • the screen mirroring area 1020 may represent an area for selecting whether to activate (or perform) the mirroring function.
  • the screen mirroring area 1020 may include information related to the second electronic device 500 or an external device (eg, TV, monitor, etc.) connected to the second electronic device 500 to perform the mirroring operation. Can be.
  • the communication area 1030 may represent an area for selecting whether to activate (or perform) a communication function, for example, a voice call or a video call function.
  • the communication area 1030 may include information related to the second electronic device 500 to which communication (for example, voice call or video call) is to be connected (for example, user name or nickname based on contact information). have.
  • the menu area 1040 may represent an area for selecting whether to proceed (perform) a remote diagnosis based at least in part on the data acquired by the first electronic device 400.
  • the menu area 1040 may include an accept button (for example, OK) for the remote diagnosis process and a reject button (for example, CANCEL) for canceling the remote diagnosis process.
  • a remote diagnosis process when a remote diagnosis process is requested by a user who operates the first electronic device 400 (eg, an emergency attendant or a user of the first electronic device 400), data (eg, ultrasound scan data) is requested. Alternatively, at least one of the affected area image data may be transmitted to the second electronic device 500.
  • the first electronic device 400 may set the second electronic device 500 (eg, an external device 520 in the hospital) (eg, the data). TV, monitor, etc.) can be sent directly to perform the mirroring operation.
  • the first electronic device 400 may determine the second electronic device 500 (eg, based on a selected communication method (eg, voice call or video call)).
  • a communication connection may be performed with the electronic device 510 of a doctor in a hospital.
  • the second electronic device 500 when the second electronic device 500 (eg, the electronic device 510) receives data from the first electronic device 400 or a communication is connected with the data reception, the telemedicine ), And optionally perform a mirroring operation.
  • the second electronic device 500 may display the ultrasound scan data based at least in part on the received data.
  • the second electronic device 500 may perform screen mirroring by interlocking (eg, real-time connecting) the received data with an external device 520 (eg, TV, monitor, etc.).
  • the second electronic device may provide a pop-up separately according to the communication connection state and the screen mirroring state change.
  • information on a call eg, Calling
  • user information eg, Dr. Louise Humphrey
  • GUI eg, a pop-up
  • target external device information eg, TV-J6350AF
  • the external device 520 may display data (eg, ultrasound scan data) directly received from the first electronic device 400. According to various embodiments of the present disclosure, the external device 520 may transmit data (eg, ultrasound scan data) transmitted by the second electronic device 510 connected by, for example, Wi-Fi Direct or Wi-Fi Display. ) Can be displayed.
  • data eg, ultrasound scan data
  • the second electronic device 510 connected by, for example, Wi-Fi Direct or Wi-Fi Display.
  • the voice call or the video call can be simultaneously performed to enable more accurate remote diagnosis and / or coping between the remote patient and the doctor in an emergency or emergency situation.
  • at least one image (or screen) connected to a remote location is at least partially connected to data acquired by the first electronic device 400 through the probe 600 or the camera (for example, ultrasound diagnostic data and affected image data).
  • the image (or screen) may be shared by real time transmission to the second electronic devices 510 and 520.
  • a user who operates the first electronic device 400 may share a diagnosis opinion through a voice call and / or a video call with a specialist in a hospital, and may provide emergency treatment for the patient.
  • Guides can be provided on the back.
  • FIG. 11 is a diagram illustrating an example of an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • FIG. 11 illustrates an example of a screen that provides data for ultrasound image diagnosis.
  • the first electronic device 400 may screen-mirror only the ultrasound image region 1110 (eg, the real-time image region) excluding menu keys unnecessary for ultrasound image diagnosis.
  • the first electronic device 400 directly performs screen mirroring (eg, data transmission) with the second electronic device 500 (eg, the external device 520) to perform data (eg, ultrasound scanning). Data).
  • the first electronic device 400 may transmit only the ultrasound image region 1110 excluding the menu keys from the obtained data.
  • the first electronic device 400 may transmit data (for example, ultrasound scan data) to the second electronic device 500 (for example, the electronic device 510), and the second electronic device 510. ) May perform screen mirroring with the connected external device 520 (eg, TV, monitor, etc.).
  • the second electronic device 510 may transmit only the ultrasound image region 1110 excluding menu keys for ultrasound diagnosis.
  • FIG. 12 is a diagram illustrating an operation of providing data sharing and mirroring in electronic devices according to various embodiments of the present disclosure.
  • FIG. 12 displays and manipulates data (eg, ultrasound scan data) provided from a first electronic device 400 at a remote location through a second electronic device 500 (eg, a TV or a monitor).
  • data eg, ultrasound scan data
  • a second electronic device 500 eg, a TV or a monitor.
  • An example screen may be displayed.
  • the second electronic device 500 may manipulate the ultrasound scan data displayed through the second electronic device 500 by using the control device 1200 (eg, a remote controller).
  • the control device 1200 eg, a remote controller
  • a user may perform real-time reading or diagnosis by screen division on an ultrasound image displayed through the second electronic device 500 as shown in FIG. 11.
  • a user may manipulate the control device 1200 for real time reading or diagnosis of the ultrasound image.
  • the control device 1200 may transmit an operation command (eg, a screen division command) to the second electronic device 500 in response to a user operation.
  • the second electronic device 500 may divide and provide a screen in response to the detection of the screen split command of the control device 1200.
  • the second electronic device 500 may provide the ultrasound image area and the read area.
  • the second electronic device 500 may provide an ultrasound image through an ultrasound image region, and provide a stored image (for example, a still image or a captured image of the ultrasound image) through the reading region. have.
  • the reading area may be provided including a menu related to manipulation and / or reading of the ultrasound image.
  • the menu may be provided in one area (eg, bottom of the screen) of the screen.
  • the user when the user (eg, a doctor) rereads the recorded or stored diagnostic image, the user (eg, a doctor) operates the second electronic device 500 using the control device 1200. Diagnostic images can be read. For example, the user may perform an operation for selecting a diagnostic image using the control device 1200 or perform an operation for enlarging the reading area in the state as shown in the screen A of FIG. 12.
  • the control device 1200 may transmit an operation command (for example, a read area enlargement command or an image list command) to the second electronic device 500 in response to a user operation.
  • the second electronic device 500 may enlarge and provide a screen in response to the detection of an operation command (eg, a read area enlargement command) of the control device 1200.
  • the second electronic device 500 may display an image list in response to an operation command (eg, an image list command) of the control device 1200 and display an image selected from the image list in full screen.
  • the reading area may be provided including a menu related to manipulation and / or reading of the ultrasound image. For example, Freeze / Unfreeze for freezing or playing images, Save for saving, Zoom In / Out for zooming in or out, Pen for memo or drawing, Measure for measuring distance or size
  • the menu may be provided in one area (eg, bottom of the screen) of the screen.
  • FIG. 13 is a diagram illustrating an example of a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 illustrates an example of a screen for switching a video call during ultrasound diagnosis based on data (eg, ultrasound scan data) shared between electronic devices.
  • data eg, ultrasound scan data
  • FIG. 13 illustrates an example of manipulating a screen change based on one finger interaction.
  • an electronic device may display a specific user input (eg, long) while displaying an ultrasound image, eg, during an ultrasound diagnosis. press, swipe, flick, etc.), you can switch video calls in response to user input.
  • a specific user input eg, long
  • an ultrasound image eg, during an ultrasound diagnosis. press, swipe, flick, etc.
  • a user may enter a long press to switch to a video call as shown in the screen 1330.
  • the electronic device may switch from the ultrasound diagnosis screen 1310 to the video call screen 1330 in response to detecting a user input and provide the same.
  • the video call screen 1330 may be switched to the ultrasound diagnosis screen 1310 according to a user input (eg, a long press).
  • the user eg, paramedics, doctors
  • the screen As shown in 1330, the video call screen may be switched.
  • the video call screen 1330 may be switched to the ultrasound diagnosis screen 1310 according to a user input (eg, swipe).
  • the electronic device when switching to the ultrasound diagnosis screen 1310 and the video call screen 1330, may provide a GUI related to screen switching. According to an embodiment of the present disclosure, as shown in the screen 1320, the electronic device may change a screen transition effect (eg, slide in / out) between the ultrasound diagnosis screen 1310 and the video call screen 1330. / out), fade in / out, image transition, etc.).
  • a screen transition effect eg, slide in / out
  • the electronic device may change a screen transition effect (eg, slide in / out) between the ultrasound diagnosis screen 1310 and the video call screen 1330. / out), fade in / out, image transition, etc.).
  • FIG. 14 is a diagram illustrating an example of a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 illustrates one finger during an ultrasound diagnosis based on data (eg, ultrasound scan data) shared between electronic devices (eg, the first electronic device 400 and the second electronic device 500).
  • data eg, ultrasound scan data
  • FIG. 14 illustrates one finger during an ultrasound diagnosis based on data (eg, ultrasound scan data) shared between electronic devices (eg, the first electronic device 400 and the second electronic device 500).
  • An example of manipulating screen switching based on one finger interaction can be shown.
  • various user inputs based on one finger may be distinguished and screen switching may be manipulated based on the divided user inputs.
  • long taps, taps, swipes, and the like may be included as user inputs that can be performed during ultrasound diagnosis, and switching between pages and depths for each one-finger-based user input may be performed. Switching between depths, switching between categories, or switching between functions may be set. According to an embodiment of the present disclosure, a screen change and a related GUI according to a page change, a depth change, a category change, or a function change may be provided based on a switching method according to a user input.
  • a user eg, an emergency worker of the first electronic device 400 and a doctor of the second electronic device 500
  • 15 is a diagram illustrating an operation of displaying data in an electronic device according to various embodiments of the present disclosure.
  • FIG. 15 illustrates an orientation (eg, landscape mode) of an electronic device during ultrasound diagnosis by an electronic device (eg, the first electronic device 400 and the second electronic device 500).
  • An example of providing a screen by another GUI may be displayed according to the change of the portrait mode.
  • the electronic device may include various methods of synthesizing a screen (for example, an ultrasound image screen and a video call screen) to be output on the display.
  • a screen for example, an ultrasound image screen and a video call screen
  • PBP Picture by Picture
  • the electronic device may display a basic ultrasound diagnosis screen during ultrasound diagnosis in the portrait mode.
  • the electronic device may include an ultrasound image 1510 and all menus 1520 on the basic ultrasound diagnosis screen in the portrait mode.
  • the electronic device may include a main menu such as Freeze, Save, and Q Scan, and a sub menu such as a Mode button and a Measure button.
  • the electronic device when the electronic device determines to change to the horizontal mode while displaying the basic ultrasound diagnosis screen in the portrait mode, the electronic device divides the ultrasound diagnosis screen 1540 and the video call screen 1550 into screen division forms. It can be synthesized to provide.
  • the electronic device may provide an ultrasound diagnosis screen 1540 including an ultrasound image and a video call screen 1550 including a call image between users by screen division.
  • the ultrasound diagnosis screen 1540 and the video call screen 1550 may be combined and provided in the form of PIP, PBP, or overlay.
  • the ultrasound diagnosis screen 1540 when providing the synthesis screen in the landscape mode, the ultrasound diagnosis screen 1540 may include only the main menu 1530.
  • the electronic device may detect a change (or rotation) of the electronic device. For example, it may be determined to change from the portrait mode to the landscape mode, or change from the landscape mode to the portrait mode.
  • the electronic device may provide a synthesized screen obtained by combining at least two screens including the basic ultrasound diagnosis screen or the ultrasound diagnosis screen by switching between each other based on the determined mode.
  • 16 is a flowchart illustrating an operation of sharing data in an electronic device according to various embodiments of the present disclosure.
  • the controller 680 of the electronic device 400 may detect entry into a diagnostic mode. According to various embodiments of the present disclosure, an operation of determining entry into the diagnostic mode will be described in detail with reference to the accompanying drawings.
  • the controller 680 may determine whether the diagnostic mode is the entry by the emergency diagnosis mode or the entry by the basic diagnosis mode in response to the detection of the diagnosis mode entry.
  • the controller 680 may perform a preset setting step in operation 1607. According to various embodiments of the present disclosure, a preset setting operation will be described in detail with reference to the accompanying drawings.
  • the controller 680 may execute an emergency preset. For example, the controller 680 may skip the preset setting step of operation 1607 and immediately execute the emergency preset. This example is shown in FIG. 10 and the figures below.
  • the controller 680 may determine a performance function. According to an embodiment of the present disclosure, as illustrated in FIG. 10, the controller 680 may determine whether there is a screen mirroring and / or call function selected and set by a user.
  • the controller 680 may determine whether the screen mirroring function is selected. According to an embodiment of the present disclosure, as illustrated in FIG. 10, the controller 680 may determine whether there is a user selection based on the screen mirroring area 1020.
  • the controller 680 may proceed to operation 1615 to process an operation of operation 1615 or lower.
  • the controller 680 may be configured to access an external device (eg, the second electronic device 500 or an external screen, etc.) preset for screen mirroring. You can transfer data (mirror sharing).
  • the controller 680 may check information related to an external device preset for screen mirroring, or contact information of the user or history information of the user (eg, health information). Based on the information related to the external device can be extracted. The controller 680 may transmit data to the corresponding external device based on the checked or extracted information of the external device.
  • the data may be, for example, ultrasound scan data (eg, an ultrasound image) captured by the probe 600 or affected image data (eg, an image captured by a camera (eg, a rear camera of the electronic device)).
  • ultrasound scan data eg, an ultrasound image
  • affected image data eg, an image captured by a camera (eg, a rear camera of the electronic device)
  • a preview image eg, a probe manipulation image
  • the external device may include an external screen (eg, a TV, a monitor, etc.) in a hospital (eg, a doctor's office).
  • the controller 680 may determine whether a call function is selected. According to an embodiment of the present disclosure, as illustrated in FIG. 10, the controller 680 may determine whether there is a user selection based on the communication area 1030.
  • the controller 680 may proceed to operation 1619 to process an operation of operation 1619 or lower.
  • the controller 680 may perform a call connection with an external device in operation 1617.
  • the target external device for call connection may include an electronic device of a doctor.
  • the target external device for call connection and the target external device for screen mirroring may be different devices or the same device.
  • the controller 680 may transmit data to an external device (eg, the second electronic device 500) that connects to a call.
  • an external device eg, the second electronic device 500
  • the controller 680 checks information related to a preset external device for connecting a call (eg, a voice call or a video call), or checks the contact information of the user or the history of the user. Information related to an external device may be extracted based on the information (eg, health information).
  • the controller 680 may transmit a call connection and data to the corresponding external device based on the checked or extracted information of the external device.
  • the data may be, for example, ultrasound scan data (eg, an ultrasound image) captured by the probe 600 or affected image data (eg, an image captured by a camera (eg, a rear camera of the electronic device)).
  • ultrasound scan data eg, an ultrasound image
  • affected image data eg, an image captured by a camera (eg, a rear camera of the electronic device)
  • One or more probe manipulation images may be, for example, ultrasound scan data (eg, an ultrasound image) captured by the probe 600 or affected image data (eg, an image captured by a camera (eg, a rear camera of the electronic device)).
  • a camera eg, a rear camera of the electronic device
  • the controller 680 may perform an ultrasound diagnosis and provide an associated interface. For example, as described in the description with reference to FIGS. 10 to 15, the controller 680 provides various screen interfaces related to performing a diagnostic mode with another electronic device at a remote location, and at least partially in response to a user or a user input at a remote location. Based on this, operations such as screen switching, function switching, or an indicator output for a probe operation guide may be processed.
  • each operation is sequentially illustrated for convenience of description, but the present invention is not limited thereto.
  • operations 1611 to 1619 may be performed sequentially, in parallel, or in reverse order.
  • the control unit 680 may simultaneously determine whether the screen mirroring function and the call function are selected when the function is determined to be performed in operation 1609, and sequentially perform the data transmission or call connection operation based at least in part on the result. May be performed in parallel, or in reverse order.
  • 17 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure.
  • an operation state of the probe 600 is photographed through a camera (eg, a camera module 670 and a rear camera) of the first electronic device 400 and transmitted to the second electronic device 500 in real time.
  • a camera eg, a camera module 670 and a rear camera
  • the first electronic device 400 may transmit the affected area image data 1710 captured by the camera to the second electronic device 500 in real time.
  • the first user may photograph an operation state of the probe 600 contacting the affected part with a camera of the first electronic device 400.
  • the first electronic device 400 may transmit the captured image data 1710 to the second electronic device 500 together with or independently of the ultrasound diagnostic data 1720 obtained from the probe 600.
  • the second user may use the second electronic device 500 (eg, a smartphone 510, an external screen 520, or a TV). Monitor, etc.), including the ultrasound images 1740 and 1760 of the ultrasound diagnostic data, and the manipulation images 1730 and 1750 of the probe 600 through the affected image data.
  • the second user may provide a manipulation guide of the probe 600 to obtain an ultrasound image capable of reading an accurate diagnosis.
  • the second user may provide a guide related to the manipulation of the probe 600 based on a user manipulation using the electronic device 500.
  • the second user uses the direction keys of the second electronic device 500 (for example, the smartphone 510, the control device 530, etc.) to manipulate the probe 600 at a remote paramedic.
  • the direction of movement of the can be taken to take an accurate ultrasound image.
  • the second electronic device 500 may generate guide information corresponding to a user operation, and may transmit the generated guide information to the first electronic device 400.
  • the first electronic device 400 in response to receiving the guide information from the second electronic device 500, may operate the probe 600 in one of various ways, for example, It is operable to provide (output) an indicator.
  • the first electronic device 400 may analyze the guide information, determine (recognize) direction information (or location information) included in the guide information, and based on at least a portion of the determination result, the probe It is operable to output an indicator which can designate the moving direction (position) of 600.
  • the first electronic device 400 may output a guide for obtaining an accurate ultrasound image as an in-screen direction guide of the first electronic device 400.
  • the first electronic device 400 may provide a guide for accurate ultrasound image acquisition as a direction guide using self-directed display lighting of the probe 600.
  • the first electronic device 400 may determine direction information (or location information) of the guide information and transmit a control command to the probe 600 to perform writing corresponding to the determined direction information.
  • the probe 600 may perform writing by an output unit (eg, a light emitting device, an LED, an infrared light, etc.) provided in response to a control command of the first electronic device 400.
  • an output unit eg, a light emitting device, an LED, an infrared light, etc.
  • the probe 600 may include an output unit capable of outputting indicators corresponding to at least four directions on each of four surfaces (eg, provided on each of Left, Front, Right, and Back), or at least Four outputs capable of outputting indicators corresponding to four directions may be configured to include one side (eg, Top, tail).
  • the probe 600 may perform writing by an output unit in a corresponding direction (position) in response to a control command of the first electronic device 600.
  • 18A and 18B are diagrams for describing an operation of providing an operation image for a probe manipulation guide according to various embodiments of the present disclosure.
  • the first electronic device 400 is connected to the probe 600 and is connected to the probe 600 through a camera (eg, a camera module 670 and a rear camera) of the first electronic device 400.
  • the manipulation image of the probe 600 which is photographed in real time with respect to the manipulation of 600 may be displayed based on various GUIs.
  • the first electronic device 400 may display a real-time captured image 1810 (eg, a preview image, affected image data) acquired by a camera on a portion of a screen. It can be provided by floating the relevant GUI.
  • a real-time captured image 1810 eg, a preview image, affected image data
  • a GUI eg, a pop-up window of a real-time captured image acquired through a rear camera
  • the GUI may be provided in various forms, such as a rectangle, a triangle, a polygon, or a circle.
  • the GUI may be moved according to a user input.
  • the GUI related to the real-time captured image 1810 may be displayed through a window independent of each other from the ultrasound image 1820 obtained from the probe 600, and one of each window is a different window. It may be displayed in an overlapped form overlapping with at least a portion of the.
  • the first electronic device 400 may display a real-time captured image 1810 as a GUI (eg, a pop-up window) of a specific type on the ultrasound image 1820, or picture in picture (PIP) or picture by picture (BPB). ) Can be displayed.
  • GUI eg, a pop-up window
  • PIP picture in picture
  • BPB picture by picture
  • the GUI may be located in one region (eg, upper right of screen, upper left of screen, lower left of screen, lower right of screen, etc.) on the ultrasound image 1820.
  • the GUI may be displayed in a bubble form, for example.
  • the GUI can be changed in size and position by the user.
  • the first electronic device 400 is related to a real-time captured image 1830 (eg, a preview image, affected image data) obtained by dividing a screen by a camera. It can provide a GUI.
  • a real-time captured image 1830 eg, a preview image, affected image data
  • the GUI (for example, a real-time captured image acquired through the rear camera) may be displayed through windows independent of each other and the ultrasound image obtained from the probe 600, and each window may be displayed so as not to overlap each other.
  • the first electronic device 400 may independently display the ultrasound image 1840 and the real-time captured image 1830 in the form of vertical division or left and right division of the screen.
  • the GUI may be located at the bottom or the top in the vertical division method, or at the left or the right side in the left and right division method.
  • the screen split ratio may be implemented at the same ratio or at different ratios.
  • the GUI may be repositioned in size (eg, proportion) by the user.
  • 19A, 19B, and 19C are diagrams for explaining an operation of providing an indicator for a probe manipulation guide according to various embodiments of the present disclosure.
  • the first electronic device 400 may display an indicator for guiding manipulation of the probe 600 indicated by the second electronic device 500 based on various methods. .
  • the first electronic device 400 may provide at least a part of various GUIs on the screen.
  • an indicator may be provided based on a screen of the first electronic device 400.
  • the indicator for the probe 600 manipulation guide may provide an indicator in a corresponding direction using a user interface such as an arrow, lighting, or a clock on a separate window or a real-time captured image.
  • the first electronic device 400 may be provided based at least in part on at least some output units (eg, light emitting devices, LEDs, infrared rays, etc.) of the probe 600.
  • an indicator may be provided based on the writing of the probe 600.
  • the first electronic device 400 may transmit a control command for controlling the output of the probe 600 corresponding to the direction indicated by the second electronic device 500 to the probe 600.
  • the probe 600 may provide an indicator based on the lighting (eg, LED emission) of the output unit in the corresponding direction in response to the control command.
  • an output part of a corresponding direction among the output parts of any one surface (eg, Left, Front, Right, Back) of the head of the probe 600 may be provided.
  • the lighting may provide an indicator.
  • the indicator may be provided by writing by an output unit in a corresponding direction among the output units of the tail of the probe 600.
  • the first electronic device 400 may provide an indicator to the outside based at least in part on at least some output units (eg, light emitting devices) of the probe 600. .
  • an indicator may be provided on a body basis.
  • the first electronic device 400 may transmit a control command for controlling the output of the probe 600 corresponding to the direction indicated by the second electronic device 500 to the probe 600.
  • the probe 600 may provide an indicator directly to the patient's body based on the lighting (eg, infrared or beam output) of the output unit in the corresponding direction in response to the control command.
  • 20A and 20B are diagrams for describing an operation of providing a manipulation image for a probe manipulation guide according to various embodiments of the present disclosure.
  • the second electronic device 500 is connected to the first electronic device 400 at a remote location, and the camera (eg, the camera module 670 and the rear camera) of the first electronic device 400 is connected.
  • the manipulation image 2010 of the probe 600 captured in real time with respect to the manipulation of the probe 600 may be displayed based on various GUIs.
  • the second electronic device 500 is a real-time captured image 2010 (eg, a preview image) received from the first electronic device 400 in a portion of the screen.
  • Affected area image data may be provided by floating.
  • the GUI (for example, a pop-up window of the real-time captured image 2010 received from the first electronic device 400) may be provided in various forms, such as a rectangle, a triangle, a polygon, or a circle.
  • the GUI may be moved according to a user input.
  • the GUI may be displayed through a window independent of each other from the ultrasound image 2020 received from the first electronic device 400, and one of each window overlaps at least a portion of another window. It may be displayed in an overlapped form.
  • the second electronic device 400 may display the real-time captured image 2010 as a GUI (eg, a pop-up window) of a specific type on the ultrasound image 2020, or PIP (Picture in Picture) or PBP (Picture by Picture). ) Can be displayed.
  • GUI eg, a pop-up window
  • PIP Picture in Picture
  • PBP Picture by Picture
  • the GUI may be located in one region (eg, upper right screen, upper left screen, lower left screen, lower right screen, etc.) on the ultrasound image 2020.
  • the GUI may be displayed in a bubble form, for example.
  • the GUI can be changed in size and position by the user.
  • the second electronic device 400 splits a screen and receives a real-time captured image 2030 (eg, a preview image) that is received from the first electronic device 400.
  • Video data e.g., a real-time captured image 2030 (eg, a preview image)
  • the GUI (for example, the real-time captured image 2030 received from the first electronic device 400) may be opened through a window independent of the ultrasound image 2040 received from the first electronic device 400.
  • Each window may be displayed so as not to overlap each other.
  • the second electronic device 400 may independently display the ultrasound image 2040 and the real-time captured image 2030 in the form of vertical division or left and right division of the screen.
  • the GUI may be positioned at the bottom or top in the vertical division method, or may be located at the left or right side in the left and right division method.
  • the screen split ratio may be implemented at the same ratio or at different ratios.
  • the GUI may be repositioned in size (eg, proportion) by the user.
  • 21 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure.
  • the second electronic device 500 may provide guide information for guiding the operation of the probe 600 to the first electronic device 400 based at least in part on a user input. have.
  • the second electronic device 500 provides an ultrasound image and a captured image acquired from the first electronic device 400 together or captures the image according to a user's manipulation.
  • the image can be enlarged and provided.
  • the second electronic device 500 may enlarge and provide only a captured image (for example, a full screen), and the user may determine the direction of the probe 600 in the captured image (or the enlarged captured image).
  • a touch may be input at a position for guiding the movement of the position.
  • the user may indicate a direction guide for the guide of the probe 600 based on the touch input.
  • the second electronic device 500 may generate guide information (eg, location information and direction information) corresponding to the touched area (eg, coordinates) based on a user input, and generate the generated guide information using the first electronic device. Transmit to device 400.
  • the first electronic device 400 corresponds to the guide information of the second electronic device 500 on the captured image 2110 in response to receiving the guide information from the second electronic device 500.
  • the indicator 2120 may be displayed and provided to the user. According to an embodiment of the present disclosure, the first electronic device 400 may display the indicator 2120 in an area corresponding to the area touched by the second electronic device 500 in the captured image 2110.
  • FIG. 22 is a diagram illustrating an operation of providing a probe manipulation guide according to various embodiments of the present disclosure. Referring to FIG.
  • the second electronic device 520 (eg, an external screen such as a TV or a monitor) may be configured based on at least a portion of a user input using the control device 530 (eg, a remote controller).
  • Guide information for guiding the operation of the probe 600 may be provided to the 400.
  • the second electronic device 520 may provide an ultrasound image and a captured image acquired from the first electronic device 400 together or may be photographed according to a user manipulation.
  • the image can be enlarged and provided.
  • the second electronic device 520 may enlarge and provide only a captured image (eg, a full screen).
  • the user may operate the control device 530 with respect to a position for guiding the direction (or position movement) of the probe 600 while checking (viewing) the captured image 2210 by the second electronic device 520.
  • the user may instruct the direction guide for the guide of the probe 600 based on the manipulation of the direction key of the control device 530.
  • the control device 530 may transmit a command corresponding to the selected direction key to the second electronic device 520, and the second electronic device 520 may provide an indicator in an area (location) corresponding to the command.
  • the first electronic device 400 may generate guide information (eg, location information and direction information) corresponding to a region (eg, coordinates) provided with an indicator, and generate the generated guide information. 1 may transmit to the electronic device 400.
  • the first electronic device 400 in response to receiving guide information from the second electronic device 520, places an indicator on a captured image corresponding to the guide information of the second electronic device 520.
  • the display can be provided to the user.
  • the first electronic device 400 may display and provide an indicator in an area corresponding to an area where the indicator is displayed by the second electronic device 520 in the captured image.
  • 23 is a flowchart illustrating an operation of guiding a probe operation in an electronic device according to various embodiments of the present disclosure.
  • the controller 680 of the electronic device 400 may connect communication with an external device (eg, the second electronic device 500).
  • the first electronic device 400 may connect a voice call or a video call with the set second electronic device 500.
  • the first electronic device 400 transmits data related to the ultrasound image captured by the probe 600 and the affected area manipulation image captured by the camera, to the second electronic device 500 (eg, streaming). )can do.
  • the controller 680 may wait to receive the guide information.
  • the controller 680 may determine whether to receive the guide information. For example, the controller 680 may detect whether there is reception of guide information from the counterpart electronic device (eg, the second electronic device 500) connected to the communication.
  • the controller 680 may proceed to operation 2303 to process an operation of operation 2303 or less.
  • the controller 680 may analyze the guide information in operation 2307.
  • the guide information may include one or more of position (direction) information related to position movement of the probe 600, text or image information related to manipulation of the probe 600 or related to an action on the patient. have.
  • the controller 680 may determine location (direction) information included in the guide information based at least in part on the analysis of the received guide information.
  • the location (direction) information may include information for guiding a direction of movement of the probe 600 connected to the electronic device 400.
  • the controller 680 may determine a display state of the manipulation image, and in operation 2313, may determine whether the manipulation image is included in the screen. For example, the controller 680 captures whether an image currently displayed on the electronic device 400 is an ultrasound image (eg, ultrasound scan data) being captured by the probe 600, or is captured by a camera (eg, a rear camera). Whether the probe 600 is being manipulated (eg, affected image data) or whether the ultrasound image and the manipulated image are being displayed together may be determined.
  • an ultrasound image eg, ultrasound scan data
  • a camera eg, a rear camera
  • the controller 680 may proceed to operation 2317 to process an operation of operation 2317 or lower.
  • the manipulation image may be displayed on the current screen, or the ultrasound image and the manipulation image may be displayed together.
  • the controller 680 may operate to output the operation image on the screen in operation 2315. For example, only an ultrasound image may be displayed on a current screen. According to an embodiment of the present disclosure, the controller 680 may synthesize an operation image on an ultrasound image, process an image output in the form of an overlay, PIP or PBP, or process the image output by switching a screen from the ultrasound image to the operation image. have.
  • the controller 680 may determine a guide providing method.
  • the guide providing method may include a first method of guiding based on a screen of the electronic device 400, a second method of guiding based on an output of the probe 600, or a first method and a first method. It may include a third method for providing a guide based on both methods.
  • the controller 680 may determine whether the screen providing method (operation 2319) or the probe based providing method (operation 2327) is performed based on the determination of the guide providing method. According to various embodiments of the present disclosure, operations 2319 and 2327 may be performed in parallel, sequentially, or in reverse order.
  • control unit 680 determines that the set guide providing method is the screen-based providing method (YES in operation 2319), in operation 2321, the controller 680 determines a position corresponding to the position (direction) determined from the guide information in the operation image. Can be identified.
  • the controller 680 may generate an indicator.
  • the controller 680 may generate an indicator of a set type to guide the manipulation of the probe 600.
  • the indicator may be implemented in various forms such as an arrow, a lighting, a watch, and the like.
  • the controller 680 may output an indicator on the manipulation image.
  • the controller 680 may output an indicator to a designated position (or region) capable of indicating a direction at a position determined in the manipulation image or a corresponding position, thereby guiding the position movement direction of the probe 600. have.
  • the controller 680 may determine from the guide information of an output unit (eg, a light emitting device) of the probe 600. At least one output unit corresponding to the determined position (direction) may be determined.
  • an output unit eg, a light emitting device
  • the controller 680 may generate a control command.
  • the controller 680 may generate a control signal for controlling the output of the indicator by the output unit determined by the probe 600.
  • the controller 680 may transmit a control command to the probe 600.
  • the probe 600 in response to receiving a control command from the electronic device 400, the probe 600 may guide the position movement direction of the probe 600 through writing by the corresponding output unit.
  • the controller 680 may determine that the guide providing method is not the screen-based first method or the probe-based second method, for example, the third method. Can perform the operation. According to an embodiment of the present disclosure, the controller 680 may process operations 2321 to 2325 and operations 2329 to 2333 in parallel, and based on this, the probe 600 by transmitting an indicator output and a control command to the probe on the screen. And an indicator output using an output unit of
  • 24 is a flowchart illustrating an operation of guiding a probe operation in an electronic device according to various embodiments of the present disclosure.
  • the controller 680 of the electronic device 500 may receive data from an external device.
  • the second electronic device 500 may manipulate the ultrasound scan data corresponding to the ultrasound image by the probe 600 or the camera of the first electronic device 400 from the first electronic device 400.
  • the affected part image data corresponding to the image may be received.
  • the controller 680 may process an image display based at least in part on the received data. According to an embodiment of the present disclosure, the controller 680 may operate to display an ultrasound image, display an operation image, or display the ultrasound image and the operation image together based at least in part on the received data or settings.
  • the controller 680 may determine whether to perform screen mirroring. For example, the user may execute a screen mirroring function for sharing the displayed image through an external device (eg, an external screen such as a TV or a monitor).
  • an external device eg, an external screen such as a TV or a monitor.
  • the controller 680 may be connected to an external device. According to an embodiment of the present disclosure, the controller 680 may connect an external device to the Wi-Fi Direct or Wi-Fi Display method.
  • the controller 680 may perform screen mirroring by transmitting an image being displayed to an external device.
  • the controller 680 may determine a display state of the manipulation image, and in operation 2413, may determine whether the manipulation image is included in the current screen. For example, the controller 680 may determine whether an image currently displayed on the electronic device 500 is an ultrasound image (eg, ultrasound scan data) being captured by the probe 600, or a camera of the first electronic device 400. For example, it may be determined whether the probe 600 is being manipulated by the rear camera (eg, affected image data) or whether the ultrasound image and the manipulated image are being displayed together.
  • an ultrasound image eg, ultrasound scan data
  • the controller 680 may determine whether the manipulation image is included in the current screen. For example, the controller 680 may determine whether an image currently displayed on the electronic device 500 is an ultrasound image (eg, ultrasound scan data) being captured by the probe 600, or a camera of the first electronic device 400. For example, it may be determined whether the probe 600 is being manipulated by the rear camera (eg, affected image data) or whether the ultrasound image and the manipulated image are being displayed together.
  • the rear camera e
  • the controller 680 may proceed to operation 2417 to process an operation of operation 2417 or less.
  • the manipulation image may be displayed on the current screen, or the ultrasound image and the manipulation image may be displayed together.
  • the controller 680 may operate to output the operation image on the screen in operation 2415. For example, only an ultrasound image may be displayed on a current screen. According to an embodiment of the present disclosure, the controller 680 may synthesize an operation image on an ultrasound image, process an image output in the form of an overlay, PIP or PBP, or process the image output by switching a screen from the ultrasound image to the operation image. have.
  • the controller 680 may determine whether a user input for guiding an operation of the probe 600 is detected.
  • the controller 680 may process the corresponding operation.
  • the controller 680 may process an output of an image received through streaming from the first electronic device 400, and process a voice call or a video call with the first electronic device 400. Or various operations related to ultrasound image reading may be independently or in parallel.
  • the controller 680 may determine a position corresponding to the user input in operation 2421.
  • the user inputs a touch to a position for guiding the direction (or position movement) of the probe 600 in the real-time manipulation image of the electronic device 500. can do.
  • the user may indicate a direction guide for guiding the probe 600 based on the touch input, and the controller 680 may determine the touched position.
  • the user is at a position for guiding the direction (or position movement) of the probe 600 while checking (viewing) the operation image by the external screen.
  • the electronic device 500 (or a separate control device (eg, a remote controller)) may be manipulated.
  • the user may instruct the direction guide for the guide of the probe 600 based on the manipulation of the direction key of the electronic device or the control device, and the controller 680 may correspond to the movement position (direction) or the corresponding direction key. Information such as the amount of change in movement can be determined.
  • the controller 680 may generate guide information including the determined position (direction) information.
  • the guide information may include position (direction) information related to movement of a position of the probe 600 connected to the first electronic device 400 at a remote location, operation of the probe 600, or an action on a change in the patient. It may include one or more of text or image information.
  • the controller 680 may process an indicator output on the manipulation image. According to an embodiment of the present disclosure, as illustrated in FIG. 21, the controller 680 may operate to output an indicator to an operation image displayed on the electronic device 500. According to another exemplary embodiment, as illustrated in FIG. 22, the controller 680 may operate to output an indicator on an operation image being displayed on an external device. According to another embodiment, the controller 680 may operate to output an indicator on both an operation image of the electronic device 500 and an operation image of an external device.
  • the controller 680 may transmit guide information.
  • the controller 680 may transmit guide information including location (direction) information to the first electronic device 400.
  • the guide information generation operation, the guide information transmission operation, and the indicator output operation which correspond to operations 2423 to 2427, may be performed simultaneously in parallel, or may be performed without being limited to operating in the above-described order.
  • the indicator output operation may be performed after the information transmission operation.
  • 25 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • the user may operate the probe 600 and set an emergency diagnosis start based on an action of touching the body of the patient.
  • the electronic device for example, the first electronic device 400
  • the electronic device may recognize that the probe 600 is operated and is in contact with the patient's body, and may recognize the emergency diagnosis as starting, and automatically recognize the emergency mode. You can run That is, the electronic device may automatically execute the diagnostic mode based on situational awareness.
  • the electronic device in response to the emergency mode execution, skips the preset setting step, immediately executes an emergency preset, sets an emergency preset at once, and then performs an emergency ultrasound diagnosis. Can be provided to perform.
  • the user may contact the probe 600 with the body (eg, the affected part) of the patient.
  • the probe 600 may detect a physical contact of a patient, and provide a sensing signal accordingly to the electronic device.
  • the probe 600 may provide ultrasonic scan data scanned according to the body contact of the patient as a detection signal to the electronic device.
  • the electronic device may recognize an emergency diagnosis start in response to receiving the detection signal from the probe 600.
  • the electronic device may recognize the emergency diagnosis start based on the situation recognition by the probe 600, and automatically execute the emergency diagnosis mode in response to the emergency diagnosis start recognition.
  • the electronic device may immediately execute an emergency preset when executing the emergency diagnosis mode according to the start of the emergency diagnosis.
  • the electronic device may display an emergency preset related user interface.
  • the emergency preset related user interface may include a patient information area, a screen mirroring area, a communication area, and a menu area.
  • the electronic device may turn on (eg, supply power to the camera driving circuit) to operate the camera.
  • the electronic device may transmit ultrasound scan data by the probe 600 and affected image data by the camera to another electronic device at a remote location.
  • the data transmission may be performed in parallel or sequentially with the execution of the emergency diagnosis mode.
  • the data may be directly transmitted to another electronic device configured in response to the execution of the emergency diagnosis mode or based on an intended input for requesting the user to proceed with the remote diagnosis.
  • the electronic device may perform a remote diagnosis including a function according to a user setting in an emergency preset.
  • the screen mirroring and / or communication function selected by the user may be executed according to the user's selection. For example, when a remote diagnosis process is requested by a user (eg, an emergency worker) who operates an electronic device, data (eg, at least one of ultrasound scan data or affected image data) may be transmitted to another electronic device.
  • the electronic device when the mirroring function is selected in the screen mirroring area, the electronic device directly transmits data to another electronic device (for example, an external device in the hospital (eg, TV, monitor, etc.)) to perform a mirroring operation. Can be.
  • the electronic device when a communication function is selected in the communication area, the electronic device establishes a communication connection with another electronic device (eg, an electronic device of a doctor in a hospital) based on the selected communication (eg, voice call or video call) method. Can be done.
  • another electronic device eg, an electronic device of a doctor in a hospital
  • the selected communication eg, voice call or video call
  • a user interface associated with telemedicine (E.g., a video call screen) and optionally display a user interface (operation 2530) related to mirroring (e.g., screen sharing).
  • the other electronic device may display the ultrasound scan data based at least in part on the received data.
  • the other electronic device may perform screen mirroring by interlocking (eg, real-time connecting) the received data with an external device (for example, a TV or a monitor).
  • the emergency diagnosis mode execution may be performed based on various user inputs, without being limited to the execution based on the situational awareness basis.
  • the user input may include, for example, a pose state change, a proximity state change, a gesture input, a situation recognition, or a voice command input of the electronic device.
  • the type of event that the electronic device detects switching to the emergency diagnosis mode may include a voice recognition or situation recognition, a motion or proximity change, an application for executing an emergency preset, or a menu, key, button, or gesture for transmitting an image. It may include at least one of the input.
  • FIG. 26 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • the basic diagnostic mode may be executed according to a general procedure.
  • the basic diagnostic mode may include a preset setting step as compared with the emergency diagnosis mode by an emergency preset.
  • a user may display an ultrasound diagnostic menu by manipulating an electronic device (eg, executing a related application (eg, SMART ULTRASOUND)).
  • the user may connect the electronic device and the probe 600.
  • a wireless connection method a user may operate (eg, power on) the probe 600, and in response to the operation of the probe 600, the probe 600 and the electronic device may be automatically You can automatically pair with each other by performing a pairing operation.
  • the user in the wired connection method, the user may cable the probe 600 through a corresponding interface of the electronic device, and the electronic device may recognize the connection of the probe 600 and automatically connect it.
  • the electronic device may provide a GUI associated with various objects that notify the probe loading status.
  • the various objects may provide, for example, at least one of an item (e.g. an animated icon) indicating a progress (e.g. Probe loading%) and guidance text (e.g. Make sure Probe is located within 1m away from Device.). Can be.
  • the electronic device may provide a related GUI for setting a diagnosis subject. For example, in response to the probe loading being completed, the electronic device may provide a GUI for selecting a preset diagnostic subject (eg, Abdomen, OB, Gynecology, etc.) related to ultrasound diagnosis. According to an embodiment of the present disclosure, the selection of the diagnostic subject may be skipped without going through the selection process and proceed directly to the next step.
  • a preset diagnostic subject eg, Abdomen, OB, Gynecology, etc.
  • the electronic device may provide a related GUI for inputting patient information.
  • the electronic device may provide a GUI with respect to the input of the patient information or the selection of the input method in response to the diagnosis subject setting or skipping.
  • a scan for inputting patient information by scanning, a write for inputting patient information by recording, and a worklist for inputting patient information by selecting a list may be selected.
  • the patient information input selection may be canceled without a selection process and proceed directly to the next step.
  • the electronic device may start the ultrasound diagnosis based on the preset setting as described above. For example, as illustrated in the screen 2650, the screen 2660, and the screen 2670, the electronic device and the other electronic device may be different from each other in a manner corresponding to performing an operation after setting the emergency preset of FIG. 25 described above.
  • the user interface (screen 2670) related to telemedicine may be displayed, and the user interface (screen 2660) related to mirroring (eg, screen sharing) may be selectively displayed.
  • the emergency diagnosis mode according to the start of the emergency diagnosis and the basic diagnosis mode according to the sequential procedure may be classified according to whether the preset setting step is included.
  • a preset setting step such as the example of the screen 2610, the screen 2620, the screen 2630, and the screen 2640 of FIG. 26 may be omitted, and the operation 2520 of FIG. 25 may be omitted.
  • Emergency presets such as the example can be executed immediately.
  • FIG. 27 is a diagram illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • an electronic device may provide different GUIs according to execution of a basic diagnosis mode and an emergency loss mode.
  • the electronic device may simplify the menu when entering the emergency diagnosis mode and display only a minimum key menu (main menu) for quick ultrasound diagnosis in an emergency situation and provide the same to the user.
  • the screen 2710 may represent an example of a screen when entering the basic diagnostic mode in various embodiments.
  • a main menu eg, Freeze, Save, Q Scan, etc.
  • a sub-menu eg, Mode button, Measure button
  • a detailed menu e.g., five modes and four measurement menus may be included and provided.
  • the screen 2730 may represent an example of a screen when entering the emergency diagnosis mode in various embodiments.
  • main menus e.g., Freeze, Save
  • Q Scan, etc. can be exposed and provided in the form of a simple menu 2735.
  • FIG. 28 is a flowchart illustrating an operation of executing a diagnostic mode in an electronic device according to various embodiments of the present disclosure.
  • the electronic device 400 may be in a state connected to the probe 600.
  • the electronic device 400 and the probe 600 may be connected to each other based on wired communication or wireless communication.
  • wireless communication direct pairing is automatically performed based on operating (eg, powering on) the probe 600 in a space where the electronic device 400 and the probe 600 are in close proximity. ) Can be connected.
  • the electronic device 400 and the probe 600 in the wired communication, may be connected through a corresponding interface unit based on a cable.
  • the controller 680 of the electronic device 400 may detect execution of a diagnostic mode.
  • the diagnostic mode execution may include an emergency diagnosis mode execution and a basic diagnosis mode execution, as described in the description with reference to FIGS. 25 and 26.
  • the controller 680 executes the diagnostic mode based on a user input based on whether the diagnostic mode is executed by receiving the detection signal from the probe 600 or the application is executed or a general procedure is performed. It can be determined whether or not.
  • the controller 680 may recognize the emergency diagnosis start.
  • the probe 600 includes the patient's body. The touch may be sensed and the sensing signal may be provided to the electronic device 400 accordingly.
  • the probe 600 may provide ultrasonic scan data scanned according to the body contact of the patient as a detection signal to the electronic device.
  • the controller 680 may recognize an emergency diagnosis start in response to receiving the detection signal from the probe 600. According to an embodiment of the present disclosure, the controller 680 may recognize an emergency diagnosis start based on situation recognition by the probe 600.
  • the controller 680 may execute a diagnostic mode based on the emergency diagnosis mode. For example, the controller 680 may automatically execute the emergency diagnosis mode in response to the emergency diagnosis start recognition.
  • the controller 680 may output an emergency preset.
  • the controller 680 may immediately execute an emergency preset when executing the emergency diagnosis mode according to the start of the emergency diagnosis.
  • the controller 680 may display an emergency preset related user interface as described in the above description with reference to FIG. 10 or FIG. 25.
  • the emergency preset related user interface may include a patient information area, a screen mirroring area, a communication area, and a menu area.
  • the controller 680 in response to the execution of the emergency diagnosis mode, the controller 680 may operate the camera by controlling the turn-on (eg, supplying power to the camera driving circuit) when the camera is in an off state.
  • the controller 680 may process an operation related to performing a diagnostic mode.
  • the controller 680 may process one or more operations such as data transmission, screen mirroring, or call connection to an external device (eg, the second electronic device 500).
  • the controller 680 may process the screen interface output set in the emergency diagnosis mode.
  • the controller 680 may expose only a screen interface set in the emergency diagnosis mode, for example, a main menu (eg, Freeze, Save, Q Scan, etc.). It can be provided in the form of a simplified simple menu.
  • a main menu eg, Freeze, Save, Q Scan, etc.
  • the controller 680 may execute the diagnostic mode based on the basic diagnostic mode.
  • the controller 680 may perform a preset setting step. According to an embodiment of the present disclosure, as illustrated in FIG. 26, the controller 680 may perform an operation of setting a preset related to ultrasound diagnosis based on an interaction with a user.
  • the controller 680 may process an operation related to performing a diagnostic mode.
  • the controller 680 may process one or more operations of data transmission, screen mirroring, or call connection to an external device (eg, the second electronic device 500).
  • the controller 680 may process the screen interface output set in the basic diagnostic mode.
  • the controller 680 may include details such as a main menu (eg, Freeze, Save, Q Scan, etc.) and a sub-menu (eg, Mode button, Measure button) so as to correspond to various diagnostic cases. Can be provided in the form of a menu.
  • FIG. 29 is a diagram illustrating an operation of sharing data based on screen mirroring between electronic devices according to various embodiments of the present disclosure.
  • an outpatient examination when an outpatient examination is performed by a user (eg, a doctor), communication with the patient (eg, delivery of details of treatment to a patient) may be performed based on a screen mirror of an electronic device.
  • the electronic device may provide a screen sharing mode with another electronic device.
  • an electronic device 2910 eg, a tablet PC of a first user (eg, a doctor) (hereinafter, referred to as a first electronic device 2910) and an electronic device (eg, a patient) of a second user (eg, a patient) may be used.
  • 2920 eg, a smartphone
  • the screen related to the ultrasound treatment may be shared.
  • the first user connects the first electronic device 2910 of the first user to the second electronic device 2920 of the second user through a second user authentication (for example, patient authentication) during an ultrasound examination. (E.g. pairing).
  • the first electronic device 2910 may transmit (eg, screen mirror) and share an ultrasound image to the second electronic device 2920.
  • the second user may comfortably check the screen (eg, an ultrasound image) of the first electronic device 2910 through the second electronic device 2920 of the second user, regardless of posture (regardless of position).
  • the second electronic device 2920 may recognize the direction of the second electronic device 2920 and may display the ultrasound image based on the landscape mode or the portrait mode in response to the change of direction.
  • a screen displayed on the first electronic device 2910 and the second electronic device 2920 may be implemented differently.
  • the first electronic device 2910 may display all of the professional diagnostic menus
  • the second electronic device 2920 may hide the professional diagnostic menu and display a large ultrasound image.
  • the first electronic device 2910 and / or the second electronic device 2920 may include a drawing tool.
  • FIG. 30 is a diagram illustrating an operation of sharing data by switching a communication mode in an electronic device according to various embodiments of the present disclosure.
  • a first user eg, a doctor
  • a second user eg, a patient
  • POC point-of-care
  • the electronic device may be provided to perform communication by switching from the diagnostic mode to the communication mode.
  • the first user may check the ultrasound image by operating the electronic device in a basic diagnostic mode including all the specialized diagnostic menus.
  • the first user when the first user describes the ultrasound image while sharing (confirming) the screen with the second user, the first user may change the basic diagnostic mode of the electronic device to the communication mode.
  • the first user may select a switch button 3050 set to switch the communication mode in the electronic device.
  • the electronic device may switch from the basic diagnostic mode to the communication mode and display the corresponding GUI.
  • the electronic device may enlarge and provide an ultrasound image and provide only information necessary for a patient.
  • the electronic device may hide a professional diagnostic menu, display a large ultrasound image, and additionally provide a drawing tool for memo or drawing.
  • the first user may intuitively show a description related to the treatment to the second user by inputting a memo or drawing on the displayed ultrasound image using the drawing tool.
  • 31 is a flowchart illustrating an operation of providing a communication mode in an electronic device according to various embodiments of the present disclosure.
  • the controller 680 of the electronic device 500 may detect execution of a communication mode.
  • a first user for example, a doctor
  • shares a diagnosis screen with a second user for example, a patient
  • the electronic device 500 may be operated.
  • the controller 680 may determine whether the communication mode is the execution by the first communication mode or the execution by the second communication mode.
  • the first communication mode may include a mode for sharing a screen based on a connection with another electronic device.
  • the second communication mode may include a mode in which a screen is shared by screen switching based on the electronic device.
  • the controller 680 may be configured to display the second image based on the professional diagnostic menu hiding, the enlarged image, the drawing tool output, and the like. You can run the communication mode. For example, as illustrated in FIG. 30, the controller 680 hides the expert diagnosis menu when it detects execution of the second communication mode by selecting the switch button on a screen including all the expert diagnosis menus.
  • the ultrasound image may be enlarged and displayed and may be switched to a screen including a drawing tool for memo or drawing.
  • the controller 680 may determine whether there is a drawing input. For example, the controller 680 may detect whether a user input is based on at least a part of the drawing tool.
  • the drawing input may include one or more of text (eg, handwriting, drawing, and marker input).
  • the controller 680 may proceed to operation 3131 to process an operation of operation 3131 or lower.
  • the controller 680 may output the drawing to the image.
  • the controller 680 may display one or more drawing objects among text, figures, and markers in response to a user's drawing input.
  • the controller 680 may perform an authentication procedure.
  • the first user may operate the electronic device 500 to select information of a specific second user or an ultrasound image related to the second user.
  • the user may perform an operation for sharing the current display ultrasound image with the electronic device 500.
  • the controller 680 may search or determine an external device corresponding to the second user based on an input of the first user in the first communication mode, and perform an authentication process for connecting to the corresponding external device.
  • the authentication process may include an information input procedure such as patient information input by an first user or information input of an external device, and based on the input information, the electronic device 600 and the external device It may include an authentication procedure for the connection between the devices.
  • the controller 680 may connect with an external device.
  • the controller 680 may be connected to an external device using a Wi-Fi Direct or Wi-Fi Display method.
  • the controller 680 may connect with an external device based on short-range wireless communication such as Bluetooth.
  • the controller 680 may output the selected image.
  • the controller 680 may display a real-time ultrasound image captured by the probe 600 or display an ultrasound image related to a second user stored in the electronic device 400 according to a selection of the first user. It can work.
  • the controller 680 may recognize the direction of the electronic device 500 and may display an image based on a landscape mode or a portrait mode in response to the change of direction.
  • the controller 680 may generate a mirroring image to be shared with an external device.
  • the mirroring image may be generated based at least in part on the ultrasound image.
  • the controller 680 may implement a screen displayed on the electronic device 500 and a screen to be displayed on an external device differently.
  • the controller 680 may provide a screen including both an ultrasound image and a professional diagnostic menu, and may be shared with an external device.
  • the professional diagnostic menu may be hidden and may provide a large display of only an ultrasound image.
  • the controller 680 may perform screen mirroring based on the generated mirroring image. For example, the controller 680 may transmit the generated mirroring image to the external device.
  • the controller 680 may determine whether there is a drawing input (operation 3115) or whether drawing information is received (operation 3121).
  • the first user of the electronic device 500 or the second user of the external device may perform a drawing input based at least in part on the drawing tool.
  • the first user may perform a drawing input by using the electronic device 500.
  • the second user may perform a drawing input using an external device, and the external device corresponds to the drawing input of the second user, and related drawing information (eg, drawing type, shape, location information). , Route information, etc.) may be transmitted to the electronic device 500.
  • the controller 680 may output the drawing to the image.
  • the controller 680 may display one or more drawing objects among text, figures, and markers in response to a user's drawing input.
  • the controller 680 may transmit related drawing information corresponding to the drawing input to the external device.
  • the external device may receive drawing information from the electronic device 500, and provide the same drawing object as the drawing object displayed on the electronic device 500 at a position corresponding to the image.
  • the controller 680 may analyze the drawing information in operation 3123. For example, the controller 680 may determine the drawing type, shape, location information, path information, or the like.
  • the controller 680 may output a drawing to the image.
  • the controller 680 may provide the same drawing object as the drawing object displayed on the external device to the position corresponding to the image, based on the drawing information.
  • the controller 680 may process the corresponding operation. According to an embodiment of the present disclosure, the controller 680 may process a corresponding operation such as output of a related user interface according to an input related to diagnosis of the first user, or transmission of related control information to an external device.
  • FIG. 32 is a diagram illustrating an example of a screen interface provided according to a screen direction in an electronic device according to various embodiments of the present disclosure.
  • FIG. 32 exemplifies a case in which the electronic device is in the form of a tablet PC.
  • a specialized mode may be provided according to the direction of the electronic device.
  • the electronic device may be provided with a basic diagnostic mode set in the horizontal modes 3210 and 3220, and a precise read mode set in the vertical mode 3230.
  • the electronic device may display a user interface related to the basic diagnostic mode in the landscape modes 3210 and 3220 and provide the same to the user.
  • the electronic device may change the mode from the basic diagnostic mode to the fine read mode and display a user interface related to the fine read mode to provide the user.
  • the electronic device when the electronic device changes from the landscape mode to the portrait mode according to the change of direction, the electronic device may enlarge and provide the size of the ultrasound image, activate the tool menu, and may not be provided in the landscape mode (
  • the depth menu related to the hidden measurement may be exposed and provided.
  • the tool menu may include, for example, Measure, Caliper, Annotate, Text, and the like.
  • the 2-depth menu may include, for example, Distance,% Std, Ellipse, M distance, and the like.
  • the 2-depth menu may be provided as a variation area.
  • the menu may be changed or provided in an open / close form depending on the context.
  • the electronic device may detect a change (or rotation) of the electronic device. For example, it may be determined to change from the portrait mode to the landscape mode, or change from the landscape mode to the portrait mode.
  • the electronic device may switch and provide a corresponding specialized mode based on the determined mode.
  • FIG 33 is a diagram illustrating an example of a screen interface provided according to a screen direction in an electronic device according to various embodiments of the present disclosure.
  • FIG. 33 may exemplify a case in which the electronic device is in the form of a smartphone.
  • a specialized mode may be provided according to the direction of the electronic device.
  • an electronic device may be provided with a basic diagnosis mode set in a portrait mode 3310, and an ultrasound diagnosis and telemedicine mode may be provided in a portrait mode 3320.
  • the electronic device may display a user interface related to the basic diagnostic mode in portrait mode 3310 and provide the same to the user.
  • the electronic device changes from the portrait mode 3310 to the landscape mode 3320, the electronic device changes the mode from the basic diagnosis mode to the ultrasound diagnosis and the telemedicine mode, and displays the user interface related to the ultrasound diagnosis and the telemedicine mode to provide the user. can do.
  • the electronic device may not display a video call screen in the portrait mode and may provide only an ultrasound image to concentrate on the ultrasound diagnosis.
  • the electronic device may provide an ultrasound diagnosis image and a video call screen for remote medical examination.
  • the electronic device may detect a change (or rotation) of the electronic device. For example, it may be determined to change from the portrait mode to the landscape mode, or change from the landscape mode to the portrait mode.
  • the electronic device may switch and provide a corresponding specialized mode based on the determined mode.
  • 34 is a diagram illustrating an example menu setting in an electronic device according to various embodiments of the present disclosure.
  • a user may provide a preset and a shortcut of the main use menu.
  • the user can edit the main menu (e.g., main menu) according to the user's (e.g. doctor's) medical examination, subject, or diagnosis characteristics through the edit menu of the shortcut.
  • the display position (or direction) of the can be set in various ways.
  • the electronic device may configure, arrange, and provide a main menu in response to a user setting.
  • the electronic device may display a menu on a main use menu and a location according to a user setting and provide the same to a user.
  • 35 and 36 illustrate examples in which a screen interface is provided in an electronic device according to various embodiments of the present disclosure.
  • FIG. 35 may exemplify a case where the electronic device is in the form of a tablet PC
  • FIG. 36 may exemplify a case where the electronic device is in the form of a smartphone.
  • the electronic device may determine a user's main hand setting, a grip state, or a diagnosis posture, and may provide a screen interface for each of the left hand mode and the right hand mode based on the determination result.
  • a user may set a left hand or a right hand with a hand (eg, a dominant hand) mainly used by the user through a setting menu.
  • the electronic device may set the left hand mode or the right hand mode based on the user setting.
  • the electronic device may display a screen interface in a left hand mode and provide the same to a user, or as shown in screens 3530 and 3630.
  • the screen interface may be displayed in the right hand mode and provided to the user.
  • the present invention is not limited to displaying a screen interface according to a specific mode based on a user setting, and may be provided by adaptively changing a left hand mode or a right hand mode based on situational awareness.
  • the electronic device may include various sensors (eg, one or more of a motion sensor, a proximity sensor, a pressure sensor, and a capacitive sensor), and the diagnosis using the electronic device is based on sensor information measured through the sensor.
  • the posture or the gripping state of the electronic device may be determined.
  • the electronic device may sense a change in one or more of motion, contact area, capacitance, or pressure, and based at least in part on whether the user's holding state is a holding state by the left hand or the right hand. By the holding state can be determined.
  • the electronic device may display the screen interface in the left hand mode when determining the grip by the left hand based on the determination result, and may display the screen interface in the right hand mode when the grip by the right hand is determined.
  • FIG. 37 is a diagram illustrating a user interaction based operation in an electronic device according to various embodiments of the present disclosure.
  • FIG. 37 may exemplify a case in which the electronic device is in the form of a smartphone.
  • user convenience may be provided by an efficient GUI (eg, button) arrangement.
  • a screen interface may be provided to enable switching of a screen, a function, or a menu based on a one-finger interaction in a state in which the user grips the electronic device.
  • the one-finger interaction may include, for example, a specific user input (eg, long press, swipe, flick, etc.) based on the user's finger.
  • a button corresponding to a main function or a menu may be provided within an operable range of the user's thumb.
  • the user may select a button or switch screens using one-finger interaction (eg, one-handed thumb gesture).
  • the electronic device may perform screen switching, function switching, or menu switching based on a one-finger interaction of the user, and may provide a GUI related to the switching operation.
  • the electronic device may display a screen switching effect (eg, a slide) corresponding to a switching between an ultrasound diagnosis screen and a video call screen, a main menu and a submenu, or a diagnosis mode and a tool.
  • a screen switching effect eg, a slide
  • the user may easily perform mode switching (eg, switching between a diagnostic mode and a tool) in the menu area with one-finger interaction (eg, swipe) in the menu area. have.
  • mode switching eg, switching between a diagnostic mode and a tool
  • one-finger interaction eg, swipe
  • 38, 39, and 40 are diagrams for describing an example of a screen interface provided by an electronic device according to various embodiments of the present disclosure.
  • FIGS. 38, 39, and 40 are examples for describing a screen interface and a menu, function, or function thereof provided in an ultrasound diagnostic mode in an electronic device (eg, tablet PC). Can be represented.
  • FIGS. 38 and 39 may illustrate an example in which the electronic device provides a screen interface according to a basic diagnostic mode in a horizontal direction
  • FIG. 40 illustrates a screen interface in an electronic device according to a fine reading mode in a vertical direction. It can represent an example that provides.
  • the screen interface in the basic diagnostic mode may largely include an ultrasound image area, a menu area, and a gallery area.
  • the ultrasound image area may provide at least one of a real-time ultrasound image captured by the probe 600 or a live or preview image captured by the camera.
  • the ultrasound image area may include a region 3865 for adjusting the depth of the ultrasound image and related depth information, adjusting a focus of a specific point of the ultrasound image (for example, similar to camera focus), and focus information related thereto.
  • the menu area may indicate an area for selecting and executing various menus or functions related to ultrasound diagnosis or measurement, based at least in part on an image displayed in the ultrasound image area.
  • the menu area may include a main operation area and a mode / tool area.
  • the main manipulation area may include a button 3845 for freezing or unfreezing an ultrasound image, and a button 3850 for saving an image or a captured image.
  • the mode / tool area includes a mode button 3810 for calling up and displaying a menu related to ultrasound diagnostic mode setting, a tool button 3815 for additional functions such as lesion measurement or memo input, and a mode button 3810.
  • mode button 3810 for calling up and displaying a menu related to ultrasound diagnostic mode setting
  • tool button 3815 for additional functions such as lesion measurement or memo input
  • mode button 3810 for activation of the tool button 3815
  • related menu buttons according to activation of the tool button 3815 may be provided.
  • mode selection buttons related to the ultrasound diagnostic mode eg, 2D 3820, M 3825, C 3830, and PW.
  • 3835, PD 3840 3835, PD 3840
  • function selection buttons eg, Measure 3915, Caliper
  • 2D 3820 is an ultrasound diagnostic basic mode, a mode for displaying a cross-sectional view of an organ, and M 3825 designates an area to be observed in a 2D image as an M line to display a change over time.
  • C3830 is a mode for displaying blood flow patterns in color in a region of interest (ROI) in a 2D image
  • PW 3835 represents a pulse wave.
  • the mode for displaying the blood flow rate of the over time, and the PD (3840) represents the output Doppler (power Doppler), it may represent a mode for displaying the intensity of the blood flow in color in the region of interest in the 2D image, respectively.
  • Measure 3915 is a tool menu for lesion measurement and recording
  • Caliper 3920 is a tool menu for lesion measurement and temporary measurement
  • Annotate 3825 is text on an image, an indicator, or
  • the tool menu for inputting a marker (eg, BodyMarker) and the text 3930 may represent a tool menu for inputting text on an image.
  • a cine bar 3937 for replaying and stopping a specific section of the ultrasound image is activated in the ultrasound image region. Can be provided.
  • the gallery area may provide a thumbnail form of an image captured or stored in the ultrasound diagnostic mode.
  • the screen interface in the fine reading mode is largely divided into an ultrasound image area, a main operation area, a cine bar area (hide or view), a gallery area, a two-depth menu area (eg, a sub-menu area), and 1. It may include a depth menu area (eg, a tool menu area).
  • the two-depth menu may include various submenus, and the definition of each submenu may be represented as shown in Table 1 below.
  • an operation method of the electronic device 400 may include detecting an ultrasonic diagnostic mode, executing an ultrasonic diagnostic mode in response to detecting the ultrasonic diagnostic mode, and setting an external device. For example, establishing communication with the second electronic device 500 and an external screen, acquiring data in the ultrasound diagnostic mode, and displaying the data (eg, the display 631 and the touch screen 630).
  • the operation of acquiring data may include acquiring first data (eg, ultrasound image and ultrasound scan data) captured by a probe connected to the electronic device, and photographing through a camera of the electronic device.
  • Acquiring second data eg, probe manipulation image, affected image data
  • displaying at least one of the first data and the second data in a set manner and the first data and the second data And transmitting data to the external device.
  • the method may further include automatically connecting a voice call or a video call with the external device.
  • the transmitting may include transmitting data acquired in the ultrasound diagnosis mode to at least one of the external device and an external screen different from the external device, and a call connection established with the external device. It may include performing an operation.
  • the operation of providing the manipulation guide may include receiving the control information transmitted based at least in part on the data from the external device, and based on at least some of the data or the probe. And processing an indicator output corresponding to the information.
  • the sensing of the ultrasonic diagnostic mode may include detecting a sensing signal by the probe, determining an execution of an emergency diagnostic mode in response to the sensing signal, and providing an emergency preset. It may include.
  • the operation of providing the emergency preset may include an operation of omitting a preset setting step and providing a simple menu in the emergency diagnosis mode.
  • an operation method of the electronic device 500 may include forming communication with an external device (for example, the first electronic device 400) and data from the external device. Receiving at least one of streaming, performing at least one of mirroring to the display of the data or an external screen (eg, TV, monitor) of the data, and based on at least a portion of the data, the probe 600 connected to the external device.
  • the method may include receiving control information (eg, guide information) related to the control of the controller, and transmitting the control information to the external device.
  • the data may include first data (eg, ultrasound image and ultrasound scan data) captured by the probe 600 connected to the external device, or a camera (eg, a camera module) of the external device. 670) may include at least one of second data (eg, probe manipulation image, affected image data) photographed through the image.
  • first data eg, ultrasound image and ultrasound scan data
  • camera eg, a camera module
  • second data eg, probe manipulation image, affected image data
  • the method may further include performing a call connection with the external device together with the data reception.
  • the method may further include receiving a user input for guiding the probe 600 based at least in part on the data, generating the control information based on the user input, and generating the control information. And transmitting to an external device.
  • the method may further include executing a communication mode and performing image processing related to the sharing of the data based on the communication mode.
  • the processor may perform an operation of executing a communication mode and image processing related to sharing of the data based on the communication mode (eg, screen sharing, an image for transmission or screen switching to a connected external device). Processing) may be further included.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Primary Health Care (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Epidemiology (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Physiology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)
  • Nursing (AREA)

Abstract

본 발명의 다양한 실시 예들은 전자 장치에 기반한 초음파 진단 방법 및 장치에 관하여 개시한다. 본 발명의 다양한 실시 예들에 따르면, 전자 장치는, 디스플레이; 카메라; 프로브 연결을 위한 제1 통신 회로; 적어도 하나의 외부 장치와 통신을 위한 제2 통신 회로; 및 상기 디스플레이, 상기 카메라, 상기 제1 통신회로 및 상기 제2 통신 회로와 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 초음파 진단 모드를 감지하고, 상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 상기 외부 장치와 통신을 형성하고, 상기 초음파 진단 모드에서 데이터를 획득하고, 상기 데이터를 상기 디스플레이를 통해 디스플레이 및 상기 제2 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하고, 및 상기 외부 장치로부터 제어 정보 수신에 응답하여, 상기 프로브의 조작 가이드를 제공하도록 구성할 수 있다. 다양한 실시 예들이 가능하다.

Description

전자 장치 및 그의 동작 방법
본 발명의 다양한 실시 예들은 휴대용 초음파(mobile ultrasound)를 이용한 원격 진단 및 원격 진료를 제공하는 방법 및 장치에 관하여 개시한다.
초음파(ultrasound) 영상 진단 장치는 프로브(probe)의 트랜스듀서(transducer)로부터 생성되는 초음파 신호를, 대상체의 체표로부터 체내의 소망 부위를 향하여 조사하고, 대상체로부터 반사된 초음파 신호(예: 초음파 에코 신호)의 정보를 이용하여 대상체 내부의 해당 부위에 대한 영상을 획득할 수 있다. 예를 들면, 초음파 영상 진단 장치는 대상체 내부의 관찰, 이물질 검출, 및 상해 측정 등 의학적 목적으로 사용될 수 있다. 이러한 초음파 영상 진단 장치는 X선을 이용하는 진단 장치에 비하여 안정성이 높고, 실시간으로 영상의 디스플레이가 가능하며, 방사능 피폭이 없어 안전하다는 장점이 있어서 다른 화상 진단 장치와 함께 널리 이용되고 있다.
일반적으로, 초음파 영상 진단 장치는 사용자가 초음파 영상 진단 장치를 조작하기 위한 컨트롤 패널을 포함한다. 컨트롤 패널은 디스플레이 장치에 디스플레이된 초음파 영상을 최적화하기 위한 메뉴를 표시하고, 표시된 메뉴를 선택하는 기능을 제공하는 터치스크린과, 디스플레이부의 화면 상에 표시된 커서를 이동시키고, 시네(Cine) 영상에서 영상을 검색하는 등의 기능을 제공하는 트랙볼과, 텍스트를 입력하고 측정 모드에 따른 단축키 기능을 제공하는 키보드 등을 포함하며, 환자의 위치에 따라 상하좌우로 이동될 수 있도록 초음파 진단 시스템에 장착되어 있다.
하지만, 초음파 영상 진단 장치는 크기 및 이동성의 제약으로 인해, 특정 공간(예: 진료실 내)에 고정되어 사용될 수 있다. 따라서 환자의 초음파 진단을 위해서는 환자가 해당 진료실로 이동하여야 하는 불편함이 있다. 또한 재난 현장, 긴급 구조, 원격지의 환자 등과 같이 긴급한 상황에서 초음파 진단을 수행할 수 없는 문제점이 있다. 또한 최근에는 원격 진료, 방문 진료, 실버 타운 내 진료가 점차 확대되고 있으나, 초음파 영상 진단 장치의 한정된 사용성으로 인하여, 원활한 초음파 진단이 어려운 문제점이 있다.
다양한 실시 예들에서는, 전자 장치를 이용하여 초음파 영상 진단 장치의 기능을 수행하고 그에 따른 원격 진료를 제공하는 방법 및 장치에 관하여 개시한다.
다양한 실시 예들에서는, 전자 장치와 프로브(probe)를 연결하고, 전자 장치의 통신 기능 또는 카메라 기능을 이용하여, 원격지 환자의 상태와 초음파 진단 상황을 원격지의 의사와 실시간으로 공유할 수 있는 방법 및 장치에 관하여 개시한다.
다양한 실시 예들에서, 전자 장치가 획득하는 초음파 영상 화면에서 원격 진료 화면으로 전환하여, 원격 진료를 제공하는 방법 및 장치에 관하여 개시한다.
다양한 실시 예들에서, 전자 장치 또는 전자 장치와 연결된 프로브에 기반하여 원격 진료와 관련된 인디케이터(indicator)를 출력하여, 원격 초음파 진단의 정확성을 증대할 수 있는 방법 및 장치에 관하여 개시한다.
본 발명의 다양한 실시 예들에 따른 전자 장치는, 디스플레이; 카메라; 프로브 연결을 위한 제1 통신 회로; 적어도 하나의 외부 장치와 통신을 위한 제2 통신 회로; 및 상기 디스플레이, 상기 카메라, 상기 제1 통신회로 및 상기 제2 통신 회로와 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 초음파 진단 모드를 감지하고, 상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 상기 외부 장치와 통신을 형성하고, 상기 초음파 진단 모드에서 데이터를 획득하고, 상기 데이터를 상기 디스플레이를 통해 디스플레이 및 상기 제2 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하고, 및 상기 외부 장치로부터 제어 정보 수신에 응답하여, 상기 프로브의 조작 가이드를 제공하도록 구성할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치는, 디스플레이; 외부 장치와 통신을 위한 통신 회로; 및 상기 디스플레이 및 상기 통신 회로와 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 외부 장치와 통신을 형성하고, 상기 외부 장치로부터 데이터를 스트리밍 수신하고, 상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하고, 상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브의 제어와 관련된 제어 정보를 수신하고, 상기 제어 정보를 상기 외부 장치로 전송하도록 구성할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법은, 초음파 진단 모드를 감지하는 동작, 상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 설정된 외부 장치와 통신을 형성하는 동작, 상기 초음파 진단 모드에서 데이터를 획득하는 동작, 상기 데이터를 디스플레이를 통해 디스플레이 및 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하는 동작, 및 상기 외부 장치로부터 제어 정보 수신에 응답하여, 상기 프로브의 조작 가이드를 제공하는 동작을 포함할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치의 동작 방법은, 외부 장치와 통신을 형성하는 동작, 상기 외부 장치로부터 데이터를 스트리밍 수신하는 동작, 상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하는 동작, 상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브의 제어와 관련된 제어 정보를 수신하는 동작, 및 상기 제어 정보를 상기 외부 장치로 전송하는 동작을 포함할 수 있다.
상기와 같은 과제를 해결하기 위하여 본 발명의 다양한 실시 예들에서는, 상기 방법을 프로세서에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
다양한 실시 예들에 따른 전자 장치에 기반한 초음파 진단 방법 및 장치에 따르면, 전자 장치를 이용하여 초음파 영상 진단 장치의 기능을 수행하고 그에 따른 원격 진료를 제공할 수 있다. 다양한 실시 예들에 따르면, 전자 장치와 프로브(probe)를 연결하고, 전자 장치의 통신 기능 또는 카메라 기능을 이용하여, 원격지 환자의 상태와 초음파 진단 상황을, 원격지의 의사와 실시간 공유하여, 정확한 초음파 진단이 가능하도록 할 수 있다. 다양한 실시 예들에 따르면, 재난 현장, 긴급 구조, 원격지의 환자 등과 같이 긴급한 상황에서, 병원 내의 전문의와 원격 진료를 통해 정확한 초음파 진단을 도모할 수 있다. 예를 들면, 실시간으로 병원 내 대기 중인 전문의에게 초음파 영상 및 환부 촬영 영상을 전송하여, 환자의 정확한 상태를 공유할 수 있고, 병원으로 환자 이송 시 바로 응급 처치가 가능하도록 할 수 있다.
다양한 실시 예들에 따르면, 전자 장치 내 자체 무선 네트워크와 카메라 기능을 활용하여, 환자 진단 정보를 실시간으로 쉽게 공유할 수 있다. 다양한 실시 예들에 따르면, 병원 내 미리 지정된 사용자 또는 기기 간 원격지에서 통신을 빠르게 연결할 수 있다. 다양한 실시 예들에 따르면, 초음파 영상, 영상 통화, 프로브 가이드 인디케이터의 화면이 전자 장치를 통해 동시에 제공 또는 자유로운 화면 전환을 제공할 수 있다.
도 1은 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크 환경을 도시하는 도면이다.
도 2는 다양한 실시 예들에 따른 전자 장치의 블록도를 도시하는 도면이다.
도 3은 다양한 실시 예들에 따른 프로그램 모듈의 블록도를 도시하는 도면이다.
도 4는 본 발명의 다양한 실시 예들에 따른 전자 장치의 구성을 개략적으로 도시하는 도면이다.
도 5는 본 발명의 다양한 실시 예들에 따른 전자 장치와 프로브를 설명하기 위해 도시하는 도면이다.
도 6은 본 발명의 다양한 실시 예들에 따른 전자 장치의 구성을 개략적으로 도시하는 도면이다.
도 7은 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 데이터를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 8은 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 데이터를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 9는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브의 조작 가이드를 제공하는 동작을 설명하기 위해 도시하는 도면이다.
도 10은 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
도 11은 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
도 12는 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
도 13은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작 예시를 도시하는 도면이다.
도 14는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작 예시를 도시하는 도면이다.
도 15는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 데이터를 디스플레이 하는 동작 예시를 도시하는 도면이다.
도 16은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 데이터를 공유하는 동작을 도시하는 흐름도이다.
도 17은 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 18A 및 도 18B는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 조작 영상을 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 19A, 도 19B 및 도 19C는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 인디케이터를 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 20A 및 도 20B는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 조작 영상을 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 21은 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 22는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 23은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브 조작을 가이드 하는 동작을 도시하는 흐름도이다.
도 24는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브 조작을 가이드 하는 동작을 도시하는 흐름도이다.
도 25는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
도 26은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
도 27은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
도 28은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작을 도시하는 흐름도이다.
도 29는 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 스크린 미러링에 기반하여 데이터를 공유하는 동작 설명을 위해 도시하는 도면이다.
도 30은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 커뮤니케이션 모드 전환에 의해 데이터를 공유하는 동작 설명을 위해 도시하는 도면이다.
도 31은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 커뮤니케이션 모드를 제공하는 동작을 도시하는 흐름도이다.
도 32는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 방향에 따라 제공되는 화면 인터페이스의 예시를 도시하는 도면이다.
도 33은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 방향에 따라 제공되는 화면 인터페이스의 예시를 도시하는 도면이다.
도 34는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 메뉴 설정 예시를 도시하는 도면이다.
도 35 및 도 36은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 인터페이스가 제공되는 예시를 도시하는 도면들이다.
도 37은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작을 설명하기 위해 도시하는 도면이다.
도 38, 도 39 및 도 40은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 제공하는 화면 인터페이스의 예시를 설명하기 위해 도시하는 도면들이다.
이하, 본 문서의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째," 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어(hardware)적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU(central processing unit) 또는 AP(application processor))를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예들에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD) 등), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS, global navigation satellite system), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예들에서 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예들에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 다양한 실시 예들에 따른 전자 장치를 포함하는 네트워크 환경을 도시하는 도면이다.
도 1을 참조하여, 다양한 실시 예들에서의, 네트워크 환경 100 내의 전자 장치 101이 기재된다. 전자 장치 101은 버스(bus) 110, 프로세서(processor) 120, 메모리(memory) 130, 입출력 인터페이스(input/output interface) 150, 디스플레이(display) 160, 및 통신 인터페이스(communication interface) 170을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 101은, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스 110은, 예를 들면, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서 120은, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서 120은, 예를 들면, 전자 장치 101의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 다양한 실시 예들에 따른 프로세서 120의 처리(또는 제어) 동작은 후술하는 도면들을 참조하여 구체적으로 설명된다.
메모리 130은, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리 130은, 예를 들면, 전자 장치 101의 적어도 하나의 다른 구성요소에 관계된 명령(command) 또는 데이터(data)를 저장할 수 있다. 한 실시 예에 따르면, 메모리 130은 소프트웨어(software) 및/또는 프로그램(program) 140을 저장할 수 있다. 프로그램 140은, 예를 들면, 커널(kernel) 141, 미들웨어(middleware) 143, 어플리케이션 프로그래밍 인터페이스(application programming interface(API)) 145, 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 147 등을 포함할 수 있다. 커널 141, 미들웨어 143, 또는 API 145의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다. 메모리 130은, 다양한 실시 예들에 따른 방법을 프로세서 120에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.
커널 141은, 예를 들면, 다른 프로그램들(예: 미들웨어 143, API 145, 또는 어플리케이션 프로그램 147)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스 110, 프로세서 120, 또는 메모리 130 등)을 제어 또는 관리할 수 있다. 또한, 커널 141은 미들웨어 143, API 145, 또는 어플리케이션 프로그램 147에서 전자 장치 101의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어 143은, 예를 들면, API 145 또는 어플리케이션 프로그램 147이 커널 141과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한 미들웨어 143은 어플리케이션 프로그램 147으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어 143은 어플리케이션 프로그램 147 중 적어도 하나에 전자 장치 101의 시스템 리소스(예: 버스 110, 프로세서 120, 또는 메모리 130 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어 143은 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링(scheduling) 또는 로드 밸런싱(load balancing) 등을 수행할 수 있다.
API 145는, 예를 들면, 어플리케이션 147이 커널 141 또는 미들웨어 143에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어(file control), 창 제어(window control), 영상 처리(image processing), 또는 문자 제어(character control) 등을 위한 적어도 하나의 인터페이스 또는 함수(function)(예: 명령어)를 포함할 수 있다.
입출력 인터페이스 150은, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치 101의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스 150은 전자 장치 101의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이 160은, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이 160은, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트(text), 이미지(image), 비디오(video), 아이콘(icon), 또는 심볼(symbol) 등)을 디스플레이 할 수 있다. 디스플레이 160은, 터치 스크린(touch screen)을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치(touch), 제스처(gesture), 근접(proximity), 또는 호버링(hovering) 입력을 수신할 수 있다.
통신 인터페이스 170은, 예를 들면, 전자 장치 101과 외부 장치(예: 제1 외부 전자 장치 102, 제2 외부 전자 장치 104, 또는 서버 106) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스 170은 무선 통신 또는 유선 통신을 통해서 네트워크 162에 연결되어 외부 장치(예: 제2 외부 전자 장치 104 또는 서버 106)와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(global system for mobile communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신 164를 포함할 수 있다. 근거리 통신 164는, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(global positioning system), Glonass(global navigation satellite system), Beidou Navigation satellite system(이하, "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크 162는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 네트워크(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 및 제2 외부 전자 장치(102, 104) 각각은 전자 장치 101과 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버 106은 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예들에 따르면, 전자 장치 101에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버 106에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치 101이 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치 101은 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버 106)에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버 106)는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치 101로 전달할 수 있다. 전자 장치 101은 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅(cloud computing), 분산 컴퓨팅(distributed computing), 또는 클라이언트-서버 컴퓨팅(client-server computing) 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치의 블록도이다.
전자 장치 201은, 예를 들면, 도 1에 도시된 전자 장치 101의 전체 또는 일부를 포함할 수 있다. 전자 장치 201은 하나 이상의 프로세서(예: AP(application processor)) 210, 통신 모듈 220, 가입자 식별 모듈 224, 메모리 230, 센서 모듈 240, 입력 장치 250, 디스플레이 260, 인터페이스 270, 오디오 모듈 280, 카메라 모듈 291, 전력 관리 모듈 295, 배터리 296, 인디케이터 297, 및 모터 298를 포함할 수 있다.
프로세서 210은, 예를 들면, 운영 체제 또는 어플리케이션 프로그램을 구동하여 프로세서 210에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서 210은, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 프로세서 210은 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서 210은 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈 221)를 포함할 수도 있다. 프로세서 210은 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈 220은, 도 1의 통신 인터페이스 170와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈 220은, 예를 들면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈 228 및 RF(radio frequency) 모듈 229를 포함할 수 있다.
셀룰러 모듈 221은, 예를 들면, 통신 네트워크를 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 가입자 식별 모듈(예: SIM(subscriber identification module) 카드) 224를 이용하여 통신 네트워크 내에서 전자 장치 201의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 프로세서 210이 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈 221은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227 또는 NFC 모듈 228 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈 225, GNSS 모듈 227 또는 NFC 모듈 228 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈 229는, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈 229는, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나(antenna) 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈 221, WiFi 모듈 223, 블루투스 모듈225, GNSS 모듈 227 또는 NFC 모듈 228 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈 224는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리 230(예: 메모리 130)은, 예를 들면, 내장 메모리 232 또는 외장 메모리 234를 포함할 수 있다. 내장 메모리 232는, 예를 들면, 휘발성 메모리(volatile memory)(예: DRAM(dynamic RAM(random access memory)), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile memory)(예: OTPROM(one time programmable ROM(read only memory)), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리 234는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(MultiMediaCard) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리 234는 다양한 인터페이스를 통하여 전자 장치 201과 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈 240은, 예를 들면, 물리량을 계측하거나 전자 장치 201의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈 240은, 예를 들면, 제스처 센서(gesture sensor) 240A, 자이로 센서(gyro sensor) 240B, 기압 센서(barometer) 240C, 마그네틱 센서(magnetic sensor) 240D, 가속도 센서(acceleration sensor) 240E, 그립 센서(grip sensor) 240F, 근접 센서(proximity sensor) 240G, 컬러 센서(color sensor) 240H(예: RGB(red, green, blue) 센서), 생체 센서(medical sensor) 240I, 온/습도 센서(temperature-humidity sensor) 240J, 조도 센서(illuminance sensor) 240K, 또는 UV(ultra violet) 센서 240M 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈 240은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서(iris scan sensor) 및/또는 지문 센서(finger scan sensor)를 포함할 수 있다. 센서 모듈 240은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 201은 프로세서 210의 일부로서 또는 별도로, 센서 모듈 240을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서 210가 슬립(sleep) 상태에 있는 동안, 센서 모듈 240을 제어할 수 있다.
입력 장치 250은, 예를 들면, 터치 패널(touch panel) 252, (디지털) 펜 센서(pen sensor) 254, 키(key) 256, 또는 초음파(ultrasonic) 입력 장치 258를 포함할 수 있다. 터치 패널 252는, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널 252는 제어 회로를 더 포함할 수도 있다. 터치 패널 252는 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서 254는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키 256은, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드(keypad)를 포함할 수 있다. 초음파 입력 장치 258은 마이크(예: 마이크 288)를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이 260(예: 디스플레이 160)는 패널 262, 홀로그램 장치 264, 또는 프로젝터 266을 포함할 수 있다. 패널 262는, 도 1의 디스플레이 160과 동일 또는 유사한 구성을 포함할 수 있다. 패널 262는, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널 262는 터치 패널 252와 하나의 모듈로 구성될 수도 있다. 한 실시 예에 따르면, 패널 262는 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 다양한 실시 예들에서, 상기 압력 센서는 상기 터치 패널 252와 일체형으로 구현되거나, 또는 상기 터치 패널 252와는 별도의 하나 이상의 센서로 구현될 수 있다.
홀로그램 장치 264는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터 266은 스크린(screen)에 빛을 투사하여 영상을 디스플레이 할 수 있다. 스크린은, 예를 들면, 전자 장치 201의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이 260은 패널 262, 홀로그램 장치 264, 또는 프로젝터 266을 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스 270은, 예를 들면, HDMI(high-definition multimedia interface) 272, USB(universal serial bus) 274, 광 인터페이스(optical interface) 276, 또는 D-sub(D-subminiature) 278을 포함할 수 있다. 인터페이스 270은, 예를 들면, 도 1에 도시된 통신 인터페이스 170에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스 270은, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈 280은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈 280의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스 150에 포함될 수 있다. 오디오 모듈 280은, 예를 들면, 스피커 282, 리시버 284, 이어폰 286, 또는 마이크 288 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈 291은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈 295는, 예를 들면, 전자 장치 201의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈 295는 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 296 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리 296의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리 296은, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터 297은 전자 장치 201 또는 그 일부(예: 프로세서 210)의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 디스플레이 할 수 있다. 모터 298은 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치 201은 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(MediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
한 실시 예에 따르면, 프로그램 모듈 310(예: 프로그램 140)은 전자 장치(예: 전자 장치 101)에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램 147)을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈 310은 커널 320, 미들웨어 330, 어플리케이션 프로그래밍 인터페이스(application programming interface (API)) 360, 및/또는 어플리케이션 370을 포함할 수 있다. 프로그램 모듈 310의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버 106 등)로부터 다운로드(download) 가능하다.
커널 320(예: 커널 141)은, 예를 들면, 시스템 리소스 매니저 321 및/또는 디바이스 드라이버 323을 포함할 수 있다. 시스템 리소스 매니저 321은 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저 321은 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버 323은, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어 330은, 예를 들면, 어플리케이션 370이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션 370이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API 360을 통해 다양한 기능들을 어플리케이션 370으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어 330(예: 미들웨어 143)은 런타임 라이브러리 335, 어플리케이션 매니저(application manager) 341, 윈도우 매니저(window manager) 342, 멀티미디어 매니저(multimedia manager) 343, 리소스 매니저(resource manager) 344, 파워 매니저(power manager) 345, 데이터베이스 매니저(database manager) 346, 패키지 매니저(package manager) 347, 연결 매니저(connectivity manager) 348, 통지 매니저(notification manager) 349, 위치 매니저(location manager) 350, 그래픽 매니저(graphic manager) 351, 또는 보안 매니저(security manager) 352 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리 335는, 예를 들면, 어플리케이션 370이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리 335는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저 341은, 예를 들면, 어플리케이션 370 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저 342는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저 343은 다양한 미디어 파일들의 재생에 필요한 포맷(format)을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저 344는 어플리케이션 370 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저 345는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저 346은 어플리케이션 370 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저 347은 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저 348은, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저 349는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 디스플레이 또는 통지할 수 있다. 위치 매니저 350은 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저 351은 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저 352는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치 101)가 전화 기능을 포함한 경우, 미들웨어 330은 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어 330은 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어 330은 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어 330은 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API 360(예: API 145)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼(platform) 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션 370(예: 어플리케이션 프로그램 147)은, 예를 들면, 홈 371, 다이얼러 372, SMS/MMS 373, IM(instant message) 374, 브라우저 375, 카메라 376, 알람 377, 컨택트 378, 음성 다이얼 379, 이메일 380, 달력 381, 미디어 플레이어 382, 앨범 383, 시계 384 등의 어플리케이션을 포함할 수 있다. 다양한 실시 예들에 따르면, 어플리케이션 370은, 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션 370은 전자 장치(예: 전자 장치 101)와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온(turn-on)/턴-오프(turn-off) 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션 370은 외부 전자 장치(예: 전자 장치(102, 104))의 속성)에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션, 청각 측정 어플리케이션, 오디오 재생 어플리케이션 등)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션 370은 외부 전자 장치(예: 서버 106 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션 370은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈 310의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예들에 따르면, 프로그램 모듈 310의 적어도 일부는 소프트웨어, 펌웨어(firmware), 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈 310의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서 210)에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈 310의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예들에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 기록 매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서 120)에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 기록 매체는, 예를 들면, 메모리 130이 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예들에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예들에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.
제안하는 본 발명의 다양한 실시 예들에서는, 전자 장치에 기반한 초음파(ultrasound) 진단 방법 및 장치에 관하여 개시한다. 다양한 실시 예들에 따르면, 휴대용 초음파(mobile ultrasound)를 이용하여 원격 진단 및/또는 원격 진료를 제공할 수 있다. 다양한 실시 예들에 따르면, 전자 장치(예: 스마트폰, 태블릿 PC 등)의 통신 및 카메라 기능을 활용하여 원격지 환자의 상태와 초음파 진단 상황을 실시간으로 병원으로 전송하여, 병원 내 전문의에 의해 사용자의 상태를 공유 및 진단이 가능하도록 할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치는, 통신 기능 및/또는 카메라 기능을 지원하며, AP(application processor), CP(communication processor), GPU(graphic processing unit), 및 CPU(central processing unit) 등의 다양한 프로세서 중 하나 또는 그 이상을 사용하는 모든 장치를 포함할 수 있다. 예를 들면, 다양한 실시 예들에 따른 전자 장치는, 통신 기능 및/또는 카메라 기능을 지원하는 모든 정보통신기기, 멀티미디어기기, 웨어러블 기기(wearable device), IoT(internet of things) 기기, 청각 장치, 또는 그에 대한 응용기기를 포함할 수 있다.
이하에서, 첨부 도면을 참조하여 본 발명의 다양한 실시 예들에 따른 동작 방법 및 장치에 대하여 살펴보기로 한다. 하지만, 본 발명의 다양한 실시 예들이 하기에서 기술하는 내용에 의해 제한되거나 한정되는 것은 아니므로, 하기의 실시 예에 의거하여 다양한 실시 예들에 적용할 수 있음에 유의하여야 한다. 이하에서 설명되는 본 발명의 다양한 실시 예들에서는 하드웨어적인 접근 방법을 예시로서 설명한다. 하지만, 본 발명의 다양한 실시 예들에서는 하드웨어와 소프트웨어를 모두 사용하는 기술을 포함하고 있으므로, 본 발명의 다양한 실시 예들이 소프트웨어 기반의 접근 방법을 제외하는 것은 아니다.
도 4는 본 발명의 다양한 실시 예들에 따른 시스템을 설명하기 위해 도시하는 도면이다.
도 4를 참조하면, 본 발명의 다양한 실시 예들에 따른 시스템은 제1 전자 장치(400), 프로브(600), 그리고 제2 전자 장치(500)를 포함하여 구성할 수 있다.
다양한 실시 예들에서 제1 전자 장치(400)는 프로브(600)와 제1 통신(예: 유선 통신 또는 무선 통신)으로 연결(예: 페어링)될 수 있고, 제2 전자 장치(500)와 제2 통신(예: 무선 통신)으로 연결될 수 있다. 다양한 실시 예들에서 제1 통신은 케이블 통신과 같은 유선 통신 방식이거나, 또는 BT, BLE, 또는 NFMI(Near-Field Magnetic Induction) 등과 같은 근거리 무선 통신 방식을 포함할 수 있다. 다양한 실시 예들에서 제1 통신은 이에 제한되지 않으며, 다른 다양한 무선 통신, 예를 들면, WiFi, NFC, ZigBee, UWB, 또는 IrDA 등의 무선 통신을 포함할 수 있다. 다양한 실시 예들에서 제2 통신은 셀룰러 통신과 같은 이동통신 방식이거나, 또는 WiFi 등의 무선 통신 방식을 포함할 수 있다.
다양한 실시 예들에서 제1 전자 장치(400)는 연결된 프로브(600)에 의한 제1 데이터(예: 초음파 스캔 데이터)를 획득하고, 획득된 제1 데이터(예: 초음파 스캔 영상)를 디스플레이 할 수 있다. 다양한 실시 예들에서 제1 전자 장치(400)는 내부 카메라에 의해 촬영하는 제2 데이터(예: 환부 영상 데이터)를 획득하고, 획득된 제2 데이터(예: 프리뷰 영상)를 디스플레이 할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 제1 데이터와 제2 데이터를 화면 분할에 의해 함께 디스플레이 하거나, 또는 제1 데이터 또는 제2 데이터를 전체 화면으로 독립적으로 각각 디스플레이 할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 프로브(600)로부터 획득된 제1 데이터 또는 카메라로부터 획득된 제2 데이터 중 적어도 하나를 원격지의 제2 전자 장치(500)에 전송할 수 있다.
다양한 실시 예들에서 제1 전자 장치(400)는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer) 등을 포함할 수 있다. 다양한 실시 예들에서 제1 전자 장치(400)는 프로브(600)를 이용한 원격 진단과 관련된 다양한 유저 인터페이스(UI, user interface) 또는 그래픽 유저 인터페이스(GUI, graphical UI)를 디스플레이 할 수 있다. 다양한 실시 예들에 따른 제1 전자 장치(400)의 동작 및 관련 화면 예시들에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
다양한 실시 예들에서 프로브(600)는, 예를 들면, 초음파(ultrasound) 프로브를 포함할 수 있다. 다양한 실시 예들에서 프로브(600)는 제1 전자 장치(400)와 연결되고, 초음파 스캔 데이터를 생성하여, 제1 전자 장치(400)에 제공할 수 있다. 프로브(600)는 대상체의 체표로부터 체내의 소망 부위를 향하여 초음파 신호를 조사하고, 반사된 초음파 신호(예: 초음파 에코 신호)의 정보를 이용하여 연부 조직의 단층이나 혈류에 관한 영상을 획득할 수 있다. 다양한 실시 예들에 따른 프로브(600)를 이용한 동작 예시들에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
다양한 실시 예들에서 제2 전자 장치(500)는, 원격지에 위치하는 외부 장치로, 예를 들면, 다른 전자 장치, 외부 스크린(screen)(예: 모니터, TV, 대형 스크린 등), 서버(예: 컴퓨터) 등을 포함할 수 있다. 다양한 실시 예들에서 제2 전자 장치(500)는, 제1 전자 장치(400)와 무선 통신으로 연결할 수 있고, 제1 전자 장치(400)로부터 데이터(예: 초음파 스캔 데이터)를 실시간으로 수신할 수 있다. 다양한 실시 예들에서 제2 전자 장치(500)는, 수신된 데이터에 적어도 일부 기초하여 원격 진료와 관련된 다양한 UI 또는 GUI를 디스플레이 할 수 있다.
다양한 실시 예들에서 제2 전자 장치(500)는, 수신된 데이터에 적어도 일부 기초하여 원격 진료와 관련된 다양한 원격 제어 정보를 생성하고, 생성된 제어 정보를 제1 전자 장치(400)에 전송할 수 있다. 다양한 실시 예들에서 제2 전자 장치(500)는, 원격지에서 다른 장치와 연결되어 제1 전자 장치(400)로부터 수신된 데이터를 공유(예: 스크린 미러링(screen mirroring))할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)가 스마트폰과 모니터인 경우를 가정하고, 스마트폰과 모니터는 동일한 공간(예: 근거리 통신 반경 내)에 존재하는 것을 가정할 수 있다. 스마트폰은 제1 전자 장치(400)로부터 데이터를 수신하고, 수신된 데이터를 스마트폰을 통해 표시하면서, 스크린 미러링을 이용하여, 연결된 모니터를 통해 공유하여 디스플레이 할 수 있다. 다양한 실시 예들에 따른 제2 전자 장치(500)의 동작 및 관련 화면 예시들에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
도 5는 본 발명의 다양한 실시 예들에 따른 전자 장치와 프로브를 설명하기 위해 도시하는 도면이다.
도 5를 참조하면, 도 5에서는 제1 전자 장치(400)를 예시로 하고, 제1 전자 장치(400)와 프로브가 무선 통신에 기초하여 연결되는 것을 예시로 한다.
다양한 실시 예들에서 전자 장치(400)는 디스플레이(410)와, 디스플레이(410)가 안착되어 체결되는 하우징(또는 본체)(420)과, 하우징(420)에 형성되어 전자 장치(400)의 기능 수행을 위한 부가 장치 등을 포함하여 구성될 수 있다. 다양한 실시 예들에서 부가 장치는 제1 스피커(401), 제2 스피커(403), 마이크(405), 센서(예: 전면 카메라 모듈(407), 조도 센서(409) 등), 통신 인터페이스(예: 충전 또는 데이터 입/출력(Input/Output) 포트(411), 오디오 입/출력 포트(413) 등), 버튼(415) 등을 포함할 수 있다. 다양한 실시 예들에 따라, 전자 장치(400)와 프로브(600)가 유선 통신 방식으로 연결되는 경우, 전자 장치(400)와 프로브(600)는 통신 인터페이스의 적어도 일부 포트(예: 데이터 입/출력 포트(411))에 기초하여 연결될 수 있다.
다양한 실시 예들에서 디스플레이(410)는 평면형 디스플레이 또는 종이처럼 얇고 유연한 기판을 통해 손상 없이 휘거나 구부리거나 말 수 있는 벤디드 디스플레이(또는 커브드 디스플레이)를 포함할 수 있다. 벤디드 디스플레이는 하우징(420)에 체결되어 구부러진 형태를 유지할 수 있다. 다양한 실시 예들에서 전자 장치(400)는 벤디드 디스플레이와 같은 형태를 비롯하여, 플렉서블 디스플레이(flexible display)와 같이 구부렸다가 폈다가를 자유자재로 할 수 있는 디스플레이 장치로 구현될 수도 있다. 다양한 실시 예들에서 디스플레이(410)는 액정 디스플레이(LCD, Liquid Crystal Display), 발광다이오드(LED, Light Emitting Diode), 유기발광다이오드(OLED, Organic LED) 및 능동형 OLED(AMOLED, Active Matrix OLED) 등에서 액정을 싸고 있는 유리 기판을 플라스틱 필름으로 대체하여, 접고 펼 수 있는 유연성을 부여할 수 있다.
다양한 실시 예들에서 전자 장치(400)는 프로브(600)와 연결할 수 있다. 다양한 실시 예들에서 전자 장치(400)는 무선 통신(예: 블루투스, 저전력 블루투스(BLE, Bluetooth low energy) 등)에 기반하여 프로브(600)와 연결될 수 있다.
다양한 실시 예들에서 전자 장치(400)는 프로브(600)와 연결되어, 원격 진료를 위한 관련 데이터(예: 초음파 스캔 데이터, 환부 영상 데이터 등)를 생성하고, 생성된 데이터를 원격지의 제2 전자 장치(500)에 전송할 수 있다. 다양한 실시 예들에서 전자 장치(400)는 프로브(600) 연결을 감지하면, 긴급 진단 시작을 인식하고, 긴급 모드(emergency mode)로 진입할 수 있다. 전자 장치(400)는 긴급 모드 진입에 응답하여, 프리셋(preset) 설정 단계를 생략하고, 긴급 프리셋(emergency preset)을 바로 실행할 수 있다. 이에 대해, 후술하는 도면들을 참조하여 구체적으로 설명된다.
다양한 실시 예들에서 전자 장치(400)는 프로브(600)를 이용한 진단 시작을 수행(예: 프로브(600) 제어에 의한 초음파 데이터 획득)하고, 진단하는 결과(예: 초음파 데이터)를 디스플레이 및 원격지의 제2 전자 장치(500)에 전송하는 것과 관련된 동작을 처리할 수 있다.
다양한 실시 예들에서 전자 장치(400)는 제2 전자 장치(500)로부터 원격 제어 정보(예: 초음파 진단 가이드, 응급 처치 가이드, 프로브(600) 조작 가이드 등)를 수신할 수 있고, 원격 제어 정보에 관련된 다양한 동작(예: 가이드 디스플레이, 인디케이터(indicator) 출력, 또는 인디케이터 출력을 위한 프로브(600) 제어 등)을 수행할 수 있다. 다양한 실시 예들에서 전자 장치(400)가 프로브(600)와 연동하여 원격 진료를 지원하는 것과 관련된 다양한 예시들에 대해 후술하는 도면들을 참조하여 상세히 설명된다.
다양한 실시 예들에서 프로브(600)는 전자 장치(400)와 무선 통신으로 연결될 수 있다. 프로브(600)는, 예를 들면, 트랜스듀서(transducer)로부터 생성되는 초음파 신호를 대상체(피검체)로 조사하고, 대상체로부터 반사된 에코 신호의 정보를 수신하여 대상체 내부의 부위에 대한 영상을 획득할 수 있다. 예를 들면, 프로브(600)는 대상체 내부의 관찰, 이물질 검출, 및 상해 측정 등 의학적 목적으로 사용될 수 있다. 프로브(600)는 획득된 영상을 연결된 전자 장치(400)에 전송할 수 있다.
다양한 실시 예들에서 프로브(600)는 전자 장치(400)의 제어에 기초하여, 프로브 조작 가이드 또는 진단 가이드와 관련된 인디케이터를 출력할 수 있다. 한 실시 예에 따르면, 프로브(600)는 구비된 출력부(예: 발광 장치로, LED, 적외선 등)를 통해 라이팅(lighting)을 출력하도록 동작할 수 있다. 다양한 실시 예들에서 전자 장치(400)가 프로브(600)와 연동하여 원격 진료를 지원하는 것과 관련된 다양한 예시들에 대해 후술하는 도면들을 참조하여 상세히 설명된다.
도 6은 본 발명의 다양한 실시 예들에 따른 전자 장치의 구성을 개략적으로 도시하는 도면이다.
도 6을 참조하면, 본 발명의 다양한 실시 예들에 따른 전자 장치(400)는, 예를 들면, 무선 통신부(610), 사용자 입력부(620), 터치스크린(touchscreen)(830), 오디오 처리부(640), 메모리(650), 인터페이스부(660), 카메라 모듈(670), 제어부(680)(예: 프로세서 120), 그리고 전원 공급부(690)를 포함할 수 있다. 본 발명의 다양한 실시 예들에서 전자 장치(400)는 도 6에 도시된 구성들이 필수적인 것은 아니어서, 도 6에 도시된 구성들보다 많은 구성들을 가지거나, 또는 그보다 적은 구성들을 가지는 것으로 구현될 수 있다.
무선 통신부(610)는, 예를 들면, 도 2의 통신 모듈(220)과 동일 또는 유사한 구성을 가질 수 있다. 무선 통신부(610)는 전자 장치(400)와 다른 외부 장치(예: 프로브(600), 다른 전자 장치(500), 서버(106)) 사이의 무선 통신을 가능하게 하는 하나 또는 그 이상의 모듈들을 포함할 수 있다. 예를 들어, 무선 통신부(610)는 이동통신 모듈(611), 무선 랜(WLAN, wireless local area network) 모듈(613), 근거리 통신 모듈(615), 그리고 위치 산출 모듈(617) 등을 포함하여 구성될 수 있다. 다양한 실시 예들에서 무선 통신부(610)는 주변의 외부 장치와 통신을 수행하기 위한 모듈(예: 근거리 통신 모듈, 원거리 통신 모듈 등)을 포함할 수 있다.
이동통신 모듈(611)은, 예를 들면, 도 2의 셀룰러 모듈(221)과 동일 또는 유사한 구성을 가질 수 있다. 이동통신 모듈(611)은 이동통신 네트워크 상에서 기지국, 외부 전자 장치(예: 다른 전자 장치(104)), 그리고 다양한 서버들(예: 어플리케이션 서버, 관리 서버, 통합 서버(integration server), 프로바이더 서버(provider server), 컨텐츠 서버(content server), 인터넷 서버(internet server), 또는 클라우드 서버(cloud server) 등) 중 적어도 하나와 무선 신호를 송수신할 수 있다. 무선 신호는 음성 신호, 데이터 신호 또는 다양한 형태의 제어 신호를 포함할 수 있다. 이동통신 모듈(611)은 전자 장치(400)의 동작에 필요한 다양한 데이터들을 사용자 요청에 응답하여 외부 전자 장치(예: 서버(106) 또는 다른 전자 장치(104) 등)로 전송할 수 있다.
무선 랜 모듈(613)은, 예를 들면, 도 2의 WiFi 모듈(223)과 동일 또는 유사한 구성을 가질 수 있다. 무선 랜 모듈(613)은 무선 인터넷 접속 및 다른 외부 장치(예: 프로브(600), 다른 전자 장치(102) 또는 서버(106) 등)와 무선 랜 링크(link)를 형성하기 위한 모듈을 나타낼 수 있다. 무선 랜 모듈(613)은 전자 장치(400)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WiFi(Wireless Fidelity), Wibro(Wireless broadband), WiMax(World interoperability for Microwave access), HSDPA(High Speed Downlink Packet Access), 또는 mmWave(millimeter Wave) 등이 이용될 수 있다. 무선 랜 모듈(613)은 전자 장치(400)와 네트워크(예: 무선 인터넷 네트워크)(예: 네트워크(162))를 통해 연결되어 있는 다른 외부 장치(예: 프로브(600), 다른 전자 장치(104) 등)와 연동하여, 전자 장치(400)의 다양한 데이터들을 외부로 전송하거나, 또는 외부로부터 수신할 수 있다. 무선 랜 모듈(613)은 상시 온(on) 상태를 유지하거나, 전자 장치(400)의 설정 또는 사용자 입력에 따라 턴-온(turn-on)될 수 있다.
근거리 통신 모듈(615)은 근거리 통신(short range communication)을 수행하기 위한 모듈을 나타낼 수 있다. 근거리 통신 기술로 블루투스(Bluetooth), 저전력 블루투스(BLE, Bluetooth Low Energy), RFID(Radio Frequency IDentification), 적외선 통신(IrDA, Infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), 또는 NFC(Near Field Communication) 등이 이용될 수 있다. 근거리 통신 모듈(615)은 전자 장치(400)와 네트워크(예: 근거리 통신 네트워크)를 통해 연결되어 있는 다른 외부 장치(예: 프로브(600) 등)와 연동하여, 전자 장치(400)의 다양한 데이터들을 외부 장치로 전송하거나 수신 받을 수 있다. 근거리 통신 모듈(615)은 상시 온 상태를 유지하거나, 전자 장치(400)의 설정 또는 사용자 입력에 따라 턴-온(turn-on)될 수 있다.
위치 산출 모듈(617)은, 예를 들면, 도 2의 GNSS 모듈(227)과 동일 또는 유사한 구성을 가질 수 있다. 위치 산출 모듈(617)은 전자 장치(400)의 위치를 획득하기 위한 모듈로서, 대표적인 예로는 GPS(global position system) 모듈을 포함할 수 있다. 위치 산출 모듈(617)은 삼각 측량의 원리로 전자 장치(400)의 위치를 측정할 수 있다.
사용자 입력부(620)는 전자 장치(400)의 동작 제어를 위한 입력 데이터를 사용자 입력에 응답하여 발생할 수 있다. 사용자 입력부(620)는 사용자의 다양한 입력을 검출하기 위한 적어도 하나의 입력 장치(input device)를 포함할 수 있다. 예를 들어, 사용자 입력부(620)는 키패드(key pad), 돔 스위치(dome switch), 물리 버튼, 터치패드(정압/정전), 조그셔틀(jog & shuttle), 그리고 센서(예: 센서 모듈(240)) 등을 포함할 수 있다.
사용자 입력부(620)는 일부가 전자 장치(400)의 외부에 버튼 형태로 구현될 수 있으며, 일부 또는 전체가 터치 패널(touch panel)로 구현될 수도 있다. 사용자 입력부(620)는 본 발명의 다양한 실시 예들에 따른 전자 장치(400)의 동작(예: 프로브(600) 연결 및 인식 기능, 초음파 진단 기능, 데이터 송수신 기능 등)을 개시(initiation)하기 위한 사용자 입력을 수신할 수 있고, 사용자 입력에 따른 입력 신호를 발생할 수 있다.
터치스크린(630)은 입력 기능과 디스플레이 기능을 동시에 수행할 수 있는 입출력 장치를 나타내며, 디스플레이(631)(예: 디스플레이(160, 260))와 터치감지부(633)를 포함할 수 있다. 터치스크린(630)은 전자 장치(400)와 사용자 사이에 입출력 인터페이스를 제공하며, 사용자의 터치 입력을 전자 장치(400)에게 전달할 수 있고, 또한 전자 장치(400)로부터의 출력을 사용자에게 보여주는 매개체 역할을 포함할 수 있다. 터치스크린(630)은 사용자에게 시각적인 출력(visual output)을 보여줄 수 있다. 시각적 출력은 텍스트(text), 그래픽(graphic), 비디오(video)와 이들의 조합의 형태로 나타날 수 있다.
디스플레이(631)는 전자 장치(400)에서 처리되는 다양한 정보를 디스플레이(출력)할 수 있다. 예를 들어, 디스플레이(631)는 전자 장치(400)가 프로브(600)와 연결을 수행하는 동작, 프로브(600)의 데이터(예: 초음파 스캔 데이터, 환부 영상 데이터 등)를 디스플레이 하는 동작, 데이터에 적어도 일부 기초하여 원격 진단/진료와 관련된 가이드를 디스플레이 하는 동작, 연결된 다른 전자 장치와 통신(예: 영상 통신, 또는 데이터 통신)을 수행하는 동작 등과 관련된 유저 인터페이스(UI, user interface) 또는 그래픽 유저 인터페이스(GUI, graphical UI)를 디스플레이 할 수 있다. 디스플레이(631)는 다양한 디스플레이(예: 디스플레이(160))가 사용될 수 있다. 다양한 실시 예들에서 디스플레이(631)는 벤디드 디스플레이가 사용될 수 있다.
터치감지부(633)는 디스플레이(631)에 안착될 수 있으며, 터치스크린(630) 표면에 접촉 또는 근접하는 사용자 입력을 감지할 수 있다. 사용자 입력은 싱글터치(single-touch), 멀티터치(multi-touch), 호버링(hovering), 또는 에어 제스처 중 적어도 하나에 기반하여 입력되는 터치 입력 또는 근접 입력을 포함할 수 있다. 터치감지부(633)는 다양한 실시 예들에서 전자 장치(400)의 사용과 관련된 동작을 개시하기 위한 사용자 입력을 수신할 수 있고, 사용자 입력에 따른 입력 신호를 발생할 수 있다.
오디오 처리부(640)는, 예를 들면, 도 2의 오디오 모듈(280)과 동일 또는 유사한 구성을 가질 수 있다. 오디오 처리부(640)는 제어부(680)로부터 입력 받은 오디오 신호를 스피커(SPK, speaker)(841)로 전송하고, 마이크(MIC, microphone)(843)로부터 입력 받은 음성 등의 오디오 신호를 제어부(680)에 전달하는 기능을 수행할 수 있다. 오디오 처리부(640)는 음성/음향 데이터를 제어부(680)의 제어에 따라 스피커(641)를 통해 가청음으로 변환하여 출력하고, 마이크(643)로부터 수신되는 음성 등의 오디오 신호를 디지털 신호로 변환하여 제어부(680)에게 전달할 수 있다.
스피커(641)는 무선 통신부(610)로부터 수신되거나, 또는 메모리(650)에 저장된 오디오 데이터를 출력할 수 있다. 스피커(641)는 전자 장치(400)에서 수행되는 다양한 동작(기능)과 관련된 음향 신호를 출력할 수도 있다.
마이크(643)는 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리할 수 있다. 마이크(643)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘(noise reduction algorithm)이 구현될 수 있다. 마이크(643)는 음성 명령(예: 긴급 모드 실행, 또는 다른 전자 장치 연결 등의 기능을 개시하기 위한 음성 명령) 등과 같은 오디오 스트리밍의 입력을 담당할 수 있다.
메모리(650)(예: 메모리(130, 230))는 제어부(680)에 의해 실행되는 하나 또는 그 이상의 프로그램들(one or more programs)을 저장할 수 있고, 입/출력되는 데이터들의 임시 저장을 위한 기능을 수행할 수도 있다. 입/출력되는 데이터들은, 예를 들면, 동영상, 이미지, 사진, 또는 오디오 등의 파일, 및 프로브(600)의 초음파 영상 등을 포함할 수 있다. 메모리(650)는 획득된 데이터를 저장하는 역할을 담당하며, 실시간으로 획득된 데이터는 일시적인 저장 장치에 저장할 수 있고, 저장하기로 확정된 데이터는 오래 보관 가능한 저장 장치에 저장할 수 있다.
메모리(650)는 다양한 실시 예들에서, 제어부(680)(예: 프로세서)가, 초음파 진단 모드를 감지하고, 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 외부 장치(예: 제2 전자 장치(500), 외부 스크린)와 통신을 형성하고, 초음파 진단 모드에서 데이터를 획득하고, 데이터를 디스플레이를 통해 디스플레이 및 통신 회로를 이용하여 외부 장치에 스트리밍 전송하고, 및 외부 장치로부터 제어 정보 수신에 응답하여, 프로브(600)의 조작 가이드를 제공하도록 하는 것과 관련되는 하나 또는 그 이상의 프로그램들, 데이터 또는 인스트럭션들(instructions)을 저장할 수 있다.
메모리(650)는 다양한 실시 예들에서, 제어부(680)(예: 프로세서)가, 외부 장치(예: 제1 전자 장치(400))와 통신을 형성하고, 외부 장치로부터 데이터를 스트리밍 수신하고, 데이터의 디스플레이 또는 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하고, 데이터에 적어도 일부 기초하여, 외부 장치에 연결된 프로브(600)의 제어와 관련된 제어 정보를 수신하고, 및 제어 정보를 외부 장치로 전송하도록 하는 것과 관련되는 하나 또는 그 이상의 프로그램들, 데이터 또는 인스트럭션들을 저장할 수 있다.
메모리(650)는 하나 이상의 어플리케이션 모듈(또는 소프트웨어 모듈) 등을 포함할 수 있다.
인터페이스부(660)는, 예를 들면, 도 2의 인터페이스(270)와 동일 또는 유사한 구성을 가질 수 있다. 인터페이스부(660)는 다른 전자 장치로부터 데이터를 전송 받거나, 전원을 공급받아 전자 장치(400) 내부의 각 구성들에 전달할 수 있다. 인터페이스부(660)는 전자 장치(400) 내부의 데이터가 다른 전자 장치로 전송되도록 할 수 있다. 예를 들어, 유/무선 헤드폰 포트(port), 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 오디오 입/출력(input/output) 포트, 비디오 입/출력 포트, 이어폰 포트 등이 인터페이스부(660)에 포함될 수 있다. 다양한 실시 예들에 따라, 전자 장치(400)와 프로브(600)가 유선 통신 방식으로 연결되는 경우, 인터페이스부(600)의 적어도 일부 포트에 기초하여 연결될 수 있다.
카메라 모듈(670)(예: 카메라 모듈(291))은 전자 장치(400)의 촬영 기능을 지원하는 구성을 나타낸다. 카메라 모듈(670)은 제어부(680)의 제어에 따라 임의의 피사체를 촬영하고, 촬영된 데이터(예: 이미지)를 디스플레이(631) 및 제어부(680)에 전달할 수 있다.
제어부(680)(예: 프로세서, 제어 회로)는 전자 장치(400)의 전반적인 동작을 제어할 수 있다. 다양한 실시 예들에서 제어부(680)는, 예를 들면, 도 2의 프로세서(210)와 동일 또는 유사한 구성을 가질 수 있다.
다양한 실시 예들에서 제어부(680)는, 전자 장치(400)가 전술한 제1 전자 장치로 동작할 때, 초음파 진단 모드를 감지하는 동작, 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 외부 장치(예: 제2 전자 장치(500), 외부 스크린)와 통신을 형성하는 동작, 초음파 진단 모드에서 데이터를 획득하는 동작, 데이터를 디스플레이를 통해 디스플레이 및 통신 회로를 이용하여 외부 장치에 스트리밍 전송하는 동작, 및 외부 장치로부터 제어 정보 수신에 응답하여, 프로브(600)의 조작 가이드를 제공하는 동작을 처리할 수 있다.
다양한 실시 예들에서 제어부(680)는, 전자 장치(400)가 전술한 제2 전자 장치로 동작할 때, 외부 장치(예: 제1 전자 장치(400))와 통신을 형성하는 동작, 외부 장치로부터 데이터를 스트리밍 수신하는 동작, 데이터의 디스플레이 또는 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하는 동작, 데이터에 적어도 일부 기초하여, 외부 장치에 연결된 프로브(600)의 제어와 관련된 제어 정보를 수신하는 동작, 및 제어 정보를 외부 장치로 전송하는 동작을 처리할 수 있다.
제어부(680)는 전자 장치(400)의 동작을 제어하기 위한 하나 또는 그 이상의 프로세서들을 포함할 수 있다. 다양한 실시 예들에서 제어부(680)는 오디오 처리부(640), 인터페이스부(660), 디스플레이(631), 카메라 모듈(670) 등의 하드웨어적 모듈의 동작을 제어할 수 있다. 본 발명의 다양한 실시 예들에 따른 제어부(680)의 제어 동작은 후술하는 도면들을 참조하여 구체적으로 설명된다. 본 발명의 다양한 실시 예들에 따르면, 제어부(680)는 메모리(650)에 저장되는 하나 또는 그 이상의 프로그램들을 실행하여 본 발명의 다양한 실시 예들에 따른 전자 장치(400)의 동작을 제어하는 하나 또는 그 이상의 프로세서들(one or more processors)로 구현될 수 있다.
전원 공급부(690)는 제어부(680)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성 요소들의 동작에 필요한 전원을 공급할 수 있다. 본 발명의 다양한 실시 예들에서 전원 공급부(690)는 제어부(680)의 제어에 의해 무선 통신부(610), 디스플레이(631), 카메라 모듈(670) 등에 전원을 공급 또는 차단(on/off)할 수 있다.
다양한 실시 예들에 따르면, 제2 전자 장치(500)에 대하는 구성을 도시하지는 않았으나, 다양한 실시 예들에서 제2 전자 장치(500)는 전술한 도 6의 전자 장치(400)와 동일 또는 유사한 구성을 가질 수 있으며, 제1 전자 장치(400)와 제2 전자 장치(500)는 동일한 장치(예: 스마트폰 : 스마트폰, 태블릿 PC : 태블릿 PC)이거나, 다른 장치(예: 스마트폰 : 태블릿 PC, 태블릿 PC : 스마트폰, 스마트폰 : 외부 스크린(TV, 모니터 등))로 구현될 수 있다.
이상에서 살펴본 바와 같이, 본 발명의 다양한 실시 예들에 따른 전자 장치(400)는, 디스플레이(예: 디스플레이(631), 터치스크린(630)), 카메라(예: 카메라 모듈(670)), 프로브(600) 연결을 위한 제1 통신 회로(예: 무선 통신부(610), 인터페이스부(660)), 적어도 하나의 외부 장치(예: 제2 전자 장치(500), 외부 스크린)와 통신을 위한 제2 통신 회로(예: 무선 통신부(810)), 및 상기 디스플레이, 상기 카메라, 상기 제1 통신회로 및 상기 제2 통신 회로와 전기적으로 연결된 프로세서(예: 제어부(680))를 포함하고, 상기 프로세서는, 초음파 진단 모드를 감지하고, 상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 상기 외부 장치와 통신을 형성하고, 상기 초음파 진단 모드에서 데이터를 획득하고, 상기 데이터를 상기 디스플레이를 통해 디스플레이 및 상기 제2 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하고, 및 상기 외부 장치로부터 제어 정보(예: 가이드 정보) 수신에 응답하여, 상기 프로브의 조작 가이드를 제공하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 프로브(600)를 통해 촬영하는 제1 데이터(예: 초음파 영상, 초음파 스캔 데이터)를 획득하고, 상기 카메라를 통해 촬영하는 제2 데이터(예: 프로브 조작 영상, 환부 영상 데이터)를 획득하고, 상기 제1 데이터와 상기 제2 데이터 중 적어도 하나를, 설정된 방식으로 디스플레이 하고, 및 상기 제1 데이터와 상기 제2 데이터를 상기 외부 장치에 전송하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 외부 장치와 음성 통화 또는 영상 통화를 자동 연결하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 초음파 진단 모드에서 획득하는 데이터를, 상기 외부 장치 및 상기 외부 장치와 다른 외부 스크린 중 적어도 하나에 전송하고, 및 상기 외부 장치와 설정된 통화 연결을 수행하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 외부 장치로부터 상기 데이터에 적어도 일부 기초하여 전송되는 상기 제어 정보를 수신하고, 상기 데이터 또는 상기 프로브 중 적어도 일부 기초하여, 상기 제어 정보에 대응하는 인디케이터 출력을 처리하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 프로브(600)에 의한 감지 신호를 검출하고, 상기 감지 신호에 응답하여, 긴급 진단 모드 실행을 결정하고, 및 긴급 프리셋을 제공하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 긴급 진단 모드에서, 프리셋 설정 단계를 생략하고, 심플 메뉴를 제공하도록 구성할 수 있다.
이상에서 살펴본 바와 같이, 본 발명의 다양한 실시 예들에 따른 전자 장치(500)는, 디스플레이(예: 디스플레이(631), 터치스크린(630)), 외부 장치(예: 제1 전자 장치(400))와 통신을 위한 통신 회로(예: 무선 통신부(610)), 및 상기 디스플레이 및 상기 통신 회로와 전기적으로 연결된 프로세서(예: 제어부(680))를 포함하고, 상기 프로세서는, 상기 외부 장치와 통신을 형성하고, 상기 외부 장치로부터 데이터를 스트리밍 수신하고, 상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린(예: TV, 모니터 등)으로 미러링 중 적어도 하나를 수행하고, 상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브(600)의 제어와 관련된 제어 정보(예: 가이드 정보)를 수신하고, 및 상기 제어 정보를 상기 외부 장치로 전송하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 데이터는, 상기 외부 장치에 연결된 상기 프로브(600)를 통해 촬영되는 제1 데이터(예: 초음파 영상, 초음파 스캔 데이터), 또는 상기 외부 장치의 카메라(예: 카메라 모듈(670))를 통해 촬영되는 제2 데이터(예: 프로브 조작 영상, 환부 영상 데이터) 중 적어도 하나를 포함하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 데이터 수신과 함께, 상기 외부 장치와 통화 연결을 수행하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 상기 데이터에 적어도 일부 기초하여 상기 프로브(600)의 가이드를 위한 사용자 입력을 수신하고, 상기 사용자 입력에 기초하여, 상기 제어 정보를 생성하고, 및 상기 제어 정보를 상기 외부 장치에 전송하도록 구성할 수 있다.
다양한 실시 예들에 따라, 상기 프로세서는, 커뮤니케이션 모드를 실행하고, 및 상기 커뮤니케이션 모드에 기초하여 상기 데이터의 공유와 관련된 영상 처리(예: 화면 공유로, 연결된 외부 장치에 전송 또는 화면 전환을 위한 영상 처리)를 수행하도록 구성할 수 있다.
도 7은 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 데이터를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 7은, 예를 들면, 제1 전자 장치(400)와 제2 전자 장치(500) 간 원격지 환자(예: 제1 전자 장치(400)의 사용자)의 상태와 초음파 진단 상황을 전송하는 동작 예시를 나타낼 수 있다. 도 7에서, 제1 저자 장치(400)는 프로브(600)와 연결되는 장치를 나타낼 수 있고, 제2 전자 장치(500)는 원격지의 PC, TV 또는 기타 별도의 연산 및 통신이 가능한 장치를 나타낼 수 있다.
도 7을 참조하면, 동작 701에서, 제1 전자 장치(400)는 제2 전자 장치(500)에 연결 요청을 전송할 수 있다. 다양한 실시 예들에 따르면, 제1 전자 장치(400)는 연결 요청을 자동으로 전송하거나, 또는 수동에 의해 전송할 수 있다. 자동 연결 요청 방식을 살펴보면 다음과 같다. 한 실시 예에 따라, 제1 전자 장치(400)는 프로브(600) 연결 감지 또는 원격 진단 모드 진입을 감지하는 것에 응답하여, 긴급 컨택트 정보(contact information)를 획득하고, 획득된 긴급 컨택트 정보에 기초하여 연결 요청을 전송할 수 있다. 다양한 실시 예들에 따라, 긴급 컨택트 정보는 제1 전자 장치(400) 내에 미리 등록된 컨택트 정보(예: 사용자에 의해 지정된 제2 전자 장치(500)의 연결 정보)이거나, 제1 전자 장치(400)의 위치에 기반으로 획득하는 최인근의 병원 연결 정보이거나, 또는 제1 전자 장치(400) 내에 미리 등록된 사용자의 헬스 정보에 적어도 일부 기반하여 획득하는 제2 전자 장치(500)의 연결 정보 등을 포함할 수 있다.
동작 703에서, 제2 전자 장치(500)는 제1 전자 장치(400)의 연결 요청에 응답하여, 제1 전자 장치(400)에 연결 응답을 전송할 수 있다.
동작 705 및 동작 707에서, 제1 전자 장치(400)와 제2 전자 장치(500)는, 각각 세션(session) 공유키를 생성할 수 있다. 한 실시 예에 따르면, 제1 청각 장치(400)와 제2 청각 장치(500)는 연결 요청 및 연결 응답에 따른 네고시에이션(negotiation) 수행에 따라 연결이 성립되면, 세션 공유키를 생성하여 저장 및 관리할 수 있다. 다양한 실시 예들에서, 세션은, 예를 들면, 원격 미러링(mirroring)을 위한 데이터 한 개의 단위의 프로세스(process)를 포함하는 의미로 사용할 수 있다. 다양한 실시 예들에 따르면, 복수의 세션들을 핸들링(handling)하기 위해 일종의 식별자(ID)인 공유키를 통해 구분 및 제어할 수 있다.
동작 709에서, 제1 전자 장치(400)는 환자의 환부를 촬영할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 프로브(600) 연결 감지 또는 원격 진단 모드 진입을 감지하는 것에 응답하여, 카메라가 오프(off) 상태인 경우 카메라를 턴-온(turn-on) 제어할 수 있고, 카메라를 통해 외부 영상을 촬영할 수 있다. 다양한 실시 예들에 따라 제1 전자 장치(400)는 카메라를 통해 촬영하는 영상(예: 프리뷰 영상)을 설정된 유저 인터페이스에 기반하여 디스플레이 할 수 있다.
동작 711에서, 제1 전자 장치(400)는 카메라(예: 카메라 모듈(670))로부터 획득하는 영상에 적어도 일부 기반하여 환부 영상 데이터를 생성할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 프리뷰 영상에 적어도 일부 기반하여 패킷화(packetized) 할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 환부 영상 데이터의 패킷화를 통해 제2 전자 장치(500)에 전송하기 위한 제1 패킷 데이터를 생성할 수 있다.
동작 713에서, 제1 전자 장치(400)는 프로브(600)로부터 초음파 스캔 데이터를 획득할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 프로브(600)에 의해 스캔되는 데이터를 수신할 수 있다.
동작 715에서, 제1 전자 장치(400)는 초음파 스캔 데이터를 압축(compression)할 수 있고, 동작 717에서, 압축된 초음파 스캔 데이터를 패킷화 할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 초음파 스캔 데이터의 패킷화를 통해 제2 전자 장치(500)에 전송하기 위한 제2 패킷 데이터를 생성할 수 있다. 다양한 실시 예들에서, 초음파 스캔 데이터는 프로브(600)의 트랜스듀서(transducer)에서 변환한 이진의 데이터를 포함할 수 있고, 이를 압축하여 전송함으로써 초음파 스캔 데이터의 전송 사이즈(size)를 줄일 수 있다.
동작 719에서, 제1 전자 장치(400)는 패킷 데이터를 암호화(encryption) 할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 제1 패킷 데이터와 제2 패킷 데이터를 암호화 할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 제1 패킷 데이터와 제2 패킷 데이터를 하나의 패킷으로 암호화 하거나, 제1 패킷 데이터와 제2 패킷 데이터를 독립적인 각각의 패킷으로 암호화 할 수 있다.
동작 721에서, 제1 전자 장치(400)는 패킷 데이터를 제2 전자 장치(500)에 전송할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 제1 패킷 데이터와 제2 패킷 데이터를 각각 구분하여 독립적으로 패킷을 전송하거나, 또는 하나의 패킷에 담아 전송할 수 있다.
동작 723에서, 제2 전자 장치(500)는 암호화된 패킷 데이터를 복호화(decryption) 할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 제1 패킷 데이터와 제2 패킷 데이터가 각각 구분되어 독립적으로 패킷을 수신하는 경우, 제1 패킷 데이터와 제2 패킷 데이터에 대해, 각각 복호화 할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 제1 패킷 데이터와 제2 패킷 데이터가 하나의 패킷으로 수신하는 경우, 수신된 패킷 데이터를 복호화 할 수 있다. 다양한 실시 예들에 따라, 제2 전자 장치(500)는 패킷 데이터 복호화에 의해 제1 패킷 데이터에 대응하는 환부 영상 데이터와, 제2 패킷 데이터에 대응하는 압축된 초음파 스캔 데이터를 획득할 수 있다.
동작 725에서, 제2 전자 장치(500)는 복호화된 환부 영상 데이터에 적어도 일부 기반하여 환부 영상을 출력(디스플레이) 할 수 있다.
동작 727에서, 제2 전자 장치(500)는 복호화된 압축된 초음파 영상 데이터를 복원(reconstruction) 및 렌더링(rendering)할 수 있다.
동작 729에서, 제2 전자 장치(500)는 복원된 초음파 영상 데이터에 적어도 일부 기반하여 초음파 영상을 출력(디스플레이) 할 수 있다.
다양한 실시 예들에 따라, 제2 전자 장치(500)는 환부 영상 및 초음파 영상을 화면 분할, 또는 PIP(Picture in Picture) 또는 PBP(Picture by Picture) 방식에 기반하여 동시에 디스플레이 하거나, 또는 환부 영상 또는 초음파 영상을 독립적으로 전체 화면으로 각각 디스플레이 할 수 있다.
다양한 실시 예들에 따라, 초음파 스캔 데이터는 제2 전자 장치(500)에서 복원 및 렌더링 하여 초음파 영상을 구현하는 것을 예시로 한다. 하지만, 본 발명이 이에 한정되는 것은 아니며, 전자 장치의 성능 및 용도에 따라서, 제1 전자 장치(400)에서 초음파 영상을 구성한 후 그 결과물을 제2 전자 장치(500)에 전송할 수도 있다.
도 8은 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 데이터를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 8은 제2 전자 장치(500)(예: 병원 내 의사가 소지하는 장치)에서 사용자(예: 제2 전자 장치(500)의 사용자로, 의사) 에서, 제1 전자 장치(400)에 초음파 진단 가이드를 제공하는 동작 예시를 나타낼 수 있다.
도 8을 참조하면, 동작 801 및 동작 803에서, 제1 전자 장치(400)와 제2 전자 장치(500)는, 각각 세션 공유키를 확인할 수 있다. 다양한 실시 예들에 따르면, 세션 공유키는, 제1 전자 장치(400)와 제2 전자 장치(500)가 최초 원격 연결 시 생성하여 저장하는 공유키를 나타내고, 이를 통해 복수의 세션들 간 구분 및 제어에 사용할 수 있다.
동작 805에서, 제2 전자 장치(500)는 프로브(600) 위치 조정 가이드를 생성할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 사용자(예: 의사)의 입력에 따라 원격지의 제1 전자 장치(400)에 연결된 프로브(600)를 조정하기 위한 위치를 가이드 하기 위한 위치 정보(또는 제어 정보)를 생성할 수 있다.
동작 807에서, 제2 전자 장치(500)는 위치 정보를 제1 전자 장치(400)에 전송할 수 있다.
동작 809에서, 제1 전자 장치(400)는 프로브(600)의 위치 정보를 확인할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 제2 전자 장치(500)로부터 수신된 위치 정보에 기반하여, 프로브(600)의 조정 위치를 가이드 하기 위한 위치를 판단할 수 있다.
동작 811에서, 제1 전자 장치(400)는 환부 촬영 화면(screen) 또는 프로브(600) 중 적어도 하나에 기반하여 프로브(600)의 위치 이동을 위한 방향 인디케이터(indicator)를 출력하도록 동작할 수 있다. 한 실시 예에 따라, 제1 전자 장치(400)는 환부 촬영 화면 상에 방향 정보에 대응하는 위치에 인디케이터를 디스플레이 하여 프로브(600)의 위치 이동을 가이드 할 수 있다. 한 실시 예에 따라, 제1 전자 장치(400)는 방향 정보에 대응하여 프로브(600)의 복수의 출력부(예: 발광 장치) 중 어느 하나를 결정하고, 결정된 출력부에 의한 라이팅 출력을 커맨드(command)를 프로브(600)로 전송하여, 프로브(600)의 라이팅에 의해 프로브(600)의 위치 이동을 가이드 할 수 있다. 다양한 실시 예들에 따라, 프로브(600)의 위치 이동을 가이드하는 동작 및 관련 화면 예시들에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
도 9는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브의 조작 가이드를 제공하는 동작을 설명하기 위해 도시하는 도면이다.
도 9는, 도 8에서 제1 전자 장치(400)가 동작 809의 프로브 위치 정보를 확인하는 동작의 상세 예시를 나타낼 수 있다.
도 9를 참조하면, 동작 901에서, 제1 전자 장치(400)는 제2 전자 장치(500)로부터의 가이드 수신을 대기하고, 동작 903에서, 가이드 정보 수신 여부를 판단할 수 있다. 예를 들면, 제1 전자 장치(400)는 무선 통신으로 연결된 제2 전자 장치(500)로부터 프로브(600)의 조정을 가이드 하기 위한 위치 정보(또는 방향 정보) 및/또는 제어 정보를 포함하는 가이드 정보 수신을 대기할 수 있다. 한 실시 예에 따라, 제1 전자 장치(400)는 프로브(600)로부터 획득하는 초음파 스캔 데이터와 카메라로부터 획득하는 환부 영상 데이터를 제2 전자 장치(500)에 실시간(예: 스트리밍)으로 계속 전송하는 상태일 수 있다.
동작 903에서, 제1 전자 장치(400)는 제2 전자 장치(500)로부터 가이드 수신이 없는 경우(동작 903의 아니오), 동작 901로 진행하여, 동작 901 이하의 동작 수행을 처리할 수 있다.
동작 903에서, 제1 전자 장치(400)는 제2 전자 장치(500)로부터 가이드 수신이 있는 경우(동작 903의 예), 동작 905에서, 가이드 정보를 분석할 수 있다. 한 실시 예에 따르면, 가이드 정보는 프로브(600)의 위치 이동과 관련된 위치(방향) 정보, 프로브(600)의 조작과 관련되거나 환자(예: 제1 전자 장치(400)의 사용자)에 대한 조치와 관련된 텍스트 또는 이미지 정보 중 하나 이상을 포함할 수 있다.
동작 907에서, 제1 전자 장치(400)는 가이드 정보에 방향 정보가 포함되어 있는지 여부를 판단할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 가이드 정보 분석에 기반하여, 수신된 가이드 정보 또는 가이드 정보 내에 프로브(600)의 위치 이동 방향을 가이드 하기 위한 방향(위치) 정보를 포함하는지 여부를 판단할 수 있다.
동작 907에서, 제1 전자 장치(400)는 방향 정보가 포함되지 않은 경우(동작 907의 아니오), 동작 901로 진행하여, 동작 901 이하의 동작 수행을 처리할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 수신된 가이드에 대응하여 관련 동작을 수행할 수 있다. 예를 들면, 수신된 가이드에 따라 텍스트 또는 이미지를 디스플레이 하는 동작을 수행할 수 있다.
동작 907에서, 제1 전자 장치(400)는 방향 정보가 포함된 경우(동작 907의 예), 동작 909에서, 제1 전자 장치(400)는 환부 촬영 화면(screen) 또는 프로브(600) 중 적어도 하나에 기반하여 프로브(600)의 위치 이동을 위한 방향 인디케이터(indicator)를 출력하도록 동작할 수 있다. 한 실시 예에 따라, 제1 전자 장치(400)는 환부 촬영 화면 상에 방향 정보에 대응하는 위치에 인디케이터를 디스플레이 하여 프로브(600)의 위치 이동을 가이드 할 수 있다. 한 실시 예에 따라, 제1 전자 장치(400)는 방향 정보에 대응하여 프로브(600)의 복수의 출력부(예: 발광 장치) 중 어느 하나를 결정하고, 결정된 출력부에 의한 라이팅 출력을 커맨드(command)를 프로브(600)로 전송하여, 프로브(600)의 라이팅에 의해 프로브(600)의 위치 이동을 가이드 할 수 있다. 다양한 실시 예들에 따라, 프로브(600)의 위치 이동을 가이드하는 동작 및 관련 화면 예시들에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
이하에서는, 다양한 실시 예들에 따라, 전자 장치들 간에 데이터를 공유 및 스크린 미러링을 제공하는 동작에 대하여 살펴보기로 한다.
도 10은 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
다양한 실시 예들에서, 미러링 동작은, 제1 전자 장치(400)와 제2 전자 장치(500) 간 영상 통화(예: 음성+영상) 방식으로, 프로브(600)로 촬영 중인 초음파 스캔 데이터 또는 카메라로 촬영 중인 환부 영상 데이터 중 적어도 일부에 기반하여 실시간 공유하는 동작을 나타낼 수 있다. 다양한 실시 예들에서, 미러링 동작은, 제1 전자 장치(400)에서 제2 전자 장치(500)의 전송하여 제2 전자 장치(500)를 통해 관련 화면을 디스플레이 하는 동작과, 제2 전자 장치(500)에서 제1 전자 장치(400)로부터 수신된 데이터를, 제2 전자 장치(500)와 연결된 다른 외부 장치(예: 모니터, TV 등)를 통해 관련 화면을 디스플레이 하는 동작을 포함할 수 있다.
도 10을 참조하면, 제1 전자 장치(400)는 긴급 모드 진입에 따라 긴급 프리셋(emergency preset) 관련 유저 인터페이스를 표시할 수 있다. 다양한 실시 예들에서, 긴급 프리셋 관련 유저 인터페이스는 환자 정보(patient information) 영역(1010), 스크린 미러링(screen mirroring) 영역(1020), 통신 영역(1030), 메뉴 영역(1040)을 포함할 수 있다.
환자 정보 영역(1010)은, 제1 전자 장치(400)의 사용자와 관련된 정보가 제공될 수 있다. 예를 들면, 환자 정보 영역(1010)은, 제1 전자 장치(400)의 카메라를 통해 촬영하는 영상(예: 프리뷰 영상, 또는 스틸 이미지 등), 시간 정보(예: 현재 날짜, 시간 등), 위치 정보 등을 포함하여 제공할 수 있다.
스크린 미러링 영역(1020)은, 미러링 기능의 활성화(또는 수행) 여부를 선택하는 영역을 나타낼 수 있다. 스크린 미러링 영역(1020)은, 미러링 동작을 수행하고자 하는 제2 전자 장치(500) 또는 제2 전자 장치(500)와 연결되는 외부 장치(예: TV, 모니터 등)에 관련된 정보를 포함하여 제공할 수 있다.
통신 영역(1030)은, 통신 기능, 예를 들면, 음성 통화(voice call) 또는 영상 통화(video call) 기능의 활성화(또는 수행) 여부를 선택하는 영역을 나타낼 수 있다. 통신 영역(1030)은, 통신(예: 음성 통화, 영상 통화)을 연결하고자 하는 제2 전자 장치(500)에 관련된 정보(예: 컨택트 정보에 기반한 사용자 이름, 닉네임 등)를 포함하여 제공할 수 있다.
메뉴 영역(1040)은, 제1 전자 장치(400)에 의해 획득된 데이터에 적어도 일부 기초하여 원격 진단의 진행(수행) 여부를 선택하는 영역을 나타낼 수 있다. 한 실시 예에 따라, 메뉴 영역(1040)은 원격 진단 진행을 위한 수락 버튼(예: OK), 원격 진단 진행 취소를 위한 거절 버튼(예: CANCEL)을 포함하여 제공할 수 있다.
다양한 실시 예들에서, 제1 전자 장치(400)를 조작하는 사용자(예: 구급 대원, 또는 제1 전자 장치(400)의 사용자 등)에 의해 원격 진단 진행이 요청되면, 데이터(예: 초음파 스캔 데이터 또는 환부 영상 데이터 중 적어도 하나)를 제2 전자 장치(500)에 전송할 수 있다. 한 실시 예에 따라, 스크린 미러링 영역(1020)에서 미러링 기능이 선택된 경우, 제1 전자 장치(400)는 데이터를 설정된 제2 전자 장치(500)(예: 병원 내 외부 장치(520)(예: TV, 모니터 등))에 직접 전송하여 미러링 동작을 수행할 수 있다. 한 실시 예에 따라, 통신 영역(1030)에서 통신 기능이 선택된 경우, 제1 전자 장치(400)는 선택된 통신(예: 음성 통화, 영상 통화) 방식에 기반하여 제2 전자 장치(500)(예: 병원 내 의사의 전자 장치(510))와 통신 연결을 수행할 수 있다.
다양한 실시 예들에 따라, 제2 전자 장치(500)(예: 전자 장치(510))는 제1 전자 장치(400)로부터 데이터를 수신하거나, 또는 데이터 수신과 함께 통신이 연결되면, 원격 진단(telemedicine)과 관련된 유저 인터페이스를 디스플레이하고, 선택적으로 미러링 동작을 수행할 수 있다. 한 실시 예에 따라, 제2 전자 장치(500)는 수신된 데이터에 적어도 일부 기초하여 초음파 스캔 데이터를 디스플레이 할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 수신된 데이터를 외부 장치(520)(예: TV, 모니터 등)와 연동(예: 실시간 연결)하여 스크린 미러링을 수행할 수 있다.
다양한 실시 예들에 따라, 제2 전자 장치(예: 전자 장치(510))는 통신 연결 상태와 스크린 미러링 상태 전환에 따라 팝업을 구분하여 제공할 수 있다. 한 실시 예에 따라, 통신 연결 상태의 경우 통화 수행 중 정보(예: Calling …)와 사용자 정보(예: Dr. Louise Humphrey)를 데이터 화면과 독립적인 GUI(예: 팝업)으로 제공할 수 있고, 스크린 미러링 상태의 경우 미러링 수행 중 정보(예: Mirroring)와 대상 외부 장치 정보(예: TV-J6350AF)를 데이터 화면과 독립적인 GUI로 제공할 수 있다.
다양한 실시 예들에 따라, 외부 장치(520)는 제1 전자 장치(400)로부터 직접 수신된 데이터(예: 초음파 스캔 데이터)를 디스플레이 할 수 있다. 다양한 실시 예들에 따라, 외부 장치(520)는, 예를 들면, 와이파이 다이렉트(WiFi Direct) 또는 와이파이 디스플레이(WiFi Display) 방식으로 연결된 제2 전자 장치(510)가 전송하는 데이터(예: 초음파 스캔 데이터)를 디스플레이 할 수 있다.
도 10에 도시한 바와 같이, 다양한 실시 예들에서는, 프로브(600)에 의해 촬영 중인 초음파 영상에 대해, 제1 전자 장치(400)와 적어도 하나의 제2 전자 장치(500) 간 데이터 통신과 함께, 음성 통화, 또는 영상 통화를 동시에 진행하여, 긴급 또는 응급 상황에서, 원격지의 환자와 의사 간에 보다 정확한 원격 진단 및/또는 대처가 가능하도록 할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)가 프로브(600) 또는 카메라를 통해 획득하는 데이터(예: 초음파 진단 데이터, 환부 영상 데이터)에 적어도 일부 영상(또는 화면)을 원격지에 연결된 적어도 하나의 제2 전자 장치(510, 520)으로 실시간 전송하여, 영상(또는 화면)을 공유할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)를 조작하는 사용자(예: 구급 대원)는 병원 내 전문의와 음성 통화 및/또는 영상 통화를 통한 진단 의견을 공유할 수 있고, 환자에 대한 응급 처치 등에 가이드를 제공받을 수 있다.
도 11은 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
도 11을 참조하면, 도 11은 초음파 영상 진단을 위한 데이터를 제공하는 화면 예시를 나타낼 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 초음파 영상 진단에 불필요한 메뉴 키들을 제외한 초음파 영상 영역(1110)(예: 실시간 영상 영역)만을 스크린 미러링 할 수 있다.
한 실시 예에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)(예: 외부 장치(520))와 스크린 미러링(예: 데이터 전송)을 직접 수행하여, 데이터(예: 초음파 스캔 데이터)를 전송할 수 있다. 제1 전자 장치(400)는 제2 전자 장치(500)(예: 외부 장치(520))와 스크린 미러링 수행 시, 획득된 데이터에서 메뉴 키들을 제외한 초음파 영상 영역(1110)만을 전송할 수 있다.
한 실시 예에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)(예: 전자 장치(510))에 데이터(예: 초음파 스캔 데이터)를 전송할 수 있고, 제2 전자 장치(510)에서 연결된 외부 장치(520)(예: TV, 모니터 등)와 스크린 미러링을 수행할 수 있다. 한 실시 예에 따라, 제2 전자 장치(510)는 외부 장치(520)로 스크린 미러링 수행 시, 초음파 진단을 위한 메뉴 키들을 제외하고 초음파 영상 영역(1110)만을 전송할 수 있다.
도 12는 본 발명의 다양한 실시 예들에 따른 전자 장치들에서 데이터 공유 및 미러링을 제공하는 동작 예시를 도시하는 도면이다.
도 12를 참조하면, 도 12는 제2 전자 장치(500)(예: TV, 모니터 등)를 통해 원격지의 제1 전자 장치(400)로부터 제공된 데이터(예: 초음파 스캔 데이터)를 디스플레이 및 그를 조작하는 화면 예시를 나타낼 수 있다.
다양한 실시 예들에 따르면, 제2 전자 장치(500)를 제어 디바이스(1200)(예: remote controller)를 이용하여, 제2 전자 장치(500)를 통해 디스플레이 되는 초음파 스캔 데이터를 조작할 수도 있다.
도 12의 화면 (A)에 도시한 바와 같이, 사용자(예: 의사)는 도 11과 같이 제2 전자 장치(500)를 통해 디스플레이 되는 초음파 영상에서, 화면 분할에 의해 실시간 판독 또는 진단을 수행할 수 있다. 예를 들면, 사용자는, 초음파 영상에 대한 실시간 판독 또는 진단을 위해, 제어 디바이스(1200)를 조작할 수 있다. 제어 디바이스(1200)는 사용자 조작에 응답하여, 제2 전자 장치(500)에 조작 커맨드(예: 화면 분할 커맨드)를 전송할 수 있다.
제2 전자 장치(500)는 제어 디바이스(1200)의 화면 분할 커맨드 감지에 응답하여 화면을 분할하여 제공할 수 있다. 한 실시 예에 따라, 제2 전자 장치(500)는 초음파 영상 영역과 판독 영역으로 구분하여 제공할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 초음파 영상 영역을 통해 초음파 영상을 제공할 수 있고, 판독 영역을 통해 저장된 영상(예: 초음파 영상의 스틸 이미지 또는 캡쳐 영상 등)을 제공할 수 있다. 한 실시 예에 따라, 판독 영역은 초음파 영상의 조작 및/또는 판독에 관련된 메뉴를 포함하여 제공될 수 있다. 예를 들면, 영상 멈춤 또는 재생을 위한 Freeze/Unfreeze, 저장을 위한 Save, 영상 확대 또는 축소를 위한 Zoom In/Out, 메모(memo) 또는 드로잉(drawing)을 위한 Pen, 거리 또는 사이즈 측정을 위한 Measure 등과 같은 메뉴를 포함하여, 화면의 일 영역(예: 화면 하단)에 제공할 수 있다.
도 12의 화면 (B)에 도시한 바와 같이, 사용자(예: 의사)는 기록 또는 저장된 진단 영상을 재판독 하는 경우, 제어 디바이스(1200)를 이용한 제2 전자 장치(500)의 조작을 통해, 진단 영상을 판독할 수 있다. 예를 들면, 사용자는 제어 디바이스(1200)를 이용하여 진단 영상 선택을 위한 조작을 수행하거나, 또는 도 12의 화면(A)와 같은 상태에서 판독 영역을 확대하기 위한 조작을 수행할 수 있다. 제어 디바이스(1200)는 사용자 조작에 응답하여, 제2 전자 장치(500)에 조작 커맨드(예: 판독 영역 확대 커맨드, 영상 리스트 커맨드)를 전송할 수 있다.
제2 전자 장치(500)는 제어 디바이스(1200)의 조작 커맨드(예: 판독 영역 확대 커맨드) 감지에 응답하여 화면을 확대하여 제공할 수 있다. 다른 한 실시 예에 따르면, 제2 전자 장치(500)는 제어 디바이스(1200)의 조작 커맨드(예: 영상 리스트 커맨드)에 응답하여 영상 리스트를 디스플레이 할 수 있고, 영상 리스트에서 선택된 영상을 전체 화면으로 제공할 수 있다. 한 실시 예에 따라, 판독 영역은 초음파 영상의 조작 및/또는 판독에 관련된 메뉴를 포함하여 제공될 수 있다. 예를 들면, 영상 멈춤 또는 재생을 위한 Freeze/Unfreeze, 저장을 위한 Save, 영상 확대 또는 축소를 위한 Zoom In/Out, 메모(memo) 또는 드로잉(drawing)을 위한 Pen, 거리 또는 사이즈 측정을 위한 Measure 등과 같은 메뉴를 포함하여, 화면의 일 영역(예: 화면 하단)에 제공할 수 있다.
도 13은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작 예시를 도시하는 도면이다.
도 13을 참조하면, 도 13은 전자 장치들 간에 공유하는 데이터(예: 초음파 스캔 데이터)에 기반하여 초음파 진단 중 영상 통화를 전환하는 화면 예시를 나타낼 수 있다. 예를 들면, 도 13에서는 원 핑거 인터랙션(one finger interaction)에 기반하여 화면 전환을 조작하는 예시를 나타낼 수 있다.
다양한 실시 예들에 따르면, 전자 장치(예: 제1 전자 장치(400), 제2 전자 장치(500))는 초음파 영상을 디스플레이 하는 중에, 예를 들면, 초음파 진단 중에, 특정 사용자 입력(예: long press, swipe, flick 등)을 감지하면, 사용자 입력에 응답하여 영상 통화를 전환할 수 있다.
한 실시 예에 따라, 화면 (1310)에 도시한 바와 같이, 초음파 진단 화면에서, 사용자(예: 구급대원, 의사)는 long press를 입력하여, 화면 (1330)과 같이 영상 통화로 전환할 수 있다. 전자 장치는 사용자 입력 감지에 응답하여 초음파 진단 화면(1310)에서 영상 통화 화면(1330)으로 전환하여 제공할 수 있다. 다양한 실시 예들에서, 사용자 입력(예: long press)에 따라 영상 통화 화면(1330)에서 초음파 진단 화면(1310)으로 전환도 가능하다.
한 실시 예에 따라, 화면 (1310)에 도시한 바와 같이, 초음파 진단 화면에서, 사용자(예: 구급대원, 의사)는 어느 일 방향(또는 방향에 상관 없이)으로의 swipe를 입력하여, 화면 (1330)과 같이 영상 통화 화면으로 전환할 수 있다. 다양한 실시 예들에서, 사용자 입력(예: swipe)에 따라 영상 통화 화면(1330)에서 초음파 진단 화면(1310)으로 전환도 가능하다.
다양한 실시 예들에 따르면, 전자 장치는 초음파 진단 화면(1310)과 영상 통화 화면(1330)으로 전환 시, 화면 전환에 관련된 GUI를 제공할 수 있다. 한 실시 예에 따라, 화면 (1320)에 도시한 바와 같이, 전자 장치는 초음파 진단 화면(1310)과 영상 통화 화면(1330) 간에 화면 전환이 이루어지는 화면 전환 효과(예: 슬라이드 인/아웃(slide in/out), 페이드 인/아웃(fade in/out), 장면 전환(image transition) 등)를 제공할 수 있다.
도 14는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작 예시를 도시하는 도면이다.
도 14를 참조하면, 도 14는 전자 장치들(예: 제1 전자 장치(400), 제2 전자 장치(500)) 간에 공유하는 데이터(예: 초음파 스캔 데이터)에 기반하여 초음파 진단 중 원 핑거 인터랙션(one finger interaction)에 기반하여 화면 전환을 조작하는 예시를 나타낼 수 있다. 다양한 실시 예들에 따르면, 원 핑거 기반의 다양한 사용자 입력을 구분하고, 구분된 사용자 입력에 기반하여 화면 전환을 조작할 수 있다.
도 14에 도시한 바와 같이, 예를 들면, 초음파 진단 중 수행 가능한 사용자 입력으로, long tap, tap, swipe 등이 포함될 수 있고, 각 원 핑거 기반 사용자 입력에 대해 페이지(page) 간 전환, 뎁스(depth) 간 전환, 카테고리(category) 간 전환, 또는 기능(function) 간 전환 방식이 설정될 수 있다. 한 실시 예에 따라, 사용자 입력에 따른 전환 방식에 기반하여 페이지 전환, 뎁스 전환, 카테고리 전환, 또는 기능 전환에 따른 화면 전환 및 관련 GUI가 제공될 수 있다.
다양한 실시 예들에 따라, 사용자(예: 제1 전자 장치(400)의 구급대원, 제2 전자 장치(500)의 의사)는 초음파 진단 중 원 핑거 기반 인터랙션을 통해 자유로운 화면 전환이 가능하고, 이에 사용자 편의성이 향상될 수 있다.
도 15는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 데이터를 디스플레이 하는 동작 예시를 도시하는 도면이다.
도 15를 참조하면, 도 15는 전자 장치(예: 제1 전자 장치(400), 제2 전자 장치(500))에 의한 초음파 진단 중 전자 장치의 방향(orientation)(예: 가로 모드(landscape mode), 세로 모드(portrait mode)) 전환에 따라, 다른 GUI에 의한 화면을 제공하는 예시를 나타낼 수 있다.
다양한 실시 예들에 따르면, 전자 장치는, 디스플레이에 출력될 화면(예: 초음파 영상 화면, 영상 통화 화면)을 합성하는 다양한 방법을 포함할 수 있다. 예를 들면, 여러 화면들을 계층적으로(예: 오버레이(overlay) 형태) 합성할 수도 있고, 특정 화면에 투명도를 부가하여 그 아래 계층에 배치된 화면과 함께 합성할 수도 있고, PIP(Picture in Picture) 또는 PBP(Picture by Picture) 형태로 합성할 수도 있고, 또는 화면 분할 형태로 합성할 수도 있다. 도 15의 예시에서는 화면 분할 형태로 합성하는 경우의 예를 나타낼 수 있다.
도 15에 도시한 바와 같이, 전자 장치는, 세로 모드에 의해 초음판 진단 중에는 기본(basic) 초음파 진단 화면을 디스플레이 할 수 있다. 한 실시 예에 따라, 전자 장치는 세로 모드에 의한 기본 초음파 진단 화면에서는 초음파 영상(1510)과 모든 메뉴(1520)를 포함하여 제공할 수 있다. 예를 들면, 전자 장치는, Freeze, Save, Q Scan 등의 메인 메뉴(Main menu)와 Mode 버튼, Measure 버튼 등의 서브 메뉴(Sub menu)를 포함하여 제공할 수 있다.
도 15에 도시한 바와 같이, 전자 장치는, 세로 모드에 의한 기본 초음파 진단 화면을 표시하는 중에, 가로 모드로 변경을 판단하면, 초음파 진단 화면(1540)과 영상 통화 화면(1550)을 화면 분할 형태로 합성하여 제공할 수 있다. 예를 들면, 전자 장치는, 초음파 영상을 포함하는 초음파 진단 화면(1540)과 사용자들 간의 통화 영상을 포함하는 영상 통화 화면(1550)을 화면 분할에 의해 함께 제공할 수 있다. 다양한 실시 예들에 따르면, 초음파 진단 화면(1540)과 영상 통화 화면(1550)은 PIP, PBP, 또는 오버레이 형태로 합성하여 제공할 수도 있다. 한 실시 예에 따라, 가로 모드에 의한 합성 화면을 제공할 때, 초음파 진단 화면(1540)에서는 메인 메뉴(1530)만을 포함하여 제공할 수 있다.
전자 장치는, 전자 장치의 방향 변경(또는 회전)을 감지할 수 있다. 예를 들면, 세로 모드에서 가로 모드로 변경, 또는 가로 모드에서 세로 모드로 변경을 판단할 수 있다. 전자 장치는, 판단하는 모드에 기초하여 기본 초음파 진단 화면 또는 초음파 진단 화면을 포함하는 적어도 2개의 화면을 합성한 합성 화면을 상호 간에 전환에 의해 제공할 수 있다.
도 16은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 데이터를 공유하는 동작을 도시하는 흐름도이다.
도 16을 참조하면, 동작 1601에서, 전자 장치(400)의 제어부(680)는 진단 모드 진입을 감지할 수 있다. 다양한 실시 예들에 따라, 진단 모드 진입을 판단하는 동작에 대하여 후술하는 도면들을 참조하여 구체적으로 설명된다.
동작 1603에서, 제어부(680)는 진단 모드 진입 감지에 응답하여, 진단 모드가 긴급 진단 모드에 의한 진입인지, 또는 기본 진단 모드에 의한 진입인지 여부를 판단할 수 있다.
동작 1603에서, 제어부(680)는 기본 진단 모드에 의한 진입을 판단하면(동작 1603의 아니오), 동작 1607에서, 프리셋 설정 단계를 수행할 수 있다. 다양한 실시 예들에 따라, 프리셋 설정 동작에 대하여 후술하는 도면을 참조하여 구체적으로 설명된다.
동작 1603에서, 제어부(680)는 긴급 진단 모드에 의한 진입을 판단하면(동작 1603의 예), 동작 1605에서, 긴급 프리셋을 실행할 수 있다. 예를 들면, 제어부(680)는 동작 1607과 같은 프리셋 설정 단계를 생략하고, 긴급 프리셋을 바로 실행할 수 있다. 이러한 예시가 도 10 및 후술하는 도면들에 도시된다.
동작 1609에서, 제어부(680)는 수행 기능을 판단할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 도 10에 도시한 바와 같이, 사용자에 의해 선택 및 설정된 스크린 미러링 및/또는 통화 기능이 존재하는지 여부를 판단할 수 있다.
동작 1611에서, 제어부(680)는 스크린 미러링 기능이 선택되었는지 여부를 판단할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 도 10에 도시한 바와 같이, 스크린 미러링 영역(1020)에 기반하여 사용자 선택이 있는지 여부를 판단할 수 있다.
동작 1611에서, 제어부(680)는 스크린 미러링 기능이 선택되지 않은 경우(동작 1611의 아니오), 동작 1615로 진행하여, 동작 1615 이하의 동작 수행을 처리할 수 있다.
동작 1611에서, 제어부(680)는 스크린 미러링 기능이 선택된 경우(동작 1611의 예), 동작 1613에서, 스크린 미러링을 위해 미리 설정된 외부 장치(예: 제2 전자 장치(500) 또는 외부 스크린 등)에 데이터를 전송(미러링 공유)할 수 있다. 한 실시 예에 따르면, 제어부(680)는 스크린 미러링 기능이 선택된 경우, 스크린 미러링을 위해 미리 설정된 외부 장치에 관련된 정보를 확인하거나, 또는 사용자의 컨택트 정보 또는 사용자의 이력 정보(예: 헬스 정보 등)에 기반하여 외부 장치에 관련된 정보를 추출할 수 있다. 제어부(680)는 확인 또는 추출된 외부 장치의 정보에 기반하여, 해당 외부 장치에 데이터를 전송할 수 있다. 다양한 실시 예들에 따라 데이터는, 예를 들면, 프로브(600)에 의해 촬영되는 초음파 스캔 데이터(예: 초음파 영상) 또는 카메라(예: 전자 장치의 후면 카메라)에 의해 촬영되는 환부 영상 데이터(예: 실시간(또는 라이브) 영상으로, 프리뷰 영상(예: 프로브 조작 영상)에 대응) 중 하나 이상을 포함할 수 있다. 다양한 실시 예들에 따라, 스크린 미러링 기능 선택에 따른 외부 장치는 병원(예: 진료실 등) 내의 외부 스크린(예: TV, 모니터 등)을 포함할 수 있다.
동작 1615에서, 제어부(680)는 통화 기능이 선택되었는지 여부를 판단할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 도 10에 도시한 바와 같이, 통신 영역(1030)에 기반하여 사용자 선택이 있는지 여부를 판단할 수 있다.
동작 1615에서, 제어부(680)는 통화 기능이 선택되지 않은 경우(동작 1615의 아니오), 동작 1619로 진행하여, 동작 1619 이하의 동작 수행을 처리할 수 있다.
동작 1615에서, 제어부(680)는 통화 기능이 선택된 경우(동작 1615의 예), 동작 1617에서, 외부 장치와 통화 연결을 수행할 수 있다. 한 실시 예에 따르면, 통화 연결을 위한 대상 외부 장치는 의사의 전자 장치를 포함할 수 있다. 다른 한 실시 예에 따르면, 통화 연결을 위한 대상 외부 장치와 스크린 미러링을 위한 대상 외부 장치는 다른 장치이거나, 또는 동일한 장치일 수 있다.
동작 1619에서, 제어부(680)는 통화 연결하는 외부 장치(예: 제2 전자 장치(500))에 데이터를 전송할 수 있다. 한 실시 예에 따르면, 제어부(680)는 통화 기능이 선택된 경우, 통화(예: 음성 통화, 영상 통화) 연결을 위해 미리 설정된 외부 장치에 관련된 정보를 확인하거나, 또는 사용자의 컨택트 정보 또는 사용자의 이력 정보(예: 헬스 정보 등)에 기반하여 외부 장치에 관련된 정보를 추출할 수 있다. 제어부(680)는 확인 또는 추출된 외부 장치의 정보에 기반하여, 해당 외부 장치에 통화 연결 및 데이터를 전송할 수 있다. 다양한 실시 예들에 따라 데이터는, 예를 들면, 프로브(600)에 의해 촬영되는 초음파 스캔 데이터(예: 초음파 영상) 또는 카메라(예: 전자 장치의 후면 카메라)에 의해 촬영되는 환부 영상 데이터(예: 프로브 조작 영상) 중 하나 이상을 포함할 수 있다.
동작 1621에서, 제어부(680)는 초음파 진단 수행 및 관련 인터페이스를 제공할 수 있다. 예를 들면, 제어부(680)는 도 10 내지 도 15를 참조한 설명 부분에서 설명한 바와 같이, 원격지의 다른 전자 장치와 진단 모드 수행과 관련된 다양한 화면 인터페이스를 제공하고, 사용자 또는 원격지의 사용자 입력에 적어도 일부 기초하여, 화면 전환, 기능 전환, 또는 프로브 조작 가이드를 위한 인디케이터 출력 등의 동작을 처리할 수도 있다.
다양한 실시 예들에 따르면, 도 16에서는 설명의 편의를 위한 각 동작들의 순차적으로 도시하였으나, 이에 한정하는 것은 아니다. 예를 들면, 다양한 실시 예들에서는, 동작 1611 내지 동작 1619과 순차적으로, 병렬적으로, 또는 역순차적으로 수행될 수 있음은 물론이다. 한 실시 예에 따르면, 제어부(680)는 동작 1609에서 기능 수행 판단 시 스크린 미러링 기능 및 통화 기능의 선택 여부를 동시에 확인할 수 있고, 그 결과에 적어도 일부 기초하여, 데이터 전송 또는 통화 연결 동작을 순차적으로, 병렬적으로, 또는 역순차적으로 수행할 수도 있다.
이하에서는, 다양한 실시 예들에 따라, 제1 전자 장치(400)에 연결된 프로브(600)를 조작하기 위한 가이드를 제공하는 동작에 대하여 살펴보기로 한다.
도 17은 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
다양한 실시 예들에 따르면, 제1 전자 장치(400)의 카메라(예: 카메라 모듈(670), 후면 카메라)를 통해 프로브(600)의 조작 상태를 촬영하여, 제2 전자 장치(500)에 실시간 전송할 수 있다. 예를 들면, 제1 전자 장치(400)는 카메라를 통해 촬영하는 환부 영상 데이터(1710)를 제2 전자 장치(500)에 스트리밍 방식으로 실시간 전송할 수 있다.
다양한 실시 예들에 따라, 제1 사용자(예: 프로브(600)를 조작하는 사용자)는 제1 전자 장치(400)의 카메라로 환자에 환부에 접촉되는 프로브(600)의 조작 상태를 촬영하도록 하고, 제1 전자 장치(400)는 촬영되는 환부 영상 데이터(1710)를, 프로브(600)로부터 획득하는 초음파 진단 데이터(1720)와 함께, 또는 독립적으로 제2 전자 장치(500)에 전송할 수 있다.
다양한 실시 예들에 따라, 제2 사용자(예: 제2 전자 장치(500)의 사용자로, 의사)는 제2 전자 장치(500)(예: 스마트폰(510), 외부 스크린(520)(TV, 모니터 등))에 기반하여, 초음파 진단 데이터의 초음파 영상(1740, 1760)을 비롯하여, 환부 영상 데이터를 통해 프로브(600)의 조작 영상(1730, 1750)을 확인할 수 있다. 제2 사용자는 정확한 진단을 판독할 수 있는 초음파 영상을 획득하기 위해 프로브(600) 조작 가이드를 제공할 수 있다. 예를 들면, 제2 사용자는 전자 장치(500)를 이용한 사용자 조작에 기반하여, 프로브(600)의 조작과 관련된 가이드를 제공할 수 있다. 한 실시 예에 따라, 제2 사용자는 제2 전자 장치(500)(예: 스마트폰(510), 제어 디바이스(530) 등)의 방향키를 이용(조작)하여 원격지의 구급대원에게 프로브(600)의 이동 방향을 지시하여 정확한 초음파 영상을 촬영하도록 할 수 있다. 제2 전자 장치(500)는 사용자 조작에 대응하는 가이드 정보를 생성할 수 있고, 생성된 가이드 정보를 제1 전자 장치(400)에 전송할 수 있다.
다양한 실시 예들에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)로부터 가이드 정보를 수신하는 것에 응답하여, 다양한 방식 중 어느 하나의 방식으로 프로브(600) 조작 가이드, 예를 들면, 인디케이터(indicator)를 제공(출력)하도록 동작할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 가이드 정보를 분석하고, 가이드 정보에 포함된 방향 정보(또는 위치 정보)를 판단(인식)할 수 있고, 판단하는 결과에 적어도 일부 기초하여 프로브(600)의 이동 방향(위치)를 지정할 수 있는 인디케이터를 출력하도록 동작할 수 있다.
한 실시 예에 따라, 제1 전자 장치(400)는 제1 전자 장치(400)의 화면 내 방향 가이드로 정확한 초음파 영상 획득을 위한 가이드를 출력할 수 있다.
한 실시 예에 따라, 제1 전자 장치(400)는 프로브(600)의 자체 방향 표시 라이팅(lighting)를 이용한 방향 가이드로 정확한 초음파 영상 획득을 위한 가이드를 제공하도록 할 수 있다. 예를 들면, 제1 전자 장치(400)는 가이드 정보의 방향 정보(또는 위치 정보)를 판단하고, 판단하는 방향 정보에 대응하는 라이팅을 수행하도록, 프로브(600)에 제어 커맨드를 전송할 수 있다. 프로브(600)는 제1 전자 장치(400)의 제어 커맨드에 응답하여, 구비된 출력부(예: 발광 장치로, LED, 적외선 등)에 의한 라이팅을 수행할 수 있다. 한 실시 예에 따라, 프로브(600)는 적어도 4개의 방향에 대응하는 인디케이터를 출력할 수 있는 출력부를 4개의 각 면(예: Left, Front, Right, Back에 각각 구비)에 포함하거나, 또는 적어도 4개의 방향에 대응하는 인디케이터를 출력할 수 있는 4개의 출력부를 어느 일 측면(예: Top, 꼬리)에 포함하도록 구성할 수 있다. 프로브(600)는 제1 전자 장치(600)의 제어 커맨드에 응답하여, 대응하는 방향(위치)의 출력부에 의한 라이팅을 수행할 수 있다.
도 18A 및 도 18B는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 조작 영상을 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 18A 및 도 18B를 참조하면, 제1 전자 장치(400)는 프로브(600)와 연결되고, 제1 전자 장치(400)의 카메라(예: 카메라 모듈(670), 후면 카메라)를 통해 프로브(600)의 조작에 대해 실시간 촬영되는 프로브(600) 조작 영상을 다양한 GUI에 기반하여 디스플레이 할 수 있다.
한 실시 예에 따르면, 도 18A에 도시한 바와 같이, 제1 전자 장치(400)는 화면의 일부 영역에 카메라에 의해 획득하는 실시간 촬영 영상(1810)(예: 프리뷰 영상으로, 환부 영상 데이터)에 관련된 GUI를 플로팅(floating)하여 제공할 수 있다.
다양한 실시 예들에 따라, GUI(예: 후면 카메라를 통해 획득하는 실시간 촬영 영상의 팝업 창)는 사각형, 삼각형, 다각형, 또는 원형 등과 같이, 다양한 형태로 제공될 수 있다. 다양한 실시 예들에 따라, GUI는 사용자 입력에 따라 위치 이동이 가능할 수 있다. 다양한 실시 예들에 따라, 실시간 촬영 영상(1810)에 관련된 GUI는 프로브(600)로부터 획득하는 초음파 영상(1820)과 서로 독립적인 윈도우(window)를 통해 디스플레이 될 수 있으며, 각 윈도우 중 하나는 다른 윈도우의 최소 일부와 겹쳐진 오버랩(overlap)된 형태로 디스플레이 될 수 있다. 예를 들면, 제1 전자 장치(400)는 실시간 촬영 영상(1810)을, 초음파 영상(1820) 상에 특정 형태의 GUI(예: 팝업 창)으로 PIP(Picture in Picture) 또는 PBP(Picture by Picture) 형태로 디스플레이 할 수 있다.
다양한 실시 예들에서, GUI는, 도 18A에 도시한 바와 같이, 초음파 영상(1820) 상의 어느 일 영역(예: 화면 우측 상단, 화면 좌측 상단, 화면 좌측 하단, 화면 우측 하단 등)에 위치할 수 있다. GUI는, 예를 들면, 버블(bubble) 형식으로 표시될 수 있다. GUI는 사용자에 의해 크기와 위치가 변경될 수 있다.
한 실시 예에 따르면, 도 18B에 도시한 바와 같이, 제1 전자 장치(400)는 화면을 분할하여 카메라에 의해 획득하는 실시간 촬영 영상(1830)(예: 프리뷰 영상으로, 환부 영상 데이터)에 관련된 GUI를 제공할 수 있다.
다양한 실시 예들에 따라, GUI(예: 후면 카메라를 통해 획득하는 실시간 촬영 영상)는 프로브(600)로부터 획득하는 초음파 영상과 서로 독립적인 윈도우를 통해 디스플레이 될 수 있으며, 각 윈도우는 서로 겹치지 않도록 디스플레이 될 수 있다. 예를 들면, 제1 전자 장치(400)는 화면의 상하 분할 또는 좌우 분할 형태로, 초음파 영상(1840)과 실시간 촬영 영상(1830)을 독립적으로 디스플레이 할 수 있다.
다양한 실시 예들에서, GUI는, 도 18B에 도시한 바와 같이, 상하 분할 방식에서 하단 또는 상단에 위치하거나, 또는 좌우 분할 방식에서 좌측 또는 우측에 위치할 수 있다. 다양한 실시 예들에 따라, 화면 분할 비율은 동일한 비율로 구현하거나, 또는 다른 비율로 구현할 수 있다. GUI는 사용자에 의해 크기(예: 비율)가 위치가 변경될 수 있다.
도 19A, 도 19B 및 도 19C는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 인디케이터를 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 19A, 도 19B 및 도 19C를 참조하면, 제1 전자 장치(400)는 제2 전자 장치(500)에 의해 지시되는 프로브(600) 조작을 가이드하는 인디케이터를 다양한 방식에 기반하여 디스플레이 할 수 있다.
한 실시 예에 따르면, 도 19A에 도시한 바와 같이, 제1 전자 장치(400)는 화면 내 다양한 GUI에 적어도 일부 기초하여 제공할 수 있다. 예를 들면, 제1 전자 장치(400)의 화면 기반으로 인디케이터를 제공할 수 있다. 다양한 실시 예들에서, 프로브(600) 조작 가이드를 위한 인디케이터는 별도의 윈도우 또는 실시간 촬영 영상 상에 화살표, 라이팅 또는 시계 등의 유저 인터페이스를 이용하여 대응하는 방향의 인디케이터를 제공할 수 있다.
한 실시 예에 따르면, 도 19B에 도시한 바와 같이, 제1 전자 장치(400)는 프로브(600)의 적어도 일부 출력부(예: 발광 장치로, LED, 적외선 등)에 적어도 일부 기초하여 제공할 수 있다. 예를 들면, 프로브(600)의 라이팅 기반으로 인디케이터를 제공할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)에 의해 지시되는 방향에 대응하는 프로브(600)의 출력부를 제어하는 제어 커맨드를 프로브(600)에 전달할 수 있고, 프로브(600)는 제어 커맨드에 응답하여 대응하는 방향의 출력부의 라이팅(예: LED 발광)에 기반하여 인디케이터를 제공할 수 있다. 한 실시 예에 따라, 도 19B의 예시 (A)와 같이, 프로브(600)의 헤드(head)의 어느 일면(예: Left, Front, Right, Back)의 출력부 중 대응하는 방향의 출력부에 의한 라이팅으로 인디케이터를 제공할 수 있다. 한 실시 예에 따라, 도 19B의 예시 (B)와 같이, 프로브(600)의 꼬리의 출력부 중 대응하는 방향의 출력부에 의한 라이팅으로 인디케이터를 제공할 수 있다.
한 실시 예에 따르면, 도 19C에 도시한 바와 같이, 제1 전자 장치(400)는 프로브(600)의 적어도 일부 출력부(예: 발광 장치)에 적어도 일부 기초하여 외부에 인디케이터를 제공할 수 있다. 예를 들면, 신체 기반으로 인디케이터를 제공할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)에 의해 지시되는 방향에 대응하는 프로브(600)의 출력부를 제어하는 제어 커맨드를 프로브(600)에 전달할 수 있고, 프로브(600)는 제어 커맨드에 응답하여 대응하는 방향의 출력부의 라이팅(예: 적외선 또는 빔(beam) 출력)에 기반하여 환자 신체에 직접적으로 인디케이터를 제공할 수 있다.
도 20A 및 도 20B는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 위한 조작 영상을 제공하는 동작 설명을 위해 도시하는 도면들이다.
도 20A 및 도 20B를 참조하면, 제2 전자 장치(500)는 원격지의 제1 전자 장치(400)와 연결되고, 제1 전자 장치(400)의 카메라(예: 카메라 모듈(670), 후면 카메라)를 통해 프로브(600)의 조작에 대해 실시간 촬영되는 프로브(600) 조작 영상(2010)을 다양한 GUI에 기반하여 디스플레이 할 수 있다.
한 실시 예에 따르면, 도 20A에 도시한 바와 같이, 제2 전자 장치(500)는 화면의 일부 영역에 제1 전자 장치(400)로부터 수신하는 실시간 촬영 영상(2010)(예: 프리뷰 영상으로, 환부 영상 데이터)을 플로팅(floating)하여 제공할 수 있다.
다양한 실시 예들에 따라, GUI(예: 제1 전자 장치(400)로부터 수신하는 실시간 촬영 영상(2010)의 팝업 창)는 사각형, 삼각형, 다각형, 또는 원형 등과 같이, 다양한 형태로 제공될 수 있다. 다양한 실시 예들에 따라, GUI는 사용자 입력에 따라 위치 이동이 가능할 수 있다. 다양한 실시 예들에 따라, GUI는 제1 전자 장치(400)로부터 수신하는 초음파 영상(2020)과 서로 독립적인 윈도우(window)를 통해 디스플레이 될 수 있으며, 각 윈도우 중 하나는 다른 윈도우의 최소 일부와 겹쳐진 오버랩(overlap)된 형태로 디스플레이 될 수 있다. 예를 들면, 제2 전자 장치(400)는 실시간 촬영 영상(2010)을, 초음파 영상(2020) 상에 특정 형태의 GUI(예: 팝업 창)으로 PIP(Picture in Picture) 또는 PBP(Picture by Picture) 형태로 디스플레이 할 수 있다.
다양한 실시 예들에서, GUI는, 도 20A에 도시한 바와 같이, 초음파 영상(2020) 상의 어느 일 영역(예: 화면 우측 상단, 화면 좌측 상단, 화면 좌측 하단, 화면 우측 하단 등)에 위치할 수 있다. GUI는, 예를 들면, 버블(bubble) 형식으로 표시될 수 있다. GUI는 사용자에 의해 크기와 위치가 변경될 수 있다.
한 실시 예에 따르면, 도 20B에 도시한 바와 같이, 제2 전자 장치(400)는 화면을 분할하여 제1 전자 장치(400)로부터 수신하는 실시간 촬영 영상(2030)(예: 프리뷰 영상으로, 환부 영상 데이터)을 제공할 수 있다.
다양한 실시 예들에 따라, GUI(예: 제1 전자 장치(400)로부터 수신하는 실시간 촬영 영상(2030))는 제1 전자 장치(400)로부터 수신하는 초음파 영상(2040)과 서로 독립적인 윈도우를 통해 디스플레이 될 수 있으며, 각 윈도우는 서로 겹치지 않도록 디스플레이 될 수 있다. 예를 들면, 제2 전자 장치(400)는 화면의 상하 분할 또는 좌우 분할 형태로, 초음파 영상(2040)과 실시간 촬영 영상(2030)을 독립적으로 디스플레이 할 수 있다.
다양한 실시 예들에서, GUI는, 도 20B에 도시한 바와 같이, 상하 분할 방식에서 하단 또는 상단에 위치하거나, 또는 좌우 분할 방식에서 좌측 또는 우측에 위치할 수 있다. 다양한 실시 예들에 따라, 화면 분할 비율은 동일한 비율로 구현하거나, 또는 다른 비율로 구현할 수 있다. GUI는 사용자에 의해 크기(예: 비율)가 위치가 변경될 수 있다.
도 21은 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 21을 참조하면, 제2 전자 장치(500)(예: 스마트폰)는 사용자 입력에 적어도 일부 기초하여, 제1 전자 장치(400)에 프로브(600) 조작을 가이드 하는 가이드 정보를 제공할 수 있다.
다양한 실시 예들에 따라, 도 21에 도시한 바와 같이, 제2 전자 장치(500)는 제1 전자 장치(400)로부터 획득(수신)된 초음파 영상과 촬영 영상을 함께 제공하거나, 사용자 조작에 따라 촬영 영상을 확대하여 제공할 수 있다. 한 실시 예에 따라, 제2 전자 장치(500)는 촬영 영상만을 확대(예: 전체 화면)하여 제공할 수 있고, 사용자는 촬영 영상(또는 확대된 촬영 영상)에서, 프로브(600)의 방향(또는 위치 이동)을 가이드 하기 위한 위치에 터치를 입력할 수 있다. 예를 들면, 사용자는 터치 입력에 기반하여 프로브(600)의 가이드를 위한 방향 가이드를 지시할 수 있다. 제2 전자 장치(500)는 사용자 입력에 기반하여, 터치된 영역(예: 좌표)에 대응하는 가이드 정보(예: 위치 정보, 방향 정보)를 생성할 수 있고, 생성된 가이드 정보를 제1 전자 장치(400)에 전송할 수 있다.
다양한 실시 예들에 따라, 제1 전자 장치(400)는 제2 전자 장치(500)로부터 가이드 정보 수신에 응답하여, 촬영 영상(2110) 상에 제2 전자 장치(500)의 가이드 정보에 대응하는 위치에 인디케이터(2120)를 디스플레이 하여 사용자에게 제공할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는, 촬영 영상(2110)에서 제2 전자 장치(500)에 의해 터치된 영역과 대응되는 영역에 인디케이터(2120)를 디스플레이 하여 제공할 수 있다.
도 22는 본 발명의 다양한 실시 예들에 따른 프로브 조작 가이드를 제공하는 동작 설명을 위해 도시하는 도면이다.
도 22를 참조하면, 제2 전자 장치(520)(예: TV, 모니터 등의 외부 스크린)는 제어 디바이스(530)(예: remote controller)를 이용한 사용자 입력에 적어도 일부 기초하여, 제1 전자 장치(400)에 프로브(600) 조작을 가이드 하는 가이드 정보를 제공할 수 있다.
다양한 실시 예들에 따라, 도 22에 도시한 바와 같이, 제2 전자 장치(520)는 제1 전자 장치(400)로부터 획득(수신)된 초음파 영상과 촬영 영상을 함께 제공하거나, 사용자 조작에 따라 촬영 영상을 확대하여 제공할 수 있다. 한 실시 예에 따라, 제2 전자 장치(520)는 촬영 영상만을 확대(예: 전체 화면)하여 제공할 수 있다. 사용자는 제2 전자 장치(520)에 의해 촬영 영상(2210)을 확인(시청)하면서, 프로브(600)의 방향(또는 위치 이동)을 가이드 하기 위한 위치에 대해, 제어 디바이스(530)를 조작할 수 있다. 예를 들면, 사용자는 제어 디바이스(530)의 방향키 조작에 기반하여 프로브(600)의 가이드를 위한 방향 가이드를 지시할 수 있다. 제어 디바이스(530)는 선택된 방향키에 대응하는 커맨드를 제2 전자 장치(520)에 전송할 수 있고, 제2 전자 장치(520)는 커맨드에 대응하는 영역(위치)에 인디케이터를 제공할 수 있고, 이에 병렬적으로 또는 순차적으로, 제1 전자 장치(400)에 인디케이터가 제공된 영역(예: 좌표)에 대응하는 가이드 정보(예: 위치 정보, 방향 정보)를 생성할 수 있고, 생성된 가이드 정보를 제1 전자 장치(400)에 전송할 수 있다.
다양한 실시 예들에 따라, 제1 전자 장치(400)는 제2 전자 장치(520)로부터 가이드 정보 수신에 응답하여, 촬영 영상 상에 제2 전자 장치(520)의 가이드 정보에 대응하는 위치에 인디케이터를 디스플레이 하여 사용자에게 제공할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는, 촬영 영상에서 제2 전자 장치(520)에 의해 인디케이터가 디스플레이된 영역과 대응되는 영역에 인디케이터를 디스플레이 하여 제공할 수 있다.
도 23은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브 조작을 가이드 하는 동작을 도시하는 흐름도이다.
도 23을 참조하면, 동작 2301에서, 전자 장치(400)의 제어부(680)는 외부 장치(예: 제2 전자 장치(500))와 통신을 연결할 수 있다. 한 실시 예에 따르면, 제1 전자 장치(400)는 설정된 제2 전자 장치(500)와 음성 통화 또는 영상 통화를 연결할 수 있다. 다양한 실시 예들에 따라, 제1 전자 장치(400)는 프로브(600)에 의해 촬영하는 초음파 영상과 카메라에 의해 촬영하는 환부 조작 영상에 관련된 데이터를 제2 전자 장치(500)에 전송(예: 스트리밍)할 수 있다.
동작 2303에서, 제어부(680)는 통신이 연결되면 가이드 정보 수신을 대기할 수 있고, 동작 2305에서, 가이드 정보의 수신 여부를 판단할 수 있다. 예를 들면, 제어부(680)는 통신 연결된 상대 전자 장치(예: 제2 전자 장치(500))로부터 가이드 정보 수신이 있는지 여부를 감지할 수 있다.
동작 2303에서, 제어부(680)는 가이드 정보의 수신이 감지되지 않으면(동작 2305의 아니오), 동작 2303으로 진행하여, 동작 2303 이하의 동작 수행을 처리할 수 있다.
동작 2303에서, 제어부(680)는 가이드 정보의 수신을 감지하면(동작 2305의 예), 동작 2307에서, 가이드 정보를 분석할 수 있다. 다양한 실시 예들에 따르면, 가이드 정보는 프로브(600)의 위치 이동과 관련된 위치(방향) 정보, 프로브(600)의 조작과 관련되거나 환장에 대한 조치와 관련된 텍스트 또는 이미지 정보 중 하나 이상을 포함할 수 있다.
동작 2309에서, 제어부(680)는 수신된 가이드 정보의 분석에 적어도 일부 기초하여, 가이드 정보에 포함된 위치(방향) 정보를 판단할 수 있다. 다양한 실시 예들에서, 위치(방향) 정보는, 전자 장치(400)에 연결된 프로브(600)의 위치 이동 방향을 가이드 하기 위한 정보를 포함할 수 있다.
동작 2311에서, 제어부(680)는 조작 영상 디스플레이 상태를 판단하고, 동작 2313에서, 화면에 조작 영상이 포함되어 있는지 여부를 판단할 수 있다. 예를 들면, 제어부(680)는 전자 장치(400)에 현재 디스플레이 되는 영상이, 프로브(600)에 의해 촬영 중인 초음파 영상(예: 초음파 스캔 데이터)인지, 카메라(예: 후면 카메라)에 의해 촬영 중인 프로브(600) 조작 영상(예: 환부 영상 데이터)인지, 또는 초음파 영상과 조작 영상이 함께 디스플레이 중인지 여부를 판단할 수 있다.
동작 2313에서, 제어부(680)는 화면에 조작 영상이 포함된 것을 확인하면(동작 2313의 예), 동작 2317로 진행하여, 동작 2317 이하의 동작 수행을 처리할 수 있다. 예를 들면, 현재 화면에 조작 영상이 디스플레이 중이거나, 또는 초음파 영상과 조작 영상이 함께 디스플레이 중인 상태일 수 있다.
동작 2313에서, 제어부(680)는 화면에 조작 영상이 포함되지 않은 것을 확인하면(동작 2313의 아니오), 동작 2315에서, 화면에 조작 영상을 출력하도록 동작할 수 있다. 예를 들면, 현재 화면에 초음파 영상만 디스플레이 중인 상태일 수 있다. 한 실시 예에 따라, 제어부(680)는 초음파 영상에 조작 영상을 합성하여, 오버레이, PIP 또는 PBP 형태로 영상 출력을 처리하거나, 또는 초음파 영상에서 조작 영상으로 화면 전환에 의해 영상 출력을 처리할 수 있다.
동작 2317에서, 제어부(680)는 가이드 제공 방식을 판단할 수 있다. 다양한 실시 예들에 따라, 가이드 제공 방식은, 전자 장치(400)의 화면에 기반하여 가이드 하는 제1 방식, 또는 프로브(600)의 출력부에 기반하여 가이드 하는 제2 방식, 또는 제1 방식과 제2 방식에 모두 기반하여 가이드를 제공하는 제3 방식을 포함할 수 있다.
동작 2319 및 동작 2327에서, 제어부(680)는 가이드 제공 방식의 판단에 기반하여, 화면 제공 방식인지(동작 2319), 또는 프로브 기반 제공 방식(동작 2327)인지 여부를 판단할 수 있다. 다양한 실시 예들에 따라, 동작 2319와 동작 2327은 병렬적으로, 순차적으로 또는 역순차적으로 수행할 수 있다.
동작 2319에서, 제어부(680)는 설정된 가이드 제공 방식이 화면 기반 제공 방식인 것을 판단하면(동작 2319의 예), 동작 2321에서, 조작 영상에서 가이드 정보로부터 판단된 위치(방향)에 대응하는 위치를 식별할 수 있다.
동작 2323에서, 제어부(680)는 인디케이터를 생성할 수 있다. 예를 들면, 제어부(680)는 프로브(600)의 조작을 가이드 하기 위한 설정된 형태의 인디케이터를 생성할 수 있다. 한 실시 예에 따라, 인디케이터는 화살표, 라이팅, 시계 형태 등과 같이 다양한 형태로 구현될 수 있다.
동작 2325에서, 제어부(680)는 조작 영상에 인디케이터를 출력할 수 있다. 예를 들면, 제어부(680)는 조작 영상에서 판단된 위치 또는 대응 위치에서 방향을 지시할 수 있는 지정된 위치(또는 영역)에, 인디케이터를 출력하여, 프로브(600)의 위치 이동 방향을 가이드 할 수 있다.
동작 2327에서, 제어부(680)는 설정된 가이드 제공 방식이 프로브 기반 제공 방식인 것을 판단하면(동작 2327의 예), 동작 2329에서, 프로브(600)의 출력부(예: 발광 장치) 중 가이드 정보로부터 판단된 위치(방향)에 대응하는 적어도 하나의 출력부를 판별할 수 있다.
동작 2331에서, 제어부(680)는 제어 커맨드를 생성할 수 있다. 예를 들면, 제어부(680)는 프로브(600)에서 판별된 출력부에 의한 인디케이터 출력을 제어하는 제어 신호를 생성할 수 있다.
동작 2333에서, 제어부(680)는 프로브(600)에 제어 커맨드를 전송할 수 있다. 한 실시 예에 따르면, 프로브(600)는 전자 장치(400)로부터 제어 커맨드 수신에 응답하여, 해당 출력부에 의한 라이팅을 통해, 프로브(600)의 위치 이동 방향을 가이드 할 수 있다.
동작 2319 및 동작 2327에서, 제어부(680)는 가이드 제공 방식이 화면 기반의 제1 방식 또는 프로브 기반의 제2 방식이 아니면, 예를 들면, 제3 방식인 것으로 판단할 수 있고, 동작 2335에서 해당 동작 수행을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는 동작 2321 내지 동작 2325와, 동작 2329 내지 동작 2333을 병렬적으로 처리할 수 있고, 이에 기반하여 화면 내에 인디케이터 출력 및 프로브에 제어 커맨드 전송에 의한 프로브(600)의 출력부를 이용한 인디케이터 출력을 함께 수행하도록 동작할 수 있다.
도 24는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 프로브 조작을 가이드 하는 동작을 도시하는 흐름도이다.
도 24를 참조하면, 동작 2401에서, 전자 장치(500)의 제어부(680)는 외부 장치로부터 데이터를 수신할 수 있다. 한 실시 예에 따르면, 제2 전자 장치(500)는 제1 전자 장치(400)로부터, 프로브(600)에 의한 초음파 영상에 대응하는 초음파 스캔 데이터 또는 제1 전자 장치(400)의 카메라에 의한 조작 영상에 대응하는 환부 영상 데이터를 수신할 수 있다.
동작 2403에서, 제어부(680)는 수신된 데이터에 적어도 일부 기초하여, 영상 디스플레이를 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는 수신된 데이터 또는 설정에 적어도 일부 기반하여, 초음파 영상을 디스플레이 하거나, 조작 영상을 디스플레이 하거나, 또는 초음파 영상 및 조작 영상을 함께 디스플레이 하도록 동작할 수 있다.
동작 2405에서, 제어부(680)는 스크린 미러링 실행 여부를 판단할 수 있다. 예를 들면, 사용자는 디스플레이된 영상을 외부 장치(예: TV, 모니터 등의 외부 스크린)을 통해 공유하기 위한 스크린 미러링 기능을 실행할 수 있다.
동작 2405에서, 제어부(680)는 스크린 미러링 실행을 판단하면(동작 2405의 예), 동작 2407에서, 외부 장치와 연결할 수 있다. 한 실시 예에 따르면, 제어부(680)는 외부 장치와 와이파이 다이렉트(WiFi Direct) 또는 와이파이 디스플레이(WiFi Display) 방식으로 연결할 수 있다.
동작 2409에서, 제어부(680)는 디스플레이 중인 영상을 외부 장치에 전송하여 스크린 미러링을 수행할 수 있다.
동작 2411에서, 제어부(680)는 조작 영상 디스플레이 상태를 판단하고, 동작 2413에서, 현재 화면에 조작 영상이 포함되어 있는지 여부를 판단할 수 있다. 예를 들면, 제어부(680)는 전자 장치(500)에 현재 디스플레이 되는 영상이, 프로브(600)에 의해 촬영 중인 초음파 영상(예: 초음파 스캔 데이터)인지, 제1 전자 장치(400)의 카메라(예: 후면 카메라)에 의해 촬영 중인 프로브(600) 조작 영상(예: 환부 영상 데이터)인지, 또는 초음파 영상과 조작 영상이 함께 디스플레이 중인지 여부를 판단할 수 있다.
동작 2413에서, 제어부(680)는 현재 화면에 조작 영상이 포함된 것을 확인하면(동작 2413의 예), 동작 2417로 진행하여, 동작 2417 이하의 동작 수행을 처리할 수 있다. 예를 들면, 현재 화면에 조작 영상이 디스플레이 중이거나, 또는 초음파 영상과 조작 영상이 함께 디스플레이 중인 상태일 수 있다.
동작 2413에서, 제어부(680)는 조작 영상이 포함되지 않은 것을 확인하면(동작 2413의 아니오), 동작 2415에서, 화면에 조작 영상을 출력하도록 동작할 수 있다. 예를 들면, 현재 화면에 초음파 영상만 디스플레이 중인 상태일 수 있다. 한 실시 예에 따라, 제어부(680)는 초음파 영상에 조작 영상을 합성하여, 오버레이, PIP 또는 PBP 형태로 영상 출력을 처리하거나, 또는 초음파 영상에서 조작 영상으로 화면 전환에 의해 영상 출력을 처리할 수 있다.
동작 2417에서, 제어부(680)는 프로브(600)의 조작을 가이드 하기 위한 사용자 입력이 감지되는지 여부를 판단할 수 있다.
동작 2417에서, 제어부(680)는 사용자 입력이 감지되지 않으면(동작 2417의 아니오), 동작 2419에서, 해당 동작 수행을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는 제1 전자 장치(400)로부터의 스트리밍으로 수신하는 영상의 출력을 처리할 수 있고, 제1 전자 장치(400)와 음성 통화 또는 영상 통화를 처리할 수 있고, 또는 초음파 영상 판독과 관련된 다양한 동작 등을 독립적으로 또는 병렬적으로 처리할 수 있다.
동작 2417에서, 제어부(680)는 사용자 입력을 감지하면(동작 2417의 예), 동작 2421에서, 사용자 입력에 대응하는 위치를 판단할 수 있다. 한 실시 예에 따르면, 사용자는, 전술한 도 21에 도시한 바와 같이, 전자 장치(500)의 실시간 조작 영상에서, 프로브(600)의 방향(또는 위치 이동)을 가이드 하기 위한 위치에 터치를 입력할 수 있다. 예를 들면, 사용자는 터치 입력에 기반하여 프로브(600)의 가이드를 위한 방향 가이드를 지시할 수 있고, 제어부(680)는 터치된 위치를 판단할 수 있다. 다른 한 실시 예에 따르면, 사용자는, 전술한 도 22에 도시한 바와 같이, 외부 스크린에 의해 조작 영상을 확인(시청)하면서, 프로브(600)의 방향(또는 위치 이동)을 가이드 하기 위한 위치에 대해, 전자 장치(500)(또는 별도의 제어 디바이스(예: remote controller))를 조작할 수 있다. 예를 들면, 사용자는 전자 장치 또는 제어 디바이스의 방향키 조작에 기반하여 프로브(600)의 가이드를 위한 방향 가이드를 지시할 수 있고, 제어부(680)는 조작된 방향키에 대응하여 이동 위치(방향) 또는 이동 변화량 등의 정보를 판단할 수 있다.
동작 2423에서, 제어부(680)는 판단하는 위치(방향) 정보를 포함하는 가이드 정보를 생성할 수 있다. 다양한 실시 예들에 따르면, 가이드 정보는 원격지의 제1 전자 장치(400)에 연결된 프로브(600)의 위치 이동과 관련된 위치(방향) 정보, 프로브(600)의 조작과 관련되거나 환장에 대한 조치와 관련된 텍스트 또는 이미지 정보 중 하나 이상을 포함할 수 있다.
동작 2425에서, 제어부(680)는 조작 영상에 인디케이터 출력을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 전술한 도 21에 도시한 바와 같이, 전자 장치(500)에 디스플레이 중인 조작 영상에 인디케이터를 출력하도록 동작할 수 있다. 다른 한 실시 예에 따르면, 제어부(680)는, 전술한 도 22에 도시한 바와 같이, 외부 장치에 디스플레이 중인 조작 영상에 인디케이터를 출력하도록 동작할 수 있다. 다른 한 실시 예에 따르면, 제어부(680)는, 전자 장치(500)의 조작 영상 및 외부 장치의 조작 영상 모두에 인디케이터를 출력하도록 동작할 수 있다.
동작 2427에서, 제어부(680)는 가이드 정보를 전송할 수 있다. 예를 들면, 제어부(680)는 위치(방향) 정보를 포함하는 가이드 정보를 제1 전자 장치(400)에 전송할 수 있다.
다양한 실시 예들에 따라, 동작 2423 내지 동작 2427에 대응하는, 가이드 정보 생성 동작, 가이드 정보 전송 동작, 및 인디케이터 출력 동작은, 전술한 순서로 동작하는 것에 한정하지 않으면, 병렬적으로 동시에 수행하거나, 가이드 정보 전송 동작 선행 후 인디케이터 출력 동작을 수행할 수도 있다.
이하에서는, 다양한 실시 예들에 따라, 제1 전자 장치(400)에서 컨텍스트(context) 기반으로 진단 모드를 실행하는 동작에 대하여 살펴보기로 한다.
도 25는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
다양한 실시 예들에 따르면, 사용자(예: 구급대원)가 프로브(600)를 동작시키고, 환자의 신체에 대는 행위에 기반하여 긴급 진단 시작으로 설정할 수 있다. 예를 들면, 전자 장치(예: 제1 전자 장치(400))는 프로브(600)가 동작되고 환자의 신체에 접촉되는 상황 인지에 응답하여, 긴급 진단 시작으로 인식할 수 있고, 긴급 모드를 자동 실행할 수 있다. 즉, 전자 장치는 상황 인지 기반으로 진단 모드를 자동 실행할 수 있다.
다양한 실시 예들에 따라, 전자 장치는 긴급 모드 실행에 응답하여, 프리셋(preset) 설정 단계를 생략하고, 긴급 프리셋(emergency preset)을 바로 실행하여, 긴급 프리셋을 한 번에 설정한 후 긴급 초음파 진단을 수행하도록 제공할 수 있다.
도 25를 참조하면, 동작 (2510)에 도시한 바와 같이, 사용자가 프로브(600)를 동작시킨 후, 프로브(600)를 환자의 신체(예: 환부)에 접촉할 수 있다. 프로브(600)는 환자의 신체 접촉을 감지할 수 있고, 그에 따른 감지 신호를 전자 장치에 제공할 수 있다. 또는 프로브(600)는 환자의 신체 접촉에 따라 스캔되는 초음파 스캔 데이터를 감지 신호로 전자 장치에 제공할 수 있다.
동작 (2520)에 도시한 바와 같이, 전자 장치는 프로브(600)로부터 감지 신호 수신에 응답하여, 긴급 진단 시작을 인식할 수 있다. 한 실시 예에 따라, 전자 장치는 프로브(600)에 의한 상황 인지에 기반하여 긴급 진단 시작을 인식할 수 있고, 긴급 진단 시작 인지에 응답하여 긴급 진단 모드를 자동으로 실행할 수 있다. 전자 장치는 긴급 진단 시작에 따른 긴급 진단 모드 실행 시 긴급 프리셋을 바로 실행할 수 있다. 예를 들면, 전자 장치는 긴급 프리셋 관련 유저 인터페이스를 표시할 수 있다. 다양한 실시 예들에서, 긴급 프리셋 관련 유저 인터페이스는 환자 정보(patient information) 영역, 스크린 미러링(screen mirroring) 영역, 통신 영역, 메뉴 영역을 포함할 수 있다. 전자 장치는 긴급 진단 모드 실행에 응답하여, 카메라가 오프 상태인 경우, 턴-온(예: 카메라 구동 회로에 전원 공급) 제어하여, 카메라를 동작시킬 수 있다.
다양한 실시 예들에 따라, 전자 장치는 프로브(600)에 의한 초음파 스캔 데이터와 카메라에 의한 환부 영상 데이터를 원격지의 다른 전자 장치에 전송할 수 있다. 한 실시 예에 따라, 데이터 전송은 긴급 진단 모드 실행과 함께, 병렬적으로 또는 순차적으로 수행될 수 있다. 예를 들면, 데이터는 긴급 진단 모드 실행에 대응하여 획득된 데이터를 설정된 다른 전자 장치로 바로 전송하거나, 또는 사용자의 원격 진단 진행을 요청하는 의도된 입력에 기반하여 전송할 수도 있다.
다양한 실시 예들에 따라, 전자 장치는 긴급 프리셋에서 사용자 설정에 따른 기능을 포함하여 원격 진단을 수행할 수 있다. 다양한 실시 예들에 따르면, 사용자에 의해 선택되는 스크린 미러링 및/또는 통신 기능을 사용자 선택에 따라 실행할 수 있다. 예를 들면, 전자 장치를 조작하는 사용자(예: 구급 대원)에 의해 원격 진단 진행이 요청되면, 데이터(예: 초음파 스캔 데이터 또는 환부 영상 데이터 중 적어도 하나)를 다른 전자 장치에 전송할 수 있다. 한 실시 예에 따라, 스크린 미러링 영역에서 미러링 기능이 선택된 경우, 전자 장치는 데이터를 설정된 다른 전자 장치(예: 병원 내 외부 장치(예: TV, 모니터 등))에 직접 전송하여 미러링 동작을 수행할 수 있다. 한 실시 예에 따라, 통신 영역에서 통신 기능이 선택된 경우, 전자 장치는 선택된 통신(예: 음성 통화, 영상 통화) 방식에 기반하여 다른 전자 장치(예: 병원 내 의사의 전자 장치)와 통신 연결을 수행할 수 있다.
동작 (2530) 및 동작 (2540)에 도시한 바와 같이, 다른 전자 장치는 전자 장치로부터 데이터를 수신하거나, 또는 데이터 수신과 함께 통신이 연결되면, 원격 진단(telemedicine)과 관련된 유저 인터페이스(동작 (2540))(예: 영상 통화 화면)를 디스플레이 할 수 있고, 선택적으로 미러링(예: 스크린 공유)과 관련된 유저 인터페이스(동작 (2530))를 디스플레이 할 수 있다. 한 실시 예에 따라, 다른 전자 장치는 수신된 데이터에 적어도 일부 기초하여 초음파 스캔 데이터를 디스플레이 할 수 있다. 한 실시 예에 따르면, 다른 전자 장치는 수신된 데이터를 외부 장치(예: TV, 모니터 등)와 연동(예: 실시간 연결)하여 스크린 미러링을 수행할 수 있다.
다양한 실시 예들에 따라, 긴급 진단 모드 실행은, 상황 인지 기반에 의해 실행하는 것에 한정하지 않고, 다양한 사용자 입력에 기반하여 동작할 수도 있다. 사용자 입력은, 예를 들면, 전자 장치의 포즈(pose) 상태 변화, 근접(proximity) 상태 변화, 제스처 입력, 상황 인지 또는 음성 명령 입력을 포함할 수 있다. 예를 들면, 전자 장치가 긴급 진단 모드로 전환을 감지하는 이벤트의 종류는, 음성 인식 또는 상황 인지, 모션 또는 근접도 변화, 긴급 프리셋 관련 어플리케이션 실행, 또는 영상 송신을 위한 메뉴, 키, 버튼, 제스처 입력 중 적어도 하나를 포함할 수 있다.
도 26은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
다양한 실시 예들에 따르면, 일반적인 절차에 따라 기본 진단 모드를 실행할 수 있다. 예를 들면, 도 26에 도시한 바와 같이, 기본 진단 모드는, 긴급 프리셋에 의한 긴급 진단 모드와 비교하여, 프리셋 설정 단계를 포함할 수 있다.
도 26을 참조하면, 화면 (2610)에 도시한 바와 같이, 사용자는 전자 장치를 조작(예: 관련 어플리케이션(예: SMART ULTRASOUND) 실행)하여 초음파 진단 메뉴를 디스플레이 할 수 있다. 사용자는 전자 장치와 프로브(600)를 연결할 수 있다. 한 실시 예에 따라, 무선 연결 방식의 경우, 사용자는 프로브(600)를 동작(예: 파워 온)시킬 수 있고, 프로브(600)의 동작에 대응하여, 프로브(600)와 전자 장치는 자동으로 페어링 동작을 수행하여 서로 간에 자동 연결할 수 있다. 한 실시 예에 따라, 유선 연결 방식의 경우, 사용자는 프로브(600)를 전자 장치의 해당 인터페이스를 통해 케이블 연결할 수 있고, 전자 장치는 프로브(600)의 접속을 인지하여 자동 연결할 수 있다.
화면 (2620)에 도시한 바와 같이, 전자 장치는 프로브 로딩 상태를 통지하는 다양한 객체(object)와 관련된 GUI를 제공할 수 있다. 다양한 객체는, 예를 들면, 진행 상태(예: Probe loading …)를 알리는 아이템(예: 애니메이션 아이콘)과 안내 텍스트(예: Make sure Probe is located within 1m away from Device.) 중 적어도 하나를 제공할 수 있다.
화면 (2630)에 도시한 바와 같이, 전자 장치는 진단 과목 설정을 위한 관련 GUI를 제공할 수 있다. 예를 들면, 전자 장치는 프로브 로딩이 완료되는 것에 응답하여, 초음파 진단과 관련된 미리 설정된 진단 과목(예: Abdomen, OB, Gynecology 등)을 선택할 수 있는 GUI를 제공할 수 있다. 한 실시 예에 따라, 진단 과목 선택은 선택 과정 없이 스킵(skip) 하여 다음 단계로 바로 진행할 수도 있다.
화면 (2640)에 도시한 바와 같이, 전자 장치는 환자 정보 입력을 위한 관련 GUI를 제공할 수 있다. 예를 들면, 전자 장치는 진단 과목 설정 또는 스킵에 응답하여, 환자 정보 입력 또는 입력 방식 선택과 관련하여 GUI를 제공할 수 있다. 한 실시 예에 따라, 화면 (2640)에 도시한 바와 같이, 스캔에 의한 환자 정보 입력을 위한 Scan, 기록에 의한 환자 정보 입력을 위한 Write, 리스트 선택에 의한 환자 정보 입력을 위한 Worklist 등을 선택할 수 있는 GUI를 제공할 수 있다. 한 실시 예에 따라, 환자 정보 입력 선택은 선택 과정 없이 취소(cancel) 하여 다음 단계로 바로 진행할 수도 있다.
전자 장치는 전술한 바와 같은 프리셋 설정에 기반하여 초음파 진단을 시작할 수 있다. 예를 들면, 화면 (2650), 화면 (2660) 및 화면 (2670)에 도시한 바와 같이, 전술한 도 25의 긴급 프리셋 설정 이후에 동작 수행에 대응하는 방식과 같이, 전자 장치와 다른 전자 장치는, 원격 진단(telemedicine)과 관련된 유저 인터페이스(화면 (2670))를 디스플레이 할 수 있고, 선택적으로 미러링(예: 스크린 공유)과 관련된 유저 인터페이스(화면 (2660))를 디스플레이 할 수 있다.
다양한 실시 예들에 따라, 긴급 진단 시작에 따른 긴급 진단 모드와 순차적인 절차에 따른 기본 진단 모드는, 프리셋 설정 단계의 포함 여부에 따라 구분할 수 있다. 예를 들면, 긴급 진단 모드에서는, 도 26의 화면 (2610), 화면 (2620), 화면 (2630), 화면 (2640) 예시와 같은 프리셋 설정 단계가 생략될 수 있고, 도 25의 동작 (2520) 예시와 같은 긴급 프리셋이 바로 실행될 수 있다.
도 27은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작 설명을 위해 도시하는 도면이다.
도 27을 참조하면, 전자 장치는 기본 진단 모드와 긴급 진다 모드 실행에 따른 서로 다른 GUI를 제공할 수 있다. 예를 들면, 전자 장치는 긴급 진단 모드 진입 시 메뉴를 간소화 하여, 긴급 상황에서 빠른 초음파 진단을 위한 최소의 핵심 메뉴(메인 메뉴)만 디스플레이 하여 사용자에게 제공할 수 있다.
화면 (2710)은 다양한 실시 예들에서, 기본 진단 모드 진입 시의 화면 예시를 나타낼 수 있다. 화면 (2710)에 도시한 바와 같이, 기본 진단 모드에서는, 다양한 진단 케이스(case)에 대응할 수 있도록, 메인 메뉴(예: Freeze, Save, Q Scan 등)와 서브 메뉴(예: Mode 버튼, Measure 버튼)과 같은 상세 메뉴(2715) 형태로 제공할 수 있다. 예를 들면, 5개의 모드와 4개의 측정 메뉴를 모두 포함하여 제공할 수 있다.
화면 (2730)은 다양한 실시 예들에서, 긴급 진단 모드 진입 시의 화면 예시를 나타낼 수 있다. 화면 (2730)에 도시한 바와 같이, 긴급 진단 모드에서는, 긴급 상황에서 보다 빠른 진단이 가능하고, 조작 실수로 인한 원치 않는 화면 전환 또는 기능 실행을 방지할 수 있도록, 메인 메뉴(예: Freeze, Save, Q Scan 등)만 노출하여 심플 메뉴(2735) 형태로 제공할 수 있다.
도 28은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 진단 모드를 실행하는 동작을 도시하는 흐름도이다.
도 28을 참조하면, 동작 2801에서, 전자 장치(400)는 프로브(600)와 연결된 상태일 수 있다. 다양한 실시 예들에 따르면, 전자 장치(400)와 프로브(600)는 유선 통신 또는 무선 통신에 기반하여 상호 간에 연결될 수 있다. 한 실시 예에 따르면, 무선 통신의 경우, 전자 장치(400)와 프로브(600)가 근접된 공간에서, 프로브(600)를 동작(예: 파워 온)하는 것에 기반하여 자동으로 다이렉트 페어링(direct pairing)을 통해 연결될 수 있다. 한 실시 예에 따르면, 유선 통신의 경우, 전자 장치(400)와 프로브(600)가 케이블에 기반하여, 대응되는 인터페이스부를 통해 연결될 수 있다.
동작 2803에서, 전자 장치(400)의 제어부(680)는 진단 모드 실행을 감지할 수 있다. 다양한 실시 예들에 따르면, 진단 모드 실행은, 전술한 도 25 및 도 26을 참조한 설명 부분에서 설명한 바와 같이, 긴급 진단 모드 실행과 기본 진단 모드 실행을 포함할 수 있다.
동작 2805에서, 제어부(680)는 진단 모드 실행을 감지하면, 프로브(600)로부터의 감지 신호 수신에 의한 진단 모드 실행인지, 또는 어플리케이션 실행 또는 일반적인 절차 진행 등과 같은 등과 사용자 입력 기반에 의한 진단 모드 실행인지 여부를 판단할 수 있다.
동작 2805에서, 제어부(680)는 감지 신호 수신에 의한 진단 모드 실행인 것을 판단하면(동작 2805의 예), 동작 2807에서, 긴급 진단 시작을 인지할 수 있다. 예를 들면, 전술한 도 25에 도시한 바와 같이, 사용자가 프로브(600)를 동작시킨 후, 프로브(600)를 환자의 신체(예: 환부)에 접촉하면, 프로브(600)는 환자의 신체 접촉을 감지할 수 있고, 그에 따른 감지 신호를 전자 장치(400)에 제공할 수 있다. 또는 프로브(600)는 환자의 신체 접촉에 따라 스캔되는 초음파 스캔 데이터를 감지 신호로 전자 장치에 제공할 수 있다. 제어부(680)는 프로브(600)로부터 감지 신호 수신에 응답하여, 긴급 진단 시작을 인식할 수 있다. 한 실시 예에 따라, 제어부(680)는 프로브(600)에 의한 상황 인지에 기반하여 긴급 진단 시작을 인식할 수 있다.
동작 2809에서, 제어부(680)는 긴급 진단 모드에 기반하여 진단 모드를 실행할 수 있다. 예를 들면, 제어부(680)는 긴급 진단 시작 인지에 응답하여 긴급 진단 모드를 자동으로 실행할 수 있다.
동작 2811에서, 제어부(680)는 긴급 프리셋을 출력할 수 있다. 한 실시 예에 따르면, 제어부(680)는 긴급 진단 시작에 따른 긴급 진단 모드 실행 시 긴급 프리셋을 바로 실행할 수 있다. 예를 들면, 제어부(680)는 전술한 도 10 또는 도 25를 참조한 설명 부분에서 설명한 바와 같이, 긴급 프리셋 관련 유저 인터페이스를 표시할 수 있다. 다양한 실시 예들에서, 긴급 프리셋 관련 유저 인터페이스는 환자 정보(patient information) 영역, 스크린 미러링(screen mirroring) 영역, 통신 영역, 메뉴 영역을 포함할 수 있다. 한 실시 예에 따라, 제어부(680)는 긴급 진단 모드 실행에 응답하여, 카메라가 오프 상태인 경우, 턴-온(예: 카메라 구동 회로에 전원 공급) 제어하여, 카메라를 동작시킬 수 있다.
동작 2813에서, 제어부(680)는 진단 모드 수행과 관련된 동작을 처리할 수 있다. 예를 들면, 제어부(680)는 외부 장치(예: 제2 전자 장치(500))에 데이터 전송, 스크린 미러링 또는 통화 연결 등 하나 이상의 동작을 처리할 수 있다.
동작 2815에서, 제어부(680)는 긴급 진단 모드에 설정된 화면 인터페이스 출력을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 전술한 도 27에 도시한 바와 같이, 긴급 진단 모드에 설정된 화면 인터페이스, 예를 들면, 메인 메뉴(예: Freeze, Save, Q Scan 등)만 노출하여, 간소화된 심플 메뉴 형태로 제공할 수 있다.
동작 2805에서, 제어부(680)는 사용자 입력 기반에 의한 진단 모드 실행인 것을 판단하면(동작 2805의 아니오), 동작 2817에서, 기본 진단 모드에 기반하여 진단 모드를 실행할 수 있다.
동작 2819에서, 제어부(680)는 프리셋 설정 단계를 수행할 수 있다. 한 실시 예에 따르면, 제어부(680)는, 전술한 도 26에 도시한 바와 같이, 초음파 진단과 관련한 프리셋을 설정하는 동작을 사용자와의 인터랙션에 기반하여 수행할 수 있다.
동작 2821에서, 제어부(680)는 진단 모드 수행과 관련된 동작을 처리할 수 있다. 예를 들면, 제어부(680)는 외부 장치(예: 제2 전자 장치(500))에 데이터 전송, 스크린 미러링 또는 통화 연결 중 하나 이상의 동작을 처리할 수 있다.
동작 2823에서, 제어부(680)는 기본 진단 모드에 설정된 화면 인터페이스 출력을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는 다양한 진단 케이스(case)에 대응할 수 있도록, 메인 메뉴(예: Freeze, Save, Q Scan 등)와 서브 메뉴(예: Mode 버튼, Measure 버튼)과 같은 상세 메뉴 형태로 제공할 수 있다.
이하에서는, 다양한 실시 예들에 따라, 초음파 진료 시 사용자들(예: 의사와 환자) 간에 커뮤니케이션 모드(communication mode)를 제공하는 동작에 대하여 살펴보기로 한다.
도 29는 본 발명의 다양한 실시 예들에 따른 전자 장치들 간에 스크린 미러링에 기반하여 데이터를 공유하는 동작 설명을 위해 도시하는 도면이다.
다양한 실시 예들에 따르면, 사용자(예: 의사)에 의해 초음파 외래 진료 시 환자와의 커뮤니케이션(예: 환자에 진료 내용을 상세히 전달)을, 전자 장치의 스크린 미리렁에 기반하여 수행할 수 있다. 한 실시 예에 따르면, 전자 장치는 다른 전자 장치와 화면 공유 모드를 제공할 수 있다.
도 29를 참조하면, 제1 사용자(예: 의사)의 전자 장치(2910)(예: 태블릿 PC)(이하, 제1 전자 장치(2910))와 제2 사용자(예: 환자)의 전자 장치(2920)(예: 스마트폰)(이하, 제2 전자 장치(2920)) 간에 연결을 통해, 초음파 진료와 관련된 화면을 공유할 수 있다. 한 실시 예에 따르면, 제1 사용자는 초음파 진료 시 제2 사용자 인증(예: 환자 인증)을 통해 제1 사용자의 제1 전자 장치(2910)와 제2 사용자의 제2 전자 장치(2920)를 연결(예: 페어링)할 수 있다. 제1 전자 장치(2910)는 제2 전자 장치(2920)와 연결 시, 제2 전자 장치(2920)로 초음파 영상을 전송(예: 스크린 미러링)하여 공유할 수 있다.
제2 사용자는 제1 전자 장치(2910)의 화면(예: 초음파 영상)을, 제2 사용자 개인의 제2 전자 장치(2920)를 통해, 자세에 상관 없이(구애 받지 않고) 편하게 확인할 수 있다. 제2 전자 장치(2920)는 전술한 바와 같이, 제2 전자 장치(2920)의 방향을 인식할 수 있고, 방향 전환에 대응하여 가로 모드 또는 세로 모드에 기반하여 초음파 영상을 디스플레이 할 수 있다.
다양한 실시 예들에 따르면, 제1 전자 장치(2910)와 제2 전자 장치(2920)에 디스플레이 되는 화면을 다르게 구현할 수 있다. 예를 들면, 제1 전자 장치(2910)에서는 전문 진단 메뉴를 모두 디스플레이 할 수 있고, 제2 전자 장치(2920)에서는 전문 진단 메뉴는 숨김 처리하고, 초음파 영상을 크게 디스플레이 할 수 있다. 추가적으로 또는 대체적으로, 제1 전자 장치(2910) 및/또는 제2 전자 장치(2920)에서는 드로잉 툴(drawing tool)을 포함하여 제공할 수도 있다.
도 30은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 커뮤니케이션 모드 전환에 의해 데이터를 공유하는 동작 설명을 위해 도시하는 도면이다.
다양한 실시 예들에 따르면, 제1 사용자(예: 의사)는 전자 장치를 이용하여 POC(point-of-care)로 제2 사용자(예: 환자)와 함께 화면을 공유하여 진료할 수 있다. 다양한 실시 예들에서는, 이러한 POC와 같이 제1 사용자와 제2 사용자와 함께 화면을 공유하여 진료하는 경우, 전자 장치를 진단 모드에서 커뮤니케이션 모드로 전환하여 커뮤니케이션을 진행하도록 제공할 수 있다.
화면 (3010)에 도시한 바와 같이, 제1 사용자는 전자 장치를, 전문 진단 메뉴를 모두 포함하는 기본 진단 모드에서 동작하여 초음파 영상을 확인할 수 있다.
화면 (3020)에 도시한 바와 같이, 제1 사용자는 제2 사용자와 화면을 공유(함께 확인)하면서 초음파 영상에 대해 설명하는 경우, 전자 장치의 기본 진단 모드를, 커뮤니케이션 모드로 변경할 수 있다.
다양한 실시 예들에 따르면, 제1 사용자는 전자 장치에서 커뮤니케이션 모드 전환에 설정된 전환 버튼(3050)을 선택할 수 있다. 전자 장치는 전환 버튼에 의한 사용자 입력을 감지하면, 기본 진단 모드에서 커뮤니케이션 모드로 전환하여 해당 GUI를 디스플레이 할 수 있다. 예를 들어, 전자 장치는 초음파 영상을 확대하여 제공할 수 있고, 환자에게 필요한 정보만을 제공할 수 있다. 한 실시 예에 따라, 전자 장치는 커뮤니케이션 모드 전환 시 전문 진단 메뉴를 숨김 처리하고, 초음파 영상을 크게 디스플레이 하며, 추가적으로 메모 또는 드로잉을 위한 드로잉 툴(drawing tool)을 제공할 수 있다. 한 실시 예에 따르면, 제1 사용자는 드로잉 툴을 이용하여 디스플레이된 초음파 영상 상에 메모를 입력하거나 드로잉을 통해, 제2 사용자에게 진료와 관련된 설명을 직관적으로 보여줄 수 있다.
도 31은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 커뮤니케이션 모드를 제공하는 동작을 도시하는 흐름도이다.
도 31을 참조하면, 동작 3101에서, 전자 장치(500)의 제어부(680)는 커뮤니케이션 모드 실행을 감지할 수 있다. 예를 들면, 제1 사용자(예: 의사)는, 전술한 도 29 또는 도 30을 참조한 설명 부분에서 설명한 바와 같이, 제2 사용자(예: 환자)와 진단 화면을 공유(예: 초음파 영상 공유)하기 위하여, 커뮤니케이션 모드를 실행하도록 전자 장치(500)를 조작할 수 있다.
동작 3103에서, 제어부(680)는 커뮤니케이션 모드 실행 감지에 응답하여, 커뮤니케이션 모드가 제1 커뮤니케이션 모드에 의한 실행인지, 또는 제2 커뮤니케이션 모드에 의한 실행인지 여부를 판단할 수 있다. 다양한 실시 예들에 따라, 제1 커뮤니케이션 모드는, 전술한 도 29에 도시한 바와 같이, 다른 전자 장치와 연결에 기반하여 화면을 공유하는 모드를 포함할 수 있다. 다양한 실시 예들에 따라, 제2 커뮤니케이션 모드는, 전술한 도 30에 도시한 바와 같이, 전자 장치에 기반하여 화면 전환에 의해 화면을 공유하는 모드를 포함할 수 있다.
동작 3103에서, 제어부(680)는 커뮤니케이션 모드가 제2 커뮤니케이션 모드에 의한 실행인 것을 판단하면(동작 3103의 아니오), 동작 3131에서, 전문 진단 메뉴 숨김, 확대 영상 및 드로잉 툴 출력 등에 기반하여 제2 커뮤니케이션 모드를 실행할 수 있다. 예를 들면, 제어부(680)는, 전술한 도 30에 도시한 바와 같이, 전문 진단 메뉴를 모두 포함하는 화면에서, 전환 버튼 선택에 의한 제2 커뮤니케이션 모드 실행을 감지하면, 전문 진단 메뉴를 숨기고, 초음파 영상을 크기 확대하여 디스플레이 하고, 메모나 드로잉 등을 위한 드로잉 툴을 포함하는 화면으로 전환하여 제공할 수 있다.
동작 3133에서, 제어부(680)는 드로잉 입력이 있는지 여부를 판단할 수 있다. 예를 들면, 제어부(680)는 드로잉 툴에 적어도 일부 기초하여, 사용자 입력 여부를 감지할 수 있다. 한 실시 예에 따라, 드로잉 입력은 텍스트(예: 핸드라이팅(handwriting), 그리기, 마커 입력 중 하나 이상을 포함할 수 있다.
동작 3133에서, 제어부(680)는 드로잉 입력이 감지되지 않으면(동작 3133의 아니오), 동작 3131로 진행하여, 동작 3131 이하의 동작 수행을 처리할 수 있다.
동작 3133에서, 제어부(680)는 드로잉 입력을 감지하면(동작 3133의 예), 동작 3135에서, 영상에 드로잉을 출력할 수 있다. 한 실시 예에 따르면, 제어부(680)는 영상에서 사용자의 드로잉 입력에 대응하게 텍스트, 도형, 또는 마커 중 하나 이상의 드로잉 객체를 디스플레이 할 수 있다.
동작 3103에서, 제어부(680)는 커뮤니케이션 모드가 제1 커뮤니케이션 모드에 의한 실행인 것을 판단하면(동작 3103의 예), 동작 3105에서, 인증 절차를 수행할 수 있다. 예를 들면, 제1 사용자는 전자 장치(500)를 조작하여, 특정 제2 사용자의 정보 또는 제2 사용자에 관련된 초음파 영상을 선택할 수 있다. 또는 사용자는 전자 장치(500)에 현재 디스플레이 초음파 영상을 공유하기 위한 조작을 수행할 수 있다. 제어부(680)는 제1 커뮤니케이션 모드에서 제1 사용자의 입력에 기반하여, 제2 사용자에 대응하는 외부 장치를 검색 또는 결정하고, 해당 외부 장치와 연결을 위한 인증 과정을 수행할 수 있다. 다양한 실시 예들에 따라, 인증 과정은, 제1 사용자에 의한 환자 정보 입력 또는 외부 장치의 정보 입력 등의 정보 입력 절차를 포함할 수 있고, 입력된 정보에 적어도 일부 기초하여 전자 장치(600)와 외부 장치 간의 연결을 위한 인증 절차를 포함할 수 있다.
동작 3107에서, 제어부(680)는 외부 장치와 연결을 수행할 수 있다. 한 실시 예에 따르면, 제어부(680)는 와이파이 다이렉트(WiFi Direct) 또는 와이파이 디스플레이(WiFi Display) 방식으로 외부 장치와 연결할 수 있다. 다른 한 실시 예에 따르면, 제어부(680)는 블루투스 등과 같은 근거리 무선 통신에 기반하여 외부 장치와 연결할 수도 있다.
동작 3109에서, 제어부(680)는 선택 영상을 출력할 수 있다. 예를 들면, 제어부(680)는 프로브(600)에 의해 촬영되는 실시간 초음파 영상을 디스플레이 하거나, 또는 제1 사용자의 선택에 따라 전자 장치(400)에 저장된 제2 사용자에 관련된 초음파 영상 등을 디스플레이 하도록 동작할 수 있다. 다양한 실시 예들에 따라, 제어부(680)는 전자 장치(500)의 방향을 인식할 수 있고, 방향 전환에 대응하여 가로 모드 또는 세로 모드에 기반하여 영상을 디스플레이 할 수 있다.
동작 3111에서, 제어부(680)는 외부 장치와 공유할 미러링 영상을 생성할 수 있다. 다양한 실시 예들에 따라, 미러링 영상은 초음파 영상에 적어도 일부 기초하여 생성할 수 있다. 예를 들면, 제어부(680)는 전자 장치(500)에 디스플레이 되는 화면과 외부 장치에 디스플레이 할 화면을 다르게 구현할 수 있다. 한 실시 예에 따르면, 제어부(680)는 전술한 도 29에 도시한 바와 같이, 전자 장치(500)에서는 초음파 영상과 전문 진단 메뉴를 모두 포함하는 화면을 제공할 수 있고, 외부 장치와 공유할 화면은 전문 진단 메뉴는 숨김 처리하고, 초음파 영상만을 크게 디스플레이 하도록 제공할 수 있다.
동작 3113에서, 제어부(680)는 생성된 미러링 영상에 기반하여 스크린 미러링을 수행할 수 있다. 예를 들면, 제어부(680)는 생성된 미러링 영상을 외부 장치에 전송할 수 있다.
동작 3115 및 동작 3121에서, 제어부(680)는 드로잉 입력이 있는지(동작 3115), 또는 드로잉 정보 수신이 있는지(동작 3121) 여부를 판단할 수 있다. 다양한 실시 예들에 따르면, 전자 장치(500)의 제1 사용자, 또는 외부 장치의 제2 사용자는 드로잉 툴에 적어도 일부 기초하여 드로잉 입력을 수행할 수 있다. 한 실시 예에 따르면, 제1 사용자는 전자 장치(500)를 이용하여 드로잉 입력을 수행할 수 있다. 다른 한 실시 예에 따르면, 제2 사용자는 외부 장치를 이용하여 드로잉 입력을 수행할 수 있고, 외부 장치는 제2 사용자의 드로잉 입력에 대응하여, 관련 드로잉 정보(예: 드로잉 종류, 형태, 위치 정보, 경로 정보 등)를 전자 장치(500)에 전송할 수 있다.
동작 3115에서, 제어부(680)는 드로잉 입력을 감지하면(동작 3115의 예), 동작 3117에서, 영상에 드로잉을 출력할 수 있다. 한 실시 예에 따르면, 제어부(680)는 영상에서 사용자의 드로잉 입력에 대응하게 텍스트, 도형, 또는 마커 중 하나 이상의 드로잉 객체를 디스플레이 할 수 있다.
동작 3119에서, 제어부(680)는 드로잉 입력에 대응하는 관련 드로잉 정보를 외부 장치에 전송할 수 있다. 외부 장치는 전자 장치(500)로부터 드로잉 정보를 수신하고, 전자 장치(500)에 디스플레이 되는 드로잉 객체와 동일한 드로잉 객체를, 영상에 대응하는 위치에 동일하게 제공할 수 있다.
동작 3121에서, 제어부(680)는 드로잉 정보 수신을 감지하면(동작 3121의 예), 동작 3123에서, 드로잉 정보를 분석할 수 있다. 예를 들면, 제어부(680)는 드로잉 종류, 형태, 위치 정보, 또는 경로 정보 등을 판단할 수 있다.
동작 3125에서, 제어부(680)는 영상에 드로잉을 출력할 수 있다. 한 실시 예에 따르면, 제어부(680)는 드로잉 정보에 기반하여, 외부 장치에 디스플레이 되는 드로잉 개체와 동일한 드로잉 객체를, 영상에 대응하는 위치에 동일하게 제공할 수 있다.
동작 3115 및 동작 3121에서, 제어부(680)는, 드로잉 입력 또는 드로잉 정보 수신이 감지되지 않으면(동작 3115의 아니오, 동작 3121의 아니오), 해당 동작 수행을 처리할 수 있다. 한 실시 예에 따르면, 제어부(680)는 제1 사용자의 진단과 관련된 입력에 따른 관련 유저 인터페이스 출력, 또는 외부 장치에 관련 제어 정보 전송 등과 같은 대응하는 동작 수행을 처리할 수 있다.
이하에서는, 다양한 실시 예들에 따라, 전자 장치에서 제공하는 다양한 화면 인터페이스(예: UI, GUI)에 대하여 살펴보기로 한다.
도 32는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 방향에 따라 제공되는 화면 인터페이스의 예시를 도시하는 도면이다.
도 32에 도시한 바와 같이, 도 32는 전자 장치가 태블릿 PC 형태인 경우를 예시로 할 수 있다. 다양한 실시 예들에 따르면, 전자 장치의 방향에 따라 특화 모드를 제공할 수 있다.
도 32를 참조하면, 전자 장치는 가로 모드(3210, 3220)에서는 기본 진단 모드가 설정되어 제공될 수 있고, 세로 모드(3230)에서는 정밀 판독 모드가 설정되어 제공될 수 있다. 예를 들면, 전자 장치는 가로 모드(3210, 3220)에서는 기본 진단 모드와 관련된 유저 인터페이스를 디스플레이 하여 사용자에게 제공할 수 있다. 전자 장치는 가로 모드(3210, 3220)에서 세로 모드(3230)로 변경 시, 기본 진단 모드에서 정밀 판독 모드로 모드를 변경하고, 정밀 판독 모드와 관련된 유저 인터페이스를 디스플레이 하여 사용자에게 제공할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 방향 전환에 따라 가로 모드에서 세로 모드로 변경 시, 초음파 영상의 크기를 확대하여 제공할 수 있고, 툴(tool) 메뉴를 활성화 하고, 가로 모드에서 제공되지 않는(예: 숨김 처리된) 측정에 관련된 2뎁스(depth) 메뉴를 노출하여 제공할 수 있다. 툴 메뉴는, 예를 들면, Measure, Caliper, Annotate, Text 등을 포함할 수 있다. 2뎁스 메뉴는, 예를 들면, Distance, %Std, Ellipse, M distance 등을 포함할 수 있다. 다양한 실시 예들에 따라, 2뎁스 메뉴는 변동 영역으로 제공될 수 있다. 예를 들면, 컨텍스트(context)에 따라 메뉴가 변동되거나, 오픈/클로즈(open/close) 형태로 제공될 수 있다.
다양한 실시 예들에 따라, 툴 메뉴 및 2뎁스 메뉴에 대하여 후술하는 도면을 참조하여 구체적으로 설명된다.
다양한 실시 예들에 따르면, 전자 장치는, 전자 장치의 방향 변경(또는 회전)을 감지할 수 있다. 예를 들면, 세로 모드에서 가로 모드로 변경, 또는 가로 모드에서 세로 모드로 변경을 판단할 수 있다. 전자 장치는, 판단하는 모드에 기초하여 대응하는 특화 모드를 전환하여 제공할 수 있다.
도 33은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 방향에 따라 제공되는 화면 인터페이스의 예시를 도시하는 도면이다.
도 33에 도시한 바와 같이, 도 33은 전자 장치가 스마트폰 형태인 경우를 예시로 할 수 있다. 다양한 실시 예들에 따르면, 전자 장치의 방향에 따라 특화 모드를 제공할 수 있다.
도 33을 참조하면, 전자 장치는 세로 모드(3310)에서는 기본 진단 모드가 설정되어 제공될 수 있고, 세로 모드(3320)에서는 초음파 진단 및 원격 진료 모드가 설정되어 제공될 수 있다. 예를 들면, 전자 장치는 세로 모드(3310)에서는 기본 진단 모드와 관련된 유저 인터페이스를 디스플레이 하여 사용자에게 제공할 수 있다. 전자 장치는 세로 모드(3310)에서 가로 모드(3320)로 변경 시, 기본 진단 모드에서 초음파 진단 및 원격 진료 모드로 모드를 변경하고, 초음파 진단 및 원격 진료 모드와 관련된 유저 인터페이스를 디스플레이 하여 사용자에게 제공할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 세로 모드에서는 영상 통화 화면을 보이지 않고, 초음파 영상만을 제공하여 초음파 진단에 집중할 수 있도록 할 수 있다. 전자 장치는 세로 모드에서 가로 모드로 변경 시, 초음파 진단 영상과 원격 진료를 위한 영상 통화 화면을 함께 제공할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는, 전자 장치의 방향 변경(또는 회전)을 감지할 수 있다. 예를 들면, 세로 모드에서 가로 모드로 변경, 또는 가로 모드에서 세로 모드로 변경을 판단할 수 있다. 전자 장치는, 판단하는 모드에 기초하여 대응하는 특화 모드를 전환하여 제공할 수 있다.
도 34는 본 발명의 다양한 실시 예들에 따른 전자 장치에서 메뉴 설정 예시를 도시하는 도면이다.
도 34에 도시한 바와 같이, 다양한 실시 예들에 따르면, 사용자에 의해 주 사용 메뉴의 프리셋(preset) 및 바로 가기(shortcut)를 설정하도록 제공할 수 있다.
화면 (3410)에 도시한 바와 같이, 사용자는 바로 가기의 편집 메뉴를 통해, 사용자(예: 의사)의 진료, 진료 과목, 또는 진단 특성 등에 따라 주 사용 메뉴(예: 메인 메뉴)의 종류와 메뉴의 디스플레이 위치(또는 방향) 등을 다양하게 설정할 수 있다. 전자 장치는 사용자 설정에 대응하여, 메인 메뉴를 구성 및 배치하여 제공할 수 있다.
한 실시 예에 따르면, 전자 장치는, 화면 (3420) 또는 화면 (3430)에 도시한 바와 같이, 사용자 설정에 따른 주 사용 메뉴와 위치에 메뉴를 디스플레이 하여 사용자에게 제공할 수 있다.
도 35 및 도 36은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 화면 인터페이스가 제공되는 예시를 도시하는 도면들이다.
도 35 및 도 36에 도시한 바와 같이, 도 35는 전자 장치가 태블릿 PC 형태인 경우를 예시로 할 수 있고, 도 36은 전자 장치가 스마트폰 형태인 경우를 예시로 할 수 있다. 다양한 실시 예들에 따르면, 전자 장치는 사용자의 주 사용 손 설정, 파지 상태 또는 진단 자세를 판단하고, 판단 결과에 기반하여, 왼손 모드 또는 오른손 모드 별 화면 인터페이스를 제공할 수 있다.
도 35 및 도 36을 참조하면, 화면 (3510, 3610)에 도시한 바와 같이, 사용자는 설정 메뉴를 통해, 사용자가 주로 사용하는 손(예: dominant hand)으로 왼손 또는 오른손을 설정할 수 있다. 전자 장치는, 사용자 설정에 기반하여, 왼손 모드 또는 오른손 모드를 설정할 수 있다.
다양한 실시 예들에 따라, 전자 장치는 사용자 설정에 기반하여 화면 (3520, 3620)에 도시한 바와 같이, 화면 인터페이스를 왼손 모드로 디스플레이 하여 사용자에게 제공하거나, 또는 화면 (3530, 3630)에 도시한 바와 같이, 화면 인터페이스를 오른손 모드로 디스플레이 하여 사용자에게 제공할 수 있다.
다양한 실시 예들에 따르면, 사용자 설정에 기반하여 어느 특정 모드에 의한 화면 인터페이스를 디스플레이 하는 것에 한정하지 않고, 상황 인지에 기반하여 왼손 모드 또는 오른손 모드를 적응적으로 변경하여 제공할 수도 있다.
예를 들면, 전자 장치는 다양한 센서(예: 모션 센서, 근접도 센서, 압력 센서, 정전 용량 센서 중 하나 이상)를 포함할 수 있고, 센서를 통해 측정된 센서 정보에 기반하여 전자 장치를 이용한 진단 자세, 또는 전자 장치의 파지 상태 등을 판단할 수 있다.
한 실시 예에 따르면, 전자 장치는 모션, 접촉 면적, 정전 용량, 또는 압력 중 하나 이상의 변화를 감지할 수 있고, 이에 적어도 일부 기초하여, 사용자의 파지 상태가 왼손에 의한 파지 상태인지, 또는 오른손에 의한 파지 상태인지 등을 판단할 수 있다.
전자 장치는 판단 결과에 기반하여, 왼손에 의한 파지를 판단하면, 왼손 모드에 의한 화면 인터페이스를 디스플레이 할 수 있고, 오른손에 의한 파지를 판단하면, 오른손 모드에 의한 화면 인터페이스를 디스플레이 할 수 있다.
도 37은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 사용자 인터랙션 기반 동작을 설명하기 위해 도시하는 도면이다.
도 37에 도시한 바와 같이, 도 37은 전자 장치가 스마트폰 형태인 경우를 예시로 할 수 있다. 다양한 실시 예들에 따르면, 스마트폰과 같이 작은 화면 크기를 가지는 전자 장치에서, 효율적인 GUI(예: 버튼) 배치에 의해 사용자 편의성을 제공할 수 있다. 예를 들면, 사용자가 전자 장치를 파지한 상태에서 원 핑거 인터랙션에 기반하여 화면, 기능, 또는 메뉴 등의 전환을 가능하도록 화면 인터페이스를 제공할 수 있다. 다양한 실시 예들에 따라, 원 핑거 인터랙션은, 예를 들면, 사용자의 손가락에 기반하는 특정 사용자 입력(예: long press, swipe, flick 등)을 포함할 수 있다.
화면 (3710)에 도시한 바와 같이, 사용자가 전자 장치를 파지한 상태에서, 사용자의 엄지 손가락의 조작 가능 범위 내에 주요 기능 또는 메뉴 등에 대응하는 버튼을 배치하여 제공할 수 있다. 사용자는 원 핑거 인터랙션(예: 한 손 엄지 제스처 등)으로 버튼을 선택하거나 화면 전환 등을 수행할 수 있다.
다양한 실시 예들에 따르면, 전자 장치는 사용자의 원 핑거 인터랙션에 기반하여 화면 전환, 기능 전환 또는 메뉴 전환을 수행할 수 있고, 전환 동작에 관련된 GUI를 제공할 수 있다.
한 실시 예에 따르면, 화면 (3720)에 도시한 바와 같이, 전자 장치는 초음파 진단 화면과 영상 통화 화면, 메인 메뉴와 서브 메뉴, 또는 진단 모드와 툴 간 전환에 대응하는 화면 전환 효과(예: 슬라이드 인/아웃(slide in/out), 페이드 인/아웃(fade in/out), 장면 전환(image transition) 등)를 제공할 수 있다.
한 실시 예에 따르면, 화면 (3730)에 도시한 바와 같이, 사용자는 메뉴 영역에서 원 핑거 인터랙션(예: swipe)으로 메뉴 영역 내의 모드 전환(예: 진단 모드와 툴 간 전환)을 간편하게 수행할 수 있다.
도 38, 도 39 및 도 40은 본 발명의 다양한 실시 예들에 따른 전자 장치에서 제공하는 화면 인터페이스의 예시를 설명하기 위해 도시하는 도면들이다.
도 38, 도 39 및 도 40을 참조하면, 도 38, 도 39 및 도 40은 전자 장치(예: 태블릿 PC)에서 초음파 진단 모드에서 제공하는 화면 인터페이스 및 그의 메뉴, 기능 또는 기능을 설명하기 위한 예를 나타낼 수 있다. 다양한 실시 예들에 따라, 도 38 및 도 39는 전자 장치가 가로 방향에서 기본 진단 모드에 따른 화면 인터페이스를 제공하는 예시를 나타낼 수 있고, 도 40은 전자 장치가 세로 방향에서 정밀 판독 모드에 따른 화면 인터페이스를 제공하는 예시를 나타낼 수 있다.
도 38 및 도 39에 도시한 바와 같이, 기본 진단 모드에서의 화면 인터페이스는 크게 초음파 영상 영역, 메뉴 영역, 갤러리 영역을 포함할 수 있다.
초음파 영상 영역은, 프로브(600)에 의해 촬영되는 실시간 초음파 영상, 또는 카메라에 의해 촬영되는 라이브 또는 프리뷰 영상 중 적어도 하나의 영상을 제공할 수 있다. 다양한 실시 예들에 따르면, 초음파 영상 영역은, 초음파 영상의 뎁스 조절 및 그에 관련된 뎁스 정보를 위한 영역(3865), 초음파 영상의 특정 지점의 포커스 조절(예: 카메라 포커스와 유사) 및 그에 관련된 포커스 정보를 위한 영역(3857), 현재 사용 중인 프로브(600)의 정보, 설정 프리셋(preset) 값, 영상 정보를 위한 영역(3855), 또는 영상의 밝기 또는 퀄리티를 보정하기 위한 TGC(total gain control) 버튼(3860) 등을 포함하여 제공할 수 있다.
메뉴 영역은, 초음파 진단 모드에서, 초음파 영상 영역에 디스플레이 된 영상에 적어도 일부 기초하여, 초음파 진단 또는 측정 등에 관련된 다양한 메뉴 또는 기능을 선택 및 실행하기 위한 영역을 나타낼 수 있다. 다양한 실시 예들에 따르면, 메뉴 영역은, 메인 조작 영역과 모드/툴 영역을 포함할 수 있다.
메인 조작 영역은, 초음파 영상의 일시 정지(Freeze) 또는 다시 재생(Unfreeze)을 위한 버튼(3845), 영상 또는 캡쳐 이미지를 저장(Save)하기 위한 버튼(3850)을 포함하여 제공할 수 있다.
모드/툴 영역은, 초음파 진단 모드 설정과 관련된 메뉴를 호출 및 디스플레이 하기 위한 모드 버튼(3810), 병변 측정 또는 메모 입력 등의 부가 기능을 위한 툴 버튼(3815)을 포함하고, 모드 버튼(3810) 또는 툴 버튼(3815)의 활성화에 따른 관련 메뉴 버튼들을 포함하여 제공할 수 있다. 예를 들면, 도 38에 도시한 바와 같이, 모드 버튼(3810)이 활성화된 경우, 초음파 진단 모드와 관련된 모드 선택 버튼들(예: 2D(3820), M(3825), C(3830), PW(3835), PD(3840))이 제공될 수 있고, 도 39에 도시한 바와 같이, 툴 버튼(3815)이 활성화된 경우, 부가 기능과 관련된 기능 선택 버튼들(예: Measure(3915), Caliper(3920), Annotate(3925), Text(3930))이 제공될 수 있다.
다양한 실시 예들에 따라, 2D(3820)는 초음파 진단 기본 모드로, 장기의 단면상을 디스플레이 하기 위한 모드, M(3825)은 2D 영상 내 관찰하고자 하는 영역을 M 라인으로 지정하여 시간에 따른 변화를 디스플레이 하기 위한 모드, C(3830)는 2D 영상 내의 관심 영역(ROI, region of interest)에서 혈류 패턴을 컬러로 디스플레이 하기 위한 모드, PW(3835)는 맥파(pulse wave)를 나타내는 것으로, 혈관 내 특정 위치의 혈류 속도를 시간 별로 디스플레이 하기 위한 모드, 및 PD(3840)는 출력 도플러(power Doppler)를 나타내는 것으로, 2D 영상 내의 관심 영역에서 혈류의 세기를 컬러로 디스플레이 하기 위한 모드를 각각 나타낼 수 있다.
다양한 실시 예들에 따라, Measure(3915)는 병변 측정 및 기록을 위한 툴 메뉴, Caliper(3920)는 병변 측정 및 임시 측정을 위한 툴 메뉴, Annotate(3925)는 영상 위에 텍스트, 인디케이터(indicator), 또는 마커(예: BodyMarker) 입력을 위한 툴 메뉴, 및 Text(3930)는 영상 위에 텍스트 입력을 위한 툴 메뉴를 각각 나타낼 수 있다.
다양한 실시 예들에 따라, 툴 버튼(3815)이 활성화된 경우, 도 39에 도시한 바와 같이, 초음파 영상 영역에, 초음파 영상의 특정 구간을 재생, 정지하여 확인할 수 있는 Cine bar(3935)가 활성화 되어 제공될 수 있다.
갤러리 영역은, 초음파 진단 모드에서 캡쳐 또는 저장된 영상을 썸네일(thumbnail) 형태로 제공할 수 있다.
도 40에 도시한 바와 같이, 정밀 판독 모드에서의 화면 인터페이스는 크게 초음파 영상 영역, 메인 조작 영역, Cine bar 영역(숨기 또는 뷰), 갤러리 영역, 2뎁스 메뉴 영역(예: 서브 메뉴 영역), 1뎁스 메뉴 영역(예: 툴 메뉴 영역)을 포함할 수 있다.
정밀 판독 모드에서는 2뎁스 메뉴는, 도 40에 도시한 바와 같이, 다양한 서브 메뉴가 포함되어 제공될 수 있고, 각 서브 메뉴의 정의는 아래 <표 1>과 같이 나타낼 수 있다.
Figure PCTKR2017001248-appb-I000001
이상에서 살펴본 바와 같이, 본 발명의 다양한 실시 예들에 따른, 전자 장치(400)의 동작 방법은, 초음파 진단 모드를 감지하는 동작, 상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 설정된 외부 장치(예: 제2 전자 장치(500), 외부 스크린)와 통신을 형성하는 동작, 상기 초음파 진단 모드에서 데이터를 획득하는 동작, 상기 데이터를 디스플레이(예: 디스플레이(631), 터치스크린(630))를 통해 디스플레이 및 통신 회로(예: 무선 통신부(610))를 이용하여 상기 외부 장치에 스트리밍 전송하는 동작, 및 상기 외부 장치로부터 제어 정보(예: 가이드 정보) 수신에 응답하여, 프로브(600)의 조작 가이드를 제공하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 데이터를 획득하는 동작은, 상기 전자 장치와 연결된 프로브를 통해 촬영하는 제1 데이터(예: 초음파 영상, 초음파 스캔 데이터)를 획득하는 동작, 상기 전자 장치의 카메라를 통해 촬영하는 제2 데이터(예: 프로브 조작 영상, 환부 영상 데이터)를 획득하는 동작, 상기 제1 데이터와 상기 제2 데이터 중 적어도 하나를, 설정된 방식으로 디스플레이 하는 동작, 및 상기 제1 데이터와 상기 제2 데이터를 상기 외부 장치에 전송하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 외부 장치와 음성 통화 또는 영상 통화를 자동 연결하는 동작을 더 포함할 수 있다.
다양한 실시 예들에 따라, 상기 전송하는 동작은, 상기 초음파 진단 모드에서 획득하는 데이터를, 상기 외부 장치 및 상기 외부 장치와 다른 외부 스크린 중 적어도 하나에 전송하는 동작, 및 상기 외부 장치와 설정된 통화 연결을 수행하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 조작 가이드를 제공하는 동작은, 상기 외부 장치로부터 상기 데이터에 적어도 일부 기초하여 전송되는 상기 제어 정보를 수신하는 동작, 및 상기 데이터 또는 상기 프로브 중 적어도 일부 기초하여, 상기 제어 정보에 대응하는 인디케이터 출력을 처리하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 초음파 진단 모드를 감지하는 동작은, 상기 프로브에 의한 감지 신호를 검출하는 동작, 상기 감지 신호에 응답하여, 긴급 진단 모드 실행을 결정하는 동작, 및 긴급 프리셋을 제공하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 긴급 프리셋을 제공하는 동작은, 상기 긴급 진단 모드에서, 프리셋 설정 단계를 생략하고, 심플 메뉴를 제공하는 동작을 포함할 수 있다.
이상에서 살펴본 바와 같이, 본 발명의 다양한 실시 예들에 따른, 전자 장치(500)의 동작 방법은, 외부 장치(예: 제1 전자 장치(400))와 통신을 형성하는 동작, 상기 외부 장치로부터 데이터를 스트리밍 수신하는 동작, 상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린(예: TV, 모니터)으로 미러링 중 적어도 하나를 수행하는 동작, 상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브(600)의 제어와 관련된 제어 정보(예: 가이드 정보)를 수신하는 동작, 및 상기 제어 정보를 상기 외부 장치로 전송하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 상기 데이터는, 상기 외부 장치에 연결된 상기 프로브(600)를 통해 촬영되는 제1 데이터(예: 초음파 영상, 초음파 스캔 데이터), 또는 상기 외부 장치의 카메라(예: 카메라 모듈(670))를 통해 촬영되는 제2 데이터(예: 프로브 조작 영상, 환부 영상 데이터) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예들에 따라, 상기 데이터 수신과 함께, 상기 외부 장치와 통화 연결을 수행하는 동작을 더 포함할 수 있다.
다양한 실시 예들에 따라, 상기 데이터에 적어도 일부 기초하여 상기 프로브(600)의 가이드를 위한 사용자 입력을 수신하는 동작, 상기 사용자 입력에 기초하여, 상기 제어 정보를 생성하는 동작, 및 상기 제어 정보를 상기 외부 장치에 전송하는 동작을 포함할 수 있다.
다양한 실시 예들에 따라, 커뮤니케이션 모드를 실행하는 동작, 및 상기 커뮤니케이션 모드에 기초하여 상기 데이터의 공유와 관련된 영상 처리를 수행하는 동작을 더 포함하는 방법. 다양한 실시 예들에 따라, 상기 프로세서는, 커뮤니케이션 모드를 실행하는 동작, 및 상기 커뮤니케이션 모드에 기초하여 상기 데이터의 공유와 관련된 영상 처리(예: 화면 공유로, 연결된 외부 장치에 전송 또는 화면 전환을 위한 영상 처리)를 수행하는 동작을 더 포함할 수 있다.
본 명세서와 도면에 개시된 본 발명의 다양한 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    카메라;
    프로브 연결을 위한 제1 통신 회로;
    적어도 하나의 외부 장치와 통신을 위한 제2 통신 회로; 및
    상기 디스플레이, 상기 카메라, 상기 제1 통신회로 및 상기 제2 통신 회로와 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    초음파 진단 모드를 감지하고,
    상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 상기 외부 장치와 통신을 형성하고,
    상기 초음파 진단 모드에서 데이터를 획득하고,
    상기 데이터를 상기 디스플레이를 통해 디스플레이 및 상기 제2 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하고, 및
    상기 외부 장치로부터 제어 정보 수신에 응답하여, 상기 프로브의 조작 가이드를 제공하도록 설정된 전자 장치.
  2. 제1항에 있어서, 상기 프로세서는,
    상기 프로브를 통해 촬영하는 제1 데이터를 획득하고,
    상기 카메라를 통해 촬영하는 제2 데이터를 획득하고,
    상기 제1 데이터와 상기 제2 데이터 중 적어도 하나를, 설정된 방식으로 디스플레이 하고, 및
    상기 제1 데이터와 상기 제2 데이터를 상기 외부 장치에 전송하도록 설정된 전자 장치.
  3. 제2항에 있어서, 상기 프로세서는,
    상기 외부 장치와 음성 통화 또는 영상 통화를 자동 연결하도록 설정된 전자 장치.
  4. 제2항에 있어서, 상기 프로세서는,
    상기 초음파 진단 모드에서 획득하는 데이터를, 상기 외부 장치 및 상기 외부 장치와 다른 외부 스크린 중 적어도 하나에 전송하고, 및
    상기 외부 장치와 설정된 통화 연결을 수행하도록 설정된 전자 장치.
  5. 제2항에 있어서, 상기 프로세서는,
    상기 외부 장치로부터 상기 데이터에 적어도 일부 기초하여 전송되는 상기 제어 정보를 수신하고,
    상기 데이터 또는 상기 프로브 중 적어도 일부 기초하여, 상기 제어 정보에 대응하는 인디케이터 출력을 처리하도록 설정된 전자 장치.
  6. 제2항에 있어서, 상기 프로세서는,
    상기 프로브에 의한 감지 신호를 검출하고,
    상기 감지 신호에 응답하여, 긴급 진단 모드 실행을 결정하고, 및
    긴급 프리셋을 제공하도록 설정되고,
    상기 프로세서는,
    상기 긴급 진단 모드에서, 프리셋 설정 단계를 생략하고, 심플 메뉴를 제공하도록 설정된 전자 장치.
  7. 전자 장치에 있어서,
    디스플레이;
    외부 장치와 통신을 위한 통신 회로; 및
    상기 디스플레이 및 상기 통신 회로와 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    상기 외부 장치와 통신을 형성하고,
    상기 외부 장치로부터 데이터를 스트리밍 수신하고,
    상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하고,
    상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브의 제어와 관련된 제어 정보를 수신하고, 및
    상기 제어 정보를 상기 외부 장치로 전송하도록 설정된 전자 장치.
  8. 제7항에 있어서, 상기 데이터는,
    상기 외부 장치에 연결된 상기 프로브를 통해 촬영되는 제1 데이터, 또는 상기 외부 장치의 카메라를 통해 촬영되는 제2 데이터 중 적어도 하나를 포함하고,
    상기 프로세서는,
    상기 데이터 수신과 함께, 상기 외부 장치와 통화 연결을 수행하도록 설정된 전자 장치.
  9. 제8항에 있어서, 상기 프로세서는,
    커뮤니케이션 모드를 실행하고, 및
    상기 커뮤니케이션 모드에 기초하여 상기 데이터의 공유와 관련된 영상 처리를 수행하도록 설정된 전자 장치.
  10. 전자 장치의 동작 방법에 있어서,
    초음파 진단 모드를 감지하는 동작,
    상기 초음파 진단 모드 감지에 응답하여 초음파 진단 모드 실행 및 설정된 외부 장치와 통신을 형성하는 동작,
    상기 초음파 진단 모드에서 데이터를 획득하는 동작,
    상기 데이터를 디스플레이를 통해 디스플레이 및 통신 회로를 이용하여 상기 외부 장치에 스트리밍 전송하는 동작, 및
    상기 외부 장치로부터 제어 정보 수신에 응답하여, 프로브의 조작 가이드를 제공하는 동작을 포함하는 방법.
  11. 제10항에 있어서, 상기 데이터를 획득하는 동작은,
    상기 전자 장치와 연결된 프로브를 통해 촬영하는 제1 데이터를 획득하는 동작,
    상기 전자 장치의 카메라를 통해 촬영하는 제2 데이터를 획득하는 동작,
    상기 제1 데이터와 상기 제2 데이터 중 적어도 하나를, 설정된 방식으로 디스플레이 하는 동작, 및
    상기 제1 데이터와 상기 제2 데이터를 상기 외부 장치에 전송하는 동작을 포함하는 방법.
  12. 제11항에 있어서, 상기 전송하는 동작은,
    상기 초음파 진단 모드에서 획득하는 데이터를, 상기 외부 장치 및 상기 외부 장치와 다른 외부 스크린 중 적어도 하나에 전송하는 동작, 및
    상기 외부 장치와 설정된 통화 연결을 수행하는 동작을 포함하는 방법.
  13. 제11항에 있어서, 상기 초음파 진단 모드를 감지하는 동작은,
    상기 프로브에 의한 감지 신호를 검출하는 동작,
    상기 감지 신호에 응답하여, 긴급 진단 모드 실행을 결정하는 동작, 및
    긴급 프리셋을 제공하는 동작을 포함하고,
    상기 긴급 프리셋을 제공하는 동작은,
    상기 긴급 진단 모드에서, 프리셋 설정 단계를 생략하고, 심플 메뉴를 제공하는 동작을 포함하는 방법.
  14. 전자 장치의 동작 방법에 있어서,
    외부 장치와 통신을 형성하는 동작,
    상기 외부 장치로부터 데이터를 스트리밍 수신하는 동작,
    상기 데이터의 디스플레이 또는 상기 데이터의 외부 스크린으로 미러링 중 적어도 하나를 수행하는 동작,
    상기 데이터에 적어도 일부 기초하여, 상기 외부 장치에 연결된 프로브의 제어와 관련된 제어 정보를 수신하는 동작, 및
    상기 제어 정보를 상기 외부 장치로 전송하는 동작을 포함하는 방법.
  15. 제14항에 있어서, 상기 데이터는,
    상기 외부 장치에 연결된 상기 프로브를 통해 촬영되는 제1 데이터, 또는 상기 외부 장치의 카메라를 통해 촬영되는 제2 데이터 중 적어도 하나를 포함하고,
    상기 데이터를 스트리밍 수신하는 동작은,
    상기 데이터 수신과 함께, 상기 외부 장치와 통화 연결을 수행하는 동작을 더 포함하는 방법.
PCT/KR2017/001248 2016-02-05 2017-02-06 전자 장치 및 그의 동작 방법 WO2017135769A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US16/075,835 US11571183B2 (en) 2016-02-05 2017-02-06 Electronic device and operation method thereof
EP17747814.6A EP3412212B1 (en) 2016-02-05 2017-02-06 Electronic device and operation method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2016-0015284 2016-02-05
KR1020160015284A KR20170093632A (ko) 2016-02-05 2016-02-05 전자 장치 및 그의 동작 방법

Publications (1)

Publication Number Publication Date
WO2017135769A1 true WO2017135769A1 (ko) 2017-08-10

Family

ID=59500218

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/001248 WO2017135769A1 (ko) 2016-02-05 2017-02-06 전자 장치 및 그의 동작 방법

Country Status (4)

Country Link
US (1) US11571183B2 (ko)
EP (1) EP3412212B1 (ko)
KR (1) KR20170093632A (ko)
WO (1) WO2017135769A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019098132A1 (en) * 2017-11-17 2019-05-23 Nihon Kohden Corporation Ultrasonic probe and ultrasonic measurement system
CN112135566A (zh) * 2018-05-18 2020-12-25 富士胶片株式会社 超声波***及超声波***的控制方法

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107257439B (zh) * 2017-07-26 2019-05-17 维沃移动通信有限公司 一种拍摄方法及移动终端
US20190114812A1 (en) * 2017-10-17 2019-04-18 General Electric Company Method and ultrasound imaging system for emphasizing an ultrasound image on a display screen
KR102558259B1 (ko) * 2017-11-17 2023-07-24 삼성메디슨 주식회사 초음파 진단 장치의 제어 방법 및 초음파 진단 장치
KR102578069B1 (ko) * 2017-12-28 2023-09-14 삼성메디슨 주식회사 초음파 의료 영상 장치 및 그의 제어 방법
US10463307B2 (en) 2018-01-12 2019-11-05 The Aga Khan University Anatomical-imaging communication device
AU2019229174A1 (en) * 2018-02-27 2020-09-03 Butterfly Network, Inc. Methods and apparatus for tele-medicine
AU2019231118A1 (en) * 2018-03-05 2020-10-08 Exo Imaging, Inc. Thumb-dominant ultrasound imaging system
US10831316B2 (en) * 2018-07-26 2020-11-10 At&T Intellectual Property I, L.P. Surface interface
US11559279B2 (en) 2018-08-03 2023-01-24 Bfly Operations, Inc. Methods and apparatuses for guiding collection of ultrasound data using motion and/or orientation data
US20200037998A1 (en) 2018-08-03 2020-02-06 Butterfly Network, Inc. Methods and apparatuses for guiding collection of ultrasound data using motion and/or orientation data
US11040441B2 (en) * 2018-09-20 2021-06-22 Sony Group Corporation Situation-aware robot
US20200352546A1 (en) * 2019-05-07 2020-11-12 Clarius Mobile Health Corp. Systems and methods for controlling a screen in response to a wireless ultrasound scanner
EP4014888A4 (en) * 2019-08-15 2022-10-05 FUJIFILM Corporation ULTRASOUND SYSTEM AND ULTRASOUND SYSTEM CONTROL METHOD
CN114258287A (zh) * 2019-08-15 2022-03-29 富士胶片株式会社 超声波***及超声波***的控制方法
WO2021029179A1 (ja) * 2019-08-15 2021-02-18 富士フイルム株式会社 超音波システムおよび超音波システムの制御方法
CN110662095B (zh) 2019-08-28 2021-10-26 北京小米移动软件有限公司 投屏处理方法、装置、终端及存储介质
JP7447692B2 (ja) * 2020-06-16 2024-03-12 コニカミノルタ株式会社 超音波診断装置、超音波診断装置の制御方法、及び、超音波診断装置の制御プログラム
US11513604B2 (en) 2020-06-17 2022-11-29 Motorola Mobility Llc Selectable response options displayed based-on device grip position
JP2022129871A (ja) * 2021-02-25 2022-09-06 コニカミノルタ株式会社 超音波画像診断装置、表示制御方法および表示制御プログラム
US11857372B2 (en) 2021-11-12 2024-01-02 Bfly Operations, Inc. System and method for graphical user interface with filter for ultrasound image presets
US11726734B2 (en) 2022-01-13 2023-08-15 Motorola Mobility Llc Configuring an external presentation device based on an impairment of a user

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08150126A (ja) * 1994-11-29 1996-06-11 Shimadzu Corp 在宅診断装置
JP2006115986A (ja) * 2004-10-20 2006-05-11 Matsushita Electric Ind Co Ltd 超音波診断装置
KR20100061056A (ko) * 2008-11-28 2010-06-07 주식회사 메디슨 자동 시동이 가능한 초음파 시스템
KR20120090470A (ko) * 2011-02-08 2012-08-17 김해용 모바일 단말기를 이용한 휴대용 초음파 진단장치
KR20130084467A (ko) * 2012-01-17 2013-07-25 삼성전자주식회사 프로브 장치, 서버, 초음파 영상 진단 시스템, 및 초음파 영상 처리 방법

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995015521A2 (en) * 1993-11-29 1995-06-08 Perception, Inc. Pc based ultrasound device with virtual control user interface
US6575908B2 (en) * 1996-06-28 2003-06-10 Sonosite, Inc. Balance body ultrasound system
US6468212B1 (en) * 1997-04-19 2002-10-22 Adalberto Vara User control interface for an ultrasound processor
US6261234B1 (en) * 1998-05-07 2001-07-17 Diasonics Ultrasound, Inc. Method and apparatus for ultrasound imaging with biplane instrument guidance
US7115093B2 (en) * 2001-11-21 2006-10-03 Ge Medical Systems Global Technology Company, Llc Method and system for PDA-based ultrasound system
US7549961B1 (en) * 2003-07-31 2009-06-23 Sonosite, Inc. System and method supporting imaging and monitoring applications
US7066887B2 (en) * 2003-10-21 2006-06-27 Vermon Bi-plane ultrasonic probe
US20060020204A1 (en) * 2004-07-01 2006-01-26 Bracco Imaging, S.P.A. System and method for three-dimensional space management and visualization of ultrasound data ("SonoDEX")
KR101146016B1 (ko) 2005-09-16 2012-05-15 삼성메디슨 주식회사 이동단말기를 이용하여 초음파 진단기기를 원격 제어하는시스템 및 방법
EP2203119A1 (en) 2007-10-10 2010-07-07 Koninklijke Philips Electronics N.V. Ultrasound-communications via wireless-interface to patient monitor
WO2009049363A1 (en) * 2007-10-16 2009-04-23 Signostics Pty Ltd Medical diagnostic device user interface
KR20090116849A (ko) 2008-05-08 2009-11-12 (주)트로스 아이엔디 포터블 스캐너를 활용한 원격 초음파 검진 서비스 방법
US20110301461A1 (en) * 2010-06-04 2011-12-08 Doris Nkiruka Anite Self-administered breast ultrasonic imaging systems
JP5784607B2 (ja) * 2010-08-06 2015-09-24 株式会社日立メディコ 超音波画像装置と三次元画像表示方法
US9075903B2 (en) * 2010-11-26 2015-07-07 Hologic, Inc. User interface for medical image review workstation
JP5134721B1 (ja) * 2011-11-28 2013-01-30 株式会社東芝 ポータブル超音波診断装置
US9314225B2 (en) * 2012-02-27 2016-04-19 General Electric Company Method and apparatus for performing ultrasound imaging
US9329690B2 (en) * 2012-03-09 2016-05-03 Schlumberger Technology Corporation Multitouch control of petrotechnical software
US9877699B2 (en) * 2012-03-26 2018-01-30 Teratech Corporation Tablet ultrasound system
US20130324850A1 (en) * 2012-05-31 2013-12-05 Mindray Ds Usa, Inc. Systems and methods for interfacing with an ultrasound system
US20140121489A1 (en) 2012-10-31 2014-05-01 General Electric Company Medical imaging system and a portable medical imaging device for performing imaging
RU2674228C2 (ru) * 2012-12-21 2018-12-05 Конинклейке Филипс Н.В. Анатомически интеллектуальная эхокардиография для места оказания медицинского обслуживания
KR101563506B1 (ko) * 2013-01-16 2015-10-27 삼성메디슨 주식회사 초음파 장치 및 초음파 장치의 정보 입력 방법
WO2014142468A1 (en) * 2013-03-13 2014-09-18 Samsung Electronics Co., Ltd. Method of providing copy image and ultrasound apparatus therefor
US9092556B2 (en) * 2013-03-15 2015-07-28 eagleyemed, Inc. Multi-site data sharing platform
WO2014144964A1 (en) * 2013-03-15 2014-09-18 Eagleyemed Multi-site video based computer aided diagnostic and analytical platform
JP6206155B2 (ja) * 2013-12-16 2017-10-04 コニカミノルタ株式会社 超音波診断装置
KR102250094B1 (ko) 2013-12-23 2021-05-10 삼성전자주식회사 모바일 장치의 기능 수행 방법 및 모바일 장치
KR102226214B1 (ko) 2014-01-14 2021-03-11 삼성메디슨 주식회사 스마트 장치, 프로브 장치, 그에 따른 스마트 장치 제어 방법, 및 그에 다른 프로브 장치 제어 방법, 및 그를 기록한 기록 기록 매체
JP6026455B2 (ja) * 2014-03-17 2016-11-16 富士フイルム株式会社 医用画像表示装置およびその作動方法並びにプログラム
KR101560222B1 (ko) 2014-09-26 2015-10-14 삼성메디슨 주식회사 초음파 프로브의 움직임에 기초하여 초음파 프로브를 자동으로 활성화하는 초음파 시스템 및 방법
KR101747305B1 (ko) 2014-10-08 2017-06-27 삼성전자주식회사 초음파 진단 장치 및 그에 따른 통신 연결 방법
US10646201B2 (en) * 2014-11-18 2020-05-12 C. R. Bard, Inc. Ultrasound imaging system having automatic image presentation
WO2016081023A1 (en) * 2014-11-18 2016-05-26 C.R. Bard, Inc. Ultrasound imaging system having automatic image presentation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08150126A (ja) * 1994-11-29 1996-06-11 Shimadzu Corp 在宅診断装置
JP2006115986A (ja) * 2004-10-20 2006-05-11 Matsushita Electric Ind Co Ltd 超音波診断装置
KR20100061056A (ko) * 2008-11-28 2010-06-07 주식회사 메디슨 자동 시동이 가능한 초음파 시스템
KR20120090470A (ko) * 2011-02-08 2012-08-17 김해용 모바일 단말기를 이용한 휴대용 초음파 진단장치
KR20130084467A (ko) * 2012-01-17 2013-07-25 삼성전자주식회사 프로브 장치, 서버, 초음파 영상 진단 시스템, 및 초음파 영상 처리 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3412212A4 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019098132A1 (en) * 2017-11-17 2019-05-23 Nihon Kohden Corporation Ultrasonic probe and ultrasonic measurement system
CN112135566A (zh) * 2018-05-18 2020-12-25 富士胶片株式会社 超声波***及超声波***的控制方法
EP3795087A4 (en) * 2018-05-18 2021-06-23 FUJIFILM Corporation ULTRASONIC SYSTEM AND PROCESS FOR CONTROLLING AN ULTRASONIC SYSTEM
US11927703B2 (en) 2018-05-18 2024-03-12 Fujifilm Corporation Ultrasound system and method for controlling ultrasound system

Also Published As

Publication number Publication date
EP3412212A4 (en) 2019-04-03
EP3412212A1 (en) 2018-12-12
EP3412212B1 (en) 2020-05-27
KR20170093632A (ko) 2017-08-16
US20190038260A1 (en) 2019-02-07
US11571183B2 (en) 2023-02-07

Similar Documents

Publication Publication Date Title
WO2017135769A1 (ko) 전자 장치 및 그의 동작 방법
AU2016224180B2 (en) Method and apparatus for supporting communication in electronic device
WO2018131775A1 (ko) 전자 장치 및 그의 동작 방법
WO2017026682A1 (en) Device and method for executing application
AU2017237571B2 (en) Electronic device and method for providing information in electronic device
WO2016190517A1 (en) Medical image display apparatus and method of providing user interface
WO2017010803A1 (en) Method for operating electronic device, and electronic device
WO2017164708A1 (en) Electronic device and method of providing information in electronic device
WO2017119694A1 (en) Electronic device and method of operating same
WO2017135665A1 (ko) 영상 서비스 제공 방법 및 장치
WO2017026652A1 (en) Method and apparatus for outputting audio in electronic device
WO2017146402A1 (en) Server and method of controlling user environment by server
WO2017111382A1 (en) Electronic device and method for image control thereof
WO2018128253A1 (ko) 전자 장치 및 그의 표시 방법
WO2015119444A1 (en) Electronic device and method for controlling displays
WO2017135749A1 (ko) 복수의 디스플레이들을 포함하는 전자 장치 및 그 동작 방법
WO2016017978A1 (en) Device and method for performing functions
WO2018182279A1 (en) Method and apparatus for providing augmented reality function in electronic device
WO2014142608A1 (en) Electronic device and operating method thereof
WO2017126858A1 (ko) 음성통화 중 영상을 전송하는 방법 및 장치
WO2015002409A1 (en) Method of sharing information in ultrasound imaging
WO2017026793A1 (ko) 영상을 제공하기 위한 방법, 전자 장치 및 저장 매체
WO2019027255A1 (en) ELECTRONIC DEVICE FOR DETERMINING BIOMETRIC INFORMATION AND METHOD FOR OPERATING IT
AU2017346260B2 (en) Electronic device and computer-readable recording medium for displaying images
WO2018182270A1 (ko) 전자 장치 및 이를 이용한 사용자 입력을 처리하기 위한 화면 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17747814

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2017747814

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2017747814

Country of ref document: EP

Effective date: 20180904