WO2011155130A1 - 情報表示装置、表示制御用集積回路、及び表示制御方法 - Google Patents

情報表示装置、表示制御用集積回路、及び表示制御方法 Download PDF

Info

Publication number
WO2011155130A1
WO2011155130A1 PCT/JP2011/002743 JP2011002743W WO2011155130A1 WO 2011155130 A1 WO2011155130 A1 WO 2011155130A1 JP 2011002743 W JP2011002743 W JP 2011002743W WO 2011155130 A1 WO2011155130 A1 WO 2011155130A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
light source
transmission source
priority
cache memory
Prior art date
Application number
PCT/JP2011/002743
Other languages
English (en)
French (fr)
Inventor
幸司 中西
山田 和範
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to US13/388,755 priority Critical patent/US8941686B2/en
Priority to JP2012519221A priority patent/JP5619885B2/ja
Priority to CN201180003169.7A priority patent/CN102474570B/zh
Publication of WO2011155130A1 publication Critical patent/WO2011155130A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/1141One-way transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems

Definitions

  • the present invention relates to an information display device that displays information for display superimposed on images captured in time series, and more specifically, a technique for effectively utilizing a cache memory and improving the performance of the entire device. About.
  • An apparatus uses an image sensor to display information obtained by visible light communication from an information transmission source (light source) within an imaging range to a user by superimposing it on a captured image.
  • presentation information of contents suitable for a product or an advertising signboard due to a change in luminance is transmitted from an information transmission source attached to a display shelf of goods arranged in a store or an advertising signboard in a city, and imaged.
  • the device picks up images in time series, extracts the presentation information from the luminance change for each image area, and displays the extracted presentation information superimposed on the picked-up image to display the information presentation target item and its presentation It is described that the correspondence with information can be clarified and misunderstanding of information grasp can be eliminated.
  • an imaging apparatus can acquire information only from an information transmission source (light source) that enters the imaging range. For this reason, if the information from the light source is large, it is necessary to wait for a certain period of time from when the image is taken until the information is superimposed and displayed.
  • the shooting range changes, and the information transmission source is frequently switched.
  • communication processing occurs. Naturally, it is impossible to display the presentation information regarding the new information transmission source until this processing is completed.
  • the presentation information acquired from the information transmission source when entering the imaging range is stored in the cache memory even if it is out of the imaging range, and the same information transmission source is again in the imaging range.
  • a method is known in which the presentation information is read from the cache memory and reused when it enters.
  • Patent Document 2 discloses an optical wireless transmission system that can adjust the optical axis at high speed and with high accuracy.
  • a base unit installed on a ceiling or the like transmits a narrow directional light for signal transmission and a wide directional light for optical axis control by coaxial transmission and is placed on a desk or the like.
  • the wireless transmission device specifies the position of the parent device at high speed by the first direction detection unit, and specifies the position of the parent device with high accuracy by the second direction detection unit, thereby reducing the size of the device without incurring an increase in cost. It is described that the optical axis can be adjusted at high speed and with high accuracy in optical communication.
  • cached information has a lower priority (easier to be deleted from the cache)
  • information that is older in time is temporarily taken while the photographer is shooting in the city while moving to the right. If it is in the stopped state, the priority of the information related to the information transmission source becomes lower as the information transmission source moves to the left from the place where it was temporarily stopped. Therefore, if you resume shooting from the left side of the location that was shot before the pause, and then move again in the right direction, the priority of information related to the information source near the shooting range is related to the information source far from the shooting range. It becomes a state lower than the priority of information.
  • the present invention provides an information display device, an integrated circuit for display control, and a display control method that can increase a cache hit rate of a light source that has been photographed to reduce a user's display waiting time and communication cost. For the purpose.
  • the present invention is directed to an information display device, a display control integrated circuit, and a display control method. And in order to solve the above-mentioned subject, the information display device of the present invention performs visible light communication, and superimposes the light source information sent from the light source on the image captured in time series and displays it on the screen.
  • An information display device an imaging unit that captures an image within a shooting range, a cache memory that sequentially caches light source information sent from a light source in the image, and light source information cached in the cache memory, A priority setting unit that sets higher priorities in the order of light sources that are close to the current shooting range, and communication that deletes light source information in the order of lower priority from the light source information cached in the cache memory. And an information processing unit.
  • the priority setting unit determines whether the light source is close to the current shooting range, the value of the distance from the center of the current shooting range to the center of the light source, or a value obtained by quantizing the distance Judging by whether or not is small is good.
  • the information display device further includes a movement characteristic prediction unit that predicts movement characteristics from changes in coordinates and area of the light source in the image, and the priority setting unit coordinates the center of the light source based on the movement characteristics. It is preferable to determine whether the light source is close to the current shooting range based on whether the distance from the center of the current shooting range to the corrected coordinates of the light source center is short.
  • the information display device may display on the screen light source information of a light source having a high priority among the light sources cached in the cache memory and outside the current shooting range.
  • the information display method of the present invention performs visible light communication, and superimposes the light source information sent from the light source on the image captured in time series and displays it on the screen.
  • An information display method comprising: capturing an image within a shooting range; sequentially caching light source information transmitted from a light source in the image in a cache memory; and light source information cached in the cache memory. The step of setting the priority in the order of the light sources close to the current shooting range and the step of deleting the light source information in the cache memory in order from the light source information having the lowest priority among the light source information cached in the cache memory. Prepare.
  • the integrated circuit of the present invention performs visible light communication and superimposes light source information transmitted from a light source on an image captured in time series and displays the information on a screen.
  • An integrated circuit used in a display device which sequentially caches light source information sent from a light source in an image within a shooting range, and the light source information cached in the cache memory, A priority setting unit that sets a higher priority in the order of light sources close to each other, and a communication information processing unit that deletes light source information cached in the cache memory in order from the light source information having the lowest priority Is provided.
  • an information display device As described above, according to the present invention, an information display device, a display control integrated circuit, and a display control program that can increase a cache hit rate of a light source that has been photographed to reduce a user's display waiting time and communication cost. And a display control method.
  • FIG. 1 is a diagram illustrating an outline of a functional configuration of the information display system 1 in the first embodiment.
  • FIG. 2 is a diagram illustrating an example of a data format of communication information transmitted from the information transmission source 100 to the information display device 200 by the intensity of light.
  • FIG. 3 is a diagram showing a series of procedures from the transmission source region detection process to the transmission source region information processing and the display processing for displaying the display information superimposed on the captured image in the present embodiment. is there.
  • FIG. 4 is a diagram showing a series of procedures of a subroutine for performing transmission source area information processing in step S7.
  • FIG. 5 is a diagram showing a series of procedures of a subroutine for performing the priority calculation processing of the cache memory in step S18.
  • FIG. 6 is a diagram showing an overview of the priority calculation processing in step S34.
  • FIG. 7 is a diagram (part 1) illustrating an outline of a usage example of cache priority.
  • FIG. 8 is a diagram (part 2) illustrating an outline of a usage example of the cache priority.
  • FIG. 9 is a diagram (part 3) illustrating an outline of a usage example of the cache priority.
  • FIG. 10 is a diagram (part 4) illustrating an outline of a usage example of the cache priority.
  • FIG. 11 is a diagram (part 5) illustrating an outline of a usage example of the cache priority.
  • FIG. 12 is a diagram (part 6) illustrating an outline of a usage example of the cache priority.
  • FIG. 7 is a diagram (part 1) illustrating an outline of a usage example of cache priority.
  • FIG. 8 is a diagram (part 2) illustrating an outline of a usage example of the cache priority.
  • FIG. 9 is a diagram (part 3) illustrating an outline of a usage example of the
  • FIG. 13 is a diagram illustrating an outline of a functional configuration of the information display system 2 according to the second embodiment.
  • FIG. 14 is a diagram showing a series of procedures of a subroutine for performing transmission source area information processing in step S7 in FIG.
  • FIG. 15 is a diagram showing a series of procedures of a subroutine for performing the source movement characteristic prediction process in step S42 in FIG.
  • FIG. 16 shows a screen displayed on the display device 300 by combining display information related to a transmission source outside the imaging range extracted by the communication information processing unit 226 outside the frame of the image captured by the imaging unit 210. It is a figure which shows the example of.
  • the information display device 200 displays the position of the light source (calculating the relative distance from the center of the shooting angle of view), the communication content from the light source, and the shooting conditions (shooting angle, shooting direction, moving direction, and moving amount). Caching, always updating the position of the light source, and transmitting near the shooting angle of view that is out of the shooting range but is easily re-entering the shooting range within the shooting source once shot A high cache priority is given to the information about the source. According to the first embodiment, it is possible to improve the responsiveness of information superimposed on the display image and to improve the cache utilization rate.
  • FIG. 1 is a diagram illustrating an outline of a functional configuration of the information display system 1 in the first embodiment.
  • the information display system 1 shown in FIG. 1 includes an information transmission source 100, an information display device 200, and a display device 300.
  • the information transmission source 100 is a stationary electronic device attached to a display shelf of products arranged in a store or an advertising billboard in a city, and has a function of transmitting display information as light source information.
  • An information recording unit 110, a communication data generation unit 120, a modulator 130, and a transmission light source 140 are included.
  • the information display device 200 is, for example, a portable electronic device having an imaging function such as a digital camera or a camera-equipped mobile phone, obtains display information through optical wireless communication, and superimposes the display information on the captured video.
  • the image capturing unit 210, the information processing unit 220, the display control unit 230, the position coordinate acquisition unit 240, and the azimuth angle acquisition unit 250 are provided.
  • the display device 300 is an image display device such as a liquid crystal monitor.
  • the identification information recording unit 110 records solid identification information that uniquely identifies an information transmission source.
  • the identification information recording units 110 of a plurality of adjacent information transmission sources 100 record the same individual identification information, and in such a case, a plurality of information transmissions that record the same individual identification information.
  • the source 100 transmits the same information at the same timing, and can handle these as the same information transmission source.
  • the communication data generation unit 120 generates display information to be displayed on the information display device 200.
  • the modulator 130 converts the solid identification information recorded in the identification information recording unit 110 and the display information generated by the communication data generation unit 120 into electrical signals.
  • the light source 140 for transmission is a device that can transmit light having a relatively high intensity of a certain level, such as an LED or a fluorescent lamp, and uses the electrical signal converted by the modulator 130 toward the information display device 200. Communication information including solid identification information and display information is transmitted by the intensity of light.
  • the imaging unit 210 captures an image in time series.
  • the lens 211 adjusts the imaging state of input light, and converts the intensity of the light acquired through the lens 211 into an electrical signal to obtain photoelectric conversion information.
  • an image sensor 212 that captures an image by sequentially generating and outputting the information to the information processing unit 220.
  • an image sensor is used here as the photoelectric conversion element, the present invention is not limited to this, and any device can be used as long as the intensity of light can be converted into an electrical signal as luminance information.
  • the imaging unit 210 may include photodiodes arranged in a two-dimensional plane instead of the image sensor 212.
  • the information processing unit 220 identifies all the transmission source regions whose luminance changes in a predetermined pattern with the passage of time from the images captured by the imaging unit 210. From the one or more transmission source regions identified here, The communication information is extracted for each transmission source area based on the change in luminance for each transmission source area.
  • the acquired information processing unit 221, the image information processing unit 222, the cache memory 223, the identification information extraction unit 224, and the presence A determination unit 225, a communication information processing unit 226, and a priority setting unit 227 are included.
  • the display control unit 230 superimposes display information included in the communication information for each area extracted by the information processing unit 220 on the image captured by the imaging unit 210, and adjusts the luminance, size, and the like to be external.
  • the position coordinate acquisition unit 240 has a function of acquiring an absolute position such as GPS, and acquires the current shooting coordinates.
  • the azimuth angle acquisition unit 250 has a function of acquiring the azimuth and angle of a gyro, for example, and acquires the current shooting direction.
  • the acquired information processing unit 221 extracts image information to be used for image analysis based on the photoelectric conversion information generated by the image sensor 212 of the imaging unit 210, and outputs this to the image information processing unit 222.
  • the acquisition information processing unit 221 specifies a light source of an information transmission source, sets a transmission source region for each light source, and luminance information indicating a corresponding time-series luminance change for each transmission source region set here.
  • the region information indicating the set transmission source region and the extracted luminance information are associated with each other and output to the identification information extraction unit 224 and the communication information processing unit 226.
  • the image information processing unit 222 performs image information processing such as color space conversion and angle of view adjustment necessary for outputting an image on the screen on the image information extracted by the acquired information processing unit 221 for display. Adjustments are made and output to the image superimposing unit 232.
  • the cache memory 223 holds a set of display information corresponding to an information transmission source in an image captured in the past and solid identification information that uniquely identifies the information transmission source.
  • the identification information extraction unit 224 indicates a time-series luminance change indicated by the luminance information extracted by the acquisition information processing unit 221 for each transmission source area indicated by the region information extracted by the acquisition information processing unit 221. By recognizing the bit as either “1” or “1”, the solid identification information is extracted for each source region.
  • the presence determination unit 225 determines whether or not the solid identification information exists in the cache memory 223 for each solid identification information extracted by the identification information extraction unit 224.
  • the communication information processing unit 226 extracts the identification information determined by the presence determination unit 225 by the acquisition information processing unit 221 for each transmission source region indicated by the region information extracted by the acquisition information processing unit 221. By recognizing the time-series luminance change indicated by the luminance information as one of bits “0” and “1”, the corresponding display information is extracted, and the display information is identified correspondingly. The information is stored in the cache memory 223 in combination with the information, and the corresponding display information is extracted from the cache memory 223 for the solid identification information determined to exist by the presence determination unit 225. The presence determination unit 225 determines whether solid identification information other than the solid identification information extracted by the identification information extraction unit 224 exists in the cache memory 223.
  • the priority setting unit 227 holds the solid identification information other than the solid identification information extracted by the identification information extraction unit 224 in the cache memory 223 when the presence determination unit 225 determines that the solid identification information exists. For each group, a cache priority is set as an index for determining the order in which the group is deleted according to the degree of whether or not the corresponding transmission source area is close to the shooting angle of view. Details will be described in the following operation column and usage example column.
  • the display information generation unit 231 determines superimposition information and its display mode based on the display information for each transmission source area extracted by the identification information extraction unit 224, and sends this information to the image superposition unit 232. Output toward.
  • the image superimposing unit 232 superimposes the superimposition information determined by the display information generating unit 231 on the image information subjected to the image information processing by the image information processing unit 222 and outputs the information to the display device 300. Display an image.
  • the image superimposing unit 232 may superimpose display information for each transmission source area in association with the position of each transmission source area. More specifically, for example, the corresponding display information is superimposed on the position of the transmission source region, the display information corresponding to the position of the transmission source region is connected by a line with an arrow, or the like, or A balloon is emitted from the position of the transmission source area, and the corresponding display information is described therein.
  • FIG. 2 is a diagram illustrating an example of a data format of communication information transmitted from the information transmission source 100 to the information display device 200 by the intensity of light.
  • “ ⁇ ” in the figure represents the traveling direction of time T.
  • the data format of communication information is composed of a preamble data part D10 and a data part D20, and is repeatedly output cyclically from the information transmission source 100.
  • the data stored in the preamble data portion D10 is data for recognizing that the information display device 200 is communication information including display information, and is a preamble that is fixed data representing the starting point of the data portion D20. Contains a pattern.
  • the data stored in the data part D20 includes a solid identification information storage part D21 and a display information storage part D22.
  • the data stored in the solid identification information storage unit D21 is solid identification information extracted by the identification information extraction unit 224.
  • the data stored in the display information storage unit D22 is display information extracted by the identification information extraction unit 224.
  • FIG. 3 is a diagram showing a series of procedures from the transmission source region detection process to the transmission source region information processing and the display processing for displaying the display information superimposed on the captured image in the present embodiment. is there.
  • Steps S1 to S7 are a procedure of a transmission source area detection process.
  • the acquired information processing unit 221 buffers a plurality of frame data corresponding to the number of bits of the preamble data unit D10 using the image of the image captured by the image sensor 212 as frame data (step S1).
  • step S1 In the plurality of frame data buffered in step S1, it is determined whether or not there is a light source whose luminance has changed (step S2).
  • step S2 When there is a light source whose luminance has changed (step S2: YES), the acquired information processing unit 221 compares the buffered frame data with the preamble pattern in the preamble data unit D10, and they match. It is determined whether or not to perform (step S3).
  • step S3 When there is no light source whose luminance has changed (step S2: NO) and when there is no match (step S3: NO), the acquired information processing unit 221 determines that there is no communication information and performs buffering. The frame data is discarded, and the process returns to buffering of frame data (step S1) (step S4).
  • step S3 If they match (step S3: YES), the acquired information processing unit 221 specifies that the light source that is changing in luminance is a light source that transmits communication information including display information, and performs image analysis. Image information to be used for extraction is extracted. Further, the central coordinates (Px, Py) on the image plane of the current transmission source area transmitting the frame data are calculated and temporarily stored together with the luminance information (step S5). (6) The image information processing unit 222 performs display adjustment on the image information extracted here (step S6).
  • Step S7 is a subroutine for performing transmission source area information processing, and details will be described separately in FIG.
  • Steps S8 to S10 are a superimposition processing procedure for superimposing and displaying display information on image information.
  • the display information generation unit 231 determines superimposition information and its display mode based on the display information for each transmission source area output in step S7 (step S8).
  • the image superimposing unit 232 superimposes the superimposition information determined in step S8 on the image information that has been adjusted for display in step S6 (step S9).
  • the image information on which the information is superimposed in step S9 is output to the display device 300 to display the image (step S10).
  • FIG. 4 is a diagram showing a series of procedures of a subroutine for performing transmission source area information processing in step S7.
  • the identification information extraction unit 224 sequentially acquires data of the number of bits corresponding to the identification information storage unit D21 illustrated in FIG. 2 for each transmission source region indicated by the region information extracted by the acquisition information processing unit 221. Thus, the solid identification information (ID) is restored and extracted (step S11). Note that the restoration process described in this specification is an example, and if the optical communication protocol is different, the restoration process corresponding to the protocol is performed.
  • the presence determination unit 225 determines whether solid identification information other than the solid identification information extracted by the identification information extraction unit 224 in step S11 exists in the cache memory 223. (Step S12).
  • step S13 is a subroutine for performing cache memory priority calculation processing, and details are described separately in FIG. (4)
  • the presence determination unit 225 performs the step For each solid identification information extracted by the identification information extraction unit 224 in S11, it is determined whether or not the solid identification information exists in the cache memory 223 (step S14).
  • step S14 When the solid identification information exists (step S14: YES), the center coordinates of the past transmission source region associated with the solid identification information are acquired from the cache memory 223, and step S5 in FIG.
  • the amount of movement of the transmission source on the image plane is calculated from the difference from the center coordinates of the current transmission source area calculated in (Step S15).
  • the angular velocity information (horizontal angular velocity ⁇ x, vertical angular velocity ⁇ y) in the photographing direction is acquired from the azimuth angle obtaining unit 250, and the variation amount (horizontal direction) in the photographing direction based on the angular velocity information and the photographing interval “t”.
  • “shooting direction” means the direction of the normal vector of the lens 211 mounted on the information display device 200.
  • the movement angle (variation amount) based on the normal vector when the image was taken in the past is represented by the horizontal direction angle ⁇ x and the vertical direction angle ⁇ y.
  • Step S18 Information for display associated with the individual identification information is acquired from the cache memory 223 (step S18).
  • the shooting coordinates (latitude X, longitude Y, altitude Z) are acquired from the position coordinate acquisition unit 240, and the position variation from the past shooting coordinates is calculated using the acquired coordinates. It is also possible to improve the distance accuracy by correcting the provisional distance D.
  • step S14: NO If the solid identification information does not exist (step S14: NO), the identification information extraction unit 224 sequentially acquires the data of the number of bits corresponding to the display information storage unit D22 shown in FIG. Is restored and extracted (step S19).
  • the communication information processing unit 226 acquires shooting coordinates (latitude X, longitude Y, altitude Z) from the position coordinate acquisition unit 240 (step S20).
  • the set with the photographing coordinates acquired in S20 is written in the cache memory 223 as information on a new transmission source (step S21).
  • the communication information processing unit writes information on a new transmission source in the empty area, and when there is no empty space in the cache memory 223, the cache information set in step S18.
  • Writing is performed so as to be erased from the cache memory in order from the group having the lowest priority. For example, in order from the group having the lowest cache priority to the group having the highest cache priority, the cache memory is arranged and stored in the real area or the virtual area, and new information is sequentially added from the area where the group having the lowest cache priority is stored. Overwrite.
  • FIG. 5 is a diagram showing a series of procedures of a subroutine for performing the priority calculation processing of the cache memory in step S18.
  • the priority setting unit 227 acquires from the cache memory 223 the provisional distance D and past transmission source region center coordinates when the transmission source region to be determined in step S14 is captured (step S31).
  • the shooting coordinates latitude X, longitude Y, altitude Z
  • the position fluctuation from the previous shooting is calculated, and from the shooting position to the transmission source.
  • the cache priority of the information stored in the cache memory 223 is calculated from the relationship between the estimated center coordinates of the current transmission source area obtained here and the imaging range of the information display device 200. Details will be described with reference to FIG. 6 (step S34).
  • the estimated center coordinates of the current source region are obtained by applying the triangulation method using the variation amount of the photographing direction and the past source region center coordinates on the image plane.
  • the current transmission source region center coordinates may be estimated by adding information such as a change in processing procedure or combination, elevation angle / depression angle information, and continuous movement information.
  • FIG. 6 is a diagram showing an overview of the priority calculation processing in step S34.
  • the priority setting unit 227 gives a cache priority to the corresponding information according to the degree to which the estimated center coordinates of the transmission source area obtained in step S33 are away from the imaging area. More specifically, for example, as shown in FIG. 6, the first priority area 11 having a size twice as large as that of the imaging area 10 in the X direction and the Y direction is virtually assumed around the imaging area 10. The highest cache priority is assigned to the information related to the transmission source A1 that is set in the first priority area 11 and outside the imaging area 10. In addition, a second priority area 12 that is three times larger than the imaging area 10 is virtually set in each of the X direction and the Y direction with the imaging area 10 as the center. The second highest cache priority is assigned to the information related to the transmission source A2 outside the first priority area 11.
  • a third priority area 13 that is four times as large as the imaging area 10 is virtually set in each of the X direction and the Y direction with the imaging area 10 as the center.
  • the third highest cache priority is given to the information related to the transmission source A3 outside the two priority area 12. Further, the lowest cache priority is given to the information regarding the transmission source A4 outside the third priority area 13.
  • the cache priority is set to four stages, but the number of stages can be changed as appropriate according to the implementation status.
  • the cache priority is lowered every time the estimated center coordinates of each transmission source area are separated from the imaging area by the reference distance, and conversely, the cache priority is raised every time the imaging area approaches the distance. That is, the cache priority is determined based on a value obtained by quantizing the distance from the angle of view in units of the reference distance. The reference distance can be changed as appropriate according to the implementation status.
  • any of the transmission sources reflected in the imaging area 10 at time t0 seconds is out of the imaging area at the time t1 seconds after shooting.
  • the estimated central coordinate of the transmission source area to be reached is the position of A1
  • the highest cache priority “4” is given to the information of the transmission source.
  • the cache priority is decremented and “ Update to 3 ”.
  • the frame of the priority area is changed so that the estimated central coordinates of the transmission source area are changed from the position A1 to the position A2, from the position A2 to the position A3, and from the position A3 to the position A4.
  • the cache priority of the corresponding transmission source information is decremented.
  • the estimated central coordinates of the transmission source area are from the position of A4 to the position of A3, from the position of A3 to the position of A2, and from the position of A2 to the position of A1, beyond the frame of the priority area, the imaging area
  • the cache priority of the corresponding source information is incremented.
  • the transmission source area moves from the position A0 in the imaging area 10 to the position A1
  • the actual data is held in the cache memory 223 and the highest cache priority is given.
  • the transmission source area moves from the position A1 to the position A0 in the imaging area 10
  • the actual data is called from the cache memory 223.
  • each transmission source held in the cache memory 223 is resumed when shooting is resumed.
  • Update cache priority represents the degree of whether or not information relating to each transmission source stored in the cache memory 223 is easily imaged again.
  • the cache priority of the information related to the transmission source existing in the position where the operator can easily take a picture such as the vicinity of the shooting range among the information related to the shot transmission source is kept high. Therefore, the cache priority is an effective index for determining the erasure order of the information on the transmission source stored in the cache memory 223 when the information on the new transmission source in step S21 in FIG. It can be.
  • the cache priority can be used as follows. 7 to 12 are diagrams showing an outline of usage examples of cache priorities. 7 to 12, when the photographer takes a picture of the periphery using the information display device 200 at a fixed position, the positional relationship between the photographing region and the transmission source, and information on the transmission source held in the cache memory are shown. It shows how the cache priority changes over time.
  • the imaging area 20 is 1920 ⁇ 1080 pix (pixels)
  • the cache priority fluctuation frame 21 is 3840 ⁇ 2160 pix centered on the imaging area
  • the cache priority fluctuation frame 22 is 5760 ⁇ 3240 pix centered on the imaging area. is there.
  • the cache priority is assumed to be three stages, and up to four pieces of information on the transmission source can be held.
  • FIG. 7 shows a shooting start state.
  • the transmission source A and the transmission source B exist in the imaging area 20, and the cache memory 30 is empty.
  • information a regarding the transmission source A is acquired from the transmission source A
  • information b regarding the transmission source B is acquired from the transmission source B.
  • FIG. 8 shows a state where the photographer slides the information display device 200 in the right direction.
  • the transmission source A and the transmission source C exist in the imaging region 20.
  • the transmission source C since the transmission source C newly enters the imaging region 20, the information c regarding the transmission source C is acquired from the transmission source C.
  • the transmission source B existing in the imaging region 20 in FIG. 7 is out of the imaging region, information b regarding the transmission source B acquired from the transmission source B is stored in the cache memory 30 as shown in FIG. .
  • the cache priority “3” which is the highest cache priority is given.
  • FIG. 9 shows a state where the photographer slides the information display device 200 upward.
  • the transmission source D exists in the imaging region 20.
  • the transmission source D since the transmission source D newly enters the imaging region 20, information d regarding the transmission source D is acquired from the transmission source D.
  • the cache memory 30 stores the transmission source A acquired from the transmission source A as shown in FIG.
  • Information a and information c regarding the transmission source C acquired from the transmission source C are stored.
  • the estimated central coordinates of the transmission source B and the transmission source C are within the cache priority fluctuation frame 21, so that the cache priority “3” is assigned to each. Is done.
  • the cache priority “2” is given.
  • FIG. 10 shows a state in which the photographer slides the information display device 200 leftward.
  • a transmission source E and a transmission source F exist in the imaging region 20.
  • the information e regarding the transmission source E is acquired from the transmission source E
  • the information f regarding the transmission source F is acquired from the transmission source F.
  • the transmission source D existing in the imaging region 20 in FIG. 9 is out of the imaging region, information d regarding the transmission source D acquired from the transmission source D is stored in the cache memory 30 as shown in FIG. .
  • the estimated central coordinates of the transmission source B and the transmission source D are within the cache priority fluctuation frame 21, and thus a cache priority “3” is assigned to each.
  • the cache priority “2” is given, and Since the estimated center coordinates are not within the cache priority fluctuation frame 22, the cache priority “1” is given.
  • FIG. 11 shows a state where the photographer slides the information display device 200 downward.
  • the transmission source F and the transmission source G exist in the imaging region 20.
  • information g regarding the transmission source G is acquired from the transmission source G.
  • the transmission source E existing in the imaging region 20 in FIG. 10 is out of the imaging region, information e regarding the transmission source E acquired from the transmission source E is stored in the cache memory 30 as shown in FIG. .
  • the cache memory 30 already stores information about the four transmission sources and there is no free area, the search processing of the transmission source with the lowest priority is performed, and the information to be deleted is stored. decide.
  • the cache priority “3” is given.
  • the cache priority “2 ”And the estimated center coordinates of the transmission source C are not within the cache priority fluctuation frame 22, and therefore, the cache priority“ 1 ”is assigned. Therefore, the information c regarding the transmission source C having the lowest priority is determined as information to be deleted, and the information e is overwritten on the area where the information c on the cache memory 30 is stored.
  • FIG. 12 shows a state where the photographer slides the information display device 200 in the right direction.
  • the transmission source F, the transmission source G, and the transmission source B exist in the imaging region 20.
  • the transmission source B newly enters the imaging region 20, but the information b regarding the transmission source B is stored in the cache memory 30, so the information b is acquired from the cache memory 30.
  • each cache priority is incremented and a cache priority “3” is given.
  • Each functional block such as the unit 232, the position coordinate acquisition unit 240, and the azimuth angle acquisition unit 250 is typically realized as an LSI that is an integrated circuit. These may be individually made into one chip, or may be made into one chip so as to include a part or all of them.
  • the name used here is LSI, but it may also be called IC, system LSI, super LSI, or ultra LSI depending on the degree of integration.
  • circuit integration is not limited to LSI's, and implementation using dedicated circuitry or general purpose processors is also possible.
  • An FPGA Field Programmable Gate Array
  • a reconfigurable processor that can reconfigure the connection and setting of circuit cells inside the LSI may be used.
  • integrated circuit technology comes out to replace LSI's as a result of the advancement of semiconductor technology or a derivative other technology, it is naturally also possible to carry out function block integration using this technology. Biotechnology can be applied as a possibility.
  • ⁇ Summary> by assigning a cache priority based on the relationship between the shooting range, shooting coordinates, and change in shooting direction, from the shooting range within the transmission source once shot.
  • a high cache priority can be given to information relating to a transmission source close to the shooting angle of view that is out of position but is easily reentered in the shooting range. Therefore, by improving the responsiveness of information superimposed on the display image and improving the cache utilization rate, the information display time when the information source enters the imaging range again can be shortened, and the cost can be reduced. it can.
  • the determination of the assignment of the cache priority in the first embodiment is combined with the prediction of the movement characteristics of the transmission source within the imaging range.
  • the cache priority of the transmission source can be given using the coordinates of the transmission source corrected according to the movement characteristic prediction of the transmission source within the imaging range.
  • FIG. 13 is a diagram illustrating an outline of a functional configuration of the information display system 2 according to the second embodiment.
  • the information display system 2 shown in FIG. 13 includes an information transmission source 100, an information display device 400, and a display device 300.
  • the same number is attached
  • the information display device 400 is obtained by adding a movement characteristic prediction unit 428 to the configuration of the information display device 200 in the first embodiment. Further, with the addition of the movement characteristic prediction unit 428, the information processing unit 220 is replaced with the information processing unit 420.
  • the movement characteristic prediction unit 428 predicts the movement characteristic of the transmission source within the imaging range, and the transmission source region and the solid identification information input from the acquired information processing unit 221 are already stored in the cache memory 223. When it matches the solid identification information, the movement characteristic is predicted from the change in the coordinates and area of the transmission source. Details will be described in the following operation column.
  • FIG. 14 is a diagram showing a series of procedures of a subroutine for performing transmission source area information processing in step S7 in FIG.
  • the same number is attached
  • (1)-(2) Same as (1)-(2) in the description of FIG. 4 (steps S11-S12).
  • step S13 The difference between the shooting time of the transmission source input from the presence determination unit 225 and the shooting time of the transmission source acquired from the cache memory 223 is multiplied by the movement characteristic calculated by the transmission source movement characteristic prediction process.
  • the current position of the transmission source is predicted, and the coordinates of the transmission source having the corresponding individual identification information stored in the cache memory 223 are corrected based on the predicted value (step S41).
  • the priority calculation process of step S13 is performed using the coordinates of the transmission source corrected here.
  • FIG. 15 is a diagram showing a series of procedures of a subroutine for performing the source movement characteristic prediction process in step S42 in FIG.
  • the movement characteristic prediction unit 428 acquires from the cache memory 223 the coordinates and area of the transmission source region having the solid identification information input from the acquisition information processing unit 221 (step S51). (2) The ratio of increase / decrease between the area of the transmission source region input from the acquired information processing unit 221 and the area of the transmission source region acquired from the cache memory 223 is calculated, the movement direction in the front-rear direction is determined, and the movement characteristics The amount of movement in the front-rear direction is calculated by comparing the increase / decrease ratio of the area and the reference value of the movement amount that the prediction unit 428 holds in advance with the increase / decrease ratio of the area of the transmission source area obtained here (step) S52).
  • Step S53 From the difference between the coordinates of the transmission source area input from the acquired information processing unit 221 and the coordinates of the transmission source area acquired from the cache memory 223, the movement direction and movement amount in the image plane upward direction are calculated ( Step S53).
  • the movement characteristic prediction unit 428 indicates the movement direction in the front-rear direction, the movement direction in the upper direction on the image plane, and the movement amount of the transmission source region input from the acquired information processing unit 221.
  • the temporary movement direction and the temporary movement amount of the transmission source per unit time are calculated as temporary movement characteristics of the transmission source. (Step S54).
  • the movement characteristic prediction unit 428 acquires from the cache memory 223 the shooting coordinates and shooting direction when the transmission source having the solid identification information input from the acquisition information processing unit 221 is shot (step S55). .
  • the current shooting coordinates and shooting direction are acquired from the position coordinate acquisition unit 240 and the azimuth angle acquisition unit 250, respectively (step S56).
  • the rotation direction and the rotation amount are calculated from the difference between the shooting direction acquired from the cache memory 223 and the current shooting direction, and the moving direction is calculated from the difference between the shooting coordinate acquired from the cache memory 223 and the current shooting coordinate. And the movement amount are calculated.
  • the rotation direction, the rotation amount, the movement direction, and the movement amount obtained here are added, respectively, and this is acquired from the shooting time of the transmission source area input from the acquisition information processing unit 221 and the cache memory 223.
  • the temporary movement direction and the temporary movement amount of the information display device 400 per unit time are calculated as the temporary movement characteristics of the information display device 400 (step S57).
  • the movement characteristic predicting unit 428 corrects the temporary movement characteristic of the corresponding transmission source calculated in step S54 by adding the temporary movement characteristic of the information display device 400 calculated in step S57, so that per unit time of the transmission source. The movement direction and amount of movement are predicted, and this is used as the movement characteristic of the transmission source (step S58). (9) The movement characteristic prediction unit 428 updates the corresponding transmission source information in the cache memory 223 by using the movement characteristic of the corresponding transmission source predicted here (step S59).
  • the prediction method of the movement characteristic in this embodiment is an example, For example, you may estimate a movement characteristic using a triangulation method and continuous movement information, and the outside (information transmitted from the transmission source) The movement characteristics may be obtained from
  • the cache priority of the transmission source can be given using the coordinates of the transmission source corrected according to the movement characteristic prediction of the transmission source within the imaging range.
  • the cache priority becomes higher when the shooting coordinates and shooting direction follow the predicted movement position after the moving transmission source is out of the shooting range.
  • the communication information processing unit 226 displays not only information related to a transmission source within the imaging range but also information related to a transmission source outside the imaging range. It is also possible to process. For example, based on the cache priority assigned by the priority setting unit 227, the display information generation unit 231 is processed such that the positional relationship between the information display device and the transmission source is closer as the cache priority is higher. Can be output. At this time, the display information generation unit 231 generates display information in a list format based on the information input from the communication information processing unit 221, and superimposes the display information and the information on the transmission source region on the image. To the unit 232.
  • the image superimposing unit 232 determines from the information on the transmission source region input from the display information generating unit 231 that the display information input at the same time is display information related to the transmission source outside the imaging range. . Then, the image superimposing unit 232 displays the display related to the transmission source outside the imaging range input from the display information generating unit 231 on the list outside the frame of the image information subjected to image processing input from the image information processing unit 222. The information is combined and output to the display unit 18.
  • the display device 300 can display both the image-processed image information and the display information related to the transmission source outside the imaging range arranged on the list outside the frame for the composite image input from the image superimposing unit 232. Adjust the brightness and size to display.
  • the communication information processing unit 226, the display information generation unit 231, the image superimposing unit 232, and the display device 300 have the cache priority given by the priority setting unit 227 to the information of the transmission source outside the imaging range. It is also possible to display based on
  • FIG. 16 shows a screen displayed on the display device 300 by combining display information related to a transmission source outside the imaging range extracted by the communication information processing unit 226 outside the frame of the image captured by the imaging unit 210. It is a figure which shows the example of.
  • an image 41 based on image information that has been subjected to image processing, and display information 42 related to a transmission source outside the imaging range are displayed on the list outside the frame of the image 41.
  • the preamble data part D10 and the data part D20 are cyclically transmitted as an example of the data format of information transmitted from the information transmission source 100. Showed that.
  • each division information is actually stored in the display information storage section D22 shown in FIG. 2, and the same solid identification information is stored in each solid identification information storage section D21.
  • Each packet includes division position data indicating which position in the original information corresponds to each packet.
  • the cache memory 223 further holds a set of display information, identification information, and division position information.
  • the identification information extraction unit 224 further extracts division position data.
  • the presence determination unit 225 further determines whether or not the division position data exists in the cache memory 223 for each division position data extracted by the identification information extraction unit 224.
  • the communication information processing unit 226 received only the packet storing the insufficient division information based on the change in luminance using the division position data extracted by the identification information extraction unit 224, and was insufficient.
  • the division information is extracted and the original information before the division is restored.
  • the communication information processing unit 226 uses the division position data to store the two pieces of division information that are insufficient. It is possible to receive only two pieces of information, acquire two pieces of divided information, and restore the original information before the division from the three pieces of divided information.
  • the communication information processing unit 226 can know from the division position data that the information obtainable from the cache memory 223 is the division information corresponding to a part of the entire information obtainable from one transmission source. It is also possible to acquire only the division information that is not held in the cache memory 223 from the transmission source, and to connect the division information that is held in the cache memory 223 and the division information that is newly acquired from the transmission source. .
  • the information display device, the display control integrated circuit, and the display control method according to the present invention can be used for a digital camera, a mobile phone, a notebook PC, or the like having a function of displaying a captured image, and is superimposed on the display image. Therefore, the industrial use value is extremely high.
  • DESCRIPTION OF SYMBOLS 100 Information transmission source 110 Identification information recording part 120 Communication data generation part 130 Modulator 140 Light source for transmission 200 Information display apparatus 210 Imaging part 211 Lens 212 Image sensor 220 Information processing part 221 Acquisition information processing part 222 Image information processing part 223 Cache memory 224 Identification information extraction unit 225 Presence determination unit 226 Communication information processing unit 227 Priority setting unit 230 Display control unit 231 Display information generation unit 232 Image superimposition unit 240 Position coordinate acquisition unit 250 Direction angle acquisition unit 300 Display device 400 Information display device 428 Movement characteristic prediction unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Abstract

 情報表示装置は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する。情報表示装置は、撮影範囲内の画像を撮像する撮像部と、画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える。

Description

情報表示装置、表示制御用集積回路、及び表示制御方法
 本発明は、時系列的に撮像される画像に表示用の情報を重ねて表示させる情報表示装置に関し、より特定的には、キャッシュメモリを有効に活用し、装置全体のパフォーマンスを上げるための技術に関する。
 イメージセンサを用いて、撮像範囲内の情報発信源(光源)から、可視光通信で得た情報を撮像画像に重畳してユーザに表示する装置が知られている。特許文献1には、店頭に並べられた商品の陳列棚や市中の広告看板などに併設された情報発信源から、輝度変化による商品や広告看板に適合した内容の提示情報が発信され、撮像装置が、画像を時系列的に撮像し、画像領域毎の輝度変化からそれぞれ提示情報を抽出し、抽出した提示情報を撮像した画像に重畳して表示することにより、情報提示対象品とその提示情報との対応関係を明確にして情報把握の誤解をなくすことができると記載されている。
 しかし、このような撮像装置は、撮影範囲に入った情報発信源(光源)からしか情報取得できない。そのため、光源からの情報が大きいと、撮影してから情報を重畳表示するまでに一定時間待つ必要がある。撮影者が移動しながら撮影を行っているような場合には、撮影範囲が変化し、情報発信源の入れ替わりが頻繁に発生する。ここで撮影範囲が変化して、新しい情報発信源が撮影されたときには通信処理が発生し、当然ながらこの処理が完了するまでは新しい情報発信源に関する提示情報を表示することができない。
 ところが、同じ情報発信源が撮影範囲に入ったり撮影範囲から外れたりといったことが頻繁に起こると、情報発信源が撮影範囲に入る度に同じ情報を取得するために通信処理が発生して待ち時間が生じることになり、装置全体のパフォーマンスを下げてしまうという問題が発生する。このような問題を解決するには、例えば撮影範囲に入ったときに情報発信源から取得した提示情報を撮影範囲から外れてもキャッシュメモリに保存しておき、再び同じ情報発信源が撮影範囲に入ったときには、キャッシュメモリから提示情報を読み出して再利用するという方法が知られている。
 また、高速且つ高精度にて光軸調整することができる光無線伝送システムが特許文献2に開示されている。特許文献2には、天井などに設置された親機が信号伝送用の狭指向性光と光軸合わせ用の広指向性光とを同軸で制御して送信し、デスクなどに置かれた光無線伝送装置が第1の方向検出部により高速に親機の位置を特定し、第2の方向検出部により高精度に親機の位置を特定することにより、コストアップを招くことなく装置の小型化をはかることができ、光通信における光軸調整を高速且つ高精度に行うことができると記載されている。
特開2001-245253号公報 特開2004-349797号公報
 上記キャッシュメモリを用いる方法においては、一般にキャッシュに用いるメモリの容量が決まっているので、キャッシュメモリを有効に活用するために、キャッシュされた時間が最も古い情報やアクセス回数の最も少ない情報が記憶された領域から順に、新しい情報が上書きされて記録され、以前の情報は順次消去される。ユーザが移動しながら撮影すると、撮影範囲の変化に伴って撮影される光源も変化し、同じ光源も繰り返し撮影される。一度撮影した光源をキャッシュすることで再取得時の表示時間短縮や通信コスト削減が可能だが、従来のようなキャッシュ方法(FIFOやLILOなど)では、一定方向への移動などの特定の条件下でしか効力がない。
 例えば、キャッシュされた情報のうちの、時間が古い情報ほど優先度を低く(キャッシュから消去されやすく)する場合、撮影者が右方向に移動しながら市中を撮影している途中で撮影を一時停止した状態にすると、一時停止した場所から左方向に離れた情報発信源であるほどその情報発信源に関する情報の優先度が低くなる。そこで引き続き一時停止前に撮影した箇所よりも左側から撮影を再開し、再び右方向に移動しながら撮影すると、撮影範囲に近い情報発信源に関する情報の優先度が、撮影範囲から遠い情報発信源に関する情報の優先度よりも低い状態となる。
 従って、撮影範囲に近い情報発信源に関する情報であっても撮影された順番が古い場合は、すぐにでも撮影範囲に入るかもしれないにもかかわらず、真っ先にキャッシュメモリから消去されてしまい、再度撮影範囲に入っても情報表示まで初回撮影時と同等の通信時間およびコストがかかるという大変望ましくない状態となる。このように一時停止をはさみながら近辺で撮影を繰り返すような場合には、キャッシュメモリを有効に活用することができない状態となることがある。
 そしてこのような状態になると、一度取得した情報を再度取得するために通信処理が発生して待ち時間が生じる可能性が高くなり、応答性やメモリ効率が低下し装置全体のパフォーマンスが下がってしまう。そしてこのような状態においても十分なパフォーマンスを確保しようとすれば、処理速度が速い高性能な構成を備える必要が生じ、コストが増大してしまうという問題がある。
 また、特許文献2の光無線伝送システムにおいては、ユーザが手に持って歩きながら使用するようなモバイル機器に適用する場合を想定すると、受光部の方向や位置がダイナミックに変動するため、段階的に光軸を合わせることが大変難しくなるので実用的ではない。
 それ故に、本発明は、一度撮影された光源のキャッシュヒット率を上げてユーザの表示待ち時間及び通信コストを削減することができる情報表示装置、表示制御用集積回路、及び表示制御方法を提供することを目的とする。
 本発明は、情報表示装置、表示制御用集積回路、及び表示制御方法に向けられている。そして上記課題を解決するために、本発明の情報表示装置は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置であって、撮影範囲内の画像を撮像する撮像部と、画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える。
 好ましくは、情報表示装置において、優先度設定部は、現在の撮影範囲に近い光源か否かを、現在の撮影範囲の中心から光源の中心までの距離の値、又は、距離を量子化した値が小さいか否かで判断するとよい。
 好ましくは、情報表示装置は、さらに、画像内にある光源の座標と面積の変化から移動特性を予測する移動特性予測部を備え、優先度設定部は、移動特性に基づいて光源の中心の座標を補正し、現在の撮影範囲の中心から補正した光源の中心の座標までの距離が近いか否かで、現在の撮影範囲に近い光源か否かを判断するとよい。
 好ましくは、情報表示装置は、キャッシュメモリにキャッシュされている光源の中で優先度が高く、かつ、現在の撮影範囲外にある光源の光源情報についても、画面に表示するとよい。
 また上記課題を解決するために、本発明の情報表示方法は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示方法であって、撮影範囲内の画像を撮像するステップと、画像内にある光源から送られてくる光源情報を逐次キャッシュメモリにキャッシュするステップと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していくステップと、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していくステップとを備える。
 また上記課題を解決するために、本発明の集積回路は、可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置に用いられる集積回路であって、撮影範囲内の画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える。
 以上のように、本発明によれば、一度撮影された光源のキャッシュヒット率を上げてユーザの表示待ち時間及び通信コストを削減することができる情報表示装置、表示制御用集積回路、表示制御プログラム、及び表示制御方法を提供できる。
図1は、第1の実施形態における情報表示システム1の機能構成の概要を示す図である。 図2は、情報発信源100から情報表示装置200へ向けて光の強弱により発信される、通信情報のデータフォーマットの一例を示す図である。 図3は、本実施形態における、発信源領域検出処理から、発信源領域情報処理、及び、表示用の情報を撮影した画像に重畳して表示させる表示用処理までの一連の手順を示す図である。 図4は、ステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。 図5は、ステップS18のキャッシュメモリの優先度算出処理を行うサブルーチンの一連の手順を示す図である。 図6は、ステップS34の優先度算出処理の概要を示す図である。 図7は、キャッシュ優先度の利用例の概略を示す図(その1)である。 図8は、キャッシュ優先度の利用例の概略を示す図(その2)である。 図9は、キャッシュ優先度の利用例の概略を示す図(その3)である。 図10は、キャッシュ優先度の利用例の概略を示す図(その4)である。 図11は、キャッシュ優先度の利用例の概略を示す図(その5)である。 図12は、キャッシュ優先度の利用例の概略を示す図(その6)である。 図13は、第2の実施形態における情報表示システム2の機能構成の概要を示す図である。 図14は、図3におけるステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。 図15は、図14におけるステップS42の発信源移動特性予測処理を行うサブルーチンの一連の手順を示す図である。 図16は、撮像部210により撮像された画像の枠外に、通信情報処理部226により抽出された撮像範囲外の発信源に関連する表示用情報を合成して、表示デバイス300に表示させた画面の例を示す図である。
 [第1の実施形態]
  <概要>
 第1の実施形態における情報表示装置200は、光源の位置(撮影画角中心からの相対距離を算出)と光源からの通信内容、撮影条件(撮影角度、撮影方向、移動方向、移動量)をキャッシュしておき、常に、光源の位置を更新しつつ、一度撮影された発信源の中で、撮影範囲からは外れているが撮影範囲に容易に再入する位置にある撮影画角に近い発信源に関する情報に対して高いキャッシュ優先度を付与するものである。第1の実施形態によれば、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができる。
  <構成>
 図1は、第1の実施形態における情報表示システム1の機能構成の概要を示す図である。
 図1に示す情報表示システム1は、情報発信源100、情報表示装置200、及び表示デバイス300から構成されている。
 情報発信源100は、店頭に並べられた商品の陳列棚や市中の広告看板などに併設された据え置き型の電子機器であり、表示用の情報を光源情報として発信する機能を有し、識別情報記録部110、通信データ生成部120、変調器130、及び発信用光源140を含む。
 情報表示装置200は、例えば、デジタルカメラやカメラ付き携帯電話などの撮像機能を備えた携帯電子機器であり、光無線通信で表示用の情報を得て、撮影した映像に表示用の情報を重畳して表示させる機能を有し、撮像部210、情報処理部220、表示制御部230、位置座標取得部240、及び方位角度取得部250を備える。
 表示デバイス300は、液晶モニタ等の画像表示装置である。
 識別情報記録部110は、情報発信源を一意に特定する固体識別情報を記録する。ここで、隣接する複数の情報発信源100の識別情報記録部110がそれぞれ同一の固体識別情報を記録する場合があり、このような場合には、同一の固体識別情報を記録する複数の情報発信源100は、同じタイミングで同一の情報を発信し、これらを同一の情報発信源として取り扱うことができるものとする。
 通信データ生成部120は、情報表示装置200において表示させるべき、表示用の情報を生成する。
 変調器130は、識別情報記録部110に記録された固体識別情報と、通信データ生成部120により生成された表示用の情報とを電気信号に変換する。
 発信用光源140は、LEDや蛍光灯などの、ある程度以上の比較的強度のある光を発信できるデバイスであり、変調器130により変換された電気信号を用いて、情報表示装置200に向けて、光の強弱により固体識別情報と表示用の情報とを含む通信情報を発信する。
 撮像部210は、画像を時系列的に撮像するものであり、入力する光の結像状態を調整するレンズ211と、レンズ211を通して取得した光の強弱を電気信号に変換して光電変換情報を生成し、これを順次情報処理部220へ向けて出力することによって画像を撮像するイメージセンサ212とを含む。なお、ここでは光電変換素子としてイメージセンサを用いたが、これに限られるものではなく、光の強弱を輝度情報として電気信号に変換することができれば何であってもよい。例えば、撮像部210は、イメージセンサ212の代わりに、2次元平面に配列されたフォトダイオードを含んでいてもよい。
 情報処理部220は、撮像部210により撮像された画像の中から、時間の経過とともに輝度が所定のパターンで変化する発信源領域を全て特定し、ここで特定した1又は複数の発信源領域から、発信源領域毎の輝度の変化に基づいて、発信源領域毎に通信情報を抽出するものであり、取得情報処理部221、画像情報処理部222、キャッシュメモリ223、識別情報抽出部224、存在判定部225、通信情報処理部226、及び優先度設定部227を含む。
 表示制御部230は、情報処理部220により抽出された領域毎の通信情報に含まれる表示用の情報を、撮像部210により撮像された画像に重畳して、輝度やサイズなどを調整して外部の表示デバイス300に表示させるものであり、表示用情報生成部231、及び画像重畳部232を含む。
 位置座標取得部240は、例えばGPSなどの絶対位置を取得することができる機能を備え、現在の撮影座標を取得する。
 方位角度取得部250は、例えばジャイロなどの方位や角度等を取得することができる機能を備え、現在の撮影方向を取得する。
 取得情報処理部221は、撮像部210のイメージセンサ212により生成された光電変換情報に基づいて、画像解析に用いるための画像情報を抽出して、これを画像情報処理部222へ向けて出力する。また取得情報処理部221は、情報発信源の光源を特定して光源毎に発信源領域を設定し、ここで設定した発信源領域毎に、対応する時系列的な輝度の変化を示す輝度情報を抽出して、設定した発信源領域を示す領域情報と、抽出した輝度情報とを対応付けて識別情報抽出部224、及び通信情報処理部226へ向けて出力する。
 画像情報処理部222は、取得情報処理部221により抽出された画像情報に対して、画像を画面に出力するために必要な色空間変換や画角調整などの画像情報処理を施して表示用の調整を施し、これを画像重畳部232へ向けて出力する。
 キャッシュメモリ223は、過去に撮像された画像中の情報発信源に対応する表示用の情報と、当該情報発信源を一意に特定する固体識別情報との組を保持する。
 識別情報抽出部224は、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、取得情報処理部221により抽出された輝度情報が示す時系列的な輝度の変化を、‘0’と‘1’のいずれかのビットとして認識することによって、発信源領域毎に固体識別情報を抽出する。
 存在判定部225は、識別情報抽出部224により抽出された固体識別情報毎に、当該固体識別情報がキャッシュメモリ223に存在するか否かを判定する。
 通信情報処理部226は、存在判定部225により存在しないと判定された固体識別情報に関しては、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、取得情報処理部221により抽出された輝度情報が示す時系列的な輝度の変化を、‘0’と‘1’のいずれかのビットとして認識することによって、対応する表示用の情報を抽出し、当該表示情報を対応する識別情報と組にしてキャッシュメモリ223に保存し、存在判定部225により存在すると判定された固体識別情報に関しては、キャッシュメモリ223から対応する表示用の情報を抽出する。
 また存在判定部225は、識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在するか否かを判定する。
 優先度設定部227は、識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在すると、存在判定部225において判定された場合にキャッシュメモリ223に保持されている組毎に、対応する発信源領域が、撮影画角に近いか否かの度合いに応じて、当該組を消去する順序を決める際の指標となるキャッシュ優先度を設定する。詳細は以下の動作の欄、及び使用例の欄において説明する。
 表示用情報生成部231は、識別情報抽出部224により抽出された発信源領域毎の表示用の情報に基づいて、重畳用の情報とその表示態様とを決定し、これを画像重畳部232に向けて出力する。
 画像重畳部232は、画像情報処理部222により画像情報処理を施された画像情報に、表示用情報生成部231により決定された重畳用の情報を重畳し、これを表示デバイス300へ向けて出力して、画像を表示させる。
 なお画像重畳部232は、発信源領域毎の表示用の情報を、それぞれの発信源領域の位置に関連付けて重畳してもよい。より具体的には、例えば発信源領域の位置に重ねて対応する表示用の情報を重畳したり、発信源領域の位置と対応する表示用の情報とを矢印付きの線等で繋いだり、あるいは発信源領域の位置から吹き出しを出してその中に対応する表示用の情報を記載する。
 図2は、情報発信源100から情報表示装置200へ向けて光の強弱により発信される、通信情報のデータフォーマットの一例を示す図である。ここで図中の“→”は時間Tの進行方向を表している。
 図2に示すように、通信情報のデータフォーマットは、プリアンブルデータ部D10とデータ部D20とにより構成され、情報発信源100から繰り返し巡回的に出力される。
 プリアンブルデータ部D10に格納されるデータは、情報表示装置200において、表示用の情報を含む通信情報であることを認識するためのデータであり、データ部D20の始点を表す固定のデータであるプリアンブルパターンを含んでいる。
 データ部D20に格納されるデータは、固体識別情報格納部D21、及び表示用情報格納部D22により構成されている。
 固体識別情報格納部D21に格納されるデータは、識別情報抽出部224により抽出される固体識別情報である。
 表示用情報格納部D22に格納されるデータは、識別情報抽出部224により抽出される表示用の情報である。
  <動作>
 図3は、本実施形態における、発信源領域検出処理から、発信源領域情報処理、及び、表示用の情報を撮影した画像に重畳して表示させる表示用処理までの一連の手順を示す図である。
 ステップS1~ステップS7は、発信源領域検出処理の手順である。
 (1)取得情報処理部221が、イメージセンサ212により撮像された画像のイメージをフレームデータとして、プリアンブルデータ部D10のビット数に相当する複数のフレームデータをバッファリングする(ステップS1)。
 (2)ステップS1においてバッファリングした複数のフレームデータにおいて、輝度変化している光源が有るか否かを判断する(ステップS2)。
 (3)輝度変化している光源が有る場合に(ステップS2:YES)、取得情報処理部221が、バッファリングしたフレームデータとプリアンブルデータ部D10中のプリアンブルパターンとを比較して、これらが一致するか否かを判断する(ステップS3)。
 (4)輝度変化している光源が無い場合(ステップS2:NO)、及び一致しない場合に(ステップS3:NO)、取得情報処理部221が、通信情報はないと判断して、バッファリングしたフレームデータを破棄し、フレームデータのバッファリング(ステップS1)へ戻る(ステップS4)。
 (5)一致する場合に(ステップS3:YES)、取得情報処理部221が、輝度変化をしている光源が、表示用の情報を含む通信情報を発信する光源であると特定し、画像解析に用いるための画像情報を抽出する。また、フレームデータを発信している現在の発信源領域の画像平面上における中心座標(Px,Py)を計算して、輝度情報と共に一時格納する(ステップS5)。
 (6)画像情報処理部222が、ここで抽出された画像情報に対して表示用の調整を施す(ステップS6)。
 (7)発信源領域毎に発信源領域情報処理を行い、表示用の情報を出力する(ステップS7)。なお、ステップS7は、発信源領域情報処理を行うサブルーチンであり、詳細は図4において別途記載する。
 ステップS8~ステップS10は、画像情報に表示用の情報を重畳して表示させる重畳処理の手順である。
 (8)表示用情報生成部231が、ステップS7において出力された発信源領域毎の表示用の情報に基づいて、重畳用の情報とその表示態様とを決定する(ステップS8)。
 (9)画像重畳部232が、ステップS6において表示用の調整を施された画像情報に、ステップS8により決定された重畳用の情報を重畳する(ステップS9)。
 (10)ステップS9において情報を重畳した画像情報を表示デバイス300へ向けて出力して、画像を表示させる(ステップS10)。
 図4は、ステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。
 (1)識別情報抽出部224が、取得情報処理部221により抽出された領域情報が示す発信源領域毎に、図2に示した識別情報格納部D21に相当するビット数のデータを順次取得して、固体識別情報(ID)を復元して抽出する(ステップS11)。なお、本明細書において記載した復元処理は一例であり、光通信のプロトコルが異なれば、これに応じた復元処理が行われる。
 (2)存在判定部225が、ステップS11において識別情報抽出部224により抽出された固体識別情報以外の固体識別情報がキャッシュメモリ223に存在するか否かを判定する。(ステップS12)。
 (3)抽出された固体識別情報以外の固体識別情報が存在する場合(ステップS12:YES)は、キャッシュメモリの優先度算出処理を行う(ステップS13)。
 なお、ステップS13は、キャッシュメモリの優先度算出処理を行うサブルーチンであり、詳細は図5において別途記載する。
 (4)キャッシュメモリの優先度算出処理(ステップS13)の終了後、あるいは、抽出された固体識別情報以外の固体識別情報が存在しない場合(ステップS12:NO)は、存在判定部225が、ステップS11において識別情報抽出部224により抽出された固体識別情報毎に、当該固体識別情報がキャッシュメモリ223に存在するか否かを判定する(ステップS14)。
 (5)固体識別情報が存在する場合(ステップS14:YES)は、キャッシュメモリ223から、当該固体識別情報に対応付けられた過去の発信源領域の中心座標を取得して、図3のステップS5において計算した現在の発信源領域の中心座標との差分から、発信源の画像平面上における移動量(x軸方向dx,y軸方向dy)を算出する(ステップS15)。
 (6)方位角度取得部250から撮影向きの角速度情報(水平方向角速度ωx、垂直方向角速度ωy)を取得し、当該角速度情報と撮影間隔「t」とに基づいて撮影向きの変動量(水平方向角度θx=ωx×t、垂直方向角度θy=ωy×t)を算出する(ステップS16)。
 ここで「撮影向き」とは、情報表示装置200に搭載されているレンズ211の法線ベクトルの方向を意味している。ステップS16では、過去に撮影したときの法線ベクトルを基準とした移動角度(変動量)を水平方向角度θxと垂直方向角度θyで表している。
 (7)ステップS15において算出した画像平面上における移動量と、ステップS16において算出した撮影向きの変動量とに基づいて、三角測量方式を用いて、撮影位置から発信源までの仮距離D(=dx÷tanθx=dy÷tanθy)を算出する(ステップS17)。
 (8)キャッシュメモリ223から、当該固体識別情報に対応付けられた表示用の情報を取得する(ステップS18)。
 なお、ここで位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得して、これを用いて過去の撮影座標からの位置変動を算出することにより、撮影位置から発信源までの仮距離Dを修正して距離精度を高めることもできる。
 (9)固体識別情報が存在しない場合(ステップS14:NO)は、識別情報抽出部224が図2に示した表示用情報格納部D22に相当するビット数のデータを順次取得して、表示用の情報を復元して抽出する(ステップS19)。
 (10)通信情報処理部226が、位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得する(ステップS20)。
 (11)通信情報処理部が、ステップS11において抽出された固体識別情報と、ステップS19において抽出した表示用の情報と、図3のステップS5において計算した現在の発信源領域の中心座標と、ステップS20において取得した撮影座標との組を、新たな発信源に関する情報としてキャッシュメモリ223に書き込む(ステップS21)。
 ここで、通信情報処理部は、キャッシュメモリ223に空きがある場合には、空き領域に新たな発信源に関する情報を書き込み、キャッシュメモリ223に空きが無い場合には、ステップS18において設定されたキャッシュ優先度が低い組から順に、キャッシュメモリから消去されるように書き込みを行う。例えば、キャッシュ優先度が低い組から高い組まで順番に、キャッシュメモリの実領域、あるいは仮想領域上に並べて記憶しておき、キャッシュ優先度が最も低い組が記憶された領域から、順に新しい情報を上書きする。
 図5は、ステップS18のキャッシュメモリの優先度算出処理を行うサブルーチンの一連の手順を示す図である。
 (1)優先度設定部227が、キャッシュメモリ223から、ステップS14における判定の対象となる発信源領域を撮影したときの仮距離Dと過去の発信源領域中心座標とを取得する(ステップS31)。
 (2)優先度設定部227が、方位角度取得部250から現在の撮影向きの角速度を取得し、撮影間隔「t」を用いて撮影向きの変動角度(=角速度×撮影間隔)を算出する(ステップS32)。
 (3)優先度設定部227が、仮距離Dと撮影向きの変動角度から三角測量方式を用いて、発信源の画像平面上における移動量(=仮距離×tan(変動角度))を算出し、当該移動量をキャッシュメモリ223から取得した過去の発信源領域中心座標に加算することにより、現在の発信源領域中心座標を推定する(ステップS33)。
 なお、ここで位置座標取得部240から撮影座標(緯度X、経度Y、高度Z)を取得して、これを用いて、過去の撮影からの位置変動を算出し、撮影位置から発信源までの仮距離Dに修正を加えて距離精度を高めることにより、現在の発信源領域中心座標の推定精度を高めることもできる。
 (4)ここで求めた現在の発信源領域の推定中心座標と情報表示装置200の撮像範囲の関係からキャッシュメモリ223に保存された情報のキャッシュ優先度を算出する。詳細は図6において説明する(ステップS34)。
 なお、本実施形態では、撮影向きの変動量と画像平面上の過去の発信源領域中心座標とを用いて、三角測量方式を適用することにより現在の発信源領域の推定中心座標を求めているが、処理手順や組み合わせの変更、仰角・俯角情報、及び連続的な移動情報などの情報を追加して現在の発信源領域中心座標を推定してもよい。
 図6は、ステップS34の優先度算出処理の概要を示す図である。
 以下に、図6を用いて優先度算出処理の概要を説明する。
 優先度設定部227は、ステップS33で求めた発信源領域の推定中心座標が撮像領域から離れている程度に応じて、対応する情報に対してキャッシュ優先度を付与する。より具体的には、例えば、図6に示すように、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の2倍の大きさの第1優先度領域11を仮想的に設定し、第1優先度領域11内、且つ撮像領域10外にある発信源A1に関する情報に対して、最も高いキャッシュ優先度を付与する。
 また、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の3倍の大きさの第2優先度領域12を仮想的に設定し、第2優先度領域12内、且つ第1優先度領域11外にある発信源A2に関する情報に対して、2番目に高いキャッシュ優先度を付与する。
 また、撮像領域10を中心に、X方向、Y方向のそれぞれについて撮像領域10の4倍の大きさの第3優先度領域13を仮想的に設定し、第3優先度領域13内、且つ第2優先度領域12外にある発信源A3に関する情報に対して、3番目に高いキャッシュ優先度を付与する。
 また、第3優先度領域13外にある発信源A4に関する情報に対して、最も低いキャッシュ優先度を付与する。
 なおここでは、キャッシュ優先度を4段階としているが、段階数は実施状況に応じて適宜変更することもできる。
 実際の動作時には、各発信源領域の推定中心座標が、撮像領域から基準距離分離れる毎にキャッシュ優先度を下げていき、逆に撮像領域に距離分近づく毎にキャッシュ優先度を上げていく。すなわち、画角からの距離を基準距離単位で量子化した値に基づいてキャッシュ優先度を定める。なお、基準距離は実施状況に応じて適宜変更することもできる。
 より詳細には、継続して撮影が行われる場合には、時間t0秒において撮像領域10内に写っている発信源のうちのいずれかが、時間t1秒後の撮影で撮像領域から外れ、対応する発信源領域の推定中心座標がA1の位置になったときに、その発信源の情報に、最も高いキャッシュ優先度「4」を付与する。さらに時間t2秒後の撮影で、その発信源領域の推定中心座標が第1優先度領域11の枠を越え、A1の位置からA2の位置に移動したときに、キャッシュ優先度をデクリメントして「3」に更新する。このように、撮影の度に発信源領域の推定中心座標がA1の位置からA2の位置へ、A2の位置からA3の位置へ、A3の位置からA4の位置へと、優先度領域の枠を越えて撮像領域から離れる度に、対応する発信源の情報のキャッシュ優先度をデクリメントする。また逆に、発信源領域の推定中心座標がA4の位置からA3の位置へ、A3の位置からA2の位置へ、A2の位置からA1の位置へと、優先度領域の枠を越えて撮像領域に近づく度に、対応する発信源の情報のキャッシュ優先度をインクリメントする。また、発信源領域が、撮像領域10内にあるA0の位置からA1の位置へ移動したときには、キャッシュメモリ223に実データが保持され、最も高いキャッシュ優先度が付与される。また、発信源領域が、A1の位置から撮像領域10内にあるA0の位置へ移動したときには、キャッシュメモリ223から実データが呼び出される。
 また、一時停止後に撮影を再開する際などに、キャッシュメモリ223に発信源に関する情報が記憶された状態で撮影を再開する場合には、撮影の再開時に、キャッシュメモリ223に保持された各発信源に関する情報の全てについて、一時停止中に優先度領域の境界を越えたであろう回数を計算するか、あるいは、発信源領域の推定中心座標が、どの優先度領域に属するかを求める等して、キャッシュ優先度を更新する。
 このようにして付与されたキャッシュ優先度は、キャッシュメモリ223に記憶された各発信源に関する情報が再度撮像され易いか否かの度合いを表している。本実施形態によれば、撮影済みの発信源に関する情報の中で、撮影範囲の近傍等の操作者が容易に撮影しやすい位置に存在する発信源に関する情報のキャッシュ優先度は高く保たれる。
 従って、キャッシュ優先度は、図4のステップS21における新たな発信源に関する情報をキャッシュメモリ223へ書き込む際に、キャッシュメモリ223に記憶されている発信源に関する情報の消去順序を決めるための有効な指標と成り得る。
  <利用例>
 キャッシュ優先度は、以下のように利用することができる。
 図7~12は、キャッシュ優先度の利用例の概略を示す図である。
 図7~12においては、撮影者が定位置で情報表示装置200を用いて周辺を撮影した場合における、撮影領域と発信源との位置関係、及びキャッシュメモリに保持されている発信源に関する情報のキャッシュ優先度の時系列的な変動の様子を示している。
 ここで、撮像領域20は1920×1080pix(ピクセル)であり、キャッシュ優先度変動枠21は撮像領域を中心とした3840×2160pix、キャッシュ優先度変動枠22は撮像領域を中心とした5760×3240pixである。ここでキャッシュ優先度は3段階とし、発信源に関する情報を4つまで保持できるものとする。また、撮像領域20の周辺には、7つの発信源A~Gが存在し、各発信源は不動とする。
 (1)図7に撮影開始状態を示している。図7では、撮影領域20内に発信源Aと発信源Bとが存在し、キャッシュメモリ30は空である。ここで発信源Aから発信源Aに関する情報aが取得され、発信源Bから発信源Bに関する情報bが取得される。
 (2)次に、撮影者が情報表示装置200を右方向にスライドさせた場合の状態を、図8に示している。図8では、撮影領域20内に発信源Aと発信源Cとが存在している。ここで発信源Cが新たに撮影領域20内に入ったので、発信源Cから発信源Cに関する情報cが取得される。また図7において撮影領域20内に存在していた発信源Bが撮影領域から外れたため、図8に示すように、キャッシュメモリ30に発信源Bから取得した発信源Bに関する情報bが保存される。また情報bの保存の際には、最も高いキャッシュ優先度となるキャッシュ優先度「3」が付与される。
 (3)さらに撮影者が情報表示装置200を上方向にスライドさせた場合の状態を、図9に示している。図9では、撮影領域20内に発信源Dのみが存在している。ここで発信源Dが新たに撮影領域20内に入ったので、発信源Dから発信源Dに関する情報dが取得される。また図8において撮影領域20内に存在していた発信源Aと発信源Cとが撮影領域から外れたため、図9に示すように、キャッシュメモリ30に、発信源Aから取得した発信源Aに関する情報aと、発信源Cから取得した発信源Cに関する情報cとが保存される。また情報a、及び情報cの保存の際には、発信源B、及び発信源Cの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、それぞれにキャッシュ優先度「3」が付与される。一方、発信源Aの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与される。
 (4)さらに撮影者が情報表示装置200を左方向にスライドさせた場合の状態を、図10に示している。図10では、撮影領域20内に発信源Eと発信源Fとが存在している。ここで発信源Eと発信源Fとが新たに撮影領域20内に入ったので、発信源Eから発信源Eに関する情報eが取得され、発信源Fから発信源Fに関する情報fが取得される。また図9において撮影領域20内に存在していた発信源Dが撮影領域から外れたため、図10に示すように、キャッシュメモリ30に発信源Dから取得した発信源Dに関する情報dが保存される。また情報dの保存の際には、発信源B、及び発信源Dの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、それぞれにキャッシュ優先度「3」が付与される。一方、発信源Aの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与され、発信源Cの推定中心座標はキャッシュ優先度変動枠22内に収まっていないので、キャッシュ優先度「1」が付与される。
 (5)さらに、撮影者が情報表示装置200を下方向にスライドさせた場合の状態を図11に示している。図11では、撮影領域20内に発信源Fと発信源Gとが存在している。ここで発信源Gが新たに撮影領域20内に入ったので、発信源Gから発信源Gに関する情報gが取得される。また図10において撮影領域20内に存在していた発信源Eが撮影領域から外れたため、図11に示すように、キャッシュメモリ30に発信源Eから取得した発信源Eに関する情報eが保存される。しかしここで、キャッシュメモリ30にはすでに4つの発信源に関する情報が保存され、空いている領域がないので、最も低い優先度が付与されている発信源の検索処理を行い、消去すべき情報を決定する。発信源Bの推定中心座標はキャッシュ優先度変動枠21内に収まっているので、キャッシュ優先度「3」が付与される。一方、発信源A、発信源D、及び発信源Eの推定中心座標はキャッシュ優先度変動枠21内に収まってなく、かつキャッシュ優先度変動枠22内に収まっているので、キャッシュ優先度「2」が付与され、発信源Cの推定中心座標はキャッシュ優先度変動枠22内に収まっていないので、キャッシュ優先度「1」が付与される。従って、最も優先度の低い発信源Cに関する情報cが消去すべき情報に決定し、キャッシュメモリ30上の情報cが保存されている領域に対して、情報eが上書きされる。
 (6)さらに、撮影者が情報表示装置200を右方向にスライドさせた場合の状態を図12に示している。図12では、撮影領域20内に発信源Fと発信源Gと発信源Bとが存在している。ここで発信源Bが新たに撮影領域20内に入ったが、発信源Bに関する情報bはキャッシュメモリ30内に保存されているので、キャッシュメモリ30から情報bが取得される。一方、発信源A、及び発信源Dの推定中心座標が、キャッシュ優先度変動枠21A内に入ったので、それぞれのキャッシュ優先度がインクリメントされてキャッシュ優先度「3」が付与される。
 なお、取得情報処理部221、画像情報処理部222、キャッシュメモリ223、識別情報抽出部224、存在判定部225、通信情報処理部226、優先度設定部227、表示用情報生成部231、画像重畳部232、位置座標取得部240、及び方位角度取得部250などの各機能ブロックは典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されても良いし、一部又は全てを含むように1チップ化されても良い。ここではLSIとしたが、集積度の違いにより、IC,システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではない、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field ProgrammableGate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギャラブル・プロセッサーを利用しても良い。さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応などが可能性としてありえる。
  <まとめ>
 本実施形態の情報表示システムによれば、撮影範囲、撮影座標、及び撮影向きの変化の関係に基づいてキャッシュ優先度の付与を行うことにより、一度撮影された発信源の中で、撮影範囲からは外れているが撮影範囲に容易に再入する位置にある撮影画角に近い発信源に関する情報に対して高いキャッシュ優先度を付与することができる。従って、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることにより再度情報源が撮像範囲に入った場合の情報表示時間を短縮でき、ひいてはコストを低減することができる。
 [第2の実施形態]
  <概要>
 第2の実施形態は、第1の実施形態におけるキャッシュ優先度の付与の判断に、さらに、撮影範囲内にある発信源の移動特性予測を組み合わせたものである。第2の実施形態によれば、撮影範囲内にある発信源の移動特性予測に従って補正した発信源の座標を用いて、発信源のキャッシュ優先度を付与することができる。
  <構成>
 図13は、第2の実施形態における情報表示システム2の機能構成の概要を示す図である。
 図13に示す情報表示システム2は、情報発信源100、情報表示装置400、及び表示デバイス300から構成されている。
 なお、図1の情報表示システム1と同様の構成には同一番号を付し、その説明を省略する。
 情報表示装置400は、第1の実施形態における情報表示装置200の構成に、移動特性予測部428を追加したものである。また、移動特性予測部428の追加に伴い、情報処理部220が情報処理部420に置き換わっている。
 移動特性予測部428は、撮影範囲内にある発信源の移動特性を予測するものであり、取得情報処理部221から入力された発信源領域と固体識別情報とが、キャッシュメモリ223に既に保存されている固体識別情報と一致する場合に、発信源の座標と面積の変化から移動特性を予測する。詳細は以下の動作の欄において説明する。
  <動作>
 発信源領域検出処理から、信号復元処理、及び、表示用の情報を撮影した画像に重畳して表示させる重畳処理までの一連の手順は、第1の実施形態において図3を用いて説明したものと同様である。
 図14は、図3におけるステップS7の発信源領域情報処理を行うサブルーチンの一連の手順を示す図である。
 ここで、第1の実施形態における図4の手順と同様のステップには同一番号を付し、その説明を省略する。
 (1)~(2)図4の説明における(1)~(2)と同様である(ステップS11~S12)。
 (3)発信源移動特性予測処理により算出された移動特性に対して、存在判定部225から入力された発信源の撮影時間とキャッシュメモリ223から取得した発信源の撮影時間との差分を掛けることで、現在の発信源の位置を予測し、この予測値に基づいて、キャッシュメモリ223に保存されている対応する固体識別情報を有する発信源の座標を補正する(ステップS41)。さらに、ここで補正した発信源の座標を用いてステップS13の優先度算出処理を行う。
 (4)~(8)図4の説明における(3)~(7)と同様である(ステップS13~S17)。
 (9)発信源移動特性予測処理を行い、キャッシュメモリ223から該当する固体識別情報を持つ発信源に関する表示用データを取得し、表示用情報生成部231へ発信源領域と表示用情報とを出力する(ステップS42)。
 図15は、図14におけるステップS42の発信源移動特性予測処理を行うサブルーチンの一連の手順を示す図である。
 (1)移動特性予測部428が、取得情報処理部221から入力された固体識別情報を有する発信源領域の座標と面積とをキャッシュメモリ223から取得する(ステップS51)。
 (2)取得情報処理部221から入力された発信源領域の面積と、キャッシュメモリ223から取得した発信源領域の面積との増減比率を算出して、前後方向の移動方向を判定し、移動特性予測部428が予め保持している面積の増減比率と移動量の基準値と、ここで求めた発信源領域の面積の増減比率とを比較することにより、前後方向の移動量を算出する(ステップS52)。
 (3)取得情報処理部221から入力された発信源領域の座標と、キャッシュメモリ223から取得した発信源領域の座標との差分から、画像平面上方向の移動方向と移動量とを算出する(ステップS53)。
 (4)移動特性予測部428が、ここで得られた前後方向の移動方向と、画像平面上方向の移動方向と移動量とを、それぞれ、取得情報処理部221から入力された発信源領域の撮影時間と、キャッシュメモリ223から取得した発信源領域の撮影時間との差分で割ることにより、単位時間当たりの発信源の仮移動方向と仮移動量とを、発信源の仮移動特性として算出する(ステップS54)。
 (5)移動特性予測部428が、取得情報処理部221から入力された固体識別情報を有する発信源が撮影されたときの撮影座標と撮影方向とを、キャッシュメモリ223から取得する(ステップS55)。
 (6)位置座標取得部240、及び方位角度取得部250から、それぞれ現在の撮影座標、及び撮影方向を取得する(ステップS56)。
 (7)キャッシュメモリ223から取得した撮影方向と現在の撮影方向との差分から、回転方向と回転量とを算出し、キャッシュメモリ223から取得した撮影座標と現在の撮影座標との差分から移動方向と移動量とを算出する。続いて、ここで求めた回転方向と回転量と移動方向と移動量とをそれぞれ加算し、さらにこれを、取得情報処理部221から入力された発信源領域の撮影時間とキャッシュメモリ223から取得した発信源領域の撮影時間との差分で割ることにより、単位時間当たりの情報表示装置400の仮移動方向と仮移動量とを、情報表示装置400の仮移動特性として算出する(ステップS57)。
 (8)移動特性予測部428が、ステップS54において算出した該当発信源の仮移動特性にステップS57において算出した情報表示装置400の仮移動特性を加算することによって補正し、発信源の単位時間当たりの移動方向と移動量とを予測し、これを発信源の移動特性とする(ステップS58)。
 (9)移動特性予測部428が、ここで予測した該当発信源の移動特性を用いて、キャッシュメモリ223の該当発信源情報を更新する(ステップS59)。
 なお、本実施形態における移動特性の予測方法は一例であり、例えば三角測法、及び連続的な移動情報を用いて移動特性を予測しても良いし、外部(発信源から発信された情報)から移動特性を取得してもよい。
  <まとめ>
 第2の実施形態の情報表示システムによれば、撮影範囲内にある発信源の移動特性予測に従って補正した発信源の座標を用いて、発信源のキャッシュ優先度を付与することができる。これにより、移動する発信源が撮影範囲から外れた後の予測移動位置に、撮影座標と撮影方向とが追従している場合にキャッシュ優先度が高くなるため、移動する対象の発信源が再度撮影範囲に入った場合に、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができ、ひいてはコストを低減することができる。
 なお、第1の実施形態、及び第2の実施形態において、通信情報処理部226は、撮像範囲内にある発信源に関連する情報だけでなく、撮像範囲外にある発信源に関連する情報を処理することも可能である。例えば、優先度設定部227によって付与されたキャッシュ優先度を基に、情報表示装置と当該発信源の位置関係を、キャッシュ優先度が高いほど近いものとして処理する等して、表示用情報生成部231に出力することが可能である。
 このとき、表示用情報生成部231は、通信情報処理部221から入力された情報に基づいてリスト形式の表示用情報を生成する等して、表示用情報と発信源領域の情報とを画像重畳部232に出力する。
 また画像重畳部232は、表示用情報生成部231から入力された発信源領域の情報から、同時に入力された表示用情報が撮像範囲外の発信源に関連する表示用情報であることを判別する。そして、画像重畳部232は、画像情報処理部222から入力された画像処理済みの画像情報の枠外のリスト上に、表示用情報生成部231から入力された撮像範囲外の発信源に関連する表示用情報を合成する等して表示部18に出力する。
 表示デバイス300は、画像重畳部232から入力された合成画像を、画像処理済み画像情報と、枠外のリスト上に配置された撮像範囲外の発信源に関連する表示用情報との双方が表示できるような輝度やサイズに調整して表示する。このように、通信情報処理部226、表示用情報生成部231、画像重畳部232、及び表示デバイス300は、撮像範囲外にある発信源の情報を、優先度設定部227が付与したキャッシュ優先度に基づいて表示することも可能である。
 図16は、撮像部210により撮像された画像の枠外に、通信情報処理部226により抽出された撮像範囲外の発信源に関連する表示用情報を合成して、表示デバイス300に表示させた画面の例を示す図である。
 図16に示す画面には、画像処理済みの画像情報による画像41と、画像41の枠外のリスト上に、撮像範囲外の発信源に関連する表示用情報42が表示されている。
 また、第1の実施形態1、及び、第2の実施形態2では、情報発信源100から発信される情報のデータフォーマットの一例として、プリアンブルデータ部D10とデータ部D20が巡回的に送信されていることを示した。
 ここで、1つの発信源に関する表示制御に必要な情報が、複数の(例えば3つの)分割情報にされ、それぞれが図2に示すデータ部D20に、同一のプリアンブルデータ部D10と共にパケット化されて、異なるタイミングで送信される場合を想定する。このような場合には、実際に各分割情報が格納されるのは図2に示す表示用情報格納部D22であり、それぞれの固体識別情報格納部D21には同一の固体識別情報が格納される。また、各パケットには元の情報のどの位置に該当するかを示す分割位置データが含まれている。
 このような場合において、キャッシュメモリ223は、さらに、表示情報と識別情報と分割位置情報との組を保持する。また識別情報抽出部224は、さらに、分割位置データを抽出する。また存在判定部225は、さらに、識別情報抽出部224により抽出された分割位置データ毎に、分割位置データがキャッシュメモリ223に存在するか否かを判定する。
 また、通信情報処理部226は、識別情報抽出部224により抽出された分割位置データを用いて、輝度の変化に基づいて、不足する分割情報を格納するパケットのみを受信して、不足していた分割情報を抽出し、分割前の元の情報を復元する。
 例えば、キャッシュメモリ223から取得した表示用情報が3つの分割情報のうちの1つのみであったときには、通信情報処理部226は、分割位置データを用いて不足する分割情報を格納する2つのパケットのみを受信して、不足していた2つの分割情報を取得し、3つの分割情報から分割前の元の情報を復元することが可能である。
 このように、通信情報処理部226は、分割位置データによって、キャッシュメモリ223から取得できる情報が、1つの発信源から取得できる情報全体の一部に相当する分割情報であることを知ることができ、キャッシュメモリ223に保持していない分割情報のみを当該発信源から取得し、キャッシュメモリ223に保持していた分割情報と、発信源から新たに取得した分割情報とをつなぎ合わせることも可能である。
 本発明の情報表示装置、表示制御用集積回路、及び表示制御方法は、撮影した画像を表示する機能を有するデジタルカメラ、携帯電話、ノートPC等に利用可能であり、表示画像に重畳される情報の応答性の向上や、キャッシュ利用率の向上を図ることができるので、その産業的利用価値は極めて高い。
 100  情報発信源
 110  識別情報記録部
 120  通信データ生成部
 130  変調器
 140  発信用光源
 200  情報表示装置
 210  撮像部
 211  レンズ
 212  イメージセンサ
 220  情報処理部
 221  取得情報処理部
 222  画像情報処理部
 223  キャッシュメモリ
 224  識別情報抽出部
 225  存在判定部
 226  通信情報処理部
 227  優先度設定部
 230  表示制御部
 231  表示用情報生成部
 232  画像重畳部
 240  位置座標取得部
 250  方位角度取得部
 300  表示デバイス
 400  情報表示装置
 428  移動特性予測部

Claims (6)

  1.  可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置であって、
     撮影範囲内の画像を撮像する撮像部と、
     前記画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、
     前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、
     前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える、情報表示装置。
  2.  前記優先度設定部は、現在の撮影範囲に近い光源か否かを、前記現在の撮影範囲の中心から光源の中心までの距離の値、又は、前記距離を量子化した値が小さいか否かで判断することを特徴とする、請求項1に記載の情報表示装置。
  3.  前記情報表示装置は、さらに、
      前記画像内にある光源の座標と面積の変化から移動特性を予測する移動特性予測部を備え、
     前記優先度設定部は、
      前記移動特性に基づいて前記光源の中心の座標を補正し、
      前記現在の撮影範囲の中心から前記補正した光源の中心の座標までの距離が近いか否かで、現在の撮影範囲に近い光源か否かを判断することを特徴とする、請求項2に記載の情報表示装置。
  4.  前記情報表示装置は、前記キャッシュメモリにキャッシュされている光源の中で優先度が高く、かつ、現在の撮影範囲外にある光源の光源情報についても、画面に表示することを特徴とする、請求項1に記載の情報表示装置。
  5.  可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示方法であって、
     撮影範囲内の画像を撮像するステップと、
     前記画像内にある光源から送られてくる光源情報を逐次キャッシュメモリにキャッシュするステップと、
     前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していくステップと、
     前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していくステップとを備える、情報表示方法。
  6.  可視光通信を行って、時系列的に撮像される画像に、光源から送られてきた光源情報を重畳して画面に表示する情報表示装置に用いられる集積回路であって、
     撮影範囲内の画像内にある光源から送られてくる光源情報を逐次キャッシュするキャッシュメモリと、
     前記キャッシュメモリにキャッシュされている光源情報を、現在の撮影範囲に近い光源の順に、優先度を高く設定していく優先度設定部と、
     前記キャッシュメモリにキャッシュされている光源情報の中で、優先度の低い光源情報から順に削除していく通信情報処理部とを備える、集積回路。
PCT/JP2011/002743 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法 WO2011155130A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US13/388,755 US8941686B2 (en) 2010-06-08 2011-05-17 Information display apparatus, display control integrated circuit, and display control method for superimposing, for display, information onto images captured in a time sequence
JP2012519221A JP5619885B2 (ja) 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法
CN201180003169.7A CN102474570B (zh) 2010-06-08 2011-05-17 信息显示装置、显示控制用集成电路及显示控制方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2010-131477 2010-06-08
JP2010131477 2010-06-08

Publications (1)

Publication Number Publication Date
WO2011155130A1 true WO2011155130A1 (ja) 2011-12-15

Family

ID=45097751

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/002743 WO2011155130A1 (ja) 2010-06-08 2011-05-17 情報表示装置、表示制御用集積回路、及び表示制御方法

Country Status (4)

Country Link
US (1) US8941686B2 (ja)
JP (1) JP5619885B2 (ja)
CN (1) CN102474570B (ja)
WO (1) WO2011155130A1 (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014103333A1 (ja) * 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
US8908074B2 (en) 2012-12-27 2014-12-09 Panasonic Intellectual Property Corporation Of America Information communication method
US8965216B2 (en) 2012-12-27 2015-02-24 Panasonic Intellectual Property Corporation Of America Information communication method
US8988574B2 (en) 2012-12-27 2015-03-24 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using bright line image
US8994841B2 (en) 2012-05-24 2015-03-31 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by stripe pattern of bright lines
US8994865B2 (en) 2012-12-27 2015-03-31 Panasonic Intellectual Property Corporation Of America Information communication method
US9008352B2 (en) 2012-12-27 2015-04-14 Panasonic Intellectual Property Corporation Of America Video display method
US9088363B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9087349B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9085927B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9094120B2 (en) 2012-12-27 2015-07-28 Panasonic Intellectual Property Corporaton Of America Information communication method
US9262954B2 (en) 2012-12-27 2016-02-16 Panasonic Intellectual Property Corporation Of America Visible light communication signal display method and apparatus
US9608727B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Switched pixel visible light transmitting method, apparatus and program
US9608725B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US10303945B2 (en) 2012-12-27 2019-05-28 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
JP2019519015A (ja) * 2016-03-31 2019-07-04 クアルコム,インコーポレイテッド 動的で確率的なワークの削減を伴う幾何学的なワークスケジューリング
US10523876B2 (en) 2012-12-27 2019-12-31 Panasonic Intellectual Property Corporation Of America Information communication method
US10530486B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Transmitting method, transmitting apparatus, and program
US10951310B2 (en) 2012-12-27 2021-03-16 Panasonic Intellectual Property Corporation Of America Communication method, communication device, and transmitter

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9787397B2 (en) 2011-07-26 2017-10-10 Abl Ip Holding Llc Self identifying modulated light source
US9444547B2 (en) 2011-07-26 2016-09-13 Abl Ip Holding Llc Self-identifying one-way authentication method using optical signals
US8334898B1 (en) 2011-07-26 2012-12-18 ByteLight, Inc. Method and system for configuring an imaging device for the reception of digital pulse recognition information
US9723676B2 (en) 2011-07-26 2017-08-01 Abl Ip Holding Llc Method and system for modifying a beacon light source for use in a light based positioning system
US9287976B2 (en) 2011-07-26 2016-03-15 Abl Ip Holding Llc Independent beacon based light position system
US8416290B2 (en) 2011-07-26 2013-04-09 ByteLight, Inc. Method and system for digital pulse recognition demodulation
US9870517B2 (en) * 2011-12-08 2018-01-16 Excalibur Ip, Llc Image object retrieval
CA2892923C (en) 2012-10-19 2020-10-06 Daniel Ryan Self-identifying one-way authentication method using optical signals
US9705600B1 (en) 2013-06-05 2017-07-11 Abl Ip Holding Llc Method and system for optical communication
WO2015077767A1 (en) 2013-11-25 2015-05-28 Daniel Ryan System and method for communication with a mobile device via a positioning system including rf communication devices and modulated beacon light sources
US9136813B2 (en) * 2013-11-25 2015-09-15 Texas Instruments Incorporated Wireless network receiver
CN104410845B (zh) * 2014-11-10 2019-08-06 北京智谷睿拓技术服务有限公司 光通信发送方法和装置、接收方法和装置、光通信***
WO2017213052A1 (ja) * 2016-06-08 2017-12-14 パナソニックIpマネジメント株式会社 測距システム及び測距方法
JP6729708B2 (ja) * 2016-10-12 2020-07-22 富士通株式会社 信号調整プログラム、信号調整装置、及び信号調整方法
JP7128723B2 (ja) * 2018-11-12 2022-08-31 本田技研工業株式会社 画像管理装置、路面情報管理システム、車両、プログラム、及び、画像管理方法
CN109783453B (zh) * 2019-01-14 2021-08-17 哈皮尼思(北京)文化科技有限公司 一种文件浏览方法及装置
DE102019007311B3 (de) 2019-10-21 2020-09-24 SEW-EURODRlVE GmbH & Co. KG Empfänger für ein System zur Lichtübertragung, System zur Lichtübertragung und Verfahren zum Betrieb eines Systems zur Lichtübertragung
JP7447768B2 (ja) * 2020-11-12 2024-03-12 トヨタ自動車株式会社 車載中継装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974504A (ja) * 1995-09-05 1997-03-18 Canon Inc 撮像装置
JPH10108114A (ja) * 1996-09-27 1998-04-24 Sharp Corp 情報伝送システム
JP2007295446A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 情報処理装置およびデータ記録保存方法
JP2008066818A (ja) * 2006-09-05 2008-03-21 Canon Inc 画像再生システム、画像再生装置の制御方法及び画像再生装置
JP2009017540A (ja) * 2007-05-31 2009-01-22 Panasonic Corp 画像撮影装置、付加情報提供サーバ及び付加情報フィルタリングシステム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5587800A (en) * 1992-01-29 1996-12-24 Canon Kabushiki Kaisha Image processing method and apparatus
JP3750132B2 (ja) * 2000-03-01 2006-03-01 カシオ計算機株式会社 撮像装置
JP2004349797A (ja) 2003-05-20 2004-12-09 Victor Co Of Japan Ltd 光無線伝送装置及び光無線伝送装置の光軸調整方法
JP4478510B2 (ja) * 2004-06-03 2010-06-09 キヤノン株式会社 カメラシステム、カメラ、及びカメラの制御方法
JP2007028555A (ja) * 2005-07-21 2007-02-01 Sony Corp カメラシステム,情報処理装置,情報処理方法,およびコンピュータプログラム
JP4750859B2 (ja) * 2007-01-16 2011-08-17 パナソニック株式会社 データ処理装置、方法、記録媒体
JP2009093294A (ja) * 2007-10-04 2009-04-30 Victor Co Of Japan Ltd 画像情報管理システムおよび画像登録閲覧装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974504A (ja) * 1995-09-05 1997-03-18 Canon Inc 撮像装置
JPH10108114A (ja) * 1996-09-27 1998-04-24 Sharp Corp 情報伝送システム
JP2007295446A (ja) * 2006-04-27 2007-11-08 Kyocera Corp 情報処理装置およびデータ記録保存方法
JP2008066818A (ja) * 2006-09-05 2008-03-21 Canon Inc 画像再生システム、画像再生装置の制御方法及び画像再生装置
JP2009017540A (ja) * 2007-05-31 2009-01-22 Panasonic Corp 画像撮影装置、付加情報提供サーバ及び付加情報フィルタリングシステム

Cited By (83)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9300845B2 (en) 2012-05-24 2016-03-29 Panasonic Intellectual Property Corporation Of America Information communication device for obtaining information from a subject by demodulating a bright line pattern included in an obtained image
US9083543B2 (en) 2012-05-24 2015-07-14 Panasonic Intellectual Property Corporation Of America Information communication method of obtaining information from a subject by demodulating data specified by a pattern of a bright line included in an obtained image
US9083544B2 (en) 2012-05-24 2015-07-14 Panasonic Intellectual Property Corporation Of America Information communication method of obtaining information from a subject by demodulating data specified by a pattern of a bright line included in an obtained image
US9143339B2 (en) 2012-05-24 2015-09-22 Panasonic Intellectual Property Corporation Of America Information communication device for obtaining information from image data by demodulating a bright line pattern appearing in the image data
US9166810B2 (en) 2012-05-24 2015-10-20 Panasonic Intellectual Property Corporation Of America Information communication device of obtaining information by demodulating a bright line pattern included in an image
US8994841B2 (en) 2012-05-24 2015-03-31 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by stripe pattern of bright lines
US9456109B2 (en) 2012-05-24 2016-09-27 Panasonic Intellectual Property Corporation Of America Information communication method of obtaining information from a subject by demodulating data specified by a pattern of a bright line included in an obtained image
US10218914B2 (en) 2012-12-20 2019-02-26 Panasonic Intellectual Property Corporation Of America Information communication apparatus, method and recording medium using switchable normal mode and visible light communication mode
US9591232B2 (en) 2012-12-27 2017-03-07 Panasonic Intellectual Property Corporation Of America Information communication method
US10951310B2 (en) 2012-12-27 2021-03-16 Panasonic Intellectual Property Corporation Of America Communication method, communication device, and transmitter
US9008352B2 (en) 2012-12-27 2015-04-14 Panasonic Intellectual Property Corporation Of America Video display method
US9019412B2 (en) 2012-12-27 2015-04-28 Panasonic Intellectual Property Corporation Of America Information communication method for selecting between visible light communication mode and normal imaging mode
US9030585B2 (en) 2012-12-27 2015-05-12 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information by demodulating bright line pattern included in image
US9088363B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9087349B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9085927B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9088360B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US9088362B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information by demodulating bright line pattern included in an image
US9094120B2 (en) 2012-12-27 2015-07-28 Panasonic Intellectual Property Corporaton Of America Information communication method
US9184838B2 (en) 2012-12-27 2015-11-10 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using ID list and bright line image
US9203515B2 (en) 2012-12-27 2015-12-01 Panasonic Intellectual Property Corporation Of America Information communication method
US9247180B2 (en) 2012-12-27 2016-01-26 Panasonic Intellectual Property Corporation Of America Video display method using visible light communication image including stripe patterns having different pitches
US9252878B2 (en) 2012-12-27 2016-02-02 Panasonic Intellectual Property Corporation Of America Information communication method
US9635278B2 (en) 2012-12-27 2017-04-25 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by striped pattern of bright lines
US9262954B2 (en) 2012-12-27 2016-02-16 Panasonic Intellectual Property Corporation Of America Visible light communication signal display method and apparatus
US9281895B2 (en) 2012-12-27 2016-03-08 Panasonic Intellectual Property Corporation Of America Information communication method
US8988574B2 (en) 2012-12-27 2015-03-24 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using bright line image
US9331779B2 (en) 2012-12-27 2016-05-03 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using ID list and bright line image
US9341014B2 (en) 2012-12-27 2016-05-17 Panasonic Intellectual Property Corporation Of America Information communication method using change in luminance
US9380227B2 (en) 2012-12-27 2016-06-28 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using bright line image
US9407368B2 (en) 2012-12-27 2016-08-02 Panasonic Intellectual Property Corporation Of America Information communication method
US9450672B2 (en) 2012-12-27 2016-09-20 Panasonic Intellectual Property Corporation Of America Information communication method of transmitting a signal using change in luminance
US8965216B2 (en) 2012-12-27 2015-02-24 Panasonic Intellectual Property Corporation Of America Information communication method
US9462173B2 (en) 2012-12-27 2016-10-04 Panasonic Intellectual Property Corporation Of America Information communication method
US9467225B2 (en) 2012-12-27 2016-10-11 Panasonic Intellectual Property Corporation Of America Information communication method
US9515731B2 (en) 2012-12-27 2016-12-06 Panasonic Intellectual Property Corporation Of America Information communication method
JPWO2014103333A1 (ja) * 2012-12-27 2017-01-12 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 表示方法
US9560284B2 (en) 2012-12-27 2017-01-31 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by striped pattern of bright lines
US9564970B2 (en) 2012-12-27 2017-02-07 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using ID list and bright line image
US9571191B2 (en) 2012-12-27 2017-02-14 Panasonic Intellectual Property Corporation Of America Information communication method
US8908074B2 (en) 2012-12-27 2014-12-09 Panasonic Intellectual Property Corporation Of America Information communication method
US9608727B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Switched pixel visible light transmitting method, apparatus and program
US9608725B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US9613596B2 (en) 2012-12-27 2017-04-04 Panasonic Intellectual Property Corporation Of America Video display method using visible light communication image including stripe patterns having different pitches
US9258058B2 (en) 2012-12-27 2016-02-09 Panasonic Intellectual Property Corporation Of America Signal transmitting apparatus for transmitting information by bright line pattern in image
US8994865B2 (en) 2012-12-27 2015-03-31 Panasonic Intellectual Property Corporation Of America Information communication method
WO2014103333A1 (ja) * 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
US9756255B2 (en) 2012-12-27 2017-09-05 Panasonic Intellectual Property Corporation Of America Information communication method
US9768869B2 (en) 2012-12-27 2017-09-19 Panasonic Intellectual Property Corporation Of America Information communication method
US9794489B2 (en) 2012-12-27 2017-10-17 Panasonic Intellectual Property Corporation Of America Information communication method
US9859980B2 (en) 2012-12-27 2018-01-02 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US9918016B2 (en) 2012-12-27 2018-03-13 Panasonic Intellectual Property Corporation Of America Information communication apparatus, method, and recording medium using switchable normal mode and visible light communication mode
US9998220B2 (en) 2012-12-27 2018-06-12 Panasonic Intellectual Property Corporation Of America Transmitting method, transmitting apparatus, and program
US10051194B2 (en) 2012-12-27 2018-08-14 Panasonic Intellectual Property Corporation Of America Information communication method
US10148354B2 (en) 2012-12-27 2018-12-04 Panasonic Intellectual Property Corporation Of America Luminance change information communication method
US10165192B2 (en) 2012-12-27 2018-12-25 Panasonic Intellectual Property Corporation Of America Information communication method
US10205887B2 (en) 2012-12-27 2019-02-12 Panasonic Intellectual Property Corporation Of America Information communication method
US9646568B2 (en) 2012-12-27 2017-05-09 Panasonic Intellectual Property Corporation Of America Display method
US10225014B2 (en) 2012-12-27 2019-03-05 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using ID list and bright line image
US10303945B2 (en) 2012-12-27 2019-05-28 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
US10334177B2 (en) 2012-12-27 2019-06-25 Panasonic Intellectual Property Corporation Of America Information communication apparatus, method, and recording medium using switchable normal mode and visible light communication mode
US11659284B2 (en) 2012-12-27 2023-05-23 Panasonic Intellectual Property Corporation Of America Information communication method
US10354599B2 (en) 2012-12-27 2019-07-16 Panasonic Intellectual Property Corporation Of America Display method
US10361780B2 (en) 2012-12-27 2019-07-23 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US10368005B2 (en) 2012-12-27 2019-07-30 Panasonic Intellectual Property Corporation Of America Information communication method
US10368006B2 (en) 2012-12-27 2019-07-30 Panasonic Intellectual Property Corporation Of America Information communication method
US10447390B2 (en) 2012-12-27 2019-10-15 Panasonic Intellectual Property Corporation Of America Luminance change information communication method
US10455161B2 (en) 2012-12-27 2019-10-22 Panasonic Intellectual Property Corporation Of America Information communication method
US10516832B2 (en) 2012-12-27 2019-12-24 Panasonic Intellectual Property Corporation Of America Information communication method
US10523876B2 (en) 2012-12-27 2019-12-31 Panasonic Intellectual Property Corporation Of America Information communication method
US10521668B2 (en) 2012-12-27 2019-12-31 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
US10531010B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Information communication method
US10530486B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Transmitting method, transmitting apparatus, and program
US10531009B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Information communication method
US10616496B2 (en) 2012-12-27 2020-04-07 Panasonic Intellectual Property Corporation Of America Information communication method
US10638051B2 (en) 2012-12-27 2020-04-28 Panasonic Intellectual Property Corporation Of America Information communication method
US10666871B2 (en) 2012-12-27 2020-05-26 Panasonic Intellectual Property Corporation Of America Information communication method
US10742891B2 (en) 2012-12-27 2020-08-11 Panasonic Intellectual Property Corporation Of America Information communication method
US10887528B2 (en) 2012-12-27 2021-01-05 Panasonic Intellectual Property Corporation Of America Information communication method
US9641766B2 (en) 2012-12-27 2017-05-02 Panasonic Intellectual Property Corporation Of America Information communication method
US11165967B2 (en) 2012-12-27 2021-11-02 Panasonic Intellectual Property Corporation Of America Information communication method
US11490025B2 (en) 2012-12-27 2022-11-01 Panasonic Intellectual Property Corporation Of America Information communication method
JP2019519015A (ja) * 2016-03-31 2019-07-04 クアルコム,インコーポレイテッド 動的で確率的なワークの削減を伴う幾何学的なワークスケジューリング

Also Published As

Publication number Publication date
US8941686B2 (en) 2015-01-27
CN102474570A (zh) 2012-05-23
CN102474570B (zh) 2016-07-06
US20120133815A1 (en) 2012-05-31
JP5619885B2 (ja) 2014-11-05
JPWO2011155130A1 (ja) 2013-08-01

Similar Documents

Publication Publication Date Title
JP5619885B2 (ja) 情報表示装置、表示制御用集積回路、及び表示制御方法
ES2784905T3 (es) Método y dispositivo de procesamiento de imágenes, medio de almacenamiento legible por computadora y dispositivo electrónico
JP2021060590A (ja) 取込まれた像のパススルー表示
US9491418B2 (en) Method of providing a digitally represented visual instruction from a specialist to a user in need of said visual instruction, and a system therefor
CN111052727A (zh) 用于根据使用图像获得的深度信息的属性结合图像存储深度信息的电子装置及其控制方法
US11178344B2 (en) Head-mounted display apparatus, display system, and method of controlling head-mounted display apparatus
US20140240500A1 (en) System and method for adjusting an image for a vehicle mounted camera
JP2018513640A (ja) パンニングショットの自動生成
JP2019030007A (ja) 複数のカメラを用いて映像を取得するための電子装置及びこれを用いた映像処理方法
US20110228044A1 (en) Imaging apparatus, imaging method and recording medium with program recorded therein
JP2004318823A (ja) 情報表示システム、情報処理装置、ポインティング装置および情報表示システムにおけるポインタマーク表示方法
CN108141540B (zh) 具有移动检测的全向相机
WO2005124594A1 (en) Automatic, real-time, superimposed labeling of points and objects of interest within a view
CN111064895B (zh) 一种虚化拍摄方法和电子设备
US20150271414A1 (en) Display apparatus and display method
WO2017112800A1 (en) Macro image stabilization method, system and devices
CN107710736A (zh) 辅助用户捕获图像或视频的方法和***
US9843724B1 (en) Stabilization of panoramic video
JP2019080226A (ja) 撮像装置、撮像装置の制御方法、及びプログラム
AU2019271924B2 (en) System and method for adjusting an image for a vehicle mounted camera
WO2021035524A1 (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
JP6952456B2 (ja) 情報処理装置、制御方法、及びプログラム
US11128814B2 (en) Image processing apparatus, image capturing apparatus, video reproducing system, method and program
JP6513309B2 (ja) 画像合成装置、画像合成方法、及び画像合成プログラム
JP6039471B2 (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201180003169.7

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2012519221

Country of ref document: JP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11792092

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 13388755

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11792092

Country of ref document: EP

Kind code of ref document: A1