WO2015015712A1 - 映像受信装置、付加情報表示方法および付加情報表示システム - Google Patents

映像受信装置、付加情報表示方法および付加情報表示システム Download PDF

Info

Publication number
WO2015015712A1
WO2015015712A1 PCT/JP2014/003546 JP2014003546W WO2015015712A1 WO 2015015712 A1 WO2015015712 A1 WO 2015015712A1 JP 2014003546 W JP2014003546 W JP 2014003546W WO 2015015712 A1 WO2015015712 A1 WO 2015015712A1
Authority
WO
WIPO (PCT)
Prior art keywords
video
additional information
display
time
information
Prior art date
Application number
PCT/JP2014/003546
Other languages
English (en)
French (fr)
Inventor
博史 藪
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to JP2015529339A priority Critical patent/JP6194484B2/ja
Priority to US14/787,759 priority patent/US9762951B2/en
Priority to EP14832570.7A priority patent/EP3029944B1/en
Publication of WO2015015712A1 publication Critical patent/WO2015015712A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/237Communication with additional data server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26208Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints
    • H04N21/26233Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints involving content or additional data duration or size, e.g. length of a movie, size of an executable file
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/812Monomedia components thereof involving advertisement data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Definitions

  • This disclosure relates to a video receiving apparatus that acquires additional information related to a video signal input from the outside and superimposes the additional information on the video signal.
  • Patent Document 1 discloses a data processing system.
  • a client device transmits video data through a network to a server device that is a video recognition device, and requests video recognition processing.
  • the server device performs video recognition based on the received video data, and transmits the video recognition result to the client device through the network.
  • the present disclosure provides a video receiver, an additional information display method, and an additional information display system that are effective for acquiring additional information related to an externally input video signal and controlling superposition of the acquired additional information on the video signal. provide.
  • the video reception device of the present disclosure is configured to be able to transmit and receive data via a communication network, and includes an input unit, a video extraction unit, a control unit, and an additional information display control unit.
  • the input unit is configured to input a video signal output from a video transmission device installed outside.
  • the video extraction unit is configured to extract a partial video for video recognition processing from the video signal.
  • the control unit transmits the partial video to the video recognition device connected to the communication network, requests video recognition processing, acquires the result of the video recognition processing and display control information of the additional information from the video recognition device, and the video It is configured to perform control for acquiring additional information based on the result of the recognition processing from the additional information distribution apparatus connected to the communication network.
  • the additional information display control unit calculates the display end time or display remaining time of the additional information based on the system time and display control information when the video extraction unit extracts the partial video, and based on the display end time or display remaining time. It is configured to control the superimposition of the additional information on the video signal.
  • An additional information display method of the present disclosure is an additional information display method in a video reception device configured to be able to transmit and receive data via a communication network, and is a part for video recognition processing from a video signal input from the outside
  • the step of calculating the time or remaining display time and the video signal of the additional information based on the display end time or remaining display time And a step of controlling the superimposition of the.
  • the additional information display system of the present disclosure includes a video reception device, a video recognition device, and an additional information distribution device configured to be able to transmit and receive data to and from each other via a communication network.
  • the video reception device includes an input unit, a video extraction unit, a control unit, and an additional information display control unit.
  • the input unit is configured to input a video signal output from a video transmission device installed outside.
  • the video extraction unit is configured to extract a partial video for video recognition processing from the video signal.
  • the control unit transmits a partial video to the video recognition device via the communication network, requests video recognition processing, and acquires the result of the video recognition processing and display control information of the additional information from the video recognition device via the communication network.
  • the additional information distribution device is configured to perform control to acquire additional information based on the result of the video recognition processing via the communication network.
  • the additional information display control unit calculates the display end time or display remaining time of the additional information based on the system time and display control information when the video extraction unit extracts the partial video, and based on the display end time or display remaining time. It is configured to control the superimposition of the additional information on the video signal.
  • the video recognition device receives a partial video transmitted from the video reception device via the communication network, performs video recognition processing using the received partial video, and displays the result of the video recognition processing and display control information of additional information. It is comprised so that it may transmit to a video receiver via a communication network.
  • the additional information distribution device is configured to transmit additional information corresponding to the result of the video recognition process received via the communication network to the video reception device via the communication network.
  • FIG. 1 is a diagram schematically showing an example of the configuration of the additional information display system in the first embodiment.
  • FIG. 2 is a block diagram schematically showing an example of the configuration of the video recognition apparatus and the video reception apparatus in the first embodiment.
  • FIG. 3A is a diagram schematically showing an example of a video displayed on the display unit of the video receiving device in the first exemplary embodiment.
  • FIG. 3B is a diagram schematically illustrating another example of the video displayed on the display unit of the video receiving device in the first exemplary embodiment.
  • FIG. 4 is a flowchart schematically showing an operation of additional information display control performed by the video reception device in the first embodiment.
  • FIG. 5 is a flowchart schematically showing the operation of additional information display period calculation processing performed by the video reception device in the first embodiment.
  • FIG. 6 is a diagram schematically illustrating an example of additional information display period calculation processing performed by the video reception device in the first embodiment.
  • FIG. 7 is a diagram schematically illustrating another example of the additional information display period calculation process performed by the video reception device according to the first embodiment.
  • FIG. 8 is a block diagram schematically showing an example of the configuration of the video recognition apparatus and the video reception apparatus in the second embodiment.
  • FIG. 9 is a block diagram schematically showing an example of the configuration of the video recognition apparatus and the video reception apparatus in the third embodiment.
  • FIG. 10 is a diagram schematically illustrating an example of the additional information display period calculation process performed by the video reception device according to the third embodiment.
  • FIG. 11 is a block diagram schematically showing an example of the configuration of the video recognition apparatus and the video reception apparatus in the fourth embodiment.
  • FIG. 12 is a diagram schematically illustrating another example of the additional information display period calculation process performed by the video reception device according to the fourth embodiment.
  • FIG. 13 is a block diagram schematically showing an example of the configuration of the video recognition apparatus and the video reception apparatus in the fifth embodiment.
  • FIG. 14 is a block diagram schematically illustrating an example of a configuration of a video reception device according to another embodiment.
  • FIG. 1 is a diagram schematically showing an example of a configuration of an additional information display system 10 according to the first embodiment.
  • the additional information display system 10 includes a broadcasting station 12, an STB (Set Top Box) 14 that is a video transmission device, a video recognition device 20, an additional information distribution device 30, and a video reception device 40.
  • the additional information display system 10 uses the video recognition technology of the video recognition device 20 to identify which content the video received by the video reception device 40 belongs to, and adds additional information related to the content to the additional information.
  • the communication system is configured to be able to acquire from the distribution device 30 and display it on the video reception device 40.
  • the video receiving device 40, the video recognition device 20, and the additional information distribution device 30 are connected to each other via the communication network 16.
  • the communication network 16 is configured by wired, wireless, or a mixture of both.
  • the communication network 16 is, for example, the Internet, but may be an intranet, a commercial line, other communication lines, or a mixture thereof.
  • the video receiver 40 and the STB 14 are connected to each other via a communication interface.
  • the communication interface is, for example, HDMI (registered trademark) (High-Definition Multimedia Interface), but may be a video cable, or may be Wi-Fi (registered trademark), Bluetooth (registered trademark), or wireless LAN (Local Area Network). ) Or the like.
  • Broadcast station 12 is a transmission device configured to transmit (broadcast) a broadcast signal.
  • the broadcast station 12 converts a television program including a program body and a commercial message (CM) into a video signal and superimposes it on the broadcast signal and broadcasts it.
  • the program body and the CM are switched to each other as time passes.
  • the program body and CM are referred to as “content”.
  • the broadcast station 12 broadcasts content that changes over time.
  • the transmission device is not limited to the broadcasting station 12 and may be any device that transmits or broadcasts content that changes over time.
  • the STB 14 is a receiver (tuner) configured to receive a broadcast signal broadcast by the broadcast station 12 and extract a video signal.
  • the STB 14 may have a function of decoding the received video signal.
  • the STB 14 receives a channel selected based on a user's (User) instruction from a plurality of channels broadcasted by the broadcast station 12, and transmits a video interface of the channel to a communication interface (for example, HDMI (registered trademark)).
  • a communication interface for example, HDMI (registered trademark)
  • the video transmission apparatus is not limited to the STB 14, and may be a recording apparatus having a recording function, a broadcast signal receiving function, and a video signal output function, for example.
  • the video receiving device 40 is a video receiving device configured to display video based on a video signal input from the outside on the display unit 54, and is, for example, a television receiver.
  • the video receiving device 40 is connected to the communication network 16 and can transmit and receive data to and from the video recognition device 20 and the additional information distribution device 30 via the communication network 16.
  • the video receiving device 40 is configured to be able to:
  • the video receiver 40 performs video recognition processing on a video signal input from a video transmitter (for example, STB 14) via a communication interface using the video recognizer 20, and specifies the content represented by the video signal.
  • additional information for example, advertisement information
  • the video receiver 40 performs video recognition processing on a video signal input from a video transmitter (for example, STB 14) via a communication interface using the video recognizer 20, and specifies the content represented by the video signal.
  • additional information for example, advertisement information
  • the acquired additional information is superimposed on the video signal and displayed on the display unit 54.
  • the video reception device 40 periodically extracts a partial video by periodically cutting out a part from the input video signal, and the partial video and time stamp information when the partial video is extracted
  • a request for video recognition processing (hereinafter also referred to as “video recognition request”) is transmitted to the video recognition device 20 via the communication network 16.
  • the video receiving device 40 acquires the result of the video recognition processing for the partial video and the display control information of the additional information from the video recognition device 20 via the communication network 16, and the additional information related to the acquired result of the video recognition processing.
  • Information is acquired from the additional information distribution device 30 via the communication network 16. Then, an image based on the acquired additional information (shown as “additional information 51” in FIG.
  • the display control information of the additional information is information used for display / non-display control when the additional information is displayed on the display unit 54, and includes information indicating a display period of the additional information, for example. Details of these will be described later.
  • the time managed by the video receiver 40 is referred to as “system time”.
  • the system time when some operation is performed in the video reception device 40 is referred to as a “time stamp”.
  • the time stamp when the partial video is extracted is the system time when the partial video is extracted by the video receiver 40.
  • the time stamp information is information (or data) representing the system time.
  • time managed by the video receiving device 40 and the time managed by the video recognition device 20 are synchronized with each other (each hour (00 hour) is substantially the same time). Is desirable.
  • the additional information is “advertising information related to content”
  • the additional information is not limited to advertising information.
  • tourism information historical information, and person profiles It may be information, URL (Uniform Resource Locator), public gazette information, information about a program being broadcast, social information such as Twitter (registered trademark), and the like.
  • URL Uniform Resource Locator
  • public gazette information information about a program being broadcast
  • social information such as Twitter (registered trademark), and the like.
  • the video recognition device 20 is a server device connected to the communication network 16 and is a Web site that performs content specifying processing based on video recognition processing.
  • the content specifying process is a process of performing a video recognition process on the received partial video and specifying the content represented by the partial video based on the result of the video recognition process.
  • the video recognition device 20 performs analysis on the content broadcast by the broadcast station 12 and video recognition processing using the result of the analysis.
  • the video recognition device 20 acquires all the contents broadcast from the broadcasting station 12 in practice. Then, the acquired content is analyzed, and the time, capacity, broadcast format, content, genre, characters, time table, etc. of the content are examined to generate analysis information. In addition, the video recognition device 20 creates a fingerprint from the video signal of the content acquired from the broadcast station 12. This fingerprint is information for recognizing a video, and is, for example, a hash value of each image constituting a moving image.
  • the video recognition apparatus 20 may acquire a content by receiving a broadcast signal broadcast from a broadcast station, or receive a video signal transmitted from the broadcast station 12 via a dedicated video line or the like and receive the content. May be obtained.
  • this analysis may be performed automatically, for example, and may be performed manually by an operator.
  • Analysis information and fingerprints which are analysis results of each content, are stored in the storage unit 23 of the video recognition device 20 for each content video (for example, video signals of a plurality of frames).
  • the video recognition device 20 When the video recognition device 20 receives the video recognition request accompanied by the partial video transmitted from the video receiving device 40 and the time stamp information when the partial video is extracted via the communication network 16, the video recognition device 20 generates the video from the partial video.
  • the fingerprint that is generated by the video recognition apparatus 20 in advance and collated with the fingerprint stored in the storage unit 23 is subjected to video recognition processing for the partial video, and the content corresponding to the partial video is specified.
  • the video recognition device 20 performs content specifying processing for determining what content the partial video transmitted from the video receiving device 40 is and specifying the content.
  • an analysis result (analysis information) regarding the identified content is read from the storage unit 23, and the read information is returned to the video reception device 40 via the communication network 16 as a result of the video recognition process.
  • the video recognition device 20 returns the result of the video recognition processing to the video reception device 40, the video recognition device 20 also returns display control information of additional information.
  • the video recognition processing (content identification processing based on the video recognition processing) by such a method is also referred to as “ACR (Automatic Content Recognition)”.
  • the additional information distribution device 30 is a server device connected to the communication network 16 and is a Web site (advertisement distribution site) that holds and distributes advertisement information of various products.
  • the additional information distribution device 30 transmits the result of the video recognition process (analysis information based on the result of the video recognition process acquired by the video reception device 40 from the video recognition device 20) transmitted from the video reception device 40 via the communication network 16. Then, additional information related to the result (analysis information) of the video recognition process is transmitted to the video receiver 40 via the communication network 16.
  • This additional information is, for example, advertisement information related to the content specified by the video recognition process.
  • FIG. 2 is a block diagram schematically showing an example of the configuration of the video recognition device 20 and the video reception device 40 in the first embodiment.
  • FIG. 2 shows main circuit blocks related to the operation shown in this embodiment, and other functions and circuit blocks related to the operation are omitted. This is for easy understanding of the operation described in the present embodiment.
  • Each circuit block shown in FIG. 2 may be composed of independent circuits, or a program created to realize one or more of the circuit blocks shown in FIG. 2 is executed by a processor. It may be configured to.
  • the video recognition device 20 is a server device including an HTTP (Hypertext Transfer Protocol) transmission / reception unit 21, a search unit 22, and a storage unit 23.
  • the video recognition device 20 is configured to provide a content identification processing service based on the video recognition processing to the video reception device 40 via the communication network 16.
  • the HTTP transmission / reception unit 21 is a communication interface, for example, a communication adapter conforming to the Ethernet (registered trademark) standard.
  • the HTTP transmission / reception unit 21 is configured to be able to transmit / receive data to / from the video reception device 40 via the communication network 16.
  • the storage unit 23 is a storage device composed of, for example, an HDD (Hard Disk Drive) or the like.
  • the storage unit 23 is configured to store a fingerprint of content broadcast from the broadcasting station 12 and analysis information of an analysis result for the content in association with the content. This fingerprint is, for example, a hash value of each image constituting the moving image.
  • the storage unit 23 has a slight time delay (for example, 10 seconds) from the broadcast for each content (for example, the program main body or CM).
  • the fingerprint and the analysis result (analysis information) are stored in association with each other.
  • the analysis result (analysis information) may include, for example, a program title, a CM title, a program outline, a CM outline, a character, a location related to a video, a URL, and the like.
  • information indicating the display period of the additional information is also stored.
  • the search unit 22 When the search unit 22 receives a partial video transmitted from the video receiver 40 and a video recognition request with time stamp information via the HTTP transmission / reception unit 21, the content specifying process based on the video recognition process using the partial video. And the result (analysis information) and the display control information of the additional information are sent back to the video receiver 40 via the HTTP transmission / reception unit 21.
  • the result of the content specifying process based on the video recognition process using the partial video is also simply referred to as “video recognition process result”.
  • the search unit 22 receives the video recognition request accompanied by the partial video and time stamp information transmitted from the video receiving device 40 via the communication network 16 and the HTTP transmission / reception unit 21.
  • a fingerprint of the received partial video for example, a hash value of each image constituting the partial video
  • the generated fingerprint is compared with the fingerprint stored in the storage unit 23 and received.
  • a fingerprint corresponding to the partial video is searched (video recognition processing).
  • the content corresponding to the fingerprint specified by the search result is set as the content corresponding to the received partial video (content specifying process).
  • the search unit 22 identifies content corresponding to the received partial video.
  • the search unit 22 reads the analysis result (analysis information) associated with the identified content from the storage unit 23, and uses the read analysis result as a result of the video recognition processing to send the HTTP transmission / reception unit 21 and the communication network 16.
  • the analysis result analysis information
  • the search unit 22 returns the display control information of the additional information to the video receiving device 40 together with the result of the video recognition process.
  • This additional information display control information includes information indicating the display period of the additional information and information indicating the offset time.
  • the information indicating the offset time is information indicating a time difference between the start time of the content managed by the video recognition device 20 and the partial video (time stamp information when the partial video is extracted).
  • the video receiving device 40 calculates the display end time of the additional information. At this time, information indicating the display period of the additional information and information indicating the offset time are used. Details of these will be described later.
  • the video receiver 40 includes a control unit 41, an HTTP transmission / reception unit 42, an operation signal reception unit 43, a video output unit 44, a display unit 54, a video extraction unit 45, an additional information display control unit 46, a storage unit 47, an acquisition unit 66, and A video input unit 48 is provided.
  • the video receiver 40 performs content identification processing based on video recognition processing using the video recognition device 20, acquires analysis information as a result of the video recognition processing from the video recognition device 20, and adds information related to the analysis information.
  • Information for example, advertisement information
  • an image based on the additional information for example, advertisement information related to the image
  • is superimposed on the image (content) based on the received image signal to display the display unit. 54 is displayed.
  • the HTTP transmission / reception unit 42 is a communication interface, for example, a communication adapter that conforms to the Ethernet (registered trademark) standard.
  • the HTTP transmission / reception unit 42 is configured to be able to transmit / receive data to / from the video recognition device 20 via the communication network 16.
  • the operation signal reception unit 43 receives an operation signal (operation signal for the video reception device 40) transmitted by an operation unit (not shown) such as a remote control device (hereinafter abbreviated as “remote control”) that has received a user operation. Is configured to do.
  • the operation signal receiving unit 43 may be configured such that a remote controller having a gyro sensor receives a signal that is transmitted based on a physical variation that occurs in the remote controller.
  • the video input unit 48 is a receiving circuit and a decoder, and inputs a video signal output from a receiving unit 49 configured to receive a broadcast signal transmitted from a broadcast station and a video transmission device (for example, the STB 14).
  • the input unit 65 is configured as follows.
  • the video signal received by the video input unit 48 includes content (program body and CM, etc.) that changes over time.
  • the receiving unit 49 is configured to receive a broadcast signal transmitted from the broadcast station 12 via an antenna (not shown) or the like.
  • the input unit 65 is an interface configured to input a video signal output from a video transmission device installed outside.
  • the input unit 65 is configured to conform to, for example, the HDMI (registered trademark) standard, and can receive a video signal transmitted from the video transmission device via the HDMI (registered trademark).
  • the video transmission device is, for example, the STB 14, but may be a video recording / playback device or the like. Further, the input unit may be configured to receive a video signal transmitted via a video cable or a video signal transmitted by wireless communication.
  • the video output unit 44 has a function of controlling the display unit 54, controls the display unit 54 based on the video signal input from the video input unit 48, and displays a video based on the video signal on the display unit 54. It is configured as follows. When the additional information is input from the control unit 41, the video output unit 44 superimposes an image based on the additional information on the video being displayed on the display unit 54.
  • the display unit 54 is a display configured to display an image based on an image signal, and is, for example, an LCD (Liquid Crystal Display).
  • the display unit 54 may be a PDP (Plasma Display Panel), an OLED (Organic Electro Luminescence Display), or the like.
  • the additional information display control unit 46 is configured to perform display control of additional information. Specifically, the additional information display control unit 46 determines whether or not to display the additional information on the display unit 54, and based on the determination, displays the additional information on the display unit 54. An instruction to continuously display the additional information in the display, an instruction to hide the additional information being displayed on the display unit 54, and the like are output to the control unit 41.
  • the additional information display control unit 46 performs video recognition processing based on the partial video extracted by the video extraction unit 45 (content identification processing based on the video recognition processing) using the video recognition device 20. Further, the system time is acquired from the control unit 41. Then, based on the result of the video recognition process acquired from the video recognition device 20, it is determined whether or not the additional information acquired from the additional information distribution device 30 is displayed on the display unit 54 (whether it is superimposed on the video signal). An instruction based on the determination is output to the control unit 41. Further, the additional information display control unit 46 calculates the display end time of the additional information based on the display control information of the additional information acquired from the video recognition device 20 and the system time acquired from the control unit 41 together with the result of the video recognition process. To do.
  • the additional information display control unit 46 generates a fingerprint (for example, a hash value of each image constituting the partial video) from the partial video extracted by the video extraction unit 45, and a video recognition process based on the generated fingerprint. May be configured to be performed using the video recognition device 20.
  • a fingerprint for example, a hash value of each image constituting the partial video
  • the video extraction unit 45 is configured to extract a partial video from the video signal input from the video input unit 48.
  • the video extraction unit 45 is configured to extract a partial video that is a part of the video signal for a predetermined time from the video signal at a predetermined cycle. For example, if the predetermined period is 3 seconds and the predetermined time is 3 seconds, the video extraction unit 45 repeats the operation of extracting a partial video of 3 seconds every 3 seconds from the video signal. That is, the operation of continuously extracting the partial video for 3 seconds from the video signal every 3 seconds without a gap is repeated. For example, if the predetermined period is 15 seconds and the predetermined time is 3 seconds, the video extraction unit 45 repeats the operation of extracting a partial video of 3 seconds every 15 seconds from the video signal.
  • the partial video extracted from the video signal is not limited to extraction in units of seconds.
  • the partial video may be extracted with a predetermined number of frames at the video frame rate.
  • the storage unit 47 is a storage device configured by, for example, a nonvolatile memory.
  • the storage unit 47 includes program meta information such as an electronic program guide (EPG) received by the video input unit 48, and additional information acquired from the video recognition device 20 and the additional information distribution device 30 via the HTTP transmission / reception unit 42.
  • EPG electronic program guide
  • the display control information of the additional information, the display end time of the additional information calculated by the additional information display control unit 46, and the like are stored.
  • the control unit 41 is configured to control each circuit block included in the video reception device 40.
  • the control unit 41 is, for example, a nonvolatile memory such as a ROM that stores a program (application program or the like), a CPU that executes the program, and temporarily stores data, parameters, and the like when the CPU executes the program. It consists of a volatile memory such as a RAM for storing.
  • control performed by the control unit 41 examples include the following.
  • the control unit 41 controls the video extraction unit 45 so that the video extraction unit 45 extracts partial videos from the video signal at a predetermined cycle.
  • the extracted partial video and time stamp information are transmitted to the video recognition device 20 via the HTTP transmission / reception unit 42 and the communication network 16 together with the video recognition request.
  • Each circuit block is controlled to request the video recognition device 20 to perform video recognition processing on the partial video.
  • the result of the video recognition processing for the partial video and the display control information of the additional information are acquired from the video recognition device 20 via the communication network 16 and the HTTP transmission / reception unit 42, and the additional information based on the result of the video recognition processing is communicated.
  • Each circuit block is controlled so as to be acquired from the additional information distribution device 30 via the network 16 and the HTTP transmission / reception unit 42.
  • the acquired additional information is stored in the storage unit 47 and output to the video output unit 44, and each circuit block is controlled so that the additional information is superimposed on the video being displayed on the display unit 54 and displayed.
  • the additional information display control unit 46 determines that “additional information is not displayed”, the control unit 41 sets each circuit block so that the additional information being displayed on the display unit 54 is not displayed. Control.
  • the video reception device 40 When the video reception device 40 requests the video recognition device 20 to perform video recognition processing, the video reception device 40 creates a signal (data) representing the request for video recognition processing and uses the signal as a video recognition request.
  • the additional information display system 10 may be configured to transmit to the image 20, for example, such a signal (data) is not transmitted, and the video reception device 40 transmits the partial video to the video recognition device 20.
  • an arrangement may be made in advance between the video receiving device 40 and the video recognizing device 20 so that the video recognizing device 20 is requested to perform video recognizing processing.
  • the acquisition unit 66 acquires display control information of additional information from the video recognition device 20 via the communication network 16 and the HTTP transmission / reception unit 42.
  • FIG. 3A is a diagram schematically showing an example of a video displayed on the display unit 54 of the video receiving device 40 in the first exemplary embodiment.
  • FIG. 3B is a diagram schematically showing another example of a video displayed on the display unit 54 of the video receiving device 40 in the first exemplary embodiment.
  • FIG. 3A shows an example in which the video 50 based on the video signal input from the STB 14 to the input unit 65 is displayed on the display unit 54 as it is.
  • FIG. 3A shows an example in which “ABC broadcast program” is displayed as an example of the video 50.
  • FIG. 3B shows an example in which a video in which the additional information 51 acquired from the additional information distribution device 30 based on the result of the video recognition process is superimposed on the video 50 is displayed on the display unit 54.
  • the additional information 51 illustrated in FIG. 3B is merely an example of additional information, and the display position, display size, and the like of the additional information are the same as the display position and display size of the additional information 51 illustrated in FIG. 3B. It is not limited to.
  • the additional information display control unit 46 controls display / non-display of the additional information 51 based on the display control information of the additional information acquired from the video recognition device 20 and the system time of the video receiving device 40. Details of the display control of the additional information 51 will be described later.
  • the video reception device 40 performs video recognition processing on the video signal using the video recognition device 20.
  • the video receiver 40 acquires the display control information of the additional information from the video recognizer 20 together with the result of the video recognition process.
  • the display control information of the additional information is also simply referred to as “display control information”.
  • additional information 51 for example, advertisement information
  • the acquired additional information 51 is superimposed on the video signal and displayed on the display unit 54.
  • the video receiver 40 calculates the display end time of the additional information based on the acquired display control information. Then, based on the calculated display end time of the additional information and the system time of the video receiver 40, the additional information 51 (for example, advertisement information) being displayed on the display unit 54 is not displayed.
  • the display end time of the additional information is also simply referred to as “display end time”.
  • FIG. 4 is a flowchart schematically showing an operation of additional information display control performed by the video reception device 40 in the first embodiment.
  • the video extraction unit 45 of the video reception device 40 extracts a partial video from the video signal output from the STB 14 and input to the input unit 65 (step S10).
  • the control unit 41 includes the partial video extracted by the video extraction unit 45 and the system time (time stamp information) of the video reception device 40 when the partial video is extracted, together with the video recognition request, the HTTP transmission / reception unit 42 and the communication network 16. Each circuit block is controlled so as to be transmitted to the image recognition apparatus 20 via (step S11).
  • the control unit 41 receives each result of the video recognition processing (analysis information) and the display control information of the additional information as a reply from the video recognition device 20 via the communication network 16 and the HTTP transmission / reception unit 42. Control the block. Thereby, the control unit 41 recognizes what the content represented by the video signal input from the STB 14 to the input unit 65 is (step S12).
  • the control unit 41 controls each circuit block so as to transmit information indicating the content found in step S11 to the additional information distribution device 30 via the HTTP transmission / reception unit 42 and the communication network 16. Then, each circuit block is controlled so that advertisement information related to the content is acquired from the additional information distribution apparatus 30 via the communication network 16 and the HTTP transmission / reception unit 42. The control unit 41 controls each circuit block so as to store the acquired advertisement information in the storage unit 47. (Step S13). At this time, the control unit 41 designates a URL related to the content and accesses the additional information distribution device 30, so that each circuit block acquires the advertising information related to the content from the additional information distribution device 30. May be controlled. For example, if the analysis information acquired from the video recognition device 20 includes a URL, the control unit 41 designates the URL and accesses the additional information distribution device 30 to acquire the advertisement information. May be controlled.
  • the additional information display control unit 46 calculates the display end time of the additional information based on the acquired display control information. Then, the calculated display end time is stored in the storage unit 47 (step S14).
  • the process of calculating the display end time of the additional information is also referred to as “additional information display period calculation process”. Details of the additional information display period calculation process will be described later.
  • the additional information display control unit 46 determines whether or not to display the advertisement information on the display unit 54 based on the display control information. Based on an instruction from the additional information display control unit 46, the control unit 41 outputs advertisement information to the video output unit 44, and displays the advertisement information so as to be superimposed on the content being displayed on the display unit 54.
  • the output unit 44 is instructed (step S15). As a result, the video output unit 44 superimposes and displays the advertisement information on the content being displayed on the display unit 54.
  • This advertisement information is the advertisement information acquired from the additional information distribution device 30 and stored in the storage unit 47 in step S13.
  • the additional information display control unit 46 compares the display end time calculated in step S14 and stored in the storage unit 47 with the current system time, and based on the comparison, whether or not the system time has reached the display end time. Is determined (step S16).
  • step S16 When it is determined in step S16 that the system time has not reached the display end time (No), the process returns to step S15, and the additional information display control unit 46 outputs the advertisement information to the video output unit 44.
  • the control unit 41 is instructed to continue. Based on this instruction, the control unit 41 controls the video output unit 44, whereby the video output unit 44 continues to display advertisement information.
  • step S16 When it is determined in step S16 that the system time has reached the display end time (Yes), the additional information display control unit 46 stops outputting the advertising information to the video output unit 44 and removes the advertising information.
  • the control unit 41 is instructed to display. Thereby, the control unit 41 instructs the video output unit 44 not to display the advertisement information.
  • the video output unit 44 hides the advertisement information being displayed on the display unit 54. Therefore, a video based on the video signal (a video of content on which advertisement information is not superimposed) is displayed on the display unit 54 (step S16). Then, returning to step S10, the video receiver 40 repeats these series of operations.
  • step S14 the additional information display period calculation process in step S14 will be described.
  • FIG. 5 is a flowchart schematically showing the operation of additional information display period calculation processing performed by the video reception device 40 in the first embodiment.
  • the additional information display control unit 46 uses the display control information acquired from the video recognition device 20 and the system time (time stamp information) transmitted to the video recognition device 20 when acquiring the display control information. Is calculated (step S20). A method for calculating the display end time of the additional information will be described later.
  • the additional information display control unit 46 checks whether or not the calculated display end time of the additional information is stored in the storage unit 47 (step S21).
  • step S21 When it is determined in step S21 that the display end time of the additional information is not stored in the storage unit 47 (No), the additional information display control unit 46 displays the display end time of the additional information calculated in step S20. Is stored in the storage unit 47 (step S23). And it transfers to the process of step S15 shown in FIG.
  • step S21 when it is determined that the display end time of the additional information is stored in the storage unit 47 (Yes), the additional information display control unit 46 displays the display end time of the additional information calculated in step S20. Is equal to the display end time of the additional information stored in the storage unit 47 (step S22).
  • step S22 If it is determined in step S22 that they are equal (Yes), the process proceeds to step S15 shown in FIG.
  • step S22 When it is determined in step S22 that they are not equal (No), the additional information display control unit 46 displays the additional information display end time calculated in step S20 and the additional information stored in the storage unit 47. The display end time is compared with each other. Then, the additional information display control unit 46 stores the earlier one in time in the storage unit 47, and updates (or maintains) the display end time of the additional information stored in the storage unit 47 (step S24). ). And it transfers to the process of step S15 shown in FIG.
  • FIG. 6 is a diagram schematically illustrating an example of additional information display period calculation processing performed by the video reception device 40 according to the first embodiment.
  • FIG. 6 schematically shows system time, elapsed time, video signal (content), partial video, display control information, display end time, and image displayed on the display unit 54.
  • FIG. 6 shows an example in which the content is switched from a program to a CM, and the CM is switched to the program.
  • CM is the content on which the additional information is superimposed.
  • the elapsed time shown in FIG. 6 is the elapsed time from the CM start time, and the CM start time is set to 0 msec. It is assumed that the time is converted into a value based on GMT (Greenwich Mean Time) or UTC (Coordinated Universal Time).
  • FIG. 6 shows an example in which this CM starts when the system time of the video receiver 40 is 469000 msec and ends when it is 508000 msec.
  • this CM is “AD1” (shown as content ID (Identification) in FIG. 6). It is assumed that information indicating that “information can be displayed)” (shown as “total” in FIG. 6) is “39000 msec” is stored. In addition, it is assumed that the storage unit 23 of the video recognition device 20 also stores information indicating the offset time (shown as “offset” in FIG. 6) acquired from the video recognition device 20.
  • the video receiver 40 extracts a partial video extracted in a predetermined cycle (denoted as “video frames” in FIG. 6), and a system time (time stamp information in FIG. 6) when the partial video is extracted. , Shown immediately below video frames) is transmitted to the image recognition apparatus 20 together with the image recognition request.
  • the video recognition device 20 performs video recognition processing on the received partial video by ACR technology.
  • the information “AD1” described above is information transmitted from the video recognition device 20 to the video reception device 40 as a result of the video recognition processing.
  • the video reception device 40 receives display control information of additional information from the video recognition device 20 together with the result of the video recognition processing.
  • the information “39000 msec” described above is included in this display control information as information indicating a display period of additional information (a period during which advertisement information can be displayed).
  • the display control information includes information indicating the offset time.
  • the information indicating the offset time is information indicating the difference between the start time of the content managed by the video recognition device 20 and the time stamp information (system time) when the partial video is extracted. For example, in FIG. 6, the CM start time is “469000 msec”, and the system time (time stamp information) when the first partial video whose video recognition processing result in the video recognition apparatus 20 is “AD1” is extracted. ) Is “470000 msec”. Therefore, the offset time for this partial video is “1000 msec” obtained by subtracting 469000 msec from 470000 msec. Numerical values (unit: msec) such as “6000”, “11000”, and “16000” calculated in the same manner are offset times in each partial video.
  • the video reception device 40 acquires additional information (advertisement information) based on the result of the video recognition processing acquired from the video recognition device 20 (information “AD1” in the example illustrated in FIG. 6) from the additional information distribution device 30. And stored in the storage unit 47.
  • the additional information display control unit 46 of the video receiving device 40 includes the system time (time stamp information) when the partial video is extracted, the display control information of the additional information (in the example shown in FIG. 6, information “39000 msec”, and the offset
  • the display end time of the additional information is calculated based on (information indicating time).
  • the display end time of the additional information is calculated based on the first partial video (hereinafter also referred to as “first partial video”) in which the result of the video recognition processing in the video recognition device 20 is “AD1”. An example will be described.
  • the system time (time stamp information) when the first partial video is extracted is “470000 msec”.
  • the display period (the period during which advertisement information can be displayed) of the additional information received by the video receiver 40 together with the video recognition processing result is “39000 msec”, and the offset time is “1000 msec”.
  • the additional information display control unit 46 calculates the display end time of the additional information from these numerical values. Specifically, the additional information display control unit 46 adds the result of subtracting the offset time “1000 msec” from the additional information display period “39000 msec” to the system time “470000 msec” when the partial video is extracted. . That is, the additional information display control unit 46 performs the following calculation.
  • the additional information display control unit 46 calculates the display end time of the additional information.
  • the additional information display control unit 46 instructs the control unit 41 to superimpose the additional information on the content and display it on the display unit 54 until the system time reaches the calculated display end time of the additional information.
  • the control unit 41 controls the video output unit 44 based on the instruction.
  • the additional information (advertisement information stored in the storage unit 47) is superimposed on the content and displayed on the display unit 54 until the system time reaches “508000 msec”, and the system time reaches “508000 msec”.
  • the control unit 41 controls the video output unit 44 so as to hide the additional information.
  • FIG. 7 is a diagram schematically illustrating another example of the additional information display period calculation process performed by the video reception device 40 according to the first embodiment.
  • FIG. 7 is based on FIG. 6, detailed description is omitted.
  • the video receiving device 40 calculates the display end time of the additional information every time it receives a new video recognition processing result and additional information display control information from the video recognition device 20. Then, as described in steps S22 and S24, the newly calculated display end time is compared with the display end time stored in the storage unit 47, and the earlier display end time is stored. It is stored in the unit 47 and replaced with the display end time stored in the storage unit 47 until then. In this way, the display end time stored in the storage unit 47 is updated.
  • the system time (time stamp information) when the first partial video is extracted is “471000 msec”. It should be noted that the system time (time stamp information) should be “470000 msec”. However, the system time is due to some factor (for example, power failure or various processing temporarily occurring in the video receiver 40). It is assumed that an abnormality has occurred in the time and has become “471000 msec”. That is, a time later than “1000 msec” than the original time is generated as the time stamp information.
  • the display period of the additional information received by the video receiver 40 together with the result of the video recognition process (the period during which the advertisement information can be displayed) is “39000 msec”, and the offset time is “1000 msec”.
  • the time “509000 msec” obtained by this calculation is the display end time of the additional information calculated for this partial video.
  • the display end time includes the above-described time lag, the display end time is “1000 msec” later than the time “508000 msec” when the CM actually ends. Accordingly, there is a possibility that the additional information (advertisement information) may remain displayed on the display unit 54 for a period of 1000 msec after the content (CM) ends and the next content (program main body) starts. is there.
  • the additional information display control unit 46 stores this “509000 msec” in the storage unit 47 as the display end time of the additional information.
  • the system time (time stamp information) when the second partial video is extracted is “475000 msec” in the example shown in FIG.
  • the display period of the additional information received by the video receiver 40 together with the result of the video recognition process is “39000 msec”, and the offset time is “6000 msec”.
  • the time “508000 msec” obtained by this calculation is the display end time of the additional information calculated for this partial video. This display end time is equal to the time “508000 msec” when the CM is actually ended because the above-described abnormality is corrected.
  • the additional information display control unit 46 compares “509000 msec” stored in the storage unit 47 with the newly calculated “508000 msec”, and stores the earlier “508000 msec” in the storage unit 47 until then.
  • the stored information is stored in the storage unit 47 as the display end time of the new additional information, replacing the existing “509000 msec”.
  • the display end time of the additional information stored in the storage unit 47 is compared with the display end time of the additional information newly calculated, and updated to the earlier display end time. Is done.
  • additional information for example, advertisement information
  • the video receiving device 40 is configured to transmit and receive data via the communication network 16, and includes the input unit 65, the video extracting unit 45, the control unit 41, and the additional unit.
  • the input unit 65 is configured to input a video signal output from a video transmission device (for example, STB 14) installed outside.
  • the video extraction unit 45 is configured to extract a partial video for video recognition processing from the video signal.
  • the control unit 41 transmits a partial video to the video recognition device 20 connected to the communication network 16 to request video recognition processing, and obtains the result of the video recognition processing and display control information of additional information from the video recognition device 20.
  • the additional information (for example, advertisement information) based on the result of the video recognition process is acquired from the additional information distribution device 30 connected to the communication network 16 and controlled.
  • the additional information display control unit 46 calculates the display end time of the additional information based on the system time and the display control information when the video extraction unit 45 extracts the partial video, and converts the additional information to the video signal of the additional information based on the display end time. Is configured to control the superimposition of.
  • the video reception device 40 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. Can be prevented from being displayed on the display unit 54.
  • content for example, CM
  • next content for example, another CM or program main body
  • the video reception device 40 acquires the information to obtain additional information. Can know when to hide.
  • the additional information display period calculation process described above is performed to calculate the display end time of the additional information, and the additional information being displayed on the display unit 54 is calculated based on the calculated display end time. Hide information. Thereby, when the content for which the additional information is to be superimposed ends, the additional information can be hidden. Therefore, it is possible to prevent a phenomenon in which additional information is erroneously superimposed on the subsequent content.
  • the video reception device 40 includes a display unit 54 configured to display a video in which the additional information 51 is superimposed on the video signal, and the additional information display control unit 46 displays based on the calculated display end time. It may be configured to perform control to hide the additional information being displayed on the unit 54.
  • the display control information acquired by the control unit 41 from the video recognition device 20 may include information indicating a display period of additional information and information indicating an offset time.
  • the additional information display control unit 46 calculates the display end time of the additional information by adding the result obtained by subtracting the offset time from the display period of the additional information to the system time when the partial video is extracted. Can do.
  • the video receiver 40 further includes a storage unit 47 configured to store the display end time of the additional information, and the additional information display control unit 46 stores the calculated display end time of the additional information. 47, each time the video extraction unit 45 extracts a partial video, the calculated display end time of the additional information is compared with the display end time of the additional information stored in the storage unit 47. The earlier one in time is stored in the storage unit 47 as the display end time of the additional information, the display end time is updated, and the addition being displayed on the display unit 54 at the display end time of the additional information stored in the storage unit 47 You may be comprised so that control which hides information may be performed.
  • the display end time of the additional information stored in the storage unit 47 is compared with the display end time of the newly calculated additional information each time, and the display end time which is earlier in time is compared. Updated.
  • a deviation occurs between the system time managed by the video receiving device 40 and the actual time due to some factor (for example, power failure or various processing temporarily occurring in the video receiving device 40).
  • some factor for example, power failure or various processing temporarily occurring in the video receiving device 40.
  • the calculated display end time of the additional information may be a difference between the calculated display end time of the additional information and the end time of the content on which the additional information is to be superimposed.
  • a phenomenon may occur in which the additional information is still displayed on the display unit 54 even though the content ends and new content is displayed on the display unit 54. is there.
  • the display end time of the additional information stored in the storage unit 47 is updated so as to be earlier in time.
  • additional information for example, advertisement information
  • another content for example, another CM or program main body
  • the additional information display system 10 includes a video reception device 40, a video recognition device 20, and an additional information distribution device 30 that are configured to be able to transmit and receive data to and from each other via a communication network 16.
  • the video reception device 40 includes an input unit 65, a video extraction unit 45, a control unit 41, and an additional information display control unit 46.
  • the input unit 65 is configured to input a video signal output from a video transmission device (for example, STB 14) installed outside.
  • the video extraction unit 45 is configured to extract a partial video for video recognition processing from the video signal.
  • the control unit 41 transmits a partial video to the video recognition device 20 via the communication network 16 to request the video recognition processing, and the video recognition processing result and display control information of the additional information are transmitted from the video recognition device 20 to the communication network. 16, and additional information (for example, advertisement information) based on the result of the video recognition process is acquired from the additional information distribution device 30 via the communication network 16.
  • the additional information display control unit 46 calculates the display end time of the additional information based on the system time and the display control information when the video extraction unit 45 extracts the partial video, and converts the additional information to the video signal of the additional information based on the display end time. Is configured to control the superimposition of.
  • the video recognition device 20 receives a partial video transmitted from the video reception device 40 via the communication network 16, performs a video recognition process using the partial video, and displays a result of the video recognition process and display control information of additional information. It is configured to output to the video receiver 40 via the communication network 16.
  • the additional information distribution device 30 is configured to transmit additional information corresponding to the result of the video recognition process received via the communication network 16 to the video reception device 40 via the communication network 16.
  • the video reception device 40 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. Can be prevented from being displayed on the display unit 54.
  • content for example, CM
  • next content for example, another CM or program main body
  • the video reception device 40 calculates the display end time of the additional information, and hides the additional information being displayed on the display unit 54 based on the calculated display end time and the system time.
  • the configured example has been described. However, the present disclosure is not limited to this configuration. For example, based on the system time when the partial video is extracted and the display control information of the additional information acquired from the video recognition device 20, the “remaining display time of additional information” is calculated instead of the display end time of the additional information.
  • the video receiver may be configured to hide the additional information being displayed on the display unit 54 based on the calculated display remaining time of the additional information.
  • the “additional information display remaining time” is the time from the current system time until the display of the additional information is terminated (display remaining time).
  • FIG. 8 is a block diagram schematically showing an example of the configuration of the video recognition device 20 and the video reception device 240 in the second embodiment.
  • the video receiving apparatus 240 in the second embodiment has substantially the same configuration as the video receiving apparatus 40 shown in FIG. 2 in the first embodiment, and each circuit block is substantially the same as in the first embodiment. To work. However, in the second embodiment, the operation in the additional information display control unit 246 is different from the additional information display control unit 46 shown in the first embodiment. Hereinafter, differences from the first embodiment will be described, and description of operations substantially similar to those of the first embodiment will be omitted.
  • the additional information display control unit 246 of the video receiver 240 extracts a partial video from the current system time by setting the first time as the time obtained by subtracting the offset time from the display period of additional information (period in which advertisement information can be displayed).
  • the time obtained by subtracting the current system time is defined as the second time.
  • the time calculated by subtracting the second time from the first time is defined as “display remaining time of additional information”.
  • the additional information display control unit 246 arrives at the time when the “additional information display remaining time” has elapsed from the current system time, that is, the time when the “additional information display remaining time” is added to the current system time. At this point, the control unit 41 is instructed to hide the additional information (advertisement information) being displayed on the display unit 54.
  • the additional information display control unit 246 calculates the remaining display time of the additional information based on the first partial video in which the result of the video recognition processing in the video recognition device 20 is “AD1”. This will be described with reference to FIG.
  • the display period of the additional information is “39000 msec” and the offset time is “1000 msec”
  • the first time is “38000 msec”.
  • the current system time is “471000 msec” and the system time when the partial video is extracted is “470000 msec”
  • the second time is “1000 msec”. Therefore, “37000 msec” obtained by subtracting “1000 msec” from “38000 msec” is the remaining display time of the additional information when the system time is “471000 msec” in this example.
  • the additional information display control unit 246 displays the additional information being displayed on the display unit 54 when “37000 msec” has elapsed from the current system time “471000 msec”, that is, when the system time has reached “508000 msec”.
  • the control unit 41 is instructed to hide (advertisement information).
  • the control unit 41 controls the video output unit 44 to hide the additional information being displayed on the display unit 54.
  • the video reception device 240 may be configured to perform the operations described in steps S22 and S24. That is, the additional information display control unit 246 stores the calculated display remaining time of the additional information in the storage unit 47, and calculates the additional information display remaining time every time a partial video is extracted and stores the additional information in the storage unit 47. The remaining display time of the additional information is stored in the storage unit 47 and the remaining display time of the additional information is updated as compared with the remaining display time of the information. For example, the video reception device 240 may be configured to perform such an operation.
  • the additional information display control unit 246 instructs the control unit 41 not to display the additional information being displayed on the display unit 54 at the timing when the calculated “additional information display remaining time” becomes zero. May be.
  • the video reception device 240 may be configured to display the calculated “remaining display time of additional information” on the display unit 54 together with the additional information.
  • the additional information display control unit 246 displays the additional information based on the system time and the display control information when the video extraction unit 45 extracts the partial video. The display remaining time until the end is calculated instead of the display end time of the additional information.
  • the video reception device 240 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. Can be prevented from being displayed on the display unit 54.
  • content for example, CM
  • next content for example, another CM or program main body
  • Embodiment 1 the example in which the video reception device 40 is configured to transmit one time stamp information (system time at the start of partial video extraction) to the video recognition device 20 together with the partial video has been described.
  • the present disclosure is not limited to this configuration.
  • the video reception device may be configured to transmit a plurality of time stamp information together with the partial video to the video recognition device 20.
  • FIG. 9 is a block diagram schematically showing an example of the configuration of the video recognition device 320 and the video reception device 340 in the third embodiment.
  • the video receiving device 340 in the third embodiment has substantially the same configuration as the video receiving device 40 shown in FIG. 2 in the first embodiment, and each circuit block is substantially the same as in the first embodiment.
  • the video recognition apparatus 320 has substantially the same configuration as that of the video recognition apparatus 20 shown in FIG. 2 in the first embodiment, and each circuit block performs substantially the same operation as in the first embodiment.
  • the operation of the control unit 341 and the additional information display control unit 346 of the video reception device 340 and the operation of the search unit 322 of the video recognition device 320 are the same as those of the control unit 41 described in the first embodiment.
  • differences from the first embodiment will be described, and description of operations substantially similar to those of the first embodiment will be omitted.
  • FIG. 10 is a diagram schematically illustrating an example of additional information display period calculation processing performed by the video reception device 340 according to the third embodiment.
  • FIG. 10 is based on FIG. 6, and detailed description thereof is omitted.
  • the control unit 341 of the video reception device 340 is configured to transmit three time stamp information to the video recognition device 320 regarding one partial video.
  • the three time stamp information includes, for example, 1) system time at the start of partial video extraction, 2) system time during partial video acquisition (system time in the middle of the partial video), and 3) partial video extraction. The system time at the end. In FIG. 10, only the system time at the start of partial video extraction is shown as time stamp information.
  • the search unit 322 of the video recognition device 320 returns information about three offset times corresponding to these three time stamp information to the video reception device 340.
  • the three offset times correspond to, for example, 1) an offset time corresponding to the system time at the start of partial video extraction (indicated as “first” in FIG. 10), and 2) a system time during partial video acquisition. Offset time (denoted as “middle” in FIG. 10), 3) Offset time (denoted as “last” in FIG. 10) corresponding to the system time at the end of the extraction of the partial video.
  • the three pieces of time stamp information (system time) when the first partial video whose result of the video recognition processing in the video recognition device 320 is “AD1” is extracted are “470000 msec”, “ “472980 msec” and “474950 msec”.
  • the display period of the additional information received by the video receiver 340 along with the result of the video recognition process is “39000 msec”, and the three offset times are “1000 msec”, “3480 msec”, “5950 msec”.
  • the additional information display control unit 346 selects the display end time that is earliest in time (“508000 msec” in the above example) from among these three display end times, and selects the selected result as “additional information about this partial video”. Is stored in the storage unit 47.
  • the additional information display control unit 346 does not display the additional information (for example, advertisement information) being displayed on the display unit 54 when the system time reaches the “additional information display end time” thus calculated.
  • the control unit 341 is instructed to In response to this instruction, the control unit 341 controls the video output unit 44 to hide the additional information being displayed on the display unit 54.
  • the video reception device 340 may be configured to perform such an operation.
  • the additional information display control unit 346 performs the operation described in steps S22 and S24 and updates the display end time of the additional information stored in the storage unit 47 so as to be earlier in time. May be configured.
  • the control unit 341 transmits a plurality of time stamp information together when transmitting the partial video to the video recognition device 320 connected to the communication network 16. It is configured to perform control.
  • the video recognition device 320 is configured to return a plurality of offset information based on the plurality of time stamp information to the video reception device 340.
  • the video reception device 340 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. It is possible to prevent the phenomenon that the image is still displayed on the display unit 54 with higher accuracy.
  • content for example, CM
  • next content for example, another CM or program main body
  • the video reception device 40 is configured to superimpose one additional information (for example, advertisement information) on one content (for example, CM) and display it on the display unit 54 .
  • one additional information for example, advertisement information
  • CM content
  • the present disclosure is not limited to this configuration.
  • the video reception device may be configured to display a plurality of additional information on one display (one additional information display period) while being superimposed on the display unit 54 while switching.
  • FIG. 11 is a block diagram schematically showing an example of the configuration of the video recognition device 20 and the video reception device 440 in the fourth embodiment.
  • the video receiving device 440 in the fourth embodiment has substantially the same configuration as the video receiving device 40 shown in FIG. 2 in the first embodiment, and each circuit block is substantially the same as in the first embodiment.
  • the operations of the control unit 441 and the additional information display control unit 446 of the video reception device 440 are different from the control unit 41 and the additional information display control unit 46 shown in the first embodiment.
  • the operation in the additional information distribution device 430 is different from that in the additional information distribution device 30 shown in the first embodiment.
  • the additional information distribution device 430 provides a plurality of additional information regarding one content to the video reception device 440, and the video reception device 440 acquires the plurality of additional information. Further, the additional information distribution device 430 provides display time range information (referred to as “Display time” in FIG. 12) corresponding to each of the plurality of additional information to the video receiving device 440, and the video receiving device 440 Display time range information corresponding to each of the plurality of additional information is acquired.
  • the display time range information is information representing a display period related to each of a plurality of additional information.
  • the video reception device 440 obtains two pieces of additional information (first additional information and second additional information) from the additional information distribution device 430 with respect to one piece of content (one additional information display period). Then, an example will be described in which the two pieces of additional information are operated so as to be switched and displayed on the display unit 54 in the order of the first additional information and the second additional information.
  • FIG. 12 is a diagram schematically illustrating another example of the additional information display period calculation process performed by the video reception device 440 according to the fourth embodiment.
  • FIG. 12 is based on FIG. 6, and detailed description thereof is omitted.
  • the first additional information is referred to as “additional information 1”
  • the second additional information is referred to as “additional information 2”.
  • control unit 441 of the video reception device 440 receives the display time range information of the first additional information from the additional information distribution device 430, in addition to the first additional information and the second additional information, Each circuit block is controlled to acquire the display time range information of the second additional information.
  • the video reception device 440 uses the first partial information and the second additional information based on the first partial video whose result of the video recognition processing in the video recognition device 20 is “AD1”. An example of calculating the display end time will be described.
  • the system time (time stamp information) when the first partial video whose result of the video recognition processing in the video recognition device 20 is “AD1” is extracted is “470000 msec”. Further, the offset time received by the video reception device 440 together with the result of the video recognition processing is “1000 msec”.
  • the display time range information related to the first additional information and the display time range information related to the second additional information acquired by the video reception device 440 from the additional information distribution device 430 are “0 to 19999 msec” and “20000 to 39000 msec”, respectively. It is.
  • the video reception device 440 calculates the display end time of the first additional information and the display end time of the second additional information from these numerical values.
  • the video receiver 40 calculates the display end time of the additional information by adding the result obtained by subtracting the offset time from the display period of the additional information to the system time when the partial video is extracted. did.
  • Video receiving apparatus 440 in the fourth embodiment uses display time range information instead of the display period of additional information. That is, the video receiver 440 is configured to calculate the display end time of the additional information by adding the result of subtracting the offset time from the display time range information to the system time when the partial video is extracted. ing.
  • the additional information display control unit 446 displays the first additional information superimposed on the content (for example, CM) on the display unit 54 until the system time reaches 488999 msec, and after the system time reaches 488999 msec. Until the time reaches 508000 msec, the second additional information is superimposed on the content and displayed on the display unit 54 instead of the first additional information. When the system time reaches 508000 msec, the second additional information is not displayed.
  • the control unit 441 is instructed to display. In response to this instruction, the control unit 441 sequentially displays the first additional information and the second additional information on the display unit 54, and outputs the video so that the second additional information is not displayed when the system time reaches 508000 msec.
  • the unit 44 is controlled.
  • the video reception device 440 may display a plurality of additional information on the display unit 54 at the same time.
  • the control unit 441 performs control to acquire a plurality of additional information including display time range information from the additional information distribution device 430 based on the result of the video recognition processing.
  • the additional information display control unit 446 is configured to perform control to switch a plurality of additional information according to the display time range information and display the information on the display unit.
  • the video reception device 440 when a plurality of additional information (for example, a plurality of advertisement information) is displayed on the display unit 54 while being switched, the content (for example, CM) ends and the next content (for example, another It is possible to prevent the occurrence of a phenomenon in which additional information (for example, advertisement information) relating to content that has already ended continues to be displayed on the display unit 54 after switching to the CM or the program main body.
  • additional information for example, advertisement information
  • the example in which the video reception device 40 is configured to calculate the display end time of the additional information has been described.
  • the present disclosure is not limited to this configuration.
  • the additional information display system may be configured to transmit the display end time of the additional information from the video recognition device to the video receiving device.
  • FIG. 13 is a block diagram schematically illustrating an example of the configuration of the video recognition device 520 and the video reception device 540 according to the fifth embodiment.
  • the video receiving apparatus 540 in the fifth embodiment has substantially the same configuration as the video receiving apparatus 40 shown in FIG. 2 in the first embodiment, and each circuit block is substantially the same as in the first embodiment.
  • the image recognition apparatus 520 has substantially the same configuration as the image recognition apparatus 20 shown in FIG. 2 in the first embodiment, and each circuit block operates substantially the same as in the first embodiment.
  • the operations of the control unit 541 and the additional information display control unit 546 of the video reception device 540 and the operation of the search unit 522 of the video recognition device 520 are the same as those of the control unit 41 described in the first embodiment.
  • differences from the first embodiment will be described, and description of operations substantially similar to those of the first embodiment will be omitted.
  • the video recognition apparatus 520 sends a video recognition request including the partial video extracted by the video extraction unit 45 and the system time (time stamp information) when the partial video is extracted.
  • the point of transmitting to is the same as in the first embodiment.
  • the search unit 522 of the video recognition device 520 receives the video recognition request including the partial video and time stamp information transmitted from the video receiving device 540, the search unit 522 performs video recognition processing using the partial video and the video. Based on the display control information of the additional information based on the result of the recognition process and the time stamp information included in the video recognition request, a process substantially similar to the additional information display period calculation process described in the first embodiment is executed. Thus, the display end time of the additional information is calculated, which is different from the search unit 22 of the video recognition apparatus 20 shown in the first embodiment.
  • the video recognition device 520 transmits information indicating the calculated display end time to the video reception device 540 together with the result of the video recognition processing.
  • control unit 541 of the video reception device 540 controls each circuit block so as to acquire information indicating the display end time of the additional information together with the result of the video recognition processing from the video recognition device 520. Therefore, the additional information display control unit 546 shown in the fifth embodiment does not perform the additional information display period calculation process shown in the first embodiment.
  • the additional information display control unit 546 causes the control unit 541 to hide the additional information being displayed on the display unit 54 when the system time reaches the display end time of the additional information acquired from the video recognition device 520. Instruct. In response to this instruction, the control unit 541 controls the video output unit 44 so that the additional information being displayed on the display unit 54 is not displayed.
  • the search unit 522 of the video recognition device 520 calculates the display remaining time of the additional information described in the second embodiment based on the display control information of the additional information and the time stamp information included in the video recognition request. It may be configured as follows. In this case, the additional information display control unit 546 instructs the control unit 541 to hide the additional information being displayed on the display unit 54 based on the display remaining time of the additional information acquired from the video recognition device 520.
  • the video reception device 540 is configured to transmit and receive data via the communication network 16, and includes the input unit 65, the video extraction unit 45, the control unit 541, and the additional unit.
  • the input unit 65 is configured to input a video signal output from a video transmission device (for example, STB 14) installed outside.
  • the video extraction unit 45 is configured to extract a partial video for video recognition processing from the video signal.
  • the control unit 541 is configured to perform the following control.
  • the control unit 541 transmits a partial video to the video recognition device 520 connected to the communication network 16 to request video recognition processing, and controls to transmit the system time when the video extraction unit 45 extracts the partial video. Do.
  • the control unit 541 performs control to acquire the result of the video recognition processing and the display end time of the additional information or the display remaining time of the additional information from the video recognition device 520. Then, the control unit 541 performs control to acquire additional information (for example, advertisement information) based on the result of the video recognition process from the additional information distribution device 30 connected to the communication network 16.
  • the additional information display control unit 546 is configured to control the superimposition of the additional information on the video signal based on the display end time or the display remaining time acquired from the video recognition device 520.
  • the video reception device 540 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. Can be prevented from being displayed on the display unit 54.
  • content for example, CM
  • next content for example, another CM or program main body
  • the additional information display system in the present embodiment includes a video reception device 540, a video recognition device 520, and an additional information distribution device 30 configured to be able to transmit and receive data to and from each other via the communication network 16.
  • the video recognition device 520 receives the partial video transmitted from the video reception device 40 via the communication network 16 and the system time when the video extraction unit 45 extracts the partial video, and performs video recognition processing using the partial video.
  • the video recognition processing result is output to the video receiving device 540 via the communication network 16, and the additional information display end time or the remaining display time of the additional information based on the system time is received via the communication network 16. It is comprised so that it may output to the apparatus 540.
  • the additional information distribution device 30 is configured to transmit additional information corresponding to the result of the video recognition process received via the communication network 16 to the video reception device 540 via the communication network 16.
  • the video reception device 540 after the content (for example, CM) is finished and switched to the next content (for example, another CM or program main body), additional information (for example, advertisement information) regarding the already finished content. Can be prevented from being displayed on the display unit 54.
  • content for example, CM
  • next content for example, another CM or program main body
  • Embodiments 1 to 5 have been described as examples of the technology disclosed in the present application. However, the technology in the present disclosure is not limited to this, and can also be applied to embodiments in which changes, replacements, additions, omissions, and the like are performed. Also, it is possible to combine the components described in the first to fifth embodiments to form a new embodiment.
  • the configuration in which the video reception device includes the display unit 54 has been described, but the video reception device in the present disclosure is not limited to this configuration.
  • the video receiving apparatus may not include the display unit.
  • FIG. 14 is a block diagram schematically showing an example of the configuration of the video reception device 140 according to another embodiment.
  • the video receiving apparatus 140 shown in FIG. 14 differs from the video receiving apparatuses shown in Embodiments 1 to 5 mainly in the following points.
  • the video reception device 140 does not include the display unit 54, and the video output unit 144 is configured to output a video signal to the video display device 154 installed outside in a wired or wireless manner.
  • a video recording function for example, a video recording function, a broadcast signal reception function, a video signal input function, and a video signal output function are provided, and a video signal is transmitted to a video display device 154 installed outside.
  • the recording apparatus etc. which were comprised in can be mentioned. Examples of such a recording apparatus include a hard disk recorder, a DVD recorder, and a BD recorder.
  • each component is shown based on the video receiver 40 shown in FIG. 2, but each video receiver shown in the second to fifth embodiments also has the same configuration as FIG. Applicable.
  • the video receiving apparatus 140 shown in FIG. 14 is substantially the same as each video receiving apparatus shown in Embodiments 1 to 5 except that a video display apparatus 154 is provided outside. Since it is the same, explanation is omitted.
  • FIG. 14 shows main circuit blocks related to the operation shown in the embodiment, and functions and circuit blocks (for example, a recording function) relating to other operations are omitted.
  • Embodiments 1 to 5 have described the configuration in which a partial video is transmitted from the video reception device to the video recognition device and a content specifying process is requested, the present disclosure is not limited to this configuration.
  • the video reception device is configured to generate a fingerprint (for example, a hash value of each image constituting the partial video) from the partial video, and send the fingerprint to the video recognition device to request content identification processing. May be.
  • the video recognition device receives the fingerprint, compares it with the fingerprint previously generated by the video recognition device and stored in the storage unit, and searches the content corresponding to the received fingerprint. Operate.
  • each component shown in the first to fifth embodiments may be configured by an independent dedicated circuit, or a program created to realize one or more operations thereof. It may be configured to execute on a processor.
  • the program at this time may be acquired by downloading from a server or the like, or may be acquired via a predetermined recording medium (for example, an optical disk such as a CD-ROM, a magnetic disk, a semiconductor memory, or the like).
  • each operation in the servers shown in the first to fifth embodiments may be centrally processed by a single server or may be distributedly processed by a plurality of servers.
  • the present disclosure can be applied to a video reception device that can acquire additional information related to a video signal input from a video transmission device installed outside and superimpose the acquired additional information on the video signal.
  • the present disclosure is applicable to a television receiver, a hard disk recorder, a DVD recorder, a BD recorder, and the like.
  • Additional information display system 12 Broadcasting station 14 STB 16 Communication network 20,320,520 Video recognition device 21,42 HTTP transmission / reception unit 22,322,522 Search unit 23,47 Storage unit 30,430 Additional information distribution device 40,140,240,340,440,540 Video reception device 41, 341, 441, 541 Control unit 43 Operation signal receiving unit 44, 144 Video output unit 45 Video extraction unit 46, 246, 346, 446, 546 Additional information display control unit 48 Video input unit 49 Receiving unit 50 Video 51 Additional information 54 display unit 65 input unit 66 acquisition unit 154 video display device

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

 外部から入力される映像信号に関する付加情報を取得してその映像信号に適切に重畳する。そのために、通信ネットワーク(16)を介してデータの送受信を行うように構成された映像受信装置(40)は、入力部(65)、映像抽出部(45)、制御部(41)、および付加情報表示制御部(46)を備える。制御部は、映像抽出部が抽出した部分映像の映像認識処理を映像認識装置(20)に依頼し、映像認識処理の結果及び付加情報の表示制御情報を映像認識装置から取得する制御を行う。付加情報表示制御部は、映像抽出部が部分映像を抽出したときのシステム時刻及び表示制御情報に基づき付加情報の表示終了時刻を算出し、表示終了時刻に基づき、付加情報の映像信号への重畳を制御する。

Description

映像受信装置、付加情報表示方法および付加情報表示システム
 本開示は、外部から入力される映像信号に関する付加情報を取得して映像信号に重畳する映像受信装置に関する。
 特許文献1は、データ処理システムを開示する。このシステムでは、クライアント装置は、映像認識装置であるサーバ装置に、ネットワークを通して映像データを送信し、映像認識処理を依頼する。サーバ装置は、受信した映像データにもとづき映像認識を行い、映像認識の結果を、ネットワークを通してクライアント装置に送信する。
特開平10-214258号公報
 本開示は、外部から入力される映像信号に関する付加情報を取得し、取得した付加情報の映像信号への重畳を制御するのに有効な映像受信装置、付加情報表示方法、および付加情報表示システムを提供する。
 本開示の映像受信装置は、通信ネットワークを介してデータの送受信を行えるように構成されており、入力部、映像抽出部、制御部、および付加情報表示制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部は、通信ネットワークに接続された映像認識装置に部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果および付加情報の表示制御情報を映像認識装置から取得し、その映像認識処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得する制御を行うように構成されている。付加情報表示制御部は、映像抽出部が部分映像を抽出したときのシステム時刻および表示制御情報にもとづき付加情報の表示終了時刻または表示残存時間を算出し、その表示終了時刻または表示残存時間にもとづき付加情報の映像信号への重畳を制御するように構成されている。
 本開示の付加情報表示方法は、通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における付加情報表示方法であって、外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、通信ネットワークに接続された映像認識装置に、部分映像を送信して映像認識処理を依頼し、映像認識処理の結果及び付加情報の表示制御情報を映像認識装置から取得するステップと、映像認識処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得するステップと、部分映像を抽出したときのシステム時刻及び表示制御情報に基づき付加情報の表示終了時刻または表示残存時間を算出するステップと、その表示終了時刻または表示残存時間に基づき付加情報の映像信号への重畳を制御するステップと、を備える。
 本開示の付加情報表示システムは、通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備える。映像受信装置は、入力部、映像抽出部、制御部、および付加情報表示制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部は、映像認識装置に通信ネットワークを介して部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果および付加情報の表示制御情報を映像認識装置から通信ネットワークを介して取得し、付加情報配信装置からその映像認識処理の結果に基づく付加情報を通信ネットワークを介して取得する制御を行うように構成されている。付加情報表示制御部は、映像抽出部が部分映像を抽出したときのシステム時刻および表示制御情報にもとづき付加情報の表示終了時刻または表示残存時間を算出し、その表示終了時刻または表示残存時間にもとづき付加情報の映像信号への重畳を制御するように構成されている。映像認識装置は、映像受信装置から通信ネットワークを介して送信される部分映像を受信し、受信した部分映像を用いた映像認識処理を行い、その映像認識処理の結果及び付加情報の表示制御情報を通信ネットワークを介して映像受信装置に送信するように構成されている。付加情報配信装置は、通信ネットワークを介して受信した映像認識処理の結果に対応する付加情報を通信ネットワークを介して映像受信装置に送信するように構成されている。
図1は、実施の形態1における付加情報表示システムの構成の一例を概略的に示す図である。 図2は、実施の形態1における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図3Aは、実施の形態1における映像受信装置の表示部に表示する映像の一例を概略的に示す図である。 図3Bは、実施の形態1における映像受信装置の表示部に表示する映像の他の一例を概略的に示す図である。 図4は、実施の形態1における映像受信装置で行う付加情報表示制御の動作を概略的に示すフローチャートである。 図5は、実施の形態1における映像受信装置で行う付加情報表示期間算出処理の動作を概略的に示すフローチャートである。 図6は、実施の形態1における映像受信装置で行う付加情報表示期間算出処理の一例を概略的に示す図である。 図7は、実施の形態1における映像受信装置で行う付加情報表示期間算出処理の他の一例を概略的に示す図である。 図8は、実施の形態2における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図9は、実施の形態3における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図10は、実施の形態3における映像受信装置で行う付加情報表示期間算出処理の一例を概略的に示す図である。 図11は、実施の形態4における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図12は、実施の形態4における映像受信装置で行う付加情報表示期間算出処理の他の一例を概略的に示す図である。 図13は、実施の形態5における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図14は、他の実施の形態における映像受信装置の構成の一例を概略的に示すブロック図である。
 以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
 なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
 (実施の形態1)
 以下、図1~図7を用いて、実施の形態1を説明する。
 [1-1.構成]
 [1-1-1.システム構成の概略]
 図1は、実施の形態1における付加情報表示システム10の構成の一例を概略的に示す図である。付加情報表示システム10は、放送局12、映像送信装置であるSTB(Set Top Box)14、映像認識装置20、付加情報配信装置30、および映像受信装置40を備える。付加情報表示システム10は、映像認識装置20が有する映像認識技術を利用して、映像受信装置40が受信した映像がどのコンテンツのものかを特定し、そのコンテンツに関連する付加情報を、付加情報配信装置30から取得して映像受信装置40に表示する、ことができるように構成された通信システムである。
 映像受信装置40と、映像認識装置20および付加情報配信装置30とは、通信ネットワーク16を介して互いに接続されている。
 通信ネットワーク16は、有線、または無線、あるいはその双方が混在して構成されている。通信ネットワーク16は、例えばインターネットであるが、イントラネットや商業回線、あるいはその他の通信回線であってもよく、それらが混在していてもよい。
 映像受信装置40とSTB14とは、通信インターフェースを介して互いに接続されている。通信インターフェースは、例えばHDMI(登録商標)(High-Definition Multimedia Interfase)であるが、ビデオケーブルであってもよく、あるいはWi-Fi(登録商標)やBluetooth(登録商標)、無線LAN(Local Area Network)等の無線通信であってもよい。
 放送局12は、放送信号を送信(放送)するように構成された送信装置である。放送局12は、番組本体とコマーシャルメッセージ(CM)とを含むテレビ番組を映像信号にして放送信号に重畳し放送する。番組本体とCMとは時間の経過に伴って互いに切り替わる。以下、番組本体やCMを「コンテンツ」と記す。すなわち、放送局12は、時間の経過に伴って切り替わるコンテンツを放送する。なお、送信装置は何ら放送局12に限定されるものではなく、時間の経過に伴って切り替わるコンテンツを送信または放送するものであればよい。
 STB14は、放送局12が放送する放送信号を受信して映像信号を取り出すように構成された受信機(チューナ)である。STB14は、例えば放送局12がデジタルの映像信号を放送する場合、受信した映像信号をデコードする機能を備えていてもよい。STB14は、放送局12が放送する複数のチャンネルの中から、ユーザ(User)の指示にもとづき選局したチャンネルを受信し、そのチャンネルの映像信号を通信インターフェース(例えば、HDMI(登録商標))を介して、映像受信装置40に出力する。なお、映像送信装置は何らSTB14に限定されるものではなく、例えば録画機能と放送信号受信機能と映像信号出力機能とをあわせ持つ録画装置、等であってもよい。
 映像受信装置40は、外部から入力される映像信号にもとづく映像を表示部54に表示するように構成された映像受信デバイスであり、例えばテレビジョン受像機である。映像受信装置40は、通信ネットワーク16に接続されており、通信ネットワーク16を介して映像認識装置20および付加情報配信装置30とデータの送受信ができる。
 実施の形態1における映像受信装置40は、以下のことができるように構成されている。映像受信装置40は、映像送信装置(例えば、STB14)から通信インターフェースを介して入力される映像信号に関する映像認識処理を映像認識装置20を利用して行い、その映像信号が表すコンテンツを特定する。そして、そのコンテンツに関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報をその映像信号に重畳して表示部54に表示する。
 具体的には、映像受信装置40は、入力される映像信号から一部を周期的に切り出すことで部分映像を周期的に抽出し、その部分映像と、部分映像を抽出したときのタイムスタンプ情報および映像認識処理の要求(以下、「映像認識要求」とも記す)を、通信ネットワーク16を介して映像認識装置20に送信する。そして、映像受信装置40は、その部分映像に対する映像認識処理の結果および付加情報の表示制御情報を映像認識装置20から通信ネットワーク16を介して取得し、取得した映像認識処理の結果に関連する付加情報を、付加情報配信装置30から通信ネットワーク16を介して取得する。そして、取得した付加情報にもとづく画像(図1には、「付加情報51」として示す)を、映像認識装置20から取得した付加情報の表示制御情報にもとづき、表示部54に表示中の映像に重畳して表示する。付加情報の表示制御情報とは、付加情報を表示部54に表示するときの表示/非表示の制御に用いる情報のことであり、例えば付加情報の表示期間を示す情報、等が含まれる。これらの詳細は後述する。
 なお、本実施の形態では、映像受信装置40で管理される時間を「システム時刻」と呼称する。また、映像受信装置40で何らかの動作が行われたときのシステム時刻を「タイムスタンプ」と呼称する。例えば、上述の、部分映像を抽出したときのタイムスタンプとは、映像受信装置40で部分映像を抽出したときのシステム時刻のことである。また、タイムスタンプ情報とは、そのシステム時刻を表す情報(またはデータ)のことである。
 なお、映像受信装置40で管理される時間と、映像認識装置20で管理される時間とは、互いに同期している(それぞれの正時(毎時00分)が実質的に同時刻となる)ことが望ましい。
 なお、本実施の形態では、付加情報を「コンテンツに関連する広告情報」とする例を説明するが、付加情報は何ら広告情報に限定されるものではなく、例えば観光情報、歴史情報、人物プロフィール情報、URL(Uniform Resource Locator)、公共公報情報、放送中の番組に関する情報、ツイッター(登録商標)等のソーシャル情報、等であってもよい。
 映像認識装置20は、通信ネットワーク16に接続されたサーバ装置であり、映像認識処理にもとづくコンテンツ特定処理を行うWebサイトである。コンテンツ特定処理とは、受信した部分映像に対して映像認識処理を行い、その映像認識処理の結果にもとづきその部分映像が表すコンテンツを特定する処理のことである。そのために、映像認識装置20は、放送局12が放送するコンテンツに対する解析と、その解析の結果を利用した映像認識処理を行う。
 映像認識装置20は、放送局12から放送される実施的に全てのコンテンツを取得する。そして、取得したコンテンツに対する解析を行い、コンテンツの時間、容量、放送形式、内容、ジャンル、登場人物、タイムテーブル、等を調べ、解析情報を作成する。また、映像認識装置20は、放送局12から取得したコンテンツの映像信号からフィンガープリントを作成する。このフィンガープリントは、映像を認識するための情報であり、例えば、動画を構成する各画像のハッシュ値である。映像認識装置20は、放送局から放送される放送信号を受信してコンテンツを取得してもよく、あるいは、専用の映像回線等を介して放送局12から送信される映像信号を受信してコンテンツを取得してもよい。また、この解析は、例えば、自動で行われてもよく、作業者が手作業で行ってもよい。各コンテンツの解析結果である解析情報とフィンガープリントは、各コンテンツの映像(例えば、複数フレームの映像信号)毎に、映像認識装置20の記憶部23に記憶される。
 映像認識装置20は、映像受信装置40から送信されてくる部分映像および部分映像を抽出したときのタイムスタンプ情報、を伴った映像認識要求を通信ネットワーク16を介して受信すると、その部分映像から生成したフィンガープリントを、映像認識装置20があらかじめ生成し記憶部23に記憶しておいたフィンガープリントと照合してその部分映像に対する映像認識処理を行い、その部分映像に対応するコンテンツを特定する。こうして、映像認識装置20は、映像受信装置40から送信されてくる部分映像が何のコンテンツの映像なのかを判断してそのコンテンツを特定するコンテンツ特定処理を行う。そして、特定したコンテンツに関する解析結果(解析情報)を記憶部23から読み出し、読み出した情報を映像認識処理の結果として映像受信装置40に通信ネットワーク16を介して返信する。また、映像認識装置20は、映像認識処理の結果を映像受信装置40に返信する際に、付加情報の表示制御情報も併せて返信する。
 このような手法による映像認識処理(映像認識処理にもとづくコンテンツ特定処理)を「ACR(Automatic Content Recognition)」とも呼称する。
 付加情報配信装置30は、通信ネットワーク16に接続されたサーバ装置であり、様々な商品の広告情報を保持して配信するWebサイト(広告配信サイト)である。付加情報配信装置30は、映像受信装置40から送信されてくる映像認識処理の結果(映像受信装置40が映像認識装置20から取得した映像認識処理の結果にもとづく解析情報)を通信ネットワーク16を介して受信すると、その映像認識処理の結果(解析情報)に関連する付加情報を通信ネットワーク16を介して映像受信装置40に送信する。この付加情報は、例えば、映像認識処理により特定されたコンテンツに関連する広告情報である。
 [1-1-2.映像認識装置および映像受信装置の構成]
 図2は、実施の形態1における映像認識装置20および映像受信装置40の構成の一例を概略的に示すブロック図である。
 なお、図2には、本実施の形態に示す動作に関連する主な回路ブロックを示しており、他の動作に関する機能や回路ブロックは省略している。これは、本実施の形態で説明する動作を分かりやすく示すためである。また、図2に示す各回路ブロックは、それぞれが独立した回路で構成されていてもよく、あるいは、図2に示す回路ブロックの1つまたは複数を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。
 映像認識装置20は、HTTP(Hypertext Transfer Protocol)送受信部21、検索部22、および記憶部23、を備えるサーバ装置である。映像認識装置20は、映像受信装置40に、通信ネットワーク16を介して映像認識処理にもとづくコンテンツ特定処理のサービスを提供するように構成されている。
 HTTP送受信部21は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部21は、通信ネットワーク16を介して映像受信装置40とデータの送受信を行うことができるように構成されている。
 記憶部23は、例えばHDD(Hard Disk Drive)等で構成された記憶装置である。記憶部23は、放送局12から放送されるコンテンツのフィンガープリントと、そのコンテンツに対する解析結果の解析情報とを、そのコンテンツに対応付けて記憶するように構成されている。このフィンガープリントは、例えば、動画を構成する各画像のハッシュ値、等である。
 記憶部23は、例えば、放送局12から放送される全チャンネル(例えば、300チャンネル)について、放送からわずかな時間遅れ(例えば、10秒)で、コンテンツ(例えば、番組本体やCM)毎に、フィンガープリントと解析結果(解析情報)を対応付けて記憶する。この解析結果(解析情報)には、例えば、番組のタイトル、CMのタイトル、番組のあらすじ、CMのあらすじ、登場人物、映像に関連する場所、URL等が含まれていてもよい。また、映像受信装置40の表示部54に表示される映像(コンテンツの映像)に付加情報を重畳して表示することが可能なときは、付加情報の表示期間を示す情報も記憶する。
 検索部22は、映像受信装置40から送信されてくる部分映像およびタイムスタンプ情報を伴う映像認識要求をHTTP送受信部21を介して受信すると、その部分映像を用いた映像認識処理にもとづくコンテンツ特定処理を行い、その結果(解析情報)および付加情報の表示制御情報をHTTP送受信部21を介して映像受信装置40に返信するように構成されている。本実施の形態では、部分映像を用いた映像認識処理にもとづくコンテンツ特定処理の結果を、単に「映像認識処理の結果」とも記す。
 具体的には、検索部22は、映像受信装置40から送信されてくる部分映像およびタイムスタンプ情報を伴う映像認識要求を、通信ネットワーク16およびHTTP送受信部21を介して受信する。次に、受信した部分映像のフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、生成したフィンガープリントを、記憶部23に記憶されているフィンガープリントと照合し、受信した部分映像に対応するフィンガープリントを検索する(映像認識処理)。そして、その検索の結果により特定されたフィンガープリントに対応するコンテンツを、受信した部分映像に対応するコンテンツとする(コンテンツ特定処理)。このようにして、検索部22は、受信した部分映像に対応するコンテンツを特定する。そして、検索部22は、特定したコンテンツに対応付けられた解析結果(解析情報)を記憶部23から読み出し、読み出した解析結果を、映像認識処理の結果として、HTTP送受信部21および通信ネットワーク16を介して映像受信装置40に返信する。
 また、検索部22は、映像認識処理の結果とともに、付加情報の表示制御情報も映像受信装置40に返信する。この付加情報の表示制御情報には、付加情報の表示期間を示す情報、およびオフセット時間を示す情報が含まれる。オフセット時間を示す情報とは、映像認識装置20で管理されるコンテンツの開始時刻と、部分映像(部分映像を抽出したときのタイムスタンプ情報)との時間差を表す情報である。映像受信装置40では、後述するように、付加情報の表示終了時刻を算出する動作を行うが、その際に、この付加情報の表示期間を示す情報およびオフセット時間を示す情報が用いられる。これらの詳細は後述する。
 映像受信装置40は、制御部41、HTTP送受信部42、操作信号受信部43、映像出力部44、表示部54、映像抽出部45、付加情報表示制御部46、記憶部47、取得部66および映像入力部48を備える。映像受信装置40は、映像認識装置20を利用した映像認識処理にもとづくコンテンツ特定処理を行い、その映像認識処理の結果としての解析情報を映像認識装置20から取得してその解析情報に関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、受信した映像信号による映像(コンテンツ)に、その付加情報(例えば、その映像に関連する広告情報)による画像を重畳して表示部54に表示する、ように構成されている。
 HTTP送受信部42は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部42は、通信ネットワーク16を介して映像認識装置20とデータの送受信を行うことができるように構成されている。
 操作信号受信部43は、ユーザ操作を受け付けたリモートコントロール装置(以下、「リモコン」と略記する)等の操作部(図示せず)が発信する操作信号(映像受信装置40に対する操作信号)を受信するように構成されている。操作信号受信部43は、ジャイロセンサを有するリモコンが、そのリモコンに生じる物理的な変動にもとづき発信する信号を受信するように構成されていてもよい。
 映像入力部48は、受信回路およびデコーダであり、放送局が送信する放送信号を受信するように構成された受信部49と、映像送信装置(例えば、STB14)が出力する映像信号を入力するように構成された入力部65とを有する。映像入力部48が受け取る映像信号には、時間の経過に伴って切り替わるコンテンツ(番組本体とCM、等)が含まれる。
 受信部49は、放送局12が送信する放送信号をアンテナ(図示せず)等を介して受信するように構成されている。
 入力部65は、外部に設置された映像送信装置から出力されてくる映像信号を入力するように構成されたインターフェースである。入力部65は、例えばHDMI(登録商標)の規格に適合するように構成されており、映像送信装置からHDMI(登録商標)を介して送信されてくる映像信号を受け取ることができる。この映像送信装置は、例えばSTB14であるが、映像記録再生装置等であってもよい。また、入力部は、ビデオケーブルを介して送信されてくる映像信号や、無線通信で送信されてくる映像信号を受け取るように構成されていてもよい。
 映像出力部44は、表示部54を制御する機能を有し、映像入力部48から入力される映像信号にもとづき表示部54を制御して、その映像信号にもとづく映像を表示部54に表示するように構成されている。映像出力部44は、制御部41から付加情報が入力されたときは、表示部54に表示中の映像に、付加情報にもとづく画像を重畳する。
 表示部54は、映像信号にもとづく映像を表示するように構成されたディスプレイであり、例えばLCD(Liquid Crystal Display)である。しかし、本実施の形態は何らこの構成に限定されるものではなく、表示部54は、PDP(Plasma Display Panel)やOLED(Organic Electro Luminescence Display)、等であってもよい。
 付加情報表示制御部46は、付加情報の表示制御を行うように構成されている。具体的には、付加情報表示制御部46は、付加情報を表示部54に表示するか否かを判断し、その判断にもとづき、表示部54に付加情報を表示する指示、表示部54に表示中の付加情報を継続表示する指示、表示部54に表示中の付加情報を非表示にする指示、等を制御部41に出力するように構成されている。
 付加情報表示制御部46は、映像抽出部45で抽出された部分映像にもとづく映像認識処理(映像認識処理にもとづくコンテンツ特定処理)を、映像認識装置20を利用して行う。また、制御部41からシステム時刻を取得する。そして、映像認識装置20から取得した映像認識処理の結果にもとづき付加情報配信装置30から取得した付加情報を、表示部54に表示するか否か(映像信号に重畳するか否か)を判断し、その判断にもとづく指示を制御部41に出力する。また、付加情報表示制御部46は、映像認識処理の結果と共に映像認識装置20から取得した付加情報の表示制御情報、および制御部41から取得したシステム時刻にもとづき、付加情報の表示終了時刻を算出する。そして、算出した付加情報の表示終了時刻および現在のシステム時刻にもとづき、表示部54に表示中の付加情報を継続表示するか非表示にするかを判断し、その判断にもとづく指示を制御部41に出力する。
 なお、付加情報表示制御部46は、映像抽出部45で抽出された部分映像からフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、生成したフィンガープリントにもとづく映像認識処理を、映像認識装置20を利用して行うように構成されてもよい。
 映像抽出部45は、映像入力部48から入力される映像信号から部分映像を抽出するように構成されている。映像抽出部45は、映像信号から、あらかじめ定められた周期で、映像信号の一部である部分映像を所定時間分抽出するように構成されている。例えば、あらかじめ定められた周期が3秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、3秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を3秒毎に隙間なく連続して抽出する動作を繰り返す。また、例えば、あらかじめ定められた周期が15秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、15秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を12秒の間隔をおいて抽出する動作を繰り返す。なお、映像信号から抽出する部分映像は秒単位での抽出に限定されるものではなく、例えば、映像フレームレートにおいて予め定められたフレーム数で部分映像を抽出してもよい。
 記憶部47は、例えば不揮発性メモリ等で構成された記憶装置である。記憶部47は、映像入力部48で受信した電子番組表(Electronic Program Guide:EPG)等の番組メタ情報、HTTP送受信部42を介して映像認識装置20および付加情報配信装置30から取得した付加情報および付加情報の表示制御情報、付加情報表示制御部46が算出した付加情報の表示終了時刻、等を記憶する。
 制御部41は、映像受信装置40が備える各回路ブロックを制御するように構成されている。制御部41は、例えば、プログラム(アプリケーションプログラム等)を記憶しているROM等の不揮発性メモリ、そのプログラムを実行するCPU、および、CPUがプログラムを実行するときに一時的にデータやパラメータ等を記憶するRAM等の揮発性メモリ、等から構成される。
 制御部41が行う制御には、例えば次のようなものがある。制御部41は、映像抽出部45が映像信号から部分映像を所定の周期で抽出するように、映像抽出部45を制御する。そして、映像抽出部45が部分映像を抽出する度に、抽出された部分映像およびタイムスタンプ情報を、映像認識要求とともに、HTTP送受信部42および通信ネットワーク16を介して映像認識装置20に送信し、その部分映像に対する映像認識処理を映像認識装置20に依頼するように、各回路ブロックを制御する。そして、その部分映像に対する映像認識処理の結果および付加情報の表示制御情報を通信ネットワーク16およびHTTP送受信部42を介して映像認識装置20から取得し、その映像認識処理の結果にもとづく付加情報を通信ネットワーク16およびHTTP送受信部42を介して付加情報配信装置30から取得するように、各回路ブロックを制御する。そして、取得した付加情報を記憶部47に記憶するとともに映像出力部44に出力し、表示部54に表示中の映像に付加情報を重畳して表示するように、各回路ブロックを制御する。このとき、制御部41は、付加情報表示制御部46が「付加情報を非表示にする」と判断すれば、表示部54に表示中の付加情報を非表示にするように、各回路ブロックを制御する。
 なお、映像受信装置40が映像認識装置20に映像認識処理を依頼するときには、映像受信装置40が映像認識処理の依頼を表す信号(データ)を作成し、その信号を映像認識要求として映像認識装置20に送信するように付加情報表示システム10を構成してもよいが、例えば、そのような信号(データ)の送信は行わず、映像受信装置40が部分映像を映像認識装置20に送信することで映像認識装置20に映像認識処理を依頼したことになるように映像受信装置40と映像認識装置20との間であらかじめ取り決めをしておいてもよい。
 取得部66は、付加情報の表示制御情報を、通信ネットワーク16およびHTTP送受信部42を介して映像認識装置20から取得する。
 次に、付加情報表示制御部46が行う付加情報の表示制御の概要について、図3A、3Bを用いて説明する。
 図3Aは、実施の形態1における映像受信装置40の表示部54に表示する映像の一例を概略的に示す図である。図3Bは、実施の形態1における映像受信装置40の表示部54に表示する映像の他の一例を概略的に示す図である。
 図3Aには、STB14から入力部65に入力された映像信号にもとづく映像50がそのまま表示部54に表示されている例を示す。なお、図3Aには、映像50の一例として「ABC放送番組」が表示されている例を示す。
 図3Bには、映像50に、映像認識処理の結果にもとづき付加情報配信装置30から取得した付加情報51が重畳された映像が、表示部54に表示されている例を示す。なお、図3Bに示す付加情報51は、付加情報の一例として挙げているものに過ぎず、付加情報の表示位置や表示サイズ等が、何ら図3Bに示す付加情報51の表示位置や表示サイズ等に限定されるものではない。
 付加情報表示制御部46は、付加情報51の表示/非表示を、映像認識装置20から取得する付加情報の表示制御情報および映像受信装置40のシステム時刻にもとづき制御する。付加情報51の表示制御の詳細は、後述する。
 [1-2.動作]
 以上のように構成された映像受信装置40について、その動作を図4~図11を用いて説明する。
 上述したように、映像受信装置40は、例えばSTB14等の映像送信装置から出力される映像信号が入力されると、その映像信号に対する映像認識処理を映像認識装置20を利用して行う。映像受信装置40は、映像認識処理の結果と共に、付加情報の表示制御情報を映像認識装置20から取得する。以下、付加情報の表示制御情報を、単に「表示制御情報」とも記す。そして、その映像認識処理の結果に関連する付加情報51(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報51を映像信号に重畳して表示部54に表示する。
 映像受信装置40は、取得した表示制御情報にもとづき、付加情報の表示終了時刻を算出する。そして、算出した付加情報の表示終了時刻および映像受信装置40のシステム時刻にもとづき、表示部54に表示中の付加情報51(例えば、広告情報)を、非表示にする。以下、付加情報の表示終了時刻を、単に「表示終了時刻」とも記す。
 以下、表示制御情報にもとづき表示終了時刻を算出し、算出した表示終了時刻にもとづき、表示部54に表示中の広告情報を非表示にする動作を説明する。
 [1-2-1.付加情報表示制御の動作]
 図4は、実施の形態1における映像受信装置40で行う付加情報表示制御の動作を概略的に示すフローチャートである。
 映像受信装置40の映像抽出部45は、STB14から出力され入力部65に入力される映像信号から部分映像を抽出する(ステップS10)。
 制御部41は、映像抽出部45が抽出した部分映像、および部分映像を抽出したときの映像受信装置40のシステム時刻(タイムスタンプ情報)を、映像認識要求とともに、HTTP送受信部42および通信ネットワーク16を介して映像認識装置20へ送信するように各回路ブロックを制御する(ステップS11)。
 制御部41は、その返信である映像認識処理の結果(解析情報)および付加情報の表示制御情報を、映像認識装置20から、通信ネットワーク16およびHTTP送受信部42を介して受信するように各回路ブロックを制御する。これにより、制御部41は、STB14から入力部65に入力された映像信号が表すコンテンツが何であるかを認識する(ステップS12)。
 制御部41は、ステップS11で判明したコンテンツを示す情報を、HTTP送受信部42および通信ネットワーク16を介して付加情報配信装置30へ送信するように各回路ブロックを制御する。そして、そのコンテンツに関連する広告情報を、付加情報配信装置30から、通信ネットワーク16およびHTTP送受信部42を介して取得するように各回路ブロックを制御する。制御部41は、取得した広告情報を記憶部47に記憶するように各回路ブロックを制御する。(ステップS13)。このとき、制御部41は、そのコンテンツに関連するURLを指定して付加情報配信装置30にアクセスすることで、そのコンテンツに関連する広告情報を付加情報配信装置30から取得するように各回路ブロックを制御してもよい。例えば、映像認識装置20から取得する解析情報にURLが含まれていれば、制御部41は、そのURLを指定して付加情報配信装置30にアクセスして広告情報を取得するように各回路ブロックを制御してもよい。
 次に、付加情報表示制御部46は、取得した表示制御情報にもとづき、付加情報の表示終了時刻を算出する。そして、算出した表示終了時刻を記憶部47に記憶する(ステップS14)。以下、付加情報の表示終了時刻を算出する処理を、「付加情報表示期間算出処理」とも記す。付加情報表示期間算出処理の詳細は、後述する。
 付加情報表示制御部46は、広告情報を表示部54に表示するか否かを、表示制御情報にもとづき判断する。制御部41は、付加情報表示制御部46からの指示にもとづき、広告情報を映像出力部44へ出力し、表示部54に表示中のコンテンツにその広告情報を重畳して表示するように、映像出力部44に指示する(ステップS15)。これにより、映像出力部44は、表示部54に表示中のコンテンツに広告情報を重畳して表示する。この広告情報は、ステップS13で付加情報配信装置30から取得され記憶部47に記憶された広告情報である。
 付加情報表示制御部46は、ステップS14で算出され記憶部47に記憶された表示終了時刻と現在のシステム時刻とを比較し、その比較にもとづき、システム時刻が表示終了時刻に達したか否かを判断する(ステップS16)。
 システム時刻は表示終了時刻に達していない、との判断がステップS16でなされたとき(No)は、ステップS15に戻り、付加情報表示制御部46は、広告情報の映像出力部44への出力を継続するように制御部41に指示する。制御部41はこの指示にもとづき映像出力部44を制御し、これにより、映像出力部44は、広告情報の表示を継続する。
 システム時刻は表示終了時刻に達した、との判断がステップS16でなされたとき(Yes)は、付加情報表示制御部46は、広告情報の映像出力部44への出力を停止し広告情報を非表示にするように制御部41に指示する。これにより、制御部41は、映像出力部44に対して広告情報の非表示を指示する。その指示により、映像出力部44は、表示部54に表示中の広告情報を非表示にする。したがって、表示部54には、映像信号にもとづく映像(広告情報が重畳されていないコンテンツの映像)が表示される(ステップS16)。そして、ステップS10に戻り、映像受信装置40はこれら一連の動作を繰り返す。
 次に、ステップS14の付加情報表示期間算出処理について説明する。
 [1-2-2.付加情報表示期間算出処理の動作]
 図5は、実施の形態1における映像受信装置40で行う付加情報表示期間算出処理の動作を概略的に示すフローチャートである。
 付加情報表示制御部46は、映像認識装置20から取得した表示制御情報と、この表示制御情報を取得する際に映像認識装置20へ送信したシステム時刻(タイムスタンプ情報)とを用いて、付加情報の表示終了時刻を算出する(ステップS20)。付加情報の表示終了時刻を算出する方法については後述する。
 次に、付加情報表示制御部46は、算出した付加情報の表示終了時刻が記憶部47に記憶されているかどうかを確認する(ステップS21)。
 ステップS21において、付加情報の表示終了時刻は記憶部47に記憶されていない、と判断されたとき(No)は、付加情報表示制御部46は、ステップS20で算出された付加情報の表示終了時刻を記憶部47に記憶する(ステップS23)。そして、図4に示したステップS15の処理に移行する。
 ステップS21において、付加情報の表示終了時刻は記憶部47に記憶されている、と判断されたとき(Yes)は、付加情報表示制御部46は、ステップS20で算出された付加情報の表示終了時刻が、記憶部47に記憶されている付加情報の表示終了時刻と等しいか否かを判断する(ステップS22)。
 ステップS22において、等しい、と判断されたとき(Yes)は、図4に示したステップS15の処理に移行する。
 ステップS22において、等しくない、と判断されたとき(No)は、付加情報表示制御部46は、ステップS20で算出された付加情報の表示終了時刻と、記憶部47に記憶されている付加情報の表示終了時刻とを互いに比較する。そして、付加情報表示制御部46は、いずれか時間的に早い方を記憶部47に記憶させ、記憶部47に記憶されている付加情報の表示終了時刻を更新(または、維持)する(ステップS24)。そして、図4に示したステップS15の処理に移行する。
 次に、図6を用いて、付加情報表示期間算出処理の概要を説明する。
 図6は、実施の形態1における映像受信装置40で行う付加情報表示期間算出処理の一例を概略的に示す図である。
 図6には、システム時刻、経過時間、映像信号(コンテンツ)、部分映像、表示制御情報、表示終了時刻、表示部54に表示する画像、を概略的に示す。また、図6には、コンテンツが、番組からCMに切り替わり、そのCMから番組に切り替わる例を示す。また、図6に示す例では、CMを付加情報を重畳するコンテンツとする。また、図6に示す経過時間は、CMの開始時刻からの経過時間のことであり、CMの開始時刻を0msecとしている。なお、時刻は、GMT(グリニッジ平均時)やUTC(協定世界時)に基づく値に変換されて計算されるものとする。
 図6には、このCMが、映像受信装置40のシステム時刻が469000msecのときに開始し、508000msecのときに終了する例を示す。
 例えば、映像認識装置20の記憶部23には、このCMは「AD1」であり(図6には、コンテンツのID(Identification)として示す)、このCMに関連する「付加情報の表示期間(広告情報を表示可能な期間)」(図6には、「total」として示す)は「39000msec」である、という情報が記憶されているものとする。併せて、映像認識装置20の記憶部23には、映像認識装置20から取得されたオフセット時間(図6には、「offset」として示す)を示す情報も記憶されているものとする。
 映像受信装置40は、予め決められた周期で抽出した部分映像(図6には、「video frames」と記す)と、その部分映像を抽出したときのシステム時刻(タイムスタンプ情報。図6には、video framesの直下に示す)を、映像認識要求と共に映像認識装置20に送信する。
 映像認識装置20は、ACR技術によって、受信した部分映像に対する映像認識処理を行う。
 上述の「AD1」という情報は、この映像認識処理の結果として映像認識装置20から映像受信装置40に送信された情報である。また、映像受信装置40は、映像認識処理の結果と共に付加情報の表示制御情報を映像認識装置20から受信する。上述の「39000msec」という情報は、付加情報の表示期間(広告情報を表示可能な期間)を示す情報として、この表示制御情報に含まれている。
 また、この表示制御情報には、オフセット時間を示す情報が含まれている。オフセット時間を示す情報とは、映像認識装置20で管理されるコンテンツの開始時刻と、部分映像を抽出したときのタイムスタンプ情報(システム時刻)との差を表す情報である。例えば、図6では、CMの開始時刻は「469000msec」であり、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像が抽出されたときのシステム時刻(タイムスタンプ情報)は、「470000msec」である。したがって、この部分映像に対するオフセット時間は、470000msecから469000msecを減算した「1000msec」となる。同様にして算出された「6000」、「11000」、「16000」、といった数値(単位はmsec)が、各部分映像におけるオフセット時間である。
 映像受信装置40は、映像認識装置20から取得した映像認識処理の結果(図6に示す例では、「AD1」という情報)にもとづく付加情報(広告情報)を、付加情報配信装置30から取得して、記憶部47に記憶する。
 映像受信装置40の付加情報表示制御部46は、部分映像を抽出したときのシステム時刻(タイムスタンプ情報)および付加情報の表示制御情報(図6に示す例では、「39000msec」という情報、およびオフセット時間を示す情報)にもとづき、付加情報の表示終了時刻を算出する。
 以下では、一例として、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像(以下、「最初の部分映像」とも記す)にもとづき、付加情報の表示終了時刻を算出する例を説明する。
 図6に示す例では、最初の部分映像が抽出されたときのシステム時刻(タイムスタンプ情報)は、「470000msec」である。また、その映像認識処理の結果とともに映像受信装置40が受信した付加情報の表示期間(広告情報を表示可能な期間)は「39000msec」であり、オフセット時間は「1000msec」である。付加情報表示制御部46は、これらの数値から、付加情報の表示終了時刻を算出する。具体的には、付加情報表示制御部46は、付加情報の表示期間「39000msec」からオフセット時間「1000msec」を減算した結果を、その部分映像が抽出されたときのシステム時刻「470000msec」に加算する。すなわち、付加情報表示制御部46は、以下の演算を行う。
470000+(39000―1000)=508000
この演算により得られる時刻、上述の例では「508000msec」という時刻が、最初の部分映像に関して算出された「付加情報の表示終了時刻」である。付加情報表示制御部46は、このようにして付加情報の表示終了時刻を算出する。
 付加情報表示制御部46は、システム時刻が、算出された付加情報の表示終了時刻になるまで、付加情報をコンテンツに重畳して表示部54に表示するように制御部41に指示する。制御部41は、その指示にもとづき映像出力部44を制御する。上述の例では、システム時刻が「508000msec」になるまで、付加情報(記憶部47に記憶された広告情報)をコンテンツに重畳して表示部54に表示し、システム時刻が「508000msec」になったら付加情報を非表示にするように、制御部41は映像出力部44を制御する。
 次に、図7を用いて、図5に示したステップS22、S24の概要を説明する。
 図7は、実施の形態1における映像受信装置40で行う付加情報表示期間算出処理の他の一例を概略的に示す図である。
 図7は、図6をベースにして示しているので、詳細な説明は省略する。
 映像受信装置40は、映像認識装置20から、新たな映像認識処理の結果および付加情報の表示制御情報を受信する毎に、付加情報の表示終了時刻を算出する。そして、ステップS22、S24で説明したように、新たに算出した表示終了時刻と、記憶部47に記憶されている表示終了時刻とを比較し、いずれか時間的に早い方の表示終了時刻を記憶部47に記憶して、それまで記憶部47に記憶されていた表示終了時刻と置き換える。こうして、記憶部47に記憶する表示終了時刻を更新する。
 以下では、一例として、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像(最初の部分映像)、およびそれに続く部分映像(2番目の部分映像)にもとづき、付加情報の表示終了時刻を算出する例を説明する。
 図7に示す例では、最初の部分映像が抽出されたときのシステム時刻(タイムスタンプ情報)は、「471000msec」となっている。なお、このシステム時刻(タイムスタンプ情報)は、正しくは「470000msec」であるべきところ、何らかの要因(例えば、停電や映像受信装置40内で各種処理が一時的に集中して発生する等)でシステム時刻に異常が生じ、「471000msec」となってしまっているものとする。すなわち、本来よりも「1000msec」遅い時刻が、タイムスタンプ情報として生成されているものとする。
 その映像認識処理の結果とともに映像受信装置40が受信した付加情報の表示期間(広告情報を表示可能な期間)は「39000msec」であり、オフセット時間は「1000msec」である。
 付加情報表示制御部46は、付加情報の表示期間「39000msec」からオフセット時間「1000msec」を減算した結果を、その部分映像が抽出されたときのシステム時刻「471000msec」に加算する。
471000+(39000―1000)=509000
この演算により得られる時刻「509000msec」が、この部分映像に関して算出された付加情報の表示終了時刻である。しかし、この表示終了時刻は、上述した時間のズレが含まれているため、実際にCMが終了する時刻「508000msec」より「1000msec」遅い時刻になっている。したがって、このままでは、コンテンツ(CM)が終了して次のコンテンツ(番組本体)が開始した後も、1000msecの期間、この付加情報(広告情報)が表示部54に表示されたままとなるおそれがある。
 付加情報表示制御部46は、この「509000msec」を、付加情報の表示終了時刻として記憶部47に記憶する。
 2番目の部分映像が抽出されたときのシステム時刻(タイムスタンプ情報)は、図7に示す例では、「475000msec」である。このときは、上述の異常が修正され、正しいシステム時刻にもとづきタイムスタンプ情報が生成されたものとする。また、その映像認識処理の結果とともに映像受信装置40が受信した付加情報の表示期間(広告情報を表示可能な期間)は「39000msec」であり、オフセット時間は「6000msec」である。付加情報表示制御部46は、上述と同様にして、以下の演算を行う。
475000+(39000―6000)=508000
この演算により得られる時刻「508000msec」が、この部分映像に関して算出された付加情報の表示終了時刻である。この表示終了時刻は、上述した異常が修正されているため、実際にCMが終了する時刻「508000msec」に等しい時刻になっている。
 付加情報表示制御部46は、記憶部47に記憶された「509000msec」と、新たに算出した「508000msec」とを比較し、時間的に早い方の「508000msec」を、それまで記憶部47に記憶されていた「509000msec」と置き換えて、新たな付加情報の表示終了時刻として記憶部47に記憶する。
 こうして、映像受信装置40では、記憶部47に記憶された付加情報の表示終了時刻が、新たに算出される付加情報の表示終了時刻と都度比較され、時間的に早い方の表示終了時刻に更新される。これにより、映像受信装置40では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 [1-3.効果等]
 以上のように、実施の形態1において、映像受信装置40は、通信ネットワーク16を介してデータの送受信を行えるように構成されており、入力部65、映像抽出部45、制御部41、および付加情報表示制御部46、を備える。入力部65は、外部に設置された映像送信装置(例えば、STB14)から出力される映像信号を入力するように構成されている。映像抽出部45は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部41は、通信ネットワーク16に接続された映像認識装置20に部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果および付加情報の表示制御情報を映像認識装置20から取得し、その映像認識処理の結果に基づく付加情報(例えば、広告情報)を通信ネットワーク16に接続された付加情報配信装置30から取得する、制御を行うように構成されている。付加情報表示制御部46は、映像抽出部45が部分映像を抽出したときのシステム時刻および表示制御情報にもとづき付加情報の表示終了時刻を算出し、その表示終了時刻にもとづき付加情報の映像信号への重畳を制御するように構成されている。
 これにより、映像受信装置40では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 例えば、放送局12から、コンテンツに付随して、そのコンテンツの継続時間や次のコンテンツへ切り替わる時刻等の情報が通知されれば、映像受信装置40は、その情報を取得することで、付加情報をいつ非表示にすればよいかを知ることができる。
 しかしながら、STB14等の映像送信装置から入力部65を通して映像信号だけが送られてくる場合には、映像受信装置40は、そのコンテンツの継続時間や次のコンテンツへ切り替わる時刻を知ることは困難である。そこで、本実施の形態における映像受信装置40では、上述した付加情報表示期間算出処理を行って付加情報の表示終了時刻を算出し、算出した表示終了時刻にもとづき、表示部54に表示中の付加情報を非表示にする。これにより、付加情報を重畳する対象となるコンテンツが終了するときに、その付加情報を非表示にすることができる。したがって、続くコンテンツに付加情報が誤って重畳される、といった現象が発生することを防止できる。
 また、映像受信装置40は、映像信号に付加情報51を重畳した映像を表示するように構成された表示部54を備え、付加情報表示制御部46は、算出された表示終了時刻にもとづき、表示部54に表示中の付加情報を非表示にする制御を行うように構成されていてもよい。
 また、制御部41が映像認識装置20から取得する表示制御情報には、付加情報の表示期間を示す情報と、オフセット時間を示す情報と、が含まれていてもよい。
 これにより、付加情報表示制御部46は、部分映像が抽出されたときのシステム時刻に、付加情報の表示期間からオフセット時間を減算した結果を加算して、付加情報の表示終了時刻を算出することができる。
 また、映像受信装置40は、付加情報の表示終了時刻を記憶するように構成された記憶部47、を更に備え、付加情報表示制御部46は、算出された付加情報の表示終了時刻を記憶部47に記憶させ、映像抽出部45が部分映像を抽出する度に、算出された付加情報の表示終了時刻と、記憶部47に記憶された付加情報の表示終了時刻と、を比較し、いずれか時間的に早い方を付加情報の表示終了時刻として記憶部47に記憶して表示終了時刻を更新し、記憶部47に記憶された付加情報の表示終了時刻に、表示部54に表示中の付加情報を非表示にする制御を行うように構成されていてもよい。
 これにより、映像受信装置40では、記憶部47に記憶された付加情報の表示終了時刻が、新たに算出される付加情報の表示終了時刻と都度比較され、時間的に早い方の表示終了時刻に更新される。
 例えば、何らかの要因(例えば、停電や映像受信装置40内で各種処理が一時的に集中して発生する等)で、映像受信装置40が管理するシステム時刻と実際の時刻との間にズレが生じると、算出した付加情報の表示終了時刻と、その付加情報を重畳する対象となるコンテンツの終了時刻との間にズレが生じることがある。そのような場合、そのコンテンツが終了して新たなコンテンツが表示部54に表示されているにもかかわらず、その付加情報が依然として表示部54に表示されたままになる、といった現象が生じるおそれがある。
 しかしながら、このような現象が生じた場合でも、記憶部47に記憶される付加情報の表示終了時刻が、時間的に早くなるように更新されるので、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 本実施の形態における付加情報表示システム10は、通信ネットワーク16を介して互いにデータの送受信を行えるように構成された映像受信装置40、映像認識装置20、および付加情報配信装置30、を備えている。映像受信装置40は、入力部65、映像抽出部45、制御部41、および付加情報表示制御部46、を備える。入力部65は、外部に設置された映像送信装置(例えば、STB14)から出力される映像信号を入力するように構成されている。映像抽出部45は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部41は、映像認識装置20に通信ネットワーク16を介して部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果および付加情報の表示制御情報を映像認識装置20から通信ネットワーク16を介して取得し、付加情報配信装置30からその映像認識処理の結果に基づく付加情報(例えば、広告情報)を通信ネットワーク16を介して取得する、制御を行うように構成されている。付加情報表示制御部46は、映像抽出部45が部分映像を抽出したときのシステム時刻および表示制御情報にもとづき付加情報の表示終了時刻を算出し、その表示終了時刻にもとづき付加情報の映像信号への重畳を制御するように構成されている。映像認識装置20は、映像受信装置40から通信ネットワーク16を介して送信される部分映像を受信し、部分映像を用いた映像認識処理を行い、映像認識処理の結果及び付加情報の表示制御情報を通信ネットワーク16を介して映像受信装置40に出力する、ように構成されている。付加情報配信装置30は、通信ネットワーク16を介して受信した映像認識処理の結果に対応する付加情報を通信ネットワーク16を介して映像受信装置40に送信するように構成されている。
 これにより、映像受信装置40では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 (実施の形態2)
 以下、図8を用いて、実施の形態2を説明する。
 実施の形態1では、映像受信装置40は、付加情報の表示終了時刻を算出し、算出した表示終了時刻とシステム時刻とにもとづき、表示部54に表示中の付加情報を非表示にするように構成されている例を説明した。しかし、本開示は、何らこの構成に限定されない。例えば、部分映像を抽出したときのシステム時刻、および映像認識装置20から取得された付加情報の表示制御情報にもとづき、付加情報の表示終了時刻に代えて「付加情報の表示残存時間」を算出し、算出した付加情報の表示残存時間にもとづき、表示部54に表示中の付加情報を非表示にするように映像受信装置を構成してもよい。
 なお、「付加情報の表示残存時間」とは、現在のシステム時刻から付加情報の表示を終了するまでの時間(表示残存時間)のことである。
 [2-1.構成]
 図8は、実施の形態2における映像認識装置20および映像受信装置240の構成の一例を概略的に示すブロック図である。
 なお、実施の形態2における映像受信装置240は、実施の形態1で図2に示した映像受信装置40と実質的に同じ構成であり、各回路ブロックは実施の形態1と実質的に同様の動作をする。ただし、実施の形態2では、付加情報表示制御部246における動作に、実施の形態1に示した付加情報表示制御部46と異なる点がある。以下、実施の形態1と異なる点を説明し、実施の形態1と実質的に同様の動作は説明を省略する。
 [2-2.動作]
 映像受信装置240の付加情報表示制御部246では、付加情報の表示期間(広告情報を表示可能な期間)からオフセット時間を減算した時間を第1時間とし、現在のシステム時刻から部分映像を抽出したときのシステム時刻を減算した時間を第2時間とする。そして、第1時間から第2時間を減算して算出した時間を、「付加情報の表示残存時間」とする。付加情報表示制御部246は、現在のシステム時刻から「付加情報の表示残存時間」が経過した時点、すなわち、現在のシステム時刻に「付加情報の表示残存時間」を加算した時刻にシステム時刻が到達した時点で、表示部54に表示中の付加情報(広告情報)を非表示にするように、制御部41に指示する。
 一例として、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像にもとづき、付加情報の表示残存時間を付加情報表示制御部246が算出する例を、実施の形態1で用いた図6を用いて説明する。
 例えば、付加情報の表示期間が「39000msec」であり、オフセット時間が「1000msec」であれば、第1時間は、「38000msec」となる。また、現在のシステム時刻が「471000msec」であり、その部分映像を抽出したときのシステム時刻が「470000msec」であれば、第2時間は、「1000msec」となる。したがって、「38000msec」から「1000msec」を減算した「37000msec」が、この例における、システム時刻が「471000msec」のときの、付加情報の表示残存時間となる。この場合、付加情報表示制御部246は、現在のシステム時刻「471000msec」から「37000msec」が経過した時点、すなわち、システム時刻が「508000msec」に到達した時点で、表示部54に表示中の付加情報(広告情報)を非表示にするように制御部41に指示する。この指示により、制御部41は、表示部54に表示中の付加情報を非表示にするように映像出力部44を制御する。
 なお、ステップS22、S24で説明した動作を行うように、映像受信装置240を構成してもよい。すなわち、付加情報表示制御部246は、算出した付加情報の表示残存時間を記憶部47に記憶し、部分映像を抽出する毎に付加情報の表示残存時間を算出して記憶部47に記憶した付加情報の表示残存時間と比較し、付加情報の表示終了時刻が早くなる方の表示残存時間を記憶部47に記憶して付加情報の表示残存時間を更新する。例えば、このような動作をするように、映像受信装置240を構成してもよい。
 なお、付加情報表示制御部246は、算出した「付加情報の表示残存時間」が0になるタイミングで、表示部54に表示中の付加情報を非表示にするように、制御部41に指示してもよい。
 なお、算出した「付加情報の表示残存時間」を、付加情報と共に表示部54に表示するように、映像受信装置240を構成してもよい。
 [2-3.効果等]
 以上のように、実施の形態2の映像受信装置240において、付加情報表示制御部246は、映像抽出部45が部分映像を抽出したときのシステム時刻及び表示制御情報にもとづき、付加情報の表示を終了するまでの表示残存時間を、付加情報の表示終了時刻に代えて算出する、ように構成されている。
 これにより、映像受信装置240では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 (実施の形態3)
 以下、図9~図10を用いて、実施の形態3を説明する。
 実施の形態1では、映像受信装置40は、部分映像とともに1つのタイムスタンプ情報(部分映像の抽出開始時のシステム時刻)を映像認識装置20に送信するように構成されている例を説明した。しかし、本開示は何らこの構成に限定されない。例えば、部分映像とともに複数のタイムスタンプ情報を映像認識装置20に送信するように映像受信装置を構成してもよい。
 [3-1.構成]
 図9は、実施の形態3における映像認識装置320および映像受信装置340の構成の一例を概略的に示すブロック図である。
 なお、実施の形態3における映像受信装置340は、実施の形態1で図2に示した映像受信装置40と実質的に同じ構成であり、各回路ブロックは実施の形態1と実質的に同様の動作をする。映像認識装置320は、実施の形態1で図2に示した映像認識装置20と実質的に同じ構成であり各回路ブロックは実施の形態1と実質的に同様の動作をする。ただし、実施の形態3では、映像受信装置340の制御部341および付加情報表示制御部346における動作と、映像認識装置320の検索部322における動作に、実施の形態1に示した制御部41、付加情報表示制御部46、検索部22と異なる点がある。以下、実施の形態1と異なる点を説明し、実施の形態1と実質的に同様の動作は説明を省略する。
 [3-2.動作]
 実施の形態3では、一例として、映像受信装置340が、1つの部分映像に関して3つのタイムスタンプ情報を映像認識装置320に送信するように構成されている例を説明する。
 図10は、実施の形態3における映像受信装置340で行う付加情報表示期間算出処理の一例を概略的に示す図である。
 図10は、図6をベースにして示しているので、詳細な説明は省略する。
 図10に示す例では、映像受信装置340の制御部341は、1つの部分映像に関して3つのタイムスタンプ情報を映像認識装置320に送信するように構成されている。この3つのタイムスタンプ情報は、例えば、1)部分映像の抽出開始時のシステム時刻、2)部分映像取得中のシステム時刻(部分映像の時間的に中央のシステム時刻)、3)部分映像の抽出終了時のシステム時刻、である。なお、図10には、部分映像の抽出開始時のシステム時刻のみをタイムスタンプ情報として示している。
 また、図10に示す例では、映像認識装置320の検索部322は、これら3つのタイムスタンプ情報に対応する3つのオフセット時間の情報を映像受信装置340に返信する。この3つのオフセット時間は、例えば、1)部分映像の抽出開始時のシステム時刻に対応するオフセット時間(図10には、「first」と記す)、2)部分映像取得中のシステム時刻に対応するオフセット時間(図10には、「middle」と記す)、3)部分映像の抽出終了時のシステム時刻に対応するオフセット時間(図10には、「last」と記す)、である。
 図10に示す例では、映像認識装置320における映像認識処理の結果が「AD1」となった最初の部分映像が抽出されたときの3つのタイムスタンプ情報(システム時刻)は、「470000msec」、「472980msec」、「474950msec」である。また、その映像認識処理の結果とともに映像受信装置340が受信した付加情報の表示期間(広告情報を表示可能な期間)は「39000msec」であり、3つのオフセット時間は「1000msec」、「3480msec」、「5950msec」である。
 映像受信装置340の付加情報表示制御部346は、これら3つのシステム時刻およびオフセット時間にもとづき、実施の形態1に示した「付加情報の表示終了時刻」を算出する演算と同様の演算を行い、3つの「付加情報の表示終了時刻」を算出する。上述の数値例では、この演算により以下の3つの表示終了時刻が得られる。
470000+(39000―1000)=508000
472980+(39000―3480)=508500
474950+(39000―5950)=508000
付加情報表示制御部346は、これら3つの表示終了時刻のうち、時間的に最も早い表示終了時刻(上述の例では「508000msec」)を選択し、選択した結果を、この部分映像に関する「付加情報の表示終了時刻」として、記憶部47に記憶する。
 付加情報表示制御部346は、このようにして算出された「付加情報の表示終了時刻」にシステム時刻が到達した時点で、表示部54に表示中の付加情報(例えば、広告情報)を非表示にするように制御部341に指示する。この指示により、制御部341は、表示部54に表示中の付加情報を非表示にするように映像出力部44を制御する。
 例えば、このような動作をするように、映像受信装置340を構成してもよい。
 なお、ステップS22、S24で説明した動作を付加情報表示制御部346が行い、記憶部47に記憶する付加情報の表示終了時刻を、時間的に早くなるように更新するように、映像受信装置340を構成してもよい。
 [3-3.効果等]
 以上のように、実施の形態3の映像受信装置340において、制御部341は、通信ネットワーク16に接続された映像認識装置320に部分映像を送信する際に、複数のタイムスタンプ情報を併せて送信する制御を行うように構成されている。また、映像認識装置320は、複数のタイムスタンプ情報にもとづく複数のオフセット情報を映像受信装置340に返信するように構成されている。
 これにより、映像受信装置340では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを、より精度を高めて防止することができる。
 (実施の形態4)
 以下、図11~図12を用いて、実施の形態4を説明する。
 実施の形態1では、映像受信装置40は、1つのコンテンツ(例えば、CM)に1つの付加情報(例えば、広告情報)を重畳して表示部54に表示するように構成されている例を説明した。しかし、本開示は何らこの構成に限定されない。例えば、1つのコンテンツ(1つの付加情報の表示期間)に複数の付加情報を切り替えながら重畳して表示部54に表示するように映像受信装置を構成してもよい。
 [4-1.構成]
 図11は、実施の形態4における映像認識装置20および映像受信装置440の構成の一例を概略的に示すブロック図である。
 なお、実施の形態4における映像受信装置440は、実施の形態1で図2に示した映像受信装置40と実質的に同じ構成であり、各回路ブロックは実施の形態1と実質的に同様の動作をする。ただし、実施の形態4では、映像受信装置440の制御部441および付加情報表示制御部446における動作に、実施の形態1に示した制御部41、付加情報表示制御部46と異なる点がある。また、実施の形態4では、付加情報配信装置430における動作に、実施の形態1に示した付加情報配信装置30と異なる点がある。以下、実施の形態1と異なる点を説明し、実施の形態1と実質的に同様の動作は説明を省略する。
 [4-2.動作]
 実施の形態4では、付加情報配信装置430は、1つのコンテンツに関して複数の付加情報を映像受信装置440に提供し、映像受信装置440はそれら複数の付加情報を取得する。また、付加情報配信装置430は、複数の付加情報のそれぞれに対応する表示時間範囲情報(図12には、「Display time」と記す)を映像受信装置440に提供し、映像受信装置440はそれら複数の付加情報のそれぞれに対応する表示時間範囲情報を取得する。表示時間範囲情報とは、複数の付加情報のそれぞれに関する表示期間を表す情報のことである。
 以下では、一例として、映像受信装置440が、1つのコンテンツ(1つの付加情報の表示期間)に関して2つの付加情報(第1の付加情報、第2の付加情報)を付加情報配信装置430から取得し、それら2つの付加情報を、第1の付加情報、第2の付加情報、の順番で途中で切り替えて表示部54に表示するように動作する例を説明する。
 図12は、実施の形態4における映像受信装置440で行う付加情報表示期間算出処理の他の一例を概略的に示す図である。
 図12は、図6をベースにして示しているので、詳細な説明は省略する。なお、図12には、第1の付加情報を「付加情報1」と記し、第2の付加情報を「付加情報2」と記す。
 図12に示すように、映像受信装置440の制御部441は、付加情報配信装置430から、第1の付加情報、第2の付加情報に加え、第1の付加情報の表示時間範囲情報と、第2の付加情報の表示時間範囲情報とを取得するように各回路ブロックを制御する。
 以下では、一例として、映像受信装置440が、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像にもとづき、第1の付加情報と第2の付加情報のそれぞれの表示終了時刻を算出する例を説明する。
 図12に示す例では、映像認識装置20における映像認識処理の結果が「AD1」となった最初の部分映像が抽出されたときのシステム時刻(タイムスタンプ情報)は、「470000msec」である。また、その映像認識処理の結果とともに映像受信装置440が受信したオフセット時間は「1000msec」である。
 また、映像受信装置440が付加情報配信装置430から取得した第1の付加情報に関する表示時間範囲情報および第2の付加情報に関する表示時間範囲情報は、それぞれ「0~19999msec」、「20000~39000msec」である。
 映像受信装置440は、これらの数値から、第1の付加情報の表示終了時刻と、第2の付加情報の表示終了時刻とをそれぞれ算出する。
 実施の形態1では、映像受信装置40は、付加情報の表示期間からオフセット時間を減算した結果を、その部分映像が抽出されたときのシステム時刻に加算して、付加情報の表示終了時刻を算出した。実施の形態4における映像受信装置440は、付加情報の表示期間に代えて表示時間範囲情報を使用する。すなわち、映像受信装置440は、表示時間範囲情報からオフセット時間を減算した結果を、その部分映像が抽出されたときのシステム時刻に加算して、付加情報の表示終了時刻を算出するように構成されている。
 具体的には、映像受信装置440の付加情報表示制御部446は、第1の付加情報の表示時間範囲情報の最大値「19999msec」からオフセット時間「1000msec」を減算した結果を、その部分映像が抽出されたときのシステム時刻「470000msec」に加算する。
47000+(19999-1000)=488999
この演算により、第1の付加情報の表示終了時刻「488999msec」が得られる。
 また、付加情報表示制御部446は、第2の付加情報の表示時間範囲情報の最大値「39000msec」からオフセット時間「1000msec」を減算した結果を、その部分映像が抽出されたときのシステム時刻「470000msec」に加算する。
47000+(39000-1000)=508000
この演算により、第2の付加情報の表示終了時刻「508000msec」が得られる。
 付加情報表示制御部446は、システム時刻が488999msecに到達するまでは、第1の付加情報をコンテンツ(例えば、CM)に重畳して表示部54に表示し、システム時刻が488999msecに到達して以降、508000msecに到達するまでは、第1の付加情報に代えて、第2の付加情報をそのコンテンツに重畳して表示部54に表示し、システム時刻が508000msecに到達したら第2の付加情報を非表示するように制御部441に指示する。この指示により、制御部441は、第1の付加情報、第2の付加情報を順に表示部54に表示し、システム時刻が508000msecに到達したら第2の付加情報を非表示にするように映像出力部44を制御する。
 なお、映像受信装置440は、複数の付加情報を同時に表示部54に表示してもかまわない。
 [4-3.効果等]
 以上のように、実施の形態4の映像受信装置440において、制御部441は、映像認識処理の結果にもとづき、表示時間範囲情報を含む複数の付加情報を付加情報配信装置430から取得する制御を行うように構成され、付加情報表示制御部446は、表示時間範囲情報に応じて複数の付加情報を切り替えて表示部に表示する制御を行うように構成されている。
 これにより、映像受信装置440では、複数の付加情報(例えば、複数の広告情報)を切り替えながら表示部54に表示するときも、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 (実施の形態5)
 以下、図13を用いて、実施の形態5を説明する。
 実施の形態1では、映像受信装置40が付加情報の表示終了時刻を算出するように構成されている例を説明した。しかし、本開示は何らこの構成に限定されない。例えば、映像認識装置から映像受信装置に付加情報の表示終了時刻を送信するように付加情報表示システムを構成してもよい。
 [5-1.構成]
 図13は、実施の形態5における映像認識装置520および映像受信装置540の構成の一例を概略的に示すブロック図である。
 なお、実施の形態5における映像受信装置540は、実施の形態1で図2に示した映像受信装置40と実質的に同じ構成であり、各回路ブロックは実施の形態1と実質的に同様の動作をする。映像認識装置520は、実施の形態1で図2に示した映像認識装置20と実質的に同じ構成であり各回路ブロックは実施の形態1と実質的に同様の動作をする。ただし、実施の形態5では、映像受信装置540の制御部541および付加情報表示制御部546における動作と、映像認識装置520の検索部522における動作に、実施の形態1に示した制御部41、付加情報表示制御部46、検索部22と異なる点がある。以下、実施の形態1と異なる点を説明し、実施の形態1と実質的に同様の動作は説明を省略する。
 [5-2.動作]
 実施の形態5では、映像受信装置540が、映像抽出部45で抽出された部分映像と、部分映像を抽出したときのシステム時刻(タイムスタンプ情報)と、を含む映像認識要求を映像認識装置520へ送信する点は、実施の形態1と同様である。
 ただし、映像認識装置520の検索部522は、映像受信装置540から送信される部分映像及びタイムスタンプ情報を含む映像認識要求を受信すると、その部分映像を用いた映像認識処理を行うとともに、その映像認識処理の結果にもとづく付加情報の表示制御情報、および映像認識要求に含まれるタイムスタンプ情報、にもとづいて、実施の形態1で説明した付加情報表示期間算出処理と実質的に同様の処理を実行して付加情報の表示終了時刻を算出するように構成されている点が、実施の形態1に示した映像認識装置20の検索部22とは異なる。
 映像認識装置520は、算出した表示終了時刻を示す情報を、映像認識処理の結果とともに、映像受信装置540に送信する。
 そして、映像受信装置540の制御部541は、映像認識装置520から、映像認識処理の結果と共に、付加情報の表示終了時刻を示す情報を取得するように各回路ブロックを制御する。したがって、実施の形態5に示す付加情報表示制御部546は、実施の形態1に示した付加情報表示期間算出処理は行わない。
 付加情報表示制御部546は、映像認識装置520から取得した付加情報の表示終了時刻にシステム時刻が到達した時点で、表示部54に表示中の付加情報を非表示にするように制御部541に指示する。この指示により、制御部541は、表示部54に表示中の付加情報を非表示にするように映像出力部44を制御する。
 なお、映像認識装置520の検索部522は、付加情報の表示制御情報、および映像認識要求に含まれるタイムスタンプ情報、にもとづいて、実施の形態2で説明した付加情報の表示残存時間を算出するように構成されていてもよい。その場合、付加情報表示制御部546は、映像認識装置520から取得した付加情報の表示残存時間にもとづき、表示部54に表示中の付加情報を非表示にするように制御部541に指示する。
 [5-3.効果等]
 以上のように、実施の形態5において、映像受信装置540は、通信ネットワーク16を介してデータの送受信を行えるように構成されており、入力部65、映像抽出部45、制御部541、および付加情報表示制御部546、を備える。入力部65は、外部に設置された映像送信装置(例えば、STB14)から出力される映像信号を入力するように構成されている。映像抽出部45は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部541は、次の制御を行うように構成されている。制御部541は、通信ネットワーク16に接続された映像認識装置520に部分映像を送信して映像認識処理を依頼するとともに、映像抽出部45が部分映像を抽出したときのシステム時刻を送信する制御を行う。制御部541は、その映像認識処理の結果と、付加情報の表示終了時刻又は付加情報の表示残存時間と、を映像認識装置520から取得する制御を行う。そして、制御部541は、その映像認識処理の結果に基づく付加情報(例えば、広告情報)を通信ネットワーク16に接続された付加情報配信装置30から取得する制御を行う。付加情報表示制御部546は、映像認識装置520から取得された表示終了時刻又は表示残存時間にもとづき、付加情報の映像信号への重畳を制御するように構成されている。
 これにより、映像受信装置540では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 本実施の形態における付加情報表示システムは、通信ネットワーク16を介して互いにデータの送受信を行えるように構成された映像受信装置540、映像認識装置520、および付加情報配信装置30、を備えている。映像認識装置520は、映像受信装置40から通信ネットワーク16を介して送信される部分映像および映像抽出部45が部分映像を抽出したときのシステム時刻を受信し、部分映像を用いた映像認識処理を行い、映像認識処理の結果を通信ネットワーク16を介して映像受信装置540に出力するとともに、そのシステム時刻にもとづく付加情報の表示終了時刻または付加情報の表示残存時間を通信ネットワーク16を介して映像受信装置540に出力する、ように構成されている。付加情報配信装置30は、通信ネットワーク16を介して受信した映像認識処理の結果に対応する付加情報を通信ネットワーク16を介して映像受信装置540に送信するように構成されている。
 これにより、映像受信装置540では、コンテンツ(例えば、CM)が終了して次のコンテンツ(例えば、別のCMや番組本体)に切り替わった後に、既に終了したコンテンツに関する付加情報(例えば、広告情報)が依然として表示部54に表示され続ける、といった現象が発生することを防止することができる。
 (他の実施の形態)
 以上のように、本出願において開示する技術の例示として、実施の形態1~5を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略等を行った実施の形態にも適用できる。また、上記実施の形態1~5で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
 そこで、以下、他の実施の形態を例示する。
 実施の形態1~5では、映像受信装置が表示部54を備えている構成を説明したが、本開示における映像受信装置は何らこの構成に限定されるものではない。映像受信装置は表示部を備えていなくてもかまわない。
 図14は、他の実施の形態における映像受信装置140の構成の一例を概略的に示すブロック図である。図14に示す映像受信装置140は、主に以下の点が、実施の形態1~5に示した映像受信装置と異なる。映像受信装置140は、表示部54を備えておらず、映像出力部144が、外部に設置された映像表示装置154に、有線または無線で、映像信号を出力するように構成されている。
 このような映像受信装置140の一例として、例えば、録画機能、放送信号受信機能、映像信号入力機能、および映像信号出力機能を備え、外部に設置された映像表示装置154に映像信号を送信するように構成された録画装置等を挙げることができる。そのような録画装置には、例えばハードディスクレコーダや、DVDレコーダ、BDレコーダ、等がある。
 なお、図14では、図2に示した映像受信装置40をベースにして各構成要素を示したが、実施の形態2~5に示した各映像受信装置においても、図14と同様の構成を適用できる。
 なお、図14に示す映像受信装置140は、外部に映像表示装置154が設置されている点を除き、各回路ブロックの動作は実施の形態1~5に示した各映像受信装置と実質的に同じであるので、説明を省略する。また、図14には、実施の形態に示す動作に関連する主な回路ブロックを示し、他の動作に関する機能や回路ブロック(例えば、録画機能等)は省略している。
 このような構成の映像受信装置140においても、実施の形態1~5に示した映像受信装置と同様の効果を得ることができる。
 なお、実施の形態1~5は、映像受信装置から映像認識装置に部分映像を送信してコンテンツ特定処理を依頼する構成を説明したが、本開示は何らこの構成に限定されない。例えば、映像受信装置は、部分映像からフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、そのフィンガープリントを映像認識装置に送信してコンテンツ特定処理を依頼するように構成されていてもよい。その場合、映像認識装置は、そのフィンガープリントを受信し、映像認識装置があらかじめ生成して記憶部に記憶しておいたフィンガープリントと照合し、受信したフィンガープリントに対応するコンテンツを検索するように動作する。
 なお、実施の形態1~5に示した各構成要素は、それぞれを独立した専用の回路で構成してもよく、あるいは、それらの1つまたは複数の動作を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。また、このときのプログラムは、サーバ等からのダウンロードにより取得されてもよく、所定の記録媒体(例えば、CD-ROM等の光ディスクや磁気ディスク、半導体メモリ等)を介して取得されてもよい。
 また、実施の形態1~5に示したサーバにおける各動作は、単数のサーバで集中処理されてもよく、複数のサーバで分散処理されてもよい。
 なお、実施の形態1~5に示した具体的な数値は、単に実施の形態における一例を示したものに過ぎず、本開示はこれらの数値に何ら限定されるものではない。各数値は映像受信装置の仕様等にあわせて最適な値に設定することが望ましい。
 本開示は、外部に設置された映像送信装置から入力される映像信号に関する付加情報を取得し、取得した付加情報を映像信号へ重畳することが可能な映像受信装置に適用可能である。具体的には、テレビジョン受像機、ハードディスクレコーダ、DVDレコーダ、BDレコーダ、等に本開示は適用可能である。
 10  付加情報表示システム
 12  放送局
 14  STB
 16  通信ネットワーク
 20,320,520  映像認識装置
 21,42  HTTP送受信部
 22,322,522  検索部
 23,47  記憶部
 30,430  付加情報配信装置
 40,140,240,340,440,540  映像受信装置
 41,341,441,541  制御部
 43  操作信号受信部
 44,144  映像出力部
 45  映像抽出部
 46,246,346,446,546  付加情報表示制御部
 48  映像入力部
 49  受信部
 50  映像
 51  付加情報
 54  表示部
 65  入力部
 66  取得部
 154  映像表示装置

Claims (17)

  1. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置であって、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記通信ネットワークに接続された映像認識装置に前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果及び付加情報の表示制御情報を前記映像認識装置から取得し、前記通信ネットワークに接続された付加情報配信装置から前記映像認識処理の結果に基づく付加情報を取得する、制御を行うように構成された制御部と、
    前記映像抽出部が前記部分映像を抽出したときのシステム時刻及び前記表示制御情報に基づき前記付加情報の表示終了時刻または表示残存時間を算出し、前記表示終了時刻または前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備えた、
    映像受信装置。
  2. 前記映像信号に前記付加情報を重畳した映像を表示するように構成された表示部、をさらに備え、
    前記付加情報表示制御部は、
    前記表示終了時刻または前記表示残存時間に基づき、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項1に記載の映像受信装置。
  3. 前記制御部が前記映像認識装置から取得する前記表示制御情報には、
    付加情報の表示期間を示す情報と、オフセット時間を示す情報と、が含まれる、
    請求項2に記載の映像受信装置。
  4. 前記表示終了時刻を記憶するように構成された記憶部、を更に備え、
    前記付加情報表示制御部は、算出された前記表示終了時刻を前記記憶部に記憶させ、前記映像抽出部が前記部分映像を抽出する度に、算出された前記表示終了時刻と、前記記憶部に記憶された前記表示終了時刻と、を比較し、いずれか時間的に早い方を前記記憶部に記憶して前記表示終了時刻を更新し、前記記憶部に記憶された前記表示終了時刻に、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項2に記載の映像受信装置。
  5. 前記制御部は、
    前記通信ネットワークに接続された映像認識装置に前記部分映像を送信する際に、複数のタイムスタンプ情報を併せて送信する制御を行うように構成された、
    請求項2に記載の映像受信装置。
  6. 前記制御部は、
    前記映像認識処理の結果に基づき、表示時間範囲情報を含む複数の前記付加情報を前記付加情報配信装置から取得する制御を行うように構成され、
    前記付加情報表示制御部は、
    前記表示時間範囲情報に応じて複数の前記付加情報を切り替えて前記表示部に表示する制御を行うように構成された、
    請求項2に記載の映像受信装置。
  7. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置であって、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記通信ネットワークに接続された映像認識装置に、前記部分映像を送信して映像認識処理を依頼するとともに、前記映像抽出部が前記部分映像を抽出したときのシステム時刻を送信し、前記映像認識処理の結果と、付加情報の表示終了時刻又は付加情報の表示残存時間と、を前記映像認識装置から取得し、前記通信ネットワークに接続された付加情報配信装置から前記映像認識処理の結果に基づく付加情報を取得する、制御を行うように構成された制御部と、
    前記映像認識装置から取得された前記表示終了時刻又は前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備えた、
    映像受信装置。
  8. 前記映像信号に前記付加情報を重畳した映像を表示するように構成された表示部、をさらに備え、
    前記付加情報表示制御部は、
    前記表示終了時刻又は前記表示残存時間に基づき、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項7に記載の映像受信装置。
  9. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における付加情報表示方法であって、
    外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、
    前記通信ネットワークに接続された映像認識装置に、前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果及び付加情報の表示制御情報を前記映像認識装置から取得するステップと、
    前記映像認識処理の結果に基づく付加情報を、前記通信ネットワークに接続された付加情報配信装置から取得するステップと、
    前記部分映像を抽出したときのシステム時刻及び前記表示制御情報に基づき前記付加情報の表示終了時刻または表示残存時間を算出するステップと、
    前記表示終了時刻または前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するステップと、を備えた、
    付加情報表示方法。
  10. 前記映像信号に前記付加情報を重畳した映像を表示部に表示するステップ、をさらに備え、
    前記表示終了時刻または前記表示残存時間に基づき、前記表示部に表示中の前記付加情報を非表示にする
    請求項9に記載の付加情報表示方法。
  11. 前記表示制御情報には、付加情報の表示期間を示す情報と、オフセット時間を示す情報と、が含まれる、
    請求項10に記載の付加情報表示方法。
  12. 前記表示終了時刻を記憶するステップ、を更に有し、
    算出された前記表示終了時刻を記憶し、前記部分映像を抽出する度に、算出された前記表示終了時刻と記憶された前記表示終了時刻とを比較し、いずれか時間的に早い方を記憶して前記表示終了時刻を更新し、記憶された前記付加情報の表示終了時刻に、前記表示部に表示中の前記付加情報を非表示にする、
    請求項10に記載の付加情報表示方法。
  13. 前記通信ネットワークに接続された映像認識装置に前記部分映像を送信する際に、複数のタイムスタンプ情報を併せて送信する、
    請求項10に記載の付加情報表示方法。
  14. 前記映像認識処理の結果に基づき、表示時間範囲情報を含む複数の前記付加情報を前記付加情報配信装置から取得し、
    前記表示時間範囲情報に応じて複数の前記付加情報を切り替えて前記表示部に表示する、
    請求項10に記載の付加情報表示方法。
  15. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における付加情報表示方法であって、
    外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、
    前記通信ネットワークに接続された映像認識装置に、前記部分映像を送信して映像認識処理を依頼するとともに、前記部分映像を抽出したときのシステム時刻を送信し、前記映像認識処理の結果と、付加情報の表示終了時刻又は付加情報の表示残存時間と、を前記映像認識装置から取得するステップと、
    前記映像認識処理の結果に基づく付加情報を、前記通信ネットワークに接続された付加情報配信装置から取得するステップと、
    前記映像認識装置から取得された前記表示終了時刻又は前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するステップと、を備えた、
    付加情報表示方法。
  16. 通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備えた付加情報表示システムであって、
    前記映像受信装置は、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記映像認識装置に前記通信ネットワークを介して前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果及び付加情報の表示制御情報を前記映像認識装置から前記通信ネットワークを介して取得し、前記付加情報配信装置から前記映像認識処理の結果に基づく付加情報を前記通信ネットワークを介して取得する、制御を行うように構成された制御部と、
    前記映像抽出部が前記部分映像を抽出したときのシステム時刻及び前記表示制御情報に基づき前記付加情報の表示終了時刻または表示残存時間を算出し、前記表示終了時刻または前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備え
    前記映像認識装置は、
    映像受信装置から前記通信ネットワークを介して送信される前記部分映像を受信し、前記部分映像を用いた映像認識処理を行い、前記映像認識処理の結果及び前記表示制御情報を前記通信ネットワークを介して前記映像受信装置に出力する、ように構成され、
    前記付加情報配信装置は、
    前記通信ネットワークを介して受信した前記映像認識処理の結果に対応する付加情報を前記通信ネットワークを介して前記映像受信装置に送信するように構成された、
    付加情報表示システム。
  17. 通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備えた付加情報表示システムであって、
    前記映像受信装置は、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記映像認識装置に前記通信ネットワークを介して前記部分映像を送信して映像認識処理を依頼するとともに、前記映像抽出部が前記部分映像を抽出したときのシステム時刻を前記映像認識装置に送信し、前記映像認識処理の結果と、付加情報の表示終了時刻又は付加情報の表示残存時間と、を前記映像認識装置から前記通信ネットワークを介して取得し、前記付加情報配信装置から前記映像認識処理の結果に基づく付加情報を前記通信ネットワークを介して取得する、制御を行うように構成された制御部と、
    前記映像認識装置から取得された前記表示終了時刻又は前記表示残存時間に基づき前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備え
    前記映像認識装置は、
    映像受信装置から前記通信ネットワークを介して送信される前記部分映像及び前記システム時刻を受信し、受信した前記部分映像を用いた映像認識処理を行い、前記映像認識処理の結果を前記通信ネットワークを介して前記映像受信装置に出力するとともに、前記システム時刻に基づく前記表示終了時刻又は前記表示残存時間を前記通信ネットワークを介して前記映像受信装置に送信する、ように構成され、
    前記付加情報配信装置は、
    前記通信ネットワークを介して受信した前記映像認識処理の結果に対応する付加情報を前記通信ネットワークを介して前記映像受信装置に送信するように構成された、
    付加情報表示システム。
PCT/JP2014/003546 2013-07-30 2014-07-03 映像受信装置、付加情報表示方法および付加情報表示システム WO2015015712A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015529339A JP6194484B2 (ja) 2013-07-30 2014-07-03 映像受信装置、付加情報表示方法および付加情報表示システム
US14/787,759 US9762951B2 (en) 2013-07-30 2014-07-03 Video reception device, added-information display method, and added-information display system
EP14832570.7A EP3029944B1 (en) 2013-07-30 2014-07-03 Video reception device, added-information display method, and added-information display system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-157373 2013-07-30
JP2013157373 2013-07-30

Publications (1)

Publication Number Publication Date
WO2015015712A1 true WO2015015712A1 (ja) 2015-02-05

Family

ID=52431276

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/003546 WO2015015712A1 (ja) 2013-07-30 2014-07-03 映像受信装置、付加情報表示方法および付加情報表示システム

Country Status (4)

Country Link
US (1) US9762951B2 (ja)
EP (1) EP3029944B1 (ja)
JP (1) JP6194484B2 (ja)
WO (1) WO2015015712A1 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018138809A1 (ja) * 2017-01-25 2019-02-07 三菱電機株式会社 データ収集システム、データ収集装置、データ送信装置およびデータ収集方法
JP6472851B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP6472853B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、および記録媒体
JP6472850B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP6472852B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044363A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 制御装置、表示装置、テレビジョン受像機、電気機器、表示システム、制御プログラム、および記録媒体
WO2019044365A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
WO2019044362A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、携帯端末装置、表示システム、制御プログラム、および記録媒体
WO2019044359A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044366A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044356A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP2019047477A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2020021651A1 (ja) * 2018-07-25 2020-01-30 マクセル株式会社 自動映像演出装置、自動映像演出方法、及び、それに用いる映像記録媒体
JP2020504475A (ja) * 2016-11-30 2020-02-06 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited ビデオデータ再生中の関連オブジェクトの提供
JP2020136848A (ja) * 2019-02-18 2020-08-31 株式会社サムシングファン Cta表示プログラム、情報処理装置、cta表示方法、および動画再生システム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10679260B2 (en) 2016-04-19 2020-06-09 Visual Iq, Inc. Cross-device message touchpoint attribution
CN111064984B (zh) * 2018-10-16 2022-02-08 杭州海康威视数字技术股份有限公司 一种视频帧的智能信息叠加显示方法、装置及硬盘录像机
US20230276099A1 (en) * 2020-06-24 2023-08-31 Lg Electronics Inc. Image display apparatus and operating method thereof

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10214258A (ja) 1997-01-28 1998-08-11 Victor Co Of Japan Ltd データ処理システム
JP2002209204A (ja) * 2000-04-14 2002-07-26 Nippon Telegr & Teleph Corp <Ntt> 放送情報に関連した情報の取得方法及びシステム並びに装置
JP2002232372A (ja) * 2001-01-31 2002-08-16 Matsushita Electric Ind Co Ltd 放送番組関連情報提供装置
JP2006303936A (ja) * 2005-04-21 2006-11-02 Matsushita Electric Ind Co Ltd コンテンツデータ、受信装置、生成装置および送信装置
JP2011234343A (ja) * 2010-04-06 2011-11-17 Canon Inc 映像処理装置及び映像処理方法
JP2012231383A (ja) * 2011-04-27 2012-11-22 Nippon Telegr & Teleph Corp <Ntt> Iptvサービスを利用した情報表示制御装置、表示用情報提供サーバ、情報表示制御方法、情報配信方法、情報表示制御用プログラム、および情報配信用プログラム

Family Cites Families (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04245552A (ja) 1991-01-31 1992-09-02 Canon Inc データベース検索方法
JPH09185720A (ja) 1995-12-28 1997-07-15 Canon Inc 画像抽出装置
JP3731952B2 (ja) 1996-10-18 2006-01-05 シャープ株式会社 動画像検索用情報生成装置
JP2000287189A (ja) 1999-03-31 2000-10-13 Toshiba Corp テレビ番組の視聴管理装置
JP3485020B2 (ja) 1999-04-09 2004-01-13 日本電気株式会社 文字認識方法及び装置ならびに記憶媒体
US8205223B2 (en) * 2000-04-12 2012-06-19 Lg Electronics Inc. Method and video device for accessing information
CN100592788C (zh) 2000-04-14 2010-02-24 日本电信电话株式会社 与广播信息相关的信息取得方法、***和装置
WO2001080553A1 (fr) 2000-04-14 2001-10-25 Nippon Telegraph And Telephone Corporation Procede, systeme et appareil permettant d'acquerir des informations concernant des informations diffusees
JP2002016885A (ja) 2000-06-30 2002-01-18 Pioneer Electronic Corp 映像再生装置及び映像再生方法
US20020126990A1 (en) 2000-10-24 2002-09-12 Gary Rasmussen Creating on content enhancements
JP2002175311A (ja) 2000-12-08 2002-06-21 Nippon Telegr & Teleph Corp <Ntt> 映像情報登録方法、映像情報登録装置、映像情報検索方法及び映像情報検索装置
US6829015B2 (en) 2001-01-19 2004-12-07 Samsung Electronics Co., Ltd. Device and method for realizing transparency in an on screen display
KR20020072453A (ko) 2001-03-10 2002-09-16 삼성전자 주식회사 재생장치 및 부가정보 서비스 서버 시스템
JP2002334010A (ja) 2001-05-11 2002-11-22 Tsubasa System Co Ltd 広域ネットワークシステム
JP2004007323A (ja) 2001-06-11 2004-01-08 Matsushita Electric Ind Co Ltd テレビジョン放送受信機
US20030084462A1 (en) 2001-10-26 2003-05-01 Junichi Kubota Digital boradcast reception device and method thereof, and printing device and method thereof
US20030149983A1 (en) 2002-02-06 2003-08-07 Markel Steven O. Tracking moving objects on video with interactive access points
JP2004104368A (ja) 2002-09-06 2004-04-02 Sony Corp 画像データ処理方法、画像データ処理プログラム及び立体画像表示装置
KR100930351B1 (ko) 2003-02-25 2009-12-08 엘지전자 주식회사 고밀도 광디스크의 그래픽 및 서브타이틀 데이터관리방법
US7809154B2 (en) 2003-03-07 2010-10-05 Technology, Patents & Licensing, Inc. Video entity recognition in compressed digital video streams
US7738704B2 (en) 2003-03-07 2010-06-15 Technology, Patents And Licensing, Inc. Detecting known video entities utilizing fingerprints
US20040237102A1 (en) 2003-03-07 2004-11-25 Richard Konig Advertisement substitution
JP4374902B2 (ja) 2003-05-16 2009-12-02 富士通株式会社 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP4109185B2 (ja) 2003-12-01 2008-07-02 日本電信電話株式会社 映像シーン区間情報抽出方法,映像シーン区間情報抽出装置,映像シーン区間情報抽出プログラムおよびそのプログラムを記録した記録媒体
JP2005167894A (ja) 2003-12-05 2005-06-23 Matsushita Electric Ind Co Ltd コンテンツ切替方法、およびチャンネル切替方法
JP2005347806A (ja) 2004-05-31 2005-12-15 Toshiba Corp 電子機器および該電子機器にて実行される番組情報取得方法
JP2006030244A (ja) 2004-07-12 2006-02-02 Matsushita Electric Ind Co Ltd 情報端末及びプログラム
JP4741500B2 (ja) 2004-09-14 2011-08-03 パナソニック株式会社 機器制御装置、機器、機器制御装置の制御方法、プログラムおよび機器制御システム
US20060200842A1 (en) 2005-03-01 2006-09-07 Microsoft Corporation Picture-in-picture (PIP) alerts
JP3894940B2 (ja) 2005-08-11 2007-03-22 三菱電機株式会社 映像音声記録装置
WO2007017970A1 (ja) 2005-08-11 2007-02-15 Mitsubishi Denki Kabushiki Kaisha 映像記録装置、シーンチェンジ抽出方法、及び映像音声記録装置
EP1954041A4 (en) 2005-09-30 2010-01-27 Pioneer Corp SUMMARY PRODUCTION EQUIPMENT AND PROGRAM THEREFOR
JP2007134948A (ja) 2005-11-10 2007-05-31 Matsushita Electric Ind Co Ltd 駐車車両搭乗者撮像装置
US20070157242A1 (en) 2005-12-29 2007-07-05 United Video Properties, Inc. Systems and methods for managing content
JP4871668B2 (ja) 2006-08-01 2012-02-08 キヤノン株式会社 画像処理システム、画像処理方法及びプログラム
JP2008040622A (ja) 2006-08-02 2008-02-21 Sharp Corp 広告提供システム、広告提供装置、広告表示装置、広告提供方法およびプログラム
JP2008116792A (ja) 2006-11-07 2008-05-22 Sharp Corp 表示制御装置、映像表示機器及び表示制御方法
JP4746568B2 (ja) 2007-01-16 2011-08-10 ヤフー株式会社 情報提供装置、情報提供方法、及びプログラム
JP4957960B2 (ja) 2007-01-29 2012-06-20 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
US8281332B2 (en) * 2007-05-02 2012-10-02 Google Inc. Animated video overlays
US8229227B2 (en) 2007-06-18 2012-07-24 Zeitera, Llc Methods and apparatus for providing a scalable identification of digital video sequences
US8433611B2 (en) 2007-06-27 2013-04-30 Google Inc. Selection of advertisements for placement with content
WO2009011030A1 (ja) 2007-07-17 2009-01-22 Pioneer Corporation 情報処理システム、並びに情報処理装置及び情報処理方法
JP5203648B2 (ja) 2007-07-20 2013-06-05 オリンパス株式会社 画像抽出装置および画像抽出プログラム
JP2009088777A (ja) 2007-09-28 2009-04-23 Dentsu Inc 広告選択最適化処理装置及びその処理方法
US8060609B2 (en) 2008-01-04 2011-11-15 Sling Media Inc. Systems and methods for determining attributes of media items accessed via a personal media broadcaster
US8621505B2 (en) 2008-03-31 2013-12-31 At&T Intellectual Property I, L.P. Method and system for closed caption processing
JP4623135B2 (ja) 2008-05-08 2011-02-02 株式会社デンソー 画像認識装置
WO2009145233A1 (ja) 2008-05-28 2009-12-03 京セラ株式会社 通信端末、検索サーバ及び通信システム
US8509571B2 (en) 2008-06-11 2013-08-13 Panasonic Corporation Pattern recognition apparatus, pattern recognition method, image processing apparatus, and image processing method
US9367544B2 (en) 2008-06-18 2016-06-14 Gracenote, Inc. Method for efficient database formation and search on media devices acting synchronously with television programming
US8195689B2 (en) 2009-06-10 2012-06-05 Zeitera, Llc Media fingerprinting and identification system
JP4640456B2 (ja) 2008-06-25 2011-03-02 ソニー株式会社 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
EP2332328A4 (en) * 2008-08-18 2012-07-04 Ipharro Media Gmbh PROVIDING ADDITIONAL INFORMATION
KR101380783B1 (ko) * 2008-08-22 2014-04-02 정태우 영상에 포함된 객체를 식별하여 부가 서비스를 제공하는 시스템
US20100259684A1 (en) 2008-09-02 2010-10-14 Panasonic Corporation Content display processing device and content display processing method
CN102510464B (zh) 2008-09-17 2015-04-22 松下电器产业株式会社 记录方法、再现装置和集成电路
JP2010164901A (ja) 2009-01-19 2010-07-29 Sharp Corp Osd信号処理装置、av装置、映像表示システム、及びosd表示方法
KR101369915B1 (ko) 2009-01-23 2014-03-06 닛본 덴끼 가부시끼가이샤 영상 식별자 추출 장치
JP5434265B2 (ja) 2009-05-22 2014-03-05 三菱電機株式会社 領域分類装置、画質改善装置、映像表示装置、およびそれらの方法
US8421921B1 (en) 2009-07-31 2013-04-16 Pixelworks, Inc. Post processing displays with on-screen displays
JP5320204B2 (ja) 2009-07-31 2013-10-23 日本電信電話株式会社 情報端末装置、情報検索方法、および情報検索プログラム
JP5440051B2 (ja) 2009-09-11 2014-03-12 株式会社Jvcケンウッド コンテンツ同定方法、コンテンツ同定システム、コンテンツ検索装置及びコンテンツ利用装置
US8582952B2 (en) 2009-09-15 2013-11-12 Apple Inc. Method and apparatus for identifying video transitions
US8327407B2 (en) 2009-10-27 2012-12-04 Sling Media, Inc. Determination of receiving live versus time-shifted media content at a communication device
US8682145B2 (en) * 2009-12-04 2014-03-25 Tivo Inc. Recording system based on multimedia content fingerprints
US20110137976A1 (en) 2009-12-04 2011-06-09 Bob Poniatowski Multifunction Multimedia Device
KR20110088334A (ko) 2010-01-28 2011-08-03 삼성전자주식회사 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 생성 방법 및 장치, 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 수신 방법 및 장치
US8355910B2 (en) 2010-03-30 2013-01-15 The Nielsen Company (Us), Llc Methods and apparatus for audio watermarking a substantially silent media content presentation
JP5594002B2 (ja) 2010-04-06 2014-09-24 ソニー株式会社 画像データ送信装置、画像データ送信方法および画像データ受信装置
JP2012027687A (ja) 2010-07-23 2012-02-09 Casio Comput Co Ltd 画像処理装置及びプログラム
US9142122B2 (en) 2010-11-25 2015-09-22 Panasonic Intellectual Property Corporation Of America Communication device for performing wireless communication with an external server based on information received via near field communication
KR101778530B1 (ko) 2011-06-14 2017-09-15 삼성전자 주식회사 영상 처리 방법 및 장치
KR101828342B1 (ko) * 2011-08-10 2018-02-12 삼성전자 주식회사 방송수신장치, 방송신호 관련 연관정보 제공방법 및 서버
KR101995425B1 (ko) 2011-08-21 2019-07-02 엘지전자 주식회사 영상 표시 장치, 단말 장치 및 그 동작 방법
US8805827B2 (en) 2011-08-23 2014-08-12 Dialogic (Us) Inc. Content identification using fingerprint matching
WO2013040533A1 (en) 2011-09-16 2013-03-21 Umami Co. Second screen interactive platform
JP5948773B2 (ja) 2011-09-22 2016-07-06 ソニー株式会社 受信装置、受信方法、プログラム、及び情報処理システム
KR101310943B1 (ko) 2011-09-26 2013-09-23 (주)엔써즈 방송 콘텐츠와 연관된 콘텐츠 연관 정보를 제공하는 시스템 및 방법
US20130094591A1 (en) 2011-10-12 2013-04-18 Vixs Systems, Inc. Video decoding device for selecting embedded metadata and methods for use therewith
US9204199B2 (en) 2011-12-06 2015-12-01 Lg Electronics Inc. Image display apparatus and methods for operating the same
JP2013125191A (ja) 2011-12-15 2013-06-24 Canon Inc 映像表示装置、映像表示方法及びプログラム
US20120092248A1 (en) 2011-12-23 2012-04-19 Sasanka Prabhala method, apparatus, and system for energy efficiency and energy conservation including dynamic user interface based on viewing conditions
WO2013103273A1 (en) 2012-01-05 2013-07-11 Lg Electronics Inc. Video display apparatus and operating method thereof
WO2013112991A2 (en) 2012-01-27 2013-08-01 Xumo Llc System and method of augmenting linear broadcast advertising
US9003440B2 (en) 2012-02-07 2015-04-07 Turner Broadcasting System, Inc. Method and system for synchronization of messages to content utilizing automatic content recognition
WO2013119082A1 (ko) 2012-02-10 2013-08-15 엘지전자 주식회사 영상 표시 장치 및 그 동작 방법
JP5867133B2 (ja) 2012-02-10 2016-02-24 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2013130988A1 (en) 2012-03-02 2013-09-06 Care Cam Innovations, Llc Apparatus, method and computer-readable storage medium for media processing and delivery
WO2013133601A1 (en) 2012-03-05 2013-09-12 Lg Electronics Inc. Video display apparatus and operating method thereof
US9292894B2 (en) 2012-03-14 2016-03-22 Digimarc Corporation Content recognition and synchronization using local caching
US8645994B2 (en) 2012-06-28 2014-02-04 Microsoft Corporation Brand detection in audiovisual media
JP6168996B2 (ja) 2012-07-06 2017-07-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America コンテンツ制御方法、コンテンツ制御装置およびプログラム
JP5820986B2 (ja) 2013-03-26 2015-11-24 パナソニックIpマネジメント株式会社 映像受信装置及び受信映像の画像認識方法
US20150026718A1 (en) 2013-07-19 2015-01-22 United Video Properties, Inc. Systems and methods for displaying a selectable advertisement when video has a background advertisement

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10214258A (ja) 1997-01-28 1998-08-11 Victor Co Of Japan Ltd データ処理システム
JP2002209204A (ja) * 2000-04-14 2002-07-26 Nippon Telegr & Teleph Corp <Ntt> 放送情報に関連した情報の取得方法及びシステム並びに装置
JP2002232372A (ja) * 2001-01-31 2002-08-16 Matsushita Electric Ind Co Ltd 放送番組関連情報提供装置
JP2006303936A (ja) * 2005-04-21 2006-11-02 Matsushita Electric Ind Co Ltd コンテンツデータ、受信装置、生成装置および送信装置
JP2011234343A (ja) * 2010-04-06 2011-11-17 Canon Inc 映像処理装置及び映像処理方法
JP2012231383A (ja) * 2011-04-27 2012-11-22 Nippon Telegr & Teleph Corp <Ntt> Iptvサービスを利用した情報表示制御装置、表示用情報提供サーバ、情報表示制御方法、情報配信方法、情報表示制御用プログラム、および情報配信用プログラム

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020504475A (ja) * 2016-11-30 2020-02-06 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited ビデオデータ再生中の関連オブジェクトの提供
JPWO2018138809A1 (ja) * 2017-01-25 2019-02-07 三菱電機株式会社 データ収集システム、データ収集装置、データ送信装置およびデータ収集方法
JP2019047477A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP6472852B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP2019047322A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、および記録媒体
WO2019044358A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
WO2019044363A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 制御装置、表示装置、テレビジョン受像機、電気機器、表示システム、制御プログラム、および記録媒体
WO2019044365A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
WO2019044367A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、および記録媒体
WO2019044362A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、携帯端末装置、表示システム、制御プログラム、および記録媒体
WO2019044359A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044366A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044357A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
WO2019044356A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
WO2019044364A1 (ja) * 2017-09-01 2019-03-07 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP2019047317A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP6472853B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、および記録媒体
JP6472850B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP2019047316A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP2019047318A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、携帯端末装置、表示システム、制御プログラム、および記録媒体
JP2019047319A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、および記憶媒体
JP2019047315A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP2019047321A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
JP2019047320A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP2019047314A (ja) * 2017-09-01 2019-03-22 シャープ株式会社 表示装置、テレビジョン受像機、情報処理装置、表示システム、制御プログラム、及び記録媒体
JP6472851B1 (ja) * 2017-09-01 2019-02-20 シャープ株式会社 表示装置、テレビジョン受像機、表示システム、制御プログラム、及び記録媒体
WO2020021651A1 (ja) * 2018-07-25 2020-01-30 マクセル株式会社 自動映像演出装置、自動映像演出方法、及び、それに用いる映像記録媒体
JPWO2020021651A1 (ja) * 2018-07-25 2021-06-24 マクセル株式会社 自動映像演出装置、自動映像演出方法、及び、それに用いる映像記録媒体
JP7252236B2 (ja) 2018-07-25 2023-04-04 マクセル株式会社 自動映像演出装置、自動映像演出方法、及び、それに用いる映像記録媒体
US11841901B2 (en) 2018-07-25 2023-12-12 Maxell, Ltd. Automatic video production device, automatic video production method, and video recording medium used therefor
JP2020136848A (ja) * 2019-02-18 2020-08-31 株式会社サムシングファン Cta表示プログラム、情報処理装置、cta表示方法、および動画再生システム
JP7101336B2 (ja) 2019-02-18 2022-07-15 株式会社サムシングファン Cta表示プログラム、情報処理装置、cta表示方法、および動画再生システム

Also Published As

Publication number Publication date
EP3029944B1 (en) 2019-03-06
JPWO2015015712A1 (ja) 2017-03-02
US9762951B2 (en) 2017-09-12
EP3029944A4 (en) 2016-07-13
US20160088340A1 (en) 2016-03-24
JP6194484B2 (ja) 2017-09-13
EP3029944A1 (en) 2016-06-08

Similar Documents

Publication Publication Date Title
JP6194484B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
KR102484054B1 (ko) 프레임적으로 정확한 컨텐츠 수정을 용이하게 하기 위해, 낮은 레이트 핑거프린팅을 사용하는 보간을 기반으로 하는 시간 맵핑의 확립 및 사용
JP6438628B2 (ja) 自動コンテンツ認識フィンガープリントシーケンス照合
JP6281126B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
JP6379362B2 (ja) 映像受信装置、パラメータ設定方法および付加情報表示システム
JP6281125B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
US10979477B1 (en) Time synchronization between live video streaming and live metadata
US20130117406A1 (en) Synchronizing a Video Feed With Internet Content Displayed on a Second Device
US10313722B1 (en) Synchronizing audio content and video content
JP6340596B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
CN103491430B (zh) 流媒体数据处理方法和电子设备
JP2014192629A (ja) 映像受信装置及び受信映像の画像認識方法
JP6240899B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
US10194216B2 (en) Video reception device, video recognition method, and additional information display system
JP2005278049A (ja) デジタル放送受信装置および通信システム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2014832570

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2015529339

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14832570

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14787759

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE