JP7082994B2 - 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム - Google Patents

光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム Download PDF

Info

Publication number
JP7082994B2
JP7082994B2 JP2019568477A JP2019568477A JP7082994B2 JP 7082994 B2 JP7082994 B2 JP 7082994B2 JP 2019568477 A JP2019568477 A JP 2019568477A JP 2019568477 A JP2019568477 A JP 2019568477A JP 7082994 B2 JP7082994 B2 JP 7082994B2
Authority
JP
Japan
Prior art keywords
unit
image
communication
region
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019568477A
Other languages
English (en)
Other versions
JPWO2019150489A1 (ja
Inventor
多圭志 筒井
歩 矢吹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Publication of JPWO2019150489A1 publication Critical patent/JPWO2019150489A1/ja
Application granted granted Critical
Publication of JP7082994B2 publication Critical patent/JP7082994B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43637Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wireless protocol, e.g. Bluetooth, RF or wireless LAN [IEEE 802.11]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B7/00Radio transmission systems, i.e. using radiation field
    • H04B7/02Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
    • H04B7/04Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
    • H04B7/0413MIMO systems
    • H04B7/0456Selection of precoding matrices or codebooks, e.g. using matrices antenna weighting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4126The peripheral being portable, e.g. PDAs or mobile phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43632Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394
    • H04N21/43635HDMI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W72/00Local resource management
    • H04W72/20Control channels or signalling for resource management
    • H04W72/23Control channels or signalling for resource management in the downlink direction of a wireless link, i.e. towards a terminal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Optical Communication System (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、通信システム、表示制御装置、通信端末及びプログラムに関する。
画像表示装置による表示画像に送信データを符号化する可視光通信技術が知られていた(例えば、特許文献1参照)。
[先行技術文献]
[特許文献]
[特許文献1]国際公開第2014/103329号
解決しようとする課題
端末等に付属するカメラを受信機とし、屋内、屋外に設置されたディスプレイ装置、プロジェクタ、あるいはプロジェクションマッピングの為のプロジェクター、デジタルサイネージ、あるいはそれらを利用した照明機器等として再定義したもの(天井の規格のパネルを照明器具としてディスプレイ装置を使用したパネルで、本発明で使用するサプリメンタルダウンリンク兼、照明パネルとしたもの)を送信機として利用し、光下り通信を実現し、端末等の補助的なダウンリンクを実現し、効率的な高速通信を可能にする。
PureLiFiでは、頑張り過ぎのハイスピードレーザーを用いて超高速ギガビット通信を実現しようとしているが、そのようなことをするまでもなく、通常のディスプレイパネルと通常のCCDはピクセルが多数搭載されているため、新たなデバイスを開発せずにギガビットを超える通信速度が達成され、かつそれは十分効率的に動画が表示、撮像されている。USB3.1のディスプレイ、カメラに至っては10Gbpsの伝送速度が容易に実現されている。高価な素子や先端技術を利用することなく、先述の既存デバイスをそのまま利用する点が本発明の特長である。これまで通信システムで用いられてきた空間分割多重(SDMA)とは異なり、LOS(Line of sight)同士で空間を交差して多重化している。縦横無尽に多重化されている点も本発明の特長である。
一般的開示
本発明の第1の態様によれば、表示部に映像を表示させる表示制御装置と、表示部によって表示された映像を撮像する撮像部を有する通信端末とを備える通信システムが提供される。表示制御装置は、表示対象の映像を取得する映像取得部を有してよい。表示制御装置は、映像取得部が取得した映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部を有してよい。表示制御装置は、領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部を有してよい。表示制御装置は、符号化映像を表示部に表示させる表示制御部を有してよい。通信端末は、撮像部によって撮像された映像のうち、送信データが符号化された領域を識別する領域識別部を有してよい。通信端末は、領域識別部によって識別された領域から送信データを復号化する復号化部を有してよい。
上記撮像部は指定されたレートで動画を記録することができる。撮像とは、静止画ではなく60fps等の動画であってよい。撮像部の記録レートと表示部の表示レートは同期させてもよい。同期させることを前提としたシステムの場合は、同期がずれた際にはテレビをカメラで撮影したような縞模様(ノイズ)が記録され、復号化する際にエラーとなる。また、映像投影装置、映像取得部は、その場所ごとの交流に同期しゼロクロスタイミングで映像取得するのが望ましい。(50Hzなら100Hz、60Hzなら120Hzで)。
上記領域特定部は、上記映像取得部が取得した上記映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定してよい。上記映像生成部は、上記送信データを符号化した領域以外の領域に、上記送信データを符号化した領域を示す領域情報を光通信信号として符号化した上記符号化映像を生成してよく、上記領域識別部は、上記撮像部によって撮像された映像のうち、上記領域情報が符号化された領域を識別して、当該領域から上記領域情報を復号化し、上記領域情報が示す領域を、上記送信データが符号化された領域として識別してよい。上記映像生成部は、上記送信データを符号化した領域以外の領域に、上記通信端末を識別する端末識別情報を光通信信号として符号化した上記符号化映像を生成してよい。上記映像生成部は、上記表示装置を識別する表示装置識別情報を、上記送信データを符号化した領域以外の領域に光通信信号として符号化した上記符号化映像を生成してよい。
上記通信端末は、上記撮像部が撮像する上記映像の受信輝度レベル及び受信SNR(Signal to Noise Ratio)を測定する測定部と、上記測定部による測定結果を上記表示制御装置に送信する測定結果送信部とを有してよく、上記表示制御装置は、上記測定結果を受信する測定結果受信部と、上記測定結果に基づいて、上記表示部による表示の輝度レベルを調整する輝度レベル調整部とを有してよい。上記映像取得部は、上記表示部によるスクリーンセーバ映像を取得してよく、上記映像生成部は、上記スクリーンセーバ映像の特定領域に送信データを符号化した符号化映像を生成してよく、上記表示制御部は、上記符号化映像をスクリーンセーバとして、上記表示部に表示させてよく、上記測定部は、上記復号化部によって復号化された送信データに基づいて、上記受信輝度レベル及び上記受信SNRを測定してよい。上記測定結果送信部は、光通信を用いずに、上記測定結果を上記表示制御装置に送信してよい。
上記通信端末は、上記表示制御部による表示映像に対してアフィン変換を施し表示映像を正四角形に変換する撮像変換部と、上記変換時の情報に基づいて、上記撮像部による撮像の指向性を調整する指向性調整部とを有してよい。上記表示制御装置は、上記撮像部によって撮像された映像に関する撮像映像情報を上記通信端末から受信する情報受信部を有してよく、上記映像生成部は、上記撮像映像情報に基づいて上記符号化映像を生成してよい。上記映像生成部は、上記撮像映像情報に基づいて、上記送信データの各情報を割り当てる画素数を変更してよい。上記撮像映像情報は、上記表示部によって表示されている映像のうち、上記撮像部によって撮像できない領域を示してよく、上記映像生成部は、上記領域特定部によって特定された領域から、上記撮像部によって撮像できない領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成してよい。
上記表示部は、プロジェクタであってよく、上記撮像部は、上記プロジェクタによって投影面に投影された光を撮像してよい。上記映像生成部は、内容が変化しない映像に送信データを光通信信号として符号化した符号化映像を生成してよい。上記通信端末は、
上記撮像部によって上記映像を撮像できない場合に、通知データを上記表示制御装置に送信する通知データ送信部を有してよく、上記映像生成部は、上記通知データを受信した場合、上記映像全体の輝度変調によって上記送信データを光通信信号として符号化した符号化映像を生成してよい。上記表示制御装置は、上記送信データを無線基地局のベースバンド装置にてIQベクトル信号に変換した信号を、上記ベースバンド装置から送信するCPRI(Common Public Radio Interface)インタフェースと、上記表示部に映像信号を伝送するインターフェイス(HDMI(登録商標)(High-Definition Multimedia Interface)等)と、上記CPRIインタフェース上のIQ信号(複素デジタル信号の同相(In-phase)および直交(Quadrature)成分からなるベースバンド信号)からRGBI信号に変換して送信する回路とを有してよい。上記無線基地局のベースバンド装置は、CPRI信号をHDMI(登録商標)に変換して送信する機能を有してよく、上記表示制御装置は、上記ベースバンド装置からのIQ信号をHDMI(登録商標)インターフェイスから送信してよい。
上記無線基地局のベースバンド装置がHDMIインターフェイスを有していないとき、上記ベースバンド装置と上記表示制御装置の間に、CPRI信号をHDMI(登録商標)に変換する装置を経由してよい。
本発明の第2の態様によれば、表示制御装置が提供される。表示制御装置は、表示対象の映像を取得する映像取得部を備えてよい。表示制御装置は、映像取得部が取得した映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部を備えてよい。表示制御装置は、領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部を備えてよい。表示制御装置は、符号化映像を表示部に表示させる表示制御部を備えてよい。
本発明の第3の態様によれば、コンピュータを、上記表示制御装置として機能させるためのプログラムが提供される。
本発明の第4の態様によれば、通信端末が提供される。通信端末は、表示装置によって表示される映像のうち、送信データが光通信信号として符号化されている領域を示す領域情報を取得する領域情報取得部を備えてよい。通信端末は、撮像部によって撮像された映像のうち、領域情報に基づいて、送信データが符号化された領域を識別する領域識別部を備えてよい。通信端末は、領域識別部によって識別された領域から送信データを復号化する復号化部を備えてよい。
本発明の第5の態様によれば、コンピュータを、上記通信端末として機能させるためのプログラムが提供される。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
通信システム10の一例を概略的に示す。 表示装置100及び通信端末200の構成例を概略的に示す。 通信システム10の他の一例を概略的に示す。 表示装置100及び通信端末200の構成例を概略的に示す。 STB101とBBU103との接続関係を概略的に示す。 表示装置100の機能構成の一例を概略的に示す。 通信端末200の機能構成の一例を概略的に示す。 表示装置100による表示例を概略的に示す。 表示装置100による表示例を概略的に示す。 通信端末200による撮像映像の表示例を概略的に示す。 通信端末200による撮像映像の表示例を概略的に示す。 表示装置100による同期信号410及び呼出信号420の一例を概略的に示す。 通信フェーズにおける表示装置100による表示例を概略的に示す。 通信フェーズにおける表示装置100による表示例を概略的に示す。 投影映像108の一例を概略的に示す。 通信開始の制御メッセージシーケンス(例)を概略的に示す。 表示装置100側の通信開始のフローチャート(例)を概略的に示す。 表示装置100側の通信中のフローチャート(例)を概略的に示す。 通信端末200側の通信開始のフローチャート(例)を概略的に示す。 通信端末200側の通信中のフローチャート(例)を概略的に示す。 通信中における再送シーケンス(例)を概略的に示す。 通信終了のフローチャートを概略的に示す。 スリープ移行のフローチャートを概略的に示す。 ハンドオーバーのフローチャートを概略的に示す。 Set Top Box内部ブロック図(例)を概略的に示す。 Set Top Box内部動作フローチャート(例)を概略的に示す。 送信解像度決定のフローチャートを概略的に示す。 データ重畳位置決定のフローチャートを概略的に示す。 データ符号化のアルゴリズムを概略的に示す。 送信光のホワイトノイズ化に関するアルゴリズムを概略的に示す。 主要な実施例1(赤外線光源を使用したDLPを用いる例)を示す。 主要な実施例2(オフィスの天井照明)を示す。 主要な実施例3(ドーム球場の天井)を示す。 主要な実施例3.1(ドーム球場の天井)を示す。 主要な実施例3.1(ドーム球場の天井)を示す。 主要な実施例4(ドーム球場のドローンカメラ)を示す。 主要な実施例5(複数カメラでの受信)を示す。 主要な実施例6(モータードライブカメラ)を示す。 主要な実施例7(魚眼レンズプロジェクター)を示す。 通信端末200として機能するコンピュータ900のハードウエア構成の一例を概略的に示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、通信システム10の一例を概略的に示す。通信システム10は、表示装置100及び通信端末200を備える。
表示装置100と通信端末200とは、いわゆる光通信を実行する。例えば、表示装置100が、表示対象の映像に送信データを光通信信号として符号化した符号化映像を生成して表示し、通信端末200が、表示装置100によって表示された映像を撮像して、光通信信号を復号化して送信データを取得する。通信システム10が利用する光通信方式の一例として、輝度変調やRGB変調による方式が挙げられるが、これに限らず、任意の方式を用いてよい。
表示装置100が表示する映像は任意の映像であってよく、表示装置100は任意の表示デバイスであってよい。表示装置100の例としては、テレビ、PC(Personal Computer)等のディスプレイ、及びデジタルサイネージ等が挙げられる。また、表示装置100の例として、照明を主目的としつつ映像も表示可能な照明装置も挙げられる。
表示装置100は、表示制御装置の一例であってよい。表示装置100の全体が表示制御装置の一例であってよい。また、表示装置100の一部が表示制御装置の一例であってもよい。例えば、表示装置100における表示部以外の部分が表示制御装置の一例であってもよい。具体例としては、表示装置100におけるモジュール及びチップ等が表示制御装置の一例であってよい。
通信端末200は、撮像部及び通信機能を有していればどのような端末であってもよい。通信端末200の例としては、スマートフォン、タブレット端末、及び、HMD(Head Mount Display)等が挙げられる。
本実施形態に係る表示装置100は、例えば、表示対象の映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域等を特定し、特定した領域に送信データを光通信信号として符号化した符号化映像を生成し、表示する。
このように、映像のうち予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを符号化することによって、表示装置を用いた従来の光通信に比べて通信スループットを向上させることができる。従来の光通信では、表示映像に対して単に送信データを符号化するので、空間解像度が低く十分なスループットを得ることができず、URL等のデータ量の少ない送信データを送信できるに過ぎない。これに対して、本実施形態に係る表示装置100によれば、映像のうち情報エントロピーの変化量の少ない領域を空間的に分割して使用するので、効率的に十分高速なスループットを得ることができる。
また、本実施形態に係る通信システム10においては、表示装置100と通信端末200との間のいわゆる通信制御を、ネットワーク50を介した通信によって実現してよい。このとき、表示装置100及び通信端末200は、ネットワーク50を介して管理装置300と通信してよい。
ネットワーク50は任意のネットワークであってよく、ネットワーク50を介した通信の方式としては、例えば、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、4G(4th Generation)通信方式、5G(5th Generation)通信方式等のモバイル通信方式、並びに、WiFi(登録商標)、ADSL、ケーブルモデム等を含むインターネット通信技術、LPWA(LoRa、NB-IoT、eMTCを含む)等が例示できる。
通信システム10において、例えば、通信端末200が、自身を識別する端末識別情報を、管理装置300を介して表示装置100に送信し、表示装置100が送信データとともに当該識別情報を用いて符号化した符号化映像を表示する。通信端末200が、送信データを自身の保有する端末識別情報を用いて復号化することによって、表示装置100と特定の通信端末200との間でのみ光通信を実行でき、従来の光通信では実現できなかったユニキャストサービスを実現することができる。
図2は、図1に示す表示装置100及び通信端末200の構成例を概略的に示す。図2に示す例において、表示装置100は、STB(Set Top Box)101、コンピュータ102、BBU(Base Band Unit)103、及びディスプレイ104を備える。また、通信端末200は、CMOS(Complementary MOS)センサ201、CPU202、ディスプレイ203、及び通信モデム204を備える。
STB101は、表示対象の映像をコンピュータ102から取得する。また、STB101は、送信データをBBU103から取得する。BBU103は、例えば、表示装置100から通信端末200に送信すべき送信データを、ネットワーク50を介して任意の端末等から受信して、STB101に送信してよい。
STB101は、コンピュータ102から取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。そして、STB101は、特定した領域内の領域に、送信データの領域を示す領域情報を光通信信号として符号化し、BBU103から取得した送信データを、上記領域情報にて示された領域に光通信信号として符号化した符号化映像を生成して、ディスプレイ104に表示させる。
CMOSセンサ201は、ディスプレイ104に表示された映像を撮像する。CPU202は、CMOSセンサ201から当該映像を取得し、映像データと通信復号化用映像に分離して、映像データをディスプレイ203に、通信復号化用映像を通信モデム204に送信する。ディスプレイ203は、映像データを表示する。通信モデム204は、符号化された領域情報を復号化し、当該領域情報を用いて、送信データを復号化する。
図3は、通信システム10の他の一例を概略的に示す。ここでは、図1とは異なる点を主に説明する。
図3における表示装置100は、映像を投影する。表示装置100が投影した映像を投影映像108と記載する。表示装置100が表示する映像は任意の映像もしくは赤外線による不可視の映像であってよく、表示装置100は任意の表示デバイスであってよい。表示装置100の例としては、プロジェクタ、プロジェクションマッピング、及びデジタルサイネージ等が挙げられる。また、表示装置100の例として、照明を主目的としつつ映像も表示可能な照明装置も挙げられる。
図4は、図3に示す表示装置100及び通信端末200の構成例を概略的に示す。ここでは、図2とは異なる点を主に説明する。
図4に示す例において、表示装置100は、STB101、コンピュータ102、BBU103、及びプロジェクタ105を備える。STB101は、表示対象の映像をコンピュータ102から取得する。また、STB101は、送信データをBBU103から取得する。
STB101は、コンピュータ102から取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。そして、STB101は、特定した領域内の領域に、特定した領域を示す領域情報を光通信信号として符号化し、BBU103から取得した送信データを特定した領域に光通信信号として符号化した符号化映像を生成して、プロジェクタ105に表示させる。
CMOSセンサ201は、プロジェクタ105によって投影された投影映像108を撮像する。映像が投影される対象は任意の場所であってよく、例えば、ビル等の建物の壁面に投影されてよい。CPU202は、CMOSセンサ201から当該映像を取得し、映像データと通信復号化用映像に分離して、映像データをディスプレイ203に、通信復号化用映像を通信モデム204に送信する。ディスプレイ203は、映像データを表示する。通信モデム204は、符号化された領域情報を復号化し、当該領域情報を用いて、送信データを復号化する。プロジェクタ105が効果を発揮するのは、主に夜間となる。
図5は、STB101とBBU103との接続関係を概略的に示す。STB101とBBU103とは、変換器106を介して接続される。STB101と変換器106とは、HDMIを介して通信する。変換器106とBBU103とは、CPRIを介して通信する。
図6は、表示装置100の機能構成の一例を概略的に示す。表示装置100は、情報受信部112、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、及び輝度レベル調整部126を備える。なお、表示装置100がこれらのすべての構成を備えることは必須とは限らない。
情報受信部112は、各種情報を受信する。情報受信部112は、ネットワーク50を介して情報を受信してよい。情報受信部112は、例えば、通信制御に関する情報を、管理装置300からネットワーク50を介して受信する。情報受信部112は、例えば、通信相手の通信端末200を識別する端末識別情報を、管理装置300から受信する。また、情報受信部112は、例えば、通信端末200に対して送信すべき送信データを、ネットワーク50を介して受信する。
表示装置100は、端末識別情報を光通信を通じて通信端末200に通知してもよい。
送信データ取得部114は、通信端末200に送信すべき送信データを取得する。送信データ取得部114は、表示装置100のメモリに格納されている送信データを読み出してよい。また、送信データ取得部114は、情報受信部112が受信した送信データを、情報受信部112から取得してよい。
映像取得部116は、表示対象の映像を取得する。映像取得部116は、表示装置100のメモリに格納されている映像を読み出してよい。映像取得部116は、例えば、コンピュータ102から映像を取得する。映像取得部116は、表示対象の映像として、スクリーンセーバ映像を取得してもよい。
領域特定部118は、映像取得部116が取得した映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。領域特定部118は、例えば、映像のうち、変化しない領域を特定する。領域特定部118は、映像のうち、予め定められた期間、輝度及び色情報が変化しない領域を特定してよい。また、領域特定部118は、例えば、映像のうち、変化量が予め定められた閾値より低い領域を特定する。領域特定部118は、映像のうち、予め定められた期間、輝度及び色情報の変化量が予め定められた閾値より低い領域を特定してよい。予め定められた期間は、変更可能であってよい。また、予め定められた閾値は、変更可能であってよい。
映像生成部120は、映像取得部116が取得した映像に、各種情報を符号化した符号化映像を生成する。例えば、映像生成部120は、領域特定部118が特定した領域に、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成する。映像生成部120は、映像取得部116がスクリーンセーバ映像を取得した場合には、スクリーンセーバ映像のうちの、領域特定部118が特定した領域に制御信号を符号化した符号化映像を生成してよい。制御信号は、通信端末200において、受信輝度レベル及び受信SNR(Signal to Noise Ratio)を測定する際に用いられる信号であってよい。
また、例えば、映像生成部120は、送信データを符号化した領域を示す領域情報を光通信信号として符号化した符号化映像を生成する。映像生成部120は、送信データを符号化した領域以外の領域に領域情報を光通信信号として符号化した符号化映像を生成してよい。
また、例えば、映像生成部120は、通信端末200を識別する端末識別情報を光通信信号として符号化した符号化映像を生成する。映像生成部120は、送信データを符号化した領域以外の領域に端末識別情報を光通信信号として符号化した符号化映像を生成してよい。
また、例えば、映像生成部120は、表示装置100を識別する表示装置識別情報を光通信信号として符号化した符号化映像を生成する。表示装置識別情報は、表示部識別情報の一例であってよい。映像生成部120は、送信データを符号化した領域以外の領域に表示装置識別情報を光通信信号として符号化した符号化映像を生成してよい。
映像生成部120は、映像全体が変化しない無変化映像に各種情報を符号化した符号化映像を生成してもよい。
表示制御部122は、映像生成部120が生成した符号化映像を表示部に表示させる。表示部の例としては、ディスプレイ104及びプロジェクタ105が挙げられる。表示制御部122は、符号化映像をディスプレイ104に表示させてよい。また、表示制御部122は、符号化映像をプロジェクタ105に表示させてよい。表示制御部122は、映像生成部120によって、スクリーンセーバ映像のうちの、領域特定部118が特定した領域に制御信号を符号化した符号化映像が生成された場合、当該符号化映像をスクリーンセーバとして、表示部に表示させてよい。
測定結果受信部124は、通信端末200が、表示制御部122によって表示された映像を撮像して測定した、受信輝度レベル及び受信SNRを、通信端末200から受信する。
輝度レベル調整部126は、測定結果受信部124が受信した測定結果に基づいて、表示制御部122が制御する表示部による表示の輝度レベルを調整する。
図7は、通信端末200の機能構成の一例を概略的に示す。通信端末200は、撮像部212、画像処理部214、情報通信部216、復号化部218、測定部220、測定結果送信部222、位置姿勢取得部224、及び指向性調整部226を備える。なお、通信端末200がこれらのすべての構成を備えることは必須とは限らない。
画像処理部214は、撮像部212が撮像した画像をアフィン変換等の方法で画像処理する。画像処理部214は、撮像部212が撮像した、表示制御部122によって表示された映像を処理してよい。
画像処理部214は、映像に光通信信号として符号化されている領域情報を復号化して、領域情報を取得してよい。画像処理部214は、領域情報を用いて、撮像部212が撮像した映像のうち、送信データが符号化された領域を識別してよい。画像処理部214は、領域識別部の一例であってよい。
通信端末200は、ネットワーク50を介して端末識別情報を管理装置300に送信してよく、管理装置300は、ネットワーク50を介して表示装置100の通信の相手方となる通信端末200の端末識別情報を表示装置100に送信してよい。この端末識別情報は、表示装置100から光通信を介して通信端末に通知されてもよい。また、管理装置300から端末識別情報が新たに発行される場合において、通信端末200は、ネットワーク50を介して上記端末識別情報を取得してよい。
また、画像処理部214は、端末識別情報を用いて、映像に光通信信号として符号化されている送信データを復号化してよい。これにより、通信端末200は、映像に符号化されている送信データが、自端末宛のデータである場合にのみ正常に複合することができる。
表示装置100は、通信の相手方となる通信端末200毎に異なる符号を生成し、光通信を介して通信端末200に送信する機能を有してよい。
表示装置100は、通信の相手方となる通信端末200毎に異なる符号を用いて送信データのスクランブルを実行してよい。
画像処理部214は、表示装置から送信された通信端末毎に異なる符号を用いて、表示装置100でスクランブルされた送信データのスクランブル解除を実効してよい。
また、画像処理部214は、映像に光通信信号として符号化されている表示装置識別情報を復号化して、表示装置識別情報を取得してよい。これにより、通信端末200は、複数の表示装置100によって送信される送信データを識別可能になる。
画像処理部214は、撮像部212が撮像した映像を解析して、当該映像に関する撮像映像情報を情報通信部216に送信させてよい。情報通信部216は、画像処理部214の指示に従って、撮像映像情報を、表示装置100及び管理装置300等に送信してよい。
撮像映像情報は、例えば、表示制御部122によって表示されている映像のうち、表示装置100と通信端末200との間の伝送路の状況によって、通信端末200が撮像できない領域を示す。例えば、撮像映像情報は、表示制御部122によって表示されている映像のうち、表示装置100と通信端末200との間の障害物等の存在によって、通信端末200が撮像できない領域を示す。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、領域特定部118によって特定された領域から、当該撮像映像情報を示す領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成してよい。
画像処理部214は、例えば、表示装置100と通信端末200との距離が離れており、映像に光通信信号として符号化されている送信データ等を認識することができない場合、その旨を示す撮像映像情報を情報通信部216にネットワーク50を介して管理装置300ならびに表示装置100に対して送信させてよい。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、送信データの各情報を割り当てる画素数を変更してよい。例えば、映像生成部120は、送信データの各情報を1画素に割り当てていた場合、当該撮像映像情報の受信に応じて、4画素等のより多い画素に、送信データの各情報を割り当てる。
また、画像処理部214は、例えば、表示装置100と通信端末200との距離が近く、映像への光通信信号の符号化について、解像度を上げても認識できる場合は、その旨を示す撮像映像情報を情報通信部216にネットワーク50を介して管理装置300ならびに表示装置100に対して送信させてよい。表示装置100が当該撮像映像情報を受信した場合、映像生成部120は、送信データの各情報を割り当てる画素数を変更してよい。例えば、映像生成部120は、送信データの各情報を4画素に割り当てていた場合、当該撮像映像情報の受信に応じて、1画素等のより少ない画素に、送信データの各情報を割り当てる。
画像処理部214は、表示制御部122によって表示されている映像を、撮像部212によって撮像できない場合、その旨を通知する通知データを情報通信部216に送信させてよい。画像処理部214は、通知データを、表示装置100に対して送信させてよい。情報通信部216は、通知データ送信部の一例であってよい。表示装置100が通知データを受信した場合、映像生成部120は、映像全体の輝度変調によって、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成してよい。これにより、表示装置100による表示映像を、通信端末200が直接撮像できない場合であっても、表示映像の光を間接的にでも撮像することができれば、通信を実現することができる。
復号化部218は、画像処理部214によって識別された、送信データが符号化されている領域から、送信データを復号化する。復号化部218が復号化した送信データは、通信端末200のメモリに格納されてよい。
測定部220は、撮像部212が撮像する映像の受信輝度レベル及び受信SNRを測定する。測定部220は、例えば、表示制御部122によって表示されたスクリーンセーバ映像から、復号化部218が復号化した制御信号を用いて、受信輝度レベル及び受信SNRを測定してよい。
測定結果送信部222は、測定部220による測定結果を表示装置100に送信する。測定結果送信部222は、光通信を用いずに測定結果を表示装置100に送信してよい。測定結果送信部222は、測定部220による測定結果を、管理装置300を介して表示装置100に送信してよい。測定結果送信部222によって送信された測定結果を測定結果受信部124が受信した場合、輝度レベル調整部126は、当該測定結果を用いて、輝度レベルを必要最低限の輝度レベルに調整してよい。
撮像部212は、ピンホールカメラやオートフォーカスカメラであってもよい。また、通信端末200の指向性調整部は、ズーム機構、ジンバル機構、および三次元首振り機構を有しても良い。
撮像部212によって撮像された映像のうち、通信に使用する領域が小さく、且つ、通信端末200が固定されている場合は、上記三次元首振り機構やジンバル機構を用い、且つズーム機構を用いて通信に使用する領域を拡大し、送信データの各情報を割り当てる画素を少なくしてよい。ズーム機構を用いて、表示装置100を拡大表示している場合、通信端末200等のブレに対して撮像した映像の範囲から表示装置100が容易に外れるようになるので、通信端末200に搭載するIMU(ジャイロ装置)の情報を基に、通信端末200が固定され安定している場合において、指向性調整部226は、三次元首振り機構を用いて撮像部212にて撮像される表示装置100を拡大してよい。
指向性調整部226がズーム機構を有していて三次元首振り機構やジンバル機構を有していない場合で、通信端末200にブレが発生する場合は、指向性調整部226はズームアウトして、撮像部212によって撮像される映像の範囲の中に安定して表示装置100が含まれるように調整してよい。このとき、表示装置100の通信に使用される画素を多くすることで、表示装置100から送信される送信データの復号化を安定させてよい。
撮像部212で撮像された映像信号は、復号化部218に転送されてよい。復号化部218の処理はベースバンドICで行われてよい。復号化部218は、撮像部212で撮像された映像信号から、例えば、参照信号の読み出し、アフィン変換、アンカー信号の同定および復調、データ信号位置の同定および復調を実施する。
復号化部218の処理は、DSPにて実施されてもよい。映像信号を転送されたDSPは、例えば、参照信号の同定、アフィン変換、参照信号の読み出し、映像輝度のイコライジング、アンカー信号の同定およびベースバンド化、データ信号の同定およびベースバンド化等を実施する。DSPは、上記復号化処理を実施した後、ベースバンドICに受信信号データを転送してよい。
位置姿勢取得部224は、表示装置100による表示映像に対する、通信端末200の向き及び位置の相対角度を取得する。位置姿勢取得部224は、表示装置100がディスプレイ104に映像を表示させている場合は、ディスプレイ104に対する通信端末200の向き及び位置の相対角度を取得してよい。位置姿勢取得部224は、表示装置100がプロジェクタ105に映像を表示させている場合は、投影映像108に対する通信端末200の向き及び位置の相対角度を取得してよい。
指向性調整部226は、位置姿勢取得部224によって取得された向き及び位置の相対角度に基づいて、撮像部212による撮像の指向性を調整する。指向性調整部226は、表示装置100による表示映像と、撮像部212による撮像方向とが正対するように、撮像部212による撮像の指向性を制御してよい。すなわち、指向性調整部226は、表示装置100による表示映像の表示面と、撮像部212による撮像方向とが、直交するように、撮像部212による撮像の指向性を制御してよい。撮像部212が3次元アクチュエータによりレンズを調整する機能を有する場合、指向性調整部226は、当該機能によってレンズの向きを変更することによって、表示装置100による表示映像と、撮像部212による撮像方向とが正対するようにしてよい。
通信端末200は、自身の保持する端末識別情報を元に、撮像部で撮像された範囲に存在する、通信の相手方となる表示装置以外の表示装置の信号を逐次干渉除去技術を用いて除去してよい。
図8は、表示装置100による表示例を概略的に示す。図8は、領域特定部118によって特定された特定領域400を分割した分割領域402及び分割領域404のそれぞれに、異なる通信端末200用の送信データを符号化した場合の表示例を示す。
表示装置100は、通信端末200側で干渉除去に使用する通信端末200ごとに異なる拡散符号を生成してよい。
表示装置100は、通信端末200毎に異なる拡散符号を、光通信を介して通信端末200に送信してよい。
表示装置100は、通信の相手方となる通信端末200毎に生成された拡散符号を用いて表示装置100に表示される映像のスペクトルを拡散してよい。
図8に示すように、表示装置100は、分割領域402に一の通信端末200用の送信データを符号化して、分割領域402を示す領域情報を一の通信端末200に通知し、分割領域404に他の通信端末200用の送信データを符号化して、分割領域404を示す領域情報を他の通信端末200に通知することによって、複数の通信端末200との同時ユニキャスト通信を実現する。
図9は、表示装置100による表示例を概略的に示す。通信端末200が認識できる解像度は、表示装置100と通信端末200との距離等によって異なるところ、図9は、表示装置100が、通信端末200が認識できる解像度に合わせて送信データの各情報を割り当てる画素数を変更している場合を概略的に示す。
図9に示す例では、状況820の方が状況810と比較して、表示装置100と通信端末200との間の距離が長く、通信端末200が認識できる解像度が低いことから、状況820における表示装置100の方が、送信データの各情報を割り当てる画素数をより多くしている。表示装置100がこのような制御を実行することによって、通信端末200が認識できる解像度に適した光通信信号の符号化を実現することができる。
図10は、通信端末200による撮像映像の表示例を概略的に示す。図10は、表示装置100と通信端末200との間に存在する障害物600によって、通信端末200が、特定領域400の一部を撮像できない状況を示す。
図11は、表示装置100によって投影された投影映像108が、外部のその他の強い光によって部分的に照射され、通信端末200が、特定領域400の一部の情報を認識できない状況を示す。
図10、および図11に示す状況において、情報通信部216は、表示装置100によって表示されている映像のうち、障害物600によって撮像できない領域、もしくは、投影映像108のうち、外部の強い光によって認識できない領域を示す撮像映像情報を表示装置100に送信する。映像生成部120は、当該撮像映像情報に基づいて、領域特定部118によって特定された特定領域400から、通信端末200によって撮像できない領域もしくは、信号を認識できない領域を除外した領域に、送信データ等を符号化した符号化映像を生成してよい。これにより、表示装置100が特定領域400に送信データを符号化したにもかかわらず、障害物600もしくは外部の強い光の存在によってそれを通信端末200が受信できないという事態の発生を防止することができる。
図12は、表示装置100による同期信号410及び呼出信号420の一例を概略的に示す。表示装置100は、同期信号410を定期的に表示する。表示装置100は、例えば、30フレーム毎に同期信号410を表示する。図12では、6つの同期信号410を表示する場合を例示しているが、同期信号410の数、位置、及び大きさは図12に示すものに限らず、任意に設定されてよい。
表示装置100は、同期信号410に、表示装置100を識別する表示装置識別情報を符号化してよい。また、表示装置100は、同期信号410に、表示装置100の画面の画面解像度情報を符号化してよい。また、表示装置100は、同期信号410に、フレーム番号情報を符号化してよい。同期信号410の変調は、例えば、Zadff-Chu系列を用いて変調されてよい。
同期信号410を撮像して読み取った通信端末200は、ネットワーク50を介して、管理装置300に通信の相手方とする表示装置100の同期信号を正常に受信完了した旨を伝えるためにアタッチ完了メッセージを送信する。アタッチ完了メッセージには、通信端末200を識別する端末識別情報が含まれてよい。また、アタッチ完了メッセージには、同期信号410に含まれていた表示装置識別情報が含まれてよい。また、アタッチ完了メッセージには、通信端末200による受信解像度情報が含まれてよい。
管理装置300は、通信端末200から受信した情報を、ネットワーク50を介して、表示装置100に送信する。管理装置300は、通信端末200から受信した情報のうち端末識別情報に関して、端末個別の情報を保護するために、通信が切断されるまで一時的に使用される別の新たな端末識別情報を生成してよい。表示装置100が、当該端末識別情報を生成する機能を有してもよい。当該情報を受信した表示装置100は、同期信号410と同じ位置に、呼出信号420を表示する。表示装置100は、呼出信号420を定期的に表示してよい。表示装置100は、例えば、30フレーム毎に呼出信号420を表示する。呼出信号420には、通信端末200の端末識別情報が含まれてよい。呼出信号420は、通信対象となる通信端末200の端末識別情報、および拡張情報が含まれてよい。
通信端末200は、表示装置100によって表示された呼出信号420を受信して、呼出信号420に含まれる端末識別情報と、自らの端末識別情報とが一致した場合、ネットワーク50を介して、管理装置300に呼び出し完了メッセージを送信する。管理装置300は、受信した呼び出し完了メッセージを表示装置100に送信してよい。
アンカー信号430は、送信データを符号化した領域を示す領域情報を光通信信号として符号化した領域に含まれる信号であってよい。呼び出し完了メッセージを受信した表示装置100は、アンカー信号430の位置と、アンカー信号430を配置するフレーム番号とを、ネットワーク50を介して管理装置300に送信する。アンカー信号430が表示される大きさは、通信を開始する準備をする方法に記載されている、受信解像度情報に基づいて決定されてよい。管理装置300は、受信したアンカー信号430に関する情報を、ネットワーク50を介して通信端末200に送信する。通信端末200は、管理装置300からアンカー信号430に関する情報を受信したことに応じて、送信データを符号化した領域の復号を開始する。
図13は、光通信中における表示装置100による表示例を概略的に示す。ここでは、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域の一例として、白色の領域を採用した場合を例に挙げる。
領域特定部118は、映像取得部116が取得した映像を解析して、白色の領域を特定する。映像生成部120は、アンカー信号430を含み、領域特定部118によって特定された特定領域440に、送信データ取得部114が取得した送信データを可視光通信信号として符号化した符号化映像を生成する。アンカー信号430には、特定領域440を示す領域情報が含まれる。表示制御部122は、映像生成部120が生成した符号化映像を表示させる。
通信端末200は、撮像部212によって、表示制御部122によって表示された符号化映像を撮像する。画像処理部214は、アンカー信号430に含まれる、特定領域440を示す領域情報を用いて、特定領域440を識別する。復号化部218は、画像処理部214によって識別された特定領域440から送信データを復号化する。
映像生成部120は、例えば10フレーム毎等、予め定められたフレーム毎に、特定領域440及びアンカー信号430の位置に、トレーニング信号を含めてよく、通信端末200は、当該トレーニング信号を用いて、撮像した映像のイコライジングを行ってよい。これにより、映像の輝度や色情報の均一化を行うことで、正確に送信データを復号することができる。また、映像生成部120は、特定領域440に送信データを符号化する際に、同一内容を複数フレームに渡って送信してもよい。これにより、送信データが冗長化され、エラー率を低減することができる。
通信端末200は、受信した送信データにエラーが発生した場合において、ネットワーク50を介して管理装置300にエラー情報を送信してよい。管理装置300は、受信したエラー情報をネットワーク50を介して表示装置100に送信してよい。表示装置100は、受信したエラー情報にもとづいてエラーが発生した送信データを再送してよい。
通信端末200は、一定期間毎に、受信解像度情報を、ネットワーク50を介して管理装置300に送信してよい。管理装置300は、受信した受信解像度情報をネットワーク50を介して表示装置100に送信してよい。表示装置100は、受信した受信解像度情報に基づいて、アンカー信号430の大きさや、送信データの各情報を割り当てる画素数について、調整を実行してよい。
通信端末200が、光学ズーム機能を有している場合、通信端末200は、適宜、表示装置100による表示映像をズームしてよい。また、通信端末200が、3次元アクチュエータ付のレンズを有している場合、適宜、表示装置100による表示映像へのズームと、指向性の調整とを実行してよい。通信端末200が手ぶれ補正機構を有していてよい。
表示装置100と通信端末200が正対していない場合、通信端末200は、適宜表示装置100による表示映像をアフィン変換してよい。
表示装置100は、CPRI(Common Public Radio Interface)インターフェイスと、HDMI(登録商標)(High-Definition Multimedia Interface)インターフェイスと、CPRIインタフェース上のIQ信号(複素デジタル信号の同相(In-phase)および直交(Quadrature)成分からなるベースバンド信号)から光通信信号を変調する回路とを有してもよい。
図14は、表示装置100による2つの通信端末200に対する送信データを符号化した場合の表示例を示す。図12では、アンカー信号432及びアンカー信号434、および、それぞれのアンカー信号で示された送信データが符号化された分割領域442および444の一例を概略的に示す。
図15は、投影映像108の一例を概略的に示す。図15は、建物510内に配置された表示装置100が、隣接する建物520の壁面に投影映像108を投影した例を示す。
これにより、表示装置100は、建物520の壁面を撮像できる通信端末200に送信データを送信することができる。通信端末200は、地上に位置してもよく、また、建物510内に位置してもよい。
図15では、表示装置100が上方向に向けて映像を投影する例を示しているが、これに限らず、表示装置100の向きは任意でよい。
表示装置100は、建物520に投影映像108を投影する場合、内容が変化しない映像の一部又は全体に、送信データを光通信信号として符号化した符号化映像を生成して投影してよく、赤外線領域で感度を持つ通信端末200を通信の相手方として想定する場合においては、赤外線に送信データを光通信信号として符号化した符号化映像を生成して投影して良い。表示装置100は、内容が変化する映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを光通信信号として符号化した符号化映像を生成してもよい。
図16は、通信端末200、表示装置100、5Gネットワーク、及び管理装置300の間の通信開始の制御メッセージシーケンス(例)を示す。本例においては、まず、通信端末200が、管理装置300に映像表示装置検知報告(Attach完了)を送信する。次に、管理装置300が、端末Attach通知を映像表示装置100に送信する。次に、映像表示装置100が、端末Attach応答を管理装置300に送信する。次に、管理装置300が、ダウンリンク追加通知を5Gネットワークに対して送信する。次に、管理装置300が、ダウンリンク追加応答を5Gネットワークから受信する。次に、管理装置300が、ダウンリンク追加通知を通信端末200に送信する。次に、管理装置300が、準備完了通知を5Gネットワークに対して送信する。
その後、5Gネットワークにおいて、下りデータが発生する。そして、発生したデータが、5Gネットワークから、表示装置100に対して送信される。データを受信した表示装置100は、通信端末200に対して端末呼び出しを実行する。次に、通信端末200が、呼び出し応答を管理装置300に送信する。管理装置300は、呼び出し応答通知を表示装置100に送信する。呼び出し応答通知を受信した表示装置100は、送信解像度を決定する。そして、表示装置100は、管理装置300に対してアンカー信号を割り当てる。管理装置300は、アンカー信号を通信端末200に通知する。そして、表示装置100から、通信端末200に対して、表示を介したデータ送信が行われる。
図17は、表示装置100側の通信開始のフローチャート(例)を概略的に示す。ステップ(ステップをSと省略して記載する場合がある。)202では、管理装置300から、端末Attach通知を受信する。S204では、5Gネットワークから下りデータを受信する。S206では、通信端末200に対して端末呼び出しを実行する。S208では、S206における端末呼び出しに対する呼び出し応答通知を受信したか否かを判定する。受信していないと判定した場合、S206に戻り、受信したと判定した場合、S210に進む。S210では、送信解像度を決定する。S212では、アンカー信号を管理装置300に割り当てる。以上の流れに従って、通信が開始される。
図18は、表示装置100側の通信中のフローチャート(例)を概略的に示す。S222では、通信端末200に対して光通信(アンカー信号割当)を実行する。S224では、データをバッファに格納する。S226では、データ信号の割当、変調等を決定する。S228では、アンカー信号を送信する。S230では、データ信号を送信する。S232では、ACKを受信したか否かを判定する。ACKを受信していないと判定した場合、S226に戻り、ACKを受信したと判定した場合、S234に進む。S234では、データのバッファを開放する。
図19は、通信端末200側の通信開始のフローチャート(例)を概略的に示す。5G接続中に、通信端末200は、S304において、サプリメンタルダウンリンク機能をONにする。S306では、カメラスキャンを実行する。S308で、表示装置100を検知した場合、S310に進み、検知していない場合、S306に戻る。S310で、同期信号を検知した場合、S312に進み、検知していない場合、S306に戻る。
S312では、カメラによってスキャンした映像にアフィン変換を施す。S314では、同期信号をデコードする。S316では、Attach完了を送信する。S318では、ダウンリンク追加通知を受信する。S320では、データ受信を待機する。S322では、カメラスキャンを実行する。S324で、同期信号を検知した場合、S326に進み、検知していない場合、S322に戻る。S326で、呼び出し信号を検知した場合、S328に進み、検知していない場合、S322に戻る。S328では、呼び出し応答を送信する。S330では、アンカー信号通知を受信する。以上の流れに従って、通信が開始される。
図20は、通信端末200側の通信中のフローチャート(例)を概略的に示す。S340では、表示装置100との間で光通信を実行する。S342では、カメラスキャンを実行する。S344で、同期信号を検知した場合、S346に進み、検知していない場合、S342に戻る。
S346では、カメラによってスキャンした画像に画像処理を実行する。S348では、アフィン変換を実行する。S350では、同期信号を受信する。S352では、同期信号をデコードする。S354では、同期信号に基づくイコライジングを実行する。
S356では、アンカー信号を受信する。S358では、アンカー信号をデコードする。S360では、データ信号の位置及び変調方式等を取得する。S362では、データ信号を受信する。S364では、データ信号をデコードする。S366では、バッファに格納する。S368で、エラーが発生したと判定した場合、S376に進み、エラーが発生したと判定していない場合、S370に進む。S370では、5Gを経由してACKを送信する。S372では、バッファをクリアする。
S374では、5Gを経由してNACKを送信する。S376では、アンカー信号を受信する。S378では、アンカー信号をデコードする。S380では、データ信号の位置及び変調方式等を取得する。S382では、データ信号を受信する。S384では、バッファに格納する。S386で、エラーが発生したと判定した場合、S374に戻り、エラーが発生していないと判定した場合、S388に進む。S880では、5Gを経由してACKを送信する。S390では、バッファをクリアする。
図21は、通信中における再送シーケンス(例)を概略的に示す。図21におけるシーケンスにおいては、まず、5Gネットワークから表示装置100に対してデータが送信される。表示装置100は、データを通信端末200に送信する。通信端末200は、データをバッファする。次に、通信端末200は、HARQ/ACKを管理装置300に送信する。そして、通信端末200は、受信バッファをクリアする。
HARQ/ACKを受信した管理装置300は、ACKを表示装置100に送信する。表示装置100は、送信バッファをクリアする。そして、表示装置100は、通信端末200に対してデータを送信する。通信端末200は、データをバッファする。本シーケンスでは、ここでエラーが発生した場合について説明を続ける。
通信端末200は、HARQ/NACKを管理装置300に送信する。HARQ/NACKを受信した管理装置300は、NACKを表示装置100に送信する。表示装置100は、通信端末200に対してデータを再送する。通信端末200は、データをバッファする。次に、通信端末200は、HARQ/ACKを管理装置300に送信する。そして、通信端末200は、受信バッファをクリアする。HARQ/ACKを受信した管理装置300は、ACKを表示装置100に送信する。表示装置100は送信バッファをクリアする。
図22は、通信終了のフローチャートを概略的に示す。ここでは、通信端末200と表示装置100とが通信中に、通信端末200が表示装置100を見失ってからの処理の流れを概略的に示す。
通信端末200は、表示装置100を見失ったことに応じてタイマーを起動する。通信端末200は、タイマーが満了したことに応じて、Disconnectを管理装置300に送信する。管理装置300は、端末Disconnectを表示装置100に送信する。表示装置100は、端末Disconnect応答を管理装置300に送信する。管理装置300は、Disconnect Completeを通信端末200に送信する。そして、管理装置300は、端末IDをクリアする。
図23は、スリープ移行のフローチャートを概略的に示す。図23におけるシーケンスにおいては、まず、5Gネットワークから表示装置100に対してデータが送信される。表示装置100は、データを通信端末200に送信する。
本例においては、データを受信した通信端末200が無通信のままスリープタイマが満了したものとして説明を続ける。通信端末200は、Sleep Requestを管理装置300に送信する。管理装置300は、端末Sleep Requestを表示装置100に送信する。表示装置100は、端末Sleep Acceptを管理装置300に送信する。管理装置300は、Sleep Completeを通信端末200に送信する。通信端末200は、DRXタイマを起動する。そして、通信端末200は、間欠受信の状態となる。
図24は、ハンドオーバーのフローチャートを概略的に示す。S402では、通信端末200と表示装置100とが光通信を実行する。S404では、通信端末200が、カメラスキャンを実行する。S406では、通信端末200が、別の同期信号を検知したか否かを判定する。検知したと判定した場合S408に進み、検知していないと判定した場合、S404に戻る。
S408では、通信端末200が、カメラによってスキャンした画像に画像処理を実行する。S410では、通信端末200が、アフィン変換を実行する。S412では、通信端末200が、同期信号を受信する。S414では、通信端末200が、同期信号をデコードする。S416では、通信端末200が、受信レベル差の判定を実行し、閾値以上であると判定した場合、S418に進み、閾値未満であると判定した場合、S402に戻る。
S418では、通信端末200が、ハンドオーバータイマを起動する。S420では、通信端末200が、ハンドオーバータイマを満了する。S422では、通信端末200が、ハンドオーバー要求を送信する。S424では、通信端末200が、ハンドオーバー応答を受信する。そして、通信端末200は、ハンドオーバー先の表示装置との光通信フェーズに移行する。
図25は、Set Top Box内部ブロック図(例)を概略的に示す。Set Top Boxは、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、輝度レベル調整部126、NW I/F130を有する。これらの構成は、図6において説明した機能を実行してよい。
送信データ取得部114は、CPRIを介してBBU103と通信する。送信データ取得部114は、IQデータを通信してよい。送信データ取得部114は、受信したIQ信号をデコードしてよい。送信データ取得部114は、Bit Streamを映像生成部120に送信する。
映像取得部116は、HDMIを介して上位装置の例であるコンピュータ102と通信する。映像取得部116は、H.264映像データを通信してよい。映像取得部116は、H.264デコードを実行してよい。映像取得部116は、取得した映像データを映像生成部120とやりとりする。また、映像取得部116は、取得した映像データを領域特定部118に送信する。領域特定部118は、映像データのうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する。
映像生成部120は、映像取得部116から受信した映像データに、各種情報を符号化した符号化映像を生成する。例えば、映像生成部120は、領域特定部118が特定した領域に、送信データ取得部114が取得した送信データを光通信信号として符号化した符号化映像を生成する。映像生成部120は、符号化映像を、HDMIを介して、H.264映像データとして表示制御部122に送信する。表示制御部122は、受信した映像データを表示部に表示させる。
測定結果受信部124は、ネットワーク50及びNW I/F130を介して、通信端末200が、表示制御部122によって表示された映像を撮像して測定した、受信輝度レベル及び受信SNRを受信する。測定結果受信部124は、制御メッセージ処理を実行してよい。輝度レベル調整部126は、測定結果受信部124が受信した測定結果に基づいて、表示制御部122が制御する表示部による表示の輝度レベルを調整してよい。
図26は、Set Top Box内部動作フローチャート(例)を概略的に示す。STB101は、BBU103からIQデータを受信する。そして、受信したIQデータをデコードしてBit Stream化する。また、STB101は、ネットワーク50から制御情報を取得する。また、STB101は、端末受信状況の情報を取得する。また、STB101は、映像データを取得する。そして、STB101は、映像データをデコードする。STB101は、映像データ中、変化の少ない部分を抽出する。
そして、STB101は、送信領域を決定する。また、STB101は、変調方式を決定する。変調方式の決定について、サイネージなどの映像の場合、STB101は、輝度変調は4段階としてよい(MCS0~4)。色情報は最大RGBの3種類としてよい。受信輝度情報から、MCSを選択してよい。データを重畳する場所の色に合わせて、RGBを選択してよい。白色照明の場合、STB101は、輝度変調は4段階としてよい(MCS0~4)。色情報は最大RGBの3種類としてよい。データを重畳できるエリア(PRB)と、バッファされているデータ量に合わせてMCS、RGBを決定してよい。そして、STB101は、変調データを作成する。STB101は、出力データを作成し、H.264エンコードを実行して、出力させる。
図27は、送信解像度決定のフローチャートを概略的に示す。送信解像度決定は、STB101によって実行されてよい。S502では、表示装置100の解像度情報を取得する。S504では、通信端末200の受信解像度情報を取得する。S506では、端末受信SNRを取得する。S508では、最適解像度を計算する。S510では、受信エラーが発生しているか否かを判定する。S512では、解像度を低下する。
図28は、データ重畳位置決定のフローチャートを概略的に示す。データ重畳位置決定は、STB101によって実行されてよい。STB101は、端末の視野情報を取得し、端末の映像検知情報を取得する。また、STB101は、映像情報を取得し、映像フレームの情報を格納し、格納されている映像情報と比較を行い、変化が少ない部分を抽出する。STB101は、接続している通信端末200の死角を除外する。STB101は、接続している端末全ての死角を考慮する。そして、STB101は、PFによるリソース量を計算し、割当リソースを決定する。
図29は、データ符号化のアルゴリズムを概略的に示す。ここでは、例としてターボ符号を示すが、この限りではない。
図30は、送信光のホワイトノイズ化に関するアルゴリズムを概略的に示す。送信光のホワイトノイズ化は、STB101によって実行されてよい。STB101は、端末識別情報をPNシーケンス発生機に適用してPNシーケンスを出力させ、これと送信データによって、ホワイトノイズ化された送信データを生成し、変調(輝度変調、RGB変調)を行って、映像マッピングをする。
図31:主要な実施例1(赤外線DLPを用いる例)で示すように、プロジェクタにおいて、赤外線光源を用いたDLP(Digital Lite Proseccing)プロジェクタを使用し、主に夜間においてビル壁面に送信データが符号化された映像を投影することによりサプリメンタルダウンリンクを実現する。
通信端末においては赤外線領域で感度を持つ半導体カメラセンサが用いられ、モータードライブ機構によってレンズの指向性を調整することでカメラアングルを変更でき、光学ズーム機構で前記半導体カメラセンサが、ビル等に投影された送信データが符号化された映像全体を撮像できるように調節し、半導体カメラセンサの分解能を最大限に利用することでサプリメンタルダウンリンクを実現する。実装の別形態としては、特定の映像投影領域を使用するのではなく、ビル壁面に投影された映像全体を拡大してフォーカスし、投影された映像全体を分割して複数の通信端末で同時通信を実現する形態のほうが効率的である。
図32:主要な実施例2(オフィスの天井照明)で示すように、オフィスにおける天井照明を本発明による照明パネル(液晶や有機ELを用いたもの)に置き換え、BBUとCPRI-HDMIコンバータを介して接続し、天井照明を表示装置として使用することでサプリメンタルダウンリンクを実現する。
図33:主要な実施例3(ドーム球場の天井)で示すように、ドーム球場にプロジェクタを数十台設置し、ドーム天井に向けて送信データが符号化された映像を投影し、球場の天井を映像表示装置とすることで、サプリメンタルダウンリンクを実現する。このとき、通信端末としてはHMD(Head Mount Display)に埋め込まれていてもよい。また、マルチキャスト通信を行うことで複数のHMDで同時に同一のデータを受信することができる。
図34、図35:主要な実施例3(ドーム球場の天井)で示す通信システムで、同一の映像を複数のプロジェクタからそれぞれ投影することによって、通信端末が撮像する映像を冗長化することができる。これらのダイバーシティ効果によって、再送頻度が低下し、安定かつ高速なな通信を実現することができる。
オリンピック等の大規模なイベント開催時には、図36:主要な実施例3(ドーム球場のドローンカメラ)で示すように、球場内を飛ぶドローンから送られてくる映像は、光通信以外の通信(4Gや5GやWiFi等)を用いて球場内に設置されたデータサーバーに格納され、図33の通信システムを用いて、球場内の通信端末に対して、マルチキャスト配信を行う。
図37:主要な実施例5(複数カメラでの受信)で示すように、通信端末が前後、上下、左右の6方向にカメラを備えているとき、通信速度が最も早くなるように映像表示装置を撮像できるカメラを選択することで、通信端末の姿勢に依存せず、常に本発明によるサプリメンタルダウンリンクを実現することができる9。
図38:主要な実施例6(モータードライブカメラ)で示すように、通信端末が3次元アクチュエータによりレンズを調整する機構を有する場合、指向性調整部は、当該機構によってレンズの向きを調整することによって、表示装置による表示映像と、撮像部による撮像方向とが正対するようにし、また、ズームイン、ズームアウトを行うことで解像度を向上させ、通信速度を向上させる。
図39:主要な実施例7(魚眼レンズプロジェクタ)で示すように、プロジェクタが魚眼レンズを備えている場合、大きく映像を投影することができる。このとき、通信端末が受信する画像の解像度が向上し。通信速度が向上する。
図40は、通信端末200として機能するコンピュータ900のハードウエア構成のうち、本開発に関連する部分の一例を示す。本実施形態に係るコンピュータ900は、CPU910、BBIC、DSP、及びカメラ946を備える。
コンピュータ900にインストールされ、コンピュータ900を通信端末200として機能させるプログラムは、BBIC等に働きかけて、コンピュータ900を、通信端末200の各部としてそれぞれ機能させてよい。これらのプログラムに記述された情報処理は、コンピュータ900に読込まれることにより、ソフトウエアと上述した各種のハードウエア資源とが協働した具体的手段である撮像部212、画像処理部214、情報通信部216、復号化部218、測定部220、測定結果送信部222、位置姿勢取得部224、及び指向性調整部226として機能する。そして、これらの具体的手段によって、本実施形態におけるコンピュータ900の使用目的に応じた情報の演算又は加工を実現することにより、使用目的に応じた特有の通信端末200が構築される。
CPU910に少なくとも、USB3.0(10Gbps)を上回る速度のインターフェイスで接続されたCCD装置とCPU910に接続された5G対応BBIC(3G、4Gを含む)のデュアルコネクティビティで通信が成立し、かつ、モデム側がメインではなくCPU1010に接続されたCCD装置がサプリメンタルダウンリンクのデータパスを提供する。5Gモデムは、CCDとCPU1010から来たビットストリームを28GHzや76GHzのADデータストリームと同等にデコードして、サプリメンタルダウンリンクとする。
STB101にインストールされ、表示装置100を光通信装置として機能させるプログラムに記述された情報処理は、STB101を情報受信部112、送信データ取得部114、映像取得部116、領域特定部118、映像生成部120、表示制御部122、測定結果受信部124、及び輝度レベル調整部126として機能させる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 通信システム、50 ネットワーク、100 表示装置、101 STB、102 コンピュータ、103 BBU、104 ディスプレイ、105 プロジェクタ、106 変換器、108 投影映像、112 情報受信部、114 送信データ取得部、116 映像取得部、118 領域特定部、120 映像生成部、122 表示制御部、124 測定結果受信部、126 輝度レベル調整部、200 通信端末、201 CMOSセンサ、202 CPU、203 ディスプレイ、204 通信モデム、212 撮像部、214 画像処理部、216 情報通信部、218 復号化部、220 測定部、222 測定結果送信部、224 位置姿勢取得部、226 指向性調整部、300 管理装置、400 特定領域、402 分割領域、404 分割領域、410 同期信号、420 呼出信号、430 アンカー信号、432 アンカー信号、434 アンカー信号、440 特定領域、442 分割領域、510 建物、520 建物、600 障害物、810 状況、820 状況、900 コンピュータ、910 CPU、946 カメラ

Claims (42)

  1. 表示部に映像を表示させる表示制御装置と、
    前記表示部によって表示された映像を撮像する撮像部を有する通信端末とを備える通信システムであって、
    前記表示制御装置は、
    表示対象の映像を取得する映像取得部と、
    前記映像取得部が取得した前記映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部と、
    前記領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部と、
    前記符号化映像を前記表示部に表示させる表示制御部とを有し、
    前記通信端末は、
    前記撮像部によって撮像された映像のうち、前記送信データが符号化された領域を識別する領域識別部と、
    前記領域識別部によって識別された前記領域から前記送信データを復号化する復号化部とを有し、光通信以外の他の通信手段(WiFi,3G,4G,5G等)の無線通信手段を用いて、前記光通信の通信制御信号をやり取りする仕組みを持った、光通信による、サプリメンタルダウンリンクを提供する通信システム。
  2. 前記映像取得部は、光学的、あるいはデジタル的な手ぶれ防止機構を備える、請求項1に記載の通信システム。
  3. 請求項1に示す通信システムであって、前記通信端末は、前記撮像部で撮像された映像の撮像に関する情報と、復号化した送信データの復号可否情報と、通信制御に関する情報を、光通信以外の手段を用いて、前記表示制御装置にフィードバックを行う請求項1に記載の通信システム。
  4. 請求項1に示す通信システムであって、3GPPで規定するデュアルコネクティビティと同様に、28GHzや76GHzの広帯域通信をデュアルコネクティビティで利用する実装形態をそのままに、28GHzや76GHzのMassiveMIMOのRRU装置と代わって、ディスプレイ装置をCPRI接続に代わって、HDMI等の映像信号を伝送するインターフェイスで接続して、ディスプレイ装置をRRU装置として使用して、端末装置のCCD装置をMassiveMIMOアンテナとして使用する請求項1に記載の通信システム。
  5. 前記領域特定部は、前記映像取得部が取得した前記映像のうち、予め定められた期間、輝度及び色情報が変化しない領域または変化量が予め定められた閾値より低い領域を特定する、請求項1に記載の通信システム。
  6. 前記映像生成部は、前記領域特定部で特定された領域内であって、前記送信データを符号化した領域以外の領域に、前記送信データを符号化した領域を示す領域情報を光通信信号として符号化した前記符号化映像を生成し、
    前記領域識別部は、前記撮像部によって撮像された映像のうち、前記領域情報が符号化された領域を識別して、当該領域から前記領域情報を復号化し、前記領域情報が示す領域を、前記送信データが符号化された領域として識別する、請求項1又は2に記載の通信システム。
  7. 前記映像生成部は、前記送信データを符号化した領域以外の領域に、前記通信端末を識別する端末識別情報を光通信信号として符号化した前記符号化映像を生成する、請求項6に記載の通信システム。
  8. 前記映像生成部は、前記表示部を識別する表示部識別情報を、前記送信データを符号化した領域以外の領域に光通信信号として符号化した前記符号化映像を生成する、請求項1から7のいずれか一項に記載の通信システム。
  9. 前記通信端末は、
    前記撮像部が撮像する前記映像の受信輝度レベル及び受信SNRを測定する測定部と、
    前記測定部による測定結果を前記表示制御装置に送信する測定結果送信部と
    を有し、
    前記表示制御装置は、
    前記測定結果を受信する測定結果受信部と、
    前記測定結果に基づいて、前記表示部による表示の輝度レベルを調整する輝度レベル調整部とを有する、
    請求項1から8のいずれか一項に記載の通信システム。
  10. 前記映像取得部は、前記表示部によるスクリーンセーバ映像を取得し、
    前記映像生成部は、前記スクリーンセーバ映像の特定領域に送信データを符号化した符号化映像を生成し、
    前記表示制御部は、前記符号化映像をスクリーンセーバとして、前記表示部に表示させ、
    前記測定部は、前記復号化部によって復号化された送信データに基づいて、前記受信輝度レベル及び前記受信SNRを測定する、請求項9に記載の通信システム。
  11. 前記映像生成部は、自らスクリーンセーバ映像を生成する機能を有し、
    当該スクリーンセーバ映像全体に送信データを符号化した符号化映像を生成し、
    前記表示制御部は、当該符号化映像をスクリーンセーバとして、前記表示部に表示させ、
    前記測定部は、前記復号化部によって復号化された送信データに基づいて、前記受信輝度レベル及び前記受信SNRを測定する、請求項9に記載の通信システム。
  12. 前記測定結果送信部は、光通信を用いずに光通信以外の手段を用いて、前記測定結果を前記表示制御装置に送信する、請求項9から11のいずれか一項に記載の通信システム。
  13. 前記通信端末は、
    前記表示制御部による表示映像に対する前記通信端末の位置及び姿勢を取得する位置姿勢取得部と、
    前記位置及び姿勢に基づいて、前記撮像部による撮像の指向性を調整する指向性調整部と
    を有する、請求項1から12のいずれか一項に記載の通信システム。
  14. 前記通信端末は、複数の撮像部にて撮像した映像を比較し、通信を行う撮像部を選択する機能を有する、請求項1から12のいずれか一項に記載の通信システム。
  15. 前記通信端末の画像処理部は、前記撮像部にて撮像した表示装置の映像を画像処理し、前記表示部の前記送信データが符号化された領域の前記送信データを復号化する機能を有する、請求項1から12のいずれか一項に記載の通信システム。
  16. 前記表示制御装置は、
    前記撮像部によって撮像された映像に関する撮像映像情報を前記通信端末から受信する情報受信部を有し、
    前記映像生成部は、前記撮像映像情報に基づいて前記符号化映像を生成する、請求項1から15のいずれか一項に記載の通信システム。
  17. 前記映像生成部は、前記撮像映像情報に基づいて、前記送信データの各情報を割り当てる画素数を変更する、請求項16に記載の通信システム。
  18. 前記撮像映像情報は、前記表示部によって表示されている映像のうち、前記撮像部によって撮像できない領域を示し、
    前記映像生成部は、前記領域特定部によって特定された領域から、前記撮像部によって撮像できない領域を除外した領域に、送信データを光通信信号として符号化した符号化映像を生成する、請求項16又は17に記載の通信システム。
  19. 前記表示部は、プロジェクタであり、
    前記撮像部は、前記プロジェクタによって投影面に投影された光を撮像する、請求項1から18のいずれか一項に記載の通信システム。
  20. 請求項19に記載の通信システムであって、プロジェクションマッピングの要領で、ビル壁面に送信データが符号化された映像を投影し、屋内外を問わず広範囲における光通信を可能にする通信システム。
  21. 請求項20に記載の通信システムであって、赤外線等の非可視光の光源を使用したプロジェクタを使用し、通信端末においても赤外線カメラセンサ、あるいは赤外線にも感度を持つ画像センサデバイスを用いて、景観を変えることなく、光通信を実現する通信システム。
  22. 請求項21に記載の通信システムであってプロジェクタとしてDLP(ディジタル・ライト・プロセシング)プロジェクタを用い、赤外線ランプを光源に使用した通信システム。
  23. 請求項22に示される表示装置、あるいはプロジェクタと、通信端末の前記撮像部において、可視光を用いる代わりに赤外線を用い、前記撮像部がビルの窓にブルーフイルムを張ったガラスの裏側にある場合は、前記表示部において、輝度変調を用いる請求項22に記載の通信システム。
  24. 前記映像生成部は、映像の内容が変化しない領域または変化量が予め定められた閾値より低い領域に送信データを光通信信号として符号化した符号化映像を生成する、請求項19に記載の通信システム。
  25. 前記通信端末は、
    前記撮像部によって前記映像を撮像できない場合に、通知データを前記表示制御装置に送信する通知データ送信部
    を有し、
    前記映像生成部は、前記通知データを受信した場合、前記映像全体の輝度変調によって前記送信データを光通信信号として符号化した符号化映像を生成する、請求項1から24のいずれか一項に記載の通信システム。
  26. 前記表示制御装置は、
    前記送信データを無線基地局から受信するCPRIインタフェースと、
    前記表示部と通信接続するHDMIインタフェースと、
    前記CPRIインタフェース上のIQベクトル信号からRGBI信号に変換する装置と、
    RGBI信号からIQベクトル信号に変換する装置と
    を有する、請求項1から25のいずれか一項に記載の通信システム。
  27. 請求項1から26のいずれか一項に記載の通信システムであって、通信中に参照信号として、表示装置、並びに通信端末が互いに既知のパターンの信号、あるいは表示装置に二次元バーコードとして表示される較正パターンを用いて、定期的に較正を行うことにより、前記撮像部で撮像された画像を、既知画像に近づけるための写像変換を行う通信システム。
  28. ここで用いられる較正パターンは互いに既知のランダムな較正パターン、あるいは互いに既知の広告画像、二次元バーコード、あるいは、二重枠で囲われたロゴマークのいずれかであってもよい、請求項27に記載の通信システム。
  29. この通信システムで参照信号として用いられる二次元バーコードは、正方形のものだけではなく、長四角であってよく、前記領域特定部で特定された領域を示すための物であって良い、請求項27または28に記載の通信システム。
  30. 表示対象の映像を取得する映像取得部と、
    前記映像取得部が取得した前記映像のうち、変化しない領域又は変化量が予め定められた閾値より低い領域を特定する領域特定部と、
    前記領域特定部によって特定された領域に送信データを光通信信号として符号化した符号化映像を生成する映像生成部と、
    前記符号化映像を表示部に表示させる表示制御部と
    を備える表示制御装置。
  31. 請求項1から29のいずれか一項に記載のサプリメンタルダウンリンクを提供する通信システムであって、そこで使用する表示装置、あるいはプロジェクタにおいて、その地域で提供される電圧の周波数(50、ないし60Hz等)に同期して、100ないし120Hzで周囲の照明が点滅するが(インバーター方式ではない場合)、消灯している瞬間(SNRが改善しているタイミング)に、表示装置においては映像を表示し、また、プロジェクタでは光源を点灯させ、通信端末の撮像装置においては、前記電圧の周波数に同期し、周囲の照明が消灯している瞬間(SNRが改善しているタイミング)に撮像することにより、周囲照明を干渉源とするSNRの改善を図り通信速度を確保する表示装置、撮像装置、および通信システム。
  32. 請求項1から29、31のいずれか一項に記載のサプリメンタルダウンリンクを提供する通信システムであって、酸素により太陽光がエネルギーを吸収されている、フラウンホーファー線の波長を使用する単一色の可視光下限の光源を使用するサプリメンタルダウンリンクを提供する通信システム。
  33. フラウンホーファー線の狭帯域透過光学フィルターを受光素子に装着して日中の太陽光による干渉を低減し、通信端末の受光素子はサプリメンタルダウンリンク提供専用の撮像素子となる、請求項32に記載の通信システム。
  34. 請求項1から29、31のいずれか一項に記載の通信システムであって、冗長的に赤外線レーザーの散乱を利用するPointToMultiPoint方式の通信を用いることにより、安定した通信を提供する通信システム。
  35. 請求項1から29、31にいずれか一項に記載の通信システムであって、映像表示装置としてLEDディスプレイを用いる通信システム。
  36. 通信端末毎に異なる端末識別情報を生成し、当該端末識別情報を通信端末に送信する機能を有する表示制御装置。
  37. 端末識別信号を元に、撮像部にて撮像された画像に映り込んだ通信の相手方となる表示制御装置以外の表示制御装置の信号を、逐次干渉除去技術を用いて干渉除去する機能を有する通信端末。
  38. 干渉除去を目的とするスクランブル符号生成部と、上記スクランブル符号生成部で生成されたスクランブル符号を用いて送信データのスクランブルを実施するスクランブル部を有し、スクランブル符号情報を端末識別信号として通信端末に送信する機能を有する表示制御装置。
  39. 干渉除去を目的とする、通信端末毎に個別のスペクトル拡散符号を生成する機能を有し、上記スペクトル拡散符号を用いて表示映像をスペクトル拡散する機能を有する請求項36に記載の表示制御装置。
  40. コンピュータを、請求項36に記載の表示制御装置として機能させるためのプログラム。
  41. 表示装置によって表示される映像のうち、送信データが光通信信号として符号化されている領域を示す領域情報を取得する領域情報取得部と、
    撮像部によって撮像された映像のうち、前記領域情報に基づいて、前記送信データが符号化された領域を識別する領域識別部と、
    前記領域識別部によって識別された前記領域から前記送信データを復号化する復号化部と、
    光通信以外の他の通信手段(WiFi,3G,4G,5G等)の無線通信手段を用いて、前記光通信の通信制御信号をやり取りする仕組み
    を備える通信端末。
  42. コンピュータを、請求項41に記載の通信端末として機能させるためのプログラム。
JP2019568477A 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム Active JP7082994B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/003220 WO2019150489A1 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2019150489A1 JPWO2019150489A1 (ja) 2021-01-14
JP7082994B2 true JP7082994B2 (ja) 2022-06-09

Family

ID=67479631

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019568477A Active JP7082994B2 (ja) 2018-01-31 2018-01-31 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム

Country Status (4)

Country Link
US (2) US11546655B2 (ja)
JP (1) JP7082994B2 (ja)
CN (1) CN111670548B (ja)
WO (1) WO2019150489A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2940900B1 (en) * 2012-12-27 2020-11-04 Panasonic Intellectual Property Corporation of America Information communication method
US11201670B2 (en) * 2019-04-05 2021-12-14 Comcast Cable Communications, Llc Visible light communication
CN111131161B (zh) * 2019-11-25 2021-03-16 美的集团股份有限公司 智能设备身份识别方法、***、电子设备及存储介质
JP7492361B2 (ja) 2020-04-03 2024-05-29 株式会社Subaru 情報伝達システム
JP7084967B2 (ja) 2020-08-24 2022-06-15 ソフトバンク株式会社 光通信によるデジタルサイネージ及びled照明を利用したサプリメンタルダウンリンク装置と方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004326705A (ja) 2003-04-28 2004-11-18 Sony Corp 車両用通信装置および通信方法
JP2007295490A (ja) 2006-04-27 2007-11-08 Kyocera Corp 可視光通信装置および可視光受信方法
JP2008301478A (ja) 2001-09-21 2008-12-11 Casio Comput Co Ltd 受信装置、及び、プログラム
JP2013009074A (ja) 2011-06-23 2013-01-10 Casio Comput Co Ltd 情報伝送システム、受光装置、情報伝送方法、及び、プログラム
WO2014103333A1 (ja) 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
JP2016082425A (ja) 2014-10-17 2016-05-16 三星電子株式会社Samsung Electronics Co.,Ltd. 可視光送信装置、可視光受信装置、可視光通信システム、可視光通信方法及びプログラム
JP6250913B1 (ja) 2017-07-10 2017-12-20 株式会社マイクロキャビン 遊技機検査システム及び遊技機

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS54143607A (en) 1978-04-29 1979-11-09 Beltek Corp Tape recorder
US6850252B1 (en) * 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
JP2001345958A (ja) * 2000-05-31 2001-12-14 Sony Corp 携帯端末装置
JP2003179556A (ja) 2001-09-21 2003-06-27 Casio Comput Co Ltd 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法
AU2003284438A1 (en) * 2003-11-21 2005-06-08 Softbank Bb Corp. Communication service providing system and communication service providing method
JP2008103786A (ja) * 2006-10-17 2008-05-01 Sharp Corp 有料番組提供システムおよびテレビ放送受信装置
JP4525697B2 (ja) * 2007-04-09 2010-08-18 沖電気工業株式会社 伝送ヘッダ圧縮装置、動画像符号化装置及び動画像伝送システム
JP4792001B2 (ja) * 2007-04-27 2011-10-12 株式会社東芝 動画像復号装置、放送受信装置、動画像復号方法
CN101420592A (zh) * 2007-10-25 2009-04-29 株式会社Commax 具有保安功能的四画面分割对讲***
US9247286B2 (en) * 2009-12-31 2016-01-26 Broadcom Corporation Frame formatting supporting mixed two and three dimensional video data communication
US10097890B2 (en) * 2011-03-15 2018-10-09 Sony Corporation System and method for virtual input and multiple view display
EP2538584B1 (en) 2011-06-23 2018-12-05 Casio Computer Co., Ltd. Information Transmission System, and Information Transmission Method
CN103024352A (zh) * 2012-12-07 2013-04-03 康佳集团股份有限公司 一种基于码率突变的视频监控方法和***
JP5557972B1 (ja) 2012-12-27 2014-07-23 パナソニック株式会社 可視光通信信号表示方法及び表示装置
JP6136357B2 (ja) * 2013-02-25 2017-05-31 セイコーエプソン株式会社 分光測定装置、通信システム及びカラーマネージメントシステム
JP2015158596A (ja) * 2014-02-24 2015-09-03 株式会社リコー 投影装置、投影システム及び無線接続方法
WO2016060518A1 (en) * 2014-10-17 2016-04-21 Samsung Electronics Co., Ltd. Apparatus and method for transmitting and receiving visible light data
CN105187910B (zh) * 2015-09-12 2018-11-06 暴风集团股份有限公司 一种自动检测视频自适应参数的方法及***

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008301478A (ja) 2001-09-21 2008-12-11 Casio Comput Co Ltd 受信装置、及び、プログラム
JP2004326705A (ja) 2003-04-28 2004-11-18 Sony Corp 車両用通信装置および通信方法
JP2007295490A (ja) 2006-04-27 2007-11-08 Kyocera Corp 可視光通信装置および可視光受信方法
JP2013009074A (ja) 2011-06-23 2013-01-10 Casio Comput Co Ltd 情報伝送システム、受光装置、情報伝送方法、及び、プログラム
WO2014103333A1 (ja) 2012-12-27 2014-07-03 パナソニック株式会社 表示方法
JP2016082425A (ja) 2014-10-17 2016-05-16 三星電子株式会社Samsung Electronics Co.,Ltd. 可視光送信装置、可視光受信装置、可視光通信システム、可視光通信方法及びプログラム
JP6250913B1 (ja) 2017-07-10 2017-12-20 株式会社マイクロキャビン 遊技機検査システム及び遊技機

Also Published As

Publication number Publication date
US20200359085A1 (en) 2020-11-12
US11871074B2 (en) 2024-01-09
JPWO2019150489A1 (ja) 2021-01-14
US11546655B2 (en) 2023-01-03
CN111670548A (zh) 2020-09-15
CN111670548B (zh) 2023-07-21
WO2019150489A1 (ja) 2019-08-08
US20230071454A1 (en) 2023-03-09

Similar Documents

Publication Publication Date Title
JP7082994B2 (ja) 光通信を利用した大容量のサプリメンタルダウンリンクを可能とする通信システム、表示制御装置、通信端末及びプログラム
Le et al. A survey of design and implementation for optical camera communication
Liu et al. Some practical constraints and solutions for optical camera communication
US9847976B2 (en) Shared secret arrangements and optical data transfer
EP2805439B1 (en) Shared secret arrangements and optical data transfer
WO2014103158A1 (ja) 映像表示方法
Yamashita et al. Super Hi-vision video parameters for next-generation television
US11863236B2 (en) Transmission method, reception method, transmission device, and reception device
US10192297B2 (en) Method and apparatus for creating, streaming, and rendering HDR images
US11974078B2 (en) Digital signage by optical communication and supplemental downlink device and method using LED illumination
Bui et al. Demonstration of using camera communication based infrared LED for uplink in indoor visible light communication
US11296788B2 (en) Reception device and reception method
Chen et al. Hierarchical scheme for detecting the rotating MIMO transmission of the in-door RGB-LED visible light wireless communications using mobile-phone camera
Wang et al. Demonstration of a covert camera-screen communication system
Kays Visible light communication using TV displays and video cameras
Tang et al. Image sensor communication and its transmitting devices
Brauers et al. Modeling differential screen-camera data transmission for parallel video presentation
CN210297905U (zh) 一种可兼容多个用户同步操控的监控***及视频监控设备
WO2023149165A1 (ja) 通信システム及び通信方法
CN104980606B (zh) 无线传输***的装置及其方法
Bufalino et al. MAMBA: Adaptive and Bi-directional Data Transfer for Reliable Camera-display Communication
Kim et al. Color Barcode Detection of Complementary Color Barcode-based Optical Camera Communications with a Deep Neural Network

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220530

R150 Certificate of patent or registration of utility model

Ref document number: 7082994

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150