JP6138949B2 - 差分カメラを利用した映像処理装置 - Google Patents

差分カメラを利用した映像処理装置 Download PDF

Info

Publication number
JP6138949B2
JP6138949B2 JP2015535576A JP2015535576A JP6138949B2 JP 6138949 B2 JP6138949 B2 JP 6138949B2 JP 2015535576 A JP2015535576 A JP 2015535576A JP 2015535576 A JP2015535576 A JP 2015535576A JP 6138949 B2 JP6138949 B2 JP 6138949B2
Authority
JP
Japan
Prior art keywords
image
video
mark
difference
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015535576A
Other languages
English (en)
Other versions
JP2015537417A (ja
Inventor
ムン キ イ,
ムン キ イ,
Original Assignee
ムン キ イ,
ムン キ イ,
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ムン キ イ,, ムン キ イ, filed Critical ムン キ イ,
Publication of JP2015537417A publication Critical patent/JP2015537417A/ja
Application granted granted Critical
Publication of JP6138949B2 publication Critical patent/JP6138949B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20101Interactive definition of point of interest, landmark or seed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/02Recognising information on displays, dials, clocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Position Input By Displaying (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、マークを含む映像を撮影した以前フレーム映像と、マークを含まない映像を撮影したその次フレーム映像との差分イメージにおいて、ピクセル値が0ではないピクセルを調べ、マークを迅速であって容易に検出する映像処理装置に関する。
マーク認識、ポインティング、マウス、増強現実、カメラ、差分イメージ、映像処理において、最近では、カメラを利用して、コンピュータ画面のマウスカーソルアイコンを撮影して認識し、ポインティング作業が可能な技術が開発されている。
本発明は、コンピュータ画面の複雑な背景内にあるマウスカーソルアイコンを迅速に安定して認識する装置を提供することを目的にする。
また、本発明は、カメラがコンピュータ画面ではない周辺環境を撮影する間には、周辺事物をマウスカーソルアイコンで誤って認識する問題を解決することを目的にする。
本発明による差分カメラを利用した映像処理装置は、互いに異なる種類の映像を交互に順に1画面に出力させ、カメラで2種の映像を順に撮影し、撮影された2種の映像を比較し、マークを安定して迅速に検出する装置を提供することを特徴とする。
本発明による差分カメラを利用した映像処理装置を利用して、迅速であって安定して検出されたマークは、ポインティング作業や増強現実技術に活用される。また、ロボットが周辺環境を認識するのに活用されもする。
本発明による差分カメラを利用した映像処理装置は、2映像を差分してピクセル値を調べ、マークが存在する可能性が高い領域を求め、その領域でマークを検出する。もしカメラがコンピュータ画面ではない周辺事物を撮影するならば、差分映像において、マークが存在する可能性の高い領域が示されず、それ以上マークを検出する試みを行わない。従って、CPUの占有率を低くすることが可能であり、電力消耗量も減らすことができる。しかし、そのような本発明による差分方式を使用しないのであるならば、常時マークが存在すると仮定してマークを検出しようと試みるために、CPU占有率が高くなり、電力消耗が多くなり、認識速度も遅くなる。
第1実施形態の構成図である。 マークイメージと普通イメージとを示す図面である。
実施形態1
最近、カメラを利用して、コンピュータ画面のマウスカーソルアイコンを撮影して認識し、ポインティング作業を行うことが可能な技術が開発された。例えば、本発明の発明者の特許技術である韓国特許10−0936816号「カメラとマーク出力とによるポインティング装置」がある。前記ポインティング技術は、ディスプレイに、奇数番目のフレームには、マーク映像を出力し、偶数番目のフレームには、正常映像を出力し、映像処理部は、奇数番目のフレームを撮影したイメージでマークを認識し、ポインティング座標を算出する技術を含む。そのようなマークが、図1でのように、マウスカーソルアイコンICCであり、画面中心領域に存在するならば、カメラで撮影した映像において、マウスカーソルアイコン周辺に余白が十分であり、マウスカーソルアイコンを容易に検出することができる。しかし、マウスカーソルアイコンICEが、図1のディスプレイ画面DSの境界線に存在する場合には、ディスプレイ外部の事物のパターンPTから分離させて検出し難いという問題がある。特に、周辺事物が、マウスカーソルアイコンと、色や形態が類似しているならば、マークを検出することもできない。そして、マークがたとえ画面中心領域に存在するにしても、カメラレンズとして広角レンズを使用したり、あるいはディスプレイとカメラとの距離が遠く、撮影されたイメージにディスプレイ周辺事物が、マウスカーソルアイコンと共に撮影される場合、その事物とマウスカーソルアイコンとを区別するのに時間がかかるという問題がある。
本発明は、前述の問題を解決するためのものであり、コンピュータ画面の周辺事物の複雑な背景内にあるマウスカーソルアイコンまたはマークを、迅速に安定して認識する装置を提供することを目的にする。
前記目的を達成するために、本発明による差分カメラを利用した映像処理装置は、マークイメージと普通イメージとを迅速に交互に順にディスプレイに出力させ、カメラで前記2種の映像を順に撮影し、撮影された映像から差分映像(difference image)を求め、その差分映像のピクセル値が0である領域は、ディスプレイ領域ではないと判断し、その領域を除いた残りの領域でマークを調べ、マークを安定して迅速に検出する装置を提供することを特徴とする。ここで、差分映像は、2映像で対応するピクセルの差値をピクセル値にする映像を意味する。例えば、差分映像の(x,y)ピクセル値は、2映像の(x,y)ピクセル値の差である。入力映像にノイズがあるならば、差分映像を求める2つの入力映像にガウスフィルタのような前処理を行うことが望ましい。マークイメージと普通イメージとを迅速に交互に出力させることは、人目にフリッカ(flicker)が見えないように、1秒に60回以上2イメージを交互に出力することが望ましい。それは、シャッタメガネ方式の120Hz3Dディスプレイを使用すれば可能である。
カメラが静止した状態であるならば、差分映像において、ディスプレイDS外部領域は、差分ピクセル値が0であるが、ディスプレイ内部領域は、差分値が0ではない値になる。例えば、図1のマウスカーソルアイコンICEマークがディスプレイ外部のパターンPTと近接していても、その差分映像において、周辺パターンPT領域は、差分ピクセル値が0であるが、マウスカーソルアイコンマークICE領域では、差分ピクセル値が0ではないので、差分ピクセル値が0ではない領域を調べることにより、マークを周辺パターンから容易に分離して検出することができる。
差分映像において、ピクセル値が0ではない領域は、ディスプレイ領域に該当する。そのディスプレイ領域において、マーク領域を差分で検出しやすいように、図2のように、ディスプレイに出力する普通イメージOIにおいて、マークイメージのマーク領域MKに対応する領域を暗く調整することが望ましい。ここで、対応する領域とは、2イメージを重ねておいたとき、対応する領域も重なるということを意味する。例えば、図2のように、普通イメージのマーク領域MKを暗く明るさを調整し、差分順序を、マーク映像MIから普通映像OIを抜き取るように設定すれば、マークイメージMIのマーク周辺は、黒色余白であるので、ピクセル値が0、または非常に小さい値であり、普通映像OIは、それより明るい領域であるので、ピクセル値が0または正数であり、従って、マーク領域の差分値は、正数であり、そのマーク領域を除いた周辺余白では、差分値が0または負数になる。従って、差分映像において、差分値が正数である領域が、マークが存在する可能性の高い領域になり、マークを撮影したマーク映像において、前記マークが存在する可能性が高い領域を調べれば、マークを容易に迅速に検出することができる。本発明では、そのように、マーク映像MIから普通映像OIを抜き取った映像を一次差分映像という。
カメラが静止した状態であるならば、一次差分映像において、マーク領域だけ差分値が正数であり、残り領域は、負数または0になる。しかし、カメラが動いた場合には、マークとディスプレイ周辺事物PTとの境界線でも、差分値が正数にもなる。その場合、一次差分値が正数である領域において、事物の境界線PTに該当する領域を除去すれば、マーク領域だけ求めることができる。本発明では、そのように、一次差分映像から、事物の境界線に該当する領域を除去することを二次差分という。一般的に、イメージOIを撮影した映像において、事物の境界線を求めれば、ディスプレイ内の普通映像の事物WIの境界線も求められるために、事物の境界線領域を求めるのは、マークイメージMIを撮影した映像を利用することが望ましい。
それを整理すれば、次の通りである。
(段階1)ディスプレイに出力されたマーク映像MIを撮影する。
(段階2)ディスプレイに出力されたマーク領域MKの明るさを暗く調整した普通映像OIを撮影する。
(段階3)前述の段階1,2で撮影された2映像の差分映像(一次差分、マーク映像から普通映像を取り除いた映像)において、ピクセル値が正数である領域を検出する。
(段階4)段階1で撮影したマーク映像において、事物の境界線領域を求める。
(段階5)段階3で求めた差分ピクセル値が正数である領域から、段階4で求めた事物の境界線領域を除いた残りの領域を求め(二次差分)、その領域を調べてマークを検出する。
段階5において、事物の境界線領域を除く場合、境界線近辺の適当な領域まで除去することが望ましい。その近辺の範囲は、カメラが迅速に動くほど、大きくすることが望ましい。
段階4において、事物の境界線を求める方法は、例えば、キャニーエッジ検出器(Canny edge detector)を使用することができる。しかし、その方法は、臨界値をいかに与えるかということによって、検出される境界線が異なるという問題があり、カメラが動く速度と、検出される境界線の太さとが無関係であるという問題がある。本発明では、キャニーエッジ検出器で検出した境界線映像の代わりに、次のような差分による境界線イメージを使用することが望ましい。
撮影順序を、次の通りである。
Figure 0006138949
現在視覚がtであるならば、以前瞬間(t−2)に撮影したマークイメージ0と、現在瞬間tに撮影したマークイメージ2との差分イメージ(それを、本発明では、差分による境界線イメージという)を境界線映像に使用することが望ましい。そのような境界線映像に、膨脹演算(erosion)を適用し、境界線の領域の太さを増大させて使用することもできる。
その方式を使用すれば、カメラの動きが多ければ、検出される境界線領域も太くなる。すなわち、一次差分映像のピクセル値が正数である領域の太さと、差分による境界線イメージのピクセル値が正数である領域の太さとが互いにほぼ同じになるので、段階5で求めた二次差分イメージがさらにきれいになるという長所がある。もし段階4において、キャニーエッジ検出器で境界線イメージを求め、段階5でそれを使用すれば、キャニーエッジ検出器で求めた境界線の太さは、カメラの動きと無関係に、常時一定であるが、一次差分映像での境界線の太さは、カメラの動きによって変わるので(カメラが迅速に動くほど太くなる)、二次差分映像で境界線が十分にかき消されない。
このように検出されたマークやマウスカーソルアイコンは、ポインティング作業に利用される。すなわち、カメラが撮影した映像から検出したマウスカーソルアイコンがカメラの視線方向に移動するように、ポインティング信号を生成することができる。
ポインティング作業をしばらく中断する場合、カメラを机の上に置き、他のことを行うことができる。その場合、カメラは、ディスプレイではない周辺環境を撮影する。その場合、従来の技術である特許10−0936816号「カメラとマーク出力とによるポインティング装置」の技術でポインティング作業を行うならば、周辺環境に、マウスカーソルアイコンと類似しているパターンがあるならば、それを映像処理プログラムが誤って認識し、誤ったポインティング信号が発生しもする。しかし、本発明による差分方式を使用すれば、一次差分映像において、全てのピクセル値が0であるので、マークが存在しないということが容易に分かり、次の段階に進まない。すなわち、プログラムは、マークが存在しないということが容易に迅速に分かり、それ以上マークを検出するための段階(例えば、二次差分を求める段階)を経ず、CPUを占有しなくなるので、電力消耗を減らすことができる。
また、カメラとディスプレイとの距離が遠ければ撮影されたイメージにおいて、マウスカーソルアイコンが小さくなり、映像処理プログラムは、その形態を分析し難い。しかし、本発明によるポインティング装置は、二次差分イメージのピクセル値が正数である地点だけ検出すればよいので、マークの形態を調べることができないとしても、認識が可能である。すなわち、従来の技術より遠い距離でも、安定してマークを検出することができる。
現在、ホームショッピング・プログラム映像の一部領域で、QRコード(登録商標)を出力して放送している。そのようなQRコードに対して、マークを使用して、普通映像にそのマーク部分を暗く調整した後、マーク映像と普通映像とを交互に迅速に出力し、本実施形態の差分方法で、QRコードを手軽に迅速に検出することができる。
マウスカーソルアイコンの代わりに、ディスプレイの四角形の4頂点にマークを出力し、それを本実施形態の方法で検出し、カメラとディスプレイのとの三次元相対位置と方向とを検出し、増強現実映像を生成することもできる。
実施形態2
本実施形態2は、前記実施形態1の変形例である。前記実施形態1は、黒色空白映像(空白映像は、全てのピクセル値が同一である映像を意味する)に、マーク映像を合成した映像をディスプレイに出力し、その次の瞬間には、普通映像の対応するマーク部分を暗く調整した普通映像をディスプレイに出力した映像をそれぞれ撮影して差分し、マークを検出する方式である。
それに比べて本実施形態2は、フルカラーのマーク(例えば、白色マーク)の第1カラー成分映像(例えば、赤色成分映像)を、普通映像の前記第1カラーの補色カラー(例えば、シアン)成分映像に合成した第1映像を出力し、その次の瞬間に、マークの第1カラーの補色成分映像を、普通映像の第1カラー成分映像に合成した第2映像を出力する方式である。
ここで与えられたカラー映像の第1カラー成分映像(例えば、赤色成分映像)とは、各ピクセルの赤色成分、青色成分、緑色成分のうち、第1カラー成分値(例えば、赤色成分値)を除いた残りの成分値を0に変えた映像を意味する。そのような2映像が同時に画面に出力されれば、ユーザは、マークと普通イメージとをフルカラーで見ることになる。そのように出力した2映像を、前記実施形態1のようにカメラを使用してそれぞれ撮影して得た2つのカラーイメージから、第1カラー成分だけ選択すれば、第1映像を撮影した映像は、マーク部分だけ明るく表示され、その周辺のディスプレイ領域は、暗く表示される。それは、図2のマーク映像MIに対応する。そして、第2映像を撮影し、第1カラー成分映像を生成すれば、マーク部分だけ暗く、その周辺ディスプレイ領域では、明るく表示される。それは、図2の普通映像OIに対応する。そのような2つの第1カラー成分映像に対して、一次差分映像を求めれば(すなわち、第1映像を撮影した映像の第1カラー成分映像から、第2映像を撮影した映像の第1カラー成分映像を差分する)、差分映像において、マーク部分は、差分値が正数になり、その周辺ディスプレイ領域は、負数または0になる。もしカメラが動いた状態であるならば、ディスプレイ外の領域でも、物体の境界線部分において、差分値が正数にもなる。その場合には、前記実施形態1のように、二次差分で事物の境界線領域を求め、その部分だけ一次差分映像から除けば、マーク部分だけ正数になる。従って、一次差分過程、二次差分過程を介して求めた最終差分イメージにおいて、正数であるピクセルの領域を調べれば、マークを容易に検出することができる。
実施形態3
本実施形態3は、前記実施形態1の変形例である。前記実施形態1は、黒色空白映像(空白映像は、全てのピクセル値が同一である映像を意味する)にマーク映像を合成した映像をディスプレイに出力し、その次の瞬間には、普通映像の対応するマーク部分を暗く調整した普通映像を、ディスプレイに出力した映像をそれぞれ撮影して差分し、マークを検出する方式である。それに比べて本実施形態3は、普通映像の対応するマーク部分を暗く調整した普通映像を、ディスプレイに出力する代わりに、黒色空白映像を出力した後、普通映像を出力する方式である(出力順序は、変わってもよい。すなわち、普通映像を出力した後、空白映像を出力してもよい)。すなわち、本実施形態3は、3種の映像(マーク映像、空白映像、普通映像)を交互に迅速に出力し、そのうち、マーク映像と空白映像とを撮影した2映像の差分を計算し、マーク部分を検出する方式である。該方式を使用すれば、実施形態1のように、普通映像に対して、マーク部分を暗く処理する必要がない。従って、マークによって普通映像が隠されるという問題が解決される。すなわち、マーク部分を暗く処理していない本来の普通映像とマーク映像とが迅速に交互に出力されるので、ユーザは、マークがまるで半透明のy9おうに見え、マーク部分にある部分の普通映像を見ることができる。しかし、前記実施形態1の方法は、普通映像のマーク部分を暗く処理することにより、マーク部分の普通映像を見ることができないという問題がある。
実施形態4
本実施形態4は、前記実施形態1の変形例である。前記実施形態1は、黒色空白映像(空白映像は、全てのピクセル値が同一である映像を意味する)にマーク映像を合成した映像をディスプレイに出力し、その次の瞬間には、普通映像の対応するマーク部分を暗く調整した普通映像をディスプレイに出力した映像をそれぞれ撮影して差分し、マークを検出する方式である。それに比べて本実施形態4は、ユーザにマークを見せない構成に係わるものである。例えば、TVホームショッピング放送中に、画面に小さくQRコードが出力される。そのようなQRコードは、本来画面を隠さないように、画面隅に小さく出力されているために、そのQRコードを、QRコード認識アプリが実行されるスマーフォンのカメラで撮影するためには、ユーザは、TV画面に近づかなければならないという不都合がある。もしそのようなマークを画面全体に表示する代わりに、肉眼には見えないが、カメラは撮影することができるならば便利であろう。
本実施形態4は、画面の黒色空白映像に、マークだけ合成した映像(第1映像)、前記第1映像の補色反転映像(第2映像)、及び本来出力する普通映像(第3映像)を順に出力し、第1映像と第2映像とを撮影した2映像の差分映像を求め、ピクセル値が0ではない領域を調べてマークを検出する方式である。カメラが動く場合には、一次差分イメージでマークを検出し難くもなるので、前記実施形態1で説明した二次差分まで求め、マークを検出することが望ましい。
黒色空白映像にマークだけ合成した映像(第1映像)と、前記第1映像の補色反転映像(第2映像)とを迅速に続けて出力すれば、該2映像が重なり、画面全体が灰色に見えるので、マークを見ることができないが、高速カメラで撮影すれば、第1映像と第2映像とをそれぞれ区分して撮影することができ、差分映像も求めることができ、その映像からQRコードを容易に検出することができる。ここで、補色反転映像とは、本来の映像ピクセル値と、補色映像のピクセル値とを加えれば、白色、灰色、または全てのピクセル値が同一である空白になる映像を意味する。例えば、白色は、赤色、緑色、青色がいずれも255であると決定する場合、本来映像のピクセル値が、赤色=125、緑色=100、青色=150であるならば、その補色反転カラー値は、赤色=255−125、緑色=255−100、青色=255−150になる。もしQRコードを、黒色背景に赤色にすれば、その補色反転映像は、白色背景にシアン色のマークになる。
実施形態5
本実施形態5は、前記実施形態4の変形例である。本実施形態5は、前記実施形態4で出力する黒色空白映像に、マークだけ合成した映像(第1映像)、前記第1映像の補色反転映像(第2映像)、及び本来出力する普通映像(第3映像)に付け加え、黒色空白映像(第4映像)をさらに出力し、第1映像と第4映像との差分でマークを求める方式である。このようにすれば、前記実施形態4の場合より、さらに容易にマークを検出することができる。
すなわち、前記実施形態4の場合、カメラが動けば、一次差分映像のマーク映像が乱れるが、本実施形態5の場合には、カメラが動いても、一次差分映像のマークは、はるかにきれいである。
実施形態6
前記実施形態6のマークを、点滅する光源で代替することもできる。例えば、交通信号灯の光源を迅速に点滅させ、その点滅周期に合うようにカメラで信号灯を撮影し、前記実施形態1の差分方法で、信号灯を検出することができる。例えば、信号灯を1秒に60回フリッカするように調整すれば、肉眼には、信号灯が常時点灯されているように見える。信号灯が点灯された瞬間に撮影した映像は、前記実施形態1のマーク映像に該当し、信号灯が消えた状態で撮影した映像は、普通映像に対応する。そのようなマーク映像から普通映像を取り除けば、マーク部分だけ明るく表示される。もしカメラが動いたならば、信号灯周辺の事物の境界線領域も明るく表示される。その場合には、前記実施形態1のように、二次差分で、その事物の境界線領域を求めて除去すれば、信号灯部分だけ明るく表示される。そのような点滅光源を、カメラと映像処理手段とが含まれたロボットまたは無人自動車が認識して自律走行を行うこともできる。
前記実施形態において、1種類の普通映像を出力する代わりに、3Dディスプレイのシャッタメガネのためのステレオ映像(左目に見える映像、及び右目に見える映像)を連続して出力することもできる。そのように、普通映像を出力する代わりに、多種の映像を連続して出力することもできる。最近では、1つのディスプレイに、他チャンネルの映像を交互に出力し、シャッタメガネを着用した2人が、それぞれ異なるチャンネルの映像を同時に見るTVが市場に出回っている。そのような異なる多数のチャンネル映像を、本実施形態の普通映像の代わりに交互に出力することもできる。
[発明の項目]
[項目1]
映像処理装置において、
第1映像と第2映像とを交互に出力するディスプレイと、
前記2映像を撮影するカメラと、
前記カメラで撮影した第1映像と第2映像との差分映像において、ピクセル値が0ではない領域でマークを検出する映像処理手段と
を含み、
前記第1映像は、マークを含む映像であることを特徴とする、差分カメラを利用した映像処理装置。
[項目2]
前記映像処理手段は、前記差分映像のピクセル値が0ではない領域において、事物の境界線領域を除いた領域で、マークを検出することを特徴とする、項目1に記載の差分カメラを利用した映像処理装置。
[項目3]
前記映像処理手段は、以前瞬間に撮影した第1映像と、現在撮影した第1映像との差分映像、または以前瞬間に撮影した第2映像と、現在撮影した第2映像との差分映像から、事物の境界線映像を求めることを特徴とする、項目2に記載の差分カメラを利用した映像処理装置。
[項目4]
前記第1映像は、マーク映像であり、
前記第2映像は、普通映像であることを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目5]
前記普通映像は、マーク領域に対応する領域の明るさを暗く調整した映像であることを特徴とする、項目4に記載の差分カメラを利用した映像処理装置。
[項目6]
前記第1映像は、普通映像の第1カラーの補色カラー成分映像に、マーク映像の第1カラー成分映像を合成した映像であり、
前記第2映像は、普通映像の第1カラー成分映像に、マークの第1カラーの補色カラー成分映像を合成した映像であり、
前記映像処理手段は、前記2映像を撮影した2映像の第1カラー成分映像の差分映像を調べ、そのピクセル値が0ではない領域でマークを検出することを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目7]
前記ディスプレイは、第3映像をさらに出力し、
前記第1映像は、マーク映像であり、
前記第2映像は、空白映像であり、
前記第3映像は、普通映像であることを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目8]
前記ディスプレイは、第3映像をさらに出力し、
前記第1映像は、マーク映像であり、
前記第2映像は、前記マーク映像の補色反転映像であり、
前記第3映像は、普通映像であることを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目9]
前記ディスプレイは、第3映像と第4映像とをさらに出力し、
前記第1映像は、マーク映像であり、
前記第2映像は、空白映像であり、
前記第3映像は、普通映像であり、
前記第4映像は、前記マーク映像の補色反転映像であることを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目10]
前記第1映像は、点灯された光源映像であり、
前記第2映像は、消えた光源映像であることを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目11]
前記マークは、マウスカーソルアイコンであり、
前記映像処理手段は、2映像の差分イメージを調べ、そのピクセル値が0ではない領域でマウスカーソルアイコンを検出し、ポインティング信号を出力することを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目12]
前記マークは、増強現実用マーク、あるいは情報出力用の文字またはマークであり、
前記映像処理手段は、2映像の差分イメージを調べ、そのピクセル値が0ではない領域でマークを検出し、カメラとマークとの三次元相対位置と方向とを検出し、増強現実映像を出力することを特徴とする、項目1〜3のいずれか1項に記載の差分カメラを利用した映像処理装置。
[項目13]
(段階1)マークを含む第1映像を撮影する段階と、
(段階2)第2映像を撮影する段階と、
(段階3)前記段階1及び前記段階2で撮影された2映像の差分映像において、ピクセル値が0ではない領域を検出する段階と、
(段階4)マーク映像または普通映像において、事物の境界線領域を求める段階と、
(段階5)前記段階3で求めた差分ピクセル値が0ではない領域から、前記段階4で求めた事物の境界線領域を除いた残りの領域を求め、その領域を調べてマークを検出する段階と
を含むことを特徴とする、差分カメラを利用した映像処理方法。
[項目14]
(段階1)マークを含む第1映像を撮影する段階と、
(段階2)第2映像を撮影する段階と、
(段階3)前記段階1及び前記段階2で撮影された2映像の差分映像において、ピクセル値が0ではない領域を検出する段階と、
(段階4)マーク映像または普通映像において、事物の境界線領域を求める段階と、
(段階5)前記段階3で求めた差分ピクセル値が0ではない領域から、前記段階4で求めた事物の境界線領域を除いた残りの領域を求め、その領域を調べてマークを検出する段階と
を含むことを特徴とする、差分カメラを利用した映像処理方法を実行するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。

Claims (11)

  1. 映像処理装置において、
    第1映像と第2映像とを交互に出力するディスプレイと、
    前記2映像を撮影するカメラと、
    前記カメラで撮影した第1映像と第2映像との差分映像において、ピクセル値が0ではない領域のうち、事物の境界線領域を除いた領域でマークを検出する映像処理手段と
    を含み、
    前記第1映像は、マークを含む映像であり、
    前記映像処理手段は、以前瞬間に撮影した第1映像と、現在撮影した第1映像との差分映像、または以前瞬間に撮影した第2映像と、現在撮影した第2映像との差分映像から、前記事物の境界線領域を判断することを特徴とする、差分カメラを利用した映像処理装置。
  2. 前記第1映像は、マーク映像であり、
    前記第2映像は、普通映像であることを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  3. 前記普通映像は、マーク領域に対応する領域の明るさを暗く調整した映像であることを特徴とする、請求項に記載の差分カメラを利用した映像処理装置。
  4. 前記第1映像は、普通映像の第1カラーの補色カラー成分映像に、マーク映像の第1カラー成分映像を合成した映像であり、
    前記第2映像は、普通映像の第1カラー成分映像に、マークの第1カラーの補色カラー成分映像を合成した映像であり、
    前記映像処理手段は、前記2映像を撮影した2映像の第1カラー成分映像の差分映像を調べ、そのピクセル値が0ではない領域でマークを検出することを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  5. 前記ディスプレイは、第3映像をさらに出力し、
    前記第1映像は、マーク映像であり、
    前記第2映像は、空白映像であり、
    前記第3映像は、普通映像であることを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  6. 前記ディスプレイは、第3映像をさらに出力し、
    前記第1映像は、マーク映像であり、
    前記第2映像は、前記マーク映像の補色反転映像であり、
    前記第3映像は、普通映像であることを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  7. 前記ディスプレイは、第3映像と第4映像とをさらに出力し、
    前記第1映像は、マーク映像であり、
    前記第2映像は、空白映像であり、
    前記第3映像は、普通映像であり、
    前記第4映像は、前記マーク映像の補色反転映像であることを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  8. 前記第1映像は、点滅する光源で点灯された光源を撮影した映像に該当し、
    前記第2映像は、点滅する光源で消えた光源を撮影した映像に該当し、
    前記マークは、前記第1映像で点灯された光源に該当し、
    前記第1映像と前記第2映像との差分映像から前記点灯された光源が検出されることを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  9. 前記マークは、マウスカーソルアイコンであり、
    前記映像処理手段は、2映像の差分イメージを調べ、そのピクセル値が0ではない領域でマウスカーソルアイコンを検出し、ポインティング信号を出力することを特徴とする、請求項1に記載の差分カメラを利用した映像処理装置。
  10. (段階1)マークを含む第1映像を撮影する段階と、
    (段階2)第2映像を撮影する段階と、
    (段階3)前記段階1及び前記段階2で撮影された2映像の差分映像において、ピクセル値が0ではない領域を検出する段階と、
    (段階4)マーク映像または普通映像において、事物の境界線領域を求める段階と、
    (段階5)前記段階3で求めた差分ピクセル値が0ではない領域から、前記段階4で求めた前記事物の境界線領域を除いた残りの領域を求め、その領域を調べてマークを検出する段階と
    を含み、
    前記段階4は、以前瞬間に撮影した第1映像と、現在撮影した第1映像との差分映像、または以前瞬間に撮影した第2映像と、現在撮影した第2映像との差分映像から、前記事物の境界線領域を判断する段階を含むことを特徴とする、差分カメラを利用した映像処理方法。
  11. (段階1)マークを含む第1映像を撮影する段階と、
    (段階2)第2映像を撮影する段階と、
    (段階3)前記段階1及び前記段階2で撮影された2映像の差分映像において、ピクセル値が0ではない領域を検出する段階と、
    (段階4)マーク映像または普通映像において、事物の境界線領域を求める段階と、
    (段階5)前記段階3で求めた差分ピクセル値が0ではない領域から、前記段階4で求めた前記事物の境界線領域を除いた残りの領域を求め、その領域を調べてマークを検出する段階と
    を含み、
    前記段階4は、以前瞬間に撮影した第1映像と、現在撮影した第1映像との差分映像、または以前瞬間に撮影した第2映像と、現在撮影した第2映像との差分映像から、前記事物の境界線領域を判断する段階を含むことを特徴とする、差分カメラを利用した映像処理方法を実行するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。
JP2015535576A 2012-10-22 2013-10-19 差分カメラを利用した映像処理装置 Expired - Fee Related JP6138949B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2012-0117563 2012-10-22
KR20120117563 2012-10-22
KR10-2012-0148983 2012-12-18
KR20120148983 2012-12-18
PCT/KR2013/009365 WO2014065544A1 (ko) 2012-10-22 2013-10-19 차분 카메라를 이용한 영상처리 장치

Publications (2)

Publication Number Publication Date
JP2015537417A JP2015537417A (ja) 2015-12-24
JP6138949B2 true JP6138949B2 (ja) 2017-05-31

Family

ID=50544874

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015535576A Expired - Fee Related JP6138949B2 (ja) 2012-10-22 2013-10-19 差分カメラを利用した映像処理装置

Country Status (5)

Country Link
US (1) US9727973B2 (ja)
JP (1) JP6138949B2 (ja)
KR (1) KR101516487B1 (ja)
CN (1) CN104813341B (ja)
WO (1) WO2014065544A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2013273722A1 (en) * 2013-12-19 2015-07-09 Canon Kabushiki Kaisha Method, system and apparatus for removing a marker projected in a scene
US9022291B1 (en) * 2014-07-24 2015-05-05 Apple Inc. Invisible optical label for transmitting information between computing devices
WO2016014252A1 (en) * 2014-07-24 2016-01-28 Apple Inc. Invisible optical label for transmitting information between computing devices
CN106384107A (zh) * 2016-08-23 2017-02-08 广东小天才科技有限公司 光标位置识别方法及装置
US10848647B1 (en) 2019-07-17 2020-11-24 Brendan Bellomo Composite environment filmmaking devices, systems, products and methods

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06118927A (ja) * 1992-09-30 1994-04-28 Toshiba Corp 視覚情報秘匿装置
JPH07121293A (ja) * 1993-10-26 1995-05-12 Nippon Telegr & Teleph Corp <Ntt> 表示画面をアクセスするリモートコントローラ
JP4020982B2 (ja) * 1995-03-10 2007-12-12 松下電器産業株式会社 動画像処理装置
JP3450704B2 (ja) * 1997-09-01 2003-09-29 キヤノン株式会社 位置姿勢検出装置及び情報処理方法
US20010010514A1 (en) 1999-09-07 2001-08-02 Yukinobu Ishino Position detector and attitude detector
JP2001249008A (ja) * 2000-03-06 2001-09-14 Nikon Corp 監視装置
JP2001325069A (ja) * 2000-03-07 2001-11-22 Nikon Gijutsu Kobo:Kk 位置検出装置およびその方法
JP3620397B2 (ja) * 2000-03-28 2005-02-16 セイコーエプソン株式会社 指示位置検出システム、プレゼンテーションシステムおよび情報記憶媒体
US6542087B2 (en) * 2001-01-31 2003-04-01 Hewlett-Packard Company System and method for extracting a point of interest of an object in front of a computer controllable display captured by an imaging device
JP3961344B2 (ja) * 2002-05-31 2007-08-22 株式会社東芝 画像処理システム、画像処理方法、画像処理プログラム
KR100810310B1 (ko) * 2003-08-29 2008-03-07 삼성전자주식회사 조도차가 다른 영상의 재구성 장치 및 방법
JP2005136519A (ja) * 2003-10-28 2005-05-26 Sanyo Electric Co Ltd 遠隔操作システム
JP4715653B2 (ja) * 2006-06-30 2011-07-06 カシオ計算機株式会社 レーザポインタ位置判定システムおよびレーザポインタ位置判定方法
KR100860331B1 (ko) * 2006-10-25 2008-09-25 엠텍비젼 주식회사 포인터 이동 제어 장치를 포함하는 전자기기
KR100936816B1 (ko) * 2007-05-26 2010-01-14 이문기 카메라와 마크 출력에의한 포인팅 장치
JP4609552B2 (ja) 2008-08-22 2011-01-12 オムロン株式会社 光伝送用並列直列変換器、光伝送システム、及び電子機器
KR20100026240A (ko) * 2008-08-29 2010-03-10 김상국 증강현실을 이용한 쓰리디 헤어스타일 시뮬레이션 방법 및 장치
JP2011164246A (ja) * 2010-02-08 2011-08-25 Seiko Epson Corp 投写位置ずれ量検出装置、投写位置ずれ量検出方法及びプロジェクションシステム
KR101171660B1 (ko) * 2010-03-01 2012-08-09 이문기 증강현실의 포인팅 장치
US8217997B2 (en) 2010-03-16 2012-07-10 Interphase Corporation Interactive display system
JP2010282661A (ja) * 2010-09-14 2010-12-16 Shinsedai Kk 指示位置検出プログラム及び指示位置検出装置
JP2012195887A (ja) * 2011-03-17 2012-10-11 Toshiba Corp 道路撮影システム

Also Published As

Publication number Publication date
CN104813341A (zh) 2015-07-29
US20150294478A1 (en) 2015-10-15
KR101516487B1 (ko) 2015-05-04
WO2014065544A1 (ko) 2014-05-01
KR20140051082A (ko) 2014-04-30
JP2015537417A (ja) 2015-12-24
US9727973B2 (en) 2017-08-08
CN104813341B (zh) 2018-04-03

Similar Documents

Publication Publication Date Title
KR101770110B1 (ko) 반투명 마크, 반투명 마크 합성 및 검출 방법, 투명 마크 그리고 투명 마크 합성 및 검출 방법
JP6138949B2 (ja) 差分カメラを利用した映像処理装置
CN106469443B (zh) 机器视觉特征跟踪***
US9767612B2 (en) Method, system and apparatus for removing a marker projected in a scene
US9390511B2 (en) Temporally coherent segmentation of RGBt volumes with aid of noisy or incomplete auxiliary data
EP3281400A1 (en) Automated generation of panning shots
JP2012118698A (ja) 画像処理装置
JP5464279B2 (ja) 画像処理装置、そのプログラム、および画像処理方法
WO2022179251A1 (zh) 图像处理方法及装置、电子设备、存储介质
KR20160047196A (ko) 고 조도 환경 및 저 조도 환경에서 동작 가능한 시점 추적 장치 및 그 방법
JP2019125269A (ja) 前景背景分離に好適な方法および装置
Xu et al. A method of hole-filling for the depth map generated by Kinect with moving objects detection
KR101617068B1 (ko) 편광 차분 카메라를 이용한 영상처리 시스템
CN105100583B (zh) 影像编辑方法与电子装置
JP2019160299A5 (ja)
JP2019047336A5 (ja)
CN108076365B (zh) 人体姿势识别装置
CN112767446A (zh) 一种提高红外图像跟踪的目标跟踪准确率的图像跟踪***
CN115668274A (zh) 计算机软件模块装置、电路装置、用于改进图像处理的装置和方法
Wan et al. Stereo vision tracking system
TW201340706A (zh) 產生全景影像的方法及其影像擷取裝置
KR101228939B1 (ko) 거리 측정 장치
JP2009048558A (ja) 画像処理式物体検出装置
Ehmann et al. Temporally coherent 4D video segmentation for teleconferencing
JP2014216783A (ja) 画像処理装置、方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170426

R150 Certificate of patent or registration of utility model

Ref document number: 6138949

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees