JP2019009520A - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP2019009520A JP2019009520A JP2017121162A JP2017121162A JP2019009520A JP 2019009520 A JP2019009520 A JP 2019009520A JP 2017121162 A JP2017121162 A JP 2017121162A JP 2017121162 A JP2017121162 A JP 2017121162A JP 2019009520 A JP2019009520 A JP 2019009520A
- Authority
- JP
- Japan
- Prior art keywords
- movement
- cutout part
- control unit
- information processing
- fisheye image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 32
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000003384 imaging method Methods 0.000 claims description 113
- 238000009434 installation Methods 0.000 claims description 34
- 238000000034 method Methods 0.000 description 28
- 230000014509 gene expression Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000008569 process Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 230000004044 response Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/073—Transforming surfaces of revolution to planar images, e.g. cylindrical surfaces to planar images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
- H04N23/662—Transmitting camera control signals through networks, e.g. control via the Internet by using master/slave camera arrangements for affecting the control of camera image capture, e.g. placing the camera in a desirable condition to capture a desired image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- User Interface Of Digital Computer (AREA)
- Geometry (AREA)
- Time Recorders, Dirve Recorders, Access Control (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
例えば、特許文献1には全方位カメラが撮影した空間画像から観察者が望む方向の部分画像やその拡大画像を閲覧可能にするための、直感的で操作性の良い画像表示方法及び装置が開示されている。
魚眼画像の中心付近にある切り出し部分10002は、移動前において、主に人物の下半身を含んでいたが、移動後においては、その人物の顔を主に含むようになっている。対して、魚眼画像の中心から離れた切り出し部分10001は、移動前において、上部分の一部に人物の下半身を含んでいたが、移動後においては、下部分にその人物の顔の一部を含み、中心近傍から上部分は、その人物の背後にいる人物を含むようになっている。即ち、切り出し部分10001の変化の方が、切り出し部分10002の変化よりも大きい。このように、魚眼画像のどこにあっても、魚眼画像上での方向指定の移動量が一定だと、魚眼画像の中心付近にある切出し部分10002に比べて、周辺にある画像切出し部分10001では遠方の比較的小さく見える物体を映している。そのため、移動量が大きく微調整が難しい。
そこで、魚眼画像における切り出し部分のより適切な移動量を決定したいという要望があった。
図2(a)は、撮像装置1000の一例の概要を示す図である。撮像装置1000は、は、全方位ミラー、全周魚眼レンズ等を有し、魚眼画像を撮影する、監視カメラ、ネットワークカメラ等の撮像装置である。撮像装置1000は、情報処理装置の一例である。なお、全周魚眼レンズを用いることは一例であり、各実施形態は、視認可能な程度の歪みが発生するレンズを用いて撮像を行う技術に対して適用可能である。各実施形態において、魚眼画像とは、視認可能な程度の歪みが発生するレンズを用いて撮像された画像のことを含むものとする。
筐体1101は、撮像装置1000の筐体であり、全方位ミラー、全周魚眼レンズ等を含む。撮像装置1000は、全周囲の景観を撮影し、360度の円環状、円形状等の形状の魚眼画像を撮影する。撮像装置1000の設置方法には、天井設置、机設置、壁付設置等の方法がある。全方位カメラである撮像装置1000には、設置に係るモードがある。撮像装置1000には、天井や机に設置し、室内等を広範囲に監視することを目的とした天井設置・机設置モード、壁等に設置して、見通しのよい場所を監視することを目的とした壁付モード等がある。また、撮像装置1000には、設置条件に限定されない、汎用モードもある。
図2(b)は、本実施形態の情報処理システムのシステム構成の一例を示す図である。情報処理システムは、撮像装置1000、クライアント装置2000を含む。撮像装置1000、クライアント装置2000は、ネットワーク3000を介して、相互に通信可能に接続されている。クライアント装置2000は、撮像装置1000に対して、ホワイトバランス調整等の各種コマンドを送信するパーソナルコンピュータ(PC)、サーバ装置、タブレット装置等の情報処理装置である。撮像装置1000は、クライアント装置2000から受信したコマンドに対するレスポンスをクライアント装置2000に送信する。
CPU301は、撮像装置1000を制御する中央演算装置である。主記憶装置302は、CPU301のワークエリア、データの一時的な記憶場所等として機能するRandom Access Memory(RAM)等の記憶装置である。補助記憶装置303は、各種プログラム、各種設定情報、撮影された魚眼画像、各種コマンドの情報等を記憶する記憶装置である。補助記憶装置303は、例えば、Read Only Memory(ROM)、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)等の記憶媒体である。
CPU301が、補助記憶装置303等に記憶されたプログラムに基づき処理を実行することで、図4で後述する撮像装置1000の機能、及び、図6、12、13、14で後述するフローチャートの処理等が実現される。
CPU311は、クライアント装置2000を制御する中央演算装置である。主記憶装置312は、CPU311のワークエリア、データの一時的な記憶場所等として機能するRAM等の記憶装置である。補助記憶装置313は、撮像装置1000を制御するための制御アプリケーション等の各種プログラム、各種設定情報、撮影された魚眼画像、各種コマンドの情報等を記憶する記憶装置である。補助記憶装置313は、例えば、ROM、HDD、SSD等の記憶媒体である。
CPU311が、補助記憶装置313等に記憶されたプログラムに基づき処理を実行することで、図4で後述するクライアント装置2000の機能、及び、クライアント装置2000の処理等が実現される。
撮像部1001は、光学系304を介して、光学系304の撮像素子に入射した光が変換された電気信号を取得する。画像処理部1002は、撮像部1001により取得された光電変換された信号に対して、予め定められた画像処理、圧縮符号化処理等を行い、画像データを生成する。
画像処理部1002は、撮像装置1000に含まれる専用のプロセッサを介して、画像処理等をおこなってもよいし、CPU301を介して、画像処理等をおこなってもよい。
システム制御部1003は、クライアント装置2000等から受信したカメラ制御コマンドを解析し、コマンドに応じた処理を行う。システム制御部1003は、例えば、画像処理部1002に対して画質調整の指示や、レンズ制御部1005に対してズームやフォーカス制御の指示を行う。
レンズ制御部1005は、システム制御部1003から伝達された指示に基づいて、駆動制御部1004へモータ制御の指示を行う。
映像管理部1006は、補助記憶装置303に対して、撮影された魚眼画像等の画像を記憶し、管理する。
通信制御部1007は、撮像装置1000が撮影した魚眼画像等の画像データをクライアント装置2000に送信する。また、通信制御部1007は、クライアント装置2000から送信されたカメラ制御コマンド等のコマンドを受信し、システム制御部1003へ伝達する。また、通信制御部1007は、コマンドに対するレスポンスをクライアント装置2000へ送信する。
クライアント装置2000は、表示制御部2001、入力制御部2002、システム制御部2003、通信制御部2004を含む。
表示制御部2001は、出力I/F315に接続されている出力装置に対して、撮像装置1000から受信した画像や、カメラ制御を行うためのグラフィックユーザーインターフェース(以下では、GUIとする)を出力する。本実施形態では、表示制御部2001は、出力I/F315に接続されている出力装置である液晶表示装置に対して、撮像装置1000から受信した画像や、カメラ制御を行うためのGUIを表示することで、出力する。
システム制御部2003は、ユーザのGUI操作に応じてカメラ制御コマンドを生成し、通信制御部2004を介して撮像装置1000へ送信する。また、システム制御部2003は、通信制御部2004を介して、撮像装置1000から受信した画像データの表示指示を表示制御部2001に行う。
このように、クライアント装置2000は、ネットワーク3000を介して、撮像装置1000からの撮影画像の取得や撮像装置1000に対する各種のカメラ制御を行うことができる。
魚眼画像表示領域4001は、撮像装置1000により撮影された魚眼画像が表示される領域である。切り出し部分指定枠4002は、魚眼画像表示領域4001に表示された魚眼画像における切り出し部分を示す枠である。切り出し部分とは、魚眼画像から切り出された部分である。本実施形態では、撮像装置1000のシステム制御部1003は、主記憶装置302等に、切り出し部分がどこに存在するかを示す情報を記憶し、管理する。切り出し画像表示領域4003は、切り出し部分指定枠4002で指定された領域を、魚眼画像から切り出してデワープした画像が表示される領域である。コントロールボタン4004は、切り出し部分指定枠4002に対しての移動の指示に利用されるボタンである。
システム制御部2003は、魚眼画像表示領域4001に、撮像装置1000から受信した撮像装置1000により撮影された魚眼画像を表示させる。また、システム制御部2003は、撮像装置1000から切り出し部分がどこであるかを示す情報を受信し、受信した情報が示す位置に、切り出し部分指定枠4002を表示する。また、システム制御部2003は、魚眼画像から切り出されデワープされた切り出し部分指定枠4002が示す領域の画像を画像表示領域4003に表示させる。システム制御部2003は、コントロールボタン4004への操作にもとづいて、切り出し部分の移動指示を撮像装置1000に行い、切り出し部分指定枠4002を移動させる。
図5を用いて、本実施形態のクライアント装置2000における制御アプリケーションの機能について説明する。
システム制御部2003は、GUI4000において、コントロールボタン4004が選択を検知すると、切り出し部分指定枠4002を押下された十字キーの方向に移動させるコマンドを発行する。そして、システム制御部2003は、発行したコマンドを、通信制御部2004を介して、撮像装置1000に送信する。
システム制御部2003は、撮像装置1000から、切り出し部分指定枠4002の位置を切り出し、デワープした画像を、通信制御部2004を介して受信する。そして、システム制御部2003は、切り出し画像表示領域4003に、受信した切り出しのデワープ画像を表示することとなる。
S11000において、システム制御部1003は、例えば、クライアント装置2000から、コントロールボタン4004が選択されたことを示す情報を受信し、受信した情報に応じて、切り出し部分を移動させる。そして、システム制御部1003は、撮像装置1000が撮影した魚眼画像上で切り出し部分の位置を特定する。
S11001において、システム制御部1003は、撮像装置1000が撮影した魚眼画像から、S11000で特定した切り出し部分の位置の領域に対して画像切出しを行う。
S11002において、システム制御部1003は、S11001で切り出された画像を幾何変換し、矩形画像に補正する。そして、システム制御部1003は、例えば、移動後の切り出し部分の位置の情報、矩形画像に補正した画像を、クライアント装置2000に送信する。システム制御部2003は、撮像装置1000から受信した移動後の切り出し部分の位置の情報が示す位置に、切り出し部分指定枠4002を表示させることで、切り出し部分指定枠4002を移動させる。また、システム制御部2003は、撮像装置1000から受信した矩形画像に補正された画像を、切り出し画像表示領域4003に表示させる。
図7には、撮像装置1000により撮影された魚眼画像5000が示される。点5001は、魚眼画像5000の中心点である。点線5002は、上下方向の移動により切り出し部分の中心点が遷移する位置を魚眼画像の中心点を中心とする円状に沿って結んだ線を示す。切り出し部分の中心点とは、切り出し部分に対応する魚眼画像の領域がデワープされた矩形の画像における中心点に対応する点である。本実施形態では、システム制御部1003は、切り出し部分の位置として、切り出し部分の中心の座標に基づいて、切り出し部分の移動量を決定する。矢印5003は、一度の上下方向の移動(例えば、コントロールボタン4004の下ボタン又は上ボタンを1回選択した場合の移動)により切り出し部分が移動する移動量を示す。
撮像装置1000が汎用モードである場合、システム制御部1003は、図7に示されるように、切り出し部分の1回の移動で移動する移動量を、切り出し部分の位置によらず、一定とする。
図8には、撮像装置1000により撮影された魚眼画像6000が示される。点6001は、魚眼画像6000の中心点である。点線6002は、上下方向の移動により切り出し部分の中心点が遷移する位置を魚眼画像の中心点を中心とする円状に沿って結んだ線を示す。矢印6003は、一度の上下方向の移動により切り出し部分が移動する移動量を示す。図8の例では、点6001から離れるほど、1回の移動量が小さくなっている(矢印6003の幅が小さくなっている)ことが示される。
撮像装置1000が天井設置・机設置モードである場合、システム制御部1003は、図8に示されるように、切り出し部分の位置が、点6001から離れる程、1回の移動量を小さくするようにする。撮像装置1000が天井、机に設置される場合、撮像装置1000が撮影する魚眼画像の円周付近には、中心付近に比べて、遠方の比較的小さく映るものが被写体として含まれる場合がある。そのため、撮像装置1000が天井設置・机設置モードの場合、システム制御部1003は、撮像装置1000が撮影する魚眼画像の円周付近の移動量を小さくすることで、円周付近に存在する切り出し部分の位置をより精度よく調整できるようになる。
システム制御部1003は、例えば、以下の式1を用いて、魚眼映像内での切り出し部分の1回の移動における移動量を決定する。
移動量=基本移動量[ピクセル数/1回の移動指示]*座標の重みづけ係数 (式1)
式1の基本移動量は、撮像装置1000が汎用モードである場合に、1回の移動指示で切り出し部分が移動する移動量であり、予め値が定められている。補助記憶装置303は、予め基本移動量の情報を記憶している。また、式1の座標の重みづけ係数は、魚眼画像の座標毎に決定されたパラメータであり、座標と魚眼画像の中心座標との距離に基づいて決定される。例えば、座標の重みづけ係数は、座標と魚眼画像の中心座標と、魚眼画像の半径との関係に基づいて、決定される。
座標の重みづけ係数=
魚眼画像の半径[ピクセル数]/((k−1)*魚眼画像の中心座標との距離[ピクセル数]+魚眼画像の半径[ピクセル数]) (式2)
式2のkは、魚眼画像の円周上に存在する切り出し部分の移動量が、魚眼画像の中心に存在する切り出し部分の移動量と比べて、1/kとなることを示す定数である。補助記憶装置303は、予めkの情報を記憶している。システム制御部1003は、また、次のような式3を用いて、座標の重みづけ係数を決定してもよい。
座標の重みづけ係数=
((魚眼画像の半径[ピクセル数]*k)−魚眼中心座標との距離[ピクセル数])/(魚眼画像の半径[ピクセル数]*k) (式3)
図9の例では、システム制御部1003は、座標6004、座標6005に切り出し部分の中心座標が存在する場合の切り出し部分の移動量を以下のように決定する。図9の例では、k=2、基本移動量[ピクセル数/1回の移動指定]=100、魚眼画像の半径=1000ピクセルとする。
中心座標での移動量=100*(1000/((2−1)*0+1000))=100
即ち、システム制御部1003は、切り出し部分の中心が魚眼画像の中心に存在する場合、1回の移動に応じて、切り出し部分を、100ピクセルだけ移動させることとなる。
また、システム制御部1003は、式1、式2を用いて、切り出し部分の中心が魚眼画像の円周に存在する場合の1回の移動における切り出し部分の移動量を、例えば、次のように計算して決定する。
円周座標上での移動量=100*(1000/((2−1)*1000+1000))=50
即ち、システム制御部1003は、切り出し部分の中心が魚眼画像の円周に存在する場合、1回の移動に応じて、切り出し部分を、50ピクセルだけ移動させることとなる。
また、システム制御部1003は、式1、式2を用いて、切り出し部分の中心が座標6004に存在する場合の1回の移動における切り出し部分の移動量を、例えば、次のように計算して決定する。
座標6004での移動量=100*(1000/((2−1)*300+1000))≒77
即ち、システム制御部1003は、切り出し部分の中心が座標6004に存在する場合、1回の移動に応じて、切り出し部分を、77ピクセルだけ移動させることとなる。
座標6005での移動量=100*(1000/((2−1)*800+1000))≒56
即ち、システム制御部1003は、切り出し部分の中心が座標6005に存在する場合、1回の移動に応じて、切り出し部分を、56ピクセルだけ移動させることとなる。
システム制御部1003は、式1、式2を用いて、切り出し部分の位置が魚眼画像の中心から離れる程、小さくなるように、切り出し部分の移動量を決定した。しかし、システム制御部1003は、式1、式2以外の式を用いて、切り出し部分の位置が魚眼画像の中心から離れる程、小さくなるように、切り出し部分の移動量を決定してもよい。システム制御部1003は、例えば、移動量=(予め定められた定数)/(魚眼画像の中心座標との距離)2の式を用いて、切り出し部分の移動量を決定してもよい。
図10には、撮像装置1000により撮影された魚眼画像7000が示される。点7001は、魚眼画像7000の中心点である。点線7002は、上下方向の移動により切り出し部分の中心点が遷移する位置を魚眼画像の中心点を中心とする円状に沿って結んだ線を示す。矢印7003は、一度の上下方向の移動により切り出し部分が移動する移動量を示す。図10の例では、点7001から離れるほど、1回の移動量が大きくなっている(矢印7003の幅が大きくなっている)ことが示される。
撮像装置1000が壁付設置モードである場合、システム制御部1003は、図10に示されるように、切り出し部分の位置が、点7001から離れる程、1回の移動量を大きくするようにする。撮像装置1000が壁付設置される場合、撮像装置1000が撮影する魚眼画像の中心付近は、円周付近に比べて、遠方の比較的小さく映るものが被写体となる場合がある。そのため、撮像装置1000が壁付設置モードの場合、システム制御部1003は、撮像装置1000が撮影する魚眼画像の中心付近の移動量を小さくすることで、中心付近に存在する切り出し部分の位置をより精度よく調整できるようになる。
システム制御部1003は、例えば、式1を用いて、魚眼映像内での切り出し部分の1回の移動における移動量を決定する。しかし、システム制御部1003は、座標の重みづけ係数の値として、図9で説明した場合と異なる値を利用する。この場合の座標の重みづけ係数についても、魚眼画像の座標毎に決定されたパラメータであり、座標と魚眼画像の中心座標との距離に基づいて決定される。例えば、座標の重みづけ係数は、座標と魚眼画像の中心座標と、魚眼画像の半径との関係に基づいて、決定される。
座標の重みづけ係数=
魚眼画像の半径[ピクセル数]/((1−k)*魚眼画像の中心座標との距離[ピクセル数]+k*魚眼画像の半径[ピクセル数]) (式4)
システム制御部1003は、また、次のような式5を用いて、座標の重みづけ係数を決定してもよい。
座標の重みづけ係数=
(魚眼画像の半径[ピクセル数]+魚眼中心座標との距離[ピクセル数])/(魚眼画像の半径[ピクセル数]*k) (式5)
システム制御部1003は、式1、式4を用いて、切り出し部分の中心が魚眼画像の円周に存在する場合の1回の移動における切り出し部分の移動量を、例えば、次のように計算して決定する。
円周座標での移動量=100*(1000/((1−2)*1000+2*1000)=100
即ち、システム制御部1003は、切り出し部分の中心が魚眼画像の円周に存在する場合、1回の移動に応じて、切り出し部分を、100ピクセルだけ移動させることとなる。
中心座標上での移動量=100*(1000/((1−2)*0+2*1000)=50
即ち、システム制御部1003は、切り出し部分の中心が魚眼画像の中心に存在する場合、1回の移動に応じて、切り出し部分を、50ピクセルだけ移動させることとなる。
また、システム制御部1003は、式1、式4を用いて、切り出し部分の中心が座標7004に存在する場合の1回の移動における切り出し部分の移動量を、例えば、次のように計算して決定する。
座標7004での移動量=100*(1000/((1−2)*100+2*1000)≒53
即ち、システム制御部1003は、切り出し部分の中心が座標7004に存在する場合、1回の移動に応じて、切り出し部分を、53ピクセルだけ移動させることとなる。
座標6005での移動量=100*(1000/((1−2)*400+2*1000)≒63
即ち、システム制御部1003は、切り出し部分の中心が座標7005に存在する場合、1回の移動に応じて、切り出し部分を、63ピクセルだけ移動させることとなる。
システム制御部1003は、式1、式4を用いて、切り出し部分の位置が魚眼画像の中心から離れる程、大きくなるように、切り出し部分の移動量を決定した。しかし、システム制御部1003は、式1、式4以外の式を用いて、切り出し部分の位置が魚眼画像の中心から離れる程、大きくなるように、切り出し部分の移動量を決定してもよい。システム制御部1003は、例えば、移動量=(予め定められた定数)/(魚眼画像の半径−魚眼画像の中心座標との距離)2の式を用いて、切り出し部分の移動量を決定してもよい。
S8000において、システム制御部1003は、撮像装置1000の設置条件や操作内容に基づいて、撮像装置1000のモードを決定する。
S8100において、システム制御部1003は、主記憶装置302に記憶されている切り出し部分の情報に基づいて、切り出し部分の中心座標が、撮像装置1000により撮影された魚眼画像のどの座標に存在するかを特定する。
S8200において、システム制御部1003は、例えば、クライアント装置2000から、GUI4000のコントロールボタン4004への操作に基づく、切り出し部分の移動指示を受付ける。そして、システム制御部1003は、受付けた移動指示が示す移動方向を特定する。
S8300において、システム制御部1003は、S8000で決定したモードと、S8100で特定した切り出し部分の中心の座標と、に基づいて、切り出し部分の移動量を決定する。システム制御部1003は、例えば、図9、図11等で説明した方法で、切り出し部分の移動量を決定する。そして、システム制御部1003は、S8200で特定した方向に、切り出し部分を決定した移動量だけ移動させ、移動後の切り出し部分の位置の情報を主記憶装置302に記憶する。
S8001において、システム制御部1003は、クライアント装置2000においてコントロールボタン4004へユーザにより行われた操作が、予め定められた操作(例えば、ボタン長押しや連打等の連続操作等の操作)であるか否かを判定する。システム制御部1003は、クライアント装置2000においてコントロールボタン4004へユーザにより行われた操作が、予め定められた操作であると判定した場合、S8002の処理に進む。また、システム制御部1003は、クライアント装置2000においてコントロールボタン4004へユーザにより行われた操作が、予め定められた操作でないと判定した場合、S8003の処理に進む。システム制御部1003は、コントロールボタン4004への操作後、予め定められた期間(例えば、3秒間等)は、コントロールボタン4004へユーザにより行われた操作を、予め定められた操作ではないと判定してもよい。
S8002において、システム制御部1003は、撮像装置1000のモードを、図2(a)、図7等で説明した汎用モードと決定する。
S8004において、システム制御部1003は、S8003で確認した撮像装置1000の設置状況が、壁付設置であるか否かを判定する。システム制御部1003は、S8003で確認した撮像装置1000の設置状況が、壁付設置であると判定した場合、S8005の処理に進む。システム制御部1003は、S8003で確認した撮像装置1000の設置状況が、壁付設置でないと判定した場合、S8006の処理に進む。
S8005において、システム制御部1003は、撮像装置1000のモードを、図10、11等で説明した壁付設置モードと決定する。
S8006において、システム制御部1003は、撮像装置1000のモードを、図8、9等で説明した天井設置・机設置モードと決定する。
また、撮像装置1000は、撮像装置1000の設置状況を示すモードに応じて、切り出し部分の移動量を決定した。これにより、撮像装置1000は、撮像装置1000の設置状況に応じて、適切な切り出し部分の移動量を決定できる。
実施形態1では、撮像装置1000は、魚眼画像に置ける切り出し部分の位置に基づいて、切り出し部分の1回の移動に係る移動量を決定した。本実施形態では、撮像装置1000は、魚眼画像に置ける切り出し部分の位置に加え、切り出し部分の画角に基づいて、切り出し部分の1回の移動に係る移動量を決定する。
本実施形態の情報処理システムのシステム構成は、実施形態1と同様である。また、本実施形態の撮像装置1000のハードウェア構成及び機能構成についても、実施形態1と同様である。また、本実施形態のクライアント装置2000のハードウェア構成及び機能構成についても、実施形態1と同様である。
S9000〜S9200の処理は、図13のS8000〜S8200の処理と同様である。
S9300において、システム制御部1003は、S9000で決定したモードと、S9100で特定した切り出し部分の中心の座標と、に基づいて、切り出し部分の移動量を決定し、決定した移動量を暫定移動量として特定する。システム制御部1003は、例えば、図9、図11等で説明した方法で、切り出し部分の移動量を決定する。
システム制御部1003は、例えば、暫定移動量と、切り出し部分の画角と、に基づいて、以下の式6を用いて、切り出し部分の移動量を決定する。
移動量=暫定移動量*(切り出し部分の画角/切り出し部分として設定可能な最大画角) (式6)
また、システム制御部1003は、例えば、切り出し画角が小さい程は、移動量が小さくなるようにするなら、他の式を用いてもよい。
S9500において、システム制御部1003は、S9400で決定した移動量だけ、S9200で特定した方向に切り出し部分を移動させる。
実施形態1、2では、撮像装置1000が切り出し部分の1回の移動に係る移動量を決定することとした。本実施形態では、クライアント装置2000が、切り出し部分の1回の移動に係る移動量を決定する。即ち、クライアント装置2000が、図12、14に対応する処理を実行することとなる。
本実施形態の情報処理システムのシステム構成は、実施形態1と同様である。また、本実施形態の撮像装置1000のハードウェア構成及び機能構成についても、実施形態1と同様である。また、本実施形態のクライアント装置2000のハードウェア構成及び機能構成についても、実施形態1と同様である。
そして、システム制御部2003は、取得したモードの情報と、特定した切り出し部分の位置と、に基づいて、図9、図11等で説明した方法(式1、2を用いる方法、式1、式4を用いる方法等)で切り出し部分の1回の移動に係る移動量を決定する。そして、システム制御部2003は、コントロールボタン4004が操作された際に、撮像装置1000に対して、決定した移動量の情報を送信し、切り出し部分の移動を指示する。
撮像装置1000は、送信された切り出し部分の情報が示す領域をデワープして、デワープした画像を、クライアント装置2000に送信する。システム制御部2003は、受信したデワープされた画像を、切り出し画像表示領域4003に表示することとなる。また、システム制御部2003が移動後の切り出し部分の情報が示す領域をデワープすることとしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
実施形態1〜3では、撮像装置1000、クライアント装置2000等の単体の情報処理装置が、切り出し部分の1回の移動に係る移動量を決定することとした。しかし、ネットワークを介して相互に通信可能に接続された複数の情報処理装置が、切り出し部分の1回の移動に係る移動量を決定することとしてもよい。その場合、複数の情報処理装置それぞれのCPUが、各情報処理装置の補助記憶装置に記憶されるプログラムに基づき、連携して処理を実行することで、図2の機能や図12、14の処理等が実現される。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではない。上述した各実施形態を任意に組み合わせてもよい。
2000 クライアント装置
1003 システム制御部
Claims (11)
- 魚眼画像における切り出し部分の位置を特定する特定手段と、
前記特定手段により特定された前記切り出し部分の位置に基づいて、前記切り出し部分の移動量を決定する決定手段と、
を有する情報処理装置。 - 前記特定手段は、前記魚眼画像における前記切り出し部分の中心の位置を、前記切り出し部分の位置として、特定する請求項1記載の情報処理装置。
- 前記決定手段は、前記魚眼画像における前記特定手段により特定された前記切り出し部分の位置の座標について定められた前記切り出し部分の移動量に関するパラメータに基づいて、前記切り出し部分の移動が指示された際の移動量を決定する請求項1又は2記載の情報処理装置。
- 前記パラメータの値は、前記魚眼画像の中心と前記座標との距離に応じて定められた値である請求項3記載の情報処理装置。
- 前記決定手段は、前記特定手段により特定された前記切り出し部分の位置と、前記切り出し部分の画角と、に基づいて、前記切り出し部分の移動が指示された際の移動量を決定する請求項1乃至4何れか1項記載の情報処理装置。
- 前記決定手段は、前記特定手段により特定された前記切り出し部分の位置と、前記魚眼画像を撮影した撮像装置の設置状況と、に基づいて、前記切り出し部分の移動量を決定する請求項1乃至5何れか1項記載の情報処理装置。
- 前記切り出し部分の移動が指示された際に、指示された方向に、前記決定手段により決定された移動量だけ前記切り出し部分を移動させる移動手段を更に有する請求項1乃至6何れか1項記載の情報処理装置。
- 前記情報処理装置は、前記魚眼画像を撮影する撮像装置である請求項1乃至7何れか1項記載の情報処理装置。
- 前記情報処理装置は、前記前記魚眼画像を撮影する撮像装置と通信可能な情報処理装置である請求項1乃至7何れか1項記載の情報処理装置。
- 情報処理装置が実行する情報処理方法であって、
魚眼画像における切り出し部分の位置を特定する特定ステップと、
前記特定ステップで特定された前記切り出し部分の位置に基づいて、前記切り出し部分の移動量を決定する決定ステップと、
を含む情報処理方法。 - コンピュータに、
魚眼画像における切り出し部分の位置を特定する特定ステップと、
前記特定ステップで特定された前記切り出し部分の位置に基づいて、前記切り出し部分の移動量を決定する決定ステップと、
を実行させるためのプログラム。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017121162A JP6938237B2 (ja) | 2017-06-21 | 2017-06-21 | 情報処理装置、情報処理方法及びプログラム |
EP18175238.7A EP3422287B1 (en) | 2017-06-21 | 2018-05-30 | Information processing apparatus, information processing method, and program |
SG10201804603XA SG10201804603XA (en) | 2017-06-21 | 2018-05-31 | Information processing apparatus, information processing method, and recording medium |
US15/994,861 US10643315B2 (en) | 2017-06-21 | 2018-05-31 | Information processing apparatus, information processing method, and recording medium |
KR1020180068547A KR102314943B1 (ko) | 2017-06-21 | 2018-06-15 | 정보 처리장치, 정보 처리방법 및 기억매체 |
MYPI2018001010A MY188964A (en) | 2017-06-21 | 2018-06-20 | Information processing apparatus, information processing method, and recording medium |
CN201810645171.8A CN109104562B (zh) | 2017-06-21 | 2018-06-21 | 信息处理设备、信息处理方法和记录介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017121162A JP6938237B2 (ja) | 2017-06-21 | 2017-06-21 | 情報処理装置、情報処理方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019009520A true JP2019009520A (ja) | 2019-01-17 |
JP2019009520A5 JP2019009520A5 (ja) | 2020-07-30 |
JP6938237B2 JP6938237B2 (ja) | 2021-09-22 |
Family
ID=62683087
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017121162A Active JP6938237B2 (ja) | 2017-06-21 | 2017-06-21 | 情報処理装置、情報処理方法及びプログラム |
Country Status (7)
Country | Link |
---|---|
US (1) | US10643315B2 (ja) |
EP (1) | EP3422287B1 (ja) |
JP (1) | JP6938237B2 (ja) |
KR (1) | KR102314943B1 (ja) |
CN (1) | CN109104562B (ja) |
MY (1) | MY188964A (ja) |
SG (1) | SG10201804603XA (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020149111A (ja) * | 2019-03-11 | 2020-09-17 | オムロン株式会社 | 物体追跡装置および物体追跡方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110086987B (zh) * | 2019-04-22 | 2021-01-05 | 惠州Tcl移动通信有限公司 | 一种摄像头视角裁剪方法、装置及存储介质 |
CN112136311B (zh) * | 2019-10-22 | 2022-07-12 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、设备、成像***及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004356767A (ja) * | 2003-05-27 | 2004-12-16 | Matsushita Electric Works Ltd | ドアホンシステム |
JP2007150452A (ja) * | 2005-11-24 | 2007-06-14 | Aiphone Co Ltd | テレビドアホン装置 |
JP2008294842A (ja) * | 2007-05-25 | 2008-12-04 | Panasonic Electric Works Co Ltd | テレビインターホン |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004064535A (ja) * | 2002-07-30 | 2004-02-26 | Mitsumi Electric Co Ltd | カメラモジュール、携帯端末、撮影方法、撮影プログラム |
JP2005192057A (ja) | 2003-12-26 | 2005-07-14 | D Link Corp | 空間画像の切出し表示方法及び装置 |
JP2005339313A (ja) * | 2004-05-28 | 2005-12-08 | Toshiba Corp | 画像提示方法及び装置 |
JP5106335B2 (ja) * | 2008-09-24 | 2012-12-26 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
TWI441514B (zh) | 2008-11-12 | 2014-06-11 | Avisonic Technology Corp | 魚眼影像校正及減輕透視變形的影像處理方法及相關影像處理裝置 |
JP5338498B2 (ja) * | 2009-06-09 | 2013-11-13 | ソニー株式会社 | 監視カメラシステムで使用される制御装置、カメラシステム及びプログラム |
JP2011050038A (ja) * | 2009-07-27 | 2011-03-10 | Sanyo Electric Co Ltd | 画像再生装置及び撮像装置 |
JP5347890B2 (ja) * | 2009-10-09 | 2013-11-20 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP5613041B2 (ja) | 2010-12-24 | 2014-10-22 | パナソニック株式会社 | カメラ装置、画像処理システムおよび画像処理方法 |
JP5678324B2 (ja) * | 2011-02-10 | 2015-03-04 | パナソニックIpマネジメント株式会社 | 表示装置、コンピュータプログラム、及び表示方法 |
US8600194B2 (en) * | 2011-05-17 | 2013-12-03 | Apple Inc. | Positional sensor-assisted image registration for panoramic photography |
BR112014001565A2 (pt) * | 2011-07-22 | 2017-06-13 | Fujifilm Corp | método de geração de imagem panorâmica e dispositivo de captura de imagem |
US20130081052A1 (en) * | 2011-09-23 | 2013-03-28 | Elwha LLC, a limited liability company of the State of Delaware | Acquiring tasks and subtasks to be carried out by interface devices |
DE112013001869T5 (de) * | 2012-04-02 | 2014-12-24 | Panasonic Corporation | Bilderzeugungsvorrichtung, Kameravorrichtung, Bilddarstellungsvorrichtung und Bilderzeugungsverfahren |
JP5962771B2 (ja) * | 2012-12-12 | 2016-08-03 | 日産自動車株式会社 | 移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 |
US9094540B2 (en) * | 2012-12-13 | 2015-07-28 | Microsoft Technology Licensing, Llc | Displacing image on imager in multi-lens cameras |
JP6160357B2 (ja) | 2013-08-15 | 2017-07-12 | 株式会社リコー | 画像処理装置、画像処理方法、および画像通信システム |
CN104167002B (zh) * | 2014-08-28 | 2017-01-11 | 中国矿业大学 | 鱼眼图像的有效区域提取方法 |
JP2016062486A (ja) * | 2014-09-19 | 2016-04-25 | 株式会社ソニー・コンピュータエンタテインメント | 画像生成装置および画像生成方法 |
JP6541327B2 (ja) * | 2014-10-21 | 2019-07-10 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US10353569B2 (en) * | 2015-06-24 | 2019-07-16 | Htc Corporation | Crop frame adjusting method, image processing device, and non-transitory computer readable storage medium |
US9973711B2 (en) * | 2015-06-29 | 2018-05-15 | Amazon Technologies, Inc. | Content-based zooming and panning for video curation |
TWI558208B (zh) * | 2015-07-14 | 2016-11-11 | 旺玖科技股份有限公司 | 影像處理方法、影像處理裝置及顯示系統 |
JP6627352B2 (ja) * | 2015-09-15 | 2020-01-08 | カシオ計算機株式会社 | 画像表示装置、画像表示方法及びプログラム |
JP6455474B2 (ja) * | 2016-03-25 | 2019-01-23 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
US9721393B1 (en) * | 2016-04-29 | 2017-08-01 | Immersive Enterprises, LLC | Method for processing and delivering virtual reality content to a user |
CN106600548B (zh) * | 2016-10-20 | 2020-01-07 | 广州视源电子科技股份有限公司 | 鱼眼摄像头图像处理方法和*** |
-
2017
- 2017-06-21 JP JP2017121162A patent/JP6938237B2/ja active Active
-
2018
- 2018-05-30 EP EP18175238.7A patent/EP3422287B1/en active Active
- 2018-05-31 US US15/994,861 patent/US10643315B2/en active Active
- 2018-05-31 SG SG10201804603XA patent/SG10201804603XA/en unknown
- 2018-06-15 KR KR1020180068547A patent/KR102314943B1/ko active IP Right Grant
- 2018-06-20 MY MYPI2018001010A patent/MY188964A/en unknown
- 2018-06-21 CN CN201810645171.8A patent/CN109104562B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004356767A (ja) * | 2003-05-27 | 2004-12-16 | Matsushita Electric Works Ltd | ドアホンシステム |
JP2007150452A (ja) * | 2005-11-24 | 2007-06-14 | Aiphone Co Ltd | テレビドアホン装置 |
JP2008294842A (ja) * | 2007-05-25 | 2008-12-04 | Panasonic Electric Works Co Ltd | テレビインターホン |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020149111A (ja) * | 2019-03-11 | 2020-09-17 | オムロン株式会社 | 物体追跡装置および物体追跡方法 |
WO2020184207A1 (ja) * | 2019-03-11 | 2020-09-17 | オムロン株式会社 | 物体追跡装置および物体追跡方法 |
US11869199B2 (en) | 2019-03-11 | 2024-01-09 | Omron Corporation | Object tracking device and object tracking method |
Also Published As
Publication number | Publication date |
---|---|
JP6938237B2 (ja) | 2021-09-22 |
US10643315B2 (en) | 2020-05-05 |
US20180374200A1 (en) | 2018-12-27 |
CN109104562B (zh) | 2021-09-14 |
EP3422287A1 (en) | 2019-01-02 |
MY188964A (en) | 2022-01-14 |
KR20180138529A (ko) | 2018-12-31 |
SG10201804603XA (en) | 2019-01-30 |
CN109104562A (zh) | 2018-12-28 |
KR102314943B1 (ko) | 2021-10-20 |
EP3422287B1 (en) | 2020-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2014290798B2 (en) | Wireless video camera | |
JP5979458B1 (ja) | 無人飛行体検知システム及び無人飛行体検知方法 | |
JP6786378B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11190698B2 (en) | Imaging apparatus, control method for imaging apparatus, information processing apparatus, and storage medium | |
US10250794B2 (en) | Capturing an image using multi-camera automatic focus | |
WO2017163688A1 (en) | Monitoring system and monitoring method | |
JP7204346B2 (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
JP6865371B2 (ja) | モニタリングシステム及びモニタリング方法 | |
EP3407599A1 (en) | Display control apparatus, display control method, and program | |
WO2013187523A1 (en) | Capturing control apparatus, capturing control method and program | |
JP6938237B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US10250795B2 (en) | Identifying a focus point in a scene utilizing a plurality of cameras | |
US11310431B2 (en) | Control apparatus, image pickup system, and storage medium for changing in-focus range | |
JP2018101987A (ja) | 監視エリアの音源表示システム及び音源表示方法 | |
TWI556651B (zh) | 具攝影機自動調派功能之3d影像監控系統及其監控方法 | |
JP2017092938A (ja) | 音源検知システム及び音源検知方法 | |
JP2014146979A (ja) | 監視カメラシステム、撮像装置及び撮像方法 | |
JP2016111561A (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
CN110083174B (zh) | 无人机控制方法、装置及*** | |
JP2016111521A (ja) | 情報処理装置、情報処理プログラムおよび情報処理方法 | |
JP6819403B2 (ja) | 情報出力装置、プログラム及び情報出力方法 | |
US20220053130A1 (en) | Multifunctional camera | |
JP6852500B2 (ja) | 情報出力装置、プログラム及び情報出力方法 | |
JP2020191514A (ja) | 情報処理装置および情報処理方法 | |
JP2019140566A (ja) | 情報処理装置、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200610 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200610 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210601 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210721 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210901 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6938237 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |