JP2021525032A - 画像処理方法、装置及び3次元結像システム - Google Patents

画像処理方法、装置及び3次元結像システム Download PDF

Info

Publication number
JP2021525032A
JP2021525032A JP2020564846A JP2020564846A JP2021525032A JP 2021525032 A JP2021525032 A JP 2021525032A JP 2020564846 A JP2020564846 A JP 2020564846A JP 2020564846 A JP2020564846 A JP 2020564846A JP 2021525032 A JP2021525032 A JP 2021525032A
Authority
JP
Japan
Prior art keywords
image
grid
processed
dimensional
mapping
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020564846A
Other languages
English (en)
Inventor
一 張
一 張
旭東 陳
旭東 陳
Original Assignee
蘇州新光維医療科技有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 蘇州新光維医療科技有限公司 filed Critical 蘇州新光維医療科技有限公司
Publication of JP2021525032A publication Critical patent/JP2021525032A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0088Synthesising a monoscopic image signal from stereoscopic images, e.g. synthesising a panoramic or high resolution monoscopic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本発明は、画像処理方法、装置及び3次元結像システムを開示し、この方法は、処理対象の2次元画像を取得するステップと、処理対象の2次元画像をグリッドテンプレートに整列させるステップと、グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて処理対象の2次元画像をマッピング処理して第1の画像を得るステップと、第1の画像をミラーリングして第2の画像を得るステップと、第1の画像と第2の画像とを合成して第1の画像と第2の画像とのゴーストを得るステップとを含む。本発明は、グリッドテンプレート及びグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、人間の眼で取得した左眼画像及び右眼画像を模擬し、同一の処理対象の2次元画像に対して1回のマッピング処理を行えば、左眼画像と右眼画像とを得ることができ、画像処理のステップが削減されて画像処理時間が短縮され、ゴーストされた2次元画像を3次元画像に変換する後続のリアルタイム性に条件を提供する。【選択図】図1

Description

本発明は、画像処理技術分野に関し、具体的には、画像処理方法、装置及び3次元結像システムに関するものである。
立体視、即ち両眼で物を見る場合、主観的には被視物体の厚み及び空間の深さや距離などの感覚を生じさせることができる。これは、同一の被視物体でも両眼の網膜上の像が全く同じではなく、左眼では物体の左側面が左方から多く見え、右眼では物体の右側面が右方から多く見えることが主な原因であり、両眼からの画像情報は、視覚的に高度な中枢処理を受けることにより、立体的な物体のイメージを生成する。
表示技術やデジタル技術の発展に伴い、電子製品を用いて人間の眼を模倣した立体視が研究のホットスポットになっている。従来技術では、3次元(3D)カメラを使用する場合にのみユーザが3D画像を見ることができる。従来の3Dカメラの大部分は、人間の眼を模倣した構成であり、両カメラから構成され、一方のカメラが採集した画像は、人間の眼の左眼画像に対応し、他方のカメラが採集した画像は、人間の眼の右眼画像に対応し、画像処理機器により左眼画像及び右眼画像を合成することで、3D画像を形成することができる。
このうち、従来技術における3次元結像システムでは、2つのカメラにより左眼画像及び右眼画像をそれぞれ採集し、2枚の画像を別々に処理して、後続の3次元結像に用いるようにしている。しかし、この画像処理方法は、画像の取得から処理の完了までの遅延が大きく、リアルタイム性が要求される場合には適用できない場合がある。
これに鑑みて、本発明の実施例は、画像処理の遅延が大きいという問題を解決するための画像処理方法、装置及び3次元結像システムを提供する。
第1の態様によれば、本発明の実施例にて提供される画像処理方法は、
処理対象の2次元画像を取得するステップと、
前記処理対象の2次元画像を、前記処理対象の2次元画像のグリッド分割のためのグリッドテンプレートに整列させるステップと、
グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理して第1の画像を得るステップと、
前記第1の画像をミラーリングして第2の画像を得るステップと、
前記第1の画像と前記第2の画像を合成して、前記第1の画像と前記第2の画像のゴーストを得るステップと、を含み、
前記第1の画像は、左眼画像であり、前記第2の画像は、右眼画像であり、又は、
前記第1の画像は、前記右眼画像であり、前記第2の画像は、前記左眼画像である。
本発明の実施例は、グリッドテンプレート及びグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、人間の眼で取得した左眼画像及び右眼画像を模擬し、即ち、本方法は、同一の処理対象の2次元画像に対して1回のマッピング処理を行えば、左眼画像と右眼画像を得ることができ、画像処理のステップが削減されて画像処理時間が短縮され、ゴーストされた2次元画像を3次元画像に変換する後続のリアルタイム性に条件を提供する。第1の態様と結び付けて、第1の態様の第1の実施形態では、前記グリッドマッピングテーブルは、前記グリッドテンプレートにおける各グリッドの番号を含み、前記番号に対応して、前記グリッドマッピングテーブルには、マッピングされた前記グリッド画像の情報が記憶される。
本発明の実施例は、グリッドテンプレートにおける各グリッドに番号を付与し、番号を用いてマッピングされたグリッド画像の情報を1対1で対応させることで、複数のグリッド画像を並列処理する際にマッピングされたグリッド画像の情報の乱れを回避し、後続のマッピング処理の正確性を向上させる。
第1の態様の第1の実施形態と結び付けて、第1の態様の第2の実施形態では、グリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理し、第1の画像を得る前記ステップは、
前記グリッドテンプレートを用いて前記処理対象の2次元画像を分割して複数の処理対象のグリッド画像を形成するステップと、
前記処理対象のグリッド画像の番号を取得するステップと、
前記グリッドマッピングテーブルを検索して、前記番号に対応する前記グリッド画像の情報を抽出するステップと、
抽出された前記グリッド画像の情報を用いて、前記処理対象のグリッド画像を処理するステップと、
処理された前記処理対象のグリッド画像を組み合わせて前記第1の画像を得るステップと、を含む。
本発明の実施例は、分割された各処理対象のグリッド画像に対応して、番号を用いてグリッドマッピングテーブルから対応するグリッド画像情報を抽出し、処理対象のグリッド画像を処理する。ここで、各処理対象の2次元画像は、番号によって区別され、複数の処理対象のグリッド画像の同時処理が可能であり、画像処理の効率を向上させる。
第1の態様の第2の実施形態と結び付けて、第1の態様の第3の実施形態では、前記グリッド画像の情報は、前記グリッド画像のサイズであり、
上記の抽出された前記グリッド画像の情報を用いて、前記処理対象のグリッド画像を処理するステップは、
抽出された前記グリッド画像のサイズに応じて、前記処理対象のグリッド画像に対してスケーリング処理を行うステップを含む。
本発明の実施例は、グリッドマッピングテーブルに記憶されたマッピングされたグリッド画像のサイズを用いて、各処理対象のグリッド画像に対してスケーリング処理を行い、即ち、画像の解像度、画素などの情報と関係なく、画像サイズの観点から処理対象のグリッド画像を処理することで、画質を保証することができる一方、処理効率を向上させることができる。
第1の態様と結び付けて、第1の態様の第4の実施形態では、上記の前記第1の画像と前記第2の画像とを合成して前記第1の画像と前記第2の画像とのゴーストを得る前記ステップは、
前記第1の画像の側辺の中心点が前記第2の画像の側辺の中心点と一致するように、前記第1の画像と前記第2の画像の一側辺を整列させるステップと、
前記第1の画像又は第2の画像を前記側辺の中心線に沿って平行に移動させて前記ゴーストを得るステップと、を含む。
第1の態様と結び付けて、第1の態様の第5の実施形態では、前記処理対象の2次元画像は、ビデオストリームにおける1フレームの画像である。
第2の態様によれば、本発明の実施例にて提供される画像処理装置は、
処理対象の2次元画像を取得するための取得モジュールと、
前記処理対象の2次元画像を、前記処理対象の2次元画像のグリッド分割のためのグリッドテンプレートに整列させるための整列モジュールと、
グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理して第1の画像を得るためのマッピングモジュールと、
前記第1の画像をミラーリングして第2の画像を得るためのミラーリングモジュールと、
前記第1の画像と前記第2の画像とを合成して前記第1の画像と前記第2の画像とのゴーストを得るための合成モジュールと、を含む。
本発明の実施例は、グリッドテンプレート及びグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、人間の眼で取得した左眼画像及び右眼画像を模擬し、即ち、本装置は、同一の処理対象の2次元画像に対して1回のマッピング処理を行えば、左眼画像と右眼画像を得ることができ、画像処理のステップが削減されて画像処理時間が短縮され、ゴーストされた2次元画像を3次元画像に変換する後続のリアルタイム性に条件を提供する。
第3の態様によれば、本発明の実施例にて提供される画像処理機器は、
メモリとプロセッサとを含み、前記メモリと前記プロセッサは、互いに通信接続され、前記メモリにはコンピュータ命令が記憶され、前記プロセッサは、前記コンピュータ命令を実行することで、本発明の第1の態様又は第1の態様の実施形態のいずれか1つに記載の画像処理方法を実行する。
第4の態様によれば、本発明の実施例にて提供されるコンピュータ読み取り可能な記憶媒体は、本発明の第1の態様又は第1の態様の実施形態のいずれか1つに記載の画像処理方法を前記コンピュータに実行させるためのコンピュータ命令を記憶する。
第5の態様によれば、本発明の実施例にて提供される3次元結像システムは、
画像を採集するためのレンズがシングルレンズで構成され、処理対象の2次元画像を取得するための画像採集機器と、
前記画像採集機器に電気的に接続され、前記処理対象の2次元画像を処理するための本発明の第3の態様に記載の画像処理機器と、
前記画像処理機器に電気的に接続され、3次元画像を表示するための画像表示機器と、を含む。
本発明の実施例にて提供される3次元結像システムは、画像採集機器のレンズがシングルレンズで構成され、その採集機器が、デュアルレンズのように2つの画像採集システムを使用する必要がなく、画像採集機器全体の体積を減少させ、また、シングルレンズ内視鏡は、デュアルレンズに比べて外径を大幅に小さくすることができ、この3次元結像システムをサイズの小さい人体器官内に適用して、人体器官を3次元的に結像することができ、3次元結像システムの使用範囲をさらに拡大することができる。
本発明の特徴と利点は、添付の図面を参照してより明確に理解され、図面は概略的なものであり、本発明を任意に限定するものとして解釈してはいけない。
本発明の実施例における画像処理方法の1つの具体的な方法の流れ図を示す。 本発明の実施例における画像処理方法のもう1つの具体的な方法の流れ図を示す。 本発明の実施例におけるグリッドテンプレート分割の1つの具体的な概略図である。 本発明の実施例におけるマッピング変換の原理の概略図である。 本発明の実施例における画像処理方法のもう1つの具体的な方法のフローチャートを示す。 本発明の実施例における輻輳角と左右眼の画像との間の距離の関係の概略図である。 本発明の実施例における画像処理装置の1つの具体的な構成図である。 本発明の実施例における画像処理装置のもう1つの具体的な構成図である。 本発明の実施例における画像処理機器の具体的な構成図である。 本発明の実施例における3次元結像システムの1つの具体的な構成図である。
本発明の実施例の目的、技術的解決手段及び利点をより明確にするために、以下、本発明の実施例における図面を組み合わせて、本発明の実施例における技術的解決手段を明確且つ完全に説明するが、明らかに、説明された実施例は、本発明の一部の実施例であり、全ての実施例ではない。本発明の実施例に基づいて、創造的な労力を付与せずに当業者が想到できる他のすべての実施例も本発明の保護範囲に含まれる。
本発明にて提供される画像処理方法は、人間の眼で観察される左眼画像及び右眼画像を模擬するためである。具体的には、取得された処理対象の2次元画像をマッピング処理することで、両眼視差画像、即ち左眼画像及び右眼画像を生成して、立体視を実現し、また、左眼画像及び右眼画像を合成して、第1の画像と第2の画像のゴースト像を得て、輻輳角を作り出す。そして、本発明の3次元結像システムにおける画像表示機器は、両眼視差画像と輻輳角とを組み合わせることで、3D画像を形成することができる。
本発明の実施例にて提供される画像処理方法は、図1に示すように、ステップS11乃至ステップS15を含む。
ステップS11では、処理対象の2次元画像を取得する。
画像処理装置によって取得された処理対象の2次元画像は、2次元の画像であってもよく、ビデオストリームにおける1フレームの画像であってもよく、ビデオをリアルタイムで採集し、そのうちからフレーム毎の画像を抽出してもよく、この画像処理装置が処理対象の2次元画像を取得できることを確保すればよい。
ステップS12では、処理対象の2次元画像をグリッドテンプレートに整列させる。
このうち、グリッドテンプレートは、処理対象の2次元画像に対してグリッド分割を行うためのものである。具体的には、このグリッドテンプレートは、処理対象としての2次元画像を正規化処理するために用いられ、任意のサイズの処理対象の2次元画像を等比例でスケーリングして、スケーリングされた処理対象の2次元画像のサイズをこのグリッドテンプレートにマッチングすることができる。
ステップS13では、グリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、第1の画像を得る。
このうち、グリッドマッピングテーブルは、グリッド画像のマッピング関係を示すためのものである。グリッドマッピングテーブルは、グリッド番号によって索引付けされてもよく、グリッドテンプレートに応じて左から右、上から下へ記憶されるようにグリッドマッピングテーブルにおけるマッピング関係を予め規定してもよく(即ち、グリッドマッピングテーブル内の関連情報の記憶順序を予め規定してもよく)、他の方式で索引付けされてもよい。
画像処理装置は、このグリッドマッピングテーブルに記憶されたマッピング関係を用いて、処理対象の2次元画像をマッピング処理し、例えば、処理対象の2次元画像全体を処理してもよく、又は、処理対象の2次元画像を分割し、分割された画像を処理するなどであってもよい。即ち、画像処理装置は、処理対象の2次元画像に基づいて、マッピング処理を行い、第1の画像を形成する。ここで、マッピング関係は、変換後の画像が近端で大きく、遠端で小さくなるようなものであってもよいし、透視後の画像を式により算出するなどであってもよい。
ステップS14では、第1の画像をミラーリングして第2の画像を得る。
このうち、第1の画像は、左眼画像であり、第2の画像は、右眼画像であり、又は、第1の画像は、右眼画像であり、第2の画像は、左眼画像である。
本発明者は、人間の眼で観察される左眼画像と右眼画像とがミラーリング画像であること、即ち、マッピングされた第1の画像をミラーリング処理して第2の画像を得ることが可能であることを、多数の実験により分かった。
ステップS15では、第1の画像と第2の画像とを合成して、第1の画像と第2の画像とのゴーストを得る。
画像処理装置は、第1の画像及び第2の画像を合成し、第1の画像と第2の画像とのゴーストを得る。合成された第1の画像及び第2の画像を、後続の3次元画像表示のために画像表示機器に出力させることができる。ここで、後続の画像表示機器は、左眼画像と右眼画像との偏光方向が互いに直交するように左眼画像と右眼画像との偏光方向を調整することで、使用時にユーザが3Dメガネを着用することで3D画像の視聴を可能にし、人間の両眼にそれぞれ見える2枚の画像の偏光方向が互いに直交するようにすれば、他の方法で偏光方向の調整を実現することもできる。
本発明の実施例は、グリッドテンプレート及びグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、人間の眼で取得した左眼画像及び右眼画像を模擬し、即ち、本方法は、同一の処理対象の2次元画像に対して1回のマッピング処理を行えば、左眼画像と右眼画像とを得ることができ、画像処理のステップが削減されて画像処理時間が短縮され、ゴーストされた2次元画像を3次元画像に変換する後続のリアルタイム性に条件を提供する。
本発明の実施例にてさらに提供される画像処理方法は、図2に示すように、ステップS21乃至ステップS25を含む。
ステップS21では、処理対象の2次元画像を取得する。詳細は、図1に示す実施例のステップS11を参照し、ここで説明を省略する。
ステップS22では、処理対象の2次元画像をグリッドテンプレートに整列させる。
このうち、グリッドテンプレートは、処理対象の2次元画像に対してグリッド分割を行うためのものである。なお、グリッドテンプレートは、図3に示すように、各グリッドに唯一のラベルを対応させて複数のグリッドに分割することができ、グリッドテンプレートにより分割されるグリッドの数は、図3に示す数に限らず、実際の使用状況に応じて適宜設定することができる。また、グリッドの符号化方式もこれに限定されるものではなく、全てのグリッドを区別可能な全ての符号化方式は、いずれも本発明の保護範囲に属する。
ステップS23では、グリッドマッピングテーブルを用いて、前記処理対象の2次元画像をマッピング処理し、第1の画像を得る。
このうち、グリッドマッピングテーブルは、グリッド画像のマッピング関係を示すためのものである。本実施例では、グリッドマッピングテーブルは、グリッドテンプレートにおける各グリッドの番号を含む。番号に対応して、グリッドマッピングテーブルには、マッピングされたグリッド画像の情報が記憶される。
グリッドマッピングテーブルは、以下の表1で示す。
Figure 2021525032
具体的には、ステップS231乃至ステップS235を含む。
ステップS231では、グリッドテンプレートを用いて、処理対象の2次元画像を分割し、複数の処理対象のグリッド画像を形成する。
画像処理装置は、処理対象の2次元画像をグリッドテンプレートに整列させた後、グリッドテンプレート内のグリッドの分割方式を用いて、処理対象の2次元画像を分割し、複数の処理対象のグリッド画像を形成する。ここで、分割された処理対象のグリッド画像の番号は、グリッドテンプレートにおいて対応する位置のグリッドの番号と同一であるため、この番号を用いて、グリッドマッピングテーブルを検索してグリッド画像の情報を取得することが容易になる。
ステップS232では、処理対象のグリッド画像の番号を取得する。
画像処理装置は、処理対象の2次元画像を分割した後、グリッドテンプレートにおける各グリッドの番号を用いて、処理対象のグリッド画像に番号を付与し、具体的には、上述したように、処理対象のグリッド画像の番号は、グリッドテンプレートにおいて対応する位置のグリッドの番号と同一である。このため、画像処理装置は、対応する位置のグリッドの番号を抽出するだけでよく、処理対象のグリッド画像に番号を再び付与する必要がなく、処理時間が節約される。
ステップS233では、グリッドマッピングテーブルを検索し、番号に対応するグリッド画像の情報を抽出する。
画像処理装置は、処理対象のグリッド画像の番号を用いて、この番号に対応するグリッド画像の情報をグリッドマッピングテーブルから検索する。ここで、グリッド画像の情報は、マッピングされたグリッド画像のサイズであってもよく、マッピングされたグリッド画像の各端点のグリッドマッピングテーブルにおける座標データなどであってもよい。
好ましくは、本実施例では、グリッドマッピングテーブルに、マッピングされたグリッド画像のサイズ情報が記憶される。
ステップS234では、抽出されたグリッド画像の情報を用いて、処理対象のグリッド画像を処理する。
画像処理装置は、抽出されたグリッド画像のサイズ情報を用いて、処理対象のグリッド画像を処理する。ここで、マッピング変換の原理は、図4に示すように、元画像の左側の辺を回転軸として、所定の角度でスクリーン内部へ反転され、及び同じ角度でスクリーン外へ回転されるようにマッピング変換させ、図4の中央及び一番右の画像にそれぞれ形成されることである。本実施例では、処理対象の2次元画像のサイズを線形スケーリングすることで、スケーリングされた第1の画像及び第2の画像が図4に示す効果を得る。即ち、画像処理装置は、抽出されたグリッド画像のサイズに応じて、処理対象のグリッド画像をスケーリング処理し、具体的には以下のステップを含んでもよい。
(1)処理対象のグリッド画像を順次走査(non−interlaced scanning)する。
画像処理装置は、処理対象のグリッド画像を順次走査し、処理対象のグリッド画像の各行のサイズを取得する。
(2)各行の画像を順次線形スケーリングする。
画像処理装置は、一端が大きく、他端が小さくなるように、処理対象のグリッド画像の各行のサイズを線形スケーリングし、サイズがスケーリングされた第1の画像を得る。各行に対して線形スケーリングを順次行うことで、処理するデータ量を減らし、画像処理の効率化を図ることができる。
ステップS235では、処理された処理対象のグリッド画像を組み合わせて第1の画像を得る。
画像処理装置は、処理対象のグリッド画像の番号を用いて、映像処理された画像を再び組み合わせて第1の画像を得る。
ステップS24では、第1の画像をミラーリングして第2の画像を得る。
このうち、第1の画像は、左眼画像であり、第2の画像は、右眼画像であり、又は、第1の画像は、右眼画像であり、第2の画像は、左眼画像である。詳細は、図1に示す実施例のステップS14を参照し、ここで説明を省略する。
ステップS25では、第1の画像と第2の画像とを合成して、第1の画像と第2の画像とのゴーストを得る。詳細は、図1に示す実施例のステップS15を参照し、ここで説明を省略する。
図1に示す実施例と比較して、本実施例では、グリッドマッピングテーブルに記憶されたマッピングされたグリッド画像のサイズを用いて、各処理対象のグリッド画像に対してスケーリング処理を行い、即ち、画像の解像度、画素などの情報と関係なく、画像サイズの観点から処理対象のグリッド画像を処理することで、画質を保証することができる一方、処理効率を向上させることができる。
本発明の実施例にてさらに提供される画像処理方法は、図5に示すように、ステップS31乃至ステップS35を含む。
ステップS31では、処理対象の2次元画像を取得する。詳細は、図2に示す実施例のステップS21を参照し、ここで説明を省略する。
ステップS32では、処理対象の2次元画像をグリッドテンプレートに整列させる。
このうち、グリッドテンプレートは、処理対象の2次元画像に対してグリッド分割を行うためのものである。詳細は、図2に示す実施例のステップS22を参照し、ここで説明を省略する。
ステップS33では、グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、第1の画像を得る。詳細は、図2に示す実施例のステップS23を参照し、ここで説明を省略する。
ステップS34では、第1の画像をミラーリングして第2の画像を得、ここで、第1の画像は、左眼画像であり、第2の画像は、右眼画像であり、又は、第1の画像は、右眼画像であり、第2の画像は、左眼画像である。詳細は、図2に示す実施例のステップS24を参照し、ここで説明を省略する。
ステップS35では、第1の画像と第2との画像を合成して、第1の画像と第2の画像とのゴーストを得る。
画像処理装置は、映像処理後に形成される左眼画像と右眼画像との間の距離を調整して輻輳角を作り出す。本願の発明者は、複数の実験を行った結果、画像の間の距離が変化すると、それに対応する輻輳角が変化することを見出した。例えば、図6に示すように、輻輳角と左右眼の画像との間の距離との関係を説明し、図6のa)に示すように、輻輳角がα1である場合には、左右眼の間の距離が小さく、図6のb)に示すように、輻輳角がα2である場合、左右眼の間の距離が大きく、即ち、左右眼の距離が変化すると、それに応じて輻輳角も変化する。そこで、本発明では、左右眼の画像の間の距離を調整することで、輻輳角を作り出す。即ち、左眼画像と右眼画像との間の距離を調整することで、2枚の画像にゴーストが発生する。
具体的には、ステップS351と、ステップS352とを含む。
ステップS351では、第1の画像と第2の画像との一側辺を整列させる。
このうち、第1の画像の側辺の中心点は、第2の画像の側辺の中心点と一致する。
画像処理装置は、第1の画像及び第2の画像の側辺に沿って整列し、且つ第1の画像及び第2の画像にそれぞれ対応し、整列された側辺の中心点が一致する。
ステップS352では、第1の画像又は第2の画像を側辺の中点線に沿って平行に移動させてゴーストを得る。
画像処理装置は、第1の画像及び第2の画像が整列される側辺の中心線に沿って第1の画像又は第2の画像を平行に移動させる。第1の画像又は第2の画像のうちのいずれか1つを平行に移動させるか、第1の画像及び第2の画像をそれぞれ反対方向に移動させて第1の画像と第2の画像のゴーストを形成することができる。
本実施例では、図2に示す実施例の画像処理方法と比較して、第1の画像又は第2の画像を平行に移動させることで、左眼画像と右眼画像との間に所定の距離を持たせて輻輳角を作り出す。そして、本発明の3次元結像システムにおける画像表示機器は、両眼視差画像と輻輳角とを組み合わせることで、3D画像を形成することができる。
図7に示すように、本発明の実施例にてさらに提供される画像処理装置は、
処理対象の2次元画像を取得するための取得モジュール41と、
処理対象の2次元画像を、前記処理対象の2次元画像のグリッド分割のためのグリッドテンプレートに整列させるための整列モジュール42と、
グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて処理対象の2次元画像をマッピング処理して第1の画像を得るためのマッピングモジュール43と、
第1の画像をミラーリングして第2の画像を得るためのミラーリングモジュール44と、
第1の画像と前記第2の画像を合成して第1の画像と第2の画像のゴーストを得るための合成モジュール45と、を含む。
本発明の実施例にて提供される画像処理装置は、グリッドテンプレート及びグリッドマッピングテーブルを用いて、処理対象の2次元画像をマッピング処理し、人間の眼で取得した左眼画像及び右眼画像を模擬し、即ち、本方法は、同一の処理対象の2次元画像に対して1回のマッピング処理を行えば、左眼画像と右眼画像を得ることができ、画像処理のステップが削減されて画像処理時間が短縮され、ゴーストした2次元画像を3次元画像に変換する後続のリアルタイム性に条件を提供する。
本実施例のいくつかの好ましい実施形態では、図8に示すように、マッピングモジュール43は、
前記グリッドテンプレートを用いて前記処理対象の2次元画像を分割して、複数の処理対象のグリッド画像を形成するための分割ユニット431と、
前記処理対象のグリッド画像の番号を取得するための取得ユニット432と、
前記グリッドマッピングテーブルを検索して、前記番号に対応する前記グリッド画像の情報を抽出するための検索ユニット433と、
抽出された前記グリッド画像の情報を用いて、前記処理対象のグリッド画像を処理するための処理ユニット434と、
処理された前記処理対象のグリッド画像を組み合わせて、前記第1の画像を得るための組み合わせユニット435と、を含む。
本発明の実施例にてさらに提供される画像処理機器は、図9に示すように、プロセッサ51とメモリ52とを含み、ここで、プロセッサ51とメモリ52は、バス又は他の方式で接続されてもよく、図9では、バスを介して接続されることを例とする。
プロセッサ51は、中央処理器(Central Processing Unit、CPU)であってもよい。プロセッサ51は、他の汎用プロセッサ、デジタル信号プロセッサ(Digital Signal Processor、DSP)、特定用途向け集積回路(Application Specific Integrated Circuit、ASIC)、フィールドプログラマブルゲートアレイ(Field−Programmable Gate Array、FPGA)又は他のプログラマブル論理デバイス、ディスクリートゲート又はトランジスタ論理デバイス、ディスクリートハードウェア構成要素などのチップ、又は上記の種々のチップの組み合わせであってもよい。
メモリ52は、本発明の実施例に係る画像処理方法に対応するプログラム命令/モジュール(例えば、図7に示す取得モジュール41、整列モジュール42、マッピングモジュール43、ミラーリングモジュール44及び合成モジュール45)のような、非一時的なソフトウェアプログラム、非一時的なコンピュータ実行可能なプログラム、及びモジュールを記憶するための非一時的なコンピュータ読み取り可能な記憶媒体である。プロセッサ51は、メモリ52に記憶された非一時的なソフトウェアプログラム、命令及びモジュールを実行することで、プロセッサの各種の機能アプリケーションやデータ処理を実行し、上記の方法の実施例における画像処理方法を実現する。
メモリ52は、オペレーティングシステム、少なくとも1つの機能に必要なアプリケーションを記憶可能な記憶プログラム領域と、プロセッサ51によって作成されたデータなどを記憶可能な記憶データ領域とを含んでもよい。さらに、メモリ52は、高速ランダムアクセスメモリを含んでもよく、また、少なくとも1つのディスク記憶デバイス、フラッシュメモリデバイス、又は他の非一時的な固体記憶デバイスなどの非一時的なメモリを含んでもよい。いくつかの実施例では、メモリ52は、プロセッサ51に対して遠隔に配置されたメモリを選択することができ、これらの遠隔のメモリは、ネットワークを介してプロセッサ51に接続される。上記のネットワークの例としては、インターネット、イントラネット、ローカルエリアネットワーク、移動通信ネットワーク、及びそれらの組み合わせが挙げられるが、これらに限定されない。
上記の1つ以上のモジュールは、前記メモリ52に記憶され、前記プロセッサ51によって実行されると、図1、図2、及び図5に示す実施例における画像処理方法を実行することができる。
上記の画像処理機器の具体的な細部は、図1、図2及び図5に示す実施例に対応する関連説明及び効果に対応することができるので、ここで説明を省略する。
本発明の実施例にて提供される3次元結像システムは、図10に示すように、画像採集機器61と、画像処理機器62と、画像表示機器63とを含む。
このうち、画像採集機器61では、画像を採集するためのレンズは、シングルレンズで構成され、処理対象の2次元画像を取得するためのものである。画像処理機器62は、画像採集機器61に電気的に接続され、画像採集機器61から出力された処理対象の2次元画像を処理するためのものである。画像表示機器63は、画像処理機器62に電気的に接続され、画像処理機器62から出力された画像を表示するためのものである。
本発明の実施例にて提供される3次元結像システムは、画像採集機器61のレンズがシングルレンズで構成されて、画像採集機器61全体の体積を減少させ、また、シングルレンズの画像採集機器は、採集された画像を伝送するためのデータ線が1本だけでよいため、画像採集機器61と画像処理機器62とを結ぶ線の内径を小さくすることができ、この3次元結像システムをサイズの小さい物体内部、例えば、人体器官内に適用して、人体器官を3次元的に結像することができ、3次元結像システムの使用範囲をさらに拡大することができる。
当業者であれば、上記の実施例の方法を実現するための流れの全部又は一部が、コンピュータ読み取り可能な記憶媒体に記憶されたコンピュータプログラムによって関連するハードウェアに命令することによって実現され、このプログラムが実行されると、上記の各方法の実施例の流れを含んでもよいことを理解することができる。ここで、前記記憶媒体は、磁気ディスク、光ディスク、リードオンリーメモリ(Read−Only Memory、ROM)、ランダムアクセスメモリ(Random Access Memory、RAM)、フラッシュメモリ(Flash Memory)、ハードディスク(Hard Disk Drive、略語:HDD)又はソリッドステートドライブ(Solid−State Drive、SSD)などであってもよく、前記記憶媒体は、上記の種類のメモリの組み合わせを含んでもよい。
本発明の実施例を図面に基づいて説明したが、当業者であれば、本発明の趣旨及び範囲を逸脱する限り、様々な修正及び変形を行うことができ、そのような修正及び変形は、いずれも添付の特許請求の範囲によって定義される範囲内に含まれる。

Claims (10)

  1. 処理対象の2次元画像を取得するステップと、
    前記処理対象の2次元画像を、前記処理対象の2次元画像のグリッド分割のためのグリッドテンプレートに整列させるステップと、
    グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理して第1の画像を得るステップと、
    前記第1の画像をミラーリングして第2の画像を得るステップと、
    前記第1の画像と前記第2の画像とを合成して前記第1の画像と前記第2の画像とのゴーストを得るステップと、を含み、
    前記第1の画像は、左眼画像であり、前記第2の画像は、右眼画像であり、又は、
    前記第1の画像は、前記右眼画像であり、前記第2の画像は、前記左眼画像であることを特徴とする画像処理方法。
  2. 前記グリッドマッピングテーブルは、前記グリッドテンプレートにおける各グリッドの番号を含み、前記番号に対応して、前記グリッドマッピングテーブルには、マッピングされた前記グリッド画像の情報が記憶されることを特徴とする請求項1に記載の方法。
  3. 上記のグリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理して第1の画像を得るステップは、
    前記グリッドテンプレートを用いて前記処理対象の2次元画像を分割して、複数の処理対象のグリッド画像を形成するステップと、
    前記処理対象のグリッド画像の番号を取得するステップと、
    前記グリッドマッピングテーブルを検索して、前記番号に対応する前記グリッド画像の情報を抽出するステップと、
    抽出された前記グリッド画像の情報を用いて、前記処理対象のグリッド画像を処理するステップと、
    処理された前記処理対象のグリッド画像を組み合わせて前記第1の画像を得るステップと、を含むことを特徴とする請求項2に記載の方法。
  4. 前記グリッド画像の情報は、前記グリッド画像のサイズであり、
    上記の抽出された前記グリッド画像の情報を用いて、前記処理対象のグリッド画像を処理するステップは、
    抽出された前記グリッド画像のサイズに応じて、前記処理対象のグリッド画像に対してスケーリング処理を行うステップを含むことを特徴とする請求項3に記載の方法。
  5. 上記の前記第1の画像と前記第2の画像とを合成して前記第1の画像と前記第2の画像とのゴーストを得るステップは、
    前記第1の画像の側辺の中心点が前記第2の画像の側辺の中心点と一致するように、前記第1の画像と前記第2の画像との一側辺を整列させるステップと、
    前記第1の画像又は第2の画像を前記側辺の中心線に沿って平行に移動させて前記ゴーストを得るステップとを含むことを特徴とする請求項1に記載の方法。
  6. 前記処理対象の2次元画像は、ビデオストリームにおける1フレームの画像であることを特徴とする請求項1に記載の方法。
  7. 処理対象の2次元画像を取得するための取得モジュールと、
    前記処理対象の2次元画像を、前記処理対象の2次元画像のグリッド分割のためのグリッドテンプレートに整列させるための整列モジュールと、
    グリッド画像のマッピング関係を示すためのグリッドマッピングテーブルを用いて前記処理対象の2次元画像をマッピング処理して第1の画像を得るためのマッピングモジュールと、
    前記第1の画像をミラーリングして第2の画像を得るためのミラーリングモジュールと、
    前記第1の画像と前記第2の画像とを合成して前記第1の画像と前記第2の画像とのゴーストを得るための合成モジュールと、を含むことを特徴とする画像処理装置。
  8. メモリとプロセッサとを含み、前記メモリと前記プロセッサとは、互いに通信接続され、前記メモリにはコンピュータ命令が記憶され、前記プロセッサは、前記コンピュータ命令を実行することで、請求項1〜6のいずれか1項に記載の画像処理方法を実行することを特徴とする画像処理機器。
  9. 請求項1〜6のいずれか1項に記載の画像処理方法をコンピュータに実行させるためのコンピュータ命令を記憶することを特徴とするコンピュータ読み取り可能な記憶媒体。
  10. 画像を採集するためのレンズがシングルレンズで構成され、処理対象の2次元画像を取得するための画像採集機器と、
    前記画像採集機器に電気的に接続され、前記処理対象の2次元画像を処理するための請求項8に記載の画像処理機器と、
    前記画像処理機器に電気的に接続され、3次元画像を表示するための画像表示機器と、を含むことを特徴とする3次元結像システム。
JP2020564846A 2018-05-23 2019-05-06 画像処理方法、装置及び3次元結像システム Pending JP2021525032A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810500309.5A CN108737810B (zh) 2018-05-23 2018-05-23 图像处理方法、装置及三维成像***
CN201810500309.5 2018-05-23
PCT/CN2019/085687 WO2019223523A1 (zh) 2018-05-23 2019-05-06 图像处理方法、装置及三维成像***

Publications (1)

Publication Number Publication Date
JP2021525032A true JP2021525032A (ja) 2021-09-16

Family

ID=63936221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020564846A Pending JP2021525032A (ja) 2018-05-23 2019-05-06 画像処理方法、装置及び3次元結像システム

Country Status (8)

Country Link
US (1) US11317080B2 (ja)
JP (1) JP2021525032A (ja)
CN (1) CN108737810B (ja)
CA (1) CA3101222C (ja)
DE (1) DE112019002599T5 (ja)
ES (1) ES2813426A1 (ja)
RU (1) RU2752421C1 (ja)
WO (1) WO2019223523A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108712643B (zh) * 2018-04-27 2020-02-21 苏州新光维医疗科技有限公司 二维图像转换成三维图像的方法、装置及三维成像***
CN108737810B (zh) 2018-05-23 2019-08-06 苏州新光维医疗科技有限公司 图像处理方法、装置及三维成像***
CN112532894B (zh) * 2019-09-18 2023-01-10 西安诺瓦星云科技股份有限公司 图像处理方法、装置及***
US11770517B2 (en) * 2019-10-28 2023-09-26 Sony Group Corporation Information processing apparatus and information processing method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10187956A (ja) * 1996-12-24 1998-07-21 Hitachi Ltd 画像処理方法および画像処理装置
JP2004242125A (ja) * 2003-02-07 2004-08-26 Fuji Photo Film Co Ltd 画像処理装置
JP2014506039A (ja) * 2010-12-06 2014-03-06 テラネックス システムズ インコーポレイテッド 疑似3d強化遠近法を用いた方法及び装置

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5357429A (en) * 1992-04-02 1994-10-18 Levy Richard A Three-dimensional model generation using multiple angle tomographic scan planes
WO1997015150A1 (fr) * 1995-10-19 1997-04-24 Sony Corporation Procede et dispositif de formation d'images en trois dimensions
US8781557B2 (en) * 1999-08-11 2014-07-15 Osteoplastics, Llc Producing a three dimensional model of an implant
GB2363045B (en) * 2000-01-28 2004-06-02 Namco Ltd Game system and image creating method
GB0101371D0 (en) * 2001-01-19 2001-03-07 Virtual Mirrors Ltd Production and visualisation of garments
US7623674B2 (en) * 2003-11-05 2009-11-24 Cognex Technology And Investment Corporation Method and system for enhanced portal security through stereoscopy
CN101479765B (zh) * 2006-06-23 2012-05-23 图象公司 对2d电影进行转换用于立体3d显示的方法和***
US8274530B2 (en) * 2007-03-12 2012-09-25 Conversion Works, Inc. Systems and methods for filling occluded information for 2-D to 3-D conversion
EP2174301A4 (en) * 2007-06-29 2011-11-16 Three Pixels Wide Pty Ltd METHOD AND SYSTEM FOR GENERATING A 3D MODEL FROM PICTURES
US20090060300A1 (en) * 2007-08-30 2009-03-05 Fujifilm Corporation Method and apparatus for image alignment
CN101968895A (zh) * 2009-07-27 2011-02-09 鸿富锦精密工业(深圳)有限公司 二维图像转换***及方法
JP2011186930A (ja) 2010-03-10 2011-09-22 Renesas Electronics Corp 描画制御装置、描画制御方法、そのコンピュータ・プログラムおよびそのプログラムを記録した記録媒体
CA2815955C (en) * 2010-10-28 2017-05-02 Lg Electronics Inc. Receiver apparatus and method for receiving a three-dimensional broadcast signal in a mobile environment
JP5725902B2 (ja) * 2011-02-24 2015-05-27 任天堂株式会社 画像処理プログラム、画像処理装置、画像処理方法および画像処理システム
CN102905141A (zh) * 2011-07-28 2013-01-30 联咏科技股份有限公司 二维转三维转换装置及其方法
JP2013115668A (ja) * 2011-11-29 2013-06-10 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US9571810B2 (en) * 2011-12-23 2017-02-14 Mediatek Inc. Method and apparatus of determining perspective model for depth map generation by utilizing region-based analysis and/or temporal smoothing
US9210405B2 (en) * 2012-03-22 2015-12-08 Qualcomm Technologies, Inc. System and method for real time 2D to 3D conversion of video in a digital camera
US8787695B2 (en) * 2012-11-20 2014-07-22 Eastman Kodak Company Image rectification using text line tracks
EP3175791B1 (en) * 2013-11-04 2021-09-08 Ecential Robotics Method for reconstructing a 3d image from 2d x-ray images
CN105096245B (zh) 2014-04-21 2018-05-04 上海澜至半导体有限公司 一种处理2d图像的方法和装置
RU2600524C2 (ru) * 2014-07-15 2016-10-20 Федеральное государственное автономное образовательное учреждение высшего профессионального образования "Санкт-Петербургский государственный университет аэрокосмического приборостроения" Способ конвертации 2d-изображения в квазистереоскопическое 3d-изображение
CN106663339B (zh) 2014-09-02 2021-03-12 皇家飞利浦有限公司 用于对3d对象进行可视化的设备
CN105376546A (zh) * 2015-11-09 2016-03-02 中科创达软件股份有限公司 一种2d转3d方法、装置及移动终端
CN105608666A (zh) 2015-12-25 2016-05-25 普瑞福克斯(北京)数字媒体科技有限公司 一种二维图形生成三维图像的方法及***
CN107666606B (zh) * 2016-07-29 2019-07-12 东南大学 双目全景图像获取方法及装置
US20180253820A1 (en) * 2017-03-03 2018-09-06 Immersive Enterprises, LLC Systems, methods, and devices for generating virtual reality content from two-dimensional images
CN108712643B (zh) * 2018-04-27 2020-02-21 苏州新光维医疗科技有限公司 二维图像转换成三维图像的方法、装置及三维成像***
CN108737810B (zh) 2018-05-23 2019-08-06 苏州新光维医疗科技有限公司 图像处理方法、装置及三维成像***

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10187956A (ja) * 1996-12-24 1998-07-21 Hitachi Ltd 画像処理方法および画像処理装置
JP2004242125A (ja) * 2003-02-07 2004-08-26 Fuji Photo Film Co Ltd 画像処理装置
JP2014506039A (ja) * 2010-12-06 2014-03-06 テラネックス システムズ インコーポレイテッド 疑似3d強化遠近法を用いた方法及び装置

Also Published As

Publication number Publication date
CN108737810A (zh) 2018-11-02
CA3101222A1 (en) 2019-11-28
ES2813426A1 (es) 2021-03-23
CA3101222C (en) 2023-08-15
US11317080B2 (en) 2022-04-26
DE112019002599T5 (de) 2021-04-08
CN108737810B (zh) 2019-08-06
US20210203912A1 (en) 2021-07-01
RU2752421C1 (ru) 2021-07-28
WO2019223523A1 (zh) 2019-11-28

Similar Documents

Publication Publication Date Title
JP7112128B2 (ja) 2次元画像を3次元画像に変換する方法、装置、画像処理機器、記憶媒体及び3次元イメージングシステム
JP2021525032A (ja) 画像処理方法、装置及び3次元結像システム
US10855909B2 (en) Method and apparatus for obtaining binocular panoramic image, and storage medium
CN109547766B (zh) 一种全景图像生成方法及装置
KR102208773B1 (ko) 파노라마 영상 압축 방법 및 장치
US20160295194A1 (en) Stereoscopic vision system generatng stereoscopic images with a monoscopic endoscope and an external adapter lens and method using the same to generate stereoscopic images
KR20160090373A (ko) 듀얼 렌즈 장치를 위한 촬영 방법 및 듀얼 렌즈 장치
CN106228530A (zh) 一种立体摄影方法、装置及立体摄影设备
JP2020080101A5 (ja)
TW201607296A (zh) 快速產生影像景深圖的方法及影像處理裝置
CN109302600A (zh) 一种立体场景拍摄装置
CN104463958A (zh) 基于视差图融合的三维超分辨率方法
CN115222793A (zh) 深度图像的生成及显示方法、装置、***、可读介质
TW201431349A (zh) 應用於裸視3d顯示之影像轉換方法與模組
CN113225492B (zh) 一种光场单元图像生成方法、***及存储介质
KR102151250B1 (ko) 객체 좌표를 도출하는 장치 및 방법
TWI538651B (zh) Stereo visualization system and method of endoscopy using chromaticity forming method
JP2024062935A (ja) 立体視表示コンテンツを生成する方法および装置
TW201301861A (zh) 使用單鏡頭影像擷取裝置之立體成像方法以及基於用於立體影像顯示之第一、第二平面影像之立體影像增強方法與立體影像增強裝置
ES1291469U (es) Dispositivo para el procesamiento de imagenes
TW201514926A (zh) 視差計算方法及其立體匹配系統
CN109104602A (zh) 一种立体场景拍摄装置
Gurrieri The omnidirectional acquisition of stereoscopic images of dynamic scenes
WO2013151076A1 (ja) 画像撮像装置、画像処理方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210727

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220420

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220823