JP6736821B1 - 撮像装置、移動体、及び制御方法 - Google Patents

撮像装置、移動体、及び制御方法 Download PDF

Info

Publication number
JP6736821B1
JP6736821B1 JP2019083122A JP2019083122A JP6736821B1 JP 6736821 B1 JP6736821 B1 JP 6736821B1 JP 2019083122 A JP2019083122 A JP 2019083122A JP 2019083122 A JP2019083122 A JP 2019083122A JP 6736821 B1 JP6736821 B1 JP 6736821B1
Authority
JP
Japan
Prior art keywords
neutral density
density filter
transmittance
variable neutral
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2019083122A
Other languages
English (en)
Other versions
JP2020182073A (ja
Inventor
本庄 謙一
謙一 本庄
知長 安田
知長 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2019083122A priority Critical patent/JP6736821B1/ja
Priority to PCT/CN2020/083207 priority patent/WO2020216044A1/zh
Priority to CN202080002870.6A priority patent/CN112204445A/zh
Application granted granted Critical
Publication of JP6736821B1 publication Critical patent/JP6736821B1/ja
Publication of JP2020182073A publication Critical patent/JP2020182073A/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Electromagnetism (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】減光フィルタを画素に設けると、画質が低下してしまう。【解決手段】撮像装置は、イメージセンサが有する複数の画素の少なくとも1つの画素を覆い、透過率が変更可能な少なくとも1つの第1可変減光フィルタと、イメージセンサが有する複数の画素のうちの少なくとも1つの画素の、少なくとも1つの第1可変減光フィルタが覆う第1領域とは異なる第2領域を覆い、透過率が変更可能な第2可変減光フィルタと、第1可変減光フィルタの透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、第1可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び第2可変減光フィルタの透過率を第1透過率に設定した状態で、第2可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行するように構成される回路とを備えてよい。【選択図】図2

Description

本発明は、撮像装置、移動体、及び撮像方法に関する。
特許文献1には、撮像素子が有する一部の画素に減光フィルタを設けて、位相差検出方式による光学系の焦点状態の検出を行うことが記載されている。
[先行技術文献]
[特許文献]
[特許文献1] 特開2018−174542号公報
上記のように、減光フィルタを画素に設けると、減光フィルタを設けた画素の分、画質が低下してしまう。
本発明の一態様に係る撮像装置は、イメージセンサを備えてよい。撮像装置は、イメージセンサが有する複数の画素の少なくとも1つの画素を覆い、透過率が変更可能な少なくとも1つの第1可変減光フィルタを備えてよい。撮像装置は、イメージセンサが有する複数の画素のうちの少なくとも1つの画素の、少なくとも1つの第1可変減光フィルタが覆う第1領域とは異なる第2領域を覆い、透過率が変更可能な第2可変減光フィルタを備えてよい。撮像装置は、第1可変減光フィルタの透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、第1可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び第2可変減光フィルタの透過率を第1透過率に設定した状態で、第2可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行するように構成される回路を備えてよい。
第1領域と第2領域とは同一の大きさでよい。
第1領域は、複数の画素のそれぞれの全領域のうちの第1側の半分の領域でよい。第2領域は、複数の画素のそれぞれの全領域のうちの第2側の半分の領域でよい。
回路は、合焦制御を実行した後、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率より高い第2透過率に設定した状態で、イメージセンサが有する複数の画素から出力される画像信号に基づく画像データを、イメージセンサから出力させてよい。
回路は、合焦指示を受けると、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率に設定して、合焦制御を実行するようにさらに構成されてよい。
回路は、撮像指示を受けると、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第2透過率に設定して、画像データをイメージセンサから出力させるように構成されてよい。
撮像装置は、シャッターボタンを備えてよい。回路は、シャッターボタンの第1状態を検出すると、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率に設定して、合焦制御を実行するように構成されてよい。回路は、シャッターボタンの第1状態とは異なる第2状態を検出すると、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第2透過率に設定して、イメージセンサから画像データを出力させるように構成されてよい。
回路は、撮像タイミングを示す同期信号に同期させて、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率と第2透過率との間で切り替えるように構成されてよい。
回路は、同期信号に同期させた第1のタイミングで、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率に設定して、合焦制御を実行してよい。回路は、同期信号に同期させた第1のタイミングと異なる第2のタイミングで、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第2透過率に設定して、イメージセンサから画像データを出力させるように構成されてよい。
回路は、同期信号の第1周期内の第1期間、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第1透過率に設定した状態で、合焦制御を実行してよい。回路は、同期信号の第1周期内の第1期間に続く第2期間、第1可変減光フィルタ及び第2可変減光フィルタの透過率を第2透過率に設定した状態で、イメージセンサから画像データを出力させるように構成されてよい。
イメージセンサが有する複数の画素は、第1方向及び第2方向に沿って格子状に配列されてよい。第1可変減光フィルタは、第1方向に沿って配置され、複数の画素のそれぞれの第1領域を覆ってよい。第2可変減光フィルタは、第1方向に沿って配置され、複数の画素のそれぞれの第2領域を覆ってよい。
撮像装置は、第2方向に沿って配置され、複数の画素のそれぞれの第1領域及び第2領域の一部を含む第3領域を覆い、透過率が変更可能な第3可変減光フィルタを備えてよい。撮像装置は、第2方向に沿って配置され、複数の画素のそれぞれの第1領域及び第2領域の他の一部を含む第3領域とは異なる第4領域を覆い、透過率が変更可能な第4可変減光フィルタを備えてよい。回路は、第3可変減光フィルタの透過率を第1透過率に設定した状態で、第3可変減光フィルタにより覆われている複数の画素から出力される画像信号、及び第4可変減光フィルタの透過率を第1透過率に設定した状態で、第4可変減光フィルタにより覆われている複数の画素から出力される画像信号に基づいて、合焦制御を実行するように構成されてよい。
イメージセンサが有する複数の画素は、格子状に配列されてよい。第1可変減光フィルタは、第1方向に沿って配置され、複数の画素のうち第1方向に沿って配置された複数の第1画素のそれぞれの第1領域を覆ってよい。第2可変減光フィルタは、第1方向に沿って配置され、複数の画素のうち第1方向に沿って配置され、かつ複数の第1画素とは異なる複数の第2画素のそれぞれの第2領域を覆ってよい。
本発明の一態様に係る移動体は、上記撮像装置を備えて移動する移動体でよい。
本発明の一態様に係る制御方法は、イメージセンサと、イメージセンサが有する複数の画素の少なくとも1つの画素を覆い、透過率が変更可能な少なくとも1つの第1可変減光フィルタと、イメージセンサが有する複数の画素のうちの少なくとも1つの画素の、少なくとも1つの第1可変減光フィルタが覆う第1領域とは異なる第2領域を覆い、透過率が変更可能な第2可変減光フィルタとを備える撮像装置を制御する制御方法でよい。制御方法は、第1可変減光フィルタの透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、第1可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び第2可変減光フィルタの透過率を第1透過率に設定した状態で、第2可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行する段階を備えてよい。
本発明の一態様によれば、画質の低下を招くことなく、像面位相差AFに用いることができる画像信号を提供できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
撮像装置の外観斜視図の一例を示す図である。 撮像装置の機能ブロックを示す図である。 可変減光フィルタについて説明するための図である。 可変減光フィルタの配置例について説明するための図である。 可変減光フィルタの配置例について説明するための図である。 可変減光フィルタの配置例について説明するための図である。 静止画を撮影するときの撮像制御部の処理手順の一例を示すフローチャートである。 動画を撮影するときのタイミングチャートの一例を示す図である。 無人航空機及び遠隔操作装置の外観の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
図1は、本実施形態に係る撮像装置10の外観斜視図の一例を示す図である。図2は、本実施形態に係る撮像装置10の機能ブロックを示す図である。
撮像装置10は、撮像部100及びレンズ部300を備える。レンズ部300は、レンズ制御部310、レンズ駆動部312、レンズ314、及びメモリ320を有する。レンズ314は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。レンズ314は、複数の光学要素から構成されてよい。レンズ314は、光軸に沿って移動可能に配置される。レンズ部300は、撮像部100に対して着脱可能に設けられる交換レンズでよい。
レンズ駆動部312は、カム環などの機構部材を介して、レンズ314を光軸に沿って移動させる。レンズ駆動部312は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部310は、撮像部100からのレンズ制御命令に従って、レンズ駆動部312を駆動して、機構部材を介してレンズ314を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ制御部310は、レンズ314を光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。
レンズ部300は、メモリ320をさらに有する。メモリ320は、レンズ駆動部312を介して移動するレンズ314の制御値を記憶する。メモリ320は、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)などのフラッシュメモリの少なくとも1つを含んでよい。
撮像部100は、センサ部210、撮像制御部220、メモリ230、画像処理部110、符号化部120、メモリ130、及び操作部140を有する。
センサ部210は、レンズ314を介して結像された光学像を電気信号に変換して、撮像部100に出力する。センサ部210は、CCDまたはCMOSなどのイメージセンサの一例である。撮像制御部220は、センサ部210を制御する。撮像制御部220は、回路の一例である。メモリ230は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)などのフラッシュメモリの少なくとも1つを含んでよい。メモリ230は、撮像制御部220がセンサ部210などを制御するのに必要なプログラム等を格納する。
センサ部210は、画素アレイ212、垂直選択回路214、水平選択回路216、及びカラム処理部218を含む。画素アレイ212は、受光した光量に応じた電荷を生成して蓄積する光電変換部を有する予め定められた配列で配置された複数の画素213を含む。複数の画素213は、行方向(水平方向)、及び列方向(垂直方向)に2次元に配置されている。複数の画素213は、水平方向、及び垂直方向に沿って格子状に配置されている。複数の画素213のそれぞれは、マイクロレンズを含む。垂直方向は、第1方向または第2方向の一例である。水平方向は、第2方向または第1方向の一例である。
画素アレイ212は、画素の行に対応する複数の画素駆動線215を介して垂直選択回路214と接続される。画素駆動線215は、画素から信号を読み出す場合の駆動を行うための駆動信号を伝送する。
垂直選択回路214は、シフトレジスタ及びアドレスデコーダなどによって構成され、画素アレイ212の各画素を全画素同時、あるいは行単位等で駆動する。垂直選択回路214は、垂直選択回路214を制御する撮像制御部220と共に、画素アレイ212の各画素の動作を制御する駆動部を構成している。
垂直選択回路214は、読み出し走査及び掃き出し走査を行う。垂直選択回路214は、読み出し走査において、画素アレイ212の各画素を行単位で順に選択して走査する。垂直選択回路214は、掃き出し走査において、読み出し走査が行われる読み出し行に対して、その読み出し走査よりも露光時間分だけ先行して掃き出し走査を行う。垂直選択回路214は、読み出し走査及び掃き出し走査を行うことで、いわゆる電子シャッタを実行する。
垂直選択回路214によって走査された行の各画素から出力された信号は、列ごとに垂直信号線219を介してカラム処理部218に入力される。カラム処理部218は、画素アレイ212の列ごとに、選択された行の各画素から垂直信号線219を介して出力される信号に対して予め定められた信号処理を行い、各画素の電気信号を出力する。
カラム処理部218は、信号処理として、ノイズ除去処理、例えば、CDS(相関二重サンプリング)処理、DDS(Double Data Sampling)処理を行う。CDS処理が実行されることで、リセットノイズなどが除去される。カラム処理部218は、アナログ信号をデジタル信号に変換してよい。
水平選択回路216は、シフトレジスタ及びアドレスデコーダなどによって構成され、カラム処理部218の列に対応する回路部分を順番に選択して走査する。水平選択回路216による走査により、カラム処理部218が、列ごとに信号処理された信号を画像データとして出力する。
画像処理部110は、センサ部210から出力された画像データに対して各種の画像処理を施す。符号化部120は、画像処理が施された画像データを予め定められた符号化方式で圧縮して、メモリ130に保存する。例えば、符号化部120は、画像処理が施された画像データをJPEG方式で圧縮して、メモリ130に保存してよい。
操作部140は、撮像装置10を操作する命令を受け付けるユーザインタフェースである。操作部140は、合焦指示及び撮影指示を受け付けるシャッターボタンを含む。シャッターボタンが半押し状態になると、合焦指示が出力される。シャッターボタンが全押し状態になると、撮影指示が出力される。半押し状態は、第1状態の一例である。全押し状態は、第2状態の一例である。シャッターボタンの半押し状態と全押し状態の2つの状態を検出することで合焦指示が出力される。シャッターボタンの3つの状態を検出することで合焦指示を出力してもよい。この場合、シャッターボタンが撮像装置10に完全に沈み込むことができる深さの3分の1を第1状態とし、シャッターボタンが撮像装置10に完全に沈み込むことができる深さの3分の2を第2状態とする。このとき、シャッターボタンが撮像装置10に完全に沈み込んだ第3状態において、撮像装置10に何も動作をさせなくてもよいし、別の操作、例えば取得した画像を転送するようにしてもよい。このようにすることで、取得した画像を効率よく転送することができる。
撮像装置10は、可変減光フィルタ241、及び可変減光フィルタ242をさらに備える。可変減光フィルタ241は、複数の画素213のそれぞれの第1領域を覆い、透過率が変更可能なフィルタである。可変減光フィルタ242は、複数の画素213のそれぞれの第1領域とは異なる第2領域を覆い、透過率が変更可能なフィルタである。可変減光フィルタ241、及び可変減光フィルタ242は、画素213の配列方向に沿って配置される。
可変減光フィルタ241及び可変減光フィルタ242は、電気的に光の透過率を調整可能な光学素子である。可変減光フィルタ241及び可変減光フィルタ242は、エレクトロクロミック素子でよい。エレクトロミック素子は、電圧を印加、または電流を流すことにより可逆的に光学的吸収が生じるエレクトロミック材料を含む。可変減光フィルタ241及び可変減光フィルタ242は、電圧を印加することにより液晶配列を変更して、透過率を調整可能な液晶NDフィルタでもよい。
可変減光フィルタ241は、垂直方向に沿って配置される。可変減光フィルタ241は、垂直方向に沿って配置された複数の画素213のそれぞれの第1領域を覆う。可変減光フィルタ242は、垂直方向に沿って配置される。可変減光フィルタ242は、垂直方向に沿って配置された複数の画素213のそれぞれの第2領域を覆う。第1領域及び第2領域は、同一の大きさでよい。第1領域は、垂直方向に配列された複数の画素213のそれぞれの全領域のうちの第1側(左側)の半分の領域でよい。第2領域は、垂直方向に配列された複数の画素213のそれぞれの全領域のうちの第2側(右側)の半分の領域でよい。
撮像制御部220は、可変減光フィルタ241の透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、可変減光フィルタ241により覆われている複数の画素213から出力される画像信号、及び可変減光フィルタ242の透過率を第1透過率に設定した状態で、可変減光フィルタ242により覆われている複数の画素213から出力される画像信号に基づいて、合焦制御を実行する。
撮像制御部220は、可変減光フィルタ241の透過率を第1透過率に設定した状態で、可変減光フィルタ241により覆われている複数の画素213から出力される画像信号、及び可変減光フィルタ242の透過率を第1透過率に設定した状態で、可変減光フィルタ242により覆われている複数の画素213から出力される画像信号に基づいて、像面位相差AFを実行してよい。撮像制御部220は、第1透過率に設定した状態の可変減光フィルタ241により覆われている複数の画素213から出力される画像信号、及び第1透過率に設定した状態の可変減光フィルタ242により覆われている複数の画素213から出力される画像信号をそれぞれ、像面位相差AF用の位相差信号として用いて、位相差AFを実行してよい。
撮像制御部220は、合焦制御を実行した後、可変減光フィルタ241及び可変減光フィルタ242を第1透過率より高い第2透過率に設定した状態で、センサ部210が有する複数の画素213から出力される画像信号に基づく画像データをセンサ部210から出力させる。センサ部210から出力される画像データは、RAWデータでよい。
撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242をオンすることで、可変減光フィルタ241及び可変減光フィルタ242の透過率を第1透過率に設定してよい。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242をオフすることで、可変減光フィルタ241及び可変減光フィルタ242の透過率を第2透過率に設定してよい。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242に第1電圧を印加することで、可変減光フィルタ241及び可変減光フィルタ242をオンしてよい。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242に第1電圧より低い第2電圧を印加することで、可変減光フィルタ241及び可変減光フィルタ242をオフしてよい。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242に電圧を印加することで、可変減光フィルタ241及び可変減光フィルタ242をオンしてよい。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242に電圧を印加しないことで、可変減光フィルタ241及び可変減光フィルタ242をオフしてよい。
撮像制御部220は、合焦指示を受けると、可変減光フィルタ241及び可変減光フィルタ242を第1透過率に設定して、合焦制御を実行してよい。撮像制御部220は、撮像指示を受けると、可変減光フィルタ241及び可変減光フィルタ242を第2透過率に設定して、センサ部210から画像データを出力させてよい。
撮像制御部220は、シャッターボタンが半押し状態になることで合焦指示を受けると、可変減光フィルタ241及び可変減光フィルタ242を第1透過率に設定して、合焦制御を実行してよい。撮像制御部220は、シャッターボタンが全押し状態になることで撮像指示を受けると、可変減光フィルタ241及び可変減光フィルタ242を第2透過率に設定して、センサ部210から画像データを出力させてよい。
動画を撮像する場合、撮像制御部220は、垂直同期信号などの撮像タイミングを示す同期信号に同期させて、可変減光フィルタ241及び可変減光フィルタ242の透過率を第1透過率と第2透過率との間で切り替えてよい。撮像制御部220は、同期信号に同期させた第1のタイミングで、可変減光フィルタ241及び可変減光フィルタ242を第1透過率に設定して、合焦制御を実行してよい。撮像制御部220は、同期信号に同期させた第1のタイミングと異なる第2のタイミングで、可変減光フィルタ241及び可変減光フィルタ242を第2透過率に設定して、センサ部210から画像データを出力させてよい。
撮像制御部220は、同期信号の第1周期内の第1期間、可変減光フィルタ241及び可変減光フィルタ242の透過率を第1透過率に設定した状態で、合焦制御を実行してよい。撮像制御部220は、同期信号の第1周期内の第1期間に続く第2期間、可変減光フィルタ241及び可変減光フィルタ242の透過率を第2透過率に設定した状態で、センサ部210に画像データを出力させてよい。
図3に示すように、可変減光フィルタ241及び可変減光フィルタ242の透過率が第2透過率に設定されている場合、可変減光フィルタ241及び可変減光フィルタ242に半分の領域が覆われている画素213a及び画素213bは、可変減光フィルタ241及び可変減光フィルタ242に全領域が覆われていない画素213cと実質的に同じ透過率の光を受光する。一方、可変減光フィルタ241及び可変減光フィルタ242の透過率が第1透過率に設定されている場合、可変減光フィルタ241及び可変減光フィルタ242に半分の領域が覆われている画素213a及び画素213bは、可変減光フィルタ241及び可変減光フィルタ242に全領域が覆われていない画素213cより低い透過率の光を受光する。
可変減光フィルタ241は、画素アレイ212を構成する複数の画素213のうち垂直方向に沿って配置された複数の第1画素213aのそれぞれの左側の半分の領域を覆ってよい。可変減光フィルタ242は、画素アレイ212を構成する複数の画素213のうち、垂直方向に配置され、かつ複数の第1画素213aとは異なる複数の第2画素213bのそれぞれの右側の半分の領域を覆ってよい。
可変減光フィルタ241及び可変減光フィルタ242は、図4に示すように、画素アレイ212の全ての画素213のいずれか一方の半分の領域を覆ってよい。可変減光フィルタ241及び可変減光フィルタ242が全ての画素213のそれぞれの半分の領域を覆ってよい。この場合、撮像制御部220は、可変減光フィルタ241をオン、可変減光フィルタ242をオフした状態で、複数の画素213から出力される画像信号と、可変減光フィルタ241をオフ、可変減光フィルタ242をオンした状態で、複数の画素213から出力される画像信号とを、像面位相差AF用の位相差信号として用いて、位相差AFを実行してよい。
可変減光フィルタ241及び可変減光フィルタ242は、図5に示すように、画素アレイ212を構成する複数の画素213のうち、一部の画素の半分の領域を覆ってよい。可変減光フィルタ241及び可変減光フィルタ242は、少なくとも1つの画素213の一部の領域を覆う複数のフィルタにより構成されてよい。可変減光フィルタ241及び可変減光フィルタ242は、画素アレイ212を構成する複数の画素213のうち少なくとも1つの画素の半分の領域を覆ってよい。
撮像装置10は、図6に示すように、画素アレイ212の水平方向に沿って配置される可変減光フィルタ243、及び可変減光フィルタ244をさらに備えてよい。
可変減光フィルタ243は、水平方向に配置され、複数の画素213のそれぞれの第1領域及び第2領域の一部を含む第3領域を覆い、透過率が変更可能なフィルタでよい。可変減光フィルタ243は、複数の画素213のそれぞれの垂直方向の一方の半分の領域(上側の半分の領域)を覆ってよい。可変減光フィルタ244は、水平方向に配置され、複数の画素213のそれぞれの第1領域及び第2領域の他の一部を含む第3領域とは異なる第4領域を覆い、透過率が変更可能なフィルタでよい。可変減光フィルタ243は、複数の画素213のそれぞれの垂直方向の他方の半分の領域(下側の半分の領域)を覆ってよい。
撮像制御部220は、可変減光フィルタ243の透過率を第1透過率に設定した状態で、可変減光フィルタ243により覆われている複数の画素213から出力される画像信号、及び可変減光フィルタ244の透過率を第1透過率に設定した状態で、可変減光フィルタ244により覆われている複数の画素213から出力される画像信号に基づいて、合焦制御を実行してよい。可変減光フィルタ243及び可変減光フィルタ244が全ての画素213のそれぞれの半分の領域を覆ってよい。この場合、撮像制御部220は、可変減光フィルタ243をオン、可変減光フィルタ241、可変減光フィルタ242、及び可変減光フィルタ244をオフした状態で、複数の画素213から出力される画像信号と、可変減光フィルタ241、可変減光フィルタ242、及び可変減光フィルタ243をオフ、可変減光フィルタ244をオンした状態で、複数の画素213から出力される画像信号とを、像面位相差AF用の位相差信号として用いて、位相差AFを実行してよい。
図7は、静止画を撮影するときの撮像制御部220の処理手順の一例を示すフローチャートである。
シャッターボタンが半押し状態となり、リレーズボタンが押下されると(S100)、撮像制御部220は、合焦指示を受け付けたと判断して、可変減光フィルタ241及び可変減光フィルタ242をオンする(S102)。撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242がオンした状態で、可変減光フィルタ241及び可変減光フィルタ242のいずれかに半分の領域が覆われた複数の画素213から出力される画像信号を、像面位相差AF用の位相差信号として用いて、位相差AFを開始する(S104)。
撮像制御部220は、位相差AFの結果、フォーカスレンズの合焦位置を決定し(S106)、フォーカスレンズを合焦位置へ移動させる(S108)。その後、シャッターボタンが全押し状態となると(S110)、撮像制御部220は、撮像指示を受け付けたと判断して、可変減光フィルタ241及び可変減光フィルタ242をオフした後(S112)、センサ部210から画像データを出力させる(S114)。
図8は、動画を撮影するときのタイミングチャートの一例を示す。撮像制御部220は、録画指示を受けると録画(REC)を開始する。撮像制御部220は、垂直同期信号の2パルス(2周期)ごとに、可変減光フィルタ241及び可変減光フィルタ242をオンする。そして、撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242のいずれかに半分の領域が覆われた複数の画素213から出力される画像信号を、像面位相差AF用の位相差信号として用いて、位相差AFを実行する。撮像制御部220は、垂直同期信号の1パルス(一周期)ごとに、センサ部210の全画素から出力される画像信号に基づく画像データを出力させる。この場合、撮像制御部220は、可変減光フィルタ241及び可変減光フィルタ242がオンしているときのセンサ部210の全画素から出力される画像信号に基づく画像データは破棄してもよい。撮像制御部220は、垂直同期信号の1パルス内の前半の第1期間に、可変減光フィルタ241及び可変減光フィルタ242をオンさせて、センサ部210から像面位相差AF用の位相差信号を出力させてよい。その後、撮像制御部220は、垂直同期信号の1パルス内の後半の第1期間に続く第2期間に、可変減光フィルタ241及び可変減光フィルタ242をオフさせて、センサ部210の全画素から出力される画像信号に基づく画像データをセンサ部210から出力させてよい。この場合、撮像制御部220は、第2期間にセンサ部210で受光される光の量は、全ての期間、可変減光フィルタ241及び可変減光フィルタ242をオフさせた状態で、センサ部210で受光される光の量より少ない。そのため、撮像制御部220は、第2期間に応じたゲインをかけて、センサ部210から画像データを出力させてよい。
以上のように、本実施形態に係る撮像装置10によれば、センサ部210の位相差AF用の画素を無駄にすることなく、センサ部210に撮像させることができる。よって、位相差AF用に減光フィルタを設けた画素の分、画質が低下してしまうことを防止できる。しかも、画素アレイ212の上に、可変減光フィルタ241及び可変減光フィルタ242を配置するだけで済むので、既存の画素アレイ212を利用することができる。
上記のような撮像装置10は、移動体に搭載されてもよい。撮像装置10は、図9に示すような、無人航空機(UAV)に搭載されてもよい。UAV1000は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置10を備えてよい。ジンバル50、及び撮像装置10は、撮像システムの一例である。UAV1000は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV1000を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV1000を飛行させる。回転翼の数は、4つには限定されない。また、UAV1000は、回転翼を有さない固定翼機でもよい。
撮像装置10は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置10を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置10を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置10を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置10を回転させることで、撮像装置10の姿勢を変更してよい。
複数の撮像装置60は、UAV1000の飛行を制御するためにUAV1000の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV1000の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV1000の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV1000の周囲の3次元空間データが生成されてよい。UAV1000が備える撮像装置60の数は4つには限定されない。UAV1000は、少なくとも1つの撮像装置60を備えていればよい。UAV1000は、UAV1000の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置10で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置400は、UAV1000と通信して、UAV1000を遠隔操作する。遠隔操作装置400は、UAV1000と無線で通信してよい。遠隔操作装置400は、UAV1000に上昇、下降、加速、減速、前進、後進、回転等のUAV1000の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV1000の高度を上昇させる指示情報を含む。指示情報は、UAV1000が位置すべき高度を示してよい。UAV1000は、遠隔操作装置400から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV1000を上昇させる上昇命令を含んでよい。UAV1000は、上昇命令を受け付けている間、上昇する。UAV1000は、上昇命令を受け付けても、UAV1000の高度が上限高度に達している場合には、上昇を制限してよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 撮像装置
20 UAV本体
50 ジンバル
60 撮像装置
100 撮像部
110 画像処理部
120 符号化部
130 メモリ
140 操作部
210 センサ部
212 画素アレイ
213 画素
214 垂直選択回路
215 画素駆動線
216 水平選択回路
218 カラム処理部
219 垂直信号線
220 撮像制御部
230 メモリ
241 可変減光フィルタ
242 可変減光フィルタ
243 可変減光フィルタ
244 可変減光フィルタ
300 レンズ部
310 レンズ制御部
312 レンズ駆動部
314 レンズ
320 メモリ
400 遠隔操作装置
1000 UAV

Claims (12)

  1. 第1方向及び第2方向に沿って格子状に配列された複数の画素を有するイメージセンサと、
    前記第1方向に沿って配置され、前記複数の画素のそれぞれの第1領域を覆い、透過率が変更可能な少なくとも1つの第1可変減光フィルタと、
    前記第1方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域とは異なる第2領域を覆い、透過率が変更可能な第2可変減光フィルタと、
    前記第2方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域及び前記第2領域の一部を含む第3領域を覆い、透過率が変更可能な第3可変減光フィルタと、
    前記第2方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域及び前記第2領域の他の一部を含む前記第3領域とは異なる第4領域を覆い、透過率が変更可能な第4可変減光フィルタと、
    前記第1可変減光フィルタの透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、前記第1可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び前記第2可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第2可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行するように構成される回路と
    を備え
    前記回路は、前記第3可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第3可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び前記第4可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第4可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行するようにさらに構成される、撮像装置。
  2. 前記第1領域と前記第2領域とは同一の大きさである、請求項1に記載の撮像装置。
  3. 前記第1領域は、前記複数の画素のそれぞれの全領域のうちの側の半分の領域であり、
    前記第2領域は、前記複数の画素のそれぞれの全領域のうちの側の半分の領域である、請求項2に記載の撮像装置。
  4. 前記回路は、前記合焦制御を実行した後、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率より高い第2透過率に設定した状態で、前記イメージセンサが有する前記複数の画素から出力される画像信号に基づく画像データを、前記イメージセンサから出力させるようにさらに構成される、請求項1に記載の撮像装置。
  5. 前記回路は、合焦指示を受けると、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率に設定して、前記合焦制御を実行するようにさらに構成される、請求項4に記載の撮像装置。
  6. 前記回路は、撮像指示を受けると、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第2透過率に設定して、前記画像データを前記イメージセンサから出力させるようにさらに構成される、請求項5に記載の撮像装置。
  7. シャッターボタンをさらに備え、
    前記回路は、
    前記シャッターボタンの第1状態を検出すると、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率に設定して、前記合焦制御を実行し、
    前記シャッターボタンの前記第1状態とは異なる第2状態を検出すると、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第2透過率に設定して、前記イメージセンサから前記画像データを出力させるように構成される、請求項6に記載の撮像装置。
  8. 前記回路は、動画を撮像する場合、撮像タイミングを示す同期信号に同期させて、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率と前記第2透過率との間で切り替えるようにさらに構成される、請求項4に記載の撮像装置。
  9. 前記回路は、
    前記同期信号に同期させた第1のタイミングで、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率に設定して、前記合焦制御を実行し、
    前記同期信号に同期させた前記第1のタイミングと異なる第2のタイミングで、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第2透過率に設定して、前記イメージセンサから前記画像データを出力させるようにさらに構成される、請求項8に記載の撮像装置。
  10. 前記回路は、
    前記同期信号の第1周期内の第1期間、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記合焦制御を実行し、
    前記同期信号の前記第1周期内の前記第1期間に続く第2期間、前記第1可変減光フィルタ及び前記第2可変減光フィルタの透過率を前記第2透過率に設定した状態で、前記イメージセンサから前記画像データを出力させるようにさらに構成される、請求項8に記載の撮像装置。
  11. 請求項1から10の何れか1つに記載の撮像装置を備えて移動する移動体。
  12. 第1方向及び第2方向に沿って格子状に配列された複数の画素を有するイメージセンサと、前記第1方向に沿って配置され、前記複数の画素のそれぞれの第1領域の画素を覆い、透過率が変更可能な少なくとも1つの第1可変減光フィルタと、前記第1方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域とは異なる第2領域を覆い、透過率が変更可能な第2可変減光フィルタと、前記第2方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域及び前記第2領域の一部を含む第3領域を覆い、透過率が変更可能な第3可変減光フィルタと、前記第2方向に沿って配置され、前記複数の画素のそれぞれの前記第1領域及び前記第2領域の他の一部を含む前記第3領域とは異なる第4領域を覆い、透過率が変更可能な第4可変減光フィルタとを備える撮像装置を制御する制御方法であって、
    前記第1可変減光フィルタの透過率を少なくとも一部の光を遮断する第1透過率に設定した状態で、前記第1可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び前記第2可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第2可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行する段階と、
    前記第3可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第3可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号、及び前記第4可変減光フィルタの透過率を前記第1透過率に設定した状態で、前記第4可変減光フィルタにより覆われている少なくとも1つの画素から出力される画像信号に基づいて、合焦制御を実行する段階とを備える、制御方法。
JP2019083122A 2019-04-24 2019-04-24 撮像装置、移動体、及び制御方法 Expired - Fee Related JP6736821B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019083122A JP6736821B1 (ja) 2019-04-24 2019-04-24 撮像装置、移動体、及び制御方法
PCT/CN2020/083207 WO2020216044A1 (zh) 2019-04-24 2020-04-03 摄像装置、移动体以及控制方法
CN202080002870.6A CN112204445A (zh) 2019-04-24 2020-04-03 摄像装置、移动体以及控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019083122A JP6736821B1 (ja) 2019-04-24 2019-04-24 撮像装置、移動体、及び制御方法

Publications (2)

Publication Number Publication Date
JP6736821B1 true JP6736821B1 (ja) 2020-08-05
JP2020182073A JP2020182073A (ja) 2020-11-05

Family

ID=71892522

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019083122A Expired - Fee Related JP6736821B1 (ja) 2019-04-24 2019-04-24 撮像装置、移動体、及び制御方法

Country Status (3)

Country Link
JP (1) JP6736821B1 (ja)
CN (1) CN112204445A (ja)
WO (1) WO2020216044A1 (ja)

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155259A (ja) * 1998-11-20 2000-06-06 Nikon Corp 焦点検出装置
JP5169144B2 (ja) * 2007-10-29 2013-03-27 ソニー株式会社 撮像装置
JP2012032723A (ja) * 2010-08-03 2012-02-16 Sony Corp 撮像装置、撮像素子、撮像方法およびプログラム
JP2013033075A (ja) * 2011-08-01 2013-02-14 Marumi Koki Kk デジタルカメラ用の減光フィルター
EP2752698B1 (en) * 2011-08-31 2016-06-29 Fujifilm Corporation Lens device and imaging device having said lens device
JP2013160782A (ja) * 2012-02-01 2013-08-19 Nikon Corp カメラ本体およびカメラシステム
JP2014183206A (ja) * 2013-03-19 2014-09-29 Sony Corp 固体撮像装置および固体撮像装置の駆動方法ならびに電子機器
JP2015076476A (ja) * 2013-10-08 2015-04-20 ソニー株式会社 固体撮像装置およびその製造方法、並びに電子機器
JP6465704B2 (ja) * 2015-03-11 2019-02-06 キヤノン株式会社 撮像装置及びその制御方法
JP2017194558A (ja) * 2016-04-20 2017-10-26 オリンパス株式会社 撮像装置および撮像方法
CN107144960A (zh) * 2017-06-12 2017-09-08 东北大学 一种可实现任意光谱透过率的可编程滤光片
JP6642628B2 (ja) * 2018-06-07 2020-02-05 株式会社ニコン 撮像素子および撮像装置

Also Published As

Publication number Publication date
CN112204445A (zh) 2021-01-08
WO2020216044A1 (zh) 2020-10-29
JP2020182073A (ja) 2020-11-05

Similar Documents

Publication Publication Date Title
RU2751463C2 (ru) Камера и устройство объектива
US8558915B2 (en) Photographing apparatus and method
JP4406937B2 (ja) 撮影装置
EP3162049B1 (en) Method and apparatus for camera actuator driver mode control synchronized with imaging sensor frame
CN101278549A (zh) 多次曝光光学成像设备
CN101662586A (zh) 可显示实时预览图像的摄像装置
CN102739943A (zh) 图像拾取器件和图像拾取单元
JP2010056865A (ja) 撮像装置
CN101086597A (zh) 成像设备和光屏蔽构件
JP2009130575A (ja) 固体撮像素子の駆動方法、固体撮像素子、及び撮像装置
US20190182431A1 (en) Imaging element and imaging device
JP2010258669A (ja) 全方位撮像装置
WO2019035245A1 (ja) 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム
JP6736821B1 (ja) 撮像装置、移動体、及び制御方法
JP2006270657A (ja) 撮像装置、及び固体撮像素子、固体撮像素子の駆動方法
JP5397078B2 (ja) 撮像装置
CN104869307A (zh) 一种拍摄的方法和装置
JPH0444870B2 (ja)
WO2018212008A1 (ja) 撮像装置及び画像合成装置
JP7058933B2 (ja) 撮像素子及びこれを用いた撮像装置
JP6648375B2 (ja) 撮像システム、及び移動体
JP2009031343A (ja) カメラ
JP2007101662A (ja) パノラマカメラ
JP5550333B2 (ja) 撮像装置、現像方法及びプログラム
JPH03231589A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200623

R150 Certificate of patent or registration of utility model

Ref document number: 6736821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees