JP7230808B2 - 撮像素子および撮像装置 - Google Patents

撮像素子および撮像装置 Download PDF

Info

Publication number
JP7230808B2
JP7230808B2 JP2019536736A JP2019536736A JP7230808B2 JP 7230808 B2 JP7230808 B2 JP 7230808B2 JP 2019536736 A JP2019536736 A JP 2019536736A JP 2019536736 A JP2019536736 A JP 2019536736A JP 7230808 B2 JP7230808 B2 JP 7230808B2
Authority
JP
Japan
Prior art keywords
pixel
conversion efficiency
light
phase difference
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019536736A
Other languages
English (en)
Other versions
JPWO2019035374A1 (ja
Inventor
真一 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2019035374A1 publication Critical patent/JPWO2019035374A1/ja
Application granted granted Critical
Publication of JP7230808B2 publication Critical patent/JP7230808B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/01—Circuitry for demodulating colour component signals modulated spatially by colour striped filters by phase separation
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28—Systems for automatic generation of focusing signals
    • G02B7/34—Systems for automatic generation of focusing signals using different areas in a pupil plane
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32—Means for focusing
    • G03B13/34—Power focusing
    • G03B13/36—Autofocus systems
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14609—Pixel-elements with integrated switching, control, storage or amplification elements
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1462—Coatings
    • H01L27/14621—Colour filter arrangements
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1462—Coatings
    • H01L27/14623—Optical shielding
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14625—Optical elements or arrangements associated with the device
    • H01L27/14627—Microlenses
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14643—Photodiode arrays; MOS imagers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Focusing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Blocking Light For Cameras (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本開示は、撮像素子および撮像装置に関し、特に、像面位相差を利用したフォーカス精度の向上を図ることができるようにした撮像素子および撮像装置に関する。
従来、デジタルスチルカメラやデジタルビデオカメラなどの撮像機能を備えた電子機器においては、例えば、CCD（Charge Coupled Device）やCMOS（Complementary Metal Oxide Semiconductor）イメージセンサなどの固体撮像素子が使用されている。固体撮像素子は、光電変換を行うＰＤ（photodiode：フォトダイオード）と複数のトランジスタとが組み合わされた画素を有しており、被写体の像が結像する像面に配置された複数の画素から出力される画素信号に基づいて画像が構築される。
また、近年、撮像装置は、固体撮像素子の像面における位相差を検出するための位相差画素を設けることにより、像面位相差を利用してオートフォーカスを行う機能を備えている。このような像面位相差を利用したオートフォーカスは、コントラストを利用したオートフォーカスと比較して、フォーカス用のレンズを駆動させることなく測距が可能であることより、高速にフォーカスを合わせることが可能となっている。
例えば、特許文献１には、２つのＰＤそれぞれの露光、読み出しを同時に行うことが可能な構造とすることで、オートフォーカスの速度および精度の向上を図ることができる固体撮像装置が開示されている。
特開２０１５－９１０２５号公報
ところで、高感度な特性を備える固体撮像素子では、より多くの光を受光するために画素サイズの大型化が図られている。これに伴って、位相差画素どうしの間隔が広がることになり、オートフォーカスの精度が低下することが懸念されている。
本開示は、このような状況に鑑みてなされたものであり、像面位相差を利用したフォーカス精度の向上を図ることができるようにするものである。
本開示の一側面の撮像素子は、光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素とを備え、前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する。
本開示の一側面の撮像装置は、光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素とを有し、前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する撮像素子を備える。
本開示の一側面においては、第１の画素により、光電変換で発生した電荷が第１の変換効率で電圧に変換されて、画像の構築に用いられ、第２の画素により、光電変換で発生した電荷が第１の変換効率よりも大きい第２の変換効率で電圧に変換されて、位相差検出に用いられる。そして、第２の画素は、画像の構築に用いられる画素信号を出力する第１のモードと、位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、第１のモードのときには第１の変換効率で電荷が電圧に変換され、第２のモードのときには第２の変換効率で電荷が電圧に変換される。
本開示の一側面によれば、像面位相差を利用したフォーカス精度の向上を図ることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した撮像素子の一実施の形態の構成例を示すブロック図である。 通常画素および位相差画素の第１の配置パターンを示す図である。 位相差画素の第１乃至第３の構成例を示す図である。 位相差画素の変換効率について説明する図である。 通常画素および位相差画素の第２の配置パターンを示す図である。 位相差画素の第４および第５の構成例を示す図である。 大型のマイクロレンズを採用する構成のメリットについて説明する図である。 ４画素加算が行われる構造における配線構成の一例を示す図である。 通常画素モードおよび位相差画素モードを切り替えるこができる位相差画素の構成例について説明する図である。 撮像装置の構成例を示すブロック図である。 イメージセンサを使用する使用例を示す図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図１４に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
＜撮像素子の構成例＞
図１は、本技術を適用した撮像素子の一実施の形態の構成例を示す図である。
図１に示す撮像素子１１は、複数の画素がアレイ状に配置されて構成されており、それらの画素のうち、画像の構築に用いられる画素信号を出力する通常の画素を通常画素１２とし、像面位相差を求めるための画素信号を出力する画素を位相差画素１３とする。
撮像素子１１は、半導体基板２１の裏面（図１において上側を向く面）に対して光が照射される裏面照射型であり、半導体基板２１の裏面側に、平坦化層２２、フィルタ層２３、およびオンチップレンズ層２４が積層されて構成される。また、図示しないが、半導体基板２１の表面側には、配線層が積層されている。
半導体基板２１は、例えば、単結晶のシリコンが薄くスライスされたシリコンウェハ３１により構成され、通常画素１２および位相差画素１３ごとに、光電変換を行って発生した電荷を蓄積するＰＤ３２が設けられている。また、半導体基板２１の表面には、ＰＤ３２に蓄積されている電荷を転送するための転送トランジスタ３３、および、転送トランジスタ３３を介して転送されてくる電荷を一時的に蓄積する所定の容量を備えた浮遊拡散領域であるＦＤ（Floating Diffusion）部３４が形成される。
また、半導体基板２１の裏面には、通常画素１２どうしの間、および、通常画素１２と位相差画素１３との間を遮光する画素間遮光膜３５が成膜されるとともに、位相差画素１３において、その受光面積の半分を遮光する位相差遮光膜３６が成膜される。このように遮光性を備えた画素間遮光膜３５および位相差遮光膜３６が成膜されることにより、通常画素１２では、受光面積の全面で光を通過させる開口部３７が形成され、位相差画素１３では、受光面積の半分で光を通過させる開口部３８が形成される。
平坦化層２２は、例えば、半導体基板２１の裏面を絶縁するための絶縁性を備えた酸化膜４１により構成され、酸化膜４１によって、半導体基板２１の裏面側の凹凸が平坦化される。
フィルタ層２３は、通常画素１２ごとに所定の色（例えば、図２に示すような赤色、緑色、および青色）の光を透過するカラーフィルタ５１が配置されるとともに、位相差画素１３に対応して透明フィルタ５２が配置されて構成される。
オンチップレンズ層２４は、通常画素１２および位相差画素１３ごとに配置されるマイクロレンズ６１により構成され、マイクロレンズ６１によって光が集光される。また、位相差画素１３に設けられる位相差遮光膜３６は、マイクロレンズ６１の瞳の位置で位相差画素１３の受光面積の半分を遮光するように形成される。
また、撮像素子１１では、通常画素１２および位相差画素１３それぞれのＦＤ部３４に増幅トランジスタ７１のゲート電極が接続されており、増幅トランジスタ７１は、選択信号ＳＥＬに従って駆動する選択トランジスタ７２を介して垂直信号線７３に接続される。例えば、撮像素子１１では、転送トランジスタ３３のゲート電極に供給される転送信号ＴＲＧに従ってＰＤ３２からＦＤ部３４に電荷が転送され、その電荷のレベルに応じた電位が増幅トランジスタ７１のゲート電極に印加される。増幅トランジスタ７１は、図示しない定電流源とソースフォロワ回路を構成しており、ＦＤ部３４に蓄積されている電荷を画素信号に変換して、垂直信号線７３を介してＡＤ（Analog to Digital）コンバータに出力する。即ち、ＦＤ部３４が増幅トランジスタ７１のゲート電極に接続される構成によって、増幅トランジスタ７１は、ＰＤ３２で発生した電荷を、例えば、ＦＤ部３４の容量に応じた所定の変換効率で、垂直信号線７３から出力される画素信号を表す電圧に変換する電荷電圧変換部として機能する。
このような通常画素１２および位相差画素１３を有して構成される撮像素子１１は、例えば、位相差画素１３から出力される位相差信号に基づいてフォーカス用のレンズを駆動することで、高速にフォーカスを合わせることが可能である。その一方、位相差画素１３が配置される箇所は、画像を構築する際には欠陥画素として扱われるため、撮像素子１１では、画質の劣化を抑止するために、一般的に、位相差画素１３が離散的に配置される。
＜第１の配置パターン＞
図２には、通常画素１２および位相差画素１３の第１の配置パターンの例が示されている。
図２に示すように、通常画素１２には、赤色、緑色、および青色のカラーフィルタ５１が、所謂、ベイヤ配列に従って配置される。そして、所定数のラインごとに、青色の通常画素１２に替えて位相差画素１３が配置される。
位相差画素１３が配置されるラインでは、１つの通常画素１２を挟むように配置箇所Ｌおよび配置箇所Ｒが設けられる。例えば、配置箇所Ｌには、左側に開口部３８が設けられた位相差画素１３が配置され、配置箇所Ｒには、右側に開口部３８が設けられた位相差画素１３が配置される。即ち、図２に示す配置パターンでは、左側に開口部３８が設けられた位相差画素１３と、右側に開口部３８が設けられた位相差画素１３とが、行方向に向かって１画素ごとに交互に配置される。
なお、図２に示す通常画素１２および位相差画素１３の配置パターンは一例であって、この配置パターン以外で、通常画素１２および位相差画素１３を配置してもよい。
＜位相差画素の構成例＞
図３を参照して、位相差画素１３の平面的な構成について説明する。図３のＡには、位相差画素１３の第１の構成例が示されており、図３のＢには、位相差画素１３の第２の構成例が示されており、図３のＣには、位相差画素１３の第３の構成例が示されている。
図３のＡに示すように、位相差画素１３Ａは、右側半分が位相差遮光膜３６Ａにより遮光されており、左側に設けられる開口部３８Ａを通過した光をＰＤ３２Ａが受光して、その光量に応じた画素信号を出力する。同様に、位相差画素１３Ｂは、左側半分が位相差遮光膜３６Ｂにより遮光されており、右側に設けられる開口部３８Ｂを通過した光をＰＤ３２Ｂが受光して、その光量に応じた画素信号を出力する。
このような位相差画素１３Ａおよび位相差画素１３Ｂが設けられる撮像素子１１では、位相差画素１３Ａから出力される画素信号から構築される画像と、位相差画素１３Ｂから出力される画素信号から構築される画像との左右方向のズレに基づいて、位相差が検出される。
また、図３のＢに示すように、位相差画素１３Ｃは、下側半分が位相差遮光膜３６Ｃにより遮光されており、上側に設けられる開口部３８Ｃを通過した光をＰＤ３２Ｃが受光して、その光量に応じた画素信号を出力する。同様に、位相差画素１３Ｄは、上側半分が位相差遮光膜３６Ｄにより遮光されており、下側に設けられる開口部３８Ｄを通過した光をＰＤ３２Ｄが受光して、その光量に応じた画素信号を出力する。
このような位相差画素１３Ｃおよび位相差画素１３Ｄが設けられる撮像素子１１では、位相差画素１３Ｃから出力される画素信号から構築される画像と、位相差画素１３Ｄから出力される画素信号から構築される画像との上下方向のズレに基づいて、位相差が検出される。
また、図３のＣに示すように、位相差画素１３Ｅは、上述したような位相差遮光膜３６による遮光が行われず、左右に分割された２つのＰＤ３２Ｅ－１およびＰＤ３２Ｅ－２を備えて構成される。従って、位相差画素１３Ｅでは、受光面の左側に照射される光をＰＤ３２Ｅ－１が受光して、その光量に応じた画素信号を出力し、受光面の右側に照射される光をＰＤ３２Ｅ－２が受光して、その光量に応じた画素信号を出力する。
このような位相差画素１３Ｅが設けられる撮像素子１１では、ＰＤ３２Ｅ－１から出力される画素信号から構築される画像と、ＰＤ３２Ｅ－２から出力される画素信号から構築される画像との左右方向のズレに基づいて、位相差が検出される。
なお、図示しないが、位相差画素１３Ｅのように左右ではなく、上下に分割された２つのＰＤを設けた位相差画素を用いて位相差を検出してもよい。
このように、位相差画素１３は、ＰＤ３２が光を受光する面積が半分となるような構成、または、ＰＤ３２そのものが半分に分割されるような構成となっている。そのため、位相差画素１３は、通常画素１２と比較して、通常、光電変換により発生する電荷が半分になってしまうことより、画素信号の出力レベルが半減する。従って、例えば、画素信号をＡＤ変換する際の量子化誤差が相対的に大きくなる結果、オートフォーカスを行う際の精度が低下することが想定される。
そこで、撮像素子１１は、位相差画素１３において光電変換により発生する電荷を画素信号に変換する際の変換効率（ＰＤ３２で発生する電荷１個に対する、垂直信号線７３から出力される画素信号の電圧の比率）を、通常画素１２の２倍に設定するように構成される。これにより、撮像素子１１は、光電変換により発生する電荷が通常画素１２の半分になっても、画素信号の出力レベルは通常画素１２と同等とすることができる。従って、上述したような量子化誤差の悪影響を抑制し、オートフォーカスの精度が低下することを回避することができる。
例えば、図１を参照して上述したように、ＰＤ３２で発生した電荷はＦＤ部３４に転送されて増幅トランジスタ７１において画素信号に変換され、その変換効率はＦＤ部３４の容量に応じたものとなる。つまり、電荷ＱとＦＤ部３４の容量Ｃとに基づいて、画素信号の電圧Ｖ（＝Ｃ×Ｑ）が決定される。
従って、撮像素子１１の製造時に、位相差画素１３のＦＤ部３４の容量を、例えば、通常画素１２のＦＤ部３４の容量の半分となるように作り込むことで、位相差画素１３の変換効率を通常画素１２の２倍にすることができる。または、例えば、通常画素１２のＦＤ部３４の容量を倍増するようなキャパシタを接続することで、相対的に、位相差画素１３の変換効率を通常画素１２の２倍にすることができる。このように、位相差画素１３のＰＤ３２の受光面積と、通常画素１２のＰＤ３２の受光面積との割合に従って、位相差画素１３の変換効率が通常画素１２の変換効率の２倍に設定されている。なお、これに限定されることなく、少なくとも位相差画素１３の変換効率が通常画素１２の変換効率よりも大きく設定されていれば、位相差画素１３の出力レベルを増加させることができ、量子化誤差の悪影響を抑制することができる。
＜位相差画素の変換効率＞
図４を参照して、位相差画素１３の変換効率について説明する。
図４は、例えば、４つのＰＤ３２における光電変換で得られる電荷を、１つのＦＤ部３４で加算する画素加算が行われる場合において、その電荷を増幅トランジスタ７１において画素信号に変換して垂直信号線（VSL）７３に出力することを表している。
図４の左側に示すように、通常画素１２は、個々のＰＤ３２の飽和電荷量をＱとすると、４つ分のＰＤ３２で発生した電荷を加算した飽和電荷量（４×Ｑ）を、例えば、14bitのＡＤコンバータのフルコードで出力するような画素信号の電圧（Ｖ）に変換する変換効率（μV/e-）となっている。
これに対し、図４の中央に示すように、位相差画素１３は、２つ分のＰＤ３２で発生した電荷を加算した飽和電荷量（２×Ｑ）を、通常画素１２と同じ変換効率で変換すると、14bitのＡＤコンバータのフルコードの約半分で出力するような画素信号の電圧（Ｖ／２）に変換することになる。特に、低照度下の環境で撮像を行うときには、出力レベルが低い状況となるため、相対的に、量子化誤差の影響が大きくなる結果、オートフォーカスの精度が悪化することになる。
そこで、図４の右側に示すように、電荷を画素信号に変換する際の変換効率を２倍にすることで、２つ分のＰＤ３２で発生した電荷を加算した飽和電荷量（２×Ｑ）を、14bitのＡＤコンバータのフルコードで出力するような画素信号の電圧（Ｖ）に変換することができる。これにより、特に、低照度下の環境で撮像を行うときでも、十分な出力レベルを確保することができ、量子化誤差の影響を軽減することができる。即ち、通常画素１２の受光面積と、位相差画素１３の受光面積との割合に従って変換効率を設定（即ち、位相差画素１３の受光面積が通常画素１２の受光面積の１／２である場合、２倍の変換効率に設定）することで、位相差画素１３の画素信号を、通常画素１２の画素信号と同様の適切な出力レベルとすることができる。例えば、このような構成を、図５および図６を参照して後述するような２×２ベイヤ配列に適用することで、より高精度なオートフォーカスを実現することができる。
＜第２の配置パターン＞
図５には、通常画素１２および位相差画素１３の第２の配置パターンの例が示されている。
図５に示すように、縦×横が２×２の４つの通常画素１２を同じ色の光を受光するようにし、これらの４つの画素ごとに、赤色、緑色、および青色のカラーフィルタ５１が、所謂、ベイヤ配列に従って配置される。そして、所定数のラインごとに、青色の通常画素１２に替えて、縦×横が２×２の４つの領域に、位相差画素１３が配置される。
図５に示す配置パターンでは、列方向に２画素分の大きさの配置箇所Ｌおよび配置箇所Ｒが行方向に隣り合って配置されている。そして、左側に照射される光を受光するＰＤ３２が配置箇所Ｌに配置され、右側に照射される光を受光するＰＤ３２が配置箇所Ｒに配置された４つのＰＤ３２を有して位相差画素１３が構成される。即ち、２×２の４つのＰＤ３２のうち、左側の配置箇所Ｌに、左側に開口部３８が設けられた２つのＰＤ３２が列方向に並んで配置され、右側の配置箇所Ｒに、右側に開口部３８が設けられた２個のＰＤ３２が列方向に並んで配置される。そして、これらの４つのＰＤ３２からなる位相差画素１３が、行方向に、３個分の位相差画素１３の間隔を設けて配置される。
このように、４つの画素ごとにカラーフィルタがベイヤ配列されている配置を、以下適宜、２×２ベイヤ配列と称する。
なお、従来、高感度な特性を備える固体撮像素子において、より多くの光を受光するために画素サイズの大型化を図るのに伴って、位相差画素どうしの間隔が広がることになり、それらの位相差画素から出力される画素信号の波形一致度が低下することが想定される。これに対し、図５に示すような２×２ベイヤ配列では、配置箇所Ｌおよび配置箇所Ｒが隣り合って配置されるため、位相差画素どうしの間隔を狭くすることができ、上述したような画素信号の波形一致度が低下することがなく、高精度なオートフォーカスを実現することができる。
＜位相差画素の構成例＞
図６を参照して、図５に示したような２×２ベイヤ配列で使用される位相差画素１３の平面的な構成について説明する。図６のＡには、位相差画素１３の第４の構成例が示されており、図６のＢには、位相差画素１３の第５の構成例が示されている。
図６のＡに示すように、位相差画素１３Ｆは、左側に開口部３８Ｆ－１が設けられたＰＤ３２Ｆ－１、右側に開口部３８Ｆ－２が設けられたＰＤ３２Ｆ－２、左側に開口部３８Ｆ－３が設けられたＰＤ３２Ｆ－３、および右側に開口部３８Ｆ－４が設けられたＰＤ３２Ｆ－４を有して構成される。そして、位相差画素１３Ｆでは、ＰＤ３２Ｆ－１乃至ＰＤ３２Ｆ－４それぞれに対して、通常画素１２と同じ大きさのマイクロレンズ６１が設けられている。
図６のＢに示すように、位相差画素１３Ｇは、縦×横が４×４に配置された４つのＰＤ３２Ｇ－１乃至３２Ｇ－４を有して構成され、ＰＤ３２Ｇ－１乃至３２Ｇ－４それぞれに対応して、通常画素１２と同じ大きさの開口部３８Ｇ－１乃至３８Ｇ－４が形成される。そして、位相差画素１３Ｇは、これらの４つのＰＤ３２Ｇ－１乃至３２Ｇ－４が配置される領域に従ったサイズの大型のマイクロレンズ６１Ｇが設けられている。
ここで、例えば、図３のＡの位相差画素１３Ａおよび位相差画素１３Ｂは、位相差遮光膜３６Ａおよび３６Ｂにより受光面積の半分が遮光されるため、遮光されない場合と比較して感度が約半分に低下することになる。これに対し、位相差画素１３Ｇは、位相差遮光膜３６を有さない構成となっているため、遮光によって感度が低下することを回避することができる。つまり、位相差画素１３Ｇは、図３のＡの位相差画素１３Ａおよび位相差画素１３Ｂと比較して、約２倍の感度を備えることになり、例えば、低照度下の環境で撮像を行っても、より良好なオートフォーカス精度を得ることができる。
ここで、図７を参照して、図６のＢの位相差画素１３Ｇのような大型のマイクロレンズ６１Ｇを採用する構成のメリットについて説明する。
図７のＡには、例えば、図３のＡの位相差画素１３Ａおよび位相差画素１３Ｂのように、ＰＤ３２ごとにマイクロレンズ６１が配置された構成において、位相差画素１３Ａおよび位相差画素１３Ｂに入射する光が模式的に示されている。図７のＢには、図６のＢの位相差画素１３Ｇのように、４画素の領域に対応する大きさのマイクロレンズ６１Ｇが配置された構成において、位相差画素１３Ｇに入射する光が模式的に示されている。また、図７のＡおよび図７のＢでは、それぞれ右側から入射する光が一点鎖線で示されており、それぞれ右側から入射する光が二点斜線で示されている。
図７のＡに示すように、位相差画素１３Ａは、位相差遮光膜３６Ａにより受光面積の右側半分が遮光されるように構成され、右側から照射されて開口部３８Ａを通過した光をＰＤ３２Ａにより受光する。同様に、位相差画素１３Ｂは、位相差遮光膜３６Ｂにより受光面積の左側半分が遮光されるように構成され、左側から照射されて開口部３８Ｂを通過した光をＰＤ３２Ｂにより受光する。従って、位相差画素１３Ａおよび位相差画素１３Ｂは、照射される光の半分しか受光することができない。
一方、図７のＢに示すように、位相差画素１３Ｇは、大型のマイクロレンズ６１Ｇを備えて構成され、右側から照射されて開口部３８Ｇ－１を通過した光をＰＤ３２Ｇ－１により受光し、左側から照射されて開口部３８Ｇ－２を通過した光をＰＤ３２Ｇ－２により受光する。従って、位相差画素１３Ｇは、照射される光が遮光されない構造である事より光量ロスを回避することができ、位相差画素１３Ａおよび位相差画素１３Ｂの構成と比較して、２倍の光量の光を受光することができる。
そのため、位相差画素１３Ｇは、より多くの光を受光することができるのに伴って感度を向上させることができ、低照度下の環境で撮像を行っても、より良好なオートフォーカス精度を得ることができる。なお、位相差分離特性については、位相差画素１３Ｇと、位相差画素１３Ａおよび位相差画素１３Ｂとで、ほぼ同等である。
ここで、図８を参照して、位相差画素１３Ｇの配線構成について説明する。
図８のＡには、４画素加算が行われる通常画素１２における配線構成の一例が示されており、図８のＢには、位相差画素１３Ｇの配線構成の一例が示されている。
図８のＡに示すように、４つの通常画素１２－１乃至１２－４が有するＰＤ３２－１乃至３２－４は、１つのＦＤ部３４に接続されており、ＦＤ部３４は、図１に示した増幅トランジスタ７１を介してＡＤコンバータ８１に接続される。
図８のＢに示すように、位相差画素１３Ｇでは、配置箇所Ｌに配置されるＰＤ３２Ｇ－１および３２Ｇ－３が切り替えトランジスタ８２－１を介してＦＤ部３４Ｇに接続されるとともに、配置箇所Ｒに配置されるＰＤ３２Ｇ－２および３２Ｇ－４が切り替えトランジスタ８２－２を介してＦＤ部３４Ｇに接続される。そして、切り替えトランジスタ８２－１および８２－２により、ＰＤ３２Ｇ－１および３２Ｇ－３において発生した電荷と、ＰＤ３２Ｇ－２および３２Ｇ－４において発生した電荷とが、それぞれ異なるタイミングでＦＤ部３４Ｇに供給される。
このとき、通常画素１２と位相差画素１３ＧとでＡＤコンバータ８１の入力電圧を共通のものとする場合、上述したように位相差画素１３の変換効率を通常画素１２の２倍にするために、位相差画素１３ＧのＦＤ部３４Ｇの容量が、通常画素１２－１乃至１２－４のＦＤ部３４の容量の半分になるように作り込む必要がある。
なお、撮像素子１１において、位相差画素１３の配置パターンは、図２および図５に示した例に限定されることはない。例えば、位相差画素１３Ａおよび位相差画素１３Ｂと、位相差画素１３Ｃおよび位相差画素１３Ｄとが混在し、所定数のラインごとに交互に配置されるような配置パターンを採用してもよい。また、例えば、位相差画素１３Ａが配置されるラインと、位相差画素１３Ｂが配置されるラインとが異なるような配置パターンを採用してもよい。また、位相差画素１３の構成も上述した各種の構成例に限定されることはなく、例えば、対角線に沿って遮光される構成を採用してもよい。
＜通常画素モードおよび位相差画素モードの切り替え構造＞
図９を参照して、通常画素モードおよび位相差画素モードを切り替えることができる位相差画素１３Ｈの構成について説明する。
例えば、位相差画素１３Ｈは、図６のＢの位相差画素１３Ｇと同様に、縦×横が４×４に配置された４つのＰＤ３２Ｈ－１乃至３２Ｈ－４を有して構成される。また、図示しないが、位相差画素１３Ｈは、図６のＢを参照して説明したような開口部３８Ｇ－１乃至３８Ｇ－４および大型のマイクロレンズ６１Ｇを、位相差画素１３Ｇと同様に備えている。
このように構成される位相差画素１３Ｈは、４つのＰＤ３２Ｈ－１乃至３２Ｈ－４で発生した全ての電荷を加算することにより、例えば、図８のＡを参照して説明した通常画素１２－１乃至１２－４による４画素加算と同様の出力を得ることができる。即ち、位相差画素１３Ｈは、通常画素１２－１乃至１２－４による４画素加算と同様に、画像の構築に用いられる画素信号の出力と、位相差画素１３Ｇと同様に、位相差検出に用いられる画素信号の出力とを切り替えて行うことができる。ここで、位相差画素１３Ｈにおいて、画像の構築に用いられる画素信号を出力するモードを通常画素モードと称し、位相差検出に用いられる画素信号を出力するモードを位相差画素モードと称する。
また、上述したように、撮像素子１１では、位相差画素１３において光電変換により発生する電荷を画素信号に変換する際の変換効率は、通常画素１２の２倍に設定されている。従って、位相差画素１３Ｇは、位相差画素モードでの変換効率を、通常画素モードでの変換効率の２倍に設定する必要がある。
そこで、図９に示すように、位相差画素１３Ｈは、２つのＦＤ部３４Ｈ－１とＦＤ部３４Ｈ－２とを切り替えて使用することができるように、切り替えトランジスタ８３－１および８３－２を備えて構成される。例えば、ＦＤ部３４Ｈ－１は、４画素加算を行う通常画素１２－１乃至１２－４と同一の容量となり、ＦＤ部３４Ｈ－２は、２倍の変換効率を得るために、ＦＤ部３４Ｈ－１の半分の容量となるように作り込まれている。また、切り替えトランジスタ８３－１は、ＰＤ３２Ｈ－１乃至３２Ｈ－４とＦＤ部３４Ｈ－１とを接続するように配置され、切り替えトランジスタ８３－２は、ＰＤ３２Ｈ－１乃至３２Ｈ－４とＦＤ部３４Ｈ－２とを接続するように配置される。そして、切り替えトランジスタ８３－１および８３－２に対するオン／オフの制御が、例えば、図示しない信号処理回路により行われることによって、通常画素モードと位相差画素モードとが切り替えられる。
例えば、位相差画素１３Ｈが通常画素モードであるとき、図９のＢに示すように、切り替えトランジスタ８３－１がオンとなるとともに、切り替えトランジスタ８３－２がオフとなって、ＰＤ３２－１乃至３２Ｈ－４で発生した電荷はＦＤ部３４Ｈ－１に転送される。これにより、ＰＤ３２Ｈ－１乃至３２Ｈ－４で発生した電荷は、ＦＤ部３４Ｈ－１の容量に従って、通常画素１２と同様の変換効率で画素信号に変換される。
一方、位相差画素１３Ｈが位相差画素モードであるとき、図９のＣに示すように、切り替えトランジスタ８３－１がオフとなるとともに、切り替えトランジスタ８３－２がオンとなって、ＰＤ３２Ｈ－１乃至３２Ｈ－４で発生した電荷はＦＤ部３４Ｈ－２に転送される。なお、このとき、図８のＢを参照して説明したように、切り替えトランジスタ８２－１および８２－２により、ＰＤ３２Ｈ－１および３２Ｈ－３において発生した電荷と、ＰＤ３２Ｈ－２および３２Ｈ－４において発生した電荷とが、それぞれ異なるタイミングでＦＤ部３４Ｈ－２に供給される。これにより、ＰＤ３２Ｈ－１および３２Ｈ－３で発生した電荷、並びに、ＰＤ３２Ｈ－２および３２Ｈ－４で発生した電荷は、通常画素モードの２倍の変換効率で画素信号に変換される。
このように、位相差画素１３Ｈは、通常画素モードと位相差画素モードとを切り替えることができ、位相差画素モードであるときには、通常画素モードの２倍の変換効率で電荷を、画素信号を表す電圧に変換することができる。なお、位相差画素１３Ｈは、少なくとも２つのＰＤ３２Ｈを備えて構成されていればよく、例えば、２つのＰＤ３２Ｈにより受光面積を２分割するような構成を採用することができる。このような構成であっても、通常画素モードの場合には、全てのＰＤ３２Ｈの電荷が電圧に変換され、位相差画素モードの場合には、一方ずつの（一部の）ＰＤ３２Ｈの電荷が電圧に変換される。
＜電子機器の構成例＞
上述したような撮像素子１１は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像システム、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
図１０は、電子機器に搭載される撮像装置の構成例を示すブロック図である。
図１０に示すように、撮像装置１０１は、光学系１０２、撮像素子１０３、信号処理回路１０４、モニタ１０５、およびメモリ１０６を備えて構成され、静止画像および動画像を撮像可能である。
光学系１０２は、１枚または複数枚のレンズを有して構成され、被写体からの像光（入射光）を撮像素子１０３に導き、撮像素子１０３の受光面（センサ部）に結像させる。
撮像素子１０３としては、上述した撮像素子１１が適用される。撮像素子１０３には、光学系１０２を介して受光面に結像される像に応じて、一定期間、電子が蓄積される。そして、撮像素子１０３に蓄積された電子に応じた信号が信号処理回路１０４に供給される。
信号処理回路１０４は、撮像素子１０３から出力された画素信号に対して各種の信号処理を施す。信号処理回路１０４が信号処理を施すことにより得られた画像（画像データ）は、モニタ１０５に供給されて表示されたり、メモリ１０６に供給されて記憶（記録）されたりする。
このように構成されている撮像装置１０１では、上述した撮像素子１１を適用することで、例えば、より高精度にフォーカスが合った画像を撮像することができる。
＜イメージセンサの使用例＞
図１１は、上述のイメージセンサ（撮像素子）を使用する使用例を示す図である。
上述したイメージセンサは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
＜応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図１２は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図１２を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図１２では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ～５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。
ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ～５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ～５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。
具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ～５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。
また、図１２では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。
手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。
図１３は、集中操作パネル５１１１における操作画面の表示例を示す図である。図１３では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図１３を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。
発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。
コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。
また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。
図１４は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図１２に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図１４では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ～５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ～５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。
（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図１２に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。
光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。
アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。
入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。
入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。
あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。
（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図１４では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ～５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ～５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
関節部５１４７ａ～５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ～５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ～５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。
例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ～５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ～５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。
（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
（カメラヘッド及びＣＣＵ）
図１５を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図１５は、図１４に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
図１５を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。
まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。
撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。
また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。
駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。
通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。
また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。
カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。
また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、シーリングカメラ５１８７や、術場カメラ５１８９、カメラヘッド５１１９などが備える撮像素子に好適に適用され得る。それらの撮像素子に、本開示に係る技術を適用することによって、よりフォーカス精度の高い画像を、外部の表示装置に出力することができるため、遠隔医療における診断の精度向上を図ることができる。
＜構成の組み合わせ例＞
なお、本技術は以下のような構成も取ることができる。
（１）
光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、
光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素と
を備える撮像素子。
（２）
前記変換効率は、前記第１の画素が光を受光する受光面積と、前記第２の画素が光を受光する受光面積との割合に従って設定される
上記（１）に記載の撮像素子。
（３）
前記第２の画素は、遮光性を備えた位相差遮光膜により受光面積の約半分が遮光されており、
前記第２の変換効率が、前記第１の変換効率の約２倍である
上記（２）に記載の撮像素子。
（４）
前記第１の画素および前記第２の画素は、
受光した光を光電変換する光電変換部と、
前記光電変換部で発生した電荷を一時的に蓄積する浮遊拡散領域と、
前記浮遊拡散領域に蓄積されている電荷を、前記浮遊拡散領域の容量に従った変換効率で、前記画素信号を表す電圧に変換する電荷電圧変換部と
をそれぞれ有しており、
前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量よりも小さくなるように作り込まれる
上記（１）から（３）までのいずれかに記載の撮像素子。
（５）
前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量の約半分となるように作り込むことで、前記第２の変換効率が、前記第１の変換効率の約２倍に設定される
上記（４）に記載の撮像素子。
（６）
前記第２の画素は、４つの光電変換部が縦×横が２×２となる配置で構成されており、
これらの４つの前記光電変換部が配置される領域に従ったサイズのマイクロレンズ
をさらに備える上記（１）から（５）までのいずれかに記載の撮像素子。
（７）
縦×横が２×２で配置された４つの前記第１の画素ごとに、赤色、緑色、および青色の光を受光するようにカラーフィルタが配置されている
上記（６）に記載の撮像素子。
（８）
前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する
上記（１）から（７）までのいずれかに記載の撮像素子。
（９）
前記第２の画素は、２つ以上の光電変換部を有して構成されており、前記第１のモードの場合、全ての前記光電変換部の電荷を電圧に変換し、前記第２のモードの場合、一部の前記光電変換部の電荷を電圧にする
上記（８）に記載の撮像素子。
（１０）
光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、
光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素と
を有する撮像素子を備える撮像装置。
（１１）
前記変換効率は、前記第１の画素が光を受光する受光面積と、前記第２の画素が光を受光する受光面積との割合に従って設定される
上記（１０）に記載の撮像装置。
（１２）
前記第２の画素は、遮光性を備えた位相差遮光膜により受光面積の約半分が遮光されており、
前記第２の変換効率が、前記第１の変換効率の約２倍である
上記（１１）に記載の撮像装置。
（１３）
前記第１の画素および前記第２の画素は、
受光した光を光電変換する光電変換部と、
前記光電変換部で発生した電荷を一時的に蓄積する浮遊拡散領域と、
前記浮遊拡散領域に蓄積されている電荷を、前記浮遊拡散領域の容量に従った変換効率で、前記画素信号を表す電圧に変換する電荷電圧変換部と
をそれぞれ有しており、
前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量よりも小さくなるように作り込まれる
上記（１０）から（１２）までのいずれかに記載の撮像装置。
（１４）
前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量の約半分となるように作り込むことで、前記第２の変換効率が、前記第１の変換効率の約２倍に設定される
上記（１３）に記載の撮像装置。
（１５）
前記第２の画素は、４つの光電変換部が縦×横が２×２となる配置で構成されており、
これらの４つの前記光電変換部が配置される領域に従ったサイズのマイクロレンズ
をさらに備える上記（１０）から（１４）までのいずれかに記載の撮像装置。
（１６）
縦×横が２×２で配置された４つの前記第１の画素ごとに、赤色、緑色、および青色の光を受光するようにカラーフィルタが配置されている
上記（１５）に記載の撮像装置。
（１７）
前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する
上記（１０）から（１６）までのいずれかに記載の撮像装置。
（１８）
前記第２の画素は、２つ以上の光電変換部を有して構成されており、前記第１のモードの場合、全ての前記光電変換部の電荷を電圧に変換し、前記第２のモードの場合、一部の前記光電変換部の電荷を電圧にする
上記（１７）に記載の撮像装置。
なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
１１ 撮像素子， １２ 通常画素， １３ 位相差画素， ２１ 半導体基板， ２２ 平坦化層， ２３ フィルタ層， ２４ オンチップレンズ層， ３１ シリコンウェハ， ３２ ＰＤ， ３３ 転送トランジスタ， ３４ ＦＤ部， ３５ 画素間遮光膜， ３６ 位相差遮光膜， ３７および３８ 開口部， ４１ 酸化膜， ５１ カラーフィルタ， ５２ 透明フィルタ， ６１ マイクロレンズ， ７１ 増幅トランジスタ， ７２ 選択トランジスタ， ７３ 垂直信号線， ８１ ＡＤコンバータ， ８２ 切り替えトランジスタ

Claims (16)

  1. 光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、
    光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素と
    を備え、
    前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する
    撮像素子。
  2. 前記第１の変換効率と前記第２の変換効率とは、前記第１の画素が光を受光する受光面積と、前記第２の画素が光を受光する受光面積との割合に従って設定される
    請求項１に記載の撮像素子。
  3. 前記第２の画素は、遮光性を備えた位相差遮光膜により受光面積の約半分が遮光されており、
    前記第２の変換効率が、前記第１の変換効率の約２倍である
    請求項２に記載の撮像素子。
  4. 前記第１の画素および前記第２の画素は、
    受光した光を光電変換する光電変換部と、
    前記光電変換部で発生した電荷を一時的に蓄積する浮遊拡散領域と、
    前記浮遊拡散領域に蓄積されている電荷を、前記浮遊拡散領域の容量に従った変換効率で、前記画素信号を表す電圧に変換する電荷電圧変換部と
    をそれぞれ有しており、
    前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量よりも小さくなるように作り込まれる
    請求項１に記載の撮像素子。
  5. 前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量の約半分となるように作り込むことで、前記第２の変換効率が、前記第１の変換効率の約２倍に設定される
    請求項４に記載の撮像素子。
  6. 前記第２の画素は、４つの光電変換部が縦×横が２×２となる配置で構成されており、
    これらの４つの前記光電変換部が配置される領域に従ったサイズのマイクロレンズ
    をさらに備える請求項１に記載の撮像素子。
  7. 縦×横が２×２で配置された４つの前記第１の画素ごとに、赤色、緑色、および青色の光を受光するようにカラーフィルタが配置されている
    請求項６に記載の撮像素子。
  8. 前記第２の画素は、２つ以上の光電変換部を有して構成されており、前記第１のモードの場合、全ての前記光電変換部の電荷を電圧に変換し、前記第２のモードの場合、一部の前記光電変換部の電荷を電圧にする
    請求項１に記載の撮像素子。
  9. 光電変換で発生した電荷を第１の変換効率で電圧に変換して、画像の構築に用いられる画素信号を出力する第１の画素と、
    光電変換で発生した電荷を前記第１の変換効率よりも大きい第２の変換効率で電圧に変換して、位相差検出に用いられる画素信号を出力する第２の画素と
    を有し、
    前記第２の画素は、前記画像の構築に用いられる画素信号を出力する第１のモードと、前記位相差検出に用いられる画素信号を出力する第２のモードとを切り替えることができ、前記第１のモードのときには前記第１の変換効率で電荷を電圧に変換し、前記第２のモードのときには前記第２の変換効率で電荷を電圧に変換する
    撮像素子を備える撮像装置。
  10. 前記第１の変換効率と前記第２の変換効率とは、前記第１の画素が光を受光する受光面積と、前記第２の画素が光を受光する受光面積との割合に従って設定される
    請求項９に記載の撮像装置。
  11. 前記第２の画素は、遮光性を備えた位相差遮光膜により受光面積の約半分が遮光されており、
    前記第２の変換効率が、前記第１の変換効率の約２倍である
    請求項１０に記載の撮像装置。
  12. 前記第１の画素および前記第２の画素は、
    受光した光を光電変換する光電変換部と、
    前記光電変換部で発生した電荷を一時的に蓄積する浮遊拡散領域と、
    前記浮遊拡散領域に蓄積されている電荷を、前記浮遊拡散領域の容量に従った変換効率で、前記画素信号を表す電圧に変換する電荷電圧変換部と
    をそれぞれ有しており、
    前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量よりも小さくなるように作り込まれる
    請求項９に記載の撮像装置。
  13. 前記第２の画素が有する前記浮遊拡散領域の容量が、前記第１の画素が有する前記浮遊拡散領域の容量の約半分となるように作り込むことで、前記第２の変換効率が、前記第１の変換効率の約２倍に設定される
    請求項１２に記載の撮像装置。
  14. 前記第２の画素は、４つの光電変換部が縦×横が２×２となる配置で構成されており、
    これらの４つの前記光電変換部が配置される領域に従ったサイズのマイクロレンズ
    をさらに備える請求項９に記載の撮像装置。
  15. 縦×横が２×２で配置された４つの前記第１の画素ごとに、赤色、緑色、および青色の光を受光するようにカラーフィルタが配置されている
    請求項１４に記載の撮像装置。
  16. 前記第２の画素は、２つ以上の光電変換部を有して構成されており、前記第１のモードの場合、全ての前記光電変換部の電荷を電圧に変換し、前記第２のモードの場合、一部の前記光電変換部の電荷を電圧にする
    請求項１５に記載の撮像装置。
JP2019536736A 2017-08-18 2018-08-03 撮像素子および撮像装置 Active JP7230808B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017158066 2017-08-18
JP2017158066 2017-08-18
PCT/JP2018/029181 WO2019035374A1 (ja) 2017-08-18 2018-08-03 撮像素子および撮像装置

Publications (2)

Publication Number Publication Date
JPWO2019035374A1 JPWO2019035374A1 (ja) 2020-10-08
JP7230808B2 true JP7230808B2 (ja) 2023-03-01

Family

ID=65361889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019536736A Active JP7230808B2 (ja) 2017-08-18 2018-08-03 撮像素子および撮像装置

Country Status (4)

Country Link
US (1) US20200169704A1 (ja)
JP (1) JP7230808B2 (ja)
KR (1) KR20200037244A (ja)
WO (1) WO2019035374A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110945399B (zh) * 2017-08-09 2022-09-20 索尼公司 信号处理设备、成像设备、信号处理方法和存储器
WO2020202779A1 (ja) * 2019-03-29 2020-10-08 株式会社ブルックマンテクノロジ 固体撮像装置、撮像システム及び撮像方法
CN113841387A (zh) * 2019-07-02 2021-12-24 索尼半导体解决方案公司 固态成像装置、其驱动方法以及电子设备
KR20210105056A (ko) * 2020-02-18 2021-08-26 에스케이하이닉스 주식회사 이미지 센서 및 이를 포함하는 촬영 장치
JPWO2021166672A1 (ja) * 2020-02-20 2021-08-26
US11284045B2 (en) * 2020-04-22 2022-03-22 OmniVision Technologies. Inc. Image sensor with shifted color filter array pattern and bit line pairs
WO2021241015A1 (ja) * 2020-05-25 2021-12-02 ソニーグループ株式会社 撮像装置、撮像方法
KR20220147448A (ko) * 2021-04-27 2022-11-03 삼성전자주식회사 색분리 렌즈 어레이를 구비하는 이미지 센서 및 이를 포함하는 전자 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012128154A1 (ja) 2011-03-24 2012-09-27 富士フイルム株式会社 カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
JP2012216940A (ja) 2011-03-31 2012-11-08 Canon Inc 撮像素子、および撮像装置
WO2015045785A1 (ja) 2013-09-30 2015-04-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2015091025A (ja) 2013-11-06 2015-05-11 ソニー株式会社 固体撮像装置およびその駆動方法、並びに電子機器
WO2016098640A1 (ja) 2014-12-18 2016-06-23 ソニー株式会社 固体撮像素子、および電子装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012128154A1 (ja) 2011-03-24 2012-09-27 富士フイルム株式会社 カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
JP2012216940A (ja) 2011-03-31 2012-11-08 Canon Inc 撮像素子、および撮像装置
WO2015045785A1 (ja) 2013-09-30 2015-04-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2015091025A (ja) 2013-11-06 2015-05-11 ソニー株式会社 固体撮像装置およびその駆動方法、並びに電子機器
WO2016098640A1 (ja) 2014-12-18 2016-06-23 ソニー株式会社 固体撮像素子、および電子装置

Also Published As

Publication number Publication date
US20200169704A1 (en) 2020-05-28
JPWO2019035374A1 (ja) 2020-10-08
WO2019035374A1 (ja) 2019-02-21
KR20200037244A (ko) 2020-04-08

Similar Documents

Publication Publication Date Title
JP7230808B2 (ja) 撮像素子および撮像装置
US20230124400A1 (en) Imaging device and electronic device
US12004722B2 (en) Microscope system and medical light source apparatus
US11323679B2 (en) Multi-camera system, camera, processing method of camera, confirmation apparatus, and processing method of confirmation apparatus
JP6915615B2 (ja) 撮像素子、撮像装置、電子機器
KR20200024209A (ko) 촬상 장치 및 화상 생성 방법
WO2019198553A1 (en) Microscope system and medical light source apparatus
JP7230807B2 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
US11729519B2 (en) Video signal processing apparatus, video signal processing method, and image-capturing apparatus
JP7264051B2 (ja) 画像処理装置および画像処理方法
JP2019004978A (ja) 手術システムおよび手術用撮像装置
US11729493B2 (en) Image capture apparatus and image capture method
US11039067B2 (en) Image pickup apparatus, video signal processing apparatus, and video signal processing method
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
JP7160042B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230130

R151 Written notification of patent or utility model registration

Ref document number: 7230808

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151