JP7238770B2 - 情報処理装置、情報処理方法、プログラム - Google Patents
情報処理装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JP7238770B2 JP7238770B2 JP2019519076A JP2019519076A JP7238770B2 JP 7238770 B2 JP7238770 B2 JP 7238770B2 JP 2019519076 A JP2019519076 A JP 2019519076A JP 2019519076 A JP2019519076 A JP 2019519076A JP 7238770 B2 JP7238770 B2 JP 7238770B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- unit
- correction
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 128
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000012937 correction Methods 0.000 claims description 634
- 238000012545 processing Methods 0.000 claims description 375
- 238000003384 imaging method Methods 0.000 claims description 296
- 238000000034 method Methods 0.000 claims description 154
- 230000005484 gravity Effects 0.000 claims description 142
- 230000008569 process Effects 0.000 claims description 107
- 238000000605 extraction Methods 0.000 claims 1
- 230000036544 posture Effects 0.000 description 180
- 230000006870 function Effects 0.000 description 96
- 230000003287 optical effect Effects 0.000 description 91
- 238000001514 detection method Methods 0.000 description 83
- 238000004891 communication Methods 0.000 description 74
- 238000003860 storage Methods 0.000 description 68
- 230000000875 corresponding effect Effects 0.000 description 59
- 238000010586 diagram Methods 0.000 description 43
- 230000008859 change Effects 0.000 description 32
- 230000001133 acceleration Effects 0.000 description 31
- 238000005516 engineering process Methods 0.000 description 26
- 238000004364 calculation method Methods 0.000 description 22
- 238000006243 chemical reaction Methods 0.000 description 21
- 239000011159 matrix material Substances 0.000 description 19
- 238000005070 sampling Methods 0.000 description 19
- 238000001356 surgical procedure Methods 0.000 description 19
- 238000002674 endoscopic surgery Methods 0.000 description 16
- 238000003702 image correction Methods 0.000 description 16
- 230000001276 controlling effect Effects 0.000 description 15
- 230000005236 sound signal Effects 0.000 description 15
- 206010034719 Personality change Diseases 0.000 description 14
- 230000005540 biological transmission Effects 0.000 description 14
- 210000000038 chest Anatomy 0.000 description 14
- 230000007704 transition Effects 0.000 description 14
- 230000033001 locomotion Effects 0.000 description 11
- 238000010606 normalization Methods 0.000 description 9
- 210000001519 tissue Anatomy 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 238000010336 energy treatment Methods 0.000 description 7
- 239000003550 marker Substances 0.000 description 7
- 230000002093 peripheral effect Effects 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 7
- 238000003780 insertion Methods 0.000 description 5
- 230000037431 insertion Effects 0.000 description 5
- 238000005096 rolling process Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 208000005646 Pneumoperitoneum Diseases 0.000 description 4
- 238000005520 cutting process Methods 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 238000005192 partition Methods 0.000 description 4
- 238000003825 pressing Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 210000004204 blood vessel Anatomy 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 210000003815 abdominal wall Anatomy 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 230000001681 protective effect Effects 0.000 description 2
- 238000007789 sealing Methods 0.000 description 2
- 238000002679 ablation Methods 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000002350 laparotomy Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000002406 microsurgery Methods 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002445 nipple Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000001954 sterilising effect Effects 0.000 description 1
- 238000004659 sterilization and disinfection Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6842—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by controlling the scanning position, e.g. windowing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2205/00—Adjustment of optical system relative to image or object surface other than for focusing
- G03B2205/0007—Movement of one or more optical elements for control of motion blur
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Camera Data Copying Or Recording (AREA)
- Accessories Of Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
Description
下記特許文献1にはこのように撮像された動画データについて補正を行うことができるように、記録の際に傾き角の情報を記録する撮像装置について記載されている。
この場合、魚眼画像による動画としての画像データに対する補正を行うことが想定されるが、ユーザに取ってはどのような補正を行うとよいかはわかりにくいことが多い。
例えば動画としての画像データに対するブレ補正や、魚眼レンズで撮像した画像を2次元表示する際に生じる歪み(魚眼歪み)を補正することが想定されるが、ユーザが手軽に補正指示できる環境を提供できることが望まれる。
例えば魚眼レンズ等を用いて撮像した非中心射影方式の像の動画である広角画像データを対象とする。そして歪み補正処理が行われる画像データに対してブレ補正が実行されるようにする。
この画像データに対して歪み補正処理と、ブレ補正処理を、それぞれオン/オフできるようにする。
画像データの再生、つまり動画再生を行っているときに、歪み補正とブレ補正をそれぞれ実行させたり補正処理を停止させたりする。
画像データの再生表示の際に、例えば画面上に歪み補正操作子を表示させてユーザが操作可能とする。
画像データの再生表示の際に、例えば画面上にブレ補正操作子を表示させてユーザが操作可能とする。
画像データの再生表示の際に、例えば画面上に歪み補正操作子とブレ補正操作子の両方を表示させてユーザがそれぞれを任意に操作可能とする。
画像データの再生表示の際に、ユーザ操作に応じて視野変更を行うことができるようにする。この場合に、ユーザ操作のままに視野変動を行っていると、表示画像中の重力方向が表示画像の下方に一致しなくなることが生じる。そこで表示画像中で重力方向が一定に保たれるようにする。
画像データの再生表示の際に、例えば画面上にブレ補正操作子を表示させてユーザが操作可能とする。
画像データの再生表示の際に、例えば画面上に歪み補正操作子とブレ補正操作子と重力方向補正操作子のそれぞれを表示させてユーザがそれぞれを任意に操作可能とする。
即ち歪み補正処理が行われる画像データを対象として重力方向補正を機能させる。
即ち非中心射影方式の像の動画である元の画像データについて、歪み補正処理とブレ補正処理の一方又は両方を実行させた動画としての新たな画像データを生成し、これを記録する。
元の画像データの再生時に、各補正はユーザの指示によりオン/オフされる。その再生時のユーザ設定(各補正の実行有無)に従って記録時の補正の有無を設定する。
例えば元の画像データの再生時に歪み補正やブレ補正を行った区間を示すようにマーキング情報を付加する。記録の際には、このマーキング情報を用いて補正のオン/オフ制御を行う。
これにより再生や編集の際に、歪み補正した画像に対してブレ補正を施した状態を確認できるようにする。
本技術に係るプログラムは、上記方法の手順を情報処理装置に実行させるプログラムである。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
<1.撮像装置の構成>
<2.動作状態の遷移>
<3.撮像装置の内部構成例I>
<4.情報処理装置の構成>
<5.姿勢データ>
<6.露光調整>
<7.マイクロフォン>
<8.撮像装置の内部構成例II>
<9.撮像装置の内部構成例III>
<10.情報処理装置における再生/編集画面>
<11.再生時の画像補正処理>
<12.情報処理装置の機能構成>
<13.情報処理装置による処理例>
<14.情報処理装置のまとめ>
<15.応用例>
<16.本技術>
なお、以下の説明においては、撮像装置の撮像者側を後方と記載し、被写体側を前方と記載する。そして、カメラの撮像者から見た左右方向を記載する。また、重力方向を上下方向として記載する。更に、重力方向に直交する方向を水平方向と記載する。
前面部5は、水平よりもやや上方に向く平面部とされた上方部5aと、上方部5aの下端部から下方に連続し水平よりも略30°下方に向く平面部とされ光学系3が取り付けられている下方部5bとを備えている。
後面部6の一部は、スライド式の蓋部6aとされている(図3参照)。
筐体2の上面部8には各種の機能を実行するためのファンクションボタン12が設けられている。各ボタンを押下した場合の撮像装置1の動作及び機能については後述する。
右の側面部7に設けられた動画ボタン10やタイムラプスボタン11を操作する際には、ユーザは左の側面部7に指をあてがった状態で右のボタンを押すということが通常考えられる。すると、もし左側にもボタンがあると誤ってその左側のボタンを押してしまう可能性がある。
これに対して本実施の形態の撮像装置1では、左の側面部7に操作子が設けられていないことにより、上記のような誤操作の発生を防止できる。特に、何らかの作業中の様子を撮像する場合などにおいては、誤操作の防止により手元を見ずに各操作子を押下することが容易となるため、作業効率を妨げてしまうことがなく、良好な撮像状態を保つことが容易となる。
筐体2の上下方向における中央部には、右の側面部7と前面部5の上方部5aと左の側面部7に亘って報知部14が設けられている。報知部14は、撮像装置の状態等を撮像者及び周囲の者に報知するために発光する機能を有し、例えば、LED(Light Emitting Diode)などの光源と光源の駆動回路と光源から出射される光を拡散するためのカバーレンズとを備えている。
コネクタケーブル15は、例えば、左の側面部7の上端において筐体2の内部から外部へと引き出されており、図1に示す状態においては左の側面部7及び下面部9及び右の側面部7に亘って収納凹部16に収納されている。コネクタケーブル15は、撮像装置1で撮像した画像データ等を外部端末等に送信するために用いられる。
コネクタケーブルは例えばUSB(Universal Serial Bus)ケーブルなどとされる。
撮像基板17は、撮像素子及び周辺の回路等を含んで構成されている。
バッテリ19は、蓋部6aをスライドさせることにより取り外しが可能とされている。
本実施の形態の撮像装置1は、図4Bに示すように、筐体2の左右方向の幅が上下方向の幅よりも小さくされている。これにより、光学系3を前方に突出させるように設けるだけで左右方向の画角に筐体2が映り込んでしまうことが防止される。
これにより、画角の広い魚眼レンズ21などを有する光学系3の性能を十分に引き出して撮像を行うことが可能となる。
これにより、魚眼レンズ21が有する広い画角を生かして広範囲の撮像を行うことが可能となる。
なお、図4A等に示した後面部6は、平面とされているが、非平面であってもよい。例えば、一部に湾曲面を含んだ後面部6や、波状の形状とされた後面部6であってもよい。そのような後面部6であっても、重力方向に後面部6を沿わせた状態においては、魚眼レンズ21の光軸Jは、被写体に対して水平方向よりも下方を向く直線とされる。
女性の胸部厚W1の平均が220.7、頚側点高と乳頭高の差分T1の平均が195.7とすると、θ1=arctan((W1/2)/T1)となり、θ1が29.4°となる。このような具体例においては、本実施の形態のように前面部5のうち水平よりも略30°下方に向く下方部5bに光学系3が取り付けられることにより、実際に首から吊り下げて使用する場合に撮像装置1が良好な体勢とされる。
また、この例において個人間のばらつき(3σ)を考慮し、W1のばらつきを156.50702~284.893、T1のばらつきを187.2749~204.1251とする。この場合、θ1のばらつきは22.7°~34.9°となる。なお、σは標準偏差を表す。
魚眼レンズの画角をφとすると、魚眼レンズの画角のマージンMは以下の式で表すことができる。
M=(φ-π)/2
例えば、φ=220°である場合には、Mが20°となる。即ち、胸部に載置した状態の撮像装置1の光学系の光軸Jが垂直方向とされている状態では、魚眼レンズにおける上方側のマージン及び下方側のマージンが共に20°ずつとなる。
このような状態において、斜線で示す範囲Rを撮像範囲としてカバーするためには、後面部6と直交する線Hと光学系3の光軸Jが成す角度α(即ち光軸Jの傾き)は、(θ1-(φ-π)/2)以上、且つ、(θ1+(φ-π)/2)以下とすることが必要となる。
即ち、筐体2を単に吊り下げた状態においては光学系3の光軸Jが略30°下方を向き、筐体2を撮像者胸部に載置した状態においては光軸Jが略前方(略水平)を向くように撮像装置1が構成されている。
なお、一般的に撮像装置1では筐体2に設けられた振動部20を撮像中に振動させると、撮像画像にブレが生じる虞がある。そのため、通常は筐体2を振動させるような処理を行わないことが考えられる。しかし、本実施の形態の撮像装置1は、撮像画像の再生時に後述するようなブレ補正用の処理を行うことが可能に構成されているため、筐体2を撮像中に振動させることが可能である。
もう一方の紐状部22には、一端部にメス型コネクタ25が取り付けられ、他端部に被取付部24が設けられている。
オス型コネクタ23がメス型コネクタ25に挿着されることにより、2本の紐状部22,22が結合される。そして、それぞれの紐状部22の被取付部24が筐体2の取付部13,13にそれぞれ取り付けられることにより、ストラップ4と筐体2の上面部8が環状部26を形成する(図6参照)。
オス型コネクタ23は、円柱形状のベース部27と、ベース部27から軸方向に突出されたオーバル状突出部28を備えている。ベース部27の軸方向の一端は、紐状部22が取り付けられる取付面27a(図8参照)とされている。オーバル状突出部28は、軸方向に直交する断面形状がオーバル形状とされ、中央部に磁石装着孔29が形成されている。磁石装着孔29にはマグネット30が挿入されている。
図8Aは、オス型コネクタ23をメス型コネクタ25に挿着する前の状態を示している。この状態から、オーバル状突出部28がガイド部33としての傾斜面部32bに接触するまでオス型コネクタ23をメス型コネクタ25に挿入した状態が図8Bに示す状態である。
図8Cは図8Bに示す状態からオス型コネクタ23を略45°回動させた状態を示している。図8Dは図8Bに示す状態からオス型コネクタ23を略90°回動させた状態を示している。
従って、紐状部22の捻れが起きず、適正な状態が保たれる。またこれにより撮像装置1の着用状態において紐状部22が形成する環状部26が小さくなってしまうことが防止され、着用者に首回りの不快感を与えてしまうことを防止できる。
図9A及び図9Bは、オス型コネクタ23とメス型コネクタ25を簡易的に示した模式図である。
図9Aに示す状態でファンクションボタン12を押下すると、ストラップ4を介してオス型コネクタ23に下方への力Fが加えられる。この力Fにより、オス型コネクタ23はメス型コネクタ25に対して角度θ2だけ傾く(図9B参照)。なお、θ2は間隙d1及びメス型コネクタ25の筒状部31の深さLによって決定される。
マグネット30がマグネット34から引き離される方向に加わる力F1は、F×sin(θ2)となる。
マグネット30とマグネット34の間に働く引力をF3とすると、F1>F3の条件を満たすとオス型コネクタ23がメス型コネクタ25から引き離されて、ストラップ4の環状状態が解除される。
このように、適切に間隙d1及び深さLを設定することにより、首から吊り下げた状態の撮像装置1を保持することなくファンクションボタン12を押下しても、ストラップ4のオス型コネクタ23とメス型コネクタ25が乖離して撮像装置1が落下することがない。即ち、ファンクションボタン12を押下する操作が容易となり、撮像のための各種操作の操作性を確保することができる。
また、筐体2を手で保持することなくファンクションボタン12が押下できることにより、光学系3が備える各種レンズに触れることなくファンクションボタン12が押下できるため、レンズの傷付きや汚れの付着を防止することができる。また、画像データに手などが映り込んでしまうことを防止することができる。
更に、適切に間隙D1及び深さLが設定されることにより、筐体2やその内部に配置された各部の重みによりストラップ4のオス型コネクタ23やメス型コネクタ25に負荷が加えられたとしても、コネクタが外れにくく、撮像装置1の脱落が防止される。同様に、撮像者の動作によってコネクタ部分に負荷が加えられた場合でも、撮像装置1の脱落がし難くされる。
図10に示す状態は、首から下げたストラップ4によって撮像装置1が吊下された状態となる。本実施の形態の撮像装置1は、撮像装置1がストラップ4によって吊下された状態においても、光学系3の光軸Jが略前方を向くように構成されていてもよい。
撮像装置1のおおよその重心位置は、撮像装置1が備える各部材のうち重量の大きなものによって決定される。例えば、撮像装置1が備えるバッテリ19及び光学系3が重量の大きな部材であった場合、それらの配置場所によって重心位置のおおよその位置が決定される。
また、首から吊下された状態の撮像装置1の姿勢(筐体2の姿勢)は、ストラップ4が取り付けられる位置(取付部13)と重心位置が垂直方向に並ぶようにされる。図11は、撮像装置1の重心位置Gとストラップ4の取付部13の位置関係を一点鎖線で示している。図示するように、重心位置Gは取付部13(或いは被取付部24)に対して垂直方向に位置している。
換言すれば、撮像装置1の姿勢を光学系3の光軸Jが水平方向となるようにしたときに、ストラップ4の取り付け位置(被取付部24と取付部13の接触位置)よりも前方側に重量の大きな部材(光学系3)が配置されており、且つ、該取り付け位置よりも後方側にも重量の大きな部材(バッテリ)が配置されている。
これにより、ストラップ4によって撮像装置1が吊下された状態において、光学系3の光軸Jが略前方を向くようにされる。即ち、撮像者が屈むような姿勢を取ったときであっても、手で撮像装置1を支えることなく撮像者の水平方向正面を撮像することが可能となる。
また、撮像者が屈むような姿勢と直立姿勢を交互に取ったとしても撮像装置1の光学系3の上下方向の向きの変化が少なくされるため、ブレの少ない撮像画像を撮像することができる。
マイクロフォン35は、例えば、前面部5の上方部5aの上端に沿って左右に離隔して二つ設けられ、前面部5の下方部5bの下端に沿って左右に離隔して二つ設けられている(図1、図12参照)。
撮像装置1は、他にも姿勢データ生成部としての3軸ジャイロセンサ(後述)及び3軸加速度センサ(後述)を筐体2の内部に備えている。姿勢データは、撮像装置1の姿勢を示すデータであり、後述する各種補正に用いられる。
3軸ジャイロセンサ及び3軸加速度センサは、撮像装置1が備える剛体に取り付けられていれば何れの場所であってもよい。
レンズカバー36は、例えば、スライド式とされ、必要に応じて撮像可能なように魚眼レンズ21を露出させる「開放位置」(図12A参照)と魚眼レンズ21の全部又は一部を覆う「保護位置」(図12C参照)の間を移動可能に構成されている。なお、図12Bは、レンズカバー36を開放位置から保護位置へと移動させている途中の状態を示している。
また、非撮像時に光学系3がレンズカバー36によって覆われることにより、非撮像状態であることを周囲に通知することができる。
これにより、撮像装置1の消費電力を抑制することができ、撮像時間の長時間化を図ることができる。また、消費電力の抑制により撮像装置1に搭載するバッテリ19を小型のものとすることも可能である。
更に、電圧供給の停止を行うことにより、各部の長寿命化を図ることが可能である。
このような形状とすると、撮像者の胸部に撮像装置1を載置した状態において筐体2が左右方向に揺さぶられた際に、胸部における後面部6の良好な載置状態が確保され、撮像者の左右方向の揺れ以上に筐体2が揺さぶられることが防止される。
筐体2の左右両端が魚眼レンズ21の画角に入り込まない程度に筐体2を横長の形状とすることで、魚眼レンズ21の画角を最大限利用しつつ横揺れに強い撮像装置1を提供することができる。
1又は複数のマイクロフォン35の配置に関しても各種考えられる。例えば、図6に示すように筐体2の上部及び下部にそれぞれ設ける他に、図14に示すように、筐体2上部にのみ設けるようにしてもよい。
また、図示しないが、筐体2の下部にのみ設けてもよい。
さらには、マイクロフォン35は、ストラップ4の紐状部22やオス型コネクタ23内やメス型コネクタ25内に設けてもよい。
また、マイクロフォン35として骨伝導方式を採用したマイクロフォン35を用いてもよい。
上述した例では、筐体2に振動部20が設けられた例を示したが、ストラップ4に振動部20が設けられていてもよい。例えば、ストラップ4の紐状部22やオス型コネクタ23やメス型コネクタ25に振動部20が設けられていてもよい。
図15は、オス型コネクタ23やメス型コネクタ25に振動部20が設けられた例をいくつか示したものである。
振動部20を一方のコネクタに設けることにより、部品点数の削減及びコスト削減を図りつつ、振動部20を用いた撮像者への通知を効率的に行うことができる。
このようなカメラ機器501及び取付ユニット500を備えた撮像装置1であっても、上記した各種の効果を得ることができる。
オス型コネクタ23は、メス型コネクタ25に挿入される挿入部分とそれ以外の非挿入部分から成り、非挿入部分の端部にはフランジ形状の把持部23aが形成されていてもよい。
オス型コネクタ23をメス型コネクタ25に挿着する場合に、指が把持部23aに掛かることにより指が把持部23aよりもメス型コネクタ25側へ滑らないようにされる。
これにより、オス型コネクタ23とメス型コネクタ25の間に指が挟まれてしまうことが防止される。
また、オス型コネクタ23をメス型コネクタ25から抜去する場合に、指を把持部23aに掛けるようにすることにより、抜去に必要な力が小さくされる。即ち、抜去しやすい。
図18に撮像装置1の動作状態の遷移の例を示す。
状態ST1は撮像装置1が「電源オフ状態」又は「スタンバイ状態」にあることを示している。
この場合、スタンバイ状態とは、外部機器と例えばWi-Fi(登録商標:Wireless Fidelity)等の通信方式により無線通信が可能となっている状態を指している。例えば携帯端末等の外部機器との無線通信が確立されている状態では、撮像者は、外部機器の操作によって、上述の動画ボタン10、タイムラプスボタン11、ファンクションボタン12に相当する操作を行うことができる。
また、撮像装置1が生成する動画データは通常の動画データと同じものとし、動画データの編集を行う時点で該編集を行う他の情報処理装置上で動画データから構成要素としての静止画データを間引いてタイムラプス動画を生成してもよい。
これにより、状態ST2で動画データを生成/記憶する撮像装置1の処理と及び状態ST3でタイムラプス動画データを生成/記憶する撮像装置1の処理は略同じものとなるため、処理の簡易化を図ることができる。
マーカー記録状態でマーカーが記録された後、撮像装置1は自動的に状態ST2の動画撮像中状態へと移行する。
静止画撮像状態で静止画が記憶された後、撮像装置1は自動的に状態ST3のタイムラプス動画記憶中状態へと遷移する。
なお、状態ST3においてファンクションボタン12が押下された場合に、状態ST6への遷移ではなく状態ST4へ遷移するように構成されていてもよい。即ち、直前或いは直後に行われるタイムラプス動画のフレームにマーカーを記録する処理を行ってもよい。
また、これらの遷移をファンクションボタン12を押下する操作態様に基づいて切り換えてもよい。例えば、ファンクションボタン12を短く押下した場合に状態ST3から状態ST6へと遷移し、長く押下した場合に状態ST3から状態ST4へと遷移してもよい。
他にも、ファンクションボタン12を一定時間内に押下した回数によって遷移先の状態を切り換えてもよい。
静止画撮像状態で静止画が記憶された後、撮像装置1は自動的に状態ST1へと遷移する。
なお、状態ST5及び状態ST6とした静止画撮像状態では、静止画データの記憶のタイミングで筐体2に設けられた音声出力部から電子的なシャッター音等を出力してもよい。これにより、周囲に静止画を撮像したことを周知させる。
また、音出力の代わりに報知部14を点滅させるなどして報知してもよい。勿論、音出力と報知部14の点灯を同時に行ってもよい。
報知部14は、上記した各状態に応じた報知を行うが、それ以外の状態を報知してもよい。例えば、撮像装置1が備えるバッテリ19の消耗が大きく残りの動作時間が短い状態においては、バッテリ容量の低下を報知するために例えば報知部14が赤色に点滅してもよい。
これにより、撮像者がバッテリ低下を認識することができ、撮像時間を引き延ばすために操作を控えるなどの対策を講じることができる。
これ以外にも、複数の報知機能を時系列で分けてもよい。具体的には、3秒間バッテリ容量の低下に関する報知を行った後に3秒間撮像装置1の状態が何れであるのかを報知してもよい。
即ち、撮像者は行動時において、動画と間欠動画(タイムラプス動画)の記録を選択できる。
またタイムラプス動画により、より長時間の動画におけるデータ量を削減したり、タイムラプス動画の独特の映像効果を楽しむことができるようになる。
撮像装置1の内部構成例Iを図19で説明する
図19に示すように撮像装置1は、光学系3、撮像素子部112、光学系駆動部113、音声入力部114、音声処理部115、操作部116、記憶部117、通信部118、信号処理部121、制御部122、検出部125、電源部128、振動部20、報知部14を備えている。
光学系3は、魚眼レンズ21やフォーカスレンズ、集光レンズ等を有して構成されている。さらにズームレンズや絞り機構を備えることも考えられる。この光学系3により、被写体からの光が撮像素子部112に集光される。
魚眼レンズ21は、中心射影以外の射影(例えば、等距離射影)により光を集光して後段の撮像素子部112に導くものである。なお、魚眼レンズ21の射影方式は、中心射影以外のものであれば等距離射影に限定されない。例えば、正射影や等立体角射影であってもよい。
また魚眼レンズ21を用いて撮像される画像はいわゆる広角画像の範疇に含まれる。
この撮像素子部112では、撮像素子での光電変換で得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像信号を、後段の信号処理部121に出力する。
この撮像信号は、撮像素子の配列によって得られる、2次元格子状に配列された複数の画素からなるとともに、魚眼レンズ21を介して入射された被写体像としての円形の魚眼画像を含む。
また光学系3に絞り機構やズームレンズが設けられる場合、光学系駆動部113は、制御部122の制御に基づいて、光学系3における絞り機構を駆動し、露光調整を実行したり、ズームレンズを駆動し、ズーム動作を実行させる場合もある。
例えば信号処理部121は、撮像画像信号に対してノイズ除去処理、色補正処理、輪郭強調処理、解像度変換処理、コーデック処理等を行う。
本実施の形態の場合、撮像装置1は通常動画又はタイムラプス動画としての動画撮像を行うものであり、従って信号処理部121は、撮像素子部112の出力から動画としての画像データを生成する画像データ生成部100としての機能を発揮することとなる。
このデジタル音声データは信号生成部121において必要な処理、例えばデジタルフィルタ処理、ノイズ除去、エンコード等を施されて、画像データに付随する音声データとして記録処理される。
CPUがROMやフラッシュメモリ等に記憶されたプログラムを実行することで、この撮像装置1全体を統括的に制御する。
RAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。
ROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
また、制御部122は、信号処理部121に対する指示を行うことにより、信号処理後の画像データを記憶部117や通信部118へ出力する。
さらに本実施の形態では制御部122は、検出部125からの検出情報に基づいて撮像装置1の姿勢を示す姿勢データを生成する処理を行う。特に姿勢データは、信号処理部121で生成する画像データ(動画)の各フレームに対応して生成する。つまり制御部122は、画像データの各フレームに対応するタイミングで撮像装置1の筐体の姿勢データを生成する姿勢データ生成部101としての機能を発揮することになる。画像データの各フレームに対応させた姿勢データを生成することにより、後述するブレ補正などの各補正が実現可能である。
また記憶部117にエンコーダやデコーダを設けて画像データの圧縮符号化や伸張復号化を行い、記憶媒体には符号化データを記録するようにしてもよい。
また記憶部117は、制御部122(姿勢データ生成部101)によって生成された姿勢データも記憶媒体に記憶させる。
このような記憶部117は、画像データと姿勢データとを記憶媒体に対して出力するデータ出力部の一態様となる。
即ち、記憶媒体に画像データ及び姿勢データを記憶することにより、例えば外部機器に対して各データを受け渡すことが可能となる。従って、編集処理等の各種処理(詳しくは後述)を外部機器で行うことができる。そのため、これらの処理を撮像装置1で行うためのプログラム領域を撮像装置1の記憶領域に設ける必要が無く、記憶領域を削減することができる。
例えば通信部118は制御部122の制御により、記憶部117に記憶された画像データと姿勢データを外部機器へ送信する処理を行う。これにより撮像装置1は図示しない外部機器に画像データ、姿勢データを出力し、外部機器において撮像した動画としての画像データを、姿勢データを用いて処理することができるようにしている。
また、上述したように無線通信等により外部機器からの動画ボタン10、タイムラプスボタン11、ファンクションボタン12に相当する操作を受け付けることも可能となる。
また通信部118は例えば図20Bに示すように、有線通信によって画像データ及び姿勢データを情報処理装置150に送信することができる。有線通信としては、例えばUSBケーブル等のコネクタケーブル15を用いた通信が考えられる。
また通信部118は、ネットワーク通信部として、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
このような通信部118は、画像データと姿勢データとを外部機器に対して出力するデータ出力部の一態様となる。
即ち、外部機器に対して画像データ及び姿勢データを提供することが可能となる。
従って、編集処理等の各種処理(詳しくは後述)を外部機器で行うことができ、それらの処理を行うためのプログラム領域を撮像装置1の記憶領域に設ける必要が無く、記憶領域を削減することができる。
これらの操作の操作情報は制御部122に供給される。制御部122は操作情報に応じて、上述の動作遷移を実行するための必要な制御を行う。
さらに図示していないが検出部125には、露光調整等のための外部照度を検出する照度センサや、被写体距離を測定する測距センサなどが設けられてもよい。
センサ部125の各種センサは、それぞれ検出信号を制御部122に伝達する。制御部30は、検出部125で検出された情報を用いて各種制御を行うことができる。
特に上述したように制御部122は姿勢データ生成部101としての機能により、ジャイロセンサ126、加速度センサ127の検出信号に基づいて姿勢データを生成する処理を行う。
本実施の形態の場合、振動部20はバッテリ残量の警告のために振動させるようにしている。
例えば動画撮像動作中に発光することで、周囲の人に動画撮像を行っていることを報知するようにしている。
本実施の形態では、制御部122はバッテリ7の電圧を検知することでバッテリ残量監視を行うようにしている。これにより例えばバッテリ残量が低下したときに、振動部20による振動を実行させて、撮像者にバッテリ残量不足を通知する。
続いて図20に示したように撮像装置1から画像データと姿勢データを受信する情報処理装置150の構成を説明する。情報処理装置150は、例えば図21のようなハードウェア構成で実現される。
図21に示すように情報処理装置150は、CPU(Central Processing Unit)151、ROM(Read Only Memory)152、RAM(Random Access Memory)153を有して構成される。
CPU151は、ROM152に記憶されているプログラム、または記憶部159からRAM153にロードされたプログラムに従って各種の処理を実行する。RAM153にはまた、CPU151が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU151、ROM152、およびRAM153は、バス154を介して相互に接続されている。このバス154にはまた、入出力インターフェース155も接続されている。
入力部157は、情報処理装置150を使用するユーザが用いる入力デバイスを意味する。
通信部160は、インターネットを含むネットワークを介しての通信処理や、周辺各部の機器との間の通信を行う。少なくとも通信部160は、撮像装置1の通信部118との間の有線又は無線通信を行うことができるものとされる。
もちろんドライブ161は、磁気ディスク、光ディスク、光磁気ディスク等のリムーバブル記憶媒体に対する記録再生ドライブとされてもよい。
これらの処理はCPU151で起動されるソフトウェアにより実現される。そのソフトウェアを構成するプログラムは、ネットワークからダウンロードされたり、リムーバブル記憶媒体から読み出されたりして図21の情報処理装置150にインストールされる。或いはそのプログラムが記憶部159としてのHDD等に予め記憶されていてもよい。そしてCPU151において当該プログラムが起動されることで、情報処理装置150の各機能が発現する。
画像編集装置、記録再生装置、テレビジョン受像器など各種の電子機器が図21のような構成を備えることで情報処理装置150として機能することもできる。
撮像装置1の制御部122が生成する姿勢データについて、図22、図23を参照して説明する。
姿勢データは、撮像装置1の筐体2の姿勢を示すデータであり、制御部122が備える姿勢データ生成部101で生成される。姿勢データとしては、例えば、ジャイロセンサ126によって計測される角速度データや加速度センサ127によって計測される加速度データなどである。
複数のフレームが連続する動画としての画像データに対しては、各フレーム期間に対応して姿勢データが生成されるようにしている。
なお図示していないが、加速度センサ127の3軸の各検出信号についても同様にサンプリングして、その時点の加速度データax0、ay0、az0を得る。
制御部122は、これら角速度データωx0、ωy0、ωz0、加速度データax0、ay0、az0を、或る1つのサンプル時点での姿勢データとして生成する。
制御部122は、このような姿勢データを、所定のサンプルタイミングで生成する。
情報処理装置150では、撮像装置1から取得した姿勢データを用いて画像データのブレ補正や重力方向補正等を行う。その差異には、図22に示すように姿勢データに対して各種処理を行って必要な姿勢情報を得る。画像補正用の処理とは、例えば、微分値算出処理やジャイロセンサ126のサンプリング間隔の更新処理や四元数のノルム正規化処理等である。
なお、このような微分値、ノルム正規化値を制御部122が算出し、これらを姿勢データに含めて情報処理装置150に転送できるようにしても良い。
例えば1フレーム期間に1回のレートで姿勢データ生成を行うことが考えられる。またより精細な姿勢変動を示す情報とするために、図22に示すように1フレーム期間に複数回のレートで姿勢データ生成を行うようにすることも考えられる。
所定のフレーム周波数で決まる各フレームの期間は、露光期間と非露光期間に分けることができ、露光期間は、光学系3を通過した光を撮像素子部112に露光させる時間であり、電子シャッタースピードに応じて変動する。フレーム期間は一定であることから、露光期間が長くなれば非露光期間が短くなり、露光期間が短くなれば非露光期間は長くなる。
なお、姿勢データ生成は、露光期間、非露光期間にかかわらず、一定の周期で行われる。
例えば、フレーム期間内の姿勢変化も検出できることで、いわゆるローリング歪みの補正にも使用できる姿勢データとなる。
撮像装置1で得られる画像データは魚眼画像である。魚眼画像においては仮想球面上で切り出し位置を変えることでブレ補正を行うが、そのためにはブレの方向及び量に対して反対に切り出し位置を変位させる。
この場合、或る姿勢(例えば撮像開始時の姿勢による撮像方向)を基準とした撮像装置1の絶対的な姿勢情報が必要である。そのためには、各タイミングで得られる姿勢データ(角度変化の情報)を積み上げていく必要がある。
これを踏まえてフレームレートより高いサンプリングレートに対応して姿勢データ生成を行うことを考えると、非露光期間において姿勢データ生成を休止すると、姿勢変位がとれないタイミングが発生する。これにより絶対位置としての姿勢情報が不正確になる。そこで、動画フレームに同期する姿勢データ生成であっても、電子シャッタースピードを含むフレーム動作に影響されずに、所定のサンプリングレートに従って姿勢データ生成を行うようにし、ブレ補正のための位置情報が常に正しく算出できるようにしている。
タイムラプス動画撮像の際には、フレームレートに対して十分長いインターバルを挟んで画像データを生成する。即ち間欠的なフレームにより生成した動画データである。
図23の例では撮像されるフレームであるframe(0)~frame(N)を示しているが、例えばframe(0)、frame(N)は有効フレーム(画像データとして記録されるフレーム)であり、frame(1)~frame(N-1)は画像データに含まれない無効フレームを表している。
例えば、30fps(Frame Per Second)のフレームレートに対して約3秒のインターバルを挟むタイムラプス動画撮影では、有効フレームとされたframe(0)の最初の撮像から無効フレームとされたframe(1)~frame(89)を挟んで次の有効フレームであるframe(90)の撮像を行う。frame(90)の次の有効フレームは、frame(180)である。
タイムラプス動画としての画像データに含まれて記録されるフレームは、有効フレームのみであり、この場合はframe(0)、frame(90)、frame(180)、・・・である。
即ち、画像データ生成部100において、間欠フレーム動画としてタイムラプス撮像による画像データ生成を行う場合、姿勢データ生成部101は、有効フレーム期間と無効フレーム期間のいずれにおいても姿勢データの生成を行う。
無効フレーム期間においても姿勢データ生成を行うことで、有効フレーム期間/無効フレーム期間に限らず各時点の姿勢差分を積み上げていくことができ、初期姿勢からの変位量を正確に求めることができる情報となる。
即ち、信号処理部121(画像データ生成部100)において、間欠フレーム動画としての画像データ生成を行う場合、制御部122(姿勢データ生成部100)は、1フレーム期間における姿勢データの生成回数を、無効フレーム期間には有効フレーム期間よりも少ない回数としてもよい。
一方で、フレーム毎のカメラ姿勢検出は、ローリング歪み補正を考えなければ1フレームに1回又は数回に相当する姿勢データで十分である。そしてタイムラプス動画の場合、使用していないフレーム期間の姿勢データは当然、ローリング歪みに用いることはない。そこで、無効フレーム期間はサンプリングレートを落とすことで、カメラ側の消費電力の削減や、姿勢データのデータ量の削減を図ることができる。
なお、必ず1フレームに対応する姿勢データを少なくとも1つ生成するという条件を満たすようにする場合には、無効フレーム期間のサンプリングレートは、最低でも、フレーム同期信号(垂直同期信号)と同等とする。
記憶部117は記憶媒体に画像データと姿勢データを記憶させる。例えば内蔵のカードメディアなどを用いて画像データとともに姿勢データを記憶させることができる。また通信部118は外部機器(情報処理装置150)に対して画像データと姿勢データを送信することが可能とされている。
即ち画像データ生成部100が生成した画像データと姿勢データ生成部101が生成した姿勢データは、有線又は無線の通信処理により外部機器に対して出力されるようにする。或いはメモリカード162等の記憶媒体により画像データと姿勢データを受け渡すことができる。
これらにより外部機器(情報処理装置150)が画像データとともに姿勢データを取得することができ、外部機器において動画としての画像データについて後に姿勢データを用いた処理が可能になる。
また姿勢データ生成部101は、3軸の加速度センサ127の検出情報で各時点の重力方向に対する姿勢変化や、動きによって撮像装置1の本体(筐体2やその内部及び外部に配置された各部)にかかる加速度の大きさを得、それに基づく姿勢データを生成している。
これにより撮像装置1の精細な姿勢状態を各フレーム毎に示す情報とすることができる。
なお、撮像装置1の本体にかかる加速度の値は、撮像装置1の本体の激しい動きの情報となり、重力方向の推定の信頼性を図る情報となり、後述する重力方向の補正の実行可否の判断材料とも成り得る。
また本実施の形態において姿勢データは、角速度データ、加速度データの両方でなく、一方を含むものとしてもよい。また1軸又は2軸の角速度データ又は加速度データでもよい。
また、図22、図23では、ジャイロセンサ126や加速度センサ127の検出信号として得られる角速度データ、加速度データそのものを姿勢データとして扱ったが、角速度データや加速度データに画像補正用の各処理を施したデータを姿勢データとしてもよい。
本実施の形態の撮像装置1においては、上述の姿勢データを露光制御に利用している。ここでは露光制御として電子シャッタースピードの調整とAGC処理のゲイン調整を行う例で説明する。
具体的に、図24を参照して説明する。
図24A、図24Bは露光制御特性を示している。各図の横軸は照度、縦軸は電子シャッターの露光時間とAGCゲインである。
照度が十分に大きい場合、即ち照度Ixが照度閾値th1よりも大きい場合は、露光時間が調整範囲内で最も短い最小値Sminで、且つAGC処理のゲインが調整範囲内の最小値Gminとされている。
一方、光量が足りない場合は、電子シャッターの露光時間を長くするか、或いはAGC処理のゲインを上げることで露光調整を行う。但し、撮像素子からの出力信号に対するゲインを上げる露光調整はノイズ面などで不利であることから、電子シャッター制御を優先する。
照度Ixが照度閾値th2よりも大きく照度閾値th1以下である場合は、露光時間を照度Ixに応じて長くする。このとき、AGC処理のゲインは最小値Gminのままとする。
露光調整のための露光時間の最大値を“Smax1”とする。照度Ixが照度閾値th2のときに、露光時間が最大値Smax1に達するとする。
この場合、さらなる照度低下についてはシャッタースピード制御では対応せず、AGCゲインで対応する。
照度Ixが照度閾値th3よりも大きく照度閾値th2以下である場合は、露光時間を最大値Smax1としたままAGC処理のゲインを変更していく。即ち照度Ixに応じて上昇させる。
露光調整のためのAGCゲインの最大値を“Gmax”とする。照度Ixが照度閾値th3のときに、AGCゲインが最大値Gmaxに達するとする。
照度Ixが照度閾値th3以下では、露光時間が最大値Smax1で且つAGCゲインが最大値Gmaxとされる。
図24Aと比較して、露光時間の最大値Smax1が、最大値Smax2に変更される。またゲイン制御を行う期間を決める照度閾値th2,th3が、照度閾値th2’,th3’に変更される。
照度Ixが照度閾値th2’(>照度閾値th2)よりも大きく照度閾値th1以下である場合は、AGC処理のゲインをGminとしたままを照度Ixに合わせて露光時間を調整する。
照度Ixが照度閾値th3’(>照度閾値th3)よりも大きく照度閾値th2’以下である場合は、露光時間をSmax2(<Smax1)としたまま照度Ixに合わせてAGC処理のゲインを調整する。
照度Ixが照度閾値th3’以下である場合は、露光時間が最大値Smax2で且つAGCゲインが最大値Gmaxとされる。
なお、この図24Bの例のAGC処理を示す実線では最大値Gmaxは図24Aと同じレベルとしているが、一点鎖線で示すように最大値Gmax’としてゲイン最大値を大きくしてもよい。またそれに応じて照度閾値th3’は照度閾値th3’’とする。図24Bの場合、露光時間の最大値Smax1を最大値Smax2に変更する分、ゲイン最大値を大きくしておかないと、暗いシーンにおけるトータルゲインが小さくなってしまい、結果として暗い画像になってしまうためである。
AGCゲイン上昇によるノイズ的な不利な点と、露光時間を長くすることによるブラーの影響を勘案して、露光時間の最大値Smax2や照度閾値th3’、th2’が設定される。
自動露光制御では、制御部122が先ずステップS101で、第1制御設定処理を行う。第1制御設定処理では、照度Ixの判定閾値として、照度閾値th1、照度閾値th2及び照度閾値th3を用いるように設定する。また第1制御設定処理では、電子シャッター制御の最大値を“Smax1”とするように設定する。これにより、姿勢データの変化(姿勢変化)が小さい場合に対応した図24Aに示すような制御特性で自動露光調整が行われる。
一方、自動露光制御がONである場合は、制御部122は続くステップS103の姿勢変化量算出処理を実行する。姿勢変化量は、例えば、ジャイロセンサ126や加速度センサ127などの検出部125によって測定される姿勢データから算出可能である。
一方、姿勢変化の傾向が変化した場合、制御部122は続くステップS105で姿勢変化が小から大へと変わったかを判定する。
姿勢変化が小から大へと変わった場合、制御部122はステップS106で第2制御設定処理を行う。
第2制御設定処理では、照度Ixの判定閾値として、照度閾値th1、照度閾値th2’及び照度閾値th3’を用いるように設定する。更に、第2制御設定処理では、電子シャッター制御の露光時間の最大値を“Smax2”とするように設定する。これにより、姿勢変化が大きい場合に対応した図24Bに示すような制御特性での自動露光調整が行われる。
ステップS106またはステップS107を実行した制御部122は、ステップS102の処理へと戻る。
本実施の形態の場合、フレームレート以上のサンプリングレートで姿勢データ生成を行っており、撮像中は常にジャイロセンサ126又は加速度センサ127の検出情報を確認することで姿勢の動きの大小がわかる。
姿勢の動きが大きい場合、露光時間が長い程、画像にブラーが発生する可能性が大きくなる。そこで姿勢の動きが大きい場合は、第2の範囲により露光調整を行うことで、ブラーの発生を抑えるようにしている。
撮像装置1は、筐体2の内部にマイクロフォン35が配置されており、筐体2の外周面には該マイクロフォン35に対応する位置に音声を取り入れるための孔が形成されている。
音声入力部114及び音声処理部115のブロック図の例を図26A,図26B,図27に示す。
上部左に設けられたものをマイクロフォン35L、上部右に設けられたものをマイクロフォン35Rとする。音声入力部114としては一対のマイクロフォン35R,35Lが設けられることになる。
筐体2の上部左に設けられたマイクロフォン35Lから入力されたアナログ音声信号は、マイクアンプ38Lで増幅され、フィルタ39Lによって帯域制限された後、A/Dコンバータ40Lによってデジタル化されて左チャンネルの音声データALとして後段の信号処理部121に入力される。
筐体2の上部右に設けられたマイクロフォン35Rから入力されたアナログ音声信号は、同様にマイクアンプ38R、フィルタ39R及びA/Dコンバータ40Rを介して右チャンネルの音声データARとして信号処理部121に入力される。
そしてマイクロフォン35,35を筐体2の上方に配置することで、筐体2の上方から入力される撮像者の音声などが拾いやすくされる。これにより、例えば解説動画などを撮像する撮像者にとって、利便性の高い撮像装置1を提供することができる。
筐体2の上部左に設けられたものをマイクロフォン35TL、上部右に設けられたものをマイクロフォン35TRとし、筐体2の下部左に設けられたものをマイクロフォン35BL、下部右に設けられたものをマイクロフォン35BRとする。
一方、筐体2の下部左に設けられたマイクロフォン35BLから入力されたアナログ音声信号は、マイクアンプ38BL、フィルタ39BL、A/Dコンバータ40BLを介して減算器42L1へ入力される。
減算器42L1では、マイクロフォン35TLから入力された音声信号からマイクロフォン35BLから入力された音声信号の減算処理が行われる。例えば、筐体2の上部から入力される撮像者の音声などの一部が抽出される。一方、遠方から発せられる音声は上部のマイクロフォン35TLと下部のマイクロフォン35BLそれぞれを介して略同じ音声信号として出力されるため、減算器42L1でキャンセルされてほぼ残らない。即ち、減算器42L1では、下部のマイクロフォンと上部のマイクロフォンに入力された音声信号の差分が抽出される。
減算器42L1で抽出された差分信号は、乗算器43Lによって係数Kが乗算される。なお、係数Kは0~1のいずれかの値であり、例えば0.5とされる。
続く減算器42L2では、上部のマイクロフォン35TLから入力された音声信号から上記乗算された差分信号を減算する。これにより、減算器42L2から出力される信号は上部のマイクロフォン35TLと下部のマイクロフォン35BLの差分が軽減されたものとなる。この信号が左チャンネルの音声データALとして後段の信号処理部121に入力される。
AL=AS1-(AS1-AS2)×K
として表すことができる。
同様に、右チャンネルの音声データARは、A/Dコンバータ40TRの出力をAS3、A/Dコンバータ40BRの出力をAS4とすると、
AR=AS3-(AS3-AS4)×K
として表すことができる。
従って、例えば、撮像者の声のみが大音量で録音され、周辺の音声が聞き取りにくくなってしまう虞を排除することができる。
上部左に設けられたマイクロフォン35TLと下部左に設けられたマイクロフォン356BLの音声信号を使って減算器42L2から出力される信号は図26Bと同様であるため、説明を省略する。
図27に示す例では、上下のマイクロフォンの入力信号の差分を軽減した信号(即ち減算器42L2の出力信号)に対して、更に上部左に設けられたマイクロフォン35TLの高周波成分だけを加える処理を行う。具体的には、マイクアンプ38TL、フィルタ39TL、A/Dコンバータ40TLを通過させたマイクロフォン35TLの信号を更にHPF(High-Pass Filter)41Lを通過させて高周波成分を取りだし、加算器44Lで該高周波成分と先の減算器42L2の出力信号を加算して後段の信号処理部121に入力する。
AL=AS1-(AS1-AS2)×K+AS5
として表すことができる。
同様に、右チャンネルの音声データARは、A/Dコンバータ40TRの出力をAS3、A/Dコンバータ40BRの出力をAS4とし、HPF41Rの出力をAS6とすると、
AR=AS3-(AS3-AS4)×K+AS6
として表すことができる。
周囲の反射物質の中には、高周波成分を吸収しやすい撮像者の着用している衣服などが含まれている可能性がある。
仮に下部のマイクロフォンから入力される音声信号の高周波成分が減衰していた場合、図26Bに示す構成によれば、該高周波成分が上部のマイクロフォンと下部のマイクロフォンで差分が大きくなり、減算器42L2,42R2で高周波成分がカットされてしまう。
図27に示す構成によれば、改めて加算器44L,44Rで高周波成分が加えられるため、聞き取りやすい音声信号を後段の信号処理部121へ入力することが可能となる。
なお、図26A,図26B,図27に示す各構成は撮像装置1がステレオ音声入力に対応したものであるが、モノラル音声入力の構成であってもよい。
本実施の形態の撮像装置1では、前述したように画像データに対応した姿勢データを生成する。図19の構成の場合は、制御部122が画像データ生成と姿勢データ生成を管理できるため、画像データのフレームと姿勢データの対応付けは、制御部122の内部処理(例えば姿勢データに対するフレームのタイムコードの対応付け等)で可能である。しかし、画像データ生成を制御する制御部と姿勢データ生成を行う制御部とが別体のマイクロコンピュータ等で実行される構成も考えられる。そしてその場合、撮像装置1から出力される姿勢データにフレームへの対応情報が付加されないことも想定される。
そのような場合に、撮像装置1から画像データと姿勢データを受け取った情報処理装置150において、姿勢データをフレームに対応付けできるようにするための構成例を以下、撮像装置の内部構成例IIとして述べる。これは情報処理装置150が画像データと姿勢データを取得したときに、それらデータ自体から動画としての画像データと姿勢データの対応付けができるようにするための構成例である。
図28に示す撮像装置1は、カメラユニット130と検出ユニット131を備えている。カメラユニット130は、図19に示す各構成要素のうち、検出部125を備えていない。また制御部122は姿勢データ生成部101としての機能を備えていない。
制御部132は姿勢データ生成部101としての機能により、検出部125からの検出情報に基づいて撮像装置1の姿勢を示す姿勢データを生成する処理を行う。
発光部129は、例えばLEDがカメラユニット130の鏡筒内に設けられており、LEDの発光が撮像素子部112で撮像した画像データの一部に影響を及ぼすように構成されている。具体的には、LEDの発光が撮像素子部112の撮像信号に影響を及ぼすように構成されている。或いはフレーム画像全体がLEDの発光により高輝度状態となるようにされている。
この場合、撮像素子部112は発光部による通知を検知する検知部として機能することになる。
従ってカメラユニット130が撮像する画像データの1フレームに対して一つの姿勢データが対応する割合で、姿勢データを生成することになる。
なお、カメラユニット130の操作部116には、ユーザが撮像開始を指示するためのボタン(動画ボタン10など)等が含まれ、検出ユニット131の操作部133には、ユーザが姿勢データ生成開始を指示するためのボタン等が含まれている。
カメラユニット130の制御に関するフローチャートの一例が図29Aである。カメラユニット130の制御部122は、ステップS201で撮像開始トリガを検知したか否かを判定する。撮像開始トリガは、例えば、動画ボタン10やタイムラプスボタン11などを撮像者が押下した際などに検知される。撮像開始トリガが検知されない場合、制御部122は再びステップS201を実行する。
なお撮像開始トリガは、タイマ制御、遠隔制御、何らかの検出による自動撮像開始制御など、ユーザの動画ボタン10やタイムラプスボタン11の操作以外にも発生される例が考えられる。
制御部122は、終了トリガを検知したか否かをステップS204で判定する。制御部122が終了トリガを検知するまでステップS204の処理が実行されると共に先のステップで開始した画像データの生成及び記憶が続けられる。
図18のモード遷移の例でいえば、動画記憶中の動画ボタン10やタイムラプスボタン11の操作は終了トリガとなる。もちろん、所定の時間経過や遠隔操作、何らかの検出による自動撮像記録の終了制御など、他にも終了トリガ発生例は考えられる。
図29Aに示す一連の処理を制御部122が行うことにより、例えば撮像者の操作による撮像及び画像データの記憶が行われる。
開始操作を検知していない場合、制御部132は再びステップS301の処理を実行する。
そして制御部132はステップS303で、姿勢データの生成と姿勢データの記憶を開始する。
即ち、制御部132は、該垂直同期信号と同じ周波数であり非同期のタイミング信号を生成し、該タイミング信号に基づいて検出信号を取得する。更に、制御部132は、検出信号から姿勢データを生成し、記憶部134に記憶する。従って、例えば、カメラユニット130で撮像した動画の1フレームに対応して一つの姿勢データが記憶される。
なお、説明の便宜上、ステップS302~S304として示しているが、発光制御と姿勢データ生成のための検出信号取得開始は略同時に行われれば処理の前後は問わない。また、多少のタイムラグはあっても、その時間差が固定的であればよい。あくまでも、画像データにおけるLED発光の影響を受けたフレームと、そのときの撮像装置1の姿勢を示す姿勢データが、後に対応づけられる状態であればよい。
撮像者の操作などによる姿勢データの記憶終了のトリガを検知した場合、制御部132は、ステップS306で姿勢データの生成及び記憶を終了させ、ステップS307で検出信号の取得を停止させる。
図29Bに示す一連の処理を制御部132が行うことにより、動画などの画像データに対応した姿勢データの記憶が行われる。
上記処理により、例えば図30のように発光部129の発光や姿勢データ生成が行われる。即ちカメラユニット側で各フレームの撮像及び記録が行われている際に、或るタイミングTSで開始操作が行われたとする。これに応じてステップS302、S303、S304が行われる。つまり発光部129のLED発光が行われるとともに姿勢データ生成/記憶が開始され、以降、姿勢データ生成/記憶が、フレーム周期と同じ周期で続行されていく。
但し、発光部129の発光期間は1フレーム期間以内の時間とされていることが望ましい。あまり長い時間発光させると、その発光の影響を受けたフレームが増えてしまうためである。
各フレームについて対応するタイミングの姿勢データを得ることで、動画としての画像データについて後に姿勢データを用いた処理が可能になる。
即ち、発光部129を発光させることで、画像データにおいて、被写体光とは異なる高輝度の画像のフレームが形成される。
これにより、図31で後述するように、画像データと姿勢データを取得した情報処理装置150においては、高輝度の画像のフレームを検索することで、先頭の姿勢データに対応する動画データのフレームを特定できることになる。
なお、図28に示す構成によれば、既存のカメラユニットに検出ユニット131を取り付けて本実施の形態の撮像装置1を容易に製造することができる。
また、別の形態として、カメラユニット130と検出ユニット131を別体として撮像者に提供し、撮像者が必要に応じて着脱自在とすることが可能である。
即ち、動画としての画像データ生成部100を含む撮像系と、姿勢データ生成部101を含む姿勢データ生成系を非同期系統として、撮像装置1を形成する。
これにより、姿勢データ生成系を有する撮像装置1を容易に実現できる。この場合、マーキングにより先頭の姿勢データに対応する動画データのフレームを特定できること、及び1フレームに1回の姿勢データ生成ということで、非同期であってもフレームと姿勢データの対応関係は乱れない。
なお、画像データ生成部100のフレーム同期信号と姿勢データ生成部が用いるタイミング信号は、非同期ではあるが、略同じ周波数であり、ある程度の時間、動画撮像を続けてもサンプルタイミングが1フレーム分まではずれないものとしている。
発光部129を発光させることで、高輝度の画像のフレームが形成されるが、その画像は被写体光とは異なる画像、即ち本来は不要な画像となるため、発光期間を短くする。
具体的には、発光期間を1フレーム期間以内とすることで、高輝度の画像となるフレームは1フレーム又は2フレームとなり、不要なフレームが多く発生しないようにすることができる。
例えば録画開始操作と姿勢記録開始操作が別の操作としてユーザに提供される。
これにより、ユーザは録画の際に姿勢記録を行うか否かを任意に選択できる。
これにより外部機器(情報処理装置150)では画像データとともに姿勢データを取得でき、姿勢データを用いた処理が実行可能となる。
情報処理装置150は、ステップS401で動画データを特定する処理を実行する。この処理では、例えば、撮像装置1を用いて撮像した動画などを視聴するユーザが視聴したい動画などの画像データを選択することにより実行される。
なお、情報処理装置150が画像データと姿勢データの双方を取り込んだ際に、それらのデータを対応付けるための図31の処理を自動的に行ってもよい。
続いて、情報処理装置150はステップS403で、時系列に沿って各動画フレームから特定のフレームを検索する処理を実行する。ここで検索するフレームは、先の発光部129の発光によって高輝度となっているフレームである。例えば画素全体はLED発光による極めて高い輝度となっているフレームであったり、特定の画素領域がLED発光による極めて高い輝度となっているフレームを探す。
高輝度のフレームを検出できなかった場合、情報処理装置150はステップS405でエラー処理を実行して一連の処理を終了する。エラー処理とは、例えば、「動画データと姿勢データの対応付けができませんでした」などのメッセージを情報処理装置150の表示装置に表示させる処理などである。
これにより、動画の各フレームに各姿勢データが対応づけられ、各フレームの撮像時に撮像装置1がどのような姿勢であったかを情報処理装置150が認識できるようになる。
そして、画像データと姿勢データが適切に対応付けられることにより、後述する各種補正処理を行うことができる。
図32に撮像装置1の内部構成例IIIとしてのブロック図を示す。これは図28の構成例と同様に発光部129を備える場合の別の例である。
図32に示す撮像装置1は、撮像者が動画ボタン10などの操作部116を操作することによりカメラユニット130が検知する撮像開始トリガを検出ユニット131でも受信し、該撮像開始トリガに応じて姿勢データの生成と記憶が行われる。従って、検出ユニット131には姿勢データの生成及び記憶を開始させるための操作部が設けられていない。
具体的な処理について、図33を参照して説明する。
カメラユニット130の制御部122は、ステップS501で撮像開始トリガを検知したか否かを判定する。また、検出ユニット131の制御部132は、ステップS601で撮像開始トリガを検知したか否かを判定する。この場合制御部132は、撮像開始トリガをカメラユニット130の制御部122からの通知により検知することになる。
カメラユニット130の制御部122は、撮像開始トリガを検知するまでステップS501の処理を繰り返す。同様に、検出ユニット131の制御部132も撮像開始トリガを検知するまでステップS601の処理を繰り返す。
続いて、制御部132は、ステップS603で検出信号の取得を開始し、ステップS604で姿勢データの生成及び記憶を開始する。
また、制御部132は、ステップS605で発光部129のLEDを発光させる処理を実行する。発光部129の発光は、カメラユニット130で利用される垂直同期信号と同期して行うことができるため、例えば、撮像した動画を構成する一つのフレームの露光期間の開始タイミングに合わせて発光することが可能である。
撮像者が動画ボタン10を再度押下するなどして、撮像の終了指示を検知した場合など、カメラユニット130の制御部122が終了トリガを検知したら、その終了トリガは検出ユニットの制御部132にも通知される。これによりカメラユニット130及び検出ユニット131の双方で略同時に終了トリガを検知する。
また、終了トリガを検知した検出ユニット131の制御部132は、ステップS607で姿勢データの生成及び記憶を終了させ、ステップS608で検出信号の取得を停止する。
図33A,図33Bに示す各処理をカメラユニット130の制御部122及び検出ユニット131の制御部132が実行することにより、同期のとれた画像データ及び姿勢データを記憶することができる。
図32に示す構成を備えた撮像装置1においては、カメラユニット130と検出ユニット131の同期がとれているため、発光部129の発光を露光期間の先頭等の所定のタイミングに持ってくることができる。これにより、発光期間を短くしても確実に露光期間内に発光させることができるため、発光部129の発光に伴う消費電力を削減することができる。
発光部129の発光期間は露光期間に合わせて短くてよいが、光量などの関係で長くする場合でも1フレーム期間以内の時間とされていることが望ましい。発光の影響を受けたフレームが増えてしまうことを避けるためである。
従って、マーキングにより先頭の姿勢データに対応する動画データのフレームを特定できること、及びフレーム同期がとれていることにより、動画の1フレームに対し複数回の姿勢データ生成を行っても、各姿勢データを各フレームに正確に紐づけることができる。
例えば録画開始操作としての操作に応じて画像データ生成と姿勢データ生成が開始される。
これにより、ユーザの操作負担を最小限として動画とともに姿勢データが記憶される装置を実現できる。
なお、図31のステップS407において、姿勢データの最初のデータを先頭フレームの先頭ラインに紐付ける処理は、画像データ及び姿勢データの同期が取れているため、実際に先頭ラインの露光が行われているときに記憶された姿勢データを該先頭ラインに紐付けることができるため、後述する補正をより正確に行うことができる。
例えば垂直同期信号のタイミングの後の最初の姿勢データについて、垂直同期情報を付加しておくことで、フレーム先頭の姿勢データを判別できるようになる。これにより画像データと姿勢データを処理する装置は、各フレームに対応する姿勢データを正確に認識できる。
図35は撮像素子の撮像領域ARRを示し、結像される被写体の像Zを示している。本実施の形態における撮像装置1は、最も被写体側のレンズとして魚眼レンズ21を用いている。従って、例えば魚眼レンズ21として円周魚眼レンズを採用した場合には、光学系3を通過した光が撮像素子部112に形成する像Zは略円形となる。従って、撮像素子部112が備えるイメージセンサの外周部には画像データに影響しない範囲外領域45(図の斜線領域)が存在する。
このように構成することで、高輝度フレームを動画としての画像データの一部として用いることが可能となる。
これにより、発光により高輝度となるのは、或るフレームにおける被写体画像としては用いない画素のみとなる。従ってそのフレームも通常に再生するフレームとして使用できる。つまり発光部の発光によって無駄なフレームが生じないようにすることができる。
図22には、ジャイロセンサ126によって得られる角速度データそのものを姿勢データとして扱ったが、角速度データに画像補正用の各処理を施したデータを姿勢データとしてもよい。
撮像装置の内部構成例II(図28)、III(図32)の構成においても、内部構成例Iについて説明した各種構成、例えば露光制御構成、音声処理部の構成、姿勢データ生成構成など、適宜採用することができる。
内部構成例II(図28)、III(図32)において、通知部の例として発光部129を挙げたが、トリガに基づき画像データと姿勢データを関連づけるための通知を行う通知部としては、例えば音による通知を行う構成、電磁波による通知を行う構成、電気信号による通知を行う構成など、多様な例が考えられる。これに応じて検知部の構成も音声検出器、電磁波検出器、電気信号検出器など、多様な例が考えられる。
上述してきたように撮像装置1によっては動画データや姿勢データの記録が行われる。その動画データと姿勢データは、携帯端末や据え置き型のコンピュータ装置などの情報処理装置150に転送することができ、情報処理装置150においては、アプリケーションプログラムに基づく処理として、動画の再生や編集を行うことができるようにされる。
特に画像データは魚眼レンズ21を用いて撮像された動画であるが、これに対応してアプリケーションプログラムは、魚眼歪み補正やブレ補正、さらには表示画像の重力方向補正を行うことができるようにしている。
また図37は、パーソナルコンピュータやタブレット端末等、比較的画面が大きい情報処理装置150においてアプリケーション画面170を表示している状態を示している。
さらにアプリケーション画面170には、画像再生のための操作子、編集操作子、モード操作子、インジケータ等が用意され、ユーザは通常動画やタイムラプス動画、或いは静止画での再生状態を確認したり所望の編集作業を行うことができるようにされている。
マニュアル編集としては、
・フレーム削除又は復元
・初期画角の設定
・タイムラプスオン/オフ区間の指定
・タイトル、テロップの挿入又は削除
・アンドゥ(Undo)操作
・編集結果保存
・マルチビューモード指示
などが可能とされる。
このために図36,図37の例では、画像領域171内に魚眼歪み補正ボタン172、ブレ補正ボタン173、重力方向補正ボタン174が表示され、ユーザが任意に操作可能とされている。
なお、魚眼歪み補正ボタン172、ブレ補正ボタン173、重力方向補正ボタン174が画像領域171内に表示されるのは一例で、画像領域171外でもよい。
また本例では画像再生中にこの3つのボタンが表示される例とするが、魚眼歪み補正ボタン172とブレ補正ボタン173の2つが表示される例や、魚眼歪み補正ボタン172と重力方向補正ボタン174の2つが表示される例、さらにはいずれか1つが表示される例も考えられる。
ブレ補正ボタン173によりユーザは再生画像のブレ補正のオン/オフを指示できる。
重力方向補正ボタン174によりユーザは再生画像の視点を移動させる操作を行う際に、重力方向を画面下方に維持するようにする重力方向補正のオン/オフを指示できる。
アプリケーション画面170の画像領域171で画像再生を行う場合の補正について説明する。
魚眼歪み補正の手法について詳しくは後述するが、天球モデルを使った、出力座標系への透視射影により魚眼画像を中心射影画像に変換する処理である。
例えば図38Aのように再生される画像データ、即ち補正処理対象としての入力画像200は矩形で、円形の魚眼画像201を有する。この魚眼画像201を図38Cの天球モデルとしての仮想球面202に射影する。
そして仮想球面202に投射した領域211を切り出し、魚眼歪みを補正して図38Eのような画像とする。
ここで魚眼画像では図38Bにおいて矢印で示すように、位置によってブレ方向が異なる。このようなブレについては、図38Cから図38Dのように切り出す領域211をブレ量に応じて調整することで、連続するフレームで図38Eと図38Fとして示すようなブレがキャンセルされた画像とする。このような処理のためにジャイロセンサ126の検出値としての姿勢データを用いて求めたブレ量(補正角度)に基づいて仮想球面202の切り出し位置を補正することになる。
上記のように仮想球面202から切り出す領域211を、ユーザの操作に応じて上下左右にずらしていけば、ユーザは再生される視野方向を任意に変更することができる。例えばアプリケーション画面170の画像領域171上のスライド操作、スワイプ操作などによって視線方向を変化させることができる。このときに重力方向が画面下方に維持されるようにする。
図39Aは重力方向が直下を向いていない状態である。これを図39Bのように水平線に沿って表示されるようにすることで、ユーザが視野変更操作を行う場合に見やすい表示環境を提供できる。
図40Aは、いずれの補正も行われていない状態である。魚眼画像を含む元の画像データがそのまま表示される。
この図40Aの時点では、魚眼歪み補正ボタン172、ブレ補正ボタン173、重力方向補正ボタン174はそれぞれオン操作子として機能している。
ユーザは、再生中に魚眼歪み補正ボタン172についてタッチやクリック等の操作(この場合はオン操作)をすることで、魚眼歪み補正が機能し、それ以降は図40Bのように魚眼歪み補正が施された再生画像が表示される。
或いは、図40Aの時点でブレ補正ボタン173が操作された場合、魚眼歪み補正もオンとされたうえでブレ補正が行われるようにしてもよい。同様に重力方向補正ボタン174の操作が行われた場合、魚眼歪み補正もオンとされたうえで重力方向補正が行われるようにしてもよい。
ユーザが魚眼歪み補正ボタン172を操作(この場合はオフ操作)すると図40Aの魚眼画像の再生に戻る。
ユーザが図40Bの状態からブレ補正ボタン173を操作(オン操作)するとブレ補正機能が開始され、図41Aのように、魚眼歪み補正画像においてブレ補正が機能した状態に遷移する。ブレ補正ボタン173はオフ操作子となる。
ユーザが図41Aの状態からブレ補正ボタン173を操作(オフ操作)するとブレ補正機能が終了され、図40Bの状態に戻る。
ユーザが図41Bの状態から重力方向補正ボタン174を操作(オフ操作)すると重力方向補正機能が終了され、図41Aの状態に戻る。
ユーザが図40Bの状態から重力方向補正ボタン174を操作(オン操作)した場合も、同じくブレ補正が行われずに重力方向補正が機能する状態となる。
なお、本実施の形態では上記3つの補正に注目して説明するが、アプリケーションプログラムは補正機能として、魚眼歪み補正とブレ補正の機能を有し重力方向補正機能を有さない例も考えられる。
また補正機能として、魚眼歪み補正と重力方向補正の機能を有しブレ補正機能を有さない例も考えられる。
さらに魚眼歪み補正機能を有さずにブレ補正機能と重力方向補正機能の両方又は一方を有することも考えられる。
例えば、動画としての画像データを再生中に各種の補正ボタンを操作するたびにそれぞれの補正のオン/オフ状態が変化するが、各補正のオン/オフ状態の時系列における変化も含めた画像データの保存が可能とされていてもよい。具体的には、シーン1ではブレ補正をオンとする操作がなされ、次のシーン2ではブレ補正をオフとする操作がなされた場合、操作に従って各シーンのブレ補正のオン/オフ状態が切り替わった状態の再生画像が保存されるように構成されていてもよい。
また、再生画像を保存する操作を行った場合に、各補正のオン/オフ状態が選択可能に提示され、該選択の選択結果に応じて再生画像全体についての各補正を行い、保存するように構成されていてもよい。
再生画像の保存については、再生画像の再生を行いながら保存処理を行ってもよい。この場合には、保存される再生動画を確認しながら保存処理を行うため、意図しない状態の再生画像が保存されてしまうことを防止することができる。
また、再生画像の再生を行わずに保存処理を行ってもよい。この場合には、再生画像の再生処理が行われないため、処理を行う装置(情報処理装置150など)の処理負担の軽減が図られ、各種補正処理と再生画像の記憶処理の効率化が図られる。
情報処理装置150において、動画再生編集のためのアプリケーションプログラムによって実現される機能構成を図42、図43で説明する。
なお図42、図43に示す各ブロックは、情報処理装置150が図21に示したCPU151、ROM152、RAM153としてのハードウェア資源を用いてソフトウェアにより実装される機能(CPU151において実行される処理機能)である。
補正機能に関して再生編集制御部300は、画像補正処理部302に対して魚眼歪み補正、ブレ補正、重力方向補正のそれぞれについてオン/オフの指示を行う。またこれらの補正機能に関して再生編集制御部300は、出力座標、ズーム倍率、出力画像サイズ、パン角、チルト角、ロール角等の情報を画像補正処理部302に供給する。
また、出力画像サイズは、中心射影画像のサイズである。ズーム倍率は、出力座標平面に対する出力画像サイズの比を示す。この出力座標平面は、魚眼画像の少なくとも一部が透視射影により射影される矩形の射影面であり、この出力座標平面をズーム倍率により拡大した画像が中心射影画像として生成される。パン角、チルト角およびロール角については後述する。
操作検知部304は、キーボード、マウス、或いはタッチパネルなどよりなる図21の入力部156からの操作を検知する処理を行う。具体的にはユーザの再生操作や編集操作を検知する機能となる。
画像補正処理部302はフレームメモリ320を有する。記録再生処理部301の機能により再生された画像データ(入力画像)の各フレームは順次フレームメモリ320に一時的に保持されながら順次画像変換部321で処理されていく。
そして画像変換部321は、読み出した画素値を、中心射影画像内の出力座標の画素値として画素補間部322に供給する。これにより、魚眼画像は中心射影画像に変換される。
表示制御部303は出力処理部323からの画像データを表示画像としてアプリケーション画面170における画像領域171に表示させる制御を行うことになる。
またユーザが記録を求める操作を行った場合、記録再生処理部301は出力処理部323からの画像データを記録する画像として、図21の記憶部159やドライブ161に供給し、記録させる制御を行うことになる。
これらの構成により、出力座標が供給されるたびに、出力座標が対応する読出座標に変換されて画像変換部321に供給される。
図44に示すように、魚眼画像201を含む入力画像200に平行な所定の軸をx軸とし、魚眼画像201に平行でx軸に直交する軸をy軸とする。また、これらのx軸およびy軸に直交する軸をz軸とする。x軸、y軸およびz軸の原点は、例えば、魚眼画像201の中心とする。そして、その原点を中心とする半球の表面を仮想球面202とする。仮想球面202は、魚眼レンズ21を用いた撮像装置1により撮像された視野範囲を表す。
その魚眼画像201の中心を原点とする仮想球面202が、メッシュ状に分割される。分割においては、例えば、仮想球面202の緯度および経度が等間隔で分割される。分割した分割点(メッシュ交点)203、204を、z軸に平行に魚眼画像に投影した点の座標が魚眼画像上の座標205、206となる。即ち読出座標である。
図45Aは、出力座標平面210の一例を示している。
このような矩形の出力座標平面210が、魚眼画像201において設定される。
図45Bに示すように出力座標平面210は、初期状態において、例えば、その中心が魚眼画像の中心と一致し、かつ仮想球面202と接する位置に配置される。
この場合座標正規化部351は、再生編集制御部300から供給されるズーム倍率や出力画像サイズに基づいて出力座標を正規化する。例えば図45Aのように中心射影画像の水平座標を0乃至outhとし、垂直座標を0乃至outvとする場合、outhおよびoutvが出力画像サイズとして供給される。
座標正規化部351は、例えば、次の式により出力座標を正規化する。
またxnorm、ynorm、znormは、正規化したx、y、z座標である。
座標正規化部351は、正規化した出力座標(xnorm、ynorm、znorm)を回転行列演算部352に供給する。
上記(数1)の各式により、出力座標は、半径1.0の半球の球面上の座標に正規化される。
そして回転行列演算部352は、例えば、次の式により回転行列演算を行う。
回転行列演算部352は、この出力座標(xrot、yrot、zrot)を透視射影変換部353に供給する。
図46Bのように、出力座標平面210上を、天球表面に透視射影する(領域211)。即ち出力座標から天球の中心に向かって直線を引いた時に球面と交差する点を求めることになる。各座標は、以下の様に計算される。
透視射影変換部353は、投影射影変換した出力座標(r、Rx、Rz)のうち(Rx、Rz)を読出座標出力部300に供給する。rは極座標系における半径を示す。rを供給しないのはrを固定値(例えば「1」)としているためである。
魚眼画像歪補正テーブルは、魚眼画像内の読出座標の全部又は一部の座標を、中心射影画像内の出力座標に対応づけて記憶している。一部の座標を記憶する場合において、出力座標に対応する読出座標が記憶されていない場合は、読出座標出力部354は補間演算により読出座標を算出して出力する。
つまり以上の処理は、出力画像(2次元)の各ピクセルの座標が、仮想球面202上のどこに対応するかを算出することと、入力画像(魚眼画像201)を仮想球面202上に貼り付けることから、入力画像と出力画像の各座標間の対応関係が求められる。そして出力画像に対応する領域211に相当する画素をフレームメモリ320における入力画像から読み出す(切り出す)ことで魚眼歪み補正がなされた出力画像を得ることになる。
ブレ補正は、出力座標平面210を回転行列演算部352で回転操作を行う際に、姿勢データ(ジャイロデータ)から算出したブレ補正成分を適用することで実現する。
仮想球面202上の領域211が固定されても、各フレームにおいて切り出される領域(魚眼画像201上の領域)に写されている被写体光景は撮像時のブレによってずれる。従って再生画像からブレをキャンセルするには、ブレによる撮像視野方向のズレの反対に切り出す領域をずらせば良い。
つまり各フレームにおいて、撮像装置1の姿勢の変化をキャンセルするように、領域211をずらせばよい。
ブレ補正対応部341は、対象のフレームに対応する姿勢データから求めた値により、ブレ補正のための係数Rを求め、回転行列演算部352に供給する。
これをキャンセルする回転を表す四元数qは、以下で表される。
再生表示される出力画像は、魚眼画像201の一部を切り出したものであるため、ユーザの操作に応じて切り出し位置を変化させることで、再生時において画像の視野方向を変化させることができる。
従って、再生編集制御部300はユーザの操作(画面上のフリック、スライド操作や、パン/チルト/ロールのアイコン操作等)に応じて、回転行列演算部352に供給するパン角、チルト角、ロール角を可変すれば、魚眼画像201からの切り出し領域を変更することができる。つまり表示されている光景を、左右方向や上下方向の光景に遷移させることができ、これによってユーザは魚眼画像201に写された範囲の被写体光景を任意に見ることができる。
ところが、ユーザの操作に単純に従って視野方向を変更していくと、再生されている画像の下方が撮像の際の重力方向と不一致な状態になりやすい。
例えば図48Bは、再生表示されている光景が重力に対して傾いてしまっている様子を示している。
これは図48Aのように、重力方向gがy軸方向とずれてしまっている状態である。
具体的には、
・重力方向と、y軸を揃える
・パン・チルトのみの回転とする
という処理を行う。これによって、補正された画像では、常に再生画像の下方向が鉛直下向きになるようにできる。
図48Cは、重力方向gとy軸方向を揃えた状態を示している。これにより図48Dのように重力方向gが下方となる再生画像を得ることができる。
なお安定的に加速度の方向を求めるために、拡張カルマンフィルタ等を用いてS/Nの良い角速度情報と組み合わせても良い。
そして重力方向補正対応部342は算出した重力方向gの情報を回転行列演算部352に供給する。
回転行列演算部352は、上記(数2)又は上記(数6)の演算で回転処理を行う際に、y軸が重力方向gに一致するように制約をかける。
上記(数2)の演算で回転処理を行う場合にy軸が重力方向gに一致するようにすることで魚眼歪み補正と重力方向補正が行われることになる。
上記(数6)の演算で回転処理を行う場合にy軸が重力方向gに一致するようにすることで魚眼歪み補正とブレ補正と重力方向補正が行われることになる。
また画像補正処理部302は、画像データの各フレームに対応する撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理を行うブレ補正処理部391を備える。即ち姿勢データ演算部391、ブレ補正対応部341、回転行列演算部352がブレ補正処理部391として機能する。
また画像データの各フレームに対応する撮像装置1の姿勢データを用いて、画像データの再生表示中に視野変更が行われる際に、表示画像中で重力方向を一定に保つようにする重力方向補正処理を行う重力方向補正処理部392を備える。即ち姿勢データ演算部391、重力方向補正対応部342、回転行列演算部352が重力方向補正処理部392として機能する。
情報処理装置150においてアプリケーションプログラムによって実現される処理例を説明する。
図49、図50は情報処理装置150において図42の機能構成により図21のCPU151で実行される再生時の処理例を示している。例えば図36又は図37で示したアプリケーション画面170上で画像再生を行う場合の処理である。
ここでは動画(通常動画又はタイムラプス動画)の再生を行う例で説明する。
なお図49の「P1」は図50の「P1」につながる。また図50の「P2」は図49の「P2」につながる。
またステップS702でCPU151は再生動画に重畳して補正操作子が表示されるようにする。ここでいう補正操作子とは、図40、図41等に示した魚眼歪み補正ボタン172、ブレ補正ボタン173、重力方向補正ボタン174のことである。
このステップS701,S702の制御により例えば図40Aのような動画再生が開始される。なお、再生開始の際に、既に魚眼歪み補正が加えられた動画が再生されるようにしてもよいし、さらにブレ補正や重力方向補正が有効とされていてもよい。
また同じ動画が過去に再生されていた場合、前回の再生時の最後の補正オン/オフ状態が維持されて再生開始されてもよい。補正オン/オフ状態とは、魚眼歪み補正、ブレ補正、重力方向補正のそれぞれが機能オンとされているか、機能オフとされているかの状態のことである。
またCPU151はステップS712で補正操作子の画像上での表示を終了させる。
またCPU151はステップS713で、その再生終了時点での補正オン/オフ状態を当該動画コンテンツに対応させて例えば記憶部159に記憶する。この処理により、先のステップS701で動画再生を開始させる際に、前回の再生終了時の補正オン/オフ状態で再生を行うことができる。
ステップS723でCPU151は魚眼歪み補正開始位置としてのマーキング処理を行う。
マーキング処理とは、例えば再生中の動画コンテンツに対応するマーキング情報として、フレームナンバ(時/分/秒/フレーム)を記憶する処理である。例えば魚眼歪み補正開始位置、魚眼歪み補正終了位置、ブレ補正開始位置、ブレ補正終了位置のフレームナンバを逐次マーキング情報として記憶する。CPU151はこれらのマーキング情報を例えば記憶部159において動画コンテンツに対応する情報として記憶する。
ステップS733でCPU151は魚眼歪み補正終了位置としてのマーキング処理を行う。
現在、魚眼歪み補正中であればCPU151はステップS742に進みブレ補正を開始する。またステップS743で表示中のブレ補正ボタン173をオフ操作子とする処理を行う。これにより再生中の動画は例えば図41Aのような表示状態となる。
ステップS744でCPU151はブレ補正開始位置としてのマーキング処理を行う。
なお、ここでは魚眼歪み補正中でなければブレ補正ボタン173のオン操作を無効としたが、魚眼歪み補正中でないときにブレ補正ボタン173のオン操作が行われたら、魚眼歪み補正とブレ補正を共に開始させるようにしてもよい。
ステップS753でCPU151はブレ補正終了位置としてのマーキング処理を行う。
現在、魚眼歪み補正中であればCPU151はステップS762に進み重力方向補正を開始する。またステップS763で表示中の重力方向補正ボタン174をオフ操作子とする処理を行う。これにより再生中の動画は例えば図41Bのような表示状態となる。
なお、ここでは魚眼歪み補正中でなければ重力方向補正ボタン174のオン操作を無効としたが、魚眼歪み補正中でないときに重力方向補正ボタン174のオン操作が行われたら、魚眼歪み補正を開始したうえで重力方向補正をオンとしてもよい。
重力方向補正がオンであるときはステップS783に進み、操作に応じたパン角、チルト角、ロール角について重力方向補正による制限を加えたうえで出力座標平面210を回転させ、切り出す領域211を変更する。これにより上述したように視野変更をおこなっても表示上で重力方向がずれないようにする。
この記録操作は、以上のように再生される魚眼画像の動画としての画像データを、補正を反映した状態の画像データ(補正反映後の動画コンテンツ)として新たに記録する動作を求めるものである。
CPU151は図51のステップS801で、現在の補正オン/オフ状態を記録処理用の情報として設定する。
現在の補正オン/オフ状態とは、記録操作を行った時点の魚眼歪み補正、ブレ補正、重力方向補正のそれぞれのオン/オフ状態である。
上記のように、ユーザは再生動画を視聴しながら魚眼歪み補正、ブレ補正、重力方向補正を任意にオン/オフさせることができる。これにより、各補正を施した表示状態を確認できる。つまり視聴している動画について、どの補正を有効とすることを望むかをユーザが確認できる。
また直前の再生とは関係なくユーザが画像データ(動画コンテンツ)を選択し、それを対象として記録操作を行うことも考えられる。その場合は、当該画像データの最後の再生時の補正オン/オフ状態をステップS801で現在の補正オン/オフ状態としてもよいし、画像データ選択とともに補正オン/オフ状態をユーザが選択可能としてもよい。
つまり元の魚眼画像201による画像データについて、必要な補正が施された新たな画像データとしての動画コンテンツを作成することになる。
また、保存される再生動画を確認しながら保存処理を行うため、意図しない補正状態の再生画像が保存されてしまうことを防止することができる。
なお、ステップS802,S803の動画再生/補正/記録は、通常の視聴状態の再生速度と同様に行ってもよいが(1倍速での再生及び記録)、高速再生/記録を行って短時間で完了するようにしてもよい。
CPU151はステップS804で再生/記録が最後のフレームに達したか否かを確認し、終了したらステップS805で再生/記録を終了させる。
また、動画再生を行わずに補正処理及び記憶処理のみを実行してもよい。この場合には、動画の再生処理が行われないため、CPU151の処理負担の軽減が図られ、各種補正処理と再生画像の記憶処理の効率化が図られる。
例えば撮像装置1を用いて動きの激しい状態で撮像した画像データは、ブレが大きな魚眼画像の動画である。これを再生動画で確認し、魚眼歪み補正やブレ補正を行った画像がよいと思った場合は、当該記録操作により、魚眼歪み補正が施され、かつブレが低減された動画としての新たな画像データを得ることができる。
ステップS851でCPU151は、マーキング情報に基づいて、対象の画像データについての魚眼歪み補正やブレ補正を行う区間を設定し、オン/オフの切り替えポイントとしてのフレーム位置を設定する。
具体的には魚眼歪み補正のオン区間としての開始フレーム/終了フレーム、ブレ補正のオン区間としての開始フレーム/終了フレームを、それぞれマーキング情報に基づいて把握する。そして魚眼歪み補正をオンとするフレーム位置、オフとするフレーム位置を設定する。またブレ補正をオンとするフレーム位置、オフとするフレーム位置を設定する。もちろんこれらの切替ポイントはゼロの場合もあるし、1又は複数ポイントの場合もある。
そしてステップS853でCPU151は、それまで再生対象としていた画像データ、或いは別途記録操作の際に指定した画像データについて、先頭フレームからの再生及び補正を開始する。さらにステップS854で補正後のフレームについて記録を開始する。つまり元の魚眼画像201による画像データについて、必要な補正が施された新たな画像データとしての動画コンテンツを作成していく。
これにより切替ポイントの前後で魚眼歪み補正又はブレ補正の実行状態が変化される。
CPU151はステップS857で再生/記録が最後のフレームに達したか否かを確認し、終了したらステップS858で再生/記録を終了させる。
なお、ステップS853,S854の動画再生/補正/記録は、通常の視聴状態の再生速度と同様に行ってもよいが(1倍速での再生及び記録)、高速再生/記録を行って短時間で完了するようにしてもよい。
従って例えば動画の或る区間を魚眼歪み補正オフとした場合、記録される動画でもその区間は魚眼歪み補正が施されない、魚眼画像の動画となる。また或る区間のみ魚眼歪み補正及びブレ補正をオンとした場合、その区間はブレが低減された中心射影方式の動画となる。これにより、ユーザは任意に魚眼歪み補正のオン/オフを設定し、またブレ補正のオン/オフを設定して、その設定が反映された動画コンテンツを作成できる。
例えば再生動画をみながら補正オン/オフを大まかに設定していき、記録前にマーキング情報を調整して、魚眼歪み補正、ブレ補正を行う区間、行わない区間を調整できるようにすれば、望みの動画を容易に生成できる。
例えば記録される動画について、重力方向補正の区間情報を付加することで、その再生時に視野変更操作を行っても重力方向がずれないようにする動画を生成できるようにする。
このような区間設定のために例えば図50のステップS762で重力方向補正をオンとする際や、ステップS771で重力方向補正をオフとする際に、マーキング処理を行うことも考えられる。
以上のように実施の形態の情報処理装置150は、非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理を行う歪み補正処理部390と、歪み補正処理が行われた画像データについて、撮像装置1の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理を行うブレ補正処理部391を備える。
これにより非中心射影方式の像を撮像した動画である画像データの再生や編集の際に、歪み補正及びブレ補正を施した状態を容易に確認できる環境をユーザに提供することができる。特にブレ補正は歪み補正された画像データに対して行うことで、見やすい状態でブレ補正後の動画を提供できる。
また実施の形態の情報処理装置150は、歪み補正処理部390と、ブレ補正処理部391と、歪み補正処理部390による歪み補正処理の実行/停止、及びブレ補正処理部391によるブレ補正処理の実行/停止を制御する再生編集制御部300を備える。
再生する画像データは、非中心射影方式の像の動画として広い視野範囲の光景をカバーする画像である。この場合に魚眼歪み補正とブレ補正をそれぞれ任意に可能とすることで、多様かつ品質の高い表示をユーザに提供できる。
そして非中心射影方式の像を撮像した動画である画像データの再生や編集の際に、魚眼歪み補正やブレ補正を施した状態を容易に確認できる環境をユーザに提供できるため、再生や編集に好適である。
画像データの再生、つまり動画再生を行っているときに、歪み補正とブレ補正をそれぞれ実行させたり補正処理を停止させたりする。
これによりユーザは再生時に魚眼歪み補正が行われている状態と行われていない状態を再生動画上で見ることができる。またユーザはブレ補正が行われている状態と行われていない状態を再生動画上で見ることができる。
またこれによって再生や編集の際に、魚眼歪み補正を行うことが適切な動画であるか否か、ブレ補正を行うことが適切な動画であるか否かを確認できる。
これによりユーザは再生画像を見ながらリアルタイムで任意に魚眼歪み補正を機能させたり停止させたりすることができる。特に動画内の場面毎に魚眼歪み補正をするとどのような画像になるかを試すことができる。
これによりユーザは再生画像を見ながらリアルタイムで任意にブレ補正を機能させたり停止させたりすることができる。特に動画内の場面毎にブレ補正をするとどのような画像になるかを試すことができる。
ユーザは再生画像を見ながらリアルタイムで任意に魚眼歪み補正とブレ補正を機能させたり停止させたりすることができる。
魚眼歪み補正状態の画像においてはブレ補正は有効である一方、魚眼歪み補正をしていない魚眼画像の場合、ブレ補正効果は的確にユーザに認識されない。そこで魚眼歪み補正を行っている場合のみブレ補正を実行可能とする。
また上述のようにブレ補正は魚眼歪み補正のための出力座標平面210の回転処理を利用して行うことで、効率的な機能構成を実現している。この場合、ブレ補正は魚眼歪み補正と同時に行うことが好適となる。
画像データの再生表示の際に、ユーザ操作に応じて視野変更を行うことができるようにする。この場合に、ユーザ操作のままに視野変動を行っていると、表示画像中の重力方向が表示画像の下方に一致しなくなることが生じる。そこで表示画像中で重力方向が一定に保たれるようにする。これにより視野変更操作を行っても見やすい状態を維持でき、良好な再生表示を実現すると共に視野変化操作も操作性のよいものとすることができる。
これによりユーザは再生画像を見ているときに任意に重力方向補正を機能させたり停止させたりすることができる。
これによりユーザは再生画像を見ながらリアルタイムで任意に歪み補正とブレ補正と重力方向補正を機能させたり停止させたりすることができる。
魚眼歪み補正をしていない魚眼画像の場合、重力方向補正の効果は的確にユーザに認識されない。そこで魚眼歪み補正を行っている場合のみ重力方向補正を実行可能とする。
また重力方向補正は魚眼歪み補正のための出力座標平面210の回転処理を調整して行うことで効率的な機能構成を実現している。この場合、重力方向補正は魚眼歪み補正と同時に行うことが好適となる。
即ち非中心射影方式の像の動画である元の画像データについて、歪み補正処理とブレ補正処理の一方又は両方を実行させた動画としての新たな画像データを生成し、これを記録する。これによりユーザは魚眼歪み補正とブレ補正の一方又は両方を施した画像データ(動画コンテンツ)を容易に作成することができる。
元の画像データの再生時に、各補正はユーザの指示によりオン/オフされる。その再生時のユーザ設定(各補正の実行有無)に従って記録時の補正の有無を設定する。
これによりユーザは再生画像において採用する補正処理を決めて記録操作することで、所望の画像データ(動画コンテンツ)を得ることができる。
例えば元の画像データの再生時に歪み補正やブレ補正を行った区間を示すようにマーキング情報を付加する。記録の際には、このマーキング情報を用いて補正のオン/オフ制御を行う。
ユーザが画像再生中に魚眼歪み補正やブレ補正を任意にオン/オフすることで、マーキング情報が付加される。これを用いることで、動画中で魚眼歪み補正を行った区間、ブレ補正を行った区間がわかる。そこで図52の例のように、再生時の区間毎の補正有無に従って魚眼歪み補正やブレ補正のオン/オフを切り替える。これにより再生中に設定した補正有無を反映した動画コンテンツを容易に生成できることになる。
具体的には、図49、図50、図51又は図52の処理をCPU151に実行させるプログラムである。
そしてこのようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。あるいはまた、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図53に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図55では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
図56を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図56は、図55に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
本技術は以下のような構成も採ることができる。
(1)非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理を行う歪み補正処理部と、
前記歪み補正処理の処理対象の画像データについて、撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理を行うブレ補正処理部と、を備えた
情報処理装置。
(2)前記歪み補正処理部による歪み補正処理の入及び切と、前記ブレ補正処理部によるブレ補正処理の入及び切を制御する制御部と、を備えた
上記(1)に記載の情報処理装置。
(3)前記制御部は、
画像データの再生表示の際に、前記歪み補正処理部による歪み補正処理の入及び切と、前記ブレ補正処理部によるブレ補正処理の入及び切を制御する
上記(2)に記載の情報処理装置。
(4)前記制御部は、
画像データの再生表示の際に、歪み補正操作子を操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入及び切を制御する
上記(3)に記載の情報処理装置。
(5)前記制御部は、
画像データの再生表示の際に、ブレ補正操作子を操作可能とし、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御する
上記(3)又は(4)に記載の情報処理装置。
(6)前記制御部は、
画像データの再生表示の際に、歪み補正操作子とブレ補正操作子を、それぞれ独立して操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入及び切を制御し、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御する
上記(3)乃至(5)のいずれかに記載の情報処理装置。
(7)画像データに対応する撮像装置の姿勢データを用いて、画像データの再生表示中に視野変更が行われる際に、表示画像中で重力方向を一定に保つようにする重力方向補正処理を行う重力方向補正処理部を備え、
前記制御部は、前記重力方向補正処理部による重力方向補正処理の入及び切を制御する
上記(2)乃至(6)のいずれかに記載の情報処理装置。
(8)前記制御部は、
画像データの再生表示の際に、重力方向補正操作子を操作可能とし、
前記重力方向補正操作子の操作情報に応じて重力方向補正処理の入及び切を制御する
上記(7)に記載の情報処理装置。
(9)前記制御部は、
画像データの再生表示の際に、歪み補正操作子とブレ補正操作子と重力方向補正操作子を、それぞれ独立して操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入及び切を制御し、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御し、
前記重力方向補正操作子の操作情報に応じて重力方向補正処理の入及び切を制御する
上記(7)に記載の情報処理装置。
(10)前記制御部は、前記歪み補正処理の処理対象の画像データについて重力方向補正処理を行う
上記(7)乃至(9)のいずれかに記載の情報処理装置。
(11)前記制御部は、
非中心射影方式の像を撮像した動画である元の画像データについて、
前記歪み補正処理部による歪み補正処理と、前記ブレ補正処理部によるブレ補正処理の一方又は両方を施した画像データを生成して記録媒体に記録させる制御を行う
上記(2)乃至(10)のいずれかに記載の情報処理装置。
(12)前記制御部は、
前記元の画像データの再生時の歪み補正処理とブレ補正処理の実行有無の情報に応じて、記録時の歪み補正処理とブレ補正処理の入及び切を設定する
上記(11)に記載の情報処理装置。
(13)前記制御部は、
前記元の画像データについての、歪み補正処理を実行した区間及びブレ補正処理を実行した区間を示す情報に基づいて、記録時の歪み補正処理とブレ補正処理の入及び切を制御する
上記(11)に記載の情報処理装置。
(14)前記ブレ補正処理は、前記歪み補正処理の際の切り出し位置に関する処理である
上記(1)乃至(13)のいずれかに記載の情報処理装置。
(15)前記歪み補正処理は、球面モデルを用いて中心射影方式の画像データに変換する処理であり、前記ブレ補正処理により、前記球面モデルの切り出し位置を補正する
上記(1)乃至(14)のいずれかに記載の情報処理装置。
(16)非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理を行う手順と、
前記歪み補正処理の処理対象の画像データについて、撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理を行う手順と、
を情報処理装置が実行する情報処理方法。
(17)非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理を行うステップと、
前記歪み補正処理の処理対象の画像データについて、撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理を行うステップと、
を情報処理装置に実行させるプログラム。
Claims (16)
- 広角画像データを中心射影方式の画像データに変換する歪み補正処理を行う歪み補正処理部と、
前記歪み補正処理の処理対象の画像データについて、撮像装置の姿勢データに基づき画像データのブレ補正処理を行うブレ補正処理部と、
前記歪み補正処理部による歪み補正処理の入及び切と、前記ブレ補正処理部によるブレ補正処理の入及び切を制御する制御部と、を備えた
情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、前記歪み補正処理部による歪み補正処理の入及び切と、前記ブレ補正処理部によるブレ補正処理の入及び切を制御する
請求項1に記載の情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、歪み補正操作子を操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入又は切を制御する
請求項1に記載の情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、ブレ補正操作子を操作可能とし、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御する
請求項1に記載の情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、歪み補正操作子とブレ補正操作子を、それぞれ独立して操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入及び切を制御し、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御する
請求項1に記載の情報処理装置。 - 画像データに対応する撮像装置の姿勢データを用いて、画像データの再生表示中に視野変更が行われる際に、表示画像中で重力方向を一定に保つようにする重力方向補正処理を行う重力方向補正処理部を備え、
前記制御部は、前記重力方向補正処理部による重力方向補正処理の入及び切を制御する
請求項1に記載の情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、重力方向補正操作子を操作可能とし、
前記重力方向補正操作子の操作情報に応じて重力方向補正処理の入及び切を制御する
請求項6に記載の情報処理装置。 - 前記制御部は、
画像データの再生表示の際に、歪み補正操作子とブレ補正操作子と重力方向補正操作子を、それぞれ独立して操作可能とし、
前記歪み補正操作子の操作情報に応じて歪み補正処理の入及び切を制御し、
前記ブレ補正操作子の操作情報に応じてブレ補正処理の入及び切を制御し、
前記重力方向補正操作子の操作情報に応じて重力方向補正処理の入及び切を制御する
請求項6に記載の情報処理装置。 - 前記制御部は、前記歪み補正処理の処理対象の画像データについて重力方向補正処理を行う
請求項6に記載の情報処理装置。 - 前記制御部は、
非中心射影方式の像を撮像した動画である元の画像データについて、
前記歪み補正処理部による歪み補正処理と、前記ブレ補正処理部によるブレ補正処理の一方又は両方を施した画像データを生成して記録媒体に記録させる制御を行う
請求項1に記載の情報処理装置。 - 前記制御部は、
前記元の画像データの再生時の歪み補正処理とブレ補正処理の実行有無の情報に応じて、記録時の歪み補正処理とブレ補正処理の入及び切を設定する
請求項10に記載の情報処理装置。 - 前記制御部は、
前記元の画像データについての、歪み補正処理を実行した区間及びブレ補正処理を実行した区間を示す情報に基づいて、記録時の歪み補正処理とブレ補正処理の入及び切を制御する
請求項10に記載の情報処理装置。 - 前記ブレ補正処理は、前記歪み補正処理の際の切り出し位置に関する処理である
請求項1に記載の情報処理装置。 - 前記歪み補正処理は、球面モデルを用いて中心射影方式の画像データに変換する処理であり、前記ブレ補正処理により、前記球面モデルの切り出し位置を補正する
請求項1に記載の情報処理装置。 - 非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理の入及び切と、撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理の入及び切を制御する手順と、
前記歪み補正処理の入の制御に応じて、前記歪み補正処理を行う手順と、
前記歪み補正処理の処理対象の画像データについて、前記ブレ補正処理の入の制御に応じて、前記ブレ補正処理を行う手順と、
を情報処理装置が実行する情報処理方法。 - 非中心射影方式の像を撮像した動画である画像データを中心射影方式の画像に変換する歪み補正処理の入及び切と、撮像装置の姿勢データを用いて画像データに表れる像ブレを低減するブレ補正処理の入及び切を制御するステップと、
前記歪み補正処理の入の制御に応じて、前記歪み補正処理を行うステップと、
前記歪み補正処理の処理対象の画像データについて、前記ブレ補正処理の入の制御に応じて、前記ブレ補正処理を行うステップと、
を情報処理装置に実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017099169 | 2017-05-18 | ||
JP2017099169 | 2017-05-18 | ||
PCT/JP2018/008291 WO2018211782A1 (ja) | 2017-05-18 | 2018-03-05 | 情報処理装置、情報処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018211782A1 JPWO2018211782A1 (ja) | 2020-05-28 |
JP7238770B2 true JP7238770B2 (ja) | 2023-03-14 |
Family
ID=64274298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019519076A Active JP7238770B2 (ja) | 2017-05-18 | 2018-03-05 | 情報処理装置、情報処理方法、プログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US11245849B2 (ja) |
EP (1) | EP3637757B1 (ja) |
JP (1) | JP7238770B2 (ja) |
KR (1) | KR20200009003A (ja) |
CN (1) | CN110612720B (ja) |
WO (1) | WO2018211782A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018212013A1 (ja) * | 2017-05-18 | 2018-11-22 | ソニー株式会社 | 情報処理装置、情報処理方法および情報処理プログラム |
JP7405131B2 (ja) | 2019-02-21 | 2023-12-26 | ソニーグループ株式会社 | 画像処理装置、画像処理方法、プログラム |
US11677916B2 (en) | 2019-02-28 | 2023-06-13 | Wet | System and method of altering the appearance of liquid and solid physical objects or forms |
US11153481B2 (en) * | 2019-03-15 | 2021-10-19 | STX Financing, LLC | Capturing and transforming wide-angle video information |
WO2021150921A1 (en) | 2020-01-22 | 2021-07-29 | Photonic Medical Inc | Open view, multi-modal, calibrated digital loupe with depth sensing |
WO2022116194A1 (zh) * | 2020-12-04 | 2022-06-09 | 中国科学院深圳先进技术研究院 | 一种全景呈现方法及其装置 |
CN114359114B (zh) * | 2022-03-16 | 2022-08-23 | 宁波杜比医疗科技有限公司 | 一种单核病灶色相还原方法、装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295626A (ja) | 2005-04-12 | 2006-10-26 | Canon Inc | 魚眼像処理装置及びその方法並びに魚眼像撮像装置 |
JP2008244803A (ja) | 2007-03-27 | 2008-10-09 | Fujifilm Corp | 撮像装置 |
JP2009300481A (ja) | 2008-06-10 | 2009-12-24 | Sony Corp | 撮像装置およびミラー駆動装置 |
JP2016105534A (ja) | 2014-12-01 | 2016-06-09 | 株式会社ザクティ | 撮像装置、及び撮像装置システム |
JP2016111561A (ja) | 2014-12-08 | 2016-06-20 | キヤノン株式会社 | 情報処理装置、システム、情報処理方法及びプログラム |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4479679B2 (ja) | 2006-03-14 | 2010-06-09 | セイコーエプソン株式会社 | 撮影画像表示システム、画像受信装置及びその制御方法 |
JP2008160300A (ja) * | 2006-12-21 | 2008-07-10 | Canon Inc | 画像処理装置及び撮像装置 |
JP4949897B2 (ja) * | 2007-03-09 | 2012-06-13 | 富士フイルム株式会社 | 防振機能付きズームレンズおよび撮像装置 |
KR101014572B1 (ko) * | 2007-08-27 | 2011-02-16 | 주식회사 코아로직 | 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치 |
WO2010004806A1 (ja) * | 2008-07-09 | 2010-01-14 | 株式会社ニコン | ズームレンズ、これを有する光学機器及びズームレンズの製造方法 |
EP2640059B1 (en) * | 2010-11-11 | 2018-08-29 | Panasonic Intellectual Property Corporation of America | Image processing device, image processing method and program |
JP5868618B2 (ja) | 2011-06-14 | 2016-02-24 | オリンパス株式会社 | 情報処理装置、画像処理システム及びプログラム |
EP2750110B1 (en) * | 2011-08-24 | 2020-03-18 | Sony Corporation | Information processing device, information processing method, and program |
JP5966341B2 (ja) * | 2011-12-19 | 2016-08-10 | 大日本印刷株式会社 | 画像処理装置、画像処理方法、画像処理装置用プログラム、画像表示装置 |
JP2013214947A (ja) * | 2012-03-09 | 2013-10-17 | Ricoh Co Ltd | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
JP6303270B2 (ja) * | 2012-05-18 | 2018-04-04 | 株式会社リコー | ビデオ会議端末装置、ビデオ会議システム、映像の歪み補正方法および映像の歪み補正プログラム |
JP5794705B2 (ja) * | 2013-02-01 | 2015-10-14 | キヤノン株式会社 | 撮像装置、その制御方法及びプログラム |
JP6398081B2 (ja) * | 2014-03-12 | 2018-10-03 | パナソニックIpマネジメント株式会社 | カメラ本体、カメラシステム、そのブレ補正制御方法、及びカメラ本体のブレ補正制御プログラム |
JP5843034B1 (ja) | 2014-05-15 | 2016-01-13 | 株式会社リコー | 動画表示装置およびプログラム |
KR102222073B1 (ko) * | 2014-08-29 | 2021-03-04 | 삼성전자주식회사 | 촬영 방법 및 전자 장치 |
EP4113991A1 (en) * | 2014-09-03 | 2023-01-04 | Nevermind Capital LLC | Methods and apparatus for capturing, streaming and/or playing back content |
JP6627352B2 (ja) | 2015-09-15 | 2020-01-08 | カシオ計算機株式会社 | 画像表示装置、画像表示方法及びプログラム |
CN105550984B (zh) * | 2015-12-30 | 2019-04-12 | 北京奇艺世纪科技有限公司 | 一种鱼眼图像校正和漫游显示的方法及装置 |
CN106651767A (zh) | 2016-12-30 | 2017-05-10 | 北京星辰美豆文化传播有限公司 | 一种获取全景图像的方法及装置 |
-
2018
- 2018-03-05 CN CN201880030956.2A patent/CN110612720B/zh active Active
- 2018-03-05 US US16/609,871 patent/US11245849B2/en active Active
- 2018-03-05 WO PCT/JP2018/008291 patent/WO2018211782A1/ja unknown
- 2018-03-05 JP JP2019519076A patent/JP7238770B2/ja active Active
- 2018-03-05 EP EP18803042.3A patent/EP3637757B1/en active Active
- 2018-03-05 KR KR1020197033118A patent/KR20200009003A/ko not_active Application Discontinuation
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295626A (ja) | 2005-04-12 | 2006-10-26 | Canon Inc | 魚眼像処理装置及びその方法並びに魚眼像撮像装置 |
JP2008244803A (ja) | 2007-03-27 | 2008-10-09 | Fujifilm Corp | 撮像装置 |
JP2009300481A (ja) | 2008-06-10 | 2009-12-24 | Sony Corp | 撮像装置およびミラー駆動装置 |
JP2016105534A (ja) | 2014-12-01 | 2016-06-09 | 株式会社ザクティ | 撮像装置、及び撮像装置システム |
JP2016111561A (ja) | 2014-12-08 | 2016-06-20 | キヤノン株式会社 | 情報処理装置、システム、情報処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN110612720A (zh) | 2019-12-24 |
EP3637757A1 (en) | 2020-04-15 |
WO2018211782A1 (ja) | 2018-11-22 |
EP3637757A4 (en) | 2020-05-06 |
EP3637757B1 (en) | 2022-12-07 |
US20200068131A1 (en) | 2020-02-27 |
JPWO2018211782A1 (ja) | 2020-05-28 |
US11245849B2 (en) | 2022-02-08 |
CN110612720B (zh) | 2022-04-12 |
KR20200009003A (ko) | 2020-01-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7163912B2 (ja) | 撮像装置、撮像方法 | |
JP7238770B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2021192313A (ja) | 情報処理装置および方法、並びにプログラム | |
CN110168605B (zh) | 用于动态范围压缩的视频信号处理装置、视频信号处理方法和计算机可读介质 | |
JP7218728B2 (ja) | 制御装置および制御方法 | |
WO2019012857A1 (ja) | 撮像装置、画像生成方法 | |
WO2018211780A1 (ja) | 撮像装置 | |
US12008682B2 (en) | Information processor, information processing method, and program image to determine a region of an operation target in a moving image | |
WO2018221068A1 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
JP7264051B2 (ja) | 画像処理装置および画像処理方法 | |
JP7136093B2 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
WO2019235049A1 (ja) | 撮像装置、ゲイン設定方法及びプログラム | |
WO2021230001A1 (ja) | 情報処理装置及び情報処理方法 | |
JP7444074B2 (ja) | 撮像装置、撮像制御装置、撮像方法 | |
US11394759B2 (en) | Communication system and control apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220920 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221003 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20221003 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230131 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230213 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7238770 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |