JP6624167B2 - 撮像制御装置、撮像制御方法及び撮像制御プログラム - Google Patents
撮像制御装置、撮像制御方法及び撮像制御プログラム Download PDFInfo
- Publication number
- JP6624167B2 JP6624167B2 JP2017124624A JP2017124624A JP6624167B2 JP 6624167 B2 JP6624167 B2 JP 6624167B2 JP 2017124624 A JP2017124624 A JP 2017124624A JP 2017124624 A JP2017124624 A JP 2017124624A JP 6624167 B2 JP6624167 B2 JP 6624167B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- unit
- trigger
- observation information
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/617—Upgrading or updating of programs or applications for camera control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Studio Devices (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Image Analysis (AREA)
Description
例えば、特許文献1には、撮像部とは異なる筐体に収容され、撮像部と無線で接続される携帯可能な装置にセンサ手段を設け、このセンサ手段が測定した測定結果に応じて撮像部の撮像タイミングを自動的に制御することが開示されている。
しかしながら、自動撮影を行いたいタイミングは必ずしも一律ではなく、特許文献1に開示の技術のように一律の条件で自動撮影を行うという構成は、ユーザにとって利便性に欠ける場合があった。
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知手段と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得手段と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定手段と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御手段と、を備え、
前記設定手段は、前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、前記蓄積した観測情報に基づいて、前記シャッター操作を検知したときの前記観測情報に対応するパターンを特定し、該特定したパターンの中でも特徴的なパターンに基づいて前記設定する閾値を学習することを特徴とする。
上記目的を達成するため、本発明の他の態様の撮像制御装置は、
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知手段と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得手段と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定手段と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御手段と、を備え、
前記設定手段は、前記観測情報の基準となる基準情報を記憶しており、前記取得手段が取得した前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、該蓄積した観測情報に基づいて前記基準情報を補正することにより前記設定する閾値を学習し、
前記トリガが複数存在する場合には、前記学習はトリガそれぞれ毎に行われることを特徴とする。
図1は、本発明の一実施形態に係る自動撮影システムSの構成を示すシステム構成図である。図1に示すように、自動撮影システムSは、撮像装置10と、制御装置20とを含んで構成される。撮像装置10及び制御装置20のそれぞれは、例えば自動撮影システムSのユーザであるユーザ50によって利用される。
このように、本実施形態では、ユーザ50の動作に対応付けて設定されたトリガ動作に基づいて自動撮影を実行する。従って、本実施形態では、ユーザに適した条件で自動撮影を行なうことができる。
この自動撮影システムSにおける自動撮影時について、図2の状態遷移図を参照して更に説明をする。なお、図1にはユーザ50を図示したことから、上記の明細書中の説明においても「ユーザ50」と記載したが、以下の説明においては符号を省略し、単に「ユーザ」と記載する。
以下、この2つの処理それぞれについて説明をする。なお、これら2つの処理は、必ずしも交互に行われる訳ではなく、何れか一方の処理が連続して行われた後に、他方の処理が行われることもある。
状態S1において、ユーザが、任意のタイミングで所定の動作と共に撮像装置10のシャッター操作を行う。所定の動作には特に限定はなく、例えば、何れかの腕を決まった動きで動かす、ジャンプをする等の動作であってよい。シャッター操作は、例えば、撮像装置10が備えるシャッターボタンを手動で押下することにより行われる。
シャッター操作を受け付けた撮像装置10は、手動撮影を実行する。手動撮影が行われると、状態S2に遷移する。
撮像装置10と制御装置20は、ユーザによる手動撮影が実行される都度、このような学習処理を行う。これにより、トリガ動作検出用情報の更新が繰り返され、トリガ動作の検出精度を高めることができる。
状態S4において、制御装置20は行動推定を行う。具体的には、制御装置20は、センサの測定データを解析する。そして、制御装置20は、解析した測定データと、トリガ動作検出用情報とに基づいて、トリガ動作を検出するか否かを判定する。すなわち、ユーザ50がトリガ動作を行ったか否かという行動推定をする。行動推定が行われると、状態は、状態S5に遷移する。
次に、図3及び図4を参照して、撮像装置10と制御装置20のハードウェア構成について説明をする。
図3は、撮像装置10のハードウェアの構成を示すブロック図である。撮像装置10は、画像の撮影機能を備え、例えば、デジタルカメラによって構成される。制御装置20は、1つの筐体により実現されてもよいが、例えばディスプレイがユニット化された筐体と、撮影機能がユニット化された筐体というように、別個の筐体により実現されてもよい。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部116の出力信号として出力される。
このような撮像部116の出力信号は、CPU211等に適宜供給される。
出力部118は、ディスプレイやスピーカあるいはランプ等で構成され、画像や音声や光等を出力する。
記憶部119は、DRAM(Dynamic Random Access Memory)等の半導体メモリで構成され、各種データを記憶する。
図4に示すように、制御装置20は、CPU211と、ROM212と、RAM213と、バス214と、入出力インターフェース215と、センサ部216と、入力部217と、出力部218と、記憶部219と、通信部220とを備えている。これらのうち、センサ部216以外の構成は、図3を参照して説明した撮像装置10の同名の各部分と同様である。なお、図3を参照して説明した撮像装置10のドライブ121と同様に、制御装置20にも、半導体メモリ等よりなるリムーバブルメディアを装着可能なドライブを設けるようにしてもよい。
なお、センサ部216には、例えば、気圧センサ、紫外線センサ、温度センサ、湿度センサ等の環境条件を測定するためのセンサが含まれていてもよい。更に、センサ部216には、GPS(Global Positioning System)等の位置測位用のセンサが含まれていてもよい。
次に、制御装置20機能的構成について図5を参照して説明をする。図5は、撮像装置10の機能的構成のうち、学習処理と行動推定処理を実行するための機能的構成を示す機能ブロック図である。これら学習処理と行動推定処理は、図2を参照して上述した処理である。
また、記憶部219の一領域には、測定情報記憶部254と、トリガ動作検出用情報記憶部255とが設定される。
なお、測定情報取得部251は、測定情報記憶部254に測定値を記憶させる場合に、測定値のデータのバラつき防止のためにデータの平滑化を行う。具体的には、各種センサの出力信号をそれぞれフィルタリングすることにより、ノイズの影響を抑制する。
具体的には、学習部252は、手動撮影を実行した時刻である手動撮影時刻を撮像装置10から受信する。そして、学習部252は、この手動撮影時刻のn秒前から手動撮影時刻までの、n秒間の測定値を測定情報記憶部254から読み出す。次に、学習モデル252は、このn秒間の測定値に基づいて、トリガ動作検出用情報についての学習を行う。
そのために、学習部252は、n秒間の測定値から特徴量を抽出する。例えば、学習部252は、n秒間に測定された合成加速度の大きさや、水平方向の移動量等を特徴量として抽出する。また、学習部252は、手動撮影が行われたことを、教師あり学習における正解を表すラベルとする。
次に、自動撮影システムSの動作を説明する。
図6は、自動撮影システムSにおける撮像装置10と、制御装置20の動作を示すシーケンス図である。
ステップS12において、撮像装置10は、制御装置20からの接続要求を受けて、接続認証処理を行う。
ステップS13において、撮像装置10は、接続許可を制御装置20に対して送信する。
以上の処理により、撮像装置10と制御装置20との間の通信接続が確立する。なお、ステップS11からステップS13までの処理は、通信規格に準拠して行われるものであり、当業者によく知られているので、詳細な説明は省略する。
ステップS21において、撮像装置10は、ユーザからシャッター操作を受け付けた否かを判定する。ユーザからシャッター操作を受け付けていない場合には、ステップS21にてNoとなり、判定は繰り返される。一方で、ユーザからシャッター操作を受け付けていない場合には、ステップS21にてYesとなり、処理はステップS22に進む。
ステップS23において、撮像装置10は、手動撮影時刻を制御装置20に対して送信する。
ステップS24において、撮像装置10は、手動撮影時のn秒前から手動撮影時刻までのn秒間のセンサの測定値に基づいて学習を行う。なお、ステップS24の、より詳細な動作については、図7を参照して後述する。
ステップS31において、制御装置20は、一定時間毎にセンサの測定値と、トリガ動作検出用情報を用いて行動推定を行う。なお、ステップS31の、より詳細な動作については、図8を参照して後述する。
ステップS34において、制御装置20は、生成したシャッタートリガを撮像装置10に対して送信する。
以上の学習処理及び行動推定処理が繰り返し行われる。そして、ユーザの操作等に伴ってこれらの処理が終了すると、ステップS14において、撮像装置10から制御装置20に対して切断要求が送信される。
これにより、本処理は終了する。
これにより、ステップS31は終了し、処理はステップS32へ進む。
[変形例1]
上述の実施形態において、自動撮影システムSは、撮像装置10と制御装置20という2つの装置を含んで構成されていた。これを変形して、1つの装置にて撮像装置10と制御装置20の双方の機能を実現するようにしてもよい。
図10に示すように、携帯端末装置30は、CPU311と、ROM312と、RAM313と、バス314と、入出力インターフェース315と、撮像部316と、センサ部317と、入力部318と、出力部319と、記憶部320と、通信部321、ドライブ322とを備えている。これらの構成は、図3を参照して説明した撮像装置10の同名の各部分あるいは図4を参照して説明した制御装置20の同名の各部分と同様である。
例えば、上述した実施形態では、シャッタートリガ生成部253を制御装置20に設け、このシャッタートリガ生成部253が生成したシャッタートリガを撮像装置10に対して送信し、このシャッタートリガを受信した撮像装置10が撮影を行っていた。これに対して、本変形例によれば、携帯端末30という1つの装置内において、シャッタートリガを生成し、生成したシャッタートリガに基づいた撮影を行うことができる。
このように、本変形例によれば、シャッタートリガ生成部を何れかの装置に設けた場合に、この何れかの装置自身で撮影を行うための制御を行う構成とするのか、この何れかの装置以外の装置で撮影を行うための制御を行う構成とするのかを、任意に選択することが可能となる。
上述の実施形態において、自動撮影システムSは、撮像装置10と制御装置20という2つの装置を含んで構成されていた。ここで、図9に<変形例2>として示すように、撮像装置10を、ユーザの身につけるカメラではなく、ユーザが手に持って撮影をしたり、三脚に固定して撮影したりするカメラにより実現してもよい。これにより、例えばユーザがファインダーを確認してレンズ方向等を調整した状態で自動撮影を行うことができる。
また、制御装置20を、センサを備えたスマートウォッチにより実現してもよい。これにより、手首の動き等をセンサにより検出できるので、手首の動き等をトリガ動作とすることができる。
上述の実施形態において、自動撮影システムSは、撮像装置10と制御装置20という2つの装置を含んで構成されていた。ここで、図9に<変形例3>として示すように、複数の装置に機能を分散するようにしてもよい。
また、他にも例えば、制御装置20の機能を、図5に示したCPU211や記憶部219が実現する各機能ブロックを備える装置と、図5に示したセンサ部216を備える装置の2つの装置に分散するようにしてもよい。
これにより、自動撮影システムSの構成の自由度を向上させることができる。
上述の実施形態では、手動撮影が行われた際のセンサによる測定値に基づいてトリガ動作検出用情報を学習していた。また、学習したトリガ動作検出用情報と、センサによる測定値とに基づいて行動推定を行うことにより、トリガ動作を検出していた。これを変形して、センサによる測定ではなく、撮影データを画像解析することにより、トリガ動作検出用情報を学習したり、行動推定を行ってトリガ動作を検出したりするようにしてもよい。
これにより、センサによる測定値が難しい状況であっても本実施形態を適用することが可能となる。
上述した実施形態では、手動撮影が行われた際のセンサによる測定値に基づいて学習を行うことにより、トリガ動作検出用情報を学習していた。この場合に、予め基準となるトリガ動作検出用情報を用意しておくようにしてもよい。そして、手動撮影が行われた際のセンサによる測定値に基づいて学習を行うことにより、この基準となるトリガ動作検出用情報を補正していくようにしてもよい。
また、基準となるトリガ動作検出用情報が同じものであっても、その後の補正によりユーザそれぞれに適したトリガ動作検出用情報に補正されていくので、個々のユーザに適したトリガ動作を検出することが可能となる。
上述した本実施形態は、多様な状況で使用することができる。
例えば、登山をしているユーザが後ろを振り向いた場合に、後ろにいる同行者を被写体として撮影を行う場合を考える。この場合、ユーザは後ろを振り向いた際に、手動でシャッター操作を行う。すると、学習部252による学習が行われ、ユーザが後ろを振り向いた際の動き(つまり、トリガ動作)を測定した測定データに基づいてトリガ動作検出用情報が記録される。以後は、このトリガ動作検出用情報に基づいた行動推定により、ユーザが後ろを振り向く都度、自動撮影が行われる。
これにより、ユーザは、シャッター操作を行うことなく、後ろにいる同行者を被写体として撮影を行うことが可能となる。
これにより、ユーザは、シャッター操作を行うことなく、任意の場所で撮影を行うことが可能となる。
また、スノーボードやサーフィンを行うユーザの動きをトリガ動作として、制御装置20に覚え込ませる際の手動撮影を、これらユーザ以外の他のユーザが行うようにしてもよい。
上述の変形例でも例示したように、本実施形態では、撮像装置10を利用して手動撮影を行う「撮影者」と、撮像装置10の手動撮影や自動撮影の撮影対象となる「被写体」と、制御装置20による検出対象であるトリガ動作を行う「トリガ体」とが、一致していてもよいし、それぞれ異なっていてもよい。
例えば、撮影者、被写体及びトリガ体が全て一致していてもよい。また、撮影者と、被写体及びトリガ体とが異なっていてもよい。また、撮影者及び被写体と、トリガ体とが異なっていてもよい。また、撮影者及びトリガ体と、被写体とが異なっていてもよい。また、撮影者、被写体及びトリガ体が全て異なっていてもよい。
また、トリガ体とする対象についても特に限定されない。上述の実施形態では、人間であるユーザをトリガ体する場合を例として説明したが、人間以外の動物や、装置あるいは自然現象等のトリガ動作の測定対象とできるものをトリガ体とすることができる。
[変形例6]
本変形例ではこれを変形する。具体的には、トリガ動作の検出を契機とするのではなく、トリガ体(トリガ)が撮影されたことを契機とするように変形する。また、契機が発生した場合に、リアルタイムに自動撮影を行うことにより撮影データを取得するのではなく、常時撮影により過去に撮影した撮影データを取得するように変形する。ここで、本変形例ではトリガ体の動作の検出を行う必要がないので、例えば、動作を検出する対象ではない背景等(トリガ)もトリガ体として扱うことができる。
また、記憶部219の一領域には、撮影データ一時保存部154と、トリガ体検出用情報記憶部155と、撮影データ記憶部156とが設定される。
具体的には、学習部152は、ユーザが手動撮影を行うためにシャッターボタンを押下したことを検出すると、この検出時の時刻を、手動撮影を実行した時刻である手動撮影時刻として取得する。なお、シャッターボタンは入力部117により実現される。
ここで、本変形例では、撮影データ一時保存部154に、直近の所定期間に撮影された撮影データを常に保存している。そこで、本変形例では、上述の実施形態と同様に、ユーザがシャッターボタンを押下した場合に、撮像部116に撮像された撮影データを撮影データ記憶部156に記録することを手動撮影としてもよいが、ユーザが撮像データを選択することを手動撮影として扱ってもよい。つまり、ユーザが撮影データ一時保存部154に保存されている撮影データを参照し、ユーザがこの撮影データの中から選択した撮影データを撮影データ記憶部156に記録することを手動撮影として扱ってもよい。なお、ユーザによるこれらの操作は、本発明の「ユーザによる記録手段に対しての撮影データ取得操作」に相当する。
例えば、ユーザが、或る種類の花をいつも撮影しているような場合に、ユーザによるシャッター操作を要することなく、自動的にこの或る種類の花の撮影データを記録して、蓄積していくようなことが可能となる。
以上複数の変形例について説明したが、上述の実施形態や各変形例における構成を適宜組み合わせるようにしてもよい。
測定情報取得部251(入力部117)は、ユーザによる記録手段に対しての撮影データ取得操作を検知する。
測定情報取得部251(撮影データ取得部152)は、撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する。
学習部252(学習部152)は、撮影データ取得操作を検知したときの観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する。
シャッタートリガ生成部253(記憶トリガ生成部153)は、観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う。
これにより、観測情報に基づいて精度高く撮像データを取得できる。
これにより、観測情報に基づいて自動的に撮像データを取得できる。
これにより、ユーザが撮像データ取得操作を検知したときと同じ動作をした場合に、撮像データを取得できる。
シャッタートリガ生成部253(記憶トリガ生成部153)は、動きセンサの測定結果に基づいてトリガの動きを特定し、該特定されたトリガの動きに基づいて、自動的に撮影データを取得するための制御を行う。
これにより、動きセンサによる推定結果に基づいて、撮像データを取得できる。
シャッタートリガ生成部253(記憶トリガ生成部153)は、撮像部116が撮影した撮影データを解析することにより、トリガの動きを特定し、該特定されたトリガの動きに基づいて、自動的に撮影データを取得するための制御を行う。
これにより、撮像データの解析結果に基づいて、撮像データを取得できる。
シャッタートリガ生成部253(記憶トリガ生成部153)は、撮像部116が撮影した撮影データを解析することにより、トリガが撮影されたか否かを判定し、該判定の結果に基づいて、自動的に撮影データを取得するための制御を行う。
これにより、トリガ体が撮影されたか否かに基づいて、撮像データを取得できる。
これにより、学習結果を利用して、精度高く、撮像データを取得できる。
これにより、非特徴的な動きパターンのデータを用いることなく、より精度高く、撮像データを取得できる。
トリガが複数存在する場合には、学習はトリガそれぞれ毎に行われる。
これにより、個々のユーザに適した学習を行うことができる。
これにより、シャッター操作を行うユーザに適した学習を行うことができる。
シャッタートリガ生成部253(記憶トリガ生成部153)は、別個の装置により実現された撮像部116と通信を行うことにより、自動的に撮影データを取得するための制御を行う。
これにより、撮影部を備えていない装置により、制御装置20を実現することができる。
これにより、撮影した新たな撮影データを新たに取得することができる。
シャッタートリガ生成部253(記憶トリガ生成部153)は、自動制御により撮影データ一時保存部154に保存された撮影データを取得する。
これにより、一時保存していた撮影データを取得できる。
換言すると、例えば図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が自動撮影システムSに備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
[付記1]
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知手段と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得手段と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定手段と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御手段と、
を備えることを特徴とする撮像制御装置。
[付記2]
前記制御手段による前記自動的に撮影データを取得するための制御に基づいて、当該撮像制御装置又は当該撮像制御装置以外の装置が、自動的に撮影データを取得することを特徴とする付記1に記載の撮像制御装置。
[付記3]
前記制御手段は、前記撮影データ取得操作を検知しないときの前記観測情報と、前記閾値との比較結果に応じて、前記自動的に撮影データを取得するための制御を行うことを特徴とする付記1又は2に記載の撮像制御装置。
[付記4]
前記取得手段は、前記観測情報として前記トリガの動きを測定する動きセンサの測定結果を取得し、
前記制御手段は、前記動きセンサの測定結果に基づいて前記トリガの動きを特定し、該特定されたトリガの動きに基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする付記1乃至3の何れか1に記載の撮像制御装置。
[付記5]
前記取得手段は、前記観測情報として撮像手段が撮影した撮影データを取得し、
前記制御手段は、前記撮像手段が撮影した撮影データを解析することにより、前記トリガの動きを特定し、該特定されたトリガの動きに基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする付記1乃至3の何れか1に記載の撮像制御装置。
[付記6]
前記取得手段は、前記観測情報として撮像手段が撮影した撮影データを取得し、
前記制御手段は、前記撮像手段が撮影した撮影データを解析することにより、前記トリガが撮影されたか否かを判定し、該判定の結果に基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする付記1乃至3の何れか1に記載の撮像制御装置。
[付記7]
前記設定手段は、前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、該蓄積した観測情報を用いて前記設定する閾値を学習する付記1乃至6の何れか1に記載の撮像制御装置。
[付記8]
前記設定手段は、前記蓄積した観測情報に基づいて、前記シャッター操作を検知したときの前記観測情報に対応するパターンを特定し、該特定したパターンの中でも特徴的なパターンに基づいて前記学習を行うことを特徴とする付記7に記載の撮像制御装置。
[付記9]
前記設定手段は、前記観測情報の基準となる基準情報を記憶しており、前記取得手段が取得した前記観測情報に基づいて前記基準情報を補正することにより前記学習を行い、
前記トリガが複数存在する場合には、前記学習はトリガそれぞれ毎に行われる付記7又は付記8に記載の撮像制御装置。
[付記10]
前記トリガとは前記ユーザであることを特徴とする付記1乃至9何れか1に記載の撮像制御装置。
[付記11]
撮像手段は、当該撮像制御装置とは別個の装置により実現され、
前記制御手段は、前記別個の装置により実現された撮像手段と通信を行うことにより、前記自動的に撮影データを取得するための制御を行うことを特徴とする付記1乃至10の何れか1に記載の撮像制御装置。
[付記12]
前記制御手段は、撮像手段のシャッター操作を自動制御することにより撮影データを取得することを特徴とする付記1乃至11の何れか1に記載の撮像制御装置。
[付記13]
撮像手段が撮影した撮影データを一時保存する一時保存手段を更に備え、
前記制御手段は、自動制御により前記一時保存手段に保存された撮影データを取得することを特徴とする付記1乃至11の何れか1に記載の撮像制御装置。
[付記14]
撮像制御装置が実行する撮像制御方法であって、
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知ステップと、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得ステップと、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定ステップと、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御ステップと、
を備えることを特徴とする撮像制御方法。
[付記15]
撮像制御装置を制御するコンピュータに、
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知機能と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得機能と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定機能と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御機能と、
を実現させることを特徴とする撮像制御プログラム。
Claims (14)
- ユーザによる記録手段に対しての撮影データ取得操作を検知する検知手段と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得手段と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定手段と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御手段と、を備え、
前記設定手段は、前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、前記蓄積した観測情報に基づいて、前記シャッター操作を検知したときの前記観測情報に対応するパターンを特定し、該特定したパターンの中でも特徴的なパターンに基づいて前記設定する閾値を学習することを特徴とする撮像制御装置。 - 前記制御手段による前記自動的に撮影データを取得するための制御に基づいて、当該撮像制御装置又は当該撮像制御装置以外の装置が、自動的に撮影データを取得することを特徴とする請求項1に記載の撮像制御装置。
- 前記制御手段は、前記撮影データ取得操作を検知しないときの前記観測情報と、前記閾値との比較結果に応じて、前記自動的に撮影データを取得するための制御を行うことを特徴とする請求項1又は2に記載の撮像制御装置。
- 前記取得手段は、前記観測情報として前記トリガの動きを測定する動きセンサの測定結果を取得し、
前記制御手段は、前記動きセンサの測定結果に基づいて前記トリガの動きを特定し、該特定されたトリガの動きに基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする請求項1乃至3の何れか1項に記載の撮像制御装置。 - 前記取得手段は、前記観測情報として撮像手段が撮影した撮影データを取得し、
前記制御手段は、前記撮像手段が撮影した撮影データを解析することにより、前記トリガの動きを特定し、該特定されたトリガの動きに基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする請求項1乃至3の何れか1項に記載の撮像制御装置。 - 前記取得手段は、前記観測情報として撮像手段が撮影した撮影データを取得し、
前記制御手段は、前記撮像手段が撮影した撮影データを解析することにより、前記トリガが撮影されたか否かを判定し、該判定の結果に基づいて、前記自動的に撮影データを取得するための制御を行うことを特徴とする請求項1乃至3の何れか1項に記載の撮像制御装置。 - 前記設定手段は、前記観測情報の基準となる基準情報を記憶しており、前記取得手段が取得した前記観測情報に基づいて前記基準情報を補正することにより前記学習を行い、
前記トリガが複数存在する場合には、前記学習はトリガそれぞれ毎に行われる請求項1乃至6何れか1項に記載の撮像制御装置。 - 前記トリガとは前記ユーザであることを特徴とする請求項1乃至7何れか1項に記載の撮像制御装置。
- 撮像手段は、当該撮像制御装置とは別個の装置により実現され、
前記制御手段は、前記別個の装置により実現された撮像手段と通信を行うことにより、前記自動的に撮影データを取得するための制御を行うことを特徴とする請求項1乃至8の何れか1項に記載の撮像制御装置。 - 前記制御手段は、撮像手段のシャッター操作を自動制御することにより撮影データを取得することを特徴とする請求項1乃至9の何れか1項に記載の撮像制御装置。
- 撮像手段が撮影した撮影データを一時保存する一時保存手段を更に備え、
前記制御手段は、自動制御により前記一時保存手段に保存された撮影データを取得することを特徴とする請求項1乃至9の何れか1項に記載の撮像制御装置。 - 撮像制御装置が実行する撮像制御方法であって、
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知ステップと、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得ステップと、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定ステップと、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御ステップと、を備え、
前記設定ステップは、前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、前記蓄積した観測情報に基づいて、前記シャッター操作を検知したときの前記観測情報に対応するパターンを特定し、該特定したパターンの中でも特徴的なパターンに基づいて前記設定する閾値を学習することを特徴とする撮像制御方法。 - 撮像制御装置を制御するコンピュータに、
ユーザによる記録手段に対しての撮影データ取得操作を検知する検知機能と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得機能と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定機能と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御機能と、を実現させる撮像制御プログラムであって、
前記設定機能は、前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、前記蓄積した観測情報に基づいて、前記シャッター操作を検知したときの前記観測情報に対応するパターンを特定し、該特定したパターンの中でも特徴的なパターンに基づいて前記設定する閾値を学習することを特徴とする撮像制御プログラム。 - ユーザによる記録手段に対しての撮影データ取得操作を検知する検知手段と、
前記撮影データ取得操作の検知に基づいて、自動的に撮影データを取得するためのトリガに関する観測情報を取得する取得手段と、
前記撮影データ取得操作を検知したときの前記観測情報に基づいて、自動的に撮影データを取得するための閾値を設定する設定手段と、
前記観測情報の閾値に基づいて、自動的に撮影データを取得するための制御を行う制御手段と、を備え、
前記設定手段は、前記観測情報の基準となる基準情報を記憶しており、前記取得手段が取得した前記ユーザによるシャッター操作を検知したときの前記観測情報を蓄積し、該蓄積した観測情報に基づいて前記基準情報を補正することにより前記設定する閾値を学習し、
前記トリガが複数存在する場合には、前記学習はトリガそれぞれ毎に行われることを特徴とする撮像制御装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017124624A JP6624167B2 (ja) | 2017-06-26 | 2017-06-26 | 撮像制御装置、撮像制御方法及び撮像制御プログラム |
US16/015,652 US10728437B2 (en) | 2017-06-26 | 2018-06-22 | Image capture control apparatus, image capture control method, and image capture control program |
CN201810670121.5A CN109120844B (zh) | 2017-06-26 | 2018-06-26 | 摄像控制装置、摄像控制方法以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017124624A JP6624167B2 (ja) | 2017-06-26 | 2017-06-26 | 撮像制御装置、撮像制御方法及び撮像制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019009660A JP2019009660A (ja) | 2019-01-17 |
JP6624167B2 true JP6624167B2 (ja) | 2019-12-25 |
Family
ID=64692859
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017124624A Active JP6624167B2 (ja) | 2017-06-26 | 2017-06-26 | 撮像制御装置、撮像制御方法及び撮像制御プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10728437B2 (ja) |
JP (1) | JP6624167B2 (ja) |
CN (1) | CN109120844B (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018100676A1 (ja) * | 2016-11-30 | 2018-06-07 | 株式会社オプティム | カメラ制御システム、カメラ制御方法、およびプログラム |
JP6641447B2 (ja) * | 2017-12-26 | 2020-02-05 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
CN109276217B (zh) * | 2018-12-05 | 2021-12-24 | 济宁市龙浩钢管制造有限公司 | 过滤器实时驱动平台 |
JP7453772B2 (ja) * | 2019-11-01 | 2024-03-21 | キヤノン株式会社 | 情報処理装置及びその制御方法、撮像装置システム、プログラム |
US11354026B1 (en) * | 2020-01-28 | 2022-06-07 | Apple Inc. | Method and device for assigning an operation set |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004112054A (ja) * | 2002-09-13 | 2004-04-08 | Fuji Photo Film Co Ltd | 撮影アドバイスカメラ |
JP2004354420A (ja) * | 2003-05-27 | 2004-12-16 | Fuji Photo Film Co Ltd | 自動撮影システム |
JP2004361708A (ja) * | 2003-06-05 | 2004-12-24 | Fuji Photo Film Co Ltd | リストカメラ |
US8169484B2 (en) * | 2005-07-05 | 2012-05-01 | Shai Silberstein | Photography-specific digital camera apparatus and methods useful in conjunction therewith |
US7441063B2 (en) * | 2005-12-14 | 2008-10-21 | Aten International Co., Ltd. | KVM system for controlling computers and method thereof |
JP2007213378A (ja) * | 2006-02-10 | 2007-08-23 | Fujifilm Corp | 特定表情顔検出方法、撮像制御方法および装置並びにプログラム |
US20080231714A1 (en) * | 2007-03-22 | 2008-09-25 | Texas Instruments Incorporated | System and method for capturing images |
JP4513843B2 (ja) * | 2007-09-10 | 2010-07-28 | カシオ計算機株式会社 | 撮像装置及びプログラム |
JP2010068499A (ja) * | 2008-09-15 | 2010-03-25 | Brother Ind Ltd | 撮影履歴記録システム |
JP2010146276A (ja) | 2008-12-18 | 2010-07-01 | Nec Corp | 行動予測システム、行動予測方法および行動予測用プログラム |
US8064759B1 (en) * | 2009-04-15 | 2011-11-22 | Dp Technologies, Inc. | Method and apparatus for motion-state based image acquisition |
US8957979B2 (en) * | 2011-07-19 | 2015-02-17 | Sony Corporation | Image capturing apparatus and control program product with speed detection features |
US8957988B2 (en) * | 2013-01-23 | 2015-02-17 | Orcam Technologies Ltd. | Apparatus for processing images to prolong battery life |
US10142598B2 (en) * | 2014-05-30 | 2018-11-27 | Sony Corporation | Wearable terminal device, photographing system, and photographing method |
JP6476692B2 (ja) | 2014-09-26 | 2019-03-06 | カシオ計算機株式会社 | システム並びに装置、制御方法 |
US10334158B2 (en) * | 2014-11-03 | 2019-06-25 | Robert John Gove | Autonomous media capturing |
JP2016213548A (ja) | 2015-04-30 | 2016-12-15 | カシオ計算機株式会社 | 撮影システム、撮影方法、検知装置及び撮影装置 |
-
2017
- 2017-06-26 JP JP2017124624A patent/JP6624167B2/ja active Active
-
2018
- 2018-06-22 US US16/015,652 patent/US10728437B2/en active Active
- 2018-06-26 CN CN201810670121.5A patent/CN109120844B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN109120844A (zh) | 2019-01-01 |
US20180376050A1 (en) | 2018-12-27 |
CN109120844B (zh) | 2020-10-30 |
JP2019009660A (ja) | 2019-01-17 |
US10728437B2 (en) | 2020-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6624167B2 (ja) | 撮像制御装置、撮像制御方法及び撮像制御プログラム | |
US8509482B2 (en) | Subject tracking apparatus, subject region extraction apparatus, and control methods therefor | |
JP4458173B2 (ja) | 画像記録方法、画像記録装置、およびプログラム | |
JP6049448B2 (ja) | 被写体領域追跡装置、その制御方法及びプログラム | |
US20160189392A1 (en) | Object tracking apparatus, control method therefor and storage medium | |
JP2017229033A (ja) | 撮像装置およびその制御方法ならびにプログラム | |
US20160088219A1 (en) | Image capture apparatus which controls frame rate based on motion of object, information transmission apparatus, image capture control method, information transmission method, and recording medium | |
JP2015119323A (ja) | 撮像装置、画像取得方法及びプログラム | |
JP5811654B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5880135B2 (ja) | 検出装置、検出方法及びプログラム | |
JP2017005395A (ja) | 撮像装置、撮像制御方法及びプログラム | |
JP6087615B2 (ja) | 画像処理装置およびその制御方法、撮像装置、および表示装置 | |
JP2011130384A (ja) | 被写体追跡装置及びその制御方法 | |
JP6399869B2 (ja) | 被写体追尾装置、撮像装置、被写体追尾方法及びプログラム | |
JP5835207B2 (ja) | 撮像装置、撮像制御方法、及びプログラム | |
JP2018099416A (ja) | 運動解析装置、運動解析方法及びプログラム | |
JP5222429B2 (ja) | 被写体追跡装置及びその制御方法 | |
JP2010093451A (ja) | 撮像装置および撮像装置用プログラム | |
JP2017199972A (ja) | 端末装置、情報取得システム、情報取得方法およびプログラム | |
JP2010141911A (ja) | 画像記録方法、画像記録装置、およびプログラム | |
JP2018139419A (ja) | 撮像制御装置、撮像制御方法、及び、プログラム | |
JP2019083518A (ja) | 撮像装置、撮像装置の制御方法、および、プログラム | |
WO2019082832A1 (ja) | 撮像装置、撮像装置の制御方法、および、プログラム | |
JP6379840B2 (ja) | 制御装置、制御システム、制御方法及びプログラム | |
JP6631649B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170627 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190819 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190827 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191016 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6624167 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |