JP7444238B2 - 情報処理プログラム、装置、及び方法 - Google Patents

Description

開示の技術は、情報処理プログラム、情報処理装置、及び情報処理方法に関する。

従来、スポーツの競技中の映像から、競技者の位置、姿勢等の所定のポイントや区間を特定することが行われている。所定のポイントは、例えば、ゴルフ、野球、テニス等におけるボールに対するインパクトの瞬間、体操競技等における跳躍や着地の瞬間等である。

上記のような所定のポイントや区間の特定に関する技術として、例えば、被写体の連続するモーションの中から決定的瞬間を特定して画像として抽出する情報処理装置が提案されている。この装置は、ユーザ又はユーザに接触するオブジェクトに装着されたセンサからのセンサデータ、及びセンサデータに対応する時刻情報を受信する。また、この装置は、センサデータ及び時刻情報に基づいて、ユーザ又はオブジェクトに所定のモーションパターンが発生した時刻を特定する。そして、この装置は、特定した時刻に応じて、所定の時間間隔で撮影されたユーザ又はオブジェクトを含む一連の画像から１又は複数の画像を選択する。

特開２０１５－８２８１７号公報

特定対象のポイントとして、フィギュアスケートのジャンプの離氷点及び着氷点の位置を想定する。フィギュアスケートにおいては、競技者、又は競技者が装着するウェアやシューズにセンサを取り付ける等の少しの変化が、ジャンプ等の精度に影響を与えてしまう場合がある。そのため、従来技術を適用して、フィギュアスケートにおけるジャンプの離氷点及び着氷点の位置を特定することは困難である。

一つの側面として、開示の技術は、フィギュアスケートにおけるジャンプの離氷点及び着氷点を特定することを目的とする。

一つの態様として、開示の技術は、スケートリンクを含む会場内に設けられたマイクで集音された音信号、及び前記スケートリンク上の競技者を撮影した第１の映像を取得する。また、開示の技術は、前記音信号に基づく氷の音の消失及び復帰に応じて、前記競技者が行ったジャンプの離氷時刻及び着氷時刻を推定する。そして、開示の技術は、前記音信号の時刻情報と前記第１の映像の時刻情報とを同期させ、前記第１の映像に基づく前記スケートリンク上での前記競技者の位置の軌跡を取得する。さらに、開示の技術は、前記競技者の位置の軌跡において、前記離氷時刻に対応する位置、及び前記着氷時刻に対応する位置の各々を特定する。

一つの側面として、フィギュアスケートにおけるジャンプの離氷点及び着氷点を特定することができる、という効果を有する。

第１実施形態に係る情報処理システムの概略構成を示すブロック図である。 第１実施形態に係る情報処理装置の機能ブロックである。 離氷時刻及び着氷時刻の推定を説明するための図である。 映像に対する音信号の遅延時間を説明するための図である。 離氷点及び着氷点の特定を説明するための図である。 離氷点の特定の詳細を説明するための図である。 情報処理装置として機能するコンピュータの概略構成を示すブロック図である。 第１実施形態における情報処理ルーチンの一例を示すフローチャートである。 第２実施形態に係る情報処理システムの概略構成を示すブロック図である。 第２実施形態に係る情報処理装置の機能ブロックである。 基準線の特定を説明するための図である。 ジャンプの区間を示す第２の映像のフレームの特定を説明するための図である。 所定部位としてブレードの先端及び終端の位置を算出することを説明するための図である。 ジャンプの区間に含まれるフレームの各々から算出された回転角度θを示す図である。 図１４の破線枠で示す部分の拡大図である。 第２実施形態における情報処理ルーチンの一例を示すフローチャートである。

以下、図面を参照して、開示の技術に係る実施形態の一例を説明する。

＜第１実施形態＞
まず、第１実施形態に係る情報処理システムの概要について説明する。図１に示すように、情報処理システム１００は、情報処理装置１０と、マイク２０と、カメラ２２とを含む。情報処理システム１００は、マイク２０から出力される音信号、及びカメラ２２から出力される映像に対して情報処理を行い、競技者の位置の軌跡上における、離氷点から着氷点までのジャンプの区間を特定する。

マイク２０は、スケートリンク３０の氷中に設置される。例えば、スケートリンク３０の設営時において、氷を張る際にスケートリンク３０内に埋め込むことで、マイク２０を氷中に設置することができる。マイク２０は、競技会場の音声を集音し、音信号を出力する。マイク２０が氷中に設置されていることにより、マイク２０で集音される音信号に含まれる音成分は、歓声や音楽等を示す音成分が抑制され、スケートリンク３０表面（氷）とスケートシューズのブレードとの摩擦音を示す音成分が支配的になる。出力される音信号の各サンプリング点には時刻情報が対応付いている。スケートリンク３０表面（氷）とスケートシューズのブレードとの摩擦音は、氷の音の一例である。

カメラ２２は、スケートリンク３０上の競技者３２の位置を特定可能な映像を撮影する、例えばモーショントラッキング用の撮影装置である。例えば、カメラ２２は、会場の天井、側壁等に複数台（例えば、３台）設置される。なお、図１では、カメラ２２は１台のみ図示している。各カメラ２２は、所定のフレームレート（例えば、１２０ｆｐｓ）で撮影した映像を出力する。出力される映像は、複数のフレームを含んでおり、各フレームには時刻情報が対応付いている。

情報処理装置１０は、機能的には、図２に示すように、取得部１２と、推定部１４と、特定部１６と、出力部１８とを含む。

取得部１２は、マイク２０から出力された音信号、及び複数のカメラ２２の各々から出力された映像を取得する。取得部１２は、取得した音信号を推定部１４へ受け渡し、取得した映像を特定部１６へ受け渡す。

推定部１４は、音信号に基づく氷の音の消失と復帰とに応じて、競技者が行ったジャンプの離氷時刻及び着氷時刻を推定する。例えば、推定部１４は、音信号のレベルが予め定めた閾値以下となる区間に基づいて、競技者が行ったジャンプの離氷時刻及び着氷時刻を推定する。これは、ジャンプ開始の離氷時には、ブレードと氷との摩擦音が消失し、着氷時に摩擦音が復帰することを利用したものである。閾値としては、概ね音信号が消失したと見做せる値を定めておけばよい。具体的には、図３に示すように、推定部１４は、音信号が閾値ＴＨ以下となった時刻を離氷時刻ｔＡとして推定する。また、推定部１４は、閾値ＴＨ以下となっていた音信号が再び閾値ＴＨを超えた時刻を着氷時刻ｔＢとして推定する。

また、推定部１４は、音信号に含まれる所定の周波数成分を除去した後の音信号に基づいて、ジャンプの離氷時刻ｔＡ及び着氷時刻ｔＢを推定してもよい。所定の周波数成分としては、例えば、歓声や音楽等、ブレードと氷との摩擦音以外の音に相当する周波数成分とすることができる。上述のように、マイク２０が氷中に設置されている場合には、歓声や音楽等、ブレードと氷との摩擦音以外の音は抑制されている。ただし、ブレードと氷との摩擦音以外の音に相当する周波数成分を除去することにより、より高精度にジャンプの離氷時刻ｔＡ及び着氷時刻ｔＢを推定することができる。なお、マイク２０が氷中ではない会場内に設置されている場合、音信号には歓声や音楽等も多く含まれることになるため、所定の周波数成分を除去することが有効となる。推定部１４は、推定したジャンプの離氷時刻ｔＡ及び着氷時刻ｔＢを特定部１６へ受け渡す。

特定部１６は、取得部１２から受け渡された映像から、モーショントラッキングによりスケートリンク３０上での競技者３２の位置の軌跡を取得する。例えば、特定部１６は、各カメラ２２で撮影された映像のフレーム毎に、モーショントラッキングの対象である競技者３２を認識する。例えば、特定部１６は、競技者３２又は競技者３２が装着する装着物の色、形状等の特徴に基づいて、各フレームから競技者３２を認識する。また、特定部１６は、フレーム間の差分が示す移動する物体を競技者３２として認識してもよい。そして、特定部１６は、各フレームにおいて認識された競技者３２の位置を、フレーム毎に算出する。そして、特定部１６は、各フレームにおける競技者の位置を追跡することで、軌跡情報を生成する。なお、競技者の位置は３次元で算出されてもよいし、２次元で算出されてもよい。本実施形態では、スケートリンク３０を平面視したｘｙ平面における、認識した競技者３２の位置座標（ｘ，ｙ）を算出する場合について説明する。

特定部１６は、音信号の時刻情報と映像の時刻情報とを同期させる。この際、特定部１６は、競技者３２とマイク２０との距離に応じた、映像に対する音信号の遅延時間を反映させるようにしてもよい。具体的には、図４に示すように、競技者３２とマイク２０との距離がＸ［ｍ］の場合、氷中の音速３２３０［ｍ／ｓ］を用いて、遅延時間は、Ｘ÷３２３０となる。例えば、特定部１６は、マイク２０の位置からスケートリンク３０の端までの距離の最大値をＸ＝３０ｍとし、遅延時間を、３０÷３２３０＝９．２８［ｍｓ］と求めることができる。特定部１６は、上記のように求めた遅延時間を用いて、音信号の時刻情報から遅延時間を減算した時刻情報と、映像の時刻情報とを同期させてもよい。

特定部１６は、競技者３２の位置の軌跡上で、離氷時刻ｔＡに対応する位置から着氷時刻ｔＢに対応する位置までをジャンプの区間として特定する。なお、上記のように、音信号の遅延時間を反映させる場合、離氷時刻ｔＡ及び着氷時刻ｔＢの各々は、推定部１４により推定された離氷時刻ｔＡ及び着氷時刻ｔＢの各々から遅延時間を減算した時刻情報である。

具体的には、図５に示すように、特定部１６は、音信号と時刻情報を同期させた映像において、離氷時刻ｔＡの直前及び直後の時刻情報に対応するフレームの各々から取得された競技者３２の位置を特定する。そして、特定部１６は、特定した両位置の間で、離氷時刻ｔＡに対応する位置（以下、「離氷点」ともいう）を特定する。なお、図５では、説明の都合上、競技者３２の位置の軌跡を、音信号の時間軸に対応させた直線で表している。

より具体的には、特定部１６は、図６に示すように、離氷時刻ｔＡの直前の時刻情報ｔ１に対応するフレームをｍ１、離氷時刻ｔＡの直後の時刻情報ｔ２に対応するフレームをｍ２とする。また、特定部１６は、フレームｍ１から取得された位置をＰ１、フレームｍ２から取得された位置をＰ２とし、Ｐ１とＰ２との間では、競技者３２の位置は直線的に変化するものと仮定する。この場合、特定部１６は、Ｐ１とＰ２との間の位置であって、１フレーム分の時間（ｔ２－ｔ１）に対するｔＡの割合に対応する位置を、離氷点Ａと特定する。すなわち、特定部１６は、Ａ＝Ｐ１＋（Ｐ２－Ｐ１）×（ｔＡ－ｔ１）／（ｔ２－ｔ１）により、離氷点を特定することができる。

特定部１６は、着氷時刻ｔＢに対応する位置（以下、「着氷点」ともいう）についても、上記の離氷点と同様に特定する。特定部１６は、モーショントラッキングにより取得した競技者３２の位置の軌跡と、特定した離氷点及び着氷点の位置とを出力部１８へ受け渡す。

出力部１８は、スケートリンク３０を表す画像に、競技者３２の位置の軌跡を示す画像を重畳すると共に、特定されたジャンプの区間を、軌跡における他の区間とは異なる表示態様で表示するための画像データを生成し、出力する。例えば、出力部１８は、図１に示すような画像３８を示す画像データを生成する。図１の画像３８の例では、軌跡を破線で示し、ジャンプの区間を実線で示している。出力された画像データが示す画像３８は、例えば、審判員が使用する表示装置等に表示され、リンクカバー等の判定に用いることができる。また、テレビ放送等の画面に画像３８を挿入することも可能である。

情報処理装置１０は、例えば図７に示すコンピュータ４０で実現することができる。コンピュータ４０は、ＣＰＵ（Central Processing Unit）４１と、一時記憶領域としてのメモリ４２と、不揮発性の記憶部４３とを備える。また、コンピュータ４０は、入力部、表示部等の入出力装置４４と、記憶媒体４９に対するデータの読み込み及び書き込みを制御するＲ／Ｗ（Read/Write）部４５とを備える。また、コンピュータ４０は、インターネット等のネットワークに接続される通信Ｉ／Ｆ（Interface）４６を備える。ＣＰＵ４１、メモリ４２、記憶部４３、入出力装置４４、Ｒ／Ｗ部４５、及び通信Ｉ／Ｆ４６は、バス４７を介して互いに接続される。

記憶部４３は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部４３には、コンピュータ４０を、情報処理装置１０として機能させるための情報処理プログラム５０が記憶される。情報処理プログラム５０は、取得プロセス５２と、推定プロセス５４と、特定プロセス５６と、出力プロセス５８とを有する。

ＣＰＵ４１は、情報処理プログラム５０を記憶部４３から読み出してメモリ４２に展開し、情報処理プログラム５０が有するプロセスを順次実行する。ＣＰＵ４１は、取得プロセス５２を実行することで、図２に示す取得部１２として動作する。また、ＣＰＵ４１は、推定プロセス５４を実行することで、図２に示す推定部１４として動作する。また、ＣＰＵ４１は、特定プロセス５６を実行することで、図２に示す特定部１６として動作する。また、ＣＰＵ４１は、出力プロセス５８を実行することで、図２に示す出力部１８として動作する。これにより、情報処理プログラム５０を実行したコンピュータ４０が、情報処理装置１０として機能することになる。なお、プログラムを実行するＣＰＵ４１はハードウェアである。

なお、情報処理プログラム５０により実現される機能は、例えば半導体集積回路、より詳しくはＡＳＩＣ（Application Specific Integrated Circuit）等で実現することも可能である。

次に、第１実施形態に係る情報処理システム１００の作用について説明する。情報処理装置１０に、マイク２０から出力された音信号、及び複数のカメラ２２の各々で撮影された映像が入力されると、情報処理装置１０において、図８に示す情報処理ルーチンが実行される。なお、情報処理ルーチンは、開示の技術の情報処理方法の一例である。

ステップＳ１２で、取得部１２が、情報処理装置１０に入力された音信号及び映像を取得する。取得部１２は、取得した音信号を推定部１４へ受け渡し、取得した映像を特定部１６へ受け渡す。

次に、ステップＳ１４で、推定部１４が、音信号が閾値ＴＨ以下となった時刻を離氷時刻ｔＡとして推定し、閾値ＴＨ以下となっていた音信号が再び閾値ＴＨを超えた時刻を着氷時刻ｔＢとして推定する。推定部１４は、推定したジャンプの離氷時刻ｔＡ及び着氷時刻ｔＢを特定部１６へ受け渡す。

次に、ステップＳ１６で、特定部１６が、取得部１２から受け渡された映像の各フレームから、モーショントラッキングによりスケートリンク３０上での競技者３２の位置の軌跡を取得する。

次に、ステップＳ１８で、特定部１６が、音信号の時刻情報と映像の時刻情報とを同期させる。そして、特定部１６が、音信号と時刻情報を同期させた映像の各フレームにおいて、離氷時刻ｔＡの直前及び直後の時刻情報に対応するフレームの各々から取得された競技者３２の位置を特定する。そして、特定部１６は、特定した両位置の間で、離氷時刻ｔＡに対応する離氷点Ａの位置を特定する。特定部１６は、同様に、音信号と時刻情報を同期させた映像の各フレームにおいて、着氷時刻ｔＢの直前及び直後の時刻情報に対応するフレームの各々から取得された競技者３２の位置を特定する。そして、特定部１６は、特定した両位置の間で、着氷時刻ｔＢに対応する着氷点Ｂの位置を特定する。特定された離氷点Ａから着氷点Ｂまでの区間がジャンプの区間として特定される。特定部１６は、モーショントラッキングにより取得した競技者３２の位置の軌跡と、特定した離氷点及び着氷点の位置とを出力部１８へ受け渡す。

次に、ステップＳ２０で、出力部１８が、スケートリンク３０を表す画像に、競技者３２の位置の軌跡を示す画像を重畳すると共に、特定されたジャンプの区間を、軌跡を示す画像とは異なる表示態様で表示するための画像データを生成し、出力する。そして、情報処理ルーチンは終了する。

以上説明したように、第１実施形態に係る情報処理システムによれば、情報処理装置が、スケートリンクを含む会場内に設けられたマイクで集音された音信号、及びスケートリンク上の競技者の位置を特定可能に撮影した映像を取得する。そして、情報処理装置は、音信号に基づく氷の音の消失及び復帰に応じて、競技者が行ったジャンプの離氷時刻及び着氷時刻を推定する。さらに、情報処理装置は、音信号の時刻情報と映像の時刻情報とを同期させ、映像からモーショントラッキングにより取得されたスケートリンク上での競技者の位置の軌跡において、離氷時刻に対応する位置、及び前記着氷時刻に対応する位置の各々を特定する。これにより、競技者にセンサ等を取り付けることなく、フィギュアスケートにおけるジャンプの離氷点及び着氷点を特定することができる。

また、音信号から離氷時刻及び着氷時刻を推定することにより、映像からモーショントラッキングにより位置を特定する場合に比べ、１フレーム分の時間単位の時刻より細かい時刻における位置を特定することができる。

＜第２実施形態＞
次に、第２実施形態について説明する。なお、第２実施形態に係る情報処理システムにおいて、第１実施形態に係る情報処理システム１００と同様の構成については、同一符号を付して詳細な説明を省略する。

図９に示すように、第２実施形態に係る情報処理システム２００は、情報処理装置２１０と、マイク２０と、第１カメラ２２と、第２カメラ２４とを含む。情報処理システム２００は、マイク２０から出力される音信号、第１カメラ２２及び第２カメラ２４から出力される映像に対して情報処理を行い、第１実施形態と同様に、競技者の位置の軌跡上における、離氷点から着氷点までのジャンプの区間を特定する。加えて、情報処理システム２００は、特定したジャンプの区間を用いて、ジャンプの着氷時のブレードの回転角度等、ジャンプに関する情報を算出する。

第１カメラ２２は、第１実施形態におけるカメラ２２と同様であり、スケートリンク３０上の競技者３２の位置を特定可能な映像を撮影する、例えばモーショントラッキング用の撮影装置である。

第２カメラ２４は、スケートリンク３０上の競技者３２及び競技者３２が装着する装着物の所定部位の３次元位置を特定可能に撮影する撮影装置である。第２カメラ２４は、上記の所定部位の３次元位置をステレオカメラ方式により計測可能な位置に複数台（例えば、２台）設置される。なお、図９では、第２カメラ２４は１台のみ図示している。各第２カメラ２４は、所定のフレームレート（例えば、３０ｆｐｓ、６０ｆｐｓ等）で撮影した映像を出力する。出力される映像は、複数のフレームを含んでおり、各フレームには時刻情報が対応付いている。なお、第２カメラ２４として、ＴｏＦ（Time-of-Flight）方式の１台のカメラを用いてもよい。

以下では、第１カメラ２２で撮影された映像を第１の映像、第２カメラ２４で撮影された映像を第２の映像という。

情報処理装置２１０は、機能的には、図１０に示すように、取得部２１２と、推定部１４と、特定部２１６と、算出部１９と、出力部２１８とを含む。

取得部２１２は、マイク２０から出力された音信号、複数の第１カメラ２２の各々から出力された第１の映像、及び複数の第２カメラ２４の各々から出力された第２の映像を取得する。取得部２１２は、取得した音信号を推定部１４へ受け渡し、取得した第１の映像及び第２の映像を特定部２１６へ受け渡す。

特定部２１６は、第１実施形態における特定部１６と同様に、推定部１４で推定された離氷時刻ｔＡ及び着氷時刻ｔＢと、第１の映像とに基づいて、離氷点Ａ及び着氷点Ｂの各々の位置を特定する。さらに、特定部２１６は、図１１に示すように、離氷点Ａと着氷点Ｂとを通る直線を、ジャンプの回転を判定するための基準線（Ａ－Ｂ）として特定する。特定部２１６は、競技者３２の位置の軌跡と、離氷点Ａ及び着氷点Ｂの位置とを出力部２１８へ受け渡し、離氷点Ａ及び着氷点Ｂの位置と、基準線（Ａ－Ｂ）の情報とを算出部１９へ受け渡す。

また、特定部２１６は、音信号の時刻情報と第２の映像の時刻情報とを同期させ、取得部２１２から受け渡された第２の映像において、ジャンプの離氷時刻ｔＡに対応するフレームから着氷時刻ｔＢに対応するフレームまでをジャンプの区間として特定する。

具体的には、図１２に示すように、特定部２１６は、離氷時刻ｔＡと同期する時刻情報の第２の映像のフレーム（以下、「離氷フレームｍＡ」という）の所定数前のフレームを、離氷時刻ｔＡに対応する開始フレームｍＳとして特定する。また、特定部２１６は、着氷時刻ｔＢと同期する時刻情報の第２の映像のフレーム（以下、「着氷フレームｍＢ」という）の所定数後のフレームを、着氷時刻ｔＢに対応する終了フレームｍＥとして特定する。離氷フレームｍＡ～着氷クレームｍＢの前後のフレームを含めるのは、離氷から着氷までが確実に含まれるように、開始フレームｍＳ及び終了フレームｍＥを特定するためである。図１２に示すように、所定数は、例えば１とすることができる。

また、特定部２１６は、所定数を、上述した、映像に対する音信号の遅延時間をフレーム数に換算した数としてもよい。例えば、競技者３２とマイク２０との距離Ｘ［ｍ］を、Ｘ＝３０ｍとした場合、遅延時間は、３０÷３２３０＝９．２８［ｍｓ］である。第２の映像のフレームレートが３０ｆｐｓ又は６０ｆｐｓの場合、上記図１２の例と同様に、所定数を１とし、１２０ｆｐｓの場合、所定数を２とすればよい。

なお、特定部２１６は、開始フレームｍＳを特定する際には、遅延時間に基づく所定数を用い、終了フレームｍＥを特定する際には、所定数として１を用いるようにしてもよい。

特定部２１６は、取得部２１２から受け渡された第２の映像から、開始フレームｍＳから終了フレームｍＥまでの区間を、ジャンプの区間として抽出して、算出部１９へ受け渡す。

算出部１９は、特定部２１６から受け渡されたジャンプの区間に含まれる、第２の映像のフレームの各々を３次元解析し、競技者３２及び競技者３２が装着する装着物の所定部位の３次元位置（ｘ，ｙ，ｚ）を算出する。所定部位は、図１３に示すように、競技者３２が装着するスケートシューズのブレードの先端３４及び終端３６を含む。また、所定部位は、競技者３２の各関節、頭部、及び目、鼻、口等の顔の部位を含んでもよい。なお、各フレームから、これらの所定部位を認識する手法は、所定部位の形状を用いた認識方法や、人体骨格モデルを用いた認識方法等、既存の手法を用いることができる。

また、情報処理システム２００が３台以上の第２カメラ２４を備えているとする。この場合、算出部１９は、複数の第２カメラ２４の各々で撮影された映像のうち、３次元位置の算出に適した角度で競技者３２を撮影した２つの映像を用いて、所定部位の３次元位置を算出すればよい。

算出部１９は、ジャンプの区間に含まれるフレームの各々から算出したブレードの先端３４及び終端３６の位置を用いて、第２カメラ２４の撮影方向を基準としたブレードの絶対角度を算出する。例えば、算出部１９は、第２カメラ２４の撮影方向、又は撮影方向に垂直な線と、ブレードの先端３４と終端３６とを結ぶ線とのなす角度を、ブレードの絶対角度として算出することができる。なお、算出部１９は、複数の第２カメラ２４のうち、いずれかの第２カメラ２４をメインのカメラとして定めておき、メインの第２カメラ２４の撮影方向を基準に、ブレードの絶対角度を算出すればよい。

また、算出部１９は、ブレードの絶対角度を、ジャンプの回転不足を判定するための基準線に対する角度（以下、「回転角度θ」という）に変換する。具体的には、算出部１９は、第２カメラ２４の撮影方向を基準とした線と、特定部２１６により特定された基準線（Ａ－Ｂ）との角度差を、ブレードの絶対角度から差し引いて、ブレードの回転角度θを算出する。図１４に、ジャンプの区間に含まれるフレームの各々から算出された回転角度θを示す。

算出部１９は、着氷時における、第２の映像に対する音信号の遅延時間Δｔを算出する。上述したように、遅延時間は、距離Ｘ［ｍ］÷３２３０［ｍ／ｓ］（氷中の音速）である。ここでは、距離Ｘを、マイク２０の位置と、着氷点Ｂとの距離とする。

算出部１９は、終了フレームｍＥから算出した回転角度θ（ｍＥ）と、終了フレームｍＥの１つ前のフレームｍＥ－１から算出した回転角度θ（ｍＥ－１）とに基づいて、着氷時のブレードの回転角度を算出する。

図１５を参照して、具体的に説明する。図１５は、図１４の破線枠で示す部分の拡大図である。音信号に基づいて推定した着氷時刻ｔＢに、算出した遅延時間Δｔを考慮した補正後の着氷時刻ｔＢ－Δｔは、フレームｍＥ－１～フレームｍＥまでの１フレーム分の時間内に含まれる。なお、ここでは、遅延時間Δｔは、１フレーム分の時間と比較して微小な時間である。算出部１９は、ジャンプ中の回転速度はほぼ一定であると仮定し、フレームｍＥ－１～フレームｍＥ間の回転角度を、回転角度θ（ｍＥ－１）及び回転角度θ（ｍＥ）を用いて線形補完する。そして、算出部１９は、補正後の着氷時刻ｔＢ－Δｔに対応する回転角度を、着氷時の回転角度θ（ｔＢ－Δｔ）として算出する。

また、算出部１９は、ジャンプの区間に対応する所定部位の３次元位置に基づいて、他の情報を算出することもできる。例えば、算出部１９は、所定部位として腰の位置を算出し、ジャンプの区間に含まれる各フレームから算出された腰の位置の最小値と最大値との差をジャンプの高さとして算出することができる。また、算出部１９は、特定部２１６で特定された離氷点Ａから着氷点Ｂまでの距離をジャンプの飛距離として算出することができる。また、算出部１９は、離氷時刻ｔＡから着氷時刻ｔＢまでの時間と、ジャンプの区間における回転角度の変化とから、回転速度を算出することができる。また、算出部１９は、開始フレームｍＳから所定フレームまでの時間と、その間における所定部位の位置の変化量とから、踏切速度を算出することができる。算出部１９は、着氷時の回転角度θ（ｔＢ－Δｔ）、及びその他算出した情報を出力部２１８へ受け渡す。

出力部２１８は、第１実施形態における出力部１８と同様に、競技者３２の位置の軌跡上にジャンプの区間を示す画像３８の画像データを生成し、出力する。また、出力部２１８は、算出部１９から受け渡された着氷時の回転角度θ（ｔＢ－Δｔ）等の情報を出力する。着氷時の回転角度θ（ｔＢ－Δｔ）は、ジャンプの回転不足等の判定に用いることができる。また、出力された情報を、テレビ放送等の画面に表示するスタッツとして用いることもできる。

情報処理装置２１０は、例えば図７に示すコンピュータ４０で実現することができる。コンピュータ４０の記憶部４３には、コンピュータ４０を、情報処理装置２１０として機能させるための情報処理プログラム２５０が記憶される。情報処理プログラム２５０は、取得プロセス２５２と、推定プロセス５４と、特定プロセス２５６と、算出プロセス５９と、出力プロセス２５８とを有する。

ＣＰＵ４１は、情報処理プログラム２５０を記憶部４３から読み出してメモリ４２に展開し、情報処理プログラム２５０が有するプロセスを順次実行する。ＣＰＵ４１は、取得プロセス２５２を実行することで、図１０に示す取得部２１２として動作する。また、ＣＰＵ４１は、推定プロセス５４を実行することで、図１０に示す推定部１４として動作する。また、ＣＰＵ４１は、特定プロセス２５６を実行することで、図１０に示す特定部２１６として動作する。また、ＣＰＵ４１は、算出プロセス５９を実行することで、図１０に示す算出部１９として動作する。また、ＣＰＵ４１は、出力プロセス２５８を実行することで、図１０に示す出力部２１８として動作する。これにより、情報処理プログラム２５０を実行したコンピュータ４０が、情報処理装置２１０として機能することになる。

なお、情報処理プログラム２５０により実現される機能は、例えば半導体集積回路、より詳しくはＡＳＩＣ等で実現することも可能である。

次に、第２実施形態に係る情報処理システム２００の作用について説明する。情報処理装置２１０に、マイク２０から出力された音信号、複数の第１カメラ２２の各々で撮影された第１の映像、及び複数の第２カメラ２４の各々で撮影された第２の映像が入力される。そして、情報処理装置２１０において、図１６に示す情報処理ルーチンが実行される。なお、図１６に示す情報処理ルーチンにおいて、第１実施形態における情報処理ルーチン（図８）と同様の処理については、同一のステップ番号を付与して詳細な説明を省略する。また、情報処理ルーチンは、開示の技術の情報処理方法の一例である。

ステップＳ２１２で、取得部２１２が、情報処理装置２１０に入力された音信号、第１の映像、及び第２の映像を取得する。取得部２１２は、取得した音信号を推定部１４へ受け渡し、取得した第１の映像及び第２の映像を特定部２１６へ受け渡す。

ステップＳ１４～Ｓ１８を経て、次のステップＳ２１８で、特定部２１６が、上記ステップＳ１８で特定した離氷点Ａ及び着氷点Ｂの各々の位置を用いて、離氷点Ａと着氷点Ｂとを通る直線を、ジャンプの回転を判定するための基準線（Ａ－Ｂ）として特定する。

次に、ステップＳ２２０で、特定部２１６が、第２の映像において、離氷時刻ｔＡと同期する時刻情報の離氷フレームｍＡの所定数（例えば、１フレーム）前のフレームを、離氷時刻ｔＡに対応する開始フレームｍＳとして特定する。また、特定部２１６が、着氷時刻ｔＢと同期する時刻情報の着氷フレームｍＢの所定数（例えば、１フレーム）後のフレームを、着氷時刻ｔＢに対応する終了フレームｍＥとして特定する。特定部２１６は、取得部２１２から受け渡された第２の映像から、開始フレームｍＳから終了フレームｍＥまでの区間を、ジャンプの区間として抽出して、算出部１９へ受け渡す。

次に、ステップＳ２２２で、算出部１９が、特定部２１６から受け渡されたジャンプの区間に含まれるフレームの各々を３次元解析し、ブレードの先端３４及び終端３６を含む所定部位の３次元位置（ｘ，ｙ，ｚ）を算出する。そして、算出部１９が、第２カメラ２４の撮影方向を基準とした線と、ブレードの先端３４と終端３６とを結ぶ線とのなす角度を、ブレードの絶対角度として算出する。また、算出部１９が、上記ステップＳ２１８で特定部２１６により特定された基準線と、第２カメラ２４の撮影方向を基準とした線との角度差を、ブレードの絶対角度から差し引いて、ブレードの回転角度θを算出する。

次に、ステップＳ２２４で、算出部１９が、マイク２０の位置と、着氷点Ｂとの距離Ｘを算出し、着氷時における、映像に対する音信号の遅延時間Δｔを、Δｔ＝距離Ｘ［ｍ］÷３２３０［ｍ／ｓ］（氷中の音速）として算出する。そして、算出部１９が、フレームｍＥ－１～フレームｍＥ間の回転角度を、回転角度θ（ｍＥ－１）及びθ（ｍＥ）を用いて線形補完し、補正後の着氷時刻ｔＢ－Δｔに対応する回転角度を、着氷時の回転角度θ（ｔＢ－Δｔ）として算出する。

次に、ステップＳ２２６で、算出部１９が、ジャンプの区間に対応する所定部位の３次元位置、及び特定部２１６で特定された離氷点Ａ及び着氷点Ｂの位置等に基づいて、飛距離、回転速度等の他の情報を算出する。

次に、ステップＳ２２８で、出力部２１８が、競技者３２の位置の軌跡上にジャンプの区間を示す画像３８の画像データを生成し、画像データと、上記ステップＳ２２６で算出された、着氷時の回転角度θ（ｔＢ－Δｔ）等の情報を出力する。そして、情報処理ルーチンは終了する。

以上説明したように、第２実施形態に係る情報処理システムによれば、情報処理装置が、第１実施形態に係る情報処理装置と同様に、音信号から離氷時刻及び着氷時刻を推定することにより、精度良く離氷点及び着氷点の位置を特定する。また、情報処理装置は、特定した離氷点及び着氷点を用いて、ジャンプの回転を判定するための基準線を特定する。これにより、ジャンプの回転不足等の判定を精度良く行うための支援を行うことができる。

なお、上記各実施形態では、情報処理プログラムが記憶部に予め記憶（インストール）されている態様を説明したが、これに限定されない。開示の技術に係るプログラムは、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ＵＳＢメモリ等の記憶媒体に記憶された形態で提供することも可能である。

１０、２１０ 情報処理装置
１２、２１２ 取得部
１４ 推定部
１６、２１６ 特定部
１８、２１８ 出力部
１９ 算出部
２０ マイク
２２ カメラ、第１カメラ
２４ 第２カメラ
３０ スケートリンク
３２ 競技者
３４ ブレードの先端
３６ ブレードの終端
３８ 画像
４０ コンピュータ
４１ ＣＰＵ
４２ メモリ
４３ 記憶部
４９ 記憶媒体
５０、２５０ 情報処理プログラム
１００、２００ 情報処理システム

Claims (10)

1. スケートリンクを含む会場内に設けられたマイクで集音された音信号、及び前記スケートリンク上の競技者を撮影した第１の映像を取得し、
   前記音信号に基づく氷の音の消失及び復帰に応じて、前記競技者が行ったジャンプの離氷時刻及び着氷時刻を推定し、
   前記音信号の時刻情報と前記第１の映像の時刻情報とを同期させ、前記第１の映像に基づく前記スケートリンク上での前記競技者の位置の軌跡において、前記離氷時刻に対応する位置、及び前記着氷時刻に対応する位置の各々を特定する
   ことを含む処理をコンピュータに実行させるための情報処理プログラムであって、
   前記軌跡における前記競技者の位置は、前記第１の映像に含まれるフレームの各々に対応して取得されており、
   前記離氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記離氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記離氷時刻に対応する位置を特定し、
   前記着氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記着氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記着氷時刻に対応する位置を特定する
   情報処理プログラム。
2. 前記音信号の時刻情報と前記第１の映像の時刻情報とを同期させる際、前記第１の映像に対する前記音信号の遅延時間を反映させる請求項１に記載の情報処理プログラム。
3. 前記コンピュータに、さらに、
   前記スケートリンクを表す画像に、前記競技者の位置の軌跡を示す画像を重畳すると共に、特定したジャンプの区間を、前記軌跡における他の区間とは異なる表示態様で表示するための画像データを出力する
   処理を実行させるための請求項１又は請求項２に記載の情報処理プログラム。
4. 前記コンピュータに、さらに、
   前記離氷時刻に対応する位置と前記着氷時刻に対応する位置とを通る直線を、前記ジャンプの回転を判定するための基準線として特定する
   処理を実行させるための請求項１～請求項３のいずれか１項に記載の情報処理プログラム。
5. 前記コンピュータに、さらに、
   前記スケートリンク上の競技者及び前記競技者が装着する装着物の所定部位の３次元位置を特定可能に撮影した第２の映像を取得し、
   前記音信号の時刻情報と前記第２の映像の時刻情報とを同期させ、前記第２の映像に含まれる前記ジャンプの区間に対応するフレームの各々から３次元画像解析により取得される前記所定部位の３次元位置に基づいて、前記基準線に対する前記所定部位の角度を算出する
   処理を実行させる請求項４に記載の情報処理プログラム。
6. 前記所定部位は、前記競技者が装着するスケートシューズのブレードの向きを特定可能な部位である請求項５に記載の情報処理プログラム。
7. 前記マイクは、前記スケートリンクの氷中に設けられる請求項１～請求項６のいずれか１項に記載の情報処理プログラム。
8. 前記音信号に含まれる所定の周波数成分を除去した後の音信号に基づいて、前記離氷時刻及び前記着氷時刻を推定する請求項１～請求項７のいずれか１項に記載の情報処理プログラム。
9. スケートリンクを含む会場内に設けられたマイクで集音された音信号、及び前記スケートリンク上の競技者を撮影した第１の映像を取得する取得部と、
   前記音信号に基づく氷の音の消失及び復帰に応じて、前記競技者が行ったジャンプの離氷時刻及び着氷時刻を推定する推定部と、
   前記音信号の時刻情報と前記第１の映像の時刻情報とを同期させ、前記第１の映像に基づく前記スケートリンク上での前記競技者の位置の軌跡において、前記離氷時刻に対応する位置、及び前記着氷時刻に対応する位置の各々を特定する特定部と、を含み、
   前記軌跡における前記競技者の位置は、前記第１の映像に含まれるフレームの各々に対応して取得されており、
   前記特定部は、
   前記離氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記離氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記離氷時刻に対応する位置を特定し、
   前記着氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記着氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記着氷時刻に対応する位置を特定する
   情報処理装置。
10. スケートリンクを含む会場内に設けられたマイクで集音された音信号、及び前記スケートリンク上の競技者を撮影した第１の映像を取得し、
    前記音信号に基づく氷の音の消失及び復帰に応じて、前記競技者が行ったジャンプの離氷時刻及び着氷時刻を推定し、
    前記音信号の時刻情報と前記第１の映像の時刻情報とを同期させ、前記第１の映像に基づく前記スケートリンク上での前記競技者の位置の軌跡において、前記離氷時刻に対応する位置、及び前記着氷時刻に対応する位置の各々を特定する
    ことを含む処理をコンピュータが実行する情報処理方法であって、
    前記軌跡における前記競技者の位置は、前記第１の映像に含まれるフレームの各々に対応して取得されており、
    前記離氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記離氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記離氷時刻に対応する位置を特定し、
    前記着氷時刻の直前の時刻情報に対応するフレームから取得された位置と、前記着氷時刻の直後の時刻情報に対応するフレームから取得された位置との間で、前記着氷時刻に対応する位置を特定する
    情報処理方法。