JP7287188B2 - 処理装置、プログラムおよび処理方法 - Google Patents

処理装置、プログラムおよび処理方法 Download PDF

Info

Publication number
JP7287188B2
JP7287188B2 JP2019156366A JP2019156366A JP7287188B2 JP 7287188 B2 JP7287188 B2 JP 7287188B2 JP 2019156366 A JP2019156366 A JP 2019156366A JP 2019156366 A JP2019156366 A JP 2019156366A JP 7287188 B2 JP7287188 B2 JP 7287188B2
Authority
JP
Japan
Prior art keywords
time
video
video information
reproduction
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019156366A
Other languages
English (en)
Other versions
JP2021034986A (ja
Inventor
誠 五味
正造 坂根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2019156366A priority Critical patent/JP7287188B2/ja
Publication of JP2021034986A publication Critical patent/JP2021034986A/ja
Application granted granted Critical
Publication of JP7287188B2 publication Critical patent/JP7287188B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、処理装置、プログラムおよび処理方法に関し、例えば、複数の録画映像を同時に再生する方法に関するものである。
監視カメラ等の録画映像を複数同時に再生するとき、各映像の時間が同期するように再生することが求められる。これを実現するために、例えば、映像データ中に含まれる「タイムコード」や、各フレームの「タイムスタンプ」にオフセット値を加減算することにより、映像間で共通の時間軸に従ったタイミングで映像データをディスプレイへ描画する(各映像の同期を合わせる)ことが行われている(特許文献1参照)。特許文献1の技術では、複数映像のタイミング制御をディスプレイ(モニタ)への描画の直前に実施している。
一方、近年では、Web Browser(ウェブブラウザ)により各種サービスを提供する「Webアプリケーション」が発展している。Web Browserは、W3Cが定める HTML規格によるコンテンツを表示するソフトウェアであるが、HTML(HyperText Markup Language:ハイパーテキストマークアップ言語)規格では映像再生を提供する機能「HTML5 Video Element」が定められている(非特許文献1参照)。
特開2012-239042号公報
"HTML 5.2, W3C Recommendation, 4.7.10. The video element, 14 December 2017",[online],W3C,[令和1年6月28日検索],インターネット,<https://www.w3.org/TR/html5/semantics-embedded-content.html#the-video-element>
しかしながら、「HTML5 Video Element」の提供する機能には、映像データをディスプレイへ描画するタイミングを調整することを可能にする機能や、複数映像を同期させる機能は含まれていない。そのため、複数の録画映像を同期して再生する再生機能をWebアプリケーションとして提供しようとした場合、「タイムコード」や「タイムスタンプ」を用いた従来の方法を適用できないという問題があった。
そして、再生指示のタイミングを同じにする(つまり、再生開始の位置(時刻)を指定して、同時に再生指示を行う)ことによって複数の録画映像を同期して再生することは、以下の理由により難しい。
第一に、映像データの取得、映像データのバッファリングおよび映像データのデコードにかかる時間は、各映像で異なる。そのため、同時に再生指示を行ったとしても、再生指示から映像の再生までに差が発生する。
第二に、映像データは、一般に数秒周期で含まれるキーフレームからのみデコードを開始できるという特徴があるのに対して、各録画映像におけるキーフレームの時刻が同じである保証が無い(つまり、キーフレームの位置が録画映像ごとに異なる)。したがって、特定の時刻からの映像データを取得しようとしても、録画映像ごとに異なる時刻からの映像データしか取得できない。そのため、異なる時刻から同じタイミングで各録画映像の再生が開始されることになり、仮に第一の要因によって再生指示から映像の再生までの差が発生しない場合であっても、複数の録画映像を同期して再生することができない。
さらに、ネットワークの遅延、ディスクI/O(ディスクInput/Output:ディスク入力/出力)やCPU(Central Processing Unit:中央処理装置)の負荷などの要因により、同期して再生されていた複数の録画映像にズレが発生する場合も想定される。
本発明は、前記課題に鑑みてなされたものであり、Webアプリケーションが有する一般的な機能を用いて、録画映像の同期再生を実現することができる、処理装置、プログラムおよび処理方法を提供するものである。
前記課題を解決するため、本発明に係る処理装置は、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理部と、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部と、を有することを特徴とする。
また、本発明に係る処理装置は、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理部と、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部と、を有することを特徴とする。
また、本発明に係るプログラムは、処理装置のコンピュータを、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理部、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部、として機能させる。
また、本発明に係るプログラムは、処理装置のコンピュータを、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理部、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部、として機能させる。
また、本発明に係る処理方法は、処理装置の処理方法であって、前記処理装置は、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理ステップと、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理ステップと、を有することを特徴とする。
また、本発明に係る処理方法は、処理装置の処理方法であって、前記処理装置は、キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理ステップと、一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理ステップと、を有することを特徴とする。
本発明によれば、Webアプリケーションが有する一般的な機能を用いて、録画映像の同期再生を実現することができる。
本発明の第1実施形態に係る動画再生システムの全体構成図である。 本発明の第1実施形態に係るクライアントに表示されるWeb画面の例示である。 本発明の第1実施形態に係るWebサーバのソフトウェア構成図である。 本発明の第1実施形態に係るWebサーバのソフトウェア処理のイメージ図である。 クライアントに表示される画面例である。 本発明の第2実施形態に係る動画再生システムの全体構成図である。 本発明の第2実施形態に係るWebサーバのソフトウェア構成図である。 本発明の第1,2実施形態に係る映像再生機能が持つべきAPIの例示である。
以下、本発明を実施するための形態を、適宜図面を参照しながら詳細に説明する。
各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。また、本実施形態では、本発明と直接的に関連しない構成や周知な構成については、説明を省略する場合がある。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
[第1実施形態]
≪第1実施形態に係る動画再生システムの構成≫
図1を参照して、第1実施形態に係る動画再生システム100について説明する。図1は、第1実施形態に係る動画再生システム100の全体構成図である。
動画再生システム100は、Webアプリケーションを用いて動画を再生するシステムである。動画再生システム100は、クライアント200と、Webサーバ300とで主に構成される。クライアント200とWebサーバ300とは、例えば、通信ネットワーク(インターネット)400を介してデータの送受信可能に接続されている。
クライアント200は、動画を表示する装置であり、例えば、パーソナルコンピュータ(PC:Personal Computer)、タブレット端末、スマートフォンなどである。クライアント200では、Webブラウザ210が動作する。Webブラウザ210は、Webサーバ300が提供するWebページを閲覧するためのアプリケーションソフトウェアである。Webページは、例えばHTML(Hyper Text Markup Language)を用いて作成されている。Webページには、個々の情報ファイル(ここでは、録画映像データ)が含まれている。Webブラウザ210が動作すると、クライアント200のディスプレイにWeb画面220が表示される。
Webサーバ300は、動画を提供する装置であり、例えば、サーバコンピュータである。Webサーバ300は、Webアプリケーション310を提供する。Webアプリケーション310は、インターネットなどのネットワークを介して提供するアプリケーションソフトウェアであり、ユーザは、Webアプリケーション310を、Webブラウザ210を用いてダウンロードして実行し、Webアプリケーション310を操作する。Webサーバ300は、ユーザからの要求に応じてWebページを提供する。
なお、Webサーバ300は、「処理装置」の一例であり、「処理装置」の一例は、Webサーバ300に限るものではない。
Webサーバ300は、データベース320を有している。データベース320には、録画映像群21が格納されている。録画映像群21は、関連する複数の録画映像データ22-1~22-N(2≦N)によって構成されている。録画映像データ22-1~22-Nは映像データである。録画映像データ22-1~22-Nの関連性は特に限定されるものではなく、例えば、特定の場所や物を撮影した場合のように撮影時の条件によるものであってもよいし、撮影時の条件とは関係なく例えばWebサーバ300の管理者によって事後的に対応付けが行われたものであってもよい。以下では、録画映像データ22-1~22-Nを区別せずに説明する場合に「録画映像データ22-i(ここで、1≦i≦N)」と呼ぶ場合がある。
なお、録画映像データ22-iは、「第1映像情報」および「第2映像情報」の一例であり、「第1映像情報」および「第2映像情報」の一例は、録画映像データ22-iに限るものではない。
本実施形態における録画映像データ22-iは、同一店舗内に設置される複数の監視カメラの録画映像を想定する。つまり、録画映像データ22-1~22-Nは、録画が撮影された絶対時刻(例えば、協定世界時「UTC」)が存在しており、各録画映像の先頭からの相対時刻と、各録画映像に共通する絶対時刻との関係が「1:1」になっていることを想定している(つまり、各々の録画映像データ22-iの相対時刻「0」に対応する絶対時刻が既知である)。そのため、本実施形態では、録画映像データ22-iの再生位置を表現する場合、主に絶対時刻を用いることにする。なお、一般的には、再生位置を表現する場合、映像データの先頭を時刻「0」として、そこからの相対時刻を用いることが多い。
ユーザが録画映像群21を再生するためのWebアプリケーション310のURL(Uniform Resource Locator)を指定し、Webブラウザ210を介してWebサーバ300へのリクエストを送信する場合を考える。その場合、例えば、図2に示すWeb画面220がクライアント200のディスプレイに表示される。図2(a)、(b)に示すWeb画面220は、録画映像群21を表示するための画面である。Web画面220は、例えば、操作エリア221と、録画映像群表示エリア222とを有する。
操作エリア221は、映像を視聴するためにユーザによって操作が行われる領域である。ここでの操作エリア221は、時刻指定欄221aと、再生ボタン221bとを備える。
時刻指定欄221aには、録画映像データ22-iの再生を開始する時刻がユーザによって指定(入力)される。なお、時刻指定欄221aは、日付やその他の情報がさらに指定(入力)できる構成であってもよい。
再生ボタン221bは、映像の再生を指示するボタンである。再生ボタン221bが選択されることによって、時刻指定欄221aで指定された時刻に基づいた位置から録画映像データ22-iが再生する。
録画映像群表示エリア222は、複数の映像表示エリア222-iを備える。映像表示エリア222-iの数は、録画映像データ22-iの数に対応しており、各々の映像表示エリア222-iでは、再生された録画映像データ22-iが表示される。なお、各々の映像表示エリア222-iに表示される全ての録画映像データ22-iは同期が取られている(つまり、時刻が一致している)。詳細は後述する。
ここで、録画映像群表示エリア222に表示される映像の数は、録画映像データ22から、ユーザによって選択された数(複数)でもよい。
またここで、録画映像群表示エリア222に表示される映像の数は、ユーザによって選択された数であるとき、録画映像群表示エリア222に表示される映像の数は、録画映像データ22の数と等しい数又は少ない数となる。
また、映像表示エリア222-1は、一例として店舗の内部から店舗の出口を撮像できるように設置された撮像装置(カメラ)を用いて撮像された映像である。図2(b)における映像表示エリア222-1の231は、店舗の内部における店舗の出口となる箇所である。
また、映像表示エリア222-2は、一例として店舗の出入口の上部に設置された撮像装置(カメラ)を用いて撮像された映像である(ここで、店舗の出入口付近の上部は、撮像できるように透明の天井又は空間が配置されているものとする。)。図2(b)における映像表示エリア222-2の231は、店舗の内部における店舗の出口となる箇所である。図2(b)における映像表示エリア222-2の232は、店舗の外部における店舗の入口となる箇所である。
なお、図2(b)における映像表示エリア222-1の231、映像表示エリア222-2の231及び232については、図2(a)、図5(a)~(d)において、記載を省略する。
<第1実施形態に係るWebサーバが備えるWebアプリケーションの構成>
図3を参照して、第1実施形態に係るWebサーバ300が備えるWebアプリケーション310のソフトウェア構成について説明する。ここでは、Webアプリケーション310が備える機能の中で、本発明に関係する映像の再生に関する機能の説明を行い、それ以外の機能については説明を省略する。
Webアプリケーション310は、再生開始機能1と、映像再生機能11-1,・・,11-Nと、再生一時停止機能2-1,・・,2-Nと、再生再開機能3と、時計機能4と、を有する。なお、「N」は2以上の自然数である。
再生開始機能1、映像再生機能11-1,・・,11-N、再生一時停止機能2-1,・・,2-N、再生再開機能3、および時計機能4は、例えば、CPU(Central Processing Unit)によるプログラム実行処理や専用回路等により実現される。プログラム実行処理によりこれらの機能を実現する場合、Webサーバ300内には、これらの機能を実現するためのプログラムが格納される。この実行処理用のプログラムは、コンピュータによる読み取り可能な記録媒体(例:CD-ROM)に記憶して提供することができる。また、そのプログラムを、インターネットなどのネットワークを通して提供することもできる。
映像再生機能11-1,・・,11-Nの数、および再生一時停止機能2-1,・・,2-Nの数は、録画映像データ22-1,・・,22-Nの数に対応している。以下では、映像再生機能11-1~11-Nを区別せずに説明する場合に「映像再生機能11-i(ここで、1≦i≦N)」と呼ぶ場合がある。また、再生一時停止機能2-1~2-Nを区別せずに説明する場合に「再生一時停止機能2-i(ここで、1≦i≦N)」と呼ぶ場合がある。
再生開始機能1は、録画映像データ22-iの再生の開始を制御する機能である。
再生開始機能1は、映像再生機能11-iに対して、時刻tから再生開始するように指示を出す(PLAY(t)命令)。また、再生開始機能1は、再生一時停止機能2-iおよび再生再開機能3に対して、映像同期処理を開始したことの通知を出す(SYNC-START通知)。
映像再生機能11-iは、録画映像データ22-iの再生などを担当する機能である。映像再生機能11-iは、HTML5規格での Video Element に対応するものである。映像再生機能11-iが有するAPI(Application Programming Interface)を図8に例示する。映像再生機能11-iは、再生一時停止機能2-iに対して、再生が開始されたことを通知する(PLAY-STARTED通知)。
再生一時停止機能2-iは、録画映像データ22-iの再生を一時的に停止する機能である。再生一時停止機能2-iは、映像再生機能11-iに対して、再生の開始直後に一時停止指示を出す(PAUSE命令)。ここでの「再生の開始直後」とは、Webサーバ300が実現可能な範囲で最も早いタイミングであるのが望ましいが、それ以外のタイミングを除外するものではない。「再生の開始直後」は、例えば、少なくともIフレームを再生したタイミングやIフレームを含む所定数のフレームを再生したタイミングであってよく、映像を視聴するユーザが違和感を感じない程度に短い時間であるのが好ましい。
また、再生一時停止機能2-iは、映像再生機能11-iに対して、現在の再生時刻t(ここでは、一時停止した時刻を想定)を得る指示を出す(GET-PLAYTIME命令)。また、再生一時停止機能2-iは、再生再開機能3に対して、再生時刻tで一時停止したことを通知する(PAUSED(t)通知)。
再生再開機能3は、録画映像データ22-iの再生を一時停止の状態から再開する機能である。再生再開機能3は、映像再生機能11-iに対して、一時停止からの再生再開指示を出す(RESUME命令)。また、再生再開機能3は、時計機能4に対して、時刻tから時計進行開始指示を出す(CLOCK-START(t)命令)。また、再生再開機能3は、時計機能4の時刻を参照する。時計機能4は、基準点(時刻)からの経過時間を計測する機能である。
≪第1実施形態に係るWebサーバが備えるWebアプリケーションの動作≫
図3を参照して、第1実施形態に係るWebサーバ300が備えるWebアプリケーション310の動作について説明する。例えば、図2に示すWeb画面220を用いて、ユーザが録画映像データ22-iの再生操作を行うことによって以下の処理が開始する。
最初に、再生開始機能1は、再生一時停止機能2-iおよび再生再開機能3に対して、SYNC-START通知を出す(ステップS1)。次いで、再生開始機能1は、映像再生機能11-iに対して、映像再生を絶対時刻Tから開始するようにPLAY(T)命令を出す(ステップS2)。
映像再生機能11-iは、再生開始機能1からPLAY(T)命令を受けると、それぞれの録画映像データ22-iの指定時刻Tからの再生を開始する(ステップS3)。ここで、映像の再生が開始できる位置(時刻)は、録画映像データ22-iのキーフレーム位置に依存するため、実際の再生開始位置は、それぞれ録画映像データ22-iの指定時刻T付近の絶対時刻Ti0から開始することになる。また、再生が開始されるまでには、データ取得・バッファリングが必要であり、これらの処理にかかる時間はそれぞれ異なるため、再生開始までにかかる時間にも差が発生することになる。
なお、指定時刻Tは、「第1時刻情報」の一例であり、「第1時刻情報」の一例は、指定時刻Tに限るものではない。
図4を参照して、PLAY(T)命令における映像再生の指定時刻Tと、キーフレーム位置に依存する再生可能開始時刻Ti0との関係を説明する。
図4では、説明を簡潔にするために録画映像A,Bの二つの録画映像データを示している。ここでの録画映像Aは、例えば録画映像データ22-1であり、録画映像Bは、例えば録画映像データ22-2である。録画映像A,Bは、MPEG(Moving Picture Experts Group)ファイルを想定しており、GOP(Group Of Picture)で構成されている。なお、図4におけるGOPの後に付した括弧内の文字は、GOPを識別するための符号である。
GOPは、映像ファイルを構成する一枚一枚の画像(フレーム)の集まりであり、GOP内のフレームは「Iピクチャ」、「Pピクチャ」、「Bピクチャ」の何れかに振り分けて符号化されている。GOPは、例えば先頭に一つの「Iピクチャ」があり、その後ろに「Pピクチャ」や「Bピクチャ」が続く構造になっている。図4では、Iピクチャを太字の点線で表している。なお、Iピクチャは、「キーフレーム」の一例であり、「キーフレーム」の一例は、Iピクチャに限るものではない。
Iピクチャは、自画面内(一枚の画像(一枚のフレーム))の情報のみで圧縮することで、時間的に前後する他のフレームを参照しない完全に独立したフレームである。Pピクチャは、直前のフレームから変化した差分のみをデータとして記憶したフレームである。Bピクチャは、前後のフレームから変化した差分のみをデータとして記録したフレームである。このように、Iピクチャは独立したフレームなので単独での表示が可能であるが、PピクチャおよびBピクチャは、参照するIフレームなしには表示することができない。そのため、再生や編集時にはまずIピクチャが再生される。
図4に示す場合に、再生を開始する指定時刻として「17:08:00」を指定して再生操作が行われたとする。時刻「17:08:00」は、録画映像AのGOP(A4)の途中であり、また、録画映像BのGOP(B2)の途中であるので、時刻「17:08:00」から録画映像A,Bを再生することができない。録画映像Aを再生可能な時刻は、GOP(A5)のIフレームがある時刻「17:08:10」である。また、録画Bを再生可能な時刻は、GOP(B3)のIフレームがある時刻「17:08:05」である。そのため、図4に示す例では、映像再生機能11-1は、再生開始機能1からPLAY(T)命令を受けると、録画映像データ22-1を時刻「17:08:10」から再生する。また、映像再生機能11-2は、再生開始機能1からPLAY(T)命令を受けると、録画映像データ22-2を時刻「17:08:05」から再生する。
これにより、図5(a)に示すように、例えば、映像表示エリア222-1には、録画映像データ22-1の時刻「17:08:10」からの映像が表示される。ここでの映像は、店舗に顧客が来店して入口から入った直後の映像である。一方、映像表示エリア222-2には、録画映像データ22-2の時刻「17:08:05」からの映像が表示される。ここでの映像は、店舗に顧客が来店する前(入口から入る前(顧客の映像無し))の映像である。
図3に戻って動作の説明を続ける。図3に示すように、映像再生機能11-iでは、映像の再生が開始されると、再生一時停止機能2-iへPLAY-STARTED通知を出す(ステップS4)。再生一時停止機能2-iは、再生開始機能1からSYNC-START通知を受けると、映像再生機能11-iからのPLAY-STARTED通知を待ち受ける状態となる。再生一時停止機能2-iは、映像再生機能11-iからPLAY-STARTED通知を受けると、映像再生機能11-iへPAUSE命令を出す(ステップS5)。また、再生一時停止機能2-iは、再生が一時停止した後、映像再生機能11-iへGET-PLAYTIME命令を出し、現在の再生時刻Tiを得る(ステップS6)。そして、再生一時停止機能2-iは、再生再開機能3へPAUSED(Ti)通知を出す(ステップS7)。ここで、現在の再生時刻Tiは、再生を開始した時刻Ti0から僅かに進んだ時刻である。
なお、第1実施形態に係る再生一時停止機能2-iは、「第1処理部」の一例であり、「第1処理部」の一例は、再生一時停止機能2-iに限るものではない。
再生再開機能3は、再生開始機能1からSYNC-START通知を受けると、再生一時停止機能2-iからのPAUSED(Ti)通知を待ち受ける状態となる。しばらくすると、再生再開機能3は、全ての再生一時停止機能2-iからPAUSED(Ti)通知を受けることとなる(ステップS7)。通知された再生時刻T1~TNの中で、最も小さい絶対時刻をTmin、最も大きい絶対時刻をTmaxとする。次いで、再生再開機能3は、時計機能4に対してCLOCK-START(Tmin)命令を出す(ステップS8)。
なお、再生時刻T1~TNは、「第2時刻情報」および「第3時刻情報」の一例であり、「第2時刻情報」および「第3時刻情報」の一例は、再生時刻T1~TNに限るものではない。
また、再生再開機能3は、「第2処理部」の一例であり、「第2処理部」の一例は、再生再開機能3に限るものではない(例えば、「第2処理部」の他の一例は、再生再開機能3及び映像再生機能11(11-i)からなる構成であり、当該構成に限るものではない)。
以降、再生再開機能3は、時計機能4の時刻Tを監視して、「T = Ti」を経過したタイミングで、映像再生機能11-iに対して、RESUME命令を出す(ステップS9)。このとき、Tminを通知した再生一時停止機能2-iのインデックスを「K」とすれば、映像再生機能11-Kに対するRESUME命令は、CLOCK-START(Tmin)命令の直後に実行される。時計機能4の時刻Tが進行していき、「T = Tmax」を経過すれば、すべての映像再生機能11-iに対して、RESUME命令が出たことになり、再生開始に関する動作を終了する。
時計機能4は、初期状態では、時間進行を停止している。時計機能4は、CLOCK-START(Tmin)命令を受けると、Tminを初期値として時間進行を開始する。例えば、CLOCK-START(Tmin)命令を受けてから実時間で5秒経過後に時計機能4の時刻を参照すると、絶対時刻(Tmin + 5秒)が得られる。
図4を参照して、ここまでの動作を説明する。図4に示す場合では、映像再生機能11-1は、録画映像Aを時刻「17:08:10」から再生した直後(時刻T1)に一時停止する。一方、映像再生機能11-2は、録画映像Bを時刻「17:08:05」から再生した直後(時刻T2)に一時停止する。ここで、録画映像Aを一時停止した時刻T1(例えば「17:08:10 +α1」)に対して、録画映像Bを一時停止した時刻T2(例えば「17:08:05 +α2」)は小さい。そのため、録画映像Bを一時停止した時刻T2が時刻Tminであり、録画映像Aを一時停止した時刻T1が時刻Tmaxである。ここで、αi は、再生が始まって一時停止するまでにかかった時間であり、ごく小さな時間である。
続いて、再生再開機能3は、時計機能4の時刻Tを監視して、「T = T2」を経過したタイミングで(ここでは、一時停止した後すぐのタイミングで)、映像再生機能11-2に対してRESUME命令を出す。これにより、映像再生機能11-2は、録画映像Bの再生を再開し、図4の矢印Pで示すように、録画映像Bの時刻だけが進行していく。その結果、図5(b)に示すように、映像表示エリア222-1に表示される録画映像データ22-1の映像は、時刻「17:08:10」のままであるが、映像表示エリア222-2に表示される録画映像データ22-2の映像は、時刻「17:08:05」から進行した時刻の映像である。なお、図5(b)の映像表示エリア222-2に表示される映像は、時刻「17:08:07」ものであり、入口が開いた状態(店舗に顧客が入口から入る直前の状態)を示している。
続けて、再生再開機能3は、時計機能4の絶対時刻Tを監視して、「T = T1」を経過したタイミングで(ここでは、一時停止してから約5秒後)、映像再生機能11-1に対してRESUME命令を出す。ここで、映像再生機能11-1に対してRESUME命令を出すタイミングは、録画映像Bの再生が進行した結果、録画映像Aを一時停止している時刻と録画映像Bを再生している時刻とが一致したときである(図5(c)参照)。なお、図5(c)の映像表示エリア222-2に表示される映像は、店舗に顧客が来店して入口から入った直後の映像である。
これにより、映像再生機能11-1は、録画映像Aの再生を再開し、図4の矢印Qで示すように、録画映像A,Bの時刻が同期した状態で再生される。その結果、図5(d)に示すように、映像表示エリア222-1に表示される録画映像Aの映像と映像表示エリア222-2に表示される録画映像Bの映像とは同じ時刻のものとなる(ここで、映像表示エリア222-1に表示される録画映像Aの映像の状態、映像表示エリア222-2に表示される録画映像Bの映像の状態は、店舗に顧客が入店中の映像の状態であることを示す)。
以上のように、第1実施形態に係るWebサーバ300は、再生開始機能1が、全ての映像再生機能11-iに対して、PLAY(T)命令を出すことにより、全ての映像再生機能11-iで、録画映像データ22-iの再生が開始される。このとき、再生が始まると同時に、映像再生機能11-iから、再生一時停止機能2-iに対して、PLAY-STARTED通知が発生する。PLAY-STARTED通知を受けた再生一時停止機能2-iは、映像再生機能11-iに対してPAUSE命令とGET-PLAYTIME命令を出し、再生の一時停止と、一時停止されたときの再生時刻 Ti を得る。そして、再生一時停止機能2-iは、再生再開機能3へPAUSED(Ti)通知を出す。
再生再開機能3は、全ての再生一時停止機能2-iからのPAUSED(Ti)通知を待つが、全てのPAUSED(Ti)通知を受けた時点の映像再生機能11-iの状態は「時刻 Ti で再生一時停止状態」となっている。再生再開機能3は、再生再開機能3が全てのPAUSED(t)通知を受けたタイミングで、時計機能4に対してCLOCK-START(Tmin)命令を出し、以降、時計機能4の時刻T の進行に合わせて、T=Ti のタイミングで、映像再生機能11-iに対してRESUME命令を出す。このため、映像再生機能11-iに対してRESUME命令を出すタイミングは、CLOCK-START(Tmin)命令を出すタイミングから Ti- Tmin 後となる。
映像再生機能11-iは、RESUME命令を受けて、一時停止状態から、再生の再開をする。ここで、RESUME命令を実行するために掛かる時間を「ΔRi」とする。一般的に、一時停止状態では、映像再生機能の内部のバッファリング等の再生状態は維持されており、再生再開の動作は比較的速やかに実行され、ΔRi は小さな時間となる(例えば、0.1秒以下など)。
ここで時刻 Tmin を基準とした相対時刻 ti を考えると、映像再生機能11-iでは、以下の式(1)のタイミングから再生が再開されることとなる。
ti = ((Ti - Tmin) +ΔRi) ・・・式(1)
一時停止していた再生時刻は Ti であるので、時刻 S における再生時刻は、以下の式(2)となり、映像再生機能11-iの再生時刻として、Tiに依存しない値が得られる。
Ti + (S - ti) = Ti+ (S - ((Ti - Tmin) +ΔRi)) = S + Tmin - ΔRi ・・・式(2)
ΔRi は前述のとおり短い時間であるため、映像再生の同期が揃うこととなる。
[第2実施形態]
≪第2実施形態に係る動画再生システムの構成≫
図6を参照して、第2実施形態に係る動画再生システム100Aについて説明する。図6は、第2実施形態に係る動画再生システム100Aの全体構成図である。
第2実施形態に係る動画再生システム100Aは、Webサーバ300AのWebアプリケーション310Aが第1実施形態と異なる。以下では、第1実施形態との相違点について説明する。
<第2実施形態に係るWebサーバが備えるWebアプリケーションの構成>
図7を参照して、第2実施形態に係るWebサーバ300Aが備えるWebアプリケーション310Aのソフトウェア構成について説明する。ここでは、Webアプリケーション310Aが備える機能の中で、本発明に関係する映像の再生に関する機能の説明を行い、それ以外の機能については説明を省略する。
Webアプリケーション310Aは、同期ズレ監視機能5と、映像再生機能11-1,・・,11-N(映像再生機能11-i)と、再生一時停止機能2-1,・・,2-N(再生一時停止機能2-i)と、再生再開機能3と、時計機能4と、を有する。同期ズレ監視機能5以外の機能は、第1実施形態と同様なので詳細な説明を省略する。
同期ズレ監視機能5、映像再生機能11-1,・・,11-N、再生一時停止機能2-1,・・,2-N、再生再開機能3、および時計機能4は、例えば、CPU(Central Processing Unit)によるプログラム実行処理や専用回路等により実現される。プログラム実行処理によりこれらの機能を実現する場合、Webサーバ300A内には、これらの機能を実現するためのプログラムが格納される。この実行処理用のプログラムは、コンピュータによる読み取り可能な記録媒体(例:CD-ROM)に記憶して提供することができる。また、そのプログラムを、インターネットなどのネットワークを通して提供することもできる。
同期ズレ監視機能5は、映像再生機能11-iの再生時刻等を監視しており、映像再生機能11-iの再生状態の同期のズレを検知することができる。また、同期ズレ監視機能5は、再生一時停止機能2-iへ、同期合わせ命令を出す(SYNC命令)。また、同期ズレ監視機能5は、再生再開機能3へ、映像同期処理を開始したことの通知を出す(SYNC-START通知)。
なお、他の構成は、映像再生機能11-iから再生一時停止機能2-iへのPLAY-STARTED通知を利用しないことを除いては、第1実施形態と同じである。
≪第2実施形態に係るWebサーバが備えるWebアプリケーションの動作≫
図7を参照して、第2実施形態に係るWebサーバ300Aが備えるWebアプリケーション310Aの動作について説明する。
まず、全ての映像再生機能11-iは、再生状態にあるものとする。同期ズレ監視機能5は、映像再生機能11-iの再生状態の同期ズレを監視している(ステップT1)。
同期ズレ監視機能5は、映像再生機能11-iの再生状態の同期ズレを検出すると、再生再開機能3に対してSYNC-START通知を出し(ステップT2)、次いで、全ての再生一時停止機能2-iに対して、SYNC命令を出す(ステップT3)。
再生一時停止機能2-iは、SYNC命令を受けると、第1実施形態におけるPLAY-STARTED通知を受けたときと同じ動作を実施する。以降の動作は、第1実施形態と同様である。
なお、第2実施形態に係る再生一時停止機能2-iは、「第3処理部」の一例であり、「第3処理部」の一例は、再生一時停止機能2-iに限るものではない。
以上説明した第2実施形態に係るWebサーバ300Aによっても、第1実施形態と略同等の効果を奏することができる。
つまり、再生一時停止機能2-iがSYNC命令を受けると、再生状態にある映像再生機能11-iに対してPAUSE命令が出され、映像再生機能11-iは再生を一時停止する。次いで、GET-PLAYTIME命令により再生時刻Tiを取得して、再生再開機能3へPAUSED(Ti)通知が発生する。以降、第1実施形態と同じ動きをし、その結果、映像の同期が揃った状態で再生状態が得られる。
[変形例]
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を変えない範囲で実施することができる。実施形態の変形例は、例えば以下に示す通りである。
第1実施形態における再生一時停止機能2-iは、映像再生機能11-iからPLAY-STARTED通知を受けて、GET-PLAYTIME命令により再生時刻 Ti を得ている。しかしながら、映像再生機能11-iは、PLAY-STARTED通知の代わりに、再生時刻 Ti そのものを通知する機能を有していてもよい。
また、第1,2実施形態では、図8に示すように、映像再生機能11-iの実装として、HTML5 Video Element を実装することを想定していた。しかしながら、同様のAPIを備えるならば他の映像再生機能の実装にも適用可能である。
また、第1,2実施形態では、録画映像を単に一時停止するだけであったが、録画映像を一時停止させるとともに、何らかの情報を一時停止した録画映像とともに、または一時停止した録画映像に代えて表示させてもよい。例えば、複数の録画映像を同期するために一時停止させていることを説明するメッセージ(説明情報)は、映像再生機能11(11-i)を用いて、一時停止している映像に重ねて表示させてもよい。これにより、録画映像を視聴するユーザは、録画映像が一時停止したことに違和感を感じることなく視聴することができる。なお、一時停止状態の録画映像を表示しないようにすることも可能である。
また、第1,2実施形態では、複数の監視カメラによって同時に撮影した録画映像を想定したが、クライアント200のWebブラウザ210に表示できる映像の種類はこれに限定されるものではない。Webブラウザ210に表示する映像は、例えば、スポーツの試合を撮影したものなどであってもよい。
また、第1実施形態に係る再生開始直後における同期制御と、第2実施形態に係る同期再生のズレを検知した場合におけるズレを修正する制御とを組み合わせてもよい。
1 再生開始機能
2-1,・・,2-N(2-i) 再生一時停止機能
3 再生再開機能
4 時計機能
5 同期ズレ監視機能
11-1,・・,11-N(11-i) 映像再生機能
22-1,・・,22-N(22-i) 録画映像データ
100,100A 動画再生システム
200 クライアント
210 Webブラウザ
300,300A Webサーバ
310,310A Webアプリケーション

Claims (10)

  1. 処理装置であって、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理部と、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部と、
    を有することを特徴とする、処理装置。
  2. 前記第2処理部は、
    一時停止時の時刻が後の映像情報から一時停止時の時刻が前の映像情報を減算して、時刻のずれ量を算出し、
    一時停止時の時刻が前の前記映像情報における再生の再開の処理を行ってから、前記算出した時刻のずれ量の経過後に一時停止時の時刻が後の前記映像情報における再生の再開の処理を行う、
    ことを特徴とする、請求項1に記載の処理装置。
  3. 前記第2処理部は、
    一時停止時の時刻が後の前記映像情報を一時停止している間、当該映像情報とともに、または当該映像情報に代えて一時停止をさせている理由を示す説明情報を表示させる、
    ことを特徴とする、請求項2に記載の処理装置。
  4. 処理装置であって、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理部と、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部と、
    を有することを特徴とする、処理装置。
  5. 前記第2処理部は、
    一時停止時の時刻が後の映像情報から一時停止時の時刻が前の映像情報を減算して、時刻のずれ量を算出し、
    一時停止時の時刻が前の前記映像情報における再生の再開の処理を行ってから、前記算出した時刻のずれ量の経過後に一時停止時の時刻が後の前記映像情報における再生の再開の処理を行う、
    ことを特徴とする、請求項4に記載の処理装置。
  6. 前記第2処理部は、
    一時停止時の時刻が後の前記映像情報を一時停止している間、当該映像情報とともに、または当該映像情報に代えて一時停止をさせている理由を示す説明情報を表示させる、
    ことを特徴とする、請求項5に記載の処理装置。
  7. 処理装置のコンピュータを、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理部、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部、
    として機能させるための、プログラム。
  8. 処理装置のコンピュータを、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理部、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理部、
    として機能させるための、プログラム。
  9. 処理装置の処理方法であって、
    前記処理装置は、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、第1時刻情報からの再生の指示により再生した開始直後に、再生の一時停止の処理を行う、第1処理ステップと、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理ステップと、
    を有することを特徴とする、処理方法。
  10. 処理装置の処理方法であって、
    前記処理装置は、
    キーフレームを有する第1映像情報およびキーフレームを有する第2映像情報について、再生状態の同期のズレを検知した場合に、再生の一時停止の処理を行う、第3処理ステップと、
    一時停止されたときの前記第1映像情報に紐づけられた第2時刻情報と、一時停止されたときの前記第2映像情報に紐づけられた第3時刻情報との間の遅延時間情報に基づいて、前記第1映像情報および前記第2映像情報の再生の再開の処理を行う、第2処理ステップと、
    を有することを特徴とする、処理方法。
JP2019156366A 2019-08-29 2019-08-29 処理装置、プログラムおよび処理方法 Active JP7287188B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019156366A JP7287188B2 (ja) 2019-08-29 2019-08-29 処理装置、プログラムおよび処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019156366A JP7287188B2 (ja) 2019-08-29 2019-08-29 処理装置、プログラムおよび処理方法

Publications (2)

Publication Number Publication Date
JP2021034986A JP2021034986A (ja) 2021-03-01
JP7287188B2 true JP7287188B2 (ja) 2023-06-06

Family

ID=74677767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019156366A Active JP7287188B2 (ja) 2019-08-29 2019-08-29 処理装置、プログラムおよび処理方法

Country Status (1)

Country Link
JP (1) JP7287188B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236390A (ja) 2007-03-20 2008-10-02 Asv:Kk 映像再生システムにおける映像シーク制御方式
JP2012239042A (ja) 2011-05-12 2012-12-06 Hitachi Ltd 監視映像再生方法および装置
JP2013009326A (ja) 2011-05-20 2013-01-10 Nippon Hoso Kyokai <Nhk> 受信機
US20130036201A1 (en) 2011-08-05 2013-02-07 Mclaughlin John Charles Streaming internet video editing and composite edit playback
WO2016208102A1 (ja) 2015-06-25 2016-12-29 パナソニックIpマネジメント株式会社 映像同期装置及び映像同期方法
JP2019140643A (ja) 2018-02-15 2019-08-22 キヤノン株式会社 伝送装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008236390A (ja) 2007-03-20 2008-10-02 Asv:Kk 映像再生システムにおける映像シーク制御方式
JP2012239042A (ja) 2011-05-12 2012-12-06 Hitachi Ltd 監視映像再生方法および装置
JP2013009326A (ja) 2011-05-20 2013-01-10 Nippon Hoso Kyokai <Nhk> 受信機
US20130036201A1 (en) 2011-08-05 2013-02-07 Mclaughlin John Charles Streaming internet video editing and composite edit playback
WO2016208102A1 (ja) 2015-06-25 2016-12-29 パナソニックIpマネジメント株式会社 映像同期装置及び映像同期方法
JP2019140643A (ja) 2018-02-15 2019-08-22 キヤノン株式会社 伝送装置

Also Published As

Publication number Publication date
JP2021034986A (ja) 2021-03-01

Similar Documents

Publication Publication Date Title
US11240279B2 (en) Method to maintain synchronization of media streams, commands, and on-screen events transmitted through different internet pathways and consumed at varying speeds
JP5499331B2 (ja) ストリーミングメディアのトリックプレー
US8761568B2 (en) Method and apparatus for synchronizing subtitles with a video
WO2017063399A1 (zh) 一种视频播放方法和装置
US11570415B2 (en) Methods, systems, and media for generating a summarized video using frame rate modification
CN109905749B (zh) 视频播放方法和装置、存储介质及电子装置
US20240107087A1 (en) Server, terminal and non-transitory computer-readable medium
JP2007036752A (ja) コンテンツ再生システム、コンテンツ再生方法およびコンテンツ再生プログラム
TWI220480B (en) System and method for generating synchronous playback of the slides and the corresponding audio/video information during the presentation
US20170249971A1 (en) Method for generating image in which sound source is inserted and apparatus therefor
US20240146863A1 (en) Information processing device, information processing program, and recording medium
JP7287188B2 (ja) 処理装置、プログラムおよび処理方法
US8768144B2 (en) Video image data reproducing apparatus
CN113014981A (zh) 视频播放方法、装置、电子设备及可读存储介质
CN107852523B (zh) 用于在终端之间同步媒体渲染的方法、终端和设备
JP2002057990A (ja) 映像再生システム及びそれに用いるデータ同期方式
KR101398781B1 (ko) 시간기반 하이퍼링크를 포함한 미디어파일 기록매체 및 그 재생장치
JP2006279294A (ja) コンテンツ再生システム、コンテンツ再生方法、およびコンピュータプログラム
JP6679698B1 (ja) 映像再生装置、映像再生方法、ならびに、プログラム
US20240236163A1 (en) Method to Re-Synchronize Live Media Streams, Commands, and On-Screen Events Transmitted through Different Internet Pathways
JP2008211718A (ja) 時間変化情報再生装置及びプログラム
JP2006262139A (ja) コンテンツ配信システム、コンテンツ再生装置、コンテンツ再生方法およびコンテンツ再生プログラム
JP2007049542A (ja) 再生装置及び再生方法
JP2014146976A (ja) 同期再生処理装置、同期再生処理システム及び同期再生処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220510

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230508

R150 Certificate of patent or registration of utility model

Ref document number: 7287188

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150