JP7447908B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP7447908B2
JP7447908B2 JP2021552314A JP2021552314A JP7447908B2 JP 7447908 B2 JP7447908 B2 JP 7447908B2 JP 2021552314 A JP2021552314 A JP 2021552314A JP 2021552314 A JP2021552314 A JP 2021552314A JP 7447908 B2 JP7447908 B2 JP 7447908B2
Authority
JP
Japan
Prior art keywords
image
writing
recording
board
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021552314A
Other languages
English (en)
Other versions
JPWO2021075280A1 (ja
Inventor
直樹 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2021075280A1 publication Critical patent/JPWO2021075280A1/ja
Application granted granted Critical
Publication of JP7447908B2 publication Critical patent/JP7447908B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B43WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
    • B43LARTICLES FOR WRITING OR DRAWING UPON; WRITING OR DRAWING AIDS; ACCESSORIES FOR WRITING OR DRAWING
    • B43L1/00Repeatedly-usable boards or tablets for writing or drawing
    • B43L1/04Blackboards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Drawing Aids And Blackboards (AREA)
  • Facsimiles In General (AREA)

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関し、特に、筆記対象に筆記された情報を適切に記録できるようにした情報処理装置、情報処理方法、およびプログラムに関する。
一般的に、黒板や白板などの筆記対象に情報が筆記されたり消去されたりしながら、会議や講義などが進行することが多い。
筆記対象に筆記された情報を記録しておくことは、後にその情報を参照することが可能となるため利便性が高い。他方、その情報を常時記録しておくことは、記憶容量の無駄遣いにもなり得る。そのため、筆記対象に筆記された情報を効率的に記録する技術が求められている。
例えば、特許文献1には、筆記者が黒板消しを保持した(例えば、持ち上げた)ときに、デジタルカメラによって黒板の情報を撮影することで、黒板に記載された情報が消し取られる前に黒板の情報を記録する技術が開示されている。
特開2005-125628号公報
しかしながら、特許文献1に開示されているような技術では、筆記対象に筆記された情報を適切に記録できない可能性もあった。
本開示は、このような状況に鑑みてなされたものであり、筆記対象に筆記された情報を適切に記録できるようにするものである。
本開示の情報処理装置は、筆記情報が筆記された筆記対象を示す筆記画像において、前記筆記情報を含む筆記領域を設定する領域設定部と、前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像を更新し、前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録する記録制御部とを備え、前記記録制御部は、前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する情報処理装置である。
本開示の情報処理方法、または、プログラムは、情報処理装置が、筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域を設定し、前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像を更新し、前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録し、前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する情報処理方法、または、コンピュータにそれらの処理を実行させるためのプログラムである。
本開示においては、筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域が設定され、前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像が更新され、前記筆記領域の減少に応じて、前記記録候補画像が前記記録画像として記録され、前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かが決定される
本開示の実施の形態に係る板書記録システムの概要を示す図である。 板書記録システムの機能構成例を示すブロック図である。 板書記録処理の流れについて説明するフローチャートである。 撮像画像の例を示す図である。 板書画像の抽出について説明する図である。 板書画像の抽出について説明する図である。 板書画像の例を示す図である。 板書領域の設定について説明する図である。 板書領域の変化に応じた記録制御について説明する図である。 記録制御処理の詳細について説明するフローチャートである。 記録制御処理の詳細について説明するフローチャートである。 モード遷移の例を示す図である。 モード遷移の例を示す図である。 情報処理装置の他の機能構成例を示すブロック図である。 板書記録処理について説明するフローチャートである。 板書残存時間のセットの例を示す図である。 記録済み領域のマスキングについて説明する図である。 記録制御処理の詳細について説明するフローチャートである。 モード遷移の例を示す図である。 板書残存時間に応じた記録について説明する図である。 記録制御処理の詳細について説明するフローチャートである。 モード遷移の例を示す図である。 コンピュータのハードウェアの構成例を示すブロック図である。
以下、本開示を実施するための形態(以下、実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.板書記録システムの概要
2.板書記録システムの構成例
3.板書記録処理の流れ
3-1.モードに応じた記録制御の詳細
3-2.モード遷移の例
4.板書記録システムの他の構成例
5.板書記録処理の流れ
5-1.記録済み領域のマスキング
5-2.板書残存時間に応じた記録制御
6.コンピュータの構成例
<1.板書記録システムの概要>
図1は、本実施の形態に係る板書記録システムの概要を示す図である。
図1に示されるように、板書記録システム1は、情報処理装置10と、情報処理装置10に接続される入力装置20を含むように構成される。
筆記対象2は、点、線、文字、文章、数式、記号、絵、図形、または画像などの視覚的な情報(以下、筆記情報3という)が筆記される物体である。
筆記対象2は、黒板、ホワイトボード、電子ペーパー、またはタッチパネルなどで構成される。筆記情報3は、チョーク、マーカー、スタイラス、または指などにより筆記対象2に筆記され、黒板消しまたはイレーサなどにより筆記対象2から消去される。
筆記者4は、筆記対象2に対して動作を行う人である。
筆記者4は、筆記対象2に筆記情報3を筆記し、筆記対象2に筆記された筆記情報3を消去する。例えば、筆記者4は、講義または会議などにおいて、筆記対象2に筆記された筆記情報3を、手やレーザーポインタ、指示棒などで指示しながら、筆記情報3に関する説明を行う。
入力装置20は、入力装置20が設置された物理空間に関する情報を入力する装置である。入力装置20は、例えば、撮像装置と音声入力装置を含むように構成される。
撮像装置は、撮像レンズ、絞り、ズームレンズ、フォーカスレンズなどにより構成されるレンズ系、レンズ系に対してフォーカス動作やズーム動作を行わせる駆動系、レンズ系で得られる撮像光を光電変換して撮像信号を生成するイメージセンサなどを含む。
音声入力装置は、周囲の音を収音するマイクロフォン、マイクロフォンで得られた音声信号を増幅処理するマイクアンプ回路、A/D変換器、およびノイズキャンセラなどの信号処理回路を含む。
入力装置20は、デジタル信号に変換された画像データと撮像時の音声データを出力する。
入力装置20は、物理空間における物体を撮像対象として撮像可能である。本実施の形態においては、入力装置20は、筆記情報3が筆記された筆記対象2を撮像対象として撮像し、撮像時刻と取得された画像とを対応付けて、情報処理装置10に出力する。
但し、撮像により取得された画像には、筆記対象2以外も含まれ得る。その場合、入力装置20は、撮像により取得された画像から抽出された画像を、情報処理装置10に出力する。例えば、撮像により取得された画像から筆記対象2が映った領域が抽出された画像が、情報処理装置10に出力される。
また、入力装置20としての機能は、筆記対象2に備えられていてもよい。例えば、入力装置20と筆記対象2は、筆記対象2の状態をスキャニングすることで画像を取得し出力する電子黒板として実現される。この場合、入力装置20は、筆記対象2の画像を取得し、取得時刻と取得した画像とを対応付けて、情報処理装置10に出力する。
入力装置20により入力される画像は、動画像であってもよい。動画像とは、複数の静止画像(画像データ)と各々の静止画像の再生時刻(撮像時刻に対応する)を含むデータである。動画像が再生される場合、再生時刻の順に静止画像が連続的に再生される。動画像を構成する静止画像は、フレームともいう。単位時間当たりのフレーム数は、フレームレートともいわれ、1秒間当たりのフレームの数(FPS:Frame Per Second)で表される。
また、入力装置20により入力される画像は、静止画像であってもよい。その場合、入力装置20は、連続的に画像を入力する。本明細書では、単位時間当たりに入力される画像数を、動画像に倣ってフレームレートともいう。
以下においては、入力装置20により入力される、筆記情報3が筆記された筆記対象2の画像を、筆記画像または板書画像という。板書画像は、静止画像であるものとする。入力装置20により入力される画像が動画像であれば、板書画像は、動画像を構成する1枚の静止画像である。
情報処理装置10は、入力装置20により入力される板書画像のうち、記録すべき板書画像を選択的に記録する。本明細書において、記録とは、記憶媒体に情報を記憶することをいう。情報処理装置10は、板書画像をモニタリングして、筆記対象2に筆記された筆記情報3に変化が発生したことを検出することで、板書画像を記録する。筆記情報の変化に基づいて選択的に記録される板書画像を、以下では記録画像ともいう。
筆記情報3の変化は、筆記情報3の消去であってもよい。その場合、情報処理装置10は、消去開始前の板書画像を記録画像として記録する。典型的には、筆記情報3の消去開始前の筆記対象2には、筆記情報3が最も多く筆記されている。したがって、消去開始前の板書画像を選択的に記録することで、無駄な記録が抑制され、板書画像を効率的に記録することができる。
筆記情報3の変化は、筆記情報3の筆記(すなわち、追記)であってもよい。その場合、情報処理装置10は、追記終了後の板書画像を記録画像として記録する。典型的には、筆記情報3の追記終了後の筆記対象2には、筆記情報3が最も多く筆記されている。したがって、追記終了後の板書画像を選択的に記録することで、無駄な記録が抑制され、板書画像を効率的に記録することができる。
<2.板書記録システムの構成例>
図2は、板書記録システム1の機能構成例を示すブロック図である。
図2の板書記録システム1は、情報処理装置10、入力装置20、および出力装置30を含むように構成される。
入力装置20は、上述したように、連続的に板書画像を入力し、その板書画像それぞれを情報処理装置10に出力する。
出力装置30は、情報処理装置10の制御に基づいて情報を出力する装置である。
出力装置30は、液晶ディスプレイ装置、プラズマディスプレイ装置、有機EL(Electro-Luminescence)ディスプレイ装置、レーザープロジェクタ、LED(Light Emitting Diode)プロジェクタ、およびランプなどの表示装置により実現される。
出力装置30が板書画像(記録画像)を表示することで、例えば講義室で講義を受講している受講者や、その講義を遠方の教室で視聴している視聴者は、筆記対象2に筆記された筆記情報3をリアルタイムに確認することができる。
情報処理装置10は、板書記録システム1全体の動作を制御する装置である。情報処理装置10は、PC(Personal Computer)、スマートフォン、タブレット端末、または専用の機器などの任意の装置により実現される。
図2に示されるように、情報処理装置10は、画像取得部51、板書画像抽出部52、板書領域設定部53、記録制御部54、記憶部55、および出力制御部56から構成される。
画像取得部51は、入力装置20により入力される、例えばフレーム単位の画像を取得し、板書画像抽出部52に供給する。
板書画像抽出部52は、画像取得部51からの画像から筆記対象2が映った領域を板書画像として抽出する。抽出された板書画像は、板書領域設定部53に供給される。
板書領域設定部53は、筆記対象2を示す板書画像(筆記画像)において、筆記情報3を含む領域である筆記領域を設定する。筆記領域は、筆記対象2全体において筆記情報3が筆記された範囲の占める割合を示す領域である。以下においては、筆記領域を板書領域ともいう。板書領域が設定された板書画像は、記録制御部54に供給される。
記録制御部54は、フレーム単位の板書画像における筆記領域の変化に応じて、具体的には、板書領域が増加したか、または、減少したかに応じて、板書画像の記憶部55への記録を制御する。
記録制御部54は、モード設定部61を備えている。モード設定部61は、板書画像(筆記対象2)における筆記情報3の変化の状態を示す板書状態モードを設定する。板書状態モードには、筆記対象2において筆記情報3が筆記(追記)されている状態を示す「板書作成中」モードと、筆記対象2において筆記情報3が消去されている状態を示す「板書消去中」モードがある。
記録制御部54は、モード設定部61により設定された板書状態モードに応じて、板書画像の記憶部55への記録を制御する。
記憶部55は、記録制御部54の制御に基づいて、板書画像を記録画像として記録する。
出力制御部56は、記憶部55に記憶された板書画像に基づいて出力情報を生成し、出力装置30に出力させる。
<3.板書記録処理の流れ>
次に、図3のフローチャートを参照して、板書記録システム1における板書記録処理の流れについて説明する。図3の処理は、入力装置20から入力される画像の1フレーム毎に実行される。
ステップS11において、画像取得部51は、入力装置20から入力される画像を取得する。
図4は、入力装置20から入力される撮像画像の例を示している。図4に示される撮像画像80には、筆記情報3が筆記されている筆記対象2と筆記者4が映っている。撮像画像80は、動画像の1フレームであってもよいし、静止画像であってもよい。
撮像画像80において、筆記対象2が小さく映ったり、ホワイトバランスが適切に調整されていない場合、筆記情報3の追記や消去の判断に誤りが生じるおそれがある。そのため、撮像画像80においては、筆記対象2が十分大きく映るようにし、筆記対象2に筆記される筆記情報3が肉眼で見る色合いに近い色で映るようにする。
ステップS12において、板書画像抽出部52は、画像取得部51により取得された撮像画像から、板書画像を抽出する。板書画像の抽出は、自動で行われてもよいし、手動で行われてもよい。
板書画像の抽出が手動で行われる場合、図5に示されるように、撮像画像80において、筆記対象2の四隅の4点c1,c2,c3,c4が指定されることで、筆記対象2の領域が特定され、その4点c1乃至c4が射影変換されることで、板書画像90が抽出される。
次いで、板書画像90において筆記者4の形状が認識され、筆記者4が映り込んだ領域が除外されることで、図6に示されるように、筆記対象2のみが映る板書画像90が得られる。板書画像90から筆記者4が映り込んだ領域を除去する手法としては、例えば、動体除去などの技術が用いられるが、その他の技術が用いられてもよい。
さらに、筆記者4が除去された板書画像90に対して、筆記対象2のうち筆記情報3が筆記された画素を白色(例えば、1)に、それ以外の画素を黒色(例えば、0)に変換する二値化処理が施される。これにより、図7に示されるような、黒画素と白画素からなる二値化画像が、板書画像100として得られる。
ステップS13において、板書領域設定部53は、板書画像抽出部52により抽出された板書画像において、板書領域を設定する。
具体的には、板書領域設定部53は、板書画像における筆記情報3に対して膨張処理を施すことで、板書領域を設定する。さらに、板書領域設定部53は、板書領域が設定された板書画像に対して低解像度化処理を施す。
例えば、図8左側に示される板書画像110が、板書画像抽出部52により抽出されたとする。板書画像110は、1920×1080画素の解像度を有し、白画素の面積が板書画像110全体の約5%を占める二値化画像である。
このような板書画像110に対して、注目画素の周辺に1画素でも白画素が存在すれば、その注目画素を白画素に置き換える膨張処理が施される。さらに、膨張処理が施された板書画像110に対して、低解像度化処理が施される。
これにより、図8左側に示される板書画像110が、図8右側に示される板書画像120に変換される。板書画像120は、320×180画素の解像度を有し、白画素の面積が板書画像120全体の約22%を占める二値化画像である。
以下においては、板書画像120のように板書領域が設定された板書画像を板書領域画像ともいう。
板書領域画像においては、白画素の領域が、筆記対象2において筆記情報3が筆記された範囲の占める割合を示す板書領域となる。板書領域の大きさは、筆記対象2の何割程度が筆記に使用されているかを表す指標となる。
具体的には、図8の例で、板書画像110においては、白画素の面積が板書画像110全体の約5%であったのに対し、板書画像120においては、白画素の面積が板書画像120全体の約22%となる。
単に、筆記情報の変化に応じて板書画像の記録を制御するようにした場合、チョークやマーカーで筆記された線や点の増減の大きさによって、板書画像が記録されるか否かが決まる。
しかしながら、板書画像において同じ面積を占有する筆記情報であっても、筆記された複数の文字の密度や、文字自体の線の密度によっては、板書画像が記録されるか否かが定まらず、人間の感覚とずれてしまう可能性がある。例えば、筆記された文字の密度が低い場合に、それらの文字が消去されたにも関わらず、板書画像が記録されないおそれがある。
そこで、板書画像において設定された板書領域の変化に応じて記録を制御することで、より人間の感覚に近い状態で、板書画像が記録されるか否かが決まるようにすることができる。
なお、板書画像における筆記情報に対して膨張処理を施すことで板書領域が設定される以外にも、板書画像において文字認識が行われるようにし、その文字認識が行われた文字領域が、板書領域に設定されるようにしてもよい。
さて、図3のフローチャートの説明に戻り、ステップS14において、記録制御部54は、板書状態モードに応じた記録制御処理を実行する。
まず、記録制御部54のモード設定部61は、板書領域の変化に応じて、板書状態モードを設定する。具体的には、モード設定部61は、板書領域が増加したときには、板書状態モードとして「板書作成中」モードを設定する。一方、モード設定部61は、板書領域が減少したときには、板書状態モードとして「板書消去中」モードを設定する。
そして、記録制御部54は、設定された板書状態モードに基づいて、板書画像の記憶部55への記録を制御する。具体的には、「板書作成中」モードが設定されたときには、板書画像において筆記情報が追記されていることから、記録制御部54は、記録画像の候補となる記録候補画像を更新する。一方、「板書消去中」モードが設定されたときには、板書画像において筆記情報が消去されていることから、記録制御部54は、その時点の記録候補画像を記録画像として記録する。
図9は、板書画像における板書領域の変化に応じた記録制御について説明する図である。
図9には、時刻t1乃至t4それぞれにおける板書画像、板書領域画像、および記録候補画像が示されている。
まず、時刻t1の板書画像においては、筆記情報として“AB”が筆記され、“AB”が筆記された範囲が白画素に設定された板書領域画像が得られている。時刻t1における記録候補画像は、“AB”が筆記された板書画像により更新された記録候補画像となる。
時刻t2の板書画像において、筆記情報として“AB”に加えて“C”が筆記されると、“ABC”が筆記された範囲が白画素に設定された板書領域画像が得られる。このとき、板書領域が増加していることから、「板書作成中」モードが設定され、記録候補画像は、“ABC”が筆記された板書画像により更新される。
時刻t3の板書画像において、筆記情報としての“ABC”が全て消去されると、全ての画素が黒画素に設定された板書領域画像が得られる。このとき、板書領域が減少していることから、「板書消去中」モードが設定され、“ABC”が筆記された記録候補画像が、記録画像として記録される。
さらに、時刻t4の板書画像において、筆記情報として“DEF”が筆記されると、“DEF”が筆記された範囲が白画素に設定された板書領域画像が得られる。このとき、板書領域が増加していることから、「板書作成中」モードが設定され、記録候補画像は、“DEF”が筆記された板書画像により更新される。
このようにして、板書領域の変化に応じて板書状態モードが設定され、設定された板書状態モードに基づいて、板書画像の記録が制御される。
以上の処理によれば、板書画像における筆記情報の変化ではなく、板書画像において設定された板書領域の変化に応じて板書画像の記録が制御される。これにより、筆記された文字の密度によらず、より人間の感覚に近い状態で、板書画像が記録されるか否かが決まるので、筆記対象に筆記された情報を適切に記録することが可能となる。
(3-1.モードに応じた記録制御の詳細)
ここで、図10および図11のフローチャートを参照して、図3のステップS14における板書状態モードに応じた記録制御処理の詳細について説明する。図10および図11の処理もまた、1フレーム毎の板書画像に対して実行される。
ステップS31において、記録制御部54は、板書状態モードが「板書作成中」モードであるか否かを判定する。後述するように、現在フレームについての板書状態モードは、前フレームにおける板書領域の変化によって決まる。なお、最初のフレームについての板書状態モードは、「板書消去中」モードとされる。
板書状態モードが「板書作成中」モードであると判定された場合、処理はステップS32に進む。
ステップS32において、記録制御部54は、板書領域が現在値より1画素以上増加したか否かを判定する。板書領域の大きさは、画素単位で記憶されるものとする。板書領域の現在値は、所定の記憶領域に保持されており、板書画像のフレーム毎に適宜更新される。
板書領域が現在値より1画素以上増加したと判定された場合、すなわち、筆記対象2において筆記情報が追記されているような場合、処理はステップS33に進む。
ステップS33において、記録制御部54は、その時点での板書画像により、記録候補画像を更新する。記録候補画像は、所定の記憶領域に保持されており、例えば板書領域が増加することで、その時点での板書画像により更新される。
記録候補画像が更新されると、ステップS34において、記録制御部54は、板書領域の現在値と最大値を、そのときの板書領域の画素数(板書領域の大きさ)に更新する。板書領域の最大値もまた、所定の記憶領域に保持されており、板書画像のフレーム毎に適宜更新される。
そして、ステップS35において、記録制御部54は、板書状態モードとして「板書作成中」モードを維持し、処理は次のフレームの板書記録処理に進む。
ここで、ステップS31乃至S35の処理の流れを、適宜、フローF1ということとする。
さて、ステップS32において、板書領域が現在値より1画素以上増加していないと判定された場合、処理はステップS36に進む。
ステップS36において、記録制御部54は、板書領域が最大値より5%以上減少したか否かを判定する。
板書領域が最大値より5%以上減少したと判定された場合、すなわち、筆記対象2において筆記情報が一定以上消去された場合、処理はステップS37に進む。
ステップS37において、記録制御部54は、その時点での記録候補画像を記録画像として記録する。
記録画像が記録されると、ステップS38において、記録制御部54は、板書領域の最小値を、そのときの板書領域の画素数(板書領域の大きさ)に更新する。板書領域の最小値もまた、所定の記憶領域に保持されており、板書画像のフレーム毎に適宜更新される。
そして、ステップS39において、記録制御部54は、板書状態モードを「板書消去中」モードへ移行し、処理は次のフレームの板書記録処理に進む。
ここで、ステップS31,S32,S36乃至S39の処理の流れを、適宜、フローF2ということとする。
さて、ステップS36において、板書領域が最大値より5%以上減少していないと判定された場合、処理はステップS40に進む。
ステップS40において、記録制御部54は、板書領域の現在値を、そのときの板書領域の画素数(板書領域の大きさ)に更新する。
そして、ステップS41において、記録制御部54は、板書状態モードとして「板書作成中」モードを維持し、処理は次のフレームの板書記録処理に進む。
ここで、ステップS31,S32,S36,S40,S41の処理の流れを、適宜、フローF3ということとする。
ところで、ステップS31において、板書状態モードが「板書作成中」モードでないと判定された場合、すなわち、板書状態モードが「板書消去中」モードである場合、処理は図11のステップS42に進む。
ステップS42において、記録制御部54は、板書領域が最小値より1画素以上減少したか否かを判定する。
板書領域が最小値より1画素以上減少したと判定された場合、すなわち、筆記対象2において筆記情報が消去されているような場合、処理はステップS43に進む。
ステップS43において、記録制御部54は、板書領域の最小値を、そのときの板書領域の画素数(板書領域の大きさ)に更新する。
そして、ステップS44において、記録制御部54は、板書状態モードとして「板書消去中」モードを維持し、処理は次のフレームの板書記録処理に進む。
ここで、ステップS31,S42乃至S44の処理の流れを、適宜、フローF4ということとする。
さて、ステップS42において、板書領域が最小値より1画素以上減少していないと判定された場合、処理はステップS45に進む。
ステップS45において、記録制御部54は、板書領域が最小値より1%以上増加したか否かを判定する。
板書領域が最小値より1%以上増加したと判定された場合、すなわち、筆記対象2において筆記情報が一定以上追記された場合、処理はステップS46に進む。
ステップS46において、記録制御部54は、その時点での板書画像により、記録候補画像を更新する。
記録候補画像が更新されると、ステップS47において、記録制御部54は、板書領域の現在値を、そのときの板書領域の画素数(板書領域の大きさ)に更新する。
そして、ステップS48において、記録制御部54は、板書状態モードを「板書作成中」モードへ移行し、処理は次のフレームの板書記録処理に進む。
ここで、ステップS31,S42,S45乃至S48の処理の流れを、適宜、フローF5ということとする。
さて、ステップS45において、板書領域が最小値より1%以上増加していないと判定された場合、処理はステップS49に進む。
ステップS49において、記録制御部54は、板書状態モードとして「板書消去中」モードを維持し、処理は次のフレームの板書記録処理に進む。
以上のようにして、板書状態モードに応じて、板書画像の記録が制御される。
(3-2.モード遷移の例)
図12は、図10および図11のフローチャートを参照して説明した記録制御処理における板書状態モードのモード遷移の例を示す図である。
図12においては、時刻T1乃至T6の各時刻での、板書画像における筆記情報の変化が示されている。
図12の例では、時刻T1において板書記録処理が開始される。このときの板書状態モードは、「板書消去中」モードとされる。
時刻T2においては、板書画像においていずれの筆記情報も筆記されておらず、上述した記録制御処理におけるフローF6の処理が実行される。その結果、「板書消去中」モードが維持される。
時刻T3において、板書画像において“A”が筆記されると、上述した記録制御処理におけるフローF5の処理が実行される。その結果、“A”が筆記された板書画像により記録候補画像が更新され、「板書作成中」モードへ移行される。
時刻T4においては、時刻T3の状態から筆記情報が追記されておらず、上述した記録制御処理におけるフローF3の処理が実行される。その結果、「板書作成中」モードが維持される。
時刻T5において、時刻T4の状態から“A”の右側に“B”が追記されると、上述した記録制御処理におけるフローF1の処理が実行される。その結果、“AB”が筆記された板書画像により記録候補画像が更新され、「板書作成中」モードが維持される。
時刻T6において、時刻T5の状態から“AB”の右側に“CDE”が、その下側に“FGHIJ”,“KLMNO”が追記されると、上述した記録制御処理におけるフローF1の処理が実行される。その結果、“ABCDE”,“FGHIJ”,“KLMNO”が筆記された板書画像により記録候補画像が更新され、「板書作成中」モードが維持される。
図13は、図12の時刻T6より後のモード遷移の例を示す図である。
図13においては、時刻T11乃至T16の各時刻での、板書画像における筆記情報の変化が示されている。
時刻T11において、図12の時刻T6の状態から“ABC”が消去されると、上述した記録制御処理におけるフローF2の処理が実行される。その結果、“ABCDE”,“FGHIJ”,“KLMNO”が筆記された記録候補画像が記録画像151として記録され、「板書消去中」モードへ移行される。
時刻T12においては、時刻T11の状態から筆記情報がさらに消去されておらず、上述した記録制御処理におけるフローF6の処理が実行される。その結果、「板書消去中」モードが維持される。
時刻T13において、時刻T12の状態から“DE”がさらに消去されると、上述した記録制御処理におけるフローF4の処理が実行される。その結果、「板書消去中」モードが維持される。
時刻T14において、時刻T13の状態から、消去前の“A”が筆記されていた箇所に“P”が筆記されると、上述した記録制御処理におけるフローF5の処理が実行される。その結果、“P”,“FGHIJ”,“KLMNO”が筆記された板書画像により記録候補画像が更新され、「板書作成中」モードへ移行される。
時刻T15において、時刻T14の状態から“P”の右側に“QR”が追記されると、上述した記録制御処理におけるフローF1の処理が実行される。その結果、“PQR”,“FGHIJ”,“KLMNO”が筆記された板書画像により記録候補画像が更新され、「板書作成中」モードが維持される。
その後、時刻T16において、時刻T15の状態から“FGHIJ”が消去されると、上述した記録制御処理におけるフローF2の処理が実行される。その結果、“PQR”,“KLMNO”が筆記された記録候補画像が記録画像152として記録され、「板書消去中」モードへ移行される。
ここで、図13のモード遷移の中で記録された記録画像151と記録画像152を比較すると、記録画像152の点線の枠で示される“FGHIJ”,“KLMNO”が、記録画像151として一度記録されているにも関わらず、再び記録されてしまう。
すなわち、上述した板書記録システム1の構成では、記録済みの記録画像に含まれる筆記情報を含んだ記録候補画像が、記録画像として再び記録されてしまうため、無駄な記録が発生する場合がある。
そこで、以下においては、上述したような、一度記録されている筆記情報が再び記録されてしまうことを避ける例について説明する。
<4.板書記録システムの他の構成例>
図14は、板書記録システム1の他の機能構成例を示すブロック図である。
図14の情報処理装置10は、図2の情報処理装置10と比較して、記録制御部54が画素情報セット部161をさらに備える点で異なる。
画素情報セット部161は、板書画像(板書領域画像)における板書領域の画素毎に、その画素の状態を表す画素情報をセットする。
例えば、画素情報セット部161は、板書領域画像において、筆記されてから消去されていない(残存している)筆記情報に対応する板書領域を形成する画素に、画素情報として、筆記情報が筆記されてからの経過時間である板書残存時間をセットする。
また、画素情報セット部161は、板書領域画像において、記録画像として記録済みで、かつ、消去されていない筆記情報に対応する板書領域(以下、記録済み領域という)を形成する画素に、画素情報として、板書残存時間に代えて、記録済みフラグをセットする。
<5.板書記録処理の流れ>
次に、図15のフローチャートを参照して、図14の板書記録システム1における板書記録処理の流れについて説明する。図15の処理もまた、入力装置20から入力される画像の1フレーム毎に実行される。
なお、図15のフローチャートにおけるステップS111乃至S114の処理は、図3のフローチャートにおけるステップS11乃至S14の処理と同様であるので、その説明は省略する。
すなわち、ステップS114においてモードに応じた記録制御処理が実行された後、ステップS115において、画素情報セット部161は、板書領域画像における板書領域の画素毎に、画素情報(板書残存時間)をセットする。
図16は、板書残存時間のセットの例を示す図である。
図16には、時刻t11乃至t15それぞれにおける板書領域画像と、板書残存時間がセットされる画素情報配列が示されている。
板書領域画像(板書画像)が、320×180画素の解像度を有する場合、同一サイズ(320×180画素)の画素情報配列が用意される。画素情報配列の各画素に対応する値には、板書残存時間がセットされる。
図16の例では、説明の簡単のため、5×5画素の板書領域画像と画素情報配列が示されている。以下では、例えば上から2画素目、左から2画素目の画素を(2,2)の画素などという。
時刻t11の板書領域画像においては、白画素の領域が存在せず、画素情報配列の全ての値が0にセットされている。
時刻t12の板書領域画像において、(2,2)の画素が白画素に設定されると、画素情報配列において、(2,2)の画素に対応する値には、板書残存時間として1がセットされる。
時刻t13の板書領域画像において、(2,3),(2,4)の2画素が白画素に設定されると、画素情報配列において、(2,3),(2,4)の2画素に対応する値には、板書残存時間として1がセットされ、(2,2)の画素に対応する値には、板書残存時間として2がセットされる。
時刻t14の板書領域画像において、(3,3),(4,3)の2画素が白画素に設定されると、画素情報配列において、(3,3),(4,3)の2画素に対応する値には、板書残存時間として1がセットされ、(2,3),(2,4)の2画素に対応する値には、板書残存時間として2がセットされ、(2,2)の画素に対応する値には、板書残存時間として3がセットされる。
そして、時刻t14の状態から、いずれの画素も白画素に設定されずに時刻t15になると、画素情報配列において、(3,3),(4,3)の2画素に対応する値には、板書残存時間として2がセットされ、(2,3),(2,4)の2画素に対応する値には、板書残存時間として3がセットされ、(2,2)の画素に対応する値には、板書残存時間として4がセットされる。
以上のようにして、時間の経過とともに、板書領域(白画素)の板書残存時間がカウントアップされていく。
(5-1.記録済み領域のマスキング)
図17を参照して、一度記録されている筆記情報が再び記録されてしまうことを避けるために、記録候補画像を更新する際に、記録済み領域をマスキングする例について説明する。
図17には、時刻t21乃至t24それぞれにおける板書画像、板書領域画像、板書残存時間がセットされる画素情報配列、および記録候補画像が示されている。
図17の例でも、5×5画素の板書領域画像と画素情報配列が示されている。
時刻t21の板書画像においては、筆記情報として“ABC”,“DEF”が筆記され、板書領域画像においては、(2,2),(2,3),(2,4),(4,2),(4,3),(4,4)の画素が白画素に設定されている。このとき、記録候補画像は、“ABC”,“DEF”が筆記された板書画像により更新されている。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、板書残存時間として6,5,4がそれぞれセットされ、(4,2),(4,3),(4,4)の3画素に対応する値には、板書残存時間として3,2,1がそれぞれセットされている。すなわち、板書画像においては、“A”が最も前の時間に筆記され、“F”が最も直近の時間に筆記されている。
時刻t22の板書画像において、時刻t21の状態から“ABC”が消去されると、板書領域画像においては、(2,2),(2,3),(2,4)の画素が黒画素に設定され、“ABC”,“DEF”が筆記された記録候補画像が、記録画像として記録される。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、板書残存時間として0がそれぞれセットされ、筆記情報が残存した(4,2),(4,3),(4,4)の3画素に対応する値には、板書残存時間として-1がそれぞれセットされる。すなわち、記録済み領域を形成する(4,2),(4,3),(4,4)の3画素には、記録済みフラグがセットされる。
時刻t23の板書画像において、時刻t22の状態から、消去前の“ABC”が筆記されていた箇所に“GHI”が筆記されると、板書領域画像においては、(2,2),(2,3),(2,4)の画素が再び白画素に設定される。このとき、画素情報配列において、記録済みフラグである-1がセットされている記録済み領域(板書画像において“DEF”が筆記されている領域)の画素がマスキングされることで、“GHI”のみが筆記された記録候補画像が、記録画像として記録される。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、板書残存時間として3,2,1がそれぞれセットされる。
時刻t24の板書画像において、時刻t23の状態から“GH”,“DE”が消去されると、板書領域画像においては、(2,2),(2,3),(4,2),(4,3)の画素が黒画素に設定され、“GHI”のみが筆記された記録候補画像が、記録画像として記録される。
このとき、画素情報配列において、(2,2),(2,3),(4,2),(4,3)の4画素に対応する値には、板書残存時間として0がそれぞれセットされ、筆記情報が残存した(2,4)の1画素に対応する値には、板書残存時間として-1がセットされる。すなわち、記録済み領域を形成する(2,4),(4,4)の2画素には、記録済みフラグがセットされる。
次に、図18のフローチャートを参照して、上述した記録済み領域のマスキングを実現する記録制御処理の詳細について説明する。
図18のステップS131乃至S143における処理の流れは、基本的には、図10のステップS31乃至S41における処理の流れ(フローF1,F2,F3)と同様であるが、ステップS133の処理が加わる点で異なる。
具体的には、「板書作成中」モードでのステップS132において、板書領域が現在値より1画素以上増加したと判定された場合、例えば、図17の時刻t23のように、記録画像の記録後に筆記情報が追記されているような場合、処理はステップS133に進む。
ステップS133において、記録制御部54は、板書画像において、記録済み領域をマスキングする。記録済み領域は、1フレーム前の板書記録処理(図15)のステップS115において、記録済みフラグである-1がセットされた画素に対応する。これにより、ステップS134においては、記録済み領域(記録済みフラグがセットされた画素)をマスキングした板書画像により、記録候補画像が更新される。
図19は、図18のフローチャートを参照して説明した記録制御処理における板書状態モードのモード遷移の例を示す図であり、図12の時刻T6より後のモード遷移の例を示す図である。
図19においては、時刻T21乃至T26の各時刻での、板書画像における筆記情報の変化が示されている。
時刻T21において、図12の時刻T6の状態から“ABC”が消去されると、上述した記録制御処理におけるフローF2の処理が実行される。その結果、“ABCDE”,“FGHIJ”,“KLMNO”が筆記された記録候補画像が記録画像171として記録されるとともに、残存した“DE”,“FGHIJ”,“KLMNO”に対応する板書領域画像172の白画素の領域が、記録済み領域に設定され、「板書消去中」モードへ移行される。
時刻T22においては、時刻T21の状態から筆記情報がさらに消去されておらず、上述した記録制御処理におけるフローF6の処理が実行される。その結果、「板書消去中」モードが維持される。
時刻T23において、時刻T22の状態から“DE”がさらに消去されると、上述した記録制御処理におけるフローF4の処理が実行される。その結果、板書領域画像172において、消去された“DE”に対応する白画素の領域が、記録済み領域から解除され、「板書消去中」モードが維持される。
時刻T24において、時刻T23の状態から、消去前の“A”が筆記されていた箇所に“P”が筆記されると、上述した記録制御処理におけるフローF5の処理が実行される。その結果、“FGHIJ”,“KLMNO”に対応する記録済み領域の画素がマスキングされ、“P”のみが筆記された板書画像により記録候補画像173が更新され、「板書作成中」モードへ移行される。
時刻T25において、時刻T24の状態から“P”の右側に“QR”が追記されると、上述した記録制御処理におけるフローF1の処理が実行される。その結果、“FGHIJ”,“KLMNO”に対応する記録済み領域の画素がマスキングされた、“PQR”のみが筆記された板書画像により記録候補画像173が更新され、「板書作成中」モードが維持される。
その後、時刻T26において、時刻T25の状態から“FGHIJ”が消去されると、上述した記録制御処理におけるフローF2の処理が実行される。その結果、“PQR”のみが筆記された記録候補画像が記録画像174として記録され、「板書消去中」モードへ移行される。
ここで、図19のモード遷移の中で記録された記録画像171と記録画像174を比較すると、記録画像174においては、点線の枠で示されるように、記録画像171として一度記録されている“FGHIJ”,“KLMNO”が記録されていない。その結果、記録済みの記録画像に含まれる筆記領域を除いた記録候補画像が、記録画像として記録されるようになる。
すなわち、以上の処理によれば、記録済みの記録画像に含まれる筆記情報を含んだ記録候補画像が、再び記録画像として記録されなくなるので、無駄な記録が発生することを防ぐことが可能となる。
以上の例では、記録済み領域を形成する画素に設定される記録済みフラグとして、-1の値がセットされるものとしたが、板書残存時間と区別することができる値であれば、任意の値がセットされるようにもできる。
ところで、上述した処理では、「板書作成中」モードにおいて一定以上の筆記情報が消去されると(具体的には、板書領域が最大値より5%以上減少すると)、その時点での記録候補画像が記録画像として記録される。
したがって、筆記者4が、筆記情報3を筆記している最中に、誤記の書き直しなどのために一定以上の筆記情報を消去した場合にも、誤記を含んだ板書画像が記録されてしまうため、結果として、無駄な記録が発生することになる。
そこで、以下においては、上述したような、誤記を含んだ板書画像が記録されてしまうことを避ける例について説明する。
(5-2.板書残存時間に応じた記録制御)
図20は、誤記を含んだ板書画像が記録されてしまうことを避けるために、板書残存時間に応じた記録制御を行う例について説明する図である。
図20には、時刻t31乃至t34それぞれにおける板書画像、板書領域画像、板書残存時間がセットされる画素情報配列、および記録候補画像が示されている。
図20の例でも、5×5画素の板書領域画像と画素情報配列が示されている。
時刻t31の板書画像においては、筆記情報として“ABC”,“DEF”が筆記され、板書領域画像においては、(2,2),(2,3),(2,4),(4,2),(4,3),(4,4)の画素が白画素に設定されている。このとき、記録候補画像は、“ABC”,“DEF”が筆記された板書画像により更新されている。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、板書残存時間として6,5,4がそれぞれセットされ、(4,2),(4,3),(4,4)の3画素に対応する値には、板書残存時間として3,2,1がそれぞれセットされている。すなわち、板書画像においては、“A”が最も前の時間に筆記され、“F”が最も直近の時間に筆記されている。
時刻t32の板書画像において、時刻t31の状態から“DEF”が消去されると、板書領域画像においては、(4,2),(4,3),(4,4)の画素が黒画素に設定され、板書領域が減少するものの、“ABC”,“DEF”が筆記された記録候補画像は、記録画像として記録されない。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、“ABC”が筆記されてからの経過時間に伴って、板書残存時間として9,8,7がそれぞれセットされ、“DEF”が消去された(4,2),(4,3),(4,4)の3画素に対応する値には、板書残存時間として0がそれぞれセットされる。
時刻t33の板書画像において、時刻t32の状態から、消去前の“DEF”が筆記されていた箇所に“GHI”が筆記されると、板書領域画像においては、(4,2),(4,3),(4,4)の画素が再び白画素に設定される。記録候補画像は、“ABC”,“GHI”が筆記された板書画像により更新される。
このとき、画素情報配列において、(2,2),(2,3),(2,4)の3画素に対応する値には、板書残存時間として12,11,10がそれぞれセットされ、(4,2),(4,3),(4,4)の3画素に対応する値には、板書残存時間として3,2,1がそれぞれセットされる。
時刻t34の板書画像において、時刻t33の状態から“AB”,“GH”が消去されると、板書領域画像においては、(2,2),(2,3),(4,2),(4,3)の画素が黒画素に設定され、“ABC”,“GHI”が筆記された記録候補画像が、記録画像として記録される。
このとき、画素情報配列において、(2,2),(2,3),(4,2),(4,3)の4画素に対応する値には、板書残存時間として0がそれぞれセットされ、筆記情報が残存した(2,4),(4,4)の2画素に対応する値には、板書残存時間として-1がセットされる。すなわち、記録済み領域を形成する(2,4),(4,4)の2画素には、記録済みフラグがセットされる。
次に、図21のフローチャートを参照して、上述した板書残存時間に応じた記録制御を実現する記録制御処理の詳細について説明する。
図21のステップS231乃至S243における処理の流れは、基本的には、図18のステップS131乃至S142における処理の流れ(フローF1,F2,F3)と同様であるが、ステップS238の処理が加わる点で異なる。
具体的には、「板書作成中」モードでのステップS237において、板書領域が最大値より5%以上減少したと判定された場合、処理はステップS238に進む。
ステップS238において、記録制御部54は、消去された板書領域の板書残存時間が所定時間より長いか否かを判定する。ここでは、例えば、消去された板書領域の板書残存時間が、6単位時間より長いか否かが判定される。
消去された板書領域の板書残存時間が所定時間より長いと判定された場合、ステップS239に進み、これ以降、フローF2の処理が実行される。すなわち、その時点での記録候補画像が記録画像として記録され、「板書消去中」モードへ移行される。
一方、ステップS238において、消去された板書領域の板書残存時間が所定時間より長くない(短い)と判定された場合、すなわち、図20の時刻t32のように、消去された板書領域の板書残存時間が6単位時間以下であるような場合、処理はステップS242に進み、これ以降、フローF3の処理が実行される。すなわち、その時点での記録候補画像は記録画像として記録されない。
図22は、図21のフローチャートを参照して説明した記録制御処理における板書状態モードのモード遷移の例を示す図であり、図12の時刻T6より後のモード遷移の例を示す図である。
図22においては、時刻T31,32の各時刻での、板書画像における筆記情報の変化が示されている。
時刻T31において、図12の時刻T6の状態から、板書残存時間が所定時間より短い“MNO”が消去されると、上述した記録制御処理におけるフローF3の処理が実行される。その結果、板書領域の現在値が減少し(最大値は維持され)、「板書作成中」モードが維持される。
時刻T32において、時刻T31の状態から、所定時間経過後の板書領域、すなわち、板書残存時間が所定時間より長い“KL”までが消去された場合、上述した記録制御処理におけるフローF2の処理が実行される。その結果、“ABCDE”,“FGHIJ”,“KLMNO”が筆記された記録候補画像が記録画像211として記録され、「板書消去中」モードへ移行される。
一方、時刻T32において、時刻T31の状態から、残存した“KL”の下側に“STU”が追記された場合、上述した記録制御処理におけるフローF1の処理が実行される。その結果、“ABCDE”,“FGHIJ”,“KL”“STU”が筆記された板書画像により記録候補画像221が更新され、「板書作成中」モードが維持される。
このとき、所定時間が経過する前に消去された“MNO”が筆記された画像は、メモ画像222として記録されてもよいし、記録されずに破棄されてもよい。
このように、図22のモード遷移の中では、「板書作成中」モードにおいて一定以上の筆記情報が消去された場合であっても、記録候補画像は、所定時間が経過する前に消去された“MNO”を含む板書画像により更新されない。
すなわち、以上の処理によれば、筆記者4が、筆記情報3を筆記している最中に、誤記の書き直しなどのために一定以上の筆記情報を消去した場合であっても、誤記を含んだ板書画像が記録されなくなることで、無駄な記録が発生することを防ぐことが可能となる。
<6.コンピュータの構成例>
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図23は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
上述した情報処理装置10は、図23に示す構成を有するコンピュータにより実現される。
CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003は、バス1004により相互に接続されている。
バス1004には、さらに、入出力インタフェース1005が接続されている。入出力インタフェース1005には、キーボード、マウスなどよりなる入力部1006、ディスプレイ、スピーカなどよりなる出力部1007が接続される。また、入出力インタフェース1005には、ハードディスクや不揮発性のメモリなどよりなる記憶部1008、ネットワークインタフェースなどよりなる通信部1009、リムーバブルメディア1011を駆動するドライブ1010が接続される。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを入出力インタフェース1005およびバス1004を介してRAM1003にロードして実行することにより、上述した一連の処理が行われる。
CPU1001が実行するプログラムは、例えばリムーバブルメディア1011に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部1008にインストールされる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたときなどの必要なタイミングで処理が行われるプログラムであっても良い。
本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
さらに、本開示は以下のような構成をとることができる。
(1)
筆記情報が筆記された筆記対象を示す筆記画像において、前記筆記情報を含む筆記領域を設定する領域設定部と、
前記筆記領域の変化に応じて、前記筆記画像の記録を制御する記録制御部と
を備える情報処理装置。
(2)
前記筆記領域は、前記筆記対象において前記筆記情報が筆記された範囲の占める割合を示す
(1)に記載の情報処理装置。
(3)
前記領域設定部は、前記筆記画像における前記筆記情報に対して膨張処理を施すことで、前記筆記領域を設定する
(1)または(2)に記載の情報処理装置。
(4)
前記領域設定部は、前記筆記領域が設定された前記筆記画像に対して低解像度化処理をさらに施す
(3)に記載の情報処理装置。
(5)
前記領域設定部は、前記筆記画像において文字認識が行われた文字領域を、前記筆記領域に設定する
(1)または(2)に記載の情報処理装置。
(6)
前記記録制御部は、
前記筆記領域の増加に応じて、前記筆記画像により、記録画像の候補となる記録候補画像を更新し、
前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録する
(1)乃至(5)のいずれかに記載の情報処理装置。
(7)
前記記録制御部は、記録済みの前記記録画像に含まれる前記筆記領域を除いた前記記録候補画像を前記記録画像として記録する
(6)に記載の情報処理装置。
(8)
前記記録制御部は、前記記録画像が記録された後、前記筆記領域の一部が残存した状態から前記筆記領域が増加したとき、残存した前記筆記領域をマスキングした前記筆記画像により、前記記録候補画像を更新する
(7)に記載の情報処理装置。
(9)
前記記録画像が記録されたとき、前記筆記画像において残存している前記筆記領域の画素に記録済みフラグをセットするセット部をさらに備え、
前記記録制御部は、前記筆記領域が増加したとき、前記記録済みフラグがセットされた前記画素をマスキングした前記筆記画像により、前記記録候補画像を更新する
(8)に記載の情報処理装置。
(10)
前記記録制御部は、前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
(6)に記載の情報処理装置。
(11)
前記筆記画像の画素毎に、前記筆記領域の前記残存時間をセットするセット部をさらに備え、
前記記録制御部は、消去された前記筆記領域の前記画素にセットされている前記残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
(10)に記載の情報処理装置。
(12)
前記記録制御部は、消去された前記筆記領域の前記画素にセットされている前記残存時間が所定時間より短い場合、前記記録候補画像を前記記録画像として記録しない
(11)に記載の情報処理装置。
(13)
前記記録制御部は、前記残存時間が前記所定時間より短い前記筆記領域を、前記記録画像とは別のメモ画像として記録する
(12)に記載の情報処理装置。
(14)
前記筆記対象が撮像された撮像画像から前記筆記画像を抽出する画像抽出部をさらに備える
(1)乃至(13)のいずれかに記載の情報処理装置。
(15)
前記撮像画像は、動画像の1フレームである
(14)に記載の情報処理装置。
(16)
前記撮像画像は、静止画像である
(14)に記載の情報処理装置。
(17)
情報処理装置が、
筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域を設定し、
前記筆記領域の変化に応じて、前記筆記画像の記録を制御する
情報処理方法。
(18)
コンピュータに、
筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域を設定し、
前記筆記領域の変化に応じて、前記筆記画像の記録を制御する
処理を実行させるためのプログラム。
1 板書記録システム, 10 情報処理装置, 20 入力装置, 30 出力装置, 51 画像取得部, 52 板書画像抽出部, 53 板書領域設定部, 54 記録制御部, 55 記録部, 56 出力制御部, 61 モード設定部, 161 画素情報セット部

Claims (16)

  1. 筆記情報が筆記された筆記対象を示す筆記画像において、前記筆記情報を含む筆記領域を設定する領域設定部と、
    前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像を更新し、前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録する記録制御部と
    を備え
    前記記録制御部は、前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
    情報処理装置。
  2. 前記筆記領域は、前記筆記対象において前記筆記情報が筆記された範囲の占める割合を示す
    請求項1に記載の情報処理装置。
  3. 前記領域設定部は、前記筆記画像における前記筆記情報に対して膨張処理を施すことで、前記筆記領域を設定する
    請求項2に記載の情報処理装置。
  4. 前記領域設定部は、前記筆記領域が設定された前記筆記画像に対して低解像度化処理をさらに施す
    請求項3に記載の情報処理装置。
  5. 前記領域設定部は、前記筆記画像において文字認識が行われた文字領域を、前記筆記領域に設定する
    請求項1に記載の情報処理装置。
  6. 前記記録制御部は、記録済みの前記記録画像に含まれる前記筆記領域を除いた前記記録候補画像を前記記録画像として記録する
    請求項に記載の情報処理装置。
  7. 前記記録制御部は、前記記録画像が記録された後、前記筆記領域の一部が残存した状態から前記筆記領域が増加したとき、残存した前記筆記領域をマスキングした前記筆記画像により、前記記録候補画像を更新する
    請求項に記載の情報処理装置。
  8. 前記記録画像が記録されたとき、前記筆記画像において残存している前記筆記領域の画素に記録済みフラグをセットするセット部をさらに備え、
    前記記録制御部は、前記筆記領域が増加したとき、前記記録済みフラグがセットされた前記画素をマスキングした前記筆記画像により、前記記録候補画像を更新する
    請求項に記載の情報処理装置。
  9. 前記筆記画像の画素毎に、前記筆記領域の前記残存時間をセットするセット部をさらに備え、
    前記記録制御部は、消去された前記筆記領域の前記画素にセットされている前記残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
    請求項に記載の情報処理装置。
  10. 前記記録制御部は、消去された前記筆記領域の前記画素にセットされている前記残存時間が所定時間より短い場合、前記記録候補画像を前記記録画像として記録しない
    請求項に記載の情報処理装置。
  11. 前記記録制御部は、前記残存時間が前記所定時間より短い前記筆記領域を、前記記録画像とは別のメモ画像として記録する
    請求項10に記載の情報処理装置。
  12. 前記筆記対象が撮像された撮像画像から前記筆記画像を抽出する画像抽出部をさらに備える
    請求項1に記載の情報処理装置。
  13. 前記撮像画像は、動画像の1フレームである
    請求項12に記載の情報処理装置。
  14. 前記撮像画像は、静止画像である
    請求項12に記載の情報処理装置。
  15. 情報処理装置が、
    筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域を設定し、
    前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像を更新し、前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録し、
    前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
    情報処理方法。
  16. コンピュータに、
    筆記対象に筆記された筆記情報を含む筆記画像において、前記筆記情報を含む筆記領域を設定し、
    前記筆記領域の増加に応じて、前記筆記画像により記録画像の候補となる記録候補画像を更新し、前記筆記領域の減少に応じて、前記記録候補画像を前記記録画像として記録し、
    前記筆記領域が減少したとき、消去された前記筆記領域の残存時間に基づいて、前記記録候補画像を前記記録画像として記録するか否かを決定する
    処理を実行させるためのプログラム。
JP2021552314A 2019-10-17 2020-10-02 情報処理装置、情報処理方法、およびプログラム Active JP7447908B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019190231 2019-10-17
JP2019190231 2019-10-17
PCT/JP2020/037531 WO2021075280A1 (ja) 2019-10-17 2020-10-02 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2021075280A1 JPWO2021075280A1 (ja) 2021-04-22
JP7447908B2 true JP7447908B2 (ja) 2024-03-12

Family

ID=75537992

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021552314A Active JP7447908B2 (ja) 2019-10-17 2020-10-02 情報処理装置、情報処理方法、およびプログラム

Country Status (4)

Country Link
US (1) US20240078007A1 (ja)
JP (1) JP7447908B2 (ja)
CN (1) CN114514499A (ja)
WO (1) WO2021075280A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114945107B (zh) * 2022-04-15 2024-02-02 北京奕斯伟计算技术股份有限公司 视频处理方法和相关装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005125628A (ja) 2003-10-24 2005-05-19 Fuji Photo Film Co Ltd 記録装置
JP2011123895A (ja) 2009-12-11 2011-06-23 Sharp Corp 情報処理装置、情報処理システム、情報処理方法、情報処理プログラム及びコンピュータ読み取り可能な記録媒体
JP2015109612A (ja) 2013-12-05 2015-06-11 キヤノン株式会社 画像音声再生システム及び画像音声再生方法とプログラム
JP2016019138A (ja) 2014-07-08 2016-02-01 株式会社東芝 画像処理装置、方法及びプログラム
US20170092333A1 (en) 2015-09-29 2017-03-30 International Business Machines Corporation Method and apparatus to extract key video frames from online education
US20180108121A1 (en) 2015-02-13 2018-04-19 Light Blue Optics Ltd. Timeline Image Capture Systems and Methods
JP2019212000A (ja) 2018-06-05 2019-12-12 ソニー株式会社 情報処理装置、情報処理方法及びプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11353459A (ja) * 1998-06-08 1999-12-24 Toyota Motor Corp 符号読み取り装置
JP2016009266A (ja) * 2014-06-23 2016-01-18 コニカミノルタ株式会社 撮影システム、撮影の方法、およびコンピュータープログラム
CN110427601B (zh) * 2019-07-16 2021-05-18 广州视源电子科技股份有限公司 表格处理方法、装置、智能交互平板及存储介质
WO2021051024A1 (en) * 2019-09-11 2021-03-18 Educational Vision Technologies, Inc. Editable notetaking resource with optional overlay
CN110716680B (zh) * 2019-10-09 2021-05-07 广州视源电子科技股份有限公司 智能交互平板的控制方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005125628A (ja) 2003-10-24 2005-05-19 Fuji Photo Film Co Ltd 記録装置
JP2011123895A (ja) 2009-12-11 2011-06-23 Sharp Corp 情報処理装置、情報処理システム、情報処理方法、情報処理プログラム及びコンピュータ読み取り可能な記録媒体
JP2015109612A (ja) 2013-12-05 2015-06-11 キヤノン株式会社 画像音声再生システム及び画像音声再生方法とプログラム
JP2016019138A (ja) 2014-07-08 2016-02-01 株式会社東芝 画像処理装置、方法及びプログラム
US20180108121A1 (en) 2015-02-13 2018-04-19 Light Blue Optics Ltd. Timeline Image Capture Systems and Methods
US20170092333A1 (en) 2015-09-29 2017-03-30 International Business Machines Corporation Method and apparatus to extract key video frames from online education
JP2019212000A (ja) 2018-06-05 2019-12-12 ソニー株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
US20240078007A1 (en) 2024-03-07
JPWO2021075280A1 (ja) 2021-04-22
CN114514499A (zh) 2022-05-17
WO2021075280A1 (ja) 2021-04-22

Similar Documents

Publication Publication Date Title
JP5493709B2 (ja) 映像編集装置
KR100996787B1 (ko) 오디오 비주얼 컨텐트 요약 및 인덱싱 방법, 이 방법을 수행하도록 실행가능한 컴퓨터 판독가능 기록 매체, 및 미팅의 오디오 및 비디오 컨텐트를 캡쳐하기 위한 시스템
US9390171B2 (en) Segmenting and playback of whiteboard video capture
US10068616B2 (en) Thumbnail generation for video
RU2648616C2 (ru) Способ и устройство для добавления шрифта
JP5037673B2 (ja) 情報処理装置、情報処理システム、情報処理方法、情報処理プログラム及びコンピュータ読み取り可能な記録媒体
US11675474B2 (en) Information processing apparatus, information processing method, and program
KR102061867B1 (ko) 이미지 생성 장치 및 그 방법
CN103888696A (zh) 照片的拍摄和查看方法和拍摄装置
JP7447908B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN111881904A (zh) 板书记录方法和***
CN105229999A (zh) 图像记录装置、图像记录方法以及程序
US10839198B2 (en) Image processing apparatus, image processing method, and program
JP2016157201A (ja) 情報処理装置、操作取消方法、コンピュータプログラム、及び記憶媒体
KR20140127131A (ko) 영상 출력 방법 및 그 방법을 처리하는 전자장치
US9736380B2 (en) Display control apparatus, control method, and storage medium
US10321089B2 (en) Image preproduction apparatus, method for controlling the same, and recording medium
JP4872564B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム
KR102546070B1 (ko) 타임 랩스 영상의 노이즈 제거 방법
JP2008020944A (ja) 画像処理方法、プログラムおよび装置
CN114363521B (zh) 图像处理方法、装置及电子设备
JP5565737B2 (ja) 映像イベント検出装置およびその動作方法
US20230368396A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
CN117311884A (zh) 内容显示方法、装置、电子设备及可读存储介质
CN101472065A (zh) 提供影像模糊信息的取像装置及方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240212

R151 Written notification of patent or utility model registration

Ref document number: 7447908

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151