JP2010096909A - 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法 - Google Patents

画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法 Download PDF

Info

Publication number
JP2010096909A
JP2010096909A JP2008266495A JP2008266495A JP2010096909A JP 2010096909 A JP2010096909 A JP 2010096909A JP 2008266495 A JP2008266495 A JP 2008266495A JP 2008266495 A JP2008266495 A JP 2008266495A JP 2010096909 A JP2010096909 A JP 2010096909A
Authority
JP
Japan
Prior art keywords
image
display
unit
planar member
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008266495A
Other languages
English (en)
Inventor
Toshihiko Mimura
俊彦 三村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2008266495A priority Critical patent/JP2010096909A/ja
Publication of JP2010096909A publication Critical patent/JP2010096909A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • User Interface Of Digital Computer (AREA)
  • Liquid Crystal (AREA)
  • Image Input (AREA)
  • Digital Computer Display Output (AREA)

Abstract

【課題】互いが異なる筐体に備えられている表示パネルの相対位置のずれを、容易かつ確実に検出することができる機能を有する画像表示/像検知装置を提供する。
【解決手段】本発明に係るデータ表示/センサ装置100は、表示/光センサ部300と表示部310とが対向する状態で表示部310に所定の検査用画像を表示させる画像表示制御部16と、表示/光センサ部300における光センサが検出した検出画像の画像情報が検査用画像の画像情報と一致するか否かを判定する判定部11と、を備えている。
【選択図】図1

Description

本発明は、画像を表示する画像表示装置に関し、特には、画像を表示する表示パネルを有する表示部を複数備え、その少なくともいずれかの表示部が、センサ内蔵表示パネルを有している画像表示装置、および、当該画像表示装置に備えられた表示部同士の位置ずれを検査する検査方法に関する。
近年、携帯電話および携帯型ゲーム機器をはじめとする携帯型情報端末において、画像を表示する表示部を複数備えている機器が増加している。これらの機器では、少なくともいずれかの表示部が、画像を表示する機能に加えて、ユーザが指などでポインティング(タッチ)した位置を検出することが可能な、いわゆるタッチパネル機能を有していることが多い。
このように、複数の表示部を有しているような機器では、各表示部が、それぞれ異なる筐体に備えられていることが一般的である。そして、表示部の備えられている各筐体は、連結部により互いに連結されており、機器を使用しないときに、表示部が損傷しないように、上記連結部を支点として表示部同士が互いに対向する状態に折り畳むことができるようになっている。
また、文書に記載されている情報を読み取り、画像データとして電子化することができるスキャナ装置においても、ユーザの利便性を高めるため、一度の操作で文書の両面を同時に読み取ることができるスキャナ装置が従来から用いられている。そのようなスキャナ装置は、コピー機などのように、大型で据え置き型が一般的であるが、携帯型も登場している(例えば、特許文献1を参照)。
特許文献1に開示されているスキャナ装置は、2つのスキャナユニットをヒンジ部で折り畳める構造になっており、折り畳んだスキャナユニットの間に挟んだ文書の両面を、同時に読み取ることができる。
特開2008−66961号公報(公開日:平成20年3月21日)
しかし、筐体同士を連結する連結部にはひずみが生じやすいため、表示部同士を対向させるように機器を折り畳んだ場合、連結部のひずみに起因して、各筐体に備えられている表示部同士の相対位置がずれる可能性がある。また、機器の製造時における製造誤差、具体的には筐体に表示部を取り付ける際の製造誤差により、筐体に対して表示部が歪んで取り付けられてしまうことがある。
このような場合、検査者が製造された機器を目視することにより表示部同士の相対位置のずれ、および、製造時における表示部の取り付け誤差を確認することが一般的であるが、効率が悪く、また不良品を確実に検出することが非常に困難であるという問題を有している。
また、検査者の目視に頼ることなく、自動的に表示部同士の相対位置のずれを検出する検出方法としては、例えばカメラなどの撮像機器を用いて撮像した画像を画像処理する方法が知られている。しかし、このような検出方法では、撮像装置、画像処理装置をはじめとした検査装置が別途必要であるため、検査処理工程におけるコストが増加し、ひいては機器の製造コスト自体も増加してしまうという問題を有している。
本発明は、上記の各問題に鑑みてなされたものであり、その主たる目的は、互いが異なる筐体に備えられている表示部同士の相対位置のずれを、容易かつ確実に検出することができる機能を有する画像表示装置(画像表示/像検知装置)を提供することにある。
本発明に係る画像表示/像検知装置は、上記課題を解決するために、
2つ折りに折り畳み可能な筐体を有し、上記筐体を折り畳んだ状態で対向する2つの内面のうち、一方の内面に、画像を表示する第1面状部材が配設され、他方の内面に、近傍の像を検知する第2面状部材が配設された画像表示/像検知装置であって、
上記筐体を折り畳んだ状態で、上記第1面状部材に所定の検査用画像を表示させる表示制御手段と、
上記筐体を折り畳んだ状態で上記第2面状部材により検知された上記第1面状部材の像が、上記検査用画像と一致するか否かを判定する判定手段と、
を備えていることを特徴としている。
本発明に係る画像表示/像検知装置は、筐体を折り畳んだ状態、すなわち第1面状部材と第2面状部材とを対向させた状態で、上記第1面状部材に所定の検査用画像を表示させ、表示されている検査用画像を第2面状部材において検出する。そして、判定手段は、第2面状部材により検知された第1面状部材の像と、検査用画像とが一致するか否かを判定する。
すなわち、本発明に係る画像表示/像検知装置における判定手段では、第2面状部材により検知された第1面状部材の像と、検査用画像とが一致する場合には、第1面状部材に対する第2面状部材の相対位置にずれは生じていないと判定し、また、一致しない場合には、第1面状部材に対する第2面状部材の相対位置にずれが生じていると判定する。
このように、本発明に係る画像表示/像検知装置では、検査者による目視または別の検査機器に頼ることなく、自装置において第1面状部材に対する第2面状部材の相対位置のずれを検出することができる。また、第1面状部材と第2面状部材とを対向するように筐体を折り畳むという動作のみで、第1面状部材に対する第2面状部材の相対位置のずれを検出することができる。すなわち、検査者に煩雑な操作を強いることなく、第1面状部材に対する第2面状部材の相対位置のずれを検出することができる。
これによって、本発明に係る画像表示/像検知装置は、第1面状部材に対する第2面状部材の相対位置のずれを容易かつ確実に検出することができる効果を奏する。
本発明に係る画像表示/像検知装置では、さらに、上記判定手段が、上記第2面状部材により検知された上記第1面状部材の像と、上記検査用画像とが一致していないと判定したときに、上記第2面状部材により検知された上記第1面状部材の像と、上記検査用画像とのずれ量を算出する算出手段と、
上記第2面状部材により検知された像における高輝度領域の位置座標を、上記ずれ量に基づいて補正する補正手段と、
をさらに備えていることが好ましい。
上記の構成によれば、算出したずれ量に基づいて、上記第2面状部材により検知された像における高輝度領域の位置座標を補正することができる。これによって、第2面状表示部材により検知された像における高輝度領域の補正画像データを作成することができる効果を奏する。
なお、本明細書等における「高輝度領域」とは、近傍の像を検知する検知部において検知される像において、画素値の明度が所定の閾値より高くなっている部分を全て含む最小の矩形領域を意味している。
本発明に係る画像表示/像検知装置では、さらに、上記第2面状部材により検知された像を、上記算出手段により算出されたずれ量に応じて補正したうえで、上記第1面状部材に表示する補正画像表示制御手段をさらに備えていることが好ましい。
上記の構成によれば、ずれ量を考慮した補正画像を第1面状部材に表示することができる効果を奏する。
本発明に係る画像表示/像検知装置では、さらに、上記表示制御手段が上記第1面状部材に黒画像を表示させている状態で、上記第2面状部材により検知された上記第1面状部材の像に基づいて、上記第1面状部材において所定の閾値以上の輝度を有する領域の位置を特定する特定手段をさらに備えていることが好ましい。
本発明に係る画像表示/像検知装置では、さらに、上記表示制御手段が上記第1面状部材に白画像を表示させている状態で、上記第2面状部材により検知された上記第1面状部材の像に基づいて、上記第1面状部材において所定の閾値以下の輝度を有する領域の位置を特定する特定手段をさらに備えていることが好ましい。
上記の構成によれば、自装置において、第1面状部材と第2面状部材との相対位置のずれの検出以外にも、輝点の検出または黒点の検出を行うこともできる効果を奏する。
なお、本明細書等における「黒画像」とは、第1面状部材における各画素の画素値が全て最大値である画像を意味しており、「白画像」とは、第1面状部材における各画素の画素値が全て最小値である画像を意味している。
本発明に係る画像表示/像検知装置では、さらに、上記特定手段により特定された領域を上記第1面状部材に表示するとき、当該領域が上記第1面状部材に表示される位置を示すマーカーを、上記第1面状部材に表示するマーカー表示制御手段をさらに備えていることが好ましい。
上記の構成によれば、検査者が、第1面状部材において輝点または黒点が存在するか否かを容易に判定することができる効果を奏する。
また、特定手段により特定された領域を第1面状部材に表示することにより、輝点もしくは黒点が第2面状部材に設けられた近傍の像を検知するための検知部の不良に起因して生じているのか、または、第1面状部材におけるドット抜けに起因して生じているのかを判定することができる効果を奏する。
本発明に係る画像表示/像検知装置では、さらに、上記第1面状部材が、画像を表示すると共に、近傍の像を検知することが好ましい。
上記の構成によれば、筐体の間に挿入した物体の像を、第1面状部材と第2面状部材とにおいて同時に検知することができる効果を奏する。
本発明に係る画像表示/像検知装置の検査方法は、上記課題を解決するために、
2つ折りに折り畳み可能な筐体を有し、上記筐体を折り畳んだ状態で対向する2つの内面のうち、一方の内面に、画像を表示する第1面状部材が配設され、他方の内面に、近傍の像を検知する第2面状部材が配設された画像表示/像検知装置の検査方法であって、
上記筐体を折り畳んだ状態で、上記第1面状部材に所定の検査用画像を表示させる表示制御ステップと、
上記筐体を折り畳んだ状態で上記第2面状部材により検知された上記第1面状部材の像が、上記検査用画像と一致するか否かを判定する判定ステップと、
含むことを特徴としている。
上記の構成によれば、本発明に係る画像表示/像検知装置と同様の作用効果を奏する。
また、本発明に係る画像表示/像検知装置を動作させるためのプログラムであって、コンピュータを上記の各手段として駆動させることを特徴とするプログラムおよび該プログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の範疇に含まれる。
本発明に係る画像表示/像検知装置は、以上のように、筐体を折り畳んだ状態、すなわち第1面状部材と第2面状部材とを対向させた状態で、上記第1面状部材に所定の検査用画像を表示させる画像表示制御手段と、第2面状部材により検知された第1面状部材の像が、検査用画像と一致するか否かを判定する判定手段と、を備えている。これによって、本発明に係る画像表示/像検知装置は、第1面状部材に対する第2面状部材の相対位置のずれを容易かつ確実に検出することができる効果を奏する。
本発明に係るデータ表示/センサ装置(画像表示/像検知装置)の一実施形態について図1〜16を参照しつつ、以下に説明する。
(データ表示/センサ装置の外観)
データ表示/センサ装置100は、図2に示すように、上部筐体40、下部筐体41、および連結部42を備えている。図2は、データ表示/センサ装置100の外観を示す図である。図2に示すように、上部筐体40には、表示部310が備えられており、また下部筐体41には、表示/光センサ部300が備えられている。連結部42は、上部筐体40および下部筐体41を互いに連結すると共に、データ表示/センサ装置100を表示/光センサ部300と表示部310とが対向するように折り畳むためのヒンジとしての役目も有している。
図2には、上部筐体40の一部と下部筐体41の一部とが互いに連結することにより構成されている連結部42を示しているが、もちろんこれに限定されるものではない。例えば、蝶番を連結部42としてデータ表示/センサ装置100に取り付けてもよい。
なお、図2には、折り畳み式のデータ表示/センサ装置100を図示しているが、データ表示/センサ装置100の形態はこれに限定されるものではなく、データ表示/センサ装置100を使用しない時に表示/光センサ部300と表示部310とが対向するように配置することができる形態であればよい。例えば、データ表示/センサ装置100の形態は、上部筐体40(または下部筐体41)をスライドさせて、表示/光センサ部300と表示部310とが対向するように配置する、いわゆるスライド式の形態であってもよい。
(データ表示/センサ装置の構成)
本発明に係るデータ表示/センサ装置100の要部構成について、図1を参照しつつ以下に説明する。図1は、データ表示/センサ装置100の要部構成を示すブロック図である。図1に示すように、データ表示/センサ装置100は、表示/光センサ部300、表示部310、主制御部800、画像表示制御部16、補正画像表示制御部17、マーカー表示制御部18、および記憶部901を備えている。各部材の詳細については、それぞれ以下に説明する。
(表示/光センサ部300)
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部300は、センサ内蔵液晶パネル301の他に、バックライト、ならびに、センサ内蔵液晶パネル301およびバックライトを駆動するための周辺回路を含んで構成される。また、センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路および光センサ回路を含んで構成される。センサ内蔵液晶パネル301のより詳細な構成については後述するため、ここではその記載を省略する。
(表示部310)
表示部310は、データを表示する液晶パネル311を備えている、従来公知の表示装置である。なお、表示部310の備えている表示パネルは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。また、表示部310の液晶パネル311は、表示/光センサ部300と同様に、センサ内蔵液晶パネルであってもよい。
なお、表示/光センサ部300の形状と表示部310の形状とは同一の形状に限定されるものではなく、異なる形状であってもよい。
(主制御部800)
主制御部800は、図1に示すように、判定部11、算出部12、補正部13、検出部14および変換部15を備えている。主制御部800における各部材について、以下に説明する。
(判定部11)
判定部11は、表示/光センサ部300に備えられた光センサにおいて検出された検出画像の画像情報と、検査用画像の画像情報とを比較し、比較した画像情報が一致するか否かを判定する。
なお、本実施形態における「検出画像」とは、表示/光センサ部300に備えられた光センサにおいて検知された表示部310の像における高輝度領域を意味している。
(算出部12)
算出部12は、判定部11において、表示/光センサ部300に備えられた光センサにおいて検出された検出画像の画像情報と、表示部310において表示している検査用画像の画像情報とが一致しないと判定された場合に、表示部310に対する表示/光センサ部300の相対位置のずれの程度を示すずれ量を算出する。
(補正部13)
補正部13は、算出部12において算出したずれ量に基づいて、表示/光センサ部300において検出した検出画像における各画素の位置座標を補正する。また、補正部13は、ずれ量に基づいて、各画素の輝度情報についても補正する。すなわち、補正部13は、ずれ量に基づいて検出画像の補正画像データを生成する。
なお、本明細書等において、「位置座標」とは画素の位置座標を示すデータを意味している。
(検出部14)
検出部14は、表示/光センサ部300に備えられた光センサにおいて検出された検出画像における所定の閾値以上の輝度値を有する画素を検出する。さらに、所定の閾値以上の輝度値を有する画素が存在する場合には、センサ内蔵液晶パネル301における当該画素の位置座標を検出する。
(変換部15)
変換部15は、補正部13において生成した補正画像データに基いて表示される画像が上下または左右反転して表示されるように、位置座標を変換する。これは、表示/光センサ部300において検出される画像が、元の画像の鏡像となるためである。なお、この際のアルゴリズムは従来公知のアルゴリズムを用いればよい。
(画像表示制御部16、補正画像表示制御部17)
画像表示制御部16は、表示/光センサ部300と表示部310とが折り畳まれた状態のときに、検査用画像を表示部310に表示する。また、補正画像表示制御部17は、補正部13において生成された補正画像データを、変換部15において変換した位置座標に基いて表示部310に表示する。すなわち、補正画像表示制御部17は、表示/光センサ部300において検出画像された画像を上下または左右反転して表示する。
(マーカー表示制御部18)
マーカー表示制御部18は、変換部15において変換された位置座標(表示部310における位置座標)により特定される画素を示すマーカーを、表示部310に表示する。
(記憶部901)
記憶部901は、算出部12において算出されたずれ量を記録する。なお、記憶部901は、内部メモリとしてデータ表示/センサ装置100に備えられているものに限定されるものではない。記憶部901は、データ表示/センサ装置100の外部に取り付けられている外部メモリであってもよい。
(データ表示/センサ装置100における表示部の検査方法)
次に、データ表示/センサ装置100における表示部の検査方法の概要について、図3を参照しつつ以下に説明する。図3は、データ表示/センサ装置100における表示部310の検査方法を示すフローチャートである。
まず、データ表示/センサ装置100が折り畳まれると、すなわち上部筐体40が備える表示/光センサ部300と下部筐体41が備える表示部310とが対向する状態になると、画像表示制御部16は、所定の検査用画像を表示部310の液晶パネル311に表示する(ステップS1)。液晶パネル311に検査用画像が表示されると、表示/光センサ部300のセンサ内蔵液晶パネル301に備えられた光センサが、液晶パネル311に表示されている検査用画像を検出する(ステップS2)。
続いて、判定部11は、センサ内蔵液晶パネル301に備えられた光センサにより検出された検出画像の画像情報と、液晶パネル311に表示している検査用画像の画像情報とを比較し、比較した画像情報が一致しているか否かを判定する(ステップS3)。判定部11において、検出画像の画像情報と検査用画像の画像情報とが一致していると判定された場合(ステップS4においてYES)、判定部11はデータ表示/センサ装置100における表示/光センサ部300と表示部310との相対位置にずれはないと判断し、検査処理を終了する。
一方、判定部11において、検出画像の画像情報と検査用画像の画像情報とが一致していないと判定された場合、すなわち、判定部11がデータ表示/センサ装置100における表示/光センサ部300と表示部310との相対位置にずれがあると判定した場合(ステップS4においてNO)、算出部12は表示/光センサ部300と表示部310との相対位置のずれの程度を示すずれ量を算出する(ステップS5)。
算出部12はずれ量を算出すると共に、算出したずれ量が所定の閾値Th1以下であるか否かを判定する(ステップS6)。算出したずれ量が所定の閾値Th1を超える場合(ステップS6においてNO)、データ表示/センサ装置100は、表示/光センサ部300と表示部310との相対位置のずれに起因する画像のずれを修正することは不可能であると判断し、検査処理を終了する。すなわち、データ表示/センサ装置100が不良品であると判断する。算出したずれ量が所定の閾値Th1以下である場合(ステップS6においてYES)、算出部12は、算出したずれ量を記憶部901に記録し、検査処理を終了する(ステップS7)。
このように、データ表示/センサ装置100では、ずれ量が閾値Th1を超える場合には、自装置が不良品であると判断する。なお、自装置が不良品であることを判断したときには、データ表示/センサ装置100がその旨を検査者に音や光などを用いて報知することが好ましい。
一方、ずれ量が閾値Th1以下である場合には、ずれが発生している場合であっても、そのずれ量を後述のように補正することでカバーすることが可能であるため、自装置が不良品であると判断しない。
なお、上述した検査処理では、データ表示/センサ装置100を折り畳むと同時に検査処理を実行する場合を例に挙げて説明しているが、もちろんこれに限定されるものではない。例えば、検査者(またはユーザ)がデータ表示/センサ装置100に備えられたスイッチを押下することによって、データ表示/センサ装置100を検査モードに切り換えた場合にのみ、上述した検査処理を行うようにしてもよい。なお、データ表示/センサ装置100を検査モードにするスイッチは、ハードウェアスイッチに限定されるものではなく、ソフトウェアスイッチであってもよい。
また、上述した検査処理に用いられる検査用画像は、データ表示/センサ装置100に予め記録されているものであれば特に限定されるものではない。また、表示する検査用画像を検査者(またはユーザ)が設定できるようにしてもよい。
(データ表示/センサ装置の利点)
以上説明したように、データ表示/センサ装置100では、データ表示/センサ装置100が折り畳まれ、表示/光センサ部300と表示部310とが対向する位置に配置されると、画像表示制御部16が表示部310に所定の検査用画像を表示させ、表示/光センサ部300における光センサが、表示されている検査用画像を検出する。そして、判定部11が、表示/光センサ部300において検知した表示部310の像における検出画像の画像情報と、検査用画像の画像情報とが一致するか否かを判定する。
このように、データ表示/センサ装置100では、検査者による目視または別の検査機器に頼ることなく、自装置において、表示部310に対する表示/光センサ部300の相対位置のずれを検出することができる。
また、データ表示/センサ装置100では、表示/光センサ部300と表示部310とが対向するようにデータ表示/センサ装置100を折り畳む動作のみで、表示部310に対する表示/光センサ部300の相対位置のずれを検出することができる。すなわち、データ表示/センサ装置100では、検査者に煩雑な操作を強いることなく、表示部310に対する表示/光センサ部300の相対位置のずれを検出することができる。
これによって、データ表示/センサ装置100は、表示部310に対する表示/光センサ部300の相対位置のずれを容易かつ確実に検出することができる。
さらに、データ表示/センサ装置100では、判定部11が検出画像の画像情報と、表示部310に表示している検査用画像の画像情報とが一致していないと判定したときに、算出部12が表示部310の位置座標に対する表示/光センサ部300の位置座標のずれ量を算出する。そして、補正部13が、表示/光センサ部300において検出した検出画像における各画素の位置座標を、算出部12において算出したずれ量に基づいて補正する。
これによって、データ表示/センサ装置100では、算出したずれ量に基づいて検出画像を補正することにより得られる補正画像データに基づいて表示した補正画像をユーザに対して表示することができる。
(ずれ量の算出方法の詳細)
次に、算出部12において算出するずれ量の詳細について、図4(a)〜(f)を参照しつつ以下に説明する。図4(a)〜(f)は、表示/光センサ部300と表示部310との相対位置のずれの詳細な検出方法を示した図であり、(a)は検査用画像を示し、(b)は検出画像を示し、(c)は検出画像における画像情報の算出を示す図であり、(d)は中心点の算出を示す図であり、(e)は検査用画像における画像情報の算出を示す図であり、(f)は検査用画像の画像情報と検出画像の画像情報との比較を示す図である。
まず、画像表示制御部16は、表示部310の液晶パネル311に、図4(a)に示すような検査用画像を表示する。続いて、表示/光センサ部300のセンサ内蔵液晶パネル301に備えられた光センサは、図4(b)に示す検査用画像を検出する。
次に、判定部11は、図4(c)に示すように、検出画像の中心点a1、b1およびc1の位置座標を取得する。さらに、図4(d)に示すように、取得したb1およびc1の位置座標に基づいて、中心点d1の位置座標を取得する。なお、中心点d1は、中心点b1を始点とし、中心点c1を終点とするベクトル(または、中心点c1を始点とし、中心点b1を終点とするベクトル)の中間点の位置座標を算出することにより求めることができる。
同時に、判定部11は、図4(e)に示すように、検査用画像における検査マークの中心点a2、b2およびc2を算出すると共に、検査用画像の中心である中心点d2の位置座標を算出する。なお、中心点d2は、表示部301における液晶パネル311の中心である。なお、本明細書等における「検査マーク」とは、近傍の像を検知する検知部において高輝度領域として検知される検査用画像の領域を意味している。
このように、本実施形態では、中心点a1、b1、c1およびd1の位置座標が検出画像の画像情報となり、中心点a2、b2、c2およびd2の位置座標が検査用画像の画像情報となる。なお、中心点a2、b2、c2の位置座標は、ずれ量を算出する毎に算出する必要はない。例えば、予め算出し、記録されているものを読み出すようにしてもよい。また、中心点a2、b2、c2の位置座標の算出方法としては、従来公知の算出方法を用いればよい。
最後に、判定部11は、図4(f)に示すように、中心点a1と中心点a2、中心点b1と中心点b2、中心点c1と中心点c2、および中心点d1と中心点d2の位置座標を比較することにより、検出画像と検査用画像とにずれが生じているか否かを判定する。
すなわち、中心点a1、b1、c1およびd1の位置座標と中心点a2、b2、c2およびd2の位置座標とが完全に一致する場合、判定部11は、検出画像と検査用画像とにずれが生じていないと判定する。すなわち、表示部310に対する表示/光センサ部300の相対位置にずれはないと判定する。
なお、図4(f)において、検出画像と検査用画像とのずれの理解を容易にするために、便宜上、表示/光センサ部300の外枠を破線により示している。また、中心点a2、b2およびc2については、その記載を省略している。
図4(f)に示す例では、中心点a1、b1、c1およびd1の位置座標と中心点a2、b2、c2およびd2の位置座標とが一致していない。したがって、判定部11は、検出画像と検査用画像とにずれが生じていると判定する。すなわち、判定部11は、表示部310に対する表示/光センサ部300の相対位置にずれが生じていると判定する。
算出部12は、中心点d1の位置座標と中心点d2の位置座標とのずれに基づいて、表示部310に対する表示/光センサ部300の相対位置の並進ずれ量(dx、dy)を算出する。また、中心点a1を始点とし、中心点c1を終点とするベクトルと中心点a2を始点とし、中心点c2を終点とするベクトルとの角度のずれに基づいて、表示部310に対する表示/光センサ部300の相対位置の回転ずれ量θを算出する。すなわち、本明細書等における「ずれ量」とは、中心点d1とd2との位置座標の並進ずれ量(dx、dy)、および、中心点c1を終点とするベクトルと中心点a2を始点とし、中心点c2を終点とするベクトルとの回転ずれ量θを意味している。
算出部12は、算出した並進ずれ量(dx、dy)および回転ずれ量θに基づいて、データ表示/センサ装置100が不良品であるか否かを判定する。このとき、並進ずれ量(dx、dy)および回転ずれ量θそれぞれに閾値が設定されていることが好ましい。
また、算出部12は、算出した並進ずれ量(dx、dy)および回転ずれ量θの少なくともいずれかが所定の閾値を超える場合に、データ表示/センサ装置100を不良品として判定するようにしてもよいし、算出した並進ずれ量(dx、dy)および回転ずれ量θの双方が所定の閾値を超える場合に、データ表示/センサ装置100不良品として判定するようにしてもよい。
なお、表示/光センサ部300と表示部310との形状が異なる場合には、表示部310に表示する検査用画像における検査マークが表示/光センサ部300において検出できる位置に表示されるようにすることが好ましい。
(検出画像の補正方法の詳細)
補正部13は、算出部12において算出したずれ量に基づいて、表示/光センサ部300において検出した検出画像を補正し、補正画像データを生成する。より具体的には、まず、補正部13は下記式(1)を用いて表示/光センサ部300において検出した検出画像における各画素の位置座標を変換する。
Figure 2010096909
ここで、式(1)中、座標(x1、y1)は、表示/光センサ部300において検出した検出画像における任意の画素の位置座標であり、座標(x2、y2)は、座標(x1、y1)の変換後の位置座標であり、(dx、dy)は、並進ずれ量であり、θは回転ずれ量である。
なお、上記式(1)では、上部筐体40における表示部310に表示された画像を、下部筐体41における表示/光センサ部300において検出し、補正する場合の式である。例えば、上部筐体40における表示部300にも光センサが備えられており、下部筐体41における表示/光センサ部300に表示した画像(または、下部筐体41に載せた図形)を上部筐体40における光センサにおいて検出し、補正する場合には、補正方向が逆になるため、上記式(1)におけるθおよび(dx、dy)の符号を逆にする必要がある。この場合、補正部13は下記式(2)を用いて各画素の位置座標を変換する。
Figure 2010096909
補正部13は、上記式(1)または(2)を用いて変換した座標(x2、y2)の画素に対して、座標(x1、y1)の画素の色を適用する。これによって、補正部13は、表示/光センサ部300の光センサにより検出された検出画像を補正した補正画像データを作成することができる。また、変換部14において補正画像が上下反転して表示されるように補正画像データにおける位置座標を変換することにより、表示/光センサ部300と表示部310との相対位置のずれを考慮した補正画像を表示させることもできる。
なお、ずれ量を記憶部901に記録している場合には、判定部11および算出部12における処理をスキップすることも可能である。この場合、補正部13は、センサ内蔵液晶パネル301において検出した検出画像を、記憶部901に記録されたずれ量に基づいて補正することにより補正画像データを生成すればよい。
(検出画像の補正の詳細)
ここで、表示/光センサ部300おいて検出した検出画像の補正の具体例について、図5(a)〜(e)を参照しつつ以下に説明する。図5(a)〜(e)は、表示/光センサ部300において検出した検出画像の補正の具体例を示す図であり、(a)は表示部310に表示された表示画像であり、(b)は表示/光センサ部300において検出された検出画像であり、(c)は検出画像の補正を示す図であり、(d)は補正後の検出画像であり、(e)は補正後の検出画像を上下反転させた状態を示す図である。
まず、画像表示制御部16は、表示部310の液晶パネル311に、図5(a)に示すような「R」の画像を表示する。続いて、表示/光センサ部300のセンサ内蔵液晶パネル301は、図5(a)に示される画像を検出する。このとき、表示/光センサ部300のセンサ内蔵液晶パネル301には、図5(b)に示すように、図5(a)に示す表示画像と鏡像関係にある画像が検出される。また、表示/光センサ部300おいて検出された検出画像には、図5(b)に示すように、表示/光センサ部300と表示部310との相対位置のずれに起因したずれが生じている。
補正部13は、図5(c)に示すように、記憶部901に記録されている並進ずれ量(dx、dy)および回転ずれ量θに基づいて、検出された画像における画素の位置座標を変換する。このとき、補正部13は、上記式(1)を用いて画素の位置座標を変換する。図5(d)は、上記式(1)を用いて画素の位置座標を変換した画像を示している。
しかし、図5(d)に示すように、ずれ量に基づいて補正したのみでは、表示部310の液晶パネル311に表示した表示画像と鏡像関係にある画像であり、「R」の文字が鏡文字の状態となっている。そこで、変換部15は、図5(e)に示すように補正画像が表示されるように、位置座標を変換する。すなわち、変換部15は、補正した画像を上下反転する。これによって、表示部310の液晶パネル311に表示した画像と同様の画像を表示/光センサ部300のセンサ内蔵液晶パネル301に表示することができる。もちろん、図5(e)に示す画像を表示部310の液晶パネル311に表示するようにしてもよい。
(輝点検出への応用)
上述した、表示/光センサ部300と表示部310との相対位置のずれを示すずれ量を算出する場合には、データ表示/センサ装置100における表示/光センサ部300および表示部310における輝点の検出を行うことができる。すなわち、データ表示/センサ装置100は、表示/光センサ部300の光センサに不良箇所が存在するか否か、または、表示部310の液晶パネルにドット抜けが生じているか否かの判定を行うことができる。表示/光センサ部300および表示部310における輝点の検出について、図6を参照しつつ以下に説明する。図6は、表示/光センサ部300および表示部310における輝点の検出方法を示すフローチャートである。
まず、データ表示/センサ装置100が折り畳まれ、上部筐体40の備えられた表示/光センサ部300と下部筐体41の備えられた表示部310とが対向する状態になると、画像表示制御部16は、所定の検査用画像(黒色画像)を表示部310の液晶パネル311に表示する(ステップS10)。液晶パネル311に検査用画像が表示されると、表示光センサ部300のセンサ内蔵液晶パネル301に備えられた光センサは、液晶パネル311に表示されている検査用画像を検出する(ステップS11)。
続いて、検出部14は、検出された検出画像において、所定の閾値Th2以上の輝度を有する画素があるか否かを判定する(ステップS12)。検出された検出画像において、輝度が閾値Th2以上である画素がない場合(ステップS12においてNO)、検出部14は、表示/光センサ部300における光センサの不良および表示部310におけるドット抜けは存在しないと判定し、検査処理を終了する。
一方、検出された検出画像において、輝度が閾値Th2以上である画素がある場合(ステップS12においてYES)、検出部14は、表示/光センサ部300の光センサに不良があるか、または、表示部310の液晶パネル311にドット抜けが存在すると判定し、閾値Th2以上の輝度値を有する画素の位置座標を検出する(ステップS13)。
次に、補正部13は、記憶部901に記録されている、データ表示/センサ装置100のずれ量に基づいて、閾値Th2以上の輝度値を有する画素の位置座標を変換する(ステップS14)。変換部15は、検出部14において検出された画素の位置座標を、表示部310における位置座標に変換する(ステップS15)。
最後に、マーカー表示制御部18は、変換部15において変換された位置座標により示される画素を示すマーカーを、液晶パネル311に表示する(ステップS16)。
なお、マーカーにより示された画素において輝点が生じているか否かは、検査者が目視することにより判定する。すなわち、表示部310の液晶パネル311においてマーカーの表示されている画素に輝点が生じている場合、検査者は、検出画像において検出された輝点が表示部310の液晶パネル311におけるドット抜けに起因していると判定する。一方、表示部310の液晶パネル311においてマーカーの表示されている画素に輝点がない場合、検査者は、検出画像において検出された輝点が表示/光センサ部300における光センサの不良に起因していると判定する。
また、ステップS13において複数の画素が検出された場合には、検出された画素全ての画素について上記の処理を実行する。すなわち、検査者は、輝点がセンサ内蔵液晶パネル301の光センサの不良に起因して生じているのか、または、液晶パネル311のドット抜けに起因して生じているのかをステップS13において検出された全ての画素について判定することになる。
なお、データ表示/センサ装置100が折り畳まれ、上部筐体40が備える表示/光センサ部300と下部筐体41が備える表示部310とが対向する状態で、画像表示制御部16が、白色画像を検査用画像として表示することにより、輝点ではなく、黒点を検出するようにすることもできる。ただし、この場合、検出部14は所定の閾値以下の輝度を有する画素を黒点として検出する。
(輝点検出の詳細)
次に、輝点の検出方法の詳細について、図7(a)〜(f)を参照しつつ以下に説明する。図7(a)〜(f)は、表示/光センサ部300のセンサ内蔵液晶パネル301および表示部310の液晶パネル311における輝点の検出方法の具体例を示す図であり、(a)は検査用画像を示す図であり、(b)は検出画像を示す図であり、(c)は検出画像における位置の補正を示す図であり、(d)は検出画像における角度の補正を示す図であり、(e)は補正画像の向きの回転を示す図であり、(f)は液晶パネル311におけるマーカーの表示を示す図である。
まず、画像表示制御部16は、表示部310の液晶パネル311に、図7(a)に示すような検査用画像を表示する。続いて、表示/光センサ部300のセンサ内蔵液晶パネル301は、図7(b)に示すような検査用画像を検出する。ここで、検出部14において検出された輝点を図7(b)において白色の点として示している。
補正部13は、図7(c)に示すように、記憶部901に記録されている並進ずれ量(dx、dy)に基づいて、検出画像において輝点とされた画素の位置座標を変換すると共に、図7(d)に示すように、記憶部901に記録されている回転ずれ量θに基づいて、検出画像において輝点として検出された画素の位置座標を変換する。このとき、補正部13は、上記式(1)を用いて画素の位置座標を変換する。なお、図7(c)および(d)では、並進ずれ量(dx、dy)に基づいて位置座標を変換した後に、回転ずれ量θに基づいて位置座標の変換しているが、これに限定されるものではなく、逆の順序によって検出画像において輝点として検出された画素の位置座標を変換するようにしてもよい。
次に、図7(e)に示すように、補正部13において生成した補正画像データの位置座標を、表示部310における位置座標に変換し、変換した位置座標に基づいた画像を表示部310の液晶パネル311に表示する。すなわち、補正した検出画像の向きを上下反転して表示部310の液晶パネル311に表示する。同時に、マーカー表示制御部18は、図7(f)に示すように、センサ内臓液晶パネル301における位置座標に対応する位置座標を示すマーカーを液晶パネル311に表示する。すなわち、輝点の表示されるであろう画素を示す。このとき、図7(f)に示すように、マーカーの示す位置に輝点が見えるか否かを検査者に対して問うメッセージを同時に表示するようにしてもよい。
なお、表示部310に対する表示/光センサ部300の相対位置のずれの検出と同様に、輝点の検出もユーザがデータ表示/センサ装置100に備えられたスイッチを押下することによって、データ表示/センサ装置100を検査モードに切り換えた場合にのみ、輝点の検出処理を行うようにすることもできる。なお、データ表示/センサ装置100を輝点の検出モードにするスイッチは、ハードウェアスイッチに限定されるものではなく、ソフトウェアスイッチであってもよい。
また、本項では、表示/光センサ部300と表示部310との相対位置のずれの検査を実行した後に、輝点の検出を実行する場合について例示しているが、これに限定されるものではなく、表示/光センサ部300と表示部310との相対位置のずれの検査処理と一連の処理により輝点の検出処理を行うようにしてもよい。
表示部310の液晶パネル311における図7(e)に示す画像は、検査者がマーカーにより示された画素を確認するために、データ表示/センサ装置100を開いたときに検査用画像から変更して表示するようにしてもよいし、画像切り換えのスイッチを押下することにより、検査用画像から変更して表示するようにしてもよい。
なお、図7(a)に示すような検査用画像を白画像とすることにより黒点の検出を行うこともできる。この場合、図7(b)における白色の点が黒色の点となり、背景の色が黒色から白色となる。
以上説明したように、上述した動作を実行することにより、表示/光センサ部300における光センサの不良または表示部310にドット抜けを、他の検査装置を用いることなく、自装置において検出することができる。
また、検出画像において検出された輝点の位置座標に対応する表示部310の液晶パネル311における位置座標を示すマーカーを表示することにより、輝点が表示/光センサ部300のセンサ内蔵液晶パネル301の光センサの不良に起因して生じているのか、または、表示部310の液晶パネル311のドット抜けに起因して生じているのかを判定することができる。
これによって、検査者は、表示/光センサ部300における光センサの不良または表示部310における液晶パネル311のドット抜けについて、容易かつ確実に判定することができる。また、表示部310においてマーカーを表示することにより、検査者は、表示部310において輝点が存在するか否かをより一層容易に判定することができる。
(データ表示/センサ装置100の変形例)
データ表示/センサ装置100を、折り畳んだ筐体の間に挟んだ文書等を両面同時にスキャンすることが可能なスキャナに適用した場合には、算出したずれ量を用いて、上部筐体40においてスキャンした画像と、下部筐体41においてスキャンした画像との位置合わせを行うことができる。
データ表示/センサ装置100を、スキャン対象物の両面を同時にスキャンすることが可能なスキャナとする場合は、上部筐体40における表示部310も表示/光センサ部300と同様の構成とすることが好ましい。このようなデータ表示/センサ装置の構成の一例を図8に示す。図8は、データ表示/センサ装置100の変形例であるデータ表示/センサ装置100bの要部構成を示すブロック図である。なお、図8では、図1に示した判定部11、算出部12、検出部14およびマーカー表示制御部18については、便宜上図示していない。
また、本項では、第1表示/光センサ部300Aが下部筐体41に備えられているものとし、第2表示/光センサ部300Bが上部筐体40に備えられているものとする。第1表示/光センサ部300Aには、センサ内蔵液晶パネル301Aが備えられており、表示/センサ部300Bには、センサ内臓液晶パネル301Bが備えられている。
なお、本明細書等において、第1表示/光センサ部300Aと第2表示/光センサ部300Bとを区別しない場合は、単に表示/光センサ部300と表記し、センサ内臓液晶パネル301Aとセンサ内臓液晶パネル301Bとを区別しない場合は、単にセンサ内蔵液晶パネル301と表記する。
上部筐体40における第2表示/光センサ部300Bにおいて検出した検出画像と下部筐体41における第1表示/光センサ部300Aおいて検出した検出画像との位置合わせ方法の詳細について、図9を参照しつつ以下に説明する。図9は、第2表示/光センサ部300Bにおいて検出した検出画像を補正する補正方法を示すフローチャートである。
ここで、「W」は第2表示/光センサ部300Bにおいて検出した画像の水平方向の画素数であり、「H」は第2表示/光センサ部300Bにおいて検出した画像の垂直方向の画素数である。以下に、第2表示/光センサ部300Bにおいて検出した検出画像と第1表示/光センサ部300Aにおいて検出した検出画像とを位置合わせする位置合わせ方法について説明する。
まず、補正部13は、y1の値を初期化し(ステップS20)、続いてx1の値を初期化する(ステップS21)。すなわち、x1=0、y1=0に設定する。次に、補正部13は、上記式(2)を用いて、第2表示/光センサ部300Bにおいて検出した画像における座標(x1、y1)から座標(x2、y2)を算出する(ステップS22)。続いて、補正部13は、算出したx2およびy2が0≦x2≦W、かつ、0≦y2≦Hを満たしているかを判定する(ステップS23)。
算出したx2およびy2が0≦x2≦W、かつ、0≦y2≦Hを満たしている場合(ステップS23においてYES)、補正部13は、座標(x2、y2)の画素の輝度情報を、座標(x1、y1)の画素の輝度情報と同一に設定する(ステップS24)。一方、算出したx2およびy2が0≦x2≦W、かつ、0≦y2≦Hを満たしていない場合(ステップS23においてNO)、補正部13は、座標(x2、y2)の画素の輝度情報を背景部分の輝度情報と同一に設定する(ステップS25)。
次に、補正部13は、x1の値に「1」を加算する(ステップS26)。そして、「1」を加算したx1の値が、水平方向の画素数Wの値と一致するか否かを判定する(ステップS27)。x1の値がWの値と一致しない場合(ステップS27においてNO)、補正部13は、ステップS22からの処理を再度実行する。
一方、x1の値がWの値と一致する場合(ステップS27においてYES)、補正部13は、y1の値に「1」を加算する(ステップS28)。そして、「1」を加算したy1の値が垂直方向の画素数Hの値と一致するか否かを判定する(ステップS29)。
y1の値がHの値と一致しない場合(ステップS29においてNO)、補正部13は、ステップS21からの処理を再度実行する。これを繰り返すことにより、補正部13は、第2表示/光センサ部300Bにおいて検出した画像の補正画像データを生成する。一方、y1の値がHの値と一致する場合(ステップS29においてYES)、変換部15は、生成した補正画像データにより示される補正画像が上下反転して表示されるように、各画素の位置座標を変換する(ステップS30)。
なお、上述した処理により補正された画像は、上部筐体40における第2表示/光センサ部300Bに表示されるようにしてもよいし、下部筐体41における第1表示/光センサ部300Aに表示されるようにしてもよい。
(位置合わせ処理の詳細)
次に、上部筐体40における第2表示/光センサ部300Bおいて検出した検出画像を補正する補正方法の具体例について、図10(a)〜(g)を参照しつつ以下に説明する。図10(a)〜(g)は、第2表示/光センサ部300Bにおいて検出した検出画像を補正する補正方法の具体例を示す図であり、(a)は両面に印字されている原稿を下部筐体41上に載置した図であり、(b)は第2表示/光センサ部300Bにおいて検出した検出画像であり、(c)は第1表示/光センサ部300Aにおいて検出した検出画像であり、(d)は第2表示/光センサ部300Bにおいて検出した検出画像を補正する状態を示す図であり、(e)は第2表示/光センサ部300Bにおいて検出した検出画像を補正した補正画像であり、(f)は補正画像を上下反転させた画像であり、(g)は第1表示/光センサ部300Aにおいて検出した検出画像を左右反転させた画像である。
なお、本項では、図10(a)〜(g)に示すように、第2表示/光センサ部300Bにおいて検出される側に「R」が印字されており、第1表示/光センサ部300Aにおいて検出される側に「Q」が印字されている原稿を読取る場合を例に挙げて説明する。
まず、図10(a)に示すように、下部筐体41上に両面に文字の印字された原稿を載置する。続いて、第2表示/光センサ部300Bは、図10(a)に示す文字「R」を検出する。このとき、データ表示/センサ装置100は、検出した画像の水平方向の画素数「W」および垂直方向の画素数「H」の値も併せて取得する。第2表示/光センサ部300Bに検出された文字「R」の画像は、図10(b)に示すように、図10(a)に示す文字「R」の画像と鏡像関係となり、かつ、第1表示/光センサ部300Aと第2表示/光センサ部300Bとの相対位置のずれに起因するずれが生じている。
また、第2表示/光センサ部300Bにおける文字「R」の画像の検出処理と同時に、第1表示/光センサ部300Aも文字「Q」の画像を検出する。第1表示/光センサ部300Aにより検出された文字「Q」は、図10(c)に示すように鏡文字の状態となっている。
次に、図10(d)に示すように、補正部13は、予め算出してあるずれ量に基づいてずれを補正し、第1表示/光センサ部300Aと第2表示/光センサ部300Bとの相対位置のずれに起因する画像のずれを修正する。このとき、補正部13は、上記式(2)を用いて、図10(b)に示す画像のずれを補正する。図10(e)は、上記式(2)を用いて画素の位置座標を変換した文字「R」の画像を示している。
この状態では、第2表示/光センサ部300Bにおいて検出された文字「R」は鏡文字の状態であるため、変換部15は、図10(f)に示すように表示されるように、図10(e)に示した補正画像位置座標を変換する。また、同様に、変換部15は、図10(g)に示すように表示されるように、図10(c)に示す画像の位置座標を変換する。
以上説明したように、データ表示/センサ装置100を両面同時にスキャンすることが可能なスキャナに適用した場合、上述したずれ量の算出処理に基づいて算出したずれ量を応用することによって、下部筐体41における第1表示/光センサ部300Aに対する上部筐体40における第2表示/光センサ部300Bの相対位置のずれに起因する位置ずれを補正することができる。これにより、第1表示/光センサ部300Aに対して第2表示/光センサ部300Bの相対位置がずれている場合であっても、第1表示/光センサ部300Aにより検出された画像と第2表示/光センサ部300Bにより検出された画像との裏表がずれていない状態で画像を保存することができる。
なお、本項では、第1表示/光センサ部300Aに対する第2表示/光センサ部300Bの相対位置のずれを修正する場合を例に挙げているが、逆もまた然りである。
また、スキャンは、データ表示/センサ装置100を折り畳むと同時に実行するようにしてもよいし、ユーザがデータ表示/センサ装置100に備えられたスイッチを押下することによって実行するようにすればよい。なお、スキャンを実行するスイッチは、ハードウェアスイッチに限定されるものではなく、ソフトウェアスイッチであってもよい。
(検査の他の例)
以上のように、データ表示/センサ装置100およびデータ表示/センサ装置100bによれば、表示部310に対する表示/光センサ部300のずれを検出し、このずれを補正することができ、また、表示部310および表示/光センサ部300の輝点欠陥、黒点欠陥を検出することもできる。
しかしながら、データ表示/センサ装置100およびデータ表示/センサ装置100bで検出可能な欠陥は、上記の例に限られない。すなわち、データ表示/センサ装置100およびデータ表示/センサ装置100bでは、表示/光センサ部300で表示部310をスキャンした検出画像に基づいて検出可能な欠陥であれば、任意の欠陥の検出を行うことが可能である。
例えば、表示部310に線欠陥を検出するための検査用画像を表示することにより、表示部310に線欠陥が発生しているか否かを判定することもできる。また、例えば表示部310に検査用画像として動画像を表示することにより、動画像の表示性能の判定を行うことも可能である。さらに、例えば検査用画像をスキャンした検出画像の明度や色調が正常であるか否かの判定を行うことも可能である。
また、上述の例では、検査者がデータ表示/センサ装置100の筐体の開閉等を行う例を示したが、検査者が行う処理の一部または全部を検査装置が実行する構成とすることも可能である。例えば、データ表示/センサ装置100の筐体を折り畳み、検査画像のスキャンが終了した後、同筐体を開く動作を検査装置に実行させることにより、検査者の行う処理を減らすことができるので、検査時間および人件費を削減することも可能になる。
さらに、データ表示/センサ装置100と検査装置とを通信可能に構成し、検出部14が欠陥の検出の有無を検査装置に伝達するようにすることにより、検査装置は、検出部14が欠陥を検出したデータ表示/センサ装置100のみを検査者の目視検査に供することができる。これにより、検査者が目視検査を行うデータ表示/センサ装置100の数を必要最小限に抑えることができるので、検査時間および人件費を削減することができる。
(センサ内蔵液晶パネルの概要)
ここで、本発明に係るデータ表示/センサ装置100の備えるセンサ内蔵液晶パネル301の概要について説明する。
上記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
図11を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図11は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
次に、図12(a)および図12(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
図12(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
また、図12(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図12(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、上記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
(データ表示/センサ装置の要部構成)
次に、図13を参照しながら、上記データ表示/センサ装置100の要部構成について説明する。図13は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
なお、図1では、主制御部800に含まれる各ブロックについて詳細に説明したが、本項では、主制御部800に含まれる各ブロック以外の構成について詳細に説明する。
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
なお、図1における画像表示制御部16、補正画像表示制御部17、マーカー表示制御部18はいずれも、表示制御部601に含まれる機能ブロックである。すなわち、上述したデータ表示/センサ装置100の動作では、主制御部800と表示/光センサ部300との間に位置するデータ処理部700の動作については説明を省略している。
すなわち、正確には、データの表示および対象物のスキャンを行うにあたり、主制御部800の各部がデータ処理部700に対してコマンドを送信し、データ処理部700がコ万とに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から全体画像データ、部分画像データ(検出画像)、および座標データ(検出画像における位置座標)を取得する。
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
なお、上記スイッチの例としては、筐体のヒンジ部分に設けられ、筐体の開閉状態を検出するヒンジ部スイッチ904、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
(コマンドの詳細)
次に、図14および図15を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図14は、コマンドのフレーム構造の一例を模式的に示す図である。また、図15は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
図14に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図15に示す値が指定可能である。
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、上記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記代表座標とは、例えば、上記部分画像データの中心の座標、上記部分画像データの重心の座標などが挙げられる。
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、上記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「スキャン解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、上記コマンドの「スキャン解像度」フィールドの値は“低”を指定しておけばよい。
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「スキャン解像度」フィールドには“高”を指定することが望ましい。
(全体画像データ/部分画像データ/座標データ)
次に、図16を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図16(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図16(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
図16(b)に示す画像データでは、図16(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図16(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
なお、領域APで示される画像データが、“全体画像データ”である。
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
(主制御部800の動作例)
次に、主制御部800の動作例について、主制御部800からデータ処理部700に送信されるコマンドに触れながら説明する。なお、本項では、データ表示/センサ装置100が2つの表示/光センサ部を備えており、上画面(第2表示/光センサ部300B)において検査用画像を表示し、下画面(第1表示/光センサ部300A)において検査用画像を検出する場合を例に挙げて説明する。
まず、判定部11は、検査用画像として予め設定されている表示データをデータ処理部700に送信する。このとき、判定部11は、「表示パネル」フィールドの値として上画面(“010”)を指定したコマンドを、データ処理部700に送信する。
次に、上画面に表示されている検査用画像を下画面において検出する検出処理を行うために、判定部11は、「データ取得タイミング」フィールドの値として、“イベント”または“オール”を指定し、「データ種別」フィールドの値として、“座標”(“001”)または“座標”および“部分画像”の両方(“011”)を指定したコマンドを、データ処理部700に送信する。単に、第2表示/光センサ部300Bに対する第1表示/光センサ部300Aの相対位置のずれを検出したい場合には、“座標”を指定したコマンドを送信すればよく、検出した検出画像をずれ量に基づいて補正する場合には、“座標”および“部分画像”を指定したコマンドを送信すればよい。
コマンドを上述したように設定することにより、下画面(第1の表示/光センサ部300A)におけるセンサ内蔵液晶パネル301の光センサ回路32が、検査用画像に表示されている検査マークの影像および反射像の少なくともいずれかを検知するので、その結果、データ処理部700がセンサ制御部602から受信する画像データに変化が生じる。
したがって、データ処理部700は、上述したコマンドの応答として、変化が生じた部分の座標データ(検出画像の位置座標)、または部分画像における座標データを含む部分画像データ(検出画像)を判定部11に送信する。
そして、判定部11は、データ処理部700から、座標データ(中心点a1、b1、c1およびd1)または座標データを含む部分画像データを受信したとき、用いた検査用画像における検査マークの座標データを含む部分画像データを取得する。
また、予め算出したずれ量に基づいて、検出画像を補正する場合には、補正部13が「データ種別」フィールドの値として、“部分画像”(“010”)を指定したコマンドを、データ処理部700に送信すればよい。そして、補正部13は、データ処理部700から受け取った部分画像データ(検出画像)を、ずれ量に基づいて補正して、補正画像データを生成。
なお、補正部13において生成される補正画像データに基づいて補正画像を表示する場合、補正画像データの位置座標を変換した変換部15が、「表示パネル」フィールドの値として上画面(“010”)を指定したコマンドおよび上記生成した補正画像データを、データ処理部700に送信する。これによって、補正画像を第2表示/光センサ部300Bに表示することができる。
(センサ内蔵液晶パネルの構成)
次に、図17を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図17は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称として用いる。
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
(プログラムおよび記録媒体)
最後に、データ表示/センサ装置100に含まれている回路制御部600、データ処理部700、および主制御部800は、ハードウェアロジックによって構成すればよい。または、次のように、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
すなわち、回路制御部600、データ処理部700および主制御部800は、各機能を実現するプログラムの命令を実行するMPUなどのCPU、このプログラムを格納したROM(Read Only Memory)、上記プログラムを実行可能な形式に展開するRAM(Random Access Memory)、および、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)を備えている。
そして、本発明の目的は、回路制御部600、データ処理部700および主制御部800のプログラムメモリに固定的に担持されている場合に限らず、上記プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、または、ソースプログラム)を記録した記録媒体をデータ表示/センサ装置100に供給し、データ表示/センサ装置100が上記記録媒体に記録されている上記プログラムコードを読み出して実行することによっても、達成可能である。
上記記録媒体は、特定の構造または種類のものに限定されない。すなわちこの記録媒体は、たとえば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などとすることができる。
また、回路制御部600、データ処理部700および主制御部800(またはデータ表示/センサ装置100)を通信ネットワークと接続可能に構成しても、本発明の目的を達成できる。この場合、上記のプログラムコードを、通信ネットワークを介して回路制御部600、データ処理部700および主制御部800に供給する。この通信ネットワークは回路制御部600、データ処理部700および主制御部800にプログラムコードを供給できるものであればよく、特定の種類または形態に限定されない。たとえばインターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等であればよい。
この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な任意の媒体であればよく、特定の構成または種類のものに限定されない。たとえばIEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
以上、本発明を実施形態に基づいて具体的に説明したが、本発明は、上述した実施形態に限定されるものではなく、請求項に示した範囲において種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明に係る画像表示/像検知装置は、携帯電話または携帯型ゲーム機などの携帯型情報端末に好適に利用することができる。また、画像表示/像検知装置に備えられた表示部がいずれも画像情報を取得可能な場合には、折り畳まれた筐体に挟まれた文書などを両面同時にスキャンすることが可能なスキャナとしても利用することができる。
本発明に係るデータ表示/センサ装置の要部構成を示すブロック図である。 本発明に係るデータ表示/センサ装置の外観を模式的に示す図である。 本発明に係るデータ表示/センサ装置における表示部同士の相対位置のずれを検出する検査処理を示すフローチャートである。 表示/光センサ部と表示部との相対位置のずれの詳細な検出方法を示した図であり、(a)は検査用画像を示し、(b)は検出画像を示し、(c)は検出画像における画像情報の算出を示す図であり、(d)は中心点の算出を示す図であり、(e)は検査用画像における画像情報の算出を示す図であり、(f)は検査用画像の画像情報と検出画像の画像情報との比較を示す図である。 表示/光センサ部において検出した検出画像の補正の具体例を示す図であり、(a)は表示部に表示された表示画像であり、(b)は表示/光センサ部において検出された検出画像であり、(c)は検出画像の補正を示す図であり、(d)は補正後の検出画像であり、(e)は補正後の検出画像を上下反転させた状態を示す図である。 本発明に係るデータ表示/センサ装置に備えられた表示部における輝点を検出する検出方法を示すフローチャートである。 表示/光センサ部のセンサ内蔵液晶パネルおよび表示部の液晶パネルにおける輝点の検出方法の具体例を示す図であり、(a)は検査用画像を示す図であり、(b)は検出画像を示す図であり、(c)は検出画像における位置の補正を示す図であり、(d)は検出画像における角度の補正を示す図であり、(e)は補正画像の向きの回転を示す図であり、(f)は液晶パネルにおけるマーカーの表示を示す図である。 本発明に係るデータ表示/センサ装置の変形例の要部構成を示すブロック図である。 上部筐体においてスキャンした画像の補正方法を示すフローチャートである。 第2表示/光センサ部において検出した検出画像を補正する補正方法の具体例を示す図であり、(a)は両面に印字されている原稿を下部筐体上に載置した図であり、(b)は第2表示/光センサ部において検出した検出画像であり、(c)は第1表示/光センサ部において検出した検出画像であり、(d)は第2表示/光センサ部において検出した検出画像を補正する状態を示す図であり、(e)は第2表示/光センサ部において検出した検出画像を補正した補正画像であり、(f)は補正画像を上下反転させた画像であり、(g)は第1表示/光センサ部において検出した検出画像を左右反転させた画像である。 センサ内蔵液晶パネルの断面を模式的に示す図である。 センサ内蔵液晶パネル上をタッチした位置を検出する検出方法を模式的に示す図であり、(a)は反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図であり、(b)は影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。 本発明に係るデータ表示/センサ装置の構成を示すブロック図である。 コマンドのフレーム構造の一例を模式的に示す図である。 コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。 センサ内蔵液晶パネルをスキャンした結果として得られる画像データを示す図であり、(a)は、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データであり、(b)は、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。 センサ内蔵液晶パネルの構成および周辺回路の構成を示すブロック図である。
符号の説明
11 判定部
12 算出部
13 補正部
14 検出部(特定手段)
15 変換部
16 画像表示制御部
17 補正画像表示制御部
18 マーカー表示制御部
40 上部筐体
41 下部筐体
42 連結部
100 データ表示/センサ装置(画像表示/像検知装置)
100b データ表示/センサ装置(画像表示/像検知装置)
300 表示/光センサ部(第1面状部材)
300A 第1表示/光センサ部
300B 第2表示/光センサ部
301 センサ内蔵液晶パネル
310 表示部(第2面状部材)
311 液晶パネル
600 回路制御部
700 データ処理部
800 主制御部
901 記憶部

Claims (10)

  1. 2つ折りに折り畳み可能な筐体を有し、上記筐体を折り畳んだ状態で対向する2つの内面のうち、一方の内面に、画像を表示する第1面状部材が配設され、他方の内面に、近傍の像を検知する第2面状部材が配設された画像表示/像検知装置であって、
    上記筐体を折り畳んだ状態で、上記第1面状部材に所定の検査用画像を表示させる表示制御手段と、
    上記筐体を折り畳んだ状態で上記第2面状部材により検知された上記第1面状部材の像が、上記検査用画像と一致するか否かを判定する判定手段と、
    を備えていることを特徴とする画像表示/像検知装置。
  2. 上記判定手段が、上記第2面状部材により検知された上記第1面状部材の像と、上記検査用画像とが一致していないと判定したときに、上記第2面状部材により検知された上記第1面状部材の像と、上記検査用画像とのずれ量を算出する算出手段と、
    上記第2面状部材により検知された像における高輝度領域の位置座標を、上記ずれ量に基づいて補正する補正手段と、
    をさらに備えていることを特徴とする請求項1に記載の画像表示/像検知装置。
  3. 上記第2面状部材により検知された像を、上記算出手段により算出されたずれ量に応じて補正したうえで、上記第1面状部材に表示する補正画像表示制御手段をさらに備えていることを特徴とする請求項2に記載の画像表示/像検知装置。
  4. 上記表示制御手段が上記第1面状部材に黒画像を表示させている状態で、上記第2面状部材により検知された上記第1面状部材の像に基づいて、上記第1面状部材において所定の閾値以上の輝度を有する領域の位置を特定する特定手段をさらに備えていることを特徴とする請求項1から3のいずれか1項に記載の画像表示/像検知装置。
  5. 上記表示制御手段が上記第1面状部材に白画像を表示させている状態で、上記第2面状部材により検知された上記第1面状部材の像に基づいて、上記第1面状部材において所定の閾値以下の輝度を有する領域の位置を特定する特定手段をさらに備えていることを特徴とする請求項1から3のいずれか1項に記載の画像表示/像検知装置。
  6. 上記特定手段により特定された領域を上記第1面状部材に表示するとき、当該領域が上記第1面状部材に表示される位置を示すマーカーを、上記第1面状部材に表示するマーカー表示制御手段をさらに備えていることを特徴とする請求項4または5に記載の画像表示/像検知装置。
  7. 上記第1面状部材が、画像を表示すると共に、近傍の像を検知することを特徴とする請求項1から6のいずれか1項に記載の画像表示/像検知装置。
  8. 2つ折りに折り畳み可能な筐体を有し、上記筐体を折り畳んだ状態で対向する2つの内面のうち、一方の内面に、画像を表示する第1面状部材が配設され、他方の内面に、近傍の像を検知する第2面状部材が配設された画像表示/像検知装置の検査方法であって、
    上記筐体を折り畳んだ状態で、上記第1面状部材に所定の検査用画像を表示させる表示制御ステップと、
    上記筐体を折り畳んだ状態で上記第2面状部材により検知された上記第1面状部材の像が、上記検査用画像と一致するか否かを判定する判定ステップと、
    含むことを特徴とする検査方法。
  9. 請求項1から7のいずれか1項に記載の画像表示/像検知装置が備えているコンピュータを動作させるプログラムであって、上記コンピュータを上記の各手段として機能させるためのプログラム。
  10. 請求項9に記載のプログラムを記録しているコンピュータ読み取り可能な記録媒体。
JP2008266495A 2008-10-15 2008-10-15 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法 Pending JP2010096909A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008266495A JP2010096909A (ja) 2008-10-15 2008-10-15 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008266495A JP2010096909A (ja) 2008-10-15 2008-10-15 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法

Publications (1)

Publication Number Publication Date
JP2010096909A true JP2010096909A (ja) 2010-04-30

Family

ID=42258646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008266495A Pending JP2010096909A (ja) 2008-10-15 2008-10-15 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法

Country Status (1)

Country Link
JP (1) JP2010096909A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012037599A (ja) * 2010-08-04 2012-02-23 Nec Casio Mobile Communications Ltd ディスプレイ装置、及びプログラム
CN110928022A (zh) * 2019-11-26 2020-03-27 武汉华星光电技术有限公司 液晶盒和液晶显示屏

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012037599A (ja) * 2010-08-04 2012-02-23 Nec Casio Mobile Communications Ltd ディスプレイ装置、及びプログラム
CN110928022A (zh) * 2019-11-26 2020-03-27 武汉华星光电技术有限公司 液晶盒和液晶显示屏

Similar Documents

Publication Publication Date Title
US8487902B2 (en) Image input device and image input method
CN101162416B (zh) 显示装置和信息处理设备
JP2009093497A (ja) 表示システムおよび指示位置の検出方法
JP2009116700A (ja) 表示システムおよび指示位置の検出方法
JP2010140300A (ja) 表示装置、制御方法、制御プログラムおよび記録媒体
JP2010109467A (ja) 画像表示/像検知装置
JP2010096909A (ja) 画像表示/像検知装置および当該画像表示/像検知装置に備えられた表示部の検査方法
US8698742B2 (en) Apparatus for displaying an image and sensing an object image, method for controlling the same, and computer-readable storage medium storing the program for controlling the same
JP2011048196A (ja) 表示装置
JP2010118018A (ja) 位置特定装置、位置特定プログラム及びコンピュータ読み取り可能な記録媒体、並びに位置特定方法
JP2010119064A (ja) 色検出装置、色検出プログラム及びコンピュータ読み取り可能な記録媒体、並びに色検出方法
CN115834846A (zh) 图像显示方法及投影仪
JP5623238B2 (ja) 電子機器、表示制御方法および表示制御プログラム
JP2010062938A (ja) 画像表示/像検知装置
JP5275754B2 (ja) 処理実行指示装置、電子機器、及び処理実行指示装置の制御方法
JP2010117687A (ja) 色検出/色出力装置、色検出/色出力プログラム及びコンピュータ読み取り可能な記録媒体、並びに色検出/色出力方法
JP2010117841A (ja) 像検知装置、入力位置の認識方法、およびプログラム
JP2010230909A (ja) 画像表示装置および画像表示制御方法
JP2010122444A (ja) 地図表示装置、地図表示装置の制御方法、地図表示装置制御プログラムおよびコンピュータ読み取り可能な記録媒体
JP5122405B2 (ja) キャリブレーション装置、キャリブレーション方法、センサ装置、表示装置、キャリブレーション処理プログラム、並びにキャリブレーション処理プログラムを記録した記録媒体
JP2010108446A (ja) 情報処理装置、情報処理装置の制御方法、および、情報処理プログラム
JP2010092272A (ja) 画像表示/像検知装置、補助画像表示方法、およびプログラム
JP2010140410A (ja) 携帯装置、および携帯装置の制御方法
JP5171572B2 (ja) 画像表示装置、画像表示装置の制御方法、プログラム、および記録媒体
JP2011164076A (ja) 位置検出装置および位置検出方法