JP6065640B2 - コンピュータプログラムおよび制御装置 - Google Patents

コンピュータプログラムおよび制御装置 Download PDF

Info

Publication number
JP6065640B2
JP6065640B2 JP2013032655A JP2013032655A JP6065640B2 JP 6065640 B2 JP6065640 B2 JP 6065640B2 JP 2013032655 A JP2013032655 A JP 2013032655A JP 2013032655 A JP2013032655 A JP 2013032655A JP 6065640 B2 JP6065640 B2 JP 6065640B2
Authority
JP
Japan
Prior art keywords
display
captured image
display state
image data
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013032655A
Other languages
English (en)
Other versions
JP2014165553A (ja
Inventor
竜司 山田
竜司 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2013032655A priority Critical patent/JP6065640B2/ja
Priority to EP14155806.4A priority patent/EP2770435B1/en
Priority to US14/185,973 priority patent/US9432571B2/en
Publication of JP2014165553A publication Critical patent/JP2014165553A/ja
Application granted granted Critical
Publication of JP6065640B2 publication Critical patent/JP6065640B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03GELECTROGRAPHY; ELECTROPHOTOGRAPHY; MAGNETOGRAPHY
    • G03G15/00Apparatus for electrographic processes using a charge pattern
    • G03G15/50Machine control of apparatus for electrographic processes using a charge pattern, e.g. regulating differents parts of the machine, multimode copiers, microprocessor control
    • G03G15/5075Remote control machines, e.g. by a host
    • G03G15/5079Remote control machines, e.g. by a host for maintenance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3013Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is an embedded system, i.e. a combination of hardware and software dedicated to perform a certain function in mobile devices, printers, automotive or aircraft systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3055Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03GELECTROGRAPHY; ELECTROPHOTOGRAPHY; MAGNETOGRAPHY
    • G03G15/00Apparatus for electrographic processes using a charge pattern
    • G03G15/55Self-diagnostics; Malfunction or lifetime display
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03GELECTROGRAPHY; ELECTROPHOTOGRAPHY; MAGNETOGRAPHY
    • G03G2215/00Apparatus for electrophotographic processes
    • G03G2215/00025Machine control, e.g. regulating different parts of the machine
    • G03G2215/00109Remote control of apparatus, e.g. by a host
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/32Monitoring with visual or acoustical indication of the functioning of the machine
    • G06F11/324Display of status information
    • G06F11/328Computer systems status display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像画像を利用する技術に関し、特に、撮像画像を用いて製品に関する情報を利用者に提供する技術に関する。
製品に備えられた表示ランプの状態を、撮影した撮像画像を用いて検出する技術が知られている。例えば、特許文献1に開示された技術では、対象製品としてのサーバコンピュータのラックに取り付けられた監視装置は、監視カメラによって、サーバコンピュータに搭載された、異常を報知するための報知LEDの点灯状態を検出する。監視装置は、検出された点灯状態に応じた警告内容を示す情報を、管理コンピュータに送信する。
特開2005−242915号公報
しかしながら、上記技術では、警告内容を管理コンピュータに送信するため、表示ランプの表示状態に関する具体的な情報を撮像端末にてユーザに認識させることができなかった。
本発明の目的は、製品に備えられた表示ランプの表示状態が示す製品の状態に関する情報を、撮像端末にてユーザに認識させることである。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の適用例として実現することが可能である。
[適用例1]撮像部を含む撮像端末のためのコンピュータプログラムであって、前記撮像部による撮像の対象である対象製品上の特定領域を前記撮像部を用いて撮像することによって生成される撮像画像データを取得する画像データ取得機能であって、前記特定領域は、前記対象製品の状態を示す1個以上の表示ランプを含む、前記画像データ取得機能と、前記撮像画像データを解析することによって、前記撮像画像データによって表される撮像画像内の前記表示ランプの表示状態を特定する特定機能と、特定された前記表示ランプの表示状態に応じて、関係情報を識別するための識別情報を取得する識別情報取得機能であって、前記関係情報は、特定された前記表示ランプの表示状態に対応する前記対象製品の状態に関する情報である、前記識別情報取得機能と、取得された前記識別情報に基づいて前記関係情報を取得する関係情報取得機能と、取得された前記関係情報を前記撮像端末にて出力する出力制御機能と、を前記撮像端末に搭載されたコンピュータに実現させる、コンピュータプログラム。
上記構成によれば、表示ランプを含む特定領域を撮像することによって生成された撮像画像データを解析することによって、撮像画像内の表示ランプの表示状態に応じた関係情報を撮像端末にて出力することができる。この結果、撮像端末にて、製品の状態に関する関係情報を利用者に認識させることができる。
[適用例2]適用例1に記載のコンピュータプログラムであって、前記関係情報取得機能は、ネットワークを介して接続されるサーバから、前記関係情報を取得し、前記サーバ内の記憶部は、第1の格納領域と、第2の格納領域と、を含み、前記関係情報取得機能は、
第1の識別情報に基づいて識別される前記第1の格納領域から、第1の関係情報を取得し、第2の識別情報に基づいて識別される前記第2の格納領域から、第2の関係情報を取得する、コンピュータプログラム。
この構成によれば、ネットワークを介して接続されるサーバから、関係情報を取得するので、撮像端末側に関係情報を保持する必要がない。この結果、撮像端末のリソースを節約できる。
[適用例3]適用例2に記載のコンピュータプログラムであって、前記識別情報取得機能は、前記撮像端末内の記憶部から、前記識別情報を取得するコンピュータプログラム。
この構成によれば、識別情報を撮像端末内の記憶部から取得するので、識別情報をサーバから取得する場合と比較して、サーバとの通信量を低減することができる。
[適用例4]適用例2に記載のコンピュータプログラムであって、前記識別情報取得機能は、特定された前記表示ランプの表示状態に対応する状態情報を前記サーバに送信する送信機能を備え、前記識別情報取得機能は、前記サーバから、前記状態情報に対応する前記識別情報を取得する、コンピュータプログラム。
この構成によれば、サーバから識別情報を取得するので、サーバ側で識別情報が更新された場合でも、適切な識別情報を取得することができる。
[適用例5]適用例1ないし適用例4のいずれかに記載のコンピュータプログラムであって、さらに、前記対象製品の種類を識別するための製品情報を取得する製品情報取得機能を前記撮像端末に搭載されたコンピュータに実現させ、前記識別情報取得機能は、特定された前記表示ランプの表示状態と、前記製品情報と、に応じて、前記関係情報を識別するための前記識別情報を取得する、コンピュータプログラム。
この構成によれば、対象製品の種類と、対象製品の状態とに、応じて、適切な関係情報を利用者に提供することができる。
[適用例6]適用例1ないし適用例5のいずれかに記載のコンピュータプログラムであって、さらに、前記撮像画像データを解析することによって特定された前記表示ランプの少なくとも一部の表示状態の修正を利用者から受け付ける受付機能を前記撮像端末に搭載されたコンピュータに実現させ、前記特定機能は、前記表示状態の修正が利用者から受け付けられた場合には、利用者による修正結果に従って、前記表示ランプの表示状態を特定する、コンピュータプログラム。
この構成によれば、撮像画像データの解析結果に加えて、利用者から受け付けられた表示状態の修正結果にに従って、精度良く表示ランプの表示状態を特定できる。
[適用例7]適用例1ないし適用例6のいずれかに記載のコンピュータプログラムであって、前記画像データ取得機能は、第1の撮像画像データと、前記第1の撮像画像データが撮像されてから所定時間後に撮像される第2の撮像画像データと、を含む複数個の前記撮像画像データを取得し、前記特定機能は、複数個の前記撮像画像データを解析することによって、点滅状態を含む前記表示ランプの表示状態を特定する、コンピュータプログラム。
この構成によれば、第1の撮像画像データと第2の撮像画像データを含む複数個の撮像画像データを解析することによって、点滅状態を含む表示ランプの表示状態を特定することができる。この結果、点滅状態を含む表示ランプの表示状態を適切に特定することができる。
[適用例8]適用例7に記載のコンピュータプログラムであって、前記対象製品が、第1種の製品である場合には、前記画像データ取得機能は、前記第1の撮像画像データが撮像されてから第1の所定時間後に撮像される前記第2の撮像画像データを取得し、前記対象製品が、第2種の製品である場合には、前記画像データ取得機能は、前記第1の撮像画像データが撮像されてから第2の所定時間後に撮像される前記第2の撮像画像データを取得する、コンピュータプログラム。
この構成によれば、対象製品の種類ごとに異なる所定時間に従って撮像される第2の撮像画像データを取得するので、対象製品の種類に応じて、精度良く表示ランプの表示状態を特定することができる。
[適用例9]適用例7または適用例8に記載のコンピュータプログラムであって、前記対象製品が、第1種の製品である場合には、前記画像データ取得機能は、N個(Nは、1以上の整数)の前記撮像画像データを取得し、前記特定機能は、N個の前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定し、前記対象製品が、第2種の製品である場合には、前記画像データ取得機能は、M個(Mは、N<Mの整数)の前記撮像画像データを取得し、前記特定機能は、M個の前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定する、コンピュータプログラム。
この構成によれば、対象製品の種類によって適切な数の撮像画像データを解析して、表示ランプの表示状態を特定するので、対象製品の種類に応じて、精度良く表示ランプの表示状態を特定することができる。
[適用例10]適用例1ないし適用例9のいずれかに記載のコンピュータプログラムであって、さらに、前記対象製品の種類ごとに異なる前記表示ランプに関連する特徴を示す特徴情報を取得する特徴情報取得機能を前記撮像端末に搭載されたコンピュータに実現させ、前記特定機能は、前記特徴情報を用いて、前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定する、コンピュータプログラム。
この構成によれば、表示ランプに関連する特徴に応じて、表示ランプの表示状態を精度良く特定することができる。
[適用例11]適用例10に記載のコンピュータプログラムであって、前記特徴情報は、前記表示ランプを含む前記特定領域内の特徴点の位置を示す位置情報を含み、前記特定機能は、前記位置情報を用いて、前記撮像画像内の前記表示ランプの位置を補正する処理を含む解析処理を実行する、コンピュータプログラム。
この構成によれば、特定領域内の特徴点の位置に基づいて、撮像画像内の前記表示ランプの位置を補正するので、表示ランプの表示状態を精度良く特定することができる。
[適用例12]適用例1ないし適用例11のいずれかに記載のコンピュータプログラムであって、前記識別情報取得機能は、前記撮像画像内の前記表示ランプの表示状態が、前記対象製品が第1の状態であることを示す場合に、第1の関係情報を識別するための前記識別情報を取得し、前記撮像画像内の前記表示ランプの表示状態が、前記対象製品が第2の状態であることを示す場合に、第2の関係情報を識別するための前記識別情報を取得する、コンピュータプログラム。
この構成によれば、対象製品が第1の状態である場合と、第2の状態である場合に、それぞれ、異なる関係情報を識別するための識別情報が取得される。この結果、第1の状態と第2の状態に関する関係情報を利用者に適切に提供することができる。
なお、本発明は、種々の形態で実現することが可能であり、例えば、撮像部を備える撮像端末の制御方法、これらの端末の機能または方法を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した記録媒体、等の形態で実現することができる。
第1実施例における情報提供システムの構成を示すブロック図である。 プリンタ200の外観斜視図である。 プリンタ200の特定領域100の拡大図である。 URLテーブルDT1の一例を示す図である。 ランプ情報テーブルの一例を示す図である。 撮像情報テーブルDTCの一例を示す図である。 特徴点情報テーブルDTDの一例を示す図である。 情報提供処理のフローチャートである。 情報提供部300によって表示されるUI画像の一例を示す図である。 自動認識処理のフローチャートである。 撮像画像補正処理のフローチャートである。 撮像画像補正処理の第1の説明図である。 撮像画像補正処理の第2の説明図である。 表示状態特定処理のフローチャートである。 サポート情報の表示画像AI5の一例である。 変形例における表示ランプの表示状態と撮像条件について説明する図である。
A.第1実施例
A−1.システムの構成:
次に、本発明の実施の形態を実施例に基づき説明する。図1は、第1実施例における情報提供システムの構成を示すブロック図である。このシステムは、プリンタ200と、インターネット70に接続されたサーバ60と、携帯端末400と、を備えている。
プリンタ200は、CPU210と、ハードディスクドライブやフラッシュメモリなどの不揮発性記憶装置220と、RAMなどの揮発性記憶装置230と、レーザー方式のプリントエンジンである印刷実行部240と、後述する1個の操作ボタン30(図3)を含む操作部260と、後述する複数個の表示ランプ11〜15を含む表示部270と、パーソナルコンピュータ(図示省略)などの外部装置とデータ通信を行うためのインタフェースを含む通信部280と、を備えている。なお、本実施例の操作部260は、多数のボタンや、タッチパネルを備えていない。また、表示部270は、液晶ディスプレイなどの表示パネルを備えていない。各種の設定などの複雑な操作は、図示しないパーソナルコンピュータなどにインストールされたプリンタドライバを介して、実行される。
揮発性記憶装置230には、CPU210が処理を行う際に生成される種々の中間データを一時的に格納するバッファ領域231が設けられている。不揮発性記憶装置220は、プリンタ200を制御するためのコンピュータプログラム221を格納している。
コンピュータプログラム221は、例えば、プリンタ200の出荷時に予め不揮発性記憶装置220に格納されている。また、コンピュータプログラム221は、CD−ROMなどに記録された形態や、サーバからダウンロードされる形態で提供され得る。
CPU210は、コンピュータプログラム221を実行することにより、プリンタ200の全体を制御する。具体的には、CPU210は、装置制御部110と、UI制御部120として機能する。装置制御部110は、印刷実行部240を制御して、印刷処理などのプリンタ200の主たる機能を実現する。UI制御部120は、操作部260や表示部470などを用いたユーザインタフェースに関する制御、すなわち、操作部260を介した利用者からの操作の受け付けや、表示部270を介した利用者に対するプリンタ200に関連する情報の提供などを実行する。
図2は、プリンタ200の外観斜視図である。図3は、プリンタ200の特定領域100の拡大図である。図2に示すように、プリンタ200は、略直方体の筐体10を備えている。筐体10の底部には、用紙を収納する用紙トレイ18が、前方の側面から引き出し状に開閉可能に装着されている。また、筐体10の後方の側面には、開閉可能なカバー19が装着されている。カバー19は、例えば、用紙詰まりを解消する際や、トナーなどを交換する際に、開閉される。筐体10の上面10Aには、印刷原稿が排出される開口16が形成されるとともに、開口16から排出された印刷原稿が収容される排出トレイとして機能する上面部材17が組み付けられている。
さらに、筐体10の上面10Aにおける角付近の特定領域100には、図3に示すように、複数個の表示ランプ11〜15と、1個の操作ボタン30と、が配置されている。複数個の表示ランプは、図3のY方向に沿ったランプ配置ラインLLに沿って、略等間隔に配置されている。複数個の表示ランプ11〜15は、例えば、LEDで構成され、プリンタ200の複数の装置状態、例えば、正常状態(例えば、印刷ジョブの待ち受け状態、印刷中の状態)や、エラー状態(例えば、トナー切れの状態、用紙切れの状態)を、表示するために用いられる。
複数個の表示ランプ11〜15のそれぞれの近傍、具体的には、図3の右側には(+X方向)、対応する表示ランプに関する文字列21〜25が刻印されている。文字列21〜25は、視認性の観点から筐体10の上面10Aの色(例えば、白色)に対して、高いコントラストを有する色(例えば、黒色)に着色されている。例えば、表示ランプ11に対応する文字列21は、「Cover」であり、表示ランプ11が主としてカバー19に関する状態を表示するために用いられることを示している。
図3に示すように、上面10Aにおける、複数個の表示ランプ11〜15と、文字列21〜25と、操作ボタン30と、が配置された領域(以下、パネル領域とも呼ぶ)の右側には、上述した上面部材17が配置されている。この結果、パネル領域と、上面部材17と、の間には、見切り線DLが現れる。
サーバ60は、周知の計算機であり、図示しないサーバプログラムを実行することにより、携帯端末400や図示しないパーソナルコンピュータなどのクライアント計算機に対して、WEBサービスを提供する。WEBサービスは、利用者に対してサポート情報を提供するサービスであり、サーバ60の記憶部65には、プリンタ200の利用者をサポートするためのサポート情報群651がWEBページの形式で格納されている。サーバ60は、例えば、プリンタ200を製品として販売した販売者によって、運営されている。
携帯端末400は、例えば、プリンタ200の利用者が所有するスマートフォンなどの多機能携帯電話である。携帯端末400は、CPU410と、フラッシュメモリなどの不揮発性記憶装置420と、RAMなどを含みバッファ領域427などに用いられる揮発性記憶装置425と、無線IF部430と、電話IF部440と、スピーカやマイクを含み電話機能などを実現するための音声処理部450と、タッチパネルや操作キーなどを含む操作部460と、タッチパネルと重畳された液晶パネルなどを含む表示部470と、イメージセンサを用いて撮像を行うカメラ490と、を主に備えている。
無線IF部430は、アンテナを含み、例えば、図示しないアクセスポイントを介した無線通信(インフラストラクチャーモードに準拠する無線通信)を行う。無線IF部430は、後述するように、携帯端末400がサーバ60にアクセスするためなどに用いられる。
電話IF部440は、アンテナを含み、基地局(図示省略)との間で携帯電話通信の方式(例えば、W−CDMA)に準拠する無線通信を行う。電話IF部440は、例えば、電話や、基地局(図示省略)を介したインターネット70への接続などを実現する。無線IF部430と同様に、電話IF部440は、携帯端末400がサーバ60にアクセスするためなどに用いられる。
カメラ490は、CCDやCMOSなどの撮像素子を用いて、撮像対象物(被写体)を表す画像データを生成・取得することができる。
不揮発性記憶装置420には、制御プログラムPG1と、情報提供プログラムPG2と、ブラウザプログラムPG3と、URL(Uniform Resource Locator)が記述されたURLテーブルDT1と、プリンタ200に関する特徴情報が記述された特徴情報テーブルDT2と、が格納されている。
制御プログラムPG1は、OS(オペレーティングシステム)の機能や、電話機能、カメラ490の制御機能、携帯端末400の基本機能を実現するプログラムである。ブラウザプログラムPG3は、WEBページを閲覧するためのWEBブラウザとしての機能を実現するプログラムである。制御プログラムPG1およびブラウザプログラムPG3は、例えば、携帯端末400の製造者によって提供され、出荷時に予め格納されている。情報提供プログラムPG2は、プリンタ200に関する情報を利用者に提供する処理を、サーバ60と協働して、実現するプログラムである。情報提供プログラムPG2は、携帯端末400に新たな機能を追加するプログラム(「アプリ」とも呼ばれる。)であり、例えば、携帯端末400の製造者とは異なる提供者(例えば、プリンタ200の製造者)によって、所定のサーバからダウンロードする形態で、提供される。また、情報提供プログラムPG2は、例えば、携帯端末400の製造者によって提供され、出荷時に予め格納されていても良い。
図4は、URLテーブルDT1の一例を示す図である。URLテーブルDT1は、後述する情報提供処理の対象となる複数種類のプリンタ(プリンタ200を含む)のそれぞれに対応する複数のテーブルDT1a〜DT1cを含んでいる。例えば、複数のテーブルDT1a〜DT1cは、プリンタの状態(ステータス)と、プリンタの状態に対応する情報を取得するために用いられるURLとが、複数個の表示ランプの表示状態と対応付けて記録されている。例えば、プリンタの特定の機種(例えば、プリンタ200)に対応するテーブルDT1aには、複数個の表示ランプ11〜15の第1の表示状態に対して、プリンタの第1の状態「トナー残 少」(トナー残量が基準値よりも少なくなった状態)と、第1のURL「http://aa...」とが対応付けられている。第1の表示状態は、表示ランプ12が「黄色の点滅」であり、表示ランプ15が「緑の点灯」であり、他の表示ランプ11、13、14が「消灯」である表示状態である。また、テーブルDT1aには、複数個の表示ランプ11〜15の第2の表示状態に対して、プリンタの第2の状態「紙詰まり」(用紙が印刷実行部内の機構に詰まって印刷を実行できない状態)と、第2のURL「http://bb...」とが対応付けられている。第2表示状態は、表示ランプ11と表示ランプ14が「黄色の点滅」であり、表示ランプ15が「赤の点灯」であり、他の表示ランプ12、13が「消灯」である表示状態である。
URL(Uniform Resource Locator)は、対応するプリンタの状態(複数個の表示ランプの対応する表示状態と言うこともできる)に関係するサポート情報を含むWEBページのサーバ60内の位置を表す位置情報である。サポート情報は、例えば、エラー状態に関係する情報、具体的には、エラーの解決方法、エラーの解決に必要な消耗品(トナーや感光ドラム)に関する情報などを含む。なお、これらのサポート情報は、関係情報の例である。なお、プリンタの種類(機種)ごとにテーブルが用意されていることから解るように、プリンタの状態が同じであっても、機種が異なれば、対応するURLは異なる場合がある。例えば、機種によって、使用すべきトナーや感光ドラムの種類(品番)が異なる場合があり、エラーの解決方法も異なる場合があるからである。
特徴情報テーブルDT2(図1)は、配置情報テーブルDTA(図5(A))と、表示状態情報テーブルDTB(図5(B))と、撮像情報テーブルDTC(図6)と、特徴点情報テーブルDTD(図7)と、を含んでいる。
図5は、ランプ情報テーブルの一例を示す図である。図5(A)は、ランプの配置位置が記録された配置情報テーブルDTAを示している。配置情報テーブルDTAは、情報提供処理の対象となる複数種類のプリンタ(例えば、プリンタ200)のそれぞれに対応する複数のテーブルDTAa〜DTAcを含んでいる。例えば、プリンタの特定の機種に対応するテーブルDTAaには、複数個の表示ランプ11〜15(図3)のそれぞれの位置およびサイズを示す配置情報が記録されている。配置情報は、例えば、図3の特定領域100の所定位置を原点(0、0)とするX−Y座標系で表される。所定位置は、例えば、特定領域100内の文字の位置などの特徴点に基づいて相対的に決定されている。なお、このX−Y座標系は、後述する撮像画像SI(図12(A))内の各画素の位置を整数で表す座標系と同じ座標系である。各表示ランプの配置情報は、表示ランプの左上の角のX座標およびY座標(例えば、図5(A)のX11およびY11)と、幅(X軸方向の長さ、例えば、図5(A)のW11)と、高さ(Y軸方向の長さ、例えば、図5(A)のH11)と、を含んでいる。また、テーブルDTAaは、表示ランプの配置情報に加えて、閾値SthおよびVthを算出するための参照範囲を規定する配置情報を含んでいる。閾値SthおよびVthは、後述する表示状態特定処理(図14)において、表示ランプの表示状態(発光しているか否か、および、発光の色)を特定するために用いられる。この参照範囲は、例えば、図3の矩形範囲RAであり、プリンタ200の筐体10の表面部分であって、表示ランプ11〜15が配置されておらず、かつ、表示ランプ11〜15に比較的近い部分である。
なお、プリンタの種類(機種)ごとにテーブルが用意されていることから解るように、プリンタの種類によって、表示ランプの個数、各表示ランプの位置およびサイズは、異なる場合がある。例えば、表示ランプの個数は、5個(図3)に限られず、4個である機種や、3個である機種が存在する。ただし、本実施例では、複数個の表示ランプは、機種に拘わらずに、一本のランプ配置ライン(例えば、図3のラインLL)に沿って、配置されている。
図5(B)は、ランプの表示状態が記録された表示状態情報テーブルDTBを示している。表示状態情報テーブルDTBは、情報提供処理の対象となる複数種類のプリンタのそれぞれに対応する複数のテーブルDTBa〜DTBcを含んでいる。例えば、プリンタの特定の機種に対応するテーブルDTBaには、複数個の表示ランプ11〜15(図3)のそれぞれが取り得る表示状態が記録されている。
1個の表示ランプの表示状態は、表示ランプの発光時の色(発光色とも呼ぶ)の観点からは、「黄」「赤」「緑」「青」の4種類のうちのいずれかである。また、1個の表示ランプの表示状態は、発光の態様の観点からは、「消灯」、「点灯」、「点滅」の3種類のうちのいずれかである。「消灯」は、表示ランプが発光していない状態が維持される表示状態である。「点灯」は、表示ランプが発光している状態が維持される表示状態である。「点滅」は、表示ランプが発光している状態と、発光していない状態が、所定間隔で繰り返される表示状態である。これらの発光色と、発光の態様と、の組合わせによって、本実施例では、9種類(「消灯」1種類、「点灯」4種類(4色)、「点滅」4種類(4色))の表示状態がある。
「消灯」は、全ての表示ランプが取り得る表示状態であるので、図5(B)の表示状態情報テーブルDTBには、記録されていない。図5(B)の表示状態情報テーブルDTBにおいて、各発光色に対応して記述された丸印は、対応する発光色について「点灯」が取り得る表示状態であることを示し、各発光色に対応して記述された二重丸の印は、対応する発光色について「点灯」と「点滅」の両方が取り得る表示状態であることを示している。また、各発光色に対応して記述されたばつ印は、対応する発光色では、「点灯」も「点滅」もしないことを示している。図5(B)に示す用に、1個の表示ランプが、複数の発光色で「点灯」または「点滅」することもある(例えば、図5(B)の表示ランプ15)。なお、プリンタの種類(機種)ごとにテーブルが用意されていることから解るように、プリンタの種類によって、各表示ランプが取り得る表示状態は、異なる場合がある。
図6は、撮像情報テーブルDTCの一例を示す図である。撮像情報テーブルDTCには、情報提供処理の対象となる複数種類のプリンタのそれぞれについて、撮像情報として、撮像回数と撮像間隔とが記録されている。撮像回数および撮像間隔については、後述する自動認識処理(図10)にて説明する。
図7は、特徴点情報テーブルDTDの一例を示す図である。特徴点情報テーブルDTDは、情報提供処理の対象となる複数種類のプリンタのそれぞれに対応する複数のテーブルDTDa〜DTDcを含んでいる。例えば、プリンタの特定の機種に対応するテーブルDTDaには、特定領域100(図3)内の複数個の特徴点の位置を示す位置情報が記録されている(図7)。例えば、複数個の特徴点は、図7に示すように、上述した見切り線DL上に配置された3個の点P1〜P3(図3)を含んでいる。また、複数個の特徴点は、複数個の文字列21〜25(図3)のそれぞれに対応する文字領域S1〜S5を規定する点を含んでいる。具体的には、文字領域S1〜S5は、文字列21〜25にそれぞれ外接する矩形である。本実施例では、図7に示すように、矩形の文字領域S1〜S5を規定する情報として、文字領域の左上の頂点P6〜P10(図3)のX座標およびY座標(例えば、図7のX31およびY31)と、幅(X軸方向の長さ、例えば、図7のW31)と、高さ(Y軸方向の長さ、例えば、図7のH31)と、を含んでいる。また、複数個の特徴点は、略矩形の操作ボタン30の上辺の両端の点P4、P5(図3)を含んでいる。これらの特徴点は、後述する撮像画像補正処理(図11、図12)において、参照される点であるので、「参照点」とも呼ぶ。
なお、プリンタの種類(機種)ごとにテーブルが用意されていることから解るように、プリンタの種類によって、これらの参照点の位置は、異なっている。ただし、本実施例では、プリンタの種類に拘わらずに、ランプ配置ライン(例えば、図3のラインLL)と平行なデザイン上の特徴的な線(例えば、図3の見切り線DL)が存在する。このために、各機種のテーブルDTDa〜DTDcには、これらのデザイン上の特徴的な線上の3個の特徴点の位置情報が記録されている。
図1に戻って説明を続ける。図1のCPU410は、制御プログラムPG1を実行することによって、携帯端末400の基本機能を実現するメイン制御部55として機能し、ブラウザプログラムPG3を実行することによって、WEBブラウザ50として機能する。また、CPU410は、情報提供プログラムPG2を実行することによって、情報提供部300として機能する。
情報提供部300は、画像データ取得部310と、製品情報取得部320と、特徴情報取得部330と、特定部340と、受付部350と、識別情報取得部360と、ブラウザ制御部370と、を備えている。これらの各処理については、後述する。
A−3.携帯端末400の情報提供部300の処理:
図8は、情報提供処理のフローチャートである。この情報提供処理は、例えば、情報提供プログラムPG2が利用者によって起動されたときに、情報提供部300(図1)によって実行される。利用者は、例えば、複数個の表示ランプ11〜15が、プリンタ200が特定の状態であることを示す表示状態である場合に、当該プリンタ200の特定の状態に関係する情報を取得するために、情報提供プログラムPG2を起動する。より具体的には、例えば、利用者は、プリンタ200がトナー切れなどのエラー状態であるために、複数個の表示ランプ11〜15が当該エラー状態を示す表示状態となった場合に、当該エラー状態の解決方法を詳しく知るために、情報提供プログラムPG2を起動する。
ステップS10にて、情報提供部300(情報提供プログラムPG2)が起動されて、情報提供部300が動作可能な状態になると、製品情報取得部320は、機種選択画像AI1を表示部470に表示する(ステップS20)。
図9は、情報提供部300によって表示されるUI画像の一例を示す図である。図9(A)には、機種選択画像AI1の一例が示されている。この機種選択画像AI1は、情報提供部300が対応しているプリンタの機種を識別するための機種情報(例えば、型番、製品情報とも呼ぶ)の一覧MNと、複数個の機種情報にそれぞれ対応する複数個のラジオボタンRBと、を含んでいる。利用者は、1個のラジオボタンRBをONにしたうえで、決定ボタンBT1にタッチすることによって、プリンタの機種(対象機種)を選択する。
ステップS25では、製品情報取得部320は、利用者の選択に基づいて、対象機種を識別するための機種情報(例えば、型番、製品情報とも呼ぶ)を取得する。以下では、図1〜図3を参照して説明したプリンタ200が対象機種である場合を例に説明する。
ステップS30では、情報提供部300は、取得された機種情報によって識別される対象機種に応じたメイン画像AI2を、表示部470に表示する。図9(B)には、メイン画像AI2の一例が示されている。メイン画像AI2は、対象機種のプリンタ200の部分画像PIと、複数個の表示ランプ11〜15に対応する複数個のフィールドDF1〜DF5と、WEBブラウザの起動を受け付ける起動ボタンBT2と、撮像モードへの移行(すなわち、後述する自動認識処理への移行)を受け付ける撮像ボタンBT3と、機種選択ボタンBT4と、を含んでいる。機種選択ボタンBT4は、上述した機種選択画像AI1を表示して、機種選択を利用者から受け付ける機種選択モードへ移行するためのボタンであり、対象機種を変更する際に押下される。
部分画像PIは、例えば、上述した特定領域100(図3)のうち、複数個の表示ランプ11〜15が配置された部分を含む画像である。複数個のフィールドDF1〜DF5は、部分画像PIに表された複数個の表示ランプ11〜15に対応する位置、すなわち、複数個の表示ランプ11〜15の右側に、それぞれ配置されている。表示される部分画像の種類、および、表示されるフィールドの数は、対象機種によって、すなわち、ステップS25にて取得された機種情報によって、異なる。
利用者は、複数個のフィールドDF1〜DF5に、各表示ランプの表示状態を入力することができ、撮像ボタンBT3を押下して後述する自動認識処理に移行することもできる。また、利用者は、機種選択ボタンBT4を押下して、対象機種を変更することもできる。すなわち、これらの処理は利用者の選択に応じて実行される。ここでは、煩雑を避けるために、先ず、利用者の操作に応じて、自動認識処理が実行され、その後に、複数個のフィールドDF1〜DF5に対する利用者の入力(自動認識処理の結果の修正)が受け付けられるものとして全体の処理を説明する(図8)。
ステップS35では、利用者の操作に応じて、自動認識処理が実行される。自動認識処理は、プリンタ200の特定領域100を撮像することによって生成される1個または複数個の撮像画像データを解析することによって、撮像画像内の複数個の表示ランプ11〜15の表示状態を認識(特定)する処理である。図10は、自動認識処理のフローチャートである。
図10のステップS100では、画像データ取得部310は、上述した撮像情報テーブルDTC(図6)を参照して、対象機種の撮像回数と、撮像間隔と、を決定する。対象機種の複数個の表示ランプの中に、取り得る表示状態に「点滅」を含む表示ランプがない場合、すなわち、取り得る表示状態が「点灯」と「消灯」のいずれかである場合には、撮像回数は1回に設定され、撮像間隔は設定されない(例えば、図6の機種B)。対象機種の複数個の表示ランプの中に、取り得る表示状態に「点滅」を含む表示ランプがある場合には、撮像回数は、2回に設定され、撮像間隔は、点滅間隔と同じ間隔に設定される(例えば、図6の機種A)。
本実施例では、表示ランプの「点滅」の態様は1種類であり、発光している状態と、発光していない状態とが、一定の点滅間隔(例えば、1秒)で繰り返される態様である。このために、点滅間隔と等しい間隔で、2回に亘って表示ランプを撮像すると、表示ランプが「点滅」している場合には、特定の場合を除いて、一方の撮像画像には、発光した状態の表示ランプが含まれ、他方の撮像画像には、発光していない状態の表示ランプが含まれる。この結果、2つの撮像画像から、表示ランプが「点滅」していることが判定可能である。特定の場合とは、発光の開始の瞬間と終了の瞬間とに2回の撮像が行われる場合である。この場合には、両方の撮像画像に発光した状態の表示ランプが含まれたり、両方の撮像画像に発光していない状態の表示ランプが含まれ得る。ただし、このようなケースが起こる確率は比較的低い。
ステップS150では、画像データ取得部310は、カメラ490を起動し、カメラ490を撮像可能な状態にするとともに、表示部470に撮像用画像AI3を表示する。図9(C)には、撮像用画像AI3の一例が図示されている。撮像用画像AI3には、ガイド画像として、矩形状の枠画像BXと、図9(C)の上下方向に延びるライン画像LNと、を含んでいる。撮像用画像AI3の他の領域NAには、カメラ490が捉えている被写体(例えば、表示ランプ11〜15)の画像が表示される。枠画像BXおよびライン画像LNは、カメラ490が捉えている撮像対象(例えば、表示ランプ11〜15を含む特定領域100)と重畳されて表示部470に表示される。枠画像BXおよびライン画像LNは、プリンタ200の特定領域100(図3)を利用者が撮像する際に、被写体としての複数個の表示ランプ11〜15が位置すべき位置を、利用者にガイドするための画像である。利用者は、複数個の表示ランプ11〜15の全体が枠画像BX内に位置し、かつ、複数個の表示ランプ11〜15のランプ配置ラインLL(図3)と、ライン画像LNとが一致するように、特定領域100の撮像を行う。なお、図9(C)に破線で示す複数個の表示ランプ11〜15は、撮像時における複数個の表示ランプ11〜15の理想的な位置(目標位置とも呼ぶ)を示している。
ステップS200では、画像データ取得部310は、特定領域100を撮像して得られる撮像画像データを生成・取得する。例えば、画像データ取得部310は、利用者の撮像操作(表示部470内の任意の位置の押下など)を契機に、ステップS100で決定された撮像回数分の撮像画像データを、決定された撮像間隔で生成する。生成される撮像画像データは、R、G、Bの各成分値を画素値とするビットマップデータである。
ステップS300では、情報提供部300は、後述する撮像画像補正処理(S400)および表示状態特定処理(S500)の処理対象とするために、生成された1個以上の撮像画像データの中から1個の撮像画像データを選択する。ステップS400では、情報提供部300は、選択された撮像画像データに対して、撮像画像補正処理を実行する。撮像画像補正処理は、特徴点情報テーブルDTD(図7)に記録された特徴点の位置情報を用いて、撮像画像内の被写体(具体的には、表示ランプ11〜15)の位置を補正する処理である。図11は、撮像画像補正処理のフローチャートである。図12は、撮像画像補正処理の第1の説明図である。図13は、撮像画像補正処理の第2の説明図である。
図12(A)には、撮像画像補整処理前の撮像画像SI、すなわち、ステップS200にて生成された撮像画像データによって表される撮像画像SIの一例が示されている。図12(A)のセンターラインCLは、撮像画像SIのX方向の中央を通り、Y方向に延びる線であり、撮像用画像AI3のライン画像LNに対応する仮想的な線である。撮像画像SI内の表示ランプ11〜15の実際の位置は、上述した目標位置および目標サイズ(図9(C))とは異なる場合がある。例えば、図12(A)の撮像画像SIでは、複数個の表示ランプ11〜15のランプ配置ラインLLは、センターラインCLに対して傾いているので、複数個の表示ランプ11〜15の位置は、目標位置からずれている。また、図12(A)の撮像画像SI内の複数個の表示ランプ11〜15のサイズは、目標サイズより小さくなっているので、複数個の表示ランプ11〜15の位置は、目標位置からずれている。以下に説明する撮像画像補正処理によって、複数個の表示ランプ11〜15の位置は、目標位置に近づくように補正される。。
ステップS410では、特定部340は、撮像画像データに対して、エッジ抽出処理を実行して、エッジ画像EIを表すエッジ画像データを生成する。エッジ画像データは、撮像画像データに含まれる各画素値(RGB値)を輝度値Yに変換し、輝度値Yに対して公知のsobelフィルタを適用して得られる。なお、エッジ画像データの生成には、Sobelフィルタに限らず、Prewittフィルタ、Robertsフィルタなど種々のエッジ抽出フィルタが利用できる。
図12(B)には、エッジ画像データによって表されるエッジ画像EIの一例が示されている。エッジ画像EIには、文字列21〜25のエッジ21e〜25eと、見切り線DLのエッジDLeと、操作ボタン30の外縁のエッジ30eと、が比較的明確に現れる。一方、エッジ画像EIには、複数個の表示ランプ11〜15のエッジは、明確に現れない場合がある。例えば、表示ランプ11〜15のうちの点灯しているランプのエッジは、ランプの光によるフレア(ランプの光がランプの周辺に広がって写る現象)によって、明確に現れない場合がある。表示ランプ11〜15のうちの消灯しているランプの色は、文字列21〜25と比較すると、周囲(背景)の色とのコントラストが低いために、消灯しているランプのエッジは、明確に現れない場合がある。
ステップS420では、特定部340は、見切り線DLに対応するエッジ画像EI内のエッジDLe上に3個の特徴点Pe1〜Pe3(図12(B))の座標を算出する。具体的には、情報提供部300は、エッジ画像データを解析することによって、エッジ画像EI内の線状のエッジDLeを特定する。エッジDLeの特定は、周知の直線検出アルゴリズム(例えば、Hough変換など)を用いて実行される。そして、情報提供部300は、検出されたエッジDLeの上端部と中央部と下端部にそれぞれ1個ずつ、計3個の特徴点Pe1〜Pe3を設定し、これらの座標を算出する。
ステップS430では、特定部340は、エッジ画像EI上で算出された3個の特徴点Pe1〜Pe3と、対応する3個の参照点とに基づいて、回転補正量θを算出する。3個の参照点は、特徴点情報テーブルDTDのうちの対象機種のテーブル(図7)に記録された対応する3個の特徴点(参照点)P1〜P3(図3)である。具体的には、情報提供部300は、3個の特徴点Pe1〜Pe3を結ぶ直線と、3個の参照点P1〜P3を結ぶ直線と、の間の角度を、回転補正量θとして算出する。
ステップS440では、特定部340は、ステップS430にて算出された回転補正量θに従って、エッジ画像EIを回転させる回転補正を実行する。図12(C)には、回転補正後のエッジ画像EI2が示されている。図12(C)のエッジ画像EI2は、3個のPe1〜Pe3が位置するエッジDLeがY方向と平行になるように、補正されていることが解る。この結果、エッジ画像EI2内のランプ配置ラインLLは、センターラインCLと平行になる。なお、図12(C)〜(D)、図13(A)において、太線の矩形の枠FLは、補正前の撮像画像SIおよびエッジ画像EIの外縁であり、補正による被写体の移動の理解のために、図示されている。太線の矩形の枠FLの左上の角が、画像処理に用いられるX−Y座標系の原点である。
ステップS450では、特定部340は、回転補正後のエッジ画像EI2において、文字領域の2個の特徴点Pe6、Pe11の座標を算出する。具体的には、特定部340は、エッジ画像EI2内の複数個の文字列21〜25に対応する複数個の文字領域Se1〜Se5を特定する。文字領域の特定は、周知の文字領域の検出アルゴリズムを用いることができる。例えば、文字領域には、エッジ量が基準値以上であるエッジ画素が密集して存在する。このため、特定部340は、例えば、エッジ画像EI2を所定サイズの複数個のブロックに分割して、エッジ画素の密度が基準値以上である複数個の文字ブロックを特定する。そして、特定部340は、互いに隣接する複数個の文字ブロックを1個の文字ブロック領域として特定する。特定部340は、特定された1個の文字ブロック領域内のエッジ画素群に外接する矩形によって規定される領域を1個の文字領域として特定する。特定部340は、特定された複数個の文字領域Se1〜Se5のうち、上端に位置する文字領域Se1の左上の頂点と、下端に位置する文字領域Se5の右下の頂点と、をそれぞれ、文字領域の2個の特徴点Pe6、Pe11として特定し、これらの特徴点の座標を算出する。
ステップS460では、特定部340は、文字領域の2個の特徴点Pe6、Pe11の間の距離Dsと、対応する2個の参照点P6、P7(図3)の間の距離Drとに基づいて、拡大縮小補正のための倍率FP(Dr/Ds)を算出する。対応する2個の参照点P6、P7の座標は、特徴点情報テーブルDTDのうちの対象機種のテーブル(図7)に記録された文字領域S1、S5(図3)を規定する情報に基づいて算出される。
ステップS470では、特定部340は、ステップS460にて算出された倍率FPに従って、エッジ画像EI2を拡大または縮小する拡大縮小補正を実行する。倍率FP>1である場合には、エッジ画像EI2は拡大され、倍率FP<1である場合には、エッジ画像EI2は縮小される。図12(D)には、拡大縮小補正後のエッジ画像EI3が示されている。図12(D)のエッジ画像EI3は、補正前の2個の特徴点Pe6とPe11との間の距離Dsが、対応する2個の参照点P6、P7の間の距離Drと等しくなるように補正される。この結果、エッジ画像EI3内の複数個の表示ランプ11〜15に対応する部分のサイズが、図9(C)に示す目標のサイズに近づくように、拡大されていることが解る。
ステップS480では、特定部340は、拡大縮小補正後のエッジ画像EI3内の複数個の特徴点と、対応する複数個の参照点と、に基づいて、シフト量(X方向のシフト量ΔXと、Y方向のシフト量ΔY)とを算出する。複数個の特徴点は、例えば、文字領域Se1〜Se5(図12(D))のそれぞれの左上の頂点と、操作ボタン30の2個の頂点Pe4,Pe5と、が用いられる。複数個の参照点は、特徴点情報テーブルDTDのうちの対象機種のテーブル(図7)に記録された対応する参照点である。具体的には、複数個の特徴点のそれぞれのX座標と、対応する参照点のX座標と、の差分値の平均値が、X方向のシフト量ΔXとして算出される。同様に、複数個の特徴点のそれぞれのY座標と、対応する参照点のY座標と、の差分値の平均値が、Y方向のシフト量ΔYとして算出される。
ステップS490では、特定部340は、算出されたシフト量だけ、エッジ画像EI3を平行移動させるシフト補正を実行する。図13(A)には、シフト補正後のエッジ画像EI4が示されている。図13(A)には、図9(C)の枠画像BXが参考のために破線で示されている。図13(A)のエッジ画像EI4は、複数個の表示ランプ11〜15の位置が、図9(C)に示す目標位置とほぼ等しくなっていることが解る。すなわち、図13(A)のエッジ画像EI4において、複数個の表示ランプ11〜15に対応する部分は、センターラインCLに沿って、適度な間隔で並んでいる。
図13(B)には、撮像画像SI(図12(A))に対して、上述したエッジ画像EIに対する補正(回転補正、拡大縮小補正、シフト補正)を実行した場合の、補正後の撮像画像SI2が示されている。補正前のエッジ画像EI内の画素の座標(X1、Y1)と、補正後のエッジ画像EI4内の画素の座標(X2、Y2)と、の対応関係は、補正前の撮像画像SI(図12(A))内の画素の座標(Xa、Ya)と、補正後の撮像画像SI2内の画素の座標(Xb、Yb)との対応関係と等しい。したがって、特定部340は、補正後の撮像画像SI2内の任意の座標(Xa、Xb)に対応する画素の値(RGBの各成分値)を特定することができる。特定部340は、実際に補正後の撮像画像SI2を表す画像データを生成しても良いが、補正後の撮像画像SI2を表す画像データを生成しなくても、後述する表示状態特定処理(図10のステップS500、図14)において用いられるランプ範囲内の画素の値を特定することができれば良い。
撮像画像補正処理が終了すると、図10のステップS500では、特定部340は、表示状態特定処理を実行する。表示状態特定処理は、処理対象の撮像画像データによって表される撮像画像SI内の複数個の表示ランプ11〜15のそれぞれの表示状態、具体的には、発光の色(黄、赤、青、緑)を特定する処理である。図14は、表示状態特定処理のフローチャートである。
ステップS510では、特定部340は、配置情報テーブルDTAのうちの対象機種に対応するテーブルから、閾値算出用の参照範囲を示す参照範囲情報(図5(A))を取得する。
ステップS515では、特定部340は、補正後の撮像画像SI2において、参照範囲情報によって規定される参照範囲内の複数個の画素の値(RGB値)の平均値を、RGBの3個の成分のそれぞれについて算出する。
ステップS520では、特定部340は、RGBの3個の成分の平均値(Rave、Gave、Bave)に基づいて、明度の閾値Vthと、彩度の閾値Sthを算出する。具体的には、特定部340は、RGB色空間の表色値をHSV色空間の表色値に変換する変換式(1)を用いて、3個の成分の平均値(Rave、Gave、Bave)によって表される色の明度と彩度を、明度の閾値Vthと彩度の閾値Sthとして、算出する。なお、変換式(1)において、MAXは、R、G、Bの3個の成分値のうちの最大値を表し、MINは、R、G、Bの3個の成分値のうちの最小値を表す。
Figure 0006065640
ステップS525では、特定部340は、処理対象のランプを選択する。図13(B)の撮像画像SI2の例では、5個の表示ランプ11〜15の中から1個の表示ランプが処理対象として選択される。
ステップS530では、特定部340は、配置情報テーブルDTAのうちの対象機種に対応するテーブルから、処理対象の表示ランプの位置およびサイズを示す配置情報(図5(A))を取得する。
ステップS535では、特定部340は、補正後の撮像画像SI2において、配置情報によって規定される処理対象の表示ランプが配置された範囲(ランプ範囲とも呼ぶ)内の複数個の画素の値(RGB値)の平均値を、RGBの3個の成分のそれぞれについて算出する。
ステップS540では、特定部340は、3個の成分の平均値(Rave、Gave、Bave)に基づいて、処理対象の表示ランプの色の明度Vaと、彩度Saと、色相Haと、を算出する。具体的には、特定部340は、上述した変換式(1)を用いて、3個の成分の平均値(Rave、Gave、Bave)によって表される色の明度Vaと、彩度Saと、色相Haと、を算出する。
ステップS545では、特定部340は、処理対象の表示ランプの彩度Saが彩度の閾値Sth以上であり、かつ、処理対象の表示ランプの明度Vaが明度の閾値Vth以上であるか否かを判断する。
彩度Saが閾値Sth未満である、あるいは、明度Vaが閾値Vth未満である場合には(ステップS545:NO)、特定部340は、処理対象の表示ランプは、発光していないと判定する(ステップS555)。一方、彩度Saが閾値Sth以上であり、かつ、明度Vaが閾値Vth以上である場合には(ステップS545:YES)、特定部340は、処理対象の表示ランプは、発光していると判断して、ステップS550を実行する。
ステップS550では、特定部340は、処理対象の表示ランプの色相Haに基づいて、処理対象の表示ランプの発光色を判定する。具体的には、図14に示すように、特定部340は、発光色ごとに規定された色相範囲を参照して発光色を判定する。色相Haが、50<Ha≦70の範囲内である場合には、発光色は黄色であると判定され、70<Ha≦200の範囲内である場合には、発光色は緑色であると判定される。また、色相Haが、200<Ha≦300の範囲内である場合には、発光色は青色であると判定され、300<Ha≦360または0<Ha≦50の範囲内である場合には、発光色は赤色であると判定される。
ステップS560では、特定部340は、対象機種の全ての表示ランプを処理したか否かを判断する。未処理の表示ランプがある場合には(ステップS560:NO)、特定部340は、ステップS525に戻って、未処理の表示ランプを処理対象として、上述したステップS530〜S555までの処理を繰り返す。全ての表示ランプを処理した場合には(ステップS560:YES)、特定部340は、表示状態特定処理を終了する。
表示状態特定処理が終了すると、図10のステップS600では、特定部340は、全ての撮像画像を処理したか否かを判断する。未処理の撮像画像がある場合には(ステップS600:NO)、特定部340は、ステップS300に戻って、未処理の撮像画像を処理対象として、上述したステップS300〜S500までの処理を繰り返す。全ての撮像画像を処理した場合には(ステップS600:YES)、特定部340は、ステップS700に処理を移行する。
ステップS700では、特定部340は、撮像画像を用いた特定結果に基づいて、複数個の表示ランプのそれぞれについて、最終的な表示状態を特定する。具体的には、撮像画像が1個である場合には、特定部340は、該1個の撮像画像を用いた特定結果を、そのまま最終的な特定結果に採用する。撮像画像が2個である場合には、特定部340は、2個の撮像画像を用いた2個の特定結果に基づいて、最終的な特定結果を決定する。例えば、図10内に表で示すように、対象の表示ランプについて、1番目の撮像画像(画像Aと呼ぶ)を用いた特定結果と、2番目の撮像画像(画像Bと呼ぶ)を用いた特定結果との両方が「発光」である場合には、対象の表示ランプの表示状態は、「点灯」であると特定される。また、画像Aを用いた特定結果と、画像Bを用いた特定結果との両方が「発光していない」である場合には、対象の表示ランプの表示状態は、「消灯」であると特定される。また、画像Aと画像Bのうちの一方の画像を用いた特定結果が「発光」であり、他方の画像を用いた特定結果が「発光していない」である場合には、対象の表示ランプの表示状態は、「点滅」であると特定される。全ての表示ランプの最終的な特定結果が決定されると、自動認識処理は終了される。
自動認識処理が終了すると、図8のステップS40では、情報提供部300は、自動認識処理によって特定された表示ランプの表示状態を表示部470に表示する。図9(D)には、自動認識処理後のメイン画像AI4の一例が示されている。図9(D)の例では、複数個の表示ランプ11〜15に対応する複数個のフィールドDF1〜DF5のそれぞれに、表示ランプの表示状態(特定結果)が表示されていることが解る。さらに、メイン画像AI4内の部分画像PI2では、表示ランプの画像(例えば、図9(D)の表示ランプ12、15の画像)が、表示ランプの表示状態(特定結果)に応じて更新されている。
ステップS45では、受付部350は、複数個のフィールドDF1〜DF5を介して、自動認識処理によって特定された表示ランプの表示状態の修正を受け付ける。利用者が複数個のフィールドDF1〜DF5のうち、修正対象の表示ランプに対応するフィールド(例えば、フィールドDF4)にタッチすると、図9(D)に示すように、受付部350は、プルダウンメニューPMを表示する。利用者は、プルダウンメニューPM内に表示された表示状態の一覧の中から、所望の表示状態を選択することによって、自動認識処理によって特定された表示ランプの表示状態を修正することができる。ここで、プルダウンメニューPMには、修正対象の表示ランプが取り得る表示状態が表示され、修正対象の表示ランプが取り得ない表示状態は表示されない。受付部350は、表示状態情報テーブルDTBのうちの対象機種のテーブル(図5(B))に記録された表示状態情報を参照することによって、プルダウンメニューPM内に表示すべき表示状態(例えば、図9(D)の例では、赤の点灯と、赤の点滅)を決定する。この結果、利用者は、円滑に所望の表示状態を選択することができる。なお、利用者による表示状態の修正は入力される場合と、入力されない場合がある。利用者による表示状態の修正が入力された場合には、利用者による修正後の表示状態が、自動認識処理によって特定された表示状態より優先される。すなわち、表示状態の修正が利用者から受け付けられた場合には、利用者による修正結果に従って、最終的な表示ランプの表示状態が特定される。
情報表示指示を受け付けられる(ステップS50)と、すなわち、メイン画像AI4において、利用者によって起動ボタンBT2が押下されると、識別情報取得部360は、特定された表示ランプの表示状態と、対象機種と、に基づいて、識別情報としてのURLを取得する(ステップS55)。具体的には、識別情報取得部360は、URLテーブルDT1のうちの対象機種のテーブル(図4)を参照して、特定された表示ランプの表示状態に対応付けられたURLを取得する。例えば、図4のテーブルDT1aが参照される場合であって、図3に示す複数個の表示ランプ11〜15の特定された表示状態が、「消灯」「黄の点滅」「消灯」「消灯」「緑の点灯」である場合には、URLとして「http://aa...」が取得される。
ステップS60では、ブラウザ制御部370は、ブラウザプログラムPG3(図1)をCPU410に実行させることによってWEBブラウザ50(図1)を起動して、ステップS50で取得されたURLをWEBブラウザ50に渡す。
ステップS65では、WEBブラウザ50は、ブラウザ制御部370から取得したURLに基づいて、サポート情報をサーバ60から取得する。例えば、ブラウザ制御部370から取得したURLが第1のURL(例えば、図4の「http://aa...」)である場合には、第1のURLによって識別されるサーバ60の記憶部65内の第1の格納領域(例えば、特定のフォルダに対応する格納領域)から、第1のURLによって識別される第1のサポート情報が取得される。同様に、例えば、ブラウザ制御部370から取得したURLが第2のURL(例えば、図4の「http://cc...」)である場合には、第2のURLによって識別されるサーバ60の記憶部65内の第2の格納領域から、第2のURLによって識別される第2のサポート情報が取得される。ステップS70では、WEBブラウザ50は、取得されたサポート情報を表示部470に表示する。換言すれば、ブラウザ制御部370は、WEBブラウザ50を用いて、関係情報としてのサポート情報を取得するとともに、WEBブラウザ50を用いて、取得されたサポート情報を表示部470に表示する。すなわち、ブラウザ制御部370は、関係情報取得部と、出力制御部の例である。
図15は、サポート情報の表示画像AI5の一例である。この表示画像AI5は、サーバ60が提供する複数のWEBページのうち、特定された表示ランプの表示状態によって示される対象機種の特定の状態に対応するサポート情報を含むページの画像である。このページは、図15に示すように、対象機種が特定の状態になった場合に、対象機種の利用者が参考とすることを想定して作成されたページである。図15に例示されたページは、トナーの残量が基準値より少なくなった状態に対応するページであり、当該状態の説明、および、トナーの交換方法や購入方法などの対処方法を含むメッセージMSを含んでいる。
以上説明した本実施例によれば、1個以上の表示ランプ(例えば、5個の表示ランプ11〜15(図3))を撮像して得られる撮像画像データを解析することによって、表示ランプによって示される対象機種のプリンタ(例えば、図1〜図3に示すプリンタ200)の特定の状態(例えば、トナー切れなどのエラー状態)に対応するサポート情報のURLが取得される。そして、取得されたURLに基づいて、サポート情報が取得されて携帯端末400の表示部470に表示される。この結果、携帯端末400は、プリンタ200の状態に応じた適切な情報を、利用者に提供することができる。
例えば、プリンタ200にエラーが発生した場合に、プリンタ200に現在発生しているエラーに関係する十分な情報を、プリンタ200が利用者に提供することは困難である場合がある。特に、本実施例のプリンタ200のように、液晶ディスプレイを備えていないプリンタの場合には、プリンタ200単体で十分な情報を利用者に提供することは比較的困難である。この結果、表示ランプの表示状態が意味するところを、マニュアル等を参照して調べる等の煩わしい作業が、利用者に対して要求される可能性があった。
また、プリンタ200によって、必要な情報を印刷することで、利用者に情報を提供することが考えられるが、プリンタ200が、トナー切れ、紙詰まりなどの印刷が不可能なエラー状態にある場合には、情報を提供できない。また、プリンタドライバが搭載されたパーソナルコンピュータに対して、プリンタ200からエラー情報を送信して、当該パーソナルコンピュータにてエラー情報を表示することが考えられるが、パーソナルコンピュータとプリンタ200との位置が離れている場合には不便である。また、プリンタ200とパーソナルコンピュータ間の通信障害が発生している場合には、情報を提供できない。
本実施例によれば、携帯端末400は、容易に、プリンタ200の状態に応じた適切なサポート情報を提供することができる。すなわち、携帯端末400の利用者は、プリンタ200の表示ランプ11〜15を含む特定領域(図3)を撮像するだけで良い。また、携帯端末400は、プリンタ200のエラ−状態の種類(外部機器との通信障害、紙詰まりなどの印刷が不可能なエラー)に拘わらず、必要なサポート情報を提供することができる。また、携帯端末400は、持ち運びも容易であるので、1個の携帯端末400で、異なる場所に設置された複数個のプリンタを撮像することも容易である。このように、撮像端末、特に、携帯型の撮像端末は、プリンタ200のサポート情報の提供に適切なデバイスであると言うことができる。
プリンタ200の不揮発性記憶装置220や、携帯端末400の不揮発性記憶装置420にサポート情報を格納すると、容量制限の観点から十分なサポート情報が提供することが困難になる可能性がある。また、サポート情報を更新するために、煩雑な仕組み(例えば、更新ファイルのダウンロードなど)が必要になる可能性や、更新に伴う利用者の作業負担が増大する可能性がある。本実施例では、携帯端末400は、サポート情報を、ネットワーク(例えば、インターネット70)を介して接続されるサーバから取得するので、十分かつ最新の情報を利用者に容易に提供することができる。
また、サーバ60が充実したサポート情報をWEBサービスとして提供していても、サポート情報が利用者によって十分に活用されない可能性があった。例えば、多数のサポート情報を含むサポート情報群651の中から、所望のサポート情報に到達するのは、利用者にとって負担が大きい。例えば、複数の階層に分類された複数のWEBページのリンクをたどって、所望のサポート情報を探す作業は、比較的煩雑である。本実施例によれば、撮像画像内の表示ランプの表示状態が、プリンタが第1の状態であることを示す場合に、第1のURLが取得され、撮像画像内の表示ランプの表示状態が、プリンタが第2の状態であることを示す場合に、第2のURLが取得される。この結果、複数個の表示ランプ11〜15を含む特定領域を撮像することによって、利用者は、容易に、撮像時のプリンタ200の状態に関係するサポート情報を入手することができる。
また、複数個の表示ランプ11〜15の表示状態に基づいて、提供すべきサポート情報が表示されるので、提供すべきサポート情報を特定するための特別な情報(例えば、URLやQRコード(登録商標)などの情報)を、プリンタ200が予め保持する必要がない。この結果、特別な情報を持たない、既に出荷されたプリンタ200のサポート情報であっても、当該出荷済みのプリンタの表示ランプの表示状態に基づいて、適切なサポート情報を容易に提供できる。
さらに、情報提供部300は、プリンタ200の種類の識別するための機種情報(製品情報)を取得し、撮像画像データの解析結果と、プリンタ200の種類を表す機種情報と、に応じて、URLを取得する。したがって、プリンタ200の種類に応じて、適切な関係情報を携帯端末400に表示することができる。例えば、プリンタの状態が同一であっても、プリンタの種類が異なれば、提供すべきサポート情報が異なる場合がある。例えば、トナー切れに関するサポート情報は、例えば、対応しているトナーの品番などが機種ごとに異なる場合がある。
さらに、情報提供部300は、撮像画像データを解析することによって特定された表示ランプの少なくとも一部の表示状態の修正を利用者から受け付けることができる(図8のステップS50、図9(D))。そして、表示状態の修正が利用者から受け付けられた場合には、修正結果に従って、表示ランプの表示状態が最終的に特定される。したがって、表示ランプの表示状態を精度良く特定して、適切なサポート情報を携帯端末400に表示することができる。
情報提供部300は、表示ランプの表示状態に「点滅」が含まれる場合には、第1の撮像画像データと、第1の撮像画像データが撮像されてから所定時間後に撮像される第2の撮像画像データとを取得する。そして、情報提供部300は、これらの撮像画像データを解析することによって、点滅状態を含む前記表示ランプの表示状態を特定する。この結果、「点滅」を含む表示ランプの表示状態を適切に特定することができる。ここで、図6の撮像情報テーブルDTCに示すように、上記の所定時間(撮像間隔)は、機種に応じて適切な時間が用いられる。すなわち、対象のプリンタが、第1種のプリンタである場合には、第1の所定時間が用いられ、対象のプリンタが、第2種のプリンタである場合には、第2の所定時間が用いられる。この結果、プリンタの機種に応じて、精度良く表示ランプの表示状態を特定することができる。また、図6の撮像情報テーブルDTCに示すように、機種ごとに定められた適切な個数の撮像画像データが取得される。この結果、動画などの多数の撮像画像データを取得して解析する場合と比較して、解析負荷を抑制することができる。
さらに、情報提供部300は、撮像画像補正処理(図11)を実行して、撮像画像内の表示ランプの位置を補正するので、表示状態特定処理(図14)において、表示ランプの表示状態を精度良く特定することができる。例えば、撮像時における利用者の手振れなどによって、撮像画像SI内の表示ランプの位置およびサイズが、目標位置およびサイズからずれていたとしても、表示ランプの表示状態を精度良く特定することができる。
C.変形例:
(1)上記実施例の情報提供処理では、識別情報取得部360は、携帯端末400の不揮発性記憶装置420に格納されたURLテーブルDT1からURLを取得しているが、これに代えて、サーバ60からURLを取得しても良い。具体的には、識別情報取得部360は、図1に破線で示すように、状態情報送信部365を備えても良い。そして、図8の情報提供処理において、ステップS55に代えて、ステップS52A〜S56Aが実行されても良い。ステップS52Aでは、識別情報取得部360は、特定された表示ランプの表示状態と、対象機種と、に基づいて、対象機種のプリンタの状態を取得する。例えば、識別情報取得部360は、URLテーブルDT1のうちの対象機種のテーブル(図4)を参照して、特定された表示ランプの表示状態に対応付けられたプリンタの状態を取得する。例えば、図4のテーブルDT1aが参照される場合であって、図3に示す複数個の表示ランプ11〜15の特定された表示状態が、「消灯」「黄の点滅」「消灯」「消灯」「緑の点灯」である場合には、プリンタの状態として「トナー残 少」が取得される。ステップS54Aでは、識別情報取得部360の状態情報送信部365は、プリンタの状態を示す状態情報と、対象機種を示す機種情報と、をサーバ60に対して送信する。サーバ60は、受信した状態情報と機種情報との組合わせに対応するURLを携帯端末400に対して返信する。ステップS56Aでは、識別情報取得部360は、サーバ60から、対応するURLを取得(受信)する。この場合には、サーバ60において、サーバの管理者がサポート情報を提供するWEBページを更新することによって、URLが変更されても、携帯端末400は、問題なくサポート情報を取得することができる。なお、URLの取得元となるサーバと、サポート情報の取得元となるサーバとは、異なっても良い。
(2)上記実施例では、撮像回数は、1回または2回であるが、表示ランプが取り得る表示状態に応じて、1回または2回とは異なる回数であっても良い。図16は、変形例における表示ランプの表示状態と撮像条件について説明する図である。変形例における表示ランプは、複数の点滅状態を含む複数の表示状態、具体的には、「点灯」「消灯」「第1の点滅」「第2の点滅」の4種類の表示状態を取り得る。「点灯」「消灯」は、第1実施例における同名の表示状態と同じである。「第1の点滅」は、第1の間隔LT1で、発光している状態と、発光していない状態とが繰り返される表示状態である。図16(A)に示すように、「第2の点滅」は、第2の間隔LT2で、発光している状態と、発光していない状態とが繰り返される表示状態である。第1の間隔LT1は、第2の間隔LT2より2倍以上長い。
この場合には、これらの4種類の表示状態を判断するために、特に、2種類の点滅状態を適切に判断するために、撮像間隔は、最小の点滅間隔、図16の例では、第2の間隔LT2に設定される。そして、撮像回数Kは、撮像間隔(=最小の点滅間隔)のK倍の時間が、少なくとも最長の点滅間隔、図16の例では、第1の間隔LT1より長くなるように設定される。図16の例では、(LT2×3)>LT1>(LT2×2)であるので、撮像回数は、少なくとも3以上に設定される。図16(B)には、撮像間隔が第2の間隔LT2に設定され、撮像回数が3回に設定されている場合に、3個の撮像画像A〜Cを解析して得られる特定結果に基づいて、最終的な特定結果の決定する方法が示されている。3個の撮像画像A〜Cは、この順序(アルファベット順)で撮像されたものとする。
具体的には、3個の撮像画像A〜Cの全てが「発光」である場合には、対象の表示ランプの表示状態は、「点灯」であると特定される。また、3個の撮像画像A〜Cの全てが「発光していない」である場合には、対象の表示ランプの表示状態は、「消灯」であると特定される。また、3個の撮像画像A〜Cに、「発光」である画像と、「発光していない」である画像と、の両方が含まれる場合には、対象の表示ランプの表示状態は、「第1の点滅」か「第2の点滅」のいずれかに特定される。すなわち、3個の撮像画像A〜Cを時系列に並べた場合に、「発光」である画像と、「発光していない」である画像と、が交互に並ぶ場合には、対象の表示ランプの表示状態は、「第2の点滅」であると特定される。また、3個の撮像画像A〜Cを時系列に並べた場合に、「発光」である画像が連続して2個並ぶ場合、または、「発光していない」である画像が連続して2個並ぶ場合には、対象の表示ランプの表示状態は、「第1の点滅」であると特定される。
このように、撮像回数は、機種ごとに異なる表示ランプが取り得る表示状態に応じて、1以上の各種の値に設定されても良い。一般的に言えば、対象のプリンタが、第1種のプリンタである場合には、N個(Nは、1以上の整数)の撮像画像データが取得され、N個の撮像画像データの解析によって、撮像画像内の表示ランプの表示状態が特定され、対象のプリンタが、第2種のプリンタである場合には、M個(Mは、N<Mの整数)の撮像画像データが取得され、M個の前記撮像画像データの解析によって、撮像画像内の表示ランプの表示状態が特定されても良い。
(3)上記各実施例は、製品の例示としてプリンタをあげているが、これに代えて、他の電子機器、例えば、プリント機能とスキャナ機能を備えるスキャナ、単体のスキャナなどの他の電子機器であっても良い。
(4)上記実施例において、プリンタの機種を識別するための機種情報(製品情報)は、利用者による入力に基づいて取得されるが、これに代えて、撮像画像データの解析結果に基づいて、取得されても良い。この場合には、例えば、携帯端末400の不揮発性記憶装置420には、プリンタの機種の特定領域100の色分布を示すヒストグラムデータや周波数成分のデータが、参照データとして機種ごとに格納される。製品情報取得部320は、撮像画像データのヒストグラムデータや周波数成分のデータを、解析データとして作成する。製品情報取得部320は、解析データと参照データとの類似度を算出し、解析データとの類似度が最も高い参照データに対応する機種情報を取得する。解析データと参照データとの類似度を評価する手法は、例えば、特開2001−167118号公報(画像の周波数成分を表す係数を、比較する手法)や、特開2008−234327号公報(画像の色度を色度図上でヒストグラム化したヒストグラムデータを、比較する手法)に開示されている。上記実施例において、プリンタの機種を識別するための機種情報(製品情報)は、所望の機種に対応するラジオボタンRBが利用者に選択されることによって、取得されているが、型番などの機種情報が、携帯端末400のボタンを介して利用者に入力されることによって、取得されても良い。
(5)上記実施例では、携帯端末400とサーバ60とが協働して、利用者に対するサポート情報の提供を実現しているが、携帯端末400単体で、サポート情報を提供してもよい。この場合には、全ての対象機種の全ての項目のサポート情報が携帯端末400の不揮発性記憶装置420に格納されても良い。この場合には、携帯端末400の情報提供部300は、撮像画像データに基づいて特定された表示ランプの表示状態に対応する識別情報(例えば、エラー項目名、不揮発性記憶装置220内におけるアドレス)に基づいて、不揮発性記憶装置420から対応するサポート情報を取得すれば良い。なお、これらのサポート情報は、プリンタ200の不揮発性記憶装置220に格納されていても良い。この場合には、携帯端末400は、例えば、プリンタのIPアドレスを特定することによって、サーバ60に代えて、プリンタ200からサポート情報を取得しても良い。
(6)なお、上記実施例では、関係情報として、エラーの解決方法などのサポート情報を例示している。これに限らず、関係情報は、プリンタの正常な状態に関係する情報、例えば、印刷処理の具体的な操作方法の説明や、各種設定項目の説明および設定項目の具体的な設定方法の説明であっても良い。また、これらの関係情報は、表示部470に表示される態様に限らず、別の態様で携帯端末400から出力されても良い。例えば、音声によって、プリンタ200の操作方法などの案内が関係情報として携帯端末400から出力されても良い。
(7)なお、撮像画像データの解析結果に基づく表示状態の特定結果に対する利用者による修正の受け付けは、省略されても良い。すなわち、撮像画像データの解析結果に基づく表示状態の特定結果が、常に最終的な特定結果とされても良い。また、機種情報の取得は省略されても良い。すなわち、情報提供部300は、1つの機種のための専用のアプリケーションプログラム(例えば、製品の付属プログラム)によって実現されても良い。
(8)また、表示状態情報テーブルDTBに記録された各表示ランプが取り得る表示状態の情報(図5(B))は、上記実施例では、表示状態の特定結果に対する利用者による修正を受け付ける際のプルダウンメニューPM(図9(D))の作成に使用されている。これに代えて、または、これとともに、これらの表示状態情報は、機種ごとに異なる特徴情報として、撮像画像データの解析に用いられても良い。例えば、撮像画像データを解析することによって特定された表示ランプの表示状態(図5(B))が、表示状態情報によって示された取り得る表示状態と異なる場合には、解析の結果が誤りである可能性が高い。この場合には、例えば、情報提供部300は、利用者に対して、もう一度、撮像を促すことによって、撮像画像データを再取得しても良いし、利用者に対して特定結果が誤りであることを通知して、利用者による修正を促しても良い。このように、撮像画像データの解析に用いられる特徴情報は、特徴点情報テーブルDTDに記述された特徴点の位置情報に限らず、機種ごとに異なる表示ランプに関する特徴を示す様々な情報が用いられ得る。
(9)また、上記情報提供処理に用いられる各種の情報、例えば、機種選択画像AI1に表示される機種情報の一覧や、図4〜図7に示す各種のテーブルに記録された情報は、予め不揮発性記憶装置420に格納されている。これに代えて、これらの情報は、必要に応じて、サーバ60から取得されて、揮発性記憶装置425に一時的に格納されても良い。
(10)上記実施例において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。
(11)本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータプログラム)は、コンピュータ読み取り可能な記録媒体に格納された形で提供することができる。「コンピュータ読み取り可能な記録媒体」は、メモリーカードやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピュータ内の内部記憶装置や、ハードディスクドライブ等のコンピュータに接続されている外部記憶装置も含んでいる。
以上、実施例、変形例に基づき本発明について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれる。
11〜15...表示ランプ、30...操作ボタン、50...WEBブラウザ、55...メイン制御部、60...サーバ、65...記憶部、70...インターネット、100...特定領域、110...装置制御部、120...UI制御部、200...プリンタ、210...CPU、220...不揮発性記憶装置、221...コンピュータプログラム、230...揮発性記憶装置、231...バッファ領域、240...印刷実行部、260...操作部、270...表示部、280...通信部、300...情報提供部、310...画像データ取得部、320...製品情報取得部、330...特徴情報取得部、340...特定部、350...受付部、360...識別情報取得部、365...状態情報送信部、370...ブラウザ制御部、400...携帯端末、410...CPU、420...不揮発性記憶装置、425...揮発性記憶装置、427...バッファ領域、430...無線IF部、450...音声処理部、460...操作部、470...表示部、490...カメラ、651...サポート情報群、440...電話IF部、PG1...制御プログラム、PG2...情報提供プログラム、PG3...ブラウザプログラム、DT1...URLテーブル、DT2...特徴情報テーブル

Claims (11)

  1. 撮像部を含む撮像端末のためのコンピュータプログラムであって、
    前記撮像部による撮像の対象である対象製品上の特定領域を前記撮像部を用いて撮像することによって生成される撮像画像データを取得する画像データ取得機能であって、前記特定領域は、前記対象製品の状態を示す1個以上の表示ランプを含む、前記画像データ取得機能と、
    前記撮像画像データを解析することによって、前記撮像画像データによって表される撮像画像内の前記表示ランプの表示状態を特定する特定機能と、
    前記撮像端末のメモリに格納される対応テーブルを参照することによって、特定された前記表示ランプの表示状態に応じたURLを取得するURL取得機能であって、前記対応テーブルは、第1の表示状態と第2の表示状態とを含む前記表示ランプの複数個の表示状態のそれぞれについて、対応する前記URLが記録されたテーブルであり、前記URLは、特定された前記表示ランプの表示状態に対応する前記対象製品の状態に関する情報である関係情報が格納されるサーバ内の格納領域の位置を示す、前記URL取得機能と、
    取得された前記URLによって示される前記サーバ内の格納領域にネットワークを介してアクセスすることによって、前記関係情報を取得する関係情報取得機能と、
    取得された前記関係情報を前記撮像端末にて出力する出力制御機能と、
    前記撮像端末に搭載されたコンピュータに実現させ
    前記URL取得機能は、
    特定された前記表示ランプの表示状態が前記第1の表示状態である場合に、前記対応テーブルから前記第1の表示状態に対応する第1のURLを取得し、
    特定された前記表示ランプの表示状態が前記第2の表示状態である場合に、前記対応テーブルから前記第2の表示状態に対応する第2のURLであって前記第1のURLとは異なる前記第2のURLを取得する、コンピュータプログラム。
  2. 請求項1請求項に記載のコンピュータプログラムであって
    前記サーバ内の格納領域は、前記第1のURLによって示される第1の格納領域と、前記第2のURLによって示される第2の格納領域であって前記第1の格納領域とは異なる前記第2の格納領域と、を含み、
    前記関係情報取得機能は、
    特定された前記表示ランプの表示状態が前記第1の表示状態である場合に、前記第1のURLに基づいて、前記第1の格納領域から、第1の関係情報を取得し、
    特定された前記表示ランプの表示状態が前記第2の表示状態である場合に、前記第2のURLに基づいて、前記第2の格納領域から、第2の関係情報を取得する、コンピュータプログラム。
  3. 請求項1または請求項に記載のコンピュータプログラムであって、さらに、
    前記対象製品の種類を識別するための製品情報を取得する製品情報取得機能を前記撮像端末に搭載されたコンピュータに実現させ、
    前記URL取得機能は、特定された前記表示ランプの表示状態と、前記製品情報と、に応じ前記URL、前記対応テーブルから取得する、コンピュータプログラム。
  4. 請求項1ないし請求項のいずれかに記載のコンピュータプログラムであって、さらに、
    前記撮像画像データを解析することによって特定された前記表示ランプの少なくとも一部の表示状態の修正を利用者から受け付ける受付機能を前記撮像端末に搭載されたコンピュータに実現させ、
    前記特定機能は、前記表示状態の修正が利用者から受け付けられた場合には、利用者による修正結果に従って、前記表示ランプの表示状態を特定する、コンピュータプログラム。
  5. 請求項1ないし請求項のいずれかに記載のコンピュータプログラムであって、
    前記画像データ取得機能は、第1の撮像画像データと、前記第1の撮像画像データが撮像されてから所定時間後に撮像される第2の撮像画像データと、を含む複数個の前記撮像画像データを取得し、
    前記特定機能は、複数個の前記撮像画像データを解析することによって、点滅状態を含む前記表示ランプの表示状態を特定する、コンピュータプログラム。
  6. 請求項に記載のコンピュータプログラムであって、
    前記対象製品が、第1種の製品である場合には、前記画像データ取得機能は、前記第1の撮像画像データが撮像されてから第1の所定時間後に撮像される前記第2の撮像画像データを取得し、
    前記対象製品が、第2種の製品である場合には、前記画像データ取得機能は、前記第1の撮像画像データが撮像されてから第2の所定時間後に撮像される前記第2の撮像画像データを取得する、コンピュータプログラム。
  7. 請求項または請求項に記載のコンピュータプログラムであって、
    前記対象製品が、第1種の製品である場合には、
    前記画像データ取得機能は、N個(Nは、1以上の整数)の前記撮像画像データを取得し、
    前記特定機能は、N個の前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定し、
    前記対象製品が、第2種の製品である場合には、
    前記画像データ取得機能は、M個(Mは、N<Mの整数)の前記撮像画像データを取得し、
    前記特定機能は、M個の前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定する、コンピュータプログラム。
  8. 請求項1ないし請求項のいずれかに記載のコンピュータプログラムであって、さらに、
    前記対象製品の種類ごとに異なる前記表示ランプに関連する特徴を示す特徴情報を取得する特徴情報取得機能を前記撮像端末に搭載されたコンピュータに実現させ、
    前記特定機能は、前記特徴情報を用いて、前記撮像画像データを解析することによって、前記撮像画像内の前記表示ランプの表示状態を特定する、コンピュータプログラム。
  9. 請求項に記載のコンピュータプログラムであって、
    前記特徴情報は、前記表示ランプを含む前記特定領域内の特徴点の位置を示す位置情報を含み、
    前記特定機能は、前記位置情報を用いて、前記撮像画像内の前記表示ランプの位置を補正する処理を含む解析処理を実行する、コンピュータプログラム。
  10. 請求項1ないし請求項のいずれかに記載のコンピュータプログラムであって、
    前記第1の表示状態、前記対象製品が第1の状態であることを示し、
    前記第2の表示状態は、前記対象製品が前記第1の状態とは異なる第2の状態であることを示すコンピュータプログラム。
  11. 撮像部を含む撮像端末の制御装置であって、
    対象製品上の特定領域を前記撮像部を用いて撮像することによって生成される撮像画像データを取得する画像データ取得部であって、前記特定領域は、前記対象製品の状態を示す1個以上の表示ランプを含む、前記画像データ取得部と、
    前記撮像画像データを解析することによって、前記撮像画像データによって表される撮像画像内の前記表示ランプの表示状態を特定する特定部と、
    対応テーブルが格納されるメモリであって、前記対応テーブルは、第1の表示状態と第2の表示状態とを含む前記表示ランプの複数個の表示状態のそれぞれについて、対応するURLが記録されたテーブルであり、前記URLは、特定された前記表示ランプの表示状態に対応する前記対象製品の状態に関する情報である関係情報が格納されるサーバ内の格納領域の位置を示す、前記メモリと、
    前記対応テーブルを参照することによって、特定された前記表示ランプの表示状態に応じた前記URLを取得するURL取得部と、
    取得された前記URLによって示される前記サーバ内の格納領域にネットワークを介してアクセスすることによって、前記関係情報を取得する関係情報取得部と、
    取得された前記関係情報を前記撮像端末にて出力する出力制御部と、
    を備え
    前記URL取得部は、
    特定された前記表示ランプの表示状態が前記第1の表示状態である場合に、前記対応テーブルから前記第1の表示状態に対応する第1のURLを取得し、
    特定された前記表示ランプの表示状態が前記第2の表示状態である場合に、前記対応テーブルから前記第2の表示状態に対応する第2のURLであって前記第1のURLとは異なる前記第2のURLを取得する、制御装置。
JP2013032655A 2013-02-21 2013-02-21 コンピュータプログラムおよび制御装置 Active JP6065640B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013032655A JP6065640B2 (ja) 2013-02-21 2013-02-21 コンピュータプログラムおよび制御装置
EP14155806.4A EP2770435B1 (en) 2013-02-21 2014-02-19 Computer program and control device to monitor the status of a printer
US14/185,973 US9432571B2 (en) 2013-02-21 2014-02-21 Storage medium and control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013032655A JP6065640B2 (ja) 2013-02-21 2013-02-21 コンピュータプログラムおよび制御装置

Publications (2)

Publication Number Publication Date
JP2014165553A JP2014165553A (ja) 2014-09-08
JP6065640B2 true JP6065640B2 (ja) 2017-01-25

Family

ID=50184741

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013032655A Active JP6065640B2 (ja) 2013-02-21 2013-02-21 コンピュータプログラムおよび制御装置

Country Status (3)

Country Link
US (1) US9432571B2 (ja)
EP (1) EP2770435B1 (ja)
JP (1) JP6065640B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6589874B2 (ja) * 2014-09-30 2019-10-16 セイコーエプソン株式会社 ネットワークシステム、及び、通信方法
JP6565378B2 (ja) * 2015-03-20 2019-08-28 株式会社リコー 電子情報処理システム及び電子情報処理方法
JP6095716B2 (ja) * 2015-04-13 2017-03-15 レノボ・シンガポール・プライベート・リミテッド スタイラス・ペンの管理を補助する方法、コンピュータ・プログラムおよび携帯式電子機器
JP6638264B2 (ja) * 2015-08-31 2020-01-29 富士通株式会社 光表示部監視装置、光表示部監視システム及び光表示部監視プログラム
JP6503990B2 (ja) * 2015-09-07 2019-04-24 オムロン株式会社 撮影装置、撮影方法及び撮影プログラム
US10182153B2 (en) 2016-12-01 2019-01-15 TechSee Augmented Vision Ltd. Remote distance assistance system and method
JP2018169649A (ja) * 2017-03-29 2018-11-01 三菱電機株式会社 監視システムおよび監視用の端末
JP6904223B2 (ja) 2017-11-10 2021-07-14 オムロン株式会社 異常状態検出装置、異常状態検出方法、及び、異常状態検出プログラム
US20210174371A1 (en) * 2018-05-10 2021-06-10 TechSee Augmented Vision Ltd. Methods and systems for providing interactive support sessions
CN111079482A (zh) * 2019-03-29 2020-04-28 新华三技术有限公司 一种信息获取方法及装置
JP7451345B2 (ja) * 2020-08-07 2024-03-18 東芝テック株式会社 パスワード機能を有する情報処理装置、及びパスワード設定方法
CN116069000B (zh) * 2023-03-06 2023-06-13 宜科(天津)电子有限公司 一种基于塔灯的设备故障识别***

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02245887A (ja) 1989-03-18 1990-10-01 Seiko Epson Corp 文字認識装置
JP2000177216A (ja) 1998-12-18 2000-06-27 Canon Inc 告知装置
US6133844A (en) * 1998-12-21 2000-10-17 Lexmark International, Inc. System and method for programming an operator panel LED for printer
JP2000215018A (ja) * 1999-01-22 2000-08-04 Canon Inc デ―タ通信システム及びデ―タ通信システムのトラブル対処方法
US6985877B1 (en) * 1999-09-16 2006-01-10 Xerox Corporation Method for supply ordering
JP3550681B2 (ja) 1999-12-10 2004-08-04 日本電気株式会社 画像検索装置及び方法、並びに類似画像検索プログラムを格納した記憶媒体
JP2002016947A (ja) * 2000-06-27 2002-01-18 Matsushita Electric Ind Co Ltd 機器メンテナンス装置および機器リモートメンテナンスシステム
JP2002067455A (ja) 2000-08-29 2002-03-05 Canon Inc 記録装置システム
JP2005242915A (ja) 2004-02-27 2005-09-08 Japan Network Storage Laboratory Inc コンピュータ関連機器監視システム
JP2006039963A (ja) * 2004-07-27 2006-02-09 Brother Ind Ltd エラー対処情報表示プログラム及び画像形成システム
JP2007226747A (ja) 2006-02-27 2007-09-06 Toshiba Corp 電子機器、及びプリンタ装置選択方法
JP2008234327A (ja) 2007-03-20 2008-10-02 National Univ Corp Shizuoka Univ 画像検索装置及び画像検索方法
JP2010016563A (ja) * 2008-07-02 2010-01-21 Docomo Technology Inc 携帯端末
JP2010165321A (ja) * 2009-01-19 2010-07-29 Toshiba Corp 配電盤点検システム
JP4913913B2 (ja) * 2010-04-28 2012-04-11 新日鉄ソリューションズ株式会社 情報処理システム、情報処理方法及びプログラム
JP5534978B2 (ja) * 2010-06-29 2014-07-02 キヤノン株式会社 撮像装置およびその制御方法
US8738754B2 (en) * 2011-04-07 2014-05-27 International Business Machines Corporation Systems and methods for managing computing systems utilizing augmented reality
JP5509158B2 (ja) * 2011-07-28 2014-06-04 京セラドキュメントソリューションズ株式会社 画像形成システム、画像形成装置、携帯端末

Also Published As

Publication number Publication date
EP2770435B1 (en) 2018-06-27
JP2014165553A (ja) 2014-09-08
US9432571B2 (en) 2016-08-30
EP2770435A3 (en) 2014-09-17
EP2770435A2 (en) 2014-08-27
US20140232882A1 (en) 2014-08-21

Similar Documents

Publication Publication Date Title
JP6065640B2 (ja) コンピュータプログラムおよび制御装置
JP5923934B2 (ja) 画像処理装置及びプログラム
US9367773B2 (en) Managing font metrics for a rendering device
US9628644B2 (en) Controller for imaging terminal
JP6662201B2 (ja) プログラム及びシステム
JP2014109962A (ja) 制御装置およびコンピュータプログラム
JP2007316921A (ja) ソフトウエアインストール方法、プログラム及び記憶媒体
JP5131335B2 (ja) 情報処理プログラム、情報処理装置、情報処理方法
EP2833253B1 (en) Computer program and communication apparatus
JP6003715B2 (ja) 制御装置およびコンピュータプログラム
EP2770436B1 (en) Terminal device and computer program
US9191546B2 (en) Non-transitory computer-readable recording medium storing computer-readable instructions for information processing apparatus, information processing apparatus, and method for controlling information processing apparatus
JP5434555B2 (ja) 画像情報処理装置及びプログラム
JP2007080074A (ja) 画像表示装置、画像表示方法、および、プログラム
JP2024039177A (ja) 表示内容通知プログラム、表示内容通知装置、表示内容通知方法
JP2017142566A (ja) 端末装置、診断システムおよびプログラム
WO2021145379A1 (ja) 画像作成支援装置及び画像作成支援方法
JP2017142567A (ja) 端末装置、診断システムおよびプログラム
JP2012109897A (ja) ドライバープログラム、および、印刷装置
JP2018169800A (ja) 制御プログラム、および情報処理装置
JP6646257B2 (ja) 端末装置、診断システムおよびプログラム
JP6447539B2 (ja) 電子機器
JP6326744B2 (ja) 情報処理システム、情報処理方法およびプログラム
JP2020077438A (ja) プログラム及びシステム
JP2006352802A (ja) 画像処理装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161212

R150 Certificate of patent or registration of utility model

Ref document number: 6065640

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150