JP5696721B2 - 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法 - Google Patents

表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法 Download PDF

Info

Publication number
JP5696721B2
JP5696721B2 JP2012281840A JP2012281840A JP5696721B2 JP 5696721 B2 JP5696721 B2 JP 5696721B2 JP 2012281840 A JP2012281840 A JP 2012281840A JP 2012281840 A JP2012281840 A JP 2012281840A JP 5696721 B2 JP5696721 B2 JP 5696721B2
Authority
JP
Japan
Prior art keywords
display
screen
pop
terminal device
mobile terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012281840A
Other languages
English (en)
Other versions
JP2014126955A (ja
Inventor
勤 大畑
勤 大畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2012281840A priority Critical patent/JP5696721B2/ja
Priority to EP13197388.5A priority patent/EP2750029B1/en
Priority to US14/135,773 priority patent/US9247082B2/en
Priority to CN201310722196.0A priority patent/CN103905683B/zh
Publication of JP2014126955A publication Critical patent/JP2014126955A/ja
Application granted granted Critical
Publication of JP5696721B2 publication Critical patent/JP5696721B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/00411Display of information to the user, e.g. menus the display also being used for user input, e.g. touch screen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1202Dedicated interfaces to print systems specifically adapted to achieve a particular effect
    • G06F3/1203Improving or facilitating administration, e.g. print management
    • G06F3/1205Improving or facilitating administration, e.g. print management resulting in increased flexibility in print job configuration, e.g. job settings, print requirements, job tickets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • G06F3/1256User feedback, e.g. print preview, test print, proofing, pre-flight checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1278Dedicated interfaces to print systems specifically adapted to adopt a particular infrastructure
    • G06F3/1292Mobile client, e.g. wireless printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/452Remote windowing, e.g. X-Window System, desktop virtualisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K15/00Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers
    • G06K15/002Interacting with the operator
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00278Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a printing apparatus, e.g. a laser beam printer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00281Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal
    • H04N1/00307Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal with a mobile telephone apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163Indexing scheme relating to constructional details of the computer
    • G06F2200/1637Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04805Virtual magnifying lens, i.e. window or frame movable on top of displayed information to enlarge it for better reading or selection
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0094Multifunctional device, i.e. a device capable of all of reading, reproducing, copying, facsimile transception, file transception
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3273Display

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Facsimiles In General (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)
  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

この発明は、スマートフォン、タブレット端末等の携帯端末装置を無線通信等により接続可能な表示処理装置、該表示処理装置を備えた多機能デジタル複合機であるMFP(Multi Function Peripherals)等の画像形成装置、リモート画面の表示処理システム及び表示処理方法に関する。
近年、スマートフォン、タブレット端末等の携帯端末装置は、電子化された文書を記憶可能であり、時と場所を選ばず、文書を閲覧したり編集したりできる。また、携帯端末装置で編集等したファイルを前記MFP等の画像形成装置に送信し、画像形成装置で印刷または保存等の処理を実行させることができる。さらに、画像形成装置のスキャナ部で読み取った原稿の画像データ等からなるファイルを携帯端末装置に送信し、携帯端末装置で編集等を行うこともできる。
しかし、携帯端末装置と画像形成装置とを、それぞれ別個に操作する必要があり、操作が煩雑になるといった問題がある。
そこで、最近、画像形成装置の操作用画面を携帯端末装置の表示部にリモート画面として表示し、携帯端末装置から画像形成装置を連携操作できるようにした、画像形成装置と携帯端末装置との連携システムが提案されている。この連携システムでは、携帯端末装置の表示部に表示される画像形成装置側のリモート画面は、画像形成装置から送信される画面データに基づいて表示される。
つまり、操作が行われたことを示す情報が携帯端末装置から画像形成装置に送信され、画像形成装置はこの情報に基づいて次の画面データを生成し、この画面データを携帯端末装置に送信し、携帯端末装置はこの画面データに基づいてリモート画面を更新表示する。
一方、携帯端末装置はタッチパネルを備えており、ユーザは表示画面に対してピンチイン、ピンチアウト等のジェスチャー操作を行うことにより、画像を変倍することが可能となっている。つまり、携帯端末装置に表示されたリモート画面の画像を、ユーザの拡大操作に応じ携帯端末装置で拡大して表示することができる。
ところが、リモート画面の画像が拡大された状態で携帯端末装置に表示されているときに、リモート画面に対してユーザによりなされた操作が別ウィンドウのポップアップ部を表示させる操作である場合、次のような問題が発生していた。
なお、特許文献1には、操作設定ボタンが操作対象画像と重なった場合にも、操作対象画像が隠れないようにした表示装置が開示されている。
また、特許文献2には、一つの画面上に複数のウィンドウを重ならないように最適に配置する技術が開示されている。
また、特許文献3には、制御コンピュータ及び被制御コンピュータのディスプレイサイズが異なる場合に、制御コンピュータに表示されない領域の画像情報は被制御コンピュータに転送されないように制御する技術が開示されている。
特開2006−039469号公報 特開2010−244189号公報 特開2004−005582号公報
即ち、リモート画面の画像が拡大された状態で携帯端末装置に表示されているときに、リモート画面に対してユーザによりポップアップ部を表示させる操作がなされると、操作情報が携帯端末装置から画像形成装置へ転送され、画像形成装置は操作情報に対応するポップアップ部を含む次画面データを生成する。
しかし、画面内におけるポップアップ部の配置位置は、画像形成装置の表示パネルへの表示に適した位置に設定されているため、その配置を保持したまま携帯端末装置で次画面を拡大して表示部に表示させると、ポップアップ部の一部または全部が画面から外れてしまうおそれがある。この場合、携帯端末装置のユーザは画面をスクロールしたりポップアップ部をドラッグして、ポップアップ部を画面内に位置させる必要があるが、その操作が面倒であった。
しかも、ポップアップ部の全部が表示領域から外れてしまうと、ユーザはポップアップ部の存在すらも認識できない恐れがあった。
なお、前述した特許文献1〜3に記載の技術は、携帯端末装置に表示されたリモート画面の画像が拡大された状態で、ユーザによりポップアップ部を表示させる操作がなされたときの上記問題点に対して、解決策を提供しうるものではない。
この発明は、上記の問題を解決するためになされたものであり、携帯端末装置に表示されたリモート画面の画像が拡大された状態で、ユーザによりポップアップ部を表示させる操作がなされたときに、携帯端末の表示部に表示される次画面の表示領域内にポップアップ部を確実に表示させることができる表示処理装置及び画像形成装置を提供し、さらにはリモート画面の表示処理システム及び表示処理方法を提供とすることを課題とする。
上記課題は、以下の手段によって解決される。
(1)携帯端末装置に接続可能な接続手段と、前記接続手段により接続された携帯端末装置に、自装置操作用の画面データを送信する送信手段と、前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信手段と、前記受信手段により受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断手段と、前記受信手段により受信した操作情報に対応する次画面データを生成するとともに、前記受信手段により前記操作情報と拡大表示情報を受信し、かつ前記判断手段により、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成手段と、を備え、前記送信手段は、前記画面生成手段により生成された次画面データを前記携帯端末装置に送信することを特徴とする表示処理装置。
(2)前記画面生成手段は、ポップアップ部のサイズ、画面全体のサイズ、画面の隠蔽不可エリア、画面内の表示領域の優先度、の少なくともいずれかに基づいて、ポップアップ部の表示可能領域を決定し、該決定した表示可能領域にポップアップ部を配置する前項1に記載の表示処理装置。
(3)前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部のサイズを変更する前項1または2に記載の表示処理装置。
(4)前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部の形状を変更する前項1〜3のいずれかに記載の表示処理装置。
(5)前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、拡大率の変更を携帯端末装置に通知する前項1〜4のいずれかに記載の表示処理装置。
(6)前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、画面のスクロールを携帯端末装置に要求する前項1〜4のいずれかに記載の表示処理装置。
(7)前記画面生成手段は、ポップアップ部の表示位置に隠蔽不可の画像が存在する場合は、ポップアップ部を透過表示させる前項1〜3のいずれかに記載の表示処理装置。
(8)前記画面生成手段は、ポップアップ部内の文字のサイズを変更する前項3に記載の表示処理装置。
(9)前記ポップアップ部には入力キーが表示される前項1〜8のいずれかに記載の表示処理装置。
(10)前項1〜9のいずれかに記載の表示処理装置を備えた画像形成装置。
(11)前記自装置操作用の画面は自装置の設定を行うための画面であり、前記ポップアップ部は設定値の入力に用いられる前項10に記載の画像形成装置。
(12)相互に接続可能な表示処理装置と携帯端末装置とを備えたリモート画面の表示処理システムであって、前記表示処理装置は、携帯端末装置に接続可能な接続手段と、前記接続手段により接続された携帯端末装置に、自装置操作用の画面データを送信する送信手段と、前記操作用画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信手段と、前記受信手段により受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断手段と、前記受信手段により受信した操作情報に対応する次画面データを生成するとともに、前記受信手段により前記操作情報と拡大表示情報を受信し、かつ前記判断手段により、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成手段と、を備え、前記送信手段は、前記画面生成手段により生成された次画面データを前記携帯端末装置に送信し、前記携帯端末装置は、前記表示処理装置から送信された画面データを受信する受信手段と、前記画面データに基づく表示処理装置側のリモート画面を表示する表示手段と、前記リモート画面に対してユーザにより操作がなされると操作情報を表示処理装置に送信するとともに、画面が拡大された状態でリモート画面に対してユーザ操作がなされたときには、操作情報と拡大された表示状態を示す拡大表示情報を表示処理装置に送信する送信手段と、を備えていることを特徴とするリモート画面の表示処理システム。
(13)携帯端末装置と接続手段により接続された表示処理装置において実行されるリモート画面の表示処理方法であって、前記携帯端末装置に自装置操作用の画面データを送信する送信ステップと、前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信ステップと、前記受信ステップにおいて受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断ステップと、前記受信ステップにおいて受信した操作情報に対応する次画面データを生成するとともに、前記受信ステップにおいて前記操作情報と拡大表示情報を受信し、かつ前記判断ステップにおいて、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成ステップと、を備え、前記送信ステップでは、前記画面生成ステップにおいて生成された次画面データを前記携帯端末装置に送信することを特徴とするリモート画面の表示処理方法。
(14)相互に接続可能な表示処理装置と携帯端末装置とを備えたリモート画面の表示処理システムにおいて実行されるリモート画面の表示処理方法であって、前記表示処理装置は、前記携帯端末装置に自装置操作用の画面データを送信する送信ステップと、前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信ステップと、前記受信ステップにおいて受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断ステップと、前記受信ステップにおいて受信した操作情報に対応する次画面データを生成するとともに、前記受信ステップにおいて前記操作情報と拡大表示情報を受信し、かつ前記判断ステップにおいて、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成ステップと、を実行し、前記送信ステップでは、前記画面生成ステップにおいて生成された次画面データを前記携帯端末装置に送信し、前記携帯端末装置は、前記表示処理装置から送信された画面データを受信する受信ステップと、前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示するステップと、前記リモート画面に対してユーザにより操作がなされると操作情報を表示処理装置に送信するとともに、画面が拡大された状態でリモート画面に対してユーザ操作がなされたときには、操作情報と拡大された表示状態を示す拡大表示情報を表示処理装置に送信するステップと、を備えていることを特徴とするリモート画面の表示処理方法。
前項(1)に記載の発明によれば、携帯端末装置の表示部に表示された画像処理装置のリモート画面に対してユーザが画像の拡大操作を行うと、携帯端末装置はリモート画面の操作された画像部分を拡大して表示する。この状態で、リモート画面に対してユーザ操作がなされたときには、表示処理装置は携帯端末装置からの操作情報と拡大された表示状態を示す拡大表示情報を受信する。表示処理装置は、受信した操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断し、ポップアップ部を表示させる操作であると判断された場合には、ポップアップ部を含む次画面データを生成する。
この際に、画像拡大状態でポップアップ部が携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置が調整されるから、携帯端末装置の表示手段に表示される次画面の表示領域内にポップアップ部を確実に表示させることができ、従ってユーザは画面から外れたポップアップ部を画面内に位置させるために、携帯端末装置の画面をスクロール操作等する必要はなくなるとともに、ポップアップ部が表示されていることを確実に認識することができる。
前項(2)に記載の発明によれば、ポップアップ部のサイズ、画面全体のサイズ、画面の隠蔽不可エリア、画面内の表示領域の優先度、の少なくともいずれかに基づいて、ポップアップ部の表示可能領域が決定され、該決定された表示可能領域にポップアップ部が配置されるから、携帯端末の表示部に表示される次画面の表示領域内にポップアップ部をさらに確実に表示させることができる。
前項(3)に記載の発明によれば、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部のサイズを変更することにより、ポップアップ部を携帯端末の表示手段に確実に表示することができる。
前項(4)に記載の発明によれば、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部の形状を変更することにより、ポップアップ部を携帯端末の表示手段に確実に表示することができる。
前項(5)に記載の発明によれば、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、拡大率のの変更要求により携帯端末側で拡大率が変更されるから、ポップアップ部を携帯端末の表示手段に確実に表示することができる。
前項(6)に記載の発明によれば、ポップアップ部の表示位置を調整しても、ポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、画面のスクロールを携帯端末装置に要求するから、携帯端末装置は画像拡大後の画面をスクロールすることで、ポップアップ部を表示手段に確実に表示できる。
前項(7)に記載の発明によれば、ポップアップ部の表示位置に隠蔽不可の画像が存在する場合は、ポップアップ部が透過表示されるから、ポップアップ部によって隠蔽不可の画像が隠蔽されるのを防止することができる。
前項(8)に記載の発明によれば、ポップアップ部内の文字のサイズを変更することで、ポップアップ部のサイズ変更の自由度が増大する。
前項(9)に記載の発明によれば、ソフトキーやソフトキーボード等の入力キーがポップアップ部に表示されるから、ユーザはこの入力キーを用いて数値等の入力を行うことができる。
前項(10)に記載の発明によれば、携帯端末装置の表示手段に表示されたリモート画面の画像が拡大されている状態で、ユーザによってポップアップ部を表示させる操作がなされた場合に、画像拡大状態で携帯端末装置の表示領域内にポップアップ部が確実に表示される次画面データを生成して、携帯端末装置に送信できる画像形成装置となし得る。
前項(11)に記載の発明によれば、ユーザは携帯端末装置に表示された操作画面及びポップアップ部により、画像形成装置の設定を行うことができる。
前項(12)に記載の発明によれば、携帯端末の表示部に表示されたリモート画面が拡大されている状態で、ユーザによってポップアップ部を表示させる操作がなされた場合に、表示処理装置は、画像拡大状態で携帯端末装置の表示領域内にポップアップ部が表示される次画面データを生成して、携帯端末装置に送信できるシステムとなる。
前項(13)および(14)に記載の発明によれば、携帯端末の表示部に表示されたリモート画面が拡大されている状態で、ユーザによってポップアップ部を表示させる操作がなされた場合に、表示処理装置は、画像拡大状態で携帯端末装置の表示領域内にポップアップ部が表示される次画面データを生成して、携帯端末装置に送信できるから、ユーザは携帯端末に表示された画面内でポップアップ部を確実に認識できる。
この発明の一実施形態に係るリモート画面の表示処理システムの構成図である。 画像処理装置及び携帯端末装置の電気的な構成を示すブロック図である。 画像処理装置及び携帯端末装置のファームウェア構成を示すブロック図である。 画像処理装置及び携帯端末装置の各ソフトウェアの関係を示す図である。 ポップアップ部が表示され画面の一例を示す図である。 ポップアップ部の表示位置の調整方法を説明するための図である。 ポップアップ部の表示可能領域の決定方法を説明するための図である。 画像形成装置と携帯端末装置で実行されるリモート画面の表示処理動作を示すフローチャートである。
以下、この発明の実施形態を図面に基づいて説明する。
図1は、この発明の一実施形態に係る表示処理装置としての画像形成装置が用いられた表示処理システムの構成図である。
この表示処理システムは、表示処理装置としての画像形成装置1と、スマートフォンやタブレット端末等からなる携帯端末装置2等を備え、これらの画像形成装置1と携帯端末装置2は、無線LANルータ3、ネットワーク4を介して相互に接続可能となされている。なお、画像形成装置1と携帯端末装置2は、USBインターフェース等により有線接続も可能であるが、この実施形態では、無線通信により相互に接続されるものとなされている。
この実施形態では、画像形成装置1としてコピー機能、プリント機能、スキャン機能、ファクシミリ機能等を備えた前述のMFPが用いられている。以下、画像形成装置をMFPとも記す。また、携帯端末装置を携帯端末とも記す。
図2は、前記MFP1と携帯端末2の電気的な構成を示すブロック図である。
MFP1は、CPU101、ROM102、RAM103,スキャナ部104、プリント部105、記憶部106、操作パネル部107、WIFI(Wireless Fidelity)モジュール109、LAN(Local Area Network)コントローラ110、USBインターフェース(USBI/F)111等を備えている。
前記CPU101は、ROM102等に記憶された動作プログラムに従って動作することにより、MFP1の全体を統括的に制御するものである。例えば、MFP1の各種機能を使用可能に制御するほか、この実施形態では、携帯端末2からの要求に基づいて、携帯端末2に表示するMFP1の操作画面の画面データを作成して携帯端末2に送信したり、携帯端末2から送信された操作情報に対応する次画面データを生成して携帯端末2に送信する。また、前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断し、ポップアップ部を表示させる操作であると判断した場合は、ポップアップ部を含む次画面データを生成して携帯端末2に送信する等の処理を実行するが、これらの点については後述する。
前記ROM102は、CPU101の動作プログラム等を記憶するメモリであり、RAM103はCPU101が動作プログラムに従って動作するときの作業領域を提供するメモリである。
前記スキャナ部104は、図示しないプラテンガラス上にセットされた原稿や、同じく図示しない自動原稿搬送装置にセットされた原稿の画像を読み取って、電子データである画像データを出力するものである。
前記プリント部105は、スキャナ部104により読み取られた原稿の画像データや、携帯端末2等から送信されたプリントデータを、用紙に印刷するものである。
前記記憶部106は、各種のデータやアプリケーション等を記憶するものであり、ハードディスク装置などが用いられている。特に、この実施形態では、操作パネル部107に表示される各種の操作画面の表示用データ(画面データ)が記憶されており、ユーザーの操作に応じた操作画面の表示用データがCPU101によって記憶部106から呼び出され、操作パネル部107に表示されたり、携帯端末2に送信される。また、スキャナ部104で読み取られた画像データからなる文書ファイルや、外部装置から送信された文書ファイル等の複数のファイルが保存されている。
操作パネル部107は、MFP1を操作したりユーザーにメッセージ等を表示するものであり、スタートキー、テンキー等を有するキー部107aと、液晶等のタッチパネルからなる表示部107bを備えている。
前記WIFIモジュール109は、携帯端末2と無線接続するためのインターフェースであり、前記LANコントローラ110は、パーソナルコンピュータや他のMFP等の外部装置との間の通信を制御するものである。
前記USBインターフェース111は携帯端末2と有線接続するためのインターフェースである。
一方、携帯端末2には、スマートフォン、タブレット端末、電子ペーパー等が用いられる。携帯端末2は、CPU201、RAM202、記憶部203、表示部204a、操作部204b、WIFIモジュール205、LANコントローラ206、USBインターフェース207、ファイル処理部208a、208b、連携部209等を備えている。
前記CPU201は、携帯端末2の全体を統括的に制御するものであり、基本ソフトウェアであるOS(Operating System)や、後述する連携アプリケーションあるいは汎用アプリケーションに従って動作する。
前記RAM202は、CPU201が動作プログラムに従って動作するときの作業領域となるメモリである。
前記記憶部203は、各種のデータやアプリケーション等を記憶するものであり、ハードディスク装置などが用いられている。この実施形態では、MFP1から送信された画面データや、基本OS、連携アプリケーション、汎用アプリケーション等のプログラムを記憶している。なお、以下の説明ではアプリケーションを単にアプリともいう。
前記表示部204aは液晶等のデバイスからなり、操作部204bは表示部204aに設けられタッチ操作入力が可能なタッチパネルからなる。タッチ操作は通常、タッチした指の数や指の移動に応じて操作内容を規定するジェスチャー操作によって行われる。ジェスチャー操作の一例として、画面に表示された画像に対して、変倍(拡大または縮小)や回転等の編集加工を指示するためのピンチイン操作、ピンチアウト操作などを例示できる。
前記WIFIモジュール205は、携帯端末2をMFP1と無線接続するためのインターフェースであり、前記LANコントローラ206は、ユーザー端末等の外部装置との間の通信を制御するものである。また、前記USBインターフェース207は、携帯端末装置2をMFP1と有線接続するためのインターフェースである。
前記ファイル処理部208a、208bは、ファイルに編集、転送あるいはメール配信等の処理を実施する。以下、ファイル処理部208a、208bをいずれもファイル処理部208と記す。
前記連携部209は、MFP1と携帯端末2の間の機能連携を円滑に行うために、MFP1の機能を使用できるようにするためのものである。具体的には、MFP1のコピー機能、プリント機能、スキャン機能、ファクシミリ機能等を使用するためにMFP1の操作パネル部107に表示される画面と同じ画面を再生するための画面データ等を、MFP1から受信してリモート画面として表示部204aに表示したり、表示されたリモート画面をユーザが操作したときに、操作部204bにより画面(タッチパネル)上の操作位置の座標を検出し操作情報としてMFP1に送信する。MFP1は前記操作位置の座標を解析することにより、ユーザの操作指示を特定し、操作指示に応じた動作を実行する。
また、表示部204aにはMFP1から受信した画面データに基づくリモート画面の全部(全領域)を表示しているとは限らず、ジェスチャー操作に応じて拡大表示した様な場合にはリモート画面の一部が欠けた状態で表示している場合がある。MFP1側では、送信した画面データの全部が表示されているのか、あるいは一部が欠けた状態でどのように表示されているのかを知る必要があり、携帯端末2に、「リモート画面の表示状態を示す情報」の送信要求を行う。
MFP1からの要求に応じて連携部209は表示部204aに表示している「リモート画面の表示状態を示す情報」をMFP1に送信する。「リモート画面の表示状態を示す情報」としては、例えば表示部204aの表示領域の画面サイズ(縦横の表示画素数)、リモート画面の表示領域に対する表示位置や、その拡大率(拡大縮小率、アスペクト比固定可否)、の情報がある。
前記ファイル処理部208は、CPU201が汎用アプリを実行することによりその機能が実現される。つまり、汎用アプリは各種ファイルを処理するファイル処理部208を実現するためのソフトウェアであり、例えばファイル編集用アプリ、ファイルを電子メールで配信する機能を有するアプリ、ウェブ上にファイルをストレージする機能を有するアプリ等、各種のアプリを用いることができる。
また、前記連携部209は、CPU201が前述した連携アプリを実行することによりそれらの機能が実現される。つまり、連携アプリはMFP1と携帯端末2とのスムーズな機能連携を図るためのソフトウェアである。また、連携アプリと汎用アプリとの間で、ファイルの転送やダウンロードを行うことができる。
図3は、MFP1と携帯端末2のファームウェア構成を示すブロック図である。
MFP1は、アプリ層に、操作パネル(アプリ)121やオープンAPI(Open Application Program Interface)122等を備え、共通API層に、共通API(Common API)125やパネル表示画像生成部126等を備え、ハードウェア依存層に、パネル画面生成部123、パネル制御部124、携帯端末用制御部127等を備えている。
さらに、カーネル層に、パネル入力制御部129、パネルLCD制御部130、JPEGコーダドライバ131等を備え、デバイス層に、操作パネル部107、USBインターフェース部111、JPEG圧縮部133、WIFIモジュール109等を備えている。
パネル画面生成部123は、携帯端末2から連携操作が行われた場合に、操作パネル部107に表示されるMFP1側の画面データを作成する。
パネル制御部124は操作パネル部107との通信状態の制御等を行う。また、パネル表示画像生成部126は、携帯端末2からの操作情報に基づいて、携帯端末2に表示される次画面データを生成するが、連携操作時に携帯端末2に表示されたリモート画面が携帯端末2側で拡大されており、かつ携帯端末2から通知された操作情報で示される操作がポップアップ部を表示させる操作である場合には、画像拡大状態でポップアップ部が携帯端末2の表示部204aに表示されるように、次画面データを生成する。つまり、画像拡大状態でポップアップ部の一部または全部が携帯端末2の表示部204aに表示されない場合は、ポップアップ部の位置を調整し、更に必要に応じてポップアップ部のサイズや形状等を変更する。
携帯端末用制御部127は、携帯端末2との連携処理時に、携帯端末2と通信を行うためのインターフェース等を制御する。
パネル入力制御部129は、操作パネル部107の操作入力に関する制御を行い、パネルLCD制御部130は、操作パネル部107の表示部107bの表示制御を行う。JPEG圧縮部133は、JPEGコーダドライバ131を介して携帯端末用制御部127から送信されてきた画面データ等をJPEG圧縮するものであり、圧縮されたデータはUSBインターフェース111やWIFIモジュール109を介して、携帯端末2に送信される。
一方、携帯端末2は、画像表示アプリ221、表示画像生成アプリ222、JPEG展開アプリ223、ブラウザ等の各種アプリケーションを備えたアプリケーション層と、各種のマネージャー225、226等を備えたプラットフォーム層と、各種のライブラリ227及びカーネル228を備えたOS層と、ハードウェア229によって構成されている。
前記JPEG展開アプリ223は、MFP1から送信されてきた圧縮データを伸張するものである。
表示画像生成アプリ222は、携帯端末2の表示部204aに表示されたリモート画面に対して、ユーザが画像の拡大・縮小操作等を行ったときに、現在表示され記憶部203に記憶されている画面データを用いて、自装置で編集加工を行い、表示部204に表示させるものである。
前記画像表示アプリ221は、MFP1から送信されJPEG展開アプリ223で伸張された画面データを用いて、MFP1の画面をリモート画面として生成し表示部204に表示させるものである。
なお、この実施形態では、画像表示アプリ221、表示画像生成アプリ222、JPEG展開アプリ223は、連携アプリで実現される機能の一部として構成されている。
次に、MFP1と携帯端末2を連携操作する場合の処理について説明する。
ユーザが携帯端末2をMFP1にネットワーク経由にて無線接続し、携帯端末2からMFP1をリモート操作しようとしている。携帯端末2とMFP1の連携操作は、ユーザーが携帯端末2にインストールされている連携アプリを起動することにより、開始される。
図4は、MFP1及び携帯端末2の各ソフトウェアの関係を示すものであり、左側にMFP1側のソフトウェアを、右側に携帯端末2のソフトウェアをそれぞれ示す。
携帯端末2の連携アプリは、携帯端末2のOSと汎用のソフトウェアであるアプリソフトの中間に位置しており、ユーザの操作情報、携帯端末2との送受信データ、携帯端末2側の画面データを取得することができ、必要に応じてこれらのデータをMFP1へ送信することができる。つまり、携帯端末2の連携ソフトは、アプリの呼び出し等の携帯端末2側でのユーザ操作受付処理、MFP1の操作画面表示用の画面データの受信・表示処理(携帯端末側操作画面処理)、連携操作関連処理等を実行する。連携操作関連処理としては、ユーザが操作部204bを介して行った操作の内容を示す操作情報のMFP1との通信等が挙げられる。
一方、MFP1の連携アプリは、MFP1側のOSやMFP1用のアプリソフトが全て自社設計/自社カスタマイズであって必要な情報をすべて得られる場合は、OS−アプリソフト間に位置しなくても良く、OSやアプリソフトと独立でありながら、OSやアプリソフトと通信することにより、必要な情報を入手してもよい。MFP1の連携アプリは、アプリの呼び出し等のMFP1側のユーザ操作受付処理、携帯端末2へのMFP側画面データの送信処理(MFP側操作画面処理)、連携操作関連処理等を実行する。連携操作関連処理としては、携帯端末2からの操作情報等の受信・実行処理等が挙げられる。
ユーザが携帯端末2の表示部204に表示された操作画面中のリモート操作アイコンを選択し、MFP連携を指示すると、携帯端末2の連携ソフトは、登録されているMFP1への通信を行い、MFP1の連携ソフトを呼び出し、画面データの取得を要求する。それにより、リモート操作モードが開始され、MFP1から初期画面の画面データが転送効率の向上のためJPEG等で圧縮された状態で携帯端末2に送信される。
携帯端末2は、受信したMFP側の画面データを表示部204aにリモート画面として表示する。携帯端末2の表示部204aの画面サイズがMFP1の表示部107bの画面サイズと異なる場合は、携帯端末2は自己の表示部204aの画面サイズに合わせて画面データを調整し表示する。
なお、携帯端末2での画面表示と同時に、同一の画面をMFP1の表示部105aに表示しても良いし、表示しなくても良い。
ユーザが携帯端末2に表示されているMFP1側の画面であるリモート画面をタッチ操作すると、タッチ操作が画面データの拡大・縮小を指示するジェスチャー操作であるか、通常のボタン操作であるかが判断される。そして、タッチ操作が画面データの拡大・縮小を指示するジェスチャー操作であると判断されると、指示された部位を拡大・縮小して表示部204aに表示する。
一方、通常のボタン操作であると判断されると、携帯端末2は操作部204b上のタッチ位置の座標データを操作情報としてMFP1に送信する。
MFP1は受信した座標データからなる操作情報を解析して、画面上のどのボタンが押されたかを判定し、そのボタン押下に対応する次画面データを生成して携帯端末2に送信し、あるいはボタン押下に対応するジョブ処理等を実行する。携帯端末2は受信した次画面データを表示部204bに表示して画面を更新する。
こうして、携帯端末2によってMFP1をリモート操作することができる。
ところで、携帯端末2に表示されたリモート画面に対してユーザによりなされた操作が、別ウィンドウからなるポップアップ部を表示させる操作である場合がある。
ポップアップ部は画面表示領域の有効活用のため、MFP1の機能設定を行う必要があるとき、例えば数値入力時等に表示される。図5は、このような数値入力時にポップアップ部400が表示される場合を示すものであり、MFP1の表示部107bに表示されている状態で示す。なお、どのような場面でポップアップ部301を表示させるかは限定されない。
図5(A)に示すように、表示部107bには、数値入力エリア300を有する画面D1が表示されている。この数値入力エリア300をユーザがタッチすると、同図(B)の画面D2に示すように、ポップアップ部400としてソフトテンキーからなる入力キーが表示される。なお、ソフトテンキーではなくソフトキーボード等の入力キーであっても良い。
ポップアップ部400は、MFP1の表示部107bにおいて、表示された数値入力エリア300の隠蔽を防ぎかつユーザの視線移動が少なく操作しやすい位置に配置されるように、予め設定されており、この実施形態では例えば数値入力エリア300の右側に配置される。
ユーザはポップアップ部400に表示された入力キーを用いて数値入力エリア300への数値入力が可能である。
図5では、ポップアップ部400がMFP1の表示部107bに表示される場合を示したが、リモート操作時には、同一の画面がリモート画面として携帯端末2の表示部204aに表示される。
ところが、ポップアップ部400を表示させるための操作が行われる前の画面(図5(A)の画面)が、携帯端末2側で拡大して表示されていた場合、ユーザがポップアップ部400を表示させるための操作を行ったとしても、ポップアップ部400が画面内に表示されない場合がある。これを図6で説明する。
図6(A)は、ユーザがピンチ操作による画像拡大操作を行って、画像が拡大された状態の画面D3を示しており、拡大された結果、表示部204aの表示領域にはリモート画面の一部が欠けた状態で表示されており、数値入力エリア300よりも右側の一部が表示領域から外れている。
図6(B)に示すように、ユーザが拡大された画面において数値入力エリア300をタッチすると、タッチ位置の座標データが操作情報としてMFP1に送信される。このとき、携帯端末2で画像が拡大されていることから、携帯端末2は現在の表示状態を示す拡大表示情報として、拡大率と中心座標を含む情報を操作情報と共にMFP1へ送信する。
MFP1は、操作情報に対応してポップアップ部400が表示された次画面データを生成する。生成された次画面データは、拡大されると数値入力エリア300よりも右側の一部が携帯端末2の表示部204aの表示領域から外れるが、図5(B)で示したように、ポップアップ部400は数値入力エリア300の右側に配置されるようにMFP1で予め設定されているから、このままでは図5(C)に破線×印で示すように、ポップアップ部400のもその全部あるいは一部が携帯端末2の表示部204aの表示領域から外れることになる。これでは、ユーザはポップアップ部400を認識することができない恐れがあり、また数値入力操作を行うこともできない。
そこで、この実施形態では、拡大後のポップアップ部400が携帯端末2の表示部204aに表示されるように、ポップアップ部400の表示位置を、例えば図6(C)の画面D4に示すように数値入力エリア300の左側に移動調整した状態で、次画面データを生成する。
これによって、画像拡大状態でポップアップ部400を携帯端末2に表示させることができ、ユーザはポップアップ部400を確実に認識でき、数値入力を行うことができる。
ポップアップ部400の表示位置の調整については、ポップアップ部400のサイズ、画面全体のサイズ、画面の隠蔽不可エリア、画面内の表示領域の優先度、の少なくともいずれかに基づいて、ポップアップ部400の表示可能領域を決定し、該決定した表示可能領域にポップアップ部400を配置する。
これらのポップアップ部400のサイズ、画面全体のサイズ、画面の隠蔽不可エリア、画面内の表示領域の優先度は、予め設定され記憶部106に記憶されている。
ポップアップ部400の表示可能領域の決定方法の一例を、図7を用いて説明する。
図7において、画面全体のサイズは800(横)×480(縦)dot、ポップアップ部400のサイズは200(横)×240(縦)dot、数値入カエリアのサイズは160(横)×60(縦)dotであり、数値入カエリアの中心が画面の中心に配置されている。
携帯端末2側で1.33倍に拡大されたとすると、画面左上を座標原点(0,0)として、元の画像の600(横)×360(縦)dotの部分が表示部204aに拡大表示され、画面の中心座標は(x,y)=(300,180)である。
ここで、数値入力エリア300がポップアップ部400で隠蔽されると、ユーザは入力された数値の確認を行えないため、数値入力エリア300をポップアップ部400で隠蔽することは好ましくない。また、拡大後の数値入力エリア300の右側には、120dot(横)の表示可能領域しか無く、ポップアップ部400を表示できない。
一方、数値入力エリア300の左側には拡大前と同様に320dot(横)の表示可能領域があるので、ポップアップ部400の表示が可能であり、このため数値入力エリア300の左側にポップアップ部400を配置する。さらに、ポップアップ部400の表示領域の優先度を加味する。ここでは、上下方向に表示可能領域が存在するためポップアップ部400を上下にずらして配置できるが、ユーザの視線移動を軽減するために、数値入力エリア300の中心線とポップアップ部400の中心線を同じとしている。
なお、図7の例では、数値入力エリア300の左側にポップアップ部400の表示可能領域が存在したが、数値入力エリア300の左側の領域サイズが小さい場合、例えば160dot(横)の場合、ポップアップ部400のサイズを例えば150(横)×180(縦)dotに縮小して配置してもよい。また、縦方向に領域が小さい場合等は、ポップアップ部400の形状を150(横)×150(縦)dot等のように変形させてもよい。
また、ポップアップ部400の表示位置を調整しても、画像拡大状態でポップアップ部400を携帯端末2の表示部204aに表示できない場合は、次画面データの送信と共に拡大率の変更を携帯端末2に通知しても良い。変更する拡大率はMFP1が決定する。この通知を受けた携帯端末2は、次画面データを通知された拡大率で拡大することにより、ポップアップ部400を確実に表示することができる。
また、ポップアップ部400の表示位置を調整しても、画像拡大状態でポップアップ部400を携帯端末2の表示部204aに表示できない場合は、画面スクロールの要求を携帯端末2に通知しても良い。スクロール量はMFP1が決定する。この通知を受けた携帯端末2は、通知されたスクロール量だけ画像拡大後の画面をスクロールして表示することにより、ポップアップ部400を確実に表示することができる。
また、ポップアップ部400の調整後の表示位置に隠蔽不可の画像が存在する場合は、ポップアップ部400を透過表示させることにより、隠蔽不可の背景画像とポップアップ部400のどちらも視認可能に構成するのが望ましい。
また、ユーザが携帯端末2で画像を拡大したことは、画像を見えやすくするためであると考えられることから、ポップアップ部400内の文字サイズを、画面中央部付近の最も小さい文字サイズに変更した上で、ポップアップ部400のサイズを極力小さくして、ポップアップの表示位置の調整の自由度を増大し、調整を容易にしても良い。サイズが変更されたポップアップ部400内の文字は、画像拡大後に、画面中央部付近の文字と同様の大きさに拡大表示され、見やすい大きさとなる。
なお、ポップアップ部400のサイズの変更、形状の変更、文字の変更等を任意に組み合わせて実行しても良い。
次に、リモートモードにおいて、MFP1と携帯端末2で実行されるリモート画面の表示処理動作を、図8のフローチャートを参照して説明する。なお、これらの動作はMFP1のCPU101及び携帯端末2のCPU201がそれぞれの動作プログラムに従って動作することにより実行される。
携帯端末2からの画面取得要求に基づいて、MFP1はステップS101で表示画面データを作成し、ステップS102で携帯端末2に転送する。
このとき転送する画面データは、画像形成装置において操作画面として表示部107bに表示する画面データに基づいて作成される。作成する画面データのファイル形式は、基本的には携帯端末2のOSやアプリケーションに対応した固有のものではなく、画像形成装置の操作部に表示する操作用の画面データをそのまま、JPEG、TIFF等のイメージデータの汎用的なファイル形式に変換したものである。
なお、MFP1では、図8のフローチャートに先だって、あるいは逐次、携帯端末2の表示部204aに表示している「リモート画面の表示状態を示す情報」を携帯端末2から受信している。
携帯端末2はステップS201で、受信した画面データに基づくリモート画面を表示部204aに表示する。
ユーザがポップアップ部400を表示させる操作を行うと、携帯端末2はステップS202で、操作部204bにおけるタッチパネル上の操作位置の座標データを取得し、ステップS203でその座標データを操作情報としてMFP1に通知する。
操作情報を受信したMFP1は、ステップS103で操作情報を解析し、通常の処理に従い、操作に応じたポップアップ部400を有する次画面データを生成する。そして、ステップS105で、生成した次画面データを携帯端末2に転送し、携帯端末2はステップS204で画面を更新する。
ここまでが、携帯端末2でリモート画面に対する画像拡大操作が行われていない状態で、ポップアップ部400を表示させる操作が行われたときの処理であり、通常の画面更新処理である。
次に、ユーザによりリモート画面に対して画像拡大操作がなされると、携帯端末2はステップS205で、画像を拡大する。
拡大後、リモート画面に対してユーザがポップアップ部400を表示させる操作を行うと、携帯端末2はステップS206で、操作部204bにおけるタッチパネル上の操作位置の座標データを取得し、ステップS207で、その座標データからなる操作情報と、画像の拡大率及び中心座標を含む拡大表示情報とをMFP1に通知する。
MFP1はステップS106で、操作情報を解析して、ユーザに視認させる必要のあるポップアップ部400を表示させる操作であるかどうかを判断する。さらに拡大表示情報から画像拡大状態での操作であることを認識する。ユーザに視認させる必要のあるポップアップ部400とは、数値入力等ユーザが次の操作で確実に使用(タッチ)するポップアップ部400である。ユーザに視認させる必要のないポップアップ部400については、ポップアップ部400の表示位置の調整を行うことなく前述したステップS104、ステップS204で説明した通常の処理を行う。ユーザに視認させる必要のあるポップアップ部400かどうかは、予め設定されている。
ユーザに視認させる必要のあるポップアップ部400については、ステップS107で、携帯端末2で次画面が拡大表示されたときにポップアップ部400も表示部204aの画面内に表示されるように、ポップアップ部400の次画面データ内での表示位置を調整し、さらにはポップアップ部400のサイズや形状の変更、文字サイズの変更、ポップアップ部400の透過表示の各必要性の有無を判断する。また、ポップアップ部400の表示位置を調整しても画像拡大状態でポップアップ部400を携帯端末2に表示できない場合の、拡大率の変更や画面スクロールの要求が必要であるかどうかも判断する。
そして、ステップS108で、上述したポップアップ部400の表示位置の調整結果や判断結果を反映して、次画面データを生成したのち、ステップS109で、携帯端末2に送信する。拡大率の変更や画面スクロールが必要である場合は、その旨の要求も併せて行う。
携帯端末2は次画面データを受信すると、ステップS208で、該次画面データの画像を前画面と同じ拡大率で拡大し、表示部204aに表示して画面を更新する。拡大率の変更や画面スクロールが要求されたときは、指定された拡大率で拡大しあるいは指定された量の画面スクロールを行い、ポップアップ部400を確実に表示部204aに表示する。
このように、この実施形態では、画像拡大状態でポップアップ部400が携帯端末2の表示部204aに表示されるように、MFP1によりポップアップ部400の表示位置が調整されるから、携帯端末2の表示部204aに拡大表示される次画面の表示領域内にポップアップ部400を確実に表示させることができる。従って、ユーザは表示領域外に隠れているポップアップ部400を表示するために、携帯端末2の画面をスクロール操作等する必要はなくなるとともに、ポップアップ部400が表示されていることを確実に認識することができ、操作性を向上することができる。
1 画像形成装置
2 携帯端末装置
101 CPU
102 ROM
104 スキャナ部
105 プリント部
106 記憶部
107 操作パネル部
107b 表示部
109 WIFIモジュール
111 USBインターフェース
201 CPU
202 RAM
203 記憶部
204a 表示部
204b 操作部
205 WIFIモジュール
207 USBインターフェース
209 連携部
300 数値入力エリア
400 ポップアップ部

Claims (14)

  1. 携帯端末装置に接続可能な接続手段と、
    前記接続手段により接続された携帯端末装置に、自装置操作用の画面データを送信する送信手段と、
    前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信手段と、
    前記受信手段により受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断手段と、
    前記受信手段により受信した操作情報に対応する次画面データを生成するとともに、前記受信手段により前記操作情報と拡大表示情報を受信し、かつ前記判断手段により、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成手段と、
    を備え、
    前記送信手段は、前記画面生成手段により生成された次画面データを前記携帯端末装置に送信することを特徴とする表示処理装置。
  2. 前記画面生成手段は、ポップアップ部のサイズ、画面全体のサイズ、画面の隠蔽不可エリア、画面内の表示領域の優先度、の少なくともいずれかに基づいて、ポップアップ部の表示可能領域を決定し、該決定した表示可能領域にポップアップ部を配置する請求項1に記載の表示処理装置。
  3. 前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部のサイズを変更する請求項1または2に記載の表示処理装置。
  4. 前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、ポップアップ部の形状を変更する請求項1〜3のいずれかに記載の表示処理装置。
  5. 前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、拡大率の変更を携帯端末装置に通知する請求項1〜4のいずれかに記載の表示処理装置。
  6. 前記画面生成手段は、ポップアップ部の表示位置を調整しても、画像拡大状態でポップアップ部を前記携帯端末装置の表示手段に表示できない場合は、画面のスクロールを携帯端末装置に要求する請求項1〜4のいずれかに記載の表示処理装置。
  7. 前記画面生成手段は、ポップアップ部の表示位置に隠蔽不可の画像が存在する場合は、ポップアップ部を透過表示させる請求項1〜3のいずれかに記載の表示処理装置。
  8. 前記画面生成手段は、ポップアップ部内の文字のサイズを変更する請求項3に記載の表示処理装置。
  9. 前記ポップアップ部には入力キーが表示される請求項1〜8のいずれかに記載の表示処理装置。
  10. 請求項1〜9のいずれかに記載の表示処理装置を備えた画像形成装置。
  11. 前記自装置操作用の画面は自装置の設定を行うための画面であり、前記ポップアップ部は設定値の入力に用いられる請求項10に記載の画像形成装置。
  12. 相互に接続可能な表示処理装置と携帯端末装置とを備えたリモート画面の表示処理システムであって、
    前記表示処理装置は、
    携帯端末装置に接続可能な接続手段と、
    前記接続手段により接続された携帯端末装置に、自装置操作用の画面データを送信する送信手段と、
    前記操作用画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信手段と、
    前記受信手段により受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断手段と、
    前記受信手段により受信した操作情報に対応する次画面データを生成するとともに、前記受信手段により前記操作情報と拡大表示情報を受信し、かつ前記判断手段により、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成手段と、
    を備え、前記送信手段は、前記画面生成手段により生成された次画面データを前記携帯端末装置に送信し、
    前記携帯端末装置は、
    前記表示処理装置から送信された画面データを受信する受信手段と、
    前記画面データに基づく表示処理装置側のリモート画面を表示する表示手段と、
    前記リモート画面に対してユーザにより操作がなされると操作情報を表示処理装置に送信するとともに、画面が拡大された状態でリモート画面に対してユーザ操作がなされたときには、操作情報と拡大された表示状態を示す拡大表示情報を表示処理装置に送信する送信手段と、
    を備えていることを特徴とするリモート画面の表示処理システム。
  13. 携帯端末装置と接続手段により接続された表示処理装置において実行されるリモート画面の表示処理方法であって、
    前記携帯端末装置に自装置操作用の画面データを送信する送信ステップと、
    前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信ステップと、
    前記受信ステップにおいて受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断ステップと、
    前記受信ステップにおいて受信した操作情報に対応する次画面データを生成するとともに、前記受信ステップにおいて前記操作情報と拡大表示情報を受信し、かつ前記判断ステップにおいて、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成ステップと、
    を備え、
    前記送信ステップでは、前記画面生成ステップにおいて生成された次画面データを前記携帯端末装置に送信することを特徴とするリモート画面の表示処理方法。
  14. 相互に接続可能な表示処理装置と携帯端末装置とを備えたリモート画面の表示処理システムにおいて実行されるリモート画面の表示処理方法であって、
    前記表示処理装置は、
    前記携帯端末装置に自装置操作用の画面データを送信する送信ステップと、
    前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示した携帯端末装置から、前記リモート画面に対してユーザによりなされた操作を示す操作情報を受信するとともに、画面が拡大された状態で一部が欠けて表示された前記リモート画面に対してユーザ操作がなされたときには、携帯端末装置から操作情報と拡大された表示状態を示す拡大表示情報を受信する受信ステップと、
    前記受信ステップにおいて受信した前記操作情報で示される操作が、ポップアップ部を表示させる操作であるかどうかを判断する判断ステップと、
    前記受信ステップにおいて受信した操作情報に対応する次画面データを生成するとともに、前記受信ステップにおいて前記操作情報と拡大表示情報を受信し、かつ前記判断ステップにおいて、前記操作情報で示される操作がポップアップ部を表示させる操作であると判断された場合には、前記拡大表示情報に基づく画像拡大状態でポップアップ部が前記携帯端末装置の表示手段に表示されるように、ポップアップ部の表示位置を調整して次画面データを生成する画面生成ステップと、
    を実行し、前記送信ステップでは、前記画面生成ステップにおいて生成された次画面データを前記携帯端末装置に送信し、
    前記携帯端末装置は、
    前記表示処理装置から送信された画面データを受信する受信ステップと、
    前記画面データに基づく表示処理装置側のリモート画面を表示手段に表示するステップと、
    前記リモート画面に対してユーザにより操作がなされると操作情報を表示処理装置に送信するとともに、画面が拡大された状態でリモート画面に対してユーザ操作がなされたときには、操作情報と拡大された表示状態を示す拡大表示情報を表示処理装置に送信するステップと、
    を備えていることを特徴とするリモート画面の表示処理方法。
JP2012281840A 2012-12-25 2012-12-25 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法 Active JP5696721B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012281840A JP5696721B2 (ja) 2012-12-25 2012-12-25 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法
EP13197388.5A EP2750029B1 (en) 2012-12-25 2013-12-16 Display processing apparatus, image forming apparatus, display processing system of a remote screen, and display processing method
US14/135,773 US9247082B2 (en) 2012-12-25 2013-12-20 Display processing apparatus, image forming apparatus, display processing system of a remote screen, and display processing method
CN201310722196.0A CN103905683B (zh) 2012-12-25 2013-12-24 显示处理装置、图像形成装置、远程画面的显示处理***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012281840A JP5696721B2 (ja) 2012-12-25 2012-12-25 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法

Publications (2)

Publication Number Publication Date
JP2014126955A JP2014126955A (ja) 2014-07-07
JP5696721B2 true JP5696721B2 (ja) 2015-04-08

Family

ID=50002409

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012281840A Active JP5696721B2 (ja) 2012-12-25 2012-12-25 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法

Country Status (4)

Country Link
US (1) US9247082B2 (ja)
EP (1) EP2750029B1 (ja)
JP (1) JP5696721B2 (ja)
CN (1) CN103905683B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6180994B2 (ja) * 2014-05-20 2017-08-16 京セラドキュメントソリューションズ株式会社 画像形成装置
JP6557457B2 (ja) * 2014-07-25 2019-08-07 クラリオン株式会社 画像表示システム、画像表示方法、及び表示装置
JP6439439B2 (ja) * 2014-12-24 2018-12-19 株式会社リコー 情報処理装置、画像処理装置、プログラム、ユーザインタフェース
JP7163667B2 (ja) * 2018-08-24 2022-11-01 富士フイルムビジネスイノベーション株式会社 情報処理装置およびプログラム
US20210243332A1 (en) * 2020-02-04 2021-08-05 Toshiba Tec Kabushiki Kaisha System and method for processing cost accounting for multiple device functions
JP7458941B2 (ja) * 2020-09-01 2024-04-01 シャープ株式会社 情報処理装置
JP2023018906A (ja) * 2021-07-28 2023-02-09 キヤノン株式会社 情報処理装置とその制御方法及びプログラム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002040880A (ja) * 2000-07-31 2002-02-06 Kyocera Mita Corp ユーザーインターフェース用表示装置
KR20020089744A (ko) * 2001-05-24 2002-11-30 삼성전자 주식회사 팩스 데이터의 선택적 인쇄가 가능한 팩시밀리 겸용프린터 및 팩스 데이터의 선택적 인쇄방법
JP2004005582A (ja) 2002-04-17 2004-01-08 Matsushita Electric Ind Co Ltd 通信制御システムと画像転送プログラムを格納した記憶媒体
JP3941624B2 (ja) * 2002-07-30 2007-07-04 コニカミノルタビジネステクノロジーズ株式会社 ファイル保存装置
KR20040060361A (ko) * 2002-12-30 2004-07-06 삼성테크윈 주식회사 기능이 서로 보완된 디지털 카메라 및 휴대용 디지털 기기
JP4381761B2 (ja) * 2003-09-26 2009-12-09 キヤノンソフトウェア株式会社 表示制御装置および表示制御方法およびプログラムおよび記録媒体
JP2006039469A (ja) 2004-07-30 2006-02-09 Kyocera Mita Corp 表示装置、画像形成装置
JP2006067116A (ja) * 2004-08-25 2006-03-09 Canon Inc 情報処理システムのデータ処理方法、情報処理システム、記憶媒体、プログラム
US7730157B2 (en) * 2005-02-03 2010-06-01 The Trustees Of Columbia University In The City Of New York Methods, media, and systems for displaying information on a thin-client in communication with a network
US8495514B1 (en) * 2005-06-02 2013-07-23 Oracle America, Inc. Transparency assisted window focus and selection
JP4806625B2 (ja) * 2006-02-20 2011-11-02 株式会社リコー 画像処理装置、画像処理方法、画像処理プログラム及び画像処理システム
JP2008276693A (ja) * 2007-05-07 2008-11-13 Konica Minolta Business Technologies Inc 画像形成装置及びプログラム
US10091345B2 (en) * 2007-09-04 2018-10-02 Apple Inc. Media out interface
US20090158152A1 (en) * 2007-12-12 2009-06-18 Kodimer Marianne L System and method for generating context sensitive help for a graphical user interface
JP2010026629A (ja) * 2008-07-16 2010-02-04 Casio Comput Co Ltd サーバ装置、クライアント装置、サーバベース・コンピューティング・システム、サーバ制御プログラム、クライアント制御プログラム
JP5109854B2 (ja) * 2008-07-28 2012-12-26 富士通株式会社 表示制御プログラム、方法及び装置
JP5097680B2 (ja) * 2008-10-29 2012-12-12 京セラ株式会社 携帯電子機器
JP4783447B2 (ja) 2009-04-02 2011-09-28 株式会社エヌ・ティ・ティ・ドコモ 表示制御装置及び表示制御方法
US20100268762A1 (en) * 2009-04-15 2010-10-21 Wyse Technology Inc. System and method for scrolling a remote application
EP2410422A4 (en) * 2009-04-21 2012-09-12 Digital Electronics Corp SERVER DEVICE, SERVER CLIENT SYSTEM, SERVER PROGRAM AND RECORDING MEDIA WITH THE PROGRAM RECORDED THEREFROM
CN101976173A (zh) * 2010-11-24 2011-02-16 广州市久邦数码科技有限公司 一种用于嵌入式触摸屏虚拟键盘上的多语言混合输入方法
JP5725604B2 (ja) * 2010-12-28 2015-05-27 シャープ株式会社 表示装置、電子機器、及び機器制御システム
US20120192078A1 (en) * 2011-01-26 2012-07-26 International Business Machines Method and system of mobile virtual desktop and virtual trackball therefor
JP5786828B2 (ja) 2012-08-29 2015-09-30 コニカミノルタ株式会社 表示装置、表示装置の制御方法、および表示装置の制御プログラム

Also Published As

Publication number Publication date
EP2750029B1 (en) 2019-09-18
EP2750029A1 (en) 2014-07-02
CN103905683A (zh) 2014-07-02
US20140185090A1 (en) 2014-07-03
JP2014126955A (ja) 2014-07-07
US9247082B2 (en) 2016-01-26
CN103905683B (zh) 2017-01-04

Similar Documents

Publication Publication Date Title
JP5720661B2 (ja) 携帯端末装置、画像処理連携システム、画面データの表示方法及び表示プログラム
JP5696721B2 (ja) 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法
JP5776725B2 (ja) 画像処理連携システム、携帯端末装置、画像処理連携方法及び画像処理連携プログラム
JP5765366B2 (ja) 画像処理装置、携帯端末装置、リモート画面データの作成プログラム及び表示制御プログラム
US9875433B2 (en) Linkage system and linkage method for image processing, portable terminal device, and image processing linkage program
JP6170452B2 (ja) 画像処理装置及びそれを含むシステム
US10356258B2 (en) Image processing system performing screen data selection, image processing device, terminal device and non-transitory readable recording medium
JP2014035723A (ja) 画像処理装置、画像処理装置の制御プログラム、および画像処理システム
JP6418258B2 (ja) 画像処理装置及びリモート画面制御プログラム
JP6252028B2 (ja) 画像処理システム、画像処理装置及びリモート画面の表示制御プログラム
US10282816B2 (en) Non-transitory storage medium storing instructions, mobile terminal, and image processing apparatus
JP5907002B2 (ja) 画像処理連携システム、画像処理装置及び携帯端末装置
JP5692541B2 (ja) 画像処理連携システム、連携方法、携帯端末装置及び連携プログラム
JP6089702B2 (ja) 画像処理装置、画面データの生成方法、及びプログラム
JP6107246B2 (ja) 画像処理装置、画像処理装置の制御方法、および画像処理装置の制御プログラム
JP6191470B2 (ja) 画像処理システム、画像処理装置及び携帯端末装置
JP6160194B2 (ja) 画像形成システム、外部端末およびプログラム
US10785376B2 (en) Image processing apparatus for sending user interface data
JP6127800B2 (ja) 画像処理システム、リモート画面の表示制御方法、携帯端末装置及びリモート画面の表示制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150126

R150 Certificate of patent or registration of utility model

Ref document number: 5696721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150