JP4361080B2 - 画像データを生成するための方法、プログラム、および装置 - Google Patents

画像データを生成するための方法、プログラム、および装置 Download PDF

Info

Publication number
JP4361080B2
JP4361080B2 JP2006320885A JP2006320885A JP4361080B2 JP 4361080 B2 JP4361080 B2 JP 4361080B2 JP 2006320885 A JP2006320885 A JP 2006320885A JP 2006320885 A JP2006320885 A JP 2006320885A JP 4361080 B2 JP4361080 B2 JP 4361080B2
Authority
JP
Japan
Prior art keywords
sub
client
image
server
regions
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006320885A
Other languages
English (en)
Other versions
JP2008134853A (ja
Inventor
良典 田中
光司 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2006320885A priority Critical patent/JP4361080B2/ja
Priority to CN2007101869781A priority patent/CN101192138B/zh
Priority to US11/942,842 priority patent/US8026928B2/en
Publication of JP2008134853A publication Critical patent/JP2008134853A/ja
Application granted granted Critical
Publication of JP4361080B2 publication Critical patent/JP4361080B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4092Image resolution transcoding, e.g. by using client-server architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/14Solving problems related to the presentation of information to be displayed
    • G09G2340/145Solving problems related to the presentation of information to be displayed related to small screens
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00Solving problems of bandwidth in display systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Digital Computer Display Output (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)

Description

本発明は、クライアントで表示するための画像データをサーバで生成する技術に関する。 特に、携帯電話や携帯情報端末等の画像表示機能に制限があるクライアントへ転送するデータ量を削減し、かつクライアントにおける効率的なユーザー・インターフェースを実現できるような、クライアントで表示するための画像データを、サーバ側において生成するための方法、コンピュータ・プログラム、および装置に関する。
昨今、サーバ・コンピュータおよびその周辺装置等より構成されるサーバ・システム(以後単にサーバと呼ぶ。)に、インターネットやイントラネット(社内LANを含む)などのネットワークを介してクライアント(クライアント装置、クライアント・コンピュータ等)が接続された、ネットワーク・ベースのコンピュータ・システム環境が広く利用されている。 特に、携帯電話や携帯情報端末(PDA)などの普及により、これらの機器をクライアントとして用いて、サーバを遠隔操作できるようにする態様についても一般的となってきている。
図1は、携帯電話や携帯情報端末等をクライアントとして用いる一般的なネットワーク・ベースのコンピュータ・システム環境100を表す。 この図のように、サーバ102が、企業または団体のローカルなネットワークであるイントラネット104内に存在するような場合には、このイントラネットとインターネット等の外部のネットワーク106との間には、外部からの不正アクセスを防ぐファイアウォール108を備えたゲートウェイ110という装置が存在するため、外部のネットワーク環境下のクライアント112、114からサーバ102にアクセスして遠隔操作等をおこなうには必ずゲートウェイ110にアクセスする必要がある。
携帯電話等のクライアントとゲートウェイとの間の通信は一般にHTTP(HyperText Transfer Protocol)のプロトコルに従って行われるので、クライアントからサーバの遠隔操作を行うには、操作対象となるサーバのディスプレイに表示される画像の内容をクライアント側でも表示してサーバの状況を知る必要がある。 即ち、遠隔操作のための一連の操作を行うためには、クライアントが取得した、サーバのディスプレイに表示された画像の内容に基づいて、以後の操作を行う必要がある。
ところが、このサーバのディスプレイに表示された画像は、クライアント側でリアルタイムにユーザが観察できるものではなく、サーバから取得したその時点の静的な画像のみを観察できるものであるので、取得したその画像の情報からのみでは前回の状態からの画面の変化の様子を容易に判別することができない場合が多い。
また、携帯電話や携帯情報端末の表示画面は限られた大きさしか持たない(即ち、表示のための総画素数がサーバのディスプレイと比べてはるかに少ない)ので、操作対象のサーバのディスプレイに表示された画像の全体を、携帯電話等の限られた大きさの表示画面に表示しようとすると、元来サーバでは多くの画素を用いて表現されている画像をより少ない画素で表現しなければならないため、必然的にこの携帯電話等に表示される画像の解像度は粗くなる。 クライアントの表示画面に表示されるこの解像度の粗い画像をユーザーが観察したとしても、以後のサーバの操作のための正確な状況判断をすること(例えば、次にどの部分をクリックするべきか等)は極めて困難である。
これとは逆に、この限られた大きさの表示画面に、操作対象のサーバのディスプレイに表示された画像と同じ画素解像度で画像を表示させる場合には、携帯電話等の表示画面にはサーバのディスプレイに表示された画像全体のうちの一部の画像しか表示できず、画像全体の見通しが悪いという点でユーザーの操作性や操作効率の観点から好ましくない。 またこの場合、特に当該携帯電話等がフル・ブラウザ機能を有している場合などは、この一部の画像のデータだけでなく、その周辺部分を含めた広範囲の画像のデータをサーバからクライアントの画像バッファ等に一時に取り込んでおくことで、クライアントの表示画面における画面スクロールを容易に行うことができる。 この場合、上記広範囲の画像としてサーバの表示画面全体の画像のデータを転送する場合は、サーバからクライアントへ転送されるデータ量が膨大となり、ネットワークの通信コストや、操作に対する応答速度(パフォーマンス)の観点からも好ましくない。
このように携帯電話等の表示画面のサイズが小さいクライアントからサーバに対する遠隔操作を効率的に行う手法については従来技術が存在する。 特開2002−111893号公報には、携帯電話等の携帯通信端末(即ち、クライアント)によって、GUI(Graphical User Interface)環境下にある外部のコンピュータ(即ち、サーバ)を遠隔操作するための方法等についての発明が記載されている。 即ち、携帯通信端末からの操作に応答して、外部のコンピュータの画面上に表示される各GUI部品を検出し、その解析結果に基づいて当該GUI部品を携帯通信端末で表示しやすいようにテキストなどに変換し、変換したそのデータを携帯通信端末に送信することで、表示機能等が限られた携帯通信端末から、GUI環境のコンピュータを、両者の間の通信コストを大幅に削減しながら遠隔操作できるようにする技術について開示されている。
しかし、この方法は、GUI環境下のサーバをクライアントから遠隔操作できることのみを目的としているので、サーバ側で表示されるGUI画像が全くそのままの形でクライアント側に表示されるものではない。 また、サーバの表示画面の状態やその変化を検出すると言っても、それは、画面解析部と画面変化検出部とが、表示されるアイコンの名前や表示位置等の情報を、API(Application Programming Interface)等を介してオペレーティング・システムから得ているだけであるので、例えば、アクティブではないウィンドウについての画面変化を検出することはできないし、また、アクティブなアプリケーションのウィンドウであっても、その中の表示がどのように変わったかまでは詳細には検出できない。
特開2002−111893号公報
そこで本発明は、携帯電話等の限定された表示機能しか持たないクライアントからサーバを遠隔操作する場合における現行の上記課題を解決し、当該クライアント側でもサーバ側と同様のGUIベースの画像を維持したまま、かつ、サーバから転送されるデータ量を最小限に抑えながら、ユーザーがサーバのディスプレイに表示された画像の状態の変化を容易に認識して次に行う操作のための判断を効率的に行えるような、遠隔操作のためのユーザー・インターフェースを実現することをその主たる目的とする。
この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
上記課題を解決するために、本発明の第1の形態においては、ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示される画像を制御する方法であって、(1) 前記サーバによる動作を求める操作コマンドを前記クライアントから受け取ったことに応答して、前記サーバにおける表示画面を複数のサブ領域へ分割する分割態様を設定するステップであって、当該分割態様は、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して設定される、ステップと、 (2)前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、前記操作コマンドに対する前記サーバによる前記動作の完了前と完了後とでの当該サブ領域に表示される画像の変化の程度を算出するステップと、(3)状況表示のための画像のデータを生成するステップであって、当該状況表示のための画像は、前記複数のサブ領域の相対的位置関係を表す画像と、前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された前記変化の程度を表す画像とを含む、ステップと、(4)前記状況表示のための画像の前記データを、前記クライアントの表示部に表示されるように、前記クライアントに送信するステップとを備える方法を提供する。 また、当該方法をサーバに実行させるコンピュータ・プログラム、および当該方法を実施することができる、サーバ内の装置を提供する。
また、本発明の第2の形態においては、ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示される画像を制御する方法であって、(1)前記クライアントからの操作コマンドを受け取ったことに応答して、当該操作コマンドの内容を解析するステップと、(2)解析された前記コマンドが前記表示画面の表示内容を変更させるものでない場合には、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して分割態様を設定し、解析された前記コマンドが前記表示画面の表示内容を変更させるものである場合には、変更された表示内容に応じて定まる新たな分割態様を設定する、ステップと、(3)前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、前記操作コマンドに対する前記サーバによる前記動作の完了前と完了後とでの当該サブ領域に表示される画像の変化の程度を算出するステップと、(4)状況表示のための画像のデータを生成するステップであって、当該状況表示のための画像は、前記複数のサブ領域の相対的位置関係を表す画像と、前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された前記変化の程度を表す画像とを含む、ステップと、(5)前記状況表示のための画像の前記データを、前記クライアントの表示部に表示されるように、前記クライアントに送信するステップとを備える方法を提供する。 また、当該方法をサーバに実行させるコンピュータ・プログラム、および当該方法を実施することができるサーバ内の装置を提供する。
なお、上記に示した発明の概要は、本発明として必要な特徴の全てを列挙したものではなく、これら複数の発明の特徴の一部からなる組み合わせについてもまた、発明となり得るものである。
本発明によれば、携帯電話等の限定された表示機能しか持たないクライアントからサーバを遠隔操作する場合に、クライアント側でもサーバ側と同じGUIベースの画像を維持したまま、かつ、サーバから転送されるデータ量を最小限に抑えながら、ユーザーがサーバのディスプレイに表示された画像の状態の変化を容易に認識して次に行う操作のための判断を効率的に行えるような遠隔操作のためのユーザー・インターフェースを実現することができる。
以下、添付図面を参照して、本発明を実施するための最良の形態(以下、実施形態)について詳細に説明する。なお、実施の形態の説明の全体を通じて同じ要素には同じ番号を付している。
図2は、図1に示した、携帯電話等をクライアントとして用いる一般的なネットワーク・ベースのコンピュータ・システム環境において本発明を実施するのに好適なサーバ102の詳細なハードウェア構成の典型的な例を示した図である。
この構成では、当該サーバ102の全体の制御をつかさどるプロセッサ202(中央処理装置、CPU、メイン・プロセッサ等と呼ぶこともある。)の直近にメモリ・コントローラ・ブリッジ204(メモリ・ブリッジ、第1のブリッジ、ノース・ブリッジ等と呼ぶこともある。)が接続され、当該メモリ・コントローラ・ブリッジ202にはメイン・メモリ204(メモリ、主記憶等と呼ぶこともある。)およびグラフィックス・コントローラ206が直接接続され、主に高速性が要求される処理を行う。
グラフィックス・コントローラ206 はディスプレイ208(ディスプレイ装置、表示装置と呼ぶこともある。)に表示されるべき画像データの生成および制御を行う。 フレーム・バッファ・メモリ210(フレーム・バッファ、ビットマップ・メモリ、画像メモリ、グラフィックス・メモリ等と呼ぶこともある。)は、ディスプレイ装置208に表示するべき画像の少なくとも1フレーム分の画像データをバッファリングする(即ち、蓄える)ことのできるメモリであり、グラフィックス・コントローラ206の制御の下、少なくとも1フレーム分を表示するための画像データが当該フレーム・バッファ・メモリ210に描画される。 ディスプレイ・インターフェース212は、フレーム・バッファ・メモリ210に描画された画像データを読み出して、当該データをディスプレイ装置208との間のインターフェース214に適合する信号フォーマットに変換して、ディスプレイ装置208で表示されるように転送する。
尚、図2の例では、フレーム・バッファ210は、グラフィックス・コントローラ206に直接に接続され、メイン・メモリ204からは独立した存在となっているが、UMA(Unified Memory Architecture)に代表されるように、メイン・メモリの一部をフレーム・バッファ・メモリとして割り当てる構成とすることもできる。
メモリ・コントローラ・ブリッジ204からはまた、PCIローカル・バス216などのバスを介して、I/Oコントローラ・ブリッジ218(I/Oブリッジ、第2のブリッジ、サウス・ブリッジ等と呼ぶこともある。)が接続され、当該I/Oコントローラ・ブリッジ218にはストレージ・コントローラ220(IDEコントローラ、SCSIコントローラ、等)を介してハードディスク・ドライブ222(HDD、ハードディスク、ハードディスク・ストレージ、固定記憶装置等と呼ぶこともある。)、DVD 224、CDROM 226、MO 228等の大容量記憶装置が接続され、ここに本発明を実施させるのに必要なオペレーティング・システム230、およびオペレーティング・システム230と協働してプロセッサ202等に命令を与えて本発明を実施させるための、アプリケーション・ソフトウェア232等のコンピュータ・プログラムを記憶する事ができる。 コンピュータ・プログラムはメインメモリ204にロードされることによって実行される。コンピュータ・プログラムは圧縮し、また複数に分割して複数の媒体に記録することもできる。
I/Oコントローラ・ブリッジ218にはまた、キーボード/マウス・コントローラ234が接続され、キーボード236やマウス238のような入力デバイスからの入力を受ける。 I/Oコントローラ・ブリッジ218にはこの他に、各種の外部バス・インターフェース240〜244が接続される。 外部バス・インターフェース240には、別のサーバ246が通信可能に接続され、当該サーバ246を構成するハードディスク・ドライブ248に上記コンピュータ・プログラムの全部または一部を保管させることもまた可能である。 さらに、外部バス・インターフェース242を介して図1のイントラネット104に接続することができ、これによって図1に示したゲートウェイ110を介して携帯電話等のクライアント112とサーバ102との間の通信が可能となる。
サーバ102の大容量記憶装置に記憶され、その全体的な動作を司るオペレーティング・システム230としては、マイクロソフト・コーポレーションが提供するWindows(R)オペレーティング・システム、アップル・コンピュータ・インコーポレイテッドが提供するMacOS(R)、X Window Systemを備えるUNIX(R)系システムといった、GUI(Graphical User Interface)をサポートするオペレーティング・システムを採用する。 UNIX(R)系システムには、例えば、インターナショナル・ビジネス・マシーンズ・コーポレーションが提供するAIX(R)あるいはLinux(R)等がある。
以上の説明により、本発明を実施するのに好適なサーバ102は、通常のパーソナル・コンピュータ、ワークステーション、メインフレーム等の情報処理装置、または、これらの組み合わせによって実現されることが容易に理解されるであろう。 ただし、図2に示したサーバの各構成要素は例示であり、そのすべての構成要素が本発明の必須構成要素となるわけではない。 また、本発明を実施するに際して、複数のサーバを組合せ、それらに上記の各構成要素を機能的に配分して実施する等の種々の変更は、当業者によって容易に想定され得ることは勿論である。それらの変更は、当然に本発明の思想に包含される概念である。
以上のシステム環境の下で、本発明の実施形態について以下に説明する。
図3〜図5は、本発明の第1の実施形態に基づいてサーバ102において行われる処理と、これに対応した、携帯電話等のクライアントにおける表示画面の状態を表したものである。 また、図6は、本発明の第1の実施形態に係る処理手順の流れを示す図である。
図3(a)は、ある時点でのサーバ102のディスプレイ208の表示画面の状態を表す。 デスクトップ上に複数のアイコンのみが表示されており、その他のアクティブまたは非アクティブなウィンドウは一切表示されていない。 なお、図3(a)の破線302、304は、後述する、クライアント114のための分割態様が現時点でどのように設定されているかを概念的に示した分割線で、このような破線が実際にディスプレイ208に表示されている訳ではない。
図3(b)は、サーバ102にネットワークを介して接続された携帯情報端末型のクライアント114の、この時点での表示画面306の状態を表す。 クライアント114の表示画面306は2つの部分に分割されており、下部の状況表示部308には、サーバ102のディスプレイ208の表示画面全体を図3(a)に示す領域A 310から領域D 316の4つのサブ領域に分割して処理をしていることを示すA 320〜D 326の4つの枠付きの矩形図形が表示される。 上部の操作画面部330には、サーバ102のディスプレイ208の表示画面全体のうちの領域A 310の部分に相当する画像が表示されており、これに対応して、状況表示部308では、4つの矩形図形のうちのA 320のみを、外枠および/または背景面の色調を他の3つと異なるものにすることで、操作画面部330に表示されているのが領域A 310の画像であることをユーザーが容易に分かるようにしている。
以下、図6の処理手順に従って、本発明の第1の実施形態に基づいたサーバ102の動作について述べる。 サーバ102はクライアント114から、当該サーバの何らかの動作を求める操作コマンドが送られてくるのを待ち受ける(ステップS602)。 何らかの動作としては、例えば、アプリケーションのアクティブなウィンドウをデスクトップに表示すること等がある。 クライアント114のユーザーが、操作画面部330に表示されたアイコンの1つをクリックするなどしてサーバ102に対する操作を指示すると、当該操作に対応する操作コマンドがサーバ102に送信される。 サーバ102は当該操作コマンドを受け取ると、それに応答して、先ずそのコマンドの付随情報を読み取る等して、そのコマンドの送信元、即ちそのコマンドがどのクライアントから発行されたものかを識別する(ステップS604)。
さらにサーバ102は、メイン・メモリ204等にテーブル等の形式で予め記憶されている、当該クライアント114に対応する分割態様の候補値を読み出して選択し、クライアント114からの操作コマンドに対してこれから行うクライアント114のための画像生成などの処理に際して採用するべき分割態様として設定する(ステップS606)。
「分割態様」とは、本発明の実施形態に基づいてサーバ102の表示画面全体をいくつかのサブ領域に論理的に分割して、分割された各サブ領域に係る画像データを当該サブ領域毎に処理して、クライアント114に表示するための画像データを生成してクライアント114に転送する場合における、その分割のし方のことである。 典型的には、分割態様は、表示画面全体をいくつのサブ領域に分割するかを示す分割数と、分割されたサブ領域の各々が表示画面全体に占める位置、大きさ、および形状とを表す情報のことであるが、これ以外の情報を含めて捉えることもできる。
サーバ102には一般に複数のクライアントを通信可能に接続することができる。 したがって、接続されたこれらクライアントの各々が、サーバ102に対して操作コマンドを送信することが考えられ、その際、これら操作コマンドを送信したクライアントのためにサーバ102が行う処理に際して採用するべきの分割態様については、クライアント毎に別々の態様を設定できるようにすることが望ましい。 これを可能とするため、サーバ102に接続可能な複数のクライアントのそれぞれに対して、分割態様の候補値、言い換えれば、各クライアントが希望する分割態様値、を対応付けて構成された、「分割態様テーブル」を、サーバ102のメイン・メモリ204または他の記憶装置内に記憶する。
図7は、サーバ102内に備える分割態様テーブルの一例を概念的に表したものである。 分割態様テーブル702によれば、クライアント114に対する分割態様の候補値として、縦横2x2の均等分割、即ち4つの矩形サブ領域への分割で、各サブ領域は大きさが均等で、縦横に2x2の田の字型に隣接したもの、が記録されている(エントリ704参照。)。 尚、このような分割態様の表現は、意味を把握し易くするために便宜的に用いているもので、実際に分割態様テーブル702に記録される分割態様の候補値は、例えば、ディスプレイ208の表示画面における、各サブ領域を表す矩形の4つの頂点に相当する画素についての、画素・ベースのX−Y直交2次元座標値とすることができる。 これは即ち、表示画面の左上の画素の座標を(X,Y)=(0,0)とし、右方向にX座標値、下方向にY座標値を画素単位で増加させて、各画素の座標を表すものである。
この各分割態様の候補値は、初期値として最初はそれぞれある値が記録されており、その後の任意の時点で、各クライアントからの変更(即ち、書き換え)要求に応じて、そのクライアントのための分割態様の候補値を再記録することができる。 即ち、この再記録は、図6の各手順とは無関係に、任意の時点で行うことができる。
分割態様テーブル702にこのような値が記録されている場合、サーバ102はステップS606において、当該テーブル702内のクライアント114についてのエントリ704から、クライアント114に対応する分割態様の候補値として「縦横2x2の均等分割」が記録されていることを読み出して(即ち、選択して)、クライアント114からの操作コマンドに対してこれから行うクライアント114のための処理に際して採用するべき分割態様、即ち、クライアント114のための分割態様として設定する。
今、クライアント114からの操作コマンドが、あるアプリケーションを起動してそのアプリケーションに係るアクティブなウィンドウをデスクトップ上に表示するものであるとする。 図4(a)は、このアプリケーションのウィンドウを表示する動作がおこなわれた後のサーバ102のディスプレイ208の表示画面の状態を表す。 デスクトップの中央部やや左下にこのアプリケーションに係るアクティブなウィンドウ402が表示されている。 なお、図4(a)の破線404、406は、クライアント114のための処理における分割態様として「縦横2x2の均等分割」を設定したことを概念的に示した分割線で、このような破線が実際にディスプレイ208に表示される訳ではない。
次に、サーバ102は、ステップS606で設定した分割態様に基づく各サブ領域について、当該操作コマンドに対するサーバ102による動作が行われた後のサーバ102のディスプレイ208の表示画面の状態(図4(a)参照)が、当該動作を行う前の表示画面の状態(図3(a)参照)からどの程度変化したかを表す「変化の程度」を算出する(ステップS608)。 変化の程度としては、例えば、各サブ領域を構成する全画素数のうち、上記動作によってその値が変更させられた画素数の割合(%)とすることができる。 今、クライアント114からの操作コマンドに対するサーバ102による動作の結果、デスクトップ上にアクティブなウィンドウ402が1つ表示され、図4(a)の領域A 410については右下の40%の面積が当該ウィンドウによって置き換わっているので、40%という数値が算出される。 同様に、領域B 412〜領域D 416についてもそれぞれ30%、60%、45%という数値が算出される。
尚、サーバ102において上記変化の程度を算出するための具体的な手法については、様々な既知の手法が存在する。 例えば、クライアント114からの操作コマンドに対する動作の結果がディスプレイ208に表示されるために図2のフレーム・バッファ・メモリ210の内容が書き換えられるが、この書き換えられる画素の数をサブ領域毎に積算し、各サブ領域の総画素数に対する比を求めることによって算出できる。 この他にもいくつかの手法が存在するが、これら手法については既知の事項であるので、詳細な説明はしない。
続いてサーバ102は、各サブ領域の相対的位置関係を視覚的に認識できる図形と、ステップS608において算出された各サブ領域の変化の程度を表す値を視覚的に認識できる図形とを含む、状況表示のための画像をクライアント114の表示画面306の状況表示部308で表示できるようにするため、当該状況表示のための画像のデータを生成する(ステップS610)。 図5は、ステップS610で生成された状況表示のための画像の様子を表す。 ステップS606で設定された分割態様は、縦横2x2の均等分割であるので、4つの矩形図形A 520〜D 526を縦横2x2に隣接させて並べた図形が生成される。 さらに、各サブ領域についてステップS608で算出した数値をパーセント表示で表す文字列図形530〜536が、対応するそれぞれの矩形図形の中に重ね合わせて生成される。 また、算出された数値が最も大きいサブ領域である領域C 414に係る矩形図形C 524についてのみ、その外枠および/または背景面の色調を他の3つとは異なるものとする。(以上、図5(a)参照。)
尚、変化の程度を表す数値を視覚的に認識できる図形としては、上記のパーセント表示の文字列図形の他にもさまざまな形態をとることができることは言うまでも無い。 例えば、算出した数値に応じて、対応する矩形図形の背景面の色調を変えるようにしても良い(図5(b)参照。)。 色調を変えるとは、例えば、算出した数値が100%に近いほど黒色に近いグレーにし、数値が0%に近いほど白色に近いグレーにするといったことを意味する。 また、ディスプレイ208の表示画面の各サブ領域の中で画素値の変化があった部分(即ち、値が変化した画素)に対応した、各矩形図形内の部分を、他の部分(即ち、値が変化しなかった部分)とは色調を変えることで、数値ではなく図形的感覚で変化の程度をユーザーが認識できるようにすることもできる(図5(c)参照)。 これは例えば、変化があった画素に対応する部分を黒色にし、他の部分は白色にするといったことを意味する。
ステップS610において状況表示のための画像が生成された後、サーバ102は、クライアント114の表示画面に表示するための2種類の画像データをクライアント114に転送する(ステップS612)。 図4(b)は、サーバ102から上記2種類の画像データが転送された後のクライアント114の表示画面の状態を表す。
サーバ102からクライアント114に転送される2種類画像データのうちの1つは、クライアント114の表示画面の上部にある操作画面部330に表示されるべき操作画面用画像のデータであり、これは、サーバ102の表示画面全体を分割してできた4つのサブ領域のうちから選択した1つのサブ領域に表示された画像に相当する画像データである。 当該1つのサブ領域を選択する基準としては、各サブ領域について算出された、上記変化の程度に係る数値のうちで最大の数値を持つサブ領域を選択するように実施することができる。 図4(b)では、この選択基準に基づいて、変化の程度の結果が60%と最も大きかった領域C 414が選択され、領域C 414に表示された画像に相当する画像データがクライアント104に転送され、操作画面部330に表示される。 尚、上記選択基準としては、この他に、常に特定のサブ領域(例えば、左上の領域A 410)を選択するように定めることもできるし、その他の選択基準を定めることもできる。
サーバ102からクライアント114に転送される2種類の画像データのうちの他の1つは、クライアント114の表示画面306の下部にある状況表示部308に表示するべき、上記ステップS610において生成された状況表示のための画像のデータである。 即ち、状況表示部308には、図5(a)に示した画像と同様、4つのサブ領域のそれぞれに対応した4つの矩形図形A 420〜D 426を縦横2x2に隣接させた図形に対して、各サブ領域についてステップS608で算出した数値をパーセント表示で表す文字列図形430〜436を、対応するそれぞれの矩形図形の中で重ね合わせてできる画像が表示される。 また、ステップS608で算出された数値が最も大きかったサブ領域であることを示すため、領域C 414に対応する矩形図形C 424についてのみ、外枠および/または背景面の色調を他の3つと異なるものにしている。
以上に述べた、本発明の第1の実施形態は、以下のような有利な効果を備える。
クライアント114のユーザーは、状態表示部308のかかる状態から判断して、これ以後の操作をするに当たって領域Cが最も重要そうであるという見当を容易につけることができる。 また実際、操作画面部330にはサーバ102のディスプレイ208の表示画面の領域C 414の様子が表示されているので、ユーザーは即座に最も興味を引く領域C 414についてその様子を確認したり更なる操作をしたりすることができる。
一般に、携帯電話や携帯情報端末等のように小さな表示画面しか持っていないクライアント114では、操作画面部330の表示のための縦横の画素数は、そこに表示させたいサーバ102のディスプレイ208に表示される画像の縦横の画素数と比べてかなり小さい場合がある。 この場合は、ディスプレイ208における元の画像をクライアント114の操作画面部330の小さな縦横の画素数に一致するように、スケーリング(縮小)した画像データをクライアント114に転送しなければならない。 従ってこの場合、ディスプレイ208の表示画面全体をスケーリングした画像よりも、サブ領域をスケーリングした画像のほうが、縮小率が小さいので、操作画面部330に表示されたときに、より精細な画像が得られる。 即ち、本発明の第1の実施形態に示したように、領域C 414の様子を操作画面部330に表示する場合のほうが、本発明を用いずにディスプレイ208の表示画面全体の様子を操作画面部330に表示する場合に比べて、操作をする上でのユーザー・インターフェースが格段に向上する。
あるいはまた、クライアント114の表示画面306がフル・ブラウザのような機能を有している場合には、当該クライアント114にはサーバ102におけるサブ領域などの元の画像をスケーリングしてクライアント114に転送することはせず、そのままの画素数の画像データをクライアント114に転送して、クライアント114の有する画像バッファ(図示せず)等に保管し、そのうち操作画面部330の画素数に相当する一部分だけを操作画面部330に表示させることができる。 また、この表示させる範囲は、画像バッファ等に保管した画像データの範囲内から選択して表示させるので、この範囲内で高速にスクロールさせることができる。 従って、この場合、サーバ102の表示画面全体の画像データを転送する場合よりも、サブ領域の画像データを転送する場合のほうが、転送される画像データの容量を格段に少なくできる。 即ち、本発明の第1の実施形態に示したように、領域Cの画像データをクライアント114に転送してその一部をフル・ブラウザ機能を持つ表示画面306の操作画面部330に表示する場合のほうが、本発明を用いずにサーバ102の表示画面全体の画像データをクライアント114に転送してその一部を操作画面部330に表示する場合に比べて、クライアント114に転送する画像データの量を4分の1にすることができ、通信コストおよび動作のパフォーマンスの観点から極めて効率的である。
次に、本発明の第2の実施形態について以下に説明する。
図8〜図9は、本発明の第2の実施形態に基づいてサーバにおいて行われる処理と、これに対応した、携帯電話等のクライアントにおける表示画面の状態を表したものである。また、図10は、本発明の第2の実施形態に係る処理全体の流れを示す図である。
最初のある時点での状態は、本発明の第1の実施形態の場合と同じであるものとする。 即ち、図3(a)に示すように、ある時点でのサーバ102のディスプレイ208の表示画面の状態としては、デスクトップ上に複数のアイコンのみが表示されており、その他のアクティブまたは非アクティブなウィンドウは一切表示されていない。 また、図3(a)の破線302、304は、クライアント114のための現時点で設定されている分割態様を概念的に示したもので、このような破線が実際にディスプレイ208に表示されている訳ではない。 また、クライアント114には、 図3(b)に示したように、下部の状況表示部308には、サーバ102のディスプレイ208の表示画面全体を4つのサブ領域に分割して処理をしていることを示すA 320〜D 326の4つの枠付きの矩形図形が表示され、上部の操作画面部330には、領域A 310の部分に相当する画像が表示されている。
以下、図10の処理手順に従って、本発明の第2の実施形態に基づいたサーバ102の動作について述べる。 サーバ102はクライアント114から操作コマンドが送られてくるのを待ち受ける(ステップS1002)。 クライアント114から送信されたユーザーの操作コマンドを受け取ると、サーバ102は、それに応答してそのコマンドの付随情報を読み取る等して、そのコマンドの送信元、即ちそのコマンドがどのクライアントから発行されたものかを識別する(ステップS1004)。
次に、サーバ102は、当該コマンドの内容を解析して、当該コマンドがサーバ102の表示画面の表示内容を変更させるものであるかどうかを判断する(ステップS1006)。 この判断の結果、表示内容を変更させるものである場合には、予め分割態様テーブル702に記憶されている、当該クライアント114に対応する分割態様の候補値の情報に係わらず、当該変更された表示内容に応じて定まる新たな分割態様を設定する(ステップS1008)。 尚、ステップS1008に続いて、この設定された分割態様を、分割態様テーブル702において、当該クライアントに対応する分割態様の候補値として再記録する手順を挿入してもよい(ステップS1010)。
図8(a)は、ステップS1008において分割態様を設定する一実施例の様子を示す。 クライアント114からの操作コマンドの内容が、デスクトップに新たにアクティブなウィンドウを表示するものであった場合、分割態様としては、分割態様テーブル702の中のクライアント114に対応するエントリ704に記録されている「4つの矩形サブ領域への縦横に2x2の均等分割」は無視をして、これをクライアント114のための分割態様としては設定しない。 その代わりに、表示されたアクティブなウィンドウ802を覆う矩形サブ領域である領域X 804と、その周囲に配置される8つの矩形サブ領域である領域E 806〜領域M 820との合計9つのサブ領域への分割を、本実施を行うための分割態様として設定する。
一方、ステップS1006での判断結果が、表示画面の内容を変更させないものである場合には、予め分割態様テーブル702に記憶されている、当該クライアント104に対応する分割態様の候補値を読み出して選択し、本実施を行うための分割態様として設定する(ステップS1012)。 即ち、もし当該操作コマンドがデスクトップにアクティブなウィンドウを新たに表示させるものではなかった場合は、分割態様テーブル702の中のクライアント114に対応するエントリ704に記録されている分割態様の候補値に基づいて、「4つの矩形サブ領域への縦横に2x2の均等分割」を、本実施を行うための分割態様として設定する。
次に、サーバ102は、ステップS1008またはステップS1010で設定した分割態様に従って、各サブ領域について、当該操作コマンドに対するサーバ102による動作がおこなわれた後のサーバ102のディスプレイ208の表示画面の状態(図8(a)参照)が、当該動作をおこなう前の表示画面の状態(図3(a)参照)からどの程度変化したかを表す変化の程度を、即ち、各サブ領域を構成する全画素数のうち、上記動作によってその値が変更させられた画素数の割合(%)を算出する(ステップS1014)。 今、クライアント114からの操作コマンドに対するサーバ102による動作の結果、デスクトップ上にアクティブなウィンドウ802が1つ表示され、ステップS1008において設定された分割態様は、アクティブなウィンドウ802を覆う領域X 804と、その周囲に配置される領域E 806〜領域M 820との合計9つの矩形サブ領域への分割である。 よって、領域X 804については、領域内の全部または大半が新しく表示されたアクティブなウィンドウ802によって占められるので、変化の程度として算出される、サブ領域を構成する全画素数のうちの当該動作によってその値が変更させられた画素数の割合はほとんど100%になる。 しかし、他の8つのサブ領域(領域E 806〜領域M 820)については、アクティブなウィンドウ802はその一部分も含まれないので、変化の程度として算出される割合はほとんど0%となる。
続いてサーバ102は、各サブ領域の相対的位置関係を視覚的に認識できる図形と、ステップS1012にて算出された各サブ領域の変化の程度を表す数値を視覚的に認識できる図形と、を含む状況表示のための画像をクライアント114の表示画面306の状況表示部308で表示できるようにするため、当該状況表示のための画像のデータを生成する(ステップS1016)。 図9は、ステップS1016で生成された状況表示のための画像の様子を表す。 ステップ1008で設定された分割態様は、アクティブなウィンドウ802を覆う矩形サブ領域と、その周囲に配置される8つの矩形サブ領域との合計9つの矩形サブ領域への分割であるので、それがユーザーに認識できるように、9つの矩形図形X 902、E 904〜M 918を縦横3x3に隣接させて並べた図形が生成される。 さらに、各サブ領域についてステップS1014で算出した数値をパーセント表示で表す文字列図形922〜938が、対応するそれぞれの矩形図形の中に重ね合わせて生成される。 また、算出された数値が最も大きいサブ領域である領域X 804に係る矩形図形902についてのみ、その外枠および/または背景面の色調を他の8つとは異なるものとする。
尚、第1の実施形態の場合と同様、変化の程度を表す数値を視覚的に認識できる図形としては、上記の文字列図形の他にもさまざまな形態をとることができることは言うまでも無い。
ステップS1014において状況表示のための画像が生成された後、サーバ102は第1の実施形態と同様、クライアント114の表示画面306に表示するため、上部にある操作画面部330に表示するべき操作画面用画像データと、下部にある状況表示部308に表示するべき、上記ステップS1016で生成された状況表示のための画像のデータとを、クライアント114に転送する(ステップS1018)。
図8(b)は、サーバ102から上記2種類の画像データが転送された後のクライアント114の表示画面の状態を表す。 操作画面用画像のデータとして、サーバ102のディスプレイ208の表示画面全体を分割してできた9つのサブ領域のうちから、ステップS1014で算出された数値が100%と最大であったサブ領域である領域Xを選択し、当該サブ領域に表示された画像に相当する画像データが転送され、操作画面部330にその領域Xの様子が表示されている。 尚、上記選択基準として、その他の基準を定めることができるのは、第1の実施形態の場合と同様である。
状況表示部308には、図9に示した画像と同様、9つのサブ領域のそれぞれに対応した9つの矩形図形を縦横3x3に隣接させた図形に対して、各サブ領域についてステップS1014で算出した数値をパーセント表示で表す文字列図形を、対応するそれぞれの矩形図形の中で重ね合わせてできる画像が表示される。 また、ステップS1014で算出された数値が最も大きかったサブ領域であることを示すため、領域X 804に対応する矩形図形830についてのみ、外枠および/または背景面の色調を他の8つと異なるものにしている。
本発明の第2の実施形態では、第1の実施形態と比べて、以下のような更なる有利な効果を備える。
即ち、第1の実施形態においては、図4(b)に示すように、操作画面部330には領域C 414の様子が表示されるが、この領域C 414にはアクティブなウィンドウ402の全部が含まれている訳ではないので、領域Cの中には、ユーザーが次に操作をしたい対象となるアイテムが含まれていない可能性もある。 この場合ユーザーは、他のサブ領域に表示されている内容を順次チェックするために、操作画面330に表示される画像のソースを切り替える要求をサーバ102に対して送らなければならない。
しかし、本発明の第2の実施形態では、図8(b)に示すように、ディスプレイ208に表示されたアクティブなウィンドウ802の全部が含まれるサブ領域Xの様子が操作画面部330に表示される。 従って、ユーザーが次に操作を施したい対象は概ねサブ領域X内に含まれることを考慮すると、次の操作のために操作画面部330に表示される画像のソースを切り替える必要性はほとんどない。
以上、本発明の第1および第2の実施形態に基づく処理手順について説明したが、これらの処理手順は、サーバ102のハード・ディスク・ドライブ222等に記憶されたアプリケーション・ソフトウェア232またはオペレーティング・システム230等のコンピュータ・プログラムが、サーバ102のプロセッサ202等の各種コンポーネントを用いてこれらのコンポーネントに実行させることができる。 即ち、本発明を、これらの処理手順をサーバ102に実行させるようなコンピュータ・プログラムとして捉えることが可能である。
さらにまた、これらの処理手順はサーバ102に含まれるグラフィックス・コントローラ206等のハードウェア・コンポーネントによって実行させることもまた可能である。 即ち、本発明を、これら各処理手順を実行するブロックを備える装置として捉えることが可能である。
以上、本発明をいくつかの実施形態を用いて説明したが、本発明は多くの異なる態様で実施することが可能であり、上記実施形態は特許請求の範囲にかかる発明を限定するものではない。 即ち、上記実施形態に多様な変更または改良を加えることが可能であることが当業者に明らかである。 またその様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。さらに、上記実施の形態の中で説明されている特徴の組み合わせの全てが、発明の解決手段に必須とは限らないことにも留意されたい。
携帯電話や携帯情報端末等をクライアントとして用いる一般的なネットワーク・ベースのコンピュータ・システム環境を表す。 本発明を実施するのに好適なサーバの詳細なハードウェア構成の典型的な例を示す。 本発明の第1および第2の実施形態に基づく、サーバおよびクライアントの表示画面の状態を示す。 本発明の第1の実施形態に基づく、サーバおよびクライアントの表示画面の状態を示す。 本発明の第1の実施形態に基づいて生成される、クライアントの状況表示のための画像を示す。 本発明の第1の実施形態に係る処理手順の流れを示す。 サーバ内に備える分割態様テーブルの一例を示す。 本発明の第2の実施形態に基づく、サーバおよびクライアントの表示画面の状態を示す。 本発明の第2の実施形態に基づいて生成される、クライアントの状況表示のための画像を示す。 本発明の第2の実施形態に係る処理手順の流れを示す。
符号の説明
100 ネットワーク・ベースのコンピュータ・システム環境
102 サーバ
104 イントラネット
106 外部のネットワーク
108 ファイアウォール
110 ゲートウェイ
112 クライアント
114 クライアント
202 プロセッサ
204 メモリ・コントローラ・ブリッジ
206 グラフィックス・コントローラ
208 ディスプレイ
210 フレーム・バッファ・メモリ
212 ディスプレイ・インターフェース
214 インターフェース
216 PCIローカル・バス
218 I/Oコントローラ・ブリッジ
220 ストレージ・コントローラ
222 ハードディスク・ドライブ
224 DVD
226 CDROM
228 MO
230 オペレーティング・システム
232 アプリケーション・ソフトウェア
234 キーボード/マウス・コントローラ
236 キーボード
238 マウス
240 外部バス・インターフェース
242 外部バス・インターフェース
244 外部バス・インターフェース
246 サーバ
248 ハードディスク・ドライブ
302 分割線
304 分割線
306 クライアントの表示画面
308 状況表示部
310 サブ領域 領域A
312 サブ領域 領域B
314 サブ領域 領域C
316 サブ領域 領域D
320 矩形図形 A
322 矩形図形 B
324 矩形図形 C
326 矩形図形 D
330 操作画面部
402 アクティブ・ウィンドウ
404 分割線
406 分割線
410 サブ領域 領域A
412 サブ領域 領域B
414 サブ領域 領域C
416 サブ領域 領域D
420 矩形図形 A
422 矩形図形 B
424 矩形図形 C
426 矩形図形 D
430 文字列図形
432 文字列図形
434 文字列図形
436 文字列図形
520 矩形図形 A
522 矩形図形 B
524 矩形図形 C
526 矩形図形 D
530 文字列図形
532 文字列図形
534 文字列図形
536 文字列図形
S602 ステップ
S604 ステップ
S606 ステップ
S608 ステップ
S610 ステップ
S612 ステップ
702 分割態様テーブル
704 エントリ
802 アクティブなウィンドウ
804 サブ領域 領域X
806 サブ領域 領域E
808 サブ領域 領域F
810 サブ領域 領域G
812 サブ領域 領域H
814 サブ領域 領域J
816 サブ領域 領域K
818 サブ領域 領域L
820 サブ領域 領域M
830 矩形図形
902 矩形図形 X
904 矩形図形 E
906 矩形図形 F
908 矩形図形 G
910 矩形図形 H
912 矩形図形 J
914 矩形図形 K
916 矩形図形 L
918 矩形図形 M
922 文字列図形
924 文字列図形
926 文字列図形
928 文字列図形
930 文字列図形
932 文字列図形
934 文字列図形
936 文字列図形
938 文字列図形
S1002 ステップ
S1004 ステップ
S1006 分岐ステップ
S1008 ステップ
S1010 ステップ
S1012 ステップ
S1014 ステップ
S1016 ステップ
S1018 ステップ

Claims (14)

  1. ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示される画像を制御する方法であって、
    前記サーバによる動作を求める操作コマンドを前記クライアントから受け取ったことに応答して、前記サーバにおける表示画面を複数のサブ領域へ分割する分割態様を設定するステップであって、当該分割態様は、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して設定される、ステップと、
    前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、前記操作コマンドに対する前記サーバによる前記動作の完了前と完了後とでの当該サブ領域に表示される画像の変化の程度を算出するステップと、
    状況表示のための画像のデータを生成するステップであって、当該状況表示のための画像は、
    前記複数のサブ領域の相対的位置関係を表す画像と、
    前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された前記変化の程度を表す画像と
    を含む、ステップと、
    前記状況表示のための画像の前記データを、前記クライアントの表示部に表示されるように、前記クライアントに送信するステップと
    を備える方法。
  2. 前記設定された分割態様に基づいて分割された前記複数のサブ領域のうちの1つのサブ領域に表示された画像に基づくデータを、当該画像の全体またはその一部が前記クライアントの前記表示部に表示されるように、前記クライアントに送信するステップ
    をさらに備える、請求項1に記載の方法。
  3. 前記クライアントからの操作コマンドを受け取ったことに応答して、当該操作コマンドの内容を解析するステップをさらに備え、
    前記分割態様を設定するステップは、
    解析された前記コマンドが前記表示画面の表示内容を変更させるものでない場合には、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して分割態様を設定し、
    解析された前記コマンドが前記表示画面の表示内容を変更させるものである場合には、変更された表示内容に応じて定まる新たな分割態様を設定する、
    ことを含む、
    請求項1または2に記載の方法。
  4. 前記分割態様は、前記表示画面を分割する分割数と、分割に係る複数のサブ領域の各々が前記表示画面に占める位置、大きさ、および形状とを含む、請求項3に記載の方法。
  5. 前記変更された表示内容に応じて定まる新たな分割態様を設定するステップは、前記表示画面に新たに表示されるウィンドウがある場合には、分割に係る複数のサブ領域のうちの1つが当該ウィンドウの全てを含むように、分割に係る複数のサブ領域の各々が前記表示画面に占める位置、大きさ、および形状を定めるステップを含む、請求項4に記載の方法。
  6. 前記変化の程度を算出するステップは、前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、当該サブ領域に係る全ての画素のうち、前記操作コマンドに対する前記動作の完了前と完了後とで変化した画素の占める割合を算出するステップを含む、請求項1に記載の方法。
  7. 前記状況表示のための画像のデータを生成するステップは、
    前記複数のサブ領域の各々に対応する矩形図形を前記複数のサブ領域の相対的位置関係に基づいて並べたベース画像を生成し、
    前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された割合を、前記ベース画像のうちの当該サブ領域に対応する矩形図形に、視覚化した文字画像として重ね合わせて、
    状況表示のための画像のデータを生成することを含む、請求項6に記載の方法。
  8. 前記状況表示のための画像のデータを生成するステップは、
    前記複数のサブ領域の各々に対応する矩形図形を前記複数のサブ領域の相対的位置関係に基づいて並べたベース画像を生成し、
    前記複数のサブ領域の各々について、前記操作コマンドに対する前記動作の完了前と完了後とで変化した画素が当該サブ領域において占める相対位置を、前記ベース画像のうちの当該サブ領域に対応する矩形図形に、視覚化した図形として重ね合わせて、
    状況表示のための画像のデータを生成することを含む、請求項6に記載の方法。
  9. 前記ベース画像は、それを構成する複数の矩形図形のうち、前記変化の程度を算出するステップにおいて算出された値が最大であるサブ領域に対応する矩形図形だけが、他の矩形図形から識別される色彩、模様、および/または形態を持つことを特徴とする、請求項7または8に記載の方法。
  10. 前記設定された分割態様に基づいて分割された前記複数のサブ領域のうちの前記1つのサブ領域は、前記変化の程度を算出するステップにおいて算出された値が最大となるサブ領域である、請求項2に記載の方法。
  11. 前記クライアントの前記表示部で前記状況表示のための画像が表示される領域の全部または一部と、前記クライアントの前記表示部で前記1つのサブ領域の全体または一部が表示される領域の全部または一部とが重複し、当該重複領域に前記状況表示のための画像と、前記1つのサブ領域の前記全体または一部の画像とが重ね合わせて表示される、請求項2に記載の方法。
  12. ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示する画像を制御する方法であって、
    前記クライアントから、前記サーバの動作を求める操作に関するコマンドを受け取るステップと、
    前記コマンドの受領に応答して、前記サーバにおける表示画面に表示された画像を分割し、各分割領域における画像の変化を検出するステップと、
    前記画像の変化の検出に基づき、前記クライアントに表示するための、状況表示のための画像のデータを生成するステップと、
    前記状況表示のための画像のデータを、前記クライアントに送信するステップと
    を備える方法。
  13. ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示される画像を制御するコンピュータ・プログラムであって、当該サーバに、
    前記サーバによる動作を求める操作コマンドを前記クライアントから受け取ったことに応答して、前記サーバにおける表示画面を複数のサブ領域へ分割する分割態様を設定するステップであって、当該分割態様は、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して設定される、ステップと、
    前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、前記操作コマンドに対する前記サーバによる前記動作の完了前と完了後とでの当該サブ領域に表示される画像の変化の程度を算出するステップと、
    状況表示のための画像のデータを生成するステップであって、当該状況表示のための画像は、
    前記複数のサブ領域の相対的位置関係を表す画像と、
    前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された前記変化の程度を表す画像と
    を含む、ステップと、
    前記状況表示のための画像の前記データを、前記クライアントの表示部に表示されるように、前記クライアントに送信するステップと
    を実行させるコンピュータ・プログラム。
  14. ネットワークを介してクライアントが接続されるサーバにおいて、当該クライアントに表示される画像を制御するための装置であって、
    前記サーバによる動作を求める操作コマンドを前記クライアントから受け取ったことに応答して、前記サーバにおける表示画面を複数のサブ領域へ分割する分割態様を設定する分割態様設定部であって、当該分割態様は、予め前記サーバに記録された当該クライアントに対応する分割態様の候補値を選択して設定されることを特徴とする、分割態様設定部と、
    前記設定された分割態様に基づいて分割された前記複数のサブ領域の各々について、前記操作コマンドに対する前記サーバによる前記動作の完了前と完了後とでの当該サブ領域に表示される画像の変化の程度を算出する、変化程度算出部と、
    状況表示のための画像のデータを生成するデータ生成部であって、当該状況表示のための画像は、
    前記複数のサブ領域の相対的位置関係を表す画像と、
    前記複数のサブ領域の各々について、当該サブ領域に係る前記算出された前記変化の程度を表す画像と
    を含むことを特徴とする、データ生成部と、
    前記状況表示のための画像の前記データを、前記クライアントの表示部に表示されるように、前記クライアントに送信する、データ送信部と
    を備える装置。
JP2006320885A 2006-11-28 2006-11-28 画像データを生成するための方法、プログラム、および装置 Expired - Fee Related JP4361080B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006320885A JP4361080B2 (ja) 2006-11-28 2006-11-28 画像データを生成するための方法、プログラム、および装置
CN2007101869781A CN101192138B (zh) 2006-11-28 2007-11-15 用于产生图像数据的方法和装置
US11/942,842 US8026928B2 (en) 2006-11-28 2007-11-20 Method, program and apparatus for generating image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006320885A JP4361080B2 (ja) 2006-11-28 2006-11-28 画像データを生成するための方法、プログラム、および装置

Publications (2)

Publication Number Publication Date
JP2008134853A JP2008134853A (ja) 2008-06-12
JP4361080B2 true JP4361080B2 (ja) 2009-11-11

Family

ID=39463206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006320885A Expired - Fee Related JP4361080B2 (ja) 2006-11-28 2006-11-28 画像データを生成するための方法、プログラム、および装置

Country Status (3)

Country Link
US (1) US8026928B2 (ja)
JP (1) JP4361080B2 (ja)
CN (1) CN101192138B (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007094482A2 (en) * 2006-02-14 2007-08-23 Casio Computer Co., Ltd. Server apparatus, server control program and client apparatus
JP4957126B2 (ja) 2006-08-31 2012-06-20 カシオ計算機株式会社 クライアント装置およびプログラム
KR20090110202A (ko) 2008-04-17 2009-10-21 삼성전자주식회사 개인화된 사용자 인터페이스를 디스플레이하는 방법 및 장치
KR101545137B1 (ko) 2008-04-17 2015-08-19 삼성전자주식회사 사용자 인터페이스를 생성하는 방법 및 장치
KR101531165B1 (ko) * 2008-04-17 2015-06-25 삼성전자주식회사 클라이언트의 특성을 고려한 사용자 인터페이스를 제공, 수신하는 방법 및 장치
JP4789979B2 (ja) * 2008-06-30 2011-10-12 パナソニック株式会社 端末装置及びデータ処理方法
US9716774B2 (en) * 2008-07-10 2017-07-25 Apple Inc. System and method for syncing a user interface on a server device to a user interface on a client device
JP4697321B2 (ja) * 2009-03-24 2011-06-08 カシオ計算機株式会社 コンピュータシステム、クライアント装置及びプログラム
JP5338438B2 (ja) * 2009-04-06 2013-11-13 オンキヨー株式会社 コンテンツ再生システム
JP4723010B2 (ja) * 2009-04-21 2011-07-13 株式会社デジタル サーバ装置、サーバ・クライアントシステム、サーバプログラムおよびそれを記録した記録媒体
EP2410422A4 (en) * 2009-04-21 2012-09-12 Digital Electronics Corp SERVER DEVICE, SERVER CLIENT SYSTEM, SERVER PROGRAM AND RECORDING MEDIA WITH THE PROGRAM RECORDED THEREFROM
US9152139B2 (en) * 2009-06-16 2015-10-06 Control4 Corporation Automation Control of Electronic Devices
GB2471883A (en) * 2009-07-16 2011-01-19 Nec Corp Controlling a software application in a thin client session using a mobile device
JP5261335B2 (ja) * 2009-09-25 2013-08-14 シャープ株式会社 表示装置、画像表示システム、表示装置の制御方法、制御プログラムおよび記録媒体
US8760453B2 (en) * 2010-09-01 2014-06-24 Microsoft Corporation Adaptive grid generation for improved caching and image classification
US8587616B2 (en) * 2010-12-17 2013-11-19 General Electric Company Systems, methods, and articles of manufacture for virtual display
CN103957235B (zh) * 2011-02-21 2018-10-23 北京奇虎科技有限公司 一种拖动图像的传输显示方法和***
CN102164168B (zh) * 2011-02-21 2014-04-30 北京奇虎科技有限公司 一种拖动图像的传输显示方法和***
US9261603B2 (en) * 2011-04-11 2016-02-16 Telenav, Inc. Navigation system with conditional based application sharing mechanism and method of operation thereof
GB2492789B (en) 2011-07-12 2018-01-03 Denso Corp Displays
US10564791B2 (en) * 2011-07-21 2020-02-18 Nokia Technologies Oy Method and apparatus for triggering a remote data entry interface
US10430036B2 (en) * 2012-03-14 2019-10-01 Tivo Solutions Inc. Remotely configuring windows displayed on a display device
CN103457965B (zh) * 2012-05-29 2018-11-06 索尼公司 虚拟机***和远程显示方法
CN103491119B (zh) * 2012-06-13 2018-05-22 腾讯科技(深圳)有限公司 多屏互动***及多屏互动方法
JP2014127184A (ja) * 2012-12-27 2014-07-07 Toshiba Corp 情報処理装置および表示制御方法
FR3007559B1 (fr) * 2013-06-24 2015-07-17 Schneider Toshiba Inverter Procede et systeme d'affichage d'au moins un code matriciel sur un ecran pour la transmission de donnees a un equipement electronique muni de moyens de lecture du ou des codes matriciels
CN103402089A (zh) * 2013-07-24 2013-11-20 江苏晓山信息产业股份有限公司 一种基于宏块技术的虚拟桌面图像压缩方法
JP5875555B2 (ja) * 2013-07-29 2016-03-02 株式会社デジタル 画像作成システム
KR20150054190A (ko) * 2013-11-11 2015-05-20 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
CN103577142A (zh) * 2013-11-14 2014-02-12 广东威创视讯科技股份有限公司 Vnc协议下确定传输给客户端的像素数据的方法和装置
DE102013223932A1 (de) * 2013-11-22 2015-05-28 BSH Hausgeräte GmbH Verfahren zur Fernüberwachung des Betriebs eines Haushaltsgeräts, tragbares Kommunikationsendgerät und Computerprogrammprodukt
CN105260151A (zh) * 2015-09-30 2016-01-20 小米科技有限责任公司 信息显示方法及装置
CN109788313A (zh) * 2017-11-10 2019-05-21 中兴通讯股份有限公司 一种图像传输方法、装置及设备
CN112291588A (zh) * 2020-10-12 2021-01-29 北京文香信息技术有限公司 显示内容的共享方法及装置、设备、可读存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5363483A (en) * 1992-10-28 1994-11-08 Intellution, Inc. Updating objects displayed in a computer system
GB2296114A (en) 1994-12-13 1996-06-19 Ibm Updating display screens of local and remote workstations
JP3210603B2 (ja) 1997-07-04 2001-09-17 インターナショナル・ビジネス・マシーンズ・コーポレーション イメージの処理方法、サーバ及び記録媒体
TW582015B (en) * 2000-06-30 2004-04-01 Nichia Corp Display unit communication system, communication method, display unit, communication circuit and terminal adapter
JP3620716B2 (ja) 2000-07-26 2005-02-16 日本電気株式会社 遠隔操作システムとその遠隔操作方法、及び遠隔操作プログラムを記録した記録媒体
US6882755B2 (en) 2001-10-19 2005-04-19 Hewlett-Packard Development Company, L.P. Image transmission for low bandwidth with region of interest
JP2003271507A (ja) 2002-03-13 2003-09-26 Canon Inc モバイル向けマークアップ言語を記述するシステム及び表示用コンテンツを作成する情報処理装置、プログラム
JP2004005582A (ja) 2002-04-17 2004-01-08 Matsushita Electric Ind Co Ltd 通信制御システムと画像転送プログラムを格納した記憶媒体
US6919907B2 (en) * 2002-06-20 2005-07-19 International Business Machines Corporation Anticipatory image capture for stereoscopic remote viewing with foveal priority
US7098868B2 (en) * 2003-04-08 2006-08-29 Microsoft Corporation Display source divider
US7034776B1 (en) * 2003-04-08 2006-04-25 Microsoft Corporation Video division detection methods and systems
JP2005165506A (ja) 2003-12-01 2005-06-23 Matsushita Electric Ind Co Ltd ドキュメント閲覧装置およびドキュメント閲覧方法ならびに情報記録媒体
JP2005167459A (ja) 2003-12-01 2005-06-23 Matsushita Electric Ind Co Ltd 遠隔操作システムおよび遠隔操作方法ならびに情報記録媒体
CN100337189C (zh) 2004-06-11 2007-09-12 宏碁股份有限公司 在低分辨率显示装置呈现高画质网页数据的方法及其应用
JP4741283B2 (ja) * 2005-05-16 2011-08-03 セイコーエプソン株式会社 集積回路装置、マイクロコンピュータ及び監視カメラシステム

Also Published As

Publication number Publication date
US20080122847A1 (en) 2008-05-29
JP2008134853A (ja) 2008-06-12
CN101192138A (zh) 2008-06-04
CN101192138B (zh) 2010-12-01
US8026928B2 (en) 2011-09-27

Similar Documents

Publication Publication Date Title
JP4361080B2 (ja) 画像データを生成するための方法、プログラム、および装置
JP5249409B2 (ja) 仮想デスクトップのビューのスクロール
KR101099317B1 (ko) 윈도우 관리 모드를 제공하는 시스템 및 방법
US20110214063A1 (en) Efficient navigation of and interaction with a remoted desktop that is larger than the local screen
US20110246904A1 (en) Interacting with Remote Applications Displayed Within a Virtual Desktop of a Tablet Computing Device
US20060136836A1 (en) User interface with scroll bar control
KR20080059209A (ko) 윈도우 플로잉을 사용한 윈도우 디스플레이 영역 최대화
WO2000045327A1 (en) System and method for providing zooming video
JPWO2018198703A1 (ja) 表示装置
JP2008122783A (ja) マルチモニタ監視制御装置及びこれを用いたプロセス監視制御システム
JPH0475093A (ja) 画像データ処理装置
JPH07110754A (ja) アイコン表示装置
JP5213033B2 (ja) ソフトウェア入力キー表示方法、プログラム及び情報処理端末
JP2007179095A (ja) 表示制御方法、情報処理装置及び表示制御プログラム
JP3445341B2 (ja) ウィンドウ表示装置およびウィンドウ表示方法
JP4031421B2 (ja) 画面コピー方法
US20040233164A1 (en) Method and apparatus for displaying hardware crosshair cursor in a specified region of a display
JP6577731B2 (ja) 端末装置、表示制御方法、及びプログラム
JP5591092B2 (ja) 表示制御装置、表示制御方法、及び、プログラム
JP3918921B2 (ja) ポインタ移動方法、プログラム、記録媒体
JP4525017B2 (ja) 情報処理装置および情報処理方法、並びにプログラム
JP2019071140A (ja) 表示装置及び表示方法
JPH03286264A (ja) 動画形式によるガイダンス表示方式
JPH0764535A (ja) 画面表示方式
JP2006108911A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090501

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20090501

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20090528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090804

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090811

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120821

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130821

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees