JP6191421B2 - 画像表示制御プログラム、情報処理システム、及び画像表示制御方法 - Google Patents

画像表示制御プログラム、情報処理システム、及び画像表示制御方法 Download PDF

Info

Publication number
JP6191421B2
JP6191421B2 JP2013249561A JP2013249561A JP6191421B2 JP 6191421 B2 JP6191421 B2 JP 6191421B2 JP 2013249561 A JP2013249561 A JP 2013249561A JP 2013249561 A JP2013249561 A JP 2013249561A JP 6191421 B2 JP6191421 B2 JP 6191421B2
Authority
JP
Japan
Prior art keywords
image
client
server
communication port
data packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013249561A
Other languages
English (en)
Other versions
JP2015106378A (ja
Inventor
章 勝又
章 勝又
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013249561A priority Critical patent/JP6191421B2/ja
Priority to US14/548,348 priority patent/US10062136B2/en
Publication of JP2015106378A publication Critical patent/JP2015106378A/ja
Application granted granted Critical
Publication of JP6191421B2 publication Critical patent/JP6191421B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)

Description

本発明は、遠隔地に設置されたサーバ装置の画像情報を、クライアント装置がネットワーク経由で利用することが可能な画像表示制御プログラム、情報処理システム、及び画像表示制御方法に関する。
従来、ネットワーク上の遠隔地に設置されたコンピュータ(サーバ装置)を、手元のコンピュータ(クライアント装置)から操作する遠隔制御技術が広く利用されている。VNC(Virtual Network Computing)は、RFB(Remote Frame Buffer)プロトコルを使用して、サーバ装置の画像情報をクライアント装置に送信して、その画像情報をクライアント装置のディスプレイ画面に表示する。
例えば、クライアント装置は、マウス及びキーボード等の操作情報をサーバ装置に送信する。サーバ装置は、この操作情報に基づいて、動画像を生成する。次に、生成した動画像を一定時間(例えば、0.1秒)毎に再生単位であるフレームに分割する。分割したフレームは順にパケットに変換されるが、通常は、前のフレームとの差分がパケットに変換される。そして、サーバ装置は、変換した複数のパケットを順次クライアント装置に送信する。クライアント装置は、受信したパケットから動画像を再生してディスプレイ画面に表示する。
また、クライアント装置に最低限の機能しか持たせず、サーバ装置でアプリケーションやファイルなどのリソースを管理するように構築されたシンクライアントシステムにおいて、サーバ装置の画像メモリ上の画像を複数の領域に分割し、領域ごとにフレーム間の変更の頻度を判別して、変更の頻度がしきい値を超えた領域を高頻度更新領域として識別し、より圧縮率の高い動画の圧縮処理を行って送信する技術が開示されている(例えば、特許文献1を参照。)。
また、道路工事現場の状況を動画で配信することにより、遠隔地からの工事現場の管理を行うことができる撮影装置及び動画配信システムにおいて、静止画送信要求信号に応じて静止画送信要求信号を受信した時点における動画を構成する静止画を抽出、生成する技術が開示されている(例えば、特許文献2を参照。)。
特開2011−238014号公報 特開2010−220189号公報
しかしながら、クライアント装置に表示させる画面データをサーバ装置からクライアント装置へ伝送する際に、サーバ装置とクライアント装置間の物理的距離が離れているために伝送遅延が生じることがある。また、サーバ装置とクライアント装置間のネットワークに輻輳等が生じることによって伝送遅延が発生する場合もある。この伝送遅延によって、サーバ装置から伝送される画面データがクライアント装置で描画されるのが遅れる結果、クライアント装置で行われる操作に対するレスポンスが悪化する。
図1は、従来技術の問題点を説明するための図である。
図1において、ユーザ1は、マウス2を用いて描画対象のオブジェクト3を操作する。ユーザ1は、時刻tが0秒の時点から1秒までの1秒間に、マウス2を用いてオブジェクト3を回転させている。このとき、サーバ装置では、回転開始時のオブジェクト3Aからマウス2の停止による回転終了時のオブジェクト3Bまでのオブジェクト画像4−0乃至4−10が、例えば0.1秒間隔で生成される。ここで、オブジェクト画像4−0乃至4−10は、上述のパケットに相当する。
そして、生成されたオブジェクト画像4−0乃至4−10は、クライアント装置へ送信するために、順にネットワーク上に送出される。まず、最初のオブジェクト画像4−0がネットワーク上に送出され、クライアント装置に到着する。到着までには、ネットワークの伝送遅延によって、例えば0.1秒かかる。
オブジェクト画像4−0が到着したクライアント装置は、表示オブジェクト画像5−0を生成して表示するとともに、オブジェクト画像4−0が到着したことを示す受取確認(Ack)を、ネットワークを介してサーバ装置へ返信する。この受取確認の到着にも0.1秒かかる。よって、サーバ装置がオブジェクト画像4−0を送出し、その受取確認をするまでに、0.2秒かかる。
オブジェクト画像4−0の受取確認をしたクライアント装置は、次のオブジェクト画像4−1をネットワーク上に送出する。サーバ装置がオブジェクト画像4−1を送出し、その受取確認をするまでに、同様に0.2秒かかる。
この繰返しの結果、クライアント装置は、表示オブジェクト画像5−0乃至5−10を順次表示する。
しかしながら、サーバ装置とクライアント装置間のネットワークの伝送遅延が大きいと、クライアント装置でオブジェクト3に対して画像表示の停止指示を行っても、すでに多くのオブジェクト画像4がパケットの形でネットワーク上に発信されており、送ってしまったパケットを止めることが出来ない。また、TCP/IP(伝送制御プロトコル/インターネットプロトコル:Transmission Control Protocol/Internet Protocol)の仕様で、受取確認が届かないと、サーバ装置のネットワークインターフェースカード(NIC:Network Interface Card)は、次のパケットを送れないため、クライアント装置でオブジェクト3の動きが止まらない、という現象が多発してしまうという問題点があった。
1つの側面では、本発明は、ネットワークでの伝送遅延が発生しても、クライアント装置が一連の動画像のうち最後の静止画像を直ちに表示することが可能な画像表示制御プログラム、情報処理システム、及び画像表示制御方法を提供することを目的とする。
1つの案では、画像表示制御プログラムは、画像に対して行われる操作の信号をネットワーク経由でサーバに送信し、前記操作の信号に基づき前記サーバが生成した画像データパケットを確認応答に応じて前記ネットワーク経由で順次受信して画像を表示するクライアントのコンピュータに、画像に対して行われる一連の操作が停止したことを示す停止信号を検知し、前記検知の後に受信した前記画像データパケットに基づく画像を表示しないように制御し、前記があると、前記画像データパケットを通信する第1の通信ポートとは別の第2の通信ポートを、前記サーバとの間に開設し、前記停止信号及び前記第2の通信ポートのポート識別情報を、前記第1の通信ポートを介して前記サーバに送信し、前記サーバが前記停止信号に応じて送信する、前記操作の停止に対応する現静止画像を、前記第2の通信ポートを介して受信し、前記現静止画像を、前記操作の停止の直前まで表示していた画像に続けて表示する処理を実行させることを特徴とする。
実施の形態によれば、サーバ装置とクライアント装置が接続されたネットワークに伝送遅延が生じていても、クライアント装置は、サーバ装置が作成した一連の動画像のうちの最後の静止画像を直ちに表示することができる。
従来技術の問題点を説明するための図である。 本実施の形態に係るクライアント装置の機能構成を示す図である。 本実施の形態に係るサーバ装置の機能構成を示す図である。 本実施の形態の全体を説明するための図である。 クライアント装置が実行する画像表示制御処理の流れを示すフローチャートである。 サーバ装置が実行する画像表示制御処理の流れを示すフローチャートである。 情報処理装置の構成図である。
以下、図面を参照しながら、実施の形態について詳細に説明する。
図2は、本実施の形態に係るクライアント装置の機能構成を示す図である。
図2において、クライアント装置20は、ネットワーク10を介して遠隔地のサーバ装置30と接続されている。
クライアント装置20には、入力装置21及び表示装置22が接続されている。入力装置21は、例えば、キーボード装置、マウス等であり、クライアント装置20に対して様々な情報を入力することが可能である。表示装置22は、例えば、液晶ディスプレイ等であり、クライアント装置20が有する様々な情報を表示することが可能である。
そして、クライアント装置20は、通信I/F(インターフェース:Interface)部201、情報送信部202、画像データパケット受信部203、表示制御部204、確認応答送信部205、検知部206、通信ポート開設部207、クライアント側送信部208、クライアント側受信部209、及び通信ポート閉設部210を備える。
通信I/F部201は、パケット通信制御機能を備えた、例えばNICやモデムなどであり、ネットワーク10を介してサーバ装置30との接続を確立し、データの送受信を実行する。
情報送信部202は、サーバ装置30で実行するアプリケーションに対するコマンド等の情報を、通信I/F部201を用いてネットワーク10経由でサーバ装置30へ送信する。
画像データパケット受信部203は、情報送信部202が送信した情報に基づきサーバ装置30が生成した画像データパケットを、通信I/F部201を用いてネットワーク10経由でサーバ装置30から順次受信する。
表示制御部204は、画像データパケット受信部203が受信した画像データパケットに基づいて画像データを生成し、表示装置22に表示するように制御する。
確認応答送信部205は、画像データパケット受信部203が画像データパケットを受信したことを示す確認応答を、通信I/F部201を用いてネットワーク10経由でサーバ装置30へ送信する。
画像データパケット受信部203による画像データパケットの受信、確認応答送信部205による確認応答の送信、及び表示制御部204による画像データの表示制御の繰返しにより、表示装置22に動画像が表示される。これら情報送信部202による情報の送信、並びに、画像データパケット受信部203による画像データパケットの受信、確認応答送信部205による確認応答の送信、及び表示制御部204による画像データの表示制御の繰返しは、従来技術と同様である。
検知部206は、前記情報送信部202が送信する情報の入力装置21に対する入力操作が停止したか否かを検知する。例えば、入力装置21であるマウスの操作が停止したか否かを検知する。
表示制御部204は、検知部206による検知の後に受信した画像データパケットに基づく動画像を、表示装置22が表示しないように制御する。
通信ポート開設部207は、検知部206による検知に基づいて、サーバ装置30との間で画像データパケットを通信していた第1の通信ポートとは異なる、第2の通信ポートを開設する。
クライアント側送信部208は、検知部206による検知に基づく入力装置停止信号及び第2の通信ポートのポート識別情報を、第1の通信ポートを介してサーバ装置30に対して送信する。
クライアント側受信部209は、サーバ装置30が入力装置停止信号に応じて送信する現静止画像を、通信I/F部201を用いてネットワーク10経由で第2の通信ポートを介してサーバ装置30から受信する。なお、現静止画像とは、入力装置停止信号を受けた、一連の動画のうち最後の静止画像のことである。
そして、クライアント側受信部209が現静止画像を受信すると、表示制御部204は、現静止画像を検知部206による検知の直前まで表示装置22が表示していた動画像に続けて表示するように制御する。
通信ポート閉設部210は、表示制御部204が現静止画像を表示すると、通信ポート開設部207が開設した第2の通信ポートを閉設する。
図3は、本実施の形態に係るサーバ装置の機能構成を示す図である。
図3において、サーバ装置30は、ネットワーク10を介して遠隔地のクライアント装置20と接続されている。
サーバ装置30は、通信I/F部301、情報受信部302、画像データ生成部303、画像データパケット生成部304、画像データパケット送信部305、確認応答受信部306、サーバ側受信部307、及びサーバ側送信部308を備える。
通信I/F部301は、パケット通信制御機能を備えた、例えばNICやモデムなどであり、ネットワーク10を介してクライアント装置20との接続を確立し、データの送受信を実行する。
情報受信部302は、通信I/F部301を用いてネットワーク10経由でクライアント装置20から送信された情報を受信する。
画像データ生成部303は、情報受信部302が受信した情報に基づいて、画像データを生成する。例えば、マウスの操作に対応する情報に基づいて、描画対象のオブジェクトが回転する動画像を生成する。
画像データパケット生成部304は、画像データ生成部303が生成した画像データから、画像データパケットを生成する。例えば、生成した動画像をフレームに分割し、分割したフレームをデータ変換することにより、画像データパケットを生成する。
画像データパケット送信部305は、画像データパケット生成部304が生成した画像データパケットを、通信I/F部301を用いてネットワーク10経由でクライアント装置20に送信するが、2番目以降の画像データパケットについては、後述するようにして確認応答受信部306が受信したクライアント装置20からの確認応答に応じて順次送信する。
確認応答受信部306は、クライアント装置20が画像データパケットを受信したことを示すための確認応答を、通信I/F部301を用いてネットワーク10経由でクライアント装置20へ送信する。
サーバ側受信部307は、入力装置停止信号及びポート識別情報を、通信I/F部301を用いてネットワーク10経由でクライアント装置20から受信する。
サーバ側送信部308は、サーバ側受信部307によって入力装置停止信号を受信した時点での現静止画像を、通信I/F部201を用いてネットワーク10経由で第2の通信ポートを介してクライアント装置20へ送信する。
図4は、本実施の形態の全体を説明するための図である。
図4において、ユーザ1は、入力装置21に相当するマウス2を用いて描画対象のオブジェクト3を操作する。ユーザ1は、時刻tが0秒の時点から1秒までの1秒間に、マウス2を用いてオブジェクト3を回転させている。このとき、サーバ装置30では、回転開始時のオブジェクト3Aからマウス2の停止による回転終了時のオブジェクト3Bまでのオブジェクト画像4−0乃至4−10が、例えば0.1秒間隔で生成される。ここで、オブジェクト画像4−0乃至4−10は、動画像を構成するフレームを変換したパケットデータ、又は前フレームのパケットデータとの差分に相当する。
そして、生成されたオブジェクト画像4−0乃至4−10は、クライアント装置20へ送信するために、順にネットワーク10上に送出される。まず、最初のオブジェクト画像4−0がネットワーク10上に送出され、クライアント装置20に到着する。到着までには、ネットワーク10の伝送遅延によって、例えば0.1秒かかる。
オブジェクト画像4−0が到着したクライアント20装置は、表示オブジェクト画像5−0を生成して表示装置22に表示するとともに、オブジェクト画像4−0が到着したことを示す受取確認を、ネットワーク10を介してサーバ装置30へ返信する。この受取確認の到着にも0.1秒かかる。よって、サーバ装置30がオブジェクト画像4−0を送出し、その受取確認をするまでに、0.2秒かかる。
オブジェクト画像4−0の受取確認をしたクライアント装置20は、次のオブジェクト画像4−1をネットワーク10上に送出する。サーバ装置30がオブジェクト画像4−1を送出し、その受取確認をするまでに、同様に0.2秒かかる。
この繰返しの結果、クライアント装置20は、表示オブジェクト画像5−0乃至5−10を順次表示いていくはずであるが、ユーザ1がマウス2の回転操作を停止した時点(時刻tが1秒)では、表示オブジェクト画像5−4が表示されており、表示オブジェクト画像4−5乃至4−10がパケットの形でネットワーク10上に発信された状態になっている。この時、クライアント装置20は、マウス2の一連の動作を停止した後に受信した表示オブジェクト画像5−5乃至5−10を描画せずに、受取確認(Ack)をサーバ装置30へ返信する。クライアント装置20は、専用の通信ポートを開設し、サーバ装置30に対して一連の動画のうち最後の静止画像である現静止画像6−10を専用の通信ポートを介して送る指示を出す。クライアント装置20は、専用の通信ポートで現静止画像6−10を受信する。これにより、ネットワーク10に伝送遅延が生じていても、クライアント装置20のユーザ1は、一連の動画像のうち最後の静止画像である現静止画像6−10をすぐに、例えばマウス停止後1RTT(Round Trip Time)以内で見ることができる。したがって、マウス停止操作の遅延をなくし操作感覚を向上させることで、遠隔地でのCAD等の設計ツールのクラウド運用(リモート接続によるデスクトップ操作)を利用することができる。
図5は、クライアント装置が実行する画像表示制御処理の流れを示すフローチャートであり、図6は、サーバ装置が実行する画像表示制御処理の流れを示すフローチャートである。
上述したように、クライアント装置20とサーバ装置30は、ネットワーク10を介して互いに接続されている。このような状態において、クライアント装置20及びサーバ装置30は、画像表示制御処理を実行する。
まず、図5のステップS501において、クライアント装置20が遠隔地のサーバ装置30に対して、サーバ装置30で実行しているアプリケーションの遠隔操作の終了指示を送信したか否かを判断する。
終了指示が送信されている場合(ステップS501:Yes)、クライアント装置20は、画像表示制御処理を終了する。そして、サーバ装置30は、図6のステップS601において、クライアント装置20から遠隔操作の終了指示を受信したか否かを判断し、受信していれば(ステップS601:Yes)、サーバ装置30は、画像表示制御処理を終了する。
他方、遠隔操作の終了指示を受信していなければ(ステップS601:No)、サーバ装置30は、ステップS602において、サーバ装置30で作成された動画像の画面を静止画としてキャプチャする。
ステップS603において、ステップS602でキャプチャした静止画が最初の静止画であるか否かを判断する。最初の静止画であれば(ステップS603:Yes)、そのキャプチャした静止画を最初であると示すデータとともに圧縮処理する。他方、キャプチャした静止画が最初の静止画でなければ、すなわち2番目以降の静止画であれば(ステップS603:No)、ステップS605において、前画面との差分データを圧縮処理する。
ステップS606において、ステップS604又はS605で圧縮処理した静止画データから通信用の画像データパケットを生成する。
そして、ステップS607において、ステップS606で生成した画像データパケットをクライアント装置20へ送信する。
クライアント装置20は、図5のステップS501で遠隔操作の終了指示が送信されていなければ(ステップS501:No)、ステップS502において、図6のステップS607でサーバ装置30が送信した画像データパケットを受信する。
そして、ステップS503において、入力装置21であるマウス2の移動操作が停止したか否かを判断する。停止していない場合(ステップS503:No)、ステップS504において、ステップS502で受信した画像データパケットがステップ602で最初にキャプチャした静止画に基づく画像データパケットであるか否かを判断する。
最初であれば(ステップS504:Yes)、ステップS505において、圧縮を解凍し、ステップS506において、表示装置22に表示する。
他方、最初でなければ(ステップS504:No)、ステップS507において、全画面に続く動画として解凍し、ステップS508において、全画面に続く動画像として表示装置22に表示する。
そして、ステップS501に戻り、上述の処理を繰り返す。また、サーバ装置30では、クライアント装置20から入力装置21であるマウス2の移動操作が停止したことを示す信号を受信していないので(ステップS608:No)、ステップS601に戻り、上述の処理を繰り返す。
ステップS503で入力装置21であるマウス2の移動操作が停止したと判断された場合(ステップS503:Yes)、ステップS509において、サーバ装置30との間で画像データパケットを通信していた通信ポート(標準ポート)とは異なる停止画面専用の通信ポートを開設する。そして、ステップS510において、マウス2の移動操作が停止したことを示す信号をサーバ装置30に送信する。
すると、サーバ装置30では、図6のステップS608において、クライアント装置20から入力装置21であるマウス2の移動操作が停止したことを示す信号を受信したか否かを判断する。受信していなければ(ステップS608:No)、ステップS601に戻る。他方、マウス2の移動操作が停止したことを示す信号を受信していた場合(ステップS608:Yes)、ステップS609において、現静止画像を圧縮処理する。ステップS610において、ステップS609で圧縮処理した静止画データから通信用の画像データパケットを生成する。そして、ステップS611において、図5のステップS509でクライアント装置20が開設した停止画面専用の通信ポートへ、ステップS610で生成した画像データパケットを送信し、ステップS601へ戻る。
クライアント装置20では、図5のステップS511において、ステップS611でサーバ装置30が送信した現静止画像の画像データパケットを受信する。そして、ステップS513において、圧縮を解凍し、ステップS513において、表示装置22に表示する。
ステップS514において、ステップS509で開設した停止画面専用の通信ポートを閉設する。そして、ステップS515において、標準ポートでの画像データパケットの受信が完了したか否かを判断し、完了したと判断されると(ステップS515:Yes)、ステップS501に戻る。
図7は、情報処理装置の構成図である。
図2のクライアント装置20及び図3のサーバ装置30は、例えば、図7に示すような情報処理装置(コンピュータ)を用いて実現することが可能である。図7の情報処理装置は、CPU(Central Processing Unit)701、メモリ702、入力装置703、出力装置704、外部記録装置705、媒体駆動装置706及びネットワーク接続装置707を備える。これらはバス708により互いに接続されている。
メモリ702は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリであり、クライアント装置20及びサーバ装置30が実行する画像表示制御処理に用いられるプログラム及びデータを格納する。例えば、CPU701は、メモリ702を利用してプログラムを実行することにより、上述の画像表示制御処理を行う。
入力装置703は、例えば、キーボード、ポインティングデバイス等であり、オペレータからの指示や情報の入力に用いられる。出力装置704は、例えば、表示装置、プリンタ、スピーカ等であり、オペレータへの問い合わせや処理結果の出力に用いられる。
外部記録装置705は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。この外部記録装置705には、ハードディスクドライブも含まれる。情報処理装置は、この外部記録装置705にプログラム及びデータを格納しておき、それらをメモリ702にロードして使用することができる。
媒体駆動装置706は、可搬型記録媒体709を駆動し、その記録内容にアクセスする。可搬型記録媒体709は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。この可搬型記録媒体709には、Compact Disk Read Only Memory (CD−ROM)、Digital Versatile Disk(DVD)、Universal Serial Bus(USB)メモリ等も含まれる。オペレータは、この可搬型記録媒体709にプログラム及びデータを格納しておき、それらをメモリ702にロードして使用することができる。
このように、画像表示制御処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体には、メモリ702、外部記録装置705、及び可搬型記録媒体709のような、物理的な(非一時的な)記録媒体が含まれる。
ネットワーク接続装置707は、通信ネットワーク710に接続され、通信に伴うデータ変換を行う通信インターフェースである。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置707を介して受け取り、それらをメモリ702にロードして使用することができる。
開示の実施の形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。
1 ユーザ
2 マウス
3(3A、3B) オブジェクト
4(4−1、4−2、4−3、4−4、4−5、4−6、4−7、4−8、4−9、4−10) オブジェクト画像
5(5−1、5−2、5−3、5−4、5−5、5−6、5−7、5−8、5−9、5−10) 表示オブジェクト画像
6−10 現静止画像
10 ネットワーク
20 クライアント装置
21 入力装置
22 表示装置
30 サーバ装置
201 通信I/F(インターフェース:Interface)部
202 情報送信部
203 画像データパケット受信部
204 表示制御部
205 確認応答送信部
206 検知部
207 通信ポート開設部
208 クライアント側送信部
209 クライアント側受信部
210 通信ポート閉設部
301 通信I/F(インターフェース:Interface)部
302 情報受信部
303 画像データ生成部
304 画像データパケット生成部
305 画像データパケット送信部
306 確認応答受信部
307 サーバ側受信部
308 サーバ側送信部
701 CPU(Central Processing Unit)
702 メモリ
703 入力装置
704 出力装置
705 外部記録装置
706 媒体駆動装置
707 ネットワーク接続装置
708 バス
709 可搬型記録媒体
710 通信ネットワーク

Claims (6)

  1. 画像に対して行われる操作の信号をネットワーク経由でサーバに送信し、前記操作の信号に基づき前記サーバが生成した画像データパケットを確認応答に応じて前記ネットワーク経由で順次受信して画像を表示するクライアントのコンピュータに、
    画像に対して行われる一連の操作が停止したことを示す停止信号を検知し、
    前記検知の後に受信した前記画像データパケットに基づく画像を表示しないように制御し、
    前記検知があると、前記画像データパケットを通信する第1の通信ポートとは別の第2の通信ポートを、前記サーバとの間に開設し、
    前記停止信号及び前記第2の通信ポートのポート識別情報を、前記第1の通信ポートを介して前記サーバに送信し、
    前記サーバが前記停止信号に応じて送信する、前記操作の停止に対応する現静止画像を、前記第2の通信ポートを介して受信し、
    前記現静止画像を、前記操作の停止の直前まで表示していた画像に続けて表示する、
    処理を実行させることを特徴とする画像表示制御プログラム。
  2. 前記現静止画像の表示の後、前記第2の通信ポートを閉設する、
    ことを特徴とする請求項1に記載の画像表示制御プログラム。
  3. ネットワーク経由でクライアントから送信された画像に対して行われる操作の信号を受信し、前記操作の信号に基づいて画像データパケットを生成して前記クライアントからの確認応答に応じて前記ネットワーク経由で前記クライアントに順次送信するサーバのコンピュータに、
    前記クライアントの画像に対して行われる一連の操作が停止したことを示す停止信号の検知に基づく停止信号、及び前記画像データパケットを通信する第1の通信ポートとは別の前記クライアントとの間に前記クライアントが開設した第2の通信ポートのポート識別情報を前記クライアントから受信し、
    前記停止信号を受信した時点での現静止画像を、前記第2の通信ポートを介して送信する、
    処理を実行させることを特徴とする画像表示制御プログラム。
  4. 画像に対して行われる操作の信号をネットワーク経由でサーバに送信し、前記操作の信号に基づき前記サーバが生成した画像データパケットを確認応答に応じて前記ネットワーク経由で順次受信して画像を表示するクライアントと、前記ネットワーク経由で前記クライアントから送信された前記操作の信を受信し、前記操作の信に基づいて画像データパケットを生成して前記クライアントからの確認応答に応じて前記ネットワーク経由で前記クライアントに順次送信するサーバとを備える情報処理システムであって、
    前記クライアントは、
    画像に対して行われる一連の操作が停止したことを示す停止信号を検知する検知手段と、
    前記検知手段による検知の後に受信した前記画像データパケットに基づく画像を表示しないように制御する表示制御手段と、
    前記検知手段による検知があると、前記画像データパケットを通信する第1の通信ポートとは別の第2の通信ポートを、前記サーバとの間に開設する通信ポート開設手段と、
    前記停止信号及び前記第2の通信ポートのポート識別情報を、前記第1の通信ポートを介して前記サーバに送信するクライアント側送信手段と、
    前記サーバが前記停止信号に応じて送信する、前記操作の停止に対応する現静止画像を、前記第2の通信ポートを介して受信するクライアント側受信手段と、
    を備え、
    前記表示制御手段は、前記クライアント側受信手段によって受信した現静止画像を前記検知手段による検知の直前まで表示していた画像に続けて表示するように制御することを特徴とし、
    前記サーバは、
    前記停止信号及び前記ポート識別情報を前記クライアントから受信するサーバ側受信手段と、
    前記サーバ側受信手段によって前記停止信号を受信した時点での現静止画像を、前記第2の通信ポートを介して送信するサーバ側送信手段と、
    を備える、
    ことを特徴とする情報処理システム。
  5. 画像に対して行われる操作の信号をネットワーク経由でサーバに送信し、前記操作の信号に基づき前記サーバが生成した画像データパケットを確認応答に応じて前記ネットワーク経由で順次受信して画像を表示するクライアントのコンピュータが実行する画像表示制御方法であって、
    画像に対して行われる一連の操作が停止したことを示す停止信号を検知し、
    前記検知の後に受信した前記画像データパケットに基づく画像を表示しないように制御し、
    前記検知があると、前記画像データパケットを通信する第1の通信ポートとは別の第2の通信ポートを、前記サーバとの間に開設し、
    前記停止信号及び前記第2の通信ポートのポート識別情報を、前記第1の通信ポートを介して前記サーバに送信し、
    前記サーバが前記停止信号に応じて送信する、前記操作の停止に対応する現静止画像を、前記第2の通信ポートを介して受信し、
    前記現静止画像を、前記操作の停止の直前まで表示していた画像に続けて表示する、
    ことを特徴とする画像表示制御方法。
  6. ネットワーク経由でクライアントから送信された画像に対して行われる操作の信号を受信し、前記操作の信号に基づいて画像データパケットを生成して前記クライアントからの確認応答に応じて前記ネットワーク経由で前記クライアントに順次送信するサーバのコンピュータが実行する画像表示制御方法であって、
    前記クライアントの画像に対して行われる一連の操作が停止したことを示す停止信号の検知に基づく停止信号、及び前記画像データパケットを通信する第1の通信ポートとは別の前記クライアントとの間に前記クライアントが開設した第2の通信ポートのポート識別情報を前記クライアントから受信し、
    前記停止信号を受信した時点での現静止画像を、前記第2の通信ポートを介して送信する、
    ことを特徴とする画像表示制御方法。
JP2013249561A 2013-12-02 2013-12-02 画像表示制御プログラム、情報処理システム、及び画像表示制御方法 Active JP6191421B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013249561A JP6191421B2 (ja) 2013-12-02 2013-12-02 画像表示制御プログラム、情報処理システム、及び画像表示制御方法
US14/548,348 US10062136B2 (en) 2013-12-02 2014-11-20 Recording medium having stored image display control program, information processing system, and image display control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013249561A JP6191421B2 (ja) 2013-12-02 2013-12-02 画像表示制御プログラム、情報処理システム、及び画像表示制御方法

Publications (2)

Publication Number Publication Date
JP2015106378A JP2015106378A (ja) 2015-06-08
JP6191421B2 true JP6191421B2 (ja) 2017-09-06

Family

ID=53266321

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013249561A Active JP6191421B2 (ja) 2013-12-02 2013-12-02 画像表示制御プログラム、情報処理システム、及び画像表示制御方法

Country Status (2)

Country Link
US (1) US10062136B2 (ja)
JP (1) JP6191421B2 (ja)

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06259214A (ja) * 1993-03-03 1994-09-16 Ricoh Co Ltd ウィンドウ再描画方法
US7408661B2 (en) * 2001-10-12 2008-08-05 Canon Kabushiki Kaisha Control apparatus and its method, and control program and storage medium holding it, with access designating second address being performed based on link to the second address included in display information
US8301789B2 (en) * 2007-06-18 2012-10-30 Emc Corporation Techniques for port hopping
US8095680B2 (en) * 2007-12-20 2012-01-10 Telefonaktiebolaget Lm Ericsson (Publ) Real-time network transport protocol interface method and apparatus
US8103134B2 (en) * 2008-02-20 2012-01-24 Samsung Electronics Co., Ltd. Method and a handheld device for capturing motion
US8539092B2 (en) * 2008-07-09 2013-09-17 Apple Inc. Video streaming using multiple channels
JP2010220189A (ja) 2009-02-17 2010-09-30 Hanshin Expressway Engineering Co Ltd 撮影装置及び動画配信システム
JP2010268441A (ja) * 2009-04-16 2010-11-25 Sanyo Electric Co Ltd 画像処理装置、撮像装置及び画像再生装置
JP5471794B2 (ja) * 2010-05-10 2014-04-16 富士通株式会社 情報処理装置、画像送信プログラム及び画像表示方法
JP5780353B2 (ja) * 2012-03-02 2015-09-16 富士通株式会社 画像送信方法、プログラム、及び装置

Also Published As

Publication number Publication date
JP2015106378A (ja) 2015-06-08
US10062136B2 (en) 2018-08-28
US20150156282A1 (en) 2015-06-04

Similar Documents

Publication Publication Date Title
Antonakoglou et al. Toward haptic communications over the 5G tactile Internet
JP5178918B2 (ja) ホストコンピュータのリモート制御
JP6051832B2 (ja) 通信装置,通信方法,及び通信プログラム
JP2009231975A (ja) 情報処理装置、情報処理方法、クライアント機器、情報処理システム
US9501946B1 (en) Systems and methods for stable haptic feedback over packet-switched networks
JP2015125657A (ja) 情報処理装置、その制御方法およびコンピュータプログラム
JP5780353B2 (ja) 画像送信方法、プログラム、及び装置
JP5834356B2 (ja) 保守作業支援装置
EP2894826A1 (en) Video call set up in an established audio call
JP6191421B2 (ja) 画像表示制御プログラム、情報処理システム、及び画像表示制御方法
JP2014195158A (ja) 通信装置と、当該通信装置を含む通信システム、及びその制御方法とプログラム
JP2008217272A (ja) 遠隔操作システム、遠隔操作方法およびプログラム
JP2007195160A5 (ja)
JP4900576B2 (ja) プログラム、記憶媒体および画像処理方法
CN114338574A (zh) 一种即时通讯方法、管理节点及***
JP6668960B2 (ja) 情報処理装置及びプログラム
JP2020127082A (ja) 画像送信装置および画像表示装置
TW201123765A (en) Remote management system and the method thereof
JP2012080504A (ja) 画像形成装置、画像形成装置の制御方法、及びプログラム
EP2654239A1 (en) Communication controller and communication control method
JP4930856B2 (ja) 通信システム、ゲートウェイ装置、クライアント装置、コンピュータ名変換方法およびプログラム
JP2015204003A (ja) 画像処理システム、情報処理装置、画像処理装置、方法およびプログラム
TW201531056A (zh) 網路控制設備、遠端設備的網路控制系統與控制方法
JP6169990B2 (ja) 遠隔自動操作システムにおけるコントローラ代理プログラム及び方法
Kida et al. A method improving efficiency of remote operation for a virtual campus tour service using robots

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170724

R150 Certificate of patent or registration of utility model

Ref document number: 6191421

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150