以下、本発明の実施の形態について、図面を参照して説明する。なお、本実施形態では、一例として、本願発明を適用した表示装置について説明する。
[1.第1実施形態]
[1.1 全体構成]
第1実施形態の全体構成について説明する。図1は、本発明を適用した表示装置10と、ソース機器20とが、複数のケーブルによって接続された状態を示した図である。表示装置10とソース機器20とは、例えば、HDMIケーブルで接続されており、ソース機器20から表示装置10へは、映像のフレーム画像や、音声の信号が送信される。
表示装置10は、例えば、8Kテレビである。また、8Kモニタであってもよい。なお、表示装置10の解像度は、8Kに限定されず、4K、16K、32Kであってもよい。また、ソース機器20は、例えば、高解像度の画像信号を分割して出力可能なコンテンツ再生装置である。なお、ソース機器20は、8K放送用対応チューナであってもよいし、PC(Personal Computer)のような情報処理装置であってもよい。
[1.2 機能構成]
つづいて、図2を参照して、表示装置10の機能構成について説明する。図2に示すように、表示装置10は、制御部100と、画像信号入力部110と、画像処理部120と、メモリ130と、FPGA(Field Programmable Gate Array)140と、表示制御部150と、表示部160とを備えて構成される。
制御部100は、表示装置10の全体を制御するための機能部である。本実施形態は、制御部100は、SoC(System on a Chip)を用いて構成することとして説明するが、SiP(System In Package)や、1又は複数のCPU(Central Processing Unit)を用いて構成されてもよい。
画像信号入力部110は、ソース機器20から出力される画像信号を入力する機能部である。また、画像信号入力部110は、入力された画像信号を、フレームレート(例えば、1秒間に60フレーム)に合わせて、1又は複数の画像データにデコードして、所定のタイミングで出力する。例えば、画像信号入力部110は、HDMI端子と、HDMI端子から入力される画像信号をデコードして画像データに変換するTMDS(Transition Minimized Differential Signaling)デコーダとを備えて構成される。なお、HDMIを用いる場合は、TMDSによって、音声データ、コマンドデータ等もデコードされ出力されるが、本実施形態においては、画像データを中心に説明する。
また、本実施形態では、説明のため、表示装置10には、画像信号入力部110は4つ備えられ、各画像信号入力部110を、第1画像信号入力部1102、第2画像信号入力部1104、第3画像信号入力部1106、第4画像信号入力部1108と記載することとする。また、各画像信号入力部110に入力される画像信号を、入力1、入力2、入力3、入力4と記載する。また、入力1に基づく画像データを第1画像データ、入力2に基づく画像データを第2画像データ、入力3に基づく画像データを第3画像データ、入力4に基づく画像データを第4画像データと記載する。
なお、表示装置10は、表示部160に表示する画像の解像度に合わせて、画像信号入力部110を複数備える。高解像度の画像を表示するために、n本の画像信号の入力が必要な場合は、表示装置10は、入力1から入力nまでの画像信号をそれぞれ入力可能な、第1画像信号入力部1102から第n画像信号入力部1109を備える。また、画像信号入力部110から出力される画像データの数は、数フレームおきに、連続の画像データを出力してもよい。この場合は、1回の出力タイミングにおいて、連続した複数の画像データ(図2においては、A~Nの矢印で示している。)が画像処理部120に出力されることとなる。
また、画像信号入力部110は、制御部100の制御により、入力された画像信号をダウンコンバートし、解像度を低くした画像データを出力してもよい。なお、ダウンコンバートは画像信号全体に対して行ってもよいし、画像信号の一部の領域に対応する信号に対してのみ行ってもよい。
画像処理部120は、画像信号入力部110から出力される画像データ対する処理を実行する機能部である。所定の処理とは、例えば、画像データの特定の画素における画素値を抽出するといった画像データの調査や、複数の画像データを所定の配置パターンに基づいて配置して、1枚の高解像度の画像データとして合成した画像データ(以下、「合成画像データ」という)を生成し出力する処理である。
なお、配置パターンとは、複数の画像データを合成して表示部160の表示領域に表示する場合における、画像データと配置位置との組み合わせを示したデータである。本実施形態では、4つの画像信号入力部110から画像データが出力されるため、表示部160の表示領域を田の字型に4分割し、左上、右上、左下、右下の複数の表示領域のそれぞれに画像データを表示する。この、表示領域と表示領域に表示する画像データとの対応を配列で表現したものを配置パターンとする。例えば、配置パターンが(第1画像データ、第2画像データ、第3画像データ、第4画像データ)という配列のデータであれば、画像処理部120は、左上に第1画像データ、右上に第2画像データ、左下に第3画像データ、右下に第4画像データを配置して、1つの画像データとした合成画像データを生成する。なお、配置パターンは、画像処理部120に記憶してもよいし、表示装置10に、配置パターンを記憶する記憶部を設けて、その記憶部に記憶してもよく、初期値として適当な配置パターンが記憶されていることとする。
メモリ130は、画像信号入力部110から出力される画像を一時的に記憶する、フレームバッファである。メモリ130は、例えば、半導体メモリであるSRAM(Static RAM)や、SSD(Solid State Drive)によって構成される。
FPGA140は、任意の論理回路を構成可能なLSI(Large Scale Integration)である。本実施形態では、画像処理部120から出力される合成画像データに基づき、表示制御部150に入力する制御信号を生成する機能部として用いる。
表示制御部150は、表示部160の駆動や出力の制御を行う機能部であり、表示部160は合成画像データを出力する機能部である。例えば、表示制御部150は、LCD(Liquid Crystal Display)コントローラであり、表示部160はLCDである。この場合、表示制御部150は、合成画像データを読み取り、表示部160の各ドットのサブピクセル毎に透過量を制御したり、バックライトの明るさの制御を行ったりする。なお、表示部160は、有機ELディスプレイ(OLED)や有機EL(Electro-Luminescence)ディスプレイ等の表示装置によって構成されてもよい。
[1.3 処理の流れ]
つづいて、図3を参照して、本実施形態のメイン処理について説明する。はじめに、画像処理部120は、画像信号入力部110から4つの画像信号が入力されたか否かを判定する(ステップS102)。本実施形態では、画像信号入力部110は、入力された画像信号をデコードして画像データを出力する。したがって、画像処理部120は、4つの画像信号入力部110から画像データが出力されたか否かによって、4つの画像信号が入力されたか否かを判定すればよい。なお、画像信号入力部110から出力された画像データは、メモリ130に記憶される。
つづいて、画像処理部120は、メモリ130に記憶された画像データを読み取り、配置パターンに基づいて画像データを配置して合成した合成画像データを生成する(ステップS104)。そして、画像処理部120は、合成画像データの中心部分の画素値であるRGB値を読み取る(ステップS106)。
合成画像データの中心部分は、4枚の画像データによって構成される境界領域である。ここで、境界領域とは、複数の画像データの境界が隣接する領域をいう。本実施形態では、左上に配置される画像データの右下の1画素と、右上に配置される画像データの左下の1画素と、左下に配置される画像データの右上の1画素と、右下に配置される画像データの左上の1画素とによって構成される領域を境界領域とする。したがって、ステップS106において、画像処理部120は、境界領域である合成画像データの中心部分を構成する4つの画素のRGB値をそれぞれ読み取る。
RGB値とは、画像データの特定の画素において出力する色(画素値)を、光の三原色である赤、緑、青のそれぞれの出力量の組み合わせで表した値。また、RGB値において、赤色の光の出力量をR値、緑色の光の出力量をG値、青色の光の出力量をB値とする。例えば、R値、G値、B値は、それぞれ0から255までの何れかの値を取ることとしたとき、RGB値がR値=0、G値=0、B値=0であれば、その画素は黒であり、RGB値がR値=255、G値=255、B値=255であれば、その画素は白である。なお、説明のため、本実施形態では、RGB値のR値、G値、B値は、それぞれ0~255の256段階のいずれか値をとることとして説明するが、256段階以外(例えば、1024段階、4096段階)であってもよい。
つづいて、画像処理部120は、合成画像データの中心部分、すなわち、境界領域に含まれる画素のRGB値が近似するか否かを判定する(ステップS108)。本実施形態では、境界領域は4つの画素によって構成されるため、4つの画素から異なる2つの画素の画素値が近似するかを判定し、その判定結果に基づいて、合成画像データの中心部分のRGB値が近似するか否かを判定すればよい。例えば、4つの画素から異なる2つの画素を選択する組み合わせである6通りの組み合わせの全てについて、選択した2つの画素のRGB値が近似したときに、中心部分のRGB値が近似すると判定する。また、右上に配置される画像データの左下の画素と、左下に配置される画像データの右上の画素と、右下に配置される画像データの左上の画素との3つの画素のRGB値について、それぞれ、左上に配置される画像データの右下の画素のRGB値と比較して、RGB値が類似した場合に中心部分のRGB値が近似すると判定してもよい。
ここで、RGB値が近似するとは、2つの画素におけるRGB値を比較したときに、R値、G値、B値の差分が所定の範囲(以下、「近似判定範囲」という)に収まるときをいう。例えば、近似判定範囲を「-5~+5」とした場合、2つの画素を比較したときに、R値、G値、B値の差分が、何れも-5~+5の範囲内であれば、比較した2つの画素のRGB値が近似することとする。なお、近似判定範囲は、表示装置10に予め設定されていてもよいし、ユーザによって変更可能であってもよい。
なお、近似判定範囲は、R値、G値、B値のそれぞれについて、別の範囲にしてもよい。例えば、人間の目は、緑に対して感度がよいため、G値に対する近似判定範囲を、R値及びB値に対する近似判定範囲よりも狭くしてもよい。また、表示部160の表示特性に基づいて、近似判定範囲を決定してもよい。
また、画素値の近似を、画素値の変化量に基づいて判定してもよい。例えば、一方の画素値と、他方の画素値との変化量が、ウェーバーの法則により、ユーザが同じ色と感じる範囲(例えば、2%)に収まっていれば、2つの画素値は近似すると判定する。
なお、上述したように、画素値をRGB値で表現して近似するか否かを判定する代わりに、画素値を別の表色系で表現した上で、画素値が近似するか否かを判定してもよい。例えば、画素値を、明度と、赤と緑の色度と、黄色と青の色度とによって表現したLab値で表現してもよいし、XYZ色空間の値によって表現したXYZ値で表現してもよい。また、画素値のうちの一部の値を用いて、画素値が近似するか否かを判定してもよい。
合成画像データの中心部分のRGB値が近似しない場合は(ステップS108;No)、誤った配置パターンに基づいて合成画像データを生成したとして、画像処理部120は、ランダムに画像データを並び替えて、画像データの配置を入れ替えた別の並びの配置パターンを生成する(ステップS110)。そして、ステップS104~ステップS108の処理を行う。画像処理部120は、RGB値が近似する配置パターンが特定できるまで、ステップS104~ステップS110の処理を実行する。
合成画像データの中心部分のRGB値が近似する場合は(ステップS108;Yes)、合成画像データが正しい画像であるとして、その合成画像データを生成した配置パターンを適切な配置パターンとして記憶する。そして、画像信号入力部110から出力される画像データに対して、適切な配置パターンに沿って画像データを配置して生成した合成画像データをFPGA140に出力するようにする。FPGA140は、画像処理部120から出力される合成画像データに基づき、表示制御部150に対して制御信号を送信する。そして、制御信号に基づく表示制御部150の制御により、合成画像データは、表示部160により、映像として出力される(ステップS112)。
なお、全ての配置パターンのいずれにおいても、中心部分のRGB値が近似しない場合には、所定の時間をおき(例えば、10フレーム分の時間)、改めてメイン処理を実行する。表示装置10に入力される画像信号が映像に基づくフレーム画像の画像信号であれば、時間の経過によって画像データが変化するため、変化した画像データに基づいてメイン処理を実行することで、合成画像データの中心部分のRGB値が近似する配置パターンを特定することが可能となる。
[1.4 動作例]
つづいて、図4を参照して、本実施形態の動作例を説明する。図4(a)は、合成画像データと合成画像データの中心部分の位置を示した図であり、図4(b)は、合成画像データの中心部分を構成する境界領域を示した図であり、図4(c)及び図4(d)は、画素値を比較する組み合わせを示した図である。
図4(a)は、配置パターンが(第1画像データ、第2画像データ、第3画像データ、第4画像データ)であるときに、配置パターンに沿って画像データを配置して合成した合成画像データの例である。図4(a)に示すように、入力1に基づく第1画像データが左上に、入力2に基づく第2画像データが右上に、入力3に基づく第3画像データが左下に、入力4に基づく第4画像データが右下に配置される。
また、合成画像データの中心部分である境界領域E100は、4枚の画像データが接する領域である。ここで、境界領域E100は、各画像データの四隅の画素のうち、他の3つの画像の四隅における画素の何れかと対向する画素によって構成され、図4(b)に示すような、縦2画素、横2画素の領域である。ここで、第1画像データの右下の画素をP1、第2画像データの左下の画素をP2、第3画像データの右上の画素をP3、第4画像データの左上の画素をP4とする。
そして、画像処理部120は、P1、P2、P3、P4の4つの画素の画素値が近似するか否かを判定する。ここで、画像処理部120は、4つの画素のうち2つの画素を選択し、選択した2つの画素のRGB値が近似するか否かを判定する。
4つの画素のうち2つの画素を選択する全ての組み合わせは、図4(c)の矢印で示したように6通りある。したがって、画像処理部120は、6通りの画素の組み合わせにおいて、RGB値が近似する場合に、中心部分のRGB値が近似すると判定する。
なお、画像処理部120は、6通りのうちの一部の組み合わせにおいて、RGB値が近似しているか否かを判定してもよい。例えば、図4(d)に示すように、P2、P3、P4の画素の画素値について、P1の画素値と比較する場合は、組み合わせの数は3通りとなる。この3通りの画素の組み合わせにおいて、RGB値が近似する場合に、画像処理部120は、中心部分のRGB値が近似すると判定してもよい。
また、本実施形態は、ステップS104において合成画像データを生成したうえで合成画像データの中心部分のRGB値が近似するか否かを判定したが、合成画像データを生成せず、各画像データから境界領域を構成する画素のRGB値を読み出して比較をしてもよい。このようにすることで、合成画像データを生成する処理を行うこと無く配置パターンを決定できるため、処理時間の削減が可能となる。
なお、本実施形態では、境界領域は、各画像データにおいて、他の画像データと対向する側の隅部領域の1画素によって構成されることとして説明したが、2以上の画素によって構成されてもよい。この場合は、比較する画素値の組み合わせの数を多くしてもよいし、境界領域を構成する画素の画素値の平均値を比較してもよい。また、境界領域が、円形状やひし形状に構成されてもよい。
また、ステップS110においては、完全にランダムに配置パターンを生成してもよいし、生成する配置パターンの順番を事前に定めておいてもよい。なお、配置パターンを順に生成する場合は、ユーザが接続しやすいケーブルの順に対応する配置パターンが優先的に生成されるようにしてもよい。このようにすることで、完全にランダムに配置パターンを生成する場合と比べて、適切な配置パターンを早く特定できる可能性を高くすることができる。
また、4K、16K、32Kといった場合でも、上述した処理によって適切な配置パターンを特定することが可能である。また、画像データが4枚である場合について説明したが、それ以上の画像データを用いる場合に応用することも可能である。例えば、画像データが横4枚、縦2枚の計8枚によって構成されるような横長の映像を表示する場合は、4枚の画像データが左上、右上、左下、右下とで隣接することによって構成される境界領域が3箇所ある。したがって、画像処理部120は、8枚の画像データをランダムに並べたときに、3箇所の境界領域のそれぞれについて、境界領域を構成する画素のRGB値が近似するか否かを判定すればよい。画像処理部120は、3箇所の境界領域のそれぞれについて、境界領域を構成する画素のRGB値が近似すると判定した場合は、その配置パターンを、適切な配置パターンとすればよい。
上述した配置パターンの特定は、ユーザの指示があったときに行ってもよいし、起動時(表示装置10の電源投入時)に行ってもよい。また、定期的に行ってもよい。
本実施形態によれば、表示装置10は、入力された画像信号に基づき、画像データを適切な位置に配置することが可能となる。したがって、ユーザは、ソース機器20と、表示装置10とで、正しい端子に接続されているかを確認する必要がなく、また、ソース機器20に対する操作をしなくても、高解像度の画像(映像)を容易に体感することができる。
また、画素値の比較に基づいて適切な配置パターンを特定するため、高い精度で適切な配置パターンを特定することが可能となる。
[2.第2実施形態]
つづいて第2実施形態について説明する。第2実施形態は第1実施形態と異なり、予め全ての配置パターンに基づく合成画像データを生成し、その中で中心部分のRGB値が最も近似する配置パターンを特定する実施形態である。なお、本実施形態は、第1実施形態の図3を図5に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
本実施形態のメイン処理について、図5を参照して説明する。画像処理部120は、画像信号の入力がされたと判定した場合は、つづいて、全ての配置パターンに基づく合成画像データを生成し、中心部分のRGB値を読み取る(ステップS202)。たとえば、画像信号が4つ入力される場合は、それぞれの入力に基づき、4枚の画像データが画像信号入力部110から出力される。この、4枚の画像データをそれぞれ異なる位置に配置する組み合わせは24通りある。したがって、画像処理部120は、24枚の合成画像データを生成する。そして、合成画像データ毎に、中心部分から、境界領域を構成する4画素分のRGB値を読み出す。
つづいて、画像処理部120は、ステップS202で読み取ったRGB値に基づき、RGB値が最も近似する配置パターンを特定する(ステップS204)。例えば、画像処理部120は、境界領域を構成する4つの画素のRGB値の差分が最小となる配置パターンをRGB値が最も近似する配置パターンとする。この場合は、4つの画素から2つの画素を選択した6つの組み合わせのうち、RGB値が近似する画素の組み合わせが最も多い配置パターンをRGB値が最も近似する配置パターンとする。または、差分のばらつきが最小となる配置パターンや、画素値の変化量がもっとも小さい配置パターンを、RGB値が最も近似する配置パターンとしてもよい。このように、境界領域を構成する4つの画素のRGB値に基づく比較可能な値(量)を算出し、算出した値に基づいて、RGB値が最も近似する配置パターンを特定する。
そして、画像処理部120は、合成画像データをFPGA140に出力することで、ステップS204で特定した配置パターンに基づく合成画像データを映像として出力する(ステップS112)。
なお、ステップS204において、RGB値が最も近似する配置パターンであっても、RGB値が近似する画素の組み合わせ数が少なかったり、ばらつきや変化量といった値が大きかったりする場合は、特定した配置パターンが適切である可能性が低いと考えられる。具体的には、ステップS204で算出する値に対して、閾値や近似と判定する範囲を定め、ステップS204で算出する値が、閾値に基づき適切な値ではない場合や、近似と判定する範囲に収まらない場合は、適切な配置パターンである可能性が低いと判定する。例えば、境界領域を構成する4画素のうち2画素を選択する6通りの組み合わせについて、画素値が近似する組み合わせの数をステップS204において算出する値とする。そして、この値に対して閾値を6とする。この場合、全ての配置パターンの内、最もRGB値が近似する画素の組み合わせが最も多い配置パターンであっても、RGB値が近似する画素の組み合わせが5以下であったときは、画像処理部120は、適切な配置パターンである可能性が低いと判定する。このような場合は、所定の時間が経過した後(例えば、10フレーム分の時間)、改めてステップS202から処理をやり直してもよい。
なお、第1実施形態と同様に、ステップS202においては、合成画像データを生成せず、各画像データから境界領域を構成する画素のRGB値を読み出して比較をしてもよい。
本実施形態によれば、全配置パターンから最もRGB値が近似する配置パターンを特定するため、適切な配置パターンを精度良く特定することが可能となる。
[3.第3実施形態]
つづいて第3実施形態について説明する。第3実施形態は第2実施形態における配置パターンの特定を複数回行う実施形態である。なお、本実施形態は、第2実施形態の図5を図6に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
本実施形態のメイン処理について、図6を参照して説明する。画像処理部120は、画像信号が入力されたら、全配置パターンの中心部分におけるRGB値を読み取り、RGB値が最も近似する配置パターンを特定可能であるか否かを判定する(ステップS302)。RGB値が最も近似する配置パターンを特定可能であるとは、例えば、RGB値が最も近似する配置パターンが、適切な配置パターンである可能性が高い場合である。より具体的には、境界領域を構成する4つの画素のRGB値に基づく比較可能な値(量)を算出して、最もRGB値が最も近似する配置パターンを求めたときに、その値が閾値に基づき適切な値である場合や、近似と判定する範囲に収まる場合である。ステップS302において、RGB値が最も近似する配置パターンが特定可能である場合は、画像処理部120は、RGB値が最も近似する配置パターンを第1配置パターンとして記憶する(ステップS304)。ここで、第1配置パターンは、適切な配置パターンの候補である。
ステップS302において、RGB値が最も近似する配置パターンを特定できない場合は(ステップS302;No)、別の画像データに基づいて、ステップS202及びステップS302を実行する。このとき、RGB値が最も近似する配置パターンが特定できるように、画像データが変化した場合にステップS202へ戻るようにする。このとき、画像処理部120は、APL(Average Picture Level;平均画像レベル)値に変化があるまで待機する(ステップS306)。なお、APLとして、例えば、画像データの平均画素値や、平均輝度値を用いる。このように、画像データが変化するまで待機することにより、例えば、入力された画像が単一色であっても、何度も配置パターンを特定する処理を実行してしまうことを避けることができる。
第1配置パターンを記憶したら、画像処理部120は所定時間(例えば、10フレーム分の時間)が経過したか否かを判定する(ステップS308)。そして、所定時間経過後(ステップS308;Yes)、画像処理部120は、再度、全配置パターンの中心部分におけるRGB値を読み取り(ステップS310)、RGB値が最も近似する配置パターンを特定可能であるか否かを判定する(ステップS312)。RGB値が最も近似する配置パターンを特定可能でない場合は、APL値に変化があるまで待機した上で、ステップS310へ戻る(ステップS312;No→ステップS314→ステップS310)。なお、ステップS310はステップS202と、ステップS312はステップS302と、ステップS314はステップS306と同様の処理を行う。
RGB値が最も近似する配置パターンを特定可能であれば、画像処理部120は、最も小さい合計差分値となる配置パターンを第2配置パターンとして、第1配置パターンと配置パターンが一致するか否かを判定する(ステップS314)。第1配置パターンと第2配置パターンとが一致すれば、第1配置パターン(または、第2配置パターン)を適切な配置パターンとして特定する(ステップS316)。そして、画像処理部120は、ステップS316で特定した配置パターンに基づき画像データを合成して、映像として表示部160から出力する(ステップS112)。
なお、第1配置パターンと、第2配置パターンとが異なる場合は、ステップS202へ戻る(ステップS314;No→ステップS202)。
図7は、本実施形態における動作例を図示したものである。本実施形態は、異なるタイミングで、第1配置パターンと、第2配置パターンを特定する。特に、動画に基づく画像信号が入力された場合には、第1配置パターンを特定するタイミングと、第2配置パターンを特定するタイミングとでは、画像データ(フレーム画像)が異なる。したがって、異なる画像データに基づいて、適切な配置パターンを特定することとなる。
なお、本実施形態は、配置パターンを特定する処理を2回行うこととして説明したが、3回以上行ってもよい。また、配置パターンを特定する処理を、表示部160に映像を出力する前の、ブラックアウトしている状態において実行してもよい。
本実施形態によれば、配置パターンを特定する処理を、異なる画像データに基づいて繰り返し行うことができ、適切な配置パターンを特定する精度を向上することができる。
[4.第4実施形態]
つづいて、第4実施形態について説明する。第4実施形態は第1実施形態と異なり、画像信号をダウンコンバートしてから、合成画像データを生成する実施形態である。なお、本実施形態は、第1実施形態の図3を図8に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
例えば、表示装置10が8Kの解像度の映像を表示する場合は、画像信号入力部110には、通常であれば、4Kの画像信号が入力される。しかし、4Kの解像度において、ストライプや画素毎に異なる画素値になっている画像の画像信号が入力されたり、森の画像のようなノイズに近い画像の画像信号が入力されたりする場合は、隣接する画素の画素値を比較しても、RGB値が近似しない場合がある。このような場合は、表示装置10は、入力された画像信号をダウンコンバートして、2Kの解像度の画像信号として、画像データを出力する。ダウンコンバートすることにより、画像データの解像度が低くなり、画素値が平均化される。そして、2Kの解像度の画像データに基づいて、合成画像データを生成して、RGB値の比較を行う。したがって、ストライプが含まれる画像や、ノイズに近い画像であっても、画素ごとの画素値が平均化され、画素値の変化が小さくなる。このため、境界領域を構成する画素の画素値の差を小さくでき、配置パターンの特定の精度を向上することができる。
本実施形態におけるメイン処理について、図8を参照して説明する。表示装置10に画像信号が入力された場合は、画像処理部120は、ダウンコンバート条件を満たすか否かを判定する(ステップS402)。ここで、ダウンコンバート条件とは、画像信号入力部110が、画像信号をダウンコンバートする場合における条件であり、例えば、以下の場合はダウンコンバート条件を満たすと判定する。
(1)ダウンコンバートを行うことが設定されている場合
例えば、ユーザの設定により、精度を優先して配置パターンを特定するように指示されている場合は、ダウンコンバートを満たすと判定して、必ずダウンコンバートを行うこととする。
(2)画像データにノイズ成分が多い場合
画像信号に基づく画像データが、ノイズが多いと考えられる場合は、ダウンコンバートを行うこととする。例えば、画素値のヒストグラムを取ったときに、特定の画素値の範囲に含まれる画素が一定の数ある場合は、ノイズが多いと判定する。
ダウンコンバート条件を満たす場合は、画像信号入力部110は、画像信号のダウンコンバートを行う(ステップS402;Yes→ステップS404)。例えば、画像信号のダウンコンバートは、画像処理部120が、画像信号入力部110に対して、ダウンコンバートを行うように、制御信号を送信することにより実現する。
つづいて、画像信号に基づき、配置パターンを特定する。例えば、第1実施形態におけるステップS104~ステップS110を実行する。
つづいて、配置パターンが特定できた場合は、画像処理部120は、画像信号入力部110がダウンコンバートをしたか否かを判定する(ステップS406)。画像信号入力部110がダウンコンバートをした場合は、画像信号入力部110は、画像信号を元の状態に戻す(ステップS408)。例えば、画像処理部120が、画像信号入力部110に対して、ダウンコンバートを行わないように、制御信号を送信することにより実現する。そして、画像処理部120は、配置パターンに基づき合成した合成画像データをFPGA140に出力し、表示部160に映像として出力する(ステップS112)。
本実施形態における動作例を、図を参照して説明する。図9(a)は、合成画像データの中心部分である境界領域E400を示した図であり、図9(b)は、ダウンコンバート前における境界領域E402の画素値を示したものであり、図9(c)は、ダウンコンバート前における境界領域E404の画素値を示したものである。なお、画素値は、説明を簡単にするため、RGB値は、R値、G値、B値の何れも、矩形内に示した値であるとする。
図9(b)に示すように、境界領域E402を構成する4つの画素及びその周りの画素が、RGB値がR値=0、G値=0、B値=0である画素と、RGB値がR値=10、G値=10、B値=10である画素とによって市松模様のように構成されている場合は、縦又は横に隣接するRGB値は近似しない。
そこで、ダウンコンバートを行うことで、RGB値を平均化する。例えば、4K画像の画像信号を、2K画像の画像信号にダウンコンバートすることにより、4Kにおいて縦2画素、横2画素によって構成されていた画素が、2Kにおける1画素となる。この1画素のRGB値は、4Kにおいて縦2画素、横2画素によって構成されていた画素のRGB値の平均となる。したがって、4KにおいてR値=0、G値=0、B値=0である画素と、R値=10、G値=10、B値=10である画素とによって市松模様のように構成されている場合は、2Kにすることで、RGB値が平均化され、市松模様を構成していた画素のRGB値がR値=5、G値=5、B値=5となる。
例えば、図9(b)の領域E403に示した、第1画像データの右下隅の縦2画素、横2画素のRGB値は、ダウンコンバートにより、図9(c)の領域E405に示すように、RGB値がR値=5、G値=5、B値=5の画素となる。第2画像データ、第3画像データ、第4画像データにおいても同様である。したがって、境界領域E404を構成する画素のRGB値は、何れもR値=5、G値=5、B値=5となり、画像処理部120は、RGB値が近似すると判定することが可能となる。
なお、境界領域を構成する画素を含む領域のみ、解像度を低くしてもよい。境界領域を構成する画素を含む領域とは、図10(a)に示すように、各画像データの四隅の領域である。また、図10(b)は、図10(a)に示した境界領域E410を拡大した図である。図10(b)に示すように、合成画像データの中心部分にある境界領域E410には、境界領域を構成する画素を含む領域E421、領域E422、領域E423、領域E424が含まれる。本実施形態では、説明のため、領域E421、領域E422、領域E423、領域E424は、境界領域の画素と、境界領域の画素の周囲3画素によって構成される、縦2画素、横2画素の領域とする。なお、境界領域を構成する画素を含む領域としては、境界領域の画素を扇状に囲んだ形状としてもよいし、境界領域の画素を三角形状に囲んだ形状としてもよい。また、縦2画素、横2画素よりも大きい領域としてもよい。
図10(b)に示すように、第1画像データの右下の領域E421、第2画像データの左下の領域E422、第3画像データの左上の領域E423、第4画像データの右上の領域E424は、解像度を低くすることにより、RGB値が平均化される。したがって、境界領域E420には、RGB値が平均化された画素によって構成され、画像処理部120は、平均化された画素に基づいて、RGB値が近似するか否かを判定する。
画像データの一部の解像度を低くする処理は、画像信号入力部110が行ってもよいし、画像処理部120が、画像信号入力部110から出力される画像データに対して行ってもよい。このように、解像度を低くする領域を画像データの一部にすることにより、表示装置10の処理の付加が軽減される。
なお、ダウンコンバートを表示装置10が行うこととして説明したが、ソース機器20側で行ってもよい。また、ダウンコンバートを行う制御信号(例えば、CEC(Consumer Electronics Control))をソース機器20から表示装置10側に送信して、ダウンコンバートを行う制御信号を受信したことを契機に、表示装置10がダウンコンバートを行ってもよい。また、表示装置10側のEDID(Extended Display Identification Data)を変更して、低解像度の画像信号がソース機器20から送信されるようにしてもよい。なお、ソース機器20側でダウンコンバートすることにより、表示装置10でダウンコンバートする処理を省けるため、適切な配置パターンを特定する処理を短縮することが可能となる。
なお、図11に示すように、表示装置10は、ダウンコンバートを行うか否かを設定する設定画面W400を表示してもよい。また、ユーザに対して、表示装置10による画像データの並べ替えを、精度優先で行わせるか、速度優先で行わせるか、自動で判定させるかを、領域B400から選択させる。なお、OKボタンB402が選択されることにより、ユーザによって選択された設定が有効になり、キャンセルボタンB404が選択されることにより、元の状態に戻る。精度優先が選択された場合は、ダウンコンバート条件が必ず満たされるとし、速度優先が選択された場合は、ダウンコンバート条件は必ず満たされないようにする。また、自動が選択された場合は、画像処理部120が、画像データに基づいて、ダウンコンバートをするか否かを決定する。ダウンコンバートを実行する場合、実行しない場合と比べて時間がかかるため、ユーザによってダウンコンバートを行うか否かが選択されることにより、ユーザの利便性を向上させることができる。
本実施形態によれば、8K又はそれ以上の高解像度画像に基づいて配置パターンを判定する際、境界領域の画像がストライプ画像や、ノイズを含む画像である場合であっても、判別精度が低下してしまうことを防ぐことができる。
[5.第5実施形態]
つづいて、第5実施形態について説明する。第5実施形態は第1実施形態と異なり、画像データを1枚ずつ合成(結合)する実施形態である。なお、本実施形態は、第1実施形態の図3を図12に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
本実施形態におけるメイン処理について、図12を参照して説明する。はじめに、画像処理部120は、画像信号が入力されたら、各画像データの四隅のRGB値を読み取る(ステップS502)。そして、画像処理部120は、第1画像データの右下の画素のRGB値が、第2画像データの左下の画素のRGB値、第3画像データの左下の画素のRGB値、第4画像データの左下の画素のRGB値の何れかと近似するか否かを判定する(ステップS504)。第1画像データの右下の画素のRGB値が、第2画像データの左下の画素のRGB値、第3画像データの左下の画素のRGB値、第4画像データの左下の画素のRGB値の何れかと近似した場合は、第1画像データの右側に、RGB値の近似した画像データを結合する(ステップS504;Yes→ステップS506)。
第1画像データの右下の画素のRGB値と、第2画像データの左下の画素のRGB値、第3画像データの左下の画素のRGB値、第4画像データの左下の画素のRGB値の何れかと近似しない場合は、つづいて、画像処理部120は、第1画像データの左下の画素のRGB値と、第2画像データの右下の画素のRGB値、第3画像データの右下の画素のRGB値、第4画像データの右下の画素のRGB値の何れかと近似するか否かを判定する(ステップS504;No→ステップS508)。第1画像データの左下の画素のRGB値が、第2画像データの右下の画素のRGB値、第3画像データの右下の画素のRGB値、第4画像データの右下のRGB値の画素の何れかと近似した場合は、第1画像データの左側に、RGB値の近似した画像データを結合する(ステップS508;Yes→ステップS5010)。
なお、第1画像データの左下の画素のRGB値と、第2画像データの右下の画素のRGB値、第3画像データの右下の画素のRGB値、第4画像データの右下の画素のRGB値の何れとも近似しない場合は、現在の画像データに基づいて配置パターンを決定できないため、所定時間経過後、改めてステップS504の処理を行う(ステップS508;No→ステップS504)。
つづいて、画像処理部120は、第1画像データの右下の画素のRGB値と、ステップS506及びステップS510において結合されなかった画像データ(以下、「未結合画像データ」という)の何れかの右上の画素のRGB値が近似するか否かを判定する(ステップS512)。そして、第1画像データの右下の画素のRGB値と、未結合画像データの何れかの右上の画素のRGB値が近似した場合は、RGB値が近似した画像データを、第1画像データの下側に結合する(ステップS512;Yes→ステップS514)。
第1画像データの右下の画素のRGB値と、未結合画像データの右上の画素のRGB値が近似しなかった場合は、つづいて、画像処理部120は、第1画像データの右上の画素のRGB値と、未結合画像データの何れかの右下の画素のRGB値が近似するか否かを判定する(ステップS512;No→ステップS516)。そして、第1画像データの右上の画素のRGB値と、未結合画像データの何れかの右下の画素のRGB値が近似した場合は、RGB値が近似した画像データを、第1画像データの上側に結合する(ステップS516;Yes→ステップS518)。
なお、第1画像データの右上のRGB値と、未結合画像データの何れの右下の画素のRGB値とが近似しない場合は、現在の画像データに基づいて配置パターンを決定できないため、所定時間経過後、改めてステップS512の処理を行う。
つづいて、画像処理部120は、結合した画像データから配置パターンを特定する。例えば、第1画像データの右側に第3画像データが結合され、第1画像データの上側に第4画像データが結合された場合は、配置パターンは(第4画像データ、第2画像データ、第1画像データ、第3画像データ)であると特定できる。そして、画像処理部120は、配置パターンに基づき合成した合成画像データをFPGA140に出力し、表示部160に映像として出力する(ステップS112)。
図13を参照して、RGB値を比較する画素について説明する。図13は、第1画像データの左上の画素をC11、右上の画素をC12、右下の画素をC13、左下の画素をC14とした図である。同様に、第2画像データ、第3画像データ、第4画像データについても、画像データの番号を十の位、隅の位置を一の位とした符号で、それぞれの画像データの四隅の画素を表す。
メイン処理のステップS504においては、C14と、C23、C33、C43とのそれぞれのRGB値を比較する。ここで、例えば、C14とC33とのRGB値が近似する場合は、C14とC33との画素が横に連続して配置されるように、第1画像データの右側に第3画像データを配置する。
また、この状態で、メイン処理のステップS512においては、C14と、C22、C42とのそれぞれのRGB値を比較する。ここで、例えば、C14とC22とのRGB値が近似する場合は、C14とC22との画素が縦に連続して配置されるように、第1画像データの下側に第2画像データを配置する。
この場合、第1画像データの右に第3画像データが、第1画像データの下に第2画像データが結合される。そして、第4画像データは、第1画像データの右下に配置されることが特定できる。したがって、この場合の配置パターンは、(第1画像データ、第3画像データ、第2画像データ、第4画像データ)となる。
本実施形態によれば、境界領域の画素値を比較しながら合成画像データを生成するため、特に合成する画像データが多い場合に有効である。例えば、16枚の画像データを合成する場合、画像データの組み合わせ方は、16の階乗の数だけ考えられる。この膨大な配置パターンをランダムに配置してRGB値を比較したり、予め合成画像データを生成したりすることは現実的ではない。このような場合であっても、1枚の画像データを基準に、画像データの下辺一端側の境界領域の画素値と、未結合画像データの下辺他端側の境界領域の画素値とを比較し、画素値が近似する画像データを結合することができる。同様に、画像データの上辺一端側の境界領域の画素値と、未結合画像データの前記上辺一端側と対応する下辺一端側の境界領域の画素値とを比較し、画素値が近似する画像データを結合することができる。このようにして画像データを結合し、結合した画像データに基づき、適切な配置パターンを特定することが可能となる。このように、本実施形態は、画像データが多い場合であっても、適切な配置パターンを求めることが可能となる。
[6.第6実施形態]
つづいて、第6実施形態について説明する。第6実施形態は第5実施形態と異なり、各画像データの隅の画素ではなく、辺を構成する画素の画素値を比較する実施形態である。すなわち、境界領域が、画像が対向する側の周縁部領域によって構成され、その周縁部領域の画素の画素値を比較する実施形態である。なお、本実施形態は、第5実施形態の図12を図14に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
本実施形態におけるメイン処理について、図14を参照して説明する。なお、第5実施形態と同様の処理については、説明を省略する。
はじめに、画像処理部120は、画像信号が入力されたら、各画像データの四辺を構成する画素のRGB値を読み取る(ステップS602)。このとき、画像処理部120は、辺を構成する全ての画素(入力される画像信号が4Kであれば、横の辺は3840画素、縦の辺は2160画素)のRGB値を読み取ってもよいし、所定の間隔(例えば、100画素おきといった間隔)や、所定の割合(例えば、各ラインで100画素分)で、画素のRGB値を読み取ってもよい。
つづいて、画像処理部120は、第1画像データの右辺を構成する画素のRGB値が、第2画像データの左辺、第3画像データの左辺、第4画像データの左辺を構成する画素のRGB値と近似するか否かを判定する(ステップS604)。例えば、画像処理部120は、第1画像データの右辺を構成する画素のうち、ステップS604でRGB値を読み出した画素のうち1つの画素を選択し、第2画像データの左辺を構成する画素から、選択した画素と同じ縦位置にある画素を選択する。そして、画像処理部120は、選択した2つの画素のRGB値が近似するか否かを判定する。このように、比較する辺を構成する画素について、それぞれ対応する画素のRGB値を比較する。そして、このような比較を、第1画像データの右辺を構成する画素のうち、ステップS602でRGB値を読み取った画素について行う。このとき、比較した全ての画素のRGB値が近似した場合は、画像処理部120は、第1画像データの右辺と、第2画像データの左辺とが近似すると判定する。なお、比較した全ての画素のRGB値が近似しない場合であっても、比較した画素のRGB値のうち、近似する画素の数が所定の数又は割合であれば、第1画像データの右辺と、第2画像データの左辺とが近似すると判定してもよい。
なお、第1画像データの右辺と、第2画像データの左辺とが近似しない場合は、画像処理部120は、第1画像データの右辺を構成する画素のRGB値と、第3画像データの左辺を構成する画素のRGB値とを比較する。このとき、第1画像データの右辺と、第3画像データの左辺とが近似しない場合は、第1画像データの右辺と、第3画像データの左辺とが近似しない場合は、画像処理部120は、第1画像データの右辺を構成する画素のRGB値と、第4画像データの左辺を構成する画素のRGB値とを比較する。
第1画像データの右辺を構成する画素のRGB値と、第2画像データの左辺、第3画像データの左辺、第4画像データの左辺を構成する画素のRGB値とが近似しない場合は、画像処理部120は、第1画像データの左辺を構成する画素のRGB値と、第2画像データの右辺、第3画像データの右辺、第4画像データの右辺を構成する画素のRGB値とが近似するか否かをする(ステップS604;No→ステップS608)。なお、第1画像データの左辺を構成する画素のRGB値と、第2画像データの右辺、第3画像データの右辺、第4画像データの右辺を構成する画素のRGB値とが近似しない場合は、所定の時間が経過した後(例えば、10フレーム分の時間)ステップS604へ戻る(ステップS608;No→ステップS604)。
ステップS604で、第1画像データの右辺と、第2画像データ、第3画像データ、第4画像データの何れかの左側とが近似する場合は、第1画像データの右側に、第2画像データ、第3画像データ、第4画像データのうち近似する画像データを結合する(ステップS604;Yes→ステップS506)。また、ステップS608で、第1画像データの左辺と、第2画像データ、第3画像データ、第4画像データの何れかの右側とが近似する場合は、第1画像データの左側に、第2画像データ、第3画像データ、第4画像データのうち近似する画像データを結合する(ステップS608;Yes→ステップS510)。
また、画像処理部120は、ステップS612では、第1画像データの下辺と、未結合画像データの上辺とにおいて、それぞれの辺を構成する画素のRGB値が近似するか判定する(ステップS612)。第1画像データの下辺を構成する画素のRGB値と、未結合画像データの何れかの上辺を構成する画素のRGB値が近似する場合は、画像処理部120は、第1画像データの下側に、上辺を構成する画素のRGB値が第1画像データの下辺を構成する画素のRGB値と近似する画像データを結合する(ステップS612;Yes→ステップS514)。
ステップS612で、第1画像データの下側に画像データを結合しなかった場合は、つづいて画像処理部120は、第1画像データの上辺と、未結合画像データの上下とにおいて、それぞれの辺を構成する画素のRGB値が近似するか判定する(ステップS612;No→ステップS616)。第1画像データの上辺を構成する画素のRGB値と、未結合画像データの何れかの下辺を構成する画素のRGB値が近似する場合は、画像処理部120は、第1画像データの上側に、下辺を構成する画素のRGB値が第1画像データの上辺を構成する画素のRGB値と近似する画像データを結合する(ステップS616;Yes→ステップS518)。
なお、第1画像データの上辺を構成する画素のRGB値と、何れかの未結合画像データの下辺を構成する画素のRGB値とが近似しない場合は、所定の時間が経過した後(例えば、10フレーム分の時間)ステップS612へ戻る(ステップS616;No→ステップS612)。
そして、画像処理部120は、結合した画像データから配置パターンを特定し(ステップS520)、配置パターンに沿って結合した画像データを、表示部160から映像として出力する(ステップS112)。
図15を参照して、RGB値を比較する辺について説明する。図15は、第1画像データの上辺をL11、右辺をL12、下辺をL13、左辺をL14とした図である。同様に、第2画像データ、第3画像データ、第4画像データについても、画像データの番号を十の位、辺の位置を一の位とした符号でそれぞれ表す。
メイン処理のステップS604においては、L12と、L24、L34、L44とのそれぞれのRGB値を比較する。ここで、例えば、L12とL34とのRGB値が近似する場合は、L12とL34とが横に連続して配置されるように、第1画像データの右側に第3画像データを配置する。
また、この状態で、メイン処理のステップS612においては、L13と、L21、L41とのそれぞれのRGB値を比較する。ここで、例えば、L13とL21とのRGB値が近似する場合は、L13とL21とが縦に連続して配置されるように、第1画像データの下側に第2画像データを配置する。
この場合、第1画像データの右に第3画像データが、第1画像データの下に第2画像データが結合される。そして、第4画像データは、第1画像データの右下に配置されることが特定できる。したがって、この場合の配置パターンは、(第1画像データ、第3画像データ、第2画像データ、第4画像データ)となる。
本実施形態によれば、第5実施形態と比較して、複数の画素の画素値を比較するため、結合する画像を精度良く決定することができる。特に、画像データが多い場合は、誤った探索をした場合における手戻りに時間がかかってしまう。本実施形態のように、結合する画像を精度良く決定することにより、適切な配置パターンを特定する時間を抑えることが可能となる。
[7.第7実施形態]
つづいて、第7実施形態について説明する。第7実施形態は第1実施形態と異なり、各画像データの隅の画素ではなく、合成画像データを構成する画像データを貫く線(ライン)を構成する画素のRGB値を比較する実施形態である。すなわち、境界領域が、画像が対向する側の周縁部領域によって構成されており、複数の画像データに跨って周縁部領域の画素の画素値を比較する実施形態である。なお、本実施形態は、第1実施形態の図3を図16に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。
本実施形態では、図17に示すように、合成画像データの境界領域を横方向に貫くラインをAラインといい、縦方向に貫くラインをBラインという。Aラインは、画像データの結合位置よりも上に位置する上Aラインと、画像データの結合位置よりも下に位置する下Aラインとの2本がある。また、Bラインは、画像データの結合位置よりも左に位置する左Bラインと、画像データの結合位置よりも右に位置する右Bラインとの2本がある。
図16を参照して、本実施形態の処理の流れについて説明する。なお、第1実施形態と同様の処理については、説明を省略する。
画像処理部120は、合成画像データを生成したら(ステップS104)、AラインとBラインを構成する画素のRGB値を読み取る(ステップS702)。なお、画像処理部120は、Aライン及びBラインを構成する全ての画素のRGB値を読み取ってもよいし、所定の間隔(例えば、100画素毎)や、所定の割合(例えば、各ラインで100画素分)で、画素のRGB値を読み取ってもよい。
つづいて、画像処理部120は、上Aラインと下Aライン及び左Bラインと右Bラインとについて、ステップS702で読み取った画素のRGB値がそれぞれ近似するか否かを判定する(ステップS704)。比較した全てのRGB値が近似した場合は、画像処理部120は、RGB値が近似したと判定し(ステップS704;Yes)、このときの配置パターンに基づいて、合成画像データをFPGA140に出力し、表示部160に映像として表示する(ステップS112)。比較した全てのRGB値が近似しない場合は、画像処理部120は、ランダムに画像データを並び替えた配置パターンを生成し(ステップS110)、ステップS104~ステップS704の処理を行う。
本実施形態は、複数の画素の画素値を比較するため、適切な配置パターンを精度良く特定することが可能となる。
[8.第8実施形態]
つづいて、第8実施形態について説明する。第8実施形態は、第7実施形態と異なり、予め全ての配置パターンに基づく合成画像データを生成し、その中でAライン及びBラインのRGB値が最も近似する配置パターンを特定する実施形態である。なお、本実施形態は、第1実施形態の図3を図18に置き換えたものであり、同一の機能部及び処理には同一の符号を付し、説明については省略する。なお、Aライン及びBラインについては、第7実施形態と同様である。
図18を参照して、本実施形態の処理の流れについて説明する。なお、第1実施形態と同様の処理については、説明を省略する。画像処理部120は、画像信号が入力されたら、全ての配置パターンに基づく合成画像データを生成し、Aライン及びBラインを構成する画素のRGB値を読み取る(ステップS802)。
つづいて、画像処理部120は、ステップS802で読み取ったRGB値において、対応する画素のRGB値のR値の差分、G値の差分、B値の差分をそれぞれ算出し、全ての差分を合計した合計差分値を算出する。そして、合計差分値が最も小さい配置パターンを特定する(ステップS804)。
画像処理部120は、ステップS804において特定した配置パターンに基づいて、合成画像データをFPGA140に出力し、表示部160に映像として表示する(ステップS112)。なお、第2実施形態に記載したように、合計差分値に対する閾値を設けてもよい。
[9.変形例]
本発明は上述した各実施の形態に限定されるものではなく、種々の変更が可能である。すなわち、本発明の要旨を逸脱しない範囲内において適宜変更した技術的手段を組み合わせて得られる実施の形態についても本発明の技術的範囲に含まれる。なお、上述した説明以外であっても、矛盾のない範囲において、ステップの順番を変更したり、一部のステップを省略したりしても構わない。
また、上述した実施形態は、説明の都合上、それぞれ別に説明している部分があるが、技術的に可能な範囲で組み合わせて実行してもよいことは勿論である。例えば、第3実施形態と第4実施形態とを組み合わせてもよい。第3実施形態も第4実施形態もいずれも適切な配置パターンを特定する精度を高める実施形態であるため、より高い精度で適切な配置パターンを特定することが可能となる。
また、実施形態において各装置で動作するプログラムは、上述した実施形態の機能を実現するように、CPU等を制御するプログラム(コンピュータを機能させるプログラム)である。そして、これら装置で取り扱われる情報は、その処理時に一時的に一時記憶装置(例えば、RAM)に蓄積され、その後、各種ROM(Read Only Memory)やHDD等の記憶装置に格納され、必要に応じてCPUによって読み出し、修正・書き込みが行なわれる。
ここで、プログラムを格納する記録媒体としては、半導体媒体(例えば、ROMや、不揮発性のメモリカード等)、光記録媒体・光磁気記録媒体(例えば、DVD(Digital Versatile Disc)、MO(Magneto Optical Disc)、MD(Mini Disc)、CD(Compact Disc)、BD (Blu-ray Disk) 等)、磁気記録媒体(例えば、磁気テープ、フレキシブルディスク等)等の何れであってもよい。また、ロードしたプログラムを実行することにより、上述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、オペレーティングシステムあるいは他のアプリケーションプログラム等と共同して処理することにより、本発明の機能が実現される場合もある。
また、市場に流通させる場合には、可搬型の記録媒体にプログラムを格納して流通させたり、インターネット等のネットワークを介して接続されたサーバコンピュータに転送したりすることができる。この場合、サーバコンピュータの記憶装置も本発明に含まれるのは勿論である。