JP2003316337A - Image processing method and image processor - Google Patents

Image processing method and image processor

Info

Publication number
JP2003316337A
JP2003316337A JP2003021173A JP2003021173A JP2003316337A JP 2003316337 A JP2003316337 A JP 2003316337A JP 2003021173 A JP2003021173 A JP 2003021173A JP 2003021173 A JP2003021173 A JP 2003021173A JP 2003316337 A JP2003316337 A JP 2003316337A
Authority
JP
Japan
Prior art keywords
dither
noise
frame
image processing
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003021173A
Other languages
Japanese (ja)
Other versions
JP4420607B2 (en
Inventor
Scott James Daly
ジェイムズ ダリ− スコット,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US10/062,387 external-priority patent/US7450181B2/en
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JP2003316337A publication Critical patent/JP2003316337A/en
Application granted granted Critical
Publication of JP4420607B2 publication Critical patent/JP4420607B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image processing method which permits extension of the bit depth of a display system and an image processor. <P>SOLUTION: The image processing method for extension of the bit depth of the display system includes a process step of forming a pseudo random noise from a human sensation system noise. The noise, when applied to image data, produces space-temporal dithering. The pseudo random noise is combined with the image data to form noise compensation image data. The noise compensation image data is thereafter quantized. <P>COPYRIGHT: (C)2004,JPO

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、等価入力視覚ノイ
ズのモデルを用いた、例えばデジタルディスプレイなど
の各種ディスプレイのビット深さを拡張する画像処理方
法およびこれを用いた画像処理装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing method for expanding the bit depth of various displays such as digital displays using an equivalent input visual noise model, and an image processing apparatus using the same.

【0002】[0002]

【従来の技術】この種の画像処理方法は、人間視覚シス
テムの特徴を活用することにより、例えばデジタルディ
スプレイなどのディスプレイのビット深さを拡張するも
のである。以下、その従来の技術について説明する。
2. Description of the Related Art This type of image processing method is to extend the bit depth of a display such as a digital display by utilizing the characteristics of the human visual system. The conventional technique will be described below.

【0003】連続な階調(コントーン(conton
e)ともいう)画像は、最低でも24ビット/ピクセル
を有する。通常のディスプレイでは、各色に対して8ビ
ットが割り当てられる。しかし、より低コストのディス
プレイでは1ピクセル当たりに有するビット数が制限さ
れる。このような制限の原因は、ビデオランダムアクセ
スメモリ(VRAM)の容量の制限、ディスプレイ自体
の特性、またはある陰極線管(CRT)ディスプレイに
おいて使用されるデジタル−アナログ変換器(DAC)
によるものである。
Continuous gradation (contone
Images, also called e), have a minimum of 24 bits / pixel. In a typical display, 8 bits are allocated for each color. However, lower cost displays have a limited number of bits per pixel. The reason for such limitations is the limited capacity of the video random access memory (VRAM), the characteristics of the display itself, or the digital-to-analog converter (DAC) used in some cathode ray tube (CRT) displays.
It is due to.

【0004】例えば、多くのラップトップコンピュータ
では、最高のグレーレベル解像度が「数千色」モードで
あることが多い。このモードは、16ビット/ピクセル
に対応し、より大きなコンピュータ(より大きなVRA
Mを有するコンピュータ)における24ビット/ピクセ
ルではない。通常、16ビットでは、5ビットを赤色、
6ビットを緑色、5ビットを青色に割り当てる。さらに
低品質の製品では、わずか15ビット/ピクセルが使用
され、各色に5ビットが割り当てられる。1色1ピクセ
ル当たりのビット数をビット深さという。
For example, in many laptop computers, the highest gray level resolution is often in the "thousands of colors" mode. This mode supports 16 bits / pixel and is compatible with larger computers (larger VRA
24 bits / pixel in a computer with M). Normally, with 16 bits, 5 bits are red,
Assign 6 bits to green and 5 bits to blue. In lower quality products, only 15 bits / pixel are used and 5 bits are allocated for each color. The number of bits per pixel for one color is called the bit depth.

【0005】限られたビット深さしかないディスプレイ
では、輪郭アーチファクトは滑らかな勾配の領域として
見える。例えば、空の一部を含む画像は、空の滑らかな
勾配青色領域に目に見える輪郭線が現れる。これらのア
ーチファクトを低減するための従来技術が提案されてい
る。
On displays with a limited bit depth, contour artifacts appear as areas of smooth gradient. For example, an image containing a portion of the sky will have visible contour lines in the smooth gradient blue region of the sky. Prior art has been proposed to reduce these artifacts.

【0006】L.G.Robertsは、パルス符号変
調(PCM)符号化されて送信される画像に対する輪郭
防止の分野において独創的な仕事を行った。これをきっ
かけに画像圧縮の研究が始まり、画像は7ビット/ピク
セルから2または3ビット/ピクセルにまで大きく圧縮
できるようになった。この圧縮技術は、振幅量子化によ
ってグレーレベル解像度を低減する。主な歪みは、輪郭
をなすアーチファクトであり、ゆっくりと変化する勾配
における見かけのエッジとして現れる。
L. G. Roberts did an original job in the area of contour protection for images transmitted in pulse code modulation (PCM) coding. This led to the research of image compression, and it became possible to compress images from 7 bits / pixel to 2 or 3 bits / pixel. This compression technique reduces gray level resolution by amplitude quantization. The main distortion is the contouring artifact, which appears as an apparent edge in a slowly changing gradient.

【0007】Robertsの技術では、図1の従来例
のように、量子化のラスタースキャンの間に、あらかじ
め決定された1次元ホワイトノイズシーケンスを加算す
る。ノイズシーケンスはあらかじめ決定されるので、擬
似ランダムノイズと呼ばれることが多い。画質の低下を
防止するために、ノイズは、受信後であって、そのノイ
ズが加算されたデータがディスプレイされる前に排除さ
れる。減算されるノイズは送信器ノイズと同一であり、
位相も同一である。ノイズは輪郭をなすアーチファクト
を壊すのに有効である。
In the Roberts technique, as in the conventional example of FIG. 1, a predetermined one-dimensional white noise sequence is added during the quantization raster scan. Since the noise sequence is predetermined, it is often called pseudo-random noise. In order to prevent deterioration of image quality, noise is removed after reception and before the data to which the noise is added is displayed. The subtracted noise is the same as the transmitter noise,
The phases are also the same. Noise is effective in destroying contouring artifacts.

【0008】この技術が発表された当時は、輪郭をなす
アーチファクトの破壊は、実験で観察されるだけであっ
たが、輪郭に沿った要素は、ノイズによってその方向が
変化し、視覚システムのための連合野の外部に入力され
るからであると理解されてきた。量子化処理は、ノイズ
を加算し、そして減算する工程の間に行われるので画像
中の所定のノイズはそのままにされる。
At the time this technology was announced, the destruction of contouring artifacts was only observed experimentally, but elements along the contours could change their direction due to noise, which is due to the visual system. It has been understood that it is because it is input to the outside of the association field. The quantization process is performed during the steps of adding and subtracting noise so that the noise of interest in the image remains.

【0009】Robertsの仕事は、圧縮技術として
はほとんど忘れ去られた。デジタルパルス符号変調(D
PCM)、離散コサイン変換(DCT)、およびウェー
ブレット圧縮のより新しい技術によって、輪郭アーチフ
ァクトのない大規模な圧縮が可能となってきた。このこ
とは、DCTおよびウェーブレット技術では主に圧縮処
理を空間ドメインから周波数ドメインに移すことによっ
て達成される。
The work of Roberts was almost forgotten as a compression technique. Digital pulse code modulation (D
Newer techniques such as PCM), Discrete Cosine Transform (DCT), and wavelet compression have enabled large-scale compression without contour artifacts. This is achieved in DCT and wavelet techniques mainly by moving the compression process from the spatial domain to the frequency domain.

【0010】Robertsの方法を用いた例として、
従来図1に示されるシステムは、ノイズの分布は一様で
あり、ホワイトノイズである(例えば、特許文献1参
照)。また、ノイズが空間および時間の次元の両方でハ
イパスされる実施形態を含むものがある(例えば、特許
文献2参照)。さらに、Robertsの方法のよう
に、システムがノイズを加算するが、受信器においては
ノイズを除去しないものがある(例えば、特許文献
3)。ノイズは順序づけられたパターンで用いられる。
As an example using the Roberts method,
The conventional system shown in FIG. 1 has a uniform noise distribution and is white noise (see, for example, Patent Document 1). Also, some include embodiments in which noise is high-passed in both the spatial and temporal dimensions (see, for example, US Pat. Furthermore, there is a method like the Roberts method in which the system adds noise, but does not remove the noise in the receiver (for example, Patent Document 3). Noise is used in an ordered pattern.

【0011】これらの技術は、通常ディザーと区別する
ようマイクロディザーと呼ばれる。この用語はより一般
にはハーフトーン技術に適用される。ハーフトーンディ
ザーは空間ディザーであるが、マイクロディザーは振幅
ディザーである。ハーフトーン技術については、ディス
プレイおよび印刷用途の両方において多くの研究がなさ
れてきた。文献は大きくは二つに分類される。ノイズを
使用する一般ディザーリング方法および輪郭アーチファ
クトの除去に特化した方法である。
These techniques are usually called micro dither to distinguish them from dither. This term applies more generally to halftone technology. Halftone dither is spatial dither, while microdither is amplitude dither. Much work has been done on halftone technology in both display and printing applications. The literature is roughly classified into two. It is a general dithering method using noise and a method specialized for removing contour artifacts.

【0012】ディスプレイシステムのための一般ディザ
ーリング方法を用いて、2次元配列を用いた時空間ディ
ザーを行い、他のフレームに対して変更を行う処理を含
んでいるものがある(例えば、特許文献4参照)。量子
化された画像をディザーマトリクスと比較しているもの
がある(例えば、特許文献5参照)。ディザーマトリク
スは、一度に現れるグレースケールのすべての値を含む
ので、その大きさは所望のグレースケール解像度に依存
する。他の例においてもこの制限が課されることが記載
されるものがある(例えば、特許文献6参照)。
Some include a process of performing spatio-temporal dither using a two-dimensional array and making a change to another frame by using a general dithering method for a display system (see, for example, Patent Document 1). 4). Some compare the quantized image with a dither matrix (see, for example, Patent Document 5). Since the dither matrix contains all the grayscale values that appear at one time, its magnitude depends on the desired grayscale resolution. In some other examples, it is described that this limitation is imposed (for example, see Patent Document 6).

【0013】他のディザーリング方法は、ディザー配列
に対して所定のサイズを有さない。ディザー配列の大き
さは位相によって設定され、さらに人間視覚システムの
特徴を記載しているものがある(例えば、特許文献7参
照)。しかし、特許文献7は、上記特許文献2の1実施
形態のように、極めて一般的であり、実質的にディザー
リングパターンにおける空間および時間周波数が高いこ
とを意味する。同様に、ディザービットマップを使用し
て、グレーレベル数の大きな画像がグレーレベル数の小
さい出力デバイス上にディスプレイできる方法を記載す
るものがある(例えば、特許文献8参照)。
Other dithering methods do not have a predetermined size for the dither array. The size of the dither array is set by the phase, and there is one that describes the characteristics of the human visual system (for example, see Patent Document 7). However, Patent Document 7 is extremely general as in the one embodiment of Patent Document 2 above, which means that the spatial and temporal frequencies in the dithering pattern are substantially high. Similarly, there is a description of a method of using a dither bitmap to display an image having a large number of gray levels on an output device having a small number of gray levels (see, for example, Patent Document 8).

【0014】人間視覚システムを使用した例が記載され
るものがある(例えば、特許文献9参照)。使用される
ノイズはハイパスノイズであるが、周波数全体にわたっ
て視覚システムの感度に対して正比例して用いられる。
感度が周波数の増加に伴って低下するか、または増加す
るかは、視る距離およびピクセル解像度に依存する。ほ
とんどの視る距離およびピクセル解像度について、デジ
タルナイキスト周波数は3〜5サイクル/度よりも高い
1サイクル/度に対応し、これは視覚MTFの一般のピ
ーク周波数である。この場合、周波数が増加すると感度
は低下する。しかし、解像度が低く距離が近いと、その
反対が正しくなる。
There is a document in which an example using a human visual system is described (see, for example, Patent Document 9). The noise used is high pass noise but is used in direct proportion to the sensitivity of the visual system over frequency.
Whether sensitivity decreases or increases with increasing frequency depends on viewing distance and pixel resolution. For most viewing distances and pixel resolutions, the digital Nyquist frequency corresponds to 1 cycle / degree higher than 3-5 cycles / degree, which is a common peak frequency of the visual MTF. In this case, the sensitivity decreases as the frequency increases. But at lower resolutions and closer distances, the opposite is true.

【0015】他の方法はハイパスノイズを使用するかそ
の近似を使用する。ディザーリング配列を、出来たハー
フトーンパターンが青色(ハイパス)ノイズを近似する
ように設計することを記載するものがある(例えば、特
許文献10参照)。
Other methods use high pass noise or an approximation thereof. There is a description that the dithering array is designed so that the resulting halftone pattern approximates blue (high-pass) noise (see, for example, Patent Document 10).

【0016】ディザーリングのより一般的な定義を記載
するものがある(例えば、特許文献11参照)。この特
許文献11では、ディザーリングは、所望の色またはレ
ベルに近い二つの色またはグレーレベルのパターンの使
用として定義される。目が二つの色またはレベルを平均
する場合、それらは所望の色に見える。ディザーリング
のために1ビットよりも多く使用する場合、マルチビッ
トディザーリングと呼ぶ。
There is a document which describes a more general definition of dithering (see, for example, Patent Document 11). In this document, dithering is defined as the use of a pattern of two colors or gray levels close to the desired color or level. When the eye averages two colors or levels, they appear to be the desired color. When more than one bit is used for dithering, it is called multi-bit dithering.

【0017】マルチビットディザーリングのための他の
方法は、各ピクセルに対してディザー配列の大きさを制
限する。例えば、各ピクセルに対して2×2のディザー
配列を使用しているものがある(例えば、特許文献12
参照)。他の技術では、ディザー配列の大きさは所望な
グレーレベルの数に基づいている(例えば、特許文献1
3参照)。上記特許文献13は、ディザー配列の大きさ
が16×16であるので256レベルとなる。
Another method for multi-bit dithering limits the size of the dither array for each pixel. For example, there is one that uses a 2 × 2 dither array for each pixel (for example, Patent Document 12).
reference). In other techniques, the size of the dither array is based on the number of desired gray levels (see eg US Pat.
3). In the above-mentioned Patent Document 13, since the size of the dither array is 16 × 16, there are 256 levels.

【0018】ディザーリングは上記のような一般の場合
および特定の問題に使用される。クリッピングおよびグ
レースケールエラー機能が問題である場合、マルチビッ
トディザーリングが使用されているものがある(例え
ば、特許文献14参照)。
Dithering is used in the general case and the particular problems mentioned above. When clipping and grayscale error features are a problem, some have used multi-bit dithering (see, eg, US Pat. No. 6,037,049).

【0019】上記で検討された特定のアーチファクト
は、輪郭アーチファクトであり、すなわち、ゆっくりと
変化する勾配の見かけのエッジである。ディザーリング
のようにノイズの加算などのいくつかの技術がこの問題
を解決するために使用されてきた。
The particular artifacts discussed above are contour artifacts, ie, apparent edges of slowly changing slopes. Several techniques such as noise addition like dithering have been used to solve this problem.

【0020】一つの方法として画像を二つの領域に分割
しているものがある(例えば、特許文献15参照)。そ
の領域の、一方はエッジからなり、他方は非エッジから
なる。各分割領域は別々にフィルタリングされる。この
発明は、圧縮および展開される画像の後処理のためのも
のである。
As one method, there is a method in which an image is divided into two regions (for example, see Patent Document 15). One of the regions consists of edges and the other consists of non-edges. Each sub-region is filtered separately. The present invention is for post-processing of compressed and decompressed images.

【0021】他の技術は、特定の圧縮または展開技術に
関連する。例えば、MPEG(Motion Pict
ures Experts Group)およびMPE
G2方式における輪郭アーチファクトの解決案を提示し
ているものがある(例えば、特許文献16参照)。これ
らの方式において、輪郭は画像の暗い領域に生じる。こ
の技術では、異なるゲインを領域に与え、捕らえた画像
ノイズを大きくしてアーチファクトを破壊する。
Other techniques relate to particular compression or decompression techniques. For example, MPEG (Motion Pict)
ures Experts Group) and MPE
There is a proposal of a solution for the contour artifact in the G2 method (for example, see Patent Document 16). In these schemes, contours occur in dark areas of the image. In this technique, different gains are applied to the area, the captured image noise is increased, and the artifact is destroyed.

【0022】輪郭を振幅量子化アーチファクトの特定の
例として記載しているものがある(例えば、特許文献1
7参照)。この技術は、実験を行い、画像中にすでに存
在するノイズに基づいて量子化間隔を決定することを示
唆する。ノイズ/量子化の間隔は3/8であると示唆さ
れる。
Some have described contours as specific examples of amplitude quantization artifacts (see, eg, US Pat.
7). This technique suggests conducting experiments and determining the quantization interval based on the noise already present in the image. The noise / quantization interval is suggested to be 3/8.

【0023】最後に、印刷における輪郭アーチファクト
は、二つのチャネルを使用し、一つの層は、大きなドッ
トを生成するチャネルであり、他方は小さなドットを生
成するチャネルであることによって解決されることが記
載するものがある(例えば、特許文献18参照)。
Finally, contouring artifacts in printing can be solved by using two channels, one layer being the channel producing large dots and the other being the channel producing small dots. There is one to be described (for example, see Patent Document 18).

【0024】[0024]

【特許文献1】米国特許第3,244,808号明細書[Patent Document 1] US Pat. No. 3,244,808

【0025】[0025]

【特許文献2】米国特許第3,562,420号明細書[Patent Document 2] US Pat. No. 3,562,420

【0026】[0026]

【特許文献3】米国特許第3,739,082号明細書[Patent Document 3] US Pat. No. 3,739,082

【0027】[0027]

【特許文献4】米国特許第4,275,411号明細書[Patent Document 4] US Pat. No. 4,275,411

【0028】[0028]

【特許文献5】米国特許第3,961,134号明細書[Patent Document 5] US Pat. No. 3,961,134

【0029】[0029]

【特許文献6】米国特許第5,164,717号明細書[Patent Document 6] US Pat. No. 5,164,717

【0030】[0030]

【特許文献7】米国特許第4,758,893号明細書[Patent Document 7] US Pat. No. 4,758,893

【0031】[0031]

【特許文献8】米国特許第5,333,260号明細書[Patent Document 8] US Pat. No. 5,333,260

【0032】[0032]

【特許文献9】米国特許第5,619,230号明細書[Patent Document 9] US Pat. No. 5,619,230

【0033】[0033]

【特許文献10】米国特許第5,111,310号明細
[Patent Document 10] US Pat. No. 5,111,310

【0034】[0034]

【特許文献11】米国特許第4,956,638号明細
[Patent Document 11] US Pat. No. 4,956,638

【0035】[0035]

【特許文献12】米国特許第5,138,303号明細
[Patent Document 12] US Pat. No. 5,138,303

【0036】[0036]

【特許文献13】米国特許第5,696,602号明細
[Patent Document 13] US Pat. No. 5,696,602

【0037】[0037]

【特許文献14】米国特許第5,201,030号明細
[Patent Document 14] US Pat. No. 5,201,030

【0038】[0038]

【特許文献15】米国特許第5,218,649号明細
[Patent Document 15] US Pat. No. 5,218,649

【0039】[0039]

【特許文献16】米国特許第5,651,078号明細
[Patent Document 16] US Pat. No. 5,651,078

【0040】[0040]

【特許文献17】米国特許第5,809,178号明細
[Patent Document 17] US Pat. No. 5,809,178

【0041】[0041]

【特許文献18】米国特許第5,920,653号明細
[Patent Document 18] US Pat. No. 5,920,653

【0042】[0042]

【発明が解決しようとする課題】しかし、これらの方法
による問題解決は、いずれにおいてもロバスト(rob
ust)で計算的に簡単なやり方ではない。加えて、必
要なビット数はなおも比較的高い。さらにより低いビッ
ト深さのディスプレイをより高いレベルを有するディス
プレイと同様に見えるようにし、ノイズをより見えにく
くする方法は、有用である。
However, the problem solving by these methods is robust in any case.
ust) is not a computationally simple way. In addition, the number of bits required is still relatively high. It would be useful to have a display with even lower bit depth look like a display with higher levels, making the noise less visible.

【0043】本発明は、上記従来の問題を解決するもの
で、ディスプレイシステムのディスプレイに合わせてビ
ット深さを拡張することができる画像処理方法およびこ
れを用いた画像処理装置を提供することを目的とする。
The present invention solves the above conventional problems, and an object of the present invention is to provide an image processing method capable of expanding the bit depth according to the display of a display system and an image processing apparatus using the same. And

【0044】[0044]

【課題を解決するための手段】本発明によるディスプレ
イシステムのビット深さを拡張する方法は、人間視覚シ
ステムノイズから擬似ランダムノイズを生成する工程で
あって、該擬似ランダムノイズが時空間ディザーリング
を生成する、工程と、該擬似ランダムノイズを画像デー
タと組み合わせる工程であって、これによりノイズ補償
画像データを生成する、工程と、該ノイズ補償画像デー
タを量子化する工程とを包含し、それにより上記目的が
達成される。
SUMMARY OF THE INVENTION A method of extending the bit depth of a display system according to the present invention is the step of generating pseudo-random noise from human visual system noise, which pseudo-random noise reduces spatio-temporal dithering. Generating, and combining the pseudo-random noise with image data, thereby generating noise-compensated image data, and quantizing the noise-compensated image data. The above object is achieved.

【0045】前記量子化工程は、さらに前記ノイズ補償
画像データのビット表現を低減する工程をさらに包含し
てもよい。
The quantizing step may further include the step of reducing the bit representation of the noise-compensated image data.

【0046】前記時空間ノイズの生成は、空間および時
間次元において分離可能に行われてもよい。
The spatiotemporal noise may be generated separably in the space and time dimensions.

【0047】前記時空間ノイズの生成は一つの処理とし
て行われてもよい。
The generation of the spatiotemporal noise may be performed as one process.

【0048】前記擬似ランダムノイズは、3次元配列と
して格納されてもよい。
The pseudo random noise may be stored as a three-dimensional array.

【0049】前記擬似ランダムノイズは、ガンマ補正空
間に時空間ノイズとして格納されてもよい。
The pseudo random noise may be stored in the gamma correction space as space-time noise.

【0050】前記擬似ランダムノイズは、2次元配列に
格納されてもよい。
The pseudo random noise may be stored in a two-dimensional array.

【0051】前記擬似ランダムノイズは、フレーム内で
値を繰り返す工程を含んでもよい。
The pseudo random noise may include a step of repeating a value within a frame.

【0052】前記擬似ランダムノイズを生成する工程
は、前記画像データのフレームよりも小さなサイズを有
するディザーフレーム内に該ノイズを生成する工程と、
該ディザーフレームを該画像データのフレーム上にタイ
リングする工程とをさらに包含してもよい。
The step of generating the pseudo-random noise includes the step of generating the noise in a dither frame having a size smaller than the frame of the image data;
Tiling the dither frame on the frame of image data.

【0053】前記異なるディザーフレームが、前記画像
データの各フレームにおいて繰り返すようにタイリング
され、行開始位置でインクリメントされてもよい。
The different dither frames may be tiled repeatedly in each frame of the image data and incremented at the row start position.

【0054】前記異なるディザーフレームが、前記画像
データの各フレームにおいて繰り返すようにタイリング
され、フレーム終了位置でインクリメントされてもよ
い。
The different dither frames may be tiled repeatedly in each frame of the image data and incremented at the frame end position.

【0055】ディザー開始フレームは、各画像フレーム
内でランダムに置換され、隣接するタイルの時間位相が
同期を外れるように繰り返しで逐次処理されてもよい。
The dither start frame may be randomly replaced within each image frame and iteratively processed sequentially such that the temporal phases of adjacent tiles are out of sync.

【0056】ディスプレイの時間特性を使用してディザ
ーフレーム数を決定してもよい。
The time characteristics of the display may be used to determine the number of dither frames.

【0057】ディスプレイの時間特性を視覚モデルコン
トラスト感度関数とともに使用して前記時空間ディザー
リングを形成してもよい。
The temporal characteristics of the display may be used with a visual model contrast sensitivity function to form the spatiotemporal dithering.

【0058】本発明によるディザーフレームを格納する
方法は、3次元ディザー配列を生成する工程と、該3次
元ディザー配列をメモリにマッピングする工程とを包含
し、それにより上記目的が達成される。
The method of storing a dither frame according to the present invention includes the steps of generating a three-dimensional dither array and mapping the three-dimensional dither array in a memory, thereby achieving the above object.

【0059】前記ディザー配列が時空間ディザー配列で
あってもよい。
The dither arrangement may be a spatiotemporal dither arrangement.

【0060】前記ディザー配列が相互に空間的にハイパ
スおよび時間的にハイパスであってもよい。
The dither arrangements may be spatially highpass and temporally highpass with respect to each other.

【0061】前記3次元ディザー配列がガンマ補償空間
に格納されてもよい。
The three-dimensional dither array may be stored in the gamma compensation space.

【0062】前記3次元ディザー配列がガウシアン確率
密度関数であってもよい。
The three-dimensional dither array may be a Gaussian probability density function.

【0063】前記3次元ディザー配列が等輝度ノイズを
含んでもよい。
The three-dimensional dither array may include isoluminance noise.

【0064】本発明によるディザーを画像データに適用
する方法は、ディザーフレームを画像データのフレーム
に適用する工程であって、該ディザーフレームがインデ
ックス位置から始まって順番に空間的に適用され、該デ
ィザーフレームがインデックス位置の間でインクリメン
トされる、工程と、ディザーフレームを画像データのフ
レームに空間的に適用する工程とを包含し、それにより
上記目的が達成される。
A method of applying dither to image data according to the present invention is a step of applying a dither frame to a frame of image data, wherein the dither frame is spatially applied sequentially starting from an index position. The method includes the steps of incrementing a frame between index positions and spatially applying a dither frame to a frame of image data to achieve the above objectives.

【0065】前記インデックス位置は行開始位置にあっ
てもよい。
The index position may be a line start position.

【0066】前記インデックス位置はフレーム終了位置
にあってもよい。
The index position may be a frame end position.

【0067】本発明によるディスプレイシステムのビッ
ト深さを拡張する装置は、人間視覚システムノイズから
擬似ランダムノイズを生成する手段であって、該擬似ラ
ンダムノイズが時空間ディザーリングを生成する、手段
と、該擬似ランダムノイズを画像データと組み合わせる
手段であって、これによりノイズ補償画像データを生成
する、手段と、該ノイズ補償画像データを量子化する手
段とを含み、それにより上記目的が達成される。
An apparatus for extending the bit depth of a display system according to the present invention is means for generating pseudo-random noise from human visual system noise, said pseudo-random noise generating space-time dithering. Means for combining the pseudo-random noise with image data, including means for generating noise-compensated image data, and means for quantizing the noise-compensated image data, thereby achieving the above objectives.

【0068】本発明によるディザーフレームを格納する
装置は、3次元ディザー配列を生成する手段と、該3次
元ディザー配列をメモリにマッピングする手段とを含
み、それにより上記目的が達成される。
An apparatus for storing a dither frame according to the present invention includes means for generating a three-dimensional dither array and means for mapping the three-dimensional dither array in a memory, thereby achieving the above object.

【0069】本発明によるディザーを画像データに適用
する装置は、ディザーフレームを画像データのフレーム
に適用する手段であって、該ディザーフレームがインデ
ックス位置から始まって順番に空間的に適用され、該デ
ィザーフレームがインデックス位置の間でインクリメン
トされる、手段と、ディザーフレームを画像データのフ
レームに空間的に適用する手段とを含み、それにより上
記目的が達成される。
An apparatus for applying dither to image data according to the present invention is a means for applying a dither frame to a frame of image data, wherein the dither frame is spatially applied sequentially starting from an index position. Means are provided for the frame to be incremented between index positions, and means for spatially applying the dither frame to the frame of image data to achieve the above objectives.

【0070】本発明の一つの実施形態は、ディスプレイ
システムのビット深さを拡張する方法である。この方法
は、人間視覚システムノイズから擬似ランダムノイズを
生成する工程を含む。この方法を画像データに用いた場
合、ノイズは時空間ディザーリングを生じる。擬似ラン
ダムノイズは、画像データと組み合わされ、ノイズ補償
画像データを生成する。次いで、ノイズ補償画像データ
が量子化される。
One embodiment of the present invention is a method of extending the bit depth of a display system. The method includes generating pseudo-random noise from human visual system noise. When this method is applied to image data, noise causes spatiotemporal dithering. Pseudo-random noise is combined with the image data to produce noise compensated image data. The noise compensated image data is then quantized.

【0071】[0071]

【発明の実施の形態】本発明は、添付の図面を参照して
本明細書の開示を読むことによって十分に理解され得
る。図1は、Robertsのノイズ変調を送信システ
ムに適用した従来の実施形態を示す。コントーン画像1
0(本実施例では6ビット/ピクセル)は、1次元の、
所定の、ホワイトノイズシーケンスの、擬似ランダムノ
イズ12Aと組み合わされる。ノイズは、画像データが
量子化され(16)、符号化および送信され(11)、
そして受信および復号化された(13)後に、減算され
る(17)。量子化処理は、加算および減算工程の間に
行われるので、画像中にある程度の残留ノイズが残る。
The present invention can be fully understood by reading the disclosure of the specification with reference to the accompanying drawings. FIG. 1 shows a conventional embodiment in which Roberts noise modulation is applied to a transmission system. Contone image 1
0 (6 bits / pixel in this embodiment) is one-dimensional,
It is combined with a predetermined, white noise sequence, pseudo-random noise 12A. The noise is quantized (16) in the image data, encoded and transmitted (11),
After being received and decoded (13), it is subtracted (17). Since the quantization process is performed during the addition and subtraction steps, some residual noise remains in the image.

【0072】使用した符号化方式は、パルス符号変調
(PCM)であり、ビット/ピクセルを6から2へ落と
した。この方法は、主に圧縮に使用されたが、圧縮技術
がより向上するにつれ使用されなくなってきた。デジタ
ルパルス符号変調(DPCM)および離散コサイン変換
(DCT)は、主に圧縮を空間ドメインから周波数ドメ
インに移すことによって輪郭アーチファクトを生成せず
により圧縮できるようにする。
The encoding scheme used was pulse code modulation (PCM), dropping bits / pixel from 6 to 2. This method was primarily used for compression, but has become obsolete as compression techniques have improved. Digital Pulse Code Modulation (DPCM) and Discrete Cosine Transform (DCT) allow for more compression without generating contour artifacts, mainly by moving the compression from the spatial domain to the frequency domain.

【0073】しかし、一般に考えられるのは、ビット深
さが制限されたディスプレイへの適用である。図2は、
ノイズ変調をそのようなディスプレイに適用した実施形
態を示す。コントーン画像10は、擬似ランダムノイズ
12Aと組み合わされ、ディスプレイデバイス14へ送
信される。組み合わされたデータは、量子化器16によ
って量子化され、画面18上にディスプレイされる。本
発明をテストした実験の結果、この技術は輪郭アーチフ
ァクトを低減するのに有効であり、特に256から64
レベル(8ビット/ピクセルから6ビット/ピクセル
へ)にした場合に有効であった。しかし、ノイズを減算
できないので画像に目に見えるノイズが残った。
However, what is generally considered is an application to a display with limited bit depth. Figure 2
7 illustrates an embodiment in which noise modulation is applied to such a display. The contone image 10 is combined with the pseudo-random noise 12A and transmitted to the display device 14. The combined data is quantized by the quantizer 16 and displayed on the screen 18. As a result of experiments testing the present invention, this technique is effective in reducing contour artifacts, especially from 256 to 64.
It was effective at the level (8 bits / pixel to 6 bits / pixel). However, the noise could not be subtracted, leaving visible noise in the image.

【0074】米国特許出願第09/426,165号
(1999年10月22日出願)は、図3に示すよう
な、上記の考えをカラー画像にどのように適用するかを
示す実施形態を記載する。図3は、視覚システムのカラ
ー等価ノイズモデルを使用する例を示す。このノイズ
は、一般にはRGB空間に存在しないので、カラー画像
平面へ分離するためにRGB空間へ変換され、次いで画
像のRGB平面へ付加される。
US patent application Ser. No. 09 / 426,165 (filed Oct. 22, 1999) describes an embodiment showing how the above ideas apply to color images, as shown in FIG. To do. FIG. 3 shows an example of using the color equivalent noise model of the vision system. This noise is generally not in RGB space, so it is converted to RGB space for separation into a color image plane and then added to the RGB plane of the image.

【0075】この方法において、HVSモデル24は、
三つの異なる擬似ランダムノイズ平面12a〜cを生成
する色モデルである。このモデルは、輝度チャネルの等
価入力モデルおよび視覚システムの二つの等輝度カラー
チャネルを含む。これらは、CIELABカラーメトリ
ックのL、A、およびBに擬似する。加えて、こ
れら三つのチャネルのために異なるCSF(コントラス
ト感度関数または人間視覚システムの周波数応答)が使
用される。各チャネルは異なるバンド幅および形状を有
する。これは、三つの等価入力ノイズ擬似ランダム画像
を生成するためのものである。次に、これらは、L
、BドメインからRGBドメインに変換され、量
子化の前に画像に加算される。
In this method, the HVS model 24 is
3 is a color model that produces three different pseudo-random noise planes 12a-c. This model includes an equivalent input model of the luma channel and two equiluminous color channels of the visual system. These mimic the CIELAB color metrics L * , A * , and B * . In addition, different CSFs (contrast sensitivity function or human visual system frequency response) are used for these three channels. Each channel has a different bandwidth and shape. This is to generate three equivalent input noise pseudo-random images. Then, these are L * ,
It is transformed from the A * , B * domains to the RGB domain and added to the image before quantization.

【0076】上記の静的ディザー(dither;濃淡
画像処理)技術は改善の余地がある。改善によって、さ
らに低いレベルのビットがより高いビットに見えること
が可能となり、またはディザーリングノイズがより見え
にくくすることが可能である。実際には、これによっ
て、ユーザがディスプレイにもっと近寄って見たとして
も輪郭アーチファクトを認識しないことが可能となる。
小型画面を有する製品が多くなるにつれ、ユーザが画面
を目により近くに寄せる状況が多くなる。時間的に変化
する信号をディスプレイする機能を有するディスプレイ
では、時空間ディザーを行うのが有効である。
There is room for improvement in the above-mentioned static dither (grayscale image processing) technique. Improvements may allow lower level bits to appear higher, or dither noise to be less visible. In effect, this allows the user to not recognize the contour artifacts even if they look closer to the display.
As more and more products have small screens, there are more and more situations where the user brings the screen closer to their eyes. For a display having a function of displaying a signal that changes with time, it is effective to perform spatiotemporal dither.

【0077】特に、初期の方法で使用するノイズは、ホ
ワイトノイズであり、空間および時間ノイズの両方であ
り、デジタル周波数ナイキスト限界までのノイズである
(0.5サイクル/サンプル;サンプル=ピクセルまた
はフレーム)。このタイプのノイズについて検討する場
合は、水平空間周波数HSF、垂直空間周波数VSF、
または時間周波数TFを参照し得る。
In particular, the noise used in the earlier method is white noise, both spatial and temporal noise, up to the digital frequency Nyquist limit (0.5 cycles / sample; sample = pixel or frame). ). When considering this type of noise, the horizontal spatial frequency HSF, vertical spatial frequency VSF,
Alternatively, the time frequency TF may be referred to.

【0078】上記米国特許第3,562,420号は、
ハイパス空間ノイズを生成し、その極性を交番させる。
したがってノイズは1フレーム当たりゼロ平均である。
使用する静的ノイズは、より高い時間周波数(特に、ナ
イキスト周波数)にシフトする。これが改善であるの
は、視覚システムのLPF性質のためにTFノイズがよ
り見えにくいからである。視覚モデルはノイズの設計に
使用されていない。むしろ、より高い周波数がより見え
にくいという一般概念が使用されている。
The above-mentioned US Pat. No. 3,562,420 is
Generates high-pass spatial noise and alters its polarity.
Therefore, the noise is zero average per frame.
The static noise used shifts to higher temporal frequencies, especially the Nyquist frequency. This is an improvement because the TF noise is less visible due to the LPF nature of the visual system. The visual model is not used for noise design. Rather, the general notion is used that higher frequencies are less visible.

【0079】図4は、ディスプレイシステムにおいて、
人間視覚システム感度ノイズに基づいて時空間ディザー
リングを使用する実施形態を示す。この例では、ノイズ
12は、従来図3で使用されたノイズとは異なるプロフ
ィールを有する。このノイズは、上記例のように空間の
みのディザーリングの代わりに時空間ディザーリングに
基づく。
FIG. 4 shows a display system.
6 illustrates an embodiment that uses spatiotemporal dithering based on human visual system sensitivity noise. In this example, the noise 12 has a different profile than the noise conventionally used in FIG. This noise is based on spatiotemporal dithering instead of space only dithering as in the example above.

【0080】ひと続きの異なるハイパス空間ディザーが
1フレームに与えられると、その結果、時空間ディザー
はホワイトTFスペクトルを有する。これが生じるのは
ノイズが独立に生成される場合であり、既存の空間ディ
ザーを再配列する技術のほとんどに生じる(上記米国特
許第3,739,082号参照)。
Given a series of different high-pass spatial dithers applied to one frame, the spatiotemporal dither will then have a white TF spectrum. This occurs when the noise is generated independently, and occurs in most existing spatial dither rearrangement techniques (see US Pat. No. 3,739,082 above).

【0081】ハイパス空間および時間ノイズを生成する
別の方法は、ぼかしマスクから得られる技術を使用す
る。ここで、時空間LPF(ローパス周波数)ノイズが
ホワイトノイズ供給源から生成される。このLPF方法
が採用されるのは、HPF(ハイパス周波数)ノイズよ
りもLPFノイズを生成するほうが容易であることが多
いからである(特に、ハードウェアで行われる場合)。
Another method of generating high pass spatial and temporal noise uses techniques derived from blur masks. Here, spatiotemporal LPF (low pass frequency) noise is generated from a white noise source. This LPF method is employed because it is often easier to generate LPF noise than HPF (high pass frequency) noise (especially if done in hardware).

【0082】この相互LPF時空間ノイズは、ホワイト
ノイズから減算される。しかし、この結果得られるノイ
ズは空間的にも時間的にも相互HPFでない。高い空間
周波数で低い時間周波数があるのと同様に、高い時間周
波数で低い空間周波数の場合もある(目に見えるちらつ
きが生じ得る)。
This mutual LPF spatiotemporal noise is subtracted from the white noise. However, the resulting noise is not a mutual HPF spatially or temporally. There can be a high spatial frequency and a low spatial frequency, as well as a high spatial frequency and a low spatial frequency (which can cause visible flicker).

【0083】空間および時間の両方で相互にHPFであ
るスペクトルは、多くの方法で生成され得る。一つの実
施形態において、ホワイト時空間スペクトル(空間およ
び時間ナイキスト周波数までホワイトであるもの)は、
HPFノイズだけを残してフィルタリングされ得る。あ
るいは、いずれの時空間スペクトルについても大きさが
置換され得る。空間的および時間的に相互ハイパスの一
つの実施例は、図6に図示する。
Spectra that are HPFs in both space and time with respect to each other can be generated in many ways. In one embodiment, the white spatiotemporal spectrum (those that are white up to the spatial and temporal Nyquist frequency) is
It can be filtered leaving only the HPF noise. Alternatively, the magnitudes can be permuted for any spatiotemporal spectrum. One embodiment of mutual highpass spatially and temporally is illustrated in FIG.

【0084】ホワイト時空間スペクトルをフィルタリン
グする方法は、3D画像配列から開始する。ピクセル
は、縦横に並び、時間的にはフレームを構成し、ホワイ
トスペクトルで満たされる。一つの実施形態において、
スペクトルは、視覚システムの空間CSFの逆関数を近
似するフィルタによってフレームごとにまず空間的にフ
ィルタリングされるノイズに由来する。その結果は、視
覚システムの時間CSFの逆関数を用いて時間的にフィ
ルタリングされる。近似は、これらのCSFフィルタの
各々について使用され得る。例えば、ガウシアンフィル
タは、よい一次近似である。
The method of filtering the white spatiotemporal spectrum starts with a 3D image array. Pixels are arranged vertically and horizontally to form a frame in time and are filled with a white spectrum. In one embodiment,
The spectrum comes from noise that is first spatially filtered on a frame-by-frame basis by a filter that approximates the inverse of the spatial CSF of the visual system. The results are temporally filtered using the inverse of the visual system's time CSF. An approximation can be used for each of these CSF filters. For example, the Gaussian filter is a good first-order approximation.

【0085】いくつかの実施形態は、アプリケーション
で利用され得る正確な大きさに3D配列を設定する工
程、パディングなしにFFT(高速フーリエ変換)を介
してフィルタリングを行う工程を含むので、デジタルフ
ィルタリングのラップアラウンド性質が空間統計におい
て境界不連続(最後のフレームから開始フレームへ行く
こと)を起こさない。
Some embodiments include setting the 3D array to the exact size that can be utilized in the application, filtering through FFT (Fast Fourier Transform) without padding, so The wraparound property does not cause boundary discontinuities (going from the last frame to the start frame) in spatial statistics.

【0086】別の実施形態において、開始3D画像配列
は、ノイズで満たされなくてもよいが、あらかじめ白く
された乱流中の雪などの動きの複数平面中のテクスチャ
などの画像コンテンツで満たされ得る。
In another embodiment, the starting 3D image array need not be filled with noise but filled with image content such as texture in multiple planes of motion such as snow in pre-whitened turbulence. obtain.

【0087】大きさ置換を使用する実施形態において、
任意の種類の画像コンテンツが開始点となり得、FFT
の後、係数の大きさは逆空間および時間CSFに比例す
る値で置換される。係数の位相はそのままにされる。
In an embodiment using magnitude permutation,
Any type of image content can be a starting point,
After that, the magnitude of the coefficient is replaced by a value proportional to the reciprocal space and time CSF. The phase of the coefficients is left unchanged.

【0088】このノイズを色アプリケーションに拡張す
るために、一つの実施形態では、二つの独立な時空間配
列を生成する。これらは、反対の色信号に適用され、マ
トリクスを介して一つの無色信号および二つの色信号
(L、A、およびB、またはY、U、およびVな
ど)から3チャネルRGB信号に変換される。
To extend this noise to color applications, one embodiment creates two independent spatiotemporal arrays. These are applied to opposite color signals, from one colorless signal and two color signals (L * , A * , and B * , or Y, U, and V, etc.) through a matrix to a three channel RGB signal. To be converted.

【0089】図4は、ビット深さが制限されたディスプ
レイにおいて時空間ディザーリングを使用する方法の一
つの実施形態を示す一般的なブロック図である。図から
わかるように、画像データは、10a〜cでRGB色チ
ャネルに分割される。時空間ディザー化ノイズを使用す
る色等価ノイズ視覚モデルは、12で生成される。上記
のように、ノイズは26でRGB色空間への変換の前に
加算される可能性が高いが、図5のように個々の成分に
よって加算され得る。
FIG. 4 is a general block diagram illustrating one embodiment of a method of using spatiotemporal dithering in a bit depth limited display. As can be seen, the image data is divided into RGB color channels at 10a-c. A color equivalent noise visual model using space-time dithered noise is generated at 12. As mentioned above, noise is likely to be added at 26 before conversion to the RGB color space, but can be added by individual components as in FIG.

【0090】配列の大きさは、システムをどのように実
施するかによって重要性が異なる。従来の特許のほとん
どは、ディザーパターンは画像より小さな2D配列であ
る。ディザーパターンは、タイリングと呼ばれる工程に
おいて必要とされるように画像において連続に繰り返さ
れる。タイリングが使用される場合、タイルサイズが2
8でクロップされ、タイルは30でメモリに格納され
る。ノイズは3D配列に格納されるが、2Dノイズを変
更してノイズがフレームごとに変動する技術を使用しな
いで、通常は1Dとしてメモリにマッピングされる。い
くつかの実施例では、以下により詳細に説明されるよう
に、さらなる輪郭を破壊する工程は、フレーム極性リバ
ーサル(FRC)32を使用して達成される。ここで、
ノイズの極性は、交番フレームにおいて逆転される。し
かし、この工程はオプションである。この結果、最後の
ノイズプロフィールは、種々の色チャネル画像と組み合
わされて量子化される。種々の色チャネル画像データの
組み合わせは、加算または減算である。説明の目的のた
めに、組み合わせは、減算、加算、または乗算、および
他の形態の組み合わせを含む。量子化は、画像データを
表す際に使用されるビット数を低減する形態をとる。
The size of the array depends on how the system is implemented. In most of the prior patents, the dither pattern is a 2D array that is smaller than the image. The dither pattern is continuously repeated in the image as required in a process called tiling. If tiling is used, the tile size is 2
It is cropped at 8 and tiles are stored at 30 at memory. Although the noise is stored in a 3D array, it is typically mapped to memory as 1D, without the use of techniques to modify the 2D noise so that it varies from frame to frame. In some embodiments, the step of destroying further contours is accomplished using a frame polarity reversal (FRC) 32, as described in more detail below. here,
The polarity of noise is reversed in alternating frames. However, this step is optional. As a result, the final noise profile is quantized in combination with various color channel images. Various color channel image data combinations are additions or subtractions. For purposes of explanation, combinations include subtraction, addition, or multiplication, and other forms of combination. Quantization takes the form of reducing the number of bits used in representing image data.

【0091】上記のように、タイリングはノイズ配列を
実施するかしないかに応じて必要となり得る。時空間ノ
イズを使用する特許のほとんどは、メモリに格納された
空間ノイズの操作によってノイズの時間成分を生成す
る。すなわち、ノイズは3D時空間表現で格納されな
い。しかし、米国特許第6,147,671号(Aga
rwal、2000年11月11日発行)は、3D時空
間ノイズを格納する。
As noted above, tiling may be necessary depending on whether or not noise constellation is implemented. Most of the patents that use spatiotemporal noise generate the temporal component of the noise by manipulating the spatial noise stored in memory. That is, noise is not stored in 3D space-time representation. However, US Pat. No. 6,147,671 (Aga
rwal, published Nov. 11, 2000) stores 3D spatiotemporal noise.

【0092】図7からわかるように、ノイズは、複数の
フレームを有する空間配列として格納される。空間配列
は、必要に応じて画像においてタイリングされる。ディ
ザーの異なるフレームは、画像フレームに同期して逐次
処理される。ディザーフレームが使い尽くされると、一
時的に繰り返し使用される。この方法は、空間タイルが
低減する場合に問題が生じる。フレーム内で同じタイル
を連続して繰り返すと、個々のタイル内に含まれるノイ
ズまたはパターンよりも見えやすい周期的なパターンが
生じ得る。
As can be seen in FIG. 7, noise is stored as a spatial array with multiple frames. The spatial array is tiled in the image as needed. Frames having different dithers are sequentially processed in synchronization with image frames. When the dither frame is exhausted, it is temporarily used repeatedly. This method causes problems when the spatial tiles are reduced. Successive repetitions of the same tile within a frame can result in periodic patterns that are more visible than the noise or patterns contained within individual tiles.

【0093】本発明の一つの実施形態において、ディザ
ー値の時空間配列は、表示されるべき画像シーケンスに
おいてタイリングされ得る。ディザー配列は、メモリコ
ストを節約するために画像よりも小さいので、画像シー
ケンスにおいて空間的および時間的の両方でタイリング
されなければならない。好ましい方法は、画像において
空間的にディザー配列のフレームを繰り返すように、水
平かつ垂直にまたは水平にのいずれかで、逐次処理す
る、ここで行の開始繰り返し位置またはある他のインデ
ックス位置でステップをインクリメントする。これは、
図8のフレームP(40)およびフレームP+1(4
2)に示される。これは、一つの画像フレームにおいて
同じディザータイルフレームを繰り返すことによって周
期的パターンの形成を防止することを意図する。そのよ
うな周期的パターンは、一つのタイル内のパターンより
も検出されやすい。この方法は、時空間ディザー配列の
視認性を低下させる。
In one embodiment of the present invention, the spatiotemporal array of dither values may be tiled in the image sequence to be displayed. The dither array is smaller than the image in order to save memory cost, so it must be tiled both spatially and temporally in the image sequence. A preferred method is to process sequentially, either horizontally and vertically or horizontally, to spatially repeat a frame of a dither array in the image, where steps are taken at the start repeat position of the row or some other index position. Increment. this is,
Frame P (40) and frame P + 1 (4 in FIG.
2). This is intended to prevent the formation of periodic patterns by repeating the same dither tile frame in one image frame. Such periodic patterns are easier to detect than patterns within a tile. This method reduces the visibility of the spatiotemporal dither array.

【0094】多くの他の実施形態および他の実施におい
てよりよく動作する別の実施形態もある。例えば、上記
実施形態において記載された処理は、別々の工程で空間
および時間フィルタリングを行う。これを分離可能空間
および時間ディザーリングと呼ぶ。別の方法は、時空間
フィルタを使用し、1工程でフィルタリングを行う。こ
れを行う理由は、視覚システムのより正確なモデルは時
空間的に分離可能でないからである。
There are many other embodiments and alternative embodiments that work better in other implementations. For example, the processes described in the above embodiments perform spatial and temporal filtering in separate steps. This is called separable space and temporal dithering. Another method uses a spatiotemporal filter and filters in one step. The reason for doing this is that more accurate models of the visual system are not spatiotemporally separable.

【0095】別の実施形態は、ガンマ補正ドメインにノ
イズを加算し、ディスプレイのハードウェアは逆ガンマ
補正、加速的な非線形性を使用する。さらに関連する方
法は、生成されたディザーノイズをとり、ガンマ補正画
像信号に加算する前にガンマ補正非線形性にかける。こ
れらの合計を逆非線形性にかける。
Another embodiment adds noise to the gamma correction domain and the display hardware uses inverse gamma correction, accelerated non-linearity. A more related method is to take the generated dither noise and subject it to gamma correction non-linearity before adding it to the gamma corrected image signal. Multiply these by inverse nonlinearity.

【0096】必ずしも最良の輪郭を破壊する方法ではな
いが、別の実施形態は、上記のタイルステッピング方式
において相互ハイパスディザースペクトルを使用する。
このタイプのスペクトルの例は、図6に図式的に示され
る。ディザーフレームは画像全体に繰り返され、画像フ
レームに同期して逐次処理される。別の実施形態では、
タイルを2D画像に位置づける際にタイルをランダムに
逐次処理する。一旦このパターンを設定すると、フレー
ムは画像フレームに同期して順番に逐次処理される。す
なわち、空間的にタイルをランダム化することが可能で
あるが、時間的順序は所望の時間統計を維持するように
保存される。別の実施形態は、格子におけるフレーム終
了位置でインクリメントを開始する。
Another embodiment, although not necessarily the best contour-destroying method, uses mutual high-pass dither spectra in the tile stepping scheme described above.
An example of this type of spectrum is shown diagrammatically in FIG. The dither frame is repeated for the entire image and is sequentially processed in synchronization with the image frame. In another embodiment,
The tiles are processed sequentially in a random manner when locating the tiles in a 2D image. Once this pattern is set, the frames are processed sequentially in sequence in synchronization with the image frames. That is, it is possible to spatially randomize the tiles, but the temporal order is preserved to maintain the desired temporal statistics. Another embodiment starts the increment at the frame end position in the grid.

【0097】この実施形態は、ディスプレイ時間特性お
よび人間視覚システムの時間特性を使用する。例えば、
LCDの時間的スイッチング時間が使用される。最も遅
い時間を使用していくつのフレームが使用されなければ
いけないかを決定する。より少ないフレームが使用され
る場合、いくつかのグレーレベル遷移は、ディザー繰り
返しの時間的局面の前に決定しない。これにより、変調
およびゼロに平均化できないスタックされたピクセルや
隔離されたピクセルが生じ得る。時間的スイッチング時
間が使用され得る別の方法は、最も速い応答をとり、フ
ーリエ変換し、これを使用してディスプレイの最速の時
間MTFを表現することである。次に、上記のように、
ディスプレイの最もよい時間MTFは視覚システムの時
間CSFと乗算され、逆数をとってディザー配列の時間
スペクトル特性を形成する。
This embodiment uses the display temporal characteristics and the human visual system temporal characteristics. For example,
LCD temporal switching time is used. The slowest time is used to determine how many frames should be used. If fewer frames are used, some gray level transitions do not determine before the temporal aspect of dither iteration. This can result in stacked pixels or isolated pixels that cannot be modulated and averaged to zero. Another way the temporal switching time can be used is to take the fastest response, Fourier transform and use this to represent the fastest time MTF of the display. Then, as above,
The best time MTF of the display is multiplied with the time CSF of the visual system and reciprocally formed to form the time spectral characteristic of the dither array.

【0098】本発明で使用される方法のいくつかのさら
なる局面を示す。従来のディザー配列のすべてにおい
て、ディザー配列は繰り返しのないひと続きの値からな
る。本発明のアプリケーションはこの制限を有さない。
Illustrates some additional aspects of the methods used in the present invention. In all conventional dither arrays, the dither array consists of a series of non-repeating values. The application of the present invention does not have this limitation.

【0099】すべての従来技術において、ディザーパタ
ーンのPDF(確率密度関数)は一様であり、通常最後
の出力量子化ビンの長さを有する。本発明にしたがって
フィルタリングを適用した後、ガウシアンPDFとな
り、これが一様PDFに変換されると、所望の統計が変
更される。ガウシアンPDFのままだと、空間統計はP
DF形状よりもより重要に見える。これにより、スペク
トルの形状を制御する際にフレキシビリティがより大き
くなる。
In all prior art, the PDF (probability density function) of the dither pattern is uniform and usually has the length of the last output quantization bin. After applying the filtering according to the invention, it becomes a Gaussian PDF, which, when converted to a uniform PDF, modifies the desired statistics. If Gaussian PDF is left, the spatial statistics will be
Looks more important than DF shape. This gives greater flexibility in controlling the shape of the spectrum.

【0100】以上、ディスプレイにおけるビット深さの
拡張のための画像データのディザーリングのための方法
および装置の特定の実施形態を説明した。そのような特
定の参照は、特許請求の範囲の請求項に記載されるもの
を除いて、本発明の範囲を制限するものではない。
Thus, a specific embodiment of a method and apparatus for dithering image data for bit depth extension in a display has been described. Such particular references are not intended to limit the scope of the invention except as set forth in the claims below.

【0101】[0101]

【発明の効果】以上により、本発明によれば、ディスプ
レイシステムのディスプレイに合わせてビット深さを拡
張することができる画像処理方法および画像処理装置を
提供することができる。さらにより低いビット深さのデ
ィスプレイをより高いレベルを有するディスプレイと同
様に見えるようにし、ノイズをより見えにくくすること
ができる画像処理方法および画像処理装置を提供するこ
とができる。
As described above, according to the present invention, it is possible to provide an image processing method and an image processing apparatus capable of expanding the bit depth according to the display of the display system. Further, it is possible to provide an image processing method and an image processing apparatus capable of making a display having a lower bit depth look like a display having a higher level and making noise less visible.

【図面の簡単な説明】[Brief description of drawings]

【図1】Robertsのノイズ変調をディスプレイに
適用した従来の実施形態を示す図である。
FIG. 1 is a diagram illustrating a conventional embodiment in which Roberts noise modulation is applied to a display.

【図2】ノイズをビット深さを制限したディスプレイシ
ステムに適用した従来の実施形態を示す図である。
FIG. 2 is a diagram showing a conventional embodiment in which noise is applied to a display system in which bit depth is limited.

【図3】視覚システムノイズをビット深さを制限したデ
ィスプレイシステムにおいて使用した従来の実施形態を
示す図である。
FIG. 3 illustrates a conventional embodiment in which visual system noise is used in a bit depth limited display system.

【図4】本発明による、時空間ディザーリングのための
人間視覚システムノイズをビット深さを制限したディス
プレイシステムにおいて使用した実施形態を示す図であ
る。
FIG. 4 illustrates an embodiment of human vision system noise for spatiotemporal dithering used in a bit depth limited display system according to the present invention.

【図5】本発明による、時空間ディザーリングのための
人間視覚システムノイズをビット深さを制限したディス
プレイシステムにおいて使用した別の実施形態を示す図
である。
FIG. 5 illustrates another embodiment of human visual system noise for spatiotemporal dithering used in a bit depth limited display system according to the present invention.

【図6】相互ハイパスディザースペクトルコンテンツの
図式に表現した図である。
FIG. 6 is a diagrammatic representation of mutual highpass dither spectral content.

【図7】画像データのフレーム上でディザー配列を逐次
タイリングする方法の従来の実施形態を示す図である。
FIG. 7 is a diagram illustrating a conventional embodiment of a method for sequentially tiling a dither array on a frame of image data.

【図8】本発明による、画像データのフレーム上でディ
ザー配列を逐次タイリングする方法の実施形態を示す図
である。
FIG. 8 illustrates an embodiment of a method for sequentially tiling a dither array on a frame of image data according to the present invention.

【符号の説明】[Explanation of symbols]

11 PCM符号化および送信(手段) 12A 擬似ランダムノイズ(生成手段) 13 受信およびPCM復号化(手段) 16 量子化器 16a 赤量子化器 16b 緑量子化器 16c 青量子化器 12 時空間ノイズ(生成手段) 18 RGBディスプレイ 22 観察者視覚システム 26 視覚色からRGB空間への変換(手段) 28 タイルサイズのクロップ(手段) 11 PCM encoding and transmission (means) 12A Pseudo-random noise (generation means) 13 Reception and PCM decoding (means) 16 quantizer 16a Red quantizer 16b green quantizer 16c blue quantizer 12 spatiotemporal noise (generation means) 18 RGB display 22 Observer visual system 26 Conversion from visual color to RGB space (means) 28 tile size crops

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CE11 5C021 PA38 YA01 YC09 5C082 BA20 BA34 BA35 BA39 BA41 CA11 CA12 CA81 CB01 DA51 MM10    ─────────────────────────────────────────────────── ─── Continued front page    F-term (reference) 5B057 CA01 CA08 CA12 CA16 CB01                       CB08 CB12 CB16 CE11                 5C021 PA38 YA01 YC09                 5C082 BA20 BA34 BA35 BA39 BA41                       CA11 CA12 CA81 CB01 DA51                       MM10

Claims (26)

【特許請求の範囲】[Claims] 【請求項1】 ディスプレイシステムのビット深さを拡
張する画像処理方法であって、 人間視覚システムノイズから擬似ランダムノイズを生成
する工程であって、該擬似ランダムノイズが時空間ディ
ザーリングを生成する、工程と、 該擬似ランダムノイズを画像データと組み合わせる工程
であって、これによりノイズ補償画像データを生成す
る、工程と、 該ノイズ補償画像データを量子化する工程とを包含する
画像処理方法。
1. An image processing method for extending the bit depth of a display system, the method comprising: generating pseudo-random noise from human visual system noise, the pseudo-random noise generating space-time dithering. An image processing method comprising: a step of combining the pseudo-random noise with image data to generate noise-compensated image data, and a step of quantizing the noise-compensated image data.
【請求項2】 前記量子化工程は、さらに前記ノイズ補
償画像データのビット表現を低減する工程をさらに包含
する、請求項1に記載の画像処理方法。
2. The image processing method according to claim 1, wherein the quantization step further includes a step of reducing a bit representation of the noise-compensated image data.
【請求項3】 前記時空間ノイズの生成は、空間および
時間次元において分離可能に行われる、請求項1に記載
の画像処理方法。
3. The image processing method according to claim 1, wherein the generation of the spatiotemporal noise is performed so as to be separable in space and time dimensions.
【請求項4】 前記時空間ノイズの生成は一つの処理と
して行われる、請求項1に記載の画像処理方法。
4. The image processing method according to claim 1, wherein the generation of the spatiotemporal noise is performed as one process.
【請求項5】 前記擬似ランダムノイズは、3次元配列
として格納される、請求項1に記載の画像処理方法。
5. The image processing method according to claim 1, wherein the pseudo random noise is stored as a three-dimensional array.
【請求項6】 前記擬似ランダムノイズは、ガンマ補正
空間に時空間ノイズとして格納される、請求項1に記載
の画像処理方法。
6. The image processing method according to claim 1, wherein the pseudo random noise is stored as spatiotemporal noise in a gamma correction space.
【請求項7】 前記擬似ランダムノイズは、2次元配列
に格納される、請求項1に記載の画像処理方法。
7. The image processing method according to claim 1, wherein the pseudo random noise is stored in a two-dimensional array.
【請求項8】 前記擬似ランダムノイズは、フレーム内
で値を繰り返す工程を含む、請求項7に記載の画像処理
方法。
8. The image processing method according to claim 7, wherein the pseudo random noise includes a step of repeating a value within a frame.
【請求項9】 前記擬似ランダムノイズを生成する工程
は、 前記画像データのフレームよりも小さなサイズを有する
ディザーフレーム内に該ノイズを生成する工程と、 該ディザーフレームを該画像データのフレーム上にタイ
リングする工程とをさらに包含する、請求項1に記載の
画像処理方法。
9. The step of generating the pseudo random noise includes the step of generating the noise in a dither frame having a size smaller than the frame of the image data, and the step of generating the dither frame on the frame of the image data. The image processing method according to claim 1, further comprising a step of ringing.
【請求項10】 前記異なるディザーフレームが、前記
画像データの各フレームにおいて繰り返すようにタイリ
ングされ、行開始位置でインクリメントされる、請求項
9に記載の画像処理方法。
10. The image processing method according to claim 9, wherein the different dither frames are tiled repeatedly in each frame of the image data and incremented at a row start position.
【請求項11】 前記異なるディザーフレームが、前記
画像データの各フレームにおいて繰り返すようにタイリ
ングされ、フレーム終了位置でインクリメントされる、
請求項9に記載の画像処理方法。
11. The different dither frames are repeatedly tiled in each frame of the image data and incremented at a frame end position.
The image processing method according to claim 9.
【請求項12】 ディザー開始フレームは、各画像フレ
ーム内でランダムに置換され、隣接するタイルの時間位
相が同期を外れるように繰り返しで逐次処理される、請
求項1に記載の画像処理方法。
12. The image processing method according to claim 1, wherein the dither start frame is randomly replaced in each image frame, and the dither start frame is repeatedly and sequentially processed so that the time phases of adjacent tiles are out of synchronization.
【請求項13】 ディスプレイの時間特性を使用してデ
ィザーフレーム数を決定する、請求項1に記載の画像処
理方法。
13. The image processing method according to claim 1, wherein the number of dither frames is determined by using a time characteristic of the display.
【請求項14】 ディスプレイの時間特性を視覚モデル
コントラスト感度関数とともに使用して前記時空間ディ
ザーリングを形成する、請求項1に記載の画像処理方
法。
14. The image processing method according to claim 1, wherein a temporal characteristic of a display is used together with a visual model contrast sensitivity function to form the spatiotemporal dithering.
【請求項15】 ディザーフレームを格納する画像処理
方法であって、 3次元ディザー配列を生成する工程と、 該3次元ディザー配列をメモリにマッピングする工程と
を包含する画像処理方法。
15. An image processing method for storing a dither frame, comprising the steps of: generating a three-dimensional dither array; and mapping the three-dimensional dither array in a memory.
【請求項16】 前記ディザー配列が時空間ディザー配
列である、請求項15に記載の画像処理方法。
16. The image processing method according to claim 15, wherein the dither array is a spatiotemporal dither array.
【請求項17】 前記ディザー配列が相互に空間的にハ
イパスおよび時間的にハイパスである、請求項15に記
載の画像処理方法。
17. The image processing method according to claim 15, wherein the dither arrays are spatially high-pass and temporally high-pass with respect to each other.
【請求項18】 前記3次元ディザー配列がガンマ補償
空間に格納される、請求項15に記載の画像処理方法。
18. The image processing method according to claim 15, wherein the three-dimensional dither array is stored in a gamma compensation space.
【請求項19】 前記3次元ディザー配列がガウシアン
確率密度関数である、請求項15に記載の画像処理方
法。
19. The image processing method according to claim 15, wherein the three-dimensional dither array is a Gaussian probability density function.
【請求項20】 前記3次元ディザー配列が等輝度ノイ
ズを含む、請求項15に記載の画像処理方法。
20. The image processing method according to claim 15, wherein the three-dimensional dither array includes isoluminance noise.
【請求項21】 ディザーを画像データに適用する画像
処理方法であって、 ディザーフレームを画像データのフレームに適用する工
程であって、該ディザーフレームがインデックス位置か
ら始まって順番に空間的に適用され、該ディザーフレー
ムがインデックス位置の間でインクリメントされる、工
程と、 ディザーフレームを画像データのフレームに空間的に適
用する工程とを包含する画像処理方法。
21. An image processing method for applying dither to image data, the method comprising applying a dither frame to a frame of image data, wherein the dither frame is spatially applied sequentially starting from an index position. An image processing method comprising the steps of: incrementing the dither frame between index positions; and spatially applying the dither frame to a frame of image data.
【請求項22】 前記インデックス位置は行開始位置に
ある、請求項21に記載の画像処理方法。
22. The image processing method according to claim 21, wherein the index position is a line start position.
【請求項23】 前記インデックス位置はフレーム終了
位置にある、請求項21に記載の画像処理方法。
23. The image processing method according to claim 21, wherein the index position is a frame end position.
【請求項24】 ディスプレイシステムのビット深さを
拡張する装置であって、 人間視覚システムノイズから擬似ランダムノイズを生成
する手段であって、該擬似ランダムノイズが時空間ディ
ザーリングを生成する、手段と、 該擬似ランダムノイズを画像データと組み合わせる手段
であって、これによりノイズ補償画像データを生成す
る、手段と、 該ノイズ補償画像データを量子化する手段とを含む、画
像処理装置。
24. An apparatus for extending the bit depth of a display system, means for generating pseudo-random noise from human visual system noise, said pseudo-random noise generating space-time dithering. An image processing apparatus comprising: means for combining the pseudo-random noise with image data, whereby means for generating noise-compensated image data, and means for quantizing the noise-compensated image data.
【請求項25】 ディザーフレームを格納する装置であ
って、 3次元ディザー配列を生成する手段と、 該3次元ディザー配列をメモリにマッピングする手段と
を含む、画像処理装置。
25. An image processing apparatus for storing a dither frame, comprising: means for generating a three-dimensional dither array; and means for mapping the three-dimensional dither array in a memory.
【請求項26】 ディザーを画像データに適用する装置
であって、 ディザーフレームを画像データのフレームに適用する手
段であって、該ディザーフレームがインデックス位置か
ら始まって順番に空間的に適用され、該ディザーフレー
ムがインデックス位置の間でインクリメントされる、手
段と、 ディザーフレームを画像データのフレームに空間的に適
用する手段とを含む、画像処理装置。
26. An apparatus for applying dither to image data, said means for applying a dither frame to a frame of image data, said dither frame being spatially applied in sequence starting from an index position, An image processing apparatus comprising: means for incrementing a dither frame between index positions; and means for spatially applying the dither frame to a frame of image data.
JP2003021173A 2002-02-01 2003-01-29 Image processing method and image processing apparatus Expired - Fee Related JP4420607B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/062,387 2002-02-01
US10/062,387 US7450181B2 (en) 1999-10-22 2002-02-01 Bit-depth extension with models of equivalent input visual noise

Publications (2)

Publication Number Publication Date
JP2003316337A true JP2003316337A (en) 2003-11-07
JP4420607B2 JP4420607B2 (en) 2010-02-24

Family

ID=27803622

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003021173A Expired - Fee Related JP4420607B2 (en) 2002-02-01 2003-01-29 Image processing method and image processing apparatus

Country Status (1)

Country Link
JP (1) JP4420607B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107532A (en) * 2003-09-30 2005-04-21 Sharp Corp Forming method and system of dither pattern array
JP2006229264A (en) * 2004-02-09 2006-08-31 Sharp Corp Method and system for adaptive dither structure
JP4796064B2 (en) * 2004-06-10 2011-10-19 サムスン エレクトロニクス カンパニー リミテッド Improving gamma accuracy in quantized display systems.
KR101746491B1 (en) * 2013-04-29 2017-06-13 돌비 레버러토리즈 라이쎈싱 코오포레이션 Dithering for chromatically subsampled image formats
WO2024128666A1 (en) * 2022-12-15 2024-06-20 삼성전자주식회사 Display device using dither mask and control method thereof

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107532A (en) * 2003-09-30 2005-04-21 Sharp Corp Forming method and system of dither pattern array
JP4703152B2 (en) * 2003-09-30 2011-06-15 シャープ株式会社 Dither pattern generation method and system
JP2006229264A (en) * 2004-02-09 2006-08-31 Sharp Corp Method and system for adaptive dither structure
JP4796064B2 (en) * 2004-06-10 2011-10-19 サムスン エレクトロニクス カンパニー リミテッド Improving gamma accuracy in quantized display systems.
KR101746491B1 (en) * 2013-04-29 2017-06-13 돌비 레버러토리즈 라이쎈싱 코오포레이션 Dithering for chromatically subsampled image formats
US9762876B2 (en) 2013-04-29 2017-09-12 Dolby Laboratories Licensing Corporation Dithering for chromatically subsampled image formats
WO2024128666A1 (en) * 2022-12-15 2024-06-20 삼성전자주식회사 Display device using dither mask and control method thereof

Also Published As

Publication number Publication date
JP4420607B2 (en) 2010-02-24

Similar Documents

Publication Publication Date Title
US7450181B2 (en) Bit-depth extension with models of equivalent input visual noise
US9210439B2 (en) High dynamic range codecs
Daly et al. Decontouring: Prevention and removal of false contour artifacts
US20060002611A1 (en) Method and apparatus for encoding high dynamic range video
JP2006058879A (en) Bit-depth extension system and method of digital display via use of model of impulse response of visual system
Daly et al. Bit-depth extension using spatiotemporal microdither based on models of the equivalent input noise of the visual system
JP2004070325A (en) Method and device for processing video data for displaying on display device
US7492951B2 (en) Image processing method and apparatus, and computer-readable storage medium
JP2002539657A (en) Process, apparatus and use for evaluating an encoded image
JP4420607B2 (en) Image processing method and image processing apparatus
US6584225B1 (en) Frequency domain halftoning
JP2006229264A (en) Method and system for adaptive dither structure
Sun A method to generate halftone video

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091201

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091201

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees