JP5265306B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP5265306B2
JP5265306B2 JP2008279781A JP2008279781A JP5265306B2 JP 5265306 B2 JP5265306 B2 JP 5265306B2 JP 2008279781 A JP2008279781 A JP 2008279781A JP 2008279781 A JP2008279781 A JP 2008279781A JP 5265306 B2 JP5265306 B2 JP 5265306B2
Authority
JP
Japan
Prior art keywords
display
image
character
enlargement
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008279781A
Other languages
Japanese (ja)
Other versions
JP2010109700A (en
Inventor
禎治 豊
章男 大場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to JP2008279781A priority Critical patent/JP5265306B2/en
Publication of JP2010109700A publication Critical patent/JP2010109700A/en
Application granted granted Critical
Publication of JP5265306B2 publication Critical patent/JP5265306B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technique for presenting a suitable image to a user. <P>SOLUTION: A frame area setting part 122 analyses and sorts the layout structure of image data, and sets at least one frame area to a newspaper image. A character pixel size-identifying part 128 identifies the pixel size of a character included in the frame area. An enlargement factor setting part 132 sets a plurality of enlargement factors in displaying at least a portion of characters within the frame area, on the basis of a display size, resolution, and the identified pixel size of the character. When receiving the change request signal of a display image from an input device 20, a display image processing part 170 reads the tile image of a resolution corresponding to the set enlargement factor from a main memory 60, and generates a display image adjusted to the enlargement factor. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、画像をディスプレイに表示する画像処理技術に関する。   The present invention relates to an image processing technique for displaying an image on a display.

ゲームプログラムを実行するだけでなく、動画を再生できる家庭用エンタテインメントシステムが提案されている。この家庭用エンタテインメントシステムでは、GPUがポリゴンを用いた三次元画像を生成する。
米国特許第6563999号公報
Home entertainment systems have been proposed that not only execute game programs, but also play video. In this home entertainment system, the GPU generates a three-dimensional image using polygons.
US Pat. No. 6,563,999

従来より、高精細な写真などのディジタル画像から生成された複数解像度のタイル画像を用いて、表示画像の拡大/縮小処理や、上下左右方向の移動処理を行う技術が提案されている。この画像処理技術では、原画像を複数段階に縮小して異なる解像度の画像を生成し、各階層の画像を一又は複数のタイル画像に分割して、原画像を階層構造で表現する。通常、最も解像度の低い画像は1つのタイル画像で構成され、最も解像度の高い原画像は、最も多い数のタイル画像で構成される。画像処理装置は、表示画像の拡大処理または縮小処理時に、使用しているタイル画像を、異なる階層のタイル画像に切り替えることで、拡大表示または縮小表示を迅速に行うようにしている。   2. Description of the Related Art Conventionally, there has been proposed a technique for performing display image enlargement / reduction processing and vertical / left / right movement processing using multi-resolution tile images generated from digital images such as high-definition photographs. In this image processing technique, an original image is reduced in a plurality of stages to generate images with different resolutions, and images in each layer are divided into one or a plurality of tile images to represent the original image in a hierarchical structure. Usually, the image with the lowest resolution is composed of one tile image, and the original image with the highest resolution is composed of the largest number of tile images. The image processing apparatus quickly performs enlarged display or reduced display by switching the tile image being used to a tile image of a different hierarchy at the time of enlargement processing or reduction processing of the display image.

このような画像処理装置において、ユーザは、入力装置に設けられたボタンや、十字キーなどを操作することで、ディスプレイに表示される画像を自由に変更できる。たとえば表示画像が文字情報を含む新聞画像である場合、ユーザは、入力装置を使って新聞画像を上下左右方向に動かして読みたい記事をディスプレイに表示し、また記事画像を拡大/縮小して、記事画像の文字を読みやすい大きさに調整する。   In such an image processing apparatus, the user can freely change the image displayed on the display by operating a button or a cross key provided on the input device. For example, when the display image is a newspaper image including character information, the user uses the input device to move the newspaper image up and down, left and right to display an article to be read on the display, and to enlarge / reduce the article image, Adjust the text of the article image to a size that is easy to read.

しかしながら、このような画像の調整操作は、ある程度の技術や慣れを必要とするため、意外に時間のかかる作業となる。そこで、ユーザの手を煩わせることなく、ディスプレイに表示する画像を調整できるような技術の登場が望まれる。   However, such an image adjustment operation requires a certain amount of skill and familiarity, and is therefore an unexpectedly time-consuming operation. Therefore, the advent of a technique that can adjust the image displayed on the display without bothering the user is desired.

そこで本発明は、ユーザに対して好適な画像を提示する技術を提供することを目的とする。   Accordingly, an object of the present invention is to provide a technique for presenting a suitable image to a user.

上記課題を解決するために、本発明のある態様は、画像をディスプレイに表示する画像処理装置に関する。この態様の画像処理装置は、異なる解像度ごとに少なくとも1つの圧縮したタイル画像を含む画像データを保持する記憶装置と、少なくとも1つの解像度の画像データに設定された枠領域に含まれる文字の画素サイズを特定する文字画素サイズ特定部と、ディスプレイに表示されている表示画像の変更要求信号を受け付ける受付部と、変更要求信号を受け付けると、特定された文字の画素サイズに応じた拡大率に対応する解像度のタイル画像を前記記憶装置から読み出して、その拡大率に調整した表示画像を生成する表示画像処理部とを備える。   In order to solve the above problem, an aspect of the present invention relates to an image processing apparatus that displays an image on a display. The image processing apparatus according to this aspect includes a storage device that stores image data including at least one compressed tile image for each different resolution, and a pixel size of a character included in a frame region set in the image data having at least one resolution. A character pixel size specifying unit for specifying the image, a receiving unit for receiving a change request signal for a display image displayed on the display, and receiving the change request signal corresponds to an enlargement ratio corresponding to the pixel size of the specified character. A display image processing unit that reads a tile image of resolution from the storage device and generates a display image adjusted to the enlargement ratio.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and a conversion of the expression of the present invention between a method, an apparatus, a system, a recording medium, a computer program, etc. are also effective as an aspect of the present invention.

本発明によると、ユーザに対して好適な画像を提示する技術を提供することができる。   According to the present invention, a technique for presenting a suitable image to a user can be provided.

図1は、本発明の実施例にかかる画像処理システム1の使用環境を示す。画像処理システム1は、入力装置20と、画像処理ソフトウェアを実行する画像処理装置10と、画像処理装置10による処理結果を出力する表示装置12とを備える。表示装置12は、画像を出力するディスプレイおよび音声を出力するスピーカを備えたテレビであってよい。表示装置12は、画像処理装置10に有線ケーブルで接続されてよく、また無線LAN(Local Area Network)などにより無線接続されてもよい。なお画像処理装置10、入力装置20および表示装置12は、一体に形成されてもよく、たとえば画像処理機能を搭載した携帯端末装置として構成されてもよい。   FIG. 1 shows a use environment of an image processing system 1 according to an embodiment of the present invention. The image processing system 1 includes an input device 20, an image processing device 10 that executes image processing software, and a display device 12 that outputs a processing result by the image processing device 10. The display device 12 may be a television including a display that outputs an image and a speaker that outputs sound. The display device 12 may be connected to the image processing device 10 by a wired cable, or may be wirelessly connected by a wireless local area network (LAN) or the like. Note that the image processing device 10, the input device 20, and the display device 12 may be integrally formed, for example, may be configured as a mobile terminal device equipped with an image processing function.

画像処理システム1において、画像処理装置10は、ルータ15を介してインターネットなどの外部のネットワーク16に接続する。ネットワーク16には、画像データを提供する提供サーバ18が接続されている。提供サーバ18は、たとえば新聞や雑誌などのスキャン画像を階層的に圧縮し、階層化した圧縮画像データを提供する。たとえば提供サーバ18は、新聞社や雑誌社などにより運営され、文字や写真などを含む画像データをユーザに提供する。画像処理装置10は、提供サーバ18との間で通信接続を確立することで、階層化された圧縮画像データをダウンロードして取得できる。   In the image processing system 1, the image processing apparatus 10 is connected to an external network 16 such as the Internet via a router 15. A providing server 18 that provides image data is connected to the network 16. The providing server 18 hierarchically compresses scanned images such as newspapers and magazines, and provides hierarchically compressed image data. For example, the providing server 18 is operated by a newspaper company, a magazine company, or the like, and provides image data including characters and photographs to the user. The image processing apparatus 10 can download and acquire hierarchical compressed image data by establishing a communication connection with the providing server 18.

画像処理装置10は、たとえばゲーム装置であってよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。なお画像処理装置10は、パーソナルコンピュータであってもよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。   The image processing device 10 may be a game device, for example, and may implement an image processing function by loading an application program for image processing. The image processing apparatus 10 may be a personal computer, and may implement an image processing function by loading an image processing application program.

画像処理装置10は、ユーザから入力装置20に入力される要求に応じて、表示装置12のディスプレイに表示する画像の拡大/縮小処理や、上下左右方向への移動処理など、表示画像を変更する処理を行う。ユーザが、ディスプレイに表示された画像を見ながら入力装置20を操作すると、入力装置20が、表示画像の変更要求信号を画像処理装置10に送信する。   The image processing apparatus 10 changes the display image according to a request input to the input device 20 from the user, such as an enlargement / reduction process of an image displayed on the display of the display apparatus 12 and a movement process in the vertical and horizontal directions. Process. When the user operates the input device 20 while viewing the image displayed on the display, the input device 20 transmits a display image change request signal to the image processing device 10.

画像処理装置10は、提供サーバ18から階層化された圧縮画像データを取得すると、少なくとも1つの解像度の画像データのレイアウト構造を解析して、一群の文字のまとまりを認識し、一群の文字を区画した枠領域を設定する。本実施例において原画像は新聞のスキャン画像であり、画像処理装置10は、新聞の1ページに含まれる記事を区分けして、1つの記事を包含する枠領域を設定する。枠領域は、矩形領域であってもよく、また矩形以外の多辺形領域であってもよい。枠領域には、1つの記事を構成する文字や写真が含まれる。設定された枠領域は、ユーザによる入力装置20のボタン操作で選択され、入力装置20のディスプレイに表示される。これによりユーザは、新聞画像をスクロールして位置合わせすることなく、記事を簡易にディスプレイに表示させることができる。   When the image processing apparatus 10 acquires the compressed image data layered from the providing server 18, it analyzes the layout structure of the image data of at least one resolution, recognizes a group of characters, and partitions the group of characters. Set the frame area. In this embodiment, the original image is a scanned image of a newspaper, and the image processing apparatus 10 divides articles included in one page of the newspaper and sets a frame region that includes one article. The frame region may be a rectangular region or a polygonal region other than a rectangle. The frame area includes characters and photos constituting one article. The set frame area is selected by a button operation of the input device 20 by the user, and is displayed on the display of the input device 20. Thus, the user can easily display the article on the display without scrolling and aligning the newspaper images.

また表示された枠領域は、入力装置20の入力操作により、複数段階の拡大率での表示が可能なように設定される。たとえば、あるボタンが1回押されると、枠領域が第1の拡大率で拡大表示され、同じまたは別のボタンがさらに1回押されると、枠領域が第1の拡大率よりも大きい第2の拡大率で拡大表示される。この拡大率は、最も低解像度の画像データを基準として定められるものとする。画像処理装置10が、枠領域ごとに複数段階の拡大率を予め好適に設定しておくことで、ユーザは、ボタンの押下操作のみで枠領域を段階的に拡大でき、表示画像の調整操作を簡易に行うことができる。   The displayed frame area is set so that it can be displayed at a plurality of stages of magnification by an input operation of the input device 20. For example, when a certain button is pressed once, the frame area is enlarged and displayed at the first enlargement ratio, and when the same or another button is pressed once more, the frame area is larger than the first enlargement ratio. It is enlarged and displayed at an enlargement ratio of. This enlargement ratio is determined based on the image data with the lowest resolution. The image processing apparatus 10 suitably sets a plurality of enlargement ratios in advance for each frame area, so that the user can enlarge the frame area step by step only by pressing a button, and can adjust the display image. It can be done easily.

図2は、入力装置20の外観構成を示す。入力装置20は、ユーザが操作可能な操作手段として、十字キー21、アナログスティック27a、27bと、4種の操作ボタン26を備える。4種の操作ボタン26は、○ボタン22、×ボタン23、□ボタン24および△ボタン25から構成される。   FIG. 2 shows an external configuration of the input device 20. The input device 20 includes a cross key 21, analog sticks 27a and 27b, and four types of operation buttons 26 as operation means that can be operated by the user. The four types of operation buttons 26 include a circle button 22, a x button 23, a square button 24, and a triangle button 25.

画像処理システム1において、入力装置20の操作手段には、表示画像の拡大/縮小要求、および上下左右方向へのスクロール要求を入力するための機能が割り当てられる。たとえば、表示画像の拡大/縮小要求の入力機能は、右側のアナログスティック27bに割り当てられる。ユーザはアナログスティック27bを手前に引くことで、表示画像の縮小要求を入力でき、また手前から押すことで、表示画像の拡大要求を入力できる。また、表示画像のスクロール要求の入力機能は、左側のアナログスティック27aに割り当てられる。ユーザはアナログスティック27aを上下左右に倒すことで、倒した方向のスクロール要求を入力できる。このようにアナログスティック27a、27bは、表示画像を連続的にスクロールさせ、また連続的に拡大/縮小するために用いられる。   In the image processing system 1, a function for inputting a display image enlargement / reduction request and a vertical / left / right scroll request is assigned to the operation unit of the input device 20. For example, the input function of the display image enlargement / reduction request is assigned to the right analog stick 27b. The user can input a display image reduction request by pulling the analog stick 27b forward, and can input a display image enlargement request by pressing the analog stick 27b from the front. Also, the input function of the display image scroll request is assigned to the left analog stick 27a. The user can input a scroll request in the tilted direction by tilting the analog stick 27a up, down, left and right. As described above, the analog sticks 27a and 27b are used for continuously scrolling the display image and continuously enlarging / reducing the display image.

本実施例においては、画像処理装置10が、新聞画像のレイアウト構造を解析して、1記事単位で枠領域を設定しており、入力装置20の操作手段には、枠領域ごとの表示要求を入力するための機能が割り当てられる。たとえば、○ボタン22は、ある1つの枠領域の表示要求を入力するための機能が割り当てられる。ユーザが○ボタン22を押下すると、たとえば新聞画像の最も左上に設定された枠領域が表示されるようにしてもよい。また表示する枠領域の変更機能は、十字キー21に割り当てられる。ユーザは十字キー21を押下することで、表示する枠領域を、十字キー21を押下した方向に存在する枠領域に変更する変更要求を入力できる。また枠領域が表示された状態で、△ボタン25には枠領域を拡大表示するための機能が割り当てられ、×ボタン23には、枠領域を縮小表示するための機能が割り当てられる。   In the present embodiment, the image processing apparatus 10 analyzes the layout structure of newspaper images and sets a frame area for each article, and the operation means of the input device 20 requests a display request for each frame area. A function for input is assigned. For example, a function for inputting a display request for a certain frame area is assigned to the ○ button 22. When the user presses the ○ button 22, for example, the frame area set at the upper left of the newspaper image may be displayed. The function of changing the frame area to be displayed is assigned to the cross key 21. By pressing the cross key 21, the user can input a change request for changing the frame area to be displayed to the frame area existing in the direction in which the cross key 21 is pressed. In the state where the frame area is displayed, a function for enlarging the frame area is assigned to the Δ button 25, and a function for reducing the frame area is assigned to the x button 23.

入力装置20は、入力された画像変更要求信号を画像処理装置10に伝送する機能をもち、本実施例では画像処理装置10との間で無線通信可能に構成される。入力装置20と画像処理装置10は、Bluetooth(ブルートゥース)(登録商標)プロトコルやIEEE802.11プロトコルなどを用いて無線接続を確立してもよい。なお入力装置20は、画像処理装置10とケーブルを介して接続して、画像変更要求信号を画像処理装置10に伝送してもよい。   The input device 20 has a function of transmitting the input image change request signal to the image processing device 10, and is configured to be able to perform wireless communication with the image processing device 10 in this embodiment. The input device 20 and the image processing device 10 may establish a wireless connection using a Bluetooth (registered trademark) protocol, an IEEE802.11 protocol, or the like. The input device 20 may be connected to the image processing apparatus 10 via a cable and transmit an image change request signal to the image processing apparatus 10.

図3は、画像処理システム1において使用する画像データの階層構造を示す。画像データは、深さ(Z軸)方向に、第0階層30、第1階層32、第2階層34および第3階層36からなる階層構造を有し、以下、この階層構造をもつ画像データを「階層データ」とよぶ。図3に示す階層データは4分木の階層構造を有し、各階層は、1以上のタイル画像38で構成される。すべてのタイル画像38は同じ画素数をもつ同一サイズに形成され、たとえば256×256画素を有する。各階層の画像データは、一つの画像を異なる解像度で表現しており、最高解像度をもつ第3階層36の原画像を複数段階に縮小して、第2階層34、第1階層32、第0階層30の画像データが生成される。たとえば第N階層の解像度(Nは0以上の整数)は、左右(X軸)方向、上下(Y軸)方向ともに、第(N+1)階層の解像度の1/2であってよい。   FIG. 3 shows a hierarchical structure of image data used in the image processing system 1. The image data has a hierarchical structure including a 0th hierarchy 30, a first hierarchy 32, a second hierarchy 34, and a third hierarchy 36 in the depth (Z-axis) direction. This is called “hierarchical data”. The hierarchical data shown in FIG. 3 has a hierarchical structure of a quadtree, and each hierarchy is composed of one or more tile images 38. All the tile images 38 are formed in the same size having the same number of pixels, and have, for example, 256 × 256 pixels. The image data of each layer expresses one image at different resolutions, and the original image of the third layer 36 having the highest resolution is reduced in a plurality of stages to obtain the second layer 34, the first layer 32, the 0th layer. Image data of the hierarchy 30 is generated. For example, the resolution of the Nth layer (N is an integer greater than or equal to 0) may be ½ of the resolution of the (N + 1) th layer in both the left and right (X axis) direction and the up and down (Y axis) direction.

画像処理装置10において、階層データは、所定の圧縮形式で圧縮された状態で提供サーバ18から供給される。画像処理装置10は、階層データにおける少なくとも1つの解像度の画像データのレイアウト構造を解析し、画像中の境界を判別して、データのまとまりを区画し、枠領域を設定する。このとき画像処理装置10は、2種類以上の解像度の画像データに対して、枠領域を異なる単位で設定してもよい。たとえば最も低解像度の第0階層30に対しては、枠領域を記事単位で設定し、それよりも高解像度の階層に対しては、枠領域を記事単位で設定するだけでなく、さらに記事を細分化して枠領域を設定してもよい。たとえば新聞画像中の列単位で記事を細分化してもよく、また段単位で記事を細分化してもよい。このような枠領域を形成する単位は、記事を構成する言語(文字種)やレイアウト構造に依存し、解析対象となる新聞ごとに決定されることが好ましい。   In the image processing apparatus 10, the hierarchical data is supplied from the providing server 18 in a compressed state in a predetermined compression format. The image processing apparatus 10 analyzes the layout structure of the image data having at least one resolution in the hierarchical data, discriminates the boundaries in the image, partitions the group of data, and sets the frame area. At this time, the image processing apparatus 10 may set the frame area in different units for image data having two or more types of resolutions. For example, for the 0th hierarchy 30 with the lowest resolution, a frame area is set for each article, and for a higher resolution hierarchy, not only is the frame area set for each article, but more articles are set. The frame area may be set by subdividing. For example, articles may be subdivided in units of columns in newspaper images, and articles may be subdivided in units of columns. The unit for forming such a frame region depends on the language (character type) constituting the article and the layout structure, and is preferably determined for each newspaper to be analyzed.

階層データの階層構造は、図3に示すように、左右方向をX軸、上下方向をY軸、深さ方向をZ軸として設定され、仮想的な3次元空間を構築する。画像処理装置10は、入力装置20から供給される画像変更要求信号から表示画像の変更量を導出すると、その変更量を用いて、階層を特定する情報と、その階層におけるテクスチャ座標(UV座標)を導出する。この階層特定情報およびテクスチャ座標の組み合わせを、空間座標と呼ぶ。仮想空間における空間座標は、表示画像の生成処理に利用される。なお画像処理装置10は、表示画像の変更量を用いて仮想空間におけるフレームの4隅の座標を導出してもよい。この4隅のフレーム座標も、空間座標と呼ぶ。   As shown in FIG. 3, the hierarchical structure of the hierarchical data is set with the horizontal direction as the X axis, the vertical direction as the Y axis, and the depth direction as the Z axis, thereby constructing a virtual three-dimensional space. When the image processing apparatus 10 derives the change amount of the display image from the image change request signal supplied from the input device 20, information specifying the hierarchy using the change quantity and the texture coordinates (UV coordinates) in the hierarchy are used. Is derived. A combination of this hierarchy specifying information and texture coordinates is called spatial coordinates. The space coordinates in the virtual space are used for display image generation processing. Note that the image processing apparatus 10 may derive the coordinates of the four corners of the frame in the virtual space using the change amount of the display image. These four corner frame coordinates are also called spatial coordinates.

図4は、画像処理装置10の機能ブロック図を示す。画像処理装置10は、無線インタフェース40、スイッチ42、表示処理部44、ハードディスクドライブ50、記録媒体装着部52、ディスクドライブ54、メインメモリ60、バッファメモリ70および制御部100を有して構成される。表示処理部44は、表示装置12のディスプレイに表示するデータをバッファするフレームメモリを有する。   FIG. 4 shows a functional block diagram of the image processing apparatus 10. The image processing apparatus 10 includes a wireless interface 40, a switch 42, a display processing unit 44, a hard disk drive 50, a recording medium mounting unit 52, a disk drive 54, a main memory 60, a buffer memory 70, and a control unit 100. . The display processing unit 44 has a frame memory that buffers data to be displayed on the display of the display device 12.

スイッチ42は、イーサネットスイッチ(イーサネットは登録商標)であって、外部の機器と有線または無線で接続して、データの送受信を行うデバイスである。スイッチ42は、ルータ15を介してネットワーク16に接続し、提供サーバ18から階層化された圧縮画像データを受信してもよい。またスイッチ42は無線インタフェース40に接続し、無線インタフェース40は、所定の無線通信プロトコルで入力装置20と接続する。入力装置20においてユーザから入力された画像変更要求信号は、無線インタフェース40、スイッチ42を経由して、制御部100に供給される。   The switch 42 is an Ethernet switch (Ethernet is a registered trademark), and is a device that transmits and receives data by connecting to an external device in a wired or wireless manner. The switch 42 may be connected to the network 16 via the router 15 and receive the compressed image data layered from the providing server 18. The switch 42 is connected to the wireless interface 40, and the wireless interface 40 is connected to the input device 20 using a predetermined wireless communication protocol. An image change request signal input from the user in the input device 20 is supplied to the control unit 100 via the wireless interface 40 and the switch 42.

ハードディスクドライブ50は、データを記憶する補助記憶装置として機能する。スイッチ42を介して受信された圧縮画像データは、ハードディスクドライブ50に格納されてもよい。表示処理の実行時、ハードディスクドライブ50に格納された圧縮画像データは、メインメモリ60に読み出される。記録媒体装着部52は、メモリカードなどのリムーバブル記録媒体が装着されると、リムーバブル記録媒体からデータを読み出す。ディスクドライブ54は、読出専用のROMディスクが装着されると、ROMディスクを駆動して認識し、データを読み出す。ROMディスクは、光ディスクや光磁気ディスクなどであってよい。   The hard disk drive 50 functions as an auxiliary storage device that stores data. The compressed image data received via the switch 42 may be stored in the hard disk drive 50. When the display process is executed, the compressed image data stored in the hard disk drive 50 is read out to the main memory 60. When a removable recording medium such as a memory card is mounted, the recording medium mounting unit 52 reads data from the removable recording medium. When a read-only ROM disk is loaded, the disk drive 54 drives and recognizes the ROM disk to read data. The ROM disk may be an optical disk or a magneto-optical disk.

制御部100は、マルチコアCPUを備え、1つのCPUの中に1つの汎用的なプロセッサコアと、複数のシンプルなプロセッサコアを有する。汎用プロセッサコアはPPU(Power Processing Unit)と呼ばれ、残りのプロセッサコアはSPU(Synergistic-Processing Unit)と呼ばれる。   The control unit 100 includes a multi-core CPU, and includes one general-purpose processor core and a plurality of simple processor cores in one CPU. The general-purpose processor core is called a PPU (Power Processing Unit), and the remaining processor cores are called a SPU (Synergistic-Processing Unit).

制御部100は、メインメモリ60およびバッファメモリ70に接続するメモリコントローラを備える。PPUはレジスタを有し、演算実行主体としてメインプロセッサを備えて、実行するアプリケーションにおける基本処理単位としてのタスクを各SPUに効率的に割り当てる。なお、PPU自身がタスクを実行してもよい。SPUはレジスタを有し、演算実行主体としてのサブプロセッサとローカルな記憶領域としてのローカルメモリを備える。ローカルメモリは、バッファメモリ70として使用されてもよい。メインメモリ60およびバッファメモリ70は記憶装置であり、RAM(ランダムアクセスメモリ)として構成される。SPUは制御ユニットとして専用のDMA(Direct Memory Access)コントローラをもち、メインメモリ60とバッファメモリ70の間のデータ転送を高速に行うことができ、また表示処理部44におけるフレームメモリとバッファメモリ70の間で高速なデータ転送を実現できる。本実施例の制御部100は、複数のSPUを並列動作させることで、高速な画像処理機能を実現する。表示処理部44は、表示装置12に接続されて、ユーザからの要求に応じた画像処理結果を出力する。   The control unit 100 includes a memory controller connected to the main memory 60 and the buffer memory 70. The PPU has a register, has a main processor as an operation execution subject, and efficiently assigns a task as a basic processing unit in an application to be executed to each SPU. Note that the PPU itself may execute the task. The SPU has a register, and includes a sub-processor as an operation execution subject and a local memory as a local storage area. The local memory may be used as the buffer memory 70. The main memory 60 and the buffer memory 70 are storage devices and are configured as a RAM (Random Access Memory). The SPU has a dedicated DMA (Direct Memory Access) controller as a control unit, can transfer data between the main memory 60 and the buffer memory 70 at high speed, and the frame memory and the buffer memory 70 in the display processing unit 44 can be transferred. High-speed data transfer can be realized. The control unit 100 according to the present embodiment realizes a high-speed image processing function by operating a plurality of SPUs in parallel. The display processing unit 44 is connected to the display device 12 and outputs an image processing result according to a request from the user.

図5は、階層間の関係を説明するための説明図を示す。この階層データ構造において、各階層はL0(第0階層30)、L1(第1階層32)、L2(第2階層34)、L3(第3階層36)と表現されている。図5に示す階層データ構造において、深さ(Z軸)方向における位置は、解像度を示し、L0に近い位置ほど解像度が低く、L3に近い位置ほど解像度は高い。ディスプレイに表示される画像の大きさに注目すると、深さ方向における位置は、拡大率に対応し、L0の表示画像の拡大率を1とすると、L1における拡大率は4、L2における拡大率は16となり、L3における拡大率は64となる。したがって深さ方向において、表示画像がL0側からL3側へ向かう方向に変化する場合、表示画像は拡大していき、L3側からL0側へ向かう方向に変化する場合は、表示画像は縮小していく。   FIG. 5 is an explanatory diagram for explaining the relationship between hierarchies. In this hierarchical data structure, each hierarchy is expressed as L0 (0th hierarchy 30), L1 (1st hierarchy 32), L2 (2nd hierarchy 34), L3 (3rd hierarchy 36). In the hierarchical data structure shown in FIG. 5, the position in the depth (Z-axis) direction indicates the resolution. The position closer to L0 has a lower resolution, and the position closer to L3 has a higher resolution. Paying attention to the size of the image displayed on the display, the position in the depth direction corresponds to the enlargement ratio. If the enlargement ratio of the display image of L0 is 1, the enlargement ratio in L1 is 4, and the enlargement ratio in L2 is 16, and the enlargement ratio at L3 is 64. Therefore, in the depth direction, when the display image changes from the L0 side to the L3 side, the display image enlarges. When the display image changes from the L3 side to the L0 side, the display image is reduced. Go.

第1境界31、第2境界33、第3境界35は、L0を基準とした拡大率として定義され、表示画像の生成に使用するタイル画像の階層を定めるための判定基準として利用される。第1境界31は拡大率2に設定され、表示画像の要求拡大率が2より小さければ、L0タイル画像が使用される。第2境界33は拡大率8に設定され、表示画像の要求拡大率が2以上であり且つ8より小さければ、L1タイル画像が使用される。同様に第3境界35は拡大率32に設定され、表示画像の要求拡大率が8以上であり且つ32より小さければ、L2タイル画像が使用される。また表示画像の要求拡大率が32以上であれば、L3タイル画像が使用される。したがって画像処理装置10は、これから表示する画像の要求拡大率が定まれば、その拡大率に対応する解像度のタイル画像をメインメモリ60から読み出して、その拡大率に調整した表示画像を生成することができる。   The first boundary 31, the second boundary 33, and the third boundary 35 are defined as enlargement ratios based on L0, and are used as determination criteria for determining a hierarchy of tile images used for generating a display image. The first boundary 31 is set to an enlargement ratio of 2, and if the requested enlargement ratio of the display image is smaller than 2, the L0 tile image is used. The second boundary 33 is set to an enlargement ratio of 8, and if the requested enlargement ratio of the display image is 2 or more and smaller than 8, the L1 tile image is used. Similarly, the third boundary 35 is set to an enlargement ratio 32, and if the requested enlargement ratio of the display image is 8 or more and smaller than 32, the L2 tile image is used. If the requested enlargement ratio of the display image is 32 or more, the L3 tile image is used. Therefore, when the required enlargement ratio of an image to be displayed is determined, the image processing apparatus 10 reads out a tile image having a resolution corresponding to the enlargement ratio from the main memory 60 and generates a display image adjusted to the enlargement ratio. Can do.

図6は、画像処理装置10における制御部100の構成を示す。制御部100は、画像データ解析部120、入力信号処理部150および表示画像処理部170を備える。画像データ解析部120は、枠領域設定部122、枠領域解析部124および拡大率設定部132を有し、枠領域解析部124は、文字種特定部126、文字画素サイズ特定部128および位置関係特定部130を有する。画像データ解析部120は、画像データのレイアウト構造の解析処理を行う。入力信号処理部150は、信号受付部152、拡大率決定部154および初期位置決定部156を有する。入力信号処理部150は、入力装置20から送信される画像変更要求信号を受け付け、表示処理に必要な情報を表示画像処理部170に供給する。表示画像処理部170は、画像データ取得部174、デコード部176、変更量導出部178、空間座標決定部180および表示画像生成部182を有する。表示画像処理部170は、タイル画像をメインメモリ60から読み出してデコードし、要求される拡大率に調整した表示画像を生成する。   FIG. 6 shows a configuration of the control unit 100 in the image processing apparatus 10. The control unit 100 includes an image data analysis unit 120, an input signal processing unit 150, and a display image processing unit 170. The image data analysis unit 120 includes a frame region setting unit 122, a frame region analysis unit 124, and an enlargement ratio setting unit 132. The frame region analysis unit 124 includes a character type specifying unit 126, a character pixel size specifying unit 128, and a positional relationship specifying. Part 130. The image data analysis unit 120 analyzes the layout structure of the image data. The input signal processing unit 150 includes a signal reception unit 152, an enlargement ratio determination unit 154, and an initial position determination unit 156. The input signal processing unit 150 receives an image change request signal transmitted from the input device 20 and supplies information necessary for display processing to the display image processing unit 170. The display image processing unit 170 includes an image data acquisition unit 174, a decoding unit 176, a change amount derivation unit 178, a spatial coordinate determination unit 180, and a display image generation unit 182. The display image processing unit 170 reads the tile image from the main memory 60, decodes it, and generates a display image adjusted to the required enlargement ratio.

図6において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU(Central Processing Unit)、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。既述したように、制御部100は1つのPPUと複数のSPUとを有し、PPUおよびSPUがそれぞれ単独または協同して、各機能ブロックを構成できる。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。   In FIG. 6, each element described as a functional block for performing various processes can be configured by a CPU (Central Processing Unit), a memory, and other LSIs in terms of hardware, and in terms of software, a memory This is realized by a program loaded on the computer. As described above, the control unit 100 includes one PPU and a plurality of SPUs, and each functional block can be configured by the PPU and the SPU individually or in cooperation. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof, and is not limited to any one.

図7は、新聞のスキャン画像の一例を示す。このページには、5つの記事が含まれており、それぞれの記事は、図示されるように仕切り線で区分けされている。なお、階層化された画像データのレイアウト構造は、解像度の異なる各階層において変わりはない。画像データ解析部120は、入力信号処理部150および表示画像処理部170の動作に先立って、画像データのレイアウト構造を解析する。   FIG. 7 shows an example of a scanned image of a newspaper. This page includes five articles, and each article is divided by a partition line as shown in the figure. The layout structure of the hierarchized image data does not change in each hierarchy having different resolutions. Prior to the operations of the input signal processing unit 150 and the display image processing unit 170, the image data analysis unit 120 analyzes the layout structure of the image data.

枠領域設定部122は、画像データのレイアウト構造から仕切り線を抽出し、1つの記事を含む枠領域を設定する。なお1つの記事においては上下左右方向ともに文字間隔が密であることを利用して、枠領域設定部122は、仕切り線ではなく、文字間隔をもとに枠領域を設定してもよい。たとえば枠領域設定部122は、文字間隔が所定値以上である場合に、2つの文字の間に記事の境界があることを判定し、新聞画像を区分けして、枠領域を設定してもよい。   The frame area setting unit 122 extracts a partition line from the layout structure of the image data, and sets a frame area including one article. Note that in one article, the frame area setting unit 122 may set the frame area based on the character spacing instead of the partition lines by using the fact that the character spacing is dense in both the vertical and horizontal directions. For example, the frame region setting unit 122 may determine that there is an article boundary between two characters when the character spacing is equal to or greater than a predetermined value, and set the frame region by dividing the newspaper image. .

図8は、枠領域設定部122により設定された枠領域を示す。図示するように、枠領域設定部122は、記事単位で5つの枠領域200、202、204、206、208を設定する。枠領域設定部122は、各階層の画像データに対して枠領域を設定し、たとえば高解像度の画像データに対しては、図8に示す枠領域内に、さらに細かな枠領域を設定してもよい。たとえば枠領域設定部122は、段落ごとに枠領域を設定してもよく、また記事が2列以上に分かれている場合には、列ごとに枠領域を設定してもよい。図8に示す記事単位の枠領域200、202、204、206、208は、すべての階層の画像データに対して設定される。   FIG. 8 shows the frame region set by the frame region setting unit 122. As illustrated, the frame area setting unit 122 sets five frame areas 200, 202, 204, 206, and 208 for each article. The frame area setting unit 122 sets a frame area for each layer of image data. For example, for high-resolution image data, a finer frame area is set in the frame area shown in FIG. Also good. For example, the frame area setting unit 122 may set a frame area for each paragraph, and when an article is divided into two or more columns, the frame area may be set for each column. The frame area 200, 202, 204, 206, 208 for each article shown in FIG. 8 is set for image data of all layers.

枠領域設定部122は、設定した枠領域に識別情報を付与し、枠領域解析部124は、枠領域の解析結果を識別情報に対応づけてメインメモリ60に保持させる。以下、枠領域200にID1、枠領域202にID2、枠領域204にID3、枠領域206にID4、枠領域208にID5が付与されたものとする。   The frame area setting unit 122 gives identification information to the set frame area, and the frame area analysis unit 124 causes the analysis result of the frame area to be stored in the main memory 60 in association with the identification information. Hereinafter, ID1 is assigned to the frame area 200, ID2 is assigned to the frame area 202, ID3 is assigned to the frame area 204, ID4 is assigned to the frame area 206, and ID5 is assigned to the frame area 208.

文字種特定部126は、枠領域に含まれる文字種を特定する。ここで文字種とは、文字体系とも呼ばれ、英字、漢字、平仮名、片仮名、アラビア文字、キリル文字など、同種の表記に使われるひとまとまりの文字の体系を意味する。文字種特定部126は、既存の文字認識技術を用いて枠領域に含まれる文字種を特定し、その新聞で使用されている言語を特定する。たとえば枠領域に含まれる文字種として、漢字、平仮名、片仮名が特定されると、文字種特定部126は、使用言語が日本語であることを特定する。また枠領域に含まれる文字種として英字が特定されると、文字種特定部126は、使用言語が英語であることを特定する。なお、1つの新聞画像において使用言語は通常1つであると考えられるため、文字種特定部126は、1つの枠領域に含まれる文字を解析して、使用言語を特定すればよい。   The character type specifying unit 126 specifies the character type included in the frame area. Here, the character type is also referred to as a character system, and means a group of characters used for the same type of notation, such as English, Kanji, Hiragana, Katakana, Arabic, and Cyrillic. The character type specifying unit 126 specifies the character type included in the frame area using the existing character recognition technology, and specifies the language used in the newspaper. For example, when a kanji, hiragana or katakana character is specified as the character type included in the frame region, the character type specifying unit 126 specifies that the language used is Japanese. When an alphabet is specified as the character type included in the frame region, the character type specifying unit 126 specifies that the language used is English. Since it is considered that there is usually only one language used in one newspaper image, the character type identification unit 126 may analyze the characters included in one frame area and identify the language used.

文字画素サイズ特定部128は、少なくとも1つの解像度の画像データに設定された枠領域に含まれる文字の画素サイズを特定する。本実施例では、第0階層の画像データの解像度を拡大率の基準に設定しているため、文字画素サイズ特定部128は、第0階層の画像データに設定された枠領域に含まれる文字の画素サイズを特定する。なお第0階層以外の階層の解像度を、拡大率の基準に設定することも可能である。また文字画素サイズ特定部128は、全ての階層の画像データに対して文字画素サイズの特定処理を実行してもよい。   The character pixel size specifying unit 128 specifies the pixel size of the character included in the frame area set in the image data having at least one resolution. In this embodiment, since the resolution of the 0th layer image data is set as a reference for the enlargement ratio, the character pixel size specifying unit 128 uses the character area included in the frame region set in the 0th layer image data. Specify the pixel size. It is also possible to set the resolution of layers other than the 0th layer as a reference for the enlargement ratio. In addition, the character pixel size specifying unit 128 may execute a character pixel size specifying process on image data of all layers.

文字の画素サイズは、高さ方向(上下方向)の画素数で定義されてよい。文字画素サイズ特定部128は、文字列を構成する文字を抽出し、各文字の高さ方向の画素数を特定する。文字種特定部126により、英字新聞画像であることが特定されている場合は、文字列は横方向に構成されるため、各行を構成する全文字について高さ方向の画素数を特定する。文字画素サイズ特定部128は、たとえば各行における全文字に対して特定された画素数を平均して、各行の文字画素サイズを特定してもよい。また文字画素サイズ特定部128は、各行において最大の高さ方向の画素数を、各行の文字画素サイズとして特定してもよい。なお文字種特定部126により日本語の新聞画像であることが特定されている場合には、文字列は縦方向に構成されるため、各列を構成する全文字について高さ方向の画素数を特定し、文字画素サイズ特定部128は、各列において平均した画素数を、各列の文字画素サイズとして特定してもよい。なお文字画素サイズ特定部128は、各列において最大の高さ方向の画素数を、各列の文字画素サイズとして特定してもよい。   The pixel size of the character may be defined by the number of pixels in the height direction (vertical direction). The character pixel size specifying unit 128 extracts characters constituting the character string and specifies the number of pixels in the height direction of each character. When the character type specifying unit 126 specifies an English newspaper image, the character string is configured in the horizontal direction, and therefore the number of pixels in the height direction is specified for all the characters configuring each line. The character pixel size specifying unit 128 may specify the character pixel size of each line by averaging the number of pixels specified for all characters in each line, for example. Further, the character pixel size specifying unit 128 may specify the maximum number of pixels in the height direction in each row as the character pixel size in each row. If the character type specifying unit 126 specifies a Japanese newspaper image, the character string is configured in the vertical direction, and therefore the number of pixels in the height direction is specified for all characters constituting each column. Then, the character pixel size specifying unit 128 may specify the average number of pixels in each column as the character pixel size in each column. The character pixel size specifying unit 128 may specify the maximum number of pixels in the height direction in each column as the character pixel size in each column.

通常、1つの記事を包含する枠領域内には、記事の見出しを記述する文字(以下、「見出し文字」と呼ぶ)と、記事内容を記述する文字(以下、「記事文字」と呼ぶ)とが含まれる。見出し文字には、大見出しを記述する文字と、小見出しを記述する文字とが存在する場合もあるが、以下では、説明を簡略化するために、まとめて「見出し文字」と表現する。   Usually, in a frame area containing one article, there are characters that describe the headline of the article (hereinafter referred to as “headline characters”) and characters that describe the content of the article (hereinafter referred to as “article characters”). Is included. In some cases, a heading character includes a character that describes a major heading and a character that describes a small heading. However, in order to simplify the description, they are collectively expressed as “heading characters”.

続いて文字画素サイズ特定部128は、各行の文字画素サイズの中から、最大の文字画素サイズを決定する。最大文字画素サイズをもつ文字列には、見出し文字が含まれる。本実施例において文字画素サイズ特定部128は、最大文字画素サイズの3/5〜1倍の文字画素サイズをもつ文字列に見出し文字が含まれると判定し、3/5〜1倍の範囲にある各行の文字画素サイズを平均して、見出し文字の画素サイズを特定する。最大文字画素サイズの3/5倍であっても見出し文字であると判定することで、上記した小見出しを記述する文字も含めることができる。また文字画素サイズ特定部128は、最大文字画素サイズの3/5以下の文字画素サイズをもつ文字列には、記事文字が含まれていると判定する。文字画素サイズ特定部128は、最大文字画素サイズの3/5以下である各行の文字画素サイズを平均して、記事文字の画素サイズを特定する。なお、ここでは見出し文字が含まれる文字画素サイズを最大文字画素サイズの3/5〜1倍と設定したが、この範囲は、文字種特定部126により特定された使用言語に応じて設定されてよい。   Subsequently, the character pixel size specifying unit 128 determines the maximum character pixel size from the character pixel sizes in each row. The character string having the maximum character pixel size includes a heading character. In this embodiment, the character pixel size specifying unit 128 determines that a headline character is included in a character string having a character pixel size that is 3/5 to 1 times the maximum character pixel size, and falls within a range of 3/5 to 1 time. The pixel size of the headline character is specified by averaging the character pixel size of each line. By determining that it is a heading character even if it is 3/5 times the maximum character pixel size, it is possible to include a character that describes the subheading described above. Further, the character pixel size specifying unit 128 determines that an article character is included in a character string having a character pixel size that is 3/5 or less of the maximum character pixel size. The character pixel size specifying unit 128 specifies the pixel size of the article character by averaging the character pixel sizes of the respective lines that are 3/5 or less of the maximum character pixel size. Here, the character pixel size including the heading character is set to 3/5 to 1 times the maximum character pixel size, but this range may be set according to the language used specified by the character type specifying unit 126. .

以上のように文字画素サイズ特定部128は、見出し文字の画素サイズと、記事文字の画素サイズを、高さ方向の画素数で特定する。文字画素サイズ特定部128は、全ての枠領域における画素サイズを特定し、枠領域の識別情報に対応づけてメインメモリ60に保持させる。なお画像データに、文字の画素サイズを示すメタデータが付加されている場合には、文字画素サイズ特定部128は、そのメタデータを用いて文字の画素サイズを特定してもよい。   As described above, the character pixel size specifying unit 128 specifies the pixel size of the headline character and the pixel size of the article character by the number of pixels in the height direction. The character pixel size specifying unit 128 specifies the pixel sizes in all the frame areas and stores them in the main memory 60 in association with the identification information of the frame areas. When metadata indicating the pixel size of a character is added to the image data, the character pixel size specifying unit 128 may specify the pixel size of the character using the metadata.

拡大率設定部132は、各枠領域に対して、各枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を設定する。複数の拡大率は、文字画素サイズ特定部128により特定された文字の画素サイズに応じて、枠領域を表示装置12のディスプレイに表示する際の文字の読みやすさに配慮して設定される。   The enlargement ratio setting unit 132 sets a plurality of enlargement ratios for displaying at least some characters in each frame area for each frame area. The plurality of enlargement rates are set in consideration of the readability of the characters when the frame region is displayed on the display device 12 according to the character pixel size specified by the character pixel size specifying unit 128.

ディスプレイサイズ保持部140は、ディスプレイのサイズを保持する。ディスプレイサイズは、たとえば縦および横の長さで定義されてもよい。ディスプレイ解像度保持部142は、ディスプレイの解像度を保持する。ディスプレイ解像度は、縦および横の画素数で定義されてもよい。ディスプレイサイズ保持部140およびディスプレイ解像度保持部142は、ハードディスクドライブ50に形成された格納領域であってよい。ディスプレイサイズおよび解像度は、予めユーザにより画像処理装置10に入力されて、それぞれディスプレイサイズ保持部140およびディスプレイ解像度保持部142に保持される。なお表示装置12がHDMI機器である場合は、画像処理装置10が表示装置12に問い合わせることで、表示装置12がディスプレイサイズおよび解像度を画像処理装置10に知らせてもよい。   The display size holding unit 140 holds the size of the display. The display size may be defined by vertical and horizontal lengths, for example. The display resolution holding unit 142 holds the display resolution. Display resolution may be defined by the number of vertical and horizontal pixels. The display size holding unit 140 and the display resolution holding unit 142 may be storage areas formed in the hard disk drive 50. The display size and resolution are input in advance to the image processing apparatus 10 by the user and are held in the display size holding unit 140 and the display resolution holding unit 142, respectively. When the display device 12 is an HDMI device, the display device 12 may inform the image processing device 10 of the display size and resolution by making an inquiry to the display device 12.

拡大率設定部132は、文字画素サイズ特定部128により特定された文字の画素サイズに応じて、枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を設定する。さらに詳細には、拡大率設定部132は、文字の画素サイズに加えて、ディスプレイサイズ保持部140に保持されたディスプレイサイズ、およびディスプレイ解像度保持部142に保持されたディスプレイ解像度にもとづいて、枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を設定する。なお、拡大率設定部132は、ディスプレイサイズ、ディスプレイ解像度のいずれか一方にもとづいて複数の拡大率を設定してもよい。   The enlargement ratio setting unit 132 sets a plurality of enlargement ratios when displaying at least some characters in the frame area according to the pixel size of the character specified by the character pixel size specifying unit 128. More specifically, the enlargement ratio setting unit 132 determines the frame area based on the display size held in the display size holding unit 140 and the display resolution held in the display resolution holding unit 142 in addition to the pixel size of the character. Set multiple magnifications when displaying at least some of the characters. Note that the enlargement ratio setting unit 132 may set a plurality of enlargement ratios based on either the display size or the display resolution.

後述するが、本実施例の画像処理装置10は、新聞の表示処理に際して、まず表示装置12のディスプレイに新聞画像を全面表示する。図9は、新聞画像が全面表示された様子を示す。全面表示をした場合、記事文字だけでなく、見出し文字も小さく表示される。ユーザが見出し文字および記事文字を読めるようにするために、画像処理装置10は新聞画像を拡大表示する必要がある。   As will be described later, the image processing apparatus 10 according to the present embodiment first displays a newspaper image on the entire display of the display device 12 in the newspaper display process. FIG. 9 shows a state in which a newspaper image is displayed on the entire surface. When the entire screen is displayed, not only the article characters but also the headline characters are displayed small. In order for the user to read the headline characters and the article characters, the image processing apparatus 10 needs to enlarge and display the newspaper image.

そこで画像処理装置10は、新聞画像が全面表示された状態でユーザにより入力装置20の○ボタン22が押下されると、ある枠領域、たとえばID1で特定される枠領域200(図8参照)をディスプレイに拡大表示するようにする。このとき、枠領域200がディスプレイに対して大きければ、枠領域200の全体をディスプレイに表示したときに、依然として見出し文字や記事文字が小さく、読みにくい事態も発生しうる。このような事態を回避するために、拡大率設定部132は、文字の画素サイズ、ディスプレイサイズおよびディスプレイ解像度をもとに、枠領域200を表示する際の複数の拡大率を予め設定しておく。   Accordingly, when the user presses the ○ button 22 of the input device 20 in a state where the newspaper image is fully displayed, the image processing apparatus 10 displays a certain frame area, for example, the frame area 200 identified by ID1 (see FIG. 8). Enlarge the display on the display. At this time, if the frame area 200 is larger than the display, when the entire frame area 200 is displayed on the display, the heading characters and the article characters are still small, and a situation in which reading is difficult may occur. In order to avoid such a situation, the enlargement ratio setting unit 132 presets a plurality of enlargement ratios when displaying the frame region 200 based on the pixel size, display size, and display resolution of the character. .

以下、図8に示す枠領域200を表示する際の拡大率の設定処理について説明するが、他の枠領域についても同様の拡大率設定処理を行う。図示されるように、ID1で特定される枠領域200には、”Coach back in Japan”と記述される見出し文字と、その下方に記述される記事文字とが含まれる。   Hereinafter, although an enlargement ratio setting process when displaying the frame area 200 illustrated in FIG. 8 will be described, the same enlargement ratio setting process is performed for other frame areas. As shown in the figure, the frame area 200 identified by ID1 includes a heading character described as “Coach back in Japan” and an article character described below the heading character.

まず拡大率設定部132は、ディスプレイサイズおよびディスプレイ解像度から、ディスプレイの画素密度を求める。画素密度は、単位長あたりの画素数で表現される。続いて拡大率設定部132は、ディスプレイにおいてユーザが読みやすい基準文字サイズを決定する。基準文字サイズは、長さの単位で表現される。たとえば表示装置12が据置型の大型TVである場合、ユーザは数メートル離れた位置からディスプレイを見るため、読みやすい高さ方向の文字サイズは、約5センチメートル程度であると考えられる。一方、表示装置12がディスプレイを備えた携帯端末装置である場合、ユーザは数10センチメートルの位置からディスプレイを見るため、読みやすい高さ方向の文字サイズは、1センチメートル程度あれば十分と考えられる。このような事情を考慮して、拡大率設定部132は、ディスプレイサイズから据置型TVであるか、または携帯端末装置であるかを判別し、ディスプレイサイズに応じた基準文字サイズを決定する。たとえばディスプレイの縦長さが15cm以下であれば、携帯端末装置であると判定し、15cmよりも大きければ据置型TVであると判定してもよい。   First, the enlargement ratio setting unit 132 obtains the pixel density of the display from the display size and the display resolution. The pixel density is expressed by the number of pixels per unit length. Subsequently, the enlargement ratio setting unit 132 determines a reference character size that is easy for the user to read on the display. The reference character size is expressed in units of length. For example, when the display device 12 is a stationary large-sized TV, the user views the display from a position several meters away, so that the easy-to-read character size in the height direction is considered to be about 5 centimeters. On the other hand, when the display device 12 is a portable terminal device provided with a display, the user views the display from a position of several tens of centimeters. It is done. Considering such circumstances, the enlargement ratio setting unit 132 determines whether the display type is a stationary TV or a portable terminal device, and determines a reference character size according to the display size. For example, if the vertical length of the display is 15 cm or less, it may be determined that it is a mobile terminal device, and if it is larger than 15 cm, it may be determined that it is a stationary TV.

決定した基準文字サイズをSl(単位は長さ)、ディスプレイの画素密度をDp(単位は画素数/単位長)とすると、ディスプレイに表示されるべき文字の高さ方向の画素数は(Sl×Dp)となる。以下、この画素数を、基準画素数とよぶ。枠領域200において、文字画素サイズ特定部128が、見出し文字の画素サイズ(単位は画素数)をSa、記事文字の画素サイズをSb(<Sa)と特定していたとすると、拡大率設定部132は、見出し文字のための拡大率を((Sl×Dp)/Sa)(以下、Eaと表記する)、記事文字のための拡大率を((Sl×Dp)/Sb)(以下、Ebと表記する)と設定する。なお、見出し文字のための拡大率は、Ea以上に設定されてもよく、また記事文字のための拡大率は、Eb以上に設定されてもよい。このように拡大率設定部132は、見出し文字がディスプレイの高さ方向において基準画素数以上となる拡大率と、記事文字が基準画素数以上となる拡大率を設定する。 If the determined reference character size is Sl (unit is length) and the pixel density of the display is Dp (unit is the number of pixels / unit length), the number of pixels in the height direction of the character to be displayed on the display is (Sl × Dp). Hereinafter, this number of pixels is referred to as a reference pixel number. In the frame area 200, assuming that the character pixel size specifying unit 128 specifies the pixel size (unit: number of pixels) of the headline character as Sa and the pixel size of the article character as Sb (<Sa), the enlargement ratio setting unit 132. Is an enlargement rate for headline characters ((Sl × Dp) / Sa) 2 (hereinafter referred to as Ea), and an enlargement rate for article characters ((Sl × Dp) / Sb) 2 (hereinafter, Eb). It should be noted that the enlargement ratio for the headline character may be set to Ea or more, and the enlargement ratio for the article character may be set to Eb or more. As described above, the enlargement ratio setting unit 132 sets an enlargement ratio at which the headline character is equal to or larger than the reference pixel number in the height direction of the display and an enlargement ratio at which the article character is equal to or larger than the reference pixel number.

これにより、枠領域200を表示する際に、拡大率をEa以上にして記事画像を拡大表示すると、見出し文字が読むに十分な大きさとなり、また拡大率をEb以上にして記事画像を拡大表示すると、記事文字が読むに十分な大きさとなる。拡大率設定部132は、他の枠領域についても同様に見出し文字のための拡大率と、記事文字のための拡大率を設定し、枠領域の識別情報に対応づけてメインメモリ60に保持させる。なお本実施例において拡大率は1以上の値だけでなく、1以下の値も含むものとする。   Thus, when displaying the frame region 200, if the article image is enlarged and displayed with an enlargement ratio equal to or higher than Ea, the headline character becomes large enough to be read, and the article image is enlarged and displayed with an enlargement ratio equal to or higher than Eb. Then the article letters are large enough to read. The enlargement ratio setting unit 132 similarly sets the enlargement ratio for the headline characters and the enlargement ratio for the article characters for the other frame areas, and stores them in the main memory 60 in association with the identification information of the frame areas. . In this embodiment, the enlargement ratio includes not only a value of 1 or more but also a value of 1 or less.

位置関係特定部130は、枠領域間の位置関係を特定する。たとえば位置関係特定部130は、各枠領域の中心座標を定め、それぞれの中心座標をもとに、隣接する枠領域との間の位置関係を特定する。図8を参照して、枠領域200の下には枠領域202が存在し、また右には枠領域206が存在する。同様に枠領域202の上には枠領域200が存在し、右には枠領域206が存在し、また下には枠領域204が存在する。このように位置関係特定部130は、各枠領域について、その上下左右に存在する枠領域を特定し、その位置関係を枠領域の識別情報に対応づけてメインメモリ60に保持させる。   The positional relationship specifying unit 130 specifies the positional relationship between the frame regions. For example, the positional relationship specifying unit 130 determines the central coordinates of each frame region, and specifies the positional relationship between adjacent frame regions based on the central coordinates. Referring to FIG. 8, a frame region 202 exists below the frame region 200, and a frame region 206 exists on the right. Similarly, a frame area 200 exists above the frame area 202, a frame area 206 exists on the right, and a frame area 204 exists below. As described above, the positional relationship specifying unit 130 specifies the frame regions that exist on the top, bottom, left, and right of each frame region, and stores the positional relationship in the main memory 60 in association with the identification information of the frame region.

以上のように、入力信号処理部150による入力信号の処理、および表示画像処理部170による表示画像の処理に先だって、拡大率設定部132が、設定した各枠領域における複数の拡大率を予め設定し、また位置関係特定部130が枠領域間の位置関係を特定しておく。これにより、入力信号処理部150および表示画像処理部170による各処理が実行される環境が整えられる。以下、制御部100による表示処理について説明する。   As described above, prior to the input signal processing by the input signal processing unit 150 and the display image processing by the display image processing unit 170, the enlargement rate setting unit 132 presets a plurality of enlargement rates in each set frame area. In addition, the positional relationship specifying unit 130 specifies the positional relationship between the frame regions. Thereby, the environment in which each process by the input signal processing unit 150 and the display image processing unit 170 is executed is prepared. Hereinafter, display processing by the control unit 100 will be described.

画像処理装置10の起動後、ユーザが1枚の新聞画像を選択すると、画像データ取得部174がL0タイル画像を取得し、デコード部176がデコードして、バッファメモリ70に保持させる。表示画像生成部182は、バッファメモリ70に保持された画像データを用いて、ディスプレイに収まるようにL0タイル画像を拡大または縮小して表示画像を生成してフレームメモリ90に供給し、表示処理部44がディスプレイに表示する。これにより、表示装置12のディスプレイに新聞画像が全面表示される(図9参照)。   When the user selects one newspaper image after the image processing apparatus 10 is activated, the image data acquisition unit 174 acquires the L0 tile image, and the decoding unit 176 decodes it and stores it in the buffer memory 70. The display image generation unit 182 uses the image data held in the buffer memory 70 to generate a display image by enlarging or reducing the L0 tile image so as to fit in the display, and supplies the display image to the frame memory 90. The display processing unit 44 displays on the display. Thereby, the newspaper image is displayed on the entire display of the display device 12 (see FIG. 9).

ユーザが入力装置20を操作すると、画像変更要求信号が画像処理装置10に送信される。信号受付部152は、入力装置20から、ディスプレイに表示されている表示画像の変更要求信号を受け付ける。   When the user operates the input device 20, an image change request signal is transmitted to the image processing device 10. The signal receiving unit 152 receives a change request signal for a display image displayed on the display from the input device 20.

ユーザが入力装置20の○ボタン22を押下すると、信号受付部152は、変更要求信号が枠領域200の表示を要求していることを判定し、拡大率決定部154に通知する。拡大率決定部154は、枠領域200の識別情報ID1を用いて、拡大率設定部132により枠領域200に対して設定された拡大率をメインメモリ60から取得し、これから表示する枠領域200の拡大率として決定する。このとき拡大率決定部154は、設定された複数の拡大率のうち、最小の拡大率を取得する。上記した例において、Ea<Ebであるため、拡大率決定部154は、見出し文字の拡大率Eaを取得する。拡大率決定部154は、枠領域200の識別情報ID1および決定した拡大率Eaを表示画像処理部170に伝える。   When the user presses the ○ button 22 of the input device 20, the signal reception unit 152 determines that the change request signal requests display of the frame region 200 and notifies the enlargement rate determination unit 154. The enlargement ratio determining unit 154 uses the identification information ID1 of the frame area 200 to acquire the enlargement ratio set for the frame area 200 by the enlargement ratio setting section 132 from the main memory 60, and the frame area 200 to be displayed from now on. Determine as the magnification. At this time, the enlargement factor determination unit 154 acquires the smallest enlargement factor among the set plural enlargement factors. In the above example, since Ea <Eb, the enlargement rate determination unit 154 acquires the enlargement rate Ea of the headline character. The enlargement ratio determining unit 154 transmits the identification information ID1 of the frame area 200 and the determined enlargement ratio Ea to the display image processing unit 170.

また初期位置決定部156は、特定された文字種に応じて、枠領域200の左上または右上のいずれかが表示画像に含まれるように枠領域の表示位置を決定する。たとえば、特定された文字種により英字新聞であることが判定された場合、英語は左から記述されるため、初期位置決定部156は、枠領域の左上隅が表示画像に必ず含まれるように枠領域の最初の表示位置を決定する。一方、特定された文字種により日本語新聞であることが判定された場合、日本語新聞では右から記述されるため、枠領域の右上隅が表示画像に必ず含まれるように枠領域の最初の表示位置を決定する。たとえば初期位置決定部156は、枠領域の左上隅または右上隅が、ディスプレイの左上隅または右上隅にくるように、最初の表示位置を決定してもよい。初期位置決定部156は、決定した表示位置を表示画像処理部170に伝える。   Further, the initial position determination unit 156 determines the display position of the frame area so that either the upper left or upper right of the frame area 200 is included in the display image according to the specified character type. For example, when it is determined that the newspaper is an English newspaper according to the specified character type, since English is described from the left, the initial position determination unit 156 causes the frame region so that the upper left corner of the frame region is always included in the display image. The first display position of is determined. On the other hand, if it is determined that the newspaper is a Japanese newspaper according to the specified character type, it is described from the right in the Japanese newspaper, so the first display of the frame area so that the upper right corner of the frame area is always included in the display image Determine the position. For example, the initial position determination unit 156 may determine the initial display position so that the upper left corner or upper right corner of the frame region is positioned at the upper left corner or upper right corner of the display. The initial position determination unit 156 transmits the determined display position to the display image processing unit 170.

図10は、図5に示す要求拡大率と使用するタイル画像の階層との関係表を示す。表示画像処理部170において、画像データ取得部174は、拡大率決定部154から枠領域200の識別情報および決定された拡大率を受け取ると、決定された拡大率に対応する解像度のタイル画像をメインメモリ60から読み出す。画像データ取得部174は、図10に示す関係表をテーブル形式で保持しており、決定された拡大率Eaに応じて、使用する階層を決定し、決定した階層において枠領域200を含んだタイル画像をメインメモリ60から取得する。デコード部176は、タイル画像をデコードし、バッファメモリ70に保持させる。   FIG. 10 shows a relationship table between the requested enlargement ratio shown in FIG. 5 and the hierarchy of tile images to be used. In the display image processing unit 170, when receiving the identification information of the frame region 200 and the determined enlargement rate from the enlargement rate determining unit 154, the image data acquiring unit 174 selects a tile image having a resolution corresponding to the determined enlargement rate as the main image. Read from the memory 60. The image data acquisition unit 174 holds the relationship table shown in FIG. 10 in a table format, determines a layer to be used according to the determined enlargement ratio Ea, and a tile including the frame region 200 in the determined layer. An image is acquired from the main memory 60. The decoding unit 176 decodes the tile image and causes the buffer memory 70 to hold it.

空間座標決定部180は、拡大率決定部154により決定された拡大率Eaと、初期位置決定部156により決定された表示位置を受け取ると、拡大率および表示位置に対応したテクスチャ座標を導出して、空間座標を決定する。表示画像生成部182は、バッファメモリ70に保持された画像データを用いて、決定された拡大率Eaに調整した表示画像を生成し、フレームメモリ90に供給する。以上により、ディスプレイには、見出し文字が読みやすい大きさに調整された表示画像が映し出される。   Upon receiving the enlargement ratio Ea determined by the enlargement ratio determination section 154 and the display position determined by the initial position determination section 156, the spatial coordinate determination section 180 derives the texture coordinates corresponding to the enlargement ratio and the display position. Determine spatial coordinates. The display image generation unit 182 generates a display image adjusted to the determined enlargement ratio Ea using the image data held in the buffer memory 70 and supplies the display image to the frame memory 90. As described above, a display image in which the heading characters are adjusted to a size that is easy to read is displayed on the display.

図11は、拡大率Eaに調整された枠領域200の表示画像を示す。表示画像が拡大率Eaで表示されることで、見出し文字が読みやすい大きさに拡大されている。このように画像処理装置10は、ユーザが面倒な操作を行うことなく、単純なボタン操作で画像を拡大表示できる。これにより、ユーザは見出し文字を認識でき、興味がある記事であれば、入力装置20の△ボタン25を押下して、記事文字を拡大する。   FIG. 11 shows a display image of the frame region 200 adjusted to the enlargement ratio Ea. By displaying the display image at the enlargement factor Ea, the heading characters are enlarged to be easy to read. As described above, the image processing apparatus 10 can enlarge and display an image with a simple button operation without a troublesome operation by the user. Thereby, the user can recognize the headline character, and if it is an interesting article, the user presses the Δ button 25 of the input device 20 to enlarge the article character.

このとき信号受付部152は、変更要求信号が枠領域200の拡大表示を要求していることを判定し、拡大率決定部154に通知する。拡大率決定部154は、枠領域200の識別情報ID1を用いて、拡大率設定部132により枠領域200に対して設定された拡大率をメインメモリ60から取得し、これから表示する枠領域200の拡大率として決定する。このとき拡大率決定部154は、設定された複数の拡大率のうち、変更要求信号を受け付けた時点の拡大率(Ea)に対して、その次に大きい値に設定されている拡大率(Eb)を選択して、取得する。拡大率決定部154は、枠領域200の識別情報ID1および決定した拡大率Ebを表示画像処理部170に伝える。また既述したように初期位置決定部156は、枠領域の表示位置を決定し、決定した表示位置を表示画像処理部170に伝える。   At this time, the signal reception unit 152 determines that the change request signal requests the enlarged display of the frame region 200 and notifies the enlargement rate determination unit 154 of the change request signal. The enlargement ratio determining unit 154 uses the identification information ID1 of the frame area 200 to acquire the enlargement ratio set for the frame area 200 by the enlargement ratio setting section 132 from the main memory 60, and the frame area 200 to be displayed from now on. Determine as the magnification. At this time, the enlargement factor determination unit 154 sets the enlargement factor (Eb) that is set to the next largest value relative to the enlargement factor (Ea) at the time when the change request signal is received, among the set enlargement factors. ) To get. The enlargement rate determination unit 154 notifies the display image processing unit 170 of the identification information ID1 of the frame region 200 and the determined enlargement rate Eb. In addition, as described above, the initial position determination unit 156 determines the display position of the frame area and notifies the display image processing unit 170 of the determined display position.

表示画像処理部170において、画像データ取得部174は、拡大率決定部154から枠領域200の識別情報および決定された拡大率を受け取ると、決定された拡大率に対応する解像度のタイル画像をメインメモリ60から読み出す。画像データ取得部174は、図10に示す関係表を参照して、決定された拡大率Ebに応じて、使用する階層を決定し、決定した階層において枠領域200を含んだタイル画像をメインメモリ60から取得する。デコード部176は、タイル画像をデコードし、バッファメモリ70に保持させる。   In the display image processing unit 170, when receiving the identification information of the frame region 200 and the determined enlargement rate from the enlargement rate determining unit 154, the image data acquiring unit 174 selects a tile image having a resolution corresponding to the determined enlargement rate as the main image. Read from the memory 60. The image data acquisition unit 174 refers to the relationship table shown in FIG. 10, determines a hierarchy to be used according to the determined enlargement ratio Eb, and stores the tile image including the frame region 200 in the determined hierarchy in the main memory. 60. The decoding unit 176 decodes the tile image and causes the buffer memory 70 to hold it.

空間座標決定部180は、拡大率決定部154により決定された拡大率Ebと、初期位置決定部156により決定された表示位置を受け取ると、拡大率および表示位置に対応したテクスチャ座標を導出して、空間座標を決定する。表示画像生成部182は、バッファメモリ70に保持された画像データを用いて、決定された拡大率Ebに調整した表示画像を生成し、フレームメモリ90に供給する。以上により、ディスプレイには、記事文字が読みやすい大きさに調整された表示画像が映し出される。   Upon receiving the enlargement ratio Eb determined by the enlargement ratio determination section 154 and the display position determined by the initial position determination section 156, the spatial coordinate determination section 180 derives the texture coordinates corresponding to the enlargement ratio and the display position. Determine spatial coordinates. The display image generation unit 182 generates a display image adjusted to the determined enlargement ratio Eb using the image data held in the buffer memory 70 and supplies the display image to the frame memory 90. As described above, a display image in which the article characters are adjusted to a size that is easy to read is displayed on the display.

図12は、拡大率Ebに調整された枠領域200の表示画像を示す。表示画像が拡大率Ebで表示されることで、見出し文字だけでなく、記事文字も読みやすい大きさに拡大されている。これにより、ユーザは、面倒な操作を必要とすることなく、記事文字を読むことができる。   FIG. 12 shows a display image of the frame area 200 adjusted to the enlargement ratio Eb. By displaying the display image at the enlargement ratio Eb, not only the headline characters but also the article characters are enlarged to a size that is easy to read. Thereby, the user can read an article character without requiring a troublesome operation.

なお枠領域が表示された状態でユーザが、十字キー21を操作すると、信号受付部152は、変更要求信号が枠領域200の変更を要求していることを判定し、初期位置決定部156に通知する。初期位置決定部156は、枠領域200の識別情報ID1を用いて、位置関係特定部130により枠領域200に対して特定された位置関係をメインメモリ60から取得し、十字キー21で指定された方向に存在する枠領域を特定する。たとえば十字キー21で下方向が指示された場合には、初期位置決定部156が、枠領域200の下に枠領域202が存在する情報を取得し(図8参照)、既述したように表示位置を決定し、決定した表示位置を表示画像処理部170に伝える。また初期位置決定部156は、枠領域202の識別情報ID2を拡大率決定部154に通知する。   When the user operates the cross key 21 in a state where the frame area is displayed, the signal receiving unit 152 determines that the change request signal requests to change the frame area 200 and notifies the initial position determining unit 156 of the change. Notice. The initial position determination unit 156 uses the identification information ID1 of the frame region 200 to acquire the positional relationship specified for the frame region 200 by the positional relationship specifying unit 130 from the main memory 60 and is designated by the cross key 21. Identify the frame area that exists in the direction. For example, when the down direction is instructed with the cross key 21, the initial position determination unit 156 acquires information indicating that the frame area 202 exists below the frame area 200 (see FIG. 8) and displays it as described above. The position is determined, and the determined display position is transmitted to the display image processing unit 170. Further, the initial position determination unit 156 notifies the enlargement rate determination unit 154 of the identification information ID2 of the frame area 202.

拡大率決定部154は、初期位置決定部156から通知された識別情報ID2を用いて、拡大率設定部132により枠領域202に対して設定された拡大率をメインメモリ60から取得し、これから表示する枠領域202の拡大率として決定する。拡大率決定部154は、設定された複数の拡大率のうち、最小の拡大率を取得し、枠領域202の識別情報および決定した拡大率を表示画像処理部170に伝える。表示画像処理部170は、これらの情報を用いて表示画像を生成し、表示処理部44が、ディスプレイに、見出し文字が読みやすい大きさに調整された表示画像を映し出す。   The enlargement rate determination unit 154 uses the identification information ID2 notified from the initial position determination unit 156 to acquire the enlargement rate set for the frame area 202 by the enlargement rate setting unit 132 from the main memory 60 and displays it from now on. The enlargement ratio of the frame area 202 to be determined is determined. The enlargement ratio determination unit 154 acquires the minimum enlargement ratio from among the set plurality of enlargement ratios, and transmits the identification information of the frame region 202 and the determined enlargement ratio to the display image processing unit 170. The display image processing unit 170 generates a display image using these pieces of information, and the display processing unit 44 displays a display image adjusted to a size that allows easy reading of the headline characters on the display.

なお以上は枠領域の段階的な表示処理について説明したが、入力装置20のアナログスティック27a、27bを用いて、新聞画像を連続的に変化させるように表示することも可能である。信号受付部152が、アナログスティック27を用いた変更要求信号を受け付けると、変更量導出部178が、変更要求信号をもとに、要求される表示画像の変更量を導出する。表示画像の変更量は、1フレームごとの上下左右方向の移動量および深さ方向の移動量である。空間座標決定部180は、前回フレームのテクスチャ座標から、導出された変更量により移動する今回フレームのテクスチャ座標を決定する。表示画像生成部182は、テクスチャ画像をもとに、バッファメモリ70に保持された画像データを用いて、表示画像を生成し、フレームメモリ90に供給する。なお枠領域が表示された状態でアナログスティック27を用いて段階的に枠領域を変更することも可能である。   The stepwise display processing of the frame area has been described above, but it is also possible to display the newspaper images so as to be continuously changed using the analog sticks 27a and 27b of the input device 20. When the signal accepting unit 152 accepts a change request signal using the analog stick 27, the change amount deriving unit 178 derives a requested change amount of the display image based on the change request signal. The change amount of the display image is a movement amount in the vertical and horizontal directions and a movement amount in the depth direction for each frame. The spatial coordinate determination unit 180 determines the texture coordinates of the current frame that moves according to the derived change amount from the texture coordinates of the previous frame. The display image generation unit 182 generates a display image using the image data stored in the buffer memory 70 based on the texture image, and supplies the display image to the frame memory 90. It is also possible to change the frame area step by step using the analog stick 27 with the frame area displayed.

図13は、本実施例における画像処理のフローチャートを示す。まず枠領域設定部122が、画像データのレイアウト構造を解析して区分けし、新聞画像に少なくとも1つの枠領域を設定する(S10)。枠領域が設定されると、文字画素サイズ特定部128が、枠領域に含まれる文字の画素サイズを特定する(S12)。続いて拡大率設定部132が、ディスプレイサイズ保持部140からディスプレイサイズを取得し(S14)、ディスプレイ解像度保持部142からディスプレイ解像度を取得する(S16)。拡大率設定部132は、ディスプレイサイズおよび解像度と、特定された文字の画素サイズにもとづいて、枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を設定する(S18)。これらのステップにより表示処理の環境が整い、表示画像処理部170は、入力装置20より表示画像の変更要求信号を受け取ると、設定された拡大率に対応する解像度のタイル画像をメインメモリ60から読み出し、その拡大率に調整した表示画像を生成する(S20)。   FIG. 13 shows a flowchart of image processing in this embodiment. First, the frame area setting unit 122 analyzes and classifies the layout structure of the image data, and sets at least one frame area in the newspaper image (S10). When the frame area is set, the character pixel size specifying unit 128 specifies the pixel size of the character included in the frame area (S12). Subsequently, the enlargement ratio setting unit 132 acquires the display size from the display size holding unit 140 (S14), and acquires the display resolution from the display resolution holding unit 142 (S16). The enlargement ratio setting unit 132 sets a plurality of enlargement ratios for displaying at least a part of characters in the frame area based on the display size and resolution and the pixel size of the specified character (S18). When the display processing environment is prepared by these steps and the display image processing unit 170 receives a display image change request signal from the input device 20, the display image processing unit 170 reads a tile image having a resolution corresponding to the set enlargement ratio from the main memory 60. Then, a display image adjusted to the enlargement ratio is generated (S20).

以上、本発明を実施例をもとに説明した。この実施例は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   In the above, this invention was demonstrated based on the Example. This embodiment is an exemplification, and it will be understood by those skilled in the art that various modifications can be made to the combination of each component and each processing process, and such modifications are also within the scope of the present invention. .

実施例では、枠領域を段階的に拡大表示する例を示したが、ユーザは入力装置20の×ボタン23を押下することで、枠領域の拡大前の状態に変更する、すなわち枠領域を縮小表示することも可能である。   In the embodiment, an example in which the frame area is enlarged and displayed step by step has been shown. However, the user changes to the state before the frame area is enlarged by pressing the X button 23 of the input device 20, that is, the frame area is reduced. It is also possible to display.

実施例では、拡大率設定部132が、見出し文字および記事文字が読みやすい大きさとなる拡大率Ea、Ebを決定し、それぞれの文字の拡大率をEa以上、Eb以上となるように設定してもよいとした。変形例では、拡大率に上限を設定する。このとき、拡大率設定部132は、最小の基準文字サイズSlminと、最大の基準文字サイズSlmaxを設定する。ここでSlminは、実施例における基準文字サイズSlに対応する。   In the embodiment, the enlargement ratio setting unit 132 determines the enlargement ratios Ea and Eb at which the headline characters and the article characters are easy to read, and sets the enlargement ratios of the respective characters to be Ea or more and Eb or more. It was also good. In the modification, an upper limit is set for the enlargement ratio. At this time, the enlargement ratio setting unit 132 sets the minimum reference character size Slmin and the maximum reference character size Slmax. Here, Slmin corresponds to the reference character size Sl in the embodiment.

見出し文字の拡大率Ehは、以下の範囲の値をとりうる。
((Slmin×Dp)/Sa)<=Eh<=((Slmax×Dp)/Sa)
同様に記事文字の拡大率Eiは、以下の範囲の値をとりうる。
((Slmin×Dp)/Sb)<=Ei<=((Slmax×Dp)/Sb)
拡大率設定部132は、拡大率Eh、Eiを、それぞれ上記の許容範囲内で設定できるが、Sa、Sbの値によっては、それぞれの許容範囲に重複が生じ、Eh、Eiを同一値にすることも可能となる。
The headline character enlargement ratio Eh can take values in the following ranges.
((Slmin × Dp) / Sa) 2 <= Eh <= ((Slmax × Dp) / Sa) 2
Similarly, the article character enlargement ratio Ei can take values in the following ranges.
((Slmin × Dp) / Sb) 2 <= Ei <= ((Slmax × Dp) / Sb) 2
The enlargement ratio setting unit 132 can set the enlargement ratios Eh and Ei within the above-described allowable ranges, but depending on the values of Sa and Sb, the respective allowable ranges may overlap, and Eh and Ei may be set to the same value. It is also possible.

実施例では、枠領域200を表示する際に、見出し文字と記事文字の拡大率を異ならせて設定しているが、枠領域200が小さければ、見出し文字と記事文字の拡大率を同じくして、枠領域200をディスプレイに全面表示することが好ましい。そこで、拡大率設定部132は、Eh、Eiがそれぞれの許容範囲内であって、枠領域200を全面表示させる拡大率が存在すれば、それを1つの拡大率として設定してもよい。具体的に拡大率設定部132は、枠領域200をディスプレイに全面表示するときの拡大率を求め、その拡大率が、上記したEh、Eiのそれぞれの許容範囲に含まれていれば、その拡大率を、複数の拡大率の1つとして設定する。   In the embodiment, when the frame area 200 is displayed, the enlargement ratios of the heading characters and the article characters are set differently. However, if the frame area 200 is small, the enlargement ratios of the heading characters and the article characters are set to be the same. The frame region 200 is preferably displayed on the entire surface of the display. Therefore, if Eh and Ei are within the respective permissible ranges and there is an enlargement factor for displaying the entire frame area 200, it may be set as one enlargement factor. Specifically, the enlargement ratio setting unit 132 obtains an enlargement ratio when the frame region 200 is displayed on the entire surface, and if the enlargement ratio is included in the above-described allowable ranges of Eh and Ei, the enlargement is performed. The rate is set as one of a plurality of enlargement rates.

なお、この手法は、拡大率の上限を設定しない場合においても利用でき、実施例において、見出し文字の拡大率をEa以上、記事文字の拡大率をEb以上に設定可能である場合に、枠領域を全面表示するときの拡大率が、Ea以上、Eb以上の値であれば、拡大率設定部132が、全面表示時の拡大率を、複数の拡大率の1つとして設定してもよい。   This method can be used even when the upper limit of the enlargement rate is not set. In the embodiment, when the enlargement rate of the headline character can be set to Ea or more and the enlargement rate of the article character can be set to Eb or more, the frame region If the enlargement ratio when displaying the entire image is a value greater than or equal to Ea and greater than or equal to Eb, the enlargement ratio setting unit 132 may set the enlargement ratio during full display as one of a plurality of enlargement ratios.

また拡大率設定部132は、ユーザのプロファイル情報に応じて、拡大率を設定してもよい。ここでプロファイル情報は、たとえばユーザの年齢情報であってよく、ユーザが画像処理装置10にログインしたときに、拡大率設定部132が、ユーザ情報に対応付けられたプロファイル情報を取得してもよい。子供や老人は、小さい文字を判別しにくい傾向にあるため、拡大率設定部132は、ユーザが所定年齢(たとえば6歳)以下、および所定年齢以上(たとえば65歳以上)である場合に、上記した見出し文字の拡大率、および記事文字の拡大率を、K倍(Kは1より大きい値)して、子供用、老人用の拡大率を設定してもよい。   Further, the enlargement ratio setting unit 132 may set an enlargement ratio according to the user profile information. Here, the profile information may be, for example, the age information of the user, and when the user logs in to the image processing apparatus 10, the enlargement ratio setting unit 132 may acquire the profile information associated with the user information. . Since children and elderly people tend to be difficult to distinguish small characters, the enlargement ratio setting unit 132 is configured to display the above when the user is a predetermined age (for example, 6 years old) or less and a predetermined age or more (for example, 65 years or more). The enlargement rate for the headline characters and the enlargement rate for the article characters may be multiplied by K (K is a value greater than 1) to set the enlargement rate for children and the elderly.

本発明の実施例にかかる画像処理システムの使用環境を示す図である。It is a figure which shows the use environment of the image processing system concerning the Example of this invention. 入力装置の外観構成を示す図である。It is a figure which shows the external appearance structure of an input device. 画像処理システムにおいて使用する画像データの階層構造を示す図である。It is a figure which shows the hierarchical structure of the image data used in an image processing system. 画像処理装置の機能ブロック図である。It is a functional block diagram of an image processing apparatus. 階層間の関係を説明するための説明図である。It is explanatory drawing for demonstrating the relationship between hierarchy. 画像処理装置における制御部の構成を示す図である。It is a figure which shows the structure of the control part in an image processing apparatus. 新聞のスキャン画像の一例を示す図である。It is a figure which shows an example of the scanned image of a newspaper. 枠領域設定部により設定された枠領域を示す図である。It is a figure which shows the frame area | region set by the frame area | region setting part. 新聞画像が全面表示された様子を示す図である。It is a figure which shows a mode that the newspaper image was displayed on the whole surface. 要求拡大率と使用するタイル画像の階層との関係表を示す図である。It is a figure which shows the relationship table between a request | requirement expansion rate and the hierarchy of the tile image to be used. 拡大率Eaに調整された枠領域の表示画像を示す図である。It is a figure which shows the display image of the frame area | region adjusted to the expansion ratio Ea. 拡大率Ebに調整された枠領域の表示画像を示す図である。It is a figure which shows the display image of the frame area | region adjusted to the expansion ratio Eb. 本実施例における画像処理のフローチャートを示す図である。It is a figure which shows the flowchart of the image process in a present Example.

符号の説明Explanation of symbols

1・・・画像処理システム、10・・・画像処理装置、12・・・表示装置、20・・・入力装置、38・・・タイル画像、44・・・表示処理部、50・・・ハードディスクドライブ、60・・・メインメモリ、70・・・バッファメモリ、90・・・フレームメモリ、100・・・制御部、120・・・画像データ解析部、122・・・枠領域設定部、124・・・枠領域解析部、126・・・文字種特定部、128・・・文字画素サイズ特定部、130・・・位置関係特定部、132・・・拡大率設定部、140・・・ディスプレイサイズ保持部、142・・・ディスプレイ解像度保持部、150・・・入力信号処理部、152・・・信号受付部、154・・・拡大率決定部、156・・・初期位置決定部、170・・・表示画像処理部、174・・・画像データ取得部、176・・・デコード部、178・・・変更量導出部、180・・・空間座標決定部、182・・・表示画像生成部、200,202,204,206,208・・・枠領域。 DESCRIPTION OF SYMBOLS 1 ... Image processing system, 10 ... Image processing apparatus, 12 ... Display apparatus, 20 ... Input device, 38 ... Tile image, 44 ... Display processing part, 50 ... Hard disk Drive, 60 ... main memory, 70 ... buffer memory, 90 ... frame memory, 100 ... control unit, 120 ... image data analysis unit, 122 ... frame region setting unit, 124 ..Frame area analysis unit, 126... Character type specifying unit, 128... Character pixel size specifying unit, 130... Positional relationship specifying unit, 132. , 142 ... display resolution holding unit, 150 ... input signal processing unit, 152 ... signal receiving unit, 154 ... magnification rate determining unit, 156 ... initial position determining unit, 170 ... Display image processing 174 ... Image data acquisition unit, 176 ... Decoding unit, 178 ... Change amount derivation unit, 180 ... Spatial coordinate determination unit, 182 ... Display image generation unit, 200, 202, 204, 206, 208 ... Frame region.

Claims (11)

画像をディスプレイに表示する画像処理装置であって、
異なる解像度ごとに少なくとも1つの圧縮したタイル画像を含む画像データを保持する記憶装置と、
少なくとも1つの解像度の画像データに設定された枠領域に含まれる文字の画素サイズを特定する文字画素サイズ特定部と、
前記枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を、特定された画素サイズに応じて設定する拡大率設定部と、
ディスプレイに表示されている表示画像の変更要求信号を受け付ける受付部と、
前記変更要求信号を受け付けると、設定された複数の拡大率のうちの1つの拡大率に対応する解像度のタイル画像を前記記憶装置から読み出して、その拡大率に調整した表示画像を生成する表示画像処理部と、を備え
前記表示画像処理部は、設定された複数の拡大率のうち、前記変更要求信号を受け付けた時点の表示画像の拡大率に対して、その次に大きい値に設定されている拡大率に調整した表示画像を生成することを特徴とする画像処理装置。
An image processing apparatus for displaying an image on a display,
A storage device for holding image data including at least one compressed tile image for each different resolution;
A character pixel size specifying unit for specifying a pixel size of a character included in a frame region set in image data having at least one resolution;
An enlargement ratio setting unit that sets a plurality of enlargement ratios when displaying at least some of the characters in the frame region according to the specified pixel size;
A reception unit that receives a change request signal for a display image displayed on the display;
When the change request signal is received, a display image that reads out a tile image having a resolution corresponding to one of the set magnification factors from the storage device and generates a display image adjusted to the magnification factor A processing unit ,
The display image processing unit adjusts the enlargement factor set to the next largest value with respect to the enlargement factor of the display image at the time when the change request signal is received among the set enlargement factors. An image processing apparatus that generates a display image .
ディスプレイのサイズを保持するディスプレイサイズ保持部をさらに備え、
前記拡大率設定部は、文字の画素サイズおよびディスプレイサイズにもとづいて、前記複数の拡大率を設定することを特徴とする請求項に記載の画像処理装置。
It further includes a display size holding unit that holds the size of the display,
The image processing apparatus according to claim 1 , wherein the enlargement ratio setting unit sets the plurality of enlargement ratios based on a character pixel size and a display size.
ディスプレイの解像度を保持するディスプレイ解像度保持部をさらに備え、
前記拡大率設定部は、文字の画素サイズおよびディスプレイ解像度にもとづいて、前記複数の拡大率を設定することを特徴とする請求項またはに記載の画像処理装置。
A display resolution holding unit for holding the display resolution;
The magnification setting unit, based on the character of the pixel size and display resolution, the image processing apparatus according to claim 1 or 2, characterized in that to set a plurality of magnification.
前記文字画素サイズ特定部が、枠領域に含まれる文字の画素サイズに、第1サイズと、第1サイズよりも小さい第2サイズが存在することを特定したとき、
前記拡大率設定部は、第2サイズの文字がディスプレイの所定方向において所定の画素数以上となる拡大率を少なくとも1つ設定することを特徴とする請求項からのいずれかに記載の画像処理装置。
When the character pixel size specifying unit specifies that the pixel size of the character included in the frame area includes a first size and a second size smaller than the first size,
The image according to any one of claims 1 to 3 , wherein the enlargement ratio setting unit sets at least one enlargement ratio at which a character of the second size is equal to or larger than a predetermined number of pixels in a predetermined direction of the display. Processing equipment.
前記拡大率設定部は、第1サイズの文字がディスプレイの所定方向において所定の画素数以上となる第1拡大率と、第2サイズの文字がディスプレイの所定方向において所定の画素数以上となる第2拡大率とを設定することを特徴とする請求項に記載の画像処理装置。 The enlargement ratio setting unit includes a first enlargement ratio at which a first size character has a predetermined number of pixels or more in a predetermined direction of the display, and a second size character has a predetermined number of pixels or more in a predetermined direction of the display. The image processing apparatus according to claim 4 , wherein 2 enlargement ratio is set. 前記拡大率設定部は、枠領域を全面表示するときの拡大率が第2拡大率以上であれば、全面表示時の拡大率を、1つの拡大率として設定することを特徴とする請求項5に記載の画像処理装置。6. The enlargement ratio setting unit sets the enlargement ratio at the time of full-screen display as one enlargement ratio if the enlargement ratio at the time of displaying the entire frame region is equal to or greater than the second enlargement ratio. An image processing apparatus according to 1. 枠領域に含まれる文字種を特定する文字種特定部と、
特定された文字種に応じて、枠領域の左上または右上のいずれかが表示画像に含まれるように表示位置を決定する位置決定部と、
をさらに備えることを特徴とする請求項1からのいずれかに記載の画像処理装置。
A character type specifying unit for specifying a character type included in the frame area;
A position determining unit that determines the display position so that either the upper left or upper right of the frame region is included in the display image according to the identified character type;
The image processing apparatus according to any one of claims 1 to 6, further comprising a.
画像データのレイアウト構造を解析して区分けし、少なくとも1つの枠領域を設定する枠領域設定部をさらに備えることを特徴とする請求項1からのいずれかに記載の画像処理装置。 Is divided by analyzing the layout structure of the image data, the image processing apparatus according to claim 1, wherein 7, further comprising a frame area setting unit for setting at least one frame area. 前記拡大率設定部は、ある画素サイズの文字に対して、表示する最小の基準文字サイズを用いて導出される拡大率の下限値と、表示する最大の基準文字サイズを用いて導出される拡大率の上限値の範囲内で、拡大率を設定することを特徴とする請求項1から8のいずれかに記載の画像処理装置。The enlargement ratio setting unit is a lower limit value of an enlargement ratio derived using a minimum reference character size to be displayed for a character having a certain pixel size, and an enlargement derived using a maximum reference character size to be displayed. 9. The image processing apparatus according to claim 1, wherein an enlargement ratio is set within a range of an upper limit value of the ratio. コンピュータに、
記憶装置に保持されている、異なる解像度ごとに少なくとも1つの圧縮したタイル画像を含む画像データのうち、少なくとも1つの解像度の画像データに設定された枠領域に含まれる文字の画素サイズを特定する機能と、
枠領域内の少なくとも一部の文字を表示する際の複数の拡大率を、特定された画素サイズに応じて設定する機能と、
ディスプレイに表示されている表示画像の変更要求信号を受け付ける機能と、
前記変更要求信号を受け付けると、設定された複数の拡大率のうちの1つの拡大率に対応する解像度のタイル画像を記憶装置から読み出して、その拡大率に調整した表示画像を生成する機能と、を実現させるためのプログラムであって、
表示画像を生成する機能は、設定された複数の拡大率のうち、前記変更要求信号を受け付けた時点の表示画像の拡大率に対して、その次に大きい値に設定されている拡大率に調整した表示画像を生成する機能を含むことを特徴とするプログラム。
On the computer,
A function for specifying a pixel size of a character included in a frame area set in image data of at least one resolution among image data including at least one compressed tile image for each different resolution held in the storage device When,
A function of setting a plurality of enlargement ratios when displaying at least some characters in the frame area according to the specified pixel size;
A function for accepting a change request signal for a display image displayed on the display;
When receiving the change request signal, a function of reading a tile image having a resolution corresponding to one of the set magnification factors from the storage device and generating a display image adjusted to the magnification factor; a program for realizing a
The function of generating a display image is adjusted to the enlargement factor set to the next largest value with respect to the enlargement factor of the display image at the time when the change request signal is received among the set enlargement factors. A program including a function of generating a displayed image.
請求項10に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。   The computer-readable recording medium which recorded the program of Claim 10.
JP2008279781A 2008-10-30 2008-10-30 Image processing device Active JP5265306B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008279781A JP5265306B2 (en) 2008-10-30 2008-10-30 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008279781A JP5265306B2 (en) 2008-10-30 2008-10-30 Image processing device

Publications (2)

Publication Number Publication Date
JP2010109700A JP2010109700A (en) 2010-05-13
JP5265306B2 true JP5265306B2 (en) 2013-08-14

Family

ID=42298695

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008279781A Active JP5265306B2 (en) 2008-10-30 2008-10-30 Image processing device

Country Status (1)

Country Link
JP (1) JP5265306B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5881937B2 (en) * 2010-07-01 2016-03-09 株式会社Kadokawa Information processing apparatus, information processing method, and program
JP5984439B2 (en) 2012-03-12 2016-09-06 キヤノン株式会社 Image display device and image display method
WO2014045752A1 (en) * 2012-09-19 2014-03-27 富士フイルム株式会社 Text image display control device, operation control method therefor, and operation control program therefor
JP2014099089A (en) * 2012-11-15 2014-05-29 Ricoh Co Ltd Display control device, display control method, and display control program
JP6091907B2 (en) * 2013-01-23 2017-03-08 Kddi株式会社 Terminal device and display program
JP6399744B2 (en) * 2013-12-04 2018-10-03 キヤノン株式会社 Display device and display method

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11272871A (en) * 1998-03-20 1999-10-08 Toshiba Corp Processor and method for image processing and record medium
JP2001184344A (en) * 1999-12-21 2001-07-06 Internatl Business Mach Corp <Ibm> Information processing system, proxy server, web page display control method, storage medium and program transmitter
JP3999432B2 (en) * 2000-02-08 2007-10-31 富士フイルム株式会社 Image processing method and apparatus, and recording medium
JP2001306214A (en) * 2000-04-26 2001-11-02 Canon Inc Image display device and system and method for the same
KR100405060B1 (en) * 2000-08-24 2003-11-07 휴먼드림 주식회사 Enlarged Digital Image Providing Method and Apparatus Using Data Communication Networks
JP2002149152A (en) * 2000-11-10 2002-05-24 Fujitsu Ltd Image display controller
JP3895343B2 (en) * 2004-08-20 2007-03-22 富士通株式会社 Image display control device
JP2006302091A (en) * 2005-04-22 2006-11-02 Konica Minolta Photo Imaging Inc Translation device and program thereof

Also Published As

Publication number Publication date
JP2010109700A (en) 2010-05-13

Similar Documents

Publication Publication Date Title
JP5792607B2 (en) Image processing apparatus and image processing method
JP5419654B2 (en) Information processing apparatus and information processing system
US9218111B2 (en) Image processing device for displaying content, content creation device, and image processing method
US9412329B2 (en) Methods and apparatuses for controlling display devices
KR101445603B1 (en) Adaptive video processing apparatus and video scaling method based on screen size of display device
US8331701B2 (en) Image processing device for displaying an image on a display
JP5265306B2 (en) Image processing device
EP2330587B1 (en) Image processing device and image processing method
US8928694B2 (en) Image Processing apparatus receiving editing operation, image display device, and image processing method thereof
JP2010049684A (en) Method for displaying split screen on display and electronic device
CN104813393B (en) Displaying applications on a fixed orientation display
US9457275B2 (en) Information processing device
JP2013255123A (en) Image distribution apparatus, display apparatus, and image distribution system
US9047680B2 (en) Information processing apparatus, information processing method, and data structure of content files
JP5798343B2 (en) Image processing apparatus and image processing method
US8972877B2 (en) Information processing device for displaying control panel image and information image on a display
JP5331432B2 (en) Image processing apparatus and image processing method
JP5520890B2 (en) Image processing apparatus, image data generation apparatus, image processing method, image data generation method, and data structure of image file
JP2010204782A (en) Image processor, image processing method, and data structure
JP2004110411A (en) Document display system, document display method, and document display program
JP2010087904A (en) Image processing apparatus and image processing method
KR102310190B1 (en) Rendering system and rendering method thereof
JP2005165633A (en) Drawing device, drawing method, program and recording medium
KR20240008607A (en) Image monitoring apparatus for adaptively arranging a plurality of images
JP2013080443A (en) Screen sharing method and screen sharing processing equipment

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101125

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130501

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5265306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250