JP2010224890A - Operation screen control device, image forming apparatus, and computer program - Google Patents

Operation screen control device, image forming apparatus, and computer program Download PDF

Info

Publication number
JP2010224890A
JP2010224890A JP2009071719A JP2009071719A JP2010224890A JP 2010224890 A JP2010224890 A JP 2010224890A JP 2009071719 A JP2009071719 A JP 2009071719A JP 2009071719 A JP2009071719 A JP 2009071719A JP 2010224890 A JP2010224890 A JP 2010224890A
Authority
JP
Japan
Prior art keywords
voice
operation screen
screen
voice command
dictionary table
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009071719A
Other languages
Japanese (ja)
Other versions
JP5343652B2 (en
Inventor
Mitsuharu Nagai
光晴 永井
Jun Kunioka
潤 國岡
Hiroaki Kubo
広明 久保
Ayumi Ito
歩 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Business Technologies Inc
Original Assignee
Konica Minolta Business Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Business Technologies Inc filed Critical Konica Minolta Business Technologies Inc
Priority to JP2009071719A priority Critical patent/JP5343652B2/en
Publication of JP2010224890A publication Critical patent/JP2010224890A/en
Application granted granted Critical
Publication of JP5343652B2 publication Critical patent/JP5343652B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Accessory Devices And Overall Control Thereof (AREA)
  • Facsimiles In General (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To perform a shift to a target operation screen in a short time by a voice without requiring labor of a user from any operation screen display state. <P>SOLUTION: An operation screen control device includes: a voice input part 24; a command recognition part 44 recognizing a voice to generate a voice command SW; an operation screen storage part 40 storing a plurality of operation screens GM, dictionary tables TB arranged in association with the respective operation screens GM for registering the voice command SW and link information KW in mutual association; a screen display control part 42 performing a shift to an operation screen corresponding to the voice command by referring to a dictionary table TB corresponding to an operation screen displayed in generation of the voice command; and a batch registration part 45 additionally registering the voice command SW and the link information KW to be additionally registered to all the target dictionary tables when an instruction to additionally register the voice command for a shift to a specific operation screen GM to the dictionary table is made. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、操作パネルの表示面に表示される操作画面を音声によって操作するための操作画面制御装置、画像形成装置、およびコンピュータプログラムに関する。   The present invention relates to an operation screen control device, an image forming apparatus, and a computer program for operating an operation screen displayed on a display surface of an operation panel by voice.

近年、画像形成装置の高性能化にともなって、画像形成装置の操作パネルに表示される操作画面(設定画面)の内容が多岐に渡るようになり、操作画面の数が増大している。また、操作画面についてのツリー構造の階層も深くなる傾向があり、ユーザにとっては自分の好きなページまたはよく使う操作画面を探すのが困難となってきている。   In recent years, as the performance of image forming apparatuses has improved, the contents of operation screens (setting screens) displayed on the operation panel of the image forming apparatus have become diversified, and the number of operation screens has increased. In addition, the hierarchy of the tree structure of the operation screen tends to be deep, and it is difficult for the user to search for a favorite page or a frequently used operation screen.

したがって、例えば、現に表示されている操作画面から系列の異なる別の操作画面へ遷移させたい場合に、遷移途中の多くの画面を表示させる必要があり、なかなか目的の操作画面に移ることができない。このように、目的の操作画面を表示させることがユーザにとって手間がかかり、そのための操作時間が増大している。   Therefore, for example, when it is desired to transition from the currently displayed operation screen to another operation screen of a different series, it is necessary to display many screens during the transition, and it is difficult to move to the target operation screen. As described above, displaying the target operation screen takes time and effort for the user, and the operation time for that is increased.

また、画像形成装置に音声認識機能を持たせることが提案されている。音声認識機能を持った画像形成装置においては、ユーザは音声によって操作画面における操作を行うことができる。例えば、ある操作画面を表示した状態で、その操作画面に表示されたキーを押すことに代えて、音声コマンドによってそのキーを押したと同じ操作を行うことができる。   Further, it has been proposed that the image forming apparatus has a voice recognition function. In an image forming apparatus having a voice recognition function, a user can perform an operation on an operation screen by voice. For example, in the state where a certain operation screen is displayed, instead of pressing a key displayed on the operation screen, the same operation can be performed as when the key is pressed by a voice command.

また、音声認識装置において、単語音声が機器の持つ特定のモードにかかわらず全てのモードで認識対象となることを示すクラスター情報を登録することが提案されている(特許文献1)。   In addition, it has been proposed to register cluster information indicating that word speech is a recognition target in all modes regardless of a specific mode of the device in the speech recognition device (Patent Document 1).

特開平5−35291号公報Japanese Patent Laid-Open No. 5-35291

音声認識機能を持った画像形成装置では、音声によって操作画面における操作を行うことができるので、目的の操作画面に遷移するための音声コマンドをそれぞれの操作画面ごとに登録しておけば便利である。   In an image forming apparatus having a voice recognition function, operations on the operation screen can be performed by voice, so it is convenient to register a voice command for transition to the target operation screen for each operation screen. .

しかし、その場合には、ユーザは多数の音声コマンドを記憶しておかなければならず、音声コマンドを忘れてしまって操作できなくなることもある。   However, in that case, the user must memorize a large number of voice commands, and the user may forget the voice commands and cannot operate.

また、目的の操作画面に直接に遷移するためのキーをお気に入り画面として操作画面上に表示しておくことが考えられる。しかし、この場合に、画面のサイズには限りがあるので、お気に入り画面が多数あるような場合に、それらの全部を1つの操作画面に表示させることができないことがある。   In addition, it is conceivable to display a key for making a direct transition to the target operation screen on the operation screen as a favorite screen. However, in this case, since the screen size is limited, when there are many favorite screens, it may not be possible to display all of them on one operation screen.

また、上に述べた特許文献1に記載の音声認識装置では、そのようなクラスター情報を登録することによって、登録された単語音声を全てのモードで認識することはできても、どの画面からでも手間をかけることなく短時間でユーザの希望する操作画面に遷移することはできない。   Moreover, in the speech recognition apparatus described in Patent Document 1 described above, by registering such cluster information, registered word speech can be recognized in all modes, but from any screen. The operation screen desired by the user cannot be changed in a short time without trouble.

本発明は、このような問題点に鑑み、操作パネルの表示面に表示される操作画面を音声によって操作する際に、どの操作画面を表示した状態からでも、ユーザに手間をかけることなくかつ短時間で目的の操作画面に遷移できるようにすることを目的とする。   In view of such a problem, the present invention reduces the time and effort of the user from the state in which any operation screen is displayed when operating the operation screen displayed on the display surface of the operation panel by voice. The purpose is to enable transition to the target operation screen in time.

本発明の実施形態に係る操作画面制御装置は、ユーザに音声を入力させるための音声入力手段と、入力された音声を認識して音声コマンドを生成する音声認識部と、前記操作パネルの表示面に表示するために準備された複数の操作画面を記憶する操作画面記憶手段と、前記操作画面のそれぞれに対応して設けられ、音声コマンドと各音声コマンドによって遷移すべき操作画面へのリンク情報とを対応付けて登録する辞書テーブルと、ユーザの音声によって音声コマンドが生成されたときに、そのときに表示されている操作画面に対応した前記辞書テーブルを参照することにより、生成された音声コマンドに対応する操作画面に遷移させる画面切り替え手段と、特定の操作画面に遷移させるための音声コマンドを前記辞書テーブルに追加登録する旨の指令があったときに、追加登録する音声コマンドおよび前記特定の操作画面へのリンク情報を、対象となる全ての前記辞書テーブルに追加登録する一括登録手段と、を有する。   An operation screen control device according to an embodiment of the present invention includes a voice input unit that allows a user to input a voice, a voice recognition unit that recognizes the input voice and generates a voice command, and a display surface of the operation panel An operation screen storage means for storing a plurality of operation screens prepared for display on the screen, and a voice command and link information to the operation screen to be changed by each voice command, corresponding to each of the operation screens; When the voice command is generated by the user's voice and the dictionary table for registering in association with each other, the generated voice command is referred to by referring to the dictionary table corresponding to the operation screen displayed at that time. The screen switching means for transitioning to the corresponding operation screen and the voice command for transitioning to the specific operation screen are additionally registered in the dictionary table. When there is a command indicating that, having a bulk registration means for the link information to voice commands and the specific operation screen additionally registers, additionally registers all of the dictionary table in question.

好ましくは、前記辞書テーブルには、前記リンク情報として、その操作がなされたときに前記特定の操作画面に遷移するように設定されたキーについてのキー情報が登録されている。   Preferably, in the dictionary table, as the link information, key information about a key set so as to transition to the specific operation screen when the operation is performed is registered.

好ましくは、前記操作画面に表示されるキーについてのキー情報と、当該キーの操作がなされたときに遷移する遷移先の操作画面の操作画面情報とを対応付けて記憶する操作画面選択テーブルが設けられており、前記辞書テーブルには、前記リンク情報として、いずれかの前記操作画面に表示されるキーについてのキー情報が登録されており、前記画面切り替え手段は、前記辞書テーブルを参照することによって得られた前記キー情報を用い、前記操作画面選択テーブルを参照することにより、入力された音声コマンドに対応する操作画面に遷移させる。   Preferably, an operation screen selection table is provided that stores key information about keys displayed on the operation screen in association with operation screen information of a destination operation screen that transitions when the key is operated. In the dictionary table, key information about keys displayed on any of the operation screens is registered as the link information, and the screen switching means refers to the dictionary table. By using the obtained key information and referring to the operation screen selection table, a transition is made to an operation screen corresponding to the input voice command.

本発明によると、操作パネルの表示面に表示される操作画面を音声によって操作する際に、どの操作画面を表示した状態からでも、ユーザに手間をかけることなくかつ短時間で目的の操作画面に遷移できるようになる。   According to the present invention, when operating the operation screen displayed on the display surface of the operation panel by voice, the target operation screen can be quickly displayed without any effort from the user regardless of which operation screen is displayed. You can transition.

本発明の一実施形態に係る画像形成装置を含むネットワークシステムの例を示す図である。1 is a diagram illustrating an example of a network system including an image forming apparatus according to an embodiment of the present invention. 一実施形態の画像形成装置のハードウェア構成の例を示す図である。1 is a diagram illustrating an example of a hardware configuration of an image forming apparatus according to an embodiment. 操作パネルの例を示す図である。It is a figure which shows the example of an operation panel. 画像形成装置の構成の例を示す図である。1 is a diagram illustrating an example of a configuration of an image forming apparatus. 音声認識機能関連のモジュールの構成の例を示す図である。It is a figure which shows the example of a structure of the module regarding a speech recognition function. 操作画面制御部の機能的な構成の例を示す図である。It is a figure which shows the example of a functional structure of an operation screen control part. 各画面に対応して辞書テーブルが設けられている例を示す図である。It is a figure which shows the example by which the dictionary table is provided corresponding to each screen. 基本設定画面に対応した辞書テーブルの例を示す図である。It is a figure which shows the example of the dictionary table corresponding to a basic setting screen. 倍率画面に対応した辞書テーブルの例を示す図である。It is a figure which shows the example of the dictionary table corresponding to a magnification screen. 画面/ページ集約画面に対応した辞書テーブルの例を示す図である。It is a figure which shows the example of the dictionary table corresponding to a screen / page aggregation screen. 操作画面選択テーブルの例を示す図である。It is a figure which shows the example of an operation screen selection table. 縮小画面を含む操作画面の遷移状態の例を示す図である。It is a figure which shows the example of the transition state of the operation screen containing a reduction screen. コマンド情報が追加登録された辞書テーブルの例を示す図である。It is a figure which shows the example of the dictionary table in which command information was additionally registered. お気に入り画面を登録する場合における画像形成装置全体の処理の流れの例を説明するためのフローチャートである。10 is a flowchart for explaining an example of a flow of processing of the entire image forming apparatus when a favorite screen is registered. 音声コマンドが入力された場合における画像形成装置全体の処理の流れの例を説明するためのフローチャートである。10 is a flowchart for explaining an example of a flow of processing of the entire image forming apparatus when a voice command is input. 操作画面の階層構造の例を示す図である。It is a figure which shows the example of the hierarchical structure of an operation screen. 各操作画面での設定操作の状態を示す最上位の階層の操作画面の例を示す図である。It is a figure which shows the example of the operation screen of the highest hierarchy which shows the state of the setting operation in each operation screen. 設定操作の途中の状態の操作画面をお気に入り画面と同様に登録する場合における画像形成装置全体の処理の流れの例を説明するためのフローチャートである。10 is a flowchart for explaining an example of the processing flow of the entire image forming apparatus when an operation screen in the middle of a setting operation is registered in the same manner as a favorite screen. 第2実施形態の画像形成装置における操作画面制御部の機能的な構成の例を示す図である。It is a figure which shows the example of a functional structure of the operation screen control part in the image forming apparatus of 2nd Embodiment. 専用辞書テーブルの例を示す図である。It is a figure which shows the example of a dedicated dictionary table. 第2実施形態における画像形成装置全体の処理の流れの例を説明するためのフローチャートである。10 is a flowchart for explaining an example of a flow of processing of the entire image forming apparatus in the second embodiment.

〔第1実施形態〕
図1に示すネットワークシステムSYSは、本発明の一実施形態の画像形成装置1を含むネットワークシステムである。
[First Embodiment]
A network system SYS shown in FIG. 1 is a network system including an image forming apparatus 1 according to an embodiment of the present invention.

図1に示すように、ネットワークシステムSYSは、画像形成装置1、ファイルサーバ2a、端末装置3a、および通信回線NT1などによって構成される。   As shown in FIG. 1, the network system SYS includes an image forming apparatus 1, a file server 2a, a terminal apparatus 3a, a communication line NT1, and the like.

画像形成装置1、ファイルサーバ2a、および端末装置3aは、それぞれ、通信回線NT1を介して互いに接続されている。通信回線NT1として、LAN、WAN、イントラネット、または専用線などが用いられる。   The image forming apparatus 1, the file server 2a, and the terminal device 3a are connected to each other via a communication line NT1. As the communication line NT1, a LAN, WAN, intranet, dedicated line, or the like is used.

ファイルサーバ2aは、電子文書(電子データ)を管理するためのファイルサーバである。   The file server 2a is a file server for managing electronic documents (electronic data).

端末装置3は、ネットワークシステムSYSのユーザが用いる端末装置である。各ユーザは、この端末装置3を用いて、後で説明する画像形成装置1の「PCプリント機能」を利用することができる。   The terminal device 3 is a terminal device used by a user of the network system SYS. Each user can use the “PC print function” of the image forming apparatus 1 described later using the terminal device 3.

ファックス端末4aは、通信回線NT2を介して画像形成装置1または他のファックス端末との間でファクシミリによるデータの送受信を行う。なお、通信回線NT2として、公衆回線などが用いられる。   The fax terminal 4a transmits / receives data by facsimile to / from the image forming apparatus 1 or another fax terminal via the communication line NT2. A public line or the like is used as the communication line NT2.

画像形成装置1は、コピー機能、PCプリント機能、ファックス送信機能、電子メール送信機能、SMB送信機能、FTP送信機能、およびボックス(Box)機能などの様々なアプリケーション機能を集約した画像形成装置である。複合機またはMFP(Multi Function Peripherals)などと呼ばれることもある。   The image forming apparatus 1 is an image forming apparatus that integrates various application functions such as a copy function, a PC print function, a fax transmission function, an e-mail transmission function, an SMB transmission function, an FTP transmission function, and a box function. . Sometimes called a multi-function peripheral or MFP (Multi Function Peripherals).

本実施形態の画像形成装置1には、上記のコピー機能などの基本的な機能のほかに、音声実行機能が備えられている。音声実行機能は、音声認識処理(VN)を実行し、その音声認識処理の結果に基づいて所定の処理を実行する機能である。音声認識処理は、図1に示す画像形成装置1の操作パネル10fに備えられているマイクMKから入力される音声を、記憶媒体に記憶されている認識辞書(グラマー)に基づいて認識するための処理である。   The image forming apparatus 1 of the present embodiment is provided with a voice execution function in addition to the basic functions such as the copy function described above. The voice execution function is a function that executes voice recognition processing (VN) and executes predetermined processing based on the result of the voice recognition processing. The voice recognition process is for recognizing voice input from the microphone MK provided in the operation panel 10f of the image forming apparatus 1 shown in FIG. 1 based on a recognition dictionary (grammar) stored in the storage medium. It is processing.

図2に示すように、画像形成装置1は、CPU10a、RAM10b、ROM10c、ハードディスク10d、制御用回路10e、操作パネル10f、スキャナ部10g、プリンタ部10h、ファックス部10j、およびネットワークインタフェース10kなどによって構成される。   As shown in FIG. 2, the image forming apparatus 1 includes a CPU 10a, a RAM 10b, a ROM 10c, a hard disk 10d, a control circuit 10e, an operation panel 10f, a scanner unit 10g, a printer unit 10h, a fax unit 10j, a network interface 10k, and the like. Is done.

スキャナ部10gは、原稿の用紙(以下、単に「原稿」と記載する。)に描かれている写真、文字、絵、図表などの画像を光学的に読み取って電子データ化する装置である。原稿として、紙、紙以外の種々のシート、物などを用いることが可能である。   The scanner unit 10g is an apparatus that optically reads an image such as a photograph, a character, a picture, or a chart drawn on a document sheet (hereinafter simply referred to as “document”) and converts it into electronic data. As the manuscript, it is possible to use paper, various sheets and objects other than paper.

プリンタ部10hは、スキャナ部10gが読み取った画像データまたは他の装置から送信されてきた画像データを、イエロー、マゼンタ、シアン、およびブラックの4色のトナーを使用して用紙に印刷する。   The printer unit 10h prints image data read by the scanner unit 10g or image data transmitted from another device on a sheet using toners of four colors of yellow, magenta, cyan, and black.

ファックス部10jは、スキャナ部10gが読み取った画像データを、通信回線を介してファックス端末に送信しまたはファックス端末から送信されてくる画像データを受信する。   The fax unit 10j transmits the image data read by the scanner unit 10g to the fax terminal via the communication line or receives the image data transmitted from the fax terminal.

ネットワークインタフェース10kは、NIC(Network Interface Card)であって、LANまたはインターネットなどを介して他の装置への接続を行い、電子データの送受信などを行う。   The network interface 10k is a NIC (Network Interface Card), connects to other devices via a LAN or the Internet, and transmits and receives electronic data.

制御用回路10eは、ハードディスク10d、操作パネル10f、スキャナ部10g、プリンタ部10h、ファックス部10j、およびネットワークインタフェース10kなどの装置を制御する。   The control circuit 10e controls devices such as the hard disk 10d, the operation panel 10f, the scanner unit 10g, the printer unit 10h, the fax unit 10j, and the network interface 10k.

操作パネル10fは、ユーザが画像形成装置1に指示を与えまたは画像形成装置1からユーザにメッセージを通知するために用いられる。   The operation panel 10f is used when a user gives an instruction to the image forming apparatus 1 or notifies the user of a message from the image forming apparatus 1.

これら各部または各装置の一部が連携することによって、前述のアプリケーション機能が実現される。   The application functions described above are realized by cooperation of these units or a part of the devices.

「コピー機能」は、スキャナ部10gによって原稿の画像を読み取り、それによって得た画像データをプリンタ部10hによって用紙に印刷する機能である。   The “copy function” is a function of reading an image of a document by the scanner unit 10g and printing the image data obtained thereby on a sheet by the printer unit 10h.

「PCプリント機能」は、ネットワークインタフェース10kによって通信回線を介して画像形成装置1と互いに接続されている端末装置(以下、単に「端末装置」と記載する)などから画像データなどを受信し、プリンタ部10hによってその画像データなどを用紙に印刷する機能である。この機能は、「ネットワークプリンティング」と呼ばれることもある。   The “PC print function” receives image data and the like from a terminal device (hereinafter simply referred to as “terminal device”) connected to the image forming apparatus 1 via a communication line via the network interface 10k, and the like. This is a function for printing the image data and the like on a sheet by the section 10h. This function is sometimes referred to as “network printing”.

「ファックス送信機能」は、スキャナ部10gで読み取った画像データなどをファックス部10jからファックス端末などに送信する機能である。   The “fax transmission function” is a function for transmitting image data read by the scanner unit 10g from the fax unit 10j to a fax terminal or the like.

「ファックス受信機能」は、ファックス部10jによってファックス端末などから画像データを受信し、プリンタ部10hによってその画像データを用紙に印刷する機能である。   The “fax receiving function” is a function for receiving image data from a fax terminal or the like by the fax unit 10j and printing the image data on a sheet by the printer unit 10h.

「電子メール送信機能」は、スキャナ部10gで読み取った画像データなどを電子メールに添付してネットワークインタフェース10kから送信する機能である。   The “e-mail transmission function” is a function that attaches image data read by the scanner unit 10g to an e-mail and transmits it from the network interface 10k.

「SMB送信機能」は、スキャナ部10gで読み取った画像データなどを、SMB(Server Message Block)に基づいて、IPアドレスなどで指定される送信先に直接送信する機能である。   The “SMB transmission function” is a function for directly transmitting image data read by the scanner unit 10g to a transmission destination designated by an IP address or the like based on SMB (Server Message Block).

「FTP送信機能」は、スキャナ部10gで読み取った画像データなどをFTP(File Transfer Protocol)に基づいて送信する機能である。   The “FTP transmission function” is a function for transmitting image data read by the scanner unit 10g based on FTP (File Transfer Protocol).

「ボックス機能」は、ユーザごとに「ボックス」または「パーソナルボックス」などと呼ばれる、パーソナルコンピュータにおけるフォルダまたはディレクトリなどに相当する記憶領域をハードディスク10dに設けておき、ユーザがスキャナ部10gを操作するなどして得た画像データなどを自分の記憶領域に保存できるようにする機能である。「ドキュメントサーバ機能」と呼ばれることもある。   In the “box function”, a storage area called a “box” or “personal box” for each user, which corresponds to a folder or directory in a personal computer, is provided in the hard disk 10d, and the user operates the scanner unit 10g. This is a function that allows image data obtained in this way to be saved in its own storage area. Sometimes called “document server function”.

PCプリント機能を利用する際に端末装置において予めボックスを指定しておくことによって、プリントを行いつつプリントする画像データをそのボックス内に保存させることができる。ボックスの指定は、例えば、端末装置にインストールされている画像形成装置1のドライバの機能を用いて行うことができる。   By specifying a box in advance in the terminal device when using the PC print function, image data to be printed can be stored in the box while printing. The box can be designated using, for example, a driver function of the image forming apparatus 1 installed in the terminal device.

図3に示すように操作パネル10fには、タッチパネルTP、マイクMK、操作部TK、および音声認識ボタンKB、コピーボタンMB、スキャンFAXボタンSB、およびBOXボタンXBなどが設けられている。   As shown in FIG. 3, the operation panel 10f is provided with a touch panel TP, a microphone MK, an operation unit TK, a voice recognition button KB, a copy button MB, a scan FAX button SB, a BOX button XB, and the like.

タッチパネルTPは、画像形成装置1からユーザに通知するメッセージまたは各種機能を利用するための画面(操作画面GM)などを表示する表示装置である。タッチパネルの機能によって入力装置としての役割も果たす。   The touch panel TP is a display device that displays a message notified to the user from the image forming apparatus 1 or a screen (operation screen GM) for using various functions. It also plays a role as an input device by the function of the touch panel.

マイク(マイクロフォン)MKは、ユーザが音声(音声コマンド)を入力するための装置であり、入力された音声をアナログの音声データ(アナログ音声データANDT)に変換する。   The microphone (microphone) MK is a device for a user to input voice (voice command), and converts the input voice into analog voice data (analog voice data ANDT).

操作部TKは、プリントの枚数またはファックス番号などを入力するためのボタン群を含む。   The operation unit TK includes a button group for inputting the number of prints or a fax number.

音声認識ボタンKBは、音声認識モード(音声認識を行うためのモード)への切替えを行うためのボタンである。このボタンが押されると、画像形成装置1は、音声認識処理を実行し、音声認識の結果に基づいて所定の処理を実行する。   The voice recognition button KB is a button for switching to a voice recognition mode (a mode for performing voice recognition). When this button is pressed, the image forming apparatus 1 executes voice recognition processing, and executes predetermined processing based on the result of voice recognition.

コピーボタンMBは、印刷モード(画像データなどを用紙に印刷するためのモード)への切り替えを行うためのボタンである。このボタンが押されると、コピーについての設定を行う画面(コピー設定画面)がタッチパネルTPに表示される。   The copy button MB is a button for switching to a print mode (a mode for printing image data or the like on paper). When this button is pressed, a screen for performing settings for copying (copy setting screen) is displayed on the touch panel TP.

スキャンFAXボタンSBは、送信モード(画像データなどを他の装置に送信するためのモード)への切り替えを行うためのボタンである。このボタンが押されると、画像データなどの送信先の設定を行うための画面がタッチパネルTPに表示される。   The scan FAX button SB is a button for switching to a transmission mode (a mode for transmitting image data or the like to another apparatus). When this button is pressed, a screen for setting a transmission destination such as image data is displayed on the touch panel TP.

BOXボタンXBは、ボックスモード(ボックスへの画像データの保存またはボックスに保存されている画像データなどの参照を行うためのモード)への切り替えを行うためのボタンである。このボタンが押されると、画像データなどの保存先となるボックスまたは参照したいボックスの指定を行うための画面がタッチパネルTPに表示される。   The BOX button XB is a button for switching to a box mode (a mode for storing image data in a box or referring to image data stored in a box). When this button is pressed, a screen for designating a box as a storage destination of image data or the like or a box to be referred to is displayed on the touch panel TP.

図4には、画像形成装置1の構成が機能的に整理して示されている。   FIG. 4 shows the configuration of the image forming apparatus 1 functionally organized.

図4において、スキャナ部10gで読み取られた画像データに対し、入力画像処理部22において、色補正処理、解像度変換処理などの画像処理が必要に応じて実施され、その後にメモリ10bに記憶される。画像データは、必要に応じてメモリ10bから読み出され、出力画像処理部23において、色変換処理、スクリーン制御処理、スムージング処理、濃度補正処理などが必要に応じて施され、プリンタ部10hに送られる。プリンタ部10hにおいて、用紙に印刷される。   In FIG. 4, the input image processing unit 22 performs image processing such as color correction processing and resolution conversion processing on the image data read by the scanner unit 10g as necessary, and then stores them in the memory 10b. . The image data is read from the memory 10b as necessary, and the output image processing unit 23 performs color conversion processing, screen control processing, smoothing processing, density correction processing, and the like as necessary, and sends them to the printer unit 10h. It is done. Printing is performed on a sheet in the printer unit 10h.

操作パネル10fに設けられたマイクMKから入力されたユーザの音声は、音声入力部24によって音声データに変換され、システムIF21を経てCPU10aに入力され、処理される。   The user's voice input from the microphone MK provided on the operation panel 10f is converted into voice data by the voice input unit 24, input to the CPU 10a via the system IF 21, and processed.

ハードディスク10dには、画像形成装置1の操作のための複数の操作画面GMが予め格納されており、その中から、ユーザの操作に応じて、またユーザの音声の入力に応じて、必要な操作画面GMが読み出され、操作パネル10fのタッチパネルTPに表示される。   A plurality of operation screens GM for operating the image forming apparatus 1 are stored in advance in the hard disk 10d, and necessary operations are selected in accordance with user operations and in response to user voice input. The screen GM is read and displayed on the touch panel TP of the operation panel 10f.

CPU10aは、入力された音声に基づいて音声認識処理および操作画面制御を行う他、画像形成装置1の全体を制御する。   The CPU 10a controls the entire image forming apparatus 1 in addition to performing voice recognition processing and operation screen control based on the input voice.

例えば、操作画面制御において、ユーザの音声によって音声コマンドが生成されたときに、そのときに表示されている操作画面に対応した辞書テーブルを参照することにより、生成された音声コマンドに対応する操作画面に遷移させる画面切り替え処理、および、特定の操作画面に遷移させるための音声コマンドを辞書テーブルに追加登録する旨の指令があったときに、追加登録する音声コマンドおよび特定の操作画面へのリンク情報を、対象となる全ての辞書テーブルに追加登録する一括登録処理、などを実行する。詳しくは後で述べる。   For example, in operation screen control, when a voice command is generated by a user's voice, an operation screen corresponding to the generated voice command is referred to by referring to a dictionary table corresponding to the operation screen displayed at that time When there is a command to additionally register in the dictionary table a screen switching process for transitioning to and a voice command for transitioning to a specific operation screen, the voice command to be additionally registered and link information to the specific operation screen Is registered in all the dictionary tables to be registered, and so on. Details will be described later.

これらの機能または処理を実現するためのコンピュータプログラムは、CD−ROM、DVD−ROMなどの記録媒体MS1および半導体メモリMS2などの可搬型の記録媒体MS(図2参照)に記録しておき、それらからインストールすることが可能である。また、ネットワークを介してサーバからダウンロードすることも可能である。   Computer programs for realizing these functions or processes are recorded in a recording medium MS1 such as a CD-ROM or DVD-ROM and a portable recording medium MS such as a semiconductor memory MS2 (see FIG. 2). It is possible to install from. It is also possible to download from a server via a network.

これらの機能を実現するためのコンピュータプログラムおよびデータは、ハードディスク1gにインストールされ、必要に応じてRAM10bにロードされ、CPU10aによって実行される。なお、CPU10aはコンピュータとして動作することが可能である。また、外部のコンピュータとLANなどを介して接続するようにしてもよい。また、画像形成装置1の一部または全部の機能をデジタルプロセッサまたはハードウェア回路によって実現するように構成してもよい。   Computer programs and data for realizing these functions are installed in the hard disk 1g, loaded into the RAM 10b as necessary, and executed by the CPU 10a. The CPU 10a can operate as a computer. Further, it may be connected to an external computer via a LAN or the like. Further, part or all of the functions of the image forming apparatus 1 may be realized by a digital processor or a hardware circuit.

図5において、画像形成装置1には、音声認識処理を実行するための音声認識アプリケーション31が設けられる。すなわち、音声入力装置(マイク)MKから入力された音声は、音声データに変換された後、音声入力ドライバ34により、OS(Operating System) 33を経由して音声認識アプリケーション31に入力される。   In FIG. 5, the image forming apparatus 1 is provided with a voice recognition application 31 for executing voice recognition processing. That is, the voice input from the voice input device (microphone) MK is converted into voice data and then input to the voice recognition application 31 by the voice input driver 34 via the OS (Operating System) 33.

音声認識アプリケーション31は、音声認識ライブラリ32を管理し、ユーザの発した音声を認識して音声コマンド(文字列)を生成する。また、音声コマンドに対応した内部動作に変換する。   The voice recognition application 31 manages the voice recognition library 32, recognizes the voice uttered by the user, and generates a voice command (character string). Moreover, it converts into the internal operation | movement corresponding to a voice command.

声紋判別部35において、音声コマンドの波形などが解析され、声紋判別が行われる。声紋判別によって、声紋情報である音声IDが生成される。音声IDは、音声コマンドを発したユーザを特定するために用いられる。   The voiceprint discrimination unit 35 analyzes the waveform of the voice command and performs voiceprint discrimination. By the voiceprint discrimination, a voice ID that is voiceprint information is generated. The voice ID is used to specify the user who issued the voice command.

登録のために生成された音声コマンドは、音声認識ライブラリ32の辞書テーブルTBに追加登録される。また、音声コマンドが制御のために生成された場合には、生成された音声コマンドに基づいて、操作画面制御、その他の制御が行われる。システムIF36は、各種の設定情報の保存および読み出しなどを行う。   The voice command generated for registration is additionally registered in the dictionary table TB of the voice recognition library 32. When a voice command is generated for control, operation screen control and other controls are performed based on the generated voice command. The system IF 36 stores and reads various setting information.

以下において、操作画面制御部SSの処理および動作について、図6〜図18を参照して説明する。なお、ここでは、ユーザがよく使う画面(以下、「お気に入り画面」と記載することがある)を、「縮小画面GM33」および「ページ集約画面GM34」とした場合を例にあげて説明する。   Hereinafter, processing and operation of the operation screen control unit SS will be described with reference to FIGS. Here, an example will be described in which the screen frequently used by the user (hereinafter sometimes referred to as “favorite screen”) is “reduced screen GM33” and “page aggregation screen GM34”.

図6は画像形成装置1における操作画面制御部SSの機能的な構成の例を示す図、図7は各画面に対応して辞書テーブルが設けられている例を示す図、図8は基本設定画面GM30に対応した辞書テーブルTB30の例を示す図、図9は倍率画面GM31に対応した辞書テーブルTB31の例を示す図、図10は画面/ページ集約画面GM32に対応した辞書テーブルTB32の例を示す図、図11は操作画面選択テーブルTB50の例を示す図、図12は縮小画面GM33およびページ集約画面GM34を含む操作画面の遷移状態の例を示す図、図13はお気に入り画面についての新たなコマンド情報DTが追加登録された辞書テーブルTBの例を示す図、図14はお気に入り画面を登録する場合における画像形成装置1全体の処理の流れの例を説明するためのフローチャート、図15は音声コマンドが入力された場合における画像形成装置1全体の処理の流れの例を説明するためのフローチャート、図16は操作画面の階層が深くかつ複雑な状態の例を示す図、図17は各操作画面での設定操作の状態を示す最上位の階層の操作画面の例を示す図、図18は設定操作の途中の状態の操作画面をお気に入り画面と同様に登録する場合における画像形成装置1全体の処理の流れの例を説明するためのフローチャートである。   6 is a diagram illustrating an example of a functional configuration of the operation screen control unit SS in the image forming apparatus 1, FIG. 7 is a diagram illustrating an example in which a dictionary table is provided for each screen, and FIG. 8 is a basic setting. FIG. 9 is a diagram illustrating an example of a dictionary table TB30 corresponding to the screen GM30, FIG. 9 is a diagram illustrating an example of the dictionary table TB31 corresponding to the magnification screen GM31, and FIG. 10 is an example of the dictionary table TB32 corresponding to the screen / page aggregation screen GM32. FIG. 11 is a diagram showing an example of the operation screen selection table TB50, FIG. 12 is a diagram showing an example of the transition state of the operation screen including the reduced screen GM33 and the page aggregation screen GM34, and FIG. FIG. 14 is a diagram illustrating an example of a dictionary table TB in which command information DT is additionally registered. FIG. 14 is a flow of processing of the entire image forming apparatus 1 when a favorite screen is registered. 15 is a flowchart for explaining an example, FIG. 15 is a flowchart for explaining an example of the processing flow of the entire image forming apparatus 1 when a voice command is input, and FIG. 16 is a state in which the hierarchy of the operation screen is deep and complicated FIG. 17 is a diagram showing an example of the highest level operation screen showing the state of the setting operation on each operation screen, and FIG. 18 is an operation screen in the middle of the setting operation similar to the favorite screen. 6 is a flowchart for explaining an example of a flow of processing of the entire image forming apparatus 1 when registering in the image processing apparatus.

図6において、操作画面制御部SSは、操作画面記憶部40、音声認識ライブラリ41、画面表示制御部42、声紋判別部43、コマンド認識部44、一括登録部45、総合制御部46、および画像処理部47などを有する。   In FIG. 6, the operation screen control unit SS includes an operation screen storage unit 40, a voice recognition library 41, a screen display control unit 42, a voice print discrimination unit 43, a command recognition unit 44, a batch registration unit 45, a general control unit 46, and an image. A processing unit 47 and the like are included.

なお、以下に述べる音声認識処理(VD)は、主に音声認識ライブラリ41、声紋判別部43、コマンド認識部44、および音声入力部24によって実行される。音声入力部24も操作画面制御部SSの機能的な構成の一つである。   Note that the voice recognition processing (VD) described below is mainly executed by the voice recognition library 41, the voiceprint discrimination unit 43, the command recognition unit 44, and the voice input unit 24. The voice input unit 24 is also one of the functional configurations of the operation screen control unit SS.

図6において、操作画面記憶部40は、ユーザが画像形成装置1に指示を与えまたは画像形成装置1からユーザにメッセージを通知するための操作画面GMを記憶する。操作画面GMのそれぞれには、他の操作画面GMと識別するための画面番号が付されている。   In FIG. 6, the operation screen storage unit 40 stores an operation screen GM for the user to give an instruction to the image forming apparatus 1 or to notify the user of a message from the image forming apparatus 1. Each operation screen GM is assigned a screen number for distinguishing it from other operation screens GM.

音声認識ライブラリ41は、辞書テーブルTB(TB30、31、32、…)を記憶し管理する。辞書テーブルTBは、図7に示すように、それぞれの操作画面GMに対応付けて設けられる。   The speech recognition library 41 stores and manages a dictionary table TB (TB30, 31, 32,...). The dictionary table TB is provided in association with each operation screen GM, as shown in FIG.

ここで、辞書テーブルTBについて詳細に説明する。図8〜図10に、図7に示す基本設定画面GM30、倍率画面GM31、画面/ページ集約画面GM32のそれぞれに対応した辞書テーブルTB30、TB31、TB32の例を示す。辞書テーブルTB30、TB31、TB32は、その構成は互いに同一であり、内容の一部が互いに異なる。   Here, the dictionary table TB will be described in detail. 8 to 10 show examples of dictionary tables TB30, TB31, and TB32 corresponding to the basic setting screen GM30, the magnification screen GM31, and the screen / page aggregation screen GM32 shown in FIG. The dictionary tables TB30, TB31, and TB32 have the same configuration, and part of the contents are different from each other.

つまり、辞書テーブルTB30には、図8に示すように、音声コマンドに関する情報であるコマンド情報DT30が、記憶され管理されている。なお、辞書テーブルTB31、32では、コマンド情報DT31、32がそれぞれ記憶され管理されている。   That is, in the dictionary table TB30, as shown in FIG. 8, command information DT30 that is information related to the voice command is stored and managed. In the dictionary tables TB31 and 32, command information DT31 and 32 are stored and managed, respectively.

コマンド情報DT30には、入力された音声コマンドに応じて操作画面GMを遷移させる場合における遷移先の操作画面に関するリンク情報(キー情報)KW、画面番号GRNに示される画面番号の画面に表示される操作キーの名称(操作キー名)または操作項目名を示す備考GW、および音声により入力される音声コマンドSWが、互いに対応付けて記録される。画面番号GRNには、その辞書テーブルTBと対応付けられている操作画面の画面番号が記録される。   The command information DT30 is displayed on the screen of the screen number indicated by the link information (key information) KW and the screen number GRN relating to the operation screen of the transition destination when the operation screen GM is transitioned according to the input voice command. An operation key name (operation key name) or a remark GW indicating an operation item name and a voice command SW input by voice are recorded in association with each other. In the screen number GRN, the screen number of the operation screen associated with the dictionary table TB is recorded.

つまり、音声コマンドSWとして、備考GWに示される操作キー名と同じ語句またはその操作キー名に対してユーザが発声する言葉(語句)のゆらぎを考慮して変更が加えられた語句(コマンド語句)が、記録されている。1つのリンク情報KWに対応して複数の音声コマンドSWを記録することが可能である。   That is, as the voice command SW, a phrase (command phrase) in which the same word or phrase as the operation key name indicated in the remarks GW or a change in consideration of fluctuation of a word (phrase) uttered by the user with respect to the operation key name is given. Is recorded. It is possible to record a plurality of voice commands SW corresponding to one link information KW.

また、リンク情報KWとして、図7に示す基本設定画面GM30に表示された操作キーのキー情報Y21〜Y27が記録されている。   In addition, key information Y21 to Y27 of operation keys displayed on the basic setting screen GM30 shown in FIG. 7 is recorded as the link information KW.

したがって、例えば、入力された音声コマンドが、辞書テーブルTB30に記録された音声コマンドSWのいずれかと一致する場合に、リンク情報KWに示されるキー情報Yに対応付けられた画面番号の操作画面へ遷移するための処理が実行される。つまり、その音声コマンドSWに対応付けられた備考GWに示される操作キー名の操作キーが押下されたものとして処理が実行される。   Therefore, for example, when the input voice command matches any one of the voice commands SW recorded in the dictionary table TB30, the screen transitions to the operation screen having the screen number associated with the key information Y indicated in the link information KW. The process for performing is performed. That is, the process is executed as if the operation key having the operation key name indicated in the remarks GW associated with the voice command SW is pressed.

図6に戻って、画面表示制御部42は、音声が入力されたタイミングまたは操作パネル10fに備えられたボタンが押されたタイミングで、所定の操作画面を操作パネル10fに表示させるための処理を行う。また、画面表示制御部42は、操作画面選択テーブルTB50を管理しており、総合制御部46からの制御信号に基づいて操作画面選択テーブルTB50を参照することにより、現在表示されている操作画面を入力された音声コマンドに対応する操作画面に遷移させるための処理を行う。   Returning to FIG. 6, the screen display control unit 42 performs a process for displaying a predetermined operation screen on the operation panel 10 f at a timing when a voice is input or a button provided on the operation panel 10 f is pressed. Do. Further, the screen display control unit 42 manages the operation screen selection table TB50, and refers to the operation screen selection table TB50 based on the control signal from the general control unit 46, so that the currently displayed operation screen is displayed. Performs processing for transitioning to the operation screen corresponding to the input voice command.

操作画面選択テーブルTB50には、遷移先画面情報DT50が記憶され管理されている。遷移先画面情報DT50は、図11に示すように、リンク情報KWと遷移先画面番号RWとを対応付けて示すものである。リンク情報KWとして、操作キーのキー情報Yが記録される。遷移先画面番号RWは、キー情報Yで示されたキーが押されたときの遷移先の操作画面GMの画面番号である。   The operation screen selection table TB50 stores and manages transition destination screen information DT50. As shown in FIG. 11, the transition destination screen information DT50 indicates the link information KW and the transition destination screen number RW in association with each other. Key information Y of operation keys is recorded as link information KW. The transition destination screen number RW is the screen number of the transition destination operation screen GM when the key indicated by the key information Y is pressed.

したがって、ユーザから音声が入力されると、コマンド認識部44は、その音声を認識して音声コマンドSWを生成した後、辞書テーブルTB30を参照し、生成した音声コマンドSWに対応したキー情報Yを取得する。取得したキー情報Yは総合制御部46に送られる。総合制御部46は、そのキー情報Yを、制御信号SN1として画面表示制御部42に送る。   Therefore, when a voice is input from the user, the command recognition unit 44 recognizes the voice and generates a voice command SW, and then refers to the dictionary table TB30 to obtain key information Y corresponding to the generated voice command SW. get. The acquired key information Y is sent to the general control unit 46. The comprehensive control unit 46 sends the key information Y to the screen display control unit 42 as the control signal SN1.

画面表示制御部42は、キー情報Yに基づいて操作画面選択テーブルTB50を検索し、そのキー情報Yに対応する遷移先画面番号RWを取得する。そして、取得した遷移先画面番号RWの操作画面GMをタッチパネルTPに表示する。   The screen display control unit 42 searches the operation screen selection table TB50 based on the key information Y, and acquires the transition destination screen number RW corresponding to the key information Y. Then, the operation screen GM of the acquired transition destination screen number RW is displayed on the touch panel TP.

例えば、図11の遷移先画面情報DT50において、リンク情報KWの1つであるキー情報Y24には、画面番号10G09000が対応付けられている。画面表示制御部42は、キー情報Y24を制御信号SN1として受け取ると、画面番号10G09000の操作画面GMである倍率画面GM31を操作画面記憶部40から抽出し、表示する。   For example, in the transition destination screen information DT50 of FIG. 11, the screen number 10G09000 is associated with the key information Y24 that is one of the link information KW. When receiving the key information Y24 as the control signal SN1, the screen display control unit 42 extracts the magnification screen GM31, which is the operation screen GM having the screen number 10G09000, from the operation screen storage unit 40 and displays it.

また、他の例として、画面表示制御部42がキー情報Y25を制御信号SN1として受け取ると、画面番号10G12000の画面/ページ集約画面GM32を操作画面記憶部40から抽出し、表示する。   As another example, when the screen display control unit 42 receives the key information Y25 as the control signal SN1, the screen / page aggregation screen GM32 with the screen number 10G12000 is extracted from the operation screen storage unit 40 and displayed.

図6に戻って、声紋判別部43は、ユーザの声紋を判別して声紋情報を生成する。つまり、声紋判別部43は、音声コマンドを入力したユーザの声紋を判別するための処理を行う。例えば、ユーザが音声コマンドを発声したときの発声が開始されてから終了するまでの時間(発声時間)、音声の周波数スペクトル、および音声のボリュームなどを測定し解析することによって、音声コマンドを入力したユーザがいずれのユーザであるかを判別するための処理を行う。そして、音声コマンドを入力したユーザがいずれのユーザであるかを示す判別結果信号SN2を、コマンド認識部44へ送る。   Returning to FIG. 6, the voiceprint discrimination unit 43 discriminates the user's voiceprint and generates voiceprint information. That is, the voiceprint determination unit 43 performs a process for determining the voiceprint of the user who has input the voice command. For example, a voice command is input by measuring and analyzing the time from the start of speech to the end when the user utters a voice command (speech time), speech frequency spectrum, speech volume, etc. A process for determining which user the user is is performed. Then, a determination result signal SN 2 indicating which user is the user who has input the voice command is sent to the command recognition unit 44.

コマンド認識部44は、ユーザから音声が入力されたときに、その音声を認識して音声コマンドSWを生成する。そして、辞書テーブルTB30を参照し、生成した音声コマンドSWに対応したキー情報Yを取得する。辞書テーブルTB30を参照する際に、判別結果信号SN2をも用い、音声コマンドSWおよび声紋情報の両方が一致するキー情報Yを取得する。取得したキー情報Yは、認識結果信号SN3として総合制御部46に送られる。総合制御部46は、そのキー情報Yを、制御信号SN1として画面表示制御部42に送る。   When a voice is input from the user, the command recognition unit 44 recognizes the voice and generates a voice command SW. Then, the key information Y corresponding to the generated voice command SW is acquired with reference to the dictionary table TB30. When referring to the dictionary table TB30, the discrimination result signal SN2 is also used to obtain key information Y that matches both the voice command SW and the voiceprint information. The acquired key information Y is sent to the general control unit 46 as a recognition result signal SN3. The comprehensive control unit 46 sends the key information Y to the screen display control unit 42 as the control signal SN1.

なお、コマンド認識部44は、音声認識に際して、まず、音声入力部24から取得した音声データDGDTを文字列(以下、「認識対象語句」と記載することがある)に変換し、辞書テーブルTB30に記録されている音声コマンドSWの中から、認識対象語句と一致するものを抽出する。そして、認識対象語句と一致する音声コマンドSWが抽出されると、その音声コマンドSWに対応付けられたリンク情報KWを読み出す。   In the speech recognition, the command recognition unit 44 first converts the speech data DGDT acquired from the speech input unit 24 into a character string (hereinafter sometimes referred to as “recognition target phrase”), and stores it in the dictionary table TB30. From the recorded voice commands SW, those that match the recognition target words are extracted. When the voice command SW that matches the recognition target word / phrase is extracted, the link information KW associated with the voice command SW is read out.

一括登録部45は、特定の操作画面GMに遷移させるための音声コマンドを辞書テーブルTBに追加登録する旨の指令があったときに、追加登録する音声コマンドおよび特定の操作画面GMへのリンク情報KWを、音声認識ライブラリ41に記憶されている全ての辞書テーブルTBに追加登録するための処理(コマンド登録処理)を行う。   When there is a command to additionally register a voice command for making a transition to a specific operation screen GM in the dictionary table TB, the collective registration unit 45 additionally registers the voice command and link information to the specific operation screen GM. Processing for additionally registering KW in all dictionary tables TB stored in the speech recognition library 41 (command registration processing) is performed.

次に、コマンド登録処理について、ユーザの操作手順とともに説明する。   Next, command registration processing will be described together with user operation procedures.

コマンド登録処理は、ユーザによるお気に入り画面登録操作によって開始される。   The command registration process is started by a favorite screen registration operation by the user.

ユーザは、まず、お気に入り画面を決定する。第1実施形態では、縮小画面GM33およびページ集約画面GM34がユーザのお気に入り画面である。縮小画面GM33およびページ集約画面GM34へ遷移するための例が図12に示されている。   First, the user determines a favorite screen. In the first embodiment, the reduced screen GM33 and the page aggregation screen GM34 are user favorite screens. An example for transitioning to the reduced screen GM33 and the page aggregation screen GM34 is shown in FIG.

図12において、例えば基本設定画面GM30において、倍率キー(ボタン)BTN10が押下された場合、または音声により倍率キーBTN10に対応する音声コマンドが入力された場合に、倍率画面GM31に遷移する。そして、倍率画面GM31において、縮小キーBTN12が押下された場合、または音声により縮小キーBTN12に対応する音声コマンドが入力された場合は、縮小画面GM33に遷移する。   In FIG. 12, for example, when the magnification key (button) BTN10 is pressed on the basic setting screen GM30 or when a voice command corresponding to the magnification key BTN10 is input by voice, the screen changes to the magnification screen GM31. When the reduction key BTN12 is pressed on the magnification screen GM31 or when a voice command corresponding to the reduction key BTN12 is input by voice, the screen changes to the reduction screen GM33.

また、基本設定画面GM30において、画面/ページ集約キーBTN11が押下された場合、または音声により画面/ページ集約キーBTN11に対応する音声コマンドが入力された場合は、画面/ページ集約画面GM32に遷移する。そして、画面/ページ集約画面GM32において、ページ集約キーBTN13が押下された場合または音声によりページ集約キーBTN13に対応する音声コマンドが入力された場合は、ページ集約画面GM34に遷移する。   In addition, when the screen / page aggregation key BTN11 is pressed on the basic setting screen GM30 or when a voice command corresponding to the screen / page aggregation key BTN11 is input by voice, the screen / page aggregation screen GM32 is transitioned to. . When the page aggregation key BTN13 is pressed on the screen / page aggregation screen GM32 or when a voice command corresponding to the page aggregation key BTN13 is input by voice, the screen transitions to the page aggregation screen GM34.

お気に入り画面登録操作としては、2つの操作方法がある。1つは、お気に入り画面へ遷移するための操作キー(お気に入り画面の1つ前の操作画面に表示される操作キー)を指定し、指定した操作キーに任意の語句からなる音声コマンドを登録する方法である。   There are two operation methods for the favorite screen registration operation. One is a method of designating an operation key (an operation key displayed on the operation screen immediately before the favorite screen) for transitioning to the favorite screen, and registering a voice command composed of an arbitrary word / phrase in the designated operation key. It is.

この方法を採用する場合は、ユーザは、まず操作パネル10fに設けられている音声認識ボタンKBを長く押す。これにより、画像形成装置1では、特定の操作画面に遷移させるための音声コマンドを辞書テーブルTBに追加登録する旨の指令があったと判断し、音声登録モードに移行する。   When adopting this method, the user first presses the voice recognition button KB provided on the operation panel 10f for a long time. As a result, the image forming apparatus 1 determines that there has been a command to additionally register a voice command for changing to a specific operation screen in the dictionary table TB, and shifts to the voice registration mode.

ユーザは、お気に入り画面へ遷移するための操作キーが表示された操作画面GMを表示させるための操作を行う。例えば、お気に入り画面が「縮小画面GM33」である場合は、その1つ前の画面である倍率画面GM31を表示させる。そして、倍率画面GM31において、縮小画面GM33へ遷移するための操作キーつまり縮小キーBTN12を押下して指定する。お気に入り画面が「ページ集約画面GM34」である場合は、画面/ページ集約画面GM32を表示させ、ページ集約画面GM34に遷移するための操作キーつまりページ集約キーBTN13を押下して指定する。   The user performs an operation for displaying the operation screen GM on which operation keys for transitioning to the favorite screen are displayed. For example, when the favorite screen is “reduced screen GM33”, the magnification screen GM31 which is the previous screen is displayed. Then, on the magnification screen GM31, an operation key for changing to the reduction screen GM33, that is, the reduction key BTN12 is pressed and designated. When the favorite screen is “page aggregation screen GM34”, the screen / page aggregation screen GM32 is displayed, and an operation key for transitioning to the page aggregation screen GM34, that is, the page aggregation key BTN13 is pressed and designated.

操作キーが指定されると、操作画面制御部SSは、ユーザに対し、登録する音声コマンドを発声するためのメッセージ(発声メッセージ)を示す画面を表示する。または、画像形成装置1に備えられているスピーカー(図示せず)から予め登録されている音声ガイドを流して、ユーザに音声を発声するよう促す。   When the operation key is designated, the operation screen control unit SS displays a screen showing a message (voice message) for uttering a voice command to be registered to the user. Alternatively, a pre-registered voice guide is played from a speaker (not shown) provided in the image forming apparatus 1 to urge the user to speak.

ユーザは、発声メッセージが示された画面が表示されまたは音声ガイドが流れると、音声認識ボタンKBを今度は軽く押して、音声を発声し入力する。   When the screen showing the utterance message is displayed or the voice guide is played, the user utters and inputs the voice by pressing the voice recognition button KB lightly.

音声が入力されると、声紋判別部43は声紋情報を生成する。声紋情報は、例えば音声ID情報VDとして一括登録部45に送られる。   When voice is input, the voiceprint discrimination unit 43 generates voiceprint information. The voiceprint information is sent to the batch registration unit 45 as, for example, voice ID information VD.

また、声紋判別部43による処理にともなって、コマンド認識部44では、入力された音声に対応する音声コマンドSWを生成する。生成した音声コマンドSWは、一括登録部45に送られる。   In addition, with the processing by the voiceprint discrimination unit 43, the command recognition unit 44 generates a voice command SW corresponding to the input voice. The generated voice command SW is sent to the batch registration unit 45.

一括登録部45では、音声コマンドSWおよび音声ID情報VDを取得すると、音声認識ライブラリ41に記憶されているすべての辞書テーブルTBに登録するための処理を実行する。このとき、音声コマンドSWおよび音声ID情報VDの他、ユーザが指定した操作キーに対応するリンク情報KWも登録される。   When the voice command SW and the voice ID information VD are acquired, the batch registration unit 45 executes a process for registering in all dictionary tables TB stored in the voice recognition library 41. At this time, in addition to the voice command SW and voice ID information VD, link information KW corresponding to the operation key designated by the user is also registered.

リンク情報KWについては、ユーザが指定した操作キーに対応付けられているリンク情報KWを、例えば、その操作キーが表示されている操作画面に対応付けられている辞書テーブルTBから検索する。例えば、ユーザが縮小キーBTN12を指定した場合は、縮小キーBTN12が表示されている倍率画面GM31に対応付けられている辞書テーブルTB31(図9参照)から、当該キーに対応付けられているリンク情報KWである「Y33」を検索し抽出する(図7参照)。   For the link information KW, for example, the link information KW associated with the operation key designated by the user is searched from the dictionary table TB associated with the operation screen on which the operation key is displayed. For example, when the user designates the reduction key BTN12, the link information associated with the key from the dictionary table TB31 (see FIG. 9) associated with the magnification screen GM31 on which the reduction key BTN12 is displayed. The KW “Y33” is searched and extracted (see FIG. 7).

そして、音声コマンドSW、音声ID情報VD、抽出したリンク情報KW、およびユーザが指定した操作キーの操作項目名を、お気に入り画面についての新たなコマンド情報DTとして音声認識ライブラリ41に記憶されているすべての辞書テーブルTBに追加登録する(図13参照)。   The voice command SW, the voice ID information VD, the extracted link information KW, and the operation item name of the operation key designated by the user are all stored in the voice recognition library 41 as new command information DT for the favorite screen. Are additionally registered in the dictionary table TB (see FIG. 13).

お気に入り画面登録操作の2つ目の操作方法は、お気に入り画面として登録したい画面を表示させて操作する方法である。   The second operation method of the favorite screen registration operation is a method of displaying and operating a screen to be registered as a favorite screen.

この方法を採用する場合は、ユーザは、お気に入り画面として登録したい操作画面を表示させ、その操作画面の画面名称部分を押下する。例えば、縮小画面GM33の場合は、図12に示す縮小画面GM33の画面名称部分MSを押下する。   When this method is adopted, the user displays an operation screen to be registered as a favorite screen, and presses the screen name portion of the operation screen. For example, in the case of the reduced screen GM33, the screen name portion MS of the reduced screen GM33 shown in FIG. 12 is pressed.

すると、操作画面制御部SSでは、画面名称部分MSが押下された操作画面(お気に入り画面)の1つ前の操作画面を操作画面記憶部40から検索する。そして、検索した操作画面に表示される操作キーの中からお気に入り画面に遷移するための操作キーを検索し、上述の1つ目の操作方法のように、ユーザによってお気に入り画面の1つ前の操作画面に表示される操作キーが指定された場合の処理と同様の処理を実行する。   Then, the operation screen control unit SS searches the operation screen storage unit 40 for an operation screen immediately before the operation screen (favorite screen) on which the screen name portion MS is pressed. Then, an operation key for transitioning to the favorite screen is searched from the operation keys displayed on the searched operation screen, and the user operates the previous one on the favorite screen as in the first operation method described above. The same processing as that when the operation key displayed on the screen is designated is executed.

いずれの操作方法を採用するかは、ユーザが選択することができる。   The user can select which operation method to use.

図6に戻って、総合制御部46は、画像処理部47を制御するとともに、操作画面制御部SSの全体をも制御する。また、総合制御部46は、コマンド認識部44から認識結果信号SN3を受け取ると、認識結果信号SN3が操作画面を遷移するための信号であるのかまたは画像形成装置1が備えている機能に関する設定を示す信号であるのかを判別する。その判別の結果に応じて、各部に制御信号を送る。認識結果信号SN3は、操作画面を遷移するための信号であるので、認識結果信号SN3を受け取ると、画面表示制御部42に対して現在表示されている操作画面を遷移すべき旨および遷移先の操作画面のリンク情報KWを示す制御信号SN1を送る。   Returning to FIG. 6, the general control unit 46 controls the image processing unit 47 and also controls the entire operation screen control unit SS. Further, upon receiving the recognition result signal SN3 from the command recognition unit 44, the general control unit 46 sets whether the recognition result signal SN3 is a signal for transitioning the operation screen or functions related to the image forming apparatus 1. It is determined whether the signal is a signal to be shown. A control signal is sent to each unit according to the result of the determination. Since the recognition result signal SN3 is a signal for transitioning the operation screen, when the recognition result signal SN3 is received, the fact that the operation screen currently displayed on the screen display control unit 42 should be transitioned and the transition destination are displayed. A control signal SN1 indicating link information KW on the operation screen is sent.

画像処理部47は、総合制御部46からの制御信号に応じて、スキャナ部10gが読み取った画像データまたは他の装置から送信されてきた画像データなどに対し、種々の画像処理を施す。   The image processing unit 47 performs various image processing on the image data read by the scanner unit 10g or the image data transmitted from another device in accordance with a control signal from the general control unit 46.

次に、コマンド登録処理を実行する場合における画像形成装置1全体の処理について、図14のフローチャートを参照して説明する。   Next, processing of the entire image forming apparatus 1 when executing command registration processing will be described with reference to a flowchart of FIG.

ユーザは、操作パネル10fに設けられている音声認識ボタンKBを長く押す(#71)。これにより、画像形成装置1では、お気に入り画面を登録するための処理(コマンド登録処理)が開始される(#72)。   The user long presses the voice recognition button KB provided on the operation panel 10f (# 71). As a result, the image forming apparatus 1 starts processing for registering a favorite screen (command registration processing) (# 72).

次に、ユーザは、操作キーを指定することによってお気に入り画面を登録するための処理を実行させるか、お気に入り画面を表示させて処理を実行させるかを選択する。操作キーを指定することによってお気に入り画面を登録するための処理を実行させる場合(#73で1が選択された場合)は、ユーザはお気に入り画面の1つ前の操作画面を表示させ、お気に入り画面に遷移するための操作キーを押下して指定する(#74)。   Next, the user selects whether to execute the process for registering the favorite screen by designating the operation key or to display the favorite screen and execute the process. When the process for registering the favorite screen is executed by specifying the operation key (when 1 is selected in # 73), the user displays the operation screen immediately before the favorite screen and displays the favorite screen on the favorite screen. An operation key for transition is pressed and designated (# 74).

お気に入り画面として登録したい画面を表示させて処理を実行させる場合(#73で2が選択された場合)は、ユーザは、お気に入り画面として登録したい操作画面を表示させ(#82)、その操作画面の画面名称部分MSを押下する(#83)。   When displaying a screen to be registered as a favorite screen and executing the process (when 2 is selected in # 73), the user displays the operation screen to be registered as a favorite screen (# 82), and the operation screen is displayed. The screen name portion MS is pressed (# 83).

操作画面制御部SSは、お気に入り画面の画面名称部分MSが押下された場合は、お気に入り画面の1つ前の操作画面を操作画面記憶部40から検索する。そして、検索した操作画面に表示される操作キーの中からお気に入り画面に遷移するための操作キーを抽出し、抽出した操作キーが指定されたものとして、処理を実行する。   When the screen name portion MS of the favorite screen is pressed, the operation screen control unit SS searches the operation screen storage unit 40 for the operation screen immediately before the favorite screen. Then, an operation key for transitioning to the favorite screen is extracted from the operation keys displayed on the searched operation screen, and the process is executed assuming that the extracted operation key is designated.

操作キーが指定されると、画像形成装置1は、発声メッセージを表示しまたは音声出力し、ユーザの発声を促す(#75)。   When the operation key is designated, the image forming apparatus 1 displays a voice message or outputs a voice, and prompts the user to speak (# 75).

ユーザは、音声認識ボタンKBを軽く押して(#76)、登録したい音声コマンドを発声し入力する(#77)。音声コマンドが入力されると、音声IDが生成され保存される(#78)。また、音声認識によって音声コマンドSWが生成される(#79、#80)。そして、音声コマンドSW、音声ID、リンク情報KW、および操作項目名を、お気に入り画面についての新たなコマンド情報DTとして、すべての辞書テーブルTBに追加登録する(#81)。   The user lightly presses the voice recognition button KB (# 76), and utters and inputs a voice command to be registered (# 77). When a voice command is input, a voice ID is generated and saved (# 78). Also, a voice command SW is generated by voice recognition (# 79, # 80). The voice command SW, voice ID, link information KW, and operation item name are additionally registered in all dictionary tables TB as new command information DT for the favorite screen (# 81).

次に、コマンド認識処理における画像形成装置1全体の処理について、図15のフローチャートを参照して説明する。   Next, processing of the entire image forming apparatus 1 in command recognition processing will be described with reference to the flowchart of FIG.

ユーザは、操作パネル10fに設けられている音声認識ボタンKBを(軽く)押す(#91)。これにより、画像形成装置1では、コマンド認識処理を開始する指令があったと判断する(#92)。ユーザは、音声を入力する(#93)。   The user presses (lightly) the voice recognition button KB provided on the operation panel 10f (# 91). As a result, the image forming apparatus 1 determines that there is an instruction to start the command recognition process (# 92). The user inputs voice (# 93).

画像形成装置1は、入力された音声に対する音声認識処理を実行し、音声コマンドSWを生成する(#94)。そして、生成された音声コマンドSWを、辞書テーブルTBに記憶されている音声コマンドSWと照合する(#96)。また、入力された音声に対して声紋情報を生成する(#95)。   The image forming apparatus 1 executes voice recognition processing for the input voice and generates a voice command SW (# 94). Then, the generated voice command SW is collated with the voice command SW stored in the dictionary table TB (# 96). Also, voiceprint information is generated for the input voice (# 95).

辞書テーブルTBにおいて一致する音声コマンドSWが複数あった場合には(#97でYes)、声紋情報を参照し、声紋情報が一致する音声コマンドSWを特定し、1つのリンク情報KWを抽出する(#98)。そして、操作画面選択テーブルTB50を参照して、入力された音声に対応した操作画面GMを抽出して表示する(#99)。なお、ステップ#99においては、入力された音声が辞書テーブルTBに音声コマンドSWとして記録されていなかった場合には、入力された音声に対応した処理を行う。   If there are a plurality of voice commands SW that match in the dictionary table TB (Yes in # 97), the voice command information is referred to, the voice command SW that matches the voice print information is specified, and one link information KW is extracted ( # 98). Then, the operation screen GM corresponding to the input voice is extracted and displayed with reference to the operation screen selection table TB50 (# 99). In step # 99, if the input voice is not recorded as the voice command SW in the dictionary table TB, processing corresponding to the input voice is performed.

このように、第1実施形態では、お気に入り画面についてのコマンド情報DTが音声認識ライブラリ41に記憶されているすべての辞書テーブルTBに一括して追加登録されるので、ユーザは、どの操作画面からでもお気に入り画面を遷移させるための音声コマンドを発声することによって、お気に入り画面を表示させることができる。   As described above, in the first embodiment, the command information DT for the favorite screen is additionally registered in all dictionary tables TB stored in the speech recognition library 41, so that the user can use any operation screen. The favorite screen can be displayed by uttering a voice command for changing the favorite screen.

したがって、ユーザにとっては、画面操作の簡略化および迅速化を図ることができる。例えば、図16に示すように操作画面の階層が深くかつ複雑になっている場合でも、お気に入り画面を容易に表示させることができる。   Therefore, it is possible for the user to simplify and speed up the screen operation. For example, the favorite screen can be easily displayed even when the operation screen has a deep and complex hierarchy as shown in FIG.

また、追加登録されるお気に入り画面についてのコマンド情報DTには音声IDも含まれるので、複数のユーザによって同一の音声コマンドが登録されていても、その音声コマンドを登録したユーザを区別することができる。
〔お気に入り画面登録操作の変形例〕
第1実施形態では、ユーザが設定操作を行う前の操作画面をお気に入り画面として登録する場合を例に説明したが、ユーザは設定操作の途中の状態の操作画面をお気に入り画面と同様に登録することもできる。
In addition, since the voice information is included in the command information DT for the additionally registered favorite screen, even if the same voice command is registered by a plurality of users, the user who has registered the voice command can be distinguished. .
[Modification of Favorite Screen Registration Operation]
In the first embodiment, the case where the operation screen before the user performs the setting operation is registered as a favorite screen has been described as an example. However, the user registers the operation screen in the middle of the setting operation in the same manner as the favorite screen. You can also.

例えば、図12に示す縮小画面GM33は、コピーの倍率を93.0%とする設定を行った状態を示す。また、同図に示すページ集約画面GM34は、印刷の出力形態をツーインワン(分割)とする設定を行った状態を示す。この状態で操作画面における設定操作を一時中断する場合に、ユーザは設定操作の途中の縮小画面GM33またはページ集約画面GN34について設定状態を保持しつつ、お気に入り画面のように登録するための操作を行う。これにより、いずれの操作画面からでも、設定操作の途中の操作画面を呼び出して続きの設定操作を再開することができる。また、ユーザが設定操作を再開する場合に、図17に示すように、各操作画面での設定操作の状態を最上位の階層の操作画面(本実施形態では基本設定画面GM30)に表示させることもできる。音声ガイドで報知してもよい。   For example, the reduced screen GM33 shown in FIG. 12 shows a state in which the copy magnification is set to 93.0%. Further, the page aggregation screen GM34 shown in the figure shows a state in which the print output form is set to two-in-one (division). When the setting operation on the operation screen is temporarily suspended in this state, the user performs an operation for registering like the favorite screen while holding the setting state for the reduced screen GM33 or the page aggregation screen GN34 in the middle of the setting operation. . Thereby, it is possible to call the operation screen in the middle of the setting operation from any operation screen and resume the subsequent setting operation. When the user resumes the setting operation, as shown in FIG. 17, the state of the setting operation on each operation screen is displayed on the operation screen of the highest hierarchy (the basic setting screen GM30 in this embodiment). You can also. You may alert | report with an audio guide.

次に、設定操作の途中の状態の操作画面(以下、「設定途中画面」と記載する)をお気に入り画面と同様に登録する場合における画像形成装置1全体の処理について、フローチャートを参照して説明する。   Next, processing of the entire image forming apparatus 1 when an operation screen in the middle of a setting operation (hereinafter referred to as “setting screen”) is registered in the same manner as a favorite screen will be described with reference to a flowchart. .

図18は設定操作の途中の状態の操作画面をお気に入り画面と同様に登録する場合における画像形成装置1全体の処理の流れの例を説明するためのフローチャートである。   FIG. 18 is a flowchart for explaining an example of the processing flow of the entire image forming apparatus 1 when the operation screen in the middle of the setting operation is registered in the same manner as the favorite screen.

図18において、ユーザは、各操作画面において所定の設定操作を行う(#111)。このとき、設定操作を一時中断する場合に、操作パネル10fに設けられている音声認識ボタンKBを長く押す(#112)。ここで、ユーザは、設定状態を保持せずに、表示されている操作画面を第1実施形態で説明したようにお気に入り画面として登録する場合は(#113で1が選択された場合)、操作キーを指定するかまたはお気に入り画面の画面名称部分MSを押下するなどして、お気に入り画面登録操作を開始させる(#114)。   In FIG. 18, the user performs a predetermined setting operation on each operation screen (# 111). At this time, when the setting operation is temporarily interrupted, the voice recognition button KB provided on the operation panel 10f is pressed long (# 112). Here, when the user registers the displayed operation screen as a favorite screen as described in the first embodiment without holding the setting state (when 1 is selected in # 113), the operation is performed. The favorite screen registration operation is started by specifying a key or pressing the screen name portion MS of the favorite screen (# 114).

現在表示されている設定途中画面の設定状態を保持させたい場合は(#113で2が選択された場合)、ユーザは、設定途中画面の設定状態をメモリ10b(ハードディスク10d)などに保存するための操作を行う。すると、画像形成装置1は、設定途中画面についてお気に入り画面登録操作が開始されたものとして、上述の第1実施形態で説明したコマンド登録処理と同様の処理を実行する。この場合のコマンド登録処理は、お気に入り画面の画面名称部分MSが押下された場合の処理と同一である。つまり、画像形成装置1は、設定途中画面の1つ前の操作画面を操作画面記憶部40から検索する。そして、検索した操作画面に表示される操作キーの中から設定途中画面に遷移するための操作キーを検索し、検索した操作キーが押下され指定されたものとして、第1実施形態におけるコマンド登録処理と同様の処理(図14の#75〜#80)を実行する(#116〜#120)。そして、コマンド語句情報STおよび抽出したリンク情報KWを、お気に入り画面についての新たなコマンド情報DTとして音声認識ライブラリ41に記憶されているすべての辞書テーブルTBに追加登録する(#121)。なお、コマンド語句情報STおよび抽出したリンク情報KW以外に音声IDまたは操作キーの操作項目名なども登録するようにしてもよい。
〔第2実施形態〕
次に、第2実施形態について、図19〜図21を参照して説明する。なお、第2実施形態については、第1実施形態におけるネットワークシステムSYSおよび画像形成装置1と異なる部分についてのみ説明する。また、図19〜図21において、第1実施形態と同一の構成要素には同一の符号を付してその詳細な説明を適宜省略する。
When the setting state of the currently displayed setting screen is to be retained (when 2 is selected in # 113), the user saves the setting state of the setting intermediate screen in the memory 10b (hard disk 10d) or the like. Perform the operation. Then, the image forming apparatus 1 executes the same process as the command registration process described in the first embodiment, assuming that the favorite screen registration operation is started for the setting intermediate screen. The command registration process in this case is the same as the process when the screen name portion MS of the favorite screen is pressed. That is, the image forming apparatus 1 searches the operation screen storage unit 40 for the operation screen immediately before the setting halfway screen. Then, an operation key for transitioning to the setting intermediate screen is searched from the operation keys displayed on the searched operation screen, and the command registration processing in the first embodiment is performed assuming that the searched operation key is pressed and designated. The same processing (# 75 to # 80 in FIG. 14) is executed (# 116 to # 120). Then, the command phrase information ST and the extracted link information KW are additionally registered in all dictionary tables TB stored in the speech recognition library 41 as new command information DT for the favorite screen (# 121). In addition to the command phrase information ST and the extracted link information KW, a voice ID or an operation item name of an operation key may be registered.
[Second Embodiment]
Next, a second embodiment will be described with reference to FIGS. Note that in the second embodiment, only the parts different from the network system SYS and the image forming apparatus 1 in the first embodiment will be described. Moreover, in FIGS. 19-21, the same code | symbol is attached | subjected to the component same as 1st Embodiment, and the detailed description is abbreviate | omitted suitably.

図19は第2実施形態の画像形成装置1における操作画面制御部SSBの機能的な構成の例を示す図、図20は専用辞書テーブルTB60の例を示す図、図21は第2実施形態における画像形成装置1全体の処理の流れの例を説明するためのフローチャートである。   19 is a diagram illustrating an example of a functional configuration of the operation screen control unit SSB in the image forming apparatus 1 according to the second embodiment, FIG. 20 is a diagram illustrating an example of the dedicated dictionary table TB60, and FIG. 21 is a diagram according to the second embodiment. 4 is a flowchart for explaining an example of a processing flow of the entire image forming apparatus 1.

第1実施形態では、お気に入り画面についての新たなコマンド情報DTを、音声認識ライブラリ41に記憶されている全ての辞書テーブルTB(操作画面記憶部40に記憶されているすべての操作画面GMに対応付けて設けられている辞書テーブルTB)に追加登録するようにしたが、それに代えて、操作画面GMに対応付けて設けられている辞書テーブルTBとは別の専用辞書テーブルTB60(図19参照)に、お気に入り画面についての新たなコマンド情報DTを追加登録するようにしてもよい。   In the first embodiment, new command information DT for a favorite screen is associated with all dictionary tables TB stored in the speech recognition library 41 (all operation screens GM stored in the operation screen storage unit 40). The dictionary table TB) is additionally registered in place of the dictionary table TB60 (see FIG. 19), which is different from the dictionary table TB provided in association with the operation screen GM. The new command information DT for the favorite screen may be additionally registered.

図19において、音声認識ライブラリ41Bは、辞書テーブルTB(TB30、31、32、…)および専用辞書テーブルTB60を記憶し管理している。   In FIG. 19, the speech recognition library 41B stores and manages a dictionary table TB (TB30, 31, 32,...) And a dedicated dictionary table TB60.

登録部45Bは、音声ID情報VD、音声コマンドSW、およびリンク情報KWを取得すると、それらをお気に入り画面についての新たなコマンド情報DT(コマンド情報DT60)として、音声認識ライブラリ41Bに記憶されている専用辞書テーブルTB60(図20参照)に登録する。   When the registration unit 45B acquires the voice ID information VD, the voice command SW, and the link information KW, the registration unit 45B uses them as new command information DT (command information DT60) for the favorite screen and is stored in the voice recognition library 41B. It is registered in the dictionary table TB60 (see FIG. 20).

コマンド認識部44Bは、基本的には第1実施形態のコマンド認識処理と同様の処理を実行する。第1実施形態のコマンド認識処理と異なる点は、コマンド認識処理を実行する際、まず、図20に示す専用辞書テーブルTB60に記憶されているコマンド情報DT60を参照して、入力された音声コマンドと一致する音声コマンドSWを検索する。そして、入力された音声コマンドと一致する音声コマンドSWが検索されなかった場合に、現在表示されている操作画面に対応付けられている辞書テーブルTBに記憶されているコマンド情報DTを参照する。   The command recognition unit 44B basically executes the same process as the command recognition process of the first embodiment. The difference from the command recognition process of the first embodiment is that when executing the command recognition process, first, referring to the command information DT60 stored in the dedicated dictionary table TB60 shown in FIG. Search for a matching voice command SW. If no voice command SW matching the input voice command is found, the command information DT stored in the dictionary table TB associated with the currently displayed operation screen is referred to.

専用辞書テーブルTB60にはお気に入り画面についての新たなコマンド情報DT(コマンド情報DT60)しか登録されない。したがって、お気に入り画面へ遷移するための音声コマンドが入力された場合は、各操作画面についての辞書テーブルTBを参照するよりも短時間で入力された音声コマンドと一致する音声コマンドSWを検索することができ、コマンド認識処理をより早く完了させることができる。   Only new command information DT (command information DT60) for the favorite screen is registered in the dedicated dictionary table TB60. Therefore, when a voice command for transition to the favorite screen is input, it is possible to search for a voice command SW that matches the input voice command in a shorter time than referring to the dictionary table TB for each operation screen. The command recognition process can be completed earlier.

図20は第2実施形態における画像形成装置1全体の処理の流れの例を説明するためのフローチャートである。   FIG. 20 is a flowchart for explaining an example of the processing flow of the entire image forming apparatus 1 in the second embodiment.

次に、第2実施形態における画像形成装置1全体の処理について、図20のフローチャートを参照して説明する。   Next, processing of the entire image forming apparatus 1 in the second embodiment will be described with reference to a flowchart of FIG.

ステップ#131〜134の処理は、第1実施形態の図16のステップ#91〜94と同じである。画像形成装置1は、入力された音声コマンドに対して音声認識処理を実行し、専用辞書テーブルTB60に記憶されているコマンド情報DT60の音声コマンドSWと照合する(#136)。   The processing of steps # 131 to 134 is the same as steps # 91 to 94 of FIG. 16 of the first embodiment. The image forming apparatus 1 performs voice recognition processing on the input voice command, and collates it with the voice command SW of the command information DT60 stored in the dedicated dictionary table TB60 (# 136).

専用辞書テーブル60から認識対象語句と一致する音声コマンドSWを検索することができなかった場合は、次に、現在表示されている操作画面GMに対応する辞書テーブルTBを参照する。   If the voice command SW matching the recognition target word / phrase cannot be searched from the dedicated dictionary table 60, the dictionary table TB corresponding to the currently displayed operation screen GM is then referred to.

ステップ#135、137〜139については、図16のステップ#95、97〜99と同じである。   Steps # 135 and 137 to 139 are the same as steps # 95 and 97 to 99 in FIG.

なお、第2の実施形態では、専門辞書テーブルTB60または辞書テーブルTBに登録されている音声コマンドSWのうち、入力された音声コマンドと一致する音声コマンドSWを音声認識処理の結果として採用する(#138)。   In the second embodiment, among the voice commands SW registered in the specialized dictionary table TB60 or the dictionary table TB, a voice command SW that matches the input voice command is adopted as a result of the voice recognition process (#). 138).

上述の実施形態において、操作画面制御部SSは本発明における「操作画面制御装置」に相当し、音声入力部24は本発明における「音声入力手段」に相当する。音声認識ライブラリ41、声紋判別部43、およびコマンド認識部44は、本発明の「音声認識部」に相当する。画面表示制御部42は本発明における「画面切り替え手段」に相当し、一括登録部45は本発明における「一括登録手段」に相当する。   In the above-described embodiment, the operation screen control unit SS corresponds to the “operation screen control device” in the present invention, and the voice input unit 24 corresponds to the “voice input unit” in the present invention. The voice recognition library 41, the voiceprint discrimination unit 43, and the command recognition unit 44 correspond to the “voice recognition unit” of the present invention. The screen display control unit 42 corresponds to “screen switching means” in the present invention, and the collective registration unit 45 corresponds to “collective registration means” in the present invention.

また、音声ID情報VDは本発明における「声紋情報」に相当し、声紋判別部43は本発明における「声紋判別部」に相当する。また、メモリ10b(ハードディスク10d)は本発明における記憶装置に相当する。   The voice ID information VD corresponds to “voice print information” in the present invention, and the voice print determination unit 43 corresponds to “voice print determination unit” in the present invention. The memory 10b (hard disk 10d) corresponds to a storage device in the present invention.

その他、操作画面制御部SS、画像形成装置1、およびネットワークシステムSYSの構成、機能、各データが示す内容、テーブルの内容、処理の内容または順序などは、本発明の趣旨に沿って適宜変更することができる。   In addition, the configurations, functions, contents indicated by each data, table contents, processing contents or order of the operation screen control unit SS, the image forming apparatus 1, and the network system SYS are appropriately changed in accordance with the spirit of the present invention. be able to.

1 画像形成装置
24 音声入力部(音声入力手段、音声認識部)
41、41B 音声認識ライブラリ(音声認識部)
42 画面表示制御部(画面切り替え手段)
43 声紋判別部(音声認識部、声紋判別部)
44、44B コマンド認識部(音声認識部)
45 一括登録部(一括登録手段)
45B 登録部
DT30、31、32、60 コマンド情報
KW リンク情報(キー情報)
Y21〜Y27 キー情報
SS,SSB 操作画面制御部(操作画面制御装置)
SW 音声コマンド
TB30、31、32 辞書テーブル
TB50 操作画面選択テーブル
TB60 専用辞書テーブル
VD 音声ID情報(声紋情報)
1 Image forming apparatus 24 Voice input unit (voice input means, voice recognition unit)
41, 41B Voice recognition library (voice recognition unit)
42 Screen display control unit (screen switching means)
43 Voiceprint discrimination unit (voice recognition unit, voiceprint discrimination unit)
44, 44B Command recognition unit (voice recognition unit)
45 Batch registration section (Batch registration means)
45B Registration part DT30, 31, 32, 60 Command information
KW link information (key information)
Y21 to Y27 Key information SS, SSB Operation screen controller (operation screen controller)
SW voice command TB30, 31, 32 Dictionary table TB50 Operation screen selection table TB60 Dedicated dictionary table VD Voice ID information (voice print information)

Claims (10)

操作パネルの表示面に表示される操作画面を音声によって操作するための操作画面制御装置であって、
ユーザに音声を入力させるための音声入力手段と、
入力された音声を認識して音声コマンドを生成する音声認識部と、
前記操作パネルの表示面に表示するために準備された複数の操作画面を記憶する操作画面記憶手段と、
前記操作画面のそれぞれに対応して設けられ、音声コマンドと各音声コマンドによって遷移すべき操作画面へのリンク情報とを対応付けて登録する辞書テーブルと、
ユーザの音声によって音声コマンドが生成されたときに、そのときに表示されている操作画面に対応した前記辞書テーブルを参照することにより、生成された音声コマンドに対応する操作画面に遷移させる画面切り替え手段と、
特定の操作画面に遷移させるための音声コマンドを前記辞書テーブルに追加登録する旨の指令があったときに、追加登録する音声コマンドおよび前記特定の操作画面へのリンク情報を、対象となる全ての前記辞書テーブルに追加登録する一括登録手段と、
を有することを特徴とする操作画面制御装置。
An operation screen control device for operating the operation screen displayed on the display surface of the operation panel by voice,
Voice input means for allowing the user to input voice;
A speech recognition unit that recognizes input speech and generates speech commands;
Operation screen storage means for storing a plurality of operation screens prepared for display on the display surface of the operation panel;
A dictionary table that is provided corresponding to each of the operation screens, and registers and associates voice commands and link information to the operation screens to be changed by each voice command;
Screen switching means for transitioning to an operation screen corresponding to the generated voice command by referring to the dictionary table corresponding to the operation screen displayed at that time when the voice command is generated by the user's voice When,
When there is a command to additionally register a voice command for transition to a specific operation screen in the dictionary table, the voice command to be additionally registered and link information to the specific operation screen Batch registration means for additionally registering in the dictionary table;
An operation screen control device comprising:
前記辞書テーブルには、前記リンク情報として、その操作がなされたときに前記特定の操作画面に遷移するように設定されたキーについてのキー情報が登録されている、
請求項1記載の操作画面制御装置。
In the dictionary table, as the link information, key information about keys set so as to transition to the specific operation screen when the operation is performed is registered.
The operation screen control device according to claim 1.
前記操作画面に表示されるキーについてのキー情報と、当該キーの操作がなされたときに遷移する遷移先の操作画面の操作画面情報とを対応付けて記憶する操作画面選択テーブルが設けられており、
前記辞書テーブルには、前記リンク情報として、いずれかの前記操作画面に表示されるキーについてのキー情報が登録されており、
前記画面切り替え手段は、前記辞書テーブルを参照することによって得られた前記キー情報を用い、前記操作画面選択テーブルを参照することにより、入力された音声コマンドに対応する操作画面に遷移させる、
請求項1記載の操作画面制御装置。
An operation screen selection table is provided that stores key information about keys displayed on the operation screen in association with operation screen information of a transition destination operation screen that is transitioned when the key is operated. ,
In the dictionary table, key information about keys displayed on any of the operation screens is registered as the link information,
The screen switching means uses the key information obtained by referring to the dictionary table, and transitions to an operation screen corresponding to the input voice command by referring to the operation screen selection table.
The operation screen control device according to claim 1.
前記辞書テーブルには、1つの前記リンク情報に対応して複数の前記音声コマンドを登録可能である、
請求項2または3記載の操作画面制御装置。
In the dictionary table, a plurality of voice commands can be registered corresponding to one link information.
The operation screen control device according to claim 2 or 3.
前記音声認識部は、ユーザの声紋を判別して声紋情報を生成する声紋判別部を有しており、
前記辞書テーブルには、前記音声コマンドとともに前記声紋情報が登録されており、
前記画面切り替え手段は、前記辞書テーブルに登録された音声コマンドおよび声紋情報が一致するリンク情報を抽出し、抽出されたリンク情報に基づいて前記操作画面を遷移させる、
請求項4記載の操作画面制御装置。
The voice recognition unit includes a voiceprint discrimination unit that discriminates a user's voiceprint and generates voiceprint information;
In the dictionary table, the voiceprint information is registered together with the voice command,
The screen switching means extracts link information that matches voice command and voiceprint information registered in the dictionary table, and transitions the operation screen based on the extracted link information.
The operation screen control device according to claim 4.
前記一括登録手段は、前記操作画面に対応して設けられたすべての前記辞書テーブルを対象として追加登録する、
請求項1ないし5のいずれかに記載の操作画面制御装置。
The collective registration means additionally registers all the dictionary tables provided corresponding to the operation screen.
The operation screen control device according to claim 1.
前記一括登録手段は、追加登録の処理過程において処理の中断の指令があったときに、そのときの状態を記憶装置に記憶して保持する、
請求項1ないし6のいずれかに記載の操作画面制御装置。
The batch registration means stores and holds the state at that time in a storage device when there is an instruction to interrupt the process in the process of additional registration.
The operation screen control device according to claim 1.
操作パネルの表示面に表示される操作画面を音声によって操作するための操作画面制御装置であって、
ユーザに音声を入力させるための音声入力手段と、
入力された音声を認識して音声コマンドを生成する音声認識部と、
前記操作パネルの表示面に表示するために準備された複数の操作画面を記憶する操作画面記憶手段と、
前記操作画面のそれぞれに対応して設けられ、音声コマンドと各音声コマンドによって遷移すべき操作画面へのリンク情報とを対応付けて登録する辞書テーブルと、
追加登録のためにユーザの音声によって生成された音声コマンドと各音声コマンドによって遷移すべき操作画面へのリンク情報とを対応付けて登録する専用辞書テーブルと、
ユーザの音声によって音声コマンドが生成されたときに、最初に前記専用辞書テーブルを参照することにより、また前記専用辞書テーブルに当該音声コマンドが登録されていない場合には前記音声コマンドが生成されたときに表示されている操作画面に対応した前記辞書テーブルを参照することにより、生成された音声コマンドに対応する操作画面に遷移させる画面切り替え手段と、
を有することを特徴とする操作画面制御装置。
An operation screen control device for operating the operation screen displayed on the display surface of the operation panel by voice,
Voice input means for allowing the user to input voice;
A speech recognition unit that recognizes input speech and generates speech commands;
Operation screen storage means for storing a plurality of operation screens prepared for display on the display surface of the operation panel;
A dictionary table that is provided corresponding to each of the operation screens, and registers and associates voice commands and link information to the operation screens to be changed by each voice command;
A dedicated dictionary table that registers and associates voice commands generated by the user's voice for additional registration and link information to the operation screen to be changed by each voice command;
When a voice command is generated by the user's voice, by referring to the dedicated dictionary table first, or when the voice command is generated if the voice command is not registered in the dedicated dictionary table Screen switching means for making a transition to the operation screen corresponding to the generated voice command by referring to the dictionary table corresponding to the operation screen displayed on
An operation screen control device comprising:
請求項1ないし8のいずれかに記載の操作画面制御装置を備えた画像形成装置。   An image forming apparatus comprising the operation screen control device according to claim 1. 操作パネルの表示面に表示される操作画面を音声によって操作することが可能な画像形成装置に設けられたコンピュータのためのコンピュータプログラムであって、
前記コンピュータにより実行されたときに、前記画像形成装置に、
ユーザに音声を入力させるための音声入力手段と、
入力された音声を認識して音声コマンドを生成する音声認識部と、
前記操作パネルの表示面に表示するために準備された複数の操作画面を記憶する操作画面記憶手段と、
前記操作画面のそれぞれに対応して設けられ、音声コマンドと各音声コマンドによって遷移すべき操作画面へのリンク情報とを対応付けて登録する辞書テーブルと、
ユーザの音声によって音声コマンドが生成されたときに、そのときに表示されている操作画面に対応した前記辞書テーブルを参照することにより、生成された音声コマンドに対応する操作画面に遷移させる画面切り替え手段と、
特定の操作画面に遷移させるための音声コマンドを前記辞書テーブルに追加登録する旨の指令があったときに、追加登録する音声コマンドおよび前記特定の操作画面へのリンク情報を、対象となる全ての前記辞書テーブルに追加登録する一括登録手段と、
を実現させることを特徴とするコンピュータプログラム。
A computer program for a computer provided in an image forming apparatus capable of operating an operation screen displayed on a display surface of an operation panel by voice,
When executed by the computer, the image forming apparatus
Voice input means for allowing the user to input voice;
A speech recognition unit that recognizes input speech and generates speech commands;
Operation screen storage means for storing a plurality of operation screens prepared for display on the display surface of the operation panel;
A dictionary table that is provided corresponding to each of the operation screens, and registers and associates voice commands and link information to the operation screens to be changed by each voice command;
Screen switching means for transitioning to an operation screen corresponding to the generated voice command by referring to the dictionary table corresponding to the operation screen displayed at that time when the voice command is generated by the user's voice When,
When there is a command to additionally register a voice command for transition to a specific operation screen in the dictionary table, the voice command to be additionally registered and link information to the specific operation screen Batch registration means for additionally registering in the dictionary table;
A computer program characterized by realizing the above.
JP2009071719A 2009-03-24 2009-03-24 Operation screen control apparatus, image forming apparatus, and computer program Active JP5343652B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009071719A JP5343652B2 (en) 2009-03-24 2009-03-24 Operation screen control apparatus, image forming apparatus, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009071719A JP5343652B2 (en) 2009-03-24 2009-03-24 Operation screen control apparatus, image forming apparatus, and computer program

Publications (2)

Publication Number Publication Date
JP2010224890A true JP2010224890A (en) 2010-10-07
JP5343652B2 JP5343652B2 (en) 2013-11-13

Family

ID=43042009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009071719A Active JP5343652B2 (en) 2009-03-24 2009-03-24 Operation screen control apparatus, image forming apparatus, and computer program

Country Status (1)

Country Link
JP (1) JP5343652B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016104562A (en) * 2014-11-24 2016-06-09 京セラドキュメントソリューションズ株式会社 Image forming device having user identification capability
JP2020069723A (en) * 2018-10-31 2020-05-07 シャープ株式会社 Image forming device
JP2020087381A (en) * 2018-11-30 2020-06-04 株式会社リコー Information processing system, program, and information processing method
EP3696610A1 (en) * 2019-02-14 2020-08-19 Ricoh Company, Ltd. Image forming apparatus, display control method, and carrier means
CN111698378A (en) * 2019-03-15 2020-09-22 柯尼卡美能达株式会社 Control device, image forming system, and recording medium
EP3764351A1 (en) 2019-07-08 2021-01-13 Konica Minolta, Inc. Voice-operated system, controller, control program, and processing device
JP2021013099A (en) * 2019-07-05 2021-02-04 コニカミノルタ株式会社 Image forming apparatus, control method for image forming apparatus, and control program for image forming apparatus

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000029585A (en) * 1998-07-08 2000-01-28 Canon Inc Voice command recognizing image processor
JP2000231398A (en) * 1999-01-18 2000-08-22 Thomson Multimedia Sa Device provided with voice and manual user interface and method for supporting voice command learning of this device
JP2003169171A (en) * 2001-11-30 2003-06-13 Canon Inc Image forming device
JP2006005695A (en) * 2004-06-18 2006-01-05 Nec Corp Portable terminal
JP2006129398A (en) * 2004-11-01 2006-05-18 Nec Corp Portable terminal device and display data editing method for the portable terminal device
JP2008096541A (en) * 2006-10-06 2008-04-24 Canon Inc Speech processing device and control method therefor
JP2008210056A (en) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd Load control unit
JP2010049432A (en) * 2008-08-20 2010-03-04 Konica Minolta Business Technologies Inc Display screen control device and method thereof, and information processor

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000029585A (en) * 1998-07-08 2000-01-28 Canon Inc Voice command recognizing image processor
JP2000231398A (en) * 1999-01-18 2000-08-22 Thomson Multimedia Sa Device provided with voice and manual user interface and method for supporting voice command learning of this device
JP2003169171A (en) * 2001-11-30 2003-06-13 Canon Inc Image forming device
JP2006005695A (en) * 2004-06-18 2006-01-05 Nec Corp Portable terminal
JP2006129398A (en) * 2004-11-01 2006-05-18 Nec Corp Portable terminal device and display data editing method for the portable terminal device
JP2008096541A (en) * 2006-10-06 2008-04-24 Canon Inc Speech processing device and control method therefor
JP2008210056A (en) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd Load control unit
JP2010049432A (en) * 2008-08-20 2010-03-04 Konica Minolta Business Technologies Inc Display screen control device and method thereof, and information processor

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016104562A (en) * 2014-11-24 2016-06-09 京セラドキュメントソリューションズ株式会社 Image forming device having user identification capability
JP2020069723A (en) * 2018-10-31 2020-05-07 シャープ株式会社 Image forming device
JP7169847B2 (en) 2018-10-31 2022-11-11 シャープ株式会社 image forming device
JP2020087381A (en) * 2018-11-30 2020-06-04 株式会社リコー Information processing system, program, and information processing method
EP3696610A1 (en) * 2019-02-14 2020-08-19 Ricoh Company, Ltd. Image forming apparatus, display control method, and carrier means
CN111698378A (en) * 2019-03-15 2020-09-22 柯尼卡美能达株式会社 Control device, image forming system, and recording medium
CN111698378B (en) * 2019-03-15 2022-08-16 柯尼卡美能达株式会社 Control device, image forming system, and recording medium
JP2021013099A (en) * 2019-07-05 2021-02-04 コニカミノルタ株式会社 Image forming apparatus, control method for image forming apparatus, and control program for image forming apparatus
JP7334510B2 (en) 2019-07-05 2023-08-29 コニカミノルタ株式会社 IMAGE FORMING APPARATUS, IMAGE FORMING APPARATUS CONTROL METHOD, AND IMAGE FORMING APPARATUS CONTROL PROGRAM
EP3764351A1 (en) 2019-07-08 2021-01-13 Konica Minolta, Inc. Voice-operated system, controller, control program, and processing device
US11823672B2 (en) 2019-07-08 2023-11-21 Konica Minolta, Inc. Voice-operated system, controller, computer-readable recording medium, and processing device
JP7415350B2 (en) 2019-07-08 2024-01-17 コニカミノルタ株式会社 Voice operation system, control device, and control program

Also Published As

Publication number Publication date
JP5343652B2 (en) 2013-11-13

Similar Documents

Publication Publication Date Title
JP5343652B2 (en) Operation screen control apparatus, image forming apparatus, and computer program
JP7367750B2 (en) Image processing device, image processing device control method, and program
JP5146429B2 (en) Image processing apparatus, speech recognition processing apparatus, control method for speech recognition processing apparatus, and computer program
JP2006330576A (en) Apparatus operation system, speech recognition device, electronic apparatus, information processor, program, and recording medium
EP3696610B1 (en) Image forming apparatus, display control method, and carrier means
JP7192220B2 (en) Image processing device, information processing device and program
US12015746B2 (en) Image processing system, setting control method, image processing apparatus, and storage medium
US11792338B2 (en) Image processing system for controlling an image forming apparatus with a microphone
JP2010147624A (en) Communication device, search processing method and search processing program
US11838459B2 (en) Information processing system, information processing apparatus, and information processing method
US11838460B2 (en) Information processing system, information processing apparatus, and information processing method
US11647129B2 (en) Image forming system equipped with interactive agent function, method of controlling same, and storage medium
JP7286321B2 (en) Information processing system, information processing device, control method, program
JP2020201911A (en) Information processing system, information processor, and information processing method
US11700338B2 (en) Information processing system that receives audio operations on multifunction peripheral, as well as image processing apparatus and control method therefor
JP2020134745A (en) Information processing device and program
JP7327939B2 (en) Information processing system, information processing device, control method, program
JP2000315097A (en) Electronic equipment, its controlling method and recording medium
JP7375427B2 (en) Audio setting system, audio setting support program, and audio setting support device
JP2008271047A (en) Image reader
JP2021009243A (en) Image forming device and program for controlling it
JP2006272788A (en) Printer, backup method, program and storage medium
JPH11195038A (en) Method and device for image information processing, and storage medium
JP2003302994A (en) Electronic equipment provided with speech recognition function and its control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121121

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20130417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130716

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130729

R150 Certificate of patent or registration of utility model

Ref document number: 5343652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150