JP6306775B2 - 情報処理装置、及びプログラム - Google Patents

Description

本発明の実施形態は、情報処理装置、及びプログラムに関する。

従来、イメージセンサデバイスにより撮像した画像データから抽出した対象物品の特徴量と、予め用意された辞書における照合用のデータ（特徴量）とを比較した類似度に応じて当該物品の種別等を認識（検出）する一般物体認識（オブジェクト認識）に係る技術が存在している。また、この一般物体認識に係る技術を、青果品等の商品の識別に用いて、識別された商品を売上登録する店舗システムが提案されている。

上記した一般物体認識に用いる辞書においては、予め照合用のデータ（特徴量）が登録されている。ところが、辞書に登録されている照合用のデータ（特徴量）に不備がある場合は、類似度が低くなり、商品が認識されにくくなってしまう。

このような場合には、辞書に登録されている照合用のデータ（特徴量）を、追加学習などにより不備を解消させることで、認識精度を向上させる。

しかしながら、辞書に登録されている照合用データ（特徴量）の追加学習の要否については判断基準が示されないことから判断が困難であった。

本発明が解決しようとする課題は、オブジェクト認識における照合用データ（特徴量）の追加学習の要否について報知することができる情報処理装置、及びプログラムを提供することである。

実施形態の情報処理装置は、撮像部と、選択手段と、第１表示手段と、抽出手段と、類似度算出手段と、報知手段とを備える。前記撮像部は、窓に向けられた物品を撮像する。前記選択手段は、前記撮像部が撮像した物品を識別するための照合用データが記憶された複数の物品から、精度チェック対象の物品を選択させる。前記第１表示手段は、前記選択手段によって前記物品が選択されると、当該物品を前記窓にかざす旨のメッセージを表示する。前記抽出手段は、前記撮像部が撮像した画像に含まれる物品の特徴量を抽出する。前記類似度算出手段は、前記照合用データと、前記抽出手段が抽出した特徴量とを比較して、前記照合用データが記憶されている物品ごとに類似度を算出する。前記報知手段は、前記類似度算出手段が算出した物品ごとの類似度の中で、前記選択手段によって選択された前記物品の照合用データの類似度が高位でない場合に、前記選択手段によって選択された前記物品の照合用データの更新について報知する。

図１は、実施形態にかかるチェックアウトシステムの一例を示す斜視図である。 図２は、ＰＯＳ端末及び商品読取装置のハードウェア構成を示すブロック図である。 図３は、ＰＬＵファイルのデータ構成を例示する概念図である。 図４は、ＰＯＳ端末の機能構成を示すブロック図である。 図５は、画像取込部によって取り込まれたフレーム画像の一例を示す図である。 図６は、確定画面の一例を示す図である。 図７は、確認画面の一例を示す図である。 図８は、商品候補のイラスト画像が表示された画面例を示す図である。 図９は、チェックアウトシステムが実行する商品認識精度チェック処理の流れを示すフローチャートである。 図１０は、精度チェック画面の一例を示す説明図である。 図１１は、撮像画像の一例を示す説明図である。 図１２は、中止実行画面の一例を示す説明図である。 図１３は、高認識結果画面の一例を示す説明図である。 図１４は、再判定画面の一例を示す説明図である。 図１５は、中認識結果画面の一例を示す説明図である。 図１６は、低認識結果画面の一例を示す説明図である。 図１７は、追加学習準備画面の一例を示す説明図である。 図１８は、セルフＰＯＳの構成を示す外観斜視図である。 図１９は、セルフＰＯＳのハードウェア構成を示すブロック図である。

以下では、チェックアウトシステムを例に本実施形態に係る情報処理装置、店舗システム及びプログラムについて、図面を参照して説明する。店舗システムは、一取引に係る商品の登録、精算を行うＰＯＳ端末を備えるチェックアウトシステム（ＰＯＳシステム）等である。本実施形態は、スーパーマーケット等の店舗に導入されたチェックアウトシステムへの適用例である。

図１は、実施形態にかかるチェックアウトシステム１の一例を示す斜視図である。図１に示すように、チェックアウトシステム１は、商品に関する情報を読み取る商品読取装置１０１と、一取引に係る商品の登録、精算を行うＰＯＳ端末１１とを備える。以下では、ＰＯＳ端末１１を本実施形態にかかる情報処理装置として適用する例について説明する。

ＰＯＳ端末１１は、チェックアウト台４１上のドロワ２１上面に載置される。ドロワ２１は、ＰＯＳ端末１１によって開放動作の制御を受ける。ＰＯＳ端末１１の上面には、オペレータ（店員）によって押下操作されるキーボード２２が配置される。キーボード２２を操作するオペレータから見てキーボード２２よりも奥側には、オペレータに向けて情報を表示する表示デバイス２３が設けられる。表示デバイス２３は、その表示面２３ａに情報を表示する。表示面２３ａには、タッチパネル２６が積層される。表示デバイス２３よりも更に奥側には、顧客用表示デバイス２４が回転可能に立設される。顧客用表示デバイス２４は、その表示面２４ａに情報を表示する。なお、図１に示す顧客用表示デバイス２４は、表示面２４ａを図１中手前側に向けているが、表示面２４ａが図１中奥側に向くように顧客用表示デバイス２４を回転させることによって、顧客用表示デバイス２４は顧客に向けて情報を表示する。

ＰＯＳ端末１１が載置されているチェックアウト台４１とＬ字を形成するようにして、横長テーブル状のカウンタ台１５１が配置される。カウンタ台１５１の上面には、荷受け面１５２が形成される。荷受け面１５２には、商品Ａを収納する買物カゴ１５３が載置される。買物カゴ１５３は、顧客によって持ち込まれる第１の買物カゴ１５３ａと、第１の買物カゴ１５３ａから商品読取装置１０１を挟んだ位置に載置される第２の買物カゴ１５３ｂとに分けて考えることができる。なお、買物カゴ１５３は、いわゆるカゴ形状のものに限るものではなく、トレー等であってもよい。また、買物カゴ１５３（第２の買物カゴ１５３ｂ）は、いわゆるカゴ形状のものに限らず、箱状や袋状等であってもよい。

カウンタ台１５１の荷受け面１５２には、ＰＯＳ端末１１とデータ送受信可能に接続された商品読取装置１０１が設置される。商品読取装置１０１は、薄型矩形形状のハウジング１０２を備える。ハウジング１０２の正面には読取窓１０３が配置される。ハウジング１０２の上部には、表示・操作部１０４が取り付けられる。表示・操作部１０４には、タッチパネル１０５が表面に積層された表示部である表示デバイス１０６が設けられる。表示デバイス１０６の右隣にはキーボード１０７が配設される。キーボード１０７の右隣には、図示しないカードリーダのカード読取溝１０８が設けられる。オペレータから見て表示・操作部１０４の裏面左奥側には、顧客に情報を提供するための顧客用表示デバイス１０９が設置される。

このような商品読取装置１０１は、商品読取部１１０（図２参照）を備える。商品読取部１１０は、読取窓１０３の奥側に撮像部１６４（図２参照）を配置する。

顧客によって持ち込まれた第１の買物カゴ１５３ａには、一取引に係る商品Ａが収納される。第１の買物カゴ１５３ａ内の商品Ａは、商品読取装置１０１を操作するオペレータにより第２の買物カゴ１５３ｂに移動される。この移動過程で、商品Ａが商品読取装置１０１の読取窓１０３に向けられる。この際、読取窓１０３内に配置された撮像部１６４（図２参照）は商品Ａを撮像する。

商品読取装置１０１では、撮像部１６４により撮像された画像に含まれる商品Ａが、後述するＰＬＵファイルＦ１（図３参照）に登録されたどの商品に対応するかを指定させるための画面を表示・操作部１０４に表示し、指定された商品の商品ＩＤをＰＯＳ端末１１に通知する。ＰＯＳ端末１１では、商品読取装置１０１から通知される商品ＩＤに基づき、当該商品ＩＤに対応する商品の商品分類、商品名、単価等の売上登録に係る情報を、売上マスタファイル（図示しない）等に記録して売上登録を行う。

図２は、ＰＯＳ端末１１及び商品読取装置１０１のハードウェア構成を示すブロック図である。ＰＯＳ端末１１は、情報処理を実行する情報処理部としてのマイクロコンピュータ６０を備える。マイクロコンピュータ６０は、各種演算処理を実行し各部を制御するＣＰＵ（Central Processing Unit）６１に、ＲＯＭ（Read Only Memory）６２とＲＡＭ（Random Access Memory）６３とがバス接続されて構成される。

ＰＯＳ端末１１のＣＰＵ６１には、前述したドロワ２１、キーボード２２、表示デバイス２３、タッチパネル２６、顧客用表示デバイス２４がいずれも各種の入出力回路（いずれも図示せず）を介して接続される。これらは、ＣＰＵ６１による制御を受ける。

キーボード２２は、「１」、「２」、「３」・・・等の数字や「×」という乗算の演算子が上面に表示されているテンキー２２ｄ、仮締めキー２２ｅ、及び締めキー２２ｆを含む。

ＰＯＳ端末１１のＣＰＵ６１には、ＨＤＤ６４（Hard Disk Drive）が接続される。ＨＤＤ６４には、プログラムや各種ファイルが記憶される。ＨＤＤ６４に記憶されているプログラムや各種ファイルは、ＰＯＳ端末１１の起動時に、その全部または一部がＲＡＭ６３にコピーされてＣＰＵ６１により実行される。ＨＤＤ６４に記憶されているプログラムの一例は、商品販売データ処理用プログラムＰＲ１や商品認識精度チェック用プログラムＰＲ２である。ＨＤＤ６４に記憶されているファイルの一例は、ストアコンピュータＳＣから配信されて格納されているＰＬＵファイルＦ１である。

ＰＬＵファイルＦ１は、店舗に陳列して販売する商品Ａの各々について、商品Ａの売上登録に係る情報を格納する商品ファイルである。以下の説明では、ＰＬＵファイルＦ１を辞書として用いるが、辞書はＰＬＵファイルＦ１と異なるファイルであっても良い。辞書は、撮像した画像データから抽出した商品Ａを識別するための照合用データ（特徴量）を、複数の商品について記憶する。辞書は、ＰＬＵファイルＦ１と異なるファイルである場合、辞書に記憶される照合用データ（特徴量）と、ＰＬＵファイルＦ１の情報（識別情報）は紐付けられる。特徴量は、商品の標準的な形状、表面の色合い、模様、凹凸状況等の外観の特徴をパラメータ化したものである。

図３は、ＰＬＵファイルＦ１のデータ構成を例示する概念図である。図３に示すように、ＰＬＵファイルＦ１は、商品Ａごとに、ユニークに割り当てられた識別情報である商品ＩＤ、商品Ａが属する商品分類、商品名、品種、単価等の商品に関する情報と、その商品Ａを示すイラスト画像と、撮像した商品画像から読み取られる色合いや表面の凹凸状況等の特徴量とを、その商品Ａの商品情報として格納するファイルである。尚、特徴量は、後述する類似度の判定に用いられる照合用のデータである。なお、ＰＬＵファイルＦ１は、後述する接続インターフェース６５を介し、商品読取装置１０１が読み出し可能に構成される。

図２に戻り、ＰＯＳ端末１１のＣＰＵ６１には、ストアコンピュータＳＣとデータ通信を実行するための通信インターフェース２５が入出力回路（図示せず）を介して接続される。ストアコンピュータＳＣは、店舗のバックヤード等に設置される。ストアコンピュータＳＣのＨＤＤ（図示せず）には、ＰＯＳ端末１１に配信されるＰＬＵファイルＦ１が格納される。

更に、ＰＯＳ端末１１のＣＰＵ６１には、商品読取装置１０１との間でデータ送受信を可能にする接続インターフェース６５が接続される。接続インターフェース６５には、商品読取装置１０１が接続される。また、ＰＯＳ端末１１のＣＰＵ６１には、レシート等に印字を行うプリンタ６６が接続される。ＰＯＳ端末１１は、ＣＰＵ６１の制御の下、一取引の取引内容をレシートに印字する。

商品読取装置１０１も、マイクロコンピュータ１６０を備える。マイクロコンピュータ１６０は、ＣＰＵ１６１にＲＯＭ１６２とＲＡＭ１６３とがバス接続されて構成される。ＲＯＭ１６２には、ＣＰＵ１６１によって実行されるプログラムが記憶される。ＣＰＵ１６１には、撮像部１６４、音声出力部１６５が各種の入出力回路（いずれも不図示）を介して接続される。撮像部１６４、音声出力部１６５は、ＣＰＵ１６１によって動作が制御される。表示・操作部１０４は接続インターフェース１７６を介して、商品読取部１１０及びＰＯＳ端末１１に接続される。表示・操作部１０４は、商品読取部１１０のＣＰＵ１６１、ＰＯＳ端末１１のＣＰＵ６１によって動作が制御される。

撮像部１６４は、カラーＣＣＤイメージセンサやカラーＣＭＯＳイメージセンサ等であり、ＣＰＵ１６１の制御の下で読取窓１０３からの撮像を行う撮像手段である。例えば撮像部１６４では３０ｆｐｓ（Flame Per Second）の動画像の撮像を行う。撮像部１６４が所定のフレームレートで順次撮像したフレーム画像（撮像画像）はＲＡＭ１６３に保存される。

音声出力部１６５は、予め設定された警告音等を発生するための音声回路とスピーカ等である。音声出力部１６５は、ＣＰＵ１６１の制御の下で警告音や音声による報知を行う。

更に、ＣＰＵ１６１には、ＰＯＳ端末１１の接続インターフェース６５に接続して、ＰＯＳ端末１１との間でデータ送受信を可能にする接続インターフェース１７５が接続される。また、ＣＰＵ１６１は、接続インターフェース１７５を介して、表示・操作部１０４との間でデータ送受信を行う。

次に、ＣＰＵ６１がプログラム（商品販売データ処理用プログラムＰＲ１、商品認識精度チェック用プログラムＰＲ２）を実行することで実現されるＣＰＵ６１の機能構成について説明する。図４は、ＰＯＳ端末１１の機能構成を示すブロック図である。

図４は、ＰＯＳ端末１１の機能構成を示すブロック図である。図４に示すように、ＰＯＳ端末１１のＣＰＵ６１は、商品販売データ処理用プログラムＰＲ１および商品認識精度チェック用プログラムＰＲ２を実行することにより、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８、売上登録処理手段である売上登録部５９、物品指定部９１、報知部９２、追加学習部９３、としての機能を備える。

（商品登録処理および売上登録処理）
まず、ＰＯＳ端末１１の画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８による一般物体認識（オブジェクト認識）に応じた商品登録処理、および売上登録部５９による売上登録処理についての概要を説明する。

画像取込部５１は、撮像部１６４に撮像オン信号を出力して撮像部１６４に撮像動作を開始させる。画像取込部５１は、撮像動作開始後に撮像部１６４が撮像してＲＡＭ１６３に保存されたフレーム画像を順次取り込む。画像取込部５１によるフレーム画像の取り込みは、ＲＡＭ１６３に保存された順に行われる。

図５は、画像取込部５１によって取り込まれたフレーム画像の一例を示す図である。図５に示すように、オペレータが読取窓１０３に商品Ａをかざすと、撮像部１６４の読取領域Ｒには商品Ａの全部または一部が撮影されて商品読取装置１０１の表示デバイス１０６に表示される。

商品検出部５２は、抽出手段として機能するものであって、撮像部１６４が撮像し、画像取込部５１により取り込まれたフレーム画像に含まれる商品Ａを検出して、特徴量を抽出する。商品検出部５２は、フレーム画像に含まれる商品Ａの全部または一部を、パターンマッチング技術等を用いて検出することにより、撮像された商品Ａの特徴量を抽出する。具体的には、取り込まれたフレーム画像を２値化した画像から輪郭線等を抽出する。次いで、前回のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較して、売上登録のために読取窓１０３に向けられた商品Ａを検出する。

なお、商品Ａを検出する別の方法としては、取り込まれたフレーム画像から肌色領域の有無を検出する。次いで、肌色領域が検出された場合、すなわち、店員の手が検出された場合は、この肌色領域の近傍において上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品Ａの輪郭抽出を試みる。この時、手の形状を示す輪郭と、手の輪郭の近傍にそれ以外の物体の輪郭とが検出された場合に、商品検出部５２は、この物体の輪郭から商品Ａを検出する。

また、商品検出部５２は、検出された商品Ａの全部または一部の画像から、商品Ａの色合いや表面の凹凸状況等の表面の状態を特徴量として読み取る。なお、商品検出部５２は、処理時間の短縮を図るため、商品Ａの輪郭や大きさは考慮しないものとする。

類似度算出部５３は、類似度算出手段として機能するものであって、ＰＬＵファイルＦ１に登録されている各商品（以下、登録商品という）の商品画像の色合いや表面の凹凸状況等の表面の状態である特徴量と、商品検出部５２が商品Ａを検出し、抽出した特徴量とをそれぞれ比較することで、商品ＡとＰＬＵファイルＦ１に登録された登録商品との類似度を算出する。ここで、類似度は、ＰＬＵファイルＦ１に記憶されている各商品の商品登録時の商品画像を１００％＝「類似度：１．０」とした場合に、商品Ａの全部または一部の画像がどの程度類似しているかを示すものである。なお、例えば、色合いと表面の凹凸状況とでは、重み付けを変えて類似度を算出してもよい。

このように画像中に含まれる物体を認識することは一般物体認識（generic object recognition）と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井 啓司，“一般物体認識の現状と今後”，情報処理学会論文誌，Ｖｏｌ．４８，Ｎｏ．ＳＩＧ１６ [平成２２年８月１０日検索]，インターネット<URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >

また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie Shottonら，“Semantic Texton Forests for Image Categorization and Segmentation”，[平成２２年８月１０日検索]，インターネット<URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >

なお、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された登録商品との類似度の算出方法は特に問わないものとする。例えば、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された各登録商品との類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。

類似度を絶対評価として算出する場合、撮像された商品Ａの画像と、ＰＬＵファイルＦ１に登録された各登録商品とを１対１で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、類似度を相対評価として算出する場合、ＰＬＵファイルＦ１に５つの登録商品（商品ＡＡ、ＡＢ、ＡＣ、ＡＤ、ＡＥ）が登録されていたとすると、撮像された商品Ａは、商品ＡＡに対して類似度が０．６、商品ＡＢに対しては類似度が０．１、商品ＡＣに対しては類似度が０．１、商品ＡＤに対しては類似度が０．１、商品ＡＥに対しては類似度が０．１等、各登録商品との類似度の総和が１．０（１００％）となるよう算出すればよい。

類似度判定部５４は、画像取込部５１が取り込んだフレーム画像ごとに、商品Ａの画像と、ＰＬＵファイルＦ１に登録されている登録商品との類似度を比較する。本実施形態では、登録商品の商品画像と商品Ａの画像との類似度について複数の条件が段階的に設けられており、類似度判定部５４は、満たされる条件に応じて登録商品の確定あるいは商品Ａの候補の選定を行う。類似度に関する条件は特に限定されるものではないが、以下では条件ａ〜ｄを用いる場合について説明する。

ここで、条件ａおよび条件ｂは、本実施形態に係る第１の条件であり、撮像部１６４が撮像した商品ＡをＰＬＵファイルＦ１に登録された登録商品のうち一の商品として確定するための条件である。また、条件ｃは、本実施形態に係る第２の条件であり、ＰＬＵファイルＦ１に登録された登録商品中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれていない場合に、撮像部１６４が撮像した商品Ａの候補を抽出するための条件である。更に、条件ｄは、本実施形態に係る第３の条件であり、条件ｃを満たした商品Ａの候補中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれている場合に、撮像部１６４が撮像した商品Ａの候補を抽出するための条件である。

類似度判定部５４は、条件ａまたは条件ｂを満たす登録商品を、撮像部１６４が撮像した商品Ａに一対一で対応する商品（以下、確定商品という）であると判定（確定）する。また、類似度判定部５４は、条件ｃを満たす登録商品については、確定商品ではなく、撮像部１６４が撮像した商品Ａの候補（以下、商品候補という）であると判定する。そして、ＰＬＵファイルＦ１に登録された複数の登録商品から条件ｃを満たす登録商品を抽出することにより、商品Ａに対する商品候補を抽出する。

また、類似度判定部５４は、条件ｄを満たす登録商品（同一のカテゴリ（商品）に属する異なる品種の物品）についても、確定商品ではなく、撮像部１６４が撮像した商品Ａの候補であると判定する。そして、ＰＬＵファイルＦ１に登録された複数の登録商品から条件ｄを満たす登録商品を抽出することにより、商品Ａに対する商品候補を抽出する。

条件ａ〜ｃは類似度に応じて段階的に設定されればその詳細は特に限定されるものではないが、一例として、予め設定された複数の閾値によって条件ａ〜ｃを設けることができる。ここでは、第１閾値〜第３閾値によって条件ａ〜ｃを設定する場合について説明する。なお、第１〜３閾値の大小関係は、第１閾値＞第２閾値＞第３閾値とする。

類似度判定部５４は、登録商品との類似度が予め定められた第１閾値（例えば９０％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ａが満たされたと判定する。尚、第１閾値を誤判定が無いよう十分に高く設定した場合には、所定回数を１回として条件ａを判定してもよい。

また、類似度判定部５４は、登録商品との類似度が第１閾値（例えば９０％）未満、かつ、第１閾値より小さい第２閾値（例えば７５％）以上となった場合に条件ｂが満たされたと判定する。そして、条件ｂを満たした登録商品は、確定商品ではあるがオペレータによる確認操作を要すると判定する。なお、登録商品との類似度が第１閾値（例えば９０％）未満、かつ、第１閾値より小さい第２閾値（例えば７５％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ｂが満たされたと判定してもよい。

更に、類似度判定部５４は、登録商品との類似度が第２閾値（例えば７５％）未満、かつ、第２閾値より小さい第３閾値（例えば１０％）以上である場合に、条件ｃが満たされたと判定する。なお、更には登録商品との類似度が第２閾値（例えば７５％）未満、かつ、第２閾値より小さい第３閾値（例えば１０％）以上となった回数をカウントし、この回数が所定回数以上となった場合に条件ｃが満たされたと判定してもよい。

なお、各条件ａ〜ｃは、類似度の大きさ、判定回数等に応じて適宜設定可能であり、上述した例に限定されるものではない。また、条件ａ〜ｃの判断に用いる所定回数はそれぞれ条件毎に異なる回数を設けるものであってもよい。

加えて、類似度判定部５４は、条件ｃを満たした登録商品中に同一のカテゴリ（商品）に属する異なる品種の物品が複数含まれている場合には、当該複数の品種の類似度を合算し、複数の品種の類似度を合算したカテゴリ（商品）の類似度が予め定められた第２閾値（例えば７５％）以上となった場合、条件ｄが満たされたと判定する。

さらに、類似度判定部５４は、登録商品について類似度の大きさで順位付けしたランキングを作成する。

商品提示部５５は、撮像部１６４によって撮像された商品Ａが、条件ａまたは条件ｂを満たした登録商品であるとして一意的に確定されたことを、画像出力や音声出力等によってオペレータや客に報知する。

より詳細には、商品提示部５５は、条件ａを満たした登録商品が、撮像部１６４によって撮像された商品（確定商品）として一意的に確定されたことを示す確定画面７１（図６参照）を表示デバイス１０６に表示させる。

図６は、確定画面７１の一例を示す図である。条件ａを満たす登録商品があった場合に、商品提示部５５は読取領域Ｒ（図５参照）の撮像画像の表示を停止し、確定商品に対応するイラスト画像Ｇ１および商品名「にんじん」をＰＬＵファイルＦ１から読み出して、確定画面７１に表示する。また、商品提示部５５は、ＰＬＵファイルＦ１から読み出した確定商品の商品名、商品価格（単価）を、商品名表示領域８１、価格表示領域８２にそれぞれ表示する。尚、商品提示部５５は、イラスト画像Ｇ１の代わりに、ＰＬＵファイルＦ１から読み出した商品画像（写真）を表示してもよい。これに限らず、イラストや商品画像を表示せず、商品名を確定画面７１に表示するようにしてもよい。この場合、音声出力部１６５によって、商品が確定したことを報知する。音声は事前に商品に紐付けられて登録された商品名であってもよいし、例えば「ピッ」という電子音であってもよい。

また、商品提示部５５は、条件ｂを満たした登録商品（確定商品）が、撮像部１６４によって撮像された商品Ａであるか否かの最終確認操作を受付ける確認画面７２（図７参照）を表示デバイス１０６に表示させる。

図７は、確認画面７２の一例を示す図である。条件ｂを満たす登録商品があった場合に、商品提示部５５は確定商品に対応するイラスト画像Ｇ１をＰＬＵファイルＦ１から読み出して、確認画面７２に表示する。また、商品提示部５５は、ＰＬＵファイルＦ１から読み出した確定商品の商品名を用いて、読み取られた商品Ａがイラスト画像Ｇ１の商品であるか否かを問うメッセージを「にんじんですか？」等と表示する。また、確認画面７２には、「はい／いいえ」等のボタンがタッチパネル１０５に対するタッチ操作によって選択操作可能に設けられる。

このように、確認画面７２においては、類似度判定の結果、１つの商品Ａに対して唯一に選別された登録商品（確定商品）の商品名や商品画像が示され、商品Ａと登録商品とが一対一の関係を持って表示される。従って、確認画面７２は、条件ｂを満たす登録商品が撮像部１６４によって撮像された商品Ａとして一意的に確定されたことを報知する画面である。

加えて、商品提示部５５は、条件ｃを満たした登録商品に関する情報を、商品候補として表示デバイス１０６に表示させる。より詳細には、商品提示部５５は、条件ｃを満たした登録商品のイラスト画像および商品名をＰＬＵファイルＦ１から読み出し、類似度算出部５３が算出した類似度の高いものから、表示デバイス１０６に順次出力する。表示デバイス１０６は、商品候補提示領域８３（図８参照）において、商品候補のイラスト画像および商品名を類似度の高いものから順に表示する。

図８は、商品候補のイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４が表示された画面例を示す図である。図８に示すように、商品候補提示領域８３には、類似度の高い登録商品から順に、商品候補のイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４および各商品名が表示される。これらイラスト画像Ｇ１、Ｇ２、Ｇ３、Ｇ４はタッチパネル１０５に対する選択操作に応じて選択可能に構成される。また、商品候補提示領域８３の下部には、商品リストから商品Ａを選択するための選択ボタン８４が設けられており、商品リストから選択された商品は上述した確定商品として処理される。なお、図８では、イラスト画像Ｇ１〜Ｇ４に対応する４つの商品候補が表示された例を示したが、商品候補の数や表示方法は特に限定されるものではない。また、イラスト画像に代えて商品画像（写真）を商品候補として表示してもよい。

加えて、商品提示部５５は、条件ｄを満たした同一のカテゴリ（商品）に属する異なる品種の物品である登録商品に関する情報を、商品候補として表示デバイス１０６に表示させる。より詳細には、商品提示部５５は、条件ｄを満たした登録商品（同一のカテゴリ（商品）に属する異なる品種の物品）のイラスト画像および商品名をＰＬＵファイルＦ１から読み出し、類似度算出部５３が算出した類似度の高いものから、表示デバイス１０６に順次出力する。

入力受付部５７は、タッチパネル１０５またはキーボード１０７を介して表示デバイス１０６の表示に対応する各種入力操作を受付ける。例えば入力受付部５７は、確認画面７２（図７参照）に対する選択操作に基づいて、表示されたイラスト画像Ｇ１の商品が確定商品であることを最終確認した旨の入力操作（確認操作）を受付ける。なお、商品提示部５５は、入力受付部５７が確認操作を受付けた場合に、上述の確定画面７１を表示デバイス１０６に表示する。

入力受付部５７は、表示デバイス１０６に表示された商品候補のイラスト画像Ｇ１〜Ｇ４（図８参照）の中からいずれか１つのイラスト画像に対する選択操作を受付ける。入力受付部５７は、選択されたイラスト画像の登録商品を、商品Ａに対する確定商品であるとして受付ける。なお、商品検出部５２が複数の商品Ａを検出可能である場合には、入力受付部５７は商品候補の中から、複数の商品候補の選択操作を受付けてもよい。なお、商品提示部５５は、入力受付部５７が選択操作を受付けた場合に、受付けた商品候補を確定商品として表示させた確定画面７１を表示デバイス１０６に表示させる。

情報入力部５８は、上述のようにして確定された確定商品について、その商品Ａを示す情報（例えば、商品ＩＤや商品名等）を、接続インターフェース１７５を介して入力する。

なお、情報入力部５８は、タッチパネル１０５またはキーボード１０７を介して別途入力された販売個数を、商品ＩＤ等とともに入力するとしてもよい。

売上登録部５９は、情報入力部５８から入力された商品ＩＤと販売個数とに基づいて、対応する商品Ａの売上登録を行う。具体的に、売上登録部５９は、ＰＬＵファイルＦ１を参照して、通知された商品ＩＤ及び当該商品ＩＤに対応する商品分類、商品名、単価等を、販売個数とともに売上マスタファイル等に記録して売上登録を行う。

（オブジェクト認識に際しての商品認識精度チェック処理）
次いで、ＰＯＳ端末１１の画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、物品指定部９１、報知部９２、追加学習部９３によるオブジェクト認識に際しての商品認識精度チェック処理について説明する。

上述したように、ＰＯＳ端末１１は、撮像部１６４により撮像した画像データから抽出した対象となる物品（オブジェクト）の特徴量と、予め用意された辞書であるＰＬＵファイルＦ１における照合用のデータ（特徴量）とを比較した類似度に応じて当該物品の種別等を認識（検出）する一般物体認識（オブジェクト認識）を採用している。

このような一般物体認識に用いる辞書であるＰＬＵファイルＦ１においては、予め照合用のデータ（特徴量）が登録されている。しかしながら、辞書であるＰＬＵファイルＦ１に登録されている照合用のデータ（特徴量）に不備がある場合は、商品Ａを適切にかざした場合であっても類似度が低くなり、商品Ａが認識されにくくなってしまう。

そこで、ＰＯＳ端末１１は、辞書であるＰＬＵファイルＦ１の照合用のデータの更新する追加学習機能を備えている。ところが、店舗の営業時間内における会計時に、照合用データ（特徴量）の不備に気が付くと、業務を一時中断して追加学習させなければならず、非常に手間である。

しかしながら、照合用データ（特徴量）の追加学習の要否については、判断基準が示されないことから、追加学習を行うか否かの判断が困難であった。

そこで、本実施形態のＰＯＳ端末１１は、オブジェクト認識における照合用データ（特徴量）の追加学習の要否について報知することができるようにしたものである。すなわち、ＰＯＳ端末１１のＣＰＵ６１は、商品認識精度チェック用プログラムＰＲ２を実行することにより、図４に示すように、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、物品指定部９１、報知部９２、追加学習部９３としての機能を備える。以下において、オブジェクト認識に際しての商品認識精度チェック処理における各部について説明する。

物品指定部９１は、選択手段として機能するものであって、予め用意された辞書であるＰＬＵファイルＦ１から商品認識精度チェックの対象商品を選択させる。物品指定部９１は、ＰＬＵファイルＦ１に格納された登録商品のリストから、オペレータが商品認識精度チェックの物品の商品名を選択させることで、商品認識精度チェックの対象商品の指定を行う。

報知部９２は、商品認識精度チェック処理の結果について報知する。報知部９２は、物品指定部９１が指定した対象商品の類似度が、辞書として用いられるＰＬＵファイルＦ１に登録された商品の中で、選択した登録商品の類似度におけるランキングの順位が高位でない場合に、選択された登録商品の照合用データ（特徴量）を追加学習させることについて報知する。その際、報知部９２は、対象商品の類似度に応じて３段階で報知する。なお、報知の段階は、２段階であってもよいし、４段階以上であってもよい。

次に、報知部９２が報知する３段階の詳細について説明する。

まず、商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が高位の場合の報知について説明する。商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が高位の場合に、報知部９２は、追加学習による更新の必要がない旨の画面を表示して報知する。ここで、選択した登録商品の類似度におけるランキングの順位が高位とは、ランキングの順位が第１位または、確定商品の少なくとも何れか一方の条件を満たしていることを示す。

次に、商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が中位の場合の報知について説明する。商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が中位の場合に、報知部９２は、追加学習による更新を推奨している旨の画面を表示して報知する。ここで、選択した登録商品の類似度におけるランキングの順位が中位とは、ランキング第１位を除いた候補商品であることを示す。すなわち、ランキングの順位が第２位から第４位などの順位である。なお、ランキング第１位を除いた候補商品は、第２位から第４位に限らず、第５位以下を含めてもよい。

次に、商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が低位の場合の報知について説明する。商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が低位の場合に、報知部９２は、追加学習が必要である旨の画面を表示して報知する。ここで、選択した登録商品の類似度におけるランキングの順位が低位とは、候補商品より類似度が低いことを示す。すなわち、ランキングの順位が第５位以下などの順位である。なお、報知方法は、画面表示に限らず、音声により報知してもよい。

追加学習部９３は、ＰＬＵファイルＦ１に予め登録されている商品の照合用のデータ（特徴量）を追加学習（追加登録）する。具体的には、追加学習部９３は、照合用のデータ（特徴量）となる画像を再度、撮像し、取り込むことにより更新する。照合用データ（特徴量）は、一定量保存（記憶）することができる。照合用データ（特徴量）が一定量に達したら、古い照合用データ（特徴量）からデータを消去、あるいはランダムで照合用データ（特徴量）を消去する。

次に、商品認識精度チェック処理におけるチェックアウトシステム１の動作について詳細に説明する。図９は、チェックアウトシステム１が実行する商品認識精度チェック処理の流れを示すフローチャートである。なお、前提条件として、商品認識精度チェック用プログラムＰＲ２が起動しているものとする。

図９に示すように、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品選択画面（不図示）を表示する（ステップＳ１１）。商品選択画面は、辞書に登録されている登録商品のリストを表示して、商品認識精度チェック処理を行う対象の商品を登録商品から選択させる画面である。オペレータは、商品選択画面に表示された商品ボタンを押下することにより、商品認識精度チェック処理を行う商品Ａを選択することができる。

次いで、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品ボタンの押下が検出されるか否かを判定する（ステップＳ１２）。ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、商品ボタンの押下を検出しない場合に（ステップＳ１２；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（物品指定部９１）は、ステップＳ１２にて待機する。

商品ボタンの押下を検出した場合に（ステップＳ１２；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、精度チェック画面Ｇ５（図１０参照）を表示させる（ステップＳ１３）。

図１０は、精度チェック画面Ｇ５の一例を示す説明図である。精度チェック画面Ｇ５は、商品認識精度チェック処理の状態および判定結果を表示する画面である。精度チェック画面Ｇ５は、大別すると、商品表示領域Ｒ５１と、通常認識判定領域Ｒ５２と、リアルタイム認識判定領域Ｒ５３と、中止ボタンＢ５１とを備える。

商品表示領域Ｒ５１は、商品認識精度チェック処理の対象商品を撮像部１６４が撮像して画像取込部５１によって取り込まれた画像を表示する領域である。商品表示領域Ｒ５１は、商品名領域Ｒ５１１と、撮像領域Ｒ５１２とを備える。商品名領域Ｒ５１１は、予め選択した商品認識精度チェックを行う対象商品の商品名が表示される領域である。撮像領域Ｒ５１２は、撮像部１６４が撮像した画像を表示する領域である。撮像領域Ｒ５１２に画像を表示することで、オペレータは、撮像部１６４に商品Ａを撮像させていることを確認することができる。

通常認識判定領域Ｒ５２は、商品認識精度チェック処理の判定結果が表示される領域である。通常認識判定領域Ｒ５２は、判定結果領域Ｒ５２１と、メッセージ表示領域Ｒ５２２とを備える。判定結果領域Ｒ５２１は、判定結果を表示する領域である。メッセージ表示領域Ｒ５２２は、商品認識精度チェック処理におけるメッセージを表示する領域である。よって、メッセージ表示領域Ｒ５２２は、初期状態には「商品をかざしてください」とのメッセージを表示する。

リアルタイム認識判定領域Ｒ５３は、シングルフレームでの認識結果を表示することにより、リアルタイムで認識結果を表示する領域である。中止ボタンＢ５１は、商品認識精度チェック処理を中止する場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、撮像部１６４が撮像し、画像取込部５１が取り込んだ撮像画像Ｇ５１を、商品表示領域Ｒ５１に表示させる（ステップＳ１４）。

図１１は、撮像画像Ｇ５１の一例を示す説明図である。撮像画像Ｇ５１は、撮像部１６４が撮像し、画像取込部５１が取り込んだ画像である。また、撮像画像Ｇ５１は、商品Ａを枠線で囲って表示する。さらに、撮像画像Ｇ５１は、撮像方法に不備がある場合に、商品Ａを読み取ることが出来ない旨のメッセージを表示する。図１１は、キャベツについて撮像しており、「読取ＮＧ」とのメッセージを表示している状態を示す。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、精度チェック画面Ｇ５に備えられた中止ボタンＢ５１の押下が検出されるか否かを判定する（ステップＳ１５）。中止ボタンＢ５１の押下が検出された場合に（ステップＳ１５；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６を表示させる（ステップＳ１６）。

図１２は、中止実行画面Ｇ６の一例を示す説明図である。中止実行画面Ｇ６は、中止ボタンＢ５１が押下された場合に、商品認識精度チェック処理を中止することを確認する画面である。よって、中止実行画面Ｇ６は、「精度チェックを中止してもよろしいですか？」とのメッセージを表示する。中止実行画面Ｇ６は、はいボタンＢ６１と、いいえボタンＢ６２とを備える。はいボタンＢ６１は、商品認識精度チェック処理を中止する場合に押下するボタンである。いいえボタンＢ６２は、商品認識精度チェック処理の中止を取り止める場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６に備えられたはいボタンＢ６１の押下が検出されるか否かを判定する（ステップＳ１７）。はいボタンＢ６１の押下が検出された場合に（ステップＳ１７；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、商品認識精度チェック処理を終了する。

一方、はいボタンＢ６１の押下が検出されない場合に（ステップＳ１７；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、中止実行画面Ｇ６に備えられたいいえボタンＢ６２の押下が検出されるか否かを判定する（ステップＳ１８）。

いいえボタンＢ６２の押下が検出されない場合に（ステップＳ１８；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ１７に戻る。一方、いいえボタンＢ６２の押下が検出された場合に（ステップＳ１８；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ１３に戻る。

精度チェック画面Ｇ５に備えられた中止ボタンＢ５１の押下が検出されない場合に（ステップＳ１５；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（商品検出部５２）は、商品Ａの特徴量の抽出が完了したか否かを判定する（ステップＳ１９）。商品Ａの特徴量の抽出が完了していない場合に（ステップＳ１９；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（商品検出部５２、類似度算出部５３および類似度判定部５４）は、ステップＳ１４に戻る。

一方、商品Ａの特徴量の抽出が完了した場合に（ステップＳ１９；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（類似度算出部５３）は、登録商品について類似度を算出する（ステップＳ２０）。次いで、ＰＯＳ端末１１のＣＰＵ６１（類似度判定部５４）は、登録商品について類似度の大きさで順位付けしたランキングを作成する（ステップＳ２１）。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が高位であるか否かを判定する（ステップＳ２２）。ここで、ランキングの順位が高位とは、選択した登録商品の類似度におけるランキングの順位が第１位、または類似度が高い確定商品であることの少なくとも何れか一方の条件を満たしていることである。

選択した登録商品の類似度におけるランキングの順位が高位である場合に（ステップＳ２２；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９２）は、通常認識判定領域Ｒ５２に高認識結果画面Ｇ５２を表示する（ステップＳ２３）。

図１３は、高認識結果画面Ｇ５２の一例を示す説明図である。高認識結果画面Ｇ５２は、類似度が高い確定商品であり、追加学習が必要ない旨を表示した画面である。ここで、追加学習とは、照合用のデータ（特徴量）が登録されている辞書に、商品の照合用データ（特徴量）を追加して記憶させることである。高認識結果画面Ｇ５２は、判定結果領域Ｒ５２１に、類似度が高いことを示すマークが表示される。そして、高認識結果画面Ｇ５２は、メッセージ表示領域Ｒ５２２に、「追加学習の必要はありません（自動確定可能商品）」とのメッセージを表示する。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、撮像部１６４が撮像し、画像取込部５１が取り込んだ撮像画像Ｇ５１から商品Ａがフレームアウトしたか否かを判定する（ステップＳ２４）。商品Ａがフレームアウトしない場合に（ステップＳ２４；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、中止ボタンＢ５１の押下が検出されるか否かを判定する（ステップＳ２７）。一方、商品Ａがフレームアウトした場合に（ステップＳ２４；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、再判定画面Ｇ５５を撮像領域Ｒ５１２に表示する（ステップＳ２５）。

図１４は、再判定画面Ｇ５５の一例を示す説明図である。再判定画面Ｇ５５は、精度チェックを再度実施するか否かをオペレータに問う画面である。再判定画面Ｇ５５は、精度チェック後に、商品Ａがフレームアウトした場合に、撮像領域Ｒ５１２に表示される。再判定画面Ｇ５５は、「再判定の場合［再判定］ボタンを押して商品をスキャナにかざしてください」とのメッセージを表示する。そして、再判定画面Ｇ５５は、再判定ボタンＢ５４を備える。再判定ボタンＢ５４は、初期状態に戻し、再度、商品認識精度チェック処理における判定を行う場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、再判定ボタンＢ５４の押下が検出されるか否かを判定する（ステップＳ２６）。再判定ボタンＢ５４の押下が検出された場合に（ステップＳ２６；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、初期状態であるステップＳ１３に戻る。一方、再判定ボタンＢ５４の押下が検出されない場合に（ステップＳ２６；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、中止ボタンＢ５１の押下が検出されるか否かを判定する（ステップＳ２７）。

中止ボタンＢ５１の押下が検出された場合に（ステップＳ２７；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ１６に移行して中止実行画面Ｇ６を表示する。一方、中止ボタンＢ５１の押下が検出されない場合に（ステップＳ２７；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ２４に戻る。

選択した登録商品の類似度におけるランキングの順位が高位ではない場合に（ステップＳ２２；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、商品認識精度チェック処理の対象に選択した登録商品の類似度におけるランキングの順位が中位であるか否かを判定する（ステップＳ２８）。ここで、ランキングの順位が中位とは、ランキング第１位を除いた商品候補であることを示す。具体的には、選択した登録商品の類似度におけるランキングの順位が第２位から第４位などである。

選択した登録商品の類似度におけるランキングの順位が中位である場合に（ステップＳ２８；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９２）は、通常認識判定領域Ｒ５２に中認識結果画面Ｇ５３を表示する（ステップＳ２９）。

図１５は、中認識結果画面Ｇ５３の一例を示す説明図である。中認識結果画面Ｇ５３は、類似度が第１位以外の商品候補であり、追加学習を推奨している旨を表示する画面である。

中認識結果画面Ｇ５３は、判定結果領域Ｒ５２１に、類似度が許容範囲内にあることを示すマークが表示される。そして、中認識結果画面Ｇ５３は、メッセージ表示領域Ｒ５２２に、「判定結果を上げる場合は追加学習してください」とのメッセージを表示する。また、中認識結果画面Ｇ５３は、メッセージ表示領域Ｒ５２２に、追加学習実行ボタンＢ５２ａを表示する。追加学習実行ボタンＢ５２ａは、商品認識精度チェックの対象商品の特徴量の追加学習処理を開始する場合に押下するボタン（操作子）である。

選択した登録商品の類似度におけるランキングの順位が中位でない場合に（ステップＳ２８；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１（報知部９２）は、選択した登録商品の類似度におけるランキングの順位が低位であるとして、通常認識判定領域Ｒ５２に低認識結果画面Ｇ５４を表示する（ステップＳ３０）。ここで、選択した登録商品の類似度におけるランキングの順位が低位とは、商品候補より類似度が低いことを示す。具体的には、選択した登録商品の類似度におけるランキングの順位が第５位以下などである。

図１６は、低認識結果画面Ｇ５４の一例を示す説明図である。低認識結果画面Ｇ５４は、類似度が商品候補より類似度が低く、追加学習が必要である旨を表示する画面である。また、低認識結果画面Ｇ５４は、商品Ａが検出できない場合に表示される。商品Ａが検出できない場合とは、商品Ａの全部または一部が撮像されていない場合や、商品Ａを持つ手により、商品Ａが隠れてしまっている場合などである。

低認識結果画面Ｇ５４は、判定結果領域Ｒ５２１に、類似度が低いことを示すマークが表示される。そして、低認識結果画面Ｇ５４は、メッセージ表示領域Ｒ５２２に、「追加学習が必要です」とのメッセージを表示する。また、低認識結果画面Ｇ５４は、メッセージ表示領域Ｒ５２２に、追加学習実行ボタンＢ５２ｂを表示する。追加学習実行ボタンＢ５２ｂは、追加学習を行う場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、選択した登録商品の類似度におけるランキングの順位が高位である場合に実行する処理（ステップＳ２４からステップＳ２７）と同様の処理を実行する（ステップＳ３１からステップＳ３４）。ランキングの順位が高位である場合に実行する処理との違いは、追加学習を行うための追加学習実行ボタンＢ５２ａ、Ｂ５２ｂの押下が検出されるか否かを判定することである。

具体的には、中止ボタンＢ５１の押下が検出されない場合に（ステップＳ３４；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、追加学習実行ボタンＢ５２ａ、Ｂ５２ｂが押下されるか否かを判定する（ステップＳ３５）。

追加学習実行ボタンＢ５２ａ、Ｂ５２ｂの押下が検出されない場合に（ステップＳ３５；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ３１に戻る。一方、追加学習実行ボタンＢ５２ａ、Ｂ５２ｂの押下が検出された場合に（ステップＳ３５；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（追加学習部９３）は、追加学習準備画面Ｇ７を表示する（ステップＳ３６）。

図１７は、追加学習準備画面Ｇ７の一例を示す説明図である。追加学習準備画面Ｇ７は、オペレータに追加学習処理を開始する準備を促す画面である。よって、追加学習準備画面Ｇ７は、「学習する商品サンプルを３個用意してください」とのメッセージを表示する。また、追加学習準備画面Ｇ７は、用意する商品Ａを表示する。図１７は、用意する商品Ａとしてキャベツを表示している。さらに、追加学習準備画面Ｇ７は、キャンセルボタンＢ７１と、ＯＫボタンＢ７２とを備える。キャンセルボタンＢ７１は、追加学習をキャンセルする場合に押下するボタンである。ＯＫボタンＢ７２は、準備が完了し、追加学習を開始する場合に押下するボタンである。

次いで、ＰＯＳ端末１１のＣＰＵ６１は、ＯＫボタンＢ７２の押下が検出されるか否かを判定する（ステップＳ３７）。ＯＫボタンＢ７２の押下が検出されない場合に（ステップＳ３７；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、キャンセルボタンＢ７１の押下が検出されるか否かを判定する（ステップＳ３８）。

キャンセルボタンＢ７１の押下が検出されない場合に（ステップＳ３８；Ｎｏ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ３７に戻る。一方、キャンセルボタンＢ７１の押下が検出された場合に（ステップＳ３８；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１は、ステップＳ２８に戻り、類似度に応じた画面を表示させる。

一方、ＯＫボタンＢ７２の押下が検出された場合に（ステップＳ３７；Ｙｅｓ）、ＰＯＳ端末１１のＣＰＵ６１（追加学習部９３）は、追加学習を開始（ステップＳ３９）して処理を終了する。

以上のように、本実施形態によれば、物品指定部９１は、ＰＬＵファイルＦ１から商品認識精度チェックの対象商品を選択させる。商品検出部５２は、撮像部１６４が撮像し、画像取込部５１により取り込まれたフレーム画像に含まれる商品Ａを検出して特徴量を抽出する。そして、類似度算出部５３は、ＰＬＵファイルＦ１に登録されている各商品の特徴量と、商品検出部５２が抽出した特徴量とをそれぞれ比較することで、ＰＬＵファイルＦ１に登録された登録商品ごとに類似度を算出する。報知部９２は、物品指定部９１によって選択された商品Ａの類似度が、ＰＬＵファイルＦ１の中で高位でない場合に、ＰＬＵファイルＦ１に記憶された照合用データ（特徴量）を追加学習による更新することについて報知する。よって、本実施形態は、照合用データ（特徴量）の追加学習の要否について報知することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

なお、上記実施形態では、情報処理装置としてＰＯＳ端末１１を例にあげて説明している。しかし、情報処理装置は、ＰＯＳ端末１１に限らない。例えば、パーソナルコンピュータやタブレット端末などであってもよい。この場合には、パーソナルコンピュータやタブレット端末に、スキャナなどの撮像装置を接続すればよい。

また、上記実施形態では、情報処理装置であるＰＯＳ端末１１のＣＰＵ６１は、画像取込部５１、商品検出部５２、類似度算出部５３、類似度判定部５４、商品提示部５５、入力受付部５７、情報入力部５８、売上登録部５９、物品指定部９１、報知部９２、及び追加学習部９３としての機能を有していると説明した。しかし、これらの機能は、ＰＯＳ端末１１のＣＰＵ６１以外が備えていてもよい。例えば、商品読取装置１０１のＣＰＵ１６１に、前述の機能の全部または一部が備えられていてもよい。

また、上記実施形態では、照合用データを特徴量として説明したが、照合用データは、撮像された商品画像（基準画像）としてもよい。

また、上記実施形態では、店舗システムとしてＰＯＳ端末１１と商品読取装置１０１とで構成されるチェックアウトシステム１を適用したがこれに限るものではなく、ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置に適用するようにしてもよい。ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置としては、スーパーマーケット等の店舗に設置されて用いられるセルフチェックアウト装置（以降、単にセルフＰＯＳと称する）が挙げられる。

ここで、図１８はセルフＰＯＳ２００の構成を示す外観斜視図、図１９はセルフＰＯＳ２００のハードウェア構成を示すブロック図である。尚、以下では、図１および図２に示される同様の構成については同一の符号を付して示し、その重複する説明を省略する。図１８および図１９に示すように、セルフＰＯＳ２００の本体２０２は、タッチパネル１０５が表面に配設された表示デバイス１０６や、商品Ａの種別等を認識（検出）するために商品画像を読み取る商品読取部１１０を備えている。

表示デバイス１０６としては例えば液晶表示器が用いられる。表示デバイス１０６は、客にセルフＰＯＳ２００の操作方法を知らせるための案内画面や、各種の入力画面や、商品読取部１１０で読み込んだ商品情報を表示する登録画面、商品Ａの合計金額や預かり金額、釣銭額等を表示し、支払い方法の選択をする精算画面等を表示する。

商品読取部１１０は、客が商品Ａに付されたコードシンボルを商品読取部１１０の読取窓１０３にかざすことで商品画像を撮像部１６４により読み取るものである。

また、本体２０２の右側にはかごに入った未精算の商品Ａを置くための商品載置台２０３が設けられ、本体２０２の左側には精算済みの商品Ａを置くための商品載置台２０４が設けられ、精算済みの商品Ａを入れるための袋を掛ける袋掛けフック２０５や、精算済みの商品Ａを袋に入れる前に一時的に置いておくための一時置き台２０６が設けられている。商品載置台２０３、２０４には計量器２０７、２０８がそれぞれ備えられており、精算の前後で商品Ａの重量が同じであることを確認する機能を有している。

また、セルフＰＯＳ２００の本体２０２には、精算用の紙幣の入金や釣り紙幣の受け取りを行うための釣り銭器２０１が設けられている。

このような構成のセルフＰＯＳ２００を店舗システムに適用した場合、セルフＰＯＳ２００が情報処理装置として機能することになる。

また、上記実施形態の各装置で実行されるプログラムは、各装置が備える記憶媒体（ＲＯＭ又は記憶部）に予め組み込んで提供するものとするが、これに限らず、インストール可能な形式又は実行可能な形式のファイルでＣＤ−ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ−Ｒ、ＤＶＤ（Digital Versatile Disk）等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。さらに、記憶媒体は、コンピュータ或いは組み込みシステムと独立した媒体に限らず、ＬＡＮやインターネット等により伝達されたプログラムをダウンロードして記憶又は一時記憶した記憶媒体も含まれる。

また、上記実施形態の各装置で実行されるプログラムをインターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよく、インターネット等のネットワーク経由で提供又は配布するように構成してもよい。

１１ ＰＯＳ端末
５２ 商品検出部
５３ 類似度算出部
９１ 物品指定部
９２ 報知部
１６４ 撮像部
Ｆ１ ＰＬＵファイル
ＰＲ２ 商品認識精度チェック用プログラム
Ｇ５ 精度チェック画面

特開２００３−１７３３６９号公報

Claims (6)

1. 窓に向けられた物品を撮像する撮像部と、
   前記撮像部が撮像した物品を識別するための照合用データが記憶された複数の物品から、精度チェック対象の物品を選択させる選択手段と、
   前記選択手段によって前記物品が選択されると、当該物品を前記窓にかざす旨のメッセージを表示する第１表示手段と、
   前記撮像部が撮像した画像に含まれる物品の特徴量を抽出する抽出手段と、
   前記照合用データと、前記抽出手段が抽出した特徴量とを比較して、前記照合用データが記憶されている物品ごとに類似度を算出する類似度算出手段と、
   前記類似度算出手段が算出した物品ごとの類似度の中で、前記選択手段によって選択された前記物品の照合用データの類似度が高位でない場合に、前記選択手段によって選択された前記物品の照合用データの更新について報知する報知手段と、
   を備えた情報処理装置。
2. 撮像部が撮像した画像を表示する表示部を更に備え、
   撮像方法に不備があると、前記表示部に物品を読み取ることが出来ない旨のメッセ―ジを表示させる、
   請求項１に記載の情報処理装置。
3. 前記報知手段が報知した後に前記撮像部が撮像している画像から物品がフレームアウトすると、前記表示部に精度チェックを再度実施するか否かを問う画面を表示させる、
   請求項２に記載の情報処理装置。
4. 前記画面には、精度チェックを再度実施する場合には、物品を窓にかざす旨のメッセージが表示される、
   請求項３に記載の情報処理装置。
5. 前記報知手段が報知した場合に、前記抽出手段が抽出した照合用データを前記精度チェック対象の物品の照合用データに追加して登録させる追加学習を指示する入力を受け付ける入力手段と、
   前記入力手段が追加学習の指示を受け付けた場合に、個数を指定した追加学習の対象の物品の用意を促す画面を表示させる第２表示手段と、
   を更に備えた請求項１に記載の情報処理装置。
6. 窓に向けられた物品を撮像する撮像部を備えるコンピュータを、
   前記撮像部が撮像した物品を識別するための照合用データが記憶された複数の物品から、精度チェック対象の物品を選択させる選択手段と、
   前記選択手段によって前記物品が選択されると、当該物品を前記窓にかざす旨のメッセージを表示する第１表示手段と、
   前記撮像部が撮像した画像に含まれる物品の特徴量を抽出する抽出手段と、
   前記照合用データと、前記抽出手段が抽出した特徴量とを比較して、前記照合用データが記憶されている物品ごとに類似度を算出する類似度算出手段と、
   前記類似度算出手段が算出した物品ごとの類似度の中で、前記選択手段によって選択された前記物品の照合用データの類似度が高位でない場合に、前記選択手段によって選択された前記物品の照合用データの更新について報知する報知手段と、
   として機能させるプログラム。

Images