JP2016167304A - 分類器の分類結果を改善する方法 - Google Patents

Abstract

【課題】分類器の分類結果を改善する方法を提供する。【解決手段】分類器の分類結果を改善する方法であって、複数の分類の１つとして分類器により分類された複数の要素の分類結果を受信するステップと、複数のノード及び複数のラベルを有するグラフを構築するステップであって、各ノードは要素の１つに対応し、各ラベルは分類の１つに対応する、ステップと、関連する要素に対応するノード間にエッジを加えるステップと、各ノードと各ラベルとの間にエッジを加えるステップと、ノード及び関連する要素に対応する要素の前記分類結果を入力として用いるグラフカットアルゴリズムを用いて、エッジをノードにカットし、グラフを分類に区分するステップと、を含む方法。【選択図】図２

Description

本願は、２０１１年３月４日に提出されたオーストラリア国仮出願番号第２０１１９００７８３号の優先権を主張するものであり、その内容が参照により本明細書に援用される。

本発明は、分類器の分類結果を改善する方法及びソフトウェアに関する。本発明は、ピクセル又は画像分類結果におけるその用途について説明されるが、本発明の原理及び概念は、他の分類タスクと同等に適用可能である。

分類器は、複数の分類の１つとして複数の要素を分類するために機械学習アルゴリズムを用いてトレーニングされる。分類器は、各要素の分類を予測し、予測の信頼性の評価を行う。

既存の分類器の一例は、ブーストされた分類器であり、高い精度の単一の“強い”分類器を生成するために“弱い”分類器（分類精度は低いが、ランダムよりは優れている）のセットの出力を組み合わせる。弱い分類器を組み合わせる際に、各弱い分類器の結果は、弱い分類器の正確さの信頼性に基づいて重み付けされる。ブーストしたアルゴリズムは、次の弱い分類器をトレーニングするときに、弱い分類器により誤って分類された例により大きな重みを与えることにより、分類器の性能を適応的に改善する。

多数の弱い分類器を組み合わせたにもかかわらず、強い分類器は、必ずしも、与えられた課題に対する正確な分類を生成するわけではない。例えば、ブースト分類器が、画像の特徴を区分又は選択するために用いられる場合に、画像のいくつかのピクセルは、誤ってラベル付けされ、得られる区分にノイズをもたらす。

このノイズは、ノイズの小さな領域を除去するためのラベルのエロージョン（ｅｒｏｓｉｏｎ）及び膨張（ｄｉｌａｔｉｏｎ）のような簡素なモーフォロジカルフィルタリングオペレーションを用いることにより、ある範囲まで一掃される。エロージョンは、物体のサイズを減少させ、例外を除去し、膨張は、物体のサイズを増加させ、穴を埋める。しかし、これらのオペレーションの標準的な式は、本質的に過度に単純化して描画する一方で、適用時に追加情報を組み込むことができない。

他の既存技術は、結果を改良するためにより洗練された膨張技術を用いることを含む。各膨張ステップで、当該領域が属する区分された領域の境界近傍のポイントの尤度が演算され、閾値を超える尤度を有するポイントが加えられる。尤度は、領域内の画像強度に基づく。

別の代替手段は、分類結果を改善するために色分岐点区分を用いることである。分類は、各領域のシードポイントを抽出するために用いられる。分岐点区分は、その後、全てのピクセルがラベル付けされるまで、これらの領域を拡張するために適用される。この拡張は、領域色情報に基づく。

本発明の目的は、分類器の分類結果を改善する別の方法を提供することである。

上述した背景技術は、本発明の内容を説明することが含まれる。任意の文献又は他の資料は、本明細書の特許請求の範囲のいずれか１つの優先日において公開され、既知である、又は一般的な知識の一部を示すことを認めるものではない。

本発明は、複数の分類の１つとして前記分類器により分類された複数の要素の分類結果を受信するステップと、複数のノード及び複数のラベルを有するグラフを構築するステップであって、各ノードは前記要素の１つに対応し、各ラベルは前記分類の１つに対応する、ステップと、関連する要素に対応するノード間にエッジを加えるステップと、各ノードと各ラベルとの間にエッジを加えるステップと、前記ノード及び前記関連する要素に対応する要素の前記分類結果を入力として用いるグラフカットアルゴリズムを用いて、前記エッジを前記ノードにカットし、前記グラフを分類に区分するステップと、を含む分類器の分類結果を改善する方法を提供する。

グラフカットアルゴリズムは、エネルギー関数を最小化することにより、グラフの最適な区分を２又はそれ以上の分類に演算する。この場合に、エネルギー関数は、要素及びそれらに関連する要素のための分類結果を入力として用いる。グラフカットアルゴリズムのアプリケーションは、分類器により誤って分類された、いくつかの要素の再分類をもたらし、分類結果を改善する。

初期分類を行う分類器は、３又はそれ以上の分類の１つとしての要素を分類するために用いられたマルチクラス分類器であってもよい。したがって、グラフカットアルゴリズムは、グラフを３又はそれ以上の分類に区分するためにマルチクラスグラフカットアルゴリズムであってもよい。マルチクラスグラフカットアルゴリズムは、バイナリグラフカットよりも複雑であるが、要素のより意義のある分類を提供することを可能にする。このようなアルゴリズムは、Ｙｕｒｉ Ｂｏｙｋｏｖ， Ｏｌｇａ Ｖｅｋｓｌｅｒ， ａｎｄ Ｒａｍｉｎ Ｚａｂｉｈ “Ｆａｓｔ ａｐｐｒｏｘｉｍａｔｅ ｅｎｅｒｇｙ ｍｉｎｉｍｉｚａｔｉｏｎ ｖｉａ ｇｒａｐｈ ｃｕｔｓ” ＩＥＥＥ Ｔｒａｎｓ． Ｐａｔｔｅｒｎ Ａｎａｌ． Ｍａｃｈ． Ｉｎｔｅｌｌ．， ２３：１２２２−１２３９， Ｎｏｖｅｍｂｅｒ ２００１に説明されるように、アルファ拡張処理又はアルファベータ拡張処理を含んでもよく、その内容が参照により本明細書に援用される。

アルファ拡張では、各ノードの現在のラベルと取り得るラベルのセットからの候補ラベルとを区分する各時間に、一連のグラフカットが行われる。この処理は繰り返され、それぞれの取り得るラベルを通じて、収束するまで繰り返す。グラフを構築する際に、補助的なノードは、カットにおけるこのラベリングのコストを含むために、異なるラベルを有する隣接するノード間に加えられる。

前記分類器は、強い分類器を作成するために弱い分類器のセットの出力を組み合わせるブーストされた分類器であってもよい。それに替えて、前記分類器は、決定木、ランダムフォレストであってもよく、又は線形分類判別（Ｌｉｎｅａｒ Ｄｉｓｃｒｉｍｉｎａｎｔ Ａｎａｌｙｓｉｓ（ＬＤＡ））又は要素を分類するための任意の他の技術であってもよい。

分類器から得られる分類は、当該要素の分類の信頼性を示す各要素の信頼値を含み、前記グラフカットアルゴリズムは、さらに、ノードに対応する要素の前記分類の前記信頼値を入力として用いてもよい。また、前記グラフカットアルゴリズムは、さらに、前記関連する要素の前記分類の前記信頼値を入力として用いてもよい。前記グラフカットは、結果を空間的に整理し、分類又はラベリングのノイズを低減する。特に、信頼性の高い分類は、通常、維持されるが、信頼性の低い分類は、より一様な出力を得るために置き換えられてもよい。例えば、信頼性の低い分類が、信頼性の高い同一の分類に分類される関連する要素により取り囲まれる場合、信頼性の低い要素の分類においてより信頼できる。同様に、関連する要素が信頼性の高い異なる分類に分類された場合、信頼性の低い要素の分類を当該分類へ変更する強いケースが存在する。

グラフカットアルゴリズムは、さらに、関連する要素が同一の分類を有する尤度を入力として用いてもよい。よって、グラフカットアルゴリズムにより最小化されたエネルギー関数は、与えられたノードが、与えられたラベルと、２つの隣接するノードが異なるラベルを有する尤度と、を備えることの信頼性に基づく項を含んでもよい。

分類された要素は、画像内のピクセルであってもよく、関連する要素は、画像内の隣接するピクセルであってもよい。それに替えて、要素は、ＭＲＩスキャンからの３次元体積のボクセルであってもよく、関連する要素は、隣接するボクセルであってもよい。別の例では、要素は、それらのコンテントに基づいて分類されたドキュメントであってもよく、関連する要素は、一方が他方への基準を含むドキュメントのペアであってもよい。

一例では、前記方法は、固形培養培地及び固形培養培地上の微生物増殖（例えばバクテリアによるコロニー）の画像データにおけるピクセルを分類するためにトレーニングされたピクセル分類の結果を整理するために用いられてもよく、これは、例えば、本願と共に係属中であり、本願と同一出願人及び同日に提出された“Ｍｅｔｈｏｄ ａｎｄ Ｓｏｆｔｗａｒｅ ｆｏｒ Ａｎａｌｙｓｉｎｇ Ｍｉｃｒｏｂｉａｌ Ｇｒｏｗｔｈ”という発明の名称の出願に記載されており、その内容が参照により本明細書に援用される。前記方法は、また、ピクセルの分類結果を改善し、実施例において、固形培養培地及び任意の微生物増殖の微生物学的評価をより正確に導出するために、ブーストされた分類器が、その予測において低い信頼性を有することがわかった。

培地は、通常、例えば寒天であり、通常、プレートのような容器に入れられており、より具体的な例としては、蓋を有するペトリ皿であってもよいことが当業者によって理解されるであろう。培地及びプレートの組み合わせは、この分野では“寒天プレート”としても示される“培養プレート”として明細書中で以下に示される。

実施形態では、関連する要素は、グラフにおいて各ピクセルが、画像中の周囲のピクセルに完全に結合されるような８つの隣接するピクセルを含む。これは、グラフの最も正確な区分をもたらすが、コンピュータ的にコストが掛かる。演算を軽減し、アルゴリズムの速度を上げるために、エッジは、４つの隣接するピクセルのみに加えられ、例えば、角のピクセルは、ピクセルの３×３のブロックの真ん中のピクセルと結合されてもよい。

演算を軽減するためのさらに別の手段では、各要素は、画像の隣接する領域であってもよい。よって、関連する要素は、画像の隣接する領域であってもよい。要素は、同一色であり、境界内にある隣接するピクセルのグループであってもよい。固形培養培地のバクテリアによるコロニーの画像では、例えば、各円状領域又は分類器により検出されるコロニーは、グラフのノードであってもよい。隣接する領域は、また、同一の分類を有すると共に、閾値（例えば、高い信頼性を定義する閾値）を超える信頼値を有するピクセルを含んでもよい。このピクセルのグループは、グラフの単一の要素を定義する。

グラフカットアルゴリズムは、さらに、例えば固形培養培地のバクテリアのタイプの期待されるコロニーサイズのような画像中の物体の期待されるサイズを入力として用いる。これは、グラフカットアルゴリズムが、このサイズよりもより小さいクラスターを除去することを可能にする。それに替えて又は加えて、グラフカットアルゴリズムは、さらに、隣接するピクセルに関する所定のルールを入力として用いてもよい。このルールは、エキスパートシステムから取得されてもよく、互い隣接して増殖しない特定のバクテリアのタイプのような事前情報を含んでもよい。

また、本発明は、プロセッサ及びソフトウェアを記憶するメモリを含むコンピュータにより使用するソフトウェアを提供し、ソフトウェアは、上述した実施形態の１つに係る方法を実行するためにプロセッサにより実行可能な一連の命令を含む。

本発明は、ソフトウェアを含むコンピュータ可読媒体、並びにプロセッサ、メモリ及びプロセッサにアクセス可能なメモリに常駐するソフトウェアを含む装置にも及び、ソフトウェアは、上述した実施形態の１つに係る方法を実行するためにプロセッサにより実行可能である。

本発明の実施形態は、例示のみによる添付の図面を参照しながら説明される。特定の図面は、本発明の前述の説明の一般概念に取って代わるものではないことが理解される。
図１は、本発明の実施形態に係る方法を実行する処理システムの一例の機能ブロック図である。 図２は、分類器の分類結果を改善するためにグラフカットアルゴリズムを適用する方法のフローチャートである。 図３は、（ａ）初期グラフ及び（ｂ）グラフカットアルゴリズムが適用された後のラベリングを示す分割されたグラフを示す。 図４は、アルファ拡大処理において使用する補助ノードにより構築されるグラフを示す。 図５は、アルファ拡大処理においてなされうるあり得るカットを示すグラフのセットである。

処理システムの例本発明の実施形態で使用される処理システムの一例が図１を参照しながら説明される。処理システム１０は、プロセッサ１２と、メモリ１４と、少なくとも１つの入力装置１６と、少なくとも１つの出力装置１８と、通信ポート２０と、インターフェース２２と、ストレージ装置２４と、を含む。図示されるように、処理システム１０の構成要素は、バスまたはバスのグループ２６を介して互いに接続される。

プロセッサ１２は、１つ以上の処理装置を含んでもよく、例えば、処理システム１０内の異なる機能を処理するものであってもよい。メモリ１４は、例えば、揮発性又は不揮発性メモリ、ソリッドステートストレージデバイス、磁気デバイス等を含む任意の適切なメモリ装置を含んでもよい。メモリ１４は、プロセッサ１２により実行する命令を記憶してもよい。

入力装置１６は、入力データを受信してもよく、入力装置１６は、例えば、キーボード、マウス又は他のポインター装置、トラックボール、ジョイスティック又はタッチスクリーン、マイクロホン、モデム又は無線データアダプタ、データ取得カードなどのデータレシーバ又はアンテナを含んでもよい。入力装置１６は、入力データを入力するためにユーザにより操作可能であってもよく、又は別の入力データソースからデータを受信してもよい。

出力装置１８は、出力データを作成又は生成する。出力装置１８は、ディスプレイ装置、オーディオスピーカのセット、プリンタ、ポート（例えば、ＵＳＢポート）、周辺機器のアダプタ、モデム又は有線ネットワークアダプタ等のデータトランスミッタ又はアンテナを含んでもよい。

ストレージ装置２４は、任意のデータ形態又は例えば、揮発性又は不揮発性メモリ、ソリッドステートストレージデバイス、磁気デバイス等の情報記憶手段を含むことができる。ファイルシステム又はファイルは、ストレージ装置２４に記憶されてもよい。

通信ポート２０は、処理システム１０が、配線接続された又は無線のネットワークを介して他の装置と通信することを可能にする。インターフェース２２は、処理システム１０を一又はそれ以上の周辺機器に接続する。例えば、インターフェース２２は、ＰＣＩカード又はＰＣカードを含んでもよい。

処理システム１０は、任意の形態の端末、サーバ処理システム、専門化したハードウェア、コンピュータ、コンピュータシステム又はコンピュータ化された装置、パーソナルコンピュータ（ＰＣ）、モバイル又は携帯電話機、モバイルデータ端末、ポータブルコンピュータ、パーソナルデジタルアシスタント（ＰＤＡ）、ページャ又は他の類似のタイプの装置であってもよい。

分類結果を改善する方法分類器の分類結果を改善する方法は、メモリ１４又はストレージ装置２４に記憶されるソフトウェアを用いてプロセッサ１２で実行されてもよい。マルチクラスのブーストされた決定木分類器の分類結果を整理する実施形態、特に、培養プレート及び任意の微生物増殖の固形培養培地の画像データにおけるピクセルを分類するために用いられるものが説明される。このような分類器は、上記に挙げた共に係属中の出願に詳細に説明され、例えば、固形培養培地上のバクテリアによるコロニーの有無を検出することのような固形培養培地及び培養プレート上の微生物増殖の微生物学的評価を得るために用いられてもよい。

図２を参照すると、ステップ３０において、グラフは、画像データのピクセル（又はピクセルのサンプルの１つ）に対応する各ノードにより構築される。ラベルは、また、分類に対応する各ラベルに加えられる。ステップ３２において、エッジは、隣接する又は隣り合うピクセルに対応するノード間加えられ、ステップ３４において、エッジは、各ノードと各ラベルとの間に加えられる。ステップ３６において、グラフカットアルゴリズムは、エッジをノードにカットし、グラフを分類に区分するために用いられ、グラフカットアルゴリズムは、そのノードに対応するピクセル及び隣接するピクセルのピクセル分類結果を入力として用いる。

図３は、初期グラフ（ａ）及びカット後のラベリングを示す区分されたグラフ（ｂ）を示す。図３では、ソースノードＳ及びシンクノードＴは、取り得るノードラベルに対応する。グラフカットは、各ノードのラベルを決定し、各ノードとシンク又はソースとの間のエッジをカットし、異なるラベルを有する隣接するノード間のエッジをカットする。特定のリングがカットされる各時間に、コストが負担される。最小コストカットを演算する際に、グラフカット処理は、以下の式のエネルギー関数を最小化する。
ここで、ｌは、ラベルのセットであり、Ｎは、ノードのセットであり、Ｍは、全ての隣接するノードのセットであり、ｘは、特徴データであり、Ｕ（ｌ_ｉ；ｘ_ｉ）は、取り得るラベルアサイメントそれぞれに対する各ノードへコストを割り当て（エッジをソース又はシンクにカットするコストとして実装される）、Ｖ（ｌ_ｐ，ｌ_ｑ）は、異なるラベルに、アタッチされたノードを割り当てるために各エッジへコストを割り当てる。

ｐｌ_ｉ（ｘ_ｉ）は、ラベルｌ_ｉを特徴ベクトルｘ_ｉに割り当てる場合における信頼性であり、ｈ（ｘ，ｋ）がクラスｋの分類結果であるＪクラスによるマルチクラス分類器において正しく分類する確率の式で演算される。
一方

グラフカットアルゴリズムへの他の入力は、画像の色及びエッジデータを含んでもよい。さらに、ラベリングのために期待されるコロニーのサイズは、Ｕ（l_ｉ；ｘ_ｉ）コストアサイメントに含まれてもよい。考慮されうる他の要因は、エキスパートシステムからの所定のルールであり、例えば、互いに次に現れない又は共に現れやすい等のコロニータイプの定義である。これは、平滑度の項Ｖ（ｌ_ｐ，ｌ_ｑ）に組み込まれてもよい。

取り得るラベルの数が２以上である場合、アルファ拡張処理は、バイナリラベリングからマルチプルクラスラベリングを行うために用いられる。アルファ拡張処理のための擬似コードは、以下に示すように、Ｙｕｒｉ Ｂｏｙｋｏｖ， Ｏｌｇａ Ｖｅｋｓｌｅｒ， ａｎｄ Ｒａｍｉｎ Ｚａｂｉｈ “Ｆａｓｔ ａｐｐｒｏｘｉｍａｔｅ ｅｎｅｒｇｙ ｍｉｎｉｍｉｚａｔｉｏｎ ｖｉａ ｇｒａｐｈ ｃｕｔｓ” ＩＥＥＥ Ｔｒａｎｓ． Ｐａｔｔｅｒｎ Ａｎａｌ． Ｍａｃｈ． Ｉｎｔｅｌｌ．， ２３：１２２２−１２３９， Ｎｏｖｅｍｂｅｒ ２００１の第２ページに与えられている。この論文の内容は、参照により本明細書に援用される。

例えば、バクテリアのタイプ又はバックグラウンドの取り得る分類の各々に対して、処理は、ステップ３．１及び３．２に亘って反復し、異なる分類の任意のラベルが、グラフのトータルエネルギーＥを増加させずに、当該分類へ切り替えられるかどうかをチェックする。分類ごとに処理が繰り返され、さらなるエネルギー削減が可能でない場合、最適化ラベリングは、リターンされる。

グラフを構築する際に、補助的なノードは、カットのこのラベリングのコストを含むために、異なるラベルを有する隣接するノード間に加えられる。図４は、ノードｐ及びｑ間の補助的なノードの追加、及びこのグラフに対してエッジ重みを与えることを示す。カットのコストは、そのエッジ重みの合計に等しい。ピクセルの各ペアに対して、カットは、図５に示すように、エッジの３つのグループを１つに切り離さなければならない。この図は、Ｙｕｒｉ Ｂｏｙｋｏｖ， Ｏｌｇａ Ｖｅｋｓｌｅｒ， ａｎｄ Ｒａｍｉｎ Ｚａｂｉｈの論文から取得された。アルファ拡張処理は、３つのグループが最小エッジの重みを有し、３つのエッジをカットすることを求める。カットがラベルアルファからのピクセルを隔てる場合、ピクセルは、ラベルアルファに割り当てられる。

グラフカットが行われると、ピクセルの得られた分類は、固形培養培地上の微生物増殖の微生物学的な評価を導き、出力するために分析されてもよい。この評価は、培養培地上の微生物増殖のタイプ及び量を求めるために各分類においてどのくらいの数のピクセルがラベル付けされたかをカウントすることを含んでもよい。また、特定の分類のピクセルの数が所定の数よりも大きいかどうかを算定することを含んでもよい。

本発明の範囲から逸脱しない限り、様々な変更、追加及び／又は修正が前述した要素でなされること、及び上記の教示を踏まえて、本発明は、当業者によって理解されるであろう各種の手法でソフトウェア、ファームウェア及び／又はハードウェアに実装されてもよいことが理解される。

Claims (20)

1. 分類器の分類結果を改善する方法であって、
   複数の分類の１つとして前記分類器により分類された複数の要素の分類結果を受信するステップと、
   複数のノード及び複数のラベルを有するグラフを構築するステップであって、各ノードは前記要素の１つに対応し、各ラベルは前記分類の１つに対応する、ステップと、
   関連する要素に対応するノード間にエッジを加えるステップと、
   各ノードと各ラベルとの間にエッジを加えるステップと、
   前記ノード及び前記関連する要素に対応する要素の前記分類結果を入力として用いるグラフカットアルゴリズムを用いて、前記エッジを前記ノードにカットし、前記グラフを分類に区分するステップと、を含む方法。
2. 前記分類器は、３又はそれ以上の分類の１つとして前記要素を分類するために適用されたマルチクラス分類器である請求項１に記載の方法。
3. 前記グラフカットアルゴリズムは、前記グラフを３又はそれ以上の分類に区分するためのマルチクラスグラフカットアルゴリズムである請求項１または２に記載の方法。
4. 前記分類器は、ブースト分類器である請求項１から３のいずれか一項に記載の方法。
5. 前記分類結果は、前記要素の前記分類の信頼性を示す各要素の信頼値を含み、前記グラフカットアルゴリズムは、さらに、前記ノードに対応する要素の前記分類の前記信頼値を入力として用いる請求項１から４のいずれか一項に記載の方法。
6. 前記グラフカットアルゴリズムは、さらに、前記関連する要素の前記分類の前記信頼値を入力として用いる請求項５に記載の方法。
7. 前記グラフカットアルゴリズムは、さらに、関連する要素が同一の分類を有する尤度を入力として用いる請求項１から６のいずれか一項に記載の方法。
8. 前記グラフカットアルゴリズムは、アルファ拡張処理を含む請求項３に記載の方法。
9. 各要素は、画像のピクセルである請求項１から８のいずれか一項に記載の方法。
10. 前記関連する要素は、前記画像内の隣接するピクセルである請求項９に記載の方法。
11. 前記関連する要素は、８つの隣接するピクセルである請求項１０に記載の方法。
12. 前記関連する要素は、４つの隣接するピクセルである請求項１０に記載の方法。
13. 各要素は、画像の連続的な領域である１から８のいずれか一項に記載の方法。
14. 前記関連する要素は、前記画像内の隣接する連続的な領域である請求項１３に記載の方法。
15. 請求項５に従属する場合に、各連続的な領域は、同一の分類を有するピクセルと、閾値を超える信頼値と、を含む請求項１３又は１４に記載の方法。
16. 前記グラフカットアルゴリズムは、さらに、前記画像内の物体の期待されるサイズを入力として用いる９から１５のいずれか一項に記載の方法。
17. 前記グラフカットアルゴリズムは、さらに、隣接するピクセルに関する所定のルールを入力として用いる９から１４のいずれか一項に記載の方法。
18. プロセッサ及びソフトウェアを記憶するメモリを含むコンピュータにより用いるソフトウェアであって、前記ソフトウェアは、請求項１から１７のいずれか一項に記載の方法を実行するために前記プロセッサにより実行可能な一連の命令を含む、ソフトウェア。
19. 請求項１８に記載のソフトウェアを含むコンピュータ可読媒体。
20. プロセッサと、
    メモリと、
    前記プロセッサにアクセス可能な前記メモリに常駐するソフトウェアと、を備える装置であって、
    前記ソフトウェアは、請求項１から１７のいずれか一項に記載の方法を実行するために前記プロセッサにより実行可能な一連の命令を含む、装置。