JP5871325B2 - 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 - Google Patents
情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 Download PDFInfo
- Publication number
- JP5871325B2 JP5871325B2 JP2012536449A JP2012536449A JP5871325B2 JP 5871325 B2 JP5871325 B2 JP 5871325B2 JP 2012536449 A JP2012536449 A JP 2012536449A JP 2012536449 A JP2012536449 A JP 2012536449A JP 5871325 B2 JP5871325 B2 JP 5871325B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- information processing
- tissue specimen
- display data
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 71
- 238000003672 processing method Methods 0.000 title claims description 11
- 238000012545 processing Methods 0.000 claims description 117
- 238000010186 staining Methods 0.000 claims description 95
- 238000000034 method Methods 0.000 claims description 77
- 210000004738 parenchymal cell Anatomy 0.000 claims description 56
- 230000008569 process Effects 0.000 claims description 54
- 238000003745 diagnosis Methods 0.000 claims description 44
- 238000009499 grossing Methods 0.000 claims description 36
- 210000002536 stromal cell Anatomy 0.000 claims description 34
- 238000012805 post-processing Methods 0.000 claims description 19
- 210000003850 cellular structure Anatomy 0.000 claims description 17
- 230000009467 reduction Effects 0.000 claims description 15
- 230000005540 biological transmission Effects 0.000 claims description 7
- 238000004519 manufacturing process Methods 0.000 claims description 3
- 210000001519 tissue Anatomy 0.000 description 126
- 210000004027 cell Anatomy 0.000 description 82
- 230000001575 pathological effect Effects 0.000 description 29
- 206010028980 Neoplasm Diseases 0.000 description 21
- 201000011510 cancer Diseases 0.000 description 21
- 210000000170 cell membrane Anatomy 0.000 description 20
- 210000003855 cell nucleus Anatomy 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 101001012157 Homo sapiens Receptor tyrosine-protein kinase erbB-2 Proteins 0.000 description 14
- 102100030086 Receptor tyrosine-protein kinase erbB-2 Human genes 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 14
- 210000004940 nucleus Anatomy 0.000 description 13
- 238000003860 storage Methods 0.000 description 13
- 238000013500 data storage Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000011532 immunohistochemical staining Methods 0.000 description 10
- 238000013507 mapping Methods 0.000 description 7
- 238000012217 deletion Methods 0.000 description 4
- 230000037430 deletion Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 210000004698 lymphocyte Anatomy 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- WZUVPPKBWHMQCE-UHFFFAOYSA-N Haematoxylin Chemical compound C12=CC(O)=C(O)C=C2CC2(O)C1C1=CC=C(O)C(O)=C1OC2 WZUVPPKBWHMQCE-UHFFFAOYSA-N 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004040 coloring Methods 0.000 description 2
- 210000000805 cytoplasm Anatomy 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000004043 dyeing Methods 0.000 description 2
- 238000005429 filling process Methods 0.000 description 2
- 238000007490 hematoxylin and eosin (H&E) staining Methods 0.000 description 2
- 238000012744 immunostaining Methods 0.000 description 2
- 102000005962 receptors Human genes 0.000 description 2
- 108020003175 receptors Proteins 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 206010006187 Breast cancer Diseases 0.000 description 1
- 208000026310 Breast neoplasm Diseases 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- YQGOJNYOYNNSMM-UHFFFAOYSA-N eosin Chemical compound [Na+].OC(=O)C1=CC=CC=C1C1=C2C=C(Br)C(=O)C(Br)=C2OC2=C(Br)C(O)=C(Br)C=C21 YQGOJNYOYNNSMM-UHFFFAOYSA-N 0.000 description 1
- 238000003706 image smoothing Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000009257 reactivity Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Image Processing (AREA)
Description
実質細胞と間質細胞とを含む生体組織を染色して撮像した組織標本画像に対し、前記実質細胞の細胞構成要素の輝度値が前記間質細胞の細胞構成要素の輝度値よりも小さくなるように平滑化処理を施す画像処理手段と、
前記画像処理手段による平滑化処理が施された組織標本画像を2値化処理して2値化画像を生成することにより、前記組織標本画像から前記間質細胞の領域を除くためのマスクを生成するマスク生成手段と、
を含み、
前記組織標本画像に基づく診断を支援することを特徴とする。
前記本発明の情報処理装置と、入力端末と、表示端末とを含み、
前記本発明の情報処理装置が、
前記マスク生成手段で生成したマスクを前記組織標本画像に重畳させる重畳手段と、
前記マスクを重畳された組織標本画像に含まれる実質細胞の数を染色強度別にカウントするカウント手段と、
前記組織標本画像を、ネットワークを介して受信する受信手段と、
前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、ネットワークを介して送信する送信手段と、
をさらに含み、
前記入力端末は、前記受信手段が受信する前記組織標本画像を、入力するとともに、ネットワークを介して送信し、
前記表示端末は、前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、ネットワークを介して受信し、表示することを特徴とする。
前記本発明の情報処理装置を用い、
前記画像処理手段により、前記実質細胞の細胞構成要素の輝度値が前記間質細胞の細胞構成要素の輝度値よりも小さくなるように前記組織標本画像に対し平滑化処理を施す画像処理ステップと、
前記マスク生成手段により、前記画像処理ステップで平滑化処理が施された組織標本画像を2値化処理して2値化画像を生成することにより、前記組織標本画像から前記間質細胞の領域を除くためのマスクを生成するマスク生成ステップと、
を含み、
前記組織標本画像に基づく診断を支援することを特徴とする。
本発明の第1実施形態としての情報処理装置100について、図1を用いて説明する。図1は、実質細胞151と間質細胞152とを含む生体組織を免疫染色して撮像した組織標本画像150に基づく診断を支援する情報処理装置100を示す。この情報処理装置100は、実質細胞の細胞構成要素の輝度値が間質細胞の細胞構成要素の輝度値よりも小さくなるように組織標本画像155に対し平滑化処理部(平滑化処理手段)111で平滑化処理を施す画像処理部(画像処理手段)110を備える。また、画像処理部110による平滑化処理が施された組織標本画像115を2値化処理部(2値化処理手段)121で2値化して2値化画像を生成することにより、組織標本画像115から間質領域を除くためのマスク125を生成するマスク生成部(マスク生成手段)120を備える。
かかる構成により、細胞の染色強度にかかわらず、実質細胞151と間質細胞152とを、正確に分離するマスクを生成することができる。
本発明の第2実施形態としての情報処理システム250について、図2〜図19を用いて説明する。本実施形態の情報処理システム250は、癌に対する治療法の選択をできるだけ正確に行なうため、染色(一例として免疫染色、ここではIHC染色)を施した組織標本画像において、間質部分を排除して、癌細胞の数をカウントすることを目的とするシステムである。本実施形態では細胞構成要素の一例として細胞核及び細胞膜の染色情報を間質認識に使用し、細胞核の染色情報を細胞数のカウントに使用する。
(ステップ1)細胞核を平滑化、2値化処理に使用してマスクを生成する。
ER/PgR陽性の場合:茶色の核と青色の核の情報を利用する。
ER/PgR陰性の場合:青色の核の情報を利用する。
HER2 陽性の場合:茶色の細胞膜と青色の核の情報を利用する。
HER2 陰性の場合:青色の核の情報を利用する。
(ステップ2)細胞核を細胞数カウントに使用する
ER/PgRの場合:茶色の核と青色の核の数をカウントする。
HER2の場合:青色の核をカウントする。また、核の周囲に存在する細胞膜の染色強度を判定する。
図2は、第2実施形態に係る情報処理装置としての病理画像診断支援装置200を含む情報処理システム250の構成を示すブロック図である。図2に示すように、病理画像診断支援装置200と、各々が組織標本画像を読み込む(入力する)カラースキャナ221に接続された複数のクライアントPC220とがネットワーク240を介して接続されている。また、病理画像診断支援装置200において処理された画像あるいは処理結果を送信して、専門医師による分析・診断を行なうための病理画像診断センター230も接続されている。病理画像診断支援装置200は、本発明の情報処理装置に該当する。クライアントPC220及びカラースキャナ221は、本発明の情報処理システムにおける前記「入力端末」に該当するということができる。また、クライアントPC220は、本発明の情報処理システムにおける前記「表示端末」にも該当するということができる。さらに、病理画像診断センター230も、本発明の情報処理システムにおける前記「表示端末」に該当するということができる。なお、ネットワーク240は、インターネットを含む公衆ネットワークであっても良いし、病院内のLANであってもよい。
図3は、画像処理部204、マスク生成部205、表示データ生成部210のさらに詳細な構成を示すブロック図である。なお、本例ではIHC染色を施した乳癌の組織標本画像を扱った例で説明するが、本発明はこれに限定されるものではない。
縮小された各選択エリアの組織標本画像は、グレースケール処理部302に送られる。グレースケール処理部302は、カラーの組織標本画像をグレースケール画像に変換する。なお、ここでは、グレースケールを0から255とした例を示す。グレースケール画像は、次に平滑化処理部303に送られる。平滑化処理部303では、グレースケール画像を平滑化して細胞核の輝度と間質の輝度を2値化処理で分離可能とする。ここでは一例としてガウシアンフィルタにより平滑化を行なう。なお、ガウシアンフィルタのマトリクスサイズや重み付けが、平滑化の結果を左右する。本例では、平滑化処理のパラメータであるマトリクスサイズや重み付けは、たとえば、間質の染色部の密度にしたがって、マトリクスサイズに少ない間質の染色部しか入らず、かつ重み付けは回りの非染色部の影響が強くなるように選択される。なお、縮小処理部301とグレースケール処理部302と平滑化処理部303との前後関係は本例に限定されない。この画像処理部204の処理によって生成された組織標本画像を処理後組織標本画像とも称す。なお、本実施形態では、細胞核の輝度に基づいて、実質細胞と間質細胞とを分離したが、本発明はこれに限定されるものではなく、他の細胞構成要素(細胞核、細胞膜、細胞質、リンパ球など)の違いを用いて分離しても良い。
図4Aは、第2実施形態の情報処理装置である病理画像診断支援装置200のハードウェア構成を示すブロック図である。図に示すように病理画像診断支援装置200は、CPU(Central Processing Unit[中央演算処理装置])410、ROM(Read Only Memory[読み出し専用メモリ])420、通信制御部201、RAM(Random Access Memory[ランダムアクセスメモリ])430、ストレージ440を含む。
・通信制御部201を介して受信された組織標本画像451
・受信された組織標本画像中から選択された1つの選択エリアの画像452
・選択エリアの画像の空白を埋めるため縮小した縮小画像453
・縮小画像453をグレースケールに変換したグレースケール画像454
・グレースケール画像454を平滑化した平滑化画像455
・平滑化画像455から生成された輝度値ヒストグラム456
・輝度値ヒストグラム456から算出された2値化処理のための2値化閾値457
・グレースケール画像を2値化した2値化画像458
・2値化画像に離散点連結、孤立点削除、穴埋めなどの後処理を施した間質領域を削除するためのマスク画像459
・受信した組織標本画像に選択エリアをマッピングした選択エリア・マッピング画像461
・第1選択エリアについての、第1選択エリア画像462
・第1選択エリア画像462をマスク画像でマスクした第1マスク重畳画像463
・マスク重畳画像から染色強度別にカウントされた癌細胞数である第1細胞数カウント値464
・染色強度別にカウントされた癌細胞数から生成された第1バーグラフ画像465
第2選択エリア以降についても同様のデータが表示データ432に含まれる。
・受信した組織標本画像471
・組織標本画像から選択された一部領域である、選択エリアの位置・サイズ472
・選択エリア内の癌細胞に関するカウント値473
・各組織標本画像単位、患者単位、あるいは、症例単位などで検索可能に蓄積された処理後の表示データ474
・縮小処理で使用される縮小率481
・グレースケール画像への変化に使用されるグレースケール・パラメータ482
・平滑化に使用される平滑化パラメータ483。ガウシアン処理ではマトリクスサイズや重み付け
・2値化処理の閾値を算出するための閾値算出パラメータ484。ここでは、動的計画法のパラメータの他に、閾値の最大値/最小値が記憶されている。
・離散点連結、孤立点削除、穴埋めなどの後処理パラメータ485
・IHC染色で、各細胞の細胞膜の染色の度合いを判別する染色強度判別パラメータ486。染色強度別の細胞数の割合からスコア(4段階(0,+1,+2,+3))を判断する場合には、そのようなスコアも格納される。
・診断支援を行なう診断支援プログラム491
・組織標本画像から癌細胞のエリアを選択するためのエリア選択プログラム492
・画像処理部204の処理を実現する画像処理プログラム493(図7のS701〜S709を実行する)
・マスク生成部205の処理を実現するマスク生成プログラム494(図7のS711〜S719を実行する)
・マスクされた選択エリアの画像から染色強度別の細胞数をカウントする細胞数カウントプログラム495(図5のS509(詳細は、図13)を実行する)
・染色強度別の細胞数をカウントから細胞数の割合を示すバーグラフを生成するバーグラフ生成プログラム496(図5のS511(詳細は、図14)を実行する)
・ネットワーク240を介してクライアントPC220にサービスする表示データを生成する送信データ生成プログラム497(図5のS515(詳細は、図16)を実行する)
以下、上記構成による病理画像診断支援装置200の動作手順をフローチャート及び表示画面例を参照に詳細に説明する。なお、各フローチャートにより示されるプログラムは、CPU410により実行されて、図2及び図3の各機能構成部を実現する。
図5は、本実施形態の診断支援処理全体の手順を示すフローチャートである。
図7は、図5のS507に示したマスク生成/重畳画像生成の詳細な手順を示すフローチャートである。
図13は、図5のS509に示した細胞数カウントの詳細な手順を示すフローチャートである。
図14は、図5のS511に示したバーグラフ生成の詳細な手順を示すフローチャートである。
図15は、図3の表示データ記憶部313の構成を示す図である。なお、RAM430上の表示データ432あるいはストレージ440の表示データ474の構成も、たとえば、図15と類似の構成であってもよい。
図16は、図5のS515に示した表示データ生成処理の詳細な手順を示すフローチャートである。なお、表示データの生成は、本例のように病理画像診断支援装置のサービスとして予め準備されても、ユーザのクライアントPC220からの要求に応じて生成されてもよい。この場合には、表示データの生成を対話的に行なうことになるが、詳説はしない。
本発明の第3実施形態について、図20を用いて説明する。第2実施形態においては、病理画像診断支援装置200が自動的に選択エリア、第2実施形態の例では5つの選択エリアを選択して、染色強度別の細胞数のカウントを行なった。第3実施形態では、図20に示すように、病理画像診断支援装置200が自動的に選択した選択エリアの他に、ユーザが染色強度別の細胞数のカウントを行なうエリアを選択できる。
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
110 画像処理部(画像処理手段)
111 平滑化処理部(平滑化処理手段)
115 組織標本画像
120 マスク生成部(マスク生成手段)
121 2値化処理部(2値化処理手段)
125 マスク
150 組織標本画像
151 実質細胞
152 間質細胞
155 組織標本画像
200 病理画像診断支援装置(情報処理装置)
201 通信制御部(受信手段、送信手段)
202 画像記憶部(画像記憶手段)
203 エリア選択部(エリア選択手段)
204 画像処理部(画像処理手段)
205 マスク生成部(マスク生成手段)
206 受信した組織標本画像
207 選択エリアを囲むマーク
208 各選択エリアの組織標本画像
209 マスク
210 表示データ生成部(表示データ生成手段)
220 クライアントPC(入力端末、表示端末)
221 カラースキャナ(入力端末)
230 病理画像診断センター(表示端末)
240 ネットワーク
250 情報処理システム
301 縮小処理部(縮小処理手段)
302 グレースケール処理部(グレースケール処理手段)
303 平滑化処理部(平滑化処理手段)
304 2値化処理部(2値化処理手段)
305 輝度値ヒストグラム生成部(輝度値ヒストグラム生成手段)
306 閾値算出部(閾値算出手段)
307 後処理部(後処理手段)
308 重畳部(重畳手段)
309 カウント部(カウント手段)
311 バーグラフ生成部(バーグラフ生成手段)
312 マッピング部(マッピング手段)
313 表示データ記憶部(表示データ記憶手段)
321 第1表示データ
322 第2表示データ
323 第3表示データ
324 第4表示データ
325 第5表示データ
410 CPU
420 ROM
430 RAM
431 処理対象画像データ
432 表示データ
433 プログラム実行領域
440 ストレージ
441 診断支援情報
442 各種パラメータ
443 各種プログラム
451 通信制御部201を介して受信された組織標本画像
452 受信された組織標本画像中から選択された1つの選択エリアの画像
453 選択エリアの画像の空白を埋めるため縮小した縮小画像
454 縮小画像453をグレースケールに変換したグレースケール画像
455 グレースケール画像454を平滑化した平滑化画像
456 平滑化画像455から生成された輝度値ヒストグラム
457 輝度値ヒストグラム456から算出された2値化処理のための2値化閾値
458 グレースケール画像を2値化した2値化画像
459 2値化画像に離散点連結、孤立点削除、穴埋めなどの後処理を施した間質領域を削除するためのマスク画像
461 受信した組織標本画像に選択エリアをマッピングした選択エリア・マッピング画像
462 第1選択エリアについての、第1選択エリア画像
463 第1選択エリア画像462をマスク画像でマスクした第1マスク重畳画像
464 マスク重畳画像から染色強度別にカウントされた癌細胞数である第1細胞数カウント値
465 染色強度別にカウントされた癌細胞数から生成された第1バーグラフ画像
471 受信した組織標本画像
472 組織標本画像から選択された一部領域である、選択エリアの位置・サイズ
473 選択エリア内の癌細胞に関するカウント値
474 各組織標本画像単位、患者単位、あるいは、症例単位などで検索可能に蓄積された処理後の表示データ
481 縮小処理で使用される縮小率
482 グレースケール画像への変化に使用されるグレースケール・パラメータ
483 平滑化に使用される平滑化パラメータ
484 2値化処理の閾値を算出するための閾値算出パラメータ
485 離散点連結、孤立点削除、穴埋めなどの後処理パラメータ
486 IHC染色で、各細胞の細胞膜の染色の度合いを判別する染色強度判別パラメータ
491 診断支援を行なう診断支援プログラム
492 組織標本画像から癌細胞のエリアを選択するためのエリア選択プログラム
493 画像処理部204の処理を実現する画像処理プログラム(図7のS701〜S709を実行する)
494 マスク生成部205の処理を実現するマスク生成プログラム(図7のS711〜S719を実行する)
495 マスクされた選択エリアの画像から染色強度別の細胞数をカウントする細胞数カウントプログラム(図5のS509(詳細は、図13)を実行する)
496 染色強度別の細胞数をカウントから細胞数の割合を示すバーグラフを生成するバーグラフ生成プログラム(図5のS511(詳細は、図14)を実行する)
497 ネットワーク240を介してクライアントPC220にサービスする表示データを生成する送信データ生成プログラム(図5のS515(詳細は、図16)を実行する)
600 表示画面
601 受信した組織標本画像
602 受信した組織標本画像の縮小画像
603 マスクを生成する対象の選択エリア
800 第3選択エリア
801 濃い塊として観察される癌の実質細胞の領域
802 濃い離散点が広がる間質細胞の領域
803 組織標本画像ではない地の領域
910 縮小処理とグレースケール画像への変換を施した後の画像
920 画像910に平滑化処理した画像
1000 画像920から生成された輝度値ヒストグラム
1010 地色(組織のない部分のプレパラートの色)の領域803に由来するピーク
1020 間質細胞の領域802に由来するピーク
1030 癌の実質細胞の領域801に由来するピーク
1040 実質細胞の細胞核に由来するピーク
1110 2値化後の選択エリアの組織標本画像
1111 2値化で“0”(黒)となった癌の実質細胞の領域
1112 2値化で“255”(白)となった間質細胞の領域
1113 実質細胞の塊から離散した離散点
1114 孤立点
1115 穴
1120 後処理後の画像
1121 マスクとなる領域
1200 マスクされた選択エリアの組織標本画像
310 受信した1つの組織標本画像
1500 組織標本画像ID
1510、1520 選択エリアID
1511 総細胞カウント数
1512 染色強度(強)のカウント数と割合
1513 染色強度(弱)のカウント数と割合
1514 染色強度(無)のカウント数と割合
1515 バーグラフ画像ポインタ
1530、1540 各種画像データ
1550 バーグラフ画像
1551 赤色バー(染色強度(強)の割合)
1552 黄色バー(染色強度(弱)の割合)
1553 緑色バー(染色強度(無)の割合)
1700 ステップS1603において生成された表示データをクライアントPC220に表示した表示画面
1701 5つの選択エリアが重畳された組織標本画像
1702 組織標本画像の縮小画像
1703 スコアの色枠を有する組織標本画像のサムネイル画像
1704 5つの選択エリア内のバーグラフを含むサムネイル画像
1800 ステップS1607において生成された表示データをクライアントPC220に表示した表示画面
1801 組織標本画像
1802 選択エリアの縮小画像
1803 選択エリアに対応するバーグラフ
1804 赤色バー(染色強度(強)の割合)
1805 黄色バー(染色強度(弱)の割合)
1806 緑色バー(染色強度(無)の割合)
1900 ステップS1611において生成された表示データをクライアントPC220に表示した表示画面
1901 染色強度(強)の赤色に着色された細胞
1902 染色強度(弱)の黄色に着色された細胞
1903 着色強度(無)の緑色に着色された細胞
1904 染色強度別のカウント数
2000 表示画面
2001 送信した組織標本画像
2002 選択エリアの縮小画像
2003 スコアの色枠を有する組織標本画像のサムネイル画像
2004 5つの選択エリア内のバーグラフを含むサムネイル画像
2005 病理画像診断支援装置200が自動的に選択した選択エリア
2006 ユーザが選択した選択エリア
Claims (23)
- 実質細胞と間質細胞とを含む生体組織を染色して撮像した組織標本画像に対し、前記実質細胞の細胞構成要素の輝度値が前記間質細胞の細胞構成要素の輝度値よりも小さくなるように平滑化処理を施す画像処理手段と、
前記画像処理手段による平滑化処理が施された組織標本画像を2値化処理して2値化画像を生成することにより、前記組織標本画像から前記間質細胞の領域を除くためのマスクを生成するマスク生成手段と、
を含み、
前記画像処理手段は、前記組織標本画像に対し平滑化処理を施して、前記実質細胞の細胞構成要素の周囲の輝度値に応じた値を当該実質細胞の細胞構成要素の輝度値から減じ、前記間質細胞の細胞構成要素の周囲の輝度値に応じた値を当該間質細胞の細胞構成要素の輝度値に加え、
前記組織標本画像に基づく診断を支援することを特徴とする情報処理装置。 - 前記画像処理手段は、前記平滑化処理の前に前記組織標本画像をグレースケール画像に変換するグレースケール処理手段を含むことを特徴とする請求項1記載の情報処理装置。
- 前記画像処理手段は、前記平滑化処理の前に前記組織標本画像のサイズを縮小する縮小処理手段を含むことを特徴とする請求項1又は2記載の情報処理装置。
- 前記マスク生成手段は、前記画像処理手段により前記平滑化処理を施された処理後組織標本画像に基づいて輝度値ヒストグラムを生成し、該輝度値ヒストグラムに基づいて閾値を算出し、該閾値を用いて前記処理後組織標本画像を2値化処理することを特徴とする請求項1から3のいずれか一項に記載の情報処理装置。
- 前記マスク生成手段は、動的計画法を利用して前記2値化処理のための閾値を算出することを特徴とする請求項4記載の情報処理装置。
- 算出された前記2値化処理のための閾値が、予め決められた最大値と最小値との間に入らない場合に、前記最大値又は前記最小値を前記2値化処理のための閾値として使用することを特徴とする請求項4又は5記載の情報処理装置。
- 前記マスク生成手段は、
前記2値化画像中の離散点を連結して塊に変換する離散点連結処理手段と、
前記2値化画像中の孤立点を除去する孤立点除去処理手段と、
前記2値化画像中の穴を埋める穴埋め処理手段と、
からなる群から選択される少なくとも1つを含むことを特徴とする請求項1から6のいずれか一項に記載の情報処理装置。 - 前記マスク生成手段で生成したマスクを前記組織標本画像に重畳させる重畳手段と、
前記マスクを重畳された組織標本画像に含まれる実質細胞の数を染色強度別にカウントするカウント手段と、
をさらに含むことを特徴とする請求項1から7のいずれか一項に記載の情報処理装置。 - 前記カウント手段でカウントした前記実質細胞の数を染色強度別に表示するための表示データを生成する表示データ生成手段をさらに含むことを特徴とする請求項8記載の情報処理装置。
- 前記表示データ生成手段は、前記カウント手段でカウントした前記実質細胞の数を染色強度別にバーグラフで表示するための表示データを生成することを特徴とする請求項9記載の情報処理装置。
- 前記表示データ生成手段は、前記カウント手段でカウントした前記実質細胞の染色強度ごとの割合をバーグラフで表示するための表示データを生成することを特徴とする請求項10記載の情報処理装置。
- 前記表示データ生成手段は、前記マスク生成手段で生成したマスクを前記組織標本画像に重畳した画像を表示するための表示データを生成することを特徴とする請求項9から11のいずれか一項に記載の情報処理装置。
- 前記情報処理装置に前記組織標本画像を入力する入力手段と、
前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを染色強度別に表示する表示手段と、
をさらに含むことを特徴とする請求項8から12のいずれか一項に記載の情報処理装置。 - 前記組織標本画像を、ネットワークを介して受信する受信手段と、
前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、ネットワークを介して送信する送信手段と、
をさらに含むことを特徴とする請求項8から12のいずれか一項に記載の情報処理装置。 - 請求項14記載の情報処理装置と、入力端末と、表示端末とを含み、
前記入力端末は、前記受信手段が受信する前記組織標本画像を、入力するとともに、ネットワークを介して送信し、
前記表示端末は、前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、ネットワークを介して受信し、表示することを特徴とする情報処理システム。 - 請求項1から14のいずれか一項に記載の情報処理装置を用い、
前記画像処理手段により、前記実質細胞の細胞構成要素の輝度値が前記間質細胞の細胞構成要素の輝度値よりも小さくなるように前記組織標本画像に対し平滑化処理を施す画像処理ステップと、
前記マスク生成手段により、前記画像処理ステップで平滑化処理が施された組織標本画像を2値化処理して2値化画像を生成することにより、前記組織標本画像から前記間質細胞の領域を除くためのマスクを生成するマスク生成ステップと、
を含み、
前記組織標本画像に基づく診断を支援することを特徴とする情報処理方法。 - 前記情報処理装置が、請求項8記載の情報処理装置であり、
前記重畳手段により、前記マスク生成手段で生成したマスクを前記組織標本画像に重畳させる重畳ステップと、
前記カウント手段により、前記マスクを重畳された組織標本画像に含まれる実質細胞の数を染色強度別にカウントするカウントステップと、
をさらに含むことを特徴とする請求項16記載の情報処理方法。 - 前記情報処理装置が、請求項9から12のいずれか一項に記載の情報処理装置であり、
前記表示データ生成手段により、前記カウント手段でカウントした前記実質細胞の数を染色強度別に表示するための表示データを生成する表示データ生成ステップをさらに含むことを特徴とする請求項17記載の情報処理方法。 - 前記情報処理装置が、請求項13記載の情報処理装置であり、
前記入力手段により、前記情報処理装置に前記組織標本画像を入力する入力ステップと、
前記表示手段により、前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを染色強度別に表示する表示ステップと、
をさらに含むことを特徴とする請求項17又は18記載の情報処理方法。 - 前記情報処理装置が、請求項14記載の情報処理装置であり、
前記受信手段により、前記組織標本画像を、ネットワークを介して受信する受信ステップと、
前記送信手段により、前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、前記ネットワークを介して送信する送信ステップと、
をさらに含むことを特徴とする請求項17から19のいずれか一項に記載の情報処理方法。 - 請求項15記載の情報処理システムを用い、
前記入力端末により、前記受信手段が受信する前記組織標本画像を、入力するとともに、ネットワークを介して送信する入力送信ステップと、
前記表示端末により、前記カウント手段でカウントした前記実質細胞の数又は前記表示データ生成手段で生成した表示データを、ネットワークを介して受信し、表示する受信表示ステップと、
をさらに含むことを特徴とする請求項20記載の情報処理方法。 - 請求項16から21のいずれか一項に記載の情報処理方法をコンピュータ上で実行可能なことを特徴とするプログラム。
- 請求項22記載のプログラムを記録しており、コンピュータで読み取り可能なことを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012536449A JP5871325B2 (ja) | 2010-09-30 | 2011-09-27 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010223049 | 2010-09-30 | ||
JP2010223049 | 2010-09-30 | ||
PCT/JP2011/071930 WO2012043498A1 (ja) | 2010-09-30 | 2011-09-27 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
JP2012536449A JP5871325B2 (ja) | 2010-09-30 | 2011-09-27 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2012043498A1 JPWO2012043498A1 (ja) | 2014-02-06 |
JP5871325B2 true JP5871325B2 (ja) | 2016-03-01 |
Family
ID=45892941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012536449A Active JP5871325B2 (ja) | 2010-09-30 | 2011-09-27 | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (2) | US9076198B2 (ja) |
JP (1) | JP5871325B2 (ja) |
CN (1) | CN103097889B (ja) |
WO (1) | WO2012043498A1 (ja) |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103097889B (zh) * | 2010-09-30 | 2015-03-18 | 日本电气株式会社 | 信息处理设备、信息处理***、信息处理方法、程序和记录介质 |
CN108133215B (zh) * | 2012-04-02 | 2020-10-20 | 惠安县崇武镇锐锐海鲜干品店 | 一种处理单元 |
WO2013161155A1 (ja) * | 2012-04-23 | 2013-10-31 | 日本電気株式会社 | 画像計測装置、画像計測方法、および、画像計測用プログラム |
JP5449444B2 (ja) * | 2012-04-23 | 2014-03-19 | 株式会社エルメックス | コロニー計数装置、コロニー計数方法、及び、プログラム |
JP6161146B2 (ja) * | 2013-01-11 | 2017-07-12 | 国立大学法人東京工業大学 | 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム |
WO2015112816A1 (en) * | 2014-01-24 | 2015-07-30 | E-Image Data Corporation | Multi-mode image capture systems and methods |
US9558394B2 (en) * | 2014-03-10 | 2017-01-31 | Case Western Reserve University | Histogram of hosoya index (HoH) features for quantitative histomorphometry |
CO7020178A1 (es) * | 2014-05-14 | 2014-08-11 | Leon Ricardo Antonio Mendoza | Método para la segmentación y cuantificación automática de tejidos corporales |
WO2015181371A1 (en) * | 2014-05-30 | 2015-12-03 | Ventana Medical Systems, Inc. | An image processing method and system for analyzing a multi-channel image obtained from a biological tissue sample being stained by multiple stains |
JP6355476B2 (ja) * | 2014-08-18 | 2018-07-11 | 株式会社Screenホールディングス | 閾値決定方法、画像処理方法および画像処理装置 |
DE112015006015B4 (de) * | 2015-01-29 | 2023-04-27 | Evident Corporation | Zellanalysevorrichtung und Verfahren |
GB201504569D0 (en) * | 2015-03-18 | 2015-05-06 | Oxford Cancer Biomarkers Ltd | Tissue sample analysis technique |
US10304188B1 (en) * | 2015-03-27 | 2019-05-28 | Caleb J. Kumar | Apparatus and method for automated cell analysis |
JP6505830B2 (ja) * | 2015-04-07 | 2019-04-24 | オリンパス株式会社 | 細胞解析装置および細胞解析方法 |
EP4220564A3 (en) * | 2015-09-02 | 2023-08-30 | Ventana Medical Systems, Inc. | Image processing systems and methods for displaying multiple images of a biological specimen |
US10510143B1 (en) * | 2015-09-21 | 2019-12-17 | Ares Trading S.A. | Systems and methods for generating a mask for automated assessment of embryo quality |
EP3477586A1 (en) * | 2016-06-23 | 2019-05-01 | Konica Minolta, Inc. | Image processing device, image processing method, and image processing program |
WO2018063914A1 (en) * | 2016-09-29 | 2018-04-05 | Animantis, Llc | Methods and apparatus for assessing immune system activity and therapeutic efficacy |
JPWO2018131091A1 (ja) | 2017-01-11 | 2019-12-19 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
WO2018207361A1 (ja) * | 2017-05-12 | 2018-11-15 | オリンパス株式会社 | 細胞画像取得装置 |
US20210033599A1 (en) * | 2018-04-26 | 2021-02-04 | Nec Corporation | Information processing apparatus, control method, and program |
JP6755346B2 (ja) * | 2019-02-05 | 2020-09-16 | 株式会社日立製作所 | 分析システム |
JP7403965B2 (ja) * | 2019-03-29 | 2023-12-25 | シスメックス株式会社 | 蛍光画像分析装置及び蛍光画像分析方法 |
CN110458835B (zh) * | 2019-08-16 | 2022-02-01 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、设备、***及介质 |
CN110490882B (zh) * | 2019-08-19 | 2022-12-27 | 腾讯科技(深圳)有限公司 | 细胞膜染色图像分析方法、装置及*** |
KR102655391B1 (ko) * | 2022-09-06 | 2024-04-05 | 충남대학교산학협력단 | 미세액적 내 세포 계수 방법 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6250977A (ja) * | 1985-08-30 | 1987-03-05 | Canon Inc | 画像処理装置 |
JP2003139678A (ja) * | 2001-10-30 | 2003-05-14 | Matsushita Electric Ind Co Ltd | 細胞画像分析装置、細胞画像分析方法および記録媒体 |
JP2005352571A (ja) * | 2004-06-08 | 2005-12-22 | Olympus Corp | 画像処理装置 |
JP2006095223A (ja) * | 2004-09-30 | 2006-04-13 | Pola Chem Ind Inc | 角層細胞の鑑別法 |
JP2008014680A (ja) * | 2006-07-03 | 2008-01-24 | Toray Ind Inc | 選択結合性物質固定化担体の検査装置、検査方法、および検査プログラム |
WO2008108059A1 (ja) * | 2007-03-01 | 2008-09-12 | Nec Corporation | 乳癌病理画像診断支援システム、乳癌病理画像診断支援方法、乳癌病理画像診断支援プログラム、及び、乳癌病理画像診断支援プログラムを記録した記録媒体 |
JP2009210409A (ja) * | 2008-03-04 | 2009-09-17 | Kddi Corp | 画像領域分割方法および装置 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06250977A (ja) | 1993-02-24 | 1994-09-09 | Nec Shizuoka Ltd | 電源切換え方式 |
CA2236268A1 (en) * | 1995-11-30 | 1997-06-05 | Chromavision Medical Systems, Inc. | Method and apparatus for automated image analysis of biological specimens |
US6259807B1 (en) * | 1997-05-14 | 2001-07-10 | Applied Imaging Corp. | Identification of objects of interest using multiple illumination schemes and finding overlap of features in corresponding multiple images |
GB2395263A (en) * | 2002-11-12 | 2004-05-19 | Qinetiq Ltd | Image analysis |
EP1680757A4 (en) * | 2003-10-08 | 2006-11-22 | Lifespan Biosciences Inc | AUTOMATED MAPPING OF TISSUE SAMPLES ON MICROSCOPE BLADE AND ACQUISITION OF IMAGES |
US20060127880A1 (en) * | 2004-12-15 | 2006-06-15 | Walter Harris | Computerized image capture of structures of interest within a tissue sample |
MX2007014016A (es) * | 2005-05-13 | 2008-02-11 | Tripath Imaging Inc | Metodos de analisis de imagenes basados en la separacion del cromogen. |
EP2029020A4 (en) * | 2006-06-22 | 2010-04-21 | Wisconsin Alumni Res Found | USE OF STROMA COLLAGEN IN THE DIAGNOSIS AND CHARACTERIZATION OF BREAST CANCER |
US7826652B2 (en) * | 2006-12-19 | 2010-11-02 | Cytyc Corporation | Method for forming an optimally exposed image of cytological specimen |
JP2010523979A (ja) | 2007-04-05 | 2010-07-15 | オーレオン ラボラトリーズ, インコーポレイテッド | 医学的状態の処置、診断および予測のためのシステムおよび方法 |
US8483803B2 (en) * | 2008-09-15 | 2013-07-09 | Varian Medical Systems, Inc. | Systems and methods for tracking and targeting object in a patient using imaging techniques |
EP2194505B1 (en) * | 2008-11-25 | 2015-03-11 | Algotec Systems Ltd. | Method and apparatus for segmenting spine and aorta in a medical image according to a skeletal atlas |
JP5455379B2 (ja) * | 2009-01-07 | 2014-03-26 | 株式会社東芝 | 医用画像処理装置、超音波診断装置、及び医用画像処理プログラム |
WO2010140024A1 (en) * | 2009-06-03 | 2010-12-09 | Institut National De La Sante Et De La Recherche Medicale (Inserm) | Methods for diagnosing and treating a renal disease in an individual |
US20110052025A1 (en) * | 2009-08-03 | 2011-03-03 | Matakina Technology Limited | System for imaging pathway verification |
US20110150309A1 (en) * | 2009-11-27 | 2011-06-23 | University Health Network | Method and system for managing imaging data, and associated devices and compounds |
WO2011140536A1 (en) * | 2010-05-07 | 2011-11-10 | Purdue Research Foundation | Quantitative image analysis for wound healing assay |
CN103097889B (zh) * | 2010-09-30 | 2015-03-18 | 日本电气株式会社 | 信息处理设备、信息处理***、信息处理方法、程序和记录介质 |
-
2011
- 2011-09-27 CN CN201180043669.3A patent/CN103097889B/zh active Active
- 2011-09-27 US US13/824,139 patent/US9076198B2/en active Active
- 2011-09-27 WO PCT/JP2011/071930 patent/WO2012043498A1/ja active Application Filing
- 2011-09-27 JP JP2012536449A patent/JP5871325B2/ja active Active
-
2015
- 2015-06-01 US US14/726,674 patent/US10115191B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6250977A (ja) * | 1985-08-30 | 1987-03-05 | Canon Inc | 画像処理装置 |
JP2003139678A (ja) * | 2001-10-30 | 2003-05-14 | Matsushita Electric Ind Co Ltd | 細胞画像分析装置、細胞画像分析方法および記録媒体 |
JP2005352571A (ja) * | 2004-06-08 | 2005-12-22 | Olympus Corp | 画像処理装置 |
JP2006095223A (ja) * | 2004-09-30 | 2006-04-13 | Pola Chem Ind Inc | 角層細胞の鑑別法 |
JP2008014680A (ja) * | 2006-07-03 | 2008-01-24 | Toray Ind Inc | 選択結合性物質固定化担体の検査装置、検査方法、および検査プログラム |
WO2008108059A1 (ja) * | 2007-03-01 | 2008-09-12 | Nec Corporation | 乳癌病理画像診断支援システム、乳癌病理画像診断支援方法、乳癌病理画像診断支援プログラム、及び、乳癌病理画像診断支援プログラムを記録した記録媒体 |
JP2009210409A (ja) * | 2008-03-04 | 2009-09-17 | Kddi Corp | 画像領域分割方法および装置 |
Also Published As
Publication number | Publication date |
---|---|
US20150262356A1 (en) | 2015-09-17 |
US9076198B2 (en) | 2015-07-07 |
CN103097889B (zh) | 2015-03-18 |
US20130182936A1 (en) | 2013-07-18 |
JPWO2012043498A1 (ja) | 2014-02-06 |
US10115191B2 (en) | 2018-10-30 |
CN103097889A (zh) | 2013-05-08 |
WO2012043498A1 (ja) | 2012-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5871325B2 (ja) | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 | |
JP7198577B2 (ja) | 画像解析方法、装置、プログラムおよび学習済み深層学習アルゴリズムの製造方法 | |
JP5630674B2 (ja) | 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体 | |
KR101887194B1 (ko) | 피검체의 의료 영상의 판독을 지원하는 방법 및 이를 이용한 장치 | |
CN110197714B (zh) | 图像解析方法、装置、学习后的深度学习算法的生成方法 | |
JP7076698B2 (ja) | 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム | |
JP2023065352A (ja) | 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム | |
CN110619318B (zh) | 基于人工智能的图像处理方法、显微镜、***和介质 | |
JP5576775B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP5442542B2 (ja) | 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体 | |
CN103984964B (zh) | 一种试纸条图像识别方法及*** | |
WO2011121900A1 (ja) | 画像処理装置、画像読取装置、画像処理方法及び画像処理プログラム | |
JP2018185265A (ja) | 情報処理装置、制御方法、及びプログラム | |
JP2004234579A (ja) | 関心組織領域抽出方法、関心組織領域抽出プログラム及び画像処理装置 | |
WO2019232824A1 (zh) | 生物组织影像识别的方法及其***、计算机储存介质 | |
JP5910637B2 (ja) | 生体画像解析システム、生体画像解析方法および生体画像解析プログラム | |
JP2022121091A (ja) | 口腔粘膜疾患診断支援システム,方法およびプログラム | |
CN115393295A (zh) | 一种出血点评估方法、装置、设备及存储介质 | |
US20210192734A1 (en) | Electronic method and device for aiding the determination, in an image of a sample, of at least one element of interest from among biological elements, associated computer program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140610 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150401 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20150410 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20150619 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160107 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5871325 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |