JP7169094B2 - 画像処理システム及び医用情報処理システム - Google Patents

画像処理システム及び医用情報処理システム Download PDF

Info

Publication number
JP7169094B2
JP7169094B2 JP2018103025A JP2018103025A JP7169094B2 JP 7169094 B2 JP7169094 B2 JP 7169094B2 JP 2018103025 A JP2018103025 A JP 2018103025A JP 2018103025 A JP2018103025 A JP 2018103025A JP 7169094 B2 JP7169094 B2 JP 7169094B2
Authority
JP
Japan
Prior art keywords
image
neural network
input
processing system
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018103025A
Other languages
English (en)
Other versions
JP2018206382A (ja
Inventor
賢造 五十川
智行 武口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Canon Medical Systems Corp
Original Assignee
Toshiba Corp
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Canon Medical Systems Corp filed Critical Toshiba Corp
Publication of JP2018206382A publication Critical patent/JP2018206382A/ja
Priority to JP2022173383A priority Critical patent/JP7427748B2/ja
Application granted granted Critical
Publication of JP7169094B2 publication Critical patent/JP7169094B2/ja
Priority to JP2024008184A priority patent/JP2024028568A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、画像処理システム及び医用情報処理システムに関する。
近年、各種の画像処理や画像認識の分野において、ニューラルネットワークを使用する手法が用いられてきている。ニューラルネットワークとは、細胞を模した１つ以上のノードが、神経を模した１つ以上のエッジで連結されている処理装置である。
ニューラルネットワークは、その内部パラメータとして、各エッジに対応付けられた重み係数やバイアスを持つ。また、各ノードは活性化関数を有しており、活性化関数のパラメータも、ニューラルネットワークの内部パラメータに含まれる。
ニューラルネットワークの内部パラメータの算出には、機械学習が用いられる。例えば、画像のノイズ除去を目的とするニューラルネットワークにおいては、概ね以下の手順で内部パラメータが算出される。
まず、人手によって、各ノードの接続関係、各エッジに対応づけられる重み係数やバイアスの初期値、及び、各ノード内の活性化関数のパラメータの初期値等が設定される。次に、ノイズの無い画像（即ち教師画像）と、教師画像に人工的にノイズを重畳させた学習用画像とを用意する。そして、学習用画像をニューラルネットワークで処理した結果が、教師画像に近づくように、ニューラルネットワークの内部パラメータを逐次更新していく。このような一連の処理の流れが「学習」と呼ばれている。
学習用画像をニューラルネットワークで処理した後の画像（即ち、処理後の学習用画像）と、教師画像との差（例えば、夫々の画像の各画素の平均二乗誤差：ＭＳＥ（mean square error））が、所定値よりも小さくなったとき、学習を終了する。そして、学習終了時におけるニューラルネットワークの内部パラメータの値が、学習によって算出された内部パラメータということになる。
ニューラルネットワークの使用時においては、学習によって算出された内部パラメータを持つニューラルネットワークに対して、実際のノイズが重畳されたノイズ重畳画像が入力され、ニューラルネットワークの出力では、ノイズが除去された、或いはノイズが低減された画像が得られることになる。
しかしながら、ニューラルネットワークは、使用時の画像に重畳されているノイズ量が、学習用画像のノイズ量と同じ大きさの場合には、高いノイズ除去性能を発揮するものの、使用時の画像のノイズ量が学習用画像のノイズ量と異なる場合には、ノイズ除去性能が低下するという課題がある。
このノイズ除去性能の低下を抑制する方法として、学習時において、単一の大きさのノイズ量をもつ学習用画像を用いることに換えて、ノイズ量が夫々異なる複数の学習用画像を用いてニューラルネットワークの内部パラメータを学習させるアプローチが考えられる。しかしながら、このアプローチの場合、使用時の画像に対するノイズ除去性能は、単一の大きさのノイズ量の学習用画像を用いた場合のノイズ除去性能よりも劣ってしまう結果となる。
Z. Wang et.al, "Deep Networks for Image Super Resolution with Sparse Prior," Proc. ICCV2015. X. Zhang, "Thresholding Neural Network for Adaptive Noise Reduction," IEEE Transactions on Neural Networks, vol.12, no. 3, 2001. K. Zhang et.al, "Beyond a Gaussian Denoiser: Residual Learning of Deep CNN for Image Denoising," arXiv: 1608.03981v1, 2016. Y. Wang et.al, "End-to-End Image Super-Resolution Via Deep and Shallow Convolutional Networks," arXiv: 1607.07680v1, 2016. E. Kang et al, "A deep convolutional neural network using directional wavelets for low-dose X-ray CT reconstruction," arXiv:16:0.090736v2.
本発明が解決しようとする課題は、ニューラルネットワークを使用する画像処理システム又は医用情報処理システムにおいて、使用時の画像に重畳されているノイズ量が、学習用画像のノイズ量と異なる場合においても、高いノイズ除去性能を確保することである。
実施形態の画像処理システムは、入力層、出力層、及び、前記入力層と前記出力層との間に設けられる中間層を有するニューラルネットワークを用いて、前記入力層に入力される入力画像に対して所定の処理を行う処理部と、前記中間層に含まれる１以上のノードの少なくとも１つの内部パラメータであって、所定の学習によって算出される前記内部パラメータを、前記学習の後に前記所定の処理を行うとき、前記入力画像に関連するデータに基づいて調整する、調整部と、を備える。
第１の実施形態の画像処理システムの構成例を示すブロック図。 内部パラメータが調整可能な構成が省略されたニューラルネットワークの内部構成例を示す図。 内部パラメータが調整可能な構成が省略されたノードの内部構成を例示す図。 内部パラメータを調整可能な構成を有する本実施形態のニューラルネットワークと、ニューラルネットワークに制御信号を与えるＳＮＲ関連データ取得機能及びパラメータ調整機能との接続関係の一例を示す図。 本実施形態の１つのノードの内部構成例を示すブロック図。 本実施形態で使用する活性化関数の一例として、Hard-Shrinkage関数ＦＨS(x, T)とSoft-Shrinkage関数ＦSS(x, T)を示す図。 「学習モード」の動作例を示すフローチャート。 教師画像と学習用画像を用いた学習モードの処理を模式的に説明する図。 ニューラルネットワークの学習後における「画像処理モード」の処理例を示すフローチャート。 最大画素値を用いた正規化処理と制御信号の算出方法を説明する図。 活性化関数であるSoft‐Shrinkage関数の閾値Ｔが制御信号Ｇによって調整される例を示す図。 画像処理モードにおける、本実施形態のニューラルネットワークの動作概念を説明する図。 第２の実施形態の画像処理システムの構成例を示すブロック図。 第３の実施形態の画像処理システムの構成例を示すブロック図。 第４の実施形態の画像処理システムの構成例を示すブロック図。 第５の実施形態の画像処理システムの構成例を示すブロック図。 画像処理システムを医用情報処理システムに適応した実施形態の構成例を示すブロック図。
実施形態に係る画像処理システムについて、添付図面を参照して説明する。なお、以下の実施形態では、同一の参照符号を付した部分は同様の動作をするものとして、重複する説明を適宜省略する。
（第１の実施形態）
図１は、第１の実施形態に係る画像処理システム１００の全体構成を示すブロック図である。画像処理システム１００は、例えば、コンピュータシステムによって構成される。
画像処理システム１００は、図１に示すように、処理回路１０、入力Ｉ／Ｆ（Interface）１１、出力Ｉ／Ｆ（Interface）１２、入力デバイス２３、記憶回路２１、及び、ディスプレイ２２を備える。
処理回路１０は、例えば、ＣＰＵや、専用又は汎用のプロセッサを備える回路である。プロセッサは、記憶回路２１に記憶した各種のプログラムを実行することによって、後述する各種の機能を実現する。処理回路１０は、ＦＰＧＡやＡＳＩＣ等のハードウェアで構成してもよい。これらのハードウェアによっても後述する各種の機能を実現することができる。また、処理回路１０は、プロセッサとプログラムによるソフトウェア処理と、ハードウェア処理とを組わせて、各種の機能を実現することもできる。
記憶回路２１は、ＲＯＭ（Read Only Memory）やＲＡＭ（Random Access Memory）の他、ＨＤＤ（Hard Disk Drive）や光ディスク装置等の外部記憶装置を含む記憶媒体である。記憶回路２１は、各種の情報やデータを記憶する他、処理回路１０が具備するプロセッサが実行する各種のプログラムを記憶する。
入力デバイス２３は、例えば、マウス、キーボード、トラックボール、タッチパネル等であり、各種の情報やデータを操作者が入力するための種々のデバイスを含む。
ディスプレイ２２は、液晶ディスプレイパネル、プラズマディスプレイパネル、有機ＥＬパネル等の表示デバイスである。
入力Ｉ／Ｆ１１及び出力Ｉ／Ｆ１２は、それぞれ、画像を入力し、出力するインターフェースである。入力Ｉ／Ｆ１１及び出力Ｉ／Ｆ１２は、有線や無線のＬＡＮ、ＵＳＢ等の各種通信インターフェース、インターネットや公衆電話回線等のネットワークのインターフェース、光ディスクや磁気ディスク等の各種記憶媒体のドライブ回路等、画像データを夫々、入力し、出力することが可能な種々のデバイスや回路を含む。
処理回路１０は、図１に示すように、パラメータ学習機能２０（パラメータ学習機能部２０）、ニューラルネットワーク処理機能３０（ニューラルネットワーク処理機能部３０）、ＳＮＲ関連データ取得機能４０（ＳＮＲ関連データ取得機能部４０）、及び、パラメータ調整機能５０（パラメータ調整機能部５０）の各機能を、例えば、記憶回路２１に記憶した各種のプログラムを実行することによって実現する。
パラメータ学習機能２０は、後述するように、学習用の画像を用いて、ニューラルネットワーク６０の内部パラメータの値を機械学習（以下、単に学習と呼ぶ）によって決定する。
ニューラルネットワーク処理機能３０は、ニューラルネットワーク６０を用いて、学習後のニューラルネットワーク６０に入力される入力画像に対して所定の処理を行う。
ＳＮＲ関連データ取得機能４０は、入力画像の信号強度、ノイズの大きさ、信号対雑音比（ＳＮＲ：Signal to Noise Ratio）、正規化処理時の利得等、信号対雑音比に関連するデータ、或は信号対雑音比に関連するデータのうちの少なくとも１つ（以下、このデータをＳＮＲ関連データと呼ぶ）を、入力画像自体、或は入力画像の付帯情報から取得する。ＳＮＲ関連データは、入力画像に関連するデータである。
パラメータ調節機能５０は、ニューラルネットワーク処理機能３０が、学習後のニューラルネットワーク６０に入力される入力画像に対して所定の処理を行う際に、ＳＮＲ関連データ取得機能４０が取得したＳＮＲ関連データに基づいて、ニューラルネットワーク６０の内部パラメータの値を調節する。
パラメータ学習機能２０、ニューラルネットワーク処理機能３０、ＳＮＲ関連データ取得機能４０、及び、パラメータ調整機能５０の各機能の詳細については、後述する。
図２は、ニューラルネットワーク６０の内部構成例を示す図である。第１の実施形態の画像処理システム１００では、内部パラメータが調整可能な構成を有しているが、図２は調整可能部分を省略した基本構成のみを示している。
図２に示すように、ニューラルネットワーク６０は、入力層６１と出力層６３を有し、入力層６１と出力層６３との間に、少なくとも１つの中間層６２を有する多層構造となっている。
入力層６１は、複数の入力端７０を有している。本実施形態の画像処理システム１００は、ニューラルネットワーク６０を用いて、ノイズ除去処理等の画像処理を行うものである。この場合、入力層６１には、画像データが入力される。そして、例えば入力層６１の各入力端７０には、画像データを構成する画素信号が画素ごとに入力される。
出力層６３も複数の出力端９０を有している。本実施形態の画像処理システム１００では、画像処理後の画像データが出力層６３から出力される。例えば、出力層６３の各出力端９０には、画像処理後の画像データの画素信号が画素ごとに出力される。
中間層６２は、複数のノード８０を有する。各ノード８０には、直前の中間層６２の複数のノード８０の出力信号が入力され、そのノード８０の出力信号が、直後の中間層６２の複数のノード８０に出力される。
中間層６２が入力層６１の直後の層である場合は、中間層６２の各ノード８０には、複数の入力端７０の信号が入力され、複数の信号の夫々が、次の段の中間層６２のノード８０に出力される。
また、中間層６２が出力層６３の直前の層である場合には、その中間層６２の各ノード８０の出力信号は、出力層６３の出力端９０に出力される。
図３は、ノード８０の内部構成例を示す図である。図３は入力層６１の直後の中間層６２にあるノード８０の例を示すが、他の中間層６２にあるノードも同じ構成であってもよい。図３のノード８０には複数の信号が入力されるが、各入力信号には重み８００が乗算器８０１で重み付けされた後、加算器８０２で加算される。加算器８０２の出力に対して、加算器８０４でバイアス８０３が加算され、活性化関数８０５に入力される。加算器８０４の出力をｘとすると、ｘは、次の（式１）で表される。
Figure 0007169094000001
（式１）において、ｗｉは重み８００、ｓｉは入力信号、ｉは入力信号の番号、ｂはバイアス８０３である。
（式１）のｘに活性化関数８０５を適用することによって、ノード８０の出力が決定される。従来から用いられている活性化関数には、例えば、クリッピング関数（式２）、ＲｅＬＵ関数（式３）、ｔａｎｈ関数（式４）等の、様々な劣微分可能な関数がある。
Figure 0007169094000002
これに対して、本実施形態では、例えば、以下の（式５）で表されるSoft‐Shrinkage関数を活性化関数８０５として用いてもよい。Soft‐Shrinkage関数に関しては後述する。
Figure 0007169094000003
また、従来のニューラルネットワーク６０の内部パラメータは、事前に行われる学習によって決定される。そして、ニューラルネットワーク６０を利用する局面では、決定された内部パラメータの値は固定された状態で使用される。
これに対して、本実施形態では、ニューラルネットワーク６０の内部パラメータの値は、学習の後に所定の処理を行うとき、即ち、学習後においてニューラルネットワーク６０を利用する場合に、入力画像に関連するデータに基づいて調整することができるようになっている。
図４は、内部パラメータを調整可能することができるように構成された本実施形態のニューラルネットワーク６０と、ニューラルネットワーク６０に制御信号を与えるＳＮＲ関連データ取得機能４０及びパラメータ調整機能５０との接続関係の一例を示す図である。
パラメータ調整機能５０は、中間層６２の少なくとも一部のノード８０に対して、制御信号を供給する。パラメータ調整機能５０は、例えば、少なくとも一の中間層６２のノード８０に対して、制御信号を供給する。図４に示すように、中間層６２の夫々のノード８０に対して、パラメータ調整機能５０から制御信号が供給されてもよい。
図５は、本実施形態の１つのノード８０の内部構成例を示すブロック図である。図５に示すノード８０は、活性化関数８０５に対して、活性化関数８０５のパラメータ（即ち、ノード８０の内部パラメータの１つ）である閾値Ｔが調整されるように構成されている。
図６（ａ）は、閾値Ｔをパラメータとする活性化関数８０５の一例として、Soft-Shrinkage関数ＦSS(x, T)を示す図である。同様に、図６（ｂ）は、閾値Ｔをパラメータとする活性化関数８０５の一例として、Hard-Shrinkage関数ＦＨS(x, T)を示す図である。Soft-Shrinkage関数ＦSS(x, T)及びHard-Shrinkage関数ＦＨS(x, T)は、いずれも、入力がゼロを中心とする所定の正負の閾値±Ｔの範囲内のときはゼロを出力し、入力が閾値±Ｔの範囲外のときは入力の値に比例する値を出力する関数である。
ただし、入力が閾値±Ｔの範囲外のとき、Soft-Shrinkage関数ＦSS(x, T)の出力の振幅は入力の振幅ｘよりも閾値Ｔだけ小さくなる。これに対して、入力が閾値±Ｔの範囲外のとき、Hard-Shrinkage関数ＦＨS(x, T)の出力の振幅は、入力の振幅ｘと同じ値となる。
活性化関数８０５として、Soft-Shrinkage関数ＦSS(x, T)、或は、Hard-Shrinkage関数ＦＨS(x, T)を使用することにより、振幅が閾値Ｔよりも小さな信号、即ち、ノイズである可能性が高い微弱な信号を、活性化関数の出力においてゼロとすることができる。
このように、活性化関数８０５として、Soft-Shrinkage関数ＦSS(x, T)、或は、Hard-Shrinkage関数ＦＨS(x, T)を使用するニューラルネットワーク６０は、画像のノイズを低減する技術であり、閾値Ｔがノイズレベルに対して適切な大きさに設定されている際に、ノイズ低減効果を発揮する。
閾値Ｔは、図５に示すように、内部パラメータとしての係数αと、外部からの制御信号Ｇとの積として、Ｔ＝αＧ、等によって決定することができる。例えば、ＳＮＲ関連データ取得機能４０は、入力Ｉ／Ｆ１１を介して入力される入力画像（或はその付帯情報）から、入力画像のＳＮＲやノイズの大きさに関連するデータ（即ち、ＳＮＲ関連データ）を取得し、パラメータ調整機能５０に供給する。そして、パラメータ調整機能５０は、ＳＮＲ関連データに基づいて制御信号Ｇの大きさを決定し、各ノード８０へ供給する。例えば、パラメータ調整機能５０は、ＳＮＲ関連データが、入力画像のＳＮＲが低い、或は、入力画像に含まれるノイズが大きいことを示しているときには、制御信号Ｇを大きな値に設定して、ノード８０に供給する。
実施形態の画像処理システム１００は、ニューラルネットワーク６０を使用するシステムである。したがって、画像処理システム１００は、ニューラルネットワーク６０を学習させる「学習モード」と、ニューラルネットワーク６０の学習後に、ニューラルネットワーク６０を使用して画像処理を行う「画像処理モード」とを有している。
図７は、これら２つの動作モードのうち、画像処理システム１００の学習モードの動作例を示すフローチャートである。
まず、ステップＳＴ１０でニューラルネットワーク６０に対する外部からの制御信号を固定値に設定しておく。図５に示した制御信号を、例えば、Ｇ＝１、に固定する。また、ステップＳＴ１１で、ニューラルネットワーク６０の内部パラメータの値を初期値に設定する。例えば、図５に示す、各ノード８０内の重み８００の値、バイアス８０３の値、係数αの値等の内部パラメータの値を初期値に設定する。
次に、ステップＳＴ１２で、教師画像ＩＭを設定する。本実施形態の画像処理システム１００は、画像に含まれるノイズを除去、或いは低減する処理を行うものである。そこで、教師画像ＩＭとして、ノイズの無い画像、或いは、ＳＮＲが非常に高い画像を選択し、ニューラルネットワーク６０に、学習の準備として設定する。
ステップＳＴ１３では、教師画像に人工的なノイズを付加した学習用画像を生成し、同じく、ニューラルネットワーク６０に、学習の準備として設定する。ここで、人工的なノイズとは、例えば、所定の大きさの標準偏差σを有するガウシアンノイズを計算で生成し、このノイズと教師画像の画素値とを加算することにより、学習用画像を生成する。
ステップＳＴ１４では、生成した学習用画像をニューラルネットワーク６０に入力し、その処理結果を得る。
例えば、ニューラルネットワーク６０の入力層６１の各入力端７０に、ノイズが付加されている学習用画像の各画素の画素値を入力する。この画素値は、ニューラルネットワーク６０の中間層６２の各ノード８０を、図５に示した重み付き加算、バイアス加算、及び活性化関数処理の演算により、入力層６１から出力層６３に向かって、値を変化させながら伝搬していく。そして、出力層６３の出力端９０に、ニューラルネットワーク６０による処理を受けた画像の画素値として出力される。
ステップＳＴ１５では、処理を受けた画像と教師画像との間の誤差(訓練誤差)を算出する。訓練誤差として、具体的には、処理を受けた画像と教師画像の各画素の平均二乗誤差：ＭＳＥ(mean squared error)や各画素の２乗誤差の総和を用いることができる。
さらにステップＳＴ１６では、誤差逆伝搬法を用いて、前記訓練誤差が小さくなるようにニューラルネットワークのパラメータを更新する。特にShrinkage関数のパラメータ更新には、非特許文献１や非特許文献２の手法を使うことができる。
その後、ステップＳＴ１７では、あらかじめ教師画像とは別に用意するＳＮＲが高い画像である正解画像と、それにノイズを加えた検証用画像を用いて、検証用画像をニューラルネットワーク６０で処理した結果と正解画像の間の誤差(汎化誤差)を算出する。
ステップＳＴ１８では、汎化誤差が極小値に達したか否かを判断し、この汎化誤差が極小値に達した段階でパラメータ更新を終了し、極小値に達しなければステップＳＴ１２に戻って処理を繰り返す。
図８は、上述した処理を模式的に説明する図である。図８の上段に示すように、ノイズの無い、或いは、ＳＮＲの非常に高い教師画像ＩＭａをニューラルネットワーク６０の出力側に設定する。一方、この教師画像ＩＭａに人工的なノイズＮａを付加した学習用画像をニューラルネットワーク６０に入力する。そして、ニューラルネットワーク６０で処理を受けた学習用画像が教師画像に近づくように、ニューラルネットワーク６０の内部パラメータを決定する。この内部パラメータの決定過程が、機械学習、或いは、単に学習と呼ばれるプロセスである。
学習に使用する教師画像は１つでも良いが、類似した異なる教師画像を複数用いてニューラルネットワーク６０を学習させることにより、学習効果を高めることができる。例えば、図８の中段、及び下段に示すように、教師画像ＩＭａと学習用画像ＩＭａ＋Ｎａとの組み合わせに加えて、教師画像ＩＭｂと学習用画像ＩＭｂ＋Ｎｂとの組みわせ、及び教師画像ＩＭｃと学習用画像ＩＭｃ＋Ｎｃとの組み合わせを用いた複数画像の学習により、学習効果を高めることができる。
複数の教師画像を用いて学習する場合は、図７のフローチャートのステップＳＴ１２からステップＳＴ１８までを１の教師画像について実行し、ステップＳＴ１８において汎化誤差が極小値に達していないと判断された場合に、ステップＳＴ１２に戻り、教師画像を新たな画像に入れ替えて、ステップＳＴ１３からステップＳＴ１８の処理を繰り返すことになる。
そして、全ての教師画像に対する学習が終了すると、ステップＳＴ１９にて、学習後のニューラルネットワーク６０の内部パラメータを記憶回路２１に保存する。なお、記憶回路２１に保存するのは、内部パラメータだけでなく、ニューラルネットワーク６０の構造に関する情報を保存してもよい。即ち、ニューラルネットワーク６０の構造と内部パラメータとを含めて機械学習モデルと呼ぶものとすると、ステップＳＴ１９では、学習後の機械学習モデルの全体を保存してもよい。
なお、上述した学習モードの各処理は、図１におけるパラメータ学習機能２０によって行われることになる。
図９は、画像処理システム１００の「画像処理モード」、即ち、ニューラルネットワーク６０の学習後におけるニューラルネットワーク６０の利用時の動作モード、の処理例を示すフローチャートである。
まず、ステップＳＴ２０にて、処理回路１０に、入力Ｉ／Ｆ１１を介して画像が入力される。具体的には、画像はＳＮＲ関連データ取得機能４０に入力される。画像は、ニューラルネットワーク６０を用いたノイズ除去処理、或いは、ノイズ低減処理の対象となる画像である。例えば、入力画像は、ＭＲＩ装置、ＣＴ装置、超音波診断装置等の医用画像診断装置で撮像された画像である。この画像には前記ＳＮＲ関連データが付与されている。
ステップＳＴ２１では、ＳＮＲ関連データ取得機能４０が、入力された画像からＳＮＲ関連データを取得する。続いて、ステップＳＴ２２では、パラメータ調整機能５０が、ＳＮＲ関連データから、ニューラルネットワーク６０の各ノード８０に対する制御信号を生成する。
画像からＳＮＲ関連データが取得され、制御信号が生成されまでの処理としては種々の具体例が考えられる。
図１０は、ニューラルネットワーク６０で行うノイズ除去、或いは低減処理の前処理として、画像内の最も大きな画素値Ｌｖを用いて画素値の正規化をする場合における制御信号Ｇの算出方法を説明する図である。
このような前処理を行う場合、ＳＮＲ関連データ取得機能４０が取得するＳＮＲ関連データは、画像内の最大画素値Ｌｖということになる。例えば、図１０の左列に示すように、画像内の最大画素値Ｌｖが、Ｌｖ１、Ｌｖ２，及びＬｖ３と異なる３種類の撮像画像が処理対象である場合を想定する（Ｌｖ２＞Ｌｖ１＞Ｌｖ３）。この場合、正規化後の最大画素値がＳmaxとなるようにするためには、３つの画像に対して、Ｇ１＝Ｓmax／Lｖ１、Ｇ２＝Ｓmax／Lｖ２、Ｇ３＝Ｓmax／Lｖ３、というゲインＧ（Ｇ２＜Ｇ１＜Ｇ３）を、３つの画像の夫々の画素値に乗じることになる。
通常、撮像時の画像のノイズ（即ち、正規化前の画像のノイズ）の大きさ（例えば、ノイズのｒｍｓ値）は、画像間で共通である。したがって、画像内の最大画素値Ｌｖで正規化すると、正規化後のノイズの大きさＮは、図１０の右列に例示するように異なってくる（Ｎ２＜Ｎ１＜Ｎ３）。正規化演算に使用したゲインＧを、制御信号としてニューラルネットワーク６０に提供すれば、処理対象の画像のノイズの大きさと相関をもつデータを、ニューラルネットワーク６０に与えることが可能となる。
図９に戻り、図９のステップＳＴ２３では、パラメータ調整機能５０から与えられた制御信号にしたがって、各ノードの内部パラメータを調整する。図１１は、ステップＳＴ２３で調整される内部パラメータが、活性化関数８０５の閾値Ｔである例を図示している。具体的には、図１１は、活性化関数８０５が（式５）で表されるSoft‐Shrinkage関数である場合において、Soft‐Shrinkage関数の閾値Ｔが制御信号Ｇによって、Ｔ１＝αＧ１、Ｔ２＝αＧ２、Ｔ３＝αＧ３のように調整される例を示している。
ゲインＧ（即ち、ノイズの大きさ）が大きい程、出力がゼロとなる入力の幅も大きくなっており、ノイズを除去、或は低減する効果が、ノイズの大きさに依存せずに維持されるようになっている。
その後、ステップＳＴ２４において入力Ｉ／Ｆ１１に入力された画像はニューラルネットワーク６０に入力され、ステップＳＴ２５においてニューラルネットワーク６０で処理されて、ステップＳＴ２６において出力Ｉ／Ｆ１２から処理された画像が出力される。
図１２は、画像処理モードにおける、上述した本実施形態のニューラルネットワーク６０の動作概念を説明する図である。実施形態の画像処理システム１００では、ニューラルネットワーク６０の入力画像ＩＭinからＳＮＲ関連データを取得し、取得したＳＮＲ関連データに基づいてニューラルネットワーク６０のパラメータを調整する機能を有している。従来のニューラルネットワークは、「学習モード」で使用した画像に含まれるノイズの大きさと、学習後の「画像処理モード」で入力される画像に含まれるノイズの大きさが異なる場合には、ノイズの除去、低減効果が低下するという問題があった。
これに対して、本実施形態の画像処理システム１００では、ニューラルネットワーク６０の学習後においても、「画像処理モード」で入力される画像に含まれるノイズの大きさに応じてニューラルネットワーク６０のパラメータを調整する機能を有している。この結果、「学習モード」で使用した画像に含まれるノイズの大きさと、学習後の「画像処理モード」で入力される画像に含まれるノイズの大きさが異なる場合であっても、ノイズの除去、低減効果を維持することが可能となる。
なお、上述では、画像を最大画素値で正規化する際のゲインＧをＳＮＲ関連データの例として説明したが、ＳＮＲ関連データは上記の例に限定されない。以下、ＳＮＲ関連データの他の例をいくつか説明する。
例えば、処理対象の画像がカメラで撮像した画像であれば、ＳＮＲ関連データ取得機能４０は、カメラ画像の付帯情報等から、撮像時のカメラのＦ値や露光時間をＳＮＲ関連データとして取得してもよい。Ｆ値や露光時間は、イメージセンサの画素に入射する光子の数に影響し、光子の数が大きいほどショットノイズが減少するからである。
また例えば、処理対象の画像がＭＲＩ装置で撮像した医用画像であれば、ＳＮＲ関連データ取得機能４０は、位相エンコーディングステップ数Ｎｙ、周波数エンコーディングステップ数Ｎｘ、ボクセル体積（ΔｘΔｙΔｚ）、バンド幅Ｂｗ、積分回数Ｎexなどの撮像条件に関するパラメータの１つ又は複数の組み合わせを、ＳＮＲ関連データとしてＭＲＩ装置から取得してもよい。ＭＲＩ装置で撮像した医用画像のＳＮＲは、以下の式で表されるからである。
Figure 0007169094000004
また例えば、処理対象の画像がＣＴ装置で撮像した医用画像であれば、ＳＮＲ関連データ取得機能４０は、管電圧、管電流、照射時間、被写体サイズ、被ばく量、ビーム数の一つ以上を、ＳＮＲ関連データとしてＣＴ装置から取得してもよい。これらのパラメータは、ＣＴ装置で撮像した医用画像のＳＮＲや、ノイズ量と相関を持つからである。
また、この他、処理対象の画像がレーダー画像の場合には、ＳＮＲ関連データ取得機能４０は、受信信号の大きさや信号受信機の利得を、ＳＮＲ関連データとして取得してもよい。
また、Soft-Shrinkage関数の閾値Ｔの調整にＬｖ等の信号値を用いる場合は、信号のダイナミックレンジが変わった場合に処理性能が低下する可能性がある。例えば、入力画像が８ビットの信号をもつデータで学習したときに、１０ビットの信号をもつセンサに接続した場合、閾値Ｔの値が小さくなり、その結果として、ノイズ除去性能が低下する。このような場合、ＳＮＲ関連データ取得機能４０は、信号のダイナミックレンジに関する情報を取得し、制御信号Ｇに、撮像時のダイナミックレンジと学習時のダイナミックレンジの比を乗じても良い。
また、ユーザによる調整によって、ノイズ除去性能を変化させるように構成することもできる。例えば、画像処理システム１００の入力デバイス２３を介して、ユーザが、デノイズ強度（即ち、ノイズ除去の程度を変化させるパラメータ値）を設定する。ＳＮＲ関連データ取得機能４０、又は、パラメータ調整機能５０は、ユーザが設定したデノイズ強度を取得し、デノイズ強度を制御信号Ｇに乗じることにより、ニューラルネットワーク６０のノイズ除去性能をユーザが変化させることができる。
また、図４では、各中間層６２の中の全てのノード８０に対して、パラメータ調整機能５０から制御信号が入力される構成となっているが、必ずしもこの構成に限定されるものではない。一部のノード８０にのみ制御信号が入力される、或いは、一部のノード８０のパラメータのみが、ＳＮＲ関連データに基づく調整を受けるように構成し、他のノード８０のパラメータは、学習モードで決定されたパラメータ値に固定されるような構成であってもよい。
また、本実施形態で使用する活性化関数として、図６（ａ）及び（式５）に表されるSoft-Shrinkage関数ＦSS(x, T)や、図６（ｂ）に示すHard-Shrinkage関数ＦＨS(x, T)を例示したが、これら以外の種々の活性化関数も本実施形態のニューラルネットワーク６０に使用することができる。
例えば、以下の（式６）で表される、ｔａｎｈ関数を利用した関数を活性化関数としてもよい。
Figure 0007169094000005
また、以下の（式７）で表される、クリッピング関数ｆclipを利用した関数を活性化関数としてもよい。
Figure 0007169094000006
さらに、以下の（式８）で表される、ＲｅＬＵ関数ｆReLUを利用した関数を活性化関数としてもよい。
Figure 0007169094000007
（その他の実施形態）
以下、上述した第１の実施形態とは異なる構成のニューラルネットワーク６０を有する実施形態について説明する。
図１３は、第２の実施形態の画像処理システム１００の構成例を示すブロック図である。図１３に示すブロック図は、画像処理モード時の動作と、それに関連するニューラルネットワーク６０の内部構成に着目した構成を示すものである。したがって、画像処理システム１００のうち、図１に示した入力デバイス２３、記憶回路２１、ディスプレイ２２、及びパラメータ学習機能２０の各構成は、図示を省略しているが、これらを備えていてもよい。
第２の実施形態のニューラルネットワーク６０は、残差推定用のニューラルネットワーク６０ａと、ニューラルネットワーク６０ａをバイパスするパス８０７と、パス８０７の出力から、ニューラルネットワーク６０ａの出力（残差）を減算する減算器８０６と、を有している。
ニューラルネットワーク６０ａは、残差学習（residual learning）によって生成されたニューラルネットワークである。この場合、ニューラルネットワーク６０ａは、入力画像の各画素値から信号値を取り除いた残差、即ち、入力画像に含まれるノイズ成分のみを推定する。そして、ニューラルネットワーク６０ａは、推定したノイズ成分のみを出力し、減算器８０６の一端に入力する。
一方、ノイズが含まれた入力画像は、パス８０７を通って減算器８０６の他端に入力される。そして、減算器８０６では、入力画像から、ニューラルネットワーク６０ａで推定したノイズが減算される。この結果、減算器８０６の出力、即ち、ニューラルネットワーク６０の出力では、入力画像からノイズが除去された、或いはノイズが低減された画像が得られる。
第２の実施形態のニューラルネットワーク６０においても、入力画像、或いは入力画像の付帯情報から取得されるＳＮＲ関連データに基づいて、残差推定用にニューラルネットワーク６０ａの内部パラメータが調整できるように構成されている。したがって、学習時に用いたノイズの大きさと、運用時に入力される画像のノイズの大きさが異なる場合でも、ノイズ除去性能の低下を防止することができる。
図１４は、第３の実施形態の画像処理システム１００の構成例を示すブロック図である。図１４に示すブロック図も、図１３と同様に、画像処理モード時の動作と、それに関連するニューラルネットワーク６０の内部構成に着目した構成を示すものである。
第３の実施形態のニューラルネットワーク６０は、ニューラルネットワーク６０への入力を２つのパスに分けて処理する構成としている。一方のパスには少なくとも１つの適応型のニューラルネットワーク６０ｂを設け、他方のパスには少なくとも１つの固定型のニューラルネットワーク６０ｃを設ける。そして、２つのニューラルネットワーク６０ｂ、６０ｃの夫々の出力を加算する加算器８０８を設ける構成としている。
第３の実施形態の画像処理システム１００では、適応型のニューラルネットワーク６０ｂにおいてのみ、画像処理モードにおいて、入力画像、或いは入力画像の付帯情報から取得されるＳＮＲ関連データに基づいて、残差推定用にニューラルネットワーク６０ｂの内部パラメータが調整できるように構成されている。これに対して、固定型のニューラルネットワーク６０ｃの内部パラメータは、学習モード時に決定された値に固定されたままの状態で、画像処理モードでの処理を行う。
ニューラルネットワーク６０ｂから出力される、ノイズが除去あるいは低減された画像と、ニューラルネットワーク６０ｃから出力される、ノイズが除去あるいは低減された画像と、が加算されることによって、入力画像よりもノイズが除去あるいは低減された画像が出力Ｉ／Ｆ１２から出力される。
第３の実施形態においても、ＳＮＲ関連データに基づいてニューラルネットワーク６０ｂの内部パラメータが調整される。したがって、学習時に用いたノイズの大きさと運用時に入力される画像のノイズの大きさが異なる場合でも、ノイズ除去性能の低下を防止することができる。
図１５は、第４の実施形態の画像処理システム１００の構成例を示すブロック図である。図１５に示すブロック図も、図１３と同様に、画像処理モード時の動作と、それに関連するニューラルネットワーク６０の内部構成に着目した構成を示すものである。図１５のブロック図は、さらに図１に示した入力デバイス２３、記憶回路２１、ディスプレイ２２、及びパラメータ学習機能２０を備えていてもよい。
第４の実施形態のニューラルネットワーク６０は、高周波領域と低周波領域に分割して、２つの（或いは複数の）周波数帯域の信号に対して処理を行う構成としている。例えば、第４の実施形態のニューラルネットワーク６０は、分割ユニット８０９、少なくとも１つの高周波用ニューラルネットワーク６０ｄ、少なくとも１つの低周波用ニューラルネットワーク６０ｅ、及び合成ユニット８１０を有して構成されている。
分割ユニット８０９は、入力画像に対して、例えば２次元フーリエ変換を行って、実空間領域で表現されている入力画像を空間周波数領域のデータに変換する。さらに、分割ユニット８０９は、変換された空間周波数領域のデータに対して、例えば、ハイパスフィルタやローパスフィルタ等を適用することによって、例えば、高周波帯域データと低周波帯域データに分割する。
その後、高周波帯域データは、高周波用ニューラルネットワーク６０ｄに入力されて画像処理が行われる。高周波用ニューラルネットワーク６０ｄは、内部パラメータ適応型のニューラルネットワークとして構成されている。つまり、入力画像から取得された、或いは、入力画像の付帯情報から取得されたＳＮＲ関連データに基づいて、学習後においても、内部パラメータが調整可能に構成されている。
一方、低周波帯域データは、低周波用ニューラルネットワーク６０ｅに入力されて画像処理が行われる。低周波用ニューラルネットワーク６０ｅは、内部パラメータ固定型のニューラルネットワークとして構成されている。つまり、学習モードにて決定された内部パラメータは画像処理モード時には固定され、その状態で入力データが処理されることになる。
ニューラルネットワーク６０ｄから出力される、ノイズが除去あるいは低減された画像と、ニューラルネットワーク６０ｅから出力される、ノイズが除去あるいは低減された画像と、が合成ユニット８１０により合成されることに依って、入力画像よりもノイズが除去あるいは低減された画像が出力Ｉ／Ｆ１２から出力される。
第４の実施形態においても、ＳＮＲ関連データに基づいてニューラルネットワーク６０ｂの内部パラメータが調整される。したがって、学習時に用いたノイズの大きさと運用時に入力される画像のノイズの大きさが異なる場合でも、ノイズ除去性能の低下を防止することができる。
図１６は、第５の実施形態の画像処理システム１００の構成例を示すブロック図である。ここまでの実施形態では、ニューラルネットワークの内部パラメータが調整できるように構成された例を説明してきたが、実施形態はこれに限られるものではない。例えば、画像処理システム１００は、「学習モード」において、ノイズ量に応じて分類された学習用画像を用いて、ノイズ量に応じたニューラルネットワークを生成する。すなわち、図１６に示すように、画像処理システム１００は、「学習モード」において、ノイズ量σｍ（ｍ＝１～Ｍ）に応じて内部パラメータが調整された、複数のニューラルネットワーク６０ｆを生成する。
一方、画像処理システム１００は、「画像処理モード」において、入力画像自体、或は入力画像の付帯情報からＳＮＲ関連データ取得機能４０が取得するＳＮＲ関連データに基づいて入力画像のノイズ量σを判定する。さらに、画像処理システム１００は、判定したノイズ量σに最も近いσｍよって内部パラメータが調整されたニューラルネットワーク６０ｆを、入力画像のニューラルネットワーク選択機能５００及び選択部８２０によって選択する。そして、画像処理システム１００は、選択したニューラルネットワーク６０ｆを用いて、入力画像よりもノイズが除去あるいは低減された画像を出力する。
図１７は、画像処理システム１００を医用情報処理システムに適応した実施形態の構成例を示すブロック図である。ここまでの実施形態では、機械学習の学習済みモデルとしてニューラルネットワークを例に説明したが、実施形態はこれに限られるものではない。機械学習により得られる学習済みモデルは、処理パラメータを有する関数であればよく、細胞を模した１つ以上のノードが、神経を模した１つ以上のエッジで連結されている処理装置に限られるものではない。例えば、機械学習により得られる学習済みモデルは、線形回帰モデル、サポートベクターマシン（ＳＶＭ）モデル等の回帰モデルや、決定木モデル、回帰木モデル、ランダムフォレストモデル等の木モデルでもよい。なお、学習済みモデルには、自己学習により更新されたモデルを含む。
また、ここまでの実施形態では、ニューラルネットワークに対して入力される対象として「入力画像」という用語を用いたが、この「入力画像」には、ＣＴ装置により取得された投影データや、ＭＲＩ装置により取得されたｋ空間データなど、再構成前の入力データを含む。
図１７では、処理パラメータ６００ａ、６００ｂ、６００ｃを有する学習済みモデル６００を例示している。入力Ｉ／Ｆ１１は、医用画像診断装置による撮像によって得られた入力データを取得する。また、入力データ指標取得機能７００は、入力データのノイズに関する指標値、又は、入力データの性質を示す指標値を取得する。処理パラメータ６００ｂは、取得した指標値に対応する処理パラメータである。学習済みモデル処理機能７１０は、入力データにおける指標値に対応する処理パラメータ６００ｂを有する学習済みモデル６００に、入力データを加工するように制御する。
ここまでの実施形態では、画像処理システム１００を構成する処理回路、或いはコンピュータは１つであるものとして説明してきた。しかしながら、画像処理システム１００を構成する処理回路、或いはコンピュータの数は１つに限定されるものではなく、複数の処理回路や複数のコンピュータを用いて、上述した処理を行うようにしてもよい。
以上説明した少なくとも１つの実施形態によれば、ニューラルネットワークを使用する画像処理システムにおいて、使用時の画像に重畳されているノイズ量が、学習用画像のノイズ量と異なる場合においても、高いノイズ除去性能を確保することができる。
なお、各実施形態の説明におけるニューラルネットワーク処理機能３０は、特許請求の範囲の記載における処理部又は制御部の一例である。各実施形態の説明におけるＳＮＲ関連データ取得機能４０及びパラメータ調整機能５０は、特許請求の範囲の記載における調整部の一例である。また、各実施形態の説明における入力Ｉ／Ｆ１１は、特許請求の範囲の記載における取得部又は指標取得部の一例である。また、各実施形態の説明における記憶回路２１は、特許請求の範囲の記載における記憶部の一例である。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに特許請求の範囲に記載された発明とその均等の範囲に含まれる。
１０ 処理回路
１１ 入力Ｉ／Ｆ
１２ 出力Ｉ／Ｆ
２０ パラメータ学習機能
２１ 記憶回路
２２ ディスプレイ
２３ 入力デバイス
３０ ニューラルネットワーク処理機能
４０ ＳＮＲ関連データ取得機能
５０ パラメータ調整機能
６０、６０ａ、６０ｂ、６０ｃ、６０ｄ、６０ｅ ニューラルネットワーク
６１ 入力層
６２ 中間層
６３ 出力層
８０ ノード
１００ 画像処理システム
８００ 重み
８０３ バイアス
８０５ 活性化関数
８０９ 分割ユニット
８１０ 合成ユニット

Claims (9)

  1. 入力層、出力層、及び、前記入力層と前記出力層との間に設けられる中間層を有するニューラルネットワークを用いて、前記入力層に入力される入力画像に対して処理を行う処理部と、
    前記中間層に含まれる１以上のノードの少なくとも１つの内部パラメータである活性化関数のパラメータであって、前記ニューラルネットワークの学習の後に前記処理を行うとき、前記入力画像に関連するデータに基づいて前記活性化関数のパラメータを調整する、調整部と、
    を備える画像処理システム。
  2. 前記入力画像は、ノイズを含む画像であり、
    前記入力画像は、前記処理部が行う前記処理により、前記入力画像から前記ノイズを除去、又は、低減される、
    請求項１に記載の画像処理システム。
  3. 前記入力画像に関連するデータは、前記入力画像のノイズの大きさ、又は、前記入力画像の信号対雑音比に関するＳＮＲ関連データである、
    請求項１又は２に記載の画像処理システム。
  4. 前記活性化関数は、前記入力画像に含まれる、閾値よりも小さい振幅の入力信号を除去する関数であり、
    前記調整部が調整する前記内部パラメータは、前記活性化関数の前記閾値である、
    請求項１に記載の画像処理システム。
  5. 前記活性化関数は、入力がゼロ含む範囲に含まれるときはゼロを出力し、入力が前記範囲外のときは入力の値に比例する値を出力する関数である、
    請求項１に記載の画像処理システム。
  6. 入力層、出力層、及び、前記入力層と前記出力層との間に設けられる中間層を有するニューラルネットワークを用いて、前記入力層に入力される入力画像に対して処理を行う処理部と、
    前記中間層に含まれる１以上のノードの少なくとも１つの内部パラメータであって、学習によって算出される前記内部パラメータを、前記学習の後に前記処理を行うとき、前記入力画像に関連するデータに基づいて調整する、調整部と、
    を備え、
    前記ニューラルネットワークは、第１のニューラルネットワークと、第２のニューラルネットワークを有し、
    前記調整部は、前記第１のニューラルネットワークの内部パラメータを前記入力画像に関連するデータに基づいて調整する一方、前記第２のニューラルネットワークの内部パラメータは調整しない、
    画像処理システム。
  7. 入力層、出力層、及び、前記入力層と前記出力層との間に設けられる中間層を有するニューラルネットワークを用いて、前記入力層に入力される入力画像に対して処理を行う処理部と、
    前記中間層に含まれる１以上のノードの少なくとも１つの内部パラメータであって、学習によって算出される前記内部パラメータを、前記学習の後に前記処理を行うとき、前記入力画像に関連するデータに基づいて調整する、調整部と、
    を備え、
    前記ニューラルネットワークは、
    第１のニューラルネットワークと、
    第２のニューラルネットワークと、
    入力画像を高周波成分画像と低周波成分画像とに分割し、前記高周波成分画像を前記第１のニューラルネットワークに入力する一方、前記低周波成分画像を前記第２のニューラルネットワークに入力する分割ユニットと、
    第１のニューラルネットワークから出力される第１の出力画像と、前記第２のニューラルネットワークから出力される第２の出力画像とを合成する合成ユニットと、
    を有し、
    前記調整部は、前記第１のニューラルネットワークの内部パラメータを前記入力画像に関連するデータに基づいて調整する一方、前記第２のニューラルネットワークの内部パラメータは調整しない、
    画像処理システム。
  8. 前記処理部は、前記ニューラルネットワークを用いて、ノイズが低減された出力画像を、前記入力画像から生成し、
    前記調整部は、前記ニューラルネットワークの前記内部パラメータを、前記入力画像の撮像条件に応じて調整する、
    請求項１に記載の画像処理システム。
  9. 前記画像処理システムは、１つ以上のコンピュータによって構成される、
    請求項１乃至８のいずれか１項に記載の画像処理システム。
JP2018103025A 2017-06-01 2018-05-30 画像処理システム及び医用情報処理システム Active JP7169094B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022173383A JP7427748B2 (ja) 2017-06-01 2022-10-28 画像処理システム及び医用情報処理システム
JP2024008184A JP2024028568A (ja) 2017-06-01 2024-01-23 画像処理システム及び医用情報処理システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017108934 2017-06-01
JP2017108934 2017-06-01

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022173383A Division JP7427748B2 (ja) 2017-06-01 2022-10-28 画像処理システム及び医用情報処理システム

Publications (2)

Publication Number Publication Date
JP2018206382A JP2018206382A (ja) 2018-12-27
JP7169094B2 true JP7169094B2 (ja) 2022-11-10

Family

ID=62683093

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018103025A Active JP7169094B2 (ja) 2017-06-01 2018-05-30 画像処理システム及び医用情報処理システム
JP2022173383A Active JP7427748B2 (ja) 2017-06-01 2022-10-28 画像処理システム及び医用情報処理システム
JP2024008184A Pending JP2024028568A (ja) 2017-06-01 2024-01-23 画像処理システム及び医用情報処理システム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2022173383A Active JP7427748B2 (ja) 2017-06-01 2022-10-28 画像処理システム及び医用情報処理システム
JP2024008184A Pending JP2024028568A (ja) 2017-06-01 2024-01-23 画像処理システム及び医用情報処理システム

Country Status (3)

Country Link
US (3) US11574170B2 (ja)
EP (1) EP3410392B1 (ja)
JP (3) JP7169094B2 (ja)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102313773B1 (ko) * 2016-11-07 2021-10-19 삼성전자주식회사 신경망 학습에 기반한 입력 처리 방법 및 이를 위한 장치
JP7282487B2 (ja) 2018-06-07 2023-05-29 キヤノンメディカルシステムズ株式会社 医用画像診断装置
JP7068054B2 (ja) 2018-06-07 2022-05-16 株式会社東芝 距離計測装置、および距離計測方法
US10430708B1 (en) * 2018-08-17 2019-10-01 Aivitae LLC System and method for noise-based training of a prediction model
US10949951B2 (en) * 2018-08-23 2021-03-16 General Electric Company Patient-specific deep learning image denoising methods and systems
EP3629240B1 (en) * 2018-09-07 2023-08-23 Panasonic Intellectual Property Corporation of America Generative adversarial networks for local noise removal from an image
US10878311B2 (en) * 2018-09-28 2020-12-29 General Electric Company Image quality-guided magnetic resonance imaging configuration
US11282172B2 (en) * 2018-12-11 2022-03-22 Google Llc Guided restoration of video data using neural networks
US20220076125A1 (en) * 2018-12-28 2022-03-10 Nec Corporation Neural network learning device, method, and program
CN111382642A (zh) * 2018-12-29 2020-07-07 北京市商汤科技开发有限公司 人脸属性识别方法及装置、电子设备和存储介质
JP7228386B2 (ja) * 2019-01-04 2023-02-24 キヤノンメディカルシステムズ株式会社 医用画像処理装置、磁気共鳴イメージング装置、および医用画像処理方法
JP7302972B2 (ja) * 2019-01-17 2023-07-04 キヤノンメディカルシステムズ株式会社 超音波診断装置、及び学習プログラム
JP7273519B2 (ja) * 2019-01-17 2023-05-15 キヤノンメディカルシステムズ株式会社 超音波診断装置、及び学習プログラム
JP7246194B2 (ja) * 2019-01-28 2023-03-27 キヤノンメディカルシステムズ株式会社 医用画像処理装置、医用画像処理方法、およびプログラム
US11415656B2 (en) 2019-01-30 2022-08-16 Canon Medical Systems Corporation Medical information processing apparatus, magnetic resonance imaging apparatus, and medical information processing method
JP7297470B2 (ja) * 2019-03-05 2023-06-26 キヤノン株式会社 画像処理方法、画像処理装置、プログラム、画像処理システム、および、学習済みモデルの製造方法
JP7302988B2 (ja) * 2019-03-07 2023-07-04 富士フイルムヘルスケア株式会社 医用撮像装置、医用画像処理装置、及び、医用画像処理プログラム
JP7301562B2 (ja) 2019-03-14 2023-07-03 キヤノンメディカルシステムズ株式会社 医用画像処理装置、学習用データ作成装置および超音波診断装置
JP2020162025A (ja) * 2019-03-27 2020-10-01 キヤノン株式会社 画像処理システム、画像処理方法、および画像処理装置
EP3723037B1 (en) 2019-04-10 2024-05-15 Canon Medical Systems Corporation Medical information processing apparatus and medical information processing method
US11954578B2 (en) * 2019-04-24 2024-04-09 University Of Virginia Patent Foundation Denoising magnetic resonance images using unsupervised deep convolutional neural networks
CN111881927B (zh) 2019-05-02 2021-12-21 三星电子株式会社 电子装置及其图像处理方法
KR102210940B1 (ko) * 2019-05-02 2021-02-03 삼성전자주식회사 전자 장치 및 그 영상 처리 방법
JP7362297B2 (ja) * 2019-05-24 2023-10-17 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN112102423A (zh) * 2019-06-17 2020-12-18 通用电气精准医疗有限责任公司 医学成像方法及***
JP7094562B2 (ja) * 2019-07-05 2022-07-04 イーグロース株式会社 生体画像取得装置、変換器生産装置、生体画像の生産方法、変換器の生産方法、およびプログラム
JP7321271B2 (ja) * 2019-07-26 2023-08-04 富士フイルム株式会社 学習用画像生成装置、方法及びプログラム、並びに学習方法、装置及びプログラム
JP7353847B2 (ja) 2019-07-29 2023-10-02 キヤノン株式会社 情報処理装置、撮像装置、制御方法およびプログラム
JP7446736B2 (ja) * 2019-08-09 2024-03-11 キヤノンメディカルシステムズ株式会社 医用データ処理装置および医用画像診断装置
JP2021060847A (ja) * 2019-10-08 2021-04-15 株式会社ザクティ ノイズ除去システム
JP7471795B2 (ja) * 2019-10-31 2024-04-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
DE102019217220A1 (de) * 2019-11-07 2021-05-12 Siemens Healthcare Gmbh Computerimplementiertes Verfahren zur Bereitstellung eines Ausgangsdatensatzes
KR20210067699A (ko) * 2019-11-29 2021-06-08 삼성전자주식회사 전자 장치 및 그 제어 방법
JP7446797B2 (ja) 2019-12-03 2024-03-11 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
US11657255B2 (en) * 2020-02-21 2023-05-23 Adobe Inc. Controlling a neural network through intermediate latent spaces
US20230097849A1 (en) * 2020-02-26 2023-03-30 Shimadzu Corporation Creation method of trained model, image generation method, and image processing device
US11341616B2 (en) * 2020-03-23 2022-05-24 Ge Precision Healthcare Methods and system for selective removal of streak artifacts and noise from images using deep neural networks
CN115427795A (zh) * 2020-04-16 2022-12-02 浜松光子学株式会社 放射线图像取得装置、放射线图像取得***及放射线图像取得方法
KR20230003484A (ko) * 2020-04-16 2023-01-06 하마마츠 포토닉스 가부시키가이샤 방사선 화상 처리 방법, 학습 완료 모델, 방사선 화상 처리 모듈, 방사선 화상 처리 프로그램, 방사선 화상 처리 시스템, 및 기계 학습 방법
WO2021240589A1 (ja) * 2020-05-25 2021-12-02 三菱電機株式会社 学習装置、推論装置、プログラム、学習方法及び推論方法
JP7325636B2 (ja) * 2020-06-24 2023-08-14 三菱電機株式会社 学習装置、推論装置、プログラム、学習方法及び推論方法
US11367167B2 (en) * 2020-08-21 2022-06-21 Apple Inc. Neural network-based image processing with artifact compensation
JP7476361B2 (ja) 2021-01-29 2024-04-30 富士フイルム株式会社 情報処理装置、撮像装置、情報処理方法、及びプログラム
US11699222B2 (en) * 2021-02-19 2023-07-11 Novatek Microelectronics Corp. Image processing device and a method for image enhancement
JP2023008225A (ja) * 2021-07-05 2023-01-19 浜松ホトニクス株式会社 放射線画像取得装置、放射線画像取得システム、及び放射線画像取得方法
US20230099539A1 (en) * 2021-09-30 2023-03-30 Kwai Inc. Methods and devices for image restoration using sub-band specific transform domain learning
JPWO2023067920A1 (ja) * 2021-10-19 2023-04-27
JP2023077988A (ja) * 2021-11-25 2023-06-06 キヤノン株式会社 放射線画像処理装置、放射線画像処理方法、画像処理装置、学習装置、学習データの生成方法、及びプログラム
JP2023077989A (ja) * 2021-11-25 2023-06-06 キヤノン株式会社 放射線画像処理装置、放射線画像処理方法、学習装置、学習データの生成方法、及びプログラム
JP2023130225A (ja) * 2022-03-07 2023-09-20 富士フイルムヘルスケア株式会社 磁気共鳴撮像装置、画像処理装置、及び、画像のノイズ低減方法
JP2023172341A (ja) 2022-05-23 2023-12-06 日本電子株式会社 マスイメージ処理装置及び方法
EP4318015A1 (en) * 2022-08-01 2024-02-07 Koninklijke Philips N.V. Mri denoising using specified noise profiles
KR102650510B1 (ko) * 2022-10-28 2024-03-22 한국전자기술연구원 영상의 노이즈 제거 방법 및 장치
WO2024111145A1 (ja) * 2022-11-22 2024-05-30 浜松ホトニクス株式会社 ノイズ除去方法、ノイズ除去プログラム、ノイズ除去システム及び学習方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006140952A (ja) 2004-11-15 2006-06-01 Toa Corp 画像処理装置および画像処理方法
JP2014523593A (ja) 2011-07-21 2014-09-11 クゥアルコム・インコーポレイテッド ノイズ制御を介したニューロン発火調節の方法および装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10043243B2 (en) * 2016-01-22 2018-08-07 Siemens Healthcare Gmbh Deep unfolding algorithm for efficient image denoising under varying noise conditions
US11676024B2 (en) * 2016-02-24 2023-06-13 Sri International Low precision neural networks using subband decomposition
US20180005111A1 (en) * 2016-06-30 2018-01-04 International Business Machines Corporation Generalized Sigmoids and Activation Function Learning
US10242443B2 (en) * 2016-11-23 2019-03-26 General Electric Company Deep learning medical systems and methods for medical procedures
US10133964B2 (en) * 2017-03-28 2018-11-20 Siemens Healthcare Gmbh Magnetic resonance image reconstruction system and method
US10572979B2 (en) * 2017-04-06 2020-02-25 Pixar Denoising Monte Carlo renderings using machine learning with importance sampling

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006140952A (ja) 2004-11-15 2006-06-01 Toa Corp 画像処理装置および画像処理方法
JP2014523593A (ja) 2011-07-21 2014-09-11 クゥアルコム・インコーポレイテッド ノイズ制御を介したニューロン発火調節の方法および装置

Also Published As

Publication number Publication date
US11886978B2 (en) 2024-01-30
JP2024028568A (ja) 2024-03-04
EP3410392B1 (en) 2020-07-22
US20240127043A1 (en) 2024-04-18
US20180349759A1 (en) 2018-12-06
US20230117621A1 (en) 2023-04-20
JP2018206382A (ja) 2018-12-27
JP2023001217A (ja) 2023-01-04
JP7427748B2 (ja) 2024-02-05
US11574170B2 (en) 2023-02-07
EP3410392A1 (en) 2018-12-05

Similar Documents

Publication Publication Date Title
JP7169094B2 (ja) 画像処理システム及び医用情報処理システム
Hung et al. Robust soft-decision interpolation using weighted least squares
Khan et al. An adaptive dynamically weighted median filter for impulse noise removal
Hoshyar et al. Comparing the performance of various filters on skin cancer images
CN112912758A (zh) 用于对超声信号进行自适应波束形成的方法和***
Vimala et al. Artificial neural network based wavelet transform technique for image quality enhancement
WO2016075914A1 (ja) 画像信号処理装置、画像信号処理方法及び画像信号処理プログラム
WO2015080006A1 (ja) 超音波診断装置
JP5105286B2 (ja) 画像復元装置、画像復元方法及び画像復元プログラム
JP6344934B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラムおよび記録媒体
US9996908B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for estimating blur
Subbuthai et al. Reduction of types of noises in dental images
KR101707337B1 (ko) 영상 디노이징을 위한 다중해상도 ｎｌｍ 필터링 방법
Kalavathy et al. A switching weighted adaptive median filter for impulse noise removal
KR20100097858A (ko) 예제 기반 신경회로망을 이용한 고해상도 영상 확대
Suneetha et al. An Improved Denoising of Medical Images Based on Hybrid Filter Approach and Assess Quality Metrics
Su et al. Deconvolution of defocused image with multivariate local polynomial regression and iterative wiener filtering in DWT domain
Su et al. Defocused image restoration using RBF network and iterative Wiener filter in wavelet domain
Mofidi et al. An adaptive parameter estimation in a BTV regularized image super-resolution reconstruction
Sornam et al. Noise Removal using Chebyshev Functional Link Artificial Neural Network with Back propagation.
Agarwal et al. Comparative analysis of non linear filtering techniques for denoising of X-ray images
CN112819733B (zh) 一种定向双边图像滤波方法及装置
JP5750349B2 (ja) 画像復元装置、画像復元方法およびプログラム
Kaur et al. Speckle Noise Reduction in Ultrasound Images: Performance Analysis and Comparison
Koloda et al. Reliability-based mesh-to-grid image reconstruction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221028

R150 Certificate of patent or registration of utility model

Ref document number: 7169094

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150