CN101715098B - 系数学习设备和方法、图像处理设备和方法 - Google Patents

系数学习设备和方法、图像处理设备和方法 Download PDF

Info

Publication number
CN101715098B
CN101715098B CN2009102044499A CN200910204449A CN101715098B CN 101715098 B CN101715098 B CN 101715098B CN 2009102044499 A CN2009102044499 A CN 2009102044499A CN 200910204449 A CN200910204449 A CN 200910204449A CN 101715098 B CN101715098 B CN 101715098B
Authority
CN
China
Prior art keywords
pixel
image
class
coefficient
discriminating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2009102044499A
Other languages
English (en)
Other versions
CN101715098A (zh
Inventor
永野隆浩
周藤泰广
高桥纪晃
近藤哲二郎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN101715098A publication Critical patent/CN101715098A/zh
Application granted granted Critical
Publication of CN101715098B publication Critical patent/CN101715098B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0125Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards being a high definition standard
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0145Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes the interpolation being class adaptive, i.e. it uses the information of class which is determined for a pixel based upon certain characteristics of the neighbouring pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

系数学习设备和方法、图像处理设备和方法。该系数学习设备包括:回归系数计算单元,被配置为从第一信号的图像获得抽头;回归预测值计算单元,被配置为执行回归预测计算;鉴别信息分配单元,被配置为向关注像素分配鉴别信息;鉴别系数计算单元,被配置为从第一信号的图像获得抽头;鉴别预测值计算单元,被配置为执行鉴别预测计算;和分类单元,被配置为将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个。回归系数计算单元仅利用分类为第一鉴别类的像素进一步计算回归系数并且仅利用分类为第二鉴别类的像素进一步计算回归系数。

Description

系数学习设备和方法、图像处理设备和方法
技术领域
本发明涉及系数学习设备和方法、图像处理设备和方法、程序和记录介质。更具体地讲,本发明涉及一种能够更高效更快速地执行具有高度通用特性的高质量图像形成处理的系数学习设备和方法、图像处理设备和方法、程序和记录介质。
背景技术
当从包含劣化的学生(输入)图像预测教师图像时,通过利用整个图像由学生(输入)图像的线性和进行表示的一个模型进行的该处理在精度方面存在问题。由于这个原因,执行一种方法,在该方法中根据局部特征量对学生(输入)图像进行分类,并且针对每个类切换回归系数。迄今,已经提出了利用1比特ADRC或K-means算法进行分类的方法。
例如,为了将标准电视信号(SD信号)转换成高分辨率信号(HD信号),提出了一种利用分类自适应处理的技术(例如,参见日本未审查专利申请公报No.7-79418)。
在通过利用日本未审查专利申请公报No.7-79418的技术将SD信号转换成HD信号的情况下,首先,利用ADRC(自适应动态范围编码)等确定从输入SD信号形成的类抽头的特征,并基于获得的类抽头的特征执行分类。然后,通过执行针对每个类提供的预测系数与从输入SD信号形成的预测抽头之间的计算,获得HD信号。
分类被设计为:基于低S/N像素的像素值的模式对高S/N像素进行分组,该低S/N像素位于在空间或时间上接近与确定了预测值的高S/N像素的位置对应的低S/N图像的位置的位置处。自适应处理使得针对(与上述的类对应的)每个组确定对于属于一个组的高S/N像素更适当的预测系数,并且基于该预测系数提高图像质量。因此,优选的是,按照如下方式执行分类:基本上,利用与对其确定了预测值的高S/N像素相关的更多像素来形成类抽头。
发明内容
然而,当执行诸如1比特ADRC的分类时,随着类抽头的数目的增加,类的总数以指数函数的方式增加。另外,一般地,难以找到基于大尺寸学生图像和教师图像的组来执行高效分类和回归预测的手段。在诸如日本未审查专利申请公报No.7-79418的现有技术中,仅仅基于学生(输入)图像的局部特征量执行编码的分类,这存在如下问题:在连结学生(输入)图像和教师图像的回归系数的意义上,该分类不一定是高效分类。
期望能够更高效更快速地执行具有高度通用特性的高质量图像形成处理。
根据本发明的实施例,提供了一种系数学习设备,包括:回归系数计算装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于回归预测计算的回归系数,该回归预测计算通过所述抽头的每个元素与所述回归系数的乘积和计算而获得第二信号的图像中的与所述关注像素对应的像素的值;回归预测值计算装置,用于基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算并且计算回归预测值;鉴别信息分配装置,用于基于计算出的回归预测值与第二信号的图像中的与所述关注图像对应的像素的值之间的比较结果向所述关注像素分配鉴别信息,该鉴别信息用于确定所述关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素;鉴别系数计算装置,用于基于分配的鉴别信息从第一信号的图像获得其中与所述关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于鉴别预测计算的鉴别系数,该鉴别预测计算通过所述抽头的每个元素与所述鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;鉴别预测值计算装置,用于基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值;以及分类装置,用于基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个,其中,回归系数计算装置仅利用分类为第一鉴别类的像素进一步计算所述回归系数并且仅利用分类为第二鉴别类的像素进一步计算所述回归系数。
基于由回归预测值计算装置通过利用由回归系数计算装置针对每个鉴别类计算的回归系数针对每个鉴别类计算的回归预测值,鉴别信息分配装置可重复执行分配鉴别信息的处理,鉴别系数计算装置可重复执行计算鉴别系数的处理,并且鉴别预测值计算装置可重复执行计算鉴别预测值的处理。
当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的差大于或等于0时,可将所述关注像素确定为属于第一鉴别类的像素。当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的差小于0时,可将所述关注像素确定为属于第二鉴别类的像素。
当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的微分绝对值大于或等于预设的阈值时,可将所述关注像素确定为属于第一鉴别类的像素。当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的微分绝对值小于所述阈值时,可将所述关注像素确定为属于第二鉴别类的像素。
根据本发明的另一个实施例,提供了一种系数学习方法,包括如下步骤:从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且计算用于回归预测计算的回归系数,该回归预测计算通过所述抽头的每个元素与所述回归系数的乘积和计算而获得第二信号的图像中的与所述关注像素对应的像素的值;基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算以计算回归预测值;基于计算出的回归预测值与第二信号的图像中的与所述关注图像对应的像素的值之间的比较结果向所述关注像素分配鉴别信息,该鉴别信息用于确定所述关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素;基于分配的鉴别信息从第一信号的图像获得其中与所述关注像素对应的多个线性特征量被用作元素的抽头,并且计算用于鉴别预测计算的鉴别系数,该鉴别预测计算通过所述抽头的每个元素与所述鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值;以及基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及仅利用分类为第一鉴别类的像素计算所述回归系数并且仅利用分类为第二鉴别类的像素进一步计算所述回归系数。
根据本发明的另一个实施例,提供了一种使计算机担当包含如下装置的系数学习设备的程序:回归系数计算装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于回归预测计算的回归系数,该回归预测计算通过所述抽头的每个元素与所述回归系数的乘积和计算而获得第二信号的图像中的与所述关注像素对应的像素的值;回归预测值计算装置,用于基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算并且计算回归预测值;鉴别信息分配装置,用于基于计算出的回归预测值与第二信号的图像中的与所述关注图像对应的像素的值之间的比较结果向所述关注像素分配鉴别信息,该鉴别信息用于确定所述关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素;鉴别系数计算装置,用于基于分配的鉴别信息从第一信号的图像获得其中与所述关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于鉴别预测计算的鉴别系数,该鉴别预测计算通过所述抽头的每个元素与所述鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;鉴别预测值计算装置,用于基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值;以及分类装置,用于基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个,其中,回归系数计算装置仅利用分类为第一鉴别类的像素进一步计算所述回归系数并且仅利用分类为第二鉴别类的像素进一步计算所述回归系数。
在本发明的实施例中,从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过抽头的每个元素与回归系数的乘积和计算来计算获得第二信号的图像中的与关注像素对应的像素的值的回归预测计算的回归系数。基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算以计算鉴别预测值。基于计算出的回归预测值与第二信号的图像中的与关注像素对应的像素的值之间的比较结果向关注像素分配鉴别信息,该鉴别信息用于确定关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素。基于分配的鉴别信息从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过抽头的每个元素与鉴别系数的乘积和计算,计算鉴别预测计算的鉴别系数,该鉴别预测计算获得用于识别关注像素所属于的鉴别类的鉴别预测值。基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值。基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个。仅利用分类为第一鉴别类的像素对回归系数进一步分类,并且仅利用分类为第二鉴别类的像素对回归系数进一步分类。
根据本发明的另一个实施例,提供了一种图像处理设备,包括:鉴别预测装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于执行鉴别预测计算,该鉴别预测计算通过所述抽头的每个元素与预存的鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;分类装置,用于基于所述鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及回归预测装置,用于基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于通过所述抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算来计算回归预测值。
鉴别预测装置可以重复执行用于执行鉴别预测计算的处理,并且分类装置可以重复执行用于对第一信号的图像的每个像素进行分类的处理。
根据本发明的另一个实施例,提供了一种信息处理方法,包括如下步骤:从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且执行鉴别预测计算,该鉴别预测计算通过所述抽头的每个元素与预存的鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;基于所述鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过所述抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算来计算回归预测值。
根据本发明的另一个实施例,提供了一种使计算机担当包含如下装置的系数学习设备的程序:鉴别预测装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于执行鉴别预测计算,该鉴别预测计算通过所述抽头的每个元素与预存的鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;分类装置,用于基于所述鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及回归预测装置,用于基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于通过所述抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算来计算回归预测值。
在本发明的实施例中,从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过抽头的每个元素与预存的鉴别系数的乘积和计算获得用于识别关注像素所属于的鉴别类的鉴别预测值。基于鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个。基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算,来计算回归预测值。
根据本发明的实施例,可以更高效更快速地执行具有高度通用特性的高质量图像形成处理。
附图说明
图1是示出根据本发明的实施例的学习设备的结构示例的框图;
图2示出了用作抽头的元素的像素的示例;
图3示出了用于水平微分绝对值和垂直微分绝对值的计算的滤波器的示例;
图4示出了水平微分值的计算示例;
图5是示出图1的标注单元的处理的直方图;
图6示出了以迭代方式执行的鉴别系数的学习;
图7示出了以迭代方式执行的鉴别系数的学习;
图8示出了通过利用二叉树结构如图7所示对输入图像进行分类的情况的示例;
图9是示出与图1的学习设备对应的图像处理设备的结构示例的框图;
图10是示出图1的学习设备执行的鉴别回归系数学习处理的示例的流程图;
图11是示出标注处理的示例的流程图;
图12是示出回归系数计算处理的示例的流程图;
图13是示出鉴别系数计算处理的示例的流程图;
图14是示出图9的图像处理设备执行的鉴别回归预测处理的示例的流程图;
图15是示出鉴别处理的示例的流程图;
图16示出了利用根据本发明的实施例的学习设备和图像处理设备进行的高质量图像形成处理的优点;
图17示出了现有技术的分类自适应处理的类抽头的示例;
图18示出了利用根据本发明的实施例的学习设备和图像处理设备进行的高质量图像形成处理的优点;
图19示出了利用根据本发明的实施例的学习设备和图像处理设备进行的高质量图像形成处理的优点;
图20示出了利用加入了非线性特征量的抽头情况下的高质量图像形成处理的优点;以及
图21是示出了个人计算机的结构示例的框图。
具体实施方式
将在下面参照附图描述本发明的实施例。
图1是示出根据本发明的实施例的学习设备10的结构示例的框图。
学习设备10形成为用于高质量图像形成处理的学习设备,并且基于输入的学生图像和教师图像(或教师信号)的数据产生用于高质量图像形成处理的系数。这里,高质量图像形成处理的示例包括从含噪声图像产生去除了噪声的图像的处理、从有模糊的图像产生无模糊的图像的处理、从低分辨率图像产生高分辨率图像的处理、以及解决上述的多个问题的处理。
学习设备10形成为利用学生图像作为输入图像并且学习回归系数,该回归系数是用于产生接近教师图像的高质量的图像作为输出图像的系数。尽管将在以后描述细节,但是回归系数被设置为用于线性一次表达式的系数,在该线性一次表达式中,将从与输入图像的关注像素对应的多个像素的值获得的特征量用作参数,并且计算与形成为具有更高质量的图像中的关注像素对应的像素的值。针对将在以后描述的每个类号学习回归系数。
另外,基于与输入图像的关注像素对应的多个像素值和从这些像素值获得的特征量,学习设备10将关注像素分类为多个类之一。也就是说,学习设备10学习鉴别系数,该鉴别系数用于识别输入图像的各关注像素属于用于高质量图像形成处理的哪个类。尽管将在以后描述细节,但是鉴别系数被设置为用于线性一次表达式的系数,在该线性一次表达式中,将从与输入图像的关注像素对应的多个像素的值获得的特征量用作参数。
也就是说,通过利用由学习设备10学习的鉴别系数,通过重复地执行其中使与输入图像的关注像素对应的多个像素值和从这些像素值获得的特征量为参数的线性一次表达式的计算,识别用于高质量图像形成处理的类。然后,通过利用与识别的类对应的回归系数执行其中将与输入图像的关注像素对应的多个像素值和从这些像素值获得的特征量用作参数的线性一次表达式,计算形成为具有更高质量的图像的像素值。
在学习设备10中,例如,将无噪声图像输入作为教师图像,把将噪声加入教师图像的图像输入作为学生图像。
学生图像的数据被提供给回归系数学习设备21、回归预测单元23、鉴别系数学习设备25和鉴别预测单元27。
回归系数学习设备21将形成学生图像的像素之中的预定像素设置为关注像素。然后,基于学生图像的关注像素和周围像素值,回归系数学习设备21利用最小二乘法学习用于预测与关注像素对应的教师图像的像素值的回归预测计算表达式的系数。
如果教师图像的像素值表示为ti(i=1、2、...N)并且预测值表示为yi(i=1、2、...N),则表达式(1)成立,其中,N表示学生图像的像素和教师图像的像素的所有样本的数目。
ti=yii             ...(1)
其中,εi(i=1、2、...N)是误差项。
如果假定采用了回归系数w的线性模型,则通过利用学生图像的像素值xij(i=1、2、...N,j=1、2、...M)可将预测值yi表示为表达式(2)。
y i = w 0 + Σ j = 1 M w j x ij = w 0 + w T x i · · · ( 2 )
其中,xi=(xi1,xi2,…,xiM)T,w=(w1,w2,…,wM)T
wT代表被表示为矩阵表达式的表示的w的转置矩阵。w0是偏置参数并且是常数项。M的值对应于抽头(将在以后描述)的元素数目。
在表达式(2)中,用作参数的xi是矢量,在该矢量中以学生图像的关注像素为中心位于预定位置的每个像素值是元素。在下文中,在表达式(2)中,用作参数的xi将称作抽头。
图2示出了用作抽头的元素的像素的示例。图2是一个二维图,其中,水平方向沿x轴绘制,垂直方向沿y轴绘制,一个抽头由关注像素周围的25个像素(xi1到xi25)形成。在这种情况下,关注像素是像素xi13,并且像素xi13的位置对应于根据表达式(2)预测的教师图像的像素的位置(相位)。
回归系数学习设备22学习表达式(2)的系数w和偏置参数wo并且将它们存储在回归系数存储单元22中。
在上文中,描述了一个利用关注像素周围的25个像素(xi1到下xi25)的值形成一个抽头的示例。在这种情况下,利用从学生图像获得的线性特征量形成抽头。
然而,通过将从学生图像获得的非线性特征量包含在抽头中,可以进一步提高预测的精度。从学生图像获得的非线性特征量的示例包括关注像素周围的像素值的水平微分绝对值和垂直微分绝对值。
在表达式(3)中示出了用于计算关注像素周围的像素值的水平微分绝对值和垂直微分绝对值的表达式的示例。
| x ij ( h ) | = | Sobel j ( h ) { x i } |
…(3)
| x ij ( v ) | = | Sobel j ( v ) { x i } |
针对表达式(3)中的水平微分绝对值和垂直微分绝对值的计算,利用了Sobel(索贝尔)算子。通过利用由xij表示的关注像素执行图3所示的滤波处理,确定了水平微分绝对值和垂直微分绝对值。
图3是水平方向沿x轴绘制并且垂直方向沿y轴绘制的二维图,还示出了一个滤波器,在该滤波器中,关注像素周围的九个像素中的每个像素均是目标。将用圆形指示的部分中所示的数值与各自位置的像素值相乘。
图4示出了水平微分值的计算示例。在图4的示例中,示出了滤波处理的计算示例,在该滤波处理中,表示为xi12的像素和这个像素周围的九个像素中的每个是目标。在图4中,分配给用圆形示出的各个像素的诸如xi12的值直接表示像素值。
在要根据表达式(3)确定水平微分绝对值和垂直微分绝对值的情况下,将确定与以关注像素为中心的相应M个像素对应的水平微分绝对值和垂直微分绝对值。例如,在如图2所示关注像素和周围的25个像素包含在抽头内的情况下,由于M的值变成25,所以针对一个关注像素,确定25个水平微分绝对值和25个垂直微分绝对值。
另外,从学生图像获得的非线性特征量的示例包括关注像素周围的像素值的最大值和最小值、以及水平微分绝对值的最大值和垂直微分绝对值的最大值。可以根据表达式(4)确定关注像素周围的像素值的最大值和最小值、水平微分绝对值的最大值和垂直微分绝对值的最大值。
x i ( max ) = max 1 ≤ j ≤ L x ij
x i ( min ) = min 1 ≤ j ≤ L x ij · · · ( 4 )
| x i ( h ) | ( max ) = max 1 ≤ j ≤ L | x ij ( h ) |
| x i ( v ) | ( min ) = max 1 ≤ j ≤ L | x ij ( v ) |
其中,L是周围像素值的数目并且≤M。
如上所述,通过将从学生图像获得的非线性特征量包含在抽头中,可以进一步提高预测的精度。尽管将在以后描述细节,但是例如在基于输入的含噪声图像预测无噪声图像的像素值的情况下,通过将从学生图像获得的非线性特征量包含在抽头中,图像的S/N比可以从0.3dB提高到0.5dB(分贝)。
在利用最小二乘法学***方和。
E = Σ i = 1 N ( t i - y i ) 2 = Σ i = 1 N ϵ i 2 · · · ( 5 )
然后,按照下面的方式计算使表达式(5)的误差项的所有样本的平方和E最小的回归系数。
w=(S(xx))-1S(xt)        …(6)
表达式(6)的S(xx)和S(xt)分别是其中学生图像和教师图像的方差和协方差作为元素的矩阵和矢量,并且可以根据表达式(7)确定每个元素。
S jk ( xx ) = 1 N - 1 Σ i = 1 N ( x ij - x ‾ j ) ( x ik - x ‾ k )
…(7)
S j ( xt ) = 1 N - 1 Σ i = 1 N ( x ij - x ‾ j ) ( t i - t ‾ )
(j,k=1,2,…,M)
xj和t分别是学生图像和教师图像的平均值,并且可以基于下面的表达式(8)进行表示。
x ‾ j = 1 N Σ i = 1 N x ij t ‾ = 1 N Σ i = 1 N t i · · · ( 8 )
另外,通过利用表达式(6)可以如表达式(9)所示地确定表达式(2)的偏置参数wo
w0=t-wTx    …(9)
作为表达式(2)中的常数项的偏置参数wo也可以不包括在其中。
以上述方式获得的系数w是元素数目与上述的抽头的元素数目相同的矢量。通过回归系数学习设备21获得的系数w是用于通过回归预测来预测形成为具有较高质量的图像的像素值的计算的系数,并且将称作回归系数w。偏置参数wo被假定为广义上的回归系数,并且按需要以与回归系数w相关联的方式进行存储。
例如,如图2所示,在仅利用从学生图像获得的线性特征量形成抽头的情况下,抽头的元素数目是25,并且回归系数w的矢量的元素数目也是25。另外,在从图2所示的学生图像获得的线性特征量(针对该线性特征量,加入了基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值作为非线性特征量)用作抽头的情况下,抽头的元素数目是75(=25+25+25)。因此,回归系数w的矢量的元素数目是75。另外,在被加入了作为非线性特征量的、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值以及水平微分绝对值的最大值和垂直微分绝对值的最大值的线性特征量被用作抽头的情况下,抽头的元素数目是79(=25+25+25+2+2)。因此,回归系数w的矢量的元素数目是79。
返回参照图1,通过回归系数学习设备21获得的回归系数w存储在回归系数存储单元22中。
回归预测单元23将形成学生图像的像素之中的预定像素设置为关注像素。然后,回归预测单元23获得由上述参照图2描述的关注像素和周围像素值形成的抽头;由图2的关注像素和周围像素值以及基于表达式(3)确定的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值形成的抽头;以及由图2的关注像素和周围像素的值、基于表达式(3)确定的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)确定的关注像素周围的像素值的最大值和最小值以及水平微分绝对值的最大值和垂直微分绝对值的最大值形成的抽头。
回归预测单元23将抽头和回归系数w(按需要包括偏置参数wo)代入表达式(2)中并且计算预测值yi
标注单元24将回归预测单元23计算出的预测值yi与真值ti进行比较,该真值ti是教师图像的像素值。例如,标注单元24将预测值yi变得大于或等于真值ti的关注像素标注为鉴别类A,并且将预测值yi变得小于真值ti的关注像素标注为鉴别类B。也就是说,基于回归预测单元23的计算结果,标注单元24将学生图像的每个像素分类成鉴别类A或鉴别类B。
图5是示出了标注单元24的处理的直方图。图5的水平轴表示通过从预测值yi减去真值ti获得的差值,并且垂直轴表示获得该差值的样本(教师图像的像素与学生图像的像素的组合)的相对频率。
如图5所示,作为回归预测单元23的计算的结果,通过从预测值yi减去真值ti而获得的差值为0的样本的频率是最高的。在差值为0的情况下,回归预测单元23已计算出准确的预测值(=真值),并且已恰当地执行了高质量图像形成处理。也就是说,由于回归系数学习设备21已学习了回归系数w,所以基于表达式(2)计算出准确的预测值的可能性很高。
然而,关于差值不为0的样本,尚未执行准确的回归预测。在这种情况下,认为存在学习更适当的回归系数w的余地。
在本发明的实施例中,例如,假定如果仅以预测值yi变得大于或等于真值ti的关注像素为目标学习回归系数w,则可以学习对于这些关注像素更适当的回归系数w。另外,假定如果仅以预测值yi变得小于真值ti的关注像素为目标学习回归系数w,则可以学习针对这些关注像素更适当的回归系数w。由于这个原因,基于回归预测单元23的计算结果,标注单元24将学生图像的每个像素分类成鉴别类A或鉴别类B。
然后,通过鉴别系数学习设备52的处理,可以学习用于基于学生图像的像素值将每个像素分类成鉴别类A或鉴别类B的预测计算的系数。也就是说,在本发明的实施例中,即使真值不清楚,仍可以基于输入图像的像素值将每个像素分类成鉴别类A或鉴别类B。
迄今已经描述了标注单元24对学生图像的每个像素进行标注。将标注的单位设置为,针对与真值ti(准确地说为教师图像的像素值)对应的学生图像的每个抽头(包含关注像素周围的像素值和非线性特征量的矢量)逐个地执行标注。
这里,描述了如下的示例:对预测值yi变得大于或等于真值ti的关注像素和预测值yi变得小于真值ti的关注像素进行鉴别和标注。另选地,可以通过另一种方法执行标注。例如,可将预测值yi与真值ti之间的微分绝对值为小于预设阈值的值的关注像素标注为鉴别类A,并且可将预测值yi与真值ti之间的微分绝对值为大于或等于预设阈值的值的关注像素标注为鉴别类B。另外,可以通过利用除此以外的方法将关注像素标注为鉴别类A或鉴别类B。在下文中,将描述如下示例:对预测值yi变得大于或等于真值ti的关注像素和预测值yi变得小于真值ti的关注像素进行鉴别和标注。
返回参照图1,鉴别系数学习设备25将形成学生图像的像素之中的预定像素设置为关注像素。然后,例如通过利用最小二乘法,学习用于计算用于基于学生图像的关注像素和周围像素的值针对鉴别类A和鉴别类B进行确定的预测值的系数。
在鉴别系数的学习中,假定根据表达式(10)来确定用于基于学生图像的关注像素及其周围像素的值针对鉴别类A和鉴别类B进行确定的预测值yi
y i = z 0 + Σ j = 1 M z j x ij = z 0 + z T x i · · · ( 10 )
xi=(xi1,xi2,…,xiM)T,z=(z1,z2,…,zM)T
其中,zt表示被表示为矩阵行列式的转置矩阵。zo是偏置参数并且是常数项。M的值对应于抽头的元素的数目。
与表达式(2)的情况相似,在表达式(10)中,用作参数的xi称作抽头。学***微分绝对值和垂直微分绝对值形成的抽头;或者由图2的关注像素和周围像素的值、基于表达式(3)确定的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)确定的关注像素周围的像素值的最大值和最小值以及水平微分绝对值的最大值和垂直微分绝对值的最大值形成的抽头。
鉴别系数学习设备25学习表达式(10)的系数z和偏置参数zo并且将它们存储在鉴别系数存储单元26中。
在通过利用最小二乘法学***方和。
z=(S(AB))-1(x(A)-x(B))          …(11)
表达式(11)的S(AB)是一个矩阵,在该矩阵中,基于表达式(12)确定的值是元素。
S jk ( AB ) = ( N A - 1 ) S jk ( A ) + ( N B - 1 ) S jk ( B ) N A + N B - 2 · · · ( 12 )
其中,(j,k=1,2,…,M)。
表达式(12)的NA和NB分别表示属于鉴别类A和鉴别类B的样本的总数。
另外,表达式(12)的SA jk和SB jk分别表示利用属于鉴别类A和鉴别类B的样本(抽头)确定的方差和协方差,并且是基于表达式(13)确定的。
S jk ( A ) = 1 N A - 1 Σ i ∈ A ( X ij ( A ) - x ‾ j ( A ) ) ( x ik ( A ) - x ‾ k ( A ) )
…(13)
S jk ( B ) = 1 N B - 1 Σ i ∈ B ( x ij ( B ) - x ‾ j ( B ) ) ( x ik ( B ) - x ‾ k ( B ) )
其中,(j,k=1,2,…,M),并且
xj (A)和xj (B)分别是利用属于鉴别类A和鉴别类B的样本确定的平均值,并且可以基于表达式(14)获得。
x ‾ j ( A ) = 1 N A Σ i ∈ A x ij ( A )
…(14)
x ‾ j ( B ) = 1 N B Σ i ∈ B x ij ( B )
其中,(j,k=1,2,…,M)
x ‾ ( A ) = ( x ‾ 1 ( A ) , x ‾ 2 ( A ) , . . . , x ‾ M ( A ) ) , x ‾ ( B ) = ( x ‾ 1 ( B ) , x ‾ 2 ( B ) , . . . , x ‾ M ( B ) ) .
可以通过利用表达式(11),如表达式(15)所示确定表达式(10)的偏置参数zo
z 0 = - 1 2 z T ( x ‾ ( A ) + x ‾ ( B ) ) · · · ( 15 )
不包含作为表达式(15)中的常数项的偏置参数zo也是可以的。
以上述方式获得的系数z是元素数目与抽头的元素数目相同的矢量。通过鉴别系数学习设备25获得的系数z是用于预测预定的关注像素属于鉴别类A和鉴别类B中的哪一个的计算的系数,并且将被称作鉴别系数z。偏置参照zo被假定为广义上的鉴别系数并且被假定为按需要按照与鉴别系数z相关联的方式进行存储。
例如,如图2所示,在由从学生图像获得的线性特征量形成抽头的情况下,抽头的元素数目是25,并且鉴别系数z的矢量的元素数目是25。另外,在从图2所示的学生图像获得的线性特征量(针对该线性特征量,加入了基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值作为非线性特征量)用作抽头的情况下,抽头的元素数目是75(=25+25+25)。因此,鉴别系数z的矢量的元素数目是75。另外,在被加入了作为非线性特征量的、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值以及水平微分绝对值的最大值和垂直微分绝对值的最大值的线性特征量被用作抽头的情况下,抽头的元素数目是79(=25+25+25+2+2)。因此,鉴别系数z的矢量的元素数目是79。
通过利用以上述方式学习的系数z由鉴别预测单元27计算预测值,由此可以确定学生图像的关注像素属于鉴别类A和鉴别类B中的哪一个。鉴别预测单元27将抽头和鉴别系数z(按需要包括偏置参数zo)代入表达式(10)中,并且计算预测值yi
然后,作为鉴别预测单元27的计算的结果,可将预测值yi变得大于或等于0的抽头的关注像素估计为属于鉴别类A的像素,并且可将预测值yi变得小于0的抽头的关注像素估计为属于鉴别类B的像素。
然而,利用鉴别预测单元27的计算结果进行的估计不一定是真实的。也就是说,通过将抽头和鉴别系数z代入表达式(10)而计算出的预测值yi是不管教师图像的像素值(真值)而从学生图像的像素值预测的结果。结果,实际上,存在如下情况:属于鉴别类A的像素被估计为属于鉴别类B的像素,或者属于鉴别类B的像素被估计为属于鉴别类A的像素。
因此,在本发明的实施例中,通过重复地学习鉴别系数,可以实现更高精度的预测。
也就是说,基于鉴别预测单元27的预测结果,类划分单元28将形成学生图像的每个像素划分成属于鉴别类A的像素和属于鉴别类B的像素。
然后,与上述情况相似,回归系数学习设备21仅以由类划分单元28确定的属于鉴别类A的像素为目标学习回归系数w,并且将回归系数w存储在回归系数存储单元22中。与上述情况相似,仅以由类划分单元28确定为属于鉴别类A的像素为目标,回归预测单元23通过回归预测计算预测值。
通过将以上述方式获得的预测值与真值进行比较,标注单元24将由类划分单元28确定为属于鉴别类A的像素标注为鉴别类A或鉴别类B。
另外,与上述情况相似,回归系数学习设备21仅以由类划分单元28确定为属于鉴别类B的像素为目标学习回归系数w。与上述情况相似,仅以由类划分单元28确定为属于鉴别类B的像素为目标,回归预测单元23通过回归预测计算预测值。
通过将以上述方式获得的预测值与真值进行比较,标注单元24将由类划分单元28确定为属于鉴别类B的像素标注为鉴别类A或鉴别类B。
也就是说,学生图像的像素划分成四个集合。第一集合被设置为被类划分单元28确定为属于鉴别类A并且被标注单元24标注为鉴别类A的像素的集合。第二集合被设置为被类划分单元28确定为属于鉴别类A并且被标注单元24标注为鉴别类B的像素的集合。第三集合被设置为被类划分单元28确定为属于鉴别类B并且被标注单元24标注为鉴别类A的像素的集合。第四集合是被类划分单元28确定为属于鉴别类B并且被标注单元24标注为鉴别类B的像素的集合。
然后,基于上述四个集合之中的第一集合和第二集合,与上述情况相似,鉴别系数学习设备25再次学习鉴别系数z。此时,例如,表达式(12)的NA和NB分别表示第一集合的像素(样本)的总数和第二集合的像素(样本)的总数。另外,基于这四个集合之中的第三集合和第四集合,鉴别系数学习设备25再次学习鉴别系数z。此时,例如,表达式(12)的NA和NB分别表示第三集合的像素(样本)的总数和第四集合的像素(样本)的总数。
图6和图7是示出了以迭代方式执行的鉴别系数学习的图。
图6示出了表示学生图像的各抽头的空间,其中抽头值1沿着水平轴绘制,抽头值2沿着垂直轴绘制,并且抽头值1和抽头值2是从学生图像获得的抽头值。也就是说,在图6中,为了简化说明,在二维空间上表示通过假定抽头的元素数目实际上为两个而在学生图像中可以存在的所有抽头。因此,在图6中,假定抽头是由两个元素形成的矢量。
图6所示的圆形71表示与被标注单元24最初标注为鉴别类A的像素对应的抽头的集合。圆形72表示与被标注单元24最初标注为鉴别类B的像素对应的抽头的集合。圆形71中指示的符号73表示包含在圆形71中的抽头的元素的值的平均值的位置。圆形72中指示的符号74表示包含在圆形72中的抽头的元素的值的平均值的位置。
如图6所示,圆形71和圆形72彼此重叠。因此,仅仅基于从学生图像获得的抽头的元素的值,无法将与标注为鉴别类B的像素对应的抽头和与标注为鉴别类A的像素对应的抽头准确地区分。
然而,基于符号73和74可以粗略地识别用于鉴别两个类的边界线75。这里,用于识别边界线75的处理对应于鉴别预测单元27的鉴别预测处理,在该处理中使用通过由鉴别系数学习设备25执行的第一次学习获得的鉴别系数z。位于边界线75上的抽头是基于表达式(10)计算出的预测值yi为0的抽头。
为了识别位于该图中的边界线75的右侧的抽头的集合,类划分单元28将类码比特1分配给与这些抽头对应的像素。另外,为了识别位于该图中的边界线75的左侧的抽头的集合,图1的类划分单元28将类码比特0分配给与这些抽头对应的像素。
将通过第一次学习获得的鉴别系数z与表示用于鉴别预测的鉴别系数的码相关联并且存储在图1的鉴别系数存储单元26中。另外,基于第一次鉴别预测的结果,仅仅基于已经分配了类码比特1的像素,再次学习回归系数w并且执行回归预测。以相似方式,基于第一次鉴别预测的结果,仅仅基于已经分配了类码比特0的像素,再次学习回归系数w,并且执行回归预测。
然后,基于已经分配了类码比特1的像素组和已经分配了类码比特0的像素组,重复鉴别系数的学习。结果,已经分配了类码比特1的像素组被进一步划分成两个部分,并且已经分配了类码比特0的像素组被进一步划分成两个部分。通过鉴别预测单元27的鉴别预测,利用由鉴别系数学习设备25执行的第二次学习获得的鉴别系数z执行此次的划分。
将通过第二次学习获得的鉴别系数z与表示用于第二次鉴别预测的鉴别系数的码相关联并且存储在图1的鉴别系数存储单元26中。通过第二次预测获得的鉴别系数z用于以通过第一次鉴别预测分配了类码比特1的像素组和通过第一次鉴别预测分配了类码比特0的像素组为目标执行的鉴别预测。因此,将鉴别系数z与表示以哪个像素组为目标用于鉴别预测的码相关联并且存储在图1的鉴别系数存储单元26中。也就是说,存储了用于第二次鉴别预测的两种类型的鉴别系数z。
另外,基于第一次和第二次鉴别预测的结果,仅仅基于已经分配了类码比特11的像素再次学习回归系数w,并且执行回归系数。以相似方式,基于第一次和第二次鉴别预测的结果,仅仅基于已经分配了类码比特10的像素再次学习回归系数w,并且执行回归预测。另外,基于第一次和第二次鉴别预测的结果,仅仅基于已经分配了类码比特01的像素再次学习回归系数w,并且执行回归预测。然后,仅仅基于已经分配了类码比特00的像素,再次学习回归系数w,并且执行回归预测。
通过重复上述处理,图6所示的空间被划分成如图7所示的多个部分。
与图6相似,图7示出了学生图像的抽头,其中抽头值1沿着水平轴绘制,抽头值2沿着垂直轴绘制。图7示出了鉴别系数学习设备25以迭代方式三次学习鉴别系数的情况下的示例。也就是说,利用通过第一次学习获得的鉴别系数z的鉴别预测可以识别边界线75,并且利用通过第二次学习获得的鉴别系数z的鉴别预测可以识别边界线76-1和76-2。利用通过第三次学习获得的鉴别系数z的鉴别预测可以识别边界线77-1到77-4。
图1的类划分单元28分配第一比特的类码比特以识别按边界线75划分的抽头的集合,分配第二比特的类码比特以识别按边界线76-1和76-2划分的抽头的集合,并且分配第三比特的类码比特以识别按边界线77-1到77-4划分的抽头的集合。
因此,如图7所示,抽头被划分(分类)成八个类,即基于3比特类码而识别的类码C0到C7。
在如图7所示执行分类的情况下,用于第一次鉴别预测的一种类型的鉴别系数z存储在图1的鉴别系数存储单元26中,用于第二次鉴别预测的两种类型的鉴别系数z存储在图1的鉴别系数存储单元26中,用于第三次鉴别预测的四种类型的鉴别系数z存储在图1的鉴别系数存储单元26中。
另外,在如图7所示执行分类的情况下,分别与类号C0到C7对应的八种类型的回归系数w存储在图1的回归系数存储单元22中。这里,分别与类号C0到C7对应的八种类型的回归系数w将作为第三次鉴别预测的结果而分类到各个类号C0到C7的学生图像的关注像素的抽头以及与该关注像素对应的教师图像的像素值用作样本,并且针对每个类号再次执行回归系数的学习并且进行存储。
如上所述,如果通过利用学生图像和教师图像预先学习了鉴别系数z并且针对输入图像以迭代方式重复进行鉴别预测,则可以将输入图像的像素分类成八个类,即,类号C0到C7。然后,如果利用与分类成八个类的像素对应的抽头和与每个类对应的回归系数w进行回归预测,则可以执行适当的高质量图像形成处理。
图8示出了如图7所示通过利用二叉树结构对输入图像执行分类的情况下的示例。输入图像的像素被分类成通过第一次鉴别预测使第一比特的类码比特分配了1或0的像素。此时假定用于鉴别预测的鉴别系数z已经作为与迭代码1对应的鉴别系数z存储在图1的鉴别系数存储单元26中。
第一比特的类码比特已经分配了1的像素被进一步分类成第二比特的类码比特分配了1或0的像素。此时假定用于鉴别预测的鉴别系数z已经作为与迭代码21对应的鉴别系数z存储在图1的鉴别系数存储单元26中。以相似方式,第一比特的类码比特已经分配了0的像素被进一步分类成第二比特的类码比特分配了1或0的像素。此时假定用于鉴别预测的鉴别系数z已经作为与迭代码22对应的鉴别系数z存储在图1的鉴别系数存储单元26中。
第一和第二比特的类码比特已经分配了11的像素被进一步分类成第三比特的类码比特分配了1或0的像素。此时假定用于鉴别预测的鉴别系数z已经作为与迭代码31对应的鉴别系数z存储在图1的鉴别系数存储单元26中。第一和第二比特的类码比特已经分配了10的像素被进一步分类成第三比特的类码比特分配了1或0的像素。此时假定用于鉴别预测的鉴别系数z已经作为与迭代码32对应的鉴别系数z存储在图1的鉴别系数存储单元26中。
以相似方式,第一和第二比特的类码比特已经分配了01或00的像素被进一步分类成第三比特的类码比特分配了1或0的像素。然后,假定与迭代码33或34对应的鉴别系数z已经存储在图1的鉴别系数存储单元26中。
如上所述,作为以迭代方式执行三次鉴别的结果,针对输入图像的每个像素设置由3个比特形成的类码,从而识别类号。然后,还识别与所识别的类号对应的回归系数w。
在这个示例中,将类码比特按照迭代次数的降序从高位比特到低位比特连接起来得到的值对应于类码。因此,例如基于表达式(16)识别与最终类码对应的类号Ck。
k={011}2=3        …(16)
另外,如图8所示,根据表达式(17)表示迭代次数p与最终类号Nc之间的关系。
Nc=2p              …(17)
最终类号Nc等于最终使用的回归系数w的总数Nm。
可以根据表达式(18)表示鉴别系数z的总数Nd。
Nd=2p-1            …(18)
在利用图像处理设备(以后进行描述)的高质量图像形成处理的鉴别预测中,通过自适应减少迭代次数,可以实现处理的健壮性和高速化。在这种情况下,因为在图8的各分支处需要使用回归系数,所以根据表达式(19)表示回归系数的总数。
Nm=2p+1-1          …(19)
这里,描述了如下的示例:主要以迭代方式执行三次鉴别系数的学习,但是迭代次数可以是一次。也就是说,在第一次鉴别系数的学习完成后,可以不重复执行通过鉴别系数学习设备25进行的鉴别系数z的计算以及通过鉴别预测单元27进行的鉴别预测。
图9是示出根据本发明的实施例的图像处理设备的结构示例的框图。图9的图像处理设备100形成为与图1的学习设备10对应的图像处理设备。也就是说,通过利用由学习设备10学习的鉴别系数,图像处理设备100确定输入图像的各像素的各个类。然后,图像处理设备100通过利用由学习设备10学习的鉴别系数(其是与所确定的类对应的回归系数),执行从输入图像获得的抽头的回归预测计算,并且执行使输入图像具有更高质量的图像处理。
即,在图像处理设备100的鉴别系数存储单元122中,预先存储在学习设备10的鉴别系数存储单元26中存储的鉴别系数z。在图像处理设备100的回归系数存储单元124中,预先存储在学习设备10的回归系数存储单元22中存储的回归系数w。
图9的鉴别预测单元121设置输入图像中的关注像素,获得与关注像素对应的抽头,并且执行通过参照表达式(10)进行预测的计算。此时,鉴别预测单元121基于迭代次数和对其执行鉴别预测的像素组来识别迭代码,并且从鉴别系数存储单元122读取与迭代码对应的鉴别系数z。
基于鉴别预测单元121的预测结果,类划分单元123向关注像素分配类码比特,由此将输入图像的像素划分成两个集合。此时,如上所述,将基于例如表达式(10)计算的预测值yi与0进行比较,并且将类码比特分配给关注像素。
在经过类划分单元123的该处理后,鉴别预测单元121以迭代方式执行鉴别预测,并且通过类划分单元123进一步执行划分。以迭代方式将鉴别预测执行预设次数。例如,在例如按照以上参照图7或图8描述的方式将鉴别预测执行三次迭代的情况下,输入图像被分类成与3比特类码的类号对应的像素组。
图像处理设备100中的鉴别预测的迭代次数被设置为等于通过学习设备10执行的鉴别系数学习的迭代次数。
对于用于识别输入图像的每个像素的信息,类划分单元123按照使该信息与像素的类号相关联的方式向回归系数存储单元124提供该信息。
回归预测单元125设置输入图像中的关注像素,获得与关注像素对应的抽头,并且执行通过参照表达式(2)进行预测的计算。此时,回归预测单元125向回归系数存储单元124提供用于识别关注像素的信息,并且从回归系数存储单元124读取与关注像素的类号对应的回归系数w。
然后,产生输出图像,在输出图像中,通过回归预测单元125的计算获得的预测值被设置为与关注像素对应的像素的值。结果,获得了使输入图像具有更高质量的输出图像。
如上所述,根据本发明的实施例,通过对输入图像执行鉴别预测,可以将形成输入图像的像素(实际上为与关注像素对应的抽头)分类成适于高质量图像形成处理的类。
在现有技术中,由于利用例如1比特ADRC仅仅基于输入图像的局部特征量执行硬编码分类,所以这在将输入图像与教师图像连结的回归系数的意义上不一定是高效的分类。
相比较而言,在本发明的实施例中,能够自动学习适于高质量图像形成处理(诸如从含噪声图像产生去除了噪声的图像的处理、从无模糊图像产生模糊图像的处理、从低分辨率图像产生高分辨率图像的处理)的目的的适当分类方法。
另外,在本发明的实施例中,通过以迭代方式执行鉴别预测,可以更适当地执行分类。另外,在以迭代方式执行的鉴别预测的处理中,不需要产生对输入图像的像素值执行处理的中间数据等,由此可以提高处理速度。也就是说,在预测输出图像的情况下,可以通过针对任何像素利用最多(p+1)次(表达式2)的计算,执行分类和回归预测。另外,当要执行分类和回归预测时,不使用用于抽头的计算的中间数据,并且一直利用仅仅针对输入的计算来完成分类和回归预测。因此,在实现中可以使用流水线(pipeline)结构。
接下来,将参照图10的流程图描述鉴别系数回归系数学习处理的细节。由图1的学习设备10执行该处理。
在步骤S101中,鉴别系数学习设备25识别迭代码。由于该情况是第一次学习的处理,所以迭代码被识别为1。
在步骤S102中,回归系数学习单元21、回归系数存储单元22、回归预测单元23和标注单元24执行在后面参照图11描述的标注处理。这里,将在下面参照图11的流程图描述图10的步骤S102中的标注处理的详细示例。
在步骤S131中,回归系数学习设备21执行在后面参照图12描述的回归系数学习处理。结果,确定了用于基于学生图像的像素值预测教师图像的像素值的计算的回归系数w。
在步骤S132中,回归预测单元23通过利用在步骤S131中的处理确定的回归系数w计算回归预测值。此时,例如,执行表达式(2)的计算,并且确定预测值yi
在步骤S133中,标注单元24将通过步骤S132的处理获得的预测值yi与真值ti(即教师图像的像素值)进行比较。
在步骤S134中,基于步骤S133中的比较结果,标注单元24将关注像素(实际上为与关注像素对应的抽头)标注为鉴别类A或鉴别类B。结果,例如,如以上参照图5所述,执行鉴别类A或鉴别类B的标注。
以按照与迭代码对应的方式确定的要处理的各像素为目标,执行步骤S132到S134的处理。
按照上述方式执行标注处理。
接下来,将参照图12的流程图描述图11的步骤S131中的回归系数计算处理的详细示例。
在步骤S151中,回归系数学习设备21识别与在步骤S101的处理中识别的迭代码对应的样本。此处的样本是指与学生图像的关注像素对应的抽头和与该关注像素对应的教师图像的像素的组合。例如,如果迭代码是1,则这指示第一次学习的处理的一部分,由此,通过将学生图像的所有像素中的每个设置为关注像素来识别样本。例如,如果迭代码是21,则这指示第二次学习的处理的一部分。因此,通过将学生图像的像素之中的在第一次学习的处理中已经分配了类码比特1的每个像素设置为关注像素,来识别样本。例如,如果迭代码是34,则这指示第三次学习的处理的一部分。因此,通过将学生图像的像素之中的在第一次学习的处理中已经分配了类码比特0并且在第二次学习的处理中已经分配了类码比特0的每个像素设置为关注像素,来识别样本。
在步骤S152中,回归系数学习设备21对在步骤S151的处理中识别的样本进行累加。此时,例如,在表达式(1)中将样本的抽头和教师图像的像素值累加。
在步骤S153中,回归系数学习设备21确定是否已经对所有的样本进行了累加。重复地执行步骤S152的处理,直到确定了已累加所有的样本。
在步骤S154中,回归系数学习设备21通过表达式(6)到(9)的计算,计算回归系数w。
按照上述方式,执行回归系数计算处理。
结果,图10的步骤S102的标注处理完成。该处理然后进行到图10的步骤S103中的鉴别系数计算处理。
在步骤S103中,鉴别系数学习设备25执行将在后面参照图13描述的鉴别系数计算处理。这里,将在下面参照图13的流程图描述图10的步骤S103中的鉴别系数计算处理的详细示例。
在步骤S171中,鉴别系数学习设备25识别与在步骤S101的处理中识别的迭代码对应的样本。此处的样本是指与学生图像的关注像素对应的抽头和针对该关注像素的鉴别类A或鉴别类B的标注结果的组合。例如,如果迭代码是1,则由于这指示第一次学习的处理,所以通过将学生图像的所有像素中的每个设置为关注像素来识别样本。例如,如果迭代码是21,则由于这指示第二次学习的处理的一部分,所以通过将学生图像的像素之中的在第一次学习的处理中已经分配了类码比特1的每个像素设置为关注像素来识别样本。例如,如果迭代码是34,则由于这指示第三次学习的处理的一部分,所以通过将学生图像的像素之中的在第一次学习的处理中已经分配了类码比特0并且在第二次学习的处理中已经分配了类码比特0的每个像素设置为关注像素来识别样本。
在步骤S172中,鉴别系数学习设备25将在步骤S171的处理中识别的样本进行累加。此时,例如,在表达式(11)中将样本的抽头和基于鉴别类A或鉴别类B的标注结果的数值进行累加。
在步骤S173中,鉴别系数学习设备25确定是否已将所有样本累加。重复地执行步骤S172的处理,直到确定了已将所有样本累加。
在步骤S174中,鉴别系数学习设备25通过表达式(12)到(15)的计算,推导出鉴别系数z。
按照上述方式,执行鉴别系数计算处理。
返回参照图10,在步骤S104中,鉴别预测单元23通过利用通过步骤S103的处理确定的系数z和从学生图像获得的抽头,计算鉴别预测值。此时,例如,执行表达式(10)的计算,并且确定预测值(鉴别预测值)yi
在步骤S105中,类划分单元28确定通过步骤S104的处理确定的鉴别预测值是否大于或等于0。
当在步骤S105中确定鉴别预测值大于或等于0时,该处理进行到步骤S106,在步骤S106中针对关注像素(实际上,抽头)设置类码比特1。另一方面,当在步骤S105中确定鉴别预测值小于0时,该处理进行到步骤S107,在步骤S107中针对关注像素(实际上,抽头)设置类码比特0。。
以按照与迭代码对应的方式确定的要处理的每个像素为目标,执行步骤S104到S107的处理。
在步骤S106或S107的处理后,该处理进行到步骤S108,在步骤S108中鉴别系数存储单元26按照与在步骤S101中识别的迭代码相关联的方式存储在步骤S103的处理中确定的鉴别系数z。
在步骤S109中,学习设备10确定迭代是否已完成。例如,在预设为通过执行三次迭代进行学习的情况下,确定了迭代尚未完成。该处理然后返回到步骤S101。
然后,在步骤S101中,再次识别迭代码。由于该情况是第二次学习的第一处理,所以迭代码被识别为21。
然后,按照相似方式执行步骤S102到S108的处理。此时,如上所述,在步骤S102的处理以及在步骤S103的处理中,通过将学生图像的像素之中的在第一次学习的处理中已经分配了类码比特1的每个像素设置为关注像素来识别样本。
然后,在步骤S109中确定迭代是否已经完成。
按照上述方式,重复地执行步骤S101到S108的处理,直到在步骤S109中确定迭代已经完成。在通过执行三次迭代进行学习的情况下,在步骤S101中迭代码被识别为34。然后,执行步骤S102到S108的处理,并且在步骤S109中确定迭代已经完成。
以这种方式,作为重复执行步骤S101到S109的处理的结果,如以上参照图8所示,7种类型的鉴别系数z按照与迭代码关联的方式存储在鉴别系数存储单元26中。
当在步骤S109中确定迭代已经完成时,该处理进行到步骤S110。
在步骤S110中,回归系数学习设备21执行回归系数计算处理。由于该处理与以上参照图12的流程图所述的情况相同,所以省略了详细描述。在这种情况下,在步骤S151中,没有识别与迭代码对应的样本,但是识别了与各类号对应的样本。
也就是说,作为重复执行步骤S101到S109的处理的结果,如以上参照图8所述,学生图像的每个像素被分类成类号C0到C7之一。因此,通过将学生图像的类号C0的每个像素设置为关注像素来识别样本,并且计算第一回归系数w。另外,通过将学生图像的类号C1的像素设置为关注像素来识别样本并且计算第二回归系数w;通过将学生图像的类号C2的像素设置为关注像素来识别样本并且计算第三回归系数w;...以及通过将学生图像的类号C7的像素设置为关注像素来识别样本并且计算第八回归系数w。
也就是说,在步骤S110的回归系数计算处理中,分别确定与类号C0到C7对应的8种类型的回归系数w。
在步骤S111中,回归系数存储单元22按照与类号关联的方式存储通过步骤S110的处理确定的8种类型的回归系数w中的每一种。
按照上述方式,执行鉴别回归系数学习处理。
这里,描述了如下的示例:主要通过执行三次迭代进行鉴别系数的学习,但是迭代次数可以是一。也就是说,在鉴别系数的第一次学习完成后,可以不重复地执行通过鉴别系数学习设备25进行的鉴别系数z的计算或者通过鉴别预测单元27进行的鉴别预测。
接下来,将参照图14的流程图描述鉴别回归预测处理的示例。由图9的图像处理设备100执行该处理。另外,假定:在执行该处理之前,在图像处理设备100的鉴别系数存储单元122和回归系数存储单元124中,通过图10的鉴别回归系数学习处理,分别存储有在鉴别系数存储单元26中存储的7种类型的鉴别系数z和在回归系数存储单元22中存储的8种类型的回归系数w。
在步骤S191中,鉴别预测单元121识别迭代码。由于该情况是第一次鉴别处理,所以迭代码被识别为1。
在步骤S192中,鉴别预测单元121执行在后面参照图15描述的鉴别处理。这里,将在下面参照图15的流程图描述图14的步骤S192中的鉴别处理的详细示例。
在步骤S211中,鉴别预测单元121设置与迭代码对应的关注像素。例如,如果迭代码是1,则由于该情况是第一次鉴别的处理,所以将输入图像的所有像素中的每个设置为关注像素。例如,如果迭代码是21,则由于这指示第二次鉴别的处理的一部分,所以将输入图像的像素之中的在第一次鉴别的处理中已经分配了类码比特1的每个像素设置为关注像素。例如,如果迭代码是34,则这指示第三次鉴别的处理的一部分,将在第一次鉴别的处理中已经分配了类码比特0并且在第二次鉴别的处理中已经分配了类码比特0的每个像素设置为关注像素。
在步骤S212中,鉴别预测单元121获得与在步骤S211中设置的关注像素对应的抽头。
在步骤S213中,鉴别预测单元121识别与在步骤S211的处理中识别的迭代码对应的鉴别系数z,并且从鉴别系数存储单元122读取鉴别系数z。
在步骤S214中,鉴别预测单元121计算鉴别预测值。此时,例如,执行上述的表达式(10)的计算。
在步骤S215中,基于在步骤S214的处理中计算的鉴别预测值,类划分单元123针对关注像素设置(分配)类码比特。此时,如上所述,例如,将基于表达式(10)计算的预测值yi的值与0进行比较,并且将类码比特分配给关注像素。
以按照与迭代码对应的方式确定的要处理的每个像素为目标,执行步骤S211到S215的处理。
按照上述方式,执行鉴别处理。
返回参照图14,在步骤S192的处理后,在步骤S193中,鉴别预测单元121确定迭代是否已完成。例如,在预设为通过执行三次迭代进行学习的情况下,确定迭代尚未完成,并且该处理然后返回到步骤S191。
然后,在步骤S191中,迭代码被识别为21,并且相似地执行步骤S192的处理。此时,如上所述,在步骤S192的处理中,将输入图像的像素之中的在第一次鉴别的处理中已经分配了类码比特1的每个像素设置为关注像素。
然后,在步骤S193中,确定迭代是否已完成。
如上所述,重复执行步骤S191到S193的处理,直到在步骤S193中确定迭代已经完成。在预设为通过执行三次迭代进行学习的情况下,在步骤S191中,迭代码被识别为34。然后,执行步骤S192的处理,并且在步骤S193中确定迭代已经完成。
当在步骤S193中确定迭代已经完成时,该处理进行到步骤S194。作为至此的处理的结果,如以上参照图7或图8所述,输入图像被分类成与3比特类码的类号对应的像素组。另外,如上所述,类划分单元123将用于识别输入图像的每个像素的、与像素的类号关联的信息提供给回归系数存储单元124。
在步骤S194中,回归预测单元125设置输入图像中的关注像素。
在步骤S195中,回归预测单元125获得与在步骤S194中设置的关注像素对应的抽头。
在步骤S196中,回归预测单元125将用于识别在步骤S194中设置的关注像素的信息提供给回归系数存储单元124,识别与关注像素的类号对应的回归系数w,并且从回归系数存储单元124读取它。
在步骤S197中,回归预测单元125通过利用在步骤S195中获得的抽头和在步骤S196中识别和读取的回归系数w执行表达式(2)的计算,从而计算回归预测值。
以输入图像的每个像素为目标,执行步骤S191到S197的处理。
然后,产生输出图像,在该输出图像中,通过回归预测单元125的计算获得的预测值是与关注像素对应的像素的值。结果,获得了使输入图像具有更高质量的输出图像。
按照上述方式执行鉴别预测处理。作为其结果,可以更高效且更高速地执行高质量图像形成处理。
图16示出了利用根据本发明的实施例的学习设备10和图像处理设备100的高质量图像形成处理的优点。
在图16中,鉴别系数学***轴绘制,S/N比沿着垂直轴绘制。图16示出了根据本发明的实施例的图像处理设备100或现有技术的图像处理设备对输入图像(其是加入了噪声的图像)执行图像处理获得的图像的特性。图16中利用三角形符号绘制的点指示由根据本发明的实施例的图像处理设备100执行图像处理获得的图像的特性。利用菱形符号绘制的点指示由现有技术的图像处理设备执行图像处理获得的图像的特性。
这里,由现有技术的图像处理设备执行的图像处理是根据利用图17所示的类抽头执行的分类自适应处理的图像处理。也就是说,现有技术的图像处理设备执行的图像处理使得针对输入图像,将利用图17中的阴影圆形指示的像素设置为关注像素,计算基于9(=3×3)个像素的像素值的1比特ADRC码,并且针对每个1比特ADRC码执行分类。例如在日本未审查专利申请公报No.7-79418中详细公开了采用分类自适应处理的现有技术的图像处理。
在获得图17所示的类抽头并且执行基于现有技术的分类自适应处理的图像处理的情况下,输入图像的每个像素被分类成512(=29)个类之一。在根据本发明的实施例的学习设备10中,在通过执行9次迭代执行鉴别系数的学习的情况下,输入图像的每个像素被分类成512个类之一。因此,在图17中,已经由现有技术的图像处理设备执行了图像处理的图像的特性值被写到与由根据本发明的实施例的图像处理设备100执行的图像处理的9次迭代对应的位置。实际上,由现有技术的图像处理设备执行的图像处理的迭代次数仅为一次(在根据现有技术的分类自适应处理的图像处理中,从一开始就没有假定迭代)。
另外,在根据本发明的实施例的图像处理设备100中,将图2所示的线性特征量设置为抽头,对于该线性特征量,加入了基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值、以及水平微分绝对值的最大值和垂直微分绝对值的最大值作为非线性特征量。在根据本发明的实施例的图像处理设备100中,在迭代次数p的值被设置为9的情况下,基于表达式(20)表示鉴别系数z的类型数目Nd和回归系数w的类型数目Nm。
Nd=2p-1=511
                    …(20)
Nm=2p=512
在图16中,分别通过根据本发明的实施例的图像处理设备100和现有技术的图像处理设备,对包含正规随机数噪声(σ=10.0)的输入图像进行高质量图像形成处理。对于图16的S/N比的值的评价式,使用表达式(21)。
S / N [ dB ] = 20 log 10 [ 255 × ( Σ i = 1 N ( t i - y i ) 2 / N ) - 1 2 ] · · · ( 21 )
如图16所示,当与现有技术的方法相比时,关于已经被执行了本发明的图像处理的图像的特性,S/N比的值被提高了大约1dB。
图18也示出了利用根据本发明的实施例的学习设备10和图像处理设备100的高质量图像形成处理的优点。
与图16的情况相似,在图18中,鉴别系数学***轴绘制,S/N比沿着垂直轴绘制。图18示出了由根据本发明的实施例的图像处理设备100或现有技术的图像处理设备对作为加入了噪声的图像的输入图像执行图像处理获得的图像的特性。图18中利用三角形符号绘制的点指示由根据本发明的实施例的图像处理设备100执行图像处理获得的图像的特性。图18中利用菱形符号绘制的点指示由现有技术的图像处理设备执行图像处理获得的图像的特性。
这里,通过现有技术的图像处理设备执行的图像处理与以上参照图17描述的情况的图像处理相同。另外,在根据本发明的实施例的图像处理设备100中,与图16的情况相同的元素被用作抽头。
在图18中,分别通过根据本发明的实施例的图像处理设备100和现有技术的图像处理设备,对包含正规分布形式的空间模糊劣化(σ=1.5)的输入图像进行高质量图像形成处理。对于图18中的S/N比的值的评价式,使用表达式(21)。
如图18所示,当与现有技术的方法相比时,关于已被执行了本发明的图像处理的图像的特性,S/N比的值被提高大约0.5dB。
图19也示出了利用根据本发明的实施例的学习设备10和图像处理设备100的高质量图像形成处理的优点。
与图16的情况相似,在图19中,鉴别系数学***轴绘制,S/N比沿着垂直轴绘制。图19示出了由根据本发明的实施例的图像处理设备100或现有技术的图像处理设备对作为加入了噪声的图像的输入图像执行图像处理获得的图像的特性。图19中利用三角形符号绘制的点指示由根据本发明的实施例的图像处理设备100执行图像处理获得的图像的特性。图19中利用菱形符号绘制的点指示由现有技术的图像处理设备执行图像处理获得的图像的特性。
这里,现有技术的图像处理设备的图像处理与以上参照图17描述的情况的图像处理相同。另外,在根据本发明的实施例的图像处理设备100中,与图16的情况相同的元素被用作抽头。
在图19中,通过根据本发明的实施例的图像处理设备100和现有技术的图像处理设备对空间的水平/垂直方向尺寸减小到1/3并且频带劣化的输入图像进行高质量图像形成处理(在这种情况下,对图像进行放大的处理)。也就是说,图19的示例示出下变频的劣化图像被上变频(3×3倍)。对于图19中的S/N比的值的评价式,使用表达式(21)。
如图19所示,当与现有技术的方法比较时,关于已经被执行了本发明的图像处理的图像的特性,S/N比的值被提高大约0.2dB。
如图16、18和19所示,根据本发明的实施例,与现有技术相比,可以更有效地执行高质量图像形成处理。
也就是说,根据本发明的实施例,在包含正规随机数噪声(σ=10.0)的输入图像的情况、包含正规分布形式的空间模糊劣化(σ=1.5)的输入图像的情况以及下变频并劣化的输入图像的情况中的任何一个情况下,与现有技术的方法相比,可以更加适当地执行高质量图像形成处理。另外,除了图16、18和19所示的示例外,可以将本发明应用于与使图像具有更高质量相关的各种应用程序。例如,本发明可以应用于与噪声消除、编码失真消除、模糊消除、分辨率建立、灰度建立、去马赛克、IP转换等相关的高质量图像形成处理的应用程序等。
另外,根据本发明的实施例,即使在存在图像的多个劣化原因(诸如噪声消除、编码失真消除、模糊消除...)的情况下,仍可以适当地执行高质量图像形成处理。例如,即使在包含噪声、编码失真和模糊的图像的情况下,本发明仍可以适当地应用高质量图像形成处理。另外,在本发明的实施例中,即使在存在上述方式的图像的多个劣化原因的情况下,仍可以适当地执行高质量图像形成处理而不会增加鉴别系数z和回归系数w的元素数目和类型数目。
在本发明的实施例中,如上所述,图2所示的线性特征量被用作抽头,对于该线性特征量,加入了基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值、水平微分绝对值的最大值和垂直微分绝对值的最大值作为非线性特征量。将在下面参照图20描述在利用加入了非线性特征量的抽头的情况下的高质量图像形成处理的优点。
图20也示出了利用根据本发明的实施例的学习设备10和图像处理设备100的高质量图像形成处理的优点。
与图16相似,在图20中,鉴别系数学***轴绘制,S/N比沿着垂直轴绘制。图20示出了由根据本发明的实施例的图像处理设备100和现有技术的图像处理设备对作为加入了噪声的图像的输入图像执行图像处理获得的图像的特性。图20中利用三角形符号绘制的点指示由根据本发明的实施例的图像处理设备100执行图像处理获得的图像的特性。图20中利用矩形(菱形)符号绘制的点指示由现有技术的图像处理设备100执行图像处理获得的图像的特性。
这里,现有技术的图像处理设备的图像处理与以上参照图17描述的情况的图像处理相同。另外,在根据本发明的实施例的图像处理设备100中,与图16的情况相同的元素被用作抽头。
在图20中,通过根据本发明的实施例的图像处理设备100和现有技术的图像处理设备对包含正规随机数噪声(σ=10.0)的输入图像进行高质量图像形成处理。对于图20的S/N比的值的评价式,使用表达式(21)。图20中的虚线指示由根据本发明的实施例的图像处理设备100仅利用从图2所示的学生图像获得的线性特征量执行高质量图像形成处理获得的图像的特性。另外,图20的实线指示由根据本发明的实施例的图像处理设备100利用将基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值、水平微分绝对值的最大值和垂直微分绝对值的最大值作为非线性特征量加入从图2所示的学生图像获得的线性特征量而得到的抽头,执行高质量图像形成处理获得的图像的特性。
如图20所示,当与仅利用线性特征量的抽头的情况相比时,关于利用加入了非线性特征量的抽头被执行了高质量图像形成处理的图像的特性,S/N比的值被提高大约0.5dB。
另外,图20的利用菱形绘制的点指示由现有技术的图像处理设备仅利用图17所示的线性特征量的抽头进行高质量图像形成处理获得的图像的特性。另外,图20的利用矩形绘制的点指示由现有技术的图像处理设备利用将基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值、水平微分绝对值的最大值和垂直微分绝对值的最大值作为非线性特征量加入图17所示的线性特征量而得到的抽头,执行高质量图像形成处理获得的图像的特性。
如图20所示,同样,在现有技术的方法中,当与仅利用线性特征量的抽头的情况相比时,关于利用加入了非线性特征量的抽头被执行了高质量图像形成处理的图像的特性,S/N比的值被提高大约0.4dB。
在利用加入了非线性特征量的抽头的高质量图像形成处理被应用于现有技术的分类自适应处理的情况下,例如执行下面处理。
在输入图像中,关于类抽头,按照与仅利用线性特征量的抽头的情况相同的方式获得图17所示的抽头。因此,计算基于9个元素的1比特ADRC(自适应动态范围编码)码,并且针对每个计算出的1比特ADRC码对关注像素进行分类。
另外,对于预测抽头,利用从图2所示的学生图像获得的线性特征量,对于该线性特征量,加入了基于表达式(3)获得的关注像素周围的像素值的水平微分绝对值和垂直微分绝对值、基于表达式(4)获得的关注像素周围的像素值的最大值和最小值、水平微分绝对值的最大值和垂直微分绝对值的最大值作为非线性特征量。通过将回归系数w与抽头的每个元素相乘,参照表达式(2)计算已用来执行了上述的回归计算的预测值。然后,产生输出图像,在该输出图像中,获得的预测值是与关注像素对应的像素的值。结果,获得了使输入图像具有更高质量的输出图像。关于输出图像的特性,如上所述,当与仅利用线性特征量的抽头的情况相比时,提高了S/N比的值。
可以通过硬件也可以通过软件执行上述的一系列处理操作。在由软件执行上述的一系列处理操作的情况下,从网络或记录介质将形成软件的程序安装到包括在专用硬件中的计算机或者例如图21所示的能够通过安装各种程序执行各种功能的通用个人计算机700。
在图21中,CPU(中央处理单元)701根据存储在ROM(只读存储器)702中的程序或者根据从存储单元708加载到RAM(随机存取存储器)703的程序执行各种处理操作。另外,在RAM 703中,适当存储CPU 701执行各种处理操作所需的数据等。
CPU 701、ROM 702和RAM 703经由总线704彼此互联。另外,输入/输出接口705也连接到总线704。
输入单元706、输出单元707、存储单元708和通信单元709连接到输入/输出接口705。输入单元706包括键盘、鼠标等。输出单元707包括由CRT(阴极射线管)或LCD(液晶显示器)形成的显示单元、扬声器等。存储单元708包括硬盘。通信单元709包括调制解调器、诸如LAN卡的网络接口卡等。通信单元709经由包括互联网的网络执行通信处理。
另外,驱动器710按需要连接到输入/输出接口705。诸如磁盘、光盘、磁光盘或半导体存储器的移动介质711适当地装载到驱动器710中。从驱动器710读取的计算机程序按需要安装到存储单元708中。
在通过软件执行上述的一系列处理操作的情况下,从诸如互联网的网络或者从由移动介质711形成的记录介质安装形成软件的程序。
记录介质可以由移动介质711形成,该移动介质711包括磁盘(包括软盘)(注册商标)、光盘(包括CD-ROM(压缩盘只读存储器)、DVD(数字多功能盘))或磁光盘(包括MD(迷你盘)(注册商标))或记录有程序的半导体存储器,将该记录介质分发从而与图21所示的设备的主单元分离地向用户提供程序。此外,记录介质可以由记录有程序的ROM 702和包括在存储单元708中的硬盘形成,并且通过预先包括在设备的主单元中而提供给用户。
在本说明书中,上述的一系列处理操作可以包括按记载的顺序按照时间序列方式执行的处理操作,并且还可以包括并非按照时间序列方式执行而是并行或单独执行的处理操作。
本申请包含与在2008年9月29日提交到日本专利局的日本在先专利申请JP 2008-250227中公开的主题相关的主题,通过引用将其全部内容纳入于此。
本领域技术人员应该明白,可以根据设计需要和其它因素想到各种变型、组合、子组合和替换,只要它们在权利要求或其等同物的范围内即可。

Claims (8)

1.一种系数学习设备,包括:
回归系数计算装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于回归预测计算的回归系数,该回归预测计算通过所述抽头的每个元素与所述回归系数的乘积和计算而获得第二信号的图像中的与所述关注像素对应的像素的值;
回归预测值计算装置,用于基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算并且计算回归预测值;
鉴别信息分配装置,用于基于计算出的回归预测值与第二信号的图像中的与所述关注图像对应的像素的值之间的比较结果向所述关注像素分配鉴别信息,该鉴别信息用于确定所述关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素;
鉴别系数计算装置,用于基于分配的鉴别信息从第一信号的图像获得其中与所述关注像素对应的多个线性特征量被用作元素的抽头,并且用于计算用于鉴别预测计算的鉴别系数,该鉴别预测计算通过所述抽头的每个元素与所述鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;
鉴别预测值计算装置,用于基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值;以及
分类装置,用于基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个,
其中,回归系数计算装置仅利用分类为第一鉴别类的像素进一步计算所述回归系数并且仅利用分类为第二鉴别类的像素进一步计算所述回归系数。
2.根据权利要求1所述的系数学习设备,其中,基于由回归预测值计算装置通过利用回归系数针对每个鉴别类计算的回归预测值:
鉴别信息分配装置重复执行分配鉴别信息的处理,
鉴别系数计算装置重复执行计算鉴别系数的处理,并且
鉴别预测值计算装置重复执行计算鉴别预测值的处理
其中该回归系数是由回归系数计算装置针对每个鉴别类计算的。
3.根据权利要求1所述的系数学习设备,其中,当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的差大于或等于0时,将所述关注像素确定为属于第一鉴别类的像素,并且
当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的差小于0时,将所述关注像素确定为属于第二鉴别类的像素。
4.根据权利要求1所述的系数学习设备,其中,当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的微分绝对值大于或等于预设的阈值时,将所述关注像素确定为属于第一鉴别类的像素,以及
当回归预测值与第二信号的图像中的与所述关注像素对应的像素的值之间的微分绝对值小于所述阈值时,将所述关注像素确定为属于第二鉴别类的像素。
5.一种系数学习方法,包括如下步骤:
从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且计算用于回归预测计算的回归系数,该回归预测计算通过所述抽头的每个元素与所述回归系数的乘积和计算而获得第二信号的图像中的与所述关注像素对应的像素的值;
基于计算出的回归系数和从第一信号的图像获得的抽头执行回归预测计算以计算回归预测值;
基于计算出的回归预测值与第二信号的图像中的与所述关注图像对应的像素的值之间的比较结果向所述关注像素分配鉴别信息,该鉴别信息用于确定所述关注像素是属于第一鉴别类的像素还是属于第二鉴别类的像素;
基于分配的鉴别信息从第一信号的图像获得其中与所述关注像素对应的多个线性特征量被用作元素的抽头,并且计算用于鉴别预测计算的鉴别系数,该鉴别预测计算通过所述抽头的每个元素与所述鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;
基于计算出的鉴别系数和从第一信号的图像获得的抽头执行鉴别预测计算以计算鉴别预测值;以及
基于计算出的鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及
仅利用分类为第一鉴别类的像素计算所述回归系数并且仅利用分类为第二鉴别类的像素进一步计算所述回归系数。
6.一种图像处理设备,包括:
鉴别预测装置,用于从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于执行鉴别预测计算,该鉴别预测计算通过所述抽头的每个元素与预存的鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;
分类装置,用于基于所述鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及
回归预测装置,用于基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且用于通过所述抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算来计算回归预测值。
7.根据权利要求6所述的图像处理设备,其中,鉴别预测装置重复执行用于执行鉴别预测计算的处理,并且分类装置重复执行用于对第一信号的图像的每个像素进行分类的处理。
8.一种信息处理方法,包括如下步骤:
从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且执行鉴别预测计算,该鉴别预测计算通过所述抽头的每个元素与预存的鉴别系数的乘积和计算而获得用于识别所述关注像素所属于的鉴别类的鉴别预测值;
基于所述鉴别预测值将第一信号的图像的每个像素分类为第一鉴别类和第二鉴别类中的一个;以及
基于分类的结果从第一信号的图像获得其中与关注像素对应的多个线性特征量被用作元素的抽头,并且通过所述抽头的每个元素与针对每个鉴别类预存的回归系数的乘积和计算来计算回归预测值。
CN2009102044499A 2008-09-29 2009-09-29 系数学习设备和方法、图像处理设备和方法 Expired - Fee Related CN101715098B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008-250227 2008-09-29
JP2008250227 2008-09-29

Publications (2)

Publication Number Publication Date
CN101715098A CN101715098A (zh) 2010-05-26
CN101715098B true CN101715098B (zh) 2013-03-27

Family

ID=42057554

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009102044499A Expired - Fee Related CN101715098B (zh) 2008-09-29 2009-09-29 系数学习设备和方法、图像处理设备和方法

Country Status (3)

Country Link
US (1) US8433145B2 (zh)
JP (1) JP5347862B2 (zh)
CN (1) CN101715098B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101334780A (zh) * 2007-06-25 2008-12-31 英特维数位科技股份有限公司 人物影像的搜寻方法、***及存储影像元数据的记录媒体
JP5476879B2 (ja) * 2008-09-29 2014-04-23 ソニー株式会社 画像処理装置および係数学習装置。
CN103188988A (zh) 2010-08-27 2013-07-03 索尼公司 图像处理装置及方法
JP2013003892A (ja) 2011-06-17 2013-01-07 Sony Corp 画像処理装置および方法、プログラム、並びに記録媒体
GB2494679A (en) * 2011-09-15 2013-03-20 Univ Jw Goethe Frankfurt Main Treatment of neuropathic pain and nerve injury by Nox4 inhibition
US11074671B2 (en) 2017-12-18 2021-07-27 Samsung Electronics Co., Ltd. Electronic apparatus and control method thereof
KR101882704B1 (ko) 2017-12-18 2018-07-27 삼성전자주식회사 전자 장치 및 그 제어 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5666164A (en) * 1992-12-10 1997-09-09 Sony Corporation Image signal converting apparatus
CN1225124C (zh) * 2000-02-10 2005-10-26 索尼公司 利用分类自适应处理的信息处理设备及其方法
CN101263717A (zh) * 2005-09-14 2008-09-10 微软公司 任意分辨率改变尺寸缩小解码器

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3321915B2 (ja) * 1993-06-18 2002-09-09 ソニー株式会社 画像信号変換装置
JP3693187B2 (ja) * 1995-03-31 2005-09-07 ソニー株式会社 信号変換装置及び信号変換方法
US5852470A (en) * 1995-05-31 1998-12-22 Sony Corporation Signal converting apparatus and signal converting method
JP3671469B2 (ja) * 1995-09-19 2005-07-13 ソニー株式会社 予測係数の学習方法並びに信号変換装置および方法
JP4265237B2 (ja) * 2003-02-27 2009-05-20 ソニー株式会社 画像処理装置および方法、学習装置および方法、記録媒体、並びにプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5666164A (en) * 1992-12-10 1997-09-09 Sony Corporation Image signal converting apparatus
CN1225124C (zh) * 2000-02-10 2005-10-26 索尼公司 利用分类自适应处理的信息处理设备及其方法
CN101263717A (zh) * 2005-09-14 2008-09-10 微软公司 任意分辨率改变尺寸缩小解码器

Also Published As

Publication number Publication date
US8433145B2 (en) 2013-04-30
JP2010103981A (ja) 2010-05-06
US20100080452A1 (en) 2010-04-01
CN101715098A (zh) 2010-05-26
JP5347862B2 (ja) 2013-11-20

Similar Documents

Publication Publication Date Title
CN101715098B (zh) 系数学习设备和方法、图像处理设备和方法
CN101715097B (zh) 图像处理设备和系数学习设备
CN108229526B (zh) 网络训练、图像处理方法、装置、存储介质和电子设备
WO2011013579A1 (ja) 画像処理装置および画像処理方法、並びにプログラム
CN101329760B (zh) 信号处理设备和信号处理方法
JP2017049996A (ja) 画像認識に用いられるニューラルネットワークの訓練方法及び訓練装置
CN107578332A (zh) 一种推荐现金商品的方法、装置、设备及存储介质
CN102982508A (zh) 图像处理设备和方法、程序和记录介质
CN115063318A (zh) 自适应频率分解的低光照图像增强方法与相关设备
CN113591831A (zh) 一种基于深度学习的字体识别方法、***及存储介质
CN112348831A (zh) 基于机器学习的页岩sem图像分割方法
CN116030302A (zh) 基于表征数据增强和损失再平衡的长尾图像识别方法
US20120275691A1 (en) Coefficient learning device and method, image processing device and method, program, and recording medium
CN111597845A (zh) 一种二维码检测方法、装置、设备及可读存储介质
CN112348809A (zh) 基于多任务深度学习的无参考屏幕内容图像质量评价方法
CN116883389A (zh) 一种基于图像生成的提升缺陷检测模型检出能力的方法
CN111476226A (zh) 一种文本定位方法、装置及模型训练方法
CN102209224A (zh) 系数学习设备和方法以及图像处理设备和方法
Kehar et al. Efficient Single Image Dehazing Model Using Metaheuristics‐Based Brightness Channel Prior
CN114419078A (zh) 基于卷积神经网络的表面缺陷区域分割方法及装置
CN113315995A (zh) 提高视频质量的方法、装置、可读存储介质及电子设备
CN101841641B (zh) 一种基于细分方法的视频放大方法及***
CN111383172B (zh) 神经网络模型的训练方法、装置及智能终端
JP2011217011A (ja) 係数学習装置および方法、画像処理装置および方法、プログラム、並びに記録媒体
Haseyama et al. A criterion-based image segmentation method with a genetic algorithm

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130327

Termination date: 20130929