CN102204820A - 记录设备及其记录方法 - Google Patents
记录设备及其记录方法 Download PDFInfo
- Publication number
- CN102204820A CN102204820A CN2011100732186A CN201110073218A CN102204820A CN 102204820 A CN102204820 A CN 102204820A CN 2011100732186 A CN2011100732186 A CN 2011100732186A CN 201110073218 A CN201110073218 A CN 201110073218A CN 102204820 A CN102204820 A CN 102204820A
- Authority
- CN
- China
- Prior art keywords
- period
- image data
- frame
- parts
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
- Apparatus Associated With Microorganisms And Enzymes (AREA)
Abstract
公开了一种记录设备及其记录方法。该记录设备包括:运动周期确定部件,其接收包括物体的图像内容的运动图像数据,该物体执行运动状态和非运动状态被周期性地交替重复的运动,并且确定对应于运动状态的运行时期和对应于非运动状态的静止时期;以及记录控制部件,其在运动图像数据被记录时,记录用于形成静止时段中的运动图像数据的每单位时间的帧图像数据的数目,使之小于用于形成运行时段中的运动图像数据的每单位时间的帧图像数据的数目。
Description
技术领域
本发明涉及记录设备,更具体地涉及记录具有周期性地执行运动的物体的图像内容的移动图像数据的记录设备及其记录方法。
背景技术
在再生药物领域,已经开发出了用于再生细胞或者使用通过培养细胞创造的培养细胞来恢复由于意外事故、疾病等导致的人体的身体功能、组织、器官缺失等的技术。可以使用各种细胞组织来制造这种培养细胞。其中,心肌细胞被用来治疗心脏。培养的心肌细胞自身执行对应于心脏跳动的运动。所以,在培养的心肌细胞的制造过程中,例如有必要执行对于以上运动是否更为可取的质量评估。
当执行这种培养的心肌细胞的质量评估时,例如在当前时间执行目视观测。然而,在目视观测中,质量评估很可能取决于观测者的主观印象,所以很难获得客观可靠的评估结果。
所以,相关技术中存在以下的一种已知技术。即,通过在个人计算机中记录通过对心肌细胞进行成像获取的数字信号来获取亮度数据。相对于具有这样获得的亮度数据的图像对测量点的亮度进行自动测量,以基于所测量的亮度的改变来测量心肌细胞的心跳周期(例如,参见日本未审查专利申请公开No.63-233392(图1))。
为了可靠地再现作为运动图像的基于培养的心肌细胞的心跳的运动,应该提供一定水平以上的图像质量。即,每单位时间的帧图像的数目应该处于一定水平以上。也就是说,应该提供具有一定水平以上的高帧率的运动图像。另外,图像清晰度也应该具有一定水平或更高水平。在当前的技术中,完全有可能生成并记录具有评估培养的心肌细胞所必需的清晰度和帧率的运动图像数据。
然而,当运动图像的清晰度和帧率变高时,运动图像的数据尺寸变大。例如实际上,当创建用于评估培养的心肌细胞的***时,可能由于某些限制而难以将存储设备的大多数容量分配用于记录运动图像。
发明内容
期望提供一种记录设备及其记录方法,其中该设备和方法能够在使用运动图像数据评估诸如培养的心肌细胞之类的执行周期性运动的物体的运动时保持运动图像数据的图像质量,并能够减小其尺寸。
根据本发明的实施例,提供了一种记录设备,包括:运动周期确定部件,该运动周期确定部件接收包括物体的图像内容的运动图像数据,该物体执行运动状态和非运动状态被周期性地交替重复的运动,并确定对应于运动状态的运行时期和对应于非运动状态的静止时期;以及记录控制部件,该记录控制部件在运动图像数据被记录时,记录用于形成静止时段中的运动图像数据的每单位时间的帧图像数据的数目使之小于用于形成运行时段中的运动图像数据的每单位时间的帧图像数据的数目。所以,在物体的图像运动状态中运动图像被以高帧率记录,并且在物体的图像非运动状态中运动图像被以低帧率记录。
另外,在本实施例中,运动周期确定部件可以包括:帧差异检测部件,该帧差异检测部件检测用于形成运动图像数据的帧图像数据的时间序列中的两个连续帧的图像数据的帧差异值;以及时段确定部件,该时段确定部件基于检测出的帧差异值确定运行时段,并且将不同于运行时段的时段确定为静止时段。所以,运行时段和静止时段是通过检测运动图像数据的时间序列中的两个连续帧的图像数据的帧差异值确定的。
另外,在本实施例中,时段确定部件可以包括:峰值检测部件,该峰值检测部件检测帧差异值的峰值;以及运行时段确定部件,该运行时段确定部件基于对应于其中检测出了峰值的帧差异值的时间确定运行时段。所以,运行时段是通过检测帧差异值的峰值确定的。
另外,在本实施例中,峰值检测部件可以按照时间序列接收作为检测目标的帧差异值,并基于作为检测目标的帧差异值和阈值之间的比较结果检测峰值。时段确定部件可以进一步包括:阈值设置部件,该阈值设置部件根据对应于作为当前检测目标的帧差异值的检测目标时间和下一个峰值出现时间之间的差来改变并设置阈值,其中该下一个峰值出现时间是基于与在检测目标时间之前检测到峰值的帧差异值相对应的时间估计出来的。所以,用于峰值检测的阈值根据帧差异值的峰值出现可能性而改变。
另外,在本实施例中,运动周期确定部件可以以预定的时间间隔接收对应于特定时间的运动图像数据,并确定运行时段和静止时段。所以,运行时段和静止时段的确定结果被以预定的时间间隔更新。
另外,在本实施例中,记录控制部件可以记录由运行时段中的每个帧周期的帧图像数据形成的运动图像数据,并记录由静止时段中的每预定多个帧周期的一块帧图像数据形成的运动图像数据。所以,在运行时段中,运动图像被以一般帧率记录,并且在静止时段中,运动图像被以低于一般帧率的帧率记录。
根据本发明的实施例,可以保持用于执行周期性运动的物体的运动评估的足够的图像质量,并且可以减小运动图像数据的大小。
附图说明
图1是示出根据本发明实施例的培养的心机细胞评估***的配置示例的示意图;
图2是示出根据本发明实施例的评估目标图像数据生成记录装置的配置示例的示意图;
图3是示出根据本发明实施例的运动周期确定部件的配置示例的示意图;
图4是示出差异值时间序列、运行时段、以及静止时段之间的关系的示意图;
图5是示出运行时段确定部件的配置示例的示意图;
图6是示出阈值计算部件计算阈值时所用的系数的设置示例的示意图;
图7是示出利用运行时段周期确定部件计算运行时段Tmv的定时的计算示例的示意图;
图8A和图8B是示出帧细化(frame thinning)处理部件的操作示例的示意图;
图9是示出由运动周期确定部件执行的处理过程的示例的示意图;
图10是示出由运行时间确定部件执行的运行时段确定处理的过程示例的示意图;以及
图11是示出由帧细化处理部件执行的处理过程的示例的示意图。
具体实施方式
下文中,将参考附图描述本发明的示例性实施例。描述是按照以下的顺序做出的。
1.第一实施例(检测运行时段和静止时段并且通过细化静止时段中的帧来记录运动图像的示例)
2.变型
<1.第一实施例>
[培养的心肌细胞评估***的配置示例]
图1是示出根据本发明的第一实施例的培养的心肌细胞评估***100的配置示例的示意图。图中所示的培养的心肌细胞评估***100对培养的心肌细胞500的质量进行评估。
在再生药物中,使用培养的细胞来治疗人类身体的各种组织、器官等的技术被广泛使用。培养细胞是通过培养细胞创造的细胞组织,并且培养的心肌细胞500是指创造用于心脏治疗的培养的心肌细胞。最近,已经开发出了这样的技术:以这种方式培养的细胞可以被大规模生产,以为医学实践提供大量的低成本的培养细胞。在培养细胞被这样大规模生产的情况下,所创造的培养细胞应该被有效并可靠地评估。
培养的心肌细胞500自身执行对应于心跳的运动。培养的心肌细胞500可以评估根据心跳的运动是否是更可取的,从而确定其质量。基于该确定结果,培养的心肌细胞评估***100记录通过对培养的心肌细胞500进行成像获取的运动图像数据,并且基于对所记录的运动图像数据的运动靠的评估结果。
至此,如图中所示,培养的心肌细胞评估***100包括例如图中所示的图像捕捉装置110、评估目标图像数据生成记录装置200、评估索引数据生成装置300、以及评估装置400。
图像捕捉装置110对作为评估目标的培养的心肌细胞500进行成像。在图中,培养的心肌细胞500由图像成像装置110直接成像,而在实际中,例如,培养的心肌细胞500的宏观图像被捕捉。另外,在图像捕捉时,图像捕捉装置110相对于培养的心肌细胞500的图像捕捉位置是固定的。
评估目标图像数据生成记录装置200基于从图像捕捉装置110输入的图像信号生成评估目标图像数据,并记录所生成的评估目标图像数据用于存储。这里,所生成的评估目标图像数据是例如由通过捕捉培养的心肌细胞500获取的图像信号生成的运动图像数据。另外,作为评估目标图像数据的运动图像数据对应于预定的特定时间量。即,运动图像数据是由预定块的帧图像数据形成的。另外,评估目标图像数据生成记录装置200将所生成的运动图像数据记录在例如内部记录介质中,从而存储评估目标图像数据。
评估索引数据生成装置300接收由评估目标图像数据生成记录装置200存储的作为评估目标图像数据的运动图像数据,并且生成用作用于培养的心肌细胞500的评估的索引的评估索引数据。评估装置400通过处理由评估索引数据生成装置300生成的评估索引数据来获取评估结果。
[评估索引数据生成装置的配置示例]
图2是示出评估目标图像数据生成记录装置200的配置示例的示意图。图中的评估目标图像数据生成记录装置200包括帧图像数据生成部件210、运动周期确定部件220、帧细化处理部件230、以及评估目标图像数据记录部件240。
帧图像数据生成部件210接收从图像捕捉装置110输入的图像信号,并利用预定的格式顺序生成用于形成运动图像数据的帧图像数据。作为根据本发明实施例的帧周期的具体示例,例如,存在120帧至240帧每秒的帧周期。由帧图像数据生成部件210生成的帧图像数据被输出到运动周期确定部件220和帧细化处理部件230。
如从以上描述可以理解的,由帧图像数据生成部件210生成的帧图象数据形成的运动图像具有培养的心肌细胞500的图像内容,并且图像中的培养的心肌细胞500执行心跳运动。心跳运动具有这样的特性,即培养的心肌细胞500实际生成运动时的运行时段和培养的心肌细胞500不生成运动并且几乎保持静止时的静止时段交替出现。另外,运行时段和静止时段不是以随机的时间间隔生成的,而是以某个程度的恒定时间间隔周期性地生成的。
运动周期确定部件220基于顺序输入的帧图像数据确定运动周期。即,运动周期确定部件220确定运行时段和静止时段被生成时的定时。所以,在本发明的实施例中,例如,运行时段的开始时间和结束时间被如随后所述地估计。不同于运行时段的时段是静止时段。所确定的运行时段和静止时段被生成时的定时是周期性的,并且具有恒定的时间间隔。另外,运动周期确定部件220根据运行时段和静止时段的各定时的确定结果,输出指示当前时间是运行时段还是静止时段的周期指示信号。
帧细化处理部件230根据周期指示信号对从帧图像数据生成部件210输入的帧图像数据进行细化处理,并且将细化处理后的帧图像数据输出到评估目标图像数据记录部件240。帧细化处理部件230是权利要求中公开的记录控制部件的示例。
评估目标图像数据记录部件240设置有预定的记录介质,例如其中,如上所述的从帧细化处理部件230输出的帧图像数据被记录并存储在该记录介质中。即,通过图像捕捉装置110捕捉培养的心肌细胞500所获取的运动图像数据被存储。这样存储的运动图像数据变为评估索引数据生成装置300所使用的评估目标图像数据。
[运动周期确定部件的配置示例]
图3是示出运动周期确定部件220的配置示例的示意图。图中的运动周期确定部件220包括帧存储器221、帧差异检测部件222、帧差异数据存储部件223、以及运行时段确定部件250。
帧存储器221将输入帧图像数据保持对应于一个帧周期的一段时间。帧差异检测部件222检测从帧图像数据生成部件210输入的当前帧图像数据和从帧存储器221输入的前一帧图像数据之间的差异。差异检测例如被如下执行。
帧差异检测部件222计算两块输入帧图像数据中相同位置的像素之间的差异值。然后,对针对像素所获取的差异值求和,以获取对应于一个帧周期的一块帧差异数据。帧差异数据存储部件223存储并保持由帧差异检测部件222获取的帧差异数据。
在本发明的实施例中,例如在培养的心肌细胞500的成像记录被执行时的时段中,通过帧差异检测部件222以预定的时间间隔在特定时间执行帧差异检测处理。帧差异数据存储部件223存储通过在特定时间执行的帧差异检测处理获取的T帧差异数据。
这里,帧差异数据的值(帧差异值)代表培养的心肌细胞500的运动量。作为计算图像中的物体的运动量的技术,例如,可以采用通过块匹配之类的运动检测处理。可以通过运动检测处理获取运动矢量信息。然而,在本发明的实施例中,为了确定心跳运动周期,只需要计算运动量。在这种情况下,运动检测处理作为仅计算运动量的处理是过度的,所以效率不高。所以,在本发明的实施例中,运动量是通过比运动检测轻松的被称为帧差异检测的处理计算出来的。
当T帧差异数据被完全存储在帧差异数据存储部件223中时,运行时段确定部件250例如使用T帧差异数据来确定运行时段的定时。运行时段确定部件250是权利要求中公开的时段确定部件的示例。
[有关由运动周期确定部件确定的运行时段和静止时段的描述]
图4是示意性地示出以时间序列存储在帧差异数据存储部件223中的帧差异数据的示意图。纵轴是帧差异数据值(帧差异值),横轴代表帧,即时间。
在图4中所示的帧差异值的时间序列中,以基本恒定的时间间隔迅速上升到恒定值以上的峰值P被获取。峰值P在培养的心肌细胞500实际在心跳运动中运动时被获取。如上所述,心跳运动具有周期性地特性。所以,峰值P周期性地出现。在对应于峰值P的帧差异值没有发生改变的时段内,帧差异值几乎变为0。帧差异值为0的状态代表培养的心肌细胞500在心跳运动中处于没有运动的静止状态。所以,如图中所示,帧差异值的时间序列代表运行时段Tmv和静止时段Tst分别以被看作恒定的时间间隔交替出现。运行时段Tmv是随着培养的心肌细胞500的运动与峰值P的帧差异值发生改变的时段相对应的。另一方面,静止时段Tst是随着培养的心肌细胞500的几乎静止帧差异值几乎变为0的时段。
运动周期确定部件220基于指示培养的心肌细胞500的运动的帧差异数据,确定运行时段Tmv和静止时段Tst的发生定时(occurrencetiming)。所以,图3中的运行时段确定部件250确定运行时段Tmv和静止时段Tst中的运行时段Tmv的发生定时。由于不同于运行时段Tmv的时段变为静止时段Tst,所以运行时段Tmv的发生定时的确定是与静止时段Tst的发生定时的确定相对应的。另外,在图7中,作为小于峰值P的值出现的峰值是在例如培养的心肌细胞500暂时执行不规则的运动时生成的噪声ns。本实施例中的运行时段确定部件250改变与帧差异值相比较的阈值,从而使得噪声ns不会被错误地检测为下面描述的原始峰值P。所以,可以高度精确地确定运行时段Tmv的发生定时。
[运行时段确定部件的配置示例]
图5是示出运行时段确定部件250的配置示例的示意图。图中的运行时段确定部件250包括峰值检测部件251、平均峰值计算部件252、平均峰值周期计算部件253、阈值计算部件254、以及运行时段周期确定部件255。
峰值检测部件251输入以时间序列存储在帧差异数据存储部件223中的T帧差异数据,并检测每个时间帧差异数据是否为峰值P。峰值检测部件251使用的帧差异数据已经被T存储在帧差异数据存储部件223中。所以,为了通过峰值检测部件251从帧差异数据存储部件223中读出帧差异数据,与帧周期的同步不是必需的。因此,例如,随后将描述的由运行时段确定部件250中的每个部分执行的处理可以由高于帧周期的速度的操作执行。然后,峰值检测部件251将与作为检测目标的帧差异数据相对应的帧周期当作当前时间,并且将其显示为时间t。
在这种情况下,峰值检测部件251使用与时间t相对应而设置的阈值TH(t),确定时间t处的帧差异数据x(t)满足以下峰值检测条件等式的情况,即确定峰值。
x(t)>x(t-1),x(t)>x(t+1),x(t)>TH(t)
即,检测作为峰值的具有大于前一时间和下一个时间的帧差异数据x(t-1)和x(t+1)且大于阈值TH(t)的值的帧差异数据x(t)。当检测出时间t处的帧差异数据x(t)为峰值时,峰值检测部件251输出指示检测结果的峰值检测信息Pd(t)。峰值检测信息Pd(t)包括作为峰值P的帧差异数据值和指示峰值P被检测出来的时间的信息。
平均峰值计算部件252计算平均峰值Pav,其中该平均峰值是在与作为当前检测目标的帧差异数据相对应的时间t之前检测出来的N个峰值P1至PN的平均值。例如,可以使用第k个检测出来的峰值Pk通过以下等式来计算平均峰值Pav:
[等式1]
该等式计算简单平均数作为平均峰值Pav,但是平均值的计算方法不限于此。例如,平均值可以被作为加权平均数计算。另外这里,计算一直到与当前时间的时间t相对应而获取的所有峰值P的平均值。替代地,可以计算从一直到与当前时间的时间t相对应而获取的峰值P中最新确定的数目的峰值P的运动平均数作为平均峰值P。例如,平均峰值Pav的计算方法可以考虑由实际的确定结果获取的运行时段Tmv和静止时段Tst的精确度来确定。这被类似地应用于随后将描述的平均峰值周期Cav。
平均峰值周期计算部件253计算使用相对于与作为当前检测目标的帧差异数据的时间t相对应的前一帧差异数据作为其目标检测出的N个峰值P1至PN出现时的周期中的平均值(平均峰值周期)Cav。假设检测出第k个峰值Pk的时间为tk,并且检测出第k+1个峰值Pk+1的时间为tk+1,则平均峰值周期Cav可以利用以下等式计算出来。
[等式2]
阈值计算部件254使用基于一直到与作为当前检测目标的帧差异数据的时间t相对应的峰值检测结果获取的平均峰值Pav和平均峰值周期Cav,设置时间t处的阈值TH(t)。阈值TH(t)可以利用例如下面的等式计算出来,假设时间t处的系数为α(t)。
TH(t)=α(t)×Pav
如等式中所示,时间t处的阈值TH(t)是通过将时间t处的系数α(t)与平均峰值Pav相乘计算出来的,但是系数α(t)是按如下确定的。
图6是示出根据阈值计算部件254设置的时间t的流逝的系数α的示意图。阈值计算部件254使用一直到当前时间t为止峰值P最终被检测出来时的时间t1作为原点,将系数α设置为直到时间(t1+C-d)为止的时段中的预定最大值。另外,在时间(t1+C+d)之后的时段中设置最大值。另外,在从时间(t1+C-d)到时间(t1+C+d)的时段中,系数α被设置为随着其移动到时间(t1+C)而减小,并且在时间(t1+C)处被设置为最小值。另外,阈值计算部件254基于上述设置确定对应于当前时间t的系数α具有的值。所确定的值变为系数α(t)。当系数α变为最小值时的时间(t1+C)变为基于当前时间计算出的平均峰值周期Cav这样估计出的峰值出现时间,其中下一时间以及随后的峰值P被检测出来的可能性最大。即,在峰值P被检测出来的可能性比较高时的定时处,系数α被设置为较小的值,并且另一方面,在峰值P被检测出来的可能性比较小时的定时处,系数α被设置为较大的值。所以,在峰值P被检测出来的可能性较小时阈值TH(t)被设置为较高的值,并且在峰值P被检测出来的可能性较高时阈值TH(t)被设置为较小的值。阈值计算部件254是权利要求中公开的阈值设置部件的示例。
峰值检测部件251可以使用如上所述的阈值TH(t),可靠地检测出根据实际心跳获取的峰值P。另一方面,峰值检测部件251进行操作,从而使得在峰值P出现时间以外的时段生成的噪声的峰值不被检测到。这样,在本发明的实施例中,可以通过改变将根据估计的峰值P的出现周期设置的阈值TH(t),来高度精确地检测出峰值P的存在与否。所以,可以高度精确地获取由运行时段周期确定部件255(随后将描述)计算出的运行时段Tmv。
运行时段周期确定部件255确定运行时段Tmv的发生定时。如上所述,运行时段Tmv的发生定时是周期性出现的运行时段Tmv的开始时间和结束时间。运行时段周期确定部件255在确定运行时段Tmv的发生定时时,接收通过执行对于整个T帧差异数据的峰值检测最终获取的平均峰值周期Cav。另外,运行时段周期确定部件255获取在对于整个T帧差异数据的峰值检测完成的状态下有关最终从峰值检测部件251检测出的峰值检测信息Pd(t1)的信息。即,运行时段周期确定部件255获取有关最终检测出的峰值P和时间t1的信息。另外,运行时段周期确定部件255接收帧差异数据x(t)。
在图7中,时间t1代表最终的峰值P被检测出来时的时间。运行时段周期确定部件255首先利用最终的峰值P被检测出来时的时间t1作为原点计算时间间隔“±d”。如果在时间t1处获取的最终的峰值被表示为P(t1),则时间间隔“±d”满足以下条件。
P(t1±d)>β×P(t1) (0<β<1)
即,根据该等式,当根据时间t1之前和之后的峰值P的帧差异数据的改变发生时的时段被获取,作为关于最终的峰值P被检测出来时的时间t1的时间间隔“±d”。这里,首先,相对于时间t1的由时间间隔“±d”产生的时段被设置为运行时段Tmv。这样获取的时间间隔“±d”返回阈值计算部件254,从而可以被用作例如在设置图6中所述的系数α(t)时的峰值出现时间的时间间隔“±d”。
接着,运行时段周期确定部件255计算在平均峰值周期Cav从时间t1开始流逝时的时间t2,并且将相对于时间t2由于时间间隔“±d”产生的时段设置为下一个运行时段Tmv。另外,运行时段周期确定部件255计算在平均峰值周期Cav从时间t2开始流逝时的时间t3,并且将相对于时间t2由于时间间隔“±d”产生的时段设置为下一个运行时段Tmv。这样,基于平均峰值周期Cav和时间间隔“±d”,在时间t1之后变为运行时段Tmv的发生定时被计算出来。另外,如果运行时段Tmv被这样计算出来,则作为不同于运行时段Tmv的时段的静止时段Tst的发生定时也被以类似的方式规定。
运行时段周期确定部件255基于以上计算出来的运行时段Tmv和静止时段Tst的发生定时,向帧细化处理部件230输出指示当前时间是运行时段Tmv和静止时段Tst中的哪一个的周期指示信号。运行时段周期确定部件255是权利要求中公开的运行时段确定部件的示例。
[帧细化处理部件]
图8A和8B是示意性地示出帧细化处理部件230根据周期指示信号执行的操作的示例的示意图。图8A示出了例如对于每个帧周期从帧图像数据生成部件210顺序输入到帧细化处理部件230的帧图像数据F1至F30。另外,周期指示信号指示对应于帧图像数据F1至F15被输入时的时段的静止时段Tst。帧细化处理部件230在例如静止时段Tst,通过对由图中所示的波状线指示的帧图像数据进行细化处理来执行记录。即,在这种情况下,帧细化处理部件230对对应于每三帧中的两帧的帧图像数据进行细化,提取剩余的一块帧图像数据,并且将其记录在评估目标图像数据记录部件240中。结果,运动图像在静止时段Tst中被以低于一般速率的帧率记录。
接着,如图8A中所示,假设周期指示信号被切换到指示帧图像数据F16至F22被输入时的时段中的运行时段Tmv的状态。相应地,帧细化处理部件230将帧图像数据F16至F23中的每一个输出到图中所示的评估目标图像数据记录部件240以进行记录。这样,运动图像在运行时段Tmv中被以一般帧率记录。
然后,在图8A和8B中,周期指示信号被改变为指示帧图像数据F24的定时处的静止时段Tst的状态。相应地,以类似于帧图像数据F1至F15的方式,帧细化处理部件230在执行对于两帧的细化处理的同时记录帧图像数据。对应于这种类型的细化处理的细化率(thinning rate)为例如2/3。
如果帧图像数据被这样记录在评估目标图像数据记录部件240中,则图8A中所示的帧图像数据F1至F30中的图8B中所示的帧图像数据被记录作为评估目标图像数据。即,帧图像数据F1、F4、F7、F10、F13、F16至F24、F27以及F30被记录。通过对比图8A和图8B可以理解,在本发明的实施例中,相对于一般记录被以一般帧率执行的情况,可以大大减少每单位时间被记录为运动图像数据的帧图像数据的数目。即,可以大大减小对应于相同成像时间的运动图像数据的大小。
这里,由于静止时段Tst是不存在培养的心肌细胞500的运动的静止时段,所以静止时段Tst中的帧图像数据具有基本相同的图像内容。相应地,即使帧率被设置为较低的值也没有问题。另一方面,在运行时段Tmv中,一般帧率被设置,从而足以评估运动状态的时间方向的清晰度被获取。这样,根据本发明的实施例,相对于通过图像捕捉和记录培养的心肌细胞500获取的运动图像数据(评估目标图像数据),可以保持用于评估的充足的图像质量,同时使得尺寸大大降低。
图8B中所示的细化率是一个示例,所以可以考虑实际的作为静止时期Tst必需的时间方向分辨率来适当地设置。另外,当再现如图8B中所示地记录的评估目标图像数据时,评估目标图像数据记录部件240连续再现三帧上的帧图像数据F1,然后类似地连续再现三帧上的帧图像数据F4。然后,以类似的方式,评估目标图像数据记录部件240连续再现三帧上的帧图像数据F7、F10、及F13。即,评估目标图像数据记录部件240在根据细化率的帧数目上,连续再现对应于静止时段Tst细化记录的帧图像数据。另外,评估目标图像数据记录部件240通过一帧原样连续再现对应于运行时段Tmv记录的帧图像数据F16至F24。通过这样执行再现,当培养的心肌细胞500被记录图像时,根据相同的时间上的处理的培养的心肌细胞500的运动再次出现。
[评估目标图像数据生成记录设备的处理过程示例]
图9是示出由评估目标图像数据生成记录装置200中的运动周期确定部件220执行的处理过程的示例的流程图。图中所示的每个步骤中的处理由图3中所示的运动周期确定部件220中的帧差异检测部件222和运行时段确定部件250之一适当地执行。另外,例如,由帧差异检测部件222和运行时段确定部件250执行的处理可以由硬件实现。另外,例如,该处理可以通过使CPU(中央处理单元)、DSP(数字信号处理器)等执行程序来实现。
首先,在图9中,例如,在帧图像数据由帧图像数据生成部件210生成的情况下,帧差异检测部件222等待运动周期确定执行定时(步骤S901)。如上所述,作为运动周期确定的一系列处理被预先设置为在以下的特定时间执行的处理,该时间是以预定的时间间隔获取T帧差异数据所必需的。
当在步骤S901中确定运动周期确定执行定时到来时,帧差异检测部件222执行检测当前时间和前一时间处的帧图像数据的差异值的处理(步骤S902)。检测出的差异数据被作为帧差异数据存储在帧差异数据存储部件223中。
接下来,帧差异检测部件222重复步骤S902和S903中的处理,直到确定在步骤S902中最初检测差异值的处理开始之后经过了特定时间为止(步骤S904)。所以,帧差异数据随着帧周期的流逝被顺序生成,并且被存储在帧差异数据存储部件223中。
在步骤S904中,在确定经过了特定时间的阶段,T帧差异数据被存储在帧差异数据存储部件223中。所以,运行时段确定部件250执行确定运行时段Tmv的周期时间的处理(运行时段确定部件)(步骤S910)。当运行时段Tmv的周期时间被确定时,静止时段Tst的周期时间被如上所述地规定。然后,运行时段确定部件250将根据确定结果指示当前时间是运行时段Tmv和静止时段Tst中的任意一个的周期指示信号输出到帧细化处理部件230(步骤S905)。
如上所述,运动周期确定处理被以例如特定的时间间隔执行。因此,由周期指示信号指示的运行时段Tmv和静止时段Tst被根据特定的时间间隔更新。例如,可以采用这样的配置,其中运动周期确定处理在培养的心肌细胞500的图像记录开始时被执行一次,然后指示此时确定的运行时段Tmv和静止时段Tst的周期指示信号被输出。然而,实际的心跳定时和运行时段Tmv和静止时段Tst的定时之间的间隙有可能随着时间的流逝逐渐变大。所以,如果像本发明的实施例一样周期性地更新运行时段Tmv和静止时段Tst,即使在很长时间的培养的心肌细胞500的图像记录中也可以追踪实际的心跳定时。
图10是示出图9中的步骤S910中所示的运行时段确定处理的过程示例的流程图。图中所示的每个步骤中的处理是适当地执行图5中所示的运行时段确定部件250中的峰值检测部件251、平均峰值计算部件252、平均峰值周期计算部件253、阈值计算部件254、以及运行时段周期确定部件255中的任意一个的处理。另外,图中所示的处理也可以通过使硬件、CPU、DSP等执行程序实现。
首先,峰值检测部件251对帧差异数据存储部件223中存储的帧差异数据中的对应于时间t的帧差异数据x(t)执行峰值检测处理(步骤S911)。例如,峰值检测部件251根据帧差异数据x(t)是否满足上述峰值检测条件等式,来检测输入的帧差异数据x(t)是否被当作峰值P。当基于峰值检测条件等式进行检测时,帧差异数据x(t)及其前一个和后一各帧差异数据x(t-1)、x(t+1)被从存储在帧差异数据存储部件223中的帧差异数据中读出以供使用。所以,作为峰值检测处理的结果,确定峰值P是否被实际检测出来(步骤S912)。
当在步骤S912中确定峰值P被实际检测到时,平均峰值计算部件252利用有关在当前时间最新检测到的峰值检测信息Pd(t)的信息,重新计算并更新平均峰值Pav(步骤S913)。此时,例如,被指示为(等式1)的计算被执行。类似地,平均峰值周期计算部件253利用例如(等式2)所指示的计算重新计算并更新平均峰值周期Cav(步骤S914)。另一方面,在步骤S912中确定没有实际检测到峰值P时,步骤S913和S914的处理被省去。
接下来,阈值计算部件254如图6中所述地计算对应于时间t的阈值TH(t)(步骤S915)。随后,峰值检测部件251增大指示时间(帧)的变量“t”(步骤S916)。另外,确定峰值检测是否是对于帧差异数据存储部件223中存储的整个T帧差异数据执行的(步骤S917)。这里,在确定峰值检测不是对整个帧差异数据执行的情况下,过程返回到步骤S911。所以,相对于接下来的时间t的帧差异数据x(t)的峰值检测、根据检测结果对平均峰值Pav和平均峰值周期Cav的更新、以及阈值TH(t)的计算等被执行。所以,如果在步骤S917中确定峰值检测是对整个帧差异数据执行的,则运行时段周期确定部件255执行图7中所述的计算运行时段Tmv的处理(步骤S918)。
图11是示出帧细化处理部件230执行的处理过程的示例的流程图。图中所示的处理也可以通过使硬件、CPU、DSP等执行程序来实现。
首先,在帧图像数据被输入时的帧周期的每个开始定时处,帧细化处理部件230确定当前的周期指示信号是否指示静止时段Tst(步骤S921)。
在步骤S921中确定静止时段Tst没有被指示的情况下,周期指示信号代表运行时段Tmv。所以,在这种情况下,当前帧周期中输入的当前帧图像数据被记录在评估目标图像数据记录部件240中(步骤S923)。接着,零被替换为变量“f”(步骤S924),然后过程在下一个帧周期的开始定时处返回到步骤S921的处理。如随后描述的,当周期指示信号指示静止时段Tst时帧图像数据的细化处理被执行时,变量“f”代表连续执行帧图像数据的细化处理的次数。
另外,在步骤S921中确定当前的周期指示信号指示静止时段Tst的情况下,确定当前变量“f”是否处于等于最大值M的状态下(步骤S922)。最大值M被确定为实际设置的帧图像数据的细化率。具体地,如图8B中所示,如果细化率被设置为每三帧中有两帧被细化处理(细化率为“2/3”),则最大值M变为2。
在步骤S922中确定变量“f”没有达到最大值M的情况下,当前帧图像数据被丢弃(步骤S925)。即,当前帧图像数据没有被记录,但是被细化处理。另外,在当前帧图像数据在步骤S925中被丢弃时,变量“f”增大,然后过程返回到步骤S921。另外,在步骤S922中确定变量“f”达到最大值M的情况下,步骤S923和S924的处理被执行。所以,在静止时段Tst中,帧图像数据的记录被执行,同时以预定的细化率执行细化处理。
<2.变型>
接下来,将描述本发明实施例的变型。首先,在上述实施例中,当培养的心肌细胞500的图像记录被执行时,例如,每当T帧差异数据被存储在帧差异数据存储部件223中时,运行时段Tmv和静止时段Tst的发生定时被确定。然而,例如,运行时段确定部件250可以实时接收由帧差异检测部件222获取的帧差异数据,以分别确定运行时段Tmv和静止时段Tst的发生定时。
在这种情况下,运动周期确定部件220被如此配置,使得帧差异数据存储部件223在图3中被省去,并且由帧差异检测部件222针对每个帧周期获取的帧差异数据被输入到运行时段确定部件250。另外,运行时段确定部件250的峰值检测部件251执行对于每个帧周期的帧差异数据x(t)输入的峰值检测。此时,如果基于前一峰值检测条件等式的峰值检测被执行,则实际检测出帧差异数据x(t)为峰值P时的定时为一帧之后的时间(t+1)。当峰值P被检测出来时,平均峰值计算部件252和平均峰值周期计算部件253使用当前重新获取的峰值检测信息P(t),分别重新计算并更新平均峰值Pav和平均峰值周期Cav。另外,阈值计算部件254根据图6中描述的相同处理,使用当前的平均峰值Cav计算对应于当前时间t的阈值TH(t),然后将计算出的阈值TH(t)输入到峰值检测部件251。然后,例如,每当峰值P被重新检测出来时,运行时期确定部件255根据图7中描述的相同处理计算随后的运行时段Tmv和静止时段Tst各自的发生定时。
另外,在本发明的上述实施例中,为了提高峰值检测的精确度从而使得噪声不会被错误地检测为峰值P,根据所估计的峰值P的定时来改变阈值TH(t)。另一方面,在其变型中,例如,在噪声实际上被错误地检测为峰值的可能性较小的情况下,可以通过将阈值TH设置为固定值来执行峰值检测。
另外,在上述实施例中,在运行时段Tmv中,记录被以一般帧率执行,并且在静止时段Tst中,记录被以低于一般帧率的帧率执行。另一方面,例如,在运行时段Tmv中,记录可以被以高于一般帧率的帧率执行,并且在静止时段Tst中,记录可以被以一般帧率执行。也就是说,在本发明中,在静止时段Tst中,运动图像被以低于运行时段Tmv中的帧率记录。
这些实施例是实现本发明的示例。如上所述,本发明的实施例中的元件分别对应于权利要求中的具体元件。类似地,权利要求中的具体元件对应于本发明的实施例中的具有相同参考标号的元件。然而,本发明不限于此,并且在不脱离本发明的精神的条件下可以实现各种变型。
另外,本发明的实施例中描述的处理过程可以被作为这种一系列过程的方法提供,也可以被作为用于使计算机执行一系列过程的程序以及存储该程序的记录介质提供。可以使用CD(压缩盘)、MD(迷你盘)、DVD(数字多用盘)、存储卡、以及蓝光光盘(注册商标)等作为记录介质。
本申请包含涉及于2010年3月29日递交日本专利局的日本优先权专利申请JP 2010-074307中公开的主题,其全部内容通过引用结合于此。
本领域技术人员将理解,在不脱离所附权利要求及其等同物的条件下,可以根据设计要求和其他因素做出各种变型、组合、子组合、以及改变。
Claims (7)
1.一种记录设备,包括:
运动周期确定部件,该运动周期确定部件接收包括物体的图像内容的运动图像数据,该物体执行运动状态和非运动状态被周期性地交替重复的运动,并且该运动周期确定部件确定对应于所述运动状态的运行时段和对应于所述非运动状态的静止时段;以及
记录控制部件,该记录控制部件在所述运动图像数据被记录时,记录用于形成所述静止时段中的运动图像数据的每单位时间的帧图像数据的数目使之小于用于形成所述运行时段中的运动图像数据的每单位时间的帧图像数据的数目。
2.根据权利要求1所述的记录设备,其中所述运动周期确定部件包括:
帧差异检测部件,该帧差异检测部件检测用于形成所述运动图像数据的帧图像数据的时间序列中的两个连续帧的图像数据的帧差异值;以及
时段确定部件,该时段确定部件基于检测出的帧差异值确定所述运行时段,并且将不同于所述运行时段的时段确定为所述静止时段。
3.根据权利要求2所述的记录设备,其中所述时段确定部件包括:
峰值检测部件,该峰值检测部件检测所述帧差异值的峰值;以及
运行时段确定部件,该运行时段确定部件基于与其中检测出了所述峰值的帧差异值相对应的时间确定所述运行时段。
4.根据权利要求3所述的记录设备,其中所述峰值检测部件按照时间序列接收作为检测目标的帧差异值,并基于作为所述检测目标的所述帧差异值和阈值之间的比较结果检测所述峰值,并且
其中所述时段确定部还包括阈值设置部件,该阈值设置部件根据对应于作为当前检测目标的帧差异值的检测目标时间和下一个及其后的峰值出现时间之间的差来改变并设置所述阈值,所述下一个及其后的峰值出现时间是基于与在所述检测目标时间之前检测到峰值的帧差异值相对应的时间估计出来的。
5.根据权利要求1所述的记录设备,其中,所述运动周期确定部件以预定的时间间隔接收对应于特定时间的运动图像数据,并确定所述运行时段和所述静止时段。
6.根据权利要求1所述的记录设备,其中,所述记录控制部件记录由所述运行时段中的每个帧周期的帧图像数据形成的运动图像数据,并且记录由所述静止时段中的每预定多个帧周期的一个帧图像数据形成的运动图像数据。
7.一种记录方法,包括如下步骤:
接收包括物体的图像内容的运动图像数据,该物体执行运动状态和非运动状态被周期性地交替重复的运动,并确定对应于所述运动状态的运行时段和对应于所述非运动状态的静止时段;以及
当所述运动图像数据被记录时,记录用于形成所述静止时段中的运动图像数据的每单位时间的帧图像数据的数目使之小于用于形成所述运行时段中的运动图像数据的每单位时间的帧图像数据的数目。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010-074307 | 2010-03-29 | ||
JP2010074307A JP5531710B2 (ja) | 2010-03-29 | 2010-03-29 | 記録装置および記録方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102204820A true CN102204820A (zh) | 2011-10-05 |
CN102204820B CN102204820B (zh) | 2015-11-25 |
Family
ID=44656002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110073218.6A Active CN102204820B (zh) | 2010-03-29 | 2011-03-22 | 记录设备及其记录方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8537212B2 (zh) |
JP (1) | JP5531710B2 (zh) |
CN (1) | CN102204820B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105302701A (zh) * | 2014-06-23 | 2016-02-03 | 中兴通讯股份有限公司 | 一种测试终端用户界面反应时间的方法、装置及设备 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013090194A (ja) | 2011-10-19 | 2013-05-13 | Sony Corp | サーバ装置、画像送信方法、端末装置、画像受信方法、プログラムおよび画像処理システム |
US9111147B2 (en) * | 2011-11-14 | 2015-08-18 | Massachusetts Institute Of Technology | Assisted video surveillance of persons-of-interest |
TWI649675B (zh) | 2013-03-28 | 2019-02-01 | 新力股份有限公司 | Display device |
WO2015104763A1 (ja) * | 2014-01-07 | 2015-07-16 | ソニー株式会社 | 分析システム、分析プログラム及び分析方法 |
US11503248B1 (en) * | 2022-01-04 | 2022-11-15 | Novatek Microelectronics Corp. | Method of MEMC and related video processor |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1504164A (zh) * | 2002-12-04 | 2004-06-16 | GEҽҩϵͳ����Ƽ���˾ | 使用非电信号来确定任意的心脏阶段 |
CN101316552A (zh) * | 2005-11-30 | 2008-12-03 | 皇家飞利浦电子股份有限公司 | 远程测量受检者心率的雷达*** |
US20090059031A1 (en) * | 2006-12-18 | 2009-03-05 | Sony Corporation | Image-Capturing Apparatus and Method, Recording Apparatus and Method, and Reproducing Apparatus and Method |
US20090208083A1 (en) * | 2008-02-15 | 2009-08-20 | Carmel Hayes | Method and device to automatically determine the rest phase of the heart |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63233392A (ja) | 1987-03-20 | 1988-09-29 | Nippon Petrochem Co Ltd | 周期的に形状を変える物体の変形周期測定法 |
JPH04307049A (ja) * | 1991-04-03 | 1992-10-29 | Koonan:Kk | 心臓その他脈動体画像の解析装置 |
JP4687404B2 (ja) * | 2005-11-10 | 2011-05-25 | ソニー株式会社 | 画像信号処理装置、撮像装置、および画像信号処理方法 |
JP2009135762A (ja) * | 2007-11-30 | 2009-06-18 | Olympus Corp | カメラ |
-
2010
- 2010-03-29 JP JP2010074307A patent/JP5531710B2/ja active Active
-
2011
- 2011-03-21 US US13/052,286 patent/US8537212B2/en active Active
- 2011-03-22 CN CN201110073218.6A patent/CN102204820B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1504164A (zh) * | 2002-12-04 | 2004-06-16 | GEҽҩϵͳ����Ƽ���˾ | 使用非电信号来确定任意的心脏阶段 |
CN101316552A (zh) * | 2005-11-30 | 2008-12-03 | 皇家飞利浦电子股份有限公司 | 远程测量受检者心率的雷达*** |
US20090059031A1 (en) * | 2006-12-18 | 2009-03-05 | Sony Corporation | Image-Capturing Apparatus and Method, Recording Apparatus and Method, and Reproducing Apparatus and Method |
US20090208083A1 (en) * | 2008-02-15 | 2009-08-20 | Carmel Hayes | Method and device to automatically determine the rest phase of the heart |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105302701A (zh) * | 2014-06-23 | 2016-02-03 | 中兴通讯股份有限公司 | 一种测试终端用户界面反应时间的方法、装置及设备 |
CN105302701B (zh) * | 2014-06-23 | 2020-02-28 | 中兴通讯股份有限公司 | 一种测试终端用户界面反应时间的方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
JP2011211278A (ja) | 2011-10-20 |
CN102204820B (zh) | 2015-11-25 |
US8537212B2 (en) | 2013-09-17 |
US20110234828A1 (en) | 2011-09-29 |
JP5531710B2 (ja) | 2014-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102204820A (zh) | 记录设备及其记录方法 | |
TWI375173B (en) | Target moving object tracking device | |
JP3928978B1 (ja) | 医用画像処理装置、医用画像処理方法及びプログラム | |
US8861811B2 (en) | System and method for segmenting M-mode ultrasound images showing blood vessel wall motion over time | |
CN102821243A (zh) | 图像处理装置、控制图像处理装置的方法以及用于使计算机执行该方法的程序 | |
CN110197713A (zh) | 一种医疗影像的处理方法、装置、设备和介质 | |
JP2020091543A (ja) | 学習装置、処理装置、ニューラルネットワーク、学習方法、及びプログラム | |
CN111932492B (zh) | 一种医学图像处理方法、装置及计算机可读存储介质 | |
JP2011211278A5 (zh) | ||
CN113920109A (zh) | 医疗影像识别模型训练方法、识别方法、装置及设备 | |
CN106659465A (zh) | 超声成像***和方法 | |
CN116109812A (zh) | 一种基于非极大值抑制阈值优化的目标检测方法 | |
CN110366741A (zh) | 物体跟踪装置和物体跟踪方法 | |
CN111931754B (zh) | 一种样本中目标物的识别方法、***和可读存储介质 | |
CN104268852B (zh) | 红外序列图像中弱小目标的检测方法及其检测装置 | |
JP2018120402A (ja) | イベント検出装置、イベント検出方法、プログラム | |
CN115381438A (zh) | 生命体征信号的重建方法、装置、计算机设备和存储介质 | |
CN109598201A (zh) | 动作检测方法、装置、电子设备及可读存储介质 | |
CN114581963A (zh) | 基于重构差异的oct指纹切面图像真伪检测方法 | |
US20230017138A1 (en) | System and Method for Generating Training Images | |
CN114723710A (zh) | 基于神经网络的超声视频关键帧的检测方法和装置 | |
CN112700446A (zh) | 用于工业质检的算法模型训练方法和装置 | |
CN111399039B (zh) | 斜率参数提取方法、装置及存储介质 | |
JP2018074299A (ja) | 流動状況計測装置、方法、及びプログラム | |
CN104023644B (zh) | 用于在超声成像中的针可视化增强的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |