CN115917393A - 显微镜***及用于显微镜***的相应的***、方法和计算机程序 - Google Patents
显微镜***及用于显微镜***的相应的***、方法和计算机程序 Download PDFInfo
- Publication number
- CN115917393A CN115917393A CN202180041254.6A CN202180041254A CN115917393A CN 115917393 A CN115917393 A CN 115917393A CN 202180041254 A CN202180041254 A CN 202180041254A CN 115917393 A CN115917393 A CN 115917393A
- Authority
- CN
- China
- Prior art keywords
- range
- microscope
- values
- quality indication
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Studio Devices (AREA)
Abstract
示例涉及显微镜***(100;400)和用于显微镜***的相应***(110)、方法和计算机程序。***包括一个或多个处理器(114)和一个或多个存储设备(116)。***被配置为确定显微镜***的显微镜(120)的荧光成像传感器(122)的图像数据的质量的质量指示。***被配置为,对于显微镜的一个或多个用户设置,识别根据质量指示适合的值的范围。***被配置为基于根据质量指示适合的值的范围,控制一个或多个用户设置的改变。
Description
技术领域
示例涉及显微镜***及用于显微镜***的相应的***、方法和计算机程序。
背景技术
现代显微镜***,特别是外科显微镜***,提供了各种各样的功能,以在显微镜操作期间协助用户(即外科医生)。一些外科显微镜提供的功能之一是“荧光成像”功能,在这种功能中,光在第一波长波段(也称为荧光激发波长波段)中射向手术部位。如果在手术部位使用荧光染料,发射的光使染料激活,并且光在第二波长波段(也称为荧光发射波长波段)中发射。这种光可以被相机传感器记录,并显示在手术显微镜的显示器上,例如在手术显微镜的目镜的显示器上。与反射成像相比,由荧光染料发射的光具有较低的照明强度,这可能限制对荧光发射波长波段中的光的记录进行数字处理的能力。
发明内容
期望改进的用于荧光成像的概念。
此期望通过独立权利要求的主题加以解决。
本公开的实施例基于以下发现:关于荧光成像,显微镜的多种功能或参数对荧光成像传感器的图像数据的质量有影响,诸如缩放级别、手术显微镜与手术部位的工作距离和手术部位的照明。在一些外科显微镜中,在荧光成像过程中,对这些参数和功能的改变是有限的,以确保为处理荧光图像数据保留足够的余量,这可能限制相应功能或参数的可用性,即使荧光图像数据的质量足以支持相应的功能或参数。因此,在本发明的各种实施例中,对荧光成像传感器的图像数据的质量进行分析,以确定哪些用户设置可以安全地被改变,并基于分析对这些用户设置的改变进行控制。
本公开的实施例提供了一种用于显微镜***的显微镜的***。***包括一个或多个处理器和一个或多个存储设备。***被配置为确定显微镜的荧光成像传感器的图像数据的质量的质量指示。***被配置为,对于显微镜的一个或多个用户设置,识别根据质量指示适合的值的范围。***被配置为基于根据质量指示适合的值的范围来控制一个或多个用户设置的改变。通过确定根据质量指示适合的值的范围,并基于值的范围控制用户设置的改变,与使用显微镜的荧光成像操作期间允许的静态值的范围的***相比,可以扩大值的范围。
例如,***可以被配置为,将一个或多个用户设置的改变限制于根据质量指示适合的值的范围。换句话说,可以阻止用户将一个或多个用户设置改变为不适合在显微镜的荧光成像操作中使用的值。
另外或可替代地,***被配置为,如果尝试在根据质量指示适合的值的范围之外的一个或多个用户设置的改变,经由输出设备提供通知。基于通知,可以让用户知道不建议对一个或多个用户设置的改变,或者甚至阻止改变(如果限制改变一个或多个用户设置)。
在一些示例中,***被配置为在提供通知时延迟一个或多个用户设置的改变。这样,用户(例如外科医生)可以在改变的用户设置被应用之前改变他们的想法。
在各种实施例中,质量指示与图像数据内荧光发射的光强度有关。例如,质量指示可与图像数据内荧光发射的最大光强度相关,或与图像数据内荧光发射的平均光强度相关。在许多情况下,足够的光强度对于成功处理图像数据是至关重要的。
可以在值的范围内定义质量指示。值的范围可以包括第一子范围和第一子范围以外的至少一个第二子范围。如果质量指示的值在第一子范围内,则可以限制根据质量指示适合的值的范围。换句话说,如果质量指示在第一子范围中,那么只有可能改善质量指示的改变才可用。另一方面,如果质量指示的值在至少一个第二子范围内,例如,如果质量指示足够好,则对于一个或多个用户设置,整个值的范围是可用的。
在各种实施例中,针对时间窗口内图像数据的多个样本,确定质量指示。如果在时间窗口内在多个样本中,产生位于第一子范围内的质量指示的样本的数量高于阈值,则可限制根据质量指示适合的值的范围。换句话说,如果有足够多的样本指示足够好的质量,那么指示图像数据的低质量的单个样本可被忽略。
例如,第一子范围可以位于值的范围内的两个第二子范围之间。例如,在第二子范围中的一个中,图像数据的质量可能太低,无法处理,因此可以启用对用户设置的任何改变,在第二子范围中的另一个中,图像数据的质量可能很高,因此也可以允许对其中一个用户设置的任何改变。仅仅在两个极值之间,图像数据的质量仍然足够好以进行处理,值的范围可能是受限的。
在一些实施例中,为指示荧光发射的两个或更多个不重叠频带分别确定两个或更多个质量指示。根据两个或更多个质量指示,值的范围可能是合适的。虽然质量指示是针对两个频带分别确定的,并且因此是针对两种荧光染料分别确定的,但改变可能对两者都有影响,因此可以选择应使用的值的范围,使荧光成像在两个频带中都得到充分支持。
一个或多个用户设置可以与显微镜的放大因子、显微镜的工作距离和显微镜的照明***的亮度中的一个或多个相关。这些是通常影响荧光成像传感器的图像数据的质量的用户设置。对于这些设置,值的范围可以限制在当前设置的一个方向上。例如,适用于显微镜的放大因子的值的范围可以向上扩展到显微镜的当前放大因子。适用于显微镜的工作距离的值的范围可以向上扩展到显微镜的当前工作距离因子。适用于显微镜的照明***的亮度的值的范围可以从照明***的当前亮度向上扩展。换句话说,值的范围可能限于可能改善图像数据的质量的值。
如前所述,根据质量指示适合的值的范围可以关于正在对图像数据执行的图像处理和/或关于输出设备上的图像数据的可视化是合适的。图像数据的后处理和可视化可能需要最低的质量以产生足够的结果。因此,***可被配置为对图像数据执行图像处理,和/或提供图像数据的可视化,并基于经处理的图像数据或基于可视化提供显示信号。
本发明的实施例进一步提供了包括***和显微镜的显微镜***。例如,显微镜***可以是外科显微镜***。因此,显微镜可以是外科显微镜。
本发明的实施例进一步提供了用于显微镜***的显微镜的相应方法。方法包括确定显微镜的荧光成像传感器的图像数据的质量的质量指示。方法包括针对显微镜的一个或多个用户设置,识别根据质量指示适合的值的范围。方法包括基于根据质量指示适合的值的范围,控制一个或多个用户设置的改变。
本发明的实施例进一步提供了计算机程序,该计算机程序具有程序代码,当计算机程序在处理器上执行时,程序代码实现方法。
附图说明
以下将仅以举例的方式并参考附图说明装置和/或方法的一些示例,其中
图1a和1b示出了用于显微镜***的显微镜的***和包括该***和显微镜的外科显微镜***的实施例的示意图;
图2示出用于显微镜***的显微镜的方法的实施例的流程图;
图3示出了确定合适值的范围的流程图;以及
图4示出了包括显微镜和计算机***的***的示意图。
具体实施方式
现在,将参照附图更全面地描述各种示例,其中一些示例在附图中说明。在图中,线、层和/或区域的厚度可能会被夸大,以达到清晰的效果。
图1a和1b示出了用于显微镜***100的显微镜120的***110和包括***110和显微镜12的外科显微镜***100的实施例的示意图。***110包括一个或多个处理器114和一个或多个存储设备116。可选地,***进一步包括接口112。一个或多个处理器114耦接到可选接口112和一个或多个存储设备116。一般来说,***110的功能由一个或多个处理器114提供,例如与可选接口112和/或一个或多个存储设备116结合。
***被配置为确定显微镜的荧光成像传感器122的图像数据的质量的质量指示。***被配置为,对于显微镜的一个或多个用户设置,识别根据质量指示适合的值的范围。***被配置为基于根据质量指示适合的值的范围,控制一个或多个用户设置的改变。
图1b示出了显微镜***100的框图,特别是包括***110的外科显微镜***100的框图。显微镜***100进一步包括具有荧光成像传感器122的显微镜120。图1b所示的显微镜***是外科医生可在手术部位使用的外科显微镜***。图1b所示的外科显微镜***包括许多可选组件,诸如带有(滚动)支架的基础单元105(包括***110),一个或多个显示器130,诸如辅助显示器或目镜,将显微镜120固定在适当位置并与基础单元105和显微镜120耦接的(机器人或手动)臂140,以及附接到显微镜120的转向手柄150。在此应用的上下文中,使用术语“(外科)显微镜***”,以涵盖***中不是实际显微镜的部件(包括光学组件)但与显微镜一起使用的部分,诸如显示器或照明***。
本发明的实施例涉及适用于显微镜***100(诸如结合图1b介绍的显微镜***100)的显微镜120的***、方法和计算机程序。如上已经介绍的,在显微镜120和显微镜***100之间进行区分,显微镜***包括显微镜120和与显微镜120结合使用的各种组件,例如照明***、辅助显示器等。在显微镜***中,实际的显微镜通常也被称为“光学载体”,因为它包括显微镜***的光学组件。一般来说,显微镜是光学仪器,适用于检查小到无法用人眼(单独)检查的物体。例如,显微镜可以提供物体的光学放大。在现代显微镜中,通常为照相机或成像传感器提供光学放大。显微镜120进一步可以包括一个或多个光学放大组件,用于放大样本上的视图。
有各种不同类型的显微镜。如果显微镜***用于医学或生物领域,通过显微镜观察的物体可以是有机组织的样本,例如排列在培养皿内或存在于病人身体的一部分。例如,显微镜***100可以是实验室中使用的显微镜***,例如,可用于检查培养皿中有机组织样本的显微镜。可替代地,显微镜120可以是手术显微镜***100的一部分,例如,在手术过程中使用的显微镜。例如,这样的***如图1b所示。尽管实施例是结合显微镜***描述的,但它们也可以以更一般的方式应用到任何光学设备。例如,显微镜***可以是执行材料测试或材料(例如金属或复合材料)的完整性测试的***。
***基于显微镜的荧光成像传感器122的图像数据确定图像数据的质量的质量指示。因此,***可被配置为获取显微镜的荧光成像传感器的图像数据或从荧光成像传感器获取图像数据。一般来说,荧光成像传感器可以是被配置为(仅)感知指示荧光发射的一个或多个荧光发射波长波段中的光的成像传感器。在显微镜***中,例如在外科显微镜***中,通常使用一个或多个滤波器与相应的照明***相结合来实现荧光成像传感器和反射成像传感器。例如,荧光成像传感器可包括一个或多个滤波器,用于阻挡指示荧光发射的一个或多个荧光发射波长波段以外的光,例如荧光素、PPIX(原卟啉IX)和ICG(印青绿)的约560nm、630nm和800nm,这些是不同类型的荧光染料。“正常”反射成像传感器可以包括阻挡指示荧光发射的一个或多个荧光发射波长波段中的光的滤波器,或者可以不包括相应的滤波器。同时,可以使用照明***,如果执行荧光成像,则照明***不发射一个或多个荧光发射波长波段中的光,例如,通过使用其他一个或多个滤波器,以从照明***发射的光中消除一个或多个荧光发射波长波段中的光。照明***可进一步用于发射一个或多个荧光染料的一个或多个激发波长波段中的光。
一般来说,荧光成像传感器122可包括基于APS(有源像素传感器)或CCD(电荷耦合器件)的成像传感器。例如,在基于APS的成像传感器中,使用像素的光电探测器和有源放大器在每个像素处记录光。基于APS的成像传感器通常基于CMOS(互补金属氧化物半导体)或S-CMOS(科学级CMOS)技术。在基于CCD的成像传感器中,进入的光子在半导体-氧化物接口处转换为电子电荷,随后通过传感器成像模块的控制电路在成像传感器模块的电容盒之间移动以执行成像。例如,图像数据可以包括二维相机图像数据。
***被配置为确定图像数据的质量的质量指示。通常,图像数据的质量与图像数据中荧光发射的可见性有关。例如,质量指示可以与图像数据中的荧光发射的光强度有关,例如与荧光发射的绝对光强度有关,或与相对于图像数据中可见的其他光发射的光强度有关,例如与手术室中使用的环境照明***的杂散光的反射率有关。额外地或可替代地,光强度可指以流明表示的绝对光强度,或指以选择用于记录图像数据的灵敏度的幅度表示的相对光强度。在一些情况下,质量指示与图像数据内荧光发射的最大(绝对或相对)光强度有关,例如,观察到的图像数据的至少一个像素的最大观察到的光强度,例如,在预定义的计时器间隔内。可替代地,质量指示可与图像数据内荧光发射的平均光强度有关,例如显示荧光发射的多个像素的平均光强度,例如在预定义的时间间隔内。质量指示可以指示图像数据相对于上述(光强度)指标的质量,例如在值的范围内(诸如在0%和100%之间)。因此,质量指示可以指示图像数据对手头的任务(手头的任务是对图像数据执行的图像处理或图像数据的可视化)的适合程度。
***被配置为,对于显微镜的一个或多个用户设置,识别根据质量指示适合的值的范围。术语“根据质量指示适合的”有两部分:“适合的”和“根据质量指示”。一般来说,就显微镜而言,如果用户设置允许不受限制地使用显微镜,即每个功能都可用(或至少不是由于图像数据的质量而不可用),则用户设置可能是合适的。它还意味着一个或多个用户设置对图像数据有影响,即图像数据的质量可能响应于一个或多个用户设置的改变而改变(例如改善或恶化)。因此,一个或多个用户设置的值的范围是“根据质量指示”合适的表明,根据质量指示选择值的范围,使得值的范围允许显微镜的不受约束的操作(或者,如果质量在任何情况下都太低,整个范围也可以是可用的,以便手动找到使显微镜的操作不受约束的值)。
一般来说,值的范围的适合性可以与显微镜的任何功能有关。然而,特别地,图像数据的质量尤其与显微镜***的两个功能有关——图像数据的图像处理和图像数据的可视化。因此,根据质量指示合适的值的范围可以关于正在对图像数据执行的图像处理和/或关于输出设备上图像数据的可视化是合适的。这两种功能是齐头并进的。例如,可以对图像数据执行图像处理,以便对由不同荧光染料引起的荧光发射应用颜色效果,或应用颜色效果以在视觉上区分不同的血管。此信息可覆盖在显微镜***的显示器130上的未处理图像数据上。例如,***可被配置为对图像数据执行图像处理,例如对图像数据中可见的荧光发射进行着色,并基于处理过的图像数据提供显示信号(给显微镜***的显示器130),从而使荧光发射在显示器上可视化。例如,***可被配置为基于显微镜的反射成像传感器的进一步图像数据提供显示信号,并将处理过的图像数据(具有突出显示荧光发射的颜色)覆盖在显示信号中的进一步图像数据之上。例如,***可被配置为经由接口电路112获取图像数据和/或进一步的图像数据,和/或经由接口电路112提供显示信号。例如,显示信号可包括用于显示器130的视频流或控制指令。
如上所述,可以在值的范围内定义质量指示。根据质量指示在值的范围中的位置,可采取不同的措施。例如,值的范围可以包括第一子范围和第一子范围之外的至少一个第二子范围。换句话说,至少一个第二子范围可以不与第一子范围重叠。第一子范围可以是感兴趣的子范围,因为在第一子范围内的质量指示可能被认为足够好,但还没有好到可以自由改变一个或多个用户设置。因此,(只有)如果质量指示的值在第一子范围内,根据质量指示适合的值的范围可以是受限的。如果质量指示在至少一个第二子范围内,则图像数据的质量可能非常好(这样,用户设置中的任何改变生成适合处理或可视化的图像数据),或非常糟糕(这样,图像数据目前不适合处理或可视化)。因此,第一子范围可以位于值的范围内的两个第二子范围之间。因此,如果质量指示的值在至少一个第二子范围内,则根据质量指示适合的值的范围可以不受限制。换句话说,如果质量指示的值在至少一个第二子范围内,则对于一个或多个用户设置,整个值的范围是可用的。
存在影响荧光成像传感器的图像数据的显微镜的各种功能和用户设置。例如,一个或多个用户设置(以及因此与相应设置相关的显微镜的功能)可以与显微镜的放大因子(即变焦设置),显微镜的工作距离(即显微镜与样本/手术部位之间的距离)和显微镜的照明***的亮度(例如,照明***相对于一个或多个荧光激发波长波段中的发射的亮度)中的一个或多个有关。对于这些功能/用户设置中的每个,用户设置的值的范围的限制可能导致可以将用户设置限制到导致适合当前任务的图像数据和/或导致具有改进的质量指示的图像质量的值的用户设置的值范围。例如,适用于显微镜的放大因子的值的范围可以扩展到显微镜的当前放大因子(因为增加放大因子可能恶化图像数据的质量)。适用于显微镜的工作距离的值的范围可以扩展到显微镜的当前的工作距离因子(因为较大的工作距离可能恶化图像数据的质量)。适用于显微镜的照明***的亮度(关于荧光激发波长波段)的值的范围可以从照明***的当前亮度向上扩展。
一般来说,质量指示可以被定期更新,例如每100毫秒或每秒钟更新一次。因此,如果质量指示发生改变,例如定期地或响应于质量指示的改变(即由质量指示的改变触发),则可更新根据质量指示的适合的值的范围。换句话说,质量指示和根据质量指示适合的值的范围都可以被动态更新。
在显微镜的操作过程中,例如在手术过程中,可能会出现图像质量短时间下降的情况,例如,由于用户阻挡照明***,或液体阻挡手术现场的视野。在这些情况下,可能不适合限制值的范围,因为图像质量的恶化是暂时的,而不是永久的。***可以使用“低通滤波”过程,以平滑图像质量中的这种临时改变。例如,可针对(例如基于和/或使用)时间窗口内(即预先确定的时间间隔,例如五秒或十秒)的图像数据的多个样本确定质量指示。例如,多个样本可与定期拍摄的图像数据的多个帧有关,例如使用图像数据的每一帧、使用每秒多个帧、使用每秒一帧等。如果在时间窗口内,有足够多的质量指示实例指示有必要改变值的范围,则可以改变根据质量指示适合的值的范围。换句话说,如果在时间窗口内在多个样本中,产生位于第一子范围内的质量指示的样本的数量高于阈值,则根据质量指示合适的值的范围可能受到限制。如果在时间窗口内在多个样本中,产生位于至少一个第二子范围内的质量指示的样本的数量高于阈值,则根据质量合适的值的范围可以是整个值的范围。图3示出了说明如何以及何时设置或禁用值的范围的限制的示例流程图。
一旦确定了根据质量指示适合的值的范围,此值的范围可用于调适显微镜的操作。例如,用户设置的改变可以由显微镜的用户发起、尝试或触发。换句话说,***可以被配置为基于根据质量指示合适的值的范围来控制用户发起的一个或多个用户设置的改变。***被配置为基于根据质量指示合适的值的范围来控制一个或多个用户设置的改变。换句话说,***可以基于合适的值的范围来控制一个或多个用户设置的改变。通常,有两种方法用于控制用户设置的这种改变。在第一种方法中,可以将一个或多个用户设置限制于合适的值的范围。换句话说,***可以被配置为将一个或多个用户设置的改变限制于根据质量指示合适的值的范围,例如,以防止用户选择位于根据质量指示合适的值的范围之外的值。可替代地(或额外地),如果显微镜的用户打算将一个或多个用户设置改变为超出合适的值的范围的值,则可能会收到警告。换句话说,***可以被配置为,如果尝试在根据所述质量指示适合的值的范围之外的所述一个或多个用户设置的改变,经由输出设备提供通知。在发出通知后,改变可能被执行,改变可能被***限制而被拒绝,和/或在改变用户设置之前可以引入延迟,在此期间用户可以重新考虑对用户设置的改变。换句话说,***可以被配置为在提供通知时延迟一个或多个用户设置的改变。例如,***可以被配置为请求用户在延迟之后重复一个或多个用户设置的改变,在延迟之后确认改变,或者等待延迟结束以应用一个或多个用户设置的改变。
在一些情况下,在同一个样本上使用两种或更多种不同的荧光染料,例如,为了在手术中区分不同的***或血管。因此,可关于两种或更多种荧光染料以及关于指示两种或更多种荧光染料的荧光发射的相应两个或更多个频带来考虑图像质量。换句话说,对于指示荧光发射的两个或更多个不重叠的频带,即对于表示图像数据中相应频带的图像数据的部分,可以分别确定两个或更多个质量指示。根据两个或多个质量指示,值的范围可以是合适的。换句话说,可以这样识别值的范围,即根据(全部)两种或更多种荧光染料和/或两个或更多个不重叠频带的质量指示,该值的范围是合适的。
接口112可以对应于用于接收和/或发送信息的一个或多个输入和/或输出,信息可以根据指定的代码以数字(位)值在模块内、模块之间或不同实体的模块之间接收和/或发送。例如,接口112可包括配置为接收和/或发送信息的接口电路。在实施例中,一个或多个处理器114可以使用一个或多个处理单元、一个或多个处理设备、任何处理手段来实现,诸如处理器、计算机或可通过相应适配的软件操作的可编程硬件组件。换句话说,一个或多个处理器114的所描述的功能也可以在软件中实现,然后在一个或多个可编程硬件组件上执行。这种硬件组件可以包括通用处理器、数字信号处理器(DSP)、微控制器等。在至少一些实施例中,一个或多个存储设备116可包括以下的组中的至少一个元件:计算机可读存储介质,诸如磁或光存储介质,例如硬盘驱动器、闪存、软盘、随机存取存储器(RAM)、可编程只读存储器(PROM)、可擦可编程只读存储器(EPROM)、电子可擦可编程只读存储器(EEPROM)或网络存储器。
***和显微镜***的更多细节和方面结合所提议的概念或上文或下文所述的一个或多个示例(例如图2至图4)被提及。***或显微镜***可包括一个或多个附加的可选特征,对应于所提议的概念的一个或多个方面或上文或下文所述的一个或多个示例。
图2示出了用于显微镜***的显微镜120的(对应的)方法200的实施例的流程图。方法包括确定210显微镜的荧光成像传感器122的图像数据的质量的质量指示。方法包括,对于显微镜的一个或多个用户设置,识别220根据质量指示适合的值的范围。方法包括基于根据质量指示合适的值的范围,控制230一个或多个用户设置的改变。例如,方法可由显微镜***100执行,例如由显微镜***的***110执行。
如上所述,结合图1a和/或1b的***110、显微镜***100和显微镜120所描述的特征也可同样应用于图2的方法。
结合所提议的概念或上文或下文所述的一个或多个示例(例如图1a、1b、3或4)提出了方法的更多细节和方面。方法可以包括一个或多个附加的可选特征,对应于所提议的概念的一个或多个方面或上文或下文所述的一个或多个示例。
本公开的各种实例涉及自动显微镜设置控制以保持荧光图像质量。因此,各种示例可以与自动设置有关。
在涉及使用荧光染料—吲哚菁绿(ICG)的血管神经外科病例中,除了注射的ICG剂量外,荧光信号质量取决于不同的显微镜设置(光源强度、放大倍率、工作距离)。根据各种示例,为了阻止外科医生使用信号质量可能较低/不可接受的设置,对显微镜的设置范围(即用户设置的值的范围)进行了限制。在一些***中,设置时此限制可以是固定和严格的,并且只允许有限数量的设置组合,对于荧光图像质量,这些设置组合仍然取决于ICG剂量。这可能会妨碍显微镜的实用性,并排除使用某些设置组合(在其他方面,可能提供可接受的信号)。
本公开的各种示例可基于荧光信号质量,即荧光成像传感器的图像数据的质量,自动实现显微镜的设置控制。如果信号质量低,显微镜设置范围,即一个或多个用户设置的值的范围,可能会受到限制。这可以基于当前荧光信号,即图像数据以动态方式完成,并可以自动调整以适应不断改变的场景。不需要事先设定任何限制。该方法可以独立于ICG的剂量,并允许外科医生在设置组合方面有更大的自由度。
假设视野中的荧光均质或近似均质,荧光(FL)参数(如例如最大荧光强度)可以作为荧光信号强度的良好指标,即作为质量指示。当此FL参数低于定义的阈值(在下面表示为ThreshLow)时,可以指示可以忽略的荧光信号。当FL参数高于另一个定义的阈值(ThreshHigh)时,可以指示良好的荧光信号,即信号质量良好。如果FL参数低于ThreshLow或高于ThreshHigh,则FL参数可能在至少一个第二子范围之一内。当FL参数介于ThreshLow和ThreshHigh之间时,FL参数可能在第一子范围内。当FL参数始终在ThreshLow和ThreshHigh之间时,这意味着信号的质量可能不高。在这种情况下,为了防止用户改变设置导致荧光信号变差的场景发生,可以在信号质量变差的方向上限制显微镜设置(例如,通过只允许比当前值更低的倍率、更低的工作距离和/或更高的照明强度)。换句话说,这意味着如果FL参数介于ThreshLow和ThreshHigh之间,用户可能无法从当前值去到更高的倍率,或更高的工作距离或更低的照明强度。这可能允许限制是动态和灵活的。FL参数可以在每帧之后计算,并且设置范围限制是否启用取决于当前信号质量。
图3示出了确定合适值的范围的流程图。在确定合适值的范围时,FL参数(FLParam,例如最大荧光强度值)被确定310,%FramesLimit(过去NumFrames帧的百分比(帧的滚动窗口,以计算FL参数的平均值),FLParam在ThreshLow和ThreshHigh之间)被更新320,以及AvgFLParam(FLParam在过去NumFrames帧的平均值)被计算/更新330。AvgFLParam和ThreshLow可以被比较340。如果AvgFLParam小于ThreshLow并且%FramesLimit大于标准/准则(例如,启用限制所需的%FrameLimit的最小值)342,则限制被禁用344,如果%FrameLimit最多是标准,则先前的限制状态可以被保持346。如果AvgFLParam不小于ThreshLow,则AvgFLParam和ThreshHigh可以被比较350。如果AvgFL-Param大于ThreshHigh且%FrameLimit大于标准352,则限制可以被禁用354,如果%FrameLimit最多是标准352,则先前的限制状态可以被保持356。如果AvgFLParam不大于ThreshHigh 350,即如果AvgFLParam在ThreshLow和ThreshHigh之间,%FrameLimit和标准可以被比较360。如果%FrameLimit大于标准,则限制可以被启用362,如果%FrameLimit不大于标准,则可以保持364先前的限制状态。
下面给出说明性的示例。用户可注入1mL 2.5mg/mL溶液的ICG剂量。然后,用户可以打开用于荧光图像可视化的模式。工作距离为300mm,放大倍率为8倍,以及照度为100%。随着ICG的缓慢吸收,信号可能开始变得更加可见。由于信号较弱,设置可能受到限制,即用户可能不能启用超过300mm或8倍倍率或将照度降低到100%以下。现在,用户可以将倍率降低到4倍。信号质量现在很好,并且限制可能被禁用。用户现在可以将工作距离缩短到250mm,并且如果需要可以放大到10倍倍率。如果此时信号较弱,则可能执行限制,否则不会。此方法可以允许根据当前情况动态地决定限制,这可能给外科医生更多的自由,在不影响荧光信号质量的情况下进行手术。
所提出的方法是动态的,并可以实时使用。限制是动态的,并且可以基于情况而不同。不同的示例可能允许由用户访问更多的设置组合(包括极端端点的一些因素),而不影响信号质量,为外科医生提供自由以用更大范围的工作距离和/或倍率进行工作。设置限制可以基于当前场景自动调整,并且可能不需要事先设置。例如,方法可以独立于ICG,或更一般地说,独立于荧光染料、剂量。方法可以考虑同一型号的显微镜之间的灯的光通量的改变。方法可以考虑光漂白和其他时间降解对染料的荧光质量的影响。在各种示例中,目标区域可以示出没有任何异常高的FL信号像素的染料。定义的阈值可以仔细计算。
一些实施例涉及显微镜,其包括结合图1至图3中的一个或多个所描述的***。可替代地,显微镜可以是关于图1至图3中的一个或所述的***的一部分或连接到***。图4示出了配置为执行本文所述方法的***400的示意图。***400包括显微镜410和计算机***420。显微镜410被配置为拍摄图像,并与计算机***420相连接。计算机***420被配置为至少执行本文所述方法的一部分。计算机***420可被配置为执行机器学习算法。计算机***420和显微镜410可以是独立的实体,但也可以集成在一个共同的外壳中。计算机***420可以是显微镜410的中央处理***的一部分,和/或计算机***420可以是显微镜410的子组件的一部分,诸如显微镜410的传感器、致动器、相机或照明单元等的一部分。
计算机***420可以是具有一个或多个处理器和一个或多个存储设备的本地计算机设备(例如个人计算机、笔记本电脑、平板电脑或移动电话),也可以是分布式计算机***(例如具有分布在不同地点的一个或多个处理器和一个或多个存储设备的云计算***,例如,在本地客户端和/或一个或多个远程服务器场和/或数据中心)。计算机***420可包括任何电路或电路的组合。在一个实施例中,计算机***420可包括一个或多个可以是任何类型的处理器。如本文中使用,处理器可指任何类型的计算电路,诸如但不限于显微镜或显微镜组件(例如相机)或任何其他类型的处理器或处理电路的微处理器、微控制器、复杂指令集计算(CISC)微处理器、简化指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、图形处理器、数字信号处理器(DSP)、多核处理器、现场可编程门阵列(FPGA)等。可包括在计算机***420中的其他类型的电路可以是自定义电路、特定于应用程序的集成电路(ASlC)或类似的电路,例如,用于如移动电话、平板电脑、笔记本电脑、双向无线电和类似电子***等无线设备的一个或多个电路(诸如通信电路)。计算机***420可包括一个或多个存储设备,其中可包括一个或多个适合于特定应用的存储器元件,诸如随机存取存储器(RAM)形式的主存储器、一个或多个硬盘驱动器和/或一个或多个处理可移动介质的驱动器,诸如光盘(CD)、闪存存储卡、数字视频磁盘(DVD)等。计算机***420还可以包括显示设备、一个或多个扬声器以及键盘和/或控制器,该键盘和/或控制器可以包括鼠标、轨迹球、触摸屏、语音识别设备或允许***用户向该计算机***420输入信息并从该计算机***420接收信息的任何其他设备。
一些或所有的方法步骤可以由(或使用)硬件装置执行,例如处理器、微处理器、可编程计算机或电子电路。在一些实施例中,一些一个或多个最重要的方法步骤可以通过这样的装置执行。
根据一定的实现需求,本发明的实施例可以在硬件中实现,也可以在软件中实现。该实现可以使用非临时存储介质执行,诸如数字存储介质,例如软盘、DVD、蓝光、CD、ROM、PROM和EPROM、EEPROM或FLASH存储器,其上存储有电子可读控制信号,它们与可编程计算机***协作(或能够协作),以便执行相应的方法。因此,数字存储介质可能是计算机可读的。
根据本发明的一些实施例包括具有电子可读控制信号的数据载体,该数据载体能够与可编程计算机***协作,以便执行本发明所述的方法之一。
一般来说,本发明的实施例可以实现为具有程序代码的计算机程序产品,当计算机程序产品在计算机上运行时,该程序代码可用于执行其中一种方法。例如,程序代码可以存储在机器可读的载体上。
其他实施例包括用于执行本文所述方法之一的计算机程序,存储在机器可读载体上。
换句话说,因此,本发明的实施例是当计算机程序在计算机上运行时,具有用于执行本发明所述方法之一的程序代码的计算机程序。
因此,本发明的进一步实施例是存储介质(或数据载体,或计算机可读介质),包括存储在其上的计算机程序,该程序由处理器执行时,用于执行本文所述的方法之一。数据载体、数字存储媒介或记录介质通常是有形的和/或非暂时性的。本发明的进一步实施例是本文中所述的包括处理器和存储介质的装置。
因此,本发明的进一步实施例是表示用于执行本文所述方法之一的计算机程序的数据流或信号序列。例如,数据流或信号序列可被配置为经由数据通信连接,例如经由互联网进行传送。
进一步的实施例包括处理手段,例如,配置为或适应于执行本文所述方法之一的计算机或可编程逻辑器件。
进一步的实施例包括在其上安装有用于执行本文所述方法之一的计算机程序的计算机。
根据本发明的进一步的实施例包括配置为向接收器(例如,电子或光学地)传送用于执行本文所述方法之一的计算机程序的装置或***。例如,接收器可以是计算机、移动设备、存储设备或类似设备。例如,装置或***可包括用于将计算机程序传送到接收器的文件服务器。
在一些实施例中,可编程逻辑器件(例如,现场可编程门阵列)可用于执行本文所述方法的一些或全部功能。在一些实施例中,现场可编程门阵列可与微处理器合作以执行本文所述的方法之一。一般来说,这些方法最好由任何硬件装置来执行。
本文使用的术语“和/或”包括一个或多个相关列出项目的任何和所有组合,可以缩写为“/”。
虽然在装置的上下文中已经描述了一些方面,但很明显,这些方面也表示了相应方法的描述,其中块或设备对应于方法步骤或方法步骤的特征。类似地,在方法步骤的上下文中描述的方面也表示对相应装置的相应块或项目或特征的描述。
附图标记列表
100 显微镜***
105 基础单元
110 ***
112 接口
114 一个或多个处理器
116 一个或多个存储设备
120 显微镜
122 荧光成像传感器
130 显示器
140 臂
150 转向手柄
200 方法
210 确定质量指示
220 识别值的范围
230 控制一个或多个用户设置的改变
310 确定荧光参数FLParam
320 更新帧限制%FramesLimit
330 计算AvgFLParam
340 比较AvgFLParam和ThreshLow
342 比较%FrameLimit和标准
344 禁用限制
346 保持限制状态
350 比较AvgFLParam和ThreshHigh
352 比较%FrameLimit和标准
354 禁用限制
356 保持限制状态
360 比较%FrameLimit和标准
362 启用限制
364 保持限制状态
400 ***
410 显微镜
420 计算机***。
Claims (15)
1.一种用于显微镜***(100;400)的显微镜(120;410)的***(110;420),所述***(110)包括一个或多个处理器(114)和一个或多个存储设备(116),其中所述***被配置为:
确定所述显微镜的荧光成像传感器(122)的图像数据的质量的质量指示;
针对所述显微镜的一个或多个用户设置,识别根据所述质量指示适合的值的范围;以及
基于根据所述质量指示适合的值的范围控制所述一个或多个用户设置的改变。
2.如权利要求1所述的***,其中所述***被配置为将所述一个或多个用户设置的改变限制于根据所述质量指示适合的值的范围。
3.如权利要求1或2中任一项所述的***,其中***被配置为如果尝试在根据所述质量指示适合的值的范围之外的所述一个或多个用户设置的改变,经由输出设备提供通知。
4.如权利要求3所述的***,其中所述***被配置为在提供所述通知时延迟所述一个或多个用户设置的改变。
5.如权利要求1至4中任一项所述的***,其中所述质量指示与所述图像数据内荧光发射的光强度有关。
6.如权利要求5所述的***,其中所述质量指示与所述图像数据内荧光发射的最大光强度有关,或其中所述质量指示与所述图像数据内荧光发射的平均光强度有关。
7.如权利要求1至6中任一项所述的***,其中在值的范围内定义所述质量指示,其中所述值的范围包括第一子范围和第一子范围外的至少一个第二子范围,其中,如果所述质量指示的值在所述第一子范围内,则限制根据所述质量指示适合的值的范围。
8.如权利要求7所述的***,其中,如果所述质量指示的值在所述至少一个第二子范围内,则整个值的范围对于所述一个或多个用户设置是可用的。
9.如权利要求7或8中任一项所述的***,其中,针对时间窗口内所述图像数据的多个样本,确定所述质量指示,并且其中,如果在所述时间窗口内在所述多个样本中,产生位于所述第一子范围内的质量指示的样本的数量高于阈值,则限制根据所述质量指示适合的值的范围。
10.如权利要求7至9中任一项所述的***,其中所述第一子范围位于所述值的范围内的两个第二子范围之间。
11.如权利要求1至10中任一项所述的***,其中针对指示荧光发射的两个或更多个不重叠频带分别确定两个或更多个质量指示,其中,根据所述两个或更多个质量指示,所述值的范围是合适的。
12.如权利要求1至11中任一项所述的***,其中所述一个或多个用户设置与所述显微镜的放大因子、所述显微镜的工作距离和所述显微镜的照明***的亮度中的一个或多个有关。
13.如权利要求1至12中任一项所述的***,其中根据所述质量指示适合的值的范围关于正在对所述图像数据执行的图像处理和/或关于输出设备上的所述图像数据的可视化是合适的。
14.一种用于显微镜***(100;400)的显微镜(120;410)的方法,所述方法包括:
确定(210)所述显微镜的荧光成像传感器的图像数据的质量的质量指示(122);
针对所述显微镜的一个或多个用户设置,识别根据所述质量指示适合的值的范围(220);以及
基于根据所述质量指示适合的值的范围控制所述一个或多个用户设置的改变(230)。
15.一种计算机程序,具有程序代码,当所述计算机程序在处理器上执行时,所述程序代码执行根据权利要求14所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102020115194 | 2020-06-08 | ||
DE102020115194.2 | 2020-06-08 | ||
PCT/EP2021/063530 WO2021249736A1 (en) | 2020-06-08 | 2021-05-20 | Microscope system and corresponding system, method and computer program for a microscope system |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115917393A true CN115917393A (zh) | 2023-04-04 |
Family
ID=76197427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180041254.6A Pending CN115917393A (zh) | 2020-06-08 | 2021-05-20 | 显微镜***及用于显微镜***的相应的***、方法和计算机程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230176355A1 (zh) |
EP (1) | EP4162310A1 (zh) |
JP (1) | JP2023529412A (zh) |
CN (1) | CN115917393A (zh) |
WO (1) | WO2021249736A1 (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19853407C2 (de) * | 1998-11-19 | 2003-09-11 | Leica Microsystems | Verfahren zur Einstellung der Systemparameter eines konfokalen Laserscanmikroskops |
DE102008049878A1 (de) * | 2008-09-30 | 2010-04-01 | Carl Zeiss Microlmaging Gmbh | Verbesserte Verfahren und Vorrichtungen für die Mikroskopie mit strukturierter Beleuchtung |
DE102014107445B4 (de) * | 2014-05-27 | 2024-07-04 | Carl Zeiss Meditec Ag | Optisches Beobachtungsgerät und Verfahren zum Aufnehmen von Bild- oder Videodaten von einem Beobachtungsobjekt mit Hilfe eines optischen Beobachtungsgerätes |
-
2021
- 2021-05-20 JP JP2022575353A patent/JP2023529412A/ja active Pending
- 2021-05-20 CN CN202180041254.6A patent/CN115917393A/zh active Pending
- 2021-05-20 US US18/000,686 patent/US20230176355A1/en active Pending
- 2021-05-20 WO PCT/EP2021/063530 patent/WO2021249736A1/en unknown
- 2021-05-20 EP EP21728858.8A patent/EP4162310A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2021249736A1 (en) | 2021-12-16 |
EP4162310A1 (en) | 2023-04-12 |
JP2023529412A (ja) | 2023-07-10 |
US20230176355A1 (en) | 2023-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6640334B2 (ja) | 医療イメージングから導かれたデータの管理のための方法およびシステム | |
CN111970953A (zh) | 用于同时近红外光和可见光成像的***和方法 | |
JP5185151B2 (ja) | 顕微鏡観察システム | |
KR101190265B1 (ko) | 헤드 마운트 수술용 확대 장치 | |
JP5259207B2 (ja) | 細胞画像解析装置及びその方法並びにそのソフトウェア | |
JP2003513735A (ja) | 皮膚状態を検査し、記録し、解析するシステムおよび方法 | |
JPWO2007074929A1 (ja) | 生物由来の被験試料の画像を取得する装置及び方法 | |
JP2006238802A (ja) | 細胞観察装置、細胞観察方法、顕微鏡システム、及び細胞観察プログラム | |
US20070064101A1 (en) | Observation apparatus | |
CN111399208B (zh) | 生物荧光样本的聚焦拍摄实现方法、显微镜和存储介质 | |
JPWO2020066043A1 (ja) | 顕微鏡システム、投影ユニット、及び、画像投影方法 | |
JPWO2013132998A1 (ja) | 画像処理装置、顕微鏡システム、及び画像処理方法 | |
Rossi et al. | Portable widefield fundus camera with high dynamic range imaging capability | |
US11061215B2 (en) | Microscope system | |
JP2010216919A (ja) | 画像撮像装置及びそれを備えた細胞画像解析システム | |
AU2012236545A1 (en) | Apparatus and method for identifying one or more amyloid beta plaques in a plurality of discrete OCT retinal layers | |
CN115917393A (zh) | 显微镜***及用于显微镜***的相应的***、方法和计算机程序 | |
WO2012002320A1 (ja) | 画像処理装置および画像処理方法 | |
KR20170057871A (ko) | 검이경 장치 및 그 동작 방법 | |
JP6476610B2 (ja) | ダーモスコピー用撮像装置及びその制御方法並びにプログラム | |
US20230359012A1 (en) | An autofocus system, an optical system, a method for an autofocus system and a computer program | |
US7864413B2 (en) | Examination apparatus with multiple image acquisition devices | |
US20140240673A1 (en) | Image processing apparatus, ophthalmologic imaging apparatus, ophthalmologic imaging system, ophthalmologic imaging method, and non-transitory tangible medium having program stored thereon | |
JP5508140B2 (ja) | 眼底撮像装置及びその処理方法 | |
US20230058111A1 (en) | Systems and methods for providing live sample monitoring information with parallel imaging systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |