DE102019108815A1 - Processing of data sets from a confocal laser scanning microscope - Google Patents
Processing of data sets from a confocal laser scanning microscope Download PDFInfo
- Publication number
- DE102019108815A1 DE102019108815A1 DE102019108815.1A DE102019108815A DE102019108815A1 DE 102019108815 A1 DE102019108815 A1 DE 102019108815A1 DE 102019108815 A DE102019108815 A DE 102019108815A DE 102019108815 A1 DE102019108815 A1 DE 102019108815A1
- Authority
- DE
- Germany
- Prior art keywords
- image
- recorded
- interest
- node
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Public Health (AREA)
- Physics & Mathematics (AREA)
- Epidemiology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Microscoopes, Condenser (AREA)
Abstract
Die vorliegende Erfindung betrifft ein Verfahren, ein Computerprogramm mit Instruktionen sowie eine Vorrichtung zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops. Bei dem Verfahren werden mit dem konfokalen Laser-Scanning-Mikroskop aufgenommene Daten (33) oder noch aufzunehmende Daten (33) sowie Bereiche von Interesse (34) in Bezug auf die aufgenommenen Daten oder die noch aufzunehmenden Daten in einer hierarchischen Struktur erfasst, die zumindest unmittelbare räumliche Beziehungen und Verknüpfungen zwischen den aufgenommenen Daten (33) oder den noch aufzunehmenden Daten (33) und den Bereichen von Interesse (34) umfasst.
The present invention relates to a method, a computer program with instructions and a device for processing data records from a confocal laser scanning microscope. In the method, data (33) recorded with the confocal laser scanning microscope or data to be recorded (33) as well as areas of interest (34) with regard to the recorded data or the data to be recorded are recorded in a hierarchical structure, which at least immediate spatial relationships and links between the recorded data (33) or the data to be recorded (33) and the areas of interest (34).
Description
Die vorliegende Erfindung betrifft ein Verfahren zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops. Die Erfindung betrifft zudem ein Computerprogramm mit Instruktionen sowie eine Vorrichtung zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops, in denen das erfindungsgemäße Verfahren umgesetzt ist.The present invention relates to a method for processing data sets from a confocal laser scanning microscope. The invention also relates to a computer program with instructions and a device for processing data records from a confocal laser scanning microscope, in which the method according to the invention is implemented.
Beim Betreiben eines konfokalen Laser-Scanning-Mikroskops fallen große Mengen von Daten an, insbesondere Bilddatensätze, die durch einen Computer verarbeitet und in einer Speichervorrichtung abgelegt werden müssen.When operating a confocal laser scanning microscope, large amounts of data arise, in particular image data sets, which have to be processed by a computer and stored in a storage device.
Vor diesem Hintergrund beschreibt
Im Rahmen einer Messreihe an einer Probe werden üblicherweise eine Reihe von Datensätzen generiert, die zur Messreihe gehören. In diesem Zusammenhang ist es bekannt, eine Ordnerstruktur zu verwenden, bei der einer Messreihe bzw. einem Experiment ein Ordner zugeordnet ist, in dem die Datensätze der Messreihe abgelegt werden.As part of a series of measurements on a sample, a series of data sets that belong to the series of measurements are usually generated. In this context, it is known to use a folder structure in which a measurement series or an experiment is assigned a folder in which the data records of the measurement series are stored.
Es ist eine Aufgabe der Erfindung, verbesserte Lösungen für das Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops bereitzustellen, die es einem Bediener des konfokalen Laser-Scanning-Mikroskops erleichtern, Zusammenhänge zwischen den Datensätzen nachzuvollziehen.It is an object of the invention to provide improved solutions for the processing of data sets of a confocal laser scanning microscope which make it easier for an operator of the confocal laser scanning microscope to understand relationships between the data sets.
Diese Aufgabe wird durch ein Verfahren mit den Merkmalen des Anspruchs 1, durch ein Computerprogramm mit Instruktionen mit den Merkmalen des Anspruchs 21 sowie durch eine Vorrichtung mit den Merkmalen des Anspruchs 22 gelöst. Bevorzugte Ausgestaltungen der Erfindung sind Gegenstand der abhängigen Ansprüche.This object is achieved by a method with the features of
Gemäß einem ersten Aspekt der Erfindung werden bei einem Verfahren zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops mit dem konfokalen Laser-Scanning-Mikroskop aufgenommene Daten oder noch aufzunehmende Daten sowie Bereiche von Interesse in Bezug auf die aufgenommenen Daten oder die noch aufzunehmenden Daten in einer hierarchischen Struktur erfasst, die zumindest unmittelbare räumliche Beziehungen und Verknüpfungen zwischen den aufgenommenen Daten oder den noch aufzunehmenden Daten und den Bereichen von Interesse umfasst.According to a first aspect of the invention, in a method for processing data sets of a confocal laser scanning microscope with the confocal laser scanning microscope, recorded data or data still to be recorded as well as areas of interest in relation to the recorded data or the data still to be recorded recorded in a hierarchical structure that includes at least immediate spatial relationships and links between the recorded data or the data yet to be recorded and the areas of interest.
Gemäß einem weiteren Aspekt der Erfindung umfasst ein Computerprogramm Instruktionen, die bei Ausführung durch einen Computer den Computer zur Ausführung des erfindungsgemäßen Verfahrens zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops veranlassen.According to a further aspect of the invention, a computer program comprises instructions which, when executed by a computer, cause the computer to execute the method according to the invention for processing data records of a confocal laser scanning microscope.
Der Begriff Computer ist dabei breit zu verstehen. Insbesondere umfasst er auch Workstations, verteilte Systeme und andere prozessorbasierte Datenverarbeitungsvorrichtungen.The term computer should be understood broadly. In particular, it also includes workstations, distributed systems and other processor-based data processing devices.
Das Computerprogramm kann beispielsweise für einen elektronischen Abruf bereitgestellt werden oder auf einem computerlesbaren Speichermedium gespeichert sein.The computer program can, for example, be provided for electronic retrieval or be stored on a computer-readable storage medium.
Gemäß einem weiteren Aspekt der Erfindung ist eine Vorrichtung zum Verarbeiten von Datensätzen eines konfokalen Laser-Scanning-Mikroskops dazu eingerichtet, ein erfindungsgemäßes Verfahren zum Verarbeiten der Datensätze auszuführen.According to a further aspect of the invention, a device for processing data sets of a confocal laser scanning microscope is set up to carry out a method according to the invention for processing the data sets.
Bei der erfindungsgemäßen Lösung werden aufgenommene Daten und ggf. noch aufzunehmende Daten sowie Bereich von Interesse in Bezug auf diese Daten in einer hierarchischen Datenstruktur erfasst, d.h. einer logischen Struktur von Daten und zugehörigen Metadaten, in der die aufgenommenen Daten beim Speichern abgelegt werden. In dieser Datenstruktur sind zumindest unmittelbare räumliche Beziehungen und Verknüpfungen zwischen den aufgenommenen Daten oder den noch aufzunehmenden Daten und den Bereichen von Interesse abgelegt. Zudem können bevorzugt in der hierarchischen Struktur auch semantische Verknüpfungen erfasst werden. Auf Basis dieser Datenstruktur kann der zwischen den Daten bestehende Kontext auf einfache Weise ermittelt und dem Bediener des konfokalen Laser-Scanning-Mikroskops zugänglich gemacht werden. Der Kontext beinhaltet insbesondere den räumlichen Kontext, wodurch beispielsweise Bild-in-Bild-Darstellungen, d.h. Darstellungen von Bereichen von Interesse in einem übergeordneten Bild, ermöglicht werden. Der Kontext kann über die räumliche Information hinaus weitere Informationen enthalten, die sich beispielsweise zur Parametereinstellung in einem nachfolgenden Bildbearbeitungsschritt nutzen lassen, z.B. für eine Entfaltung. Bei dem konfokalen Laser-Scanning-Mikroskops kann es sich beispielsweise um ein STED-Mikroskop (STED: Stimulated Emission Depletion), ein RESOLFT-Mikroskop (RESOLFT: Reversible Saturable Optical Linear Fluorescence Transitions), ein MINFLUX-Mikroskop (MINFLUX: Minimum Emission Fluxes) oder ein MINFIELD-Mikroskop handeln.In the solution according to the invention, recorded data and possibly data still to be recorded as well as areas of interest in relation to this data are recorded in a hierarchical data structure, ie a logical structure of data and associated metadata in which the recorded data are stored when they are saved. In this data structure, at least direct spatial relationships and links between the recorded data or the data yet to be recorded and the areas of interest are stored. In addition, semantic links can preferably also be recorded in the hierarchical structure. On the basis of this data structure, the context between the data can be determined in a simple manner and made accessible to the operator of the confocal laser scanning microscope. The context includes, in particular, the spatial context, which enables, for example, picture-in-picture representations, ie representations of areas of interest in a superordinate picture. In addition to the spatial information, the context can contain further information that can be used, for example, to set parameters in a subsequent image processing step, for example for an unfolding. The confocal laser scanning microscope can be, for example, a STED microscope (STED: Stimulated Emission Depletion), a RESOLFT microscope (RESOLFT: Reversible Saturable Optical Linear Fluorescence Transitions), a MINFLUX Microscope (MINFLUX: Minimum Emission Fluxes) or a MINFIELD microscope.
Der Kontext bleibt nicht nur von z.B. einer Übersichtsaufnahme bis zu einem sich darin befindlichen Bereich von Interesse gewahrt, sondern auch bis hin zu weiteren sich darin befindenden Aufnahmen von Unterbereichen von Interesse. Der Benutzer hat am Ende somit sowohl Detailbilder von unter Umständen sehr kleinen Bereichen von Interesse als auch die Information, wie diese Detailbilder sich in die größere räumliche Umgebung einfügen. Insbesondere bei MINFLUX-Mikroskopen und MINFIELD-Mikroskopen ergeben sich überaus kleine Bereiche von Interesse. Der räumliche Kontext ist wichtig, um beispielsweise beurteilen zu können, auf welche Zellregion sich ein hochaufgelöst aufgenommenes Detailbild bezieht, z.B. Zellkern, Soma oder Membran, etc., oder um für eine Publikation nachzuweisen, dass die Analyse eines Detailbildes aussagekräftig ist, dass dieses sich beispielsweise auf eine gesunde Zelle bezieht. Diese Information wird dem Nutzer dabei ohne eine für ihn mühsame Analyse von Metadaten von Bilddaten zur Verfügung gestellt.The context does not only remain of e.g. an overview recording up to an area of interest located therein, but also up to further recordings of sub-areas of interest located therein. In the end, the user thus has both detailed images of possibly very small areas of interest as well as information on how these detailed images fit into the larger spatial environment. Particularly with MINFLUX microscopes and MINFIELD microscopes, extremely small areas of interest arise. The spatial context is important in order to be able to assess, for example, which cell region a high-resolution detailed image refers to, e.g. Cell nucleus, soma or membrane, etc., or to prove for a publication that the analysis of a detailed image is meaningful, that it relates, for example, to a healthy cell. This information is made available to the user without a laborious analysis of metadata from image data.
Gemäß einem Aspekt der Erfindung wird für eine Messreihe ein Hauptordner als Element der obersten Ebene angelegt. Die Verwendung eines solchen Hauptordners ermöglicht es, alle in einer bzw. zu einer Messreihe generierten Daten mittels eines einzelnen übergeordneten Elementes zu verwalten. Dieses kann zwanglos zu einem späteren Zeitpunkt um weitere Daten ergänzt werden. Für die Probe wird auf diese Weise ein Proben-Ordner angelegt, der im weiteren Verlauf der Messung mit Angaben zu Bereichen von Interessen und den für diese erstellten Datenelementen gefüllt wird. Für jede Übersichtsaufnahme kann dabei beispielsweise ein Bereich von Interesse angelegt werden, dessen Koordinaten sich auf den Probentisch des Mikroskops beziehen. Alternativ kann der Hauptordner anstatt für die Messreihe auch lediglich für eine Übersichtsaufnahme angelegt werden.According to one aspect of the invention, a main folder is created as an element of the top level for a series of measurements. The use of such a main folder makes it possible to manage all the data generated in or for a series of measurements by means of a single higher-level element. This can be easily supplemented with further data at a later point in time. In this way, a sample folder is created for the sample, which is filled in the further course of the measurement with information on areas of interest and the data elements created for these. For each overview recording, for example, an area of interest can be created, the coordinates of which relate to the sample table of the microscope. Alternatively, the main folder can only be created for an overview recording instead of for the series of measurements.
Gemäß einem Aspekt der Erfindung wird in der Messreihe zumindest ein Kanal erfasst und für jeden in der Messreihe erfassten Kanal ein Bild als Element der obersten Ebene angelegt, das im Hauptordner referenziert wird. Zwar können Datenstrukturen vorsehen, dass ein Bild mehr als einen Kanal umfassen kann, allerdings vereinfacht die Beschränkung auf einen Kanal je Bild insbesondere die konsistente Handhabung von Bereichen von Interesse. Die in der Messreihe erfassten Kanäle können beispielsweise durch die in der Messreihe genutzten Fluoreszenzfarbstoffe festgelegt sein. Dabei kann für jeden genutzten Fluoreszenzfarbstoff ein Kanal erfasst werden.According to one aspect of the invention, at least one channel is recorded in the measurement series and an image is created as a top-level element for each channel recorded in the measurement series and is referenced in the main folder. Although data structures can provide that an image can comprise more than one channel, the restriction to one channel per image in particular simplifies the consistent handling of areas of interest. The channels recorded in the series of measurements can be defined, for example, by the fluorescent dyes used in the series of measurements. A channel can be recorded for each fluorescent dye used.
Gemäß einem Aspekt der Erfindung wird für einen Bereich von Interesse ein ROI-Element als Element der obersten Ebene angelegt, das von dem Bild referenziert wird, für das der Bereich von Interesse festgelegt wurde. Im ROI-Element (ROI: Region of Interest, Bereich von Interesse) sind Form und Lage eines Bereichs von Interesse definiert. Dadurch, dass das ROI-Element ein Top-Level-Element ist, ist seine Verwendung nicht auf das Bild beschränkt, für das er festgelegt wurde.According to one aspect of the invention, an ROI element is created for an area of interest as a top-level element that is referenced by the image for which the area of interest was defined. The shape and position of an area of interest are defined in the ROI element (ROI: Region of Interest). Because the ROI element is a top-level element, its use is not limited to the image for which it was defined.
Gemäß einem Aspekt der Erfindung wird das ROI-Element von dem Ordner referenziert, der das Bild, für das der Bereich von Interesse festgelegt wurde, referenziert. Über die Referenz auf das ROI-Element ist ausgehend vom Ordner nachvollziehbar, wo Aufnahmen, die für einen Bereich von Interesse erstellt wurden, im Bild angeordnet sind.According to one aspect of the invention, the ROI element is referenced by the folder that references the image for which the area of interest has been defined. Using the reference to the ROI element, starting from the folder, you can see where recordings that were made for an area of interest are arranged in the image.
Gemäß einem Aspekt der Erfindung wird das ROI-Element von allen Bildern referenziert, die von dem gleichen Ordner referenziert werden wie das Bild, für das der Bereich von Interesse festgelegt wurde. Eine Messung kann mehrere Kanäle aufweisen, bei der vorliegenden Umsetzung somit mehrere Bilder. Diese Bilder werden durch einen gemeinsamen Ordner referenziert. Wird nun für jedes der Bilder derselben Messung eine Referenz auf das ROI-Element geschrieben, so kann der Bereich von Interesse in jedem Bild derselben Messung in einer grafischen Benutzeroberfläche markiert werden.According to one aspect of the invention, the ROI element is referenced by all images that are referenced by the same folder as the image for which the area of interest was determined. A measurement can have several channels, thus several images in the present implementation. These images are referenced by a shared folder. If a reference is now written on the ROI element for each of the images of the same measurement, the area of interest in each image of the same measurement can be marked in a graphical user interface.
Gemäß einem Aspekt der Erfindung wird für eine Aufnahme eines Bereichs von Interesse ein Unterordner als Element der obersten Ebene angelegt, der von dem Ordner referenziert wird, der das Bild referenziert, für das der Bereich von Interesse festgelegt wurde. Für jeden für den Bereich von Interesse erfassten Kanal wird ein Bild als Element der obersten Ebene angelegt, das im Unterordner referenziert wird. Die Kanäle können dabei vom Hauptordner übernommen werden, sodass nicht nur die Kanäle übernommen werden, die in dem tatsächlich angezeigten Bild, in dem der Bereich von Interesse festgelegt wurde, genutzt wurden. Über die Referenz auf die Unterordner ist ausgehend vom Ordner nachvollziehbar, wo die zu einem Bereich von Interesse erstellten Aufnahmen zu finden sind.According to one aspect of the invention, a subfolder is created as a top-level element for recording an area of interest, which subfolder is referenced by the folder that references the image for which the area of interest was defined. For each channel captured for the area of interest, an image is created as a top-level element that is referenced in the subfolder. The channels can be taken over from the main folder so that not only the channels are taken over that were used in the actually displayed image in which the area of interest was defined. Using the reference to the subfolders, starting from the folder, you can see where the recordings made for an area of interest can be found.
Gemäß einem Aspekt der Erfindung sind in der hierarchischen Struktur vererbbare Parameter für die Messreihe erfasst. Beispielsweise kann eine einem bestimmten Kanal für die Bilddarstellung zugeordnete Farbtabelle von einem übergeordneten Bild an die untergeordneten Bereiche von Interesse (dynamisch) vererbt werden. Auf diese Weise kann eine über alle Ansichten eines Kanals einheitliche Darstellung sichergestellt werden.According to one aspect of the invention, inheritable parameters for the series of measurements are recorded in the hierarchical structure. For example, a color table assigned to a specific channel for image display can be inherited (dynamically) from a superordinate image to the subordinate areas of interest. In this way, a uniform representation across all views of a channel can be ensured.
Gemäß einem Aspekt der Erfindung wird die hierarchische Struktur einem Nutzer des konfokalen Laser-Scanning-Mikroskops in Form einer Baumstruktur bereitgestellt. Die Baumstruktur erlaubt es, Bilder zu einem Bereich von Interesse direkt dem Bild bzw. den Bildern der Messung zuzuordnen, zu der der betreffende Bereich von Interesse festgelegt wurde. Dies gilt auch für Bilder zu Bereichen von Interesse, die in einer Messung zu einem Bereich von Interesse auf einer höheren Ebene durchgeführt wurden. Alle Unterbilder können in den Kontext der initialen Messung eingebettet werden.According to one aspect of the invention, the hierarchical structure is provided to a user of the confocal laser scanning microscope in the form of a tree structure. The tree structure makes it possible to assign images for an area of interest directly to the image or images of the measurement for which the relevant area of interest was defined. This also applies to images of areas of interest that were carried out in a measurement of an area of interest at a higher level. All subpictures can be embedded in the context of the initial measurement.
Die Darstellung mehrerer Bereiche von Interesse in einer Baumstruktur erhält den Kontext jedes Bereichs von Interesse zu dem übergeordneten Bild bzw. den Kinder-Bereichen von Interesse und verknüpft auch Geschwister-Bereiche von Interesse miteinander. Der Kontext beinhaltet insbesondere den räumlichen Kontext, wodurch beispielsweise Bild-in-Bild-Darstellungen, d.h. Darstellungen von Bereichen von Interesse in einem übergeordneten Bild, ermöglicht werden. Dabei können das übergeordnete Bild und die Kinder-Bereiche von Interesse auch aus unterschiedlichen Bildaufnahmequellen stammen, z.B. einem Kamerabild für die Übersicht und einem konfokalen Scan für die Bereiche von Interesse.The representation of several areas of interest in a tree structure maintains the context of each area of interest to the parent image or the children's areas of interest and also links sibling areas of interest to one another. The context includes, in particular, the spatial context, whereby for example picture-in-picture representations, i.e. Representations of areas of interest in a higher-level image are made possible. The parent image and the children's areas of interest can also come from different image recording sources, e.g. a camera image for the overview and a confocal scan for the areas of interest.
Die Baumstruktur ist zudem die natürliche Darstellung eines Bildes über mehrere Detailstufen, die wiederum mit unterschiedlichen Bildaufnahmetechniken aufgenommen werden können. Die Bilddarstellung kann dann vorteilhaft durch Hereinzoomen in das Bild unter Verwendung der für die jeweilige Zoom-Einstellung passenden Hierarchieebene der Bilddaten erfolgen, selbst dann, wenn der Gesamtdatensatz nicht im Arbeitsspeicher gehalten werden kann.The tree structure is also the natural representation of an image over several levels of detail, which in turn can be recorded with different image recording techniques. The image can then advantageously be displayed by zooming in on the image using the hierarchical level of the image data that is appropriate for the respective zoom setting, even if the entire data set cannot be kept in the main memory.
Die Baumstruktur ermöglicht weiterhin die Realisierung einer Vererbungsstruktur, über die sich einzelne Parameter global oder für einen Zweig des Baumes einstellen lassen.The tree structure also enables the implementation of an inheritance structure via which individual parameters can be set globally or for a branch of the tree.
Gemäß einem Aspekt der Erfindung wird ein Objekt der hierarchischen Struktur unveränderlich, wenn für dieses Objekt ein untergeordnetes Objekt angelegt wird. Auf diese Weise kann sichergestellt werden, dass der Kontext zwischen Bildern und ihren Bereichen von Interesse nicht korrumpiert werden kann. Für die Baumstruktur bedeutet dies, dass einzelne Knoten des Baums unveränderlich werden sobald sie über Kindknoten verfügen, d.h. dass die in dem Knoten gespeicherten Bildaufnahmeparameter nicht mehr verändert werden können.According to one aspect of the invention, an object of the hierarchical structure becomes immutable when a subordinate object is created for this object. This ensures that the context between images and their areas of interest cannot be corrupted. For the tree structure this means that individual nodes of the tree become immutable as soon as they have child nodes, i.e. that the image acquisition parameters stored in the node can no longer be changed.
Gemäß einem Aspekt der Erfindung sind Knoten der Baumstruktur durch eine Nutzereingabe klonbar. Vorzugsweise werden beim Klonen eines Knotens dem Knoten zugeordnete Parameter für den Klon des Knotens übernommen. Durch das Klonen kann der Bediener komfortabel neue Aufnahmen auf Grundlage von bereits existierenden Aufnahmen generieren. Die existierenden Aufnahmen können aus der gleichen Messreihe oder aus einer anderen Messreihe stammen. Im Rahmen des Klonens kann der Bediener Bilder vollständig klonen, ebenso lassen sich Parameter bis auf die Position klonen.According to one aspect of the invention, nodes of the tree structure can be cloned by a user input. When a node is cloned, parameters assigned to the node are preferably adopted for the clone of the node. With cloning, the operator can easily generate new recordings based on existing recordings. The existing recordings can come from the same measurement series or from a different measurement series. As part of cloning, the operator can completely clone images, and parameters can also be cloned down to the position.
Gemäß einem Aspekt der Erfindung wird ein Knoten der Baumstruktur geklont, indem für den Knoten ein Bezug zu einem anderen Knoten der Baumstruktur hergestellt wird. Dieser Bezug kann beispielsweise dadurch herstellbar sein, dass eine grafische Repräsentanz des Knotens in einer grafischen Anzeige auf eine grafische Repräsentanz des anderen Knoten bewegt wird. Auf diese Weise lassen sich sehr leicht und intuitiv Knoten der Baumstruktur klonen.According to one aspect of the invention, a node in the tree structure is cloned by establishing a reference for the node to another node in the tree structure. This reference can be established, for example, by moving a graphic representation of the node in a graphic display to a graphic representation of the other node. In this way, nodes in the tree structure can be cloned very easily and intuitively.
Gemäß einem Aspekt der Erfindung ist beim Klonen eines Knotens auswählbar, ob der Klon des Knotens ein Elternknoten oder ein Kindknoten ist. Vorzugsweise ist beim Klonen eines Elternknotens zudem auswählbar, ob der Elternknoten mitsamt seinen Kindknoten, mitsamt einer Auswahl seiner Kindknoten oder ohne seine Kindknoten geklont werden soll. Zu diesem Zweck können dem Bediener Hinweise oder Auswahlmöglichkeiten gegeben werden, damit die gewünschten Klone generiert werden.According to one aspect of the invention, when cloning a node, it can be selected whether the clone of the node is a parent node or a child node. When cloning a parent node, it is preferably also possible to select whether the parent node is to be cloned together with its child nodes, together with a selection of its child nodes, or without its child nodes. For this purpose, the operator can be given hints or options so that the desired clones are generated.
Weitere Merkmale der vorliegenden Erfindung werden aus der nachfolgenden Beschreibung und den angehängten Ansprüchen in Verbindung mit den Figuren ersichtlich.
-
1 zeigt eine grafische Benutzeroberfläche einer Vorrichtung zum Betreiben eines konfokalen Laser-Scanning-Mikroskops in einem Einrichtungsmodus; -
2 zeigt die grafische Benutzeroberfläche in einem Aufnahmemodus; -
3 zeigt die grafische Benutzeroberfläche nach Abschluss einer Übersichtsaufnahme; -
4 zeigt die grafische Benutzeroberfläche nach Abschluss einer Aufnahme eines Bereichs von Interesse; -
5 zeigt eine Übersichtsdarstellung einer Reihe von Übersichtsbildern einer Probe; -
6 zeigt die für die erfindungsgemäße Lösung genutzten Elemente einer Datenstruktur; -
7 zeigt ein Diagramm der Datenstruktur eines Ordners; -
8 zeigt ein Diagramm der Datenstruktur eines Bildes; -
9 zeigt ein Diagramm eines Auszugs der Datenstruktur eines Elements „Pixels“; -
10 zeigt ein Diagramm der Datenstruktur eines ROI-Elements; -
11 zeigt einen Ausschnitt aus einer Baumstruktur; -
12 zeigt einen Ansatz für das Klonen eines Knotens mit einer Auswahlmöglichkeit; -
13 zeigt einen weiteren Ansatz für das Klonen eines Knotens mit einer Auswahlmöglichkeit; -
14-22 verdeutlichen die Behandlung von Parametern beim Klonen von Knoten; und -
23 illustriert exemplarisch die Möglichkeiten des Klonens innerhalb der grafischen Benutzeroberfläche.
-
1 shows a graphical user interface of a device for operating a confocal laser scanning microscope in a setup mode; -
2 shows the graphical user interface in a recording mode; -
3 shows the graphical user interface after completing an overview recording; -
4th shows the graphical user interface after an area of interest capture has been completed; -
5 shows an overview representation of a series of overview images of a sample; -
6th shows the elements of a data structure used for the solution according to the invention; -
7th Figure 3 shows a diagram of the data structure of a folder; -
8th Figure 3 shows a diagram of the data structure of an image; -
9 shows a diagram of an extract of the data structure of an element "Pixels"; -
10 Figure 3 shows a diagram of the data structure of an ROI element; -
11 shows a section from a tree structure; -
12 Figure 3 shows one approach to cloning a single choice node; -
13 Figure 3 shows another approach to cloning a single choice node; -
14-22 clarify the handling of parameters when cloning nodes; and -
23 exemplifies the possibilities of cloning within the graphical user interface.
Zum besseren Verständnis der Prinzipien der vorliegenden Erfindung werden nachfolgend Ausführungsformen der Erfindung anhand der Figuren detaillierter erläutert. Es versteht sich, dass sich die Erfindung nicht auf diese Ausführungsformen beschränkt und dass die beschriebenen Merkmale auch kombiniert oder modifiziert werden können, ohne den Schutzbereich der Erfindung zu verlassen, wie er in den angehängten Ansprüchen definiert ist.For a better understanding of the principles of the present invention, embodiments of the invention are explained in more detail below with reference to the figures. It goes without saying that the invention is not restricted to these embodiments and that the features described can also be combined or modified without departing from the scope of protection of the invention as defined in the appended claims.
In der Regel wird der Bediener, ohne vorher irgendwelche Parameter zu ändern, die Schaltfläche
Nachfolgend soll beispielhaft eine Struktur von Metadaten beschrieben werden, die für eine Umsetzung des erfindungsgemäßen Verfahrens geeignet ist. Die Struktur beruht auf einem Standardformat des „Open Microscopy Environment“ (OME) [1]. Das Open Microscopy Environment ist ein Gemeinschaftsprojekt einer Reihe von Institutionen, die Dateiformate und Softwarestandards für die Lichtmikroskopie entwickeln. Es versteht sich, dass die erfindungsgemäße Lösung auch mit anderen Datenstrukturen realisiert werden kann.A structure of metadata that is suitable for implementing the method according to the invention is to be described below by way of example. The structure is based on a standard format of the "Open Microscopy Environment" (OME) [1]. The Open Microscopy Environment is a joint project of a number of institutions that develop file formats and software standards for light microscopy. It goes without saying that the solution according to the invention can also be implemented with other data structures.
Die beschriebenen Metadaten werden in der Regel nicht schon dann in einen Speicher geschrieben, wenn der Nutzer in der grafischen Oberfläche eine Aktion durchführt bzw. auswählt, es werden aber korrespondierende Strukturen auf der Nutzeroberfläche sowie im Speicher des Steuerrechners angelegt, zu denen beim Abspeichern entsprechende Metadaten in der im Folgenden beschriebenen Struktur abgespeichert werden. Im Folgenden wird nicht streng zwischen dem Speichern der Strukturen und dem bloßen Anlegen korrespondierender Strukturen unterschieden, da spätestens mit dem Speichern die Metadatenstrukturen tatsächlich angelegt werden.The described metadata are usually not already written to a memory when the user carries out or selects an action in the graphical interface, but corresponding structures are created on the user interface and in the memory of the control computer, for which corresponding metadata when saving can be saved in the structure described below. In the following, no strict distinction is made between the saving of the structures and the mere creation of corresponding structures, since the metadata structures are actually created at the latest when they are saved.
Die zu den Metadaten gehörenden Bilddaten werden beim Abspeichern in dasselbe File wie die Metadaten gespeichert. Das hierbei verwendete binäre Format hat für die erfindungsgemäße Lösung keine Relevanz.The image data belonging to the metadata are saved in the same file as the metadata when they are saved. The binary format used here has no relevance for the solution according to the invention.
Durch Verweise innerhalb dieser Elemente lassen sich unmittelbare räumliche Beziehungen und Verknüpfungen zwischen den aufgenommenen Daten oder den noch aufzunehmenden Daten und den Bereichen von Interesse erfassen.References within these elements allow immediate spatial relationships and links between the recorded data or the data to be recorded and the areas of interest to be recorded.
Für die Probe wird ein Proben-Ordner angelegt, der im weiteren Verlauf der Messung mit „ROIRef“-Elementen und korrespondierenden „FolderRef“-Elementen gefüllt wird. Für jede Übersichtsaufnahme wird dazu ebenfalls ein Bereich von Interesse bzw. ein Element „ROI“ angelegt, dessen Koordinaten sich auf den Probentisch des Mikroskops beziehen und dessen „ROIRef“-Element neben dem entsprechenden „FolderRef“-Element eingetragen wird. „Image“-Elemente gibt es für diesen Proben-Ordner allerdings nicht.A sample folder is created for the sample, which is filled with "ROIRef" elements and corresponding "FolderRef" elements as the measurement continues. For each overview image, an area of interest or an "ROI" element is created, the coordinates of which relate to the specimen table of the microscope and whose "ROIRef" element is entered next to the corresponding "FolderRef" element. However, there are no “Image” elements for this sample folder.
Wie oben schon erwähnt entspricht eine Messung mit beliebig vielen Kanälen einem „Folder“. Nach Start einer neuen Messung ist ein erster Ordner
Wird nun in irgendeinem „Image“ bzw. Kanal der Messung ein Bereich von Interesse angelegt, so legt dieser eine Position innerhalb der gesamten Messung, zugehörige Abmessungen sowie gegebenenfalls auch eine Form fest. Das zugehörige ROI-Element
Auch wenn ein ROI-Element
Zu einem ausgewählten Bereich von Interesse können nun wieder mehrere Kanäle ausgewählt werden. Zudem können die Parameter der neuen Messung, z.B. die Pixelgröße oder die Laserleistung neu festgelegt werden. Die Pixelgröße korrespondiert dabei mit der Auflösung. Eine hohe Auflösung ist gleichbedeutend mit einer kleinen Pixelgröße. Anschließend wird ein neues Top-Level-Element „Folder“ angelegt, das einen Unterorder bzw. einen „Kind-Folder“ darstellt. Im Eltern-Element vom Typ „Folder“, d.h. dem „Eltern-Folder“, wird daher eine Referenz auf das neue „Folder“-Element angelegt. Zudem wird je Kanal ein „Image“ angelegt. Im „Kind-Folder“ werden wiederum Referenzen auf die „Images“ angelegt. In der grafischen Benutzeroberfläche wird die Baumstruktur entsprechend angelegt, d.h. es wird ein Unterast zum Hauptast angezeigt.Several channels can now be selected again for a selected area of interest. In addition, the parameters of the new measurement, e.g. the pixel size or the laser power can be redefined. The pixel size corresponds to the resolution. A high resolution is synonymous with a small pixel size. A new top-level element "Folder" is then created, which represents a sub-folder or a "child folder". In the parent element of the "Folder" type, i.e. the "parent folder", a reference to the new "folder" element is created. In addition, an "image" is created for each channel. References to the “images” are created in the “child folder”. The tree structure is created accordingly in the graphical user interface, i.e. a sub-branch to the main branch is displayed.
Die Kanäle werden vorzugsweise vom „Eltern-Folder“ übernommen, es werden also nicht nur die Kanäle übernommen, die in dem tatsächlich angezeigten Bild, in dem der Bereich von Interesse festgelegt wurde, genutzt wurden.The channels are preferably taken from the "parent folder", so not only the channels that are actually in the folder are taken over displayed image in which the area of interest has been determined.
Das oben skizzierte Schema kann iterativ fortgesetzt werden. Zu jedem Unterordner kann durch entsprechende Auswahl auf Basis jedes beliebigen angezeigten Bildes des Unterordners ein ROI Bereich von Interesse festgelegt werden. Zu diesem wird entsprechend ein Ordner einer nächsttieferen Ebene angelegt. Die Baumstruktur in der grafischen Benutzeroberfläche wird entsprechend fortgesetzt. Ein Unterordner korrespondiert also mit einer Unter-Messung zu einer Messung einer höheren Ebene.The scheme outlined above can be continued iteratively. An ROI area of interest can be defined for each sub-folder by appropriate selection based on any displayed image of the sub-folder. A folder on the next lower level is created for this. The tree structure in the graphical user interface is continued accordingly. A sub-folder therefore corresponds to a sub-measurement to a measurement of a higher level.
In der beschriebenen Datenstruktur „kennt“ grundsätzlich jeweils nur ein Eltern-Element seine Kind-Elemente, ein Kind-Element „kennt“ aber nicht sein Eltern-Element. Jedes Element, sowohl Eltern-Elemente wie Kind-Elemente, enthalten aber Verweise auf ihre jeweiligen „Images“. Grundsätzlich kann die Hierarchie aber auch umgekehrt aufgebaut werden.In the data structure described, only one parent element "knows" its child elements, but a child element does not "know" its parent element. Each element, both parent elements and child elements, contain references to their respective “images”. In principle, however, the hierarchy can also be set up in reverse.
Wenn eine Untermessung angelegt wird, so wird jeweils korrespondierend ein ROI-Element angelegt und ein Unterordner angelegt. Der Unterordner enthält Referenzen auf seine „Images“ sowie eine Referenz auf das neu angelegte ROI-Element. Zudem wird eine Referenz auf den Unterordner angelegt. Über die Referenz auf das ROI-Element wissen die Eltern-Elemente somit, wo die Kind-Elemente sind. Über die Referenz auf die Unterordner wissen die Eltern-Elemente zudem, wer die Kind-Elemente sind. Die erste Messung hat wie alle weiteren Übersichtsbilder auch den Proben-Ordner als Eltern-Element, in dem auch die entsprechenden ROI-Elemente referenziert sind, die die Lage in der Probe vermerken.If a sub-measurement is created, a corresponding ROI element is created and a subfolder is created. The subfolder contains references to its "images" as well as a reference to the newly created ROI element. A reference to the subfolder is also created. The parent elements therefore know where the child elements are from the reference to the ROI element. The parent elements also know who the child elements are via the reference to the subfolders. Like all other overview images, the first measurement also has the sample folder as a parent element, in which the corresponding ROI elements are also referenced, which note the position in the sample.
Die oben bereits erwähnte Baumstruktur kann genutzt werden, um auf intuitive Weise Knoten der Baumstruktur zu klonen. Dies soll nachfolgend anhand von
Ein erster Ansatz besteht darin, dass nur markierte Einträge mitgeführt werden. Ein Ablegen von „Image 1“ auf „Image 2“ klont dann nur „Image 1“, ein Ablegen von „Image 1“ und „Image 1.1“ auf „Image 2“ klont beide. Um auf diese Weise Arbeitsabläufe zu duplizieren, sind unter Umständen mehrere Aktionen nötig. Ein Vorteil besteht aber darin, dass dieser Ansatz sehr flexibel ist. Beispielsweise kann auch „Image 1.1“ auf „Image 2“ abgelegt werden, wodurch Parameter von „Image 1.1“ auf „Image 2“ übertragen werden können.A first approach is that only marked entries are carried along. Storing "
Ein weiterer Ansatz besteht darin, die untergeordneten Einträge immer mitzuführen. Ein Ablegen von „Image 1“ auf „Image 2“ klont dann automatisch auch „Image 1.1“ sodass es im Ergebnis auch „Image 2.1“ gibt. Ein Vorteil besteht darin, dass Arbeitsabläufe schnell dupliziert werden können. Allerdings ist der Ansatz relativ unflexibel, gegebenenfalls werden untergeordnete Einträge dupliziert, die nicht benötigt werden.Another approach is to always keep the subordinate entries with you. Storing “
In
In
In
In
In
In
In
In
In
Zum vollständigen Klonen wird der Eintrag
Zum Klonen der Parameter ohne Klonen der Position kann der betreffende Eintrag
In beiden Fällen, vollständiges Klonen oder Klonen von Parametern, können die Bereiche von Interesse bzw. die zugehörigen Parameter nachträglich geändert werden. In both cases, full cloning or cloning of parameters, the areas of interest or the associated parameters can be changed afterwards.
In
Referenzencredentials
- [1] https://www.openmicroscopy.org/[1] https://www.openmicroscopy.org/
BezugszeichenlisteList of reference symbols
- 11
- Benutzeroberflächeuser interface
- 22
- VerwaltungsbereichAdministrative area
- 33
- BezeichnerIdentifier
- 44th
- BaumstrukturTree structure
- 55
- ÜbersichtsbereichOverview area
- 66th
- AuswahlbereichSelection area
- 77th
- Auswahllistepick list
- 88th
- Schaltfläche für neue ÜbersichtNew overview button
- 99
- Bezeichner der ProbeIdentifier of the sample
- 1010
- Eintrag für ÜbersichtEntry for overview
- 1111
- SteuerbereichTax area
- 1212
- BildbereichImage area
- 1313
- Schaltfläche zum Auslösen einer sich wiederholenden BildaufnahmeButton for triggering a repetitive image acquisition
- 1414th
- Schaltfläche zum Beenden einer sich wiederholenden BildaufnahmeButton for ending a repeated image acquisition
- 1515th
- Bereich von InteresseArea of interest
- 1616
- Eintrag für BildEntry by picture
- 1717th
- ÜbersichtsbildOverview image
- 1818th
- Menüeintrag für Scan-ParameterMenu entry for scan parameters
- 1919th
- FeineinstellungsmenuFine adjustment menu
- 2020th
- KonfokalbildConfocal image
- 2121st
- STED-BildSTED image
- 3030th
- Ordnerfolder
- 3131
- Attributattribute
- 3232
- Elementelement
- 3333
- Bildimage
- 3434
- ROI-ElementROI element
- 3535
- Rahmenframe
- 3636
- Indikatorindicator
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturPatent literature cited
- US 8582924 B2 [0003]US 8582924 B2 [0003]
Claims (23)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019108815.1A DE102019108815A1 (en) | 2019-04-04 | 2019-04-04 | Processing of data sets from a confocal laser scanning microscope |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019108815.1A DE102019108815A1 (en) | 2019-04-04 | 2019-04-04 | Processing of data sets from a confocal laser scanning microscope |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102019108815A1 true DE102019108815A1 (en) | 2020-10-08 |
Family
ID=72518382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019108815.1A Pending DE102019108815A1 (en) | 2019-04-04 | 2019-04-04 | Processing of data sets from a confocal laser scanning microscope |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102019108815A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102020127320B3 (en) | 2020-10-16 | 2022-01-27 | Abberior Instruments Gmbh | Method and fluorescence microscope for localizing individual fluorescent dye molecules by adaptive scanning |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130022267A1 (en) * | 2011-07-19 | 2013-01-24 | Infosys Limited | System and method for modeling a region segmented image |
US20150262428A1 (en) * | 2014-03-17 | 2015-09-17 | Qualcomm Incorporated | Hierarchical clustering for view management augmented reality |
-
2019
- 2019-04-04 DE DE102019108815.1A patent/DE102019108815A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130022267A1 (en) * | 2011-07-19 | 2013-01-24 | Infosys Limited | System and method for modeling a region segmented image |
US20150262428A1 (en) * | 2014-03-17 | 2015-09-17 | Qualcomm Incorporated | Hierarchical clustering for view management augmented reality |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102020127320B3 (en) | 2020-10-16 | 2022-01-27 | Abberior Instruments Gmbh | Method and fluorescence microscope for localizing individual fluorescent dye molecules by adaptive scanning |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE60025406T2 (en) | Motion picture information display method and apparatus | |
DE102012218382B4 (en) | Method for determining a laser microdissection range and associated laser microdissection system | |
EP1745270B2 (en) | Method for machining a material by using laser irradiation, and control system | |
DE112017006106T5 (en) | Create, access, and view lineage metadata | |
DE3714172A1 (en) | DEVICE FOR BROWSING DOCUMENTS IN A DOCUMENT FILING SYSTEM | |
DE112013000916T5 (en) | System for displaying and editing artifacts at a time-related reference point | |
DE19844013A1 (en) | Computer-readable work folder memory | |
DE102004010854A1 (en) | Displaying network segment decoding information in schematic form | |
DE102007033793A1 (en) | Method and apparatus for microscopically examining a sample, computer program and computer program product | |
DE69925084T3 (en) | MICROSCOPY | |
DE102014225409A1 (en) | Dependent auxiliary device for generating specifically adapted and synchronized reference notes for a programmable metrology system | |
EP0795833B1 (en) | Method and apparatus for menu-based navigation in a complex data stock | |
EP2172032B1 (en) | Method for processing a spatial image | |
DE102019108815A1 (en) | Processing of data sets from a confocal laser scanning microscope | |
DE102008017829A1 (en) | Method and user interface for conducting a medical examination | |
DE102005014761A1 (en) | Method for arranging object data in electronic cards | |
DE10229407A1 (en) | Procedure for setting the system parameters of a scanning microscope | |
DE112019000345T5 (en) | A method to improve the modeling speed of a digital section scanner | |
DE10361150A1 (en) | Microscope system, includes digital camera, for input of image data, and computer system with display and storage unit | |
EP2171582B1 (en) | Remotely controlling a browser program | |
EP1092210B1 (en) | Device and method for constructing a virtual installation model | |
DE102006043874A1 (en) | Method and apparatus for repairing photolithography masks | |
DE202019005360U1 (en) | Device for operating a confocal laser scanning microscope | |
DE102019108814A1 (en) | Method for operating a confocal laser scanning microscope | |
DE4138453C2 (en) | Method for displaying window images within main images for process monitoring and device for carrying out the method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: G06F0016710000 Ipc: G06F0016510000 |
|
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: G06F0016510000 Ipc: G16H0010400000 |
|
R163 | Identified publications notified |