-
Die Erfindung betrifft ein Bildaufnahmeverfahren, bei dem eine Bildsequenz, insbesondere in Form eines Videobilddatenstroms, mit einem Bildsensor eines medizinischen Bildaufnahmesystems, wie beispielsweise einem Endoskop, einem Digitalmikroskop oder etwa einem Exoskop, aufgenommen wird, wobei die Bildsequenz, noch vor einer Darstellung auf einer Anzeigeneinheit, einem Bildbearbeitungsalgorithmus unterworfen wird, um die Darstellung der Bildsequenz zu verbessern.
-
Die Erfindung betrifft ferner ein zugehöriges medizinisches Bildaufnahmesystem, umfassend einen Bildsensor zur Aufnahme einer Bildsequenz und einen Controller zum Steuern eines Bildbearbeitungsalgorithmus, welcher auf die Bildsequenz angewandt wird, um eine Darstellung der Bildsequenz auf einer Anzeigeeinheit zu verbessern.
-
Ein solches medizinisches Bildaufnahmesystem kann insbesondere als ein Endoskopiesystem ausgestaltet sein, mit einem Endoskop welches den besagten Bildsensor aufweist. Dieses System kann insbesondere als ein Videoendoskopiesystem ausgestaltet sein. Weitere medizinische Bildaufnahmesysteme, die von der Erfindung profitieren können, sind beispielsweise Exoskope oder Digitalmikroskope.
-
In der modernen Endoskopie wird heutzutage eine Vielzahl an Bildbearbeitungsalgorithmen eingesetzt, um die Darstellung von Bildern, die mit einem Endoskop aufgenommen werden, also insbesondere von Videobildern, zu verbessern. Hierunter fallen Funktionen wie beispielsweise narrow band imaging (NBI), oder spezielle Algorithmen wie selective color enhancement (SCE), die zu einer Verbesserung des Bildkontrasts eingesetzt werden. Weitere Bildparameter, die durch derartige Algorithmen verbessert werden können sind beispielsweise ein Farbspektrum, eine Kanten-Steilheit zur verbesserten Erkennung von Strukturen oder eine Bildschärfe oder ein Rauschanteil in dem jeweiligen Bild. Hierzu können auch Rauschunterdrückungsalgorithmen oder Filteralgorithmen eingesetzt werden.
-
Durch solche Funktionen kann gerade in medizinischen Anwendungen oftmals die Bildqualität, beispielsweise ein Bildkontrast, entscheidend verbessert werden, wodurch beispielsweise die Darstellung von Blutgefäßen zur Diagnose verbessert werden kann.
-
In der Praxis ist die Verwendung solcher Algorithmen jedoch oftmals für einen Benutzer des Endoskopiesystems unbefriedigend, da für eine optimale Darstellung der endoskopisch aufgenommenen Bilder aufwändig in komplexen Menüstrukturen Einstellungen vorgenommen werden müssen, um die jeweilige Algorithmik auf die jeweilige Anwendung optimal abzustimmen. Zudem kann es vorkommen, dass auch andere Einstellungen, wie etwa die momentan zur Bildgebung eingesetzte Beleuchtung, je nach Situation der Untersuchung angepasst werden müssen.
-
Dies alles führt zu einem enormen zeitraubenden Einstellungsaufwand, der einen Benutzer von seiner eigentlichen Arbeit mit dem Endoskop abhält. In vielen Fällen behilft sich der Benutzer schließlich damit, dass er viele für eine optimale Bildgebung notwendige Anpassungen schlicht aus Zeitgründen unterlässt, um sich auf seine eigentliche Untersuchungsarbeit konzentrieren zu können. Dadurch wird aber der eigentlich vorhandene Funktionsumfang des Endoskopiesystems nicht zum Nutzen des Patienten voll ausgenutzt.
-
Der Erfindung liegt daher die Aufgabe zugrunde, ein Bildaufnahmeverfahren und ein zugehöriges medizinisches Bildaufnahmesystem bereitzustellen, welches die Bedienung so verbessert, dass der volle Funktionsumfang auch tatsächlich in der Praxis genutzt werden kann.
-
Zur Lösung dieser Aufgabe sind erfindungsgemäß bei einem Bildaufnahmeverfahren die Merkmale von Anspruch 1 vorgesehen. Insbesondere wird somit erfindungsgemäß zur Lösung der Aufgabe bei einem Verfahren der eingangs genannten Art vorgeschlagen, dass die aufgenommene Bildsequenz computerimplementiert ausgewertet wird und dass in Abhängigkeit einer mittels der computerimplementierten Bildauswertung erkannten Bildaufnahmesituation einem Benutzer eine Anpassung des Bildbearbeitungsalgorithmus und/oder eines bei der Aufnahme der Bildsequenz eingesetzten Bildaufnahmeverfahrens vorgeschlagen wird.
-
Die computerimplementierte Auswertung der Bildsequenz kann bevorzugt von dem medizinischen Bildaufnahmesystem selbst vorgenommen werden. Ferner kann der zweite Verfahrensschritt insbesondere so ausgestaltet sein, dass das besagte Bildaufnahmesystem in Abhängigkeit der erkannten Bildaufnahmesituation einem Benutzer des Endoskopiesystems die besagte Anpassung automatisch vorschlägt.
-
Mit anderen Worten schlägt die Erfindung somit vor, dass das Bildaufnahmesystem dem Benutzer anhand von computerimplementiert erkannter und auf Basis von Parametern vordefinierter Bildaufnahmesituationen einen Vorschlag unterbreitet, beispielsweise optisch oder akustisch, der in der erkannten Bildaufnahmesituation zu einer Anpassung des Bildbearbeitungsalgorithmus und/oder zu einer Anpassung eines Bildaufnahmeverfahrens führt, auf dem die Aufnahme der Bildsequenz beruht.
-
Zwar kann vorgesehen sein, dass der Vorschlag auch ohne Annahme des Benutzers, beispielsweise nach Ablauf einer gewissen Zeitspanne, automatisch implementiert wird. Bevorzugt ist das Verfahren jedoch so ausgelegt, dass der Vorschlag nur dann umgesetzt wird, wenn er tatsächlich von einem Benutzer angenommen wird, was noch genauer zu erläutern sein wird.
-
Die durch das Verfahren erreichte automatische Funktionsanpassung des Bildaufnahmesystems hat den Vorteil, dass der Benutzer in wechselnden Bildaufnahmesituationen sehr schnell jeweils einen sinnvollen Funktionsumfang des Bildaufnahmesystems nutzen kann.
-
Dazu kann das Bildaufnahmesystem kontext- und situationsabhängig einem Benutzer sinnvolle Vorschläge zur Anpassung der Bildbearbeitungsalgorithmik und/oder eines bei der Aufnahme der Bildsequenz eingesetzten Bildaufnahmeverfahrens automatisch vorschlagen. Folglich muss der Benutzer nicht länger aufwändig die entsprechende Funktionsanpassung mittels einer Benutzerschnittstelle wie beispielsweise einem graphischen Menü auffinden und dann selbst händisch implementieren, wozu zahlreiche Anpassungen vorzunehmen sein können. Vielmehr kann der Benutzer durch Annahme des Vorschlags sehr schnell stets eine für die aktuelle Bildaufnahmesituation optimale Bildaufnahme- und/oder Bilddarstellungsmethode wählen und zwar innerhalb des vollen Funktionsumfangs, welches das Bildaufnahmesystem bietet. Damit wird die Nutzung des vollen Funktionsumfangs in der Praxis überhaupt möglich.
-
Ganz besonders von Vorteil ist es dabei, wenn die vorgeschlagene Anpassung eine Mehrzahl von Parametern des Bildbearbeitungsalgorithmus und/oder des Bildaufnahmeverfahrens betrifft. Diese mehreren Parameter müssten normalerweise einzeln nacheinander händisch vom Benutzer angepasst werden. Durch die Erfindung kann der Benutzer den Anpassungsvorschlag jedoch beispielsweise mittels einer einzigen Bestätigungseingabe annehmen und dadurch alle diese Parameter, beispielsweise 10 oder mehr Parameter, gleichzeitig einstellen. Somit muss der Benutzer nicht mehr mehrfach und zeitraubend Bestätigungseingaben vornehmen.
-
Eine künstliche Intelligenz, die von dem Bildaufnahmesystem bereitgestellt wird, kann dabei dafür sorgen, dass der jeweils vorgeschlagene Satz an Parametern auf die konkret erkannte Bildaufnahmesituation optimal angepasst ist. Dadurch kann sehr schnell die Funktionalität des Bildaufnahmesystems auf die momentanen Anforderungen angepasst werden.
-
Die Annahme des Vorschlags erfolgt bevorzugt mittels eines manuellen oder virtuellen Bedienelements.
-
Ist das Bildaufnahmesystem beispielsweise als ein Endoskopiesystem ausgestaltet, so kann dieses Bedienelement bevorzugt an einem Handgriff eines Endoskops des Endoskopiesystems ausgestaltet sein. Dadurch kann ein Benutzer eine Bestätigungseingabe zur Annahme des Vorschlags vornehmen, ohne dabei das Endoskop aus der Hand geben zu müssen, was die Bedienung weiter vereinfacht und beschleunigt.
-
Erfindungsgemäß kann die Aufgabe auch durch weitere vorteilhafte Ausführungen gemäß den Unteransprüchen gelöst werden.
-
So kann der Anpassungsvorschlag dem Benutzer akustisch und/oder optisch, vorzugsweise jedoch mittels einer grafischen Benutzeroberfläche auf der Anzeigeeinheit, zur Annahme präsentiert werden. Dies kann insbesondere mittels einer Einblendung geschehen, die über oder neben einem aus der Bildsequenz erzeugten Live-Videobild einem Benutzer auf der Anzeigeeinheit angezeigt wird.
-
Ferner kann das Bildaufnahmesystem die vorgeschlagene Anpassung erst in Reaktion auf eine Bestätigungseingabe des Benutzers vornehmen. Ferner kann vorgesehen sein, dass das Bildaufnahmesystem nach Ablauf einer vorbestimmten Zeitspanne einen angebotenen Anpassungsvorschlag nicht länger präsentiert. Durch diese Merkmale wird somit ein Fehlerausschlussmechanismus implementiert, der eine Fehlbedienung verhindern kann, da der Anpassungsvorschlag nur innerhalb einer vorgegebenen Zeitspanne von einem Benutzer mittels der Bestätigungseingabe angenommen werden kann.
-
Die Bestätigungseingabe kann ferner durch Bedienen eines Bedienelements, etwa einer Bedientaste eines Einstellrads oder dergleichen oder aber einer grafischen Benutzeroberfläche, also insbesondere von virtuellen Bedientasten, erfolgen.
-
Weitere Möglichkeiten, die ergänzend oder alternativ eingesetzt werden können, sind, dass die Bestätigungseingabe durch einen Sprachbefehl und/oder durch eine Gestik des Benutzers erfolgt. Derartige Sprachbefehle oder Gesten können mittels eines Sensors des Bildaufnahmesystems ausgelesen werden. Für die Erfassung von Gesten kann das Bildaufnahmesystem insbesondere einen Beschleunigungssensor aufweisen. Ist das Bildaufnahmesystem als Endoskopiesystem mit einem Endoskop ausgestaltet, so ist es vorteilhaft, wenn dieser Beschleunigungssensor in dem Endoskop angeordnet ist.
-
Es kann ferner vorgesehen sein, dass ein Benutzer den Anpassungsvorschlag mittels einer Ablehnungseingabe ablehnen kann. In Reaktion auf diese Ablehnungseingabe kann dann die Anpassung gerade nicht vorgenommen werden.
-
Gemäß einer weiteren Variante ist vorgesehen, dass eine vorgeschlagene Anpassung nach einer vorgegebenen Zeitspanne automatisch von dem Bildaufnahmesystem umgesetzt wird, sofern nicht ein Benutzer einen zugehörigen Anpassungsvorschlag mittels einer Ablehnungseingabe innerhalb der Zeitspanne ablehnt.
-
Es kann ferner auch vorgesehen sein, dass der Benutzer den Anpassungsvorschlag aktiv mittels einer Ablehnungseingabe ablehnen kann. In diesem Fall wird das Bildaufnahmesystem die vorgeschlagene Anpassung nicht vornehmen.
-
Bevorzugt kann in Reaktion auf die Ablehnungseingabe, die auf dieselbe Weise wie die Bestätigungseingabe durch Bedientasten, Sprachbefehle oder Gesten erfolgen kann, eine Präsentation des Anpassungsvorschlags beendet werden, etwa durch Ausblenden eines entsprechenden Anzeigeelements in einer graphischen Benutzeroberfläche.
-
Die Anpassung des Bildbearbeitungsalgorithmus kann einen Austausch des Bildbearbeitungsalgorithmus umfassen. Sie kann ferner aber auch lediglich eine Neuparametrisierung des Bildbearbeitungsalgorithmus umsetzen.
-
Um eine auf die erkannte Bildaufnahmesituation angepasste Funktionalität des Bildaufnahmesystem anbieten zu können, kann der Bildbearbeitungsalgorithmus, der durch das Verfahren angepasst wird, mindestens einen Bildparameter zur verbesserten Darstellung der Bildsequenz anpassen. Ein solcher Bildparameter kann beispielsweise ein Farbspektrum, eine Bildschärfe, eine Bildhelligkeit, eine Bildfarbe, ein Bildkontrast, ein Rauschanteil, eine Kanten-Steilheit, oder ein vergleichbarer Parameter sein.
-
Durch die Anpassung solcher Bildparameter kann erreicht werden, dass eine Bildqualität der Bildsequenz durch die Anpassung verbessert wird.
-
Der Bildbearbeitungsalgorithmus kann insbesondere ein Rauschunterdrückungsalgorithmus oder ein Filteralgorithmus sein. Es können ferner auch Kombinationen solcher Algorithmen zur verbesserten Darstellung der Bildsequenz eingesetzt werden.
-
Gemäß einer spezifischen Variante kann der Bildbearbeitungsalgorithmus lediglich auf einen jeweiligen Bildausschnitt von Einzelbildern der Bildsequenz angewandt werden. Hierbei ist es bevorzugt, wenn das Bildaufnahmesystem in Abhängigkeit der erkannten Bildaufnahmesituation und/oder in Abhängigkeit von erkannten Bildcharakteristika dem Benutzer zusammen mit der Anpassung den durch die Bildbearbeitung zu verändernden Bildausschnitt vorschlägt. Derartige Bildcharakteristika können beispielsweise Muster, Farben, Strukturen, bestimmte Objekte oder dergleichen sein.
-
Beispielsweise kann die Bildauswertung so ausgestaltet sein, dass das Bildaufnahmesystem die Entstehung von Rauch in der Bildsequenz auf Basis der Bildauswertung erkennt und entsprechend ein Zuschalten eines Rauchunterdrückungsalgorithmus vorschlägt. Mit dem Rauchunterdrückungsalgorithmus kann dann die Wiedergabe des Rauchs in der Bildsequenz unterdrückt werden, sodass ein Benutzer trotz der Rauchentwicklung eine verbesserte Sicht auf eine mit dem Bildsensor beobachtete Szene hat.
-
Die Erkennung der Bildaufnahmesituation kann grundsätzlich zusätzlich oder aber alternativ zur computerimplementierten Bildauswertung anhand einer Ansteuerung eines externen Geräts und/oder anhand eines Sensorsignals erfolgen. Eine solche Ansteuerung kann beispielsweise ein Einschalten sein, zum Beispiel eines Operationsinstruments. Das Sensorsignal kann von einem Sensor des Bildaufnahmesystems oder aber von einem externen Sensor stammen.
-
Beispielsweise kann die zuvor erläuterte Rauchentstehung auch präventiv von dem Bildaufnahmesystem anhand eines Einschaltvorgangs eine OP-Instruments, beispielsweise eines HF-Skalpells, oder eines Sensorsignals, beispielsweise eines optischen Rauchsensors, detektiert werden. Der zuvor erläuterte Anpassungsvorschlag des Zuschaltens eines Rauchunterdrückungsalgorithmus kann somit insbesondere in Reaktion auf eine erfolgte Ansteuerung eines OP-Instruments und/oder anhand eines Signals eines Rauchsensors erfolgen.
-
Wird eine Anpassung des Bildaufnahmeverfahrens vorgeschlagen, so kann diese eine Änderung eines Bildaufnahme Parameters bewirken. Derartige Bildaufnahme Parameter sind beispielsweise eine Verschlusszeit des Bildsensors oder eine Sensitivität des Bildsensors. Ferner kann die Anpassung des Bildaufnahmeverfahrens auch eine Anpassung einer Beleuchtung bewirken, die bei der Aufnahme der Bildsequenz eingesetzt wird.
-
Gemäß einer besonderen Ausgestaltung kann durch die Anpassung des Bildaufnahmeverfahrens ein Wechsel einer Beleuchtungsmethode und/oder einer Bildgebungsmethode erfolgen, die jeweils zur Aufnahme der Bildsequenz eingesetzt wird.
-
Gemäß einer bevorzugten Ausgestaltung bewirkt die Anpassung des Bildaufnahmeverfahrens einen Wechsel von Weißlicht-Bildgebung zu narrow band imaging (NBI), wobei NBI unter Verwendung von spektraler Beleuchtung geschieht. Die Anpassung kann ferner auch einen umgekehrten Wechsel von NBI zu Weißlicht-Bildgebung bewirken.
-
Gemäß einem weiteren Aspekt der vorliegenden Erfindung kann die computerimplementierte Bildauswertung insbesondere auf einer künstlichen Intelligenz (KI) zur Erkennung von spezifischen Bildaufnahmesituationen beruhen. Diese Bildaufnahmesituationen können insbesondere parametrisiert sein, d.h. durch vorgegebene, insbesondere antrainierte, Parametersätze definiert sein.
-
Gemäß einer bevorzugten Ausgestaltung ist die KI mittels eines neuronalen Netzwerks realisiert. Alternativ oder ergänzend kann die KI auch mittels eines Algorithmus realisiert sein, der mithilfe von Beispiel-Bildsequenzen, insbesondere unter menschlicher Anleitung, trainiert worden ist.
-
Die KI kann gemäß der Erfindung dazu genutzt werden, eine bestimmte Bildaufnahmesituation zu erkennen, um dann einen entsprechenden, auf die erkannte Bildaufnahmesituation ausgelegten Anpassungsvorschlag unterbreiten zu können.
-
Die computerimplementierte Auswertung der aufgenommenen Bildsequenz kann ferner auf einem Vergleich von mindestens einer aus der Bildsequenz gewonnenen Wahrscheinlichkeitskennzahl mit jeweils einem zugehörigen Schwellwert beruhen. Werden etwa drei Wahrscheinlichkeitskennzahlen verwendet, so können drei unterschiedliche jeweils zugehörige Schwellwerte vorgesehen sein. Solche Wahrscheinlichkeitskennzahlen können zum Beispiel durch eine Parametrisierung der Bildsequenz, beispielsweise basierend auf einer Farb-, Bewegungs-, Struktur-, oder Mustererkennung oder dergleichen, gewonnen werden. Eine solche Parametrisierung kann bevorzugt von einer Bildverarbeitungseinheit des Bildaufnahmesystems bereitgestellt werden.
-
Es kann ferner vorgesehen sein, dass das Bildaufnahmesystem nur bei Überschreiten des mindestens einen Schwellwerts einen Anpassungsvorschlag unterbreitet. Ferner kann andernfalls eine Generation beziehungsweise ein Anbieten des Anpassungsvorschlags unterbleiben.
-
Bei einer solchen Ausgestaltung ist es vorzuziehen, wenn das Bildaufnahmesystem nur bei Überschreiten der Schwellwerte einen Anpassungsvorschlag unterbreitet. Denn dadurch wird eine Überlastung des Benutzers durch zu häufige Vorschläge vermieden. Denn eine Anpassung des Bildbearbeitungsalgorithmus und/oder des bei der Aufnahme der Bildsequenz eingesetzten Bildaufnahmeverfahrens kann unterbleiben, wenn die Schwellwerte nicht überschritten werden.
-
Hierbei ist es bevorzugt, wenn die mindestens eine Wahrscheinlichkeitskennzahl mithilfe eines Algorithmus gewonnen wird, der ebenfalls eine künstliche, insbesondere trainierbare, Intelligenz implementiert.
-
Wie zuvor bereits angerissen wurde, kann ferner in Reaktion auf eine Ansteuerung, beispielsweise ein Einschalten, eines externen Geräts wie beispielsweise einem elektrochirurgischen Operationsinstrument, eine auf das externe Gerät angepasste Darstellung der Bildsequenz und/oder ein auf das externe Gerät angepasstes Bildaufnahmeverfahren von dem Bildaufnahmesystem einem Benutzer vorgeschlagen werden. Eine solche Anpassung kann beispielsweise eine auf Bildverarbeitung beruhende Rauchunterdrückung oder eine Anpassung von Bildaufnahmeparametern sein.
-
Wie oben beschriebene Anpassungen können insbesondere derart erfolgen, dass ein Benutzer des Bildaufnahmesystems den angebotenen Anpassungsvorschlag über ein jeweiliges Bedienelement annimmt beziehungsweise ablehnt, um die Darstellung der Bildsequenz und/oder die Art der Bildaufnahme entsprechend anzupassen. Hierzu kann das Bildaufnahmesystem in ständigem Kontakt zu dem externen Gerät stehen, beispielsweise über ein Kabel oder eine drahtlose Verbindung.
-
Die computerimplementierte Bildauswertung der aufgenommenen Bildsequenz kann ferner eine kontextbasierte Datenanalyse der Bildsequenz umfassen. Dies hat den Vorteil, dass bestimmte Typen von Bildaufnahmesituationen anhand ihres jeweiligen Kontextes besser erkannt werden können.
-
Das Bildaufnahmesystem, welches das erfindungsgemäße Bildaufnahmeverfahren ausführt, kann insbesondere über einen dauerhaft hinterlegten Katalog an Anpassungsvorschlägen verfügen, die in Reaktion auf eine erkannte Bildaufnahmesituation einem Benutzer jeweils unterbreitet werden können. Dieser Katalog kann insbesondere in einem internen Speichermedium des Bildaufnahmesystems hinterlegt sein.
-
Bevorzugt können dabei für die Benutzung des Bildaufnahmesystems kritische Anpassungsvorschläge aus einer ersten Klasse nur bei Erreichen einer voreingestellten oder einstellbaren statistischen Mindestsicherheit bei der Erkennung der Bildaufnahmesituation von dem Bildaufnahmesystem angeboten werden. Dabei können unkritische Anpassungsvorschläge aus einer zweiten Klasse bereits bei einer statistischen Sicherheit unterhalb der Mindestsicherheit angeboten werden.
-
Solch eine kritische Anpassung kann beispielsweise in der Einblendung von zusätzlichen Bildkanälen, also etwa von Bildinformationen, die mit anderen Untersuchungsverfahren wie Magnetresonanztomographie (MRT), Computertomographie (CT), Fluoreszenzbildgebung, Chromoendoskopie oder sonstigen Verfahren aufgenommen wurden, bestehen.
-
Kritisch sind solche Einblendungen deshalb, weil die Gefahr besteht, dass durch die Einblendung wichtige Informationen in einem vom Benutzer des Bildaufnahmesystems ständig beobachteten Live-Videobild verdeckt werden, also beispielsweise die Anordnung von Operationsinstrumenten in Bezug auf verletzliche Gewebestrukturen oder dergleichen. Durch das Vorsehen einer statistischen Mindestsicherheit, die insbesondere durch eine oder mehrere aus der Bildverarbeitung gewonnene Wahrscheinlichkeitskennzahlen bestimmt sein kann, wie bereits zuvor beschrieben wurde, kann vermieden werden, dass ein nicht situationsgerechter Anpassungsvorschlag generiert und gegebenenfalls sogar angenommen wird und es so zu einer vermeidbaren Störung kommt, die den Benutzer an der korrekten Bedienung und Benutzung des Bildaufnahmesystems hindert.
-
Zur Lösung der genannten Aufgabe sind ferner erfindungsgemäß die Merkmale des unabhängigen Vorrichtungsanspruchs vorgesehen. Insbesondere wird somit erfindungsgemäß bei einem wie eingangs eingeführten Bildaufnahmesystem vorgeschlagen, dass das Bildaufnahmesystem eine Bildverarbeitungseinheit umfasst, die dazu eingerichtet ist, mindestens eine Bildaufnahmesituation, vorzugsweise jedoch mehrere vordefinierte Bildaufnahmesituationen, in der Bildsequenz mittels einer automatischen Bildauswertung zu erkennen, und dass der Controller dazu eingerichtet ist, in Abhängigkeit der erkannten Bildaufnahmesituation einen Vorschlag zur Anpassung des Bildbearbeitungsalgorithmus und/oder zur Anpassung eines bei der Aufnahme der Bildsequenz eingesetzten Bildaufnahmeverfahrens zu generieren.
-
Ferner kann vorgesehen sein, dass der Controller dazu eingerichtet ist, diesen Anpassungsvorschlag einem Benutzer, vorzugsweise mit Hilfe einer graphischen Benutzeroberfläche auf der Anzeigeneinheit, zu präsentieren.
-
Hierbei kann der Controller bevorzugt in einer Kamerasteuerungseinheit des Bildaufnahmesystems angeordnet beziehungsweise ausgebildet sein. Die Anzeigeeinheit kann beispielsweise durch einen externen Monitor realisiert sein.
-
Ganz besonders vorteilhaft ist es in all diesen Fällen, wenn der Controller zur Ausführung eines der zuvor beschriebenen Verfahren eingerichtet ist. Denn damit können die Vorteile der Erfindung voll von dem Bildaufnahmesystem ausgenutzt werden.
-
Die Bildverarbeitungseinheit kann beispielsweise lokal in einer Kamerasteuerungseinheit des Bildaufnahmesystems oder etwa in einer externen lokalen Recheneinheit realisiert sein. Die Bildverarbeitungseinheit kann aber auch ausgelagert sein. Somit kann die Bildverarbeitungseinheit beispielsweise auch mittels eines lokalen Servernetzwerks oder mittels einer „Cloud-Lösung“, also mittels einer IT-Infrastruktur, die über das Internet verfügbar ist, realisiert sein.
-
Die Erfindung wird nun anhand von Ausführungsbeispielen näher beschrieben, ist aber nicht auf diese Ausführungsbeispiele beschränkt. Weitere Ausbildungen der Erfindung können aus der nachfolgenden Beschreibung eines bevorzugten Ausführungsbeispiels in Verbindung mit der allgemeinen Beschreibung, den Ansprüchen sowie den Zeichnungen gewonnen werden.
-
Bei der folgenden Beschreibung verschiedener bevorzugter Ausführungsformen der Erfindung erhalten in ihrer Funktion übereinstimmende Elemente auch bei abweichender Gestaltung oder Formgebung übereinstimmende Bezugszahlen.
-
Es zeigt:
- 1 ein erfindungsgemäßes Bildaufnahmesystem in Form eines Endoskopiesystems,
- 2 ein Signalflussdiagramm zur Erläuterung eines erfindungsgemäßen Endoskopieverfahrens,
- 3 eine Anzeigeeinheit in einer ersten Anzeigesituation,
- 4 die Anzeigeeinheit aus 3 in einer zweiten Anzeigesituation,
- 5 die Anzeigeeinheit aus 3 in einer dritten Anzeigesituation und
- 6 die Anzeigeeinheit aus 3 in einer vierten Anzeigesituation.
-
Die 1 zeigt ein erfindungsgemäßes Bildaufnahmesystem 1 in Form eines Videoendoskopiesystems 1, welches ein Endoskop 2 mit einem Bildsensor 3 zur Aufnahme einer Bildsequenz 18 in Form eines Videobilddatenstroms und einen Controller 20 umfasst. Der Bildsensor 3 ist dabei in einem Kamerakopf 4 des Endoskops 2 angeordnet.
-
Der Controller 20 ist zum Steuern eines Bildbearbeitungsalgorithmus eingerichtet, der auf die Bildsequenz 18 angewandt wird, um eine Darstellung der Bildsequenz 18 auf einer Anzeigeeinheit 7 zu verbessern, die über ein Kabel 23 mit einer Kamerasteuerungseinheit 6 des Endoskopiesystems 1 verbunden ist. Dieser Bildbearbeitungsalgorithmus umfasst eine Rauschfilterung sowie einen Algorithmus zur Erhöhung des Bildkontrasts, sodass der Videobilddatenstrom von der Anzeigeneinheit 7 in hoher Bildqualität als Live-Videobild 21 wiedergegeben werden kann.
-
In der Kamerasteuerungseinheit 6 des Endoskopiesystems 1 ist eine Bildverarbeitungseinheit 11 ausgebildet, die dazu eingerichtet ist, eine Vielzahl von vordefinierten Bildaufnahmesituationen in der Bildsequenz 18 mittels einer automatischen Bildauswertung zu erkennen. Hierzu überwacht die Bildverarbeitungseinheit 11 den fortlaufend erzeugten Videobilddatenstrom und wertet diesen computerimplementiert aus. Erkennt die Bildverarbeitungseinheit 11 eine der vordefinierten Bildaufnahmesituationen, so generiert der Controller 20 in Reaktion hierauf einen Vorschlag zur Anpassung des Bildbearbeitungsalgorithmus.
-
Die Erkennung der Bildaufnahmesituation ist dabei auf eine künstliche Intelligenz (KI) gestützt, die auf einem Algorithmus beruht, der von einem Operateur anhand von beispielhaften Videobildaufnahmen von chirurgischen Eingriffen vorab trainiert worden ist. Durch das Training hat die KI erlernt, durch welche konkreten Parametersätze eine bestimmte Aufnahmesituation charakterisiert werden kann.
-
Entsprechend wurde in einem Speichermedium 22 des Endoskopiesystems 1 ein Katalog an vordefinierten Bildaufnahmesituationen in Form der antrainierten Parametersätze hinterlegt. Auf diesen Katalog greift die Bildverarbeitungseinheit 11 bei der computerimplementierten Auswertung der Bildsequenz 18 zurück und kann so mit hoher Genauigkeit eine Vielzahl an Bildaufnahmesituationen in hoher Geschwindigkeit erkennen.
-
In dem Speichermedium 22 ist ferner ein weiterer Katalog an Anpassungsvorschlägen hinterlegt, wobei jeder der hinterlegten Bildaufnahmesituationen ein bestimmter Anpassungsvorschlag zugeordnet ist. Dadurch kann das Endoskopiesystem 1 je nach erkannter Bildaufnahmesituation einen für die jeweilige Bildaufnahmesituation sinnvollen Anpassungsvorschlag unterbreiten.
-
Die Anpassungsvorschläge sind dabei in zwei Klassen unterteilt, nämlich in kritische und unkritische Anpassungsvorschläge. Kritische Anpassungsvorschläge werden von dem Endoskopiesystem 1 nur dann vorgeschlagen, wenn die zugehörige Bildaufnahmesituation mit einer statistischen Mindestsicherheit erkannt worden ist. Diese Mindestsicherheit wird anhand von Wahrscheinlichkeitskennzahlen ermittelt, die mit hinterlegten Schwellwerten verglichen werden. Hierbei wird ein kritischer Anpassungsvorschlag nur bei Überschreiten aller Schwellwerte vorgeschlagen, die für die konkrete Bildaufnahmesituation überprüft werden.
-
Diese Anpassungsvorschläge werden einem Benutzer des Endoskopiesystems 1 jeweils auf der Anzeigeneinheit 7 mittels grafischer Anzeigeelemente 16 visualisiert, wie noch genauer anhand der 3 bis 6 zu erläutern sein wird. Der Benutzer kann dann den angebotenen Vorschlag annehmen, ablehnen oder gar nichts tun. In letzterem Fall wird der Vorschlag nur dann umgesetzt, wenn der Benutzer innerhalb eines vorgegebenen Zeitraums den Vorschlag annimmt.
-
Eine typische Bildaufnahmesituation, die die Bildverarbeitungseinheit 11 erkennen kann, ist in 5 illustriert. Die 5 zeigt eine erste Anzeigesituation, die von der Anzeigeneinheit 7 wiedergegeben wird. Zu erkennen ist das Live-Videobild 21, welches in einem speziell hierfür vorgesehenen Anzeigebereich 12 wiedergegeben wird. Ferner ist eine Zeitablaufanzeige 8 sowie ein virtuelles Bedienelement 5 in Form einer virtuellen OK-Taste zu erkennen.
-
In dem Live-Videobild 21 kann der Benutzer sowohl gesundes Gewebe 14 als auch malignes Gewebe 15 erkennen (Vgl. 5). Dieses maligne Gewebe 15 soll gerade mithilfe eines HF-Skalpells resektiert werden. Aufgrund der Hitzeentwicklung beim Schneiden mit dem HF-Skalpell ist eine Wolke aus Rauch 13 entstanden, die den Blick auf die Gewebestrukturen teilweise versperrt.
-
Basierend auf der computerimplementierten Auswertung der aufgenommenen Bildsequenz 18 hat das Endoskopiesystem 1 die spezifische Bildaufnahmesituation „Rauch im Bild“ erkannt. Entsprechend wurde ein konkreter Vorschlag zur Anpassung des Bildbearbeitungsalgorithmus vorgeschlagen, nämlich die Erweiterung des Bildbearbeitungsalgorithmus um einen zusätzlichen Rauchunterdrückungsalgorithmus.
-
Dieser Vorschlag wird dem Benutzer optisch mittels einer graphischen Benutzeroberfläche auf der Anzeigeneinheit 7 präsentiert, wie in 5 gezeigt. Dazu ist das in der linken oberen Ecke in 5 zu erkennende Anzeigeelement 16 vorgesehen, welches dem Benutzer erläutert, welche konkrete Funktion nun hinzu geschalten werden kann.
-
Mittels der Zeitablaufanzeige 8 wird dem Benutzer dabei gleichzeitig angezeigt, wie viel Zeit ihm verbleibt, um den angebotenen Vorschlag anzunehmen. Nimmt der Benutzer innerhalb der Zeitspanne, die durch die Zeitablaufanzeige 8 vorgegeben wird, den Vorschlag durch Berühren der virtuellen OK-Taste an (= Bestätigungseingabe 19), so schaltet das Endoskopiesystem 1 die Rauchunterdrückungsfunktion zu und es ergibt sich die in 6 illustrierte Anzeigesituation. Dabei wird dem Benutzer die gerade hinzu geschaltene Zusatzfunktion mittels eines weiteren Anzeigeelements 16 visualisiert, welches in der oberen Mitte in 6 zu erkennen ist.
-
Wie in 6 zu erkennen ist, hat das Endoskopiesystem 1 mittels Bildverarbeitung die Rauchwolke detektiert und den Rauchunterdrückungsalgorithmus gezielt auf den Bildausschnitt 17 angewandt, der von der Wolke aus Rauch 13 eingenommen wurde. Hierzu hat das Endoskopiesystem 1 dem Benutzer zuvor mithilfe der in 6 gezeigten Strichlinie anhand des im Live-Videobild 21 erkannten Objekts „Rauchwolke“ - zusammen mit der vorgeschlagenen Anpassung - den durch die Bildbearbeitung zu verändernden Bildausschnitt 17 vorgeschlagen. Auch diesen Vorschlag hatte der Benutzer durch eine entsprechende Benutzereingabe 19 angenommen (d.h. durch nochmaliges Berühren des Bedienelements 5), sodass nicht etwa unbeabsichtigt der Rauchunterdrückungsalgorithmus auf Bildbereiche angewandt worden ist, in denen gar kein Rauch 13 zu erkennen war.
-
Wie anhand des Live-Videobild 21 in 6 zu erkennen ist, hat der Einsatz der Rauchunterdrückungsfunktion die Bildqualität entscheidend verbessert, sodass nun auch Strukturen hinter der Wolke aus Rauch 13 für den Benutzer zu erkennen sind. Mit anderen Worten wurde der Bildbearbeitungsalgorithmus somit so angepasst, dass ein Bildparameter des Live-Videobild 21 zur verbesserten Darstellung angepasst wurde.
-
Anders als bei bisherigen Systemen, musste der Anwender hierzu nicht aufwendig in Untermenüs suchen, sondern ihm wurde die für die konkret erkannte Bildaufnahmesituation „Rauch im Bild“ sinnvolle Zusatzfunktion einer Rauchunterdrückung situationsangepasst von dem Endoskopiesystem 1 zur Annahme vorgeschlagen, nämlich mittels eines optischen Hinweises mit Hilfe des Anzeigeelements 16.
-
Die 3 zeigt eine weitere Möglichkeit, wie ein Anpassungsvorschlag einem Benutzer visuell dargeboten werden kann. Hierzu ist ein separates Fenster 10 vorgesehen, in welchem ein Piktogramm 9 des Endoskops 2 abgebildet ist. Dieses zeigt dem Benutzer die räumliche Lage des Bedienelements 5 an, mit dem er den gerade angebotenen Anpassungsvorschlag annehmen kann. Der Anpassungsvorschlag ist dabei mithilfe eines Anzeigeelements 16 beschrieben.
-
Eine weitere Möglichkeit zum Unterbreiten eines Anpassungsvorschlags illustriert die 4. Hier wird mithilfe eines Anzeigeelements 16 und einer Zeitablaufanzeige 8 dem Benutzer ein Zeitfenster visualisiert, innerhalb dessen der durch das Anzeigeelement 16 präsentierte Anpassungsvorschlag von dem Endoskopiesystem 1 automatisch umgesetzt wird, sofern der Benutzer nicht mittels einer Ablehnungseingabe den Vorschlag aktiv ablehnt. Eine solche Ausgestaltung kann beispielsweise in bestimmten OP-Situationen Sinn machen, da hier ein Operateur keine Bestätigungseingabe tätigen muss, um den Anpassungsvorschlag anzunehmen.
-
Die Annahme des Anpassungsvorschlags kann der Benutzer bevorzugt auch mittels dem in 1 zu erkennenden weiteren Bedienelement 5 in Form einer manuellen Wipp-Taste oder durch den Sprachbefehl „Vorschlag annehmen“ vornehmen, wobei das Endoskopiesystem 1 dann in Reaktion auf diese jeweilige Bestätigungseingabe 19 die vorgeschlagene Rauchunterdrückungsfunktion zuschaltet und damit eine Anpassung des Bildbearbeitungsalgorithmus herbeiführt.
-
Das Endoskopiesystem 1 ist ferner in der Lage, nicht nur den Bildbearbeitungsalgorithmus anzupassen, sondern ein Verfahren, das zur Aufnahme der Bildsequenz 18 eingesetzt wird.
-
Beispielsweise kann das Endoskopiesystem 1 zunächst mittels einer Weißlicht-Beleuchtung herkömmliche Farbbilder aufnehmen. Detektiert nun ein optischer Sensor des Endoskops 2 die Emission von Fluoreszenzlicht durch das beobachtete Gewebe, so schlägt das Endoskopiesystem 1 dem Benutzer eine Anpassung des Bildaufnahmeverfahrens dahingehend vor, die Beleuchtung von Weißlicht auf eine spektrale Beleuchtung mit Anregungslicht umzustellen. Zusätzlich wird in diesem Fall dem Benutzer mittels eines weiteren Anzeigeelements 16 vorgeschlagen, das eingesetzte Bildaufnahmeverfahren von Weißlicht-Bildgebung auf narrow band imaging (NBI) umzustellen.
-
Nimmt der Benutzer beide dieser Anpassungsvorschläge an, werden nicht länger Weißlicht-Bilder auf der Anzeigeeinheit 7 angezeigt, sondern Fluoreszenzlichtbilder, die mittels NBI von dem Endoskopiesystem 1 nun aufgezeichnet werden. Zusätzlich hat das Endoskopiesystem 1 in Reaktion auf die Bestätigungseingabe 19 eine Sensitivität und eine Verschlusszeit des Bildsensors 3, also 2 Bildaufnahmeparameter, auf das neue NBI-Verfahren angepasst. Durch die erfolgte Anpassung ist somit ein Wechsel der zur Aufnahme der Bildsequenz 18 eingesetzten Beleuchtungs- und Bildgebungsmethode erfolgt.
-
Für diesen Wechsel hat das Endoskopiesystem 1 somit gerade nicht den aufgezeichneten Videobilddatenstrom computerimplementiert ausgewertet, sondern stattdessen die neue Bildaufnahmesituation „Fluoreszenzlicht im Bild vorhanden“ anhand eines Sensorsignals des optischen Sensors erkannt. Diese alternative Detektion einer neuen Bildaufnahmesituation kann unabhängig von der computerimplementierten Auswertung der Bildsequenz, bevorzugt jedoch ergänzend zu dieser, eingesetzt werden.
-
Schließlich erläutert 2 anhand des dargestellten Signalflussdiagramms eine praktische Implementierung eines erfindungsgemäßen Bildaufnahmeverfahrens durch folgende Verfahrensschritte:
- A. Aufnehmen der Bildsequenz 18 mit dem Bildaufnahmesystem 1 in Form eines Videobilddatenstroms;
- B.Computerimplementierte Auswertung der Bildsequenz 18 mit Hilfe der Bildverarbeitungseinheit 11;
- C. Berechnung von Bildparametern und Wahrscheinlichkeitskennzahlen anhand der Auswertung;
- D.Vergleich der Wahrscheinlichkeitskennzahlen mit Schwellwerten;
- E. Erzeugen eines Anpassungsvorschlags;
- F. Anbieten des Anpassungsvorschlags;
- G. Quittieren des angebotenen Anpassungsvorschlags durch Annehmen, Ablehnen oder Nichtstun;
-
Das Nichtstun im letzten Schritt G wird dabei als Ablehnen gewertet. Bei Annahme des Anpassungsvorschlags, wird der Vorschlag umgehend wie vorgeschlagen von dem Endoskopiesystem umgesetzt. Schritt D ist ein optionaler Schritt und Schritt E erfolgt nicht, sofern keine vordefinierte Bildaufnahmesituation detektiert wurde oder nur mit einer unzureichenden Sicherheit, was anhand des Schwellwertvergleichs festgestellt wird. Schritt F erfolgt vorzugsweise visuell, z.B. mit Hilfe eines Anzeigeelements 16, oder zum Beispiel akustisch. Der weitere optionale Schritt X umfasst schließlich den Einsatz einer künstlichen Intelligenz bei der computerimplementierten Auswertung der aufgenommenen Bildsequenz, wie zuvor detailliert beschrieben wurde.
-
Zusammenfassend wird zur Vereinfachung der Ausnutzung eines Funktionsumfangs eines medizinischen Bildaufnahmesystems 1, beispielsweise eines Endoskopiesystems 1, ein Verfahren vorgeschlagen, bei dem eine Bildverarbeitungseinheit 11 des Bildaufnahmesystems 1 anhand einer mit einem Bildsensor 3 des Bildaufnahmesystems 1 aufgenommenen Bildsequenz 18 vordefinierte Bildaufnahmesituationen erkennt und in Reaktion hierauf einem Benutzer eine Anpassung vorschlägt, die in der jeweiligen erkannten Bildaufnahmesituation zu einer verbesserten Darstellung und/oder Aufnahme der Bildsequenz 18 führt. Hierbei kann die Anpassung einen Algorithmus betreffen, mit dem die Bildsequenz 18 nach der Aufnahme bearbeitet wird und/oder ein Bildaufnahmeverfahren, das zur Erzeugung der Bildsequenz 18 momentan angewandt wird.
-
Bezugszeichenliste
-
- 1
- Medizinisches Bildaufnahmesystem / Endoskopiesystem
- 2
- Endoskop
- 3
- Bildsensor
- 4
- Kamerakopf
- 5
- Bedienelement
- 6
- Kamerasteuerungseinheit
- 7
- Anzeigeeinheit
- 8
- Zeitablaufanzeige
- 9
- Piktogramm
- 10
- Fenster
- 11
- Bildverarbeitungseinheit
- 12
- Anzeigebereich (für 21)
- 13
- Rauch
- 14
- gesundes Gewebe
- 15
- malignes Gewebe
- 16
- Anzeigeelement
- 17
- Bildausschnitt
- 18
- Bildsequenz
- 19
- Bestätigungseingabe
- 20
- Controller
- 21
- Live-Videobild
- 22
- Speichermedium
- 23
- Kabel