RU2624107C2 - Автоматическое онлайновое совмещение между роботом и изображениями - Google Patents
Автоматическое онлайновое совмещение между роботом и изображениями Download PDFInfo
- Publication number
- RU2624107C2 RU2624107C2 RU2014114531A RU2014114531A RU2624107C2 RU 2624107 C2 RU2624107 C2 RU 2624107C2 RU 2014114531 A RU2014114531 A RU 2014114531A RU 2014114531 A RU2014114531 A RU 2014114531A RU 2624107 C2 RU2624107 C2 RU 2624107C2
- Authority
- RU
- Russia
- Prior art keywords
- robot
- configurable device
- coordinate system
- specific configuration
- image
- Prior art date
Links
- 238000000034 method Methods 0.000 claims abstract description 36
- 230000033001 locomotion Effects 0.000 claims abstract description 16
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 11
- 238000012545 processing Methods 0.000 claims abstract description 6
- 238000002604 ultrasonography Methods 0.000 claims description 46
- 238000003384 imaging method Methods 0.000 claims description 35
- 239000000523 sample Substances 0.000 claims description 18
- 239000003550 marker Substances 0.000 claims description 14
- 239000013307 optical fiber Substances 0.000 claims description 13
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 6
- 238000012285 ultrasound imaging Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 2
- 230000004807 localization Effects 0.000 abstract 1
- 239000000126 substance Substances 0.000 abstract 1
- 238000001514 detection method Methods 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 239000000835 fiber Substances 0.000 description 7
- 239000011159 matrix material Substances 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 5
- 239000000463 material Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000003908 quality control method Methods 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 239000002184 metal Substances 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013175 transesophageal echocardiography Methods 0.000 description 2
- 210000003462 vein Anatomy 0.000 description 2
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 238000002594 fluoroscopy Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 210000001035 gastrointestinal tract Anatomy 0.000 description 1
- 210000004072 lung Anatomy 0.000 description 1
- 238000003754 machining Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/14—Transformations for image registration, e.g. adjusting or mapping for alignment of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
- G06T2207/10136—3D ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30048—Heart; Cardiac
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/46—Sensing device
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/46—Sensing device
- Y10S901/47—Optical
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Manipulator (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Processing (AREA)
Abstract
Изобретение относится к системе, устройству и способу для совмещения в месте нахождения на основе конфигурации устройства. Технический результат заключается в повышении точности определения местонахождения робота в пространстве формирования изображения. Система и способ совмещения включают в себя конфигурируемое устройство (104), имеющее одну или несколько подвижных деталей (122), и перемещение подвижных деталей может быть определено относительно опорного элемента для определения конкретной конфигурации конфигурируемого устройства. Система (110) формирования изображений имеет дисплей, на котором можно видеть конфигурируемое устройство. Устройство (112) обработки выполнено с возможностью совмещать конфигурируемое устройство с системой координат системы формирования изображений на основе конкретной конфигурации конфигурируемого устройства. 3 н. и 15 з.п. ф-лы, 9 ил.
Description
Это раскрытие относится к совмещению устройства и, в частности, к системе, устройству и способу для совмещения в месте нахождения на основе конфигурации устройства.
Совмещение представляет собой процесс обнаружения отношения между различными наблюдениями одних и тех же данных. Более определенно, это вычисление выравнивания нескольких измерений одних и тех же данных, полученных в результате разных точек наблюдения или принадлежащих разным системам координат. Совмещение необходимо для определения соответствия между физическим местоположением в системе координат робота и его позицией в пространстве формирования изображений.
В условиях клиники совмещение между ультразвуковым изображением и координатами робота выполняется перед операцией. Предоперационное совмещение, для которого существуют известные методики, лучше всего подходит для ситуаций, в которых по меньшей мере одна система координат фиксирована относительно мировой или глобальной системы координат. Если обе системы координат перемещаются, одноразовое совмещение становится недопустимым и должно вычисляться повторно.
При ультразвуковом направлении робота вероятно, что оба устройства, то есть, ультразвуковой датчик и робот будут перемещаться друг относительно друга во время процедуры. Хотя ультразвук иногда может быть зафиксирован в одной позиции, выгодно иметь гибкость в позиционировании, учитывая, что роль ультразвука в направляемых роботом операциях состоит и в направлении робота, и в обеспечении формирования изображений в интересующей области. Пример процедуры, требующей совмещения между ультразвуковым датчиком (и, следовательно, ультразвуковым изображением) и роботом, включает в себя роботизированное структурное восстановление сердца. В этом случае используется устройство для чреспищеводной эхокардиографии (TEE). Зонд монтируется на гибком кабеле, приводящем к его перемещению вследствие дыхания. В этом случае установленное один раз совмещение может дать сбой. Может использоваться электромагнитное (EM) отслеживание для непрерывного совмещения робота и ультразвукового зонда. Это решение является сложным и ресурсоемким. Кроме того, электромагнитное отслеживание предрасположено к ошибкам из-за возмущений в электромагнитном поле.
Предоперационное совмещение добавляет сложность к и так уже сложному хирургическому рабочему процессу, в то время как установка эталонных маркеров увеличивает время и сложность хирургической операции. Отслеживание систем координат является громоздким по меньшей мере вследствие дополнительных требований к аппаратным средствам.
В соответствии с настоящими принципами система и способ совмещения включают в себя конфигурируемое устройство, имеющее одну или несколько подвижных деталей, и перемещение подвижных деталей может быть определено относительно опорного элемента для определения конкретной конфигурации конфигурируемого устройства. Система формирования изображений имеет дисплей, на котором можно видеть конфигурируемое устройство. Устройство обработки выполнено с возможностью совмещать конфигурируемое устройство с системой координат системы формирования изображений на основе конкретной конфигурации конфигурируемого устройства.
Система совмещения включает в себя робот, имеющий одну или несколько подвижных деталей, соединенные шарнирами N так, что, перемещение подвижных деталей относительно опорного элемента определяет конкретную конфигурацию робота. У ультразвуковой системы формирования изображений есть дисплей, на котором можно наблюдать робота. Устройство обработки выполнено с возможностью совмещения робота в системе координат ультразвукового зонда системы формирования изображений, основанной на конкретной конфигурации робота.
Способ совмещения включает в себя этапы, на которых обнаруживают опорный элемент конфигурируемого устройства в операционном изображении конфигурируемого устройства; определяют конкретную конфигурацию конфигурируемого устройства; вычисляют конкретную конфигурацию конфигурируемого устройства в системе координат формирования изображений с использованием опорного элемента; и определяют преобразование между конкретной конфигурацией конфигурируемого устройства и системой координат формирования изображений для совмещения системы координат конфигурируемого устройства с системой координат формирования изображений.
Эти и другие задачи, признаки и преимущества настоящего раскрытия станут ясны из последующего подробного описания его примерных вариантов осуществления, которое должно быть прочитано вместе с сопроводительными чертежами.
Это раскрытие подробно представит следующее описание предпочтительных вариантов осуществления со ссылкой на следующие фигуры.
Фиг. 1 - блок-схема, показывающая систему/способ совмещения робота или другого конфигурируемого устройства с потоком изображений или изображением в соответствии с настоящими принципами;
Фиг. 2 - блок-схема последовательности операций, показывающая способ совмещения робота в системе формирования изображений в соответствии с одним примерным вариантом осуществления;
Фиг. 3 - схема, показывающая стержень или соединительный элемент робота, включающий в себя один или несколько маркеров для идентификации части стержня или соединительного элемента в потоке изображений в соответствии с полезными вариантами осуществления;
Фиг. 4 - схема, показывающая стержень или соединительный элемент робота, включающий в себя два маркера для идентификации ориентации стержня или соединительного элемента в потоке изображений в соответствии с полезными вариантами осуществления;
Фиг. 5 - схема, показывающая траектории движения для x, y и z координат между вычисленной концевой частью стержня и системой координат изображения в соответствии с одним примерным вариантом осуществления;
Фиг. 6 - схема, показывающая стержень или соединительный элемент робота, имеющий оптическое волокно для обнаружения формы, смонтированное на нем для идентификации позиции стержня или соединительного элемента, в соответствии с полезными вариантами осуществления;
Фиг. 7 - схема, показывающая стержень или соединительный элемент робота, имеющий установленный на нем вибрирующий механизм для идентификации позиции стержня или соединительного элемента в ультразвуковом окружении в соответствии с одним вариантом осуществления;
Фиг. 8 - схема, иллюстративно показывающая вычисление преобразования для совмещения стержня или соединительного элемента робота с кадром изображения и/или видеозондом в соответствии с одним вариантом осуществления;
Фиг. 9 - блок-схема последовательности операций, показывающая этапы для совмещения устройства робота с системой координат формирования изображений в соответствии с примерным вариантом осуществления.
В соответствии с настоящими принципами обеспечены системы и способы выполнения автоматического совмещения в реальном времени между устройством формирования изображений, таким как ультразвуковой (US) зонд (например, трехмерный (3D) ультразвуковой зонд), и системой робота-манипулятора. Эти системы и способы совмещения могут использоваться при выполнении множества задач, например, таких как локализация целей, ослабление познавательной нагрузки, соответствующей выравниванию видеозонда, определение соотношения изображений с материальным миром, направление хирургического инструмента к цели и т.д. При помощи настоящих вариантов осуществления, использующих эти возможности формирования изображений и автоматизации, могут быть выполнены более сложные хирургические операции.
В соответствии с одним особенно полезным вариантом осуществления совмещение в реальном времени робота с видеозондом или изображением обеспечивается с использованием различных способов и устройств, которые позволяют обнаруживать на изображении робот или хирургический инструмент, смонтированный на роботе. Также обеспечена схема контроля качества, позволяющая отслеживать точность совмещения.
Следует понимать, что настоящее изобретение будет описано с точки зрения медицинских инструментов; однако идеи настоящего изобретения намного более широки и применимы к любым инструментам, используемым при отслеживании или анализе сложных биологических или механических систем. В частности, настоящие принципы применимы к внутренним процедурам отслеживания биологических систем, процедурам во всех областях тела, таких как легкие, желудочно-кишечный тракт, органы выделения, кровеносные сосуды и т.д. Элементы, изображенные на фигурах, могут быть реализованы в различных комбинациях аппаратного и программного обеспечения и обеспечивать функции, которые могут быть объединены в одном элементе или нескольких элементах.
Функции различных элементов, показанных на фигурах, могут быть обеспечены с помощью специализированных аппаратных средств, а также аппаратных средств, которые могут исполнять программное обеспечение, совместно с соответствующим программным обеспечением. Когда функции обеспечены посредством процессора, они могут быть обеспечены посредством одного выделенного процессора, одного совместно используемого процессора или множества отдельных процессоров, некоторые из которых могут использоваться совместно. Кроме того, явное использование термина "процессор" или "контроллер" не должно рассматриваться как ссылка исключительно на аппаратные средства, которые могут исполнять программное обеспечение, и может неявно включать в себя, без ограничения, процессор цифровых сигналов (DSP), постоянное запоминающее устройство (ROM) для хранения программного обеспечения, оперативное запоминающее устройство (RAM), энергонезависимую память и т.д.
Кроме того, подразумевается, что все используемые здесь формулировки, которые излагают принципы, аспекты и варианты осуществления изобретения, а также их конкретные примеры, охватывают их эквиваленты, как структурные, так и функциональные. Дополнительно подразумевается, что такие эквиваленты включают в себя как эквиваленты, известные в настоящий момент, так и эквиваленты, разработанные в будущем (то есть, любые разработанные элементы, которые выполняют ту же самую функцию, независимо от структуры). Таким образом, например, специалисты в области техники поймут, что представленные здесь блок-схемы дают концептуальные представления примерных системных компонентов и/или схем, воплощающих принципы изобретения. Аналогичным образом, будет понятно, что любые блок-схемы, блок-схемы последовательности операций и т.п. представляют различные процессы, которые могут быть в значительной степени представлены на машиночитаемых носителях и, таким образом, исполнены посредством компьютера или процессора, независимо от того, показан ли такой компьютер или процессор явно.
Кроме того, варианты осуществления настоящего изобретения могут принять форму компьютерного программного продукта, доступного из применимого компьютером или машиночитаемого носителя, обеспечивающего программный код для использования посредством компьютера или любой системы исполнения команд. В целях этого описания применимый компьютером или машиночитаемый носитель может представлять собой любое устройство, которое может включать в себя, хранить, передавать, распространить или переносить программу для использования посредством системы исполнения команд или устройства. Носитель может представлять собой электронную, магнитную, оптическую, электромагнитную, инфракрасную или полупроводниковую систему (или устройство) или среду распространения. Примеры машиночитаемого носителя включают в себя полупроводниковую память или твердотельную память, магнитную ленту, извлекаемую компьютерную дискету, оперативное запоминающее устройство (RAM), постоянное запоминающее устройство (ROM), жесткий магнитный диск и оптический диск. Текущие примеры оптических дисков включают в себя компакт-диск, предназначенный только для чтения (CD-ROM)), компакт-диск, предназначенный для чтения и записи (CD-R/W) и цифровой универсальный диск (DVD).
Теперь обратимся к чертежам, на которых аналогичные номера представляют одинаковые или сходные элементы. На фиг. 1 показана система 100 для автоматического онлайнового совмещения, которая использует направляемую изображением хирургическую систему 102 робота. Система 102 робота включает в себя конфигурируемое устройство или робот 104 и систему 106 управления. Робот 104 включает в себя известную форму, которая может включать в себя часть робота 104 или весь робот 104. Робот 104 может включать в себя один или несколько эталонных маркеров 108. Ориентация робота 104 расшифровывается на основании кинематики его подвижной детали (деталей) 122 (например, соединительных элементов или соединений, конечностей и т.д.) и комбинируется с ориентацией, вычисленной на основании реальных изображений. Изображения могут включать в себя ультразвуковые изображения, хотя могут использоваться другие методики формирования изображений (например, рентгеновское излучение и т.д.). В настоящем примере система 110 формирования изображений включает в себя ультразвуковую систему, имеющую возможность формирования трехмерных (3D) изображений. Другие системы формирования изображений также могут использоваться. Система 110 формирования изображений может использовать зонд 105 для установки позиции и угла для сбора данных для формирования изображений. Движение робота используется для вычисления и обновления совмещения между двумя системами координат в реальном времени, например, системы 109 координат робота и системы 107 координат формирования изображений или зонда.
Настоящие принципы предусматривают онлайновое совмещение, которое выполняется многократно как нормальная часть функционирования. Когда предполагается движение компонентов, онлайновое совмещение может использоваться для обработки несовпадения между системами координат. Онлайновое совмещение является наиболее эффективным, если система может выполнять совмещение автоматически, с помощью либо опционального отслеживания, либо эталонных маркеров 108. Отслеживание вводит новую глобальную систему координат, с которой могут быть соотнесены рассматриваемые системы координат. Использование эталонных маркеров 108 может быть рассмотрено как пассивная версия этого подхода, например, рассматриваемые системы координат вычисляют свои соответствующие ориентации относительно глобально фиксированных маркеров. В обоих случаях, поскольку совмещение между системами координат всегда может быть вычислено, системы координат могут свободно перемещаться относительно друг друга.
Система 100 может включать в себя рабочую станцию или консоль 112, с которой процедура контролируется и/или управляется. Рабочая станция 112 предпочтительно включает в себя один или несколько процессоров 114 и память 116 для хранения программ и приложений. Память 116 может хранить модуль 115 интерпретации кинетики робота, выполненный с возможностью интерпретировать позиционные сигналы обратной связи из изображения или изображений робота 104, изображенного с использованием заданной методики формирования изображений. Модуль 115 может быть выполнен с возможностью использовать визуальную и позиционную обратную связь (например, электромагнитное (EM) отслеживание, эталонные позиции, информацию/распознавание формы или геометрии и т.д.) для воссоздания деформаций, отклонений и других изменений, соответствующих роботу 104.
Методика формирования изображений или устройство 110 формирования изображений могут включать в себя ультразвуковую систему формирования изображений. Система 107 координат зонда 105 и система 109 координат робота 104 предпочтительно совмещены по непрерывному или прерывистому временному интервалу. В одном варианте осуществления используется трехмерный (3D) ультразвуковой зонд 105, способный к прямой потоковой передаче изображений. Робот 104 предпочтительно расположен в пределах области видимости ультразвукового изображения. Робот 104 включает в себя N шарниров 111 (например, 3 или 4), и N датчиков 113 используются для измерения абсолютной или относительной позиции шарниров 111. Таким образом, позиция всего робота 104, а также рабочего органа (например, хирургического инструмента) относительно некоторой фиксированной системы координат (обычно основания робота 104), всегда известна.
Блок 106 управления может быть включен в рабочую станцию 112 или может представлять собой отдельное устройство (например, персональный компьютер (PC), принимающий данные от устройства 110 формирования изображений и других частей системы 102 робота, и выполняющий совмещение (способы совмещения). Система 106 управления и/или модуль 115 интерпретации могут использовать способы автоматического обнаружения хирургического инструмента в изображении и использовать механизмы для улучшения обнаружения. Например, методика вычисления конфигурации инструмента в системе координат устройства формирования изображений может включать в себя использование программы распознавания изображения, которая может расшифровать множество точек (например, шарниры или концевые части) робота 104 для обнаружения его конфигурации относительно опорной позиции. Другой способ включает в себя выполнение автоматического и онлайнового совмещения между трехмерным (3D) ультразвуковым зондом 105 и роботом 104 с использованием известной позиции/ориентации робота 104 и вычисленной позиции/ориентации робота 104 на основании ультразвукового изображения робота 104.
Ошибка совмещения может отслеживаться для кадров изображения посредством модуля 115 и использоваться для инициирования переключателя автоблокировки или другого механизма 126, чтобы заставить систему 106 управления отключить робот 104 и остановить работу в соответствии с определяемым пользователем порогом или другими условиями.
Устройство 110 формирования изображений может использоваться для формирования изображения субъекта 131 в месте нахождения во время процедуры. Система 110 формирования изображений может включать в себя систему флюороскопии, систему компьютерной томографии (CT) и т.д., хотя ультразвуковая система является предпочтительной. Система 110 формирования изображений формирует изображения 134 области субъекта 131, и робот 104 предпочтительно включен в поле зрения или по меньшей мере часть робота 104, необходимая для совмещения системы координат робота с системой координат устройства 110 формирования изображений.
Рабочая станция 112 включает в себя дисплей 118 для отображения внутренних изображений субъекта (пациента) 131. Дисплей 118 также может позволить пользователю взаимодействовать с рабочей станцией 112 и ее компонентами и функциями или любым другим элементом в пределах системы 100. Эта возможность также обеспечивается посредством интерфейса 120, который может включать в себя клавиатуру, мышь, джойстик, тактильное устройство или любое другое периферийное устройство или средство управления, чтобы дать пользователю возможность обратной связи от рабочей станции 112 и взаимодействия с ней.
На фиг. 2 иллюстративно показан способ автоматического онлайнового совмещения. На этапе 202 в потоке трехмерных (например, ультразвуковых) изображений обнаруживается инструмент. На этапе 204 вычисляется конфигурация инструмента в системе координат изображения. На этапе 206 вычисляется преобразование кадра для совмещения инструмента с потоком изображений. На этапе 208 выполняется контроль качества. Эти этапы описаны с дополнительными подробностями ниже относительно последующих примерных вариантов осуществления.
В одном варианте осуществления обнаружение инструмента в трехмерном ультразвуковом изображении на этапе 202 может использовать основанный на изображении способ. Хирургические инструменты обычно состоят из материала, например, металла, который является видимым при формировании ультразвуковых изображений. Кроме того, хирургические инструменты могут характеризоваться расположением в продольной оси (стержень и т.п.), чтобы дать хирургу или роботу возможность работать в ограниченном пространстве. С использованием удлиненного вида хирургического инструмента или других отличительных признаков обеспечивается опорная точка, которую алгоритм формирования изображений может использовать для надлежащего автоматического обнаружения инструмента в ультразвуковом изображении. Одна существующая методика/алгоритм представляет собой известное преобразование Хафа, которое может сегментировать хирургический инструмент из изображения на основе знания его формы. В одном случае линейная или столбчатая форма (соответствующая стержню инструмента) могут служить входным параметром для алгоритма, хотя для усовершенствованного обнаружения могут быть заданы более сложные формы.
В другом варианте осуществления обнаружение инструмента в трехмерном ультразвуковом изображении на этапе 202 может использовать основанный на эталонах способ. Различные типы эталонных маркеров могут использоваться для обеспечения возможности обнаружения позиции и ориентации инструмента. Принимая во внимание то, что эталонные маркеры появляются в изображениях с высокой контрастностью, обнаружение этих маркеров в изображениях может быть выполнено с использованием способов формирования изображений, известных в области техники, например, таких как преобразование Хафа, пороговое представление яркости изображения и т.д. Хотя инструменты могут быть видимыми в ультразвуковых изображениях, их границы может быть трудно различить. Это может привести к погрешностям при автоматическом обнаружении инструмента.
Как показано на фиг. 3, для решения проблем видимости границ, инструмент 300 может быть усилен с помощью маркеров 302, которые легко различить автоматическими алгоритмами, но не мешают поставленной задаче. Например, кольца 302, помещенные вокруг стержня инструмента 303, дают в результате видимую ультразвуковую картину выступов, которая отлична для каждой ориентации инструмента 300. Этот подход может использовать специализированную механическую обработку или изготовление хирургических инструментов 300. Практическое решение дает возможность модернизации уже существующих инструментов для обеспечения маленького съемного маркера 306, который помещается вокруг стержней существующих хирургических инструментов, тем самым ослабляя необходимость изменения конструкции инструментов. Эти съемные маркеры 306 включают в себя отличительные шаблоны, в результате чего ориентация инструмента становится распознаваемой автоматическими алгоритмами обнаружения при ультразвуковом или другом формировании изображений. Маркеры 302, 306 могут быть сделаны из гиперэхогенных материалов, таких как полимеры или металл.
Один вариант осуществления обеспечивает меньшие по размеру и более простые маркеры 306 и может включать в себя фиксацию нескольких маркеров на стержень инструмента 303. Состав этих маркеров 306 может включать в себя сталь или любой другой эхогенный материал, который является совместимым с хирургическим оборудованием.
Как показано на фиг. 4, для обнаружения ориентации стержня 303 требуется обнаружить только две точки вдоль стержня 303. В этом случае более простой вариант осуществления маркера принимает форму, например, сферы 312. Алгоритмы для обнаружения сферических форм с помощью ультразвука могут включать в себя нормализованную взаимную корреляцию (NCC) и сумму квадратов разности (SSD). Другие алгоритмы также могут использоваться.
Фиг. 5 показывает примерные траектории движения цели (FB) и роботизированного инструмента (Tip), который отслеживает цель, обе из которых обнаружены с помощью ультразвука при 20 кадрах в секунду с использованием NCC. Фиг. 5 показывает траектории движения по оси X, замедленные в 24,85 раза, траектории движения по оси Y, замедленные в 24.85 раза, и траектории движения по оси Z, замедленные в 24,85 раза. Использованные при этом маркеры представляли собой металлические сферы размером 3,2 мм. Результаты показывают, что NCC является надежным способом для этого применения, поскольку траектории хорошо совпали друг с другом.
Поскольку трехмерные ультразвуковые изображения обычно формируются и обрабатываются при скорости 20-30 кадров в секунду, новое совмещение может быть вычислено на этой скорости (для каждого нового изображения). Это полезная особенность, поскольку это устраняет необходимость в явном этапе совмещения, и отклонения позиции зонда не влияют на совмещение в течение времени, поскольку совмещение непрерывно обновляется.
Как показано на фиг. 6, стержень 602 или другая часть робота 604 может включать в себя оптическое волокно или волокна 606 для обнаружения формы. В одном варианте осуществления обнаружение маркера или маркеров 608 может быть обеспечено посредством использования оптического волокна 606 для обнаружения формы, которое обернуто вокруг стержня 602 или иным образом соединено со стержнем 602.
Волокна 606 для обнаружения формы могут включать в себя одну или несколько оптоволоконных брэгговских решеток (FBG), являющихся сегментом оптического волокна, который отражает конкретные длины волн света и пропускает все другие. Это достигается посредством добавления периодического изменения показателя преломления в центральной жиле оптоволокна, которое формирует специфичное для длины волны диэлектрическое зеркало. Таким образом, FBG может использоваться в качестве встроенного оптического фильтра для блокировки некоторых длин волн или как специфичный для длины волны отражатель.
Принцип работы FBG заключается в отражении Френеля на каждой из границ раздела, где изменяется показатель преломления. Для некоторых длин волн отраженный свет различных периодов находится в фазе, вследствие чего существует усиливающая интерференция для отражения и, следовательно, ослабляющая интерференция для прохождения. Брэгговская длина волны чувствительна к деформации, а также к температуре. Это означает, что решетки FBG могут использоваться в качестве чувствительных элементов в оптоволоконных датчиках. Одно из преимуществ методики состоит в том, что различные элементы датчика могут быть распределены по длине волокна. Включение в состав вдоль волокна трех или более центральных жил с различными датчиками (измерительными приборами), которые встроены в структуру, дает возможность оценки искривления структуры как функции продольной позиции и, следовательно, точного определения трехмерной (3D) формы такой структуры.
В качестве альтернативы для решеток FBG может быть использовано характерное обратное рассеяние в традиционных оптических волокнах. Один такой подход заключается в использовании рэлеевского рассеяния в стандартном одномодовом волокне. Рэлеевское рассеяние происходит в результате случайных флуктуаций показателя преломления в оптоволоконной центральной жиле. Эти случайные флуктуации могут быть смоделированы как брэгговская решетка со случайным изменением амплитуды и фазы по длине решетки. При использовании этого эффекта в трех или более центральных жилах, проходящих по одной длине многожильного волокна, возможно отслеживать трехмерную форму и динамику интересующей поверхности.
В оптическом волокне 606 может иметься свет, испускаемый из известной позиции на инструменте по спирали и доходящий до концевой точки 610 стержня 602. В дополнение к позиции и ориентации концевой точки эта система может обеспечить всю информацию о форме, которая будет ценной, если рабочий орган является очень гибким роботизированным манипулятором с высокой степенью свободы.
Как показано на фиг. 7, стержень 702 или другая часть робота 704 может включать в себя устройство (устройства) 706 движения. Устройство 706 движения может включать в себя механический привод или другой вибрирующий элемент, который может быть визуализирован в ультразвуковом изображении. В одном варианте осуществления обнаружение маркера 706 обеспечено посредством механического приведения в действие маркера 706, расположенного на концевой точке 710 инструмента. Концевая точка 710 вибрирует, и поскольку концевая точка 710 присоединена к роботу 704, маркер 706 вибрирует с заданной частотой. Эти вибрации могут быть обнаружены с использованием ультразвука, вследствие чего позиция маркера и концевая точка инструмента могут быть обнаружены. Характерные вибрации в структуре или соединительных элементах робота также могут использоваться для выделения изображений и обнаружения структур.
Снова обратимся к фиг. 2, на которой на этапе 204 конфигурация инструмента вычислена в ультразвуковой системе координат. Описанная задача обнаружения инструмента является только начальным этапом при выполнении онлайнового совмещения. Инструмент был только сегментирован от остальной части изображения. На этапе 204 конфигурация или положение в пространстве инструмента вычисляется при условии, что его представление извлечено из потока ультразвуковых изображений. При этом используется тот факт, что хирургические инструменты обычно имеют длинные стержни между рукояткой (удерживаемой хирургом или роботом) и рабочим органом, что позволяет роботу/руке дотягиваться до целевого местоположения хирургической операции.
Как только в ультразвуковом изображении найден стержень инструмента, определяется вектор, описывающий направление стержня. Вектор используется для вычисления положения инструмента в ультразвуковых координатах (uT) в реальном времени, например, по мере потоковой передачи новых трехмерных ультразвуковых изображений.
На фиг. 8 иллюстративно показано вычисление преобразования/совмещения. Стержень 802 инструмента включает в себя систему координат tipF, и ультразвуковой зонд (или изображение) 804 включает в себя систему координат uF. Вектор vtip, описывающий направление стержня, определяется в ультразвуковых координатах в реальном времени. Процедура, которая достигает этого вычисления, показана в уравнении 1.
В уравнении 1 нижние индексы и верхние индексы u и r обозначают ультразвуковую систему координат и систему координат робота, соответственно.
Список обозначений:
uT - положение стрежня инструмента, наблюдаемое в ультразвуковых координатах (матрица преобразования 4×4).
uR - вращательный компонент положения uT (матрица 3×3).
uptip - позиционный компонент положения uT, который является позицией концевой точки инструмента в ультразвуковых координатах (матрица 3×1).
θ - угол вращения вокруг ω, который приводит вектор vtip в соответствие с осью -Z ультразвуковой системы координат.
vtip - вектор, соответствующий направлению стержня инструмента.
P - результат операции внешнего произведения 
на себя, обозначенный таким образом для упрощения уравнения.
I - единичная матрица 3×3.
Снова обратимся к фиг. 2, на которой на этапе 206 выполняется вычисление преобразования кадра. Положение rT инструмента в координатах робота задано известной кинематикой робота (от датчиков и т.п.). Интерфейсы программирования программного обеспечения для роботов разрешают запросить этот параметр в режиме реального времени. Как только положение rT получено, оно может быть объединено с положением инструмента в ультразвуковых координатах ультразвука uT, найденным на предыдущем этапе (этап 204), чтобы вычислить требуемое преобразование rTu (уравнение 2) между ультразвуковой системой координат и системой координат робота. Это преобразование rTu может затем использоваться, чтобы найти местоположение относительно робота любой точки, найденной на ультразвуковых изображениях, давая роботу возможность переместить хирургический инструмент к любой цели на основе обнаружения цели на ультразвуковом изображении, и в конечном счете позволяя роботу выполнять некоторые функции автономно под руководством трехмерного ультразвука и соответствующей обработки изображений, как это описано.
rTu=rT·uT-1 (Уравнение 2)
где:
rTu - матрица преобразования между ультразвуковыми координатами и координатами робота.
uT - положение стержня инструмента, наблюдаемое в ультразвуковых координатах.
rT - положение стержня инструмента в координатах робота в соответствии с кинематикой робота.
Для простоты описанные здесь хирургические инструменты были симметричны относительно вращений вокруг их стержня. Такой инструмент может быть обозначен как 5-мерный (5D), придерживаясь языка робототехники, что учитывает трехмерную позицию в пространстве, а также вращения вокруг двух из трех координатных осей. Расширение до 6D, где дополнительная размерность представляет собой вращение инструмента вокруг его стержня, легко достигается посредством либо (1) одного соответствующим образом разработанного маркера, либо (2) соответствующего размещения нескольких простых маркеров с асимметричным геометрическим рисунком. Настоящие принципы могут быть расширены для согласования с любой кинематикой и структурными движениями.
Снова обратимся к фиг. 2, на которой на этапе 208 контроль качества для настоящих вариантов осуществления может принять форму вычислений и учета ошибок в вычислениях. Описанные здесь система и способы позволяют онлайновый запрос точности совмещения, которая может быть предоставлена пользователю системы для контроля качества. Точность совмещения может быть измерена как разность относительного смещения концевой точки инструмента и ориентации инструмента между двумя или более кадрами ультразвуковых изображений. Здесь мы представляем методику для оценки ориентации концевой точки.
rPtip(t-1) - позиция концевой точки робота в системе координат робота в момент времени t-1.
rPtip(t) - позиция концевой точки робота в системе координат робота в момент времени t (один кадр после t-1).
uPtip(t-1) - позиция концевой точки робота в ультразвуковой (US) системе координат в момент времени t-1.
uPtip(t) - позиция концевой точки робота в ультразвуковой системе координат в момент времени t (один кадр после t-1).
На этапе 212 ошибка может быть представлена пользователю на дисплее 118 (фиг. 1), который может включать в себя ультразвуковой экран устройства формирования изображений. На этапе 214 ошибка может использоваться для инициирования переключателя автоблокировки или другого механизма и остановки работы в соответствии с определяемым пользователем порогом или другими условиями.
Следует понимать, что настоящие варианты осуществления могут использоваться в любой хирургии с минимальным вмешательством, чтобы дать возможность совмещения между устройством формирования изображений (например, ультразвуковым зондом) и хирургическим роботом или другим устройством без необходимости предоперационного совмещения, размещаемых на пациенте опорных точек, ручного вмешательства или фиксированного ультразвукового зонда. Совмещение обеспечивает роботизированной системе отображение между координатами изображений и робота, тем самым позволяя роботу или другому устройству перемещать инструмент к любой цели, обнаруженной на изображении. Настоящие принципы легко применимы к широкому классу роботизированных систем или устройств, процедур и приложений.
На фиг. 9 иллюстративно показан другой способ совмещения в соответствии с настоящими принципами. На этапе 902 на операционном изображении конфигурируемого устройства обнаруживается опорный элемент. Он может включать в себя продольный стержень, основание робота, отличительный признак и т.д. На этапе 904 определяется конкретная конфигурация конфигурируемого устройства. Например, конечности робота могут иметь определенную позицию, вычислимую на основании датчика или другого измерительного устройства. Позиция конечности может быть вычислена относительно опорной позиции или элемента. На этапе 906 конкретная конфигурация или положение конфигурируемой системы устройства вычисляется в системе координат формирования изображений с использованием опорного элемента. Положение может включать в себя определение всех или некоторых из элементов конфигурируемого устройства. Например, три из четырех конечностей могут обеспечить достаточную информацию о позиции устройства. Конкретная конфигурация может включать в себя обнаружение положения конфигурируемого устройства с использованием датчиков для определения позиций подвижных деталей конфигурируемого устройства на этапе 908.
На этапе 910 конкретная конфигурация может быть определена с использованием обнаружения формы с помощью оптического волокна, когда перемещение одной или нескольких подвижных деталей конфигурируемого устройства может быть определено с использованием обратной связи от оптического волокна. На этапе 912 одна или несколько подвижных деталей могут включать в себя по меньшей мере один маркер для обозначения позиции в изображениях и определения конкретной конфигурации с использованием по меньшей мере одного маркера. Маркеры должны быть видимыми в изображениях и могут включать в себя конкретные формы или детали, чтобы помочь в точном определении конфигурации или положения устройства. Маркер может включать в себя, например, вибрирующий механизм для обозначения позиции или ориентации по меньшей мере одной или нескольких подвижных деталей. Это особенно полезно при формировании ультразвуковых изображений.
На этапе 914 определяется преобразование между конкретной конфигурацией конфигурируемого устройства и системой координат формирования изображений для совмещения системы координат конфигурируемого устройства с системой координат формирования изображений. Преобразование дает возможность переводить любую позицию в одной системе координат в другую систему координат. На этапе 916 совмещение или преобразование конфигурируемого устройства к системе координат формирования изображений может быть обновлено с помощью нового изображения, взятого системой формирования изображений. Это обновление может быть сделано в каждом новом кадре или после предопределенного количества кадров по необходимости. Обновление выполняется в реальном времени во время процедуры или операции. На этапе 918 конфигурируемое устройство может быть отключено или его работа может быть изменена на основе измеренной ошибки совмещения. Ошибка совмещения может вычисляться периодически и использоваться для сравнения с порогом. Если порог превышен, устройство (например, робот) отключается, пока совмещение не сможет быть восстановлено. К вычислению ошибки также могут быть привязаны другие действия, например, такие как звуки предупреждения или свечение индикатора и т.д.
При интерпретации приложенной формулы изобретения следует подразумевать, что:
a) слово "содержит" не исключает наличие других элементов или действий, кроме перечисленных в данном пункте формулы изобретения;
b) употребление единственного числа не исключают наличие множества таких элементов;
c) любые номера для ссылок в формуле изобретения не ограничивают ее объем;
d) несколько "средств" могут быть представлены одним и тем же объектом или структурой или функцией, реализованными с помощью аппаратных средств или программного обеспечения; и
e) никакая конкретная последовательность действий не подразумевается обязательной, если это не указано специально.
После описания предпочтительных вариантов осуществления для систем и способов автоматического онлайнового совмещения между роботом и изображениями (которые подразумеваются как примерные, а не ограничивающие) следует отметить, что специалисты в области техники могут сделать модификации и изменения в свете описанных выше идей. Поэтому следует понимать, что изменения могут быть произведены в конкретных вариантах осуществления раскрытия, которые будут находиться в рамках объема раскрытых здесь вариантов осуществления, которые обозначены в приложенной формуле изобретения. Таким образом, после описания деталей и особенностей, требуемых патентными законами, далее изложена формула изобретения для защиты патентом.
Claims (26)
1. Система для совмещения конфигурируемого устройства с системой координат системы формирования изображений, содержащая:
конфигурируемое устройство (104), имеющее одну или несколько подвижных деталей (122), и перемещение подвижных деталей может быть определено относительно опорного элемента для определения конкретной конфигурации конфигурируемого устройства;
систему (110) формирования изображений, имеющую дисплей, на котором можно видеть конфигурируемое устройство; и
устройство (112) обработки, выполненное с возможностью выполнять совмещение конфигурируемого устройства с системой координат системы формирования изображений на основе конкретной конфигурации конфигурируемого устройства.
2. Система по п. 1, в которой конфигурируемое устройство (104) включает в себя робота, имеющего по меньшей мере один соединительный элемент.
3. Система по п. 2, в которой по меньшей мере один соединительный элемент (122) соединен с шарниром (111) и дополнительно включает в себя датчик (113), выполненный с возможностью измерять перемещение шарнира.
4. Система по п. 2, в которой по меньшей мере один соединительный элемент (122) включает в себя оптическое волокно (606) для обнаружения формы, и перемещение стержня измеряется с использованием сигналов от оптического волокна.
5. Система по п. 2, в которой по меньшей мере один соединительный элемент (122) включает в себя концевую часть, и
концевая часть включает в себя по меньшей мере один маркер (108) для обозначения позиции в изображениях системы формирования изображений.
6. Система по п. 5, в которой по меньшей мере один маркер (108) включает в себя форму или конфигурацию для обозначения позиции или ориентации по меньшей мере одного соединительного элемента.
7. Система по п. 5, в которой система (110) формирования изображений включает в себя ультразвуковую систему, и по меньшей мере один маркер включает в себя вибрирующий механизм (706) для обозначения позиции или ориентации по меньшей мере одного соединительного элемента.
8. Система по п. 1, в которой конфигурируемое устройство (104) включает в себя робот, расположенный в пределах живого организма, и система (110) формирования изображений включает в себя ультразвуковую систему, которая отображает интересующую область в организме.
9. Система по п. 1, дополнительно содержащая переключатель (126), выполненный с возможностью отключать конфигурируемое устройство на основе измеренной ошибки совмещения.
10. Система для совмещения робота с системой координат системы формирования изображений, содержащая:
робота (104), имеющего одну или несколько подвижных деталей (122), соединенных N шарнирами (111), и перемещение подвижных деталей относительно опорного элемента определяет конкретную конфигурацию робота;
ультразвуковую систему (110) формирования изображений, имеющую дисплей, на котором можно видеть робот; и
устройство (112) обработки, выполненное с возможностью совмещать робота с системой координат ультразвукового зонда (105) системы формирования изображений на основе конкретной конфигурации робота.
11. Система по п. 10, в которой N шарниров (111) соединены с датчиками (113) для измерения перемещения соответствующего шарнира.
12. Способ совмещения системы координат конфигурируемого устройства с системой координат изображения, содержащий этапы, на которых:
обнаруживают (902) опорный элемент конфигурируемого устройства в операционном изображении конфигурируемого устройства;
определяют (904) конкретную конфигурацию конфигурируемого устройства;
вычисляют (906) конкретную конфигурацию конфигурируемого устройства в системе координат формирования изображений с использованием опорного элемента; и
определяют (914) преобразование между конкретной конфигурацией конфигурируемого устройства и системой координат формирования изображений для совмещения системы координат конфигурируемого устройства с системой координат формирования изображений.
13. Способ по п. 12, дополнительно содержащий этап, на котором обновляют (916) совмещение конфигурируемого устройства с системой координат формирования изображений с помощью нового изображения, полученного системой формирования изображений.
14. Способ по п. 12, в котором этап вычисления конкретной конфигурации содержит этап, на котором обнаруживают (908) положение конфигурируемого устройства с использованием датчиков для определения позиций подвижных деталей конфигурируемого устройства.
15. Способ по п. 12, дополнительно содержащий этап, на котором отключают (918) конфигурируемое устройство на основе измеренной ошибки совмещения.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201161533808P | 2011-09-13 | 2011-09-13 | |
| US61/533,808 | 2011-09-13 | ||
| PCT/IB2012/054579 WO2013038301A2 (en) | 2011-09-13 | 2012-09-05 | Automatic online registration between a robot and images |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| RU2014114531A RU2014114531A (ru) | 2015-10-20 |
| RU2624107C2 true RU2624107C2 (ru) | 2017-06-30 |
Family
ID=47089094
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| RU2014114531A RU2624107C2 (ru) | 2011-09-13 | 2012-09-05 | Автоматическое онлайновое совмещение между роботом и изображениями |
Country Status (7)
| Country | Link |
|---|---|
| US (1) | US9984437B2 (ru) |
| EP (1) | EP2745268B1 (ru) |
| JP (1) | JP6491476B2 (ru) |
| CN (1) | CN103797512B (ru) |
| BR (1) | BR112014005451B1 (ru) |
| RU (1) | RU2624107C2 (ru) |
| WO (1) | WO2013038301A2 (ru) |
Families Citing this family (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9259282B2 (en) * | 2012-12-10 | 2016-02-16 | Intuitive Surgical Operations, Inc. | Collision avoidance during controlled movement of image capturing device and manipulatable device movable arms |
| EP3183461B1 (en) | 2014-08-22 | 2022-03-30 | President and Fellows of Harvard College | Soft robot with flexible electronic strain-limited layer |
| CA2958921C (en) | 2014-08-22 | 2023-02-07 | President And Fellows Of Harvard College | Sensors for soft robots and soft actuators |
| CA2973480A1 (en) * | 2015-01-12 | 2016-10-20 | President And Fellows Of Harvard College | Sensors for soft robots and soft actuators |
| JP6985262B2 (ja) * | 2015-10-28 | 2021-12-22 | エンドチョイス インコーポレイテッドEndochoice, Inc. | 患者の体内における内視鏡の位置を追跡するための装置及び方法 |
| JP6657933B2 (ja) * | 2015-12-25 | 2020-03-04 | ソニー株式会社 | 医療用撮像装置及び手術ナビゲーションシステム |
| WO2017114855A1 (en) | 2015-12-29 | 2017-07-06 | Koninklijke Philips N.V. | System, control unit and method for control of a surgical robot |
| JP7041068B6 (ja) | 2016-03-17 | 2022-05-30 | コーニンクレッカ フィリップス エヌ ヴェ | 剛性近位部及びフレキシブル遠位部を有するハイブリッドロボットを制御するための制御ユニット、システム、及び方法 |
| JP6998320B2 (ja) | 2016-03-31 | 2022-01-18 | コーニンクレッカ フィリップス エヌ ヴェ | 低侵襲的処置のための操縦可能な導入器の画像誘導 |
| MX2019007116A (es) * | 2016-12-15 | 2019-09-16 | Novartis Ag | Registro adaptativo de imágenes para cirugia oftalmica. |
| WO2018175737A1 (en) * | 2017-03-22 | 2018-09-27 | Intuitive Surgical Operations, Inc. | Systems and methods for intelligently seeding registration |
| TR201722919A2 (tr) * | 2017-12-29 | 2019-07-22 | Erhan Ilhan Konukseven | Fi̇ber bragg izgara tabanli opti̇k sensörler i̇le cerrahi̇ branşlarda konum beli̇rleme si̇stemi̇ |
| US10828020B2 (en) * | 2018-08-22 | 2020-11-10 | Covidien Lp | Surgical retractor including three-dimensional (3D) imaging capability |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2161085C1 (ru) * | 2000-03-06 | 2000-12-27 | Закрытое акционерное общество "Авиационные технологии" | Система управления процессом электронно-лучевой сварки |
| RU2358780C2 (ru) * | 2005-01-31 | 2009-06-20 | Чонгкуинг Ронгхай Медикал Ультрасаунд Индастри Лтд. | Ультразвуковое терапевтическое устройство |
| RU2366475C2 (ru) * | 2005-01-31 | 2009-09-10 | Чонгцинг Хайфу(Хифу)Текнолоджи Ко., Лтд | Терапевтическая система на основе сфокусированного ультразвука |
| US20100119146A1 (en) * | 2008-11-07 | 2010-05-13 | Seiko Epson Corporation | Robot system, robot control device and method for controlling robot |
Family Cites Families (31)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS54123277A (en) | 1978-03-16 | 1979-09-25 | Tokyo Shibaura Electric Co | Needle for biopsy inspection and its marker annunciator |
| JPH07120211B2 (ja) | 1986-12-26 | 1995-12-20 | トヨタ自動車株式会社 | 知能ロボツトにおける座標合わせ方法 |
| JPH02262991A (ja) | 1989-03-31 | 1990-10-25 | Mitsubishi Electric Corp | ロボット動作監視装置 |
| US6006126A (en) * | 1991-01-28 | 1999-12-21 | Cosman; Eric R. | System and method for stereotactic registration of image scan data |
| US5803089A (en) * | 1994-09-15 | 1998-09-08 | Visualization Technology, Inc. | Position tracking and imaging system for use in medical applications |
| US6246898B1 (en) * | 1995-03-28 | 2001-06-12 | Sonometrics Corporation | Method for carrying out a medical procedure using a three-dimensional tracking and imaging system |
| US5951475A (en) * | 1997-09-25 | 1999-09-14 | International Business Machines Corporation | Methods and apparatus for registering CT-scan data to multiple fluoroscopic images |
| US6363940B1 (en) * | 1998-05-14 | 2002-04-02 | Calypso Medical Technologies, Inc. | System and method for bracketing and removing tissue |
| FR2779339B1 (fr) | 1998-06-09 | 2000-10-13 | Integrated Surgical Systems Sa | Procede et appareil de mise en correspondance pour la chirurgie robotisee, et dispositif de mise en correspondance en comportant application |
| US6674916B1 (en) * | 1999-10-18 | 2004-01-06 | Z-Kat, Inc. | Interpolation in transform space for multiple rigid object registration |
| DE10005628B4 (de) * | 2000-02-09 | 2006-04-20 | Siemens Ag | Verfahren und Vorrichtung zur Ausrichtung eines medizinischen Instruments am Körper eines Patienten unter Verwendung eines Computer-Tomographen |
| US7607440B2 (en) * | 2001-06-07 | 2009-10-27 | Intuitive Surgical, Inc. | Methods and apparatus for surgical planning |
| AU2003207811A1 (en) * | 2002-02-15 | 2003-09-09 | The John Hopkins University | System and method for laser based computed tomography and magnetic resonance registration |
| US7155316B2 (en) * | 2002-08-13 | 2006-12-26 | Microbotics Corporation | Microsurgical robot system |
| US20080130965A1 (en) * | 2004-11-23 | 2008-06-05 | Avinash Gopal B | Method and apparatus for parameter assisted image-guided surgery (PAIGS) |
| JP4382003B2 (ja) * | 2005-03-23 | 2009-12-09 | 川崎重工業株式会社 | ロボット制御装置およびロボット制御方法 |
| EP1887961B1 (en) * | 2005-06-06 | 2012-01-11 | Intuitive Surgical Operations, Inc. | Laparoscopic ultrasound robotic surgical system |
| GB2428110A (en) | 2005-07-06 | 2007-01-17 | Armstrong Healthcare Ltd | A robot and method of registering a robot. |
| US8190238B2 (en) * | 2005-12-09 | 2012-05-29 | Hansen Medical, Inc. | Robotic catheter system and methods |
| US7930065B2 (en) | 2005-12-30 | 2011-04-19 | Intuitive Surgical Operations, Inc. | Robotic surgery system including position sensors using fiber bragg gratings |
| KR100731052B1 (ko) * | 2006-01-23 | 2007-06-22 | 한양대학교 산학협력단 | 미세침습 수술을 위한 컴퓨터통합 수술 보조시스템 |
| US20080118116A1 (en) * | 2006-11-20 | 2008-05-22 | General Electric Company | Systems and methods for tracking a surgical instrument and for conveying tracking information via a network |
| US20100083964A1 (en) | 2006-12-22 | 2010-04-08 | Schering Corporation | Dispenser dose counter mechanism |
| US20080294115A1 (en) * | 2007-05-22 | 2008-11-27 | Chen Raymond H | Microscopic Tumor Injection Treatment |
| ES2774799T3 (es) * | 2007-08-14 | 2020-07-22 | Koninklijke Philips Nv | Sistemas de instrumentos robóticos que utilizan sensores de fibra óptica |
| EP2193499B1 (en) * | 2007-10-01 | 2016-07-20 | Koninklijke Philips N.V. | Detection and tracking of interventional tools |
| RU2468435C2 (ru) | 2007-11-14 | 2012-11-27 | Конинклейке Филипс Электроникс, Н.В. | Система и способ количественного трехмерного исследования ceus |
| WO2009094646A2 (en) * | 2008-01-24 | 2009-07-30 | The University Of North Carolina At Chapel Hill | Methods, systems, and computer readable media for image guided ablation |
| US20090198093A1 (en) * | 2008-02-06 | 2009-08-06 | Oliver Meissner | System and method for combined embolization and ablation therapy |
| US8781630B2 (en) * | 2008-10-14 | 2014-07-15 | University Of Florida Research Foundation, Inc. | Imaging platform to provide integrated navigation capabilities for surgical guidance |
| US9285246B2 (en) * | 2010-02-12 | 2016-03-15 | Intuitive Surgical Operations, Inc. | Method and system for absolute three-dimensional measurements using a twist-insensitive shape sensor |
-
2012
- 2012-09-05 BR BR112014005451-7A patent/BR112014005451B1/pt active IP Right Grant
- 2012-09-05 RU RU2014114531A patent/RU2624107C2/ru active
- 2012-09-05 CN CN201280044295.1A patent/CN103797512B/zh active Active
- 2012-09-05 JP JP2014530346A patent/JP6491476B2/ja active Active
- 2012-09-05 US US14/342,403 patent/US9984437B2/en active Active
- 2012-09-05 WO PCT/IB2012/054579 patent/WO2013038301A2/en active Application Filing
- 2012-09-05 EP EP12779162.2A patent/EP2745268B1/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2161085C1 (ru) * | 2000-03-06 | 2000-12-27 | Закрытое акционерное общество "Авиационные технологии" | Система управления процессом электронно-лучевой сварки |
| RU2358780C2 (ru) * | 2005-01-31 | 2009-06-20 | Чонгкуинг Ронгхай Медикал Ультрасаунд Индастри Лтд. | Ультразвуковое терапевтическое устройство |
| RU2366475C2 (ru) * | 2005-01-31 | 2009-09-10 | Чонгцинг Хайфу(Хифу)Текнолоджи Ко., Лтд | Терапевтическая система на основе сфокусированного ультразвука |
| US20100119146A1 (en) * | 2008-11-07 | 2010-05-13 | Seiko Epson Corporation | Robot system, robot control device and method for controlling robot |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2013038301A3 (en) | 2013-07-18 |
| BR112014005451B1 (pt) | 2021-11-09 |
| US9984437B2 (en) | 2018-05-29 |
| JP6491476B2 (ja) | 2019-03-27 |
| BR112014005451A2 (pt) | 2017-03-21 |
| CN103797512B (zh) | 2018-10-16 |
| CN103797512A (zh) | 2014-05-14 |
| EP2745268B1 (en) | 2017-08-02 |
| EP2745268A2 (en) | 2014-06-25 |
| RU2014114531A (ru) | 2015-10-20 |
| WO2013038301A2 (en) | 2013-03-21 |
| US20140212025A1 (en) | 2014-07-31 |
| JP2014531986A (ja) | 2014-12-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| RU2624107C2 (ru) | Автоматическое онлайновое совмещение между роботом и изображениями | |
| US11779400B2 (en) | Combining strain-based shape sensing with catheter control | |
| JP6568084B2 (ja) | 光学式形状検知を用いてデバイスを撮像するロボット制御 | |
| US11617623B2 (en) | Virtual image with optical shape sensing device perspective | |
| US11266466B2 (en) | Shape sensor systems with redundant sensing | |
| US20150287236A1 (en) | Imaging system, operating device with the imaging system and method for imaging | |
| JP6706576B2 (ja) | 最小侵襲性のインターベンションのための形状センスされるロボット超音波 | |
| US20170231699A1 (en) | Detection of surface contact with optical shape sensing | |
| JP2005537583A (ja) | 物体の単一カメラ追跡方法及び装置 | |
| JP6242394B2 (ja) | 超音波画像から追跡システムへの正確で迅速な点マッピング | |
| JP2017537698A (ja) | 先端固定なしで光学形状検出を使う超音波プローブの自動トラッキング及びレジストレーション | |
| JP2017500935A5 (ru) | ||
| Chopra | A Framework for Tumor Localization in Robot-Assisted Minimally Invasive Surgery |