EA045328B1 - Устройство и способ для определения патологии органов грудной клетки на основе рентгеновских изображений - Google Patents
Устройство и способ для определения патологии органов грудной клетки на основе рентгеновских изображений Download PDFInfo
- Publication number
- EA045328B1 EA045328B1 EA202292474 EA045328B1 EA 045328 B1 EA045328 B1 EA 045328B1 EA 202292474 EA202292474 EA 202292474 EA 045328 B1 EA045328 B1 EA 045328B1
- Authority
- EA
- Eurasian Patent Office
- Prior art keywords
- image
- pathology
- data
- neural network
- ray
- Prior art date
Links
- 230000007170 pathology Effects 0.000 title claims description 175
- 238000000034 method Methods 0.000 title claims description 99
- 210000000056 organ Anatomy 0.000 title claims description 23
- 238000013528 artificial neural network Methods 0.000 claims description 61
- 238000012545 processing Methods 0.000 claims description 54
- 210000004072 lung Anatomy 0.000 claims description 33
- 238000004891 communication Methods 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 19
- 238000012800 visualization Methods 0.000 claims description 19
- 238000004458 analytical method Methods 0.000 claims description 15
- 230000009466 transformation Effects 0.000 claims description 15
- 238000000844 transformation Methods 0.000 claims description 15
- 238000002360 preparation method Methods 0.000 claims description 13
- 230000005540 biological transmission Effects 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 7
- 238000003384 imaging method Methods 0.000 claims description 7
- 238000005520 cutting process Methods 0.000 claims description 6
- 238000012567 pattern recognition method Methods 0.000 claims description 5
- 238000013461 design Methods 0.000 claims description 2
- 238000009434 installation Methods 0.000 claims description 2
- 230000003993 interaction Effects 0.000 claims 2
- 239000000463 material Substances 0.000 claims 2
- 239000013078 crystal Substances 0.000 claims 1
- 230000001939 inductive effect Effects 0.000 claims 1
- 238000005495 investment casting Methods 0.000 claims 1
- 238000003754 machining Methods 0.000 claims 1
- 238000012986 modification Methods 0.000 claims 1
- 230000004048 modification Effects 0.000 claims 1
- 230000008520 organization Effects 0.000 description 37
- 238000012549 training Methods 0.000 description 26
- 238000001514 detection method Methods 0.000 description 21
- 238000003860 storage Methods 0.000 description 16
- 238000013473 artificial intelligence Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 238000010200 validation analysis Methods 0.000 description 11
- 238000012797 qualification Methods 0.000 description 9
- 208000032538 Depersonalisation Diseases 0.000 description 8
- 238000013500 data storage Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 238000013502 data validation Methods 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 238000001994 activation Methods 0.000 description 5
- 238000011976 chest X-ray Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000010606 normalization Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 206010035664 Pneumonia Diseases 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 239000003814 drug Substances 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000001225 therapeutic effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- YMHOBZXQZVXHBM-UHFFFAOYSA-N 2,5-dimethoxy-4-bromophenethylamine Chemical compound COC1=CC(CCN)=C(OC)C=C1Br YMHOBZXQZVXHBM-UHFFFAOYSA-N 0.000 description 1
- 206010003598 Atelectasis Diseases 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 208000025721 COVID-19 Diseases 0.000 description 1
- 208000019693 Lung disease Diseases 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 208000002151 Pleural effusion Diseases 0.000 description 1
- 208000007123 Pulmonary Atelectasis Diseases 0.000 description 1
- 240000006394 Sorghum bicolor Species 0.000 description 1
- 235000011684 Sorghum saccharatum Nutrition 0.000 description 1
- 235000009430 Thespesia populnea Nutrition 0.000 description 1
- 241000545067 Venus Species 0.000 description 1
- 238000002441 X-ray diffraction Methods 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000010923 batch production Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000002308 calcification Effects 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 230000001684 chronic effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007596 consolidation process Methods 0.000 description 1
- 230000001054 cortical effect Effects 0.000 description 1
- 238000013503 de-identification Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 208000035474 group of disease Diseases 0.000 description 1
- 208000019622 heart disease Diseases 0.000 description 1
- 238000007373 indentation Methods 0.000 description 1
- 230000008595 infiltration Effects 0.000 description 1
- 238000001764 infiltration Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008506 pathogenesis Effects 0.000 description 1
- 230000001575 pathological effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 201000003144 pneumothorax Diseases 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000004393 prognosis Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Description
Область техники, к которой относится изобретение
Настоящее изобретение относится к области обработки изображений, и, более конкретно, к устройству и способу для определения патологии органов грудной клетки на основе рентгеновских изображений.
Уровень техники
В традиционных способах диагностики патологий органов грудной клетки, которые использовались в медицине на протяжении десятилетий, оператор рентген-установки или врач визуально исследовал рентгеновское изображение, полученное установкой, и делал вывод о наличии или отсутствии той или иной патологии у обследуемого пациента.
Однако высокая распространенность раковых, сердечных, легочных заболеваний, а также вспышка covid-19, которая привела к существенному увеличению смертности от этих заболеваний, влекут за собой огромные социальные издержки. В медицинских учреждениях, осуществляющих диагностические и терапевтические мероприятия, наблюдается перегруженность и дефицит квалифицированных медицинских специалистов в области радиологических исследований, на оценку и трактовку результатов радиологических исследований оказывает влияние человеческий фактор, отсутствуют необходимые ресурсы для проведения повторных прочтений исследований. Практика осуществления диагностических мероприятий сопряжена с риском пропуска патологий при первичном анализе радиологических исследований.
Данные факторы требуют проведения фундаментальных исследований в этой области с целью разработки новых и более эффективных терапевтических и диагностических инструментов, в том числе для того, чтобы повысить качество врачебных решений и по возможности ускорить процесс принятия врачебных решений.
Все это способствует внедрению в медицину современных цифровых методик обработки данных. Цифровизация здравоохранения сопровождается стремительно растущими объемами оцифрованной медицинской информации о пациентах, клинических баз данных и наборов медицинских данных, которые можно было бы использовать для поддержки принятия врачебных решений. В последние годы для работы над такими задачами все чаще применяются технологии искусственного интеллекта (ИИ).
Например, в известных способах современной ИИ-диагностики, таких как WO 2021/031279 А1 или WO 2021/091661 А1, нейронная сеть, которая была предварительно обучена на размеченном наборе изображений, получает оцифрованное рентгеновское изображение грудной клетки пациента, анализирует его и осуществляет предсказание того, имеется ли у данного пациента патология, помогая тем самым врачу принять оптимальное взвешенное решение.
Производятся попытки применять самые разные архитектуры нейросетей, разные методы обучения и разные методы предварительной обработки изображений, однако точность известных методов такова, что существенная часть медицинского сообщества высказывает мнение, что на текущем уровне развития подобные системы не помогают врачу, а наоборот, мешают, поскольку они могут снижать концентрацию внимания специалиста, полагающегося отчасти на ИИ, и возможны ошибки в принятии решений, что может влиять на качество оказания медицинских услуг. А в силу того, что ответственность за решение лежит именно на человеке, по-прежнему велик человеческий фактор и высоки трудозатраты и требования к квалификации.
Сущность изобретения
С целью устранения по меньшей мере некоторых из вышеупомянутых недостатков предшествующего уровня техники, настоящее изобретение направлено на повышение точности устройств и способов для определения патологии органов грудной клетки на основе рентгеновских изображений.
Согласно первому аспекту настоящего изобретения, предложено устройство для определения патологии органов грудной клетки на основе анализа рентгеновских изображений, содержащее блок приема данных, выполненный с возможностью принимать подлежащие обработке данные, содержащие рентгеновское изображение органов грудной клетки в прямой проекции, от устройства, запрашивающего обработку данных, посредством осуществления связи с ним;
блок подготовки изображений, выполненный с возможностью подготавливать с использованием по меньшей мере одного процессора рентгеновское изображение, содержащееся в подлежащих обработке данных, посредством выполнения над ним одного или более предварительных преобразований для использования нейронной сетью, работающей на основе по меньшей мере одного процессора, причем в процессе подготовки блок подготовки изображений выполнен с возможностью автоматического кадрирования изображения таким образом, чтобы оно охватывало только легкие, посредством поиска на изображении правого легкого и левого легкого по отдельности по меньшей двумя разными не зависящими друг от друга предварительно обученными методами распознавания образов, отличными от нейронных сетей, формирования множества прямоугольников, каждый из которых охватывает одно найденное легкое и только его, на основе выполненных поисков, формирования общего прямоугольника, который включает в себя, по существу, только упомянутое множество прямоугольников, и отсечения от изображения областей, выходящих за рамки общего прямоугольника;
блок предсказания патологии, выполненный с возможностью с использованием упомянутой ней- 1 045328 ронной сети анализировать подготовленное изображение и определять наличие или отсутствие патологии на изображении;
блок формирования отчета, выполненный с возможностью формировать с использованием по меньшей мере одного процессора отчет об исследовании, проведенном в данном устройстве, причем отчет об исследовании содержит по меньшей мере один файл, содержащий указание на результат обработки, выполненной в блоке предсказания патологии; и блок передачи данных, выполненный с возможностью передавать отчет в устройство, запрашивавшее обработку данных, посредством осуществления связи с ним.
В одном из вариантов осуществления, если определено, что на изображении имеется патология, блок формирования отчета дополнительно выполнен с возможностью выявления возможных областей, на которых найдены признаки патологий;
формирования изображения с визуализацией патологии в виде указания найденных областей с признаками патологий; и формирования отчета об исследовании, содержащего изображение с визуализацией патологии.
В одном из вариантов осуществления выявление возможных областей с признаками патологий выполняется с использованием методов компьютерного зрения, анализирующих входное изображение нейронной сети и активации внутри нейронной сети блока предсказания патологии, которые были получены при прогоне через нее этого изображения.
В одном из вариантов осуществления в качестве методов компьютерного зрения используется комбинация методов Grad-CAM (взвешенная комбинация карт активации классов на основе градиентов) и Saliency maps (карты значимости).
В одном из вариантов осуществления указание найденных областей с признаками патологий выполнено в виде тепловой карты или очертания границ областей.
В одном из вариантов осуществления для формирования изображения с визуализацией патологии блок формирования отчета выполнен с возможностью накладывать указание найденных областей с признаками патологий на копию входного изображения нейронной сети блока предсказания патологии.
В одном из вариантов осуществления указание найденных областей с признаками патологий имеет привязку к размерам, форме и положению изображения, которое непосредственно анализировалось нейронной сетью;
блок подготовки изображений дополнительно выполнен с возможностью сохранять параметры всех преобразований, выполнявшихся над исходным изображением, полученным в подлежащих обработке данных, и связанных с изменением его размера, смещением, поворотом, обрезкой и кадрированием; и для формирования изображения с визуализацией патологии блок формирования отчета выполнен с возможностью применять преобразования, обратные вышеуказанным сохраненным преобразованиям, к указанию найденных областей с признаками патологий, с тем чтобы получить в результате визуализацию патологии с привязкой к размерам, форме и положению исходного рентгеновского изображения; и накладывать полученную визуализацию патологии с привязкой к размерам, форме и положению исходного рентгеновского изображения на копию исходного рентгеновского изображения.
В одном из вариантов осуществления в качестве методов распознавания образов используются три предварительно обученных метода: метод Виолы-Джонса с применением каскадного классификатора на основе признаков Хаара, метод гистограммы направленных градиентов и метод на основе локальных бинарных шаблонов.
Согласно второму аспекту настоящего изобретения, предложен способ определения патологии органов грудной клетки на основе анализа рентгеновских изображений, содержащий этапы, на которых принимают с использованием устройства связи подлежащие обработке данные, содержащие рентгеновское изображение органов грудной клетки в прямой проекции;
подготавливают с использованием по меньшей мере одного процессора рентгеновское изображение, содержащееся в подлежащих обработке данных, посредством выполнения над ним одного или более предварительных преобразований для использования нейронной сетью, работающей на основе по меньшей мере одного процессора, причем при подготовке изображения выполняют автоматическое кадрирование изображения таким образом, чтобы оно охватывало только легкие, посредством поиска на изображении правого легкого и левого легкого по отдельности по меньшей двумя разными не зависящими друг от друга предварительно обученными методами распознавания образов, отличными от нейронных сетей, формирования множества прямоугольников, каждый из которых охватывает одно найденное легкое и только его, на основе выполненных поисков, формирования общего прямоугольника, который включает в себя, по существу, только упомянутое множество прямоугольников, и отсечения от изображения областей, выходящих за рамки общего прямоугольника;
с использованием упомянутой нейронной сети анализируют подготовленное изображение и определяют наличие или отсутствие патологии на изображении;
- 2 045328 формируют с использованием по меньшей мере одного процессора отчет, который содержит по меньшей мере один файл, содержащий указание на наличие или отсутствие патологии; и передают с использованием устройства связи отчет в устройство, запрашивавшее обработку данных.
Технический результат
Настоящее изобретение позволяет повысить эффективность устройств и способов для определения патологии органов грудной клетки на основе рентгеновских изображений.
При этом обеспечивается повышение точности определения патологии органов грудной клетки;
снижение требований к квалификации медицинского персонала;
уменьшение влияния человеческого фактора (внимательность, утомляемость, ответственность).
Следует понимать, что не каждый из вариантов осуществления может обеспечивать одновременно все указанные преимущества по сравнению со всеми известными решениями из уровня техники. Соответственно, некоторые варианты осуществления могут обладать лишь некоторыми из указанных преимуществ или иными преимуществами относительно некоторых известных решений.
Эти и другие преимущества настоящего изобретения станут понятны при прочтении нижеследующего подробного описания со ссылкой на сопроводительные чертежи.
Краткое описание чертежей
На фиг. 1 показано схематическое изображение системы поддержки принятия врачебных решений согласно настоящему изобретению.
На фиг. 2 показан пример изображения, подлежащего обработке в устройстве определения патологии.
На фиг. 3 показана блок-схема устройства для определения патологии согласно настоящему изобретению.
На фиг. 4 и 5 показаны примеры изображений, которые не должны пройти валидацию.
На фиг. 6А, 6В приведен пример кадрирования изображения.
На фиг. 7 приведен пример изображения, на которое области интереса нанесены в виде тепловой карты.
На фиг. 8 приведен пример изображения, на которое нанесены контуры областей интереса.
На фиг. 9 показана схема последовательности операций способа определения патологии согласно настоящему изобретению.
Следует понимать, что фигуры могут быть представлены схематично и не в масштабе и предназначены, главным образом, для улучшения понимания настоящего изобретения.
Подробное описание
Общий обзор системы.
Далее со ссылкой на фиг. 1 будет в целом описана система 100 поддержки принятия врачебных решений о состоянии органов грудной клетки.
В диагностической медицинской организации (МО) 110 содержится устройство 120 для получения рентгеновских изображений (также может взаимозаменяемо называться рентгенографическим диагностическим аппаратом, рентген-аппаратом, рентген-установкой, рентгеном и т.д.). Медицинский специалист с помощью рентген-аппарата 120 производит рентгенологическое исследование органов грудной клетки обследуемого пациента (в том числе флюорографию).
В качестве медицинской организации 110 согласно настоящему изобретению может выступать клиника, поликлиника, врачебный кабинет, больница, госпиталь, стационар, санаторий, пункт оказания медицинской помощи, аптека, мобильная установка, передвижной флюорографический кабинет или любая иная организация, помещение или установка, оборудованная устройством 120 для получения рентгеновских изображений.
Результат исследования формируется в виде рентгеновского изображения, например, в формате DICOM (стандарт цифровых изображений и связи в медицине), NIfTI (Инициатива по технологии нейроизображения в области информатики), Analyze, Minc1, Minc2 или ином пригодном открытом или проприетарном формате. Медицинский специалист при необходимости перед сохранением может применить к изображению фильтры, которые, на его взгляд, могут улучшить восприятие изображения. Кроме того, на изображение могут накладываться в одном из вариантов осуществления какие-либо предустановленные фильтры, характерные для конкретного устройства или для конкретного производителя.
Сформированное изображение сохраняется в локальном хранилище 131 данных, таком как хранилище на основе или в составе PACS (системы архивации и передачи DICOM-изображений), RIS (радиологической информационной системы), МИС (медицинской информационной системы) 130 или иной системы или устройства, пригодного для хранения медицинских данных. При необходимости к сохраняемому изображению может добавляться дополнительная целевая информация, такая как сведения о пациенте, об исследовании, о медицинской организации, о медицинском специалисте и т.д.
МИС 130 (в том числе PACS или RIS) может быть развернута на компьютере или сервере общего назначения, на специализированном оборудовании или на иных аппаратных средствах хранения, обработки и передачи данных, пригодных для воплощения настоящего изобретения и известных специалисту в данной области техники. В иллюстративном неограничивающем примере МИС 130 может представлять собой компьютер, имеющий 4-ядерный процессор, 8 ГБ RAM, дисковое пространство 60 ГБ под
- 3 045328 операционную систему CentOS 7, дисковое пространство 2 ТБ под данные, дисковое пространство 1 ТБ под базу данных и 2 сетевых адаптера.
Хранилище 131 изображено на фиг. 1 в составе МИС 130 лишь в качестве примера, и следует понимать, что возможны и иные реализации, в которых хранилище 131 является отдельным от МИС 130, находится в составе рентген-аппарата 120 или находится в составе другой внутренней системы хранения медицинской организации. Возможны также реализации, в которых медицинская организация вообще не использует специальные системы хранения и передачи медицинских данных, а использует для этих целей иные доступные средства хранения и передачи, такие как персональный компьютер или ноутбук.
Затем с помощью устройства 132 передачи данных, такого как PACS, RIS, МИС 130 или иная пригодная открытая или проприетарная система, формируются подлежащие обработке данные. Как и в случае с хранилищем 131, несмотря на то, что устройство 132 передачи данных изображено на фиг. 1 в составе МИС 130, оно также может быть отдельным от МИС 130 или находиться в составе другой внутренней системы хранения медицинской организации.
В одном из вариантов осуществления при формировании подлежащих обработке данных в устройстве 132 передачи данных может производиться деперсонализация (анонимизация, де-идентификация) рентгеновского изображения грудной клетки обследуемого пациента. Для этого производится замена сведений о пациенте, которые так или иначе можно считать персональными, на обезличенные данные, по которым третья сторона не сможет восстановить первоначальные данные, не имея к ним надлежащего доступа. Например, в случае применения системы PACS анонимизируются поля PatientName (имя пациента), OtherPatientNames (другие имена пациента), PatientID (идентификатор пациента) и при необходимости другие поля, содержащие персональные данные или отнесенные к таковым.
Возможные значения деперсонализированных данных могут быть предварительно заданными и известными всем устройствам в системе, только доверенным устройствам или только устройству 160 для определения патологии, с тем чтобы они могли определять, являются ли передаваемые данные деперсонализированными.
Процесс деперсонализации может происходить как полностью автоматически, так и при необходимости часть процесса деперсонализации или весь процесс деперсонализации может выполняться с участием человека, который может удалять или редактировать данные через соответствующий интерфейс устройства 132 передачи данных или медицинской информационной системы 130.
Деперсонализированные подлежащие обработке данные, пример которых показан на фиг. 2, передаются из медицинской организации 110 напрямую или через центральную медицинскую информационную систему 150 на устройство 160 для определения патологии. При этом в одном из вариантов осуществления деперсонализация может выполняться в центральной медицинской информационной системе 150, и в таком случае из медицинской организации 110 могут сначала передаваться неанонимизированные данные в центральную медицинскую информационную систему 150, а затем из нее на устройство 160 для определения патологии могут передаваться деперсонализированные подлежащие обработке данные. Процесс деперсонализации может происходить как полностью автоматически, так и при необходимости часть процесса деперсонализации или весь процесс деперсонализации может выполняться с участием человека, который может удалять или редактировать данные через соответствующий интерфейс центральной медицинской информационной системы 150.
Устройство 160 для определения патологии, проанализировав на основе методов искусственного интеллекта (ИИ) рентгеновское изображение, содержащееся в поступивших данных, формирует предсказание, имеется ли на данном изображении патология. Если таковая имеется, то устройство 160 для определения патологии указывает области на изображении, содержащие патологии. Если патологии нет, то изображение не изменяется.
Опционально устройство 160 для определения патологии может формировать отчет (или протокол) о результате работы, содержащий описание результата в виде текстовой информации.
Сформированные данные (одно или более изображений и/или отчет) отправляются обратно (напрямую или опосредованно) от устройства 160 для определения патологии в медицинскую организацию 110, запрашивавшую обработку данных.
Полученные от устройства 160 для определения патологии результаты работы предоставляются ответственному лицу, например, врачу-рентгентологу, лечащему врачу или иному медицинскому специалисту или лицу, имеющему доступ к таким сведениям и ответственному за их прием и обработку в медицинской организации 110, с помощью средства 140 просмотра, и с их использованием он принимает решение о состоянии органов грудной клетки, а именно о наличии или отсутствии той или иной патологии. При необходимости медицинский специалист с учетом полученных результатов работы устройства 160 для определения патологии может принимать решение о лечении пациента. Средство 140 просмотра на фиг. 1 упрощенно указано как дисплей 140, однако в предпочтительном варианте оно представляет собой АРМ (автоматизированное рабочее место) врача. В иллюстративном неограничивающем примере АРМ врача может представлять собой компьютер на базе процессора Intel Core i3 или его аналога, имеющий 8 ГБ RAM, свободное дисковое пространство 40 ГБ, устройство чтения компакт-дисков DVD-R/RW, скорость сетевого соединения 5 Мбит/с, монитор с разрешением экрана 1920x1080, а просмотр может
- 4 045328 выполняться с использованием программ просмотра DICOM изображений или через web-браузер.
Тем самым, система 100 способствует повышению точности принятия врачебного решения.
Также возможен вариант осуществления, в котором сформированные устройством 160 для определения патологии данные отправляются не напрямую в медицинскую организацию 110, запрашивавшую обработку данных, а сначала (напрямую или через центральную медицинскую информационную систему 150) в специализированную экспертную организацию 170, производящую медицинские заключения с использованием результатов работы устройства 160 для определения патологии, или к внешнему врачурентгенологу 180, выполняющему функцию эксперта или консультанта. В таком случае медицинская организация 110 в ответ на отправленное рентгеновское изображение может получать от экспертной организации 170 или от внешнего врача-рентгенолога 180 (опять-таки, напрямую или через центральную медицинскую информационную систему 150) сразу готовое заключение или же предварительное заключение, которое может использоваться для принятия врачебного решения. Это позволяет снизить требования к квалификации и к рабочей нагрузке персонала медицинской организации 110 вплоть до возможности вообще не иметь в штате врача-рентгенолога, что обеспечивает существенное расширение географии возможного использования системы и позволяет получать высококвалифицированные медицинские услуги в тех местоположениях, где раньше они не были доступны из-за отсутствия персонала с надлежащей квалификацией, и с другой стороны, позволяет врачам-рентгентологам подключаться к системе из различных удаленных местоположений без привязки к конкретной медицинской организации.
Следует понимать, что в данном документе блоки 170 и 180 упрощенно упоминаются как экспертная организация 170 и внешний врач-рентгенолог 180, однако технически с точки зрения системы эти блоки представляют собой оборудование/устройства для приема, просмотра, редактирования и передачи данных, которыми управляет/владеет/пользуется экспертная организация 170 и внешний врачрентгенолог 180.
Согласно настоящему изобретению, термин внешний применительно к врачу-рентгенологу означает, что этот врач не состоит в штате медицинской организации 110, проводившей рентгенологическое исследование и запросившей обработку полученного снимка, и/или не находится физически в этой организации и/или не имеет доступа к МИС 130 этой организации. Кроме того, следует понимать, что термин рентгенолог в контексте настоящего изобретения подразумевает, что это медицинский специалист, который обладает подтвержденной квалификацией (знаниями, умениями, навыками и опытом) по анализу (интерпретации) результатов рентгенологического исследования.
Экспертная организация 170 может представлять собой медицинскую или иную организацию, наделенную функциями по анализу медицинских изображений и составлению заключений и обладающую одним или более специалистами соответствующего профиля и надлежащей квалификации по анализу результатов рентгенологического исследования.
Специалисты экспертной организации 170 и внешние врачи-рентгенологи 180 могут осуществлять доступ к данным со специализированного рабочего места (АРМ врача) или с использованием иного подходящего устройства, такого как компьютер, ноутбук, смартфон, планшет, VR-шлем (шлем виртуальной реальности), VR-очки и т.д.
Центральная медицинская информационная система 150, указанная на фиг. 1, экспертная организация 170 или внешний врач-рентгенолог 180 не являются обязательными элементами предложенной системы 100 поддержки принятия врачебных решений. Соответственно, в одном из вариантов осуществления медицинская организация 110 может осуществлять непосредственный обмен данными с устройством 160 для определения патологии. Это обеспечивает упрощение реализации системы 100 поддержки принятия врачебных решений. Такая реализация может быть удобна, например, для случаев, когда число медицинских организаций 110, обслуживаемых устройством 160 для определения патологии, относительно невелико, а экспертные организации 170 или внешние врачи-рентгенологи 180 вообще не привлекаются или их число также относительно невелико.
В другом варианте осуществления, когда в систему 100 поддержки принятия врачебных решений входит множество медицинских организаций 110 и/или множество устройств 160 для определения патологии, а также экспертные организации 170 или внешние врачи-рентгенологи 180, целесообразно применять центральную медицинскую информационную систему 150. Необходимо отметить, что термин центральная в данном случае указывает в первую очередь не на то, что это некий один-единственный центральный сервер, который замыкает на себе все возможные связи, а на то, что центральная медицинская информационная система 150 занимает место посередине, в центре между остальными участниками системы 100 поддержки принятия врачебных решений, выполняя роль промежуточной системы сбора, хранения и перераспределения данных. При этом в зависимости от требований конкретного применения центральная медицинская информационная система 150 может быть как сосредоточенной (централизованной), так и распределенной, в том числе реализованной в облаке.
Изображения, ожидающие обработки, могут группироваться в пакеты (серии) для пересылки на устройство 160 для определения патологии. Соответственно, устройство 160 для определения патологии может выполнять пакетную обработку принятых изображений. Группировка в пакеты может выполняться как в медицинской организации 110, так и в центральной медицинской информационной системе 150.
- 5 045328
Центральная медицинская информационная система 150 может изменять размер и наполнение пакетов, полученных от медицинских организаций 110 -например, сортировать снимки по их разрешению в пикселях, по приоритету или иным параметрам и формировать новые пакеты, причем при необходимости в один и тот же пакет могут быть добавлены снимки от разных медицинских организаций 110.
В одном из вариантов осуществления центральная медицинская информационная система 150 может выполнять первичную валидацию или предобработку изображений. Также первичная валидация или предобработка возможна на стороне медицинской организации 110. Конкретные операции валидации или предобработки описываются далее в данном документе применительно к устройству для определения патологии, поэтому не раскрываются здесь подробно.
Структура устройства для определения патологии органов грудной клетки.
Далее со ссылкой на фиг. 3 будет подробно описано устройство 200 для определения патологии органов грудной клетки на основе рентгеновских изображений согласно настоящему изобретению. Следует отметить, что устройство 200 для определения патологии органов грудной клетки полностью соответствует устройству 160 для определения патологии, изображенному на фиг. 1, и имеет такие же функции и возможности, если это применимо и не противоречит описанию данного раздела.
Устройство 200 для определения патологии содержит блок 210 приема данных, блок 220 хранения данных, блок 230 валидации данных, блок 240 подготовки изображений, блок 250 предсказания патологии, блок 260 формирования отчета, блок 270 передачи данных и блок 280 обучения. В зависимости от конкретного применения некоторые из этих блоков могут отсутствовать, как будет более подробно пояснено позднее в данном документе.
Блок 210 приема данных принимает подлежащие обработке данные, содержащие рентгеновское изображение грудной клетки обследуемого пациента. Блок 210 приема может представлять собой отдельную микросхему, сетевую плату или иное подходящее средство, способное осуществлять связь с внешними устройствами проводным и/или беспроводным образом, например, по протоколу локальной сети (LAN), Интернет и т.д. с помощью технологий Ethernet, оптоволокна, WiFi, 4G и т.д.
Блок 220 хранения данных хранит данные, принятые блоком 210 приема данных, с тем чтобы другие блоки устройства 200 могли ими воспользоваться в подходящий момент времени. Принятые данные могут сохраняться только на время их обработки и стираться, когда их обработка завершена. Для данных целей в одном из вариантов осуществления используется кратковременное запоминающее устройство, такое как RAM и т.п. В другом варианте осуществления принятые данные при необходимости могут сохраняться на более длительный промежуток времени, превышающий непосредственное время их обработки, и тогда может использоваться долговременное запоминающее устройство, такое как жесткий диск и т.п.
Дополнительно блок 220 хранения данных может хранить кратковременно или долговременно данные и/или файлы, получаемые в результате или в процессе работы других блоков устройства.
Блок 230 валидации данных получает подлежащие обработке данные непосредственно от блока 210 приема данных или извлекает их из блока 220 хранения данных. Затем блок 230 валидации данных проверяет, являются ли принятые данные пригодными для обработки.
Как указывалось выше в разделе описания системы 100 поддержки принятия врачебных решений, часть операций валидации могут выполняться на стороне самой медицинской организации или на стороне центральной медицинской информационной системы 150. В таком случае, если устройству 200 для определения патологии известно, какие именно операции валидации уже произведены в отношении подлежащих обработке данных, блок 230 валидации данных может не выполнять эти операции, что позволяет упростить и ускорить обработку и тем самым повысить производительность. Тем не менее, в другом варианте осуществления устройству 200 для определения патологии может быть неизвестно, какие именно операции валидации уже произведены, или оно может повторно выполнять их в целях дополнительной перепроверки. Это может обеспечить повышение качества обработки.
Переходя конкретно к операциям валидации, из подлежащих обработке данных выполняется попытка извлечь изображение. Если попытка терпит неудачу, то делается вывод, что файл изображения поврежден или не может быть прочитан. Причиной этому могут быть такие факторы, как отсутствие изображения в данных, невозможность считывания метаданных, присутствие каких-либо аномальных и не учтенных значений тегов и т.д. В таком случае данные не передаются на обработку, и по ним создается соответствующее указание. Выполнение данной операции в блоке 230 валидации данных является предпочтительным, так как даже если она уже выполнялась ранее другими устройствами, данные могут быть повреждены в процессе их отправки на устройство 200 для определения патологии или могут иметь формат, по той или иной причине недоступный в данный момент устройству 200.
Также может выполняться проверка, соответствуют ли данные, подлежащие обработке, тому типу обработки, который выполняется в данном устройстве 200 для определения патологии. Например, если устройство 200 для определения патологии предназначено для обработки рентгеновских снимков органов грудной клетки в прямой проекции, может выполняться проверка, содержат ли приложенные данные рентгеновский снимок органов грудной клетки в прямой проекции. Различные варианты реализации такой проверки известны специалистам в данной области техники и могут включать в себя, например, предварительно обученную нейронную сеть (нейросеть), производящую соответствующую классифика- 6 045328 цию, или иные методы компьютерного зрения. Если проверка терпит неудачу, то такие данные не передаются на обработку, и по ним создается соответствующее указание. Примеры подобных ошибок, когда исследование заявлено как рентгенограмма органов грудной клетки в прямой проекции, а на самом деле таковым не является и не может быть обработано, приводятся на фиг. 4 и 5.
Кроме того, может производиться проверка, являются ли данные деперсонализированными. Для этого проверяется, содержат ли поля, которые относятся к персональным данным, какие-либо значения, и если содержат, то являются ли эти значения деперсонализированными. Например, если поле PatientName пустое или содержит предварительно заданное значение 0 или Аноним, как указано на фиг. 2 и фиг. 5, то считается, что это поле деперсонализировано, а поле со значением Венера Милосская, указанное на фиг. 4, не является деперсонализированным. Если данные не являются деперсонализированными, то соответствующее изображение не передается на обработку, и по нему создается указание о невозможности обработки.
Следует отметить, что устройство 200 для определения патологии может поддерживать несколько разных допустимых значений деперсонализированных данных, и в таком случае блок 230 валидации данных может проверять, соответствуют ли значения полей в принятых данных хотя бы одному из соответствующих поддерживаемых значений. Если значение не соответствует предварительно заданному допустимому значению, то делается предположение, что принятые данные не являются деперсонализированными. В таком случае они не передаются на обработку, и по ним создается соответствующее указание.
Также может производиться проверка, имеет ли считанное изображение размер (разрешение в пикселях), равный или превышающий предварительно заданный минимальный размер, поддерживаемый устройством 200 - например, 1024x1024 пикселя или 800x800 пикселей, в зависимости от требований конкретного применения. Если исходное изображение имеет размер меньше минимального, то устройство 200 может не обеспечить достаточную точность, поэтому такое изображение не передается на обработку, и по нему создается соответствующее указание.
Кроме того, может выполняться проверка, является ли изображение позитивом или негативом. Различные варианты реализации такой проверки известны специалистам в данной области техники и могут включать в себя, например, предварительно обученную нейронную сеть (нейросеть), производящую соответствующую классификацию, или иные методы компьютерного зрения. Если в результате проверки выявляется, что изображение не соответствует входным требованиям устройства 200 для определения патологии, то в дальнейшем блок 240 подготовки изображений может выполнять надлежащее преобразование изображения в негатив или позитив.
Валидация позволяет отсеять данные, по которым не может быть проведен анализ или же точность обработки будет иметь заведомо низкую точность. Соответственно, снижается нагрузка на самую ресурсоемкую часть анализа и повышается точность предсказания. Кроме того, отсев изображений, которые не являются деперсонализированными, обеспечивает отсутствие обработки персональных данных на стороне устройства 200, что снижает требования к его реализации и сертификации.
Блок 240 подготовки изображений принимает из блока 220 хранения данных и/или из блока 230 валидации данных прошедшее валидацию рентгеновское изображение грудной клетки и выполняет над ним предварительные преобразования, с тем чтобы подготовить его для непосредственного использования в блоке 250 предсказания патологии.
В частности, выполняемая в блоке 240 подготовка изображений может заключаться в следующем.
Подлежащее обработке рентгеновское изображение считывается и при необходимости преобразуется в градации серого с предварительно заданной глубиной цвета. Параметры яркости и цветности исходного изображения зависят от параметров, выставленных врачом-рентгенологом при работе с рентгеновской установкой, и содержатся в метаданных изображения. Например, глубина цвета исходного изображения может составлять 12-16 бит. При этом, например, в результате считывания и преобразования в изображение с глубиной цвета 8 бит может быть получена матрица целочисленных значений пикселей от 0 до 255. Также, как указывалось выше, может выполняться надлежащее преобразование изображения в негатив или позитив.
Исходный размер рентгеновских снимков в основном является относительно большим и составляет в среднем 2500x2500 пикселей, то есть 2500 пикселей по высоте (по вертикали) и 2500 пикселей по длине (по горизонтали). Изображения в таком размере в общем случае поддаются обработке с применением методов машинного обучения, однако такие модели затрачивают очень много ресурсов.
Кроме того, диапазон размеров входных рентгеновских изображений может быть достаточно велик, что может вызвать неудобство, если пытаться производить обработку каждого отдельного изображения непосредственно в исходном размере. В частности, становится затруднительно подобрать набор методов обработки, одинаково эффективный для разных размеров.
В связи с этим перед обработкой больших рентгенограмм предпочтительно производить уменьшение их размера. Это позволяет без значимой потери качества значительно сократить затрачиваемые ресурсы: время, вычислительную мощность, энергопотребление. Применимы различные методы уменьшения размера - например, сжатие, кадрирование (обрезка) и т.д. Методы сжатия известны специалистам в
- 7 045328 данной области техники, поэтому подробное описание процесса сжатия здесь не приводится. Что касается обрезки изображения, она будет описана далее.
Например, в одном из вариантов осуществления, если медицинским специалистом, проводившим исследование, в параметрах изображения предварительно задана область интереса (VOI), то может выполняться соответствующая обрезка изображения (VOI LUT) для получения изображения, содержащего только область интереса. Например, если медицинский специалист, проводивший рентгенологическое исследование органов грудной клетки, указал область интереса, то согласно параметрам, вшитым в изображение, применяется обрезка, в результате которой на изображении остается только область легких.
В другом варианте осуществления в дополнение к вышеупомянутой обрезке VOI LUT или вместо нее выполняется поиск области легких на изображении и кадрирование изображения путем отсечения частей изображения, не входящих в найденную область легких.
Для этого сначала размер входного изображения приводится к единому первому размеру. Первый размер изображения является предварительно заданным - например, 800x800 пикселей. Выбранное значение зависит от требований конкретного применения и производительности используемого оборудования.
В частности, на стадии проектирования может производиться оценка того, какой наименьший размер рентгеновского изображения может поступать в устройство 200 от медицинской организации 110 и/или от центральной медицинской информационной системы 150, и в соответствии с этим задаваться вышеупомянутый первый размер, который меньше или равен наименьшему возможному размеру входного рентгеновского изображения.
Тем не менее, на практике возможны также ситуации, когда наименьший возможный размер входного рентгеновского изображения слишком мал или принцип меньше меньшего по тем или иным причинам не подходит для отдельно взятого конкретного применения. Тогда первый размер, к которому приводятся все входные рентгеновские изображения, может быть задан по иному принципу, и в таком сценарии часть входных изображений будут сжиматься, часть растягиваться, а часть оставаться без изменения.
Затем выполняется кадрирование (crop, кроп) изображения таким образом, чтобы оно охватывало только легкие. В частности, изображение анализируется по отдельности разными методами распознавания образов -например, методом Виолы-Джонса с применением каскадного классификатора на основе признаков Хаара (Haar Cascades), методом гистограммы направленных градиентов (Histogram of Oriented Gradients, HOG) и методом на основе локальных бинарных шаблонов (Local Binary Patterns, LBP), в результате чего формируется несколько прямоугольников, каждый из которых указывает область, которая охватывает только правое и левое легкое. Соотношение сторон прямоугольников зависит от размера и формы легких. Анализ может выполняться параллельно, последовательно или иным подходящим образом. Используемые алгоритмы распознавания образов должны быть предварительно обученными для распознавания легких на изображении, имеющем первый размер.
Упомянутые выше метод Виолы-Джонса, метод гистограммы направленных градиентов и метод на основе локальных бинарных шаблонов являются несколько более быстрыми по сравнению с традиционными сверточными нейронными сетями и требуют несколько меньшей обучающей выборки.
Метод Виолы-Джонса имеет очень высокую точность, когда распознаваемый объект на изображении имеет угол поворота не более 30-35°. Соответственно, он хорошо применим для анализа рентгеновских снимков, так как положение пациента типизировано для получения изображения, например, в прямой проекции или в боковой проекции.
Метод гистограммы направленных градиентов слабо чувствителен к смещению, изменению масштаба и яркости изображения и несколько чувствителен к перемене ориентации объекта. Тем не менее, по указанным выше причинам он также хорошо применим для анализа рентгеновских снимков.
Методы на основе локальных бинарных шаблонов в целом имеют высокую скорость и точность распознавания, а также слабо чувствительны к яркости изображения и к перемене ориентации объекта.
Затем строится один общий прямоугольник (см. пример на фиг. 6А), который включает в себя все ранее полученные прямоугольники (1, 2 и 3 для правого и левого легкого). Входное (приведенное к первому размеру) изображение кадрируется до данного общего прямоугольника, остальные области изображения отбрасываются, поэтому кадрированное изображение содержит только область легких (см. пример на фиг. 6В). В одном из вариантов осуществления каждая сторона общего прямоугольника содержит в себе по меньшей мере одну из сторон прямоугольников, полученных в результате анализа изображения, при этом ни одна из сторон этих прямоугольников не выступает за пределы общего прямоугольника.
Результаты разных методов распознавания образов в общем случае не являются идентичными (в примере на фиг. 6А прямоугольники 1, 2 и 3 отличаются), поэтому такое объединение результатов позволяет охватить легкие полностью без ошибочного отсечения их частей, но в то же время и сфокусироваться именно на области легких, отбросив области, не представляющие интерес для данного исследования.
Кроме того, существует вероятность, что один или два из используемых методов распознавания образов не смогут найти легкое на изображении. Вместе с тем, вероятность того, что все три метода не найдут легкое, крайне мала. Следовательно, использование сразу нескольких методов распознавания образов является оправданным, так как обеспечивается защита от потери данных и повышение точности
- 8 045328 предсказания.
Возможны также и другие варианты осуществления, когда вокруг полученных в результате анализа прямоугольников, как это показано на фиг. 6А, дополнительно захватывается небольшая пограничная зона (отступ) в один или более пикселей, если выбранные конкретные методы анализа недостаточно точны и могут привести к потере областей интереса. Размеры отступов вверх, вниз, вправо и влево могут отличаться. Оптимальные размеры отступов могут подбираться в зависимости от результатов, демонстрируемых обученными алгоритмами, и требований к точности. В конкретном неограничивающем примере, если размер обрабатываемого изображения составляет 512x512 пикселей и применяются все три вышеупомянутых метода распознавания образов, отступ может составлять 15 пикселей (или менее, если отступ выходит за границу изображения). Это позволяет избежать потери данных и повысить точность предсказания.
Соотношение сторон изображения легких, полученного в результате кадрирования (то есть общего прямоугольника) (фиг. 6В), зависит от размера и формы легких. Для дальнейшей обработки требуется привести его к единому формату. Для этого размер изображения изменяется до второго размера. Второй размер изображения является предварительно заданным -например, в виде квадрата 224x224, 320x320 или 512x512 пикселей. Выбранное значение зависит от требований конкретной применяемой далее нейросети. Что касается указанного выше первого размера изображения (800x800 пикселей), он позволяет существенно уменьшить размер исходного изображения для ускорения обработки, но при этом получить в результате кадрирования по-прежнему относительно большое изображение, которое не пришлось бы в большинстве случаев растягивать для приведения ко второму размеру, что потенциально могло бы уменьшить точность обработки.
Приведенное ко второму размеру изображение подвергается нормализации. В частности, значения пикселей из исходного диапазона (например, [0...255]) приводятся к диапазону, требуемому применяемой далее нейросетью (например, [0...1]). Различные методы нормализации известны специалистам в данной области техники и не раскрываются здесь подробно. В иллюстративном неограничивающем примере может применяться простая нормализация (X-Xmin)/(Xmax-Xmin), где X - это значение текущего пикселя, a Xmin и Xmax - это минимальное и максимальное значения пикселей в нормализуемом изображении.
Следует понимать, что возможны варианты осуществления, в которых нормализация изображения может быть выполнена и на более ранней стадии - например, еще до первого сжатия изображения. Тем не менее, предпочтительно выполнять ее после приведения кадрированного изображения ко второму размеру, так как это позволяет повысить точность на каждом из предыдущих этапов подготовки (предварительной обработки) изображения, а также несколько снизить объем вычислений, производимых непосредственно при нормализации.
Тем самым, создается изображение, подготовленное к дальнейшей обработке.
Блок 250 предсказания патологии принимает из блока 220 хранения данных и/или из блока 240 подготовки изображений подготовленное рентгеновское изображение грудной клетки, ограниченное областью легких, и анализирует его. В частности, блок 250 предсказания патологии с использованием предварительно обученной нейронной сети определяет наличие или отсутствие патологии и при ее наличии определяет наиболее вероятные границы, в пределах которых она расположена.
Существует ряд патологических состояний органов грудной клетки, которые могут быть идентифицированы по рентгеновскому изображению врачом. Создание устройства, которое на основе ИИ анализировало бы снимки и выдавало точное указание для каждой из множества возможных патологий, является затруднительным и представляется нецелесообразным, поскольку многие патологии имеют схожие между собой признаки, и одного лишь деперсонализированного снимка для более детального предсказания часто бывает недостаточно, даже если нейронные сети обучены на больших качественно размеченных наборах данных.
Соответственно, в данном изобретении предлагается не анализировать дифференцированную вероятность конкретной патологии, а вместо этого определять вероятность наличия хотя бы одного рентгенологического признака из следующего перечня:
плевральный выпот;
пневмоторакс;
ателектаз;
очаг затемнения;
инфильтрация/консолидация;
диссеминация;
полость с распадом;
полость с уровнем жидкости;
кальцинат/кальцинированная тень в легких;
нарушение целостности кортикального слоя.
Следует отметить, что термин пневмония объединяет большую группу болезней, каждая из кото- 9 045328 рых имеет свою этиологию, патогенез, клиническую картину, рентгенологические признаки, характерные данные лабораторных исследований и особенности терапии. Учитывая, что многие из перечисленных выше рентгенологических признаков могут наблюдаться при пневмонии, настоящее изобретение позволяет выявлять в числе прочего признаки пневмонии.
Врач, получивший результат вышеуказанного определения, имеющий определенный опыт, а также при необходимости располагающий дополнительной информацией о пациенте, такой как анамнез, история болезни, жалобы, физическое состояние, результаты анализов и т.д., может иметь более полную картину и сделать более точное заключение. Соответственно, следует отметить, что результат работы предложенного устройства не является клинически значимым медицинским заключением, а применяется для поддержки принятия врачебных решений, при этом клиническое заключение должно приниматься врачом-рентгенологом.
Выполняемая в блоке 250 обработка изображений может заключаться в следующем.
Нейронная сеть интерпретирует полученное изображение с целью выявления признаков патологий, при этом в качестве результата работы выдается вероятность наличия хотя бы одного рентгенологического признака из вышеуказанного перечня.
На выходе нейронной сети может выводиться, например, двоичное число, указывающее, имеется ли патология на данном снимке. 0 может указывать на отсутствие патологии (то есть на то, что пациент здоров), а 1 может указывать на наличие патологии. Возможно также и обратное указание, где 1 здоров, 0 - вероятно, болен. В другом варианте осуществления на выходе нейронной сети может выводиться число в некотором диапазоне, например, от 0 до 1 или от 0 до 100, указывающее вероятность наличия патологии. Также возможен текстовый формат указания.
Далее будет более подробно описано предварительное обучение модели. В частности, оно производится по методу обучения с учителем на основе множества рентгеновских изображений, которые были заранее обработаны и размечены медицинскими специалистами, обладающими достаточной квалификацией - например, врачами-рентгенологами. В частности, в результате визуального изучения изображений врач указывает, имеется ли на представленном изображении патология. Например, 0 может указывать на отсутствие патологии (то есть на то, что пациент здоров), а 1 может указывать на наличие патологии, или наоборот. Это делает либо врач вручную, либо считывание производится автоматически из данных о пациенте, сохраненных в медицинской информационной системе 130 медицинской организации 110 или в центральной медицинской информационной системе 150, либо из метаданных изображения, если они содержат эти сведения, и т.д. Добавление меток вручную может происходить путем анализа текста описания снимка врачом, на основании которого составлялось заключение о наличии/отсутствии патологии на снимке. Также возможно автоматическое распознавание имеющихся текстов описаний к снимкам/на снимках, однако следует понимать, что точность распознавания в общем случае не равна 100%, что снижает степень доверия к такой разметке и вносит потенциальные ошибки в процесс обучения.
Процессом обучения нейронной сети управляет блок 280 обучения посредством применения алгоритма обучения к обучаемой нейронной сети с использованием обучающих данных. Указания (разметка) от врача используются обучаемой нейронной сетью в качестве истинных данных (ground truth). Например, в одном варианте осуществления разметка может представлять собой число: 1 (болен). В другом варианте осуществления разметка может представлять собой иное значение - например, здоров.
В иллюстративном варианте осуществления 70% взятых для обучения изображений могут использоваться непосредственно для обучения, а 30% для тестирования модели. В другом варианте осуществления может использоваться иное соотношение, более подходящее для целей обучения конкретной нейросети. Например, для обучения нейросети изображения могут быть разделены на обучающую, валидационную и тестовую выборки. Размер обучающей выборки может составлять 70%, размер валидационной выборки может составлять 15%, и размер тестовой выборки может составлять 15% от изображений, поданных на обучение. Конкретные соотношения зависят от количества обучающих снимков и предназначены для проверки обобщаемой модели - происходит проверка, в какой мере результаты исследования применимы к новым данным, перед использованием модели в рабочем режиме в медицинской организации.
В процессе обучения изображения подготавливаются аналогично тому, как было описано выше применительно к блоку 240, и подаются на вход нейросети, при этом используются изображения как с наличием, так и с отсутствием патологий. На каждом шаге обучения нейронная сеть рассчитывает предсказания для одного или более изображений. Эти предсказания сравниваются с указанием истинного наличия/отсутствия патологии, и рассчитывается значение функции потерь (насколько сильно нейронная сеть ошиблась в выявлении наличия патологии). Далее, с помощью метода градиентного спуска и алгоритма обратного распространения ошибки (backpropagation) все веса (весовые коэффициенты) нейронной сети изменяются в соответствии с выбранным параметром скорости обучения в направлении, обратном вычисленному градиенту, для того чтобы минимизировать ошибку на текущем(их) изображении(ях). Этот шаг повторяется многократно, и в результате процесса обучения веса нейронной сети сходятся к оптимальным. В дальнейшем эти веса используются сетью в процессе работы устройства для выявления патологий на входных изображениях, которые не подвергались разметке.
- 10 045328
В одном из вариантов осуществления выходные данные блока 250 предсказания патологии, то есть указание вероятности наличия патологии, являются конечным результатом работы устройства 200 и используются далее другими устройствами - например, сохраняются в блоке 220 хранения данных, откуда в дальнейшем могут извлекаться по запросу от других устройств, и/или отправляются в блок 270 передачи данных, который передает этот результат в другое устройство - например, в центральную медицинскую информационную систему 150 или в медицинскую организацию 110, запрашивавшую обработку данных.
В другом варианте осуществления выходные данные блока 250 предсказания патологии также передаются в блок 260 формирования отчета, который формирует отчет об исследовании, проведенном в устройстве 200. Отчет об исследовании может содержать по меньшей мере одно из следующего: а) изображение с визуализацией патологии; б) текстовый протокол исследования.
Изображение с визуализацией патологии может формироваться для тех рентгеновских изображений, для которых в результате анализа была выявлена вероятность наличия патологии, превышающая предварительно заданную пороговую вероятность наличия патологии, что указывает на то, что рентгенологу следует обратить внимание на такой снимок. Пороговая вероятность наличия патологии в общем случае составляет 0,5 (или 50%), но в зависимости от показателей точности конкретной обученной модели и от степени доверия к ней может варьироваться при практическом применении как в меньшую, так и в большую сторону. Например, медицинская организация может специализироваться на лечении таких заболеваний, раннее выявление которых является критически важным с точки зрения прогноза лечения, поэтому может запрашивать визуализированные изображения, если устройством выявлена вероятность наличия патологии всего 10% и более. В другом примере медицинская организация может быть прикреплена к предприятию, и основной контингент ее пациентов может иметь профессиональные хронические заболевания органов грудной клетки, и некоторые изменения на снимках у таких пациентов могут считаться допустимыми, поэтому визуализация может запрашиваться только для случаев, когда устройством выявлена вероятность наличия патологии 60% и более. Следует отметить, что возможно множество иных ситуаций, которые не перечислены в данном документе, но входят в объем данного изобретения. Возможность выбора пороговой вероятности наличия патологии позволяет адаптировать результаты работы предложенного устройства 200 к различным конкретным применениям, например, чтобы снизить нагрузку на медицинский персонал и при этом обеспечить раннее выявление патологий с необходимой точностью.
Изображение с визуализацией патологии представляет собой копию проанализированного изображения, на которое наложено указание найденных признаков патологий. Например, в случае использования формата DICOM оно может быть сформировано в виде DICOM Secondary Capture (вторичный снимок DICOM).
Возможны различные варианты визуализации. В одном из вариантов осуществления визуализация может выполняться в виде тепловой карты, на которой выполняется более интенсивное выделение тех точек и/или областей, которые представляют больший интерес с точки зрения наличия патологий, менее интенсивное выделение тех точек и/или областей, которые представляют меньший интерес, а те области, которые, предположительно, не содержат патологии, не выделяются. Принцип выделения может быть различным - так, выделение может выполняться с помощью градиента одного и того же цвета (например, оттенки красного или оранжевого), с помощью градиентного перехода от одних цветов к другим цветам (например, от желтого к красному), с помощью точного указания цвета (например, голубой - меньшая вероятность, синий - большая вероятность), с помощью размера точки (например, чем меньше вероятность, тем меньше точка) и т.д. Применимы различные методы построения тепловых карт -например, повышенные характеристики показывает комбинация из двух методов: Grad-CAM (взвешенная комбинация карт активации классов на основе градиентов) и Saliency maps (карты значимости). В частности, каждый из этих методов по отдельности анализирует входное изображение нейронной сети и активации (числа) внутри нейронной сети, которые были получены при прогоне через нее этого изображения, после чего результаты работы методов объединяются, и строится общая тепловая карта, пример которой изображен на фиг. 7.
Тепловые карты позволяют регулировать степень внимания, которую медицинскому специалисту следует обратить при изучении той или иной области на снимке, избавляя от необходимости детального визуального осмотра всего изображения. Таким образом, обеспечивается снижение нагрузки на медицинский персонал.
Тем не менее, возможны ситуации, когда тепловая карта является недостаточно точной, и в таком случае врачу, наоборот, приходится тратить время на изучение такой области, которая не представляет интереса. Также выяснилось, что в некоторых реализациях тепловые карты загромождают собой изображение, вследствие чего специалисту приходится тратить время на то, чтобы просматривать одновременно два изображения: как исходное изображение, так и изображение с нанесенной на него тепловой картой.
Соответственно, в другом варианте осуществления настоящего изобретения визуализация может выполняться в виде очертания границ (или контуров), охватывающих одну или более областей на изображении, на которой имеется вероятность наличия патологии, или иными словами, на которой блоком
- 11 045328
250 предсказания патологии обнаружены признаки патологии. Для реализации такого подхода могут использоваться разные методы компьютерного зрения, анализирующие состояние нейронной сети блока 250 предсказания патологии. Например, как указывалось выше, повышенные характеристики показывает комбинация из двух методов: метода Grad-CAM (взвешенная комбинация карт активации классов на основе градиентов) и Saliency maps (карты значимости). К построенной на их основе тепловой карте применяется предварительно заданное пороговое значение теплоты, по которому и чертится контур (например, 0,25, 0,3 и т.п.). Таким образом, образуются замкнутые контуры, которые охватывают области с теплотой, равной или превышающей порог, тогда как области с теплотой, которая ниже порога, отбрасываются. Сами тепловые карты на изображение не наносятся, на нем визуализируются только контуры, как показано в примере на фиг. 8.
Изображение с нанесенными на него очертаниями границ возможных патологий, по-прежнему, позволяет снизить нагрузку на медицинский персонал, при этом достаточно изучать только его, не обращаясь к исходному изображению. Кроме того, такой подход позволяет сгладить неточности в определении областей интереса.
В одном варианте осуществления указание найденных признаков патологий в виде тепловой карты или границ патологий может накладываться на копию изображения, которое непосредственно анализировалось нейронной сетью, то есть на изображение, которое по сравнению с исходным рентгеновским изображением, полученным в подлежащих обработке данных, подверглось сжатию, кадрированию и приведению к единому размеру. Это упрощает процесс визуализации патологии, но в таком случае полученное изображение отличается от первоначального, поэтому это может вызывать некоторое неудобство врача-рентгенолога, сопоставляющего эти два изображения.
В другом варианте осуществления указание найденных признаков патологий в виде тепловой карты или границ патологий может накладываться на исходное рентгеновское изображение, полученное в подлежащих обработке данных. Для реализации этого подхода параметры всех преобразований, выполнявшихся над исходным изображением и связанных с изменением его размера, смещением, поворотом, обрезкой и кадрированием, сохраняются блоком 240 подготовки изображений -например, в блоке 220 хранения. После отработки методов поиска признаков патологий получается визуализация патологии в виде тепловой карты или границ патологий с привязкой к размерам, форме и положению изображения, которое непосредственно анализировалось нейронной сетью. К полученной визуализации в обратном порядке применяются преобразования, обратные вышеуказанным сохраненным преобразованиям, с тем чтобы получить в результате визуализацию патологии с привязкой к размерам, форме и положению исходного рентгеновского изображения. Затем такая визуализация накладывается на копию исходного изображения. Это несколько усложняет обработку, но позволяет снизить время на анализ изображения врачомрентгенологом и повысить точность идентификации патологий. Особенно это применимо к тепловым картам, когда сопоставление исходного изображения и изображения с визуализацией патологии во многом является насущной необходимостью для врача-рентгенолога.
При необходимости изображение с визуализацией патологии может содержать в текстовом виде указание вероятности наличия патологии, полученное в результате работы первой нейросети блока 250 предсказания патологии. Тем самым, уменьшается необходимость изучать какие-либо иные изображения или файлы, в том числе исходное изображение и/или файл с текстовым протоколом исследования.
Обращаясь теперь к текстовому протоколу исследования, можно отметить, что он может как дополнять вышеописанное изображение с визуализацией патологии, так и заменять его. Текстовый протокол исследования содержит результаты работы и описание работы устройства 200 в виде текстовой информации, например, в формате CSV. В случае использования формата DICOM протокол может быть сформирован в виде DICOM Structured Report (структурированный отчет DICOM).
В частности, текстовый протокол исследования может содержать.
1) Наименование исходного изображения (ссылку на него в виде соответствующего идентификатора - например, StudyInstancelD).
2) Рекомендацию (или иными словами, предсказание). Как указывалось выше, данная рекомендация может иметь двоичное значение (например, 0/1), может быть числом в некотором диапазоне, указывающем вероятность наличия патологии (например, от 0 до 1), или может иметь текстовый формат (например, вероятно, болен/вероятно, здоров).
3) Временные метки - время получения исследования, время формирования отчета.
4) Информацию об ошибках работы устройства в ходе анализа, если таковые были.
Полученный в результате работы блока 260 отчет об исследовании, содержащий изображение с визуализацией патологии и/или текстовый протокол исследования, сохраняется в блоке 220 хранения данных, откуда в дальнейшем может извлекаться по запросу от других устройств, и/или отправляется в блок 270 передачи данных, который передает этот отчет в другое устройство - например, в центральную медицинскую информационную систему 150 или в медицинскую организацию 110, запрашивавшую обработку данных.
В одном из вариантов осуществления результаты рентгенологических исследований органов грудной клетки, полученные устройством 200, могут при необходимости храниться в устройстве в течение
- 12 045328 предварительно заданного времени (например, семи дней) и далее удаляться. Это может выполняться, например, с целью резервного копирования, чтобы результат анализа можно было запросить и передать повторно без необходимости полноценного повторного анализа.
Таким образом, обеспечивается устройство для определения патологии органов грудной клетки, способное с повышенной точностью автоматически определять вероятность патологии. Это позволяет снизить требования к квалификации медицинского персонала и уменьшить влияние человеческого фактора (внимательность, утомляемость, ответственность). Также обеспечивается возможность использования для обучения большого числа разрозненных наборов данных. Кроме того, результат исследования обеспечивает исчерпывающий набор сведений, необходимый для принятия корректного врачебного решения с повышенной скоростью и точностью.
В иллюстративном неограничивающем примере для целей настоящего изобретения устройство 200 определения патологии может быть реализовано в виде облачного сервера, имеющего 24 вычислительных ядра, 64 ГБ RAM, дисковое пространство 300 ГБ под операционную систему CentOS 7, дисковое пространство 12 ТБ под данные, дисковое пространство 1,5 ТБ под базу данных и 2 сетевых адаптера.
Способ определения патологии органов грудной клетки.
Далее со ссылкой на фиг. 9 будет описан способ 400 определения патологии органов грудной клетки.
Следует понимать, что этапы способа 400 соответствуют вышеописанным функциям, выполняемым каждым из блоков в устройстве 200, и если какая-либо информация не раскрывается применительно к способу, но раскрывается применительно к устройству, и наоборот, то это не подразумевает, что в устройстве или способе эта функция или этап не может выполняться, а сделано лишь для того, чтобы не загромождать описание повторением подробностей. Следует также понимать, что в зависимости от конкретного применения некоторые из описанных этапов способа могут не использоваться.
Способ 400 определения патологии может содержать этап S410, на котором принимают подлежащие обработке данные, содержащие рентгеновское изображение грудной клетки обследуемого пациента.
Способ 400 определения патологии также может содержать этап S430, на котором выполняют валидацию посредством проверки, являются ли подлежащие обработке данные пригодными для обработки.
Способ 400 определения патологии также может содержать этап S440, на котором подготавливают изображение, содержащееся в подлежащих обработке данных, для использования нейронной сетью посредством выполнения над ним одного или более предварительных преобразований.
Способ 400 определения патологии содержит этап S450, на котором с использованием предварительно обученной нейронной сети анализируют подготовленное изображение и определяют наличие или отсутствие патологии органов на изображении.
Способ 400 определения патологии также может содержать этап S451, на котором при наличии патологии определяют наиболее вероятные границы, в пределах которых она расположена, с использованием предварительно обученной нейронной сети.
Способ 400 определения патологии также может содержать этап S460, на котором формируют отчет об исследовании, содержащий по меньшей мере одно из следующего: а) изображение с визуализацией патологии; б) текстовый протокол исследования.
Способ 400 определения патологии также может содержать этап S470, на котором передают результат обработки, полученный на этапах S450, S451 и S460, в устройство, запрашивавшее обработку данных.
Способ 400 определения патологии также может содержать этап S480 (не показан), на котором выполняют предварительное обучение нейронной сети с использованием предварительно размеченных обучающих изображений, причем разметка для каждого изображения содержит указание на наличие или отсутствие патологии органов в области изображения, в отношении которых требуется выполнить обучение нейронной сети.
Способ 400 определения патологии также может содержать этап S490 (не показан), на котором с использованием результата обработки, полученного на этапах S450, S451 и S460, принимают врачебное решение о наличии или отсутствии патологии органов в области изображения и при необходимости о характере патологии.
Способ 400 определения патологии также может содержать этап S491 (не показан), на котором назначают и/или проводят лечение пациента на основе результата обработки, полученного на этапах S450, S451 и S460, и/или врачебного решения, принятого на этапе S490.
Способ 400 определения патологии также может содержать этап S420 (не показан), на котором сохраняют в памяти данные, принятые блоком 210 приема данных и/или получаемые в результате или в процессе выполнения других этапов способа.
Предложенный способ определения патологии органов грудной клетки обеспечивает повышенную точность автоматического определения вероятности патологии, позволяет снизить требования к квалификации медицинского персонала и уменьшить влияние человеческого фактора (внимательность, утомляемость, ответственность). Кроме того, результат исследования обеспечивает исчерпывающий набор сведений, необходимый для принятия корректного врачебного решения с повышенной скоростью и точностью.
- 13 045328
Применение.
Устройства и способы согласно настоящему изобретению можно использовать для обработки рентгеновских изображений органов грудной клетки с целью выявления в них признаков патологий.
Дополнительные особенности реализации.
Несмотря на то, что в данном документе может быть указано, что данные передаются/отправляются или принимаются/получаются человеком (например, медицинским специалистом, врачом, экспертом), специалист в данной области техники должен понимать, что такое указание используется исключительно в целях упрощения описания, тогда как на самом деле подразумевается, что данные передаются/отправляются или принимаются/получаются соответствующим устройством, которым пользуется и/или управляет этот человек.
Один или более описанных в настоящем документе блоков или устройств передачи (передатчиков) и один или более или устройств блоков приема (приемников) физически могут быть реализованы в одном и том же блоке или устройстве приемопередачи или в разных блоках или устройствах.
Устройством или блоком передачи в данном документе для упрощения описания может называться устройство или блок, имеющий функции не только передачи, но и приема данных, информации и/или сигналов. Аналогичным образом, устройство или блок приема может также заключать в себе функции передачи данных, информации и/или сигналов.
Различные иллюстративные блоки и модули, описанные в связи с раскрытием сущности в данном документе, могут реализовываться или выполняться с помощью процессора общего назначения, процессора цифровых сигналов (DSP), специализированной интегральной схемы (ASIC), программируемой пользователем вентильной матрицы (FPGA) или другого программируемого логического устройства (PLD), дискретного логического элемента или транзисторной логики, дискретных аппаратных компонентов либо любой комбинации вышеозначенного, предназначенной для того, чтобы выполнять описанные в данном документе функции. Процессор общего назначения может представлять собой микропроцессор, но в альтернативном варианте, процессор может представлять собой любой традиционный процессор, контроллер, микроконтроллер или конечный автомат. Процессор также может реализовываться как комбинация вычислительных устройств (к примеру, комбинация DSP и микропроцессора, несколько микропроцессоров, один или более микропроцессоров вместе с DSP-ядром либо любая другая подобная конфигурация).
Некоторые блоки по отдельности или вместе могут представлять собой, например, компьютер, и включать в себя процессор, который сконфигурирован для вызова и выполнения компьютерных программ из памяти для выполнения этапов способа или функций блоков в соответствии с вариантами осуществления настоящего изобретения. Согласно вариантам осуществления, устройство может дополнительно включать в себя память. Процессор может вызывать и выполнять компьютерные программы из памяти для выполнения способа. Память может быть отдельным устройством, независимым от процессора, или может быть интегрирована в процессор. Память может хранить код, инструкции, команды и/или данные для исполнения на наборе из одного или более процессоров описанного устройства. Коды, инструкции, команды могут предписывать процессору выполнять этапы способа или функции устройства.
Функции, описанные в данном документе, могут реализовываться в аппаратном обеспечении, программном обеспечении, выполняемом посредством одного или более процессоров, микропрограммном обеспечении или в любой комбинации вышеозначенного. Аппаратные и программные средства, реализующие функции, также могут физически находиться в различных позициях, в том числе согласно такому распределению, что части функций реализуются в различных физических местоположениях, то есть может выполняться распределенная обработка или распределенные вычисления.
При необходимости (например, в случае если велик объем данных и/или вычислений, которые необходимо выполнить в отношении этих данных), может производиться многопоточная обработка данных, которая в простом представлении может выражаться в том, что все множество подлежащих обработке данных разделяется на набор подмножеств, и каждое ядро процессора выполняет обработку в отношении назначенного для него подмножества данных.
Вышеупомянутая память может быть энергозависимой или энергонезависимой памятью или может включать в себя как энергозависимую, так и энергонезависимую память. Специалисту в области техники должно быть также понятно, что, когда речь идет о памяти и о хранении данных, программ, кодов, инструкций, команд и т.п., подразумевается наличие машиночитаемого (или компьютерно-читаемого, процессорно-читаемого) запоминающего носителя. Машиночитаемые носители данных включают в себя как некратковременные компьютерные носители хранения данных, так и среду связи, включающую в себя любую передающую среду, которая упрощает перемещение компьютерной программы или ее части из одного места в другое. Некратковременный машиночитаемый запоминающий носитель может представлять собой любой доступный носитель, который может использоваться для того, чтобы переносить или сохранять требуемое средство программного кода в форме инструкций или структур данных, и к которому можно осуществлять доступ посредством компьютера, процессора или иного устройства обработки общего назначения или специального назначения.
В качестве примера, а не ограничения, машиночитаемые носители могут содержать постоянное за- 14 045328 поминающее устройство (ROM), программируемое постоянное запоминающее устройство (PROM), стираемое программируемое постоянное запоминающее устройство (EPROM), электронно-стираемое программируемое постоянное запоминающее устройство (EEPROM), флэш-память, оперативную память (RAM), статическую память с произвольным доступом (SRAM), динамическую память с произвольным доступом (DRAM), синхронную динамическую память с произвольным доступом (SDRAM), синхронную динамическую память с произвольной выборкой с двойной скоростью передачи данных (DDR SDRAM), синхронную динамическую память с произвольной выборкой с повышенной скоростью (ESDRAM), DRAM с синхронной линией связи (SLDRAM) и оперативную память с шиной прямого доступа (DR RAM), регистр, кэш-память, полупроводниковые запоминающие устройства, магнитные носители, такие как внутренние жесткие диски и съемные диски, магнитооптические носители и оптические носители, такие как диски CD-ROM и цифровые универсальные диски (DVD), а также любые другие известные в уровне техники носители данных.
Информация и сигналы, описанные в данном документе, могут представляться с помощью любой из множества различных технологий. Например, данные, инструкции, команды, информация, сигналы, биты, символы и элементарные сигналы, которые могут приводиться в качестве примера в вышеприведенном описании, могут представляться посредством напряжений, токов, электромагнитных волн, магнитных полей или частиц, оптических полей или частиц либо любой комбинации вышеозначенного, если это применимо к настоящему изобретению.
По меньшей мере один из этапов в способе или блоков в устройстве может использовать модель искусственного интеллекта (AI) для выполнения соответствующих операций. Функция, связанная с AI, может выполняться через процессор и энергонезависимую и/или энергозависимую память.
Процессор может включать в себя один или более процессоров. В то же время, один или более процессоров могут быть процессором общего назначения, например центральным процессором (CPU), прикладным процессором (АР) и т.п., блоком обработки только графики, таким как графический процессор (GPU), визуальный процессор (VPU), и/или специализированным процессором AI, таким как нейронный процессор (NPU).
Один или более процессоров управляют обработкой входных данных в соответствии с предварительно определенным правилом работы или моделью искусственного интеллекта (AI), хранящейся в энергонезависимой памяти и/или энергозависимой памяти. Предварительно определенное правило работы или модель искусственного интеллекта могут быть получены путем обучения. При этом процессор может выполнять операцию предварительной обработки данных для преобразования в форму, подходящую для использования в качестве входных данных для модели искусственного интеллекта.
Получены путем обучения означает, что посредством применения алгоритма обучения к обучаемой модели искусственного интеллекта с использованием множества обучающих данных создается предварительно определенное правило работы или модель AI с желаемой характеристикой. Обучение может выполняться на самом устройстве, в котором выполняется AI согласно варианту осуществления, и/или может быть реализовано через отдельный сервер/систему.
Модель искусственного интеллекта может включать в себя множество слоев нейронной сети. Каждый из множества слоев нейронной сети включает в себя множество весовых значений (коэффициентов) и выполняет рабочую операцию для данного слоя путем вычисления с применением множества весовых значений данного слоя в отношении входных данных или результата вычисления предыдущего слоя.
Примеры нейронных сетей включают, помимо прочего, сверточную нейронную сеть (CNN), глубокую нейронную сеть (DNN), рекуррентную нейронную сеть (RNN), ограниченную машину Больцмана (RBM), глубокую сеть доверия (DBN), двунаправленную рекуррентную глубокую нейронную сеть (BRDNN), генеративно-состязательные сети (GAN) и глубокие Q-сети.
Алгоритм обучения - это метод обучения предварительно определенного целевого устройства (например, нейронной сети на базе GPU или NPU) с использованием множества обучающих данных, чтобы вызывать, разрешать или управлять целевым устройством для выполнения определения или прогнозирования. Примеры алгоритмов обучения включают, но не ограничиваются ими, обучение с учителем, обучение без учителя, обучение с частичным привлечением учителя или обучение с подкреплением.
Следует понимать, что хотя в настоящем документе для описания различных блоков, модулей, сетей, элементов, компонентов, областей, слоев и/или секций, могут использоваться такие термины, как первый, второй, третий и т.п., эти блоки, модули, сети, элементы, компоненты, области, слои и/или секции не должны ограничиваться этими терминами. Эти термины используются только для того, чтобы отличить один блок, модуль, сеть, элемент, компонент, область, слой или секцию от другого блока, модуля, сети, элемента, компонента, области, слоя или секции. Так, первый блок, модуль, сеть, элемент, компонент, область, слой или секция может быть назван вторым блоком, модулем, сетью, элементом, компонентом, областью, слоем или секцией без выхода за рамки объема настоящего изобретения. В настоящем описании термин и/или включает любые и все комбинации из одной или более из соответствующих перечисленных позиций. Элементы, упомянутые в единственном числе, не исключают множественности элементов, если отдельно не указано иное.
Функциональность элемента, указанного в описании или формуле изобретения как единый элемент,
-
Claims (9)
- может быть реализована на практике посредством нескольких компонентов устройства, и наоборот, функциональность элементов, указанных в описании или формуле изобретения как несколько отдельных элементов, может быть реализована на практике посредством единого компонента.В одном из вариантов осуществления некоторые или все элементы/блоки/модули предложенного устройства находятся в общем корпусе, могут быть размещены на одной раме/конструкции/печатной плате/кристалле и связаны друг с другом конструктивно посредством монтажных (сборочных) операций и функционально посредством линий связи. Упомянутые линии или каналы связи, если не указано иное, являются типовыми, известными специалистам линиями связи, материальная реализация которых не требует творческих усилий. Линией связи может быть провод, набор проводов, шина, дорожка, беспроводная линия связи (индуктивная, радиочастотная, инфракрасная, ультразвуковая и т.д.). Протоколы связи по линиям связи известны специалистам и не раскрываются отдельно.Под функциональной связью элементов следует понимать связь, обеспечивающую корректное взаимодействие этих элементов друг с другом и реализацию той или иной функциональности элементов. Частными примерами функциональной связи может быть связь с возможностью обмена информацией, связь с возможностью передачи электрического тока, связь с возможностью передачи механического движения, связь с возможностью передачи света, звука, электромагнитных или механических колебаний и т.д. Конкретный вид функциональной связи определяется характером взаимодействия упомянутых элементов, и, если не указано иное, обеспечивается широко известными средствами, используя широко известные в технике принципы.Конструктивное исполнение элементов предложенного устройства является известным для специалистов в данной области техники и не описывается отдельно в данном документе, если не указано иное. Элементы устройства могут быть выполнены из любого подходящего материала. Эти составные части могут быть изготовлены с использованием известных способов, включая, лишь в качестве примера, механическую обработку на станках, литье по выплавляемой модели, наращивание кристаллов. Операции сборки, соединения и иные операции в соответствии с приведенным описанием также соответствуют знаниям специалиста в данной области и, таким образом, более подробно поясняться здесь не будут.Несмотря на то, что примерные варианты осуществления были подробно описаны и показаны на сопроводительных чертежах, следует понимать, что такие варианты осуществления являются лишь иллюстративными и не предназначены ограничивать настоящее изобретение, и что данное изобретение не должно ограничиваться конкретными показанными и описанными компоновками и конструкциями, поскольку специалисту в данной области техники на основе информации, изложенной в описании, и знаний уровня техники могут быть очевидны различные другие модификации и варианты осуществления изобретения, не выходящие за пределы сущности и объема данного изобретения.ФОРМУЛА ИЗОБРЕТЕНИЯ1. Устройство для определения патологии органов грудной клетки на основе анализа рентгеновских изображений, содержащее блок приема данных, выполненный с возможностью принимать подлежащие обработке данные, содержащие рентгеновское изображение органов грудной клетки в прямой проекции, от устройства, запрашивающего обработку данных, посредством осуществления связи с ним;блок подготовки изображений, выполненный с возможностью подготавливать с использованием по меньшей мере одного процессора рентгеновское изображение, содержащееся в подлежащих обработке данных, посредством выполнения над ним одного или более предварительных преобразований для использования нейронной сетью, работающей на основе по меньшей мере одного процессора, причем в процессе подготовки блок подготовки изображений выполнен с возможностью автоматического кадрирования изображения таким образом, чтобы оно охватывало только легкие, посредством поиска на изображении правого легкого и левого легкого по отдельности по меньшей двумя разными не зависящими друг от друга предварительно обученными методами распознавания образов, отличными от нейронных сетей, формирования множества прямоугольников, каждый из которых охватывает одно найденное легкое и только его, на основе выполненных поисков, формирования общего прямоугольника, который включает в себя, по существу, только упомянутое множество прямоугольников, и отсечения от изображения областей, выходящих за рамки общего прямоугольника;блок предсказания патологии, выполненный с возможностью с использованием упомянутой нейронной сети анализировать подготовленное изображение и определять наличие или отсутствие патологии на изображении;блок формирования отчета, выполненный с возможностью формировать с использованием по меньшей мере одного процессора отчет об исследовании, проведенном в данном устройстве, причем отчет об исследовании содержит по меньшей мере один файл, содержащий указание на результат обработки, выполненной в блоке предсказания патологии; и- 16 045328 блок передачи данных, выполненный с возможностью передавать отчет в устройство, запрашивавшее обработку данных, посредством осуществления связи с ним.
- 2. Устройство по п.1, в котором, если определено, что на изображении имеется патология, блок формирования отчета дополнительно выполнен с возможностью выявления возможных областей, на которых найдены признаки патологий;формирования изображения с визуализацией патологии в виде указания найденных областей с признаками патологий; и формирования отчета об исследовании, содержащего изображение с визуализацией патологии.
- 3. Устройство по п.2, в котором выявление возможных областей с признаками патологий выполняется с использованием методов компьютерного зрения, анализирующих входное изображение нейронной сети и активации внутри нейронной сети блока предсказания патологии, которые были получены при прогоне через нее этого изображения.
- 4. Устройство по п.3, в котором в качестве методов компьютерного зрения используется комбинация методов Grad-CAM (взвешенная комбинация карт активации классов на основе градиентов) и Saliency maps (карты значимости).
- 5. Устройство по п.2, в котором указание найденных областей с признаками патологий выполнено в виде тепловой карты или очертания границ областей.
- 6. Устройство по п.2, в котором для формирования изображения с визуализацией патологии блок формирования отчета выполнен с возможностью накладывать указание найденных областей с признаками патологий на копию входного изображения нейронной сети блока предсказания патологии.
- 7. Устройство по п.2, в котором указание найденных областей с признаками патологий имеет привязку к размерам, форме и положению изображения, которое непосредственно анализировалось нейронной сетью;блок подготовки изображений дополнительно выполнен с возможностью сохранять параметры всех преобразований, выполнявшихся над исходным изображением, полученным в подлежащих обработке данных, и связанных с изменением его размера, смещением, поворотом, обрезкой и кадрированием; и для формирования изображения с визуализацией патологии блок формирования отчета выполнен с возможностью применять преобразования, обратные вышеуказанным сохраненным преобразованиям, к указанию найденных областей с признаками патологий, с тем чтобы получить в результате визуализацию патологии с привязкой к размерам, форме и положению исходного рентгеновского изображения; и накладывать полученную визуализацию патологии с привязкой к размерам, форме и положению исходного рентгеновского изображения на копию исходного рентгеновского изображения.
- 8. Устройство по п.1, в котором в качестве методов распознавания образов используются три предварительно обученных метода: метод Виолы-Джонса с применением каскадного классификатора на основе признаков Хаара, метод гистограммы направленных градиентов и метод на основе локальных бинарных шаблонов.
- 9. Способ определения патологии органов грудной клетки на основе анализа рентгеновских изображений, содержащий этапы, на которых при нимают с использованием устройства связи подлежащие обработке данные, содержащие рентгеновское изображение органов грудной клетки в прямой проекции;подготавливают с использованием по меньшей мере одного процессора рентгеновское изображение, содержащееся в подлежащих обработке данных, посредством выполнения над ним одного или более предварительных преобразований для использования нейронной сетью, работающей на основе по меньшей мере одного процессора, причем при подготовке изображения выполняют автоматическое кадрирование изображения таким образом, чтобы оно охватывало только легкие, посредством поиска на изображении правого легкого и левого легкого по отдельности по меньшей двумя разными не зависящими друг от друга предварительно обученными методами распознавания образов, отличными от нейронных сетей, формирования множества прямоугольников, каждый из которых охватывает одно найденное легкое и только его, на основе выполненных поисков, формирования общего прямоугольника, который включает в себя, по существу, только упомянутое множество прямоугольников, и отс ечения от изображения областей, выходящих за рамки общего прямоугольника;с использованием упомянутой нейронной сети анализируют подготовленное изображение и определяют наличие или отсутствие патологии на изображении;формируют с использованием по меньшей мере одного процессора отчет, который содержит по меньшей мере один файл, содержащий указание на наличие или отсутствие патологии; и передают с использованием устройства связи отчет в устройство, запрашивавшее обработку данных.-
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2021137783 | 2021-12-20 |
Publications (1)
Publication Number | Publication Date |
---|---|
EA045328B1 true EA045328B1 (ru) | 2023-11-15 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11553874B2 (en) | Dental image feature detection | |
CN111107783B (zh) | 用于计算机辅助分诊的方法和*** | |
US11416747B2 (en) | Three-dimensional (3D) convolution with 3D batch normalization | |
KR102243830B1 (ko) | 통합 의료 진단 서비스 제공 시스템 및 그 방법 | |
US11462318B2 (en) | Method and system for computer-aided triage of stroke | |
US20160350919A1 (en) | Medical evaluation machine learning workflows and processes | |
US11488299B2 (en) | Method and system for computer-aided triage | |
CN113889229A (zh) | 基于人机结合的医学影像诊断标准的构建方法 | |
RU2782518C1 (ru) | Устройство и способ для определения патологии органов грудной клетки на основе рентгеновских изображений | |
WO2023121510A1 (ru) | Определение патологии органов грудной клетки на основе рентгеновских изображений | |
EA045328B1 (ru) | Устройство и способ для определения патологии органов грудной клетки на основе рентгеновских изображений | |
RU2806982C1 (ru) | Устройство и способ для анализа медицинских изображений | |
RU2813938C1 (ru) | Устройство и способ для определения границ патологии на медицинском изображении | |
RU2789260C1 (ru) | Система поддержки принятия врачебных решений на основе анализа медицинских изображений | |
EA044868B1 (ru) | Устройство и способ для определения патологии на основе анализа медицинских изображений | |
Amara et al. | Augmented reality for medical practice: a comparative study of deep learning models for ct-scan segmentation | |
Beniwal et al. | COVID Detection Using Chest X-ray Images Using Ensembled Deep Learning | |
Dubey et al. | Enhancing Brain Tumor Detection Using Convolutional Neural Networks in Medical | |
Manaf et al. | Advancements in Medical Imaging and Diagnostics with Deep Learning Technologies | |
Vijayaraghavan | Detection and Revelation of Multiple Ocular Diseases using Transfer Learning Techniques | |
Gancheva et al. | Medical X-ray Image Classification Method Based on Convolutional Neural Networks | |
Liu et al. | Detection of fetal facial anatomy in standard ultrasonographic sections based on real‐time target detection network | |
WO2024099848A1 (en) | Image enhancement using generative machine learning |