RU2419880C2 - Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений - Google Patents

Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений Download PDF

Info

Publication number
RU2419880C2
RU2419880C2 RU2008144840/09A RU2008144840A RU2419880C2 RU 2419880 C2 RU2419880 C2 RU 2419880C2 RU 2008144840/09 A RU2008144840/09 A RU 2008144840/09A RU 2008144840 A RU2008144840 A RU 2008144840A RU 2419880 C2 RU2419880 C2 RU 2419880C2
Authority
RU
Russia
Prior art keywords
disparity
pixel
filtering
gradient
disparity map
Prior art date
Application number
RU2008144840/09A
Other languages
English (en)
Other versions
RU2008144840A (ru
Inventor
Артем Константинович ИГНАТОВ (RU)
Артем Константинович Игнатов
Виктор Валентинович БУЧА (RU)
Виктор Валентинович Буча
Original Assignee
Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд."
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд." filed Critical Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд."
Priority to RU2008144840/09A priority Critical patent/RU2419880C2/ru
Publication of RU2008144840A publication Critical patent/RU2008144840A/ru
Application granted granted Critical
Publication of RU2419880C2 publication Critical patent/RU2419880C2/ru

Links

Images

Landscapes

  • Image Processing (AREA)

Abstract

Изобретение относится к обработке стерео изображений и видео и, в частности, к способам вычисления и улучшения карты диспарантности на основе стерео изображений. Техническим результатом является обеспечение высокого качества вычисленной карты диспарантности без появления искажений (артефактов), при этом качество получаемой карты диспарантности должно быть пригодным для формирования виртуальных видов. Указанный технический результат достигается тем, что предложен способ и устройство вычисления и фильтрации карты диспарантности на основе стерео изображений, при этом исходную стерео пару изображений или видео кадров преобразуют из цветового пространства RGB в цветовое пространство LAB; выполняют вычисление исходной карты диспарантности; вычисляют карту диспарантности путем последовательных итераций фильтрации карты диспарантности; рассчитывают степень фильтрации диспарантности согласно итерации; рассчитывают размер ядра фильтра диспарантности согласно итерации; вычисляют градиент диспарантности; выполняют фильтрацию диспарантности в соответствии со степенью фильтрации диспарантности, рассчитанным размером ядра фильтра и вычисленным градиентом диспарантности; проверяют критерии сходимости, при этом, если они выполнены, фильтрацию прекращают; выполняют уточнение карты диспарантности. 2 н. и 14 з.п. ф-лы, 9 ил.

Description

Заявляемое изобретение относится к устройствам и способам обработки стерео изображений и видео и, в частности, к методам вычисления и улучшения карты диспарантности на основе стерео изображений.
Вычисление карты диспарантности или стерео совмещение - задача обнаружения однозначного соответствия пикселей между стерео видами. Входными данными являются два или более изображений от нескольких камер, выходными - карта диспарантности, которая задает соответствие каждого пикселя одного изображения с соответствующим пикселем другого изображения. Для близких по расстоянию объектов величина получаемой диспарантности будет большой, в то время как для удаленных объектов величина полученной диспарантности стремится к нулю. Таким образом, карта диспарантности может рассматриваться как величина, обратно пропорциональная глубине сцены.
Алгоритмы совмещения стерео пары могут быть классифицированы как локальные (работающие в локальном окне) и глобальные алгоритмы [5]. Локальные алгоритмы вычисляют карту диспарантности в некотором локальном окне. При этом результат вычисления зависит только от яркости пикселя в окне. Результаты выполнения таких алгоритмов являются обычно не очень точными, но приемлемыми для применения в режиме реального времени. С другой стороны, глобальные алгоритмы решают оптимизационную задачу для всего изображения. Это обычно требует использования сложных вычислительных методов, таких как динамическое программирование или алгоритмы сечения графа.
Однако большинство известных алгоритмов совмещения стерео пары дают противоречивые результаты, особенно для областей с преграждающим объектом и областей со слабо выраженной текстурой. Таким образом, существует потребность в создании способа вычисления карты диспарантности в режиме реального времени, который обеспечивал бы получение высококачественной карты диспарантности, пригодной для формирования виртуальных видов.
Обычно виртуальный вид вычисляют путем деформации исходного изображения с помощью полученной плотной карты диспарантности/глубины. Такая методика требует наличия достоверной карты глубины, в которой области с преградами (окклюзиями) должны быть интерполированы достоверными значениями карты глубины. В противном случае будут появляться многочисленные артефакты в формируемом виде, особенно на границах объектов, где глубина проявляет ступенчатость.
Синтез виртуальных видов является краеугольным камнем технологии трехмерного телевидения. Современные автостереоскопические трехмерные дисплеи способны воспроизвести несколько видов, позволяя, таким образом, наблюдать эффект объемного изображения под различными углами зрения.
Метод вычисления карты диспарантности, описанный в американской патентной заявке №2006/0120594 [1], состоит из двух основных частей: нахождение локального соответствия и глобальная оптимизация. Метод локального соответствия выявляет пиксели с высокой достоверностью соответствия. В рамках этого шага признают недействительными пиксели, идентифицированные как ненадежные (недостоверные). После этого применяется глобальная оптимизация, обеспечивающая оценку окончательного значения карты глубины. Глобальная оптимизация осуществляется в виде динамического программирования по двум направлениям: первый проход - по горизонтали, и второй проход - по вертикали. Недостаток метода состоит в очень высоких требованиях к вычислительным ресурсам. Приходится вычислять столько уровней карты диспарантности, сколько их имеется у ближайшего объекта в данной сцене. При высоком разрешении и широкоугольной камере число карт диспарантности, подлежащих вычислению, может лежать в диапазоне от 100 до 300. Кроме того во время локального совмещения применяют несколько направленных фильтров, чтобы определить веса совмещения стерео пары, что ведет к дополнительным накладным вычислительным затратам. И, наконец, глобальная оптимизация в вычислительном отношении также является весьма интенсивным процессом, даже если она выполняется в разделяемом виде, т.е. последовательно для строк изображения, а затем для столбцов.
Другой подход к последовательному совмещению стерео пары изложен в патенте США №7106899 [2]. Изобретение использует последовательную итерационную технологию, которая включает принцип гладкости градиента диспарантности и стратегию наименьших обязательств. Идея состоит в формировании достоверной карты диспарантности из соответствий однозначных пикселей посредством многочисленных итераций. Этот способ последовательно уменьшает число пикселей, подлежащих анализу на каждой итерации. Соответствия однозначных пикселей находят, используя новую технологию корреляции и на основании корреляционного балла, ассоциируемого с соответствием пикселя. Недостаток этого метода заключается в том, что он требует высоких вычислительных ресурсов.
Наиболее близким к заявляемому изобретению является техническое решение, описанное в международной заявке WO 2008/041167 [3], где предложен способ вычисления карты диспарантности путем фильтрации приблизительных оценок значений карты диспарантности, используя информацию из стерео изображений. Такой подход является также итерационным. Основная идея состоит в том, чтобы перейти к достоверной карте глубины от шумового изображения (изображения, в котором яркость каждого пикселя задается случайным образом) или от некоторой приблизительно вычисленной карты глубины. На каждой итерации результат текущего вычисления карты диспарантности уточняют с помощью фильтрации в соответствии с опорными стерео изображениями. Эта патентная заявка выбрана в качестве прототипа заявляемого изобретения.
Недостаток прототипа состоит в следующем. Способ-прототип использует попиксельное сравнение, вычисляя при этом вес фильтра уточнения карты диспарантности. Эта операция приводит к появлению искажений карты диспарантности в однородных областях и областях с периодически повторяющейся текстурой, где трудно определить корректное соответствие. Другой недостаток состоит в том, что этот алгоритм требует высокой интенсивности вычислений из-за выполнения многочисленных итераций. Требуется некоторая адаптация этого способа, чтобы ускорить сходимость алгоритма. С этой целью необходимо разработать критерий сходимости, который обеспечивал бы формирование гладкой и согласованной карты диспарантности.
Задача, на решение которой направлено заявляемое изобретение, состоит в создании устройства и способа вычисления и фильтрации карты диспарантности на основе стерео изображений, обеспечивающих высокое качество вычисленной карты диспарантности без появления искажений (артефактов). При этом качество получаемой карты диспарантности должно быть пригодным для формирования виртуальных видов.
Поставленная задача решена путем разработки способа и устройства для вычисления и фильтрации карты диспарантности на основе стерео изображений, при этом способ включает в себя выполнение следующих операций:
- исходную стерео пару изображений или видео кадров преобразуют из цветового пространства RGB в цветовое пространство LAB;
- выполняют вычисление исходной карты диспарантности;
- вычисляют карту диспарантности путем последовательных итераций фильтрации карты диспарантности;
- рассчитывают степень фильтрации диспарантности согласно итерации;
- рассчитывают размер ядра фильтра диспарантности согласно итерации;
- вычисляют градиент диспарантности;
- выполняют фильтрацию диспарантности в соответствии со степенью фильтрации диспарантности, рассчитанным размером ядра фильтра и вычисленным градиентом диспарантности;
- проверяют критерии сходимости, при этом, если они выполнены, фильтрацию прекращают;
- выполняют уточнение (улучшение) карты диспарантности.
Для реализации заявляемого способа разработано устройство вычисления и фильтрации карты диспарантности на основе стерео изображений, включающее в себя блок предварительной обработки, блок управления вычислением карты диспарантности, блок фильтрации диспарантности и блок постобработки, при этом основные отличия от прототипа заключаются в том, что выход блока предварительной обработки соединен с входом блока управления вычислением карты диспарантности, выход которого соединен с входом блока фильтрации диспарантности, выход которого соединен с входом блока постобработки.
Заявляемый способ основан на идее перехода от приблизительной оценки карты диспарантности к достоверной карте глубины. Эта идея характеризуется, по меньшей мере, пятью основными отличиями от прототипа.
Первое отличие от известных решений состоит в распространении принципа билатерального фильтра диспарантности [3] на фильтр диспарантности, основанный на нелокальном усреднении (NLM). Билатеральный фильтр диспарантности можно рассматривать как частный случай фильтра диспарантности, основанного на нелокальном усреднении, когда окрестности пикселей представлены одним центральным пикселем. Вместо попиксельного сравнения в процессе вычисления веса фильтра как в [3] используют сравнение областей опорных пикселей. Это препятствует появлению искажений в однородных областях и в областях с периодически повторяющейся текстурой.
Второе отличие состоит в разработке критерия сходимости алгоритма, используя принцип гладкости градиента диспарантности [4]. На каждой итерации для каждого пикселя вычисляют и оценивают градиент диспарантности. Если гладкость градиента нарушена с точки зрения гладкости поверхности, то вес пикселя не принимают во внимание. Выполнение алгоритма останавливают, когда принцип гладкости градиента диспарантности выполняется для всех пикселей изображения.
Третье отличие - адаптация степени фильтрации в соответствии с итерацией. Алгоритм начинается с применения самой слабой фильтрации, поскольку исходная карта диспарантности имеет низкую достоверность. Затем степень фильтрации увеличивают от итерации к итерации, разрешая все более сходным пикселям участвовать в процессе фильтрации.
Четвертое отличие - вычисление радиуса фильтра в соответствии с итерацией. Поскольку схождение начинают с карты глубины низкой достоверности, то нет необходимости вовлекать большое число пикселей в процесс фильтрации. Алгоритм начинается с применения фильтра малого радиуса, а на последующих итерациях радиус фильтра увеличивается.
Пятое отличие состоит в повышении производительности фильтра путем его реализации в разделяемом виде, а именно, когда изображение сначала обрабатывают проходом по строчкам, а затем - проходом по столбцам.
Способ, описанный в заявляемом изобретении, позволяет получать высококачественную карту диспарантности, пригодную для синтеза виртуальных видов с однородными границами объекта. Фиг.5 показывает результат вычисления карты диспарантности с использованием предложенного фильтра согласно изобретению. Левое изображение стерео пары, для которой выполняется вычисление карты диспарантности, представлено на Фиг.5.1. На Фиг.5.2 представлен результат вычисления карты диспарантности с применением известного фильтра-аналога [3], а на Фиг.5.3 представлен результат вычисления карты диспарантности с помощью предложенного фильтра согласно изобретению. Из Фиг.5.2 и 5.3 ясно видно, что заявляемый способ дает более достоверные результаты, особенно для гладких областей и областей с периодически повторяющимися текстурами. При этом остальные рабочие характеристики способа сохраняются на том же уровне, что и у фильтра-аналога [3].
Фиг.1. Блок-схема устройства для вычисления и фильтрации карты диспарантности на основе стерео изображений согласно изобретению.
Фиг.2. Блок-схема поэтапного выполнения способа вычисления и фильтрации карты диспарантности на основе стерео пары согласно изобретению.
Фиг.3. Новые концепции фильтрации, основанные на сравнении областей пикселей: 3.1 - концепция, основанная на использовании сравнения области одного пикселя; 3.2 - концепция, основанная на использовании сравнения области двух пикселей. На фиг.3 текущий пиксель обозначен в виде квадратика, а совмещаемый пиксель - в виде косого крестика.
Фиг.4. (вид 4.1) - вычисление карты диспарантности после первой итерации алгоритма (с левой стороны) с изображением градиента диспарантности (с правой стороны) с областями, демонстрирующими нарушение принципа гладкости градиента диспарантности (отмечено белым цветом); (вид 4.2) - вычисление карты диспарантности после второй итерации алгоритма (с левой стороны) с изображением градиента диспарантности (с правой стороны) с областями, демонстрирующими нарушение принципа гладкости градиента диспарантности (отмечено белым цветом).
Фиг.5. (вид 5.1) - левое изображение из стерео пары, для которой выполнялось вычисление карты диспарантности, (вид 5.2) - результат вычисления карты диспарантности с применением фильтра-аналога [3], (вид 5.3) - результат вычисления карты диспарантности с применением заявляемого фильтра согласно изобретению.
Далее по тексту предпочтительный вариант реализации заявляемого изобретения описывается в деталях с привлечением графических материалов. Однако объем охраны заявляемого изобретения не ограничен предпочтительным вариантом реализации изобретения, которое может быть реализовано в различных формах. Предпочтительный вариант реализации, раскрытый в описании, является только примером, приведенным, чтобы раскрыть существо и помочь специалистам в полной степени понять заявляемое изобретение.
Фиг.1 - блок-схема, поясняющая конструкцию устройства для вычисления и фильтрации карты диспарантности на основе стерео изображений согласно заявляемому изобретению. На Фиг.1 показано, что устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений включает в себя следующие соединенные один с другим блоки, а именно блок 120 предварительной обработки, блок 130 управления вычислением карты диспарантности, блок 140 фильтрации карты диспарантности и блок 150 постобработки. В устройстве для вычисления и фильтрации карты диспарантности в качестве входных данных 110 используют стерео изображения. Входные данные 110 могут включать в себя стерео пары изображений, сформированных из стерео изображений или видео кадров от стерео камеры. В случае использования многокамерных установок стерео пара изображений формируется из изображений, захваченных с выбранных камер. После выполнения необходимых вычислений на выходе устройства для вычисления и фильтрации карты диспарантности получают согласованную карту диспарантности для выбранного вида.
Блок 120 предварительной обработки состоит из блока 121 цветового преобразования и блока 122 вычисления исходной карты диспарантности. Блок 121 цветового преобразования предназначен для преобразования из цветовой системы RGB в цветовую систему LAB. Проведенные эксперименты позволили прийти к заключению, что карта диспарантности, полученная с использованием цветового пространства LAB, является более непротиворечивой и гладкой. Для упрощения конструкции устройства этот блок может быть исключен из устройства, и фильтрация карты диспарантности может осуществляться в цветовом пространстве RGB. Блок 122 вычисления исходной карты диспарантности вычисляет исходную приблизительную карту диспарантности. Эта исходная карта диспарантности может быть получена с помощью известных из уровня техники алгоритмов совмещения стерео пары. Другой способ подготовки исходной карты диспарантности заключается в использовании шумового изображения.
Блок 130 управления вычислением карты диспарантности состоит из блока 131 адаптации силы фильтра (степени фильтрации), блока 132 вычисления размера ядра фильтра и блока 133 управления итерациями. Задача блока 130 управления вычислением карты диспарантности заключается в проведении вычисления карты диспарантности и адаптации параметров фильтра диспарантности. Алгоритм вычисления карты диспарантности реализуется через ряд последовательных итераций. На каждой итерации блок 131 адаптации силы фильтра вычисляет силу фильтра диспарантности, а блок 132 вычисления размера ядра рассчитывает радиус фильтра диспарантности. Алгоритм начинается с самой малой степени фильтрации и самого малого размера ядра, так как исходная карта диспарантности имеет низкую надежность (достоверность). Затем степень (сила) фильтрации и размер ядра увеличивают от итерации к итерации, разрешая все более сходным пикселям участвовать в процессе фильтрации. В предпочтительном варианте реализации заявляемого изобретения функция адаптации степени (силы) фильтрации и вычисления размера ядра имеет линейный характер. При этом допустимо применение и функции любого другого вида, например гауссиан, и это не выходит за объем притязаний заявляемого изобретения.
Во время каждой итерации блок 133 управления итерациями оценивает критерии сходимости для процесса фильтрации. В предпочтительной реализации заявляемого изобретения описаны три варианта критериев сходимости. Первый вариант критерия сходимости включает использование гладкости градиента диспарантности. Процесс фильтрации диспарантности прекращают, когда принцип гладкости градиента диспарантности выполняется для всех пикселей изображения. Отношение количества пикселей с гладким градиентом ко всем пикселям в изображении должно превышать порог Tdec1 сходимости вычисления карты диспарантности. Другой подход проверки сходимости заключается в вычислении остаточного изображения между смежными вычислениями карты диспарантности. Сумма остаточных пикселей не должна быть больше, чем порог Tdec2 сходимости вычисления карты диспарантности. Наконец, критерий сходимости может быть сформулирован как число итераций фильтрации диспарантности. Если число итераций превышает порог Tdec3 сходимости вычисления карты диспарантности, то процесс фильтрации прекращают.
Блок 140 фильтрации диспарантности фильтрует вычисленную на текущем шаге алгоритма карту диспарантности, вычисляя веса фильтров в соответствии с опорными стерео изображениями и рассчитанным градиентом диспарантности. Блок 140 фильтрации диспарантности состоит из блока 141 вычисления градиента диспарантности, блока 142 горизонтальной фильтрации диспарантности и блока 143 вертикальной фильтрации диспарантности. Блок 141 вычисления градиента диспарантности вычисляет и оценивает градиент диспарантности для каждого пикселя. Если анализируемая гладкость градиента диспарантности гладкой поверхности нарушена, вес пикселя отбрасывают (не принимают в расчет). Блок 142 горизонтальной фильтрации диспарантности обрабатывает вычисление текущей карты диспарантности построчно, а блок 143 вертикальной фильтрации диспарантности обрабатывает вычисление текущей карты диспарантности по столбцам.
Блок 150 постобработки предназначен для окончательного уточнения вычисленной карты диспарантности. В предпочтительном варианте реализации заявляемого изобретения блок 150 постобработки состоит из блока медианного фильтра. Медианная фильтрация известна из уровня техники, поэтому ее описание здесь не приводится. Другие типы фильтров улучшения изображения тоже могут найти применение в блоке 150, что не отражается на объеме охраны в отношении этого блока.
Далее по тексту способ вычисления и фильтрации карты диспарантности на основе стерео изображений согласно заявляемому изобретению описывается со ссылками на Фиг.2.
Рассмотрим поэтапное выполнение способа вычисления и фильтрации карты диспарантности на основе стерео данных (Фиг.2). Сначала стерео пару изображений или видео кадров преобразуют из цветового пространства RGB в цветовое пространство LAB (шаг 201). Преобразование из цветового пространства RGB в цветовое пространство LAB известно из уровня техники, поэтому его описание здесь опущено.
Следующий шаг заключается в вычислении исходной карты диспарантности (шаг 202). Вычисление исходной карты диспарантности может быть выполнено с помощью известных из уровня техники алгоритмов совмещения стерео пары. В предпочтительном варианте реализации заявляемого изобретения вычисление исходной карты диспарантности заключается в ее представлении в качестве шумового изображения. Шумовое изображение является полутоновым изображением. Яркости пикселей изображения шума отбираются случайным образом из пикселей с минимальной яркостью и вплоть до пикселей с максимальной яркостью. Для 8-битовых изображений диапазон яркостей лежал бы в пределах от 0 до 255.
Исходная карта диспарантности в форме изображения шума будет затем отфильтрована (шаги от 203 до 207) для получения согласованной и гладкой карты диспарантности. Первым шагом при фильтрации карты диспарантности является адаптация силы фильтра (степени фильтрации) в соответствии с порядковым номером итерации (шаг 203). В предпочтительном варианте реализации заявляемого изобретения уравнение для адаптации силы фильтра к номеру итерации (функция σ(k)) является линейным и может быть представлено как:
σ(k)=a 1·k+b1,
где k - номер итерации,
α1, b1 - линейные коэффициенты.
Другая форма функции σ(k) также допустима. И это не затрагивает объема охраны по заявляемому изобретению.
Следующий шаг заявляемого способа заключается в вычислении размера ядра фильтра (шаг 204). В предпочтительном варианте реализации заявляемого изобретения уравнение для вычисления размера ядра фильтра в соответствии с итерацией (функция KS(k)) имеет линейную форму и может быть представлено как:
KS(k)=a 2·k+b2,
где k - номер итерации,
α2, b2 - линейные коэффициенты.
Другая форма функции KS(k) также допустима. И это не влияет на объем охраны по заявляемому изобретению.
Следующий шаг способа заключается в вычислении градиента диспарантности (шаг 205). Градиент диспарантности вычисляют между смежными пикселями изображения. Для двух пикселей m1 и m2 с координатами [x1, y1] и [х2, y2] градиент диспарантности определяется как
Figure 00000001
,
где d1 и d2 - диспарантности пикселей m1 и m2.
Мы не рассматриваем координаты Y в уравнении градиента диспарантности, поскольку исходим из предположения, что стерео пара уточняется в условиях равенства Y координат соответствующих точек. Для современных стерео камер это условие обычно выполняется.
Из уровня техники известно, что градиент dg диспарантности ограничен сверху пределом Р. Это ограничение происходит из человеческого восприятия. Для наблюдаемой точки градиент диспарантности, вычисленный с соседними точками, не должен нарушать неравенство dg≤P. В противном случае, это не будет восприниматься человеком правильно. Таким образом, уравнение для проверки соответствия карты диспарантности выводится следующим образом:
|d2-d1|≤P·|x2-x1+(d2-d1)/2|.
Используя свойство модуля |a+b|≤|a|+|b|, мы получаем
|d2-d1|≤P·|x2-x1|+P·|(d2-d1)/2|,
что непосредственно ведет, для Р<2, к
Figure 00000002
Для каждого пикселя в опорном изображении оценивают неравенство (1) и маркируют пиксели, для которых не выполняется это неравенство, т.е. не выполняется принцип гладкости градиента диспарантности. Такие пиксели имеют меньшее влияние на фильтрацию диспарантности на следующей итерации способа вычисления карты диспарантности. Далее по тексту, изображение градиента диспарантности (DGI) определяется как массив, который сохраняет для каждого пикселя номер, указывающий, нарушено ли данным пикселем неравенство (1) или нет. Это выражается как
Figure 00000003
,
где mark - число, используемое для маркирования пикселей, для которых нарушается принцип гладкости градиента диспарантности.
Фиг.4 показывает примеры вычисления карты диспарантности (слева) вместе с DGI (справа), где число mark установлено на значение 255, для лучшего визуального восприятия. На Фиг.4 ясно видно, что число пикселей, нарушивших ограничивающее условие градиента диспарантности, уменьшается от итерации к итерации.
После вычисления силы фильтра вычисления размеров ядра и вычисления градиента диспарантности выполняют вычисление карты диспарантности для опорного изображения, используя информацию из конечного изображения (шаги 206-207). Далее по тексту, опорное изображение определяется как цветное изображение из стерео пары, для которой вычисляется карта диспарантности. А совмещаемое изображение определяется как другое цветное изображение из этой стерео пары.
Карта диспарантности на k-й итерации представляется как
Figure 00000004
где dk(xc,yc) означает карту диспарантности на k-й итерации для текущего пикселя с координатами (xc,yc),
dk-1(xr,yr) означает карту диспарантности на (k-1)-й итерации для опорного пикселя с координатами (xr=xc+p, yr=yc+s),
wr означает вес опорного пикселя,
индекс р изменяется от
Figure 00000005
до
Figure 00000006
в направлении X,
индекс s изменяется от
Figure 00000007
до
Figure 00000008
в направлении Y,
коэффициент нормализации вычисляют как
Figure 00000009
.
В предпочтительном варианте реализации заявляемого изобретения размеры окна фильтра, а именно L и К, определены как L=K=KS(k), используя функцию расчета размера ядра фильтра, вычисленного на шаге 204. Однако независимая установка значений L и К допустима. Это могло бы пригодиться для устройств, которые используют для обработки строчную память. В таких случаях радиус ядра фильтра в вертикальном направлении ограничен числом строк памяти, а радиус ядра фильтра в горизонтальном направлении мог бы быть установлен на любое желаемое значение в пределах строки.
Для ускорения вычисления карты диспарантности фильтр мог бы быть определен в разделяемом виде состоящим из двух проходов. Первый проход - построчная обработка (шаг 206). Второй проход - обработка по столбцам (шаг 207).
Figure 00000010
Figure 00000011
где drowk(xc,yc) - результат построчной фильтрации,
dk(xc,yc) - конечный результат фильтрации, полученный с помощью обработки по столбцам,
коэффициент нормализации для построчного фильтра вычисляют как
Figure 00000012
,
коэффициент нормализации для фильтра по столбцам вычисляют как
Figure 00000013
.
Фильтрацию выполняют в окне размером L×K, Все пиксели, которые принадлежат этой области, определены как опорные пиксели. Пиксели совмещаемого изображения, которые отображены векторами диспарантности из опорных пикселей, определены как совмещаемые пиксели (Фиг.1). Предложенный фильтр назначает более высокие веса для пикселей, которые более сходны с текущим пикселем. В предпочтительном варианте реализации заявляемого изобретения используют три метода вычисления веса фильтра диспарантности.
1. Метод сравнения области двух пикселей.
2. Метод сравнения области одного пикселя.
3. Метод сравнения двух отдельных пикселей.
Первые два метода касаются скорее сравнения областей пикселей, чем сравнения отдельных пикселей. Это делается для того, чтобы усилить критерий подобия пикселей. В первом методе вес является удвоенным и отражает степень сходства (подобия) текущего пикселя с опорным и совмещаемым пикселями.
Первое сравнение проводят между окрестностями текущего пикселя и окрестностями опорного пикселя. Второе сравнение проводят между окрестностями опорного пикселя и окрестностями совмещаемого пикселя (примеры сравнений показаны на Фиг.3. 1 широкими стрелками). В этом случае веса фильтра диспарантности вычисляют следующим образом:
Figure 00000014
где C() обозначает функцию, используемую для сравнения окрестностей пикселя,
σr и σt являются параметрами регулировки силы фильтра. В предпочтительном варианте реализации заявляемого изобретения они определены как σrt=σ(k) используя функцию адаптации силы фильтра, вычисленную на шаге 203. Однако допустима и независимая подстройка σr и σt, позволяющая дифференциацию штрафных функций для пикселей из опорного и совмещаемого изображений.
Второй метод сравнения окрестностей пикселя был разработан для того, чтобы ускорить выполнение алгоритма, и предусматривает проведение сравнения области лишь одного пикселя, а именно окрестности текущего пикселя с окрестностями совмещаемого пикселя (пример сравнения показан на Фиг.3.2 широкой стрелкой). При этом исходят из предположения, что текущий пиксель до некоторой степени схож с опорным пикселем благодаря их близости друг к другу. И штрафные функции применяют лишь тогда, когда опорный пиксель отображен на совмещаемый пиксель, который не схож с текущим пикселем. В этом случае веса фильтра диспарантности вычисляют следующим образом:
Figure 00000015
где C() обозначает функцию, используемую для сравнения окрестностей пикселя. Она определяется как:
Figure 00000016
где Ic(xc,yc) обозначает яркость текущего пикселя с координатами xc и yc,
Ir(xr,yr) обозначает яркость опорного пикселя с координатами xr и yr,
индекс i изменяется от
Figure 00000017
до
Figure 00000018
в направлении X,
индекс j изменяется от
Figure 00000019
до
Figure 00000020
в направлении Y,
σn - параметр гауссиана, управляющий весом пикселя относительно его положения в соответствии с положением текущего пикселя. Внешние пиксели, т.е. удаленные от центрального пикселя, получают более низкие значения веса, чем внутренние пиксели, т.е. близкие к центральному пикселю, которые получают более высокие значения веса.
Коэффициент нормализации вычисляют как
Figure 00000021
После того как вес был вычислен, конечной операцией в процессе фильтрации диспарантности должен стать расчет согласованности градиента диспарантности на основе результатов вычисления градиента диспарантности (шаг 205). Это выражается следующим образом:
Figure 00000022
где h - параметр веса штрафной функции.
Чтобы добиться максимальной производительности в ущерб качеству, можно применить третий метод вычисления веса пикселя, который состоит в сравнении только опорных пикселей вместо окрестностей пикселя. Это можно квалифицировать как предельный случай первого метода, когда размеры окрестностей пикселя, а именно М и N, равны единице. Использование этого метода для вычисления веса фильтра приводит к зашумлению в вычислениях карты диспарантности. Поэтому некоторая постобработка необходима для устранения рассогласований в карте диспарантности. С этой целью выполняют операцию по уточнению карты диспарантности (шаг 210) для окончательного вычисления карты диспарантности.
Важным шагом метода вычисления карты диспарантности является вычисление и оценка критерия сходимости (шаги 208-209). Во время каждой итерации с помощью метода вычисления карты диспарантности оценивают критерии сходимости для процесса фильтрации. В предпочтительном варианте реализации заявляемого изобретения описаны три метода вычисления критерия сходимости.
1. Используя условие гладкости градиента диспарантности.
2. Используя анализ остаточного изображения (изображения, представляющего собой разность двух смежных приближений карты диспарантности) после смежных вычислений карты диспарантности.
3. Используя строгий пороговый принцип в отношении числа итераций алгоритма.
Первый метод проверки критерия сходимости включает использование условия гладкости градиента диспарантности. Процесс фильтрации диспарантности прекращают, когда принцип гладкости градиента диспарантности выполняется для всех пикселей изображения. Это условие можно было бы сформулировать как то, что отношение числа пикселей с гладким градиентом ко всем пикселям в изображении должно превысить порог Tdec1 сходимости вычисления диспарантности
Figure 00000023
где Ngp означает число пикселей в изображении, для которых справедливо неравенство (1) градиента диспарантности,
Np означает число пикселей в изображении.
Второй метод проверки сходимости алгоритма предусматривает вычисление остаточного изображения между смежными оценками карты диспарантности. Сумма остаточных пикселей не должна превышать порога Tdec2 сходимости в вычислении карты диспарантности. Это формулируется следующим образом:
Figure 00000024
Figure 00000025
,
где dk и dk-1 - это вычисления карты диспарантности на k-й и (k-1)-й итерации алгоритма.
Третий метод вычисления критерия сходимости можно было бы сформулировать как строгое применение порога к номеру итерации. Если номер итераций превышает порог Tdec3 сходимости вычисления карты диспарантности, то процесс фильтрации прекращают. Это может быть представлено следующим образом:
k≥Ndec3,
где k - номер текущей итерации вычисления карты диспарантности.
Первые два критерия сходимости можно было бы использовать совместно для надежности вычисления. А использование последнего из критериев предпочтительно для недорогих устройств, в которых простота устройства играет важную роль.
Заключительный шаг метода вычисления карты диспарантности предназначен для улучшения (уточнения) карты диспарантности (шаг 210). В предпочтительном варианте реализации заявляемого изобретения для постобработки используется медианный фильтр, что является простым и надежным способом борьбы с неровностями карты диспарантности и импульсным шумом.
Фиг.5 показывает результат вычисления карты диспарантности с помощью предложенного фильтра согласно изобретению. Левое изображение стерео пары, для которой было выполнено вычисление карты диспарантности, представлено на Фиг.5.1. На Фиг.5.2 представлен результат вычисления карты диспарантности с помощью фильтра [3], известного из уровня техники, а на Фиг.5.3 представлен результат вычисления карты диспарантности с применением предложенного фильтра согласно изобретению. Из Фиг.5.2 и 5.3 ясно видно, чем заявляемый способ дает более надежные результаты, особенно для гладких областей и областей с периодически повторяющимися текстурами. В то же время рабочие характеристики этого способа находятся на том же уровне, что и ранее известный фильтр [3].
Заявляемое изобретение может быть использовано непосредственно в стерео камере для получения высококачественной и согласованной карты диспарантности/глубины. Также заявляемое изобретение может найти применение в многокамерных системах или некоторых специализированных обрабатывающих устройствах, где два выбранных телевизионных потока формируют стереоскопический поток и необходимо обеспечить стерео согласование.

Claims (16)

1. Способ вычисления и фильтрации карты диспарантности на основе стерео изображений, включающий в себя выполнение следующих операций:
- выполняют вычисление предварительной карты диспарантности;
- уточняют карту диспарантности путем последовательных итераций фильтрации карты диспарантности, уточненное значение диспарантности вычисляют как взвешенную сумму значений диспарантности с предыдущей итерации в локальном окне
Figure 00000026

где dk(xc, yc) означает карту диспарантности на k-ой итерации для текущего пикселя с координатами (xc, yc), dk-1(xr, yr) означает карту диспарантности на (k-1)-ой итерации для опорного пикселя с координатами (xr=xc+pr yr=yc+s), wr означает вес опорного пикселя, индекс р изменяется от
Figure 00000005
до
Figure 00000006
в направлении X, индекс s изменяется от
Figure 00000007
до
Figure 00000008
в направлении Y, и коэффициент нормализации вычисляют как
Figure 00000027

- рассчитывают степень фильтрации диспарантности согласно итерации, вычисляя параметр σ штрафной весовой функции, которая используется для расчета весов при вычислении суммы значений диспарантности в локальном окне, параметр σ штрафной весовой функции в соответствии с итерацией формулируется как σ(k)=a1·k+b1, где k - порядковый номер итерации, a1 b1 - линейные коэффициенты;
- рассчитывают размер ядра фильтра диспарантности согласно итерации по формуле KS(k)=a2·k+b2,
где k - порядковый номер итерации, а2, b2 - линейные коэффициенты;
- вычисляют градиент диспарантности,;
- выполняют фильтрацию диспарантности, используя взвешенною сумму значений диспарантности в локальном окне, в соответствии со степенью фильтрации диспарантности, рассчитанным размером ядра фильтра и вычисленным градиентом диспарантности;
- проверяют критерии сходимости, при этом, если они выполнены, фильтрацию прекращают;
- выполняют уточнение карты диспарантности, удаляя импульсный шум на карте диспарантности с помощью медианного фильтра.
2. Способ по п.1, отличающийся тем, что входящие стерео данные преобразуют из цветового пространства RGB в цветовое пространство LAB.
3. Способ по п.1, отличающийся тем, что исходную карту диспарантности представляют в виде полутонового шумового изображения, при этом яркости пикселей шумового изображения отбирают в случайном порядке из диапазона от минимальной яркости пикселя до максимальной яркости пикселя, причем для восьмибитовых изображений диапазон яркостей составляет от 0 до 255.
4. Способ по п.1, отличающийся тем, что оценку условия гладкости градиента диспарантности выполняют по формуле
Figure 00000028
где Р - верхний предел градиента диспарантности; x2, x1 являются Х-координатами двух точек m1 и m2, для которых вычисляется ограничение градиента диспарантности, при этом в неравенстве градиента диспарантности Y-координаты не учитывают, исходя из предположения, что стерео пара уточнена, d2, d1 являются вычислениями текущей диспарантности точек m1 и m2 при этом для каждого пикселя в опорном изображении проверяют выполнение вышеприведенного неравенства, и пиксель с нарушением принципа градиента диспарантности маркируется и сохраняется в изображении градиента диспарантности (DGI), который определяют как
Figure 00000029
,
где mark - число, используемое для указания на нарушение градиента диспарантности.
5. Способ по п.1, отличающийся тем, что фильтрацию диспарантности выполняют поэтапно, при этом на первом этапе выполняют построчную обработку, а на втором этапе выполняют обработку по столбцам
Figure 00000010
,
Figure 00000030
,
где drowk(xc, yc) - результат построчной фильтрации, dk(xc, yc) - конечный результат фильтрации, полученный после обработки по столбцам, коэффициент нормализации при построчной фильтрации вычисляют как
Figure 00000031
, а коэффициент нормализации при фильтрации по столбцам вычисляют как
Figure 00000032
6. Способ по п.1, отличающийся тем, что веса фильтра диспарантности вычисляют следующим образом:
Figure 00000033
,
где С() означает функцию, используемую для сравнения окрестностей пикселя, σr - параметр штрафной функции веса для опорного пикселя в опорном изображении, σt - параметр штрафной функции веса для совмещаемого пикселя в совмещаемом изображении, (xr, yr) - координаты опорного пикселя, (xt, yt) - координаты совмещаемого пикселя.
7. Способ по п.1, отличающийся тем, что веса фильтра диспарантности вычисляют следующим образом:
Figure 00000034

где С () означает функцию, используемую для сравнения окрестностей пикселя, σt - параметр штрафной функции веса для совмещаемого пикселя в совмещаемом изображении, (xt, yt) - координаты совмещаемого пикселя.
8. Способ по любому из пп.6 и 7, отличающийся тем, что функцию, используемую для сравнения окрестностей пикселя, определяют как
Figure 00000035

где Ic(xc, yc) означает яркость текущего пикселя с координатами xc и yc, Ir (xr, yr) означает яркость опорного пикселя с координатами xr и yr, индекс i изменяется от
Figure 00000017
до
Figure 00000018
в направлении X, индекс j изменяется от
Figure 00000036
до
Figure 00000018
в направлении Y, σn - параметр гауссиана, управляющий весом пикселя по отношению к его положению согласно текущему положению пикселя, при этом внешние пиксели (удаленные от центрального пикселя) получают малые значения веса, а внутренние пиксели (близкие к центральному пикселю) получают более высокие веса, и коэффициент нормализации вычисляют как
Figure 00000037
9. Способ по любому из пп.6 и 7, отличающийся тем, что вес фильтра диспарантности подвергают штрафной функции в случае нарушения условия гладкости градиента карты диспарантности, при этом применяют формулу
Figure 00000038

где h - параметр штрафной функции веса, DGI (xr, yr) - изображение градиента диспарантности, которое показывает, нарушает ли текущий опорный пиксель (xr, yr) условие гладкости градиента диспарантности или нет.
10. Способ по п.1, отличающийся тем, что метод вычисления критерия сходимости формулируют как
Figure 00000039

где Ngp - число пикселей в изображении, для которых выполняется неравенство
Figure 00000040
, Np - число пикселей в изображении, Tdec1 - порог для сходимости вычисления карты диспарантности.
11. Способ по п.1, отличающийся тем, что метод вычисления критерия сходимости сформулирован как
Figure 00000025
,
где dk и dk-1 представляют собой вычисления карты диспарантности на k-ой и (k-1)-ой итерациях алгоритма; Tdec2 - порог для сходимости вычисления карты диспарантности.
12. Способ по п.1, отличающийся тем, что метод вычисления критерия сходимости формулируют как k≥Tdec3, где k - порядковый номер текущей итерации алгоритма вычисления карты диспарантности, Tdec3 - порог сходимости при вычислении карты диспарантности.
13. Устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений, включающее в себя блок предварительной обработки, блок управления вычислением карты диспарантности, блок фильтрации диспарантности и блок постобработки, отличающееся тем, что выход блока предварительной обработки соединен с входом блока управления вычислением карты диспарантности, выход которого соединен с входом блока фильтрации диспарантности, выход которого соединен с входом блока постобработки.
14. Устройство по п.13, отличающееся тем, что блок предварительной обработки карты диспарантности, включающий в себя блок цветового преобразователя и блок вычисления исходной карты диспарантности, причем вход блока предварительной обработки совпадает с входом цветового преобразователя, а выход цветового преобразователя соединен с входом блока вычисления исходной карты диспарантности, при этом выход блока вычисления исходной карты диспарантности совмещен с выходом блока предварительной обработки.
15. Устройство по п.13, отличающееся тем, что блок управления вычислением карты диспарантности включает в себя блок адаптации силы фильтра, блок вычисления размера ядра и блок управления итерацией, причем вход блока управления вычислением карты диспарантности совмещен с входом блока адаптации силы фильтра, выход блока адаптации силы фильтра соединен с входом блока вычисления размера ядра, выход блока вычисления размера ядра соединен с входом блока управления итерациями, а выход блока управления итерациями совмещен с выходом блока управления вычислением карты диспарантности.
16. Устройство по п.13, отличающееся тем, что блок фильтрации карты диспарантности включает в себя блок вычисления градиента карты диспарантности, блок горизонтальной фильтрации диспарантности и блок вертикальной фильтрации диспарантности, причем вход блока фильтрации диспарантности совмещен с входом блока вычисления градиента, выход блока вычисления градиента соединен с входом блока горизонтальной фильтрации диспарантности, выход которого соединен с входом блока вертикальной фильтрации диспарантности, выход которого совмещен с выходом блока фильтрации диспарантности.
RU2008144840/09A 2008-11-14 2008-11-14 Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений RU2419880C2 (ru)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2008144840/09A RU2419880C2 (ru) 2008-11-14 2008-11-14 Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2008144840/09A RU2419880C2 (ru) 2008-11-14 2008-11-14 Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений

Publications (2)

Publication Number Publication Date
RU2008144840A RU2008144840A (ru) 2010-05-20
RU2419880C2 true RU2419880C2 (ru) 2011-05-27

Family

ID=42675725

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2008144840/09A RU2419880C2 (ru) 2008-11-14 2008-11-14 Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений

Country Status (1)

Country Link
RU (1) RU2419880C2 (ru)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2544784C2 (ru) * 2013-05-23 2015-03-20 Общество с ограниченной ответственностью "ФОК" Способ формирования изображения объемных объектов или глубоких сцен и устройство для его осуществления
US9390508B2 (en) 2014-03-03 2016-07-12 Nokia Technologies Oy Method, apparatus and computer program product for disparity map estimation of stereo images
RU168781U1 (ru) * 2016-06-07 2017-02-17 Открытое акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" Устройство обработки стереоизображений
RU2638761C2 (ru) * 2012-06-28 2017-12-15 Конинклейке Филипс Н.В. Система и способ для совмещения последовательности изображений
RU2698402C1 (ru) * 2018-08-30 2019-08-26 Самсунг Электроникс Ко., Лтд. Способ обучения сверточной нейронной сети для восстановления изображения и система для формирования карты глубины изображения (варианты)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111583092B (zh) * 2020-03-30 2023-03-07 西安电子科技大学 一种变分光流fpga实现方法、***、存储介质、终端
CN113822915A (zh) * 2021-07-30 2021-12-21 济宁安泰矿山设备制造有限公司 用于智能泵腔体内窥镜故障诊断的图像立体匹配方法
CN117333758B (zh) * 2023-12-01 2024-02-13 博创联动科技股份有限公司 基于大数据分析的田地路线识别***

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BOUGHORBEL F. A New Multiple-Windows Depth from Stereo Algorithm for 3D Displays, 3DTV CONFERENCE 2007, 7 May 2007, p.p.1-4. *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2638761C2 (ru) * 2012-06-28 2017-12-15 Конинклейке Филипс Н.В. Система и способ для совмещения последовательности изображений
RU2544784C2 (ru) * 2013-05-23 2015-03-20 Общество с ограниченной ответственностью "ФОК" Способ формирования изображения объемных объектов или глубоких сцен и устройство для его осуществления
US9390508B2 (en) 2014-03-03 2016-07-12 Nokia Technologies Oy Method, apparatus and computer program product for disparity map estimation of stereo images
RU168781U1 (ru) * 2016-06-07 2017-02-17 Открытое акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" Устройство обработки стереоизображений
RU2698402C1 (ru) * 2018-08-30 2019-08-26 Самсунг Электроникс Ко., Лтд. Способ обучения сверточной нейронной сети для восстановления изображения и система для формирования карты глубины изображения (варианты)

Also Published As

Publication number Publication date
RU2008144840A (ru) 2010-05-20

Similar Documents

Publication Publication Date Title
RU2419880C2 (ru) Способ и устройство для вычисления и фильтрации карты диспарантности на основе стерео изображений
EP3673461B1 (en) Systems and methods for hybrid depth regularization
CN107025660B (zh) 一种确定双目动态视觉传感器图像视差的方法和装置
US20170280073A1 (en) Systems and Methods for Reducing Noise in Video Streams
RU2382406C1 (ru) Способ улучшения карты диспарантности и устройство для реализации способа
RU2423018C2 (ru) Способ и система для преобразования стереоконтента
US11995856B2 (en) Video depth estimation based on temporal attention
CN104252700A (zh) 一种红外图像的直方图均衡化方法
TWI457853B (zh) 提供深度資訊之影像處理方法及其影像處理系統
CN114693760A (zh) 图像校正方法、装置及***、电子设备
US20190355101A1 (en) Image refocusing
CN111192226A (zh) 一种图像融合去噪方法及装置、***
CN111539895B (zh) 一种视频去噪方法、装置、移动终端和存储介质
CN110717935B (zh) 一种基于图像特征信息的图像匹配方法,装置与***
Hegde et al. Adaptive cubic spline interpolation in cielab color space for underwater image enhancement
CN109325905B (zh) 图像处理方法、装置、计算机可读存储介质和电子设备
CN107403448B (zh) 代价函数生成方法和代价函数生成装置
JP2010506482A (ja) ビデオストリームの視差回復方法及びフィルタ
KR101852085B1 (ko) 깊이 정보 획득 장치 및 깊이 정보 획득 방법
CN117058183A (zh) 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质
CN109961422B (zh) 数字图像的对比度值的确定
CN116823863A (zh) 一种红外图像轮廓提取方法及装置
CN104754316A (zh) 一种3d成像方法、装置及成像***
GB2585197A (en) Method and system for obtaining depth data
Natarajan A review on underwater image enhancement techniques

Legal Events

Date Code Title Description
FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20100525

MM4A The patent is invalid due to non-payment of fees

Effective date: 20181115