TWI485653B - 成像系統及方法 - Google Patents
成像系統及方法 Download PDFInfo
- Publication number
- TWI485653B TWI485653B TW101123168A TW101123168A TWI485653B TW I485653 B TWI485653 B TW I485653B TW 101123168 A TW101123168 A TW 101123168A TW 101123168 A TW101123168 A TW 101123168A TW I485653 B TWI485653 B TW I485653B
- Authority
- TW
- Taiwan
- Prior art keywords
- pixel
- pixels
- refinement
- disparity map
- image
- Prior art date
Links
Landscapes
- Image Processing (AREA)
Description
本發明大體而言係關於電腦視覺領域,特別係關於一種產生深度圖之成像系統及方法。
立體匹配(Stereo-matching)技術透過對於平行相機所拍攝之一對立體影像或視訊中的對應像素或像素組之間之視差距離進行估計,以擷取一場景中物體的景深資訊。立體匹配技術有諸多應用,例如三維手勢辨識、視點合成以及立體電視。
一般而言,產生深度圖之成像方法分為兩類:整體性方法及區域性方法。
整體性方法通常將立體匹配問題公式化為一能量函數,並以尋找可最小化整體能量之視差函數d
為目標。能量函數可以下列方程式表示:E(d)
=E data (d)
+λE smooth (d)
(1)
其中,E data (d)
計量視差函數d
與立體影像對相符的程度,及E smooth (d)
對整體性方法的平緩度假設進行編碼,且計量相鄰像素或像素組之視差間的差異。當能量函數之公式確定後,可透過例如動態規劃、圖形分割及可信度傳遞等進行最小化。
區域性方法在一視窗範圍內獨立估計一像素或像素組的
視差距離,其加總視窗範圍內位於立體影像對其中之一之像素或像素組與位於立體影像對其中之另一之候選匹配像素或像素組的匹配代價,並可找出複數個具有不同視差距離之候選匹配像素或像素組中匹配代價最小者,以選出所述像素或像素組在視差圖中的視差值。
此二類方法均存在有深度圖品質及計算複雜度的取捨問題。舉例而言,對於整體性方法來說,能量函數中的平緩度項E smooth (d)
可透過採用較大之鄰近區域,例如鄰近區域為8而非2,以取得較佳的邊界,但優化整體能量之計算複雜度則將接近無法控制。就區域性方法而言,其計算複雜度較整體性方法低許多,但卻以品質為代價。為了增進品質,可以較高之位元數表示一像素或像素組,以獲得較細緻之視差圖,但匹配代價之計算及加總,是針對每一像素或像素組進行,因此當每一像素或像素組以較高之位元數表示時,計算複雜度將顯著增加。
因此,目前亟需提供一種成像系統及方法,其可增進視差圖之品質但卻不會加重成像系統及方法中,需要進行大量計算部分的複雜度。
本發明提供一種成像系統及方法,其透過利用影像其中之一之邊緣資訊作為導引,識別視差圖上需要增進之區域來增進視差圖之品質,以使在不增加例如視差估計之需進行大量計算之部分之複雜度的情況下,增進視差圖之品質。利用邊緣資訊作為導引以增進視差圖之品質甚至可減
小視差估計之複雜度。
於一實施例中,成像系統包含一邊緣偵測模組、第一及第二視差估計模組、一交叉檢查模組、一遮蔽細化模組以及一破洞填充模組。邊緣偵測模組係用於偵測一第一影像中至少一參考線之一或多邊緣座標。第一及第二視差估計模組係分別用於獲得該第一影像相對於一第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖之一當前位置線。交叉檢查模組係用於利用該第二估計視差圖之該當前位置線交叉檢查該第一估計視差圖之該當前位置線,以識別該第一估計視差圖之該當前位置線中之一遮蔽像素集合。該遮蔽細化模組係用來對該遮蔽像素集合進行細化以產生一經細化之遮蔽像素集合。該破洞填充模組係用來在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖之一當前位置線。
於一實施例中,該遮蔽細化模組包含一細化基本暫存器,且該遮蔽細化模組係用於:利用該細化基本暫存器及含有該遮蔽像素集合的該第一估計視差圖之該當前位置線,透過基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖之該當前位置線上之一在細化中的像素或像素組識別為被遮蔽而對該遮蔽像素集合進行細化,該細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出該第一估計視差圖之該當前位置線中最接近該在細化中的像素或像素組之邊緣座標,不超出對應於該
第一估計視差圖之該當前位置線在該細化基本區域中之一部分之邊緣座標,且在與該第二方向相反之方向上不超出該第一估計視差圖之該當前位置線;以及用含有該遮蔽像素集合或該經細化之遮蔽像素集合的第一估計視差圖之該當前位置線以及與該第一影像之該參考線的該經偵測之一或多邊緣座標相關之資訊,對該細化基本暫存器進行更新。
於一實施例中,該破洞填充模組係用於基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合。
於一實施例中,該細化基本區域另外分別在第一方向及與第一方向相反之方向上不超出距該第一估計視差圖之該當前位置線中之在細化中的像素或像素組具預定距離之像素或像素組。於一實施例中,該細化基本區域另外在第二方向上不超出距該第一估計視差圖之該當前位置線具一預定距離之一位置線。
於一實施例中,當限定於該細化基本區域之遮蔽像素或像素組之數目大於限定於該細化基本區域之像素或像素組之總數的一半時,該遮蔽細化模組將在細化中的像素或像素組識別為被遮蔽。
於另一實施例中,該破洞填充模組包含一填充基本暫存器,且該破洞填充模組係用於利用該填充基本暫存器及含有該經細化之遮蔽像素集合的該第一估計視差圖之該當前位置線,透過基於一填充基本區域中像素或像素組之視差
值之統計資訊填充該經細化之遮蔽像素集合中之一受到填充的像素或像素組而在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合,以獲得該第一細化視差圖之該當前位置線,該填充基本區域分別在該第一方向及與該第一方向相反之該方向上不超出該第一估計視差圖之該當前位置線中最接近該受到填充的像素或像素組之邊緣座標,且在與該第二方向相反之該方向上不超出該第一估計視差圖之該當前位置線;以及以該第一細化視差圖之該當前位置線更新該填充基本暫存器。
於一實施例中,該填充基本區域另外分別在第一方向及與第一方向相反之方向上不超出距該第一估計視差圖之該當前位置線中之受到填充的像素或像素組具預定距離之像素或像素組。於一實施例中,該填充基本區域另外在第二方向上不超出距該第一估計視差圖之該當前位置線具一預定距離之一位置線。於一實施例中,填充基本區域另外在與第二方向相反之方向上不超出含有受到填充的像素或像素組之位置線。
於一實施例中,該破洞填充模組透過進行多階段表決方法來獲得統計資訊,多階段表決方法包含:獲得填充基本區域中最多數目個像素或像素組所關聯於之一系列視差值;及獲得該一系列視差值中填充基本區域中最多數目個像素或像素組所關聯於之一視差值。
於另一實施例中,一種電腦系統包含:儲存包含程式常式之資訊之一或多記憶體,及耦接至該一或多記憶體以控
制該等程式常式之執行的一或多個處理單元。該等程式常式包含一邊緣偵測模組、第一及第二視差估計模組、一交叉檢查模組、一遮蔽細化模組以及一破洞填充模組。該邊緣偵測模組係用於偵測一第一影像中之邊緣座標。該第一及該第二視差估計模組係分別用於獲得該第一影像相對於一第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖。該交叉檢查模組係用於利用該第二估計視差圖交叉檢查該第一估計視差圖,以識別該第一估計視差圖中之一遮蔽像素集合。該遮蔽細化模組係用來對該遮蔽像素集合進行細化以產生一經細化之遮蔽像素集合。該破洞填充模組係用來在該第一估計視差圖中填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖。
於一實施例中,該遮蔽細化模組係用於透過基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖上之至少一在細化中的像素或像素組識別為被遮蔽,對該遮蔽像素集合進行細化,該細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出含有該在細化中的像素或像素組之一位置線中最接近該在細化中的像素或像素組之邊緣座標,且分別在一第二方向上及與該第二方向相反之方向上不超出對應於含有該在細化中的像素或像素組之該位置線在該細化基本區域中之一部分之邊緣座標。
於一實施例中,該破洞填充模組係用於基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組填充該經細化
之遮蔽像素集合。
於另一實施例中,一種成像方法包含:提供一第一及一第二影像;偵測該第一影像中之邊緣座標;獲得該第一影像相對於該第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖;利用該第二估計視差圖交叉檢查該第一估計視差圖,以識別該第一估計視差圖中之一遮蔽像素集合;對該遮蔽像素集合進行細化以產生一經細化之遮蔽像素集合;以及在該第一估計視差圖中填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖。
於一實施例中,對該遮蔽像素集合進行細化包含基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖上之一在細化中的像素或像素組識別為被遮蔽,該細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出含有該在細化中的像素或像素組之一位置線中最接近該在細化中的像素或像素組之邊緣座標,且分別在一第二方向上及與該第二方向相反之方向上不超出對應於含有該在細化中的像素或像素組之該位置線在該細化基本區域中之一部分之邊緣座標。
於一實施例中,填充該經細化之遮蔽像素集合係基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組。
於一實施例中,該細化基本區域在與第二方向相反之方向上不超出含有在細化中的像素或像素組之位置線。於一實施例中,該細化基本區域另外分別在第一方向及與第一
方向相反之方向上不超出含有在細化中的像素或像素組之位置線中距在細化中的像素或像素組具預定距離之像素或像素組。於一實施例中,該細化基本區域另外在該第二方向上不超出距含有該在細化中的像素或像素組之該位置線具一預定距離之一位置線。
於一實施例中,當限定於該細化基本區域之遮蔽像素或像素組之數目大於限定於該細化基本區域之像素或像素組之總數的一半時,該遮蔽細化模組將在細化中的像素或像素組識別為被遮蔽。
於一實施例中,該破洞填充模組基於一填充基本區域中的像素或像素組之視差值之統計資訊填充該經細化之遮蔽像素或像素組集合中之一受到填充的像素或像素組,該填充基本區域分別在該第一方向上及與該第一方向相反之該方向上不超出含有該受到填充的像素或像素組之一位置線中最接近該受到填充的像素或像素組之邊緣座標。
於一實施例中,該填充基本區域另外分別在第一方向及與第一方向相反之方向上不超出含有受到填充的像素或像素組之位置線中距受到填充的像素或像素組具預定距離之像素或像素組。於一實施例中,該填充基本區域另外在第二方向上不超出距含有該受到填充的像素或像素組之該位置線具一預定距離之一位置線。於一實施例中,該填充基本區域另外在與第二方向相反之方向上不超出含有受到填充的像素或像素組之位置線。
於一實施例中,該破洞填充模組透過進行多階段表決方
法來獲得統計資訊,多階段表決方法包含:獲得填充基本區域中最多數目個像素或像素組所關聯於之一系列視差值;及獲得該一系列視差值中基本區域中最多數目個像素或像素組所關聯於之一視差值。
於另一實施例中,一非暫態之電腦可讀取之記錄媒體儲存一電腦程式,以使一電腦系統執行上述之成像方法。
上述說明為本發明技術特徵及優勢的概述,以能更清楚瞭解以下本發明之詳細說明。以下將進一步說明本發明之技術特徵及優勢,以支持本發明之申請專利範圍所請求之標的。本領域中具有通常知識者應能理解所揭露之觀念及特定實施例可能直接成為修改或設計其他結構或程序以達成與本發明相同之功能之基礎。本領域中具有通常知識者應瞭解上述等同之設計並無背離本發明之精神而應由以下之申請專利範圍涵蓋。
本發明之目標及優點將在閱讀以下描述及在參看隨附圖式之後變得顯而易見。
圖1顯示根據本發明之一實施例之成像系統20之應用之方塊圖。請參照圖1,於成像系統20之應用中,立體相機10包含從不同之視點拍攝一場景之兩個原始影像12或視訊之兩個相機。立體相機可為能夠從不同之視點拍攝一場景之兩個影像之任何影像記錄器件。視不同應用而定,相機可整合為一個裝置或分開配置。校正與扭正方塊14進行兩個原始影像12之校正以移除透鏡畸變,以及進
行兩個原始影像12之扭正以移除共面及核線上之不匹配,以使輸出之第一影像16及第二影像18可進行單線對單線之比對。成像系統20利用第一影像16及第二影像18產生深度圖22。深度圖22提供場景中物體距立體相機10之距離資訊。由於深度圖22可直接由視差圖計算得出,故以下將視差圖稱為成像系統20之輸出,視差圖是透過測量第一影像16與第二影像18之視差距離得出。應用方塊24因此可利用深度圖22進行例如三維手勢辨識、視點合成及立體電視呈現。
成像系統20可以硬體實施,例如以場可程式化閘陣列(Field Programmable Gate Array,FPGA)實施,以及以特定功能積體電路(Application Specific Integrated Circuit,ASIC)實施,或可透過一般性電腦系統以軟體實施,或以硬體與軟體之組合實施。硬體實施相較於軟體實施可達成較高效能,但需要較高的設計成本。對於即時性應用而言,通常選擇硬體實施,以符合速度的要求。
圖2及3分別顯示本發明之一實施例之成像系統之方塊圖。請參照圖2,於一實施例中,透過排序緩衝區硬體實施之成像系統20接收一第一影像及一第二影像,輸出一細化視差圖,且包含邊緣偵測模組204、第一及第二視差估計模組208、258、交叉檢查模組212、遮蔽細化模組216及破洞填充模組220。
邊緣偵測模組204係用於接收第一影像中至少一參考線以及偵測第一影像中參考線之一或多邊緣座標以產生邊緣
圖206。對應於第一影像之參考線上之位置,產生細化視差圖之當前位置線。
第一視差估計模組208係用於接收第一影像之當前位置線以及獲得第一影像相對於第二影像之第一估計視差圖210之當前位置線(如圖中雙箭頭之左向部分所顯示)。相似地,第二視差估計模組258係用於接收第二影像之當前位置線以及獲得第二影像相對於第一影像之第二估計視差圖260之當前位置線(如圖中雙箭頭之右向部分所顯示)。第一或第二視差估計模組208或258可利用整體性方法或是區域性方法實施。如上所述,區域性方法相較於整體性方法有低得多之複雜度,因此,為了能達成例如即時性應用所需之較高速度,於以下所描述的本發明之一實施例中,採用區域性方法。
請參照圖2及3,於一實施例中,第一視差估計模組208包含第一普查轉換模組2081、第一代價加總模組2083以及第一視差選擇模組2085;第二視差估計模組258包含第二普查轉換模組2581、第二代價加總模組2583及第一視差選擇模組2585。
包含一第一普查暫存器(未圖示)之第一普查轉換模組2081係用於接收第一影像之當前位置線,以及利用第一普查暫存器及第一影像之當前位置線,進行普查轉換以產生第一影像之對應線,並以第一影像之當前位置線更新第一普查暫存器,以及輸出第一影像之經普查轉換之比對線2082。於一實施例中,第一普查暫存器之大小等於第一影
像之寬度、像素或像素組之位元長度及兩條線之高度之乘積。高度係由普查轉換所使用之鄰近區域決定。相似地,包含第二普查暫存器之第二普查轉換模組2581係用於接收第二影像之當前位置線,以及使用第二普查暫存器及第二影像之當前位置線,進行普查轉換以產生第二影像之比對線,以第二影像之當前位置線更新第二普查暫存器,以及輸出第二影像之經普查轉換之比對線2582。
包含第一加總視窗暫存器(未圖示)之第一代價加總模組2083係用於分別接收第一影像及第二影像之比對線2082及2582;對於複數個視差距離,計算第一影像之比對線2082相對於第二影像之比對線2582之當前匹配代價;對於所述複數個視差距離,利用第一加總視窗暫存器及當前匹配代價,加總匹配代價;以當前匹配代價更新第一加總視窗暫存器;以及對於所述複數個視差距離,輸出經加總匹配代價2084。在本實施例中,第一及第二影像之比對線係分別從第一普查轉換模組2081之輸出2082及第二普查轉換模組2581之輸出2582獲得。於一實施例中,第一加總視窗暫存器之大小等於第一影像之寬度、像素或像素組之位元長度及加總視窗之高度(將於以下部分之說明書說明)之乘積。
相似地,包含第二加總視窗暫存器(未圖示)之第二代價加總模組2583係用於分別接收第一影像及第二影像之比對線2082及2582;對於複數個視差距離,計算第二影像之比對線2582相對於第一影像之比對線2082之當前匹配
代價;對於所述複數個視差距離,利用第二加總視窗暫存器及當前匹配代價,加總匹配代價;以當前匹配代價更新第二加總視窗暫存器;以及對於所述複數個視差距離,輸出經加總匹配代價2584。應注意,在本實施例中,對經普查轉換之影像進行代價加總。然而,本發明不限於以此方式實施。於其他實施例中,可對未轉換之影像進行代價加總。
第一視差選擇模組2085係用於接收第一代價加總模組2083之複數個視差距離的加總之匹配代價2084;為第一估計視差圖210之當前位置線上之每一座標,分別選擇所述複數個視差距離其中之一,作為第一估計視差圖210上之座標處之視差值,以及輸出第一估計視差圖210之當前位置線。相似地,第二視差選擇模組2585係用於自第二代價加總模組2583接收所述複數個視差距離的經加總匹配代價2584;為第二估計視差圖260之當前位置線上之每一座標,分別選擇所述複數個視差距離其中之一,作為第二估計視差圖260之座標處之視差值,以及輸出第二估計視差圖260之當前位置線。
交叉檢查模組212係用於接收第一估計視差圖210之當前位置線及第二估計視差圖260之當前位置線;利用第二估計視差圖260之當前位置線交叉檢查第一估計視差圖210之當前位置線,以識別第一估計視差圖210之當前位置線中之一遮蔽像素集合214,或進行相反操作;以及輸出第一估計視差圖210之當前位置線中之遮蔽像素集合
214。遮蔽像素集合214可含有零或多個遮蔽像素或像素組。
包含細化基本暫存器(未圖示)之遮蔽細化模組216係用於接收第一估計視差圖210之當前位置線中的遮蔽像素集合214;利用細化基本暫存器及含有遮蔽像素集合214的第一估計視差圖210之當前位置線,透過基於細化基本區域中之遮蔽像素或像素組之數目將第一估計視差圖210之當前位置線上的在細化中的像素或像素組識別為被遮蔽,對遮蔽像素集合214進行細化;以及用含有遮蔽像素集合214或經細化之遮蔽像素集合218的第一估計視差圖210之當前位置線以及與邊緣圖206中之第一影像之參考線的經偵測之一或多邊緣座標相關之資訊,對細化基本暫存器進行更新。細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出第一估計視差圖210之當前位置線中最接近在細化中的像素或像素組之邊緣座標,不超出對應於第一估計視差圖210之當前位置線在細化基本區域中之部分的邊緣座標,以及在與第二方向相反之方向上不超出第一估計視差圖210之當前位置線。與經偵測之一或多邊緣座標相關之資訊可為(但不限於)第一估計視差圖210之當前位置線之每一像素或像素組與第二方向上之各別邊緣座標之間的距離。舉例而言,若第一估計視差圖210之當前位置線上之像素或像素組位於第一影像之參考線上所偵測到之邊緣座標處,則將該距離設定為零;否則,像素或像素組之距離將為當前位置線之在前一位置線中的對應
像素或像素組之距離遞增一。
於一實施例中,細化基本區域另外分別在第一方向及與第一方向相反之方向上不超出距第一估計視差圖之該當前位置線中之在細化中的像素或像素組具預定距離rr
、rl
之像素或像素組。於另一實施例中,細化基本區域另外在第二方向上不超出距該第一估計視差圖之當前位置線具預定距離ru
之位置線。於本實施例中,細化基本暫存器之大小等於第一影像之寬度、等於預定距離ru
之位元長度與儲存與第一影像之參考線的經偵測之一或多邊緣座標相關之資訊所需之位元長度之總和之乘積,儲存資訊所需之位元長度於一實施例中等於log2
(ru
)+1。
破洞填充模組220係用於接收第一估計視差圖210之當前位置線中的經細化之遮蔽像素集合218,至少基於每一遮蔽像素或像素組之各別鄰近像素或像素組,在第一估計視差圖210之當前位置線中填充經細化之遮蔽像素集合218,以產生第一細化視差圖之當前位置線。於一實施例中,破洞填充模組220利用第一估計視差圖210之當前位置線中最接近受到填充的像素或像素組之非遮蔽像素或像素組之視差值來對受到填充的像素或像素組進行填充。於另一實施例中,包含一填充基本暫存器(未圖示)之破洞填充模組220係用於利用該填充基本暫存器及含有經細化之遮蔽像素集合218的第一估計視差圖210之當前位置線,透過基於一填充基本區域中像素或像素組之視差值之統計資訊填充經細化之遮蔽像素集合218中之一受到填充的像
素或像素組而在第一估計視差圖210之當前位置線中填充經細化之遮蔽像素集合218,以獲得該第一細化視差圖之該當前位置線,該填充基本區域分別在該第一方向及與該第一方向相反之該方向上不超出第一估計視差圖210之當前位置線中最接近該受到填充的像素或像素組之邊緣座標,且在與該第二方向相反之該方向上不超出第一估計視差圖210之當前位置線。
於一實施例中,該填充基本區域另外分別在第一方向及與第一方向相反之方向上不超出距該第一估計視差圖之該當前位置線中之在細化中的像素或像素組具預定距離sr
、sl
之像素或像素組。另外,於一實施例中,該填充基本區域另外在第二方向上不超出距該第一估計視差圖之當前位置線具預定距離su
之位置線。於一實施例中,預定距離su
等於一條位置線,且於本實施例中,填充基本暫存器之大小為第一影像之寬度以及用於儲存前一位置線中像素或像素組之視差值之最大視差值所需之位元長度、用於將前一位置線之像素或像素組標示為邊緣像素或像素組所需之位元長度1與用於將第一估計視差圖210之當前位置線上之像素或像素組標示為遮蔽像素或像素組之位元長度1之總和的乘積。
於另一實施例中,成像系統20係透過一般性電腦系統以軟體實施。一般性電腦系統包含用於儲存包含程式常式之資訊之一或多個記憶體(未圖示),及耦接至該一或多記憶體用於控制包括軟體模組之程式常式之執行之一或多處
理單元(未圖示)。請參照圖2,於一實施例中,程式常式包含邊緣偵測模組204、第一及第二視差估計模組208、258、交叉檢查模組212、遮蔽細化模組216及破洞填充模組220。
邊緣偵測模組204係用於偵測第一影像中之邊緣座標。第一視差估計模組208係用於獲得第一影像相對於一第二影像之第一估計視差圖210(圖中雙箭頭之左向部分所顯示)。相似地,第二視差估計模組258係用於獲得第二影像相對於第一影像之第二估計視差圖260(圖中雙箭頭之右向部分所顯示)。交叉檢查模組212係用於利用第二估計視差圖260交叉檢查第一估計視差圖210,以識別第一估計視差圖210中之一遮蔽像素集合214。遮蔽細化模組216係用於透過基於一細化基本區域中遮蔽像素或像素組之數目將第一估計視差圖210上之至少一在細化中的像素或像素組識別為被遮蔽,對遮蔽像素集合214進行細化,以獲得經細化之遮蔽像素集合218。於一實施例中,細化基本區域分別在一第一方向及與第一方向相反之方向上不超出含有該在細化中的像素或像素組之一位置線中最接近該在細化中的像素或像素組之邊緣座標,且分別在一第二方向上及與第二方向相反之方向上不超出對應於含有該在細化中的像素或像素組之該位置線在該等最接近邊緣座標之間的部分之邊緣座標。破洞填充模組220係用於基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組填充經細化之遮蔽像素集合218,以獲得一第一細化視差圖。
上述實施例僅為本發明之成像系統20之實例且替代之均等實施係可能的。舉例而言,模組中之操作次序可以不同,且並不需要所有模組,此將自以下描述變得更顯而易見。模組之詳細操作可直接自關於本發明之一實施例之成像方法之以下描述獲得。
圖4顯示本發明之一實施例之成像方法之流程圖。圖5顯示本發明之一實施例之以區域性方法實施之視差估計步驟之流程圖。圖6顯示進行立體匹配之第一及第二影像之示意圖。圖7顯示本發明之一實施例之邊緣圖之示意圖。圖8顯示本發明之一實施例之普查轉換步驟之示意圖。圖9顯示本發明之一實施例之代價加總步驟之示意圖。圖10顯示本發明之一實施例之交叉檢查步驟之示意圖。圖11及12顯示本發明之不同實施例之遮蔽細化步驟之示意圖。圖13顯示本發明之一實施例之遮蔽細化步驟之結果之示意圖。圖14顯示本發明之一實施例之破洞填充步驟之示意圖。
於一實施例中,成像方法為電腦實施之方法且可儲存於非暫態之電腦可讀記錄媒體上以使電腦系統進行成像方法。請參照圖4,於一實施例中,成像方法400包含下列步驟:提供一第一及一第二影像(S402);偵測該第一影像中之邊緣座標(S404);獲得該第一影像相對於該第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖(S406);利用該第二估計視差圖交叉檢查該第一估計視差圖,以識別一遮蔽像素集合(S408);對該
遮蔽像素集合進行細化(S410);以及填充該經細化之遮蔽像素集合(S412)。
請參照圖4及圖6,於步驟S402中,提供第一及第二影像60及65。如上所述且如圖6中所顯示,第一影像60及第二影像65已經過扭正,以使第一影像60及第二影像65中對齊之水平線可進行像素或像素組對像素或像素組之匹配。於本實施例中,第一影像60為左視影像而第二影像65為右視影像。於另一實施例中,第一影像可為右視影像而第二影像可為左視影像。
請參照圖4且亦請參照圖7,於步驟S404中,偵測第一影像60中之邊緣座標,以獲得邊緣圖70。於邊緣圖70中,對應於第一影像60中物體之邊界像素或像素組的邊緣座標702被標示。可利用本領域中適當之邊緣偵測技術獲得清晰的物體邊界。
請參照圖4,於步驟S406中,獲得第一影像60相對於第二影像65之第一估計視差圖。可利用整體性方法或區域性方法獲得第一估計視差圖。如上所述,整體性方法將立體匹配問題以一能量函數公式化,能量函數可由式(1)表示。能量函數包含平緩度項E smooth (d)
,該平緩度項可導致第一估計視差圖在各處均平緩且因此使物體邊界變模糊以及影響視差圖之品質。
於一實施例中,視差估計步驟S406係以包含以下步驟之區域性方法進行。在下文中將參照圖5、圖6及圖9。於圖9中,網格90表示第一影像60之部分像素或像素
組,以及網格952、954、956表示第二影像65中之部分像素或像素組。於步驟S504中,計算及加總參考視窗(網格90中之斜線標示部分)以及複數個候選匹配視窗(網格952、954及956中之斜線標示部分)之匹配代價,參考視窗與第一影像60中具有(x,y)座標之參考像素或像素組重疊,上述複數個候選匹配視窗與第二影像65中例如具有(x,y)、(x-1,y)、(x-2,y)…(x-dmax
,y)座標之各別候選匹配像素或像素組重疊。具有(x,y)、(x-1,y)、(x-2,y)…或(x-dmax
,y)座標之每一候選匹配像素或像素組相對於參考像素(x,y)具有一不同之視差距離d=0、d=-1、d=-2…或d=-dmax
。接著,於步驟S506中,根據加總匹配代價,選擇候選匹配像素或像素組其中之一所對應之視差距離d為在第一估計視差圖上位於參考像素(x,y)之座標之一視差值。於一實施例中,選擇具有最小加總匹配代價之候選匹配像素或像素組所對應之視差距離。接著,於步驟S508中,如果所處理的位於座標(x,y)之參考像素為第一影像60中之最後一個參考像素或像素組,則已完成第一估計視差圖;否則,重複進行步驟S504及S506。代價加總步驟S504減少第一影像602中之雜訊對於視差圖之精確度之影響,但卻使物體之邊界模糊化,影響視差圖之品質。
於不同的實施例中,步驟S504中的加總匹配代價C可利用分別顯示於式(2)-(4)之絕對差值和(Sum of Absolute Difference,SAD)、差值平方和(Sum of Squared Differences,SSD),或是正規化互相關性(Normalized
Cross Correlation,NCC)計算。
C SAD
=Σ x
,y
|I 1
(x
,y
)-I 2
(x
-d
,y
)| (2)
C SSD
=Σ x
,y
(I 1
(x
,y
)-I 2
(x
-d
,y
))2
(3)
其中,x及y為一參考像素之座標、d為一視差距離,以及I1
及I2
分別表示第一及第二影像60及65之像素強度。
請參照圖4、5及8,於另一實施例中,步驟S404進一步包含對第一影像60進行普查轉換之普查轉換步驟S502。舉例而言,於圖8中,網格80顯示第一影像60中部分像素或像素組之像素強度。對第一影像602中位於座標(x,y)之一像素進行普查轉換即表示進行所述像素或像素組與其相鄰像素或像素組之像素強度之分別比較,以獲得如位於網格80'之座標(x,y)處之位元向量。於一實施例中,每一像素或像素組係與其直接相鄰之四個像素或像素組比較,以獲得長度為4之位元向量。於一實施例中,位元向量長度至少為1。於一實施例中,視進行比較之相鄰像素或像素組之數目而定,位元向量長度可為1、2、3或任何更高數字。相較於以上述像素強度表示之像素或像素組,經過普查轉換之像素或像素組具有明顯較短之位元長
度。相似地,第二影像65亦經過普查轉換。網格85顯示第二影像85中部分像素或像素組之像素強度,以及網格85'顯示經過普查轉換之像素或像素組。針對經過普查轉換之影像,步驟S504之加總匹配代價C可透過如式(5)所示之漢明距離(Hamming Distance,HD)計算:C HD
=Σ x
,y HD
(位元向量1
(x
,y
),位元向量2
(x
-d
,y
)) (5)
其中,x及y為一參考像素之座標、d為一視差距離,以及BitVec1
及BitVec2
分別表示經過普查轉換之第一及第二影像60及65之像素或像素組之位元向量。
接下來,請參照圖4及圖10,於步驟S408中,用第二估計視差圖交叉檢查第一估計視差圖100,以識別一遮蔽像素集合102。一般而言,物體在第一估計視差圖及第二估計視差圖中之視差值應相同。視視點位置而定,物體之部分在影像其中之一中可能被遮蔽而僅在另一影像中可見。交叉檢查步驟S408偵測物體之遮蔽部分及其他不匹配之部分。於一實施例中,交叉檢查步驟S408係基於以下所示之限制條件進行:
其中,D
及D'
分別代表第一及第二估計視差圖,及λ
為預定之交叉檢查門檻值。第一估計視差圖100上不滿足限
制條件(6)之像素或像素組將包含於遮蔽像素集合102中。另外,如圖10中所示,因為估計視差圖100之品質在整體性方法中可受平緩度項影響,在區域性方法中可受代價加總及/或普查轉換影響,所以物體邊界在第一估計視差圖100中變得模糊。
接下來,請參照圖4、圖11、圖12及圖13,於步驟S410中,利用從邊緣偵測步驟S404獲得之邊緣座標702對圖11或圖12中所示之第一估計視差圖100'或100中的遮蔽像素集合102'或102進行細化,以產生第一估計視差圖100"上的經細化之遮蔽像素集合102",如圖13所示。於圖11及圖12中,圖之底部所示之網格為第一估計視差圖100'或100之在遮蔽細化中之不同部分處的放大視圖。於一實施例中,遮蔽像素集合102'或102係透過基於細化基本區域1010(以粗線表示)中遮蔽像素1008之數目將第一估計視差圖100'或100上之在細化中的像素1006識別為被遮蔽而細化。基於交叉檢查步驟S408,細化基本區域1010中之空白像素1006及空白像素1007為未遮蔽像素或像素組。
請參照圖11之底部左邊上所示之放大視圖,於一實施例中,於第一方向(例如,X方向)上,細化基本區域1010不超出最接近在細化中的像素1006之邊緣座標(未圖示)且另外不超出含有在細化中的像素1006之位置線中距在細化中的像素1006具預定距離rr
之像素或像素組。於相反於第一方向之方向上,細化基本區域1010不超出最接近
在細化中的像素1006之邊緣座標1004且另外不超出含有在細化中的像素1006之位置線中距在細化中的像素1006具預定距離rl
之像素或像素組。於第二方向(例如Y方向)上,細化基本區域1010不超出對應於含有在細化中的像素1006之位置線在細化基本區域1010中之部分的邊緣座標1002,且另外不超出距含有在細化中的像素1006之位置線具預定距離ru
之位置線。於相反於第二方向之方向上,細化基本區域1010不超出對應於含有在細化中的像素1006之位置線在細化基本區域1010中之部分的邊緣座標(未圖示),且另外不超出距含有在細化中的像素或像素組之位置線具預定距離rd
之位置線。於一實施例中,預定距離rr
、rl
、ru
及rd
等於至少1條位置線。於圖11之底部左邊上所示之實例中,細化基本區域1010由在與第一方向相反之方向上的邊緣座標搜尋期間之邊緣座標1004及第二方向上之邊緣座標1002為界,且在第一方向及與第二方向相反之方向上至多達到預定距離rr
及rd
。相較於圖11之底部左邊上所示之實例,圖11之底部右邊上所示之實例中之細化基本區域1010在與第二方向相反之方向上由邊緣座標1002限定,且在第二方向上至多達到預定距離ru
。
請參照圖12之底部左邊上之放大視圖,於本實施例中,未搜尋與第二方向(例如Y方向)相反之方向。因此,於第一方向(例如,X方向)上,細化基本區域1010不超出最接近在細化中的像素1006之邊緣座標1004且另外不超
出含有在細化中的像素1006之位置線中距在細化中的像素1006具預定距離rr
之像素或像素組。於相反於第一方向之方向上,細化基本區域1010不超出最接近在細化中的像素1006之邊緣座標(未圖示)且另外不超出含有在細化中的像素1006之位置線中具預定距離rl
之像素或像素組。於第二方向上,細化基本區域1010不超出對應於含有在細化中的像素1006之位置線在細化基本區域1010中之部分的邊緣座標1002,且另外不超出距含有在細化中的像素1006之位置線具預定距離ru
之位置線。於相反於第二方向之方向上,細化基本區域1010不超出含有在細化中的像素1006之位置線。於本實例中,細化基本區域1010由第一方向上的邊緣座標搜尋期間之邊緣座標1004及第二方向上之邊緣座標1002為界,且在與第一方向相反之方向上至多達到預定距離rl
。相較於圖12之底部左邊上所示之實例,圖12之底部右邊上所示之實例中之細化基本區域1010由第一方向及與第一方向相反之方向上的搜尋期間之邊緣座標1004限定。
以上描述中所用之片語「不超出」意謂直至規定邊界或在規定邊界內之區域跨度。
請參照圖4及圖11,於一實施例中,於步驟S410中,當限定於細化基本區域1010之遮蔽像素1008之數目大於限定於細化基本區域1010之像素1006、1007及1008之總數之預定百分比時,將在細化中的像素1006識別為被遮蔽。於一實施例中,預定百分比為至少0.1至0.9。於
圖11中所示之實施例中,在決定是否將在細化中的像素1006標示為被遮蔽時,對在遮蔽細化步驟S410期間識別之遮蔽像素或像素組與從交叉檢查步驟S408獲得之遮蔽像素或像素組一起計數。如圖11中所示,第一估計視差圖100'在在細化中的像素1006上方及左邊之部分已經過遮蔽細化處理且含有來自交叉檢查步驟S408及遮蔽細化步驟S410兩者之遮蔽像素或像素組。於如圖12中所示之不同實施例中,在決定是否將在細化中的像素1006標示為被遮蔽時,僅對從交叉檢查步驟S408獲得之遮蔽像素1008計數。
接下來,請參照圖4及圖14,於一實施例中,於步驟S412中,基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組填充經細化之遮蔽像素集合102",以獲得一第一細化視差圖。於一實施例中,假設填充程序係自左至右、自上至下進行,則用含有受到填充的像素1012之位置線(例如,圖14中所示之網格中之第二列)中最接近受到填充的像素1012之非遮蔽像素或像素組之視差值填充受到填充的像素1012。舉例而言,最接近之非遮蔽像素或像素組可為在受到填充的像素1012左邊的具有視差值36之像素或像素組。
於另一實施例中,基於填充基本區域1014(以粗線表示)中之像素或像素組之視差值之統計資訊填充經細化之遮蔽像素集合102"中之受到填充的像素1012。於一實施例中,細化基本區域1014分別在第一方向(例如,X方向)及
與第一方向相反之方向上不超出含有受到填充的像素1012之位置線中最接近受到填充的像素1012之邊緣座標1016。如圖14中所示,於一實施例中,填充基本區域1014另外分別在第一方向及與第一方向相反之方向上不超出含有受到填充的像素1012之位置線中距受到填充的像素1012具預定距離sr
、sl
之像素或像素組。於一實施例中,預定距離rr
、rl
、ru
及rd
等於至少1條位置線。另外,填充基本區域1014另外在第二方向(例如Y方向)上不超出距含有受到填充的像素1012之位置線具預定距離su
之位置線。於一實施例中,填充基本區域1014另外在與第二方向相反之方向上不超出含有受到填充的像素1012之位置線。於一實施例中,預定距離su
等於至少1條位置線。於該圖之頂部處所示之實例中,填充基本區域1014由在第一方向及與第一方向相反之方向上的邊緣座標搜尋期間之邊緣座標1016為界,且在第二方向上至多達到預定距離su
以及在與第二方向相反之方向上至多達到含有受到填充的像素1012之位置線。相較於圖14之頂部處所示之實例,該圖之底部處所示之填充基本區域1014在第一方向上至多達到預定距離sr
。
繼續以上描述,於一實施例中,透過進行多階段表決方法來獲得統計資訊,多階段表決方法包含:獲得填充基本區域1014中最多數目個像素或像素組所關聯於之一系列視差值;及獲得該一系列視差值中基本區域1014中最多數目個像素或像素組所關聯於之一視差值。於圖14中所
示之實例中,填充基本區域1014中之最多數目個像素或像素組屬於45-49之一系列視差值,且在45-49之範圍內,視差值47具有最多數目之得票。因此,用視差值47對受到填充的像素1012進行填充。
於前述實施例中,透過利用第一影像之邊緣座標作為導引來識別必須加以增進之像素或像素組且識別可充當用於修補必須加以增進之每一像素或像素組之參考的至少一像素或像素組,遮蔽細化步驟S410及破洞填充步驟S412增進視差圖之品質。因此,遮蔽細化步驟S410及破洞填充步驟S412可增進視差圖之品質而不會增加需進行大量計算之視差估計步驟S404之複雜度。遮蔽細化步驟S410及破洞填充步驟S412甚至可透過允許利用像素或像素組之更緊湊表示來幫助減小視差估計步驟S404之複雜度,例如在包括普查轉換步驟S502之實施例中。
應注意,上述成像方法之實施例僅為本發明之實例。替代之等效實施例係可能的。舉例而言,普查轉換步驟S502可逐個區域進行且包含於圖5中所示之處理迴圈中;或如於上述之管線式硬體實施例中,可按行產生第一及第二估計視差圖、遮蔽像素集合、經細化之遮蔽像素集合以及第一細化視差圖。
綜上所述,本發明提供一種成像系統及方法,其產生第一影像及第二影像之視差圖。使用第一影像之邊緣資訊作為導引以識別視差圖上需要增進之區域,以使在不增加例如視差估計之需進行大量計算之部分之複雜度的情況下,
增進視差圖之品質。使用邊緣資訊細化視差圖甚至可減少視差估計之複雜度。透過增進視差圖之品質及控制複雜度,本發明可適用於三維手勢辨識、視點合成及立體電視等應用。
本發明之技術內容及技術特定已揭露如上,然而熟悉本項技術之人士仍可能基於本發明之教示及揭露而作種種不背離本發明精神之替換及修飾。舉例而言,上述許多程序可以不同方法實施,以及以其他程序替代,或是其組合。
另外,本發明之保護範圍應不限於本說明書中所描述之程序、機器、成品、組成物、手段、方法及步驟之特定實施例。本領域中具有通常知識者應能從本發明之揭露內容直接領會具有與本說明書之實施例實質等同之功能或可達成與本說明書之實施例實質相同之結果之目前現有或後來開發的可供本發明使用之程序、機器、成品、組成物、手段、方法或步驟。因此,上述程序、機器、成品、組成物、手段、方法或步驟應由以下之申請專利範圍所涵蓋。
10‧‧‧立體相機
12‧‧‧原始影像
14‧‧‧校正與扭正方塊
16‧‧‧第一影像
18‧‧‧第二影像
20‧‧‧成像系統
22‧‧‧深度圖
24‧‧‧應用方塊
60‧‧‧第一影像
65‧‧‧第二影像
70‧‧‧邊緣圖
80‧‧‧網格
80'‧‧‧網格
85‧‧‧網格
85'‧‧‧網格
90‧‧‧網格
100‧‧‧第一估計視差圖
100'‧‧‧第一估計視差圖
100"‧‧‧第一估計視差圖
102‧‧‧遮蔽像素集合
102'‧‧‧遮蔽像素集合
102"‧‧‧遮蔽像素集合
204‧‧‧邊緣偵測模組
206‧‧‧邊緣圖
208‧‧‧第一視差估計模組
210‧‧‧第一估計視差圖
212‧‧‧交叉檢查模組
214‧‧‧遮蔽像素集合
216‧‧‧遮蔽細化模組
218‧‧‧經細化之遮蔽細像素集合
220‧‧‧破洞填充模組
258‧‧‧第二視差估計模組
260‧‧‧第二估計視差圖
400‧‧‧成像方法
702‧‧‧邊緣座標
952‧‧‧網格
954‧‧‧網格
956‧‧‧網格
1002‧‧‧邊緣座標
1004‧‧‧邊緣座標
1006‧‧‧空白像素
1007‧‧‧空白像素
1008‧‧‧遮蔽像素
1010‧‧‧細化基本區域
1012‧‧‧受到填充的像素
1014‧‧‧填充基本區域
1016‧‧‧邊緣座標
2081‧‧‧第一普查轉換模組
2082‧‧‧比對線
2083‧‧‧第一代價加總模組
2084‧‧‧加總匹配代價
2085‧‧‧第一視差選擇模組
2581‧‧‧第二普查轉換模組
2582‧‧‧比對線
2583‧‧‧第二代價加總模組
2584‧‧‧加總匹配代價
2585‧‧‧第二視差選擇模組
rl
‧‧‧距第一估計視差圖之當前位置線中之在細化中的
像素或像素組的預定距離
rr
‧‧‧距第一估計視差圖之當前位置線中之在細化中的像素或像素組的預定距離
ru
‧‧‧距第一估計視差圖之當前位置線的預定距離
rd
‧‧‧距第一估計視差圖之當前位置線中之在細化中的像素或像素組的預定距離
sr
‧‧‧第一方向上的距第一估計視差圖之當前位置線中之在細化中的像素或像素組的預定距離
sl
‧‧‧與第一方向相反之方向上的距第一估計視差圖之當前位置線中之在細化中的像素或像素組的預定距離
su
‧‧‧第二方向上的距第一估計視差圖之當前位置線之預定距離
圖1顯示本發明之一實施例之成像系統之應用之方塊圖;圖2顯示本發明之一實施例之成像系統之方塊圖;圖3顯示本發明之另一實施例之成像系統之方塊圖;圖4顯示本發明之又一實施例之成像方法之流程圖;圖5顯示本發明之一實施例之以區域性方法實施之視差估計步驟之流程圖;
圖6顯示進行立體匹配之第一及第二影像之示意圖;圖7顯示本發明之一實施例之邊緣圖之示意圖;圖8顯示本發明之一實施例之普查轉換步驟之示意圖;圖9顯示本發明之一實施例之代價加總步驟之示意圖;及圖10顯示本發明之一實施例之交叉檢查步驟之示意圖;圖11及12顯示本發明之不同實施例之遮蔽細化步驟之示意圖;圖13顯示本發明之一實施例之遮蔽細化步驟之結果之示意圖;及圖14顯示本發明之一實施例之破洞填充步驟之示意圖。
204‧‧‧邊緣偵測模組
206‧‧‧邊緣圖
208‧‧‧第一視差估計模組
210‧‧‧第一估計視差圖
212‧‧‧交叉檢查模組
214‧‧‧遮蔽像素集合
216‧‧‧遮蔽細化模組
218‧‧‧經細化之遮蔽細像素集合
220‧‧‧破洞填充模組
258‧‧‧第二視差估計模組
260‧‧‧第二估計視差圖
Claims (26)
- 一種成像系統,包含:一邊緣偵測模組,用於偵測一第一影像中至少一參考線之一或多邊緣座標;第一及第二視差估計模組,分別用於獲得該第一影像相對於一第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖之一當前位置線;一交叉檢查模組,用於利用該第二估計視差圖之該當前位置線交叉檢查該第一估計視差圖之該當前位置線,以識別該第一估計視差圖之該當前位置線中之一遮蔽像素集合;一遮蔽細化模組,其用來對該遮蔽像素集合進行細化以產生一經細化之遮蔽像素集合;以及一破洞填充模組,其用來在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖之一當前位置線。
- 如申請專利範圍第1項所述之成像系統,其中,該遮蔽細化模組包含:一細化基本暫存器,用於利用該細化基本暫存器及含有該遮蔽像素集合的該第一估計視差圖之該當前位置線,透過基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖之該當前位置線上之一在細化中的像素或像素組識別為被遮蔽,對該遮蔽像素集合進行細化,該細化基 本區域分別在一第一方向及與該第一方向相反之方向上不超出該第一估計視差圖之該當前位置線中最接近該在細化中的像素或像素組之邊緣座標,不超出對應於該第一估計視差圖之該當前位置線在該細化基本區域中之一部分之邊緣座標,且在與該第二方向相反之方向上不超出該第一估計視差圖之該當前位置線;以及用含有該遮蔽像素集合或該經細化之遮蔽像素集合的第一估計視差圖之該當前位置線以及與該第一影像之該參考線的該經偵測之一或多邊緣座標相關之資訊,對該細化基本暫存器進行更新。
- 如申請專利範圍第1項所述之成像系統,其中,該破洞填充模組係用於基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合。
- 如申請專利範圍第1項所述之成像系統,其中,該細化基本區域另外在該第二方向上不超出距該第一估計視差圖之該當前位置線具一預定距離之一位置線。
- 如申請專利範圍第1項所述之成像系統,其中,該破洞填充模組包含一填充基本暫存器,且該破洞填充模組用於利用該填充基本暫存器及含有該經細化之遮蔽像素集合的該第一估計視差圖之該當前位置線,透過基於一填充基本區域中像素或像素組之視差值之統計資訊填充該 經細化之遮蔽像素集合中之一受到填充的像素或像素組而在該第一估計視差圖之該當前位置線中填充該經細化之遮蔽像素集合,以獲得該第一細化視差圖之該當前位置線,該填充基本區域分別在該第一方向及與該第一方向相反之該方向上不超出該第一估計視差圖之該當前位置線中最接近該受到填充的像素或像素組之邊緣座標,且在與該第二方向相反之該方向上不超出該第一估計視差圖之該當前位置線;以及以該第一細化視差圖之該當前位置線更新該填充基本暫存器。
- 如申請專利範圍第5項所述之成像系統,其中,該填充基本區域另外在該第二方向上不超出距該第一估計視差圖之該當前位置線具一預定距離之一位置線。
- 如申請專利範圍第1項所述之成像系統,其中,該第一視差估計模組包含:一第一代價加總模組,包含一第一加總視窗暫存器,用於:獲得該第一影像及該第二影像之比對線,對於複數個視差距離,計算該第一影像之該比對線相對於該第二影像之該比對線之當前匹配代價,對於該複數個視差距離,利用該第一加總視窗暫存器及該等當前匹配代價,加總匹配代價,及以該等當前匹配代價更新該第一加總視窗暫存器;以及 一第一視差選擇模組,用於為一第一估計視差圖之一當前位置線上的每一像素或像素組分別選擇該等視差距離其中之一,作為該第一估計視差圖之該像素或像素組之一視差值。
- 如申請專利範圍第7項所述之成像系統,其中,該第一視差估計模組進一步包含:一第一普查轉換模組,包含一第一普查暫存器,用於利用該第一普查暫存器以及該第一影像之一當前位置線,進行普查轉換以產生該第一影像之該比對線,並以該第一影像之該當前位置線更新該第一普查暫存器,其中該第一影像之該比對線中每一經普查轉換之像素或像素組係由長度至少為1的位元向量表示。
- 一種電腦系統,包含:儲存包含程式常式之資訊之一或多記憶體,包含:一邊緣偵測模組,用於偵測一第一影像中之邊緣座標;第一及第二視差估計模組,該第一及該第二視差估計模組分別用於獲得該第一影像相對於一第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖;一交叉檢查模組,用於利用該第二估計視差圖交叉檢查該第一估計視差圖,以識別該第一估計視差圖中之一遮蔽像素集合;一遮蔽細化模組,其用來對該遮蔽像素集合進行細 化以產生一經細化之遮蔽像素集合;及一破洞填充模組,其用來在該第一估計視差圖填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖;以及一或多處理單元,耦接至該一或多記憶體以用於控制該等程式常式之執行。
- 如申請專利範圍第9項所述之電腦系統,其中,該遮蔽細化模組係用於透過基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖上之至少一在細化中的像素或像素組識別為被遮蔽,對該遮蔽像素集合進行細化,該細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出含有該在細化中的像素或像素組之一位置線中最接近該在細化中的像素或像素組之邊緣座標,且分別在一第二方向上及與該第二方向相反之方向上不超出對應於含有該在細化中的像素或像素組之該位置線在該細化基本區域中之一部分之邊緣座標。
- 如申請專利範圍第9項所述之電腦系統,其中,該破洞填充模組係用於基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組填充該經細化之遮蔽像素集合。
- 如申請專利範圍第10項所述之電腦系統,其中,該細化基本區域在與該第二方向相反之方向上不超出含有該在細化中的像素或像素組之該位置線。
- 如申請專利範圍第10項所述之電腦系統,其中,該細化基本區域另外在該第二方向上不超出距含有該在細化 中的像素或像素組之該位置線具一預定距離之一位置線。
- 如申請專利範圍第9項所述之電腦系統,其中,該破洞填充模組基於一填充基本區域中像素或像素組之視差值之統計資訊填充該經細化之遮蔽像素集合中之一受到填充的像素或像素組,該填充基本區域分別在該第一方向上及與該第一方向相反之該方向上不超出含有該受到填充的像素或像素組之一位置線中最接近該受到填充的像素或像素組之邊緣座標。
- 如申請專利範圍第14項所述之電腦系統,其中,該填充基本區域另外在該第二方向上不超出距含有該受到填充的像素或像素組之該位置線具一預定距離之一位置線。
- 如申請專利範圍第9項所述之電腦系統,其中,該第一視差估計模組係用於透過下列步驟獲得該第一估計視差圖上之一視差值:計算及加總一參考視窗及複數個候選匹配視窗之匹配代價,該參考視窗與該第一影像中之一參考像素或像素組重疊,該複數個候選匹配視窗中之每一者與該第二影像中之一各別候選匹配像素或像素組重疊,其中,每一候選匹配像素或像素組相對於該參考像素或像素組具有一不同視差距離;以及選擇對應於該等候選匹配像素或像素組其中之一的該視差距離作為在該第一估計視差圖上該參考像素或像素 組之座標處的一視差值。
- 如申請專利範圍第16項所述之電腦系統,其中,該視差估計模組係進一步用於對該第一影像進行一普查轉換,其中,該第一影像之該比對線之每一經普查轉換之像素或像素組係由長度至少為1的位元向量表示。
- 一種成像方法,包含:提供一第一及一第二影像;偵測該第一影像中之邊緣座標;獲得該第一影像相對於該第二影像之一第一估計視差圖及該第二影像相對於該第一影像之一第二估計視差圖;利用該第二估計視差圖交叉檢查該第一估計視差圖,以識別該第一估計視差圖中之一遮蔽像素集合;對該遮蔽像素集合進行細化以產生一經細化之遮蔽像素集合;及在該第一估計視差圖中填充該經細化之遮蔽像素集合,以獲得一第一細化視差圖。
- 如申請專利範圍第18項所述之成像方法,其中,對該遮蔽像素集合進行細化包含基於一細化基本區域中遮蔽像素或像素組之數目將該第一估計視差圖上之一在細化中的像素或像素組識別為被遮蔽,該細化基本區域分別在一第一方向及與該第一方向相反之方向上不超出含有該在細化中的像素或像素組之一位置線中最接近該在細化中的像素或像素組之邊緣座標,且分別在一第 二方向上及與該第二方向相反之一方向上不超出對應於含有該在細化中的像素或像素組之該位置線在該細化基本區域中之一部分之邊緣座標。
- 如申請專利範圍第18項所述之成像方法,其中,填充該經細化之遮蔽像素集合係基於每一遮蔽像素或像素組之至少一各別鄰近像素或像素組。
- 如申請專利範圍第19項所述之成像方法,其中,該細化基本區域在與該第二方向相反之方向上不超出含有該在細化中的像素或像素組之該位置線。
- 如申請專利範圍第19項所述之成像方法,其中,該細化基本區域另外在該第二方向上不超出距含有該在細化中的像素或像素組之該位置線具一預定距離之一位置線。
- 如申請專利範圍第18項所述之成像方法,其中,於填充該經細化之遮蔽像素集合之該步驟中,該經細化之遮蔽像素集合中之一受到填充的像素或像素組係基於一填充基本區域中像素或像素組之視差值之統計資訊加以填充,該基本填充區域分別在該第一方向上及與該第一方向相反之該方向上不超出含有該受到填充的像素或像素組之一位置線中最接近該受到填充的像素或像素組之邊緣座標。
- 如申請專利範圍第23項所述之成像方法,其中,該填充基本區域另外在該第二方向上不超出距含有該受到填充的像素或像素組之該位置線具一預定距離之一位置 線。
- 如申請專利範圍第18項所述之成像方法,其中,於獲得一第一估計視差圖之該步驟中,透過下列步驟獲得該第一估計視差圖上之一視差值:計算及加總一參考視窗及複數個候選匹配視窗之匹配代價,該參考視窗與該第一影像中之一參考像素或像素組重疊,該複數個候選匹配視窗中之每一者與該第二影像中之一各別候選匹配像素或像素組重疊,其中,每一候選匹配像素或像素組相對於該參考像素或像素組具有一不同視差距離;以及選擇對應於該等候選匹配像素或像素組其中之一的該視差距離作為在該第一估計視差圖上該參考像素或像素組之座標處之一視差值。
- 如申請專利範圍第18項所述之成像方法,其中,獲得一第一估計視差圖之該步驟進一步包含對該第一影像進行普查轉換,其中,該第一影像之每一經普查轉換之像素或像素組係由長度至少為1的位元向量表示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW101123168A TWI485653B (zh) | 2012-06-28 | 2012-06-28 | 成像系統及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW101123168A TWI485653B (zh) | 2012-06-28 | 2012-06-28 | 成像系統及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201401229A TW201401229A (zh) | 2014-01-01 |
TWI485653B true TWI485653B (zh) | 2015-05-21 |
Family
ID=50345103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW101123168A TWI485653B (zh) | 2012-06-28 | 2012-06-28 | 成像系統及方法 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI485653B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115988186B (zh) * | 2023-03-20 | 2023-06-09 | 厦门精图信息技术有限公司 | 一种影像处理***及方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050163367A1 (en) * | 2000-05-04 | 2005-07-28 | Microsoft Corporation | System and method for progressive stereo matching of digital images |
TW200828182A (en) * | 2006-12-27 | 2008-07-01 | Ind Tech Res Inst | Method of utilizing multi-view images to solve occlusion problem for photorealistic model reconstruction |
TW201035907A (en) * | 2008-09-25 | 2010-10-01 | Koninkl Philips Electronics Nv | Three dimensional image data processing |
TW201044315A (en) * | 2009-02-17 | 2010-12-16 | Koninkl Philips Electronics Nv | Combining 3D image and graphical data |
US20110205226A1 (en) * | 2008-10-28 | 2011-08-25 | Koninklijke Philips Electronics N.V. | Generation of occlusion data for image properties |
-
2012
- 2012-06-28 TW TW101123168A patent/TWI485653B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050163367A1 (en) * | 2000-05-04 | 2005-07-28 | Microsoft Corporation | System and method for progressive stereo matching of digital images |
TW200828182A (en) * | 2006-12-27 | 2008-07-01 | Ind Tech Res Inst | Method of utilizing multi-view images to solve occlusion problem for photorealistic model reconstruction |
TW201035907A (en) * | 2008-09-25 | 2010-10-01 | Koninkl Philips Electronics Nv | Three dimensional image data processing |
US20110205226A1 (en) * | 2008-10-28 | 2011-08-25 | Koninklijke Philips Electronics N.V. | Generation of occlusion data for image properties |
TW201044315A (en) * | 2009-02-17 | 2010-12-16 | Koninkl Philips Electronics Nv | Combining 3D image and graphical data |
Also Published As
Publication number | Publication date |
---|---|
TW201401229A (zh) | 2014-01-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9237326B2 (en) | Imaging system and method | |
US9361699B2 (en) | Imaging system and method | |
US9485495B2 (en) | Autofocus for stereo images | |
CN102665086B (zh) | 利用基于区域的局部立体匹配获取视差的方法 | |
US10321112B2 (en) | Stereo matching system and method of operating thereof | |
US20140294289A1 (en) | Image processing apparatus and image processing method | |
KR100745691B1 (ko) | 차폐영역 검출을 이용한 양안 또는 다시점 스테레오 정합장치 및 그 방법 | |
CN105335955A (zh) | 对象检测方法和对象检测装置 | |
CN109547765B (zh) | 图像处理装置以及图像处理*** | |
JP2011141710A (ja) | 奥行推定装置、奥行推定方法および奥行推定プログラム | |
Praveen | Efficient depth estimation using sparse stereo-vision with other perception techniques | |
TWI571099B (zh) | 深度估測裝置及方法 | |
CN103024419A (zh) | 一种视频图像处理方法及*** | |
TWI402479B (zh) | 深度感測方法及應用其之系統 | |
TWI485653B (zh) | 成像系統及方法 | |
US9113142B2 (en) | Method and device for providing temporally consistent disparity estimations | |
US20150281672A1 (en) | Stereo Matching Apparatus Using Image Property | |
US9380285B2 (en) | Stereo image processing method, stereo image processing device and display device | |
TWI485654B (zh) | 成像系統及方法 | |
US10430971B2 (en) | Parallax calculating apparatus | |
JP5887974B2 (ja) | 類似画像領域探索装置、類似画像領域探索方法、及び類似画像領域探索プログラム | |
KR101804157B1 (ko) | 개선된 sgm 기반한 시차 맵 생성 방법 | |
JPH10289315A (ja) | 視差算出装置、距離算出装置およびこれらの方法 | |
KR101607504B1 (ko) | 합산 영역 테이블 방식을 이용한 스테레오 매칭방법 | |
TWI698836B (zh) | 具備雙倍搜索區間的立體匹配方法 |