TW201421419A - 用於深度假影之消除之影像處理方法及設備 - Google Patents
用於深度假影之消除之影像處理方法及設備 Download PDFInfo
- Publication number
- TW201421419A TW201421419A TW102119625A TW102119625A TW201421419A TW 201421419 A TW201421419 A TW 201421419A TW 102119625 A TW102119625 A TW 102119625A TW 102119625 A TW102119625 A TW 102119625A TW 201421419 A TW201421419 A TW 201421419A
- Authority
- TW
- Taiwan
- Prior art keywords
- image
- depth
- resolution
- super
- pixels
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
一影像處理系統,其包括一影像處理器,其經組態以識別與在一第一影像中之至少一個深度假影相關聯之一個或多個潛在缺陷像素,且應用利用一第二影像之一超解析度技術以重建該一個或多個潛在缺陷像素之深度資訊。該超解析度技術的應用產生具有該經重建之深度資訊之一第三影像。該第一影像可包括一深度影像及該第三影像可包括大體上對應於該第一影像但實質上消除該深度假影之一深度影像。可應用利用一第四影像之一額外超解析度技術。該額外超解析度技術之應用產生相對於該第三影像增加空間解析度之一第五影像。
Description
已知用於即時產生空間場景之三維(3D)影像的許多不同技術。舉例而言,可使用基於多個二維(2D)影像的三角量測而產生一空間場景之3D影像。然而,此技術之顯著缺點是通常需要非常密集的計算,且因此可消耗一電腦或其他處理器件之過量的可用計算資源。
其他已知技術包括使用一3D成像器(諸如一結構光(SL)相機或一飛行時間(ToF)相機直接產生一3D影像。此類型相機通常小型精簡,提供快速影像產生,及發射較低功率量,且在電磁頻譜的近紅外線部分中操作以避免干擾人類視覺。結果,SL及ToF相機常用於影像處理系統應用,諸如需要基於手勢之人機介面之電玩系統或其他系統中的手勢辨識。
不幸地是,由SL及ToF相機所產生之3D影像通常具有非常有限的空間解析度。舉例而言,SL相機具有關於x-y平面中之精度之固有困難,那是因為SL相機實施基於光圖案之三角量測,其中圖案大小不能任意精細粒化以達到高解析度。還有,為了避免眼睛受傷,限制跨整個圖案之總體發射功率以及每一圖案元素(即,一線或一點)中的空間及角功率密度兩者。所產生的影像因此顯示低信雜比且僅提供有限的品質深度圖,從而潛在包含許多深度假影。
儘管ToF相機能夠比SL相機更精確地決定x-y座標,但是ToF相機
亦具有關於空間解析度的問題。舉例而言,在ToF相機中通常藉由使用需要在類比電路中進行非常快速切換及時間整合之技術而產生z座標形式之深度量測,其可限制深度圖之可達到的品質,同樣導致可包含相當數量之深度假影之一影像。
本發明之實施例提供影像處理系統,其以允許實質上消除深度假影或以特定有效方式降低深度假影之方式而處理深度圖或其他類型之深度影像。一個或多個此等實施例涉及應用利用實質上同一場景、但可能來自另一影像源之至少一個2D影像之超解析度技術,以重建與藉由一3D成像器(諸如一SL相機或一ToF相機)所產生之一深度影像中之一個或多個深度假影相關聯之深度資訊。
在一實施例中,一影像處理系統包括一影像處理器,其經組態以識別與一第一影像中之至少一個深度假影相關聯之一個或多個潛在缺陷像素及應用利用一第二影像之一超解析度技術以重建該一個或多個潛在缺陷像素之深度資訊。超解析度技術的應用產生具有該經重建之深度資訊之一第三影像。該第一影像可包括一深度影像及該第三影像可包括大體上對應於該第一影像但實質上消除該深度假影之一深度影像。該等第一、第二及第三影像可全部具有實質上同一空間解析度。可應用利用具有空間解析度大於該等第一、第二及第三影像之空間解析度之一第四影像之一額外超解析度技術。該額外超解析度技術之應用產生相對於該第三影像增加空間解析度之一第四影像。
本發明之實施例可有效地自藉由SL及ToF相機及其他類型之即時3D成像器產生之深度影像移除變形及其他類型之深度假影。舉例而言,可識別及移除與深度假影相關聯之潛在缺陷像素,且藉由使用一第一超解析度技術而重建該相應的深度資訊,隨後藉由使用一第二超解析度技術而使該所得的深度影像空間解析度增強。
100‧‧‧影像處理系統
102‧‧‧影像處理器
104‧‧‧影像源
106‧‧‧影像目的地
110‧‧‧處理器
112‧‧‧記憶體
114‧‧‧像素識別模組
116‧‧‧超解析度模組
200‧‧‧第一影像
202‧‧‧步驟
204‧‧‧步驟
206‧‧‧步驟
208‧‧‧第二影像/正常影像
210‧‧‧第三影像
212‧‧‧步驟
214‧‧‧第四影像/正常影像
216‧‧‧第五影像
圖1係一實施例之一影像處理系統之一方塊圖。
圖2係一實施例之用於消除深度假影之一程序之一流程圖。
圖3繪示包含包括多個連續潛在缺陷像素之一區域之一深度假影之一例示性深度影像之一部分。
圖4展示在一例示性深度影像中圍繞一給定隔離的潛在缺陷像素之一像素鄰域。
圖5展示另一實施例之用於消除深度假影之一程序之一流程圖。
本文將結合例示性影像處理系統而繪示本發明之實施例,該等例示性影像處理系統包含影像處理器或其他類型之處理裝置,及實現超解析度技術用於處理深度圖或其他深度影像以偵測及實質上消除或降低深度假影。然而應理解,本發明之該等實施例可更一般地應用於任何影像處理系統或相關聯的裝置或技術,其中期望實質上消除或降低深度假影。
圖1展示本發明之一實施例之一影像處理系統100。該影像處理系統100包括一影像處理器102,該影像處理器102自影像源104接收影像且提供經處理影像至影像目的地106。
該等影像源104包括(舉例而言)3D成像器(諸如SL及ToF相機)以及一個或多個2D成像器(諸如經組態以任何組合產生2D紅外線影像、灰階影像、彩色影像或其他類型之2D影像之2D成像器)。該等影像源104之一者之另一實例係提供影像至該影像處理器102用以處理之一儲存裝置或伺服器。
該等影像目的地106繪示性包括(舉例而言)一人機介面之一個或多個顯示螢幕,或自該影像處理器102接收經處理影像之至少一個儲存裝置或伺服器。
儘管影像處理器102在本實施例中展示為和影像源104與影像目的地106分開,但在一常見處理裝置上,該影像處理器102可至少部分地與一個或多個影像源或影像目的地結合。因此,舉例而言,該等影像源104之一個或多個及該影像處理器102可共同地在同一處理裝置上實施。相似地,該等影像目的地106之一個或多個及該影像處理器102可共同地在同一處理裝置上實施。
在一實施例中,該影像處理系統100係作為處理影像以辨識使用者手勢之一電玩系統或其他類型之基於手勢之系統而實施。所揭示技術可類似地適於在需要一基於手勢之人機介面之多種其他系統中使用,且亦可應用於除了手勢辨識之應用,諸如機器人學中之機器視覺系統及其他工業應用。
本實施例中之該影像處理器102係使用至少一個處理裝置來實施且包括耦合至一記憶體112之一處理器110。在該影像處理器102中亦包含一像素識別模組114及一超解析度模組116。該像素識別模組114經組態以識別與自該等影像源104之一者接收之一第一影像中之至少一個深度假影相關聯之一個或多個潛在缺陷像素。該超解析度模組116經組態以利用自該等影像源104之可能不同的一者接收之一第二影像以重建該一個或多個潛在缺陷像素之深度資訊,以便藉此產生具有該經重建之深度資訊之一第三影像。
在本實施例中,非限制性假設該第一影像包括來自該等影像源104之一第一影像源之一第一解析度之一深度影像,及該第二影像包括實質上同一場景且來自該等影像源104中不同於該第一影像源之另一者、具有與該第一解析度實質上相同之一解析度之一2D影像。舉例而言,該第一影像源可包括一3D影像源(諸如一結構光或ToF相機),及該第二影像源可包括經組態以產生如一紅外線影像、一灰階影像或一彩色影像之該第二影像之一2D影像源。如上文所指示,在
其他實施例中,該同一影像源供應第一影像及第二影像兩者。
超解析度模組116可經進一步組態以利用一第四影像處理該第三影像以產生相對於該第三影像增加空間解析度之一第五影像。在此一配置中,該第一影像繪示性地包括來自該等影像源104之一第一影像源之一第一解析度之一深度影像,及該第四影像包括實質上同一場景且來自該等影像源104中不同於該第一影像源之另一者、具有實質上大於該第一解析度之一解析度之一2D影像。
將結合圖2至圖5在下文中更詳細地描述藉由使用影像處理器102之像素識別模組114及超解析度模組116而實施的例示性影像處理操作。
圖1實施例之處理器110及記憶體112可包括:以任何組合包括一微處理器、一特定應用積體電路(ASIC)、一現場可程式閘陣列(FPGA)、一中央處理單元(CPU)、一算術邏輯單元(ALU)、一數位信號處理器(DSP)或其他類似處理裝置組件、以及其他類型及配置之影像處理電路之至少一個處理裝置之各自部分。
該像素識別模組114及該超解析度模組116或其之部分可至少部分以儲存在記憶體112中且由處理器110執行之軟體的形式來實施。儲存軟體碼以藉由一相應處理器執行之一給定此記憶體係在本文中更一般地稱為一電腦可讀取媒體或其中收錄電腦程式碼之其他類型之電腦程式產品的一實例,且可以任何組合包括(舉例而言)電子記憶體(諸如隨機存取記憶體(RAM)或唯讀記憶體(ROM))、磁性記憶體、光學記憶體或其他類型之儲存裝置。如上文所表明,該處理器可包括一微處理器、ASIC、FPGA、CPU、ALU、DSP或其他影像處理電路之部分或組合。
亦應理解,本發明之實施例可以積體電路形式實施。在一給定此積體電路實施方案中,相同晶粒通常以一重複圖案在一半導體晶圓
之一表面上形成。每一晶粒包含如本文所描述之影像處理電路,且可包含其他結構或電路。該個別晶粒自該晶圓切割或切成方塊,接著封裝為一積體電路。熟悉此項技術者瞭解如何將晶圓切成方塊及封裝晶粒以產生積體電路。如此生產的積體電路被認為是本發明之實施例。
如圖1中展示之影像處理系統100之特定組態僅為例示性,且該系統100在其他實施例中可包含除了或替代明確展示之元件之其他元件,包含常見於此系統之一習知實施方案中之一個類型之一個或多個元件。
現參考圖2之流程圖,展示在一實施例中消除藉由一3D成像器產生之一深度影像中之深度假影之一程序。該程序假設藉由使用其像素識別模組114及超解析度模組116之影像處理器102實施。該程序在此實施例中以一第一影像200開始,其繪示性包括具有一空間解析度或M×N像素大小之一深度影像D。此一影像假設藉由一3D成像器(諸如一SL相機或一ToF相機)提供,且因此通常包含一個或多個深度假影。舉例而言,深度假影可包含通常使用一SL相機或其他3D成像器時出現的「陰影」。
在步驟202中,識別與在該深度影像D中之至少一個深度假影相關聯之一個或多個潛在缺陷像素。此等潛在缺陷像素在本實施例之背景及本文其他實施例中更明確地稱為「壞的」像素,且一般應理解為包含以足夠高概率被決定為與該深度影像D中之一個或多個深度假影相關聯之任何像素。在步驟202中,如此被識別的任何像素可被標記或表明為壞的像素,以便幫助移除或後續處理此等像素。或者,基於臨限值或其他標準,僅該等壞的像素之一子集可被標記用於移除或其他的後續處理。
在步驟204中,步驟202中識別的「壞的」像素自該深度影像D移除。應注意到在其他實施例中,該等壞的像素不需要全部移除。而
是,基於臨限值或其他特定像素移除標準可僅移除此等像素之一子集,或某一額外處理操作可應用於此等像素之至少一子集以便幫助後續重建該深度資訊。因此,不需要明確移除在步驟202中識別為潛在缺陷之全部像素。
在步驟206中,超解析度技術藉由使用來自另一源之一第二影像208(在本實施例中繪示性地稱為正常影像)而應用於經修改之深度影像D。藉此,舉例而言,該第二影像208可為實質上同一場景但由影像源104之不同影像源(諸如一2D成像器)提供之一影像,且因此一般將不包含在該深度影像D中所見類型的深度假影。該第二影像208在此實施例中假設為具有與深度影像D相同的解析度,且因此為一M×N影像,但包括與一深度影像形成對比之一正常影像。然而,在其他實施例中,該第二影像208可具有比該深度影像D更高之一解析度。可用於本實施例及本文中描述的其他實施例中之正常影像之實例包括藉由一2D成像器產生的紅外線影像、灰階影像或彩色影像。
因此,在本實施例中,步驟206一般利用兩個不同類型之影像:移除壞的像素之一深度影像及一正常影像,兩者均具有實質上相同的大小。
步驟206中利用正常影像208之該超解析度技術的應用用以重建步驟204中自影像移除的該等壞的像素之深度資訊,從而產生一第三影像210。舉例而言,步驟204中移除的該等壞的像素之深度資訊可藉由結合深度圖D中鄰近像素之深度資訊與對應於該第二影像208之一紅外線、灰階或彩色影像之強度資料而重建。
此操作可視為在不增加該深度影像D之空間解析度的情況下,自與該經移除像素相關聯之深度故障或其他深度假影恢復。在此實施例中,第三影像210包括解析度M×N之一深度影像E,其不包含該壞的像素而是包含經重建之深度資訊。步驟206之該超解析度技術應能夠
處理非正常組之深度點,因相應像素網格包含其中在任意位置處之壞的像素在步驟204中移除的間隙。
如將在下文中更詳細地描述,步驟206中應用的超解析度技術可至少部分基於(舉例而言)Markov隨機場模型。然而應理解,可使用適於重建與經移除像素相關聯之深度資訊之許多其他超解析度技術。
還有,可重複步驟202、204及206以找出或實質上消除額外的深度假影。
在圖2實施例中,該第一影像200、第二影像208及第三影像210全部具有相同的空間解析度或像素大小,即一M×N像素之解析度。第一及第三影像係深度影像,且該第二影像係一正常影像。更特定言之,該第三影像係一般對應於該第一影像但實質上消除該一個或多個深度假影之一深度影像。同樣地,該第一、第二及第三影像全部具有實質上相同的空間解析度。在下文將結合圖5描述之另一實施例中,使用另一超解析度技術而增加該第三影像210之空間解析度,該超解析度技術一般係不同於步驟206中應用以重建深度資訊之技術之一技術。
由圖2程序產生之該深度影像E通常特徵為相對於原深度影像D之更好的視覺及儀器分析品質、更正常及自然形狀之更鮮明邊緣、較低雜訊衝擊及沒有來自高反射表面或其他深度假影之深度異常值、斑點、飽和點。
現將參考圖3及圖4更詳細描述用於識別圖2程序的步驟202中之深度影像D中之潛在缺陷像素的例示性技術。首先應注意到,此等像素可在一些實施例中識別為深度值由一相關聯3D成像器(諸如一SL相機或一ToF相機)設定於各自預定誤差值之任何像素。舉例而言,此類相機可經組態以使用z=0之一深度值作為一預定誤差值以指示一相應像素按照其深度資訊係潛在缺陷。在此類型之實施例中,在步驟202
中,具有該等預定誤差值之任何像素可識別為壞的像素。
用於識別深度影像D中之潛在缺陷像素之其他技術包含偵測連續潛在缺陷像素之區域,如圖3中繪示,及偵測特定潛在缺陷像素,如圖中繪示。
現參考圖3,深度影像D之一部分展示為包含包括多個連續潛在缺陷像素之一陰影區域之一深度假影。陰影區域中之連續潛在缺陷像素之各者可包括具有實質上不同於該陰影區域外面之像素之深度值之各自未預期的深度值之連續像素。舉例而言,在此實施例中該陰影區域由一沒有陰影的外圍邊界圍繞,且可定義該陰影區域以便滿足關於該外圍邊界之下列不等式。
|mean{di:pixel i is in the area}-mean{dj:pixel j is in the border}|>dT
其中dT係一臨限值。若此未預期深度區域被偵測,則該等經偵測區域之各者內之全部像素被標記為壞的像素。在其他實施例中,許多其他技術可用於識別對應於一給定深度假影之連續潛在缺陷像素之一區域。舉例而言,可更一般地表達上述不等式以利用如下之一統計量:|statistic{di:pixel i is in the area}-statistic{dj:pixel j is in the border}|>dT
其中統計量可為先前給定之一平均值,或任何多種其他類型之統計量,諸如一中位數或一p範數距離度量。對於p範數距離度量而言,上文不等式中之該統計量可表達如下:
其中在此實例中xi更具體地表示與一給定像素相關聯之一向量x之一元素,且其中p1。
圖4展示深度影像D中圍繞一給定隔離潛在缺陷像素之一像素鄰
域。在此實施中,該像素鄰域包括圍著一特定像素p之八個像素p1至p8。基於該特定像素之一深度值及該像素鄰域中之各自像素之深度值之平均值及一標準偏差的至少一個,此實施例之該特定像素p被識別為一潛在缺陷像素。
舉例而言,該特定像素p之該像素鄰域繪示性包括像素p之n個相鄰者之一集Sp:Sp={p1,...,pn},其中該n個相鄰者各滿足不等式:∥p-pi∥<d,其中d係一臨限值或鄰域半徑及∥.∥表示在x-y平面上像素p與pi之間如在其各自中心所量測的歐幾里德距離。儘管歐幾里德距離被用於此實例中,但可使用其他類型的距離度量,諸如一曼哈頓距離度量,或更一般為先前描述類型之P範數距離度量。針對像素p的八個像素鄰域在圖4中繪示對應於一圓形之一半徑之d之一實例。然而,應理解,許多其他技術可用於識別各自特定像素之像素鄰域。
再一次舉例而言,若滿足以下不等式,則一給定特定像素p可識別為潛在缺陷像素且標記為壞的:|zp-m|>kσ,其中zp係該特定像素之該深度值,m及σ各自係像素鄰域中之各自像素之深度值之平均值及標準偏差,及k係指定置信度之倍增因數。如一實例中,在一些實施例中,置信度因數給定為k=3。各種其他距離度量可用於其他實施例中。
前述實例之平均值m及標準偏差σ可藉由使用以下等式而決定:
然而,應理解,σ之其他定義可用於其他實施例中。
以上述方式識別的個別潛在缺陷像素可對應於(舉例而言)包括由用於產生深度圖D之該3D成像器之實體限制所引起的像斑點的雜訊之深度假影。
儘管用於識別個別潛在缺陷像素之臨限值方法可偶爾自一物件邊界標記及移除像素,但這不成問題,因為應用於步驟206中之該超解析度技術可重建任何此等經移除像素之深度值。
還有,在一管線化之實施方案中,可能以一個或多個額外濾波器連續實施用於識別潛在缺陷像素之上述技術之多個實例可在步驟202中。
如上文所表明,圖2程序可用應用於該深度圖E中之額外的、潛在不同的超解析度技術來增補以實質上增加其空間解析度。此類型之一實施例在圖5流程圖中繪示。展示的程序包含步驟202、204及206,其利用一第一影像200及一第二影像208以實質上如先前結合圖2所描述的相同方式產生一第三影像210。該程序進一步包含一額外步驟212,其中應用利用具有比該第一、第二及第三影像之一空間解析度大之一第四影像214的一額外超解析度技術。
在本實施例中,應用在步驟212中之超解析度技術一般係一不同於應用在步驟206中之技術。舉例而言,如上文所表明,應用於步驟206中之超解析度技術可包括基於Markov隨機場的超解析度技術或尤其適用於重建深度資訊之另一超解析度技術。關於可調適用於本發明
實施例的基於一例示性Markov隨機場之超解析度技術之額外細節可在(舉例而言)J. Diebel等人之「An Application of Markov Random Fields to Range Sensing」(NIPS,MIT Press,pp.291-298,2005)中找到,其以引用的方式併入本文中。相反地,應用於步驟212中的超解析度技術可包括尤其適用於藉由使用較高解析度影像增加一低解析度影像之空間解析度之一超解析度技術。此類型之一超解析度技術之一實例在Q. Yang等人的「Spatial-Depth Super Resolution for Range Images」(IEEE Conference on Computer Vision and Pattern Recognition(CVPR),2007)中描述,其以引用形式併入本文中。
上文僅為可用於本發明實施例中之超解析度技術之實例。如本文中使用的術語「超解析度技術」意欲被廣義解釋,以便涵蓋可用於可能藉由使用一個或多個其他影像增強一給定影像之解析度之技術。
步驟212中額外超解析度技術之應用產生相對於該第三影像增加空間解析度之一第五影像216。該第四影像214係具有空間解析度或M1×N1像素之像素大小之一正常影像,其中假設M1>M及N1>N。第五影像216係大體上對應於該第一影像200但實質上消除一個或多個深度假影且增加該空間解析度之一深度影像。
如該第三影像208,該第四影像214係實質上與該第一影像200同一場景之一2D影像,其繪示性地藉由與用於產生該第一影像之該3D成像器不同的成像器提供。舉例而言,該第四影像214可為由一2D成像器產生之一紅外線影像、一灰階影像或一彩色影像。
如上文所表明,不同的超解析度技術一般用於步驟206及212中。舉例而言,用於步驟206中以對經移除之壞的像素重建深度資訊之一超解析度技術可能無法在該x-y平面上提供足夠精確的結果。因此,可最佳化用於步驟212中之該超解析度技術以校正橫向空間誤差。實例包含:基於雙邊濾波器之超解析度技術(如先前所提及),或
經組態使得對正常影像214中之邊緣、輪廓、邊界及其他特徵比對於該深度影像E中之特徵更靈敏之超解析度技術。深度誤差在圖5程序之此步驟處不是尤為重要,那是因為此等深度誤差實質上藉由應用於步驟206中之該超解析度技術來校正。
圖5中自該M1×N1正常影像214至M×N正常影像208之虛線指示藉由使用縮減取樣或其他類似操作而可自前影像產生後影像。
在圖5實施例中,識別且移除與深度假影相關聯之潛在缺陷像素,且藉由使用步驟206中之一第一超解析度技術重建相應的深度資訊,接著藉由使用步驟212中之一第二超解析度技術而使所得的深度影像空間解析度增強,其中該第二超解析度技術一般不同於該第一超解析度技術。
亦應注意到,圖5實施例提供勝於涉及應用一單一超解析度技術而不移除深度假影之習知配置之顯著穩定的優勢。在圖5實施例中,第一超解析度技術達到實質上沒有深度假影之一低解析度深度圖,以藉此增強該第二超解析度技術在改良空間解析度上之性能。
圖2僅使用步驟206之該第一超解析度技術之實施例可用於以下應用中:其中僅需要消除一深度圖中之深度假影,或者若沒有足夠的處理能力或時間可用於藉由使用圖5實施例之步驟212中之該第二超解析度技術改良該深度圖之該空間解析度。然而,使用圖2實施例作為影像處理器102之一預處理級可提供輸出影像中起因於任何後續解析度增強程序之顯著品質改良。
在此等及其他實施例中,有效地自藉由SL及ToF相機及其他類型的即時3D成像器產生的深度影像移除變形及其他類型之深度假影。
應再一次強調,如本文描述的本發明之實施例僅用於說明。舉例而言,本發明之其他實施例可利用不同於本文所描述的特定實施例中利用之多種不同類型及配置之影像處理電路、像素識別技術、超解
析度技術及其他處理操作來實施。另外,本文在描述某些實施例的背景下做出的特定假設不需要應用於其他實施例。熟悉此項技術者將清楚在以下申請專利範圍的範圍內之此等及許多其他替代實施例。
200‧‧‧第一影像
202‧‧‧步驟
204‧‧‧步驟
206‧‧‧步驟
208‧‧‧第二影像/正常影像
210‧‧‧第三影像
Claims (10)
- 一種方法,其包括:識別與一第一影像中之至少一個深度假影相關聯之一個或多個潛在缺陷像素;及應用利用一第二影像之一超解析度技術以重建該一個或多個潛在缺陷像素之深度資訊;其中該超解析度技術之應用產生具有該經重建之深度資訊之一第三影像;其中該等識別及應用步驟係在包括耦合至一記憶體之一處理器之至少一個處理裝置中實施。
- 如請求項1之方法,其中該第一影像包括一深度影像及該第三影像包括大體上對應於該第一影像但實質上消除該至少一個深度假影之一深度影像。
- 如請求項1之方法,其進一步包括:應用利用一第四影像之一額外超解析度技術;其中該額外超解析度技術之應用產生相對於該第三影像增加空間解析度之一第五影像。
- 如請求項3之方法,其中該第一影像包括一深度影像及該第五影像包括大體上對應於該第一影像但實質上消除該至少一個深度假影且增加該解析度之一深度影像。
- 如請求項1之方法,其中該第一影像包括來自一第一影像源之一第一解析度之一深度影像,及該第二影像包括實質上同一場景且來自不同於該第一影像源之另一影像源之具有實質上與該第一解析度相同之一解析度之一二維影像。
- 如請求項1之方法,其中識別一個或多個潛在缺陷像素包括偵測 深度值藉由一相關聯之深度成像器設定至各自預定誤差值之該第一影像之像素。
- 如請求項1之方法,其中識別一個或多個潛在缺陷像素包括偵測連續像素之一區域,該等連續像素具有實質上不同於該區域外面之像素之深度值之各自未預期的深度值。
- 如請求項1之方法,其中識別一個或多個潛在缺陷像素包括:識別該等像素之一特定像素;識別該特定像素之一像素鄰域;及基於該特定像素之一深度值及在該像素鄰域中之該等各自像素之深度值之一平均值及一標準偏差之至少一者而識別該特定像素為一個潛在缺陷像素。
- 一種電腦可讀儲存媒體,其收錄電腦程式碼於其中,其中在該處理裝置中執行該電腦程式碼時導致該處理裝置執行如請求項1之方法。
- 一種設備,其包括:至少一個處理裝置,其包括耦合至一記憶體之一處理器;其中該至少一個處理裝置包括:一像素識別模組,其經組態以識別與一第一影像中之至少一個深度假影相關聯之一個或多個潛在缺陷像素;及一超解析度模組,其經組態以利用一第二影像以重建該一個或多個潛在缺陷像素之深度資訊;其中該超解析度模組產生具有該經重建之深度資訊之一第三影像。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2012145349/08A RU2012145349A (ru) | 2012-10-24 | 2012-10-24 | Способ и устройство обработки изображений для устранения артефактов глубины |
Publications (1)
Publication Number | Publication Date |
---|---|
TW201421419A true TW201421419A (zh) | 2014-06-01 |
Family
ID=50545069
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW102119625A TW201421419A (zh) | 2012-10-24 | 2013-06-03 | 用於深度假影之消除之影像處理方法及設備 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20140240467A1 (zh) |
JP (1) | JP2016502704A (zh) |
KR (1) | KR20150079638A (zh) |
CN (1) | CN104025567A (zh) |
CA (1) | CA2844705A1 (zh) |
RU (1) | RU2012145349A (zh) |
TW (1) | TW201421419A (zh) |
WO (1) | WO2014065887A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI712990B (zh) * | 2015-05-21 | 2020-12-11 | 荷蘭商皇家飛利浦有限公司 | 用於判定影像之深度圖之方法與裝置、及非暫時性電腦可讀取儲存媒體 |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9317925B2 (en) * | 2013-07-22 | 2016-04-19 | Stmicroelectronics S.R.L. | Depth map generation method, related system and computer program product |
US20150309663A1 (en) * | 2014-04-28 | 2015-10-29 | Qualcomm Incorporated | Flexible air and surface multi-touch detection in mobile platform |
EP3243188A4 (en) * | 2015-01-06 | 2018-08-22 | Facebook Inc. | Method and system for providing depth mapping using patterned light |
US9696470B2 (en) | 2015-03-04 | 2017-07-04 | Microsoft Technology Licensing, Llc | Sensing images and light sources via visible light filters |
LU92688B1 (en) * | 2015-04-01 | 2016-10-03 | Iee Int Electronics & Eng Sa | Method and system for real-time motion artifact handling and noise removal for tof sensor images |
US9947098B2 (en) * | 2015-05-13 | 2018-04-17 | Facebook, Inc. | Augmenting a depth map representation with a reflectivity map representation |
CN105139401A (zh) * | 2015-08-31 | 2015-12-09 | 山东中金融仕文化科技股份有限公司 | 一种深度图中深度的可信度的评估方法 |
US10341633B2 (en) * | 2015-11-20 | 2019-07-02 | Qualcomm Incorporated | Systems and methods for correcting erroneous depth information |
US9886534B2 (en) | 2016-02-03 | 2018-02-06 | Varian Medical Systems, Inc. | System and method for collision avoidance in medical systems |
US10015372B2 (en) * | 2016-10-26 | 2018-07-03 | Capsovision Inc | De-ghosting of images captured using a capsule camera |
US10451714B2 (en) | 2016-12-06 | 2019-10-22 | Sony Corporation | Optical micromesh for computerized devices |
US10536684B2 (en) | 2016-12-07 | 2020-01-14 | Sony Corporation | Color noise reduction in 3D depth map |
CN106780649B (zh) * | 2016-12-16 | 2020-04-07 | 上海联影医疗科技有限公司 | 图像的伪影去除方法和装置 |
US10178370B2 (en) | 2016-12-19 | 2019-01-08 | Sony Corporation | Using multiple cameras to stitch a consolidated 3D depth map |
US10181089B2 (en) | 2016-12-19 | 2019-01-15 | Sony Corporation | Using pattern recognition to reduce noise in a 3D map |
US10495735B2 (en) | 2017-02-14 | 2019-12-03 | Sony Corporation | Using micro mirrors to improve the field of view of a 3D depth map |
US10795022B2 (en) * | 2017-03-02 | 2020-10-06 | Sony Corporation | 3D depth map |
US10979687B2 (en) | 2017-04-03 | 2021-04-13 | Sony Corporation | Using super imposition to render a 3D depth map |
US10484667B2 (en) | 2017-10-31 | 2019-11-19 | Sony Corporation | Generating 3D depth map using parallax |
US10549186B2 (en) | 2018-06-26 | 2020-02-04 | Sony Interactive Entertainment Inc. | Multipoint SLAM capture |
EP3855215A4 (en) * | 2018-09-18 | 2021-11-10 | Panasonic Intellectual Property Management Co., Ltd. | DEPTH ACQUISITION DEVICE, DEPTH ACQUISITION PROCESS AND PROGRAM |
KR102614494B1 (ko) * | 2019-02-01 | 2023-12-15 | 엘지전자 주식회사 | 비동일 카메라 기반 영상 처리 장치 |
CN112312113B (zh) * | 2020-10-29 | 2022-07-15 | 贝壳技术有限公司 | 用于生成三维模型的方法、装置和*** |
CN113205518B (zh) * | 2021-07-05 | 2021-09-07 | 雅安市人民医院 | 医疗车图像信息处理方法及装置 |
CN118056221A (zh) * | 2021-09-30 | 2024-05-17 | 北京大学 | 用于图像处理的***和方法 |
CN115908142B (zh) * | 2023-01-06 | 2023-05-09 | 诺比侃人工智能科技(成都)股份有限公司 | 一种基于视觉识别的接触网微小部件验损方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL156124A (en) * | 2003-05-26 | 2010-04-15 | Rafael Advanced Defense Sys | A method for detecting incorrect pixels against a non-uniform background |
US7684642B2 (en) * | 2004-03-03 | 2010-03-23 | Eastman Kodak Company | Correction of redeye defects in images of humans |
US20100142767A1 (en) * | 2008-12-04 | 2010-06-10 | Alan Duncan Fleming | Image Analysis |
US8774512B2 (en) * | 2009-02-11 | 2014-07-08 | Thomson Licensing | Filling holes in depth maps |
US20100302365A1 (en) * | 2009-05-29 | 2010-12-02 | Microsoft Corporation | Depth Image Noise Reduction |
-
2012
- 2012-10-24 RU RU2012145349/08A patent/RU2012145349A/ru not_active Application Discontinuation
-
2013
- 2013-05-17 CA CA2844705A patent/CA2844705A1/en not_active Abandoned
- 2013-05-17 WO PCT/US2013/041507 patent/WO2014065887A1/en active Application Filing
- 2013-05-17 CN CN201380003572.9A patent/CN104025567A/zh active Pending
- 2013-05-17 US US14/232,143 patent/US20140240467A1/en not_active Abandoned
- 2013-05-17 JP JP2015539579A patent/JP2016502704A/ja active Pending
- 2013-05-17 KR KR1020157010645A patent/KR20150079638A/ko not_active Application Discontinuation
- 2013-06-03 TW TW102119625A patent/TW201421419A/zh unknown
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI712990B (zh) * | 2015-05-21 | 2020-12-11 | 荷蘭商皇家飛利浦有限公司 | 用於判定影像之深度圖之方法與裝置、及非暫時性電腦可讀取儲存媒體 |
Also Published As
Publication number | Publication date |
---|---|
RU2012145349A (ru) | 2014-05-10 |
CN104025567A (zh) | 2014-09-03 |
KR20150079638A (ko) | 2015-07-08 |
US20140240467A1 (en) | 2014-08-28 |
JP2016502704A (ja) | 2016-01-28 |
CA2844705A1 (en) | 2014-04-24 |
WO2014065887A1 (en) | 2014-05-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW201421419A (zh) | 用於深度假影之消除之影像處理方法及設備 | |
US9305360B2 (en) | Method and apparatus for image enhancement and edge verification using at least one additional image | |
CN107194965B (zh) | 用于处理光场数据的方法和设备 | |
KR102674646B1 (ko) | 뷰로부터 거리 정보를 획득하는 장치 및 방법 | |
CN106796661B (zh) | 投影光图案的***、方法和计算机程序产品 | |
US20160005179A1 (en) | Methods and apparatus for merging depth images generated using distinct depth imaging techniques | |
KR20150116833A (ko) | 에지-보존 잡음 억제 기능을 갖는 이미지 프로세서 | |
JP2015511310A (ja) | ウエハ検査のためのセグメント化 | |
CN110390645B (zh) | 用于立体瞬时图像序列的改善3d数据重构的***和方法 | |
TW201432620A (zh) | 具有邊緣選擇功能性之影像處理器 | |
TW201436552A (zh) | 用於使用至少一較高訊框率之影像流而增加影像流之訊框率之方法及裝置 | |
TW201434010A (zh) | 具有在預處理層及一或多個更高層之間之多通道介面之影像處理器 | |
US20160247286A1 (en) | Depth image generation utilizing depth information reconstructed from an amplitude image | |
Jamil et al. | Illumination-invariant ear authentication | |
US9721348B2 (en) | Apparatus and method for raw-cost calculation using adaptive window mask | |
Yu et al. | Plenoptic depth map in the case of occlusions | |
KR101681197B1 (ko) | 다중 컬러 센서를 기반하여, 고속 컨벌루션을 이용한 영상의 깊이 정보 추출 방법 및 장치 | |
TW201426634A (zh) | 利用一種基於來自其他影像之資訊的函數之泛函之目標影像產生 | |
CN112752088B (zh) | 深度图像生成方法及装置、参考图像生成方法、电子设备 | |
CN106778780B (zh) | 一种基于gpu的边缘检测图像二值化方法 | |
Li et al. | Learning to Synthesize Photorealistic Dual-pixel Images from RGBD frames | |
TW201735631A (zh) | 影像處理裝置以及影像亮度校正方法 | |
Pakalapati | Programming of Microcontroller and/or FPGA for Wafer-Level Applications-Display Control, Simple Stereo Processing, Simple Image Recognition |