TWI792291B - 光學參數自動設定方法及應用其之自動光學檢測系統 - Google Patents
光學參數自動設定方法及應用其之自動光學檢測系統 Download PDFInfo
- Publication number
- TWI792291B TWI792291B TW110115481A TW110115481A TWI792291B TW I792291 B TWI792291 B TW I792291B TW 110115481 A TW110115481 A TW 110115481A TW 110115481 A TW110115481 A TW 110115481A TW I792291 B TWI792291 B TW I792291B
- Authority
- TW
- Taiwan
- Prior art keywords
- optical parameter
- recommended
- optical
- error
- module
- Prior art date
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Microscoopes, Condenser (AREA)
- Testing Of Optical Devices Or Fibers (AREA)
Abstract
光學參數自動設定方法適用於自動光學檢測系統,並包括以下步驟:在自動光學檢測系統被用第一推薦光學參數組設定下取得推薦待測物影像,依據優化誤差函數對待測物標準圖與推薦待測物影像執行運算,而取得待測物標準圖與推薦待測物影像之間的一推薦誤差值;判斷推薦誤差值是否收斂,當判斷推薦誤差值未收斂時,依據推薦誤差值及第一推薦光學參數組執行運算而取得第二推薦光學參數組;當判斷推薦誤差值收斂時,決定第一推薦光學參數組為自動光學檢測系統之最佳光學參數組。
Description
本揭露有關於一種光學參數自動設定方法及應用其之自動光學檢測系統。
光學檢測系統可對產品拍攝,以取得產品(待測物)之影像,並經由分析影像,以檢測產品的缺陷。為了提高檢測準確度,自動光學檢測系統所擷取的影像須具有適當或最佳的色彩資訊,因此需要視環境或檢測之產品調整光學檢測系統的光學參數。目前的光學參數設定主要是由專家根據經驗現場調整光學檢測系統的光學參數。
然而,現場專家依經驗調整光學參數存在誤判的風險,此外不同的專家的判斷與設定之光學參數通常不完全相同,如此可能造成品質管控不穩定的情況。另一方面,在光學參數項目數量龐大的情況下,由專家人工調整光學參數相當耗時,可能降低生產速度與效能。
本揭露係有關於一種光學參數自動設定方法及應用其之自動光學檢測系統。
根據本揭露之一實施例,提出一種光學參數自動設定方法。光學參數自動設定方法適用於一自動光學檢測(Automated Optical Inspection,AOI)系統。自動光學檢測系統包括一攝像模組、一誤差運算模組、一自動設定模組及一光學參數推薦模組。光學參數自動設定方法包括以下步驟:攝像模組在自動光學檢測系統被用一第一推薦光學參數組設定對一待測物取像,以取得一推薦待測物影像;誤差運算模組依據一優化誤差函數,對一待測物標準圖與推薦待測物影像執行運算,以取得待測物標準圖與推薦待測物影像之間的一推薦誤差值;誤差運算模組判斷推薦誤差值是否收斂。當判斷推薦誤差值未收斂時,光學參數推薦模組依據推薦誤差值及第一推薦光學參數組執行運算,而取得一第二推薦光學參數組,並且自動設定模組依據第二推薦光學參數組設定自動光學檢測系統;以及,當判斷推薦誤差值收斂時,誤差運算模組決定第一推薦光學參數組為自動光學檢測系統之一最佳光學參數組。
根據本揭露之另一實施例,提出一種自動光學檢測系統。自動光學檢測系統包括一攝像模組、一誤差運算模組、一光學參數推薦模組及一自動設定模組。攝像模組經配置以執行:在一推薦光學參數下對一待測物取像,以取得一推薦待測物影像。
誤差運算模組經配置以執行:依據一優化誤差函數,對一待測物標準圖與推薦待測物影像執行運算,以取得待測物標準圖與推薦待測物影像之間的一推薦誤差值;及,判斷推薦誤差值是否收斂。光學參數推薦模組經配置執行:當判斷推薦誤差值未收斂時,依據推薦誤差值及第一推薦光學參數組執行運算,而取得一第二推薦光學參數組。當判斷推薦誤差值收斂時,誤差運算模組更用以執行:決定推薦光學參數為自動光學檢測系統之一最佳光學參數組。
為了對本揭露之上述及其他方面有更佳的瞭解,下文特舉實施例,並配合所附圖式詳細說明如下:
100:自動光學檢測系統
110:優化模組
120:誤差運算模組
130:光學參數推薦模組
140:攝像模組
150:自動設定模組
160:光源模組
C1~C3:曲線
D1,D2:資料庫
F1:訓練標準圖
F2:待測物標準圖
f:誤差運算函數
fmin:最小誤差值
E:期望值分析函數
EF:優化誤差函數
ET1,ET2,ET3,ETm:初始誤差值
ER1,ER2,ER3,ER4,ER5,ER6,ER7,ERn:推薦誤差值
MR1,MR2,MR3,MR4,MR5,MR6,MR7,MRn:推薦待測物影像
M11S:專家標準影像
M12t:非專家標準影像
MTm:初始待測物影像
PR1,PR2,PR3,PR4,PR5,PR6,PR7,PRn:推薦光學參數組
PT1,PT2,PT3,PTm:初始光學參數組
U1s,U2,U2t,V1,V2,W1t:向量
S110~S190:步驟
xRj:候選光學參數組
xTi:已選光學參數組
x(1),x(2),x(3),x(k),x(P):光學參數類型
Corr(xTi,xRj):差距
Φ(xRj):期望值
第1圖繪示依照本揭露一實施例之自動光學檢測系統之示意圖。
第2A及2B圖繪示第1圖之自動光學檢測系統的光學參數自動設定方法的流程圖。
第3A(a)~3H(b)圖繪示第2A及2B圖之推薦光學參數的取得過程示意圖。
請參照第1~2及3A(a)~3H(b)圖,第1圖繪示依照本揭露一實施例之自動光學檢測(Automated Optical Inspection,AOI)系統100之示意圖,第2A及2B圖繪示第1圖之自動光學檢測系統100
的光學參數自動設定方法的流程圖,而第3A(a)~3H(b)圖繪示第2A及2B圖之推薦光學參數PRn的取得過程示意圖。
如第1圖所示,自動光學檢測系統100包括優化模組110、誤差運算模組120、光學參數推薦模組130、攝像模組140、自動設定模組150及光源模組160。攝像模組140例如是光學攝影機或線性光學掃描器。光源模組160例如是包含至少一光源(未繪示)。優化模組110、誤差運算模組120、光學參數推薦模組130與自動設定模組150之至少一者例如是採用半導體製程所形成的實體電路(circuit),或為韌體而藉由一運算處理器來完成。此外,優化模組110、誤差運算模組120、光學參數推薦模組130與自動設定模組150之至少一者可整合成單一模組,或整合於一控制器(未繪示)或運算處理器(未繪示)中。
如第1圖所示,攝像模組140在該自動光學檢測系統100被設定為推薦光學參數組PRn(例如,第3B圖之第一推薦光學參數組PR1)下,對待測物取像,以取得推薦待測物影像MRn。誤差運算模組120經配置以執行依據優化誤差函數EF,對待測物標準圖F2與推薦待測物影像MRn執行運算,以取得待測物標準圖F2與推薦待測物影像MRn之間的推薦誤差值ERn。接著,誤差運算模組120判斷推薦誤差值ERn是否收斂。當判斷推薦誤差值ERn收斂時,誤差運算模組120決定推薦光學參數組PRn(例如,第3B圖之第一推薦光學參數組PR1)為自動光學檢測系統100之最佳光學參數組;當誤差運算模組120判斷推薦誤差值ERn未收斂時,光學
參數推薦模組130經配置以執行依據推薦誤差值ERn及第一推薦光學參數組PRn執行運算,而取得另一推薦光學參數組PRn+1(例如,第3E圖之第二推薦光學參數組PR2)。如此,自動光學檢測系統100可自動取得最佳光學參數組,改善習知人工調光的問題。
本文的「光學參數組」例如是包含至少一光學參數類型,如x(1)、x(2)、x(3)、...、x(P)等P種參數類型,其中x(1)、x(2)、x(3)、...、x(P)可分別表示不同的光學參數類型,如光源模組160的光源參數及/或攝像模組140的攝像參數,其中光源參數例如是照射光的色溫、亮度、發光角、發光時間及/或照射角度等的光學參數類型,而攝像參數例如是攝像模組的曝光時間等的光學參數類型。P表示光學參數類型的數量,本揭露實施例不限定P的最大值。在本實施例中,光學參數類型係以二個為例說明,如x(1)及x(2),例如是分別為攝像模組的曝光時間及光源模組的發光時間。光源模組160之照明模式可由自動設定模組150依據推薦光學參數組PRn的相關光學參數類型執行設定,而攝像模組140之攝像模式可由自動設定模組150依據推薦光學參數組PRn的相關光學參數類型執行設定。光源模組160提供照明光給待測物(未繪示),而攝像模組140對待測物攝像,以取得待測物之推薦待測物影像。前述「待測物」例如是任何可透過AOI系統進行線上檢測(如,缺陷檢測、產品種類檢測等)的產品,如半導體晶片、電路板等,然本揭露不限制待測物的種類。
以下係以第2A及2B圖之流程圖進一步說明本揭露實施例之自動光學檢測系統100的光學參數自動設定方法。
在步驟S110中,取得優化誤差函數EF。本實施例的優化誤差函數EF是由優化模組110運算取得(如第1圖所示)。然而在其他實施方式中,優化誤差函數EF可在線下或離線執行運算來事先取得,因此自動光學檢測系統可不包含優化模組。
在步驟S110中,優化模組110對訓練標準圖F1(繪示於第1圖)、至少一專家標準影像M11S(繪示於第1圖)及至少一非專家標準影像M12t(繪示於第1圖)執行運算,而取得優化誤差函數EF,其中S為等於或大於1的正整數,S之最大值視專家標準影像M11S的總數而定,本揭露實施例不加以限定,而t為等於或大於1的正整數,t之最大值視非專家標準影像M11t的總數而定,本揭露實施例不加以限定。訓練標準圖F1的數量例如是1個,專家標準影像M11S的數量可以是至少一個。每個專家可從數張影像中,挑選出一張與訓練標準圖F1最接近的影像(例如可以是色溫、亮度等各種色彩資訊方面最接近者),並將各個專家所選出的影像定義為「專家標準影像」,其餘未被選取得的影像定義為「非專家標準影像」。本揭露實施例不限定專家標準影像M11S的數量以及非專家標準影像M12t的數量。如第1圖所示,訓練標準圖F1、專家標準影像M11S及非專家標準影像M12t可儲存於第一資料庫D1,而待測物標準圖F2可儲存於第二資料庫D2。第一資料庫D1與第二資
料庫D2至少一者可隸屬於自動光學檢測系統100,然本揭露實施例不受此限。
在一實施例中,優化模組110以最小化訓練標準圖F1與專家標準影像M11S之間的誤差以及非最小化訓練標準圖F1與非專家標準影像M12t之間的誤差為目標,取得優化誤差函數EF的優化權重Λ。例如,優化模組110以訓練標準圖F1與專家標準影像M11S之間的目標誤差TE1設為0(如下式(1))以及訓練標準圖F1與非專家標準影像M12t之間的目標誤差TE2設為1(如下式(2))為目標,取得優化誤差函數EF的優化權重Λ(如下式(3))。式(1)及(2)的誤差運算函數f可採用各種誤差分析技術或數學方法對誤差運算函數f內的向量進行誤差分析,例如運算加權歐氏距離或馬氏距離,本揭露實施例在此不加以限制。
f(V1,U1s|Λ)=TE1...(1)
f(V1,W1s|Λ)=TE2...(2)
e=Σ S (f(V1,U1s|Λ))2+Σ t (1-f(V1,W1s|Λ))2...(3)
在式(1),向量V1例如是訓練標準圖F1的像素層級的特徵向量,向量U1S例如是第S張專家標準影像M11S的像素層級的特徵向量。在式(2),向量W1t例如是第t張非專家標準影像M12t的像素層級的特徵向量。在式(3),e為總誤差值,其運算目標是在所有專家標準影像之誤差值與所有非專家標準影像之誤差值之加總為0或接近0下取得優化權重Λ。如式(4)所示,優化模組
110可採用argmin的數學方式,對優化權重Λ進行優化處理。例如,優化模組110可決定最小的總誤差值e所對應的優化權重Λ為最佳優化權重。最佳優化權重例如是包含至少一常數,亦可以是包含多個常數的矩陣。本實施例中,向量V1、向量U1S、向量W1t為像素層級的特徵向量,例如表示RGB或HSV(色相、飽和度、明度),然而在其他實施方式中,向量V1、向量U1S、向量W1t也可以是圖像層級的特徵向量,例如深度學習模型抽取出來的特徵向量。
在取得最佳優化權重後,即可依據最佳優化權重來建構優化誤差函數EF,如下式(5)。在式(5)中,向量V2為標準圖例如待測物標準圖)的像素層級的特徵向量,向量U2為待測物影像例如初始待測物影像及/或推薦待測物影像)的像素層級的特徵向量。本實施例中,向量V2及向量U2為像素層級的特徵向量,例如表示RGB或HSV(色相、飽和度、明度),然而在其他實施方式中,向量V2及向量U2也可以是圖像層級的特徵向量,例如深度學習模型抽取出來的特徵向量。
在將向量V2及向量U2代入式(5)後,依據優化誤差函數EF運算向量V2及向量U2間之誤差值(例如初始誤差值及/或推薦誤差值),其中誤差值表示待測物影像與標準圖F2的差異,誤差值愈小,表示向量V2及向量U2之間的差異愈小(例如圖像在色彩資訊上愈接近);反之則愈大。
在取得優化誤差函數EF後,可執行步驟S120~S190來決定光學參數組以自動設定光學參數。為了清楚說明,在本實施例之光學參數自動方法的步驟S120~S190是用以決定光學參數組,光學參數組以包含二光學參數類型為例說明,如x(1)、x(2)。在一實施例中,決定光學參數組的方法(如步驟S120~S190)是在x(1)為固定值的情況下決定x(2)(如,第3A(a)~3H(b)圖之座標橫軸)。在另一實施例中,決定光學參數組的方法(如步驟S120~S190)係在x(1)及x(2)皆為可變的情況決定x(1)及x(2)。在其它實施例中,光學參數組可包含P個光學參數類型x(1)、x(2)、x(3)、...、x(P),決定光學參數組的方法係在x(1)、x(2)、x(3)、...、x(P)之至少一者的值變動下進行。
在步驟S120中,自動光學檢測系統100可依據優化誤差函數EF,對待測物標準圖F2與M個初始待測物影像MTm進行運算,而取得第1個推薦光學參數組。符號MTm的下標m表示第m個初始待測物影像,其中m為介於1~M的正整數,M為初始待測物影像的總數量,本揭露實施例不限定M的最大值。
步驟S120可包含步驟S121~S123。
在步驟S121中,攝像模組140在自動光學檢測系統100被用M個初始光學參數組PTm設定的情況下,分別取得M個初始待測物影像MTm,亦在自動光學檢測系統100被用初始光學參數組PT1設定的情況下,攝像模組140對待測物執行取像以取得初始待測物影像MT1;接著,在自動光學檢測系統100被用初始光學參數組PT2設定的情況下,攝像模組140取得初始待測物影像MT2,如此自動光
學檢測系統100是被用M個初始光學參數組PTm逐次設定,並攝像模組140逐次執行取像而取得M個初始待測物影像MTm。初始光學參數組PTm包含的光學參數類型本揭露實施例不加以限定。如第3A(a)圖所示,本揭露實施例的初始光學參數組PTm以三個為例(即M=3的情況)說明,分別是初始光學參數組PT1、PT2及PT3。初始光學參數組PT1、PT2及PT3可分別表示成PT1[x(1),x(2)]、PT2[x(1),x(2)]及PT3[x(1),x(2)],其餘光學參數組具有類似表達形式,於此不再贅述。
在步驟S122中,誤差運算模組120依據優化誤差函數EF,對待測物標準圖F2與M個初始待測物影像MTm執行運算,而分別取得M個初始待測物影像MTm分別與待測物標準圖F2之間的M個初始誤差值ETm,其中m為介於1~M的正整數。如第3A(a)圖所示,本揭露實施例的初始誤差值ETm以三個(即,M=3的情況)為例說明,分別是初始誤差值ER1、ER2及ER3。
第3A(a)圖之曲線C1表示第0次疊代中光學參數組與誤差值的對應關係,第3A(b)圖的各點表示不同疊代次數與第0次疊代結果之曲線C1中的數個誤差值中最小者(稱「最小誤差值」)的對應關係,第3B~3H(b)圖具有相似的定義,於此不再說明。光學參數自動設定方法在第3A(b)圖所示的階段中,推薦光學參數組PRn尚未被引進運算(尚未執行步驟S140~S180的疊代流程),因此最小誤差值對應的疊代次為0。
在步驟S123中,光學參數推薦模組130依據M個初始誤差值ETm及M個初始光學參數組PTm執行運算,而取得第1個推薦光學參數組PR1。
光學參數自動設定方法中,光學參數推薦模組130可利用多種實施方式來決定推薦光學參數組,例如,光學參數推薦模組130可依據式(6)~(7),取得推薦光學參數組。然,只要能取得推薦光學參數組即可,本揭露實施例之推薦光學參數組的取得方式不限於使用式(6)~(7)。
在式(6)、(7)中,xRj為候選光學參數組,其中j是介於1~J的正整數,用來表示xRj是第j個候選光學參數組,並且J為候選光學參數組的數量。xRj包含數個光學參數類型,可進一步以xRj[x(1)、x(2)、x(3)、...、x(P)]表示。候選光學參數組xRj可以是所有光學參數組中尚未用以執行運算取得誤差值者。本揭露實施例不限定J的最大值,其可視光學參數類型的數目及/或其數值範圍而定。
在式(6)、(7)中,xTi為已選光學參數組,其中i為介於1~Q的正整數,用來表示xTi為第i個已選光學參數組,其中Q為已選光學參數組的數量。xTi包含數個光學參數類型,可進一步以
xTi[x(1)、x(2)、x(3)、...、x(P)]表示。已選光學參數組xTi包含已求得誤差值的初始光學參數組PTm及/或推薦光學參數組PRn。例如,以第3B圖(進入第1次疊代)來說,已選光學參數組xTi包含第3A(a)圖之初始光學參數組PT1、PT2及PT3(以實心圓點表示)。以第3D圖(進入第2次疊代)來說,已選光學參數組xTi包含第3C(a)圖之初始光學參數組PT1、PT2及PT3及推薦光學參數組PR1(以實心圓點表示)。在式(6)中,θ k 表示第k個光學參數類型x(k)的權重,其為常數,不同的數個光學參數類型x(k)的數個θ k 的值可相異或相同。此外,前述k為介於1~Q的正整數,其中Q為已選光學參數組xTi的數量。推薦光學參數組的數量隨疊代次而增加,亦即Q的值隨之增加,Q的最大值視疊代次數而定,本揭露實施例不限定Q的最大值。
在式(6)中,Corr(xTi,xRj)表示第j個候選光學參數組xRj相較於第i個已選光學參數組xTi的差距。在指數函數exp的運算中,當第j個候選光學參數組xRj與第i個已選光學參數組xTi xTi之間的差距愈大時,Corr(xTi,xRj)的數值愈小;反之則愈大。
在式(7)中,Φ(xRj)表示第j個候選光學參數組xRj相較於所有已選光學參數組xTi的第j個期望值(或機率),期望值Φ(xRj)的值例如是介於0~1之間。期望值分析函數E用以取得第j個候選光學參數組xRj相較於所有已選光學參數組xTi的期望值,其可採用各種統計或機率分析技術。Q表示所有已選光學參數組xTi的數目,例如,以第3B圖(執行第1次疊代)來說,已選光學參
數組xTi係3個(如,實心圓點的數量),即Q等於3;以第3D圖(進入第2次疊代)來說,已選光學參數組xTi係4個(如,實心圓點的數量),即Q等於4。
在式(7)中,fmin表示所有已選光學參數組xTi對應的所有誤差值中的最小者,例如,第3B圖(執行第1次疊代)中,fmin為當前疊代次最新的初始誤差值ET2(如第3A(b)圖所示);在第3D圖(執行第2次疊代)中,fmin為當前疊代次最新的最小誤差值,即第3C(b)圖最右邊的初始誤差值ET2(即,ET2為初始誤差值ET1~ET3中最小者);在第3F圖(執行第3次疊代)中,fmin為當前疊代次最新的最小誤差值,即第3E(b)圖最右邊的初始誤差值ET2(即,初始誤差值ET1~ET3與推薦誤差值ET1中最小者)。
在式(7)中,EF(V2,U2i|)表示待測物標準圖F2的像素層級的特徵向量V2與第i張已選影像的像素層級的特徵向量U2i,其中已選影像是指已被用以執行運算取得誤差值的影像,例如在第3B圖(執行第1次疊代)中,已選影像即是初始待測物影像MT1(攝像模組140在基於第3A(a)圖之第1個初始光學參數組PT1之設定下取得)、初始待測物影像MT2(攝像模組140在基於第3A(a)圖之第2個初始光學參數組PT2之設定下取得)及初始待測物影像MT3(攝像模組140在基於第3A(a)圖之第3個初始光學參數組PT3之設定下取得);在第3D圖中(執行第2次疊代)來說,已選影像即是初始待測物影像MT1、MT2及MT3,以及第一個推薦待測物影像MR1(攝像模組140在基於第3C(a)圖之第一個推薦光
學參數組PR1之設定下取得)。在本實施例中,特徵向量V2及特徵向量U2i為像素層級的特徵向量,例如表示RGB或HSV(色相、飽和度、明度),然而在其他實施方式中,向量V2及向量U2i也可以是圖像層級的特徵向量,例如深度學習模型抽取出來的特徵向量。
如式(6)及(7)所示,當第j個候選光學參數組xRj相較於第i個已選光學參數組xTi的差距愈大時(即,Corr(xTi,xRj)的值愈小),期望值Φ(xj)愈大,表示第j個候選光學參數組xRj有愈大的機率能產生比fmin更小的誤差值。每一組候選光學參數組xRj可取得一個期望值Φ(xRj)。光學參數推薦模組130可使用J個不同數值的候選光學參數組xRj,取得對應之J個期望值Φ(xRj),並決定J個期望值Φ(xRj)中最大者所對應的第j個候選光學參數組xRj為推薦光學參數組PRn。
參考第3B~3C(b)圖,基於式(6)~(7)取得第1個推薦光學參數組PR1的流程舉例說明如下。光學參數推薦模組130先取得數個候選光學參數組xRj之分別相較於所有已選光學參數組xTi的數個期望值Φ(xRj),然後決定(挑選)此些期望值Φ(xRj)中之最大者之候選光學參數組xRj為第1個推薦光學參數組。取得第1個候選光學參數組xR1之期望值Φ(xR1)的過程舉例說明如下。
如第3A(a)圖所示,在已選光學參數組xTi的數量為3個(Q=3),且初始光學參數組PTm包含PT1、PT2及PT3的情況下,執行式(6)之運算。此時,在i等於1且j等於1的情況下,光學參數推薦模組130在執行式(6)之運算,取得第1個已選光學參數組xT1
(如,初始光學參數組PT1)及第1個候選光學參數組xR1之Corr(xT1,xR1)的值(計算式:);並且運算取得待測物標準圖F2之像素層級之特徵向量V2與第1張已選影像(如,第1張初始待測物影像MT1)的像素層級的特徵向量U21的初始誤差值ET1(初始誤差值ET1為式(7)之EF(V2,U21|)的結果值)。
光學參數推薦模組130在i等於2且j等於1的情況下,執行式(6)之運算,取得第2個已選光學參數組xT2(如,初始光學參數組PT2)及第1個候選光學參數組xR1之Corr(xT2,xR1)的值(計算式:);並且運算取得待測物標準圖F2之特徵向量V2與第2張已選影像(如,第2張初始待測物影像MT2)的特徵向量U22的初始誤差值ET2(初始誤差值ET2為式(7)之EF(V2,U22|)的結果值)。
光學參數推薦模組130在i等於3(Q之值)及j等於1的情況下,執行式(6)之運算,取得第3個已選光學參數組xT3(如,初始光學參數組PT3)及第1個候選光學參數組xR1之Corr(xT3,xR1)的值(計算式:);並且執行運算取得待測物標準圖F2之特徵向量V2與第3(即,i=3)張已選影像(如,第3張初始待測物影像MT3)的特徵向量U23的初始誤差值ET3(初始誤差值ET3為式(7)之EF(V2,U23|)的結果值)。
然後,光學參數推薦模組130可依據式(7),取得之商值、之商值及之商值,並在取得此些商值之加總(和值計算式:)後,運算式(7)之期望值分析函數E,取得(或計算出)第1個候選光學參數組xR1之期望值Φ(xR1)。
依據前述原則,光學參數推薦模組130可取得在J個不同的候選光學參數組xRj的J個期望值Φ(xRj)。光學參數推薦模組130可從J個期望值Φ(xRj)中挑選出最大者,並決定該最大者為第1(即,n=1)個推薦光學參數組PR1,如第3B圖所示。
在取得第1個推薦光學參數組PR1後,執行步驟S124,自動設定模組150依據第1個推薦光學參數組PR1設定自動光學檢測系統100。自動設定模組150可依據推薦光學參數組PR1設定光源模組160及攝像模組140。例如,以推薦光學參數PR1[x(1),x(2)]之x(1)為曝光時間而x(2)為發光時間來說,自動設定模組150設定攝像模組140的曝光時間為推薦光學參數組PR1之x(1)的數值,且設定光源模組160的發光時間為推薦光學參數組PR1之x(2)的數值。自動設定模組150可自動依據推薦光學參數組設定光源模組160及/或攝像模組140,不需人工操作,如此可減少光學參數自動設定的所需時,間且增加光學參數自動設定的效率。在另一實施例中,若以人工設定,自動光學檢測系統100可選擇性省略自動設定模組150。
執行步驟S130中,誤差運算模組120將n的初始值設為1。步驟S130與S124的兩者間的執行順序不限,可以任一先執行或同時執行。
在步驟S140中,攝像模組140在在該自動光學檢測系統100是用第1個推薦光學參數組PR1設定下對待測物執行取像,以取得第1個推薦待測物影像MR1。
在步驟S150中,誤差運算模組120依據式(5)之優化誤差函數EF,對待測物標準圖F2之像素層級之特徵向量V2與第1個推薦待測物影像MR1之像素層級之特徵向量U2執行運算,而取得待測物標準圖F2與第1個推薦待測物影像MR1之間的第1個推薦誤差值ER1,如第3C(a)圖所示。
如第3C(a)圖所示,光學參數推薦模組130可採用曲線擬合方法,取得初始誤差值ET1、ET2、ET3與推薦誤差值ERn的擬合曲線C2。
在步驟S160中,誤差運算模組120判斷推薦誤差值是否收斂。當誤差運算模組120判斷推薦誤差值收斂時,流程進入步驟S190;當判斷推薦誤差值未收斂時,流程進入步驟S170。
在一實施例之步驟S160中,當推薦誤差值等於或小於一收斂門檻值或在數次疊代後之數個推薦誤差值之任二者的差值於一收斂變動範圍之間變動,則誤差運算模組120判斷誤差值已收斂。前述「收斂門檻值」例如是介於0.1~0.3之間的任一數值(包含端點值),「數次疊代」例如是等於或大於3次,而「收斂變動
範圍」例如是介於0.1~0.3之間的任一數值(包含端點值),然本揭露實施例不以此為限。
如第3C(b)圖所示,經由步驟S150運算取得的第1個推薦誤差值ER1,其並未小於前次疊代取得之最小誤差值(在此即為第0次疊代次取得之多個初始誤差值中最小者初始誤差值ET2),因此在第1次疊代後,最小誤差值仍為初始誤差值ET2。由於第1個推薦誤差值ER1並未小於前次疊代的最小誤差值(即為第0次疊代之初始誤差值ET2),誤差運算模組120據此判斷最小誤差值尚未收斂,流程進入步驟S170。
在步驟S170中,光學參數推薦模組130依據n個推薦誤差值、n個推薦光學參數組、M個初始誤差值及M個測試初始光學參數組執行運算,而取得第n+1個推薦光學參數組。換言之,光學參數推薦模組130採用式(6)及(7),運算所有已選光學參數組xTi(包含n個推薦光學參數組及M個測試初始光學參數組)及所有已運算取得之誤差值(包含n個推薦誤差值及M個初始誤差值),取得下一個(即,n+1)推薦光學參數組PRn+1(第n+1個推薦光學參數組)。
以下進一步舉例說明透過式(6)~(7)取得第2個推薦光學參數組PR2的流程(對應第3D~3E(b)圖)。過程中,光學參數推薦模組130先運算取得數個候選光學參數組xRj之各者相較於所有已選光學參數組xTi的數個期望值Φ(xRj),然後決定此些期望值Φ(xRj)中之最大值者之候選光學參數組xRj為第2個推薦光學參數組
PR2。以下以第1個候選光學參數組xR1為例,來說明運算期望值Φ(xRj)的過程。
如第3C(a)圖所示,已選光學參數組xTi的數量係4個(Q=4),包含3個初始光學參數組PT1、PT2及PT3以及1個推薦光學參數組PT1。
在i等於1且j等於1的情況下運算式(6),光學參數推薦模組130依據式(6)運算第1(即,i=1)個已選光學參數組xT1(如,初始光學參數組PT1)及第1(即,j=1)個候選光學參數組xR1之Corr(xT1,xR1)的值(計算式:),且運算待測物標準圖F2之像素層級之特徵向量V2與第1(即,i=1)張已選影像(如,第1張初始待測物影像MT1)的像素層級的特徵向量U21的初始誤差值ET1(初始誤差值ET1為式(7)之EF(V2,U21|)的運算結果值)。
在i等於2且j等於1的情況下運算式(6),光學參數推薦模組130依據式(6)運算第2(即,i=2)個已選光學參數組xT2(如,初始光學參數組PT2)及第1(即,j=1)個候選光學參數組xR1之Corr(xT2,xR1)的值(計算式:),且運算待測物標準圖F2之特徵向量V2與第2(即,i=2)張已選影像(如,第2張初始待測物影像MT2)的特徵向量U22的初始誤差值ET2(初始誤差值ET2為式(7)之EF(V2,U22|)的結果值)。
在i等於3及j等於1的情況下運算式(6),光學參數推薦模組130依據式(6)運算第3(即,1=3)個已選光學參數組xT3(如,初始光學參數組PT3)及第1(即,j=1)個候選光學參數組xR1之Corr(xT3,xR1)的值(計算式:Corr(xT 3 ,xR 1)=),且運算待測物標準圖F2之特徵向量V2與第3(即,i=3)張已選影像(如,第3張初始待測物影像MT3)的特徵向量U23的初始誤差值ET3(初始誤差值ET3為式(7)之EF(V2,U23|)的結果值)。
在i等於4及j等於1的情況下運算式(6),光學參數推薦模組130依據式(6)運算第4(即,i=4)個已選光學參數組xT4(如,推薦光學參數組PR1)及第1(即,j=1)個候選光學參數組xR1之Corr(xT4,xR1)的值(計算式:),且運算待測物標準圖F2之特徵向量V2與第4(即,i=4)張已選影像(如,推薦光學參數組PR1)的特徵向量U24的推薦誤差值ER1(推薦誤差值ER1為式(7)之EF(V2,U24|)的結果值)。
然後,光學參數推薦模組130可利用前述運算結果執行運算,取得之商值、之商值、之商值及之商值,並運算此些商值之加總(計算式:)後,再進一步依據式(7)之期望值分析函數E執行運算,取得第1個候選光學參數組xR1之期望值Φ(xR2)。
依據前述流程,光學參數推薦模組130可取得在J個不同的候選光學參數組xRj的J個期望值Φ(xRj)。光學參數推薦模組130可從J個期望值Φ(xRj)中挑選出最大者,並決定期望值最大者之xRj為第2(即,n+1)個推薦光學參數組PR2,如第3D圖所示。
在取得第2個推薦光學參數組PR2後,則執行步驟S175。
在步驟S175中,自動設定模組150依據第2個(第n+1個)推薦光學參數組PR2設定自動光學檢測系統100。
在步驟S180中,累加n的值(n=2),然後執行下一輪疊代,也就是再次執行步驟S140,在第2(n=2)次疊代中,攝像模組140在該自動光學檢測系統被用第2個推薦光學參數組PR2設定的情況下,對待測物執行取像,以取得第2個推薦待測物影像MR2。然後,執行步驟S150,在第2次疊代中,光學參數推薦模組130依據式(5)之優化誤差函數EF,對待測物標準圖F2與第2個推薦待測物影像MR2執行運算,而取得待測物標準圖F2與第2個推薦待測物影像MR2之間的第2個推薦誤差值ER2,如第3E(a)圖所示。在第3E(a)圖中,光學參數推薦模組130可採用曲線擬合方法,取得初始誤差值ET1、ET2及ET3與推薦誤差值ER1及ER2的擬合曲線C3。執行步驟S160,光學參數推薦模組130判斷推薦誤差值是否收斂。當判斷推薦誤差值收斂時,則執行步驟S190;當判斷推薦誤差值未收斂時,則執行步驟S170。如第3E(b)圖所示,第2個推薦誤差值ER2並未小於推薦誤差值ER1以及前幾次疊代
(第0次疊代與第1次疊代)決定之最小誤差值(初始誤差值ET2),光學參數推薦模組130據此判斷推薦誤差值尚未收斂,則執行步驟S170。
在步驟S170中,光學參數推薦模組130採用前述決定推薦光學參數組之流程,運算取得第3個推薦光學參數組PR3,並執行步驟S175依據第3個推薦光學參數組PR3設定自動光學檢測系統100,及步驟S180以更新n(n=3)而進入下次疊代(第3次疊代)。在第3次疊代中,與前述第2次疊代相似地,執行步驟S140~S160,而運算取得第3個推薦誤差值ER3(如第3F及3G(a)圖所示)。接著執行S160,如第3G(b)圖所示,雖然第3個推薦誤差值ER3小於前幾次疊代結果之推薦誤差值ER1及ER2,及最小誤差值ET2,但第3個推薦誤差值ER3並未低於收斂門檻值,光學參數推薦模組130據此判斷推薦誤差值尚未收斂,而進入下一輪的疊代,執行步驟S170~S180,取得下一次疊代之第n個推薦光學參數組PRn。
如第3H(a)圖所示,光學參數推薦模組130依據前述原則,依序取得第4(即,n=4)次疊代之第4個推薦誤差值ER4、第5(即,n=5)次疊代之第5個推薦誤差值ER5、第6(即,n=6)次疊代之第6個推薦誤差值ER6及第7(即,n=7)次疊代之第7個推薦誤差值ER7。如第3H(b)圖所示,在第7次疊代的步驟S160中,第7個推薦誤差值ER7已低於前述收斂門檻值,光學參數推薦模組130據此判斷推薦誤差值已收斂,則執行步驟S190,光學參數推薦模組130決定第7次疊代之最小推薦誤差值,也就是第7個推薦誤差值
ER7所對應之第7個推薦光學參數組ER7為自動光學檢測系統100之最佳光學參數組。
自動光學檢測系統100之光源模組160及攝像模組140可依據此最佳光學參數組設定於產線上運作,使攝像模組140對產品攝像所取得的產品影像具有最佳的品質(例如色彩呈現),以提升自動光學檢測系統100檢測產品的準確度。
綜上,本揭露實施例提出一種光學參數自動設定方法及應用其之自動光學檢測系統,利用機器學習的技術,自動取得最佳光學參數組。在應用本揭露實施例之光學參數自動設定方法中,在短時間內須對P個或全部光學參數進行高達數萬、數十萬次或甚至更多次的疊代,且計算過程繁複,此必須由電腦執行,非人腦所能完成。由於是採用電腦執行光學參數自動設定方法,因此在執行過程可考慮自動光學檢測系統中可能影響攝像器所擷取之產品影像呈現(或品質)的所有光學參數的至少一者,提升攝像器所擷取之產品影像的品質,增加檢測正確率。相較於人工調光,本揭露實施例具備以下數個技術功效的至少一者:(1).避免人為因素的誤判,因此可提升調光穩定性;(2).減少調光所需時間;(3).降低人力成本;(4).加入調光流程的光學參數類型的數量可以較多;(5).增加自動光學檢測系統的檢測正確率。
綜上所述,雖然本揭露已以實施例揭露如上,然其並非用以限定本揭露。本揭露所屬技術領域中具有通常知識者,在不脫離
本揭露之精神和範圍內,當可作各種之更動與潤飾。因此,本揭露之保護範圍當視後附之申請專利範圍所界定者為準。
S110~S190:步驟
Claims (16)
- 一種光學參數自動設定方法,適用於一自動光學檢測(Automated Optical Inspection,AOI)系統,該自動光學檢測系統包括一攝像模組、一誤差運算模組、一自動設定模組及一光學參數推薦模組,該光學參數自動設定方法包括:該攝像模組在該自動光學檢測系統被用一第一推薦光學參數組設定下對一待測物執行取像,以取得一推薦待測物影像;該誤差運算模組依據一優化誤差函數,對一待測物標準圖與該推薦待測物影像執行運算,以取得該待測物標準圖與該推薦待測物影像之間的一推薦誤差值;該誤差運算模組判斷該推薦誤差值是否收斂;當判斷該推薦誤差值未收斂時,該光學參數推薦模組依據該推薦誤差值及該第一推薦光學參數組執行運算,而取得一第二推薦光學參數組,並且該自動設定模組依據該第二推薦光學參數組設定該自動光學檢測系統;以及當判斷該推薦誤差值收斂時,該誤差運算模組決定該第一推薦光學參數組為該自動光學檢測系統之一最佳光學參數組。
- 如請求項1所述之光學參數自動設定方法,更包括:該攝像模組在該自動光學檢測系統被用複數個初始光學參數組設定下分別對該待測物取得複數個初始待測物影像; 該誤差運算模組依據該優化誤差函數,對該待測物標準圖與該些初始待測物影像執行運算,以取得該些初始待測物影像分別與該待測物標準圖之間的複數個初始誤差值;以及該光學參數推薦模組依據該些初始誤差值及該些初始光學參數組執行運算,以取得該第一推薦光學參數組。
- 如請求項2所述之光學參數自動設定方法,更包括:當判斷該推薦誤差值未收斂時,該光學參數推薦模組還依據該些初始誤差值及該些初始光學參數組執行運算,以取得該第二推薦光學參數組。
- 如請求項2所述之光學參數自動設定方法,更包括:該光學參數推薦模組運算取得複數個候選光學參數組分別相較於該些初始光學參數組的複數個期望值;以及該光學參數推薦模組決定該些期望值中之最大者為該第一推薦光學參數組。
- 如請求項4所述之光學參數自動設定方法,其中在運算取得該些候選光學參數組分別相較於該些初始光學參數組的該些期望值之步驟包括:該光學參數推薦模組取得各該候選光學參數組相較於各該初始光學參數組之間的複數個差距;以及 該光學參數推薦模組依據該些差距及該些初始誤差值,運算取得該些期望值。
- 如請求項1所述之光學參數自動設定方法,其中該自動光學檢測系統更包括一光源模組,該光學參數自動設定方法更包括:該自動設定模組依據該最佳光學參數組,設定該攝像模組及/或該光源模組。
- 如請求項1所述之光學參數自動設定方法,其中該自動光學檢測系統還包括一優化模組,該光學參數自動設定方法更包括:該優化模組對一訓練標準圖、一專家標準影像及一非專家標準影像執行運算,而取得該優化誤差函數。
- 如請求項7所述之光學參數自動設定方法,更包括:該優化模組以最小化該訓練標準圖與該專家標準影像之間的誤差以及非最小化該訓練標準圖與該非專家標準影像之間的誤差為目標,運算取得該優化誤差函數的複數個優化權重。
- 一種自動光學檢測系統,包括:一攝像模組,經配置以執行在一第一推薦光學參數組下對一待測物執行取像,以取得一推薦待測物影像;一誤差運算模組,經配置以執行依據一優化誤差函數,對一待測物標準圖與該推薦待測物影像執行運算,以取得該待測物標準 圖與該推薦待測物影像之間的一推薦誤差值,並判斷該推薦誤差值是否收斂;以及一光學參數推薦模組,經配置以執行當判斷該推薦誤差值未收斂時,依據該推薦誤差值及該第一推薦光學參數組執行運算,而取得一第二推薦光學參數組;一自動設定模組,經配置以執行依據該第二推薦光學參數組設定該自動光學檢測系統;其中,當判斷該推薦誤差值收斂時,該誤差運算模組更用以決定該第一推薦光學參數組為該自動光學檢測系統之一最佳光學參數組。
- 如請求項9所述之自動光學檢測系統,其中,該攝像模組更經配置以執行在複數個初始光學參數組下分別對該待測物取得複數個初始待測物影像;該誤差運算模組更經配置以執行依據該優化誤差函數,對該待測物標準圖與該些初始待測物影像執行運算,以取得該些初始待測物影像分別與該待測物標準圖之間的複數個初始誤差值;以及該光學參數推薦模組更經配置以執行依據該些初始誤差值及該些初始光學參數組執行運算,而取得該第一推薦光學參數組。
- 如請求項10所述之自動光學檢測系統,其中該光學參數推薦模組更經配置以執行:當判斷該推薦誤差值未收斂時,依據該些初始誤差值及該些初始光學參數組執行運算,以取得該第二推薦光學參數組。
- 如請求項10所述之自動光學檢測系統,其中該光學參數推薦模組更經配置以執行:取得複數個候選光學參數組分別相較於該些初始光學參數組的複數個期望值;以及決定該些期望值中之最大者為該第一推薦光學參數組。
- 如請求項12所述之自動光學檢測系統,其中該光學參數推薦模組更經配置以執行:該光學參數推薦模組取得各該候選光學參數組相較於各該初始光學參數組之間的複數個差距;以及依據該些差距及該些初始誤差值,運算取得該些期望值。
- 如請求項9所述之自動光學檢測系統,更包括一光源模組,該自動設定模組經配置以執行依據該最佳光學參數,及設定該攝像模組及/或該光源模組。
- 如請求項9所述之自動光學檢測系統,更包括:一優化模組,經配置以執行運算一訓練標準圖、一專家標準影像及一非專家標準影像,而取得該優化誤差函數。
- 如請求項15所述之自動光學檢測系統,其中該優化模組更經配置以執行:以最小化該訓練標準圖與該專家標準影像之間的誤差以及非最小化該訓練標準圖與該非專家標準影像之間的誤差為目標,運算取得該優化誤差函數的複數個優化權重。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110115481A TWI792291B (zh) | 2021-04-29 | 2021-04-29 | 光學參數自動設定方法及應用其之自動光學檢測系統 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110115481A TWI792291B (zh) | 2021-04-29 | 2021-04-29 | 光學參數自動設定方法及應用其之自動光學檢測系統 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202242713A TW202242713A (zh) | 2022-11-01 |
TWI792291B true TWI792291B (zh) | 2023-02-11 |
Family
ID=85793303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW110115481A TWI792291B (zh) | 2021-04-29 | 2021-04-29 | 光學參數自動設定方法及應用其之自動光學檢測系統 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI792291B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020009220A1 (en) * | 1999-11-29 | 2002-01-24 | Olympus Optical Co., Ltd. | Defect inspection system |
CN107561737A (zh) * | 2017-08-21 | 2018-01-09 | 武汉精测电子技术股份有限公司 | 一种aoi***ipc参数自动调整的方法、装置及工具 |
TWI683262B (zh) * | 2018-06-08 | 2020-01-21 | 財團法人工業技術研究院 | 工業影像檢測方法、系統與電腦可讀取記錄媒體 |
TW202013314A (zh) * | 2018-09-18 | 2020-04-01 | 台灣積體電路製造股份有限公司 | 確定晶圓檢查參數方法 |
CN111751279A (zh) * | 2019-03-27 | 2020-10-09 | 鸿富锦精密工业(武汉)有限公司 | 光学取像参数调整方法及感测装置 |
-
2021
- 2021-04-29 TW TW110115481A patent/TWI792291B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020009220A1 (en) * | 1999-11-29 | 2002-01-24 | Olympus Optical Co., Ltd. | Defect inspection system |
CN107561737A (zh) * | 2017-08-21 | 2018-01-09 | 武汉精测电子技术股份有限公司 | 一种aoi***ipc参数自动调整的方法、装置及工具 |
TWI683262B (zh) * | 2018-06-08 | 2020-01-21 | 財團法人工業技術研究院 | 工業影像檢測方法、系統與電腦可讀取記錄媒體 |
TW202013314A (zh) * | 2018-09-18 | 2020-04-01 | 台灣積體電路製造股份有限公司 | 確定晶圓檢查參數方法 |
CN111751279A (zh) * | 2019-03-27 | 2020-10-09 | 鸿富锦精密工业(武汉)有限公司 | 光学取像参数调整方法及感测装置 |
Also Published As
Publication number | Publication date |
---|---|
TW202242713A (zh) | 2022-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI751376B (zh) | 識別在一晶圓上偵測到之缺陷中之損害及所關注缺陷 | |
CN107145908B (zh) | 一种基于r-fcn的小目标检测方法 | |
JP6869490B2 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
CN111242123B (zh) | 一种基于红外图像的电力设备故障诊断方法 | |
US20120027288A1 (en) | Methods, Systems and Apparatus for Defect Detection | |
CN112567428B (zh) | 摄影方法及摄影装置 | |
CN111815564B (zh) | 一种检测丝锭的方法、装置及丝锭分拣*** | |
US11631230B2 (en) | Method, device, system and computer-program product for setting lighting condition and storage medium | |
CN112903692B (zh) | 一种基于ai的工业孔壁缺陷检测***及识别算法 | |
CN109886947A (zh) | 基于区域的卷积神经网络的高压电线缺陷检测方法 | |
JP2021515927A (ja) | 照明条件の設定方法、装置、システム及びプログラム並びに記憶媒体 | |
US20070258640A1 (en) | Inspection apparatus | |
TW201825883A (zh) | 最佳化使用於設定檢查相關演算法之訓練組 | |
CN108445010A (zh) | 自动光学检测方法及装置 | |
CN114881987A (zh) | 基于改进YOLOv5的热压导光板缺陷可视化检测方法 | |
US20230325413A1 (en) | Error Factor Estimation Device and Error Factor Estimation Method | |
TWI792291B (zh) | 光學參數自動設定方法及應用其之自動光學檢測系統 | |
CN116843615B (zh) | 一种基于柔性光路的引线框架智能全检方法 | |
CN114913086B (zh) | 基于生成对抗网络的人脸图像质量增强方法 | |
CN116843618A (zh) | 一种金属零件浅显外观缺陷检测方法 | |
CN116106319A (zh) | 一种合成革瑕疵自动化检测方法及*** | |
CN106951888B (zh) | 人脸特征点的相对坐标约束方法以及定位方法 | |
CN115018787A (zh) | 一种基于梯度增强的异常检测方法和*** | |
US11788972B2 (en) | Method of automatically setting optical parameters and automated optical inspection system using the same | |
CN114486895A (zh) | 一种基于尿干化试纸条推向识别的检测样本物质浓度的方法 |