TWI832686B - 路徑規劃系統及其路徑規劃方法 - Google Patents
路徑規劃系統及其路徑規劃方法 Download PDFInfo
- Publication number
- TWI832686B TWI832686B TW112102888A TW112102888A TWI832686B TW I832686 B TWI832686 B TW I832686B TW 112102888 A TW112102888 A TW 112102888A TW 112102888 A TW112102888 A TW 112102888A TW I832686 B TWI832686 B TW I832686B
- Authority
- TW
- Taiwan
- Prior art keywords
- lane
- path
- point
- road
- path planning
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 230000011218 segmentation Effects 0.000 claims abstract description 43
- 238000013136 deep learning model Methods 0.000 claims abstract description 13
- 238000009499 grossing Methods 0.000 claims abstract description 8
- 230000003287 optical effect Effects 0.000 claims description 32
- 238000001514 detection method Methods 0.000 claims description 22
- 230000015572 biosynthetic process Effects 0.000 claims description 16
- 238000012545 processing Methods 0.000 claims description 16
- 238000003786 synthesis reaction Methods 0.000 claims description 16
- 239000002131 composite material Substances 0.000 claims description 14
- 238000012423 maintenance Methods 0.000 claims description 14
- 230000009466 transformation Effects 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005211 surface analysis Methods 0.000 description 1
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Automation & Control Theory (AREA)
- Multimedia (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Networks & Wireless Communication (AREA)
- Software Systems (AREA)
- Electromagnetism (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Traffic Control Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Human Computer Interaction (AREA)
- Image Processing (AREA)
Abstract
一種路徑規劃系統及其路徑規劃方法。路徑規劃系統將道路距離點雲圖投影至道路影像,產生道路影像點雲合成圖,再輸入至深度學習模型及概率圖模型,以獲得路面分割圖。對路面分割圖計算連通域,基於道路影像點雲合成圖獲得相鄰車道資訊點雲及主車道資訊點雲,並對相鄰車道資訊點雲及主車道資訊點雲進行聚類,以及計算相鄰車道群中心及主車道群中心,再將相鄰車道群中心及主車道群中心之光達座標轉換為車身座標,對車身座標進行平滑處理以獲得變換車道路徑點及主車道路徑點,根據障礙物資訊選擇變換車道路徑點或主車道路徑點作為行駛路徑。
Description
本發明係關於一種無高精度向量地圖之即時變換車道路徑規劃系統。
交通安全一直都是相當重要的問題,隨著自動駕駛技術之發展,駕駛輔助系統變成一樣不可或缺之技術。能夠提供駕駛警示,不僅能保護駕駛安全,還能提升駕駛品質。由於早期駕駛輔助系統算法上侷限於許多特徵規則,因此在複雜的環境下可能出現駕駛輔助系統失靈的問題。此外,過往駕駛輔助系統在執行車道變換時,為了降低運算複雜度,許多自駕車軟體是利用高精度向量地圖得知準確周圍車道位置,降低路徑規劃的難度,利用其資訊來完成車道變換路徑規劃。
舉例而言,Autoware是日本名古屋大學Shinpei Kato團隊所提出自駕開源架構,目前已投入研究以及商業使用。此架構使用高精度向量地圖,其中包含道路線、紅綠燈、十字路口等交通資訊,透過向量資訊,在十字路口區域取得道路行駛的路徑。此外,Apollo為中國
網路公司百度所提出的自駕車軟體,類似於Autoware的設計,Apollo也使用了高精度向量地圖,其向量地圖的格式採用的是OpenDrive格式。
然而,建立高精度向量地圖所耗費的成本很高,高精向量地圖的標記需要投入大量人力,還要建構複雜的標記軟體,並且需要政府部門配合才能取得。另外,目前各地區向量地圖格式尚未完全統一,更增加了標記的困難度。當建立的高精度向量地圖中的資訊與車輛所在的實際場域不符,駕駛輔助系統便無法正確得知自駕車周圍的車道環境,故可能會造成路徑規劃錯誤從而導致行車危險的情況。
有鑑於此,如何提供無需使用高精度向量地圖且能即時規劃行駛路徑之路徑規劃系統,係為業界亟需解決的一技術問題。
本發明之目的在於提供一種路徑規劃機制,其透過攝影機以及光學雷達掃描器(LiDAR)產生影像,並基於深度學習模型及概率圖模型,分析影像並在各種情境之下分割出路面,以識別出車道線、可行駛區域與相鄰車道區域,且深度學習模型將道路線分割及道路線偵測進行整合,能夠大大的節省運算量。由於感測裝置的部分只須採用一個攝影機以及一個LiDAR即可即時規劃車輛當前行駛路徑,節省建置高精向量地圖的成本。
接著,再進一步計算連通域,決定是否變換車道,進而達成即時路徑規劃。如此一來,本發明能夠減少自駕車對於高精向量地圖的依賴性,只依賴感知器(攝影機及光學雷達掃描器)的輸入,便能完
成路徑規劃,驅動即時的變換車道路徑規劃,並選擇安全可行駛的車道行駛,實現邊開車邊規劃行車路徑。此外,本發明具有高度可移植性,能夠在機器人作業系統下自由擴展,亦能夠於嵌入式平台上達到即時處理。
為達上述目的,本發明揭露一種路徑規劃系統,其包含一感測裝置及一處理裝置。該感測裝置包含一攝影機及一光學雷達掃描器。該攝影機用以拍攝一目標道路之一道路影像。該光學雷達掃描器用以擷取該目標道路之複數距離資料點,產生一道路距離點雲圖。該處理裝置電性連接至該感測裝置,且包含一相機光達校準模組、一可行駛區域偵測模組、一相鄰車道資訊擷取模組、一主車道資訊擷取模組、一變換車道路徑規劃模組、一車道維持路徑規劃模組及一路徑選擇模組。該相機光達校準模組用以自該攝影機接收該道路影像以及自該光學雷達掃描器接收該道路距離點雲圖,並將該道路距離點雲圖投影至該道路影像,以產生一道路影像點雲合成圖。該可行駛區域偵測模組用以自該攝影機接收該道路影像,並基於一深度學習模型及一概率圖模型產生一路面分割圖。該相鄰車道資訊擷取模組電性連接至該相機光達校準模組及該可行駛區域偵測模組,用以接收該道路影像點雲合成圖及該路面分割圖,並對該路面分割圖計算一相鄰車道連通域,以獲得一相鄰車道連接區域,以及基於該道路影像點雲合成圖生成該相鄰車道連接區域之一相鄰車道資訊點雲。該主車道資訊擷取模組電性連接至該相機光達校準模組及該可行駛區域偵測模組,用以接收該道路影像點雲合成圖及該路面分割圖,並對該路面分割圖計算一主車道連通域,以獲得一主車道連接
區域,以及基於該道路影像點雲合成圖生成該主車道連接區域之一主車道資訊點雲。該變換車道路徑規劃模組電性連接至該相鄰車道資訊擷取模組,用以接收該相鄰車道資訊點雲,基於一群中心演算法對該相鄰車道資訊點雲進行聚類,並計算該相鄰車道資訊點雲聚類後之一相鄰車道群中心,以及將該相鄰車道群中心之一光達座標轉換為一車身座標,並將該車身座標進行平滑處理以獲得一變換車道路徑點。該車道維持路徑規劃模組,電性連接至該主車道資訊擷取模組,用以接收該主車道資訊點雲,基於該群中心演算法對該主車道資訊點雲進行聚類,並計算該主車道資訊點雲聚類後之一主車道群中心,以及將該主車道群中心之該光達座標轉換為該車身座標,並將該車身座標進行平滑處理以獲得一主車道路徑點。該路徑選擇模組電性連接至該變換車道路徑規劃模組及該車道維持路徑規劃模組,用以接收一障礙物資訊、該變換車道路徑點及該主車道路徑點,並根據該障礙物資訊選擇該變換車道路徑點及該主車道路徑點其中之一作為一行駛路徑。
該車道維持路徑規劃模組將該主車道群中心之該光達座標轉換為該車身座標後,獲得一初級路徑點,並將該初級路徑點輸入至一車道寬度過濾器、一車頭擺幅過濾器及一車道線過濾器篩選,以輸出一次級路徑點,並根據該次級路徑點獲得該主車道路徑點。
該車道維持路徑規劃模組更透過一貝茲曲線對該次級路徑點進行平滑處理,以獲得該主車道路徑點。
該變換車道路徑規劃模組將該相鄰車道群中心之該光達座標轉換為該車身座標後,更透過一貝茲曲線對該車身座標進行平滑處理,以獲得該變換車道路徑點。
該群中心演算法係一基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)。
該路徑選擇模組自該感測裝置接收該等距離資料點,並根據該光學雷達掃描器擷取各該距離資料點之一時間及一光速,計算各該距離資料點與該光學雷達掃描器間之一距離,以及根據該等距離獲得該障礙物資訊。
當該路徑選擇模組根據該障礙物資訊判斷該主車道路徑點上存在至少一障礙物時,選擇該變換車道路徑點作為該行駛路徑。
當該路徑選擇模組根據該障礙物資訊判斷該變換車道路徑點上存在至少一障礙物時,選擇該主車道路徑點作為該行駛路徑。
該路面分割圖包含一主車道、至少一副車道及複數道路線。
此外,本發明更揭露一種路徑規劃方法,其適用於一路徑規劃系統。該路徑規劃系統包含一感測裝置及一處理裝置。該感測裝置用以拍攝一目標道路之一道路影像,並擷取該目標道路之複數距離資料點,以產生一道路距離點雲圖。該路徑規劃方法由該處理裝置執行,且包含:接收該道路影像以及該道路距離點雲圖,並將該道路距離點雲圖投影至該道路影像,以產生一道路影像點雲合成圖;將該道路影像輸入
至一深度學習模型及一概率圖模型,以產生一路面分割圖;對該路面分割圖計算一相鄰車道連通域,以獲得一相鄰車道連接區域,以及基於該道路影像點雲合成圖生成該相鄰車道連接區域之一相鄰車道資訊點雲;對該路面分割圖計算一主車道連通域,以獲得一主車道連接區域,以及基於該道路影像點雲合成圖生成該主車道連接區域之一主車道資訊點雲;基於一群中心演算法對該相鄰車道資訊點雲進行聚類,並計算該相鄰車道資訊點雲聚類後之一相鄰車道群中心,以及將該相鄰車道群中心之一光達座標轉換為一車身座標,並將該車身座標進行平滑處理以獲得一變換車道路徑點;基於該群中心演算法對該主車道資訊點雲進行聚類,並計算該主車道資訊點雲聚類後之一主車道群中心,以及將該主車道群中心之該光達座標轉換為該車身座標,並將該車身座標進行平滑處理以獲得一主車道路徑點;以及接收一障礙物資訊,並根據該障礙物資訊選擇該變換車道路徑點及該主車道路徑點其中之一作為一行駛路徑。
該路徑規劃方法更包含:將該主車道群中心之該光達座標轉換為該車身座標後,獲得一初級路徑點;將該初級路徑點輸入至一車道寬度過濾器、一車頭擺幅過濾器及一車道線過濾器篩選,以輸出一次級路徑點;以及根據該次級路徑點獲得該主車道路徑點。
該路徑規劃方法更包含:透過一貝茲曲線對該次級路徑點進行平滑處理,以獲得該主車道路徑點。
該路徑規劃方法更包含:將該相鄰車道群中心之該光達座標轉換為該車身座標後,透過一貝茲曲線對該車身座標進行平滑處理,以獲得該變換車道路徑點。
該群中心演算法係一基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)。
該路徑規劃方法更包含:接收該等距離資料點;根據一光學雷達掃描器擷取各該距離資料點之一時間及一光速,計算各該距離資料點與該光學雷達掃描器間之一距離;以及根據該等距離獲得該障礙物資訊。
該路徑規劃方法更包含:根據該障礙物資訊判斷該主車道路徑點上存在至少一障礙物時,選擇該變換車道路徑點作為該行駛路徑。
該路徑規劃方法更包含:根據該障礙物資訊判斷該變換車道路徑點上存在至少一障礙物時,選擇該主車道路徑點作為該行駛路徑。
該路面分割圖包含一主車道、至少一副車道及複數道路線。
在參閱圖式及隨後描述之實施方式後,此技術領域具有通常知識者便可瞭解本發明之其他目的,以及本發明之技術手段及實施態樣。
100:路徑規劃系統
1:感測裝置
11:攝影機
13:光學雷達掃描器
3:處理裝置
31:相機光達校準模組
32:可行駛區域偵測模組
33:相鄰車道資訊擷取模組
34:主車道資訊擷取模組
35:變換車道路徑規劃模組
36:車道維持路徑規劃模組
37:路徑選擇模組
P1:道路影像
P2:道路影像點雲合成圖
P3:路面分割圖
P4:行駛路徑
S602-S614:步驟
S702-S706:步驟
S802-S806:步驟
圖1為本發明路徑規劃系統之示意圖;圖2為本發明攝影機拍攝之道路影像;圖3為本發明相機光達校準模組產生之道路影像點雲合成圖;
圖4為本發明可行駛區域偵測模組產生之路面分割圖;圖5為本發明路徑選擇模組產生之行駛路徑;圖6為本發明路徑規劃方法之流程圖;圖7為本發明路徑規劃方法之流程圖;以及圖8為本發明路徑規劃方法之流程圖。
以下將透過實施例來解釋本發明內容,本發明的實施例並非用以限制本發明須在如實施例所述之任何特定的環境、應用或特殊方式方能實施。因此,關於實施例之說明僅為闡釋本發明之目的,而非用以限制本發明。需說明者,以下實施例及圖式中,與本發明非直接相關之元件已省略而未繪示,且圖式中各元件間之尺寸關係僅為求容易瞭解,並非用以限制實際比例。
本發明第一實施例如圖1至圖5所示。圖1為本發明路徑規劃系統之示意圖。路徑規劃系統100包含一感測裝置1及一處理裝置3。感測裝置1包含一攝影機11及一光學雷達掃描器(light detection and ranging;LiDAR)13。攝影機11用以拍攝一目標道路之一道路影像P1。光學雷達掃描器13用以擷取目標道路之複數距離資料點,產生一道路距離點雲圖。處理裝置3電性連接至感測裝置1,且包含一相機光達校準模組31、一可行駛區域偵測模組32、一相鄰車道資訊擷取模組33、一主車道資訊擷取模組34、一變換車道路徑規劃模組35、一車道維持路徑規劃模組36及一路徑選擇模組37。
具體而言。本發明之路徑規劃系統100可安裝於車輛上。光學雷達掃描器13可用於建立自駕車地圖及行駛軌跡。車輛於行進期間,光學雷達掃描器13會全向發射雷射光束,雷射光束打到實體物體(例如:行人、前後車輛、分隔島、人行道、建築物等)時會返回至光學雷達掃描器13,光學雷達掃描器13將每個返回的雷射光束視為一個資料點,因此光學雷達掃描器13可透過雷射光束返回時間及光速來計算出每個資料點與光學雷達掃描器13之間的距離。
舉例而言,當行人過馬路行走到車輛的行徑道路上時,安裝於車輛頂部之光學雷達掃描器13發射的多道雷射光束會打到行人身上的不同部位後反彈,光學雷達掃描器13根據雷射光束往返時間及光速計算出每個雷射光束(即資料點)對應的距離,並產生包含行人對應之點雲的道路距離點雲圖。除了與行人對應之點雲,道路距離點雲圖中更包含周圍車輛、建築物、動植物、障礙物等物體對應的點雲,用來表示車輛周圍所有實體物體與車輛之間的距離以及車輛所在空間的深度。
光學雷達掃描器13產生道路距離點雲圖後,傳送至處理裝置3之相機光達校準模組31,攝影機11則拍攝道路影像P1,如圖2所示,同時傳送至相機光達校準模組31及可行駛區域偵測模組32。
請參考圖3,其描繪本發明相機光達校準模組31產生之道路影像點雲合成圖P2。相機光達校準模組31將道路距離點雲圖投影至道路影像P1,以產生道路影像點雲合成圖P2。由於攝影機11的相機座標與光學雷達掃描器13的光達座標不同,因此相機光達校準模組31自攝影機11接收道路影像P1以及自光學雷達掃描器13接收道路距離點雲圖後,需
要先計算攝影機11的內部參數以及光學雷達掃描器13相對於攝影機11的相對位置。攝影機11的內部參數和光學雷達掃描器13與攝影機11的相對位置在機構不改變的前提下只需要進行一次校正。
在投影階段,相機光達校準模組31則可以直接利用投影矩陣進行投影,以得到道路影像點雲合成圖P2。由道路影像點雲合成圖P2可知道路距離點雲圖中的各個資料點對應在道路影像P1的哪些像素上,並藉由資料點形成的點雲得知物體的位置。
請參考圖4,其描繪本發明可行駛區域偵測模組32產生之路面分割圖P3。可行駛區域偵測模組32用以自攝影機11接收道路影像P1,並基於一深度學習模型及一概率圖模型產生一路面分割圖P3,路面分割圖P3包含一主車道、至少一副車道及複數道路線。詳言之,可行駛區域偵測模組32將道路影像P1經過深度學習模型初始化後,載入深度學習模型參數建構深度路面分割網路,道路影像P1通過深度學習模型產出預測圖,將預測圖輸入至概率圖模型,會同時生成車道分割圖以及道路線分割圖。
車道分割圖包含道路背景、主車道及副車道。道路線分割圖包含單線、雙線及虛線等車道線。接著,可行駛區域偵測模組32將車道分割圖及道路線分割圖合併為路面分割圖P3。於本發明中,使用深度學習模型,將可行駛區域、車道線及相鄰車道區域整合,同時輸出偵測結果,節省運算資源,且可應用於嵌入式車載系統。
相鄰車道資訊擷取模組33電性連接至相機光達校準模組31及可行駛區域偵測模組32,用以接收道路影像點雲合成圖P2及路面分
割圖P3,並對路面分割圖P3計算一相鄰車道連通域,以獲得一相鄰車道連接區域,以及基於道路影像點雲合成圖P2生成相鄰車道連接區域之一相鄰車道資訊點雲。
具體而言,相鄰車道資訊擷取模組33先對路面分割圖P3進行相鄰車道連通域計算,取得相鄰車道互相連接的區域,接著輸入道路影像點雲合成圖P2進行相鄰車道資訊抽取,取得相鄰車道內的所有點雲對應的像素,再對於這些像素點進行光達座標軸轉換,轉換至光達座標軸後,將相鄰車道資訊轉換為點雲,並生成相鄰車道資訊點。
主車道資訊擷取模組34電性連接至相機光達校準模組31及可行駛區域偵測模組32,用以接收道路影像點雲合成圖P2及路面分割圖P3,並對路面分割圖P3計算一主車道連通域,以獲得一主車道連接區域,以及基於道路影像點雲合成圖P2生成主車道連接區域之一主車道資訊點雲。
類似於相鄰車道資訊擷取模組33計算方式,主車道資訊擷取模組34先對路面分割圖P3進行主車道連通域計算,取得主車道互相連接的區域,接著輸入道路影像點雲合成圖P2進行主車道資訊抽取,取得主車道內的所有點雲對應的像素,再對於這些像素點進行光達座標軸轉換,轉換至光達座標軸後,將主車道資訊轉換為點雲,並生成主車道資訊點。
變換車道路徑規劃模組35電性連接至相鄰車道資訊擷取模組33,用以接收相鄰車道資訊點雲,基於一群中心演算法對相鄰車道資訊點雲進行聚類,並計算相鄰車道資訊點雲聚類後之一相鄰車道群中
心,以及將相鄰車道群中心之一光達座標轉換為一車身座標,並透過貝茲曲線對車身座標進行平滑處理以獲得一變換車道路徑點。
變換車道路徑規劃模組35輸入相鄰車道資訊點雲以及自駕車狀態。當自駕車狀態為自駕車不在十字路口,才能進行車道變換。利用基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)對相鄰車道資訊點雲進行聚類,並計算相鄰車道群中心。將相鄰車道群中心之該些點雲的光達座標轉換為車身座標。轉換至車身座標後,最後經過貝茲(Bézier)曲線對車身座標進行平滑處理可以得到變換車道路徑點。
車道維持路徑規劃模組36電性連接至主車道資訊擷取模組34,用以接收主車道資訊點雲,基於群中心演算法對主車道資訊點雲進行聚類,並計算主車道資訊點雲聚類後之一主車道群中心,以及將主車道群中心之光達座標轉換為車身座標,獲得一初級路徑點,並將該初級路徑點輸入至一車道寬度過濾器、一車頭擺幅過濾器及一車道線過濾器篩選,以輸出次級路徑點,最後透過貝茲曲線對次級路徑點進行平滑處理,以獲得一主車道路徑點。
車道維持路徑規劃模組36輸入主車道資訊點雲以及自駕車狀態。基於DBSCAN對主車道資訊點雲進行聚類,並計算主車道群中心。將主車道群中心之該些點雲的光達座標轉換為車身座標,轉換至車身座標後可以得到初級路徑點,將產生之初級路徑點進行篩選,再輸入至車道寬度、車頭擺幅、車道線三種過濾器,確保路徑點品質,最後經過貝茲曲線對次級路徑點進行平滑處理可以得到主車道路徑點。
請參考圖5,其描繪本發明路徑選擇模組37產生之行駛路徑P4。路徑選擇模組37電性連接至變換車道路徑規劃模組35及車道維持路徑規劃模組36,用以接收一障礙物資訊、變換車道路徑點及主車道路徑點,並根據障礙物資訊選擇變換車道路徑點及主車道路徑點其中之一作為一行駛路徑。路徑選擇模組37目的在於接收障礙物資訊,判斷主車道路徑點及變換車道路徑點中哪個路徑點無障礙物阻擋可以順利通行,並選擇最安全的路徑。
路徑選擇模組37自感測裝置1接收該等距離資料點,並根據光學雷達掃描器13擷取各距離資料點之一時間及一光速,計算各距離資料點與13光學雷達掃描器間之一距離,以及根據該等距離獲得障礙物資訊。
當路徑選擇模組根據障礙物資訊判斷主車道路徑點上存在至少一障礙物時,選擇變換車道路徑點作為行駛路徑。反之,當路徑選擇模組根據障礙物資訊判斷變換車道路徑點上存在至少一障礙物時,選擇主車道路徑點作為行駛路徑。
需說明者,圖式中僅繪示一個主車道及一個副車道作為說明,本發明之路徑規劃系統及方法亦適用於存在多個副車道之道路系統。主車道及副車道數量並非用以限制本發明。若車道中存在多個副車道,本發明之路徑規劃系統及方法可更包含至少一副車道選擇條件,當路徑選擇模組判斷需進行車道變換,且至少兩個副車道符合車道變換條件時,路徑選擇模組則根據副車道選擇條件決定將車輛從主車道變換到哪一個副車道。
本發明第二實施係描述一路徑規劃方法,其流程圖如圖6-8所示。路徑規劃方法適用於一路徑規劃系統,例如:前述實施例之路徑規劃系統100。路徑規劃系統包含一感測裝置及一處理裝置。該感測裝置用以拍攝一目標道路之一道路影像,並擷取目標道路之複數距離資料點,以產生一道路距離點雲圖。路徑規劃方法由該處理裝置執行,其包含步驟說如下。
首先,於步驟S602中,接收道路影像以及道路距離點雲圖,並將道路距離點雲圖投影至道路影像,以產生一道路影像點雲合成圖。於步驟S604中,將道路影像輸入至深度學習模型及概率圖模型,以產生路面分割圖。路面分割圖包含一主車道、至少一副車道及複數道路線。於步驟S606中,對路面分割圖計算相鄰車道連通域,以獲得相鄰車道連接區域,以及基於道路影像點雲合成圖生成相鄰車道連接區域之相鄰車道資訊點雲。於步驟S608中,對路面分割圖計算主車道連通域,以獲得主車道連接區域,以及基於道路影像點雲合成圖生成主車道連接區域之主車道資訊點雲。
於步驟S610中,基於群中心演算法對相鄰車道資訊點雲進行聚類,並計算相鄰車道資訊點雲聚類後之相鄰車道群中心,以及將相鄰車道群中心之光達座標轉換為車身座標,並將車身座標進行平滑處理以獲得變換車道路徑點。進言之,將相鄰車道群中心之光達座標轉換為車身座標後,係透過一貝茲曲線對車身座標進行平滑處理,以獲得變換車道路徑點。
於步驟S612中,基於群中心演算法對主車道資訊點雲進行聚類,並計算主車道資訊點雲聚類後之一主車道群中心,以及將主車道群中心之光達座標轉換為車身座標,並將車身座標進行平滑處理以獲得主車道路徑點。於步驟S614中,接收障礙物資訊,並根據障礙物資訊選擇變換車道路徑點及主車道路徑點其中之一作為一行駛路徑。
於一實施例中,群中心演算法係一基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)。
步驟S612中,獲得主車道路徑點更進一步包含步驟如下。於步驟S702中,將主車道群中心之光達座標轉換為車身座標後,獲得初級路徑點。於步驟S704中,將初級路徑點輸入至車道寬度過濾器、車頭擺幅過濾器及車道線過濾器篩選,以輸出一次級路徑點。於步驟S706中,根據該次級路徑點獲得該主車道路徑點。於其他實施例中,路徑規劃方法更包含透過一貝茲曲線對次級路徑點進行平滑處理,以獲得主車道路徑點。
此外,於步驟S614中,獲取障礙物資訊更包含步驟如下。於步驟S802中,接收距離資料點。於步驟S804中,根據光學雷達掃描器擷取各該距離資料點之時間及光速,計算各距離資料點與光學雷達掃描器間之距離。於步驟S806中,根據該等距離獲得障礙物資訊。
此外,於其他實施例中,根據障礙物資訊判斷主車道路徑點上存在至少一障礙物時,選擇變換車道路徑點作為行駛路徑。反之,根
據障礙物資訊判斷變換車道路徑點上存在至少一障礙物時,選擇主車道路徑點作為行駛路徑。
除了上述步驟,本發明之路徑規劃方法亦能執行在所有前述實施例中所闡述之所有操作並具有所有對應之功能,所屬技術領域具有通常知識者可直接瞭解此實施例如何基於所有前述實施例執行此等操作及具有該等功能,故不贅述。
綜上所述,本發明之路徑規劃系統及方法使用深度學習網路及概率圖計算,將道路線分割、道路線偵測進行整合,能夠大幅節省運算量,亦能夠於嵌入式平台上達到即時處理。此外,配合光達點雲能提取到多個像素位置點的景深資訊。這些資訊再經過連通域計算及座標轉換,產生車道變換路徑規劃圖。本發明之路徑規劃系統可應用於自動車駕駛、汽車產業、工業機器人、無人載具或是任何駕駛輔助系統等相關產業。
上述之實施例僅用來例舉本發明之實施態樣,以及闡釋本發明之技術特徵,並非用來限制本發明之保護範疇。任何熟悉此技術者可輕易完成之改變或均等性之安排均屬於本發明所主張之範圍,本發明之權利保護範圍應以申請專利範圍為準。
100:路徑規劃系統
1:感測裝置
11:攝影機
13:光學雷達掃描器
3:處理裝置
31:相機光達校準模組
32:可行駛區域偵測模組
33:相鄰車道資訊擷取模組
34:主車道資訊擷取模組
35:變換車道路徑規劃模組
36:車道維持路徑規劃模組
37:路徑選擇模組
Claims (18)
- 一種路徑規劃系統,包含:一感測裝置,包含:一攝影機,用以拍攝一目標道路之一道路影像;以及一光學雷達掃描器,用以擷取該目標道路之複數距離資料點,產生一道路距離點雲圖;一處理裝置,電性連接至該感測裝置,且包含:一相機光達校準模組,用以自該攝影機接收該道路影像以及自該光學雷達掃描器接收該道路距離點雲圖,並將該道路距離點雲圖投影至該道路影像,以產生一道路影像點雲合成圖;一可行駛區域偵測模組,用以自該攝影機接收該道路影像,並基於一深度學習模型及一概率圖模型產生一路面分割圖;一相鄰車道資訊擷取模組,電性連接至該相機光達校準模組及該可行駛區域偵測模組,用以接收該道路影像點雲合成圖及該路面分割圖,並對該路面分割圖計算一相鄰車道連通域,以獲得一相鄰車道連接區域,以及基於該道路影像點雲合成圖生成該相鄰車道連接區域之一相鄰車道資訊點雲;一主車道資訊擷取模組,電性連接至該相機光達校準模組及該可行駛區域偵測模組,用以接收該道路影像點雲合成圖及該路面分割圖,並對該路面分割圖計算一主車道連通域,以獲得一主車道連接區域,以及基於該道路影像點雲合成圖生成該主車道連接區域之一主車道資訊點雲; 一變換車道路徑規劃模組,電性連接至該相鄰車道資訊擷取模組,用以接收該相鄰車道資訊點雲,基於一群中心演算法對該相鄰車道資訊點雲進行聚類,並計算該相鄰車道資訊點雲聚類後之一相鄰車道群中心,以及將該相鄰車道群中心之一光達座標轉換為一車身座標,並將該車身座標進行平滑處理以獲得一變換車道路徑點;一車道維持路徑規劃模組,電性連接至該主車道資訊擷取模組,用以接收該主車道資訊點雲,基於該群中心演算法對該主車道資訊點雲進行聚類,並計算該主車道資訊點雲聚類後之一主車道群中心,以及將該主車道群中心之該光達座標轉換為該車身座標,並將該車身座標進行平滑處理以獲得一主車道路徑點;以及一路徑選擇模組,電性連接至該變換車道路徑規劃模組及該車道維持路徑規劃模組,用以接收一障礙物資訊、該變換車道路徑點及該主車道路徑點,並根據該障礙物資訊選擇該變換車道路徑點及該主車道路徑點其中之一作為一行駛路徑。
- 如請求項1所述之路徑規劃系統,其中該車道維持路徑規劃模組將該主車道群中心之該光達座標轉換為該車身座標後,獲得一初級路徑點,並將該初級路徑點輸入至一車道寬度過濾器、一車頭擺幅過濾器及一車道線過濾器篩選,以輸出一次級路徑點,並根據該次級路徑點獲得該主車道路徑點。
- 如請求項2所述之路徑規劃系統,其中該車道維持路徑規劃模組更透過一貝茲曲線對該次級路徑點進行平滑處理,以獲得該主車道路徑點。
- 如請求項1所述之路徑規劃系統,其中該變換車道路徑規劃模組將該相鄰車道群中心之該光達座標轉換為該車身座標後,更透過一貝茲曲線對該車身座標進行平滑處理,以獲得該變換車道路徑點。
- 如請求項1所述之路徑規劃系統,其中該群中心演算法係一基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)。
- 如請求項1所述之路徑規劃系統,其中該路徑選擇模組自該感測裝置接收該等距離資料點,並根據該光學雷達掃描器擷取各該距離資料點之一時間及一光速,計算各該距離資料點與該光學雷達掃描器間之一距離,以及根據該等距離獲得該障礙物資訊。
- 如請求項1所述之路徑規劃系統,其中當該路徑選擇模組根據該障礙物資訊判斷該主車道路徑點上存在至少一障礙物時,選擇該變換車道路徑點作為該行駛路徑。
- 如請求項1所述之路徑規劃系統,其中當該路徑選擇模組根據該障礙物資訊判斷該變換車道路徑點上存在至少一障礙物時,選擇該主車道路徑點作為該行駛路徑。
- 如請求項1所述之路徑規劃系統,其中該路面分割圖包含一主車道、至少一副車道及複數道路線。
- 一種路徑規劃方法,適用於一路徑規劃系統,該路徑規劃系統包含一感測裝置及一處理裝置,該感測裝置用以拍攝一目標道路之一道路影像,並擷取該目標道路之複數距離資料點,以產生一道路距離點雲圖,該路徑規劃方法由該處理裝置執行,且包含:接收該道路影像以及該道路距離點雲圖,並將該道路距離點雲圖投影至該道路影像,以產生一道路影像點雲合成圖;將該道路影像輸入至一深度學習模型及一概率圖模型,以產生一路面分割圖;對該路面分割圖計算一相鄰車道連通域,以獲得一相鄰車道連接區域,以及基於該道路影像點雲合成圖生成該相鄰車道連接區域之一相鄰車道資訊點雲;對該路面分割圖計算一主車道連通域,以獲得一主車道連接區域,以及基於該道路影像點雲合成圖生成該主車道連接區域之一主車道資訊點雲; 基於一群中心演算法對該相鄰車道資訊點雲進行聚類,並計算該相鄰車道資訊點雲聚類後之一相鄰車道群中心,以及將該相鄰車道群中心之一光達座標轉換為一車身座標,並將該車身座標進行平滑處理以獲得一變換車道路徑點;基於該群中心演算法對該主車道資訊點雲進行聚類,並計算該主車道資訊點雲聚類後之一主車道群中心,以及將該主車道群中心之該光達座標轉換為該車身座標,並將該車身座標進行平滑處理以獲得一主車道路徑點;以及接收一障礙物資訊,並根據該障礙物資訊選擇該變換車道路徑點及該主車道路徑點其中之一作為一行駛路徑。
- 如請求項10所述之路徑規劃方法,更包含:將該主車道群中心之該光達座標轉換為該車身座標後,獲得一初級路徑點;將一初級路徑點輸入至一車道寬度過濾器、一車頭擺幅過濾器及一車道線過濾器篩選,以輸出一次級路徑點;以及根據該次級路徑點獲得該主車道路徑點。
- 如請求項11所述之路徑規劃方法,更包含:透過一貝茲曲線對該次級路徑點進行平滑處理,以獲得該主車道路徑點。
- 如請求項10所述之路徑規劃方法,更包含:將該相鄰車道群中心之該光達座標轉換為該車身座標後,透過一貝茲曲線對該車身座標進行平滑處理,以獲得該變換車道路徑點。
- 如請求項10所述之路徑規劃方法,其中該群中心演算法係一基於密度的聚類演算法(Density-based spatial clustering of applications with noise,DBSCAN)。
- 如請求項10所述之路徑規劃方法,更包含:接收該等距離資料點;根據一光學雷達掃描器擷取各該距離資料點之一時間及一光速,計算各該距離資料點與該光學雷達掃描器間之一距離;以及根據該等距離獲得該障礙物資訊。
- 如請求項10所述之路徑規劃方法,更包含:根據該障礙物資訊判斷該主車道路徑點上存在至少一障礙物時,選擇該變換車道路徑點作為該行駛路徑。
- 如請求項10所述之路徑規劃方法,更包含:根據該障礙物資訊判斷該變換車道路徑點上存在至少一障礙物時,選擇該主車道路徑點作為該行駛路徑。
- 如請求項10所述之路徑規劃方法,其中該路面分割圖包含一主車道、至少一副車道及複數道路線。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW112102888A TWI832686B (zh) | 2023-01-23 | 2023-01-23 | 路徑規劃系統及其路徑規劃方法 |
US18/196,245 US20240246570A1 (en) | 2023-01-23 | 2023-05-11 | Path planning system and path planning method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW112102888A TWI832686B (zh) | 2023-01-23 | 2023-01-23 | 路徑規劃系統及其路徑規劃方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
TWI832686B true TWI832686B (zh) | 2024-02-11 |
TW202430840A TW202430840A (zh) | 2024-08-01 |
Family
ID=90824853
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW112102888A TWI832686B (zh) | 2023-01-23 | 2023-01-23 | 路徑規劃系統及其路徑規劃方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20240246570A1 (zh) |
TW (1) | TWI832686B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111928862A (zh) * | 2020-08-10 | 2020-11-13 | 廊坊和易生活网络科技股份有限公司 | 利用激光雷达和视觉传感器融合在线构建语义地图的方法 |
CN111971574A (zh) * | 2019-01-30 | 2020-11-20 | 百度时代网络技术(北京)有限公司 | 用于自动驾驶车辆的lidar定位的基于深度学习的特征提取 |
TW202112513A (zh) * | 2019-09-26 | 2021-04-01 | 大陸商上海商湯智能科技有限公司 | 定位方法、路徑確定方法、機器人及儲存介質 |
US20210108926A1 (en) * | 2019-10-12 | 2021-04-15 | Ha Q. Tran | Smart vehicle |
CN112825134A (zh) * | 2019-11-21 | 2021-05-21 | 辉达公司 | 自主机器应用中使用radar传感器检测障碍物的深度神经网络 |
TW202124915A (zh) * | 2019-12-24 | 2021-07-01 | 財團法人工業技術研究院 | 無人載具語意地圖建置系統及其建置方法 |
CN114119896A (zh) * | 2022-01-26 | 2022-03-01 | 南京信息工程大学 | 一种驾驶路径规划方法 |
-
2023
- 2023-01-23 TW TW112102888A patent/TWI832686B/zh active
- 2023-05-11 US US18/196,245 patent/US20240246570A1/en active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111971574A (zh) * | 2019-01-30 | 2020-11-20 | 百度时代网络技术(北京)有限公司 | 用于自动驾驶车辆的lidar定位的基于深度学习的特征提取 |
TW202112513A (zh) * | 2019-09-26 | 2021-04-01 | 大陸商上海商湯智能科技有限公司 | 定位方法、路徑確定方法、機器人及儲存介質 |
US20210108926A1 (en) * | 2019-10-12 | 2021-04-15 | Ha Q. Tran | Smart vehicle |
CN112825134A (zh) * | 2019-11-21 | 2021-05-21 | 辉达公司 | 自主机器应用中使用radar传感器检测障碍物的深度神经网络 |
TW202124915A (zh) * | 2019-12-24 | 2021-07-01 | 財團法人工業技術研究院 | 無人載具語意地圖建置系統及其建置方法 |
CN111928862A (zh) * | 2020-08-10 | 2020-11-13 | 廊坊和易生活网络科技股份有限公司 | 利用激光雷达和视觉传感器融合在线构建语义地图的方法 |
CN114119896A (zh) * | 2022-01-26 | 2022-03-01 | 南京信息工程大学 | 一种驾驶路径规划方法 |
Also Published As
Publication number | Publication date |
---|---|
US20240246570A1 (en) | 2024-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zhang et al. | Road-segmentation-based curb detection method for self-driving via a 3D-LiDAR sensor | |
JP7140922B2 (ja) | マルチセンサデータ融合方法、及び装置 | |
JP6559535B2 (ja) | 障害物マップ生成装置、その方法、及び、そのプログラム | |
Jeong et al. | Road-SLAM: Road marking based SLAM with lane-level accuracy | |
Jebamikyous et al. | Autonomous vehicles perception (avp) using deep learning: Modeling, assessment, and challenges | |
Levinson et al. | Towards fully autonomous driving: Systems and algorithms | |
WO2022007859A1 (zh) | 激光雷达参数调整方法、装置及激光雷达 | |
US20190094858A1 (en) | Parking Location Prediction | |
US20190374151A1 (en) | Focus-Based Tagging Of Sensor Data | |
KR102681992B1 (ko) | 자율 주행을 위한 단일 계층 3차원 다중 객체 검출 장치 및 방법 | |
US11798289B2 (en) | Streaming object detection and segmentation with polar pillars | |
US20230260266A1 (en) | Camera-radar data fusion for efficient object detection | |
CN114998276B (zh) | 一种基于三维点云的机器人动态障碍物实时检测方法 | |
Fries et al. | Autonomous convoy driving by night: The vehicle tracking system | |
Lei et al. | Automated Lane Change Behavior Prediction and Environmental Perception Based on SLAM Technology | |
Burger et al. | Unstructured road slam using map predictive road tracking | |
Carneiro et al. | Mapping road lanes using laser remission and deep neural networks | |
TWI832686B (zh) | 路徑規劃系統及其路徑規劃方法 | |
US20240096109A1 (en) | Automatic lane marking extraction and classification from lidar scans | |
US20220371606A1 (en) | Streaming object detection and segmentation with polar pillars | |
CN116403186A (zh) | 基于FPN Swin Transformer与Pointnet++ 的自动驾驶三维目标检测方法 | |
WO2023158642A1 (en) | Camera-radar data fusion for efficient object detection | |
Unger et al. | Multi-camera bird’s eye view perception for autonomous driving | |
Zhang et al. | End-to-end BEV perception via Homography matrix | |
Cordes et al. | Vehicle lane merge visual benchmark |