KR101178507B1 - 도로 표식 인식 시스템 및 방법 - Google Patents

Abstract

본 발명은 도로 표식 인식 방법 및 시스템에 관한 것으로, 본 발명에 따른 방법은 도로를 촬영한 영상에서 도로 표식 후보 영역을 검출하는 단계, 도로 표식 후보 영역에 해당하는 픽셀을 제1 방향을 가지는 라인 별로 카운팅하여 제1 히스토그램을 구하는 단계, 도로 표식 후보 영역에 해당하는 픽셀을 제2 방향을 가지는 라인 별로 카운팅하여 제2 히스토그램을 구하는 단계, 제1 히스토그램과 제2 히스토그램을 이용하여 도로 표식 후보 영역의 특징 벡터를 구하는 단계, 그리고 특징 벡터를 이용하여 도로 표식 후보 영역의 도로 표식 종류를 판단하는 단계를 포함한다. 본 발명에 의하면 도로 표식 인식을 신경망을 통해 수행할 수 있고, 도로 표식 인식에 소요되는 시간 및 비용을 줄이면서도 도로 표식 인식을 정확하게 수행할 수 있다.

Description

도로 표식 인식 시스템 및 방법{PAVEMENT MARKING RECOGNITON SYSTEM AND METHOD}

본 발명은 도로 표식 인식 시스템 및 방법에 관한 것으로, 보다 상세하게는 수평 히스토그램 및 수직 히스토그램을 기초로 구해지는 도로 표식에 대응되는 특성 벡터를 신경망에 입력하여 도로 상에 표시된 표식을 인식할 수 있는 시스템 및 방법에 관한 것이다.

Global Positioning System(GPS)는 네비게이션 시스템에서 차량의 위치를 확인하는데 이용된다. 그런데 GPS는 대략 10M 정도의 위치 오차를 가지기 때문에 차량이 도로 상에서 어느 차선을 주행하는지 등의 주행 상황을 정확하게 알기 어렵기 때문에 네비게이션 시스템은 운전자에게 주행 도로에 대한 정보, 일방 통행 또는 유턴(U-TURN) 가능 여부 등에 대한 안내를 하기 어렵다.

그런데 최근 들어 차량에 카메라를 장착하여 차량 주변 영상을 획득하고 이를 처리하여 사용자에게 차량 운행과 관련된 부가 정보를 제공하는 기술에 대한 개발이 점차 늘어나고 있다. 한편 차량이 주행하는 도로 상에는 도 9에 나타낸 것과 같은 도로 표식 등이 표시되어 있다.

따라서 본 발명이 해결하려는 과제는 도로 상의 표식을 인식하여 차량이 주행하는 도로가 어떠한 종류인지 파악하고 그에 맞추어 운전자에게 적절한 안내를 제공할 수 있도록 지원하기 위한 도로 표식 인식 시스템 및 방법을 제공하는 것이다.

이러한 기술적 과제를 해결하기 위한 본 발명의 한 실시예에 따른 도로 표식 인식 방법은, 도로를 촬영한 영상에서 도로 표식 후보 영역을 검출하는 단계, 상기 도로 표식 후보 영역에 해당하는 픽셀을 제1 방향을 가지는 라인 별로 카운팅하여 제1 히스토그램을 구하는 단계, 상기 도로 표식 후보 영역에 해당하는 픽셀을 제2 방향을 가지는 라인 별로 카운팅하여 제2 히스토그램을 구하는 단계, 상기 제1 히스토그램과 상기 제2 히스토그램을 이용하여 상기 도로 표식 후보 영역의 특징 벡터를 구하는 단계, 그리고 상기 특징 벡터를 이용하여 상기 도로 표식 후보 영역에 대한 도로 표식 종류를 판단하는 단계를 포함한다.

상기 제1 방향은 상기 도로를 촬영한 영상에서 수평 방향이고, 상기 제2 방향은 상기 도로를 촬영한 영상에서 수직 방향일 수 있다.

상기 도로를 촬영한 영상에서 주행 도로의 좌우 차선을 인식하는 단계를 더 포함할 수 있다.

상기 도로 표식 후보 영역 검출은 상기 좌우 차선 사이에서 수행될 수 있다.

상기 제1 방향은 상기 도로를 촬영한 영상에서 수평 방향이고, 상기 제2 방향은 실제 도로에서 상기 좌우 차선과 평행한 방향에 대응될 수 있다.

상기 제1 히스토그램 및 상기 제2 히스토그램을 미리 정해진 상기 특징 벡터의 차원에 따라 샘플링하여 상기 특징 벡터를 구할 수 있다.

상기 도로 표식 후보 영역에 대한 도로 표식 종류 판단은 학습된 신경망으로 수행될 수 있다.

본 발명의 실시예에 따른 컴퓨터로 읽을 수 있는 매체는 상기한 방법 중 어느 하나를 컴퓨터에 실행시키기 위한 프로그램을 기록한다.

본 발명의 실시예에 따른 도로 표식 인식 시스템은, 도로를 촬영한 영상에서 도로 표식 후보 영역을 검출하는 도로 표식 후보 영역 검출부, 상기 도로 표식 후보 영역에 대한 수평 히스토그램 및 수직 히스토그램을 구하는 히스토그램 생성부, 상기 수평 히스토그램 및 수직 히스토그램을 이용하여 상기 도로 표식 후보 영역의 특징 벡터를 구하는 특징 벡터 생성부, 그리고 상기 특징 벡터를 이용하여 상기 도로 표식 후보 영역의 도로 표식 종류를 판단하는 도로 표식 종류 판단부를 포함한다.

상기 도로 표식 후보 영역 검출부는, 상기 도로를 촬영한 영상에서 좌우 차선을 인식하고, 상기 도로 표식 후보 영역 검출은 주행 도로의 좌우 차선 사이에서 수행할 수 있다.

상기 수평 방향 히스토그램은 상기 도로 표식 후보 영역에 해당하는 픽셀을 상기 도로를 촬영한 영상에서 수평 방향을 가지는 라인 별로 카운팅하여 구하고, 상기 수직 방향 히스토그램은 상기 도로 표식 후보 영역에 해당하는 픽셀을 실제 도로에서 상기 좌우 차선과 평행한 방향에 대응되는 방향을 가지는 라인 별로 카운팅하여 구할 수 있다.

본 발명에 의하면, 도로 표식 인식을 신경망을 통해 수행할 수 있고, 도로 표식 인식에 소요되는 시간 및 비용을 줄이면서도 도로 표식 인식을 정확하게 수행할 수 있다.

도 1은 본 발명의 한 실시예에 따른 도로 표식 인식 시스템을 설명하기 위해 제공되는 블록도이다.
도 2는 도 1의 도로 표식 인식 시스템을 보다 상세하게 나타낸 블록도이다.
도 3은 도 1의 도로 표식 인식 시스템의 동작을 설명하기 위해 제공되는 흐름도이다.
도 4(a)는 도로 전방 촬영 영상을 예시한 사진이고, 도 4(b)는 도로 전방 촬영 영상에서 검출된 도로 표식 후보 영역을 예시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 도로 표식 후보 영역 검출 방법을 설명하기 위해 제공되는 도면이다.
도 6은 본 발명의 일 실시예에 따른 수평 히스토그램 및 수직 히스토그램을 생성하는 방법을 설명하기 위해 제공되는 도면이다.
도 7은 본 발명의 다른 실시예에 따른 수직 히스토그램을 생성하는 방법을 설명하기 위해 제공되는 도면이다.
도 8은 본 발명의 일 실시예에 따른 수형 히스토그램, 수직 히스토그램 및 특성 벡터를 예시한 도면이다.
도 9는 도로 상에 표시되는 도로 표식 종류를 예시한 도면이다.

그러면 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.

도 1은 본 발명의 한 실시예에 따른 도로 표식 인식 시스템을 설명하기 위해 제공되는 블록도이다.

도 1을 참고하면, 먼저 도로 표식 인식 시스템(200)은 차량(도시하지 않음)에 설치된 카메라 모듈(100)로부터 획득된 영상을 전달받고, 이를 기초로 도로 상에 표시된 도로 표식의 종류를 파악하는 기능을 수행한다.

카메라 모듈(100)은 차량의 전방에 설치되어 차량 전방 도로에 대한 영상을 획득하는 기능을 수행한다. 카메라 모듈(100)은 획득된 영상을 실시간으로 도로 표식 인식 시스템(200)에 전달한다. 카메라 모듈(100)은 광각 렌즈 또는 어안 렌즈와 같이 화각이 큰 렌즈를 구비할 수 있으며 핀홀 카메라를 포함한다. 카메라 모듈(100)은 60°에서 120°정도의 넓은 화각을 가지는 렌즈를 통해 3차원의 피사체를 2차원의 영상으로 획득할 수 있다.

도 2는 도 1의 도로 표식 인식 시스템을 보다 상세하게 나타낸 블록도이다.

그러면 도 2를 참고하여 본 발명에 따른 도로 표식 인식 시스템에 대해 보다 자세하게 설명한다.

도 2를 참고하면, 도로 표식 인식 시스템(200)은 도로 표식 후보 영역 검출부(210), 히스토그램 생성부(230), 특징 벡터 생성부(250) 및 도로 표식 종류 판단부(270)를 포함할 수 있다.

도로 표식 후보 영역 검출부(210)는 카메라 모듈(100)로부터 도로를 촬영한 영상을 전달받아 도로 표식 후보 영역을 검출하는 기능을 수행한다.

히스토그램 생성부(230)는 도로 표식 후보 영역에 대한 수평 히스토그램 및 수직 히스토그램을 구하는 기능을 수행한다.

특징 벡터 생성부(250)는 도로 표식 후보 영역에 대한 수평 히스토그램 및 수직 히스토그램을 이용하여 도로 표식 후보 영역의 특징 벡터를 구하는 기능을 수행한다.

도로 표식 종류 판단부(270)는 도로 표식 후보 영역에 대한 특징 벡터를 이용하여 도로 표식 후보 영역의 종류를 판단하는 기능을 수행한다.

도 3은 도 1의 도로 표식 인식 시스템의 동작을 설명하기 위해 제공되는 흐름도이다.

그러면 도 3을 참고하여 본 발명에 따른 도로 표식 인식 시스템의 동작에 대해 보다 자세하게 설명한다.

도 3을 참고하면, 먼저 도로 표식 후보 영역 검출부(210)는 카메라 모듈(100)로부터 도로를 촬영한 영상을 전달받는다(S305).

이후 도로 표식 후보 영역 검출부(210)는 도로를 촬영한 영상에서 좌우 차선을 검출할 수 있다(S310). 영상으로부터 차선을 추출하는 방법은 허프 변환(hough transform)을 이용할 수 있다. 허프 변환은 2차원 영상 좌표에서 특정 점들을 이용하여 직선을 검출하는 알고리즘이다. 허프 변환 외에도 다른 알고리즘을 이용하여 차선을 검출하는 것도 가능하다.

다음으로 도로 표식 후보 영역 검출부(210)는 검출된 좌우 차선 사이의 영역에서 도로 표식 후보 영역을 검출한다(S315). 일반적으로 도로 표식은 주행 도로의 좌우 차선 사이에 항상 위치하고 검은색 아스팔트 위에 하얀색으로 표시되는 점을 이용하여 도로 표식 후보 영역을 검출할 수 있다.

도 4(a)는 도로 전방 촬영 영상을 예시한 사진이고, 도 4(b)는 도로 전방 촬영 영상에서 검출된 도로 표식 후보 영역을 예시한 도면이다.

도 4(a) 및 도 4(b)를 참고하면, 도로 표식 후보 영역 검출부(210)는 붉은 색 실선으로 나타낸 좌우 차선(41, 42)의 사이 영역(A)에서 도로 표식 후보 영역(B)을 검출한다. 따라서 전체 영상에 대해서 도로 표식 후보 영역을 검출하는 것보다 이미지 처리 효율을 높일 수 있다.

좌우 차선의 사이 영역에서 도로 표식 후보 영역을 검출하기 위해 다음과 같은 방법이 이용될 수 있다.

도 5는 본 발명의 일 실시예에 따른 도로 표식 후보 영역 검출 방법을 설명하기 위해 제공되는 도면이다.

도 5를 참고하면, 위에서 설명한 것과 같이 도로 표식은 검은색 아스팔트 위에 하얀색으로 표시되기 때문에 도 5(a)에 나타낸 것과 같은 이미지 픽셀 값을 가지게 된다. 여기서 X축은 도로 전방 영상에서 수평 방향에 대응된다.

따라서 도로 전방 영상에 대해 아래 수학식으로 나타내는 것과 같은 마스크 행렬(H)을 적용하여 각 픽셀에 대한 수평 에지 값(E)을 구하면 도 5(b)에 나타낸 것과 같은 수평 에지 값의 분포를 가지게 된다.

여기서 E_xy는 (x,y) 픽셀의 수평 에지 값(E)이고, I_xy는 (x,y) 픽셀의 이미지 픽셀 값이다.

도 5(b)에 나타낸 수평 에지 값의 분포를 참고하면, 도로 표식과 아스팔트 사이의 경계 부분에서 수평 에지 값이 로컬 최대와 로컬 최소를 가지게 된다. 따라서 이를 기초로 도 5(c)에 나타낸 것과 같이 로컬 최대와 로컬 최소 사이 영역에 대해서는 이미지 픽셀 값을 1로, 그외 영역에 대해서는 이미지 픽셀 값을 0으로 처리함으로써 도로 표식 후보 영역을 구할 수 있다. 한편 위에서 설명한 방법 외에도 좌우 차선의 사이 영역에서 도로 표식 후보 영역을 검출하는 다른 방법을 이용하는 것도 가능하다.

다시 도 3을 참고하면, 히스토그램 생성부(230)는 단계(S315)에서 검출된 도로 표식 후보 영역에 대한 수평 히스토그램 및 수직 히스토그램을 생성한다(S320). 본 발명에 따른 실시예에서 수평 히스토그램 및 수직 히스토그램을 생성하는 방법에 대해 도 6 및 도 7을 참고하여 자세히 설명한다.

도 6은 본 발명의 일 실시예에 따른 수평 히스토그램 및 수직 히스토그램을 생성하는 방법을 설명하기 위해 제공되는 도면이고, 도 7은 본 발명의 다른 실시예에 따른 수직 히스토그램을 생성하는 방법을 설명하기 위해 제공되는 도면이다.

도 6을 참고하면, 수평 히스토그램은 도 4(b)의 도로 표식 후보 영역(B)에 해당하는 픽셀을 제1 방향을 가지는 라인(l_x) 별로 카운팅하여 구할 수 있다. 여기서 제1 방향은 도로를 촬영한 영상에서 수평 방향(X축 방향)에 해당한다.

한편 수직 히스토그램은 도 4(b)의 도로 표식 후보 영역(B)에 해당하는 픽셀을 제2 방향을 가지는 라인(l_y) 별로 카운팅하여 구할 수 있다. 여기서 제2 방향은 도로를 촬영한 영상에서 수직 방향(Y축 방향)으로 정해질 수 있다.

그런데 도 4(a)에 예시한 것처럼 도로 전방을 촬영한 영상에서 차량과 가까운 부분이 차량에서 먼 부분보다 크게 나타나기 때문에 영상에서 수직 방향으로 카운팅하면 실제 도로 상에서는 경사지게 카운팅된다. 따라서 실제 도로 상에 표시된 도로 표식의 특성을 왜곡되게 반영할 가능성이 있다. 이를 해결하기 위해 수직 히스토그램은 도 7에 나타낸 것과 같이 영상에서 좌우 차선이 만나는 소실점(Pv)을 지나는 라인(l_v) 별로 도 4(b)의 도로 표식 후보 영역(B)에 해당하는 픽셀을 카운팅하는 것이 보다 바람직하다. 그 이유는 좌우 차선이 만나는 소실점(P_v)을 지나는 라인들은 실제 도로 상에서 좌우 차선에 평행한 방향을 가지기 때문이다.

도 8은 본 발명의 일 실시예에 따른 수형 히스토그램, 수직 히스토그램 및 특성 벡터를 예시한 도면이다.

도 8(a) 및 도 8(b)는 위에서 설명한 것과 같은 방법에 의해 도 4(b)의 도로 표식 후보 영역(B)에 대해 구해진 수평 히스토그램 및 수직 히스토그램으로써 가로 축은 스캔 라인수이고 세로 축은 픽셀 개수를 나타낸다. 그리고 수평 히스토그램은 60개의 스캐 라인에 대해 구해졌고, 수직 히스토그램은 80개의 스캔 라인에 대해 구해졌다.

다시 도 3을 참고하면, 특징 벡터 생성부(250)는 단계(S320)에서 생성된 수평 히스토그램 및 수직 히스토그램을 이용하여 도로 표식 후보 영역의 특징 벡터를 구한다(S325). 여기서 특징 벡터는 도로 표식 후보 영역의 특성을 나타내는 N-차원의 열 벡터로 정의할 수 있으며, 수평 히스토그램 및 수직 히스토그램에서 추출되는 수평 히스토그램 벡터 및 수직 히스토그램 벡터를 연결하여 구할 수 있다.

예를 들어 특징 벡터의 차원이 60으로 미리 정해져 있다고 가정하면, 수평 히스토그램 및 수직 히스토그램을 각각 30개의 구간으로 나누고 각 구간의 최대값으로부터 각각 수평 히스토그램 벡터 및 수직 히스토그램 벡터를 추출할 수 있다. 한편 실시예에 따라 특징 벡터의 차원은 달라질 수 있으며, 수평 히스토그램 벡터 및 수직 히스토그램 벡터의 차원도 서로 다를 수 있다.

도 8(c)는 위에서 설명한 방법에 의해 도 8(a) 및 도 8(b)의 수평 히스토그램 및 수직 히스토그램으로부터 구해진 60-차원의 특징 벡터가 예시되어 있으며, 특징 벡터의 좌측 부분은 수평 히스토그램에 대응되고 우측 부분은 수직 히스토그램에 대응된다.

마지막으로 도로 표식 종류 판단부(270)는 단계(S325)에서 구해진 특징 벡터를 이용하여 도로 표식 후보 영역의 종류를 판단한다(S330). 보다 자세하게는 도로 표식 종류 판단부(270)는 학습된 신경망을 이용하여 도로 표식 후보 영역의 종류를 판단할 수 있다. 예를 들어 60-차원의 특징 벡터를 입력 받아 도 9에서 예시한 것과 같은 11 종류의 도로 표식 중 하나에 대응되는 11-차원의 바이폴라(bipolar) 벡터를 출력할 수 있는 신경망이 이용될 수 있다.

본 발명의 실시예는 다양한 컴퓨터로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터로 읽을 수 있는 매체를 포함한다. 이 매체는 앞서 설명한 도로 표식 인식 방법을 실행시키기 위한 프로그램을 기록한다. 이 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 이러한 매체의 예에는 하드디스크, 플로피디스크 및 자기 테이프와 같은 자기 매체, CD 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 자기-광 매체, 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 구성된 하드웨어 장치 등이 있다. 또는 이러한 매체는 프로그램 명령, 데이터 구조 등을 지정하는 신호를 전송하는 반송파를 포함하는 광 또는 금속선, 도파관 등의 전송 매체일 수 있다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상에서 본 발명의 바람직한 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.

Claims (11)

1. 도로를 촬영한 영상에서 도로 표식 후보 영역을 검출하는 단계,
   상기 도로 표식 후보 영역에 해당하는 픽셀을 제1 방향을 가지는 라인 별로 카운팅하여 제1 히스토그램을 구하는 단계,
   상기 도로 표식 후보 영역에 해당하는 픽셀을 제2 방향을 가지는 라인 별로 카운팅하여 제2 히스토그램을 구하는 단계,
   상기 제1 히스토그램과 상기 제2 히스토그램을 이용하여 상기 도로 표식 후보 영역의 특징 벡터를 구하는 단계, 그리고
   상기 특징 벡터를 이용하여 상기 도로 표식 후보 영역에 대한 도로 표식 종류를 판단하는 단계를 포함하는 도로 표식 인식 방법.
2. 제 1 항에서,
   상기 제1 방향은 상기 도로를 촬영한 영상에서 수평 방향이고, 상기 제2 방향은 상기 도로를 촬영한 영상에서 수직 방향인 도로 표식 인식 방법.
3. 제 1 항에서,
   상기 도로를 촬영한 영상에서 주행 도로의 좌우 차선을 인식하는 단계를 더 포함하는 도로 표식 인식 방법.
4. 제 3 항에서,
   상기 도로 표식 후보 영역 검출은 상기 좌우 차선 사이에서 수행되는 도로 표식 인식 방법.
5. 제 3 항에서,
   상기 제1 방향은 상기 도로를 촬영한 영상에서 수평 방향이고, 상기 제2 방향은 실제 도로에서 상기 좌우 차선과 평행한 방향에 대응되는 도로 표식 인식 방법.
6. 제 1 항에서,
   상기 제1 히스토그램 및 상기 제2 히스토그램을 미리 정해진 상기 특징 벡터의 차원에 따라 샘플링하여 상기 특징 벡터를 구하는 도로 표식 인식 방법.
7. 제 1 항에서,
   상기 도로 표식 후보 영역에 대한 도로 표식 종류 판단은 학습된 신경망으로 수행되는 도로 표식 인식 방법.
8. 컴퓨터에 제1항 내지 제7항 중 어느 한 항의 방법을 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 매체.
9. 도로를 촬영한 영상에서 도로 표식 후보 영역을 검출하는 도로 표식 후보 영역 검출부,
   상기 도로 표식 후보 영역에 대한 수평 히스토그램 및 수직 히스토그램을 구하는 히스토그램 생성부,
   상기 수평 히스토그램 및 수직 히스토그램을 이용하여 상기 도로 표식 후보 영역의 특징 벡터를 구하는 특징 벡터 생성부, 그리고
   상기 특징 벡터를 이용하여 상기 도로 표식 후보 영역에 대한 도로 표식 종류를 판단하는 도로 표식 종류 판단부를 포함하고,
   상기 수평 방향 히스토그램은 상기 도로 표식 후보 영역에 해당하는 픽셀을 상기 도로를 촬영한 영상에서 수평 방향을 가지는 라인 별로 카운팅하여 구하고, 상기 수직 방향 히스토그램은 상기 도로 표식 후보 영역에 해당하는 픽셀을 실제 도로에서 주행 도로의 좌우 차선과 평행한 방향에 대응되는 방향을 가지는 라인 별로 카운팅하여 구하는 도로 표식 인식 시스템.
10. 제 9 항에서,
    상기 도로 표식 후보 영역 검출부는,
    상기 도로를 촬영한 영상에서 좌우 차선을 인식하고, 상기 도로 표식 후보 영역 검출은 상기 주행 도로의 좌우 차선 사이에서 수행하는 도로 표식 인식 시스템.
11. 삭제

Images