KR20160074110A - 차량 및 그 제어 방법 - Google Patents

Abstract

본 발명은 복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고, 상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고, 상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함하는 차량에 관한 것이다.

Description

차량 및 그 제어 방법{vehicle and control method thereof}

본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다.

최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.

AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.

한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.

AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230

본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.

본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고, 상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고, 상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함한다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여할 수 있다.

한편, 본 발명의 실시예에 따른 상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단할 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판할 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단할 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여할 수 있다.

한편, 본 발명의 실시예에 따른 차량은 상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부를 더 포함할 수 있다.

기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.

본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.

단계별, 오버랩 영역에 오브젝트가 위치하는 경우에도, 어라운드 뷰 영상에 상기 오브젝트를 자연스럽게 표시할 수 있는 효과가 있다.

본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.
도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.

본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.

이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.

한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.

한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.

도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다.

복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.

도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.

도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.

먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.

특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.

한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.

복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.

도 3a는 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.

한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.

한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다.

도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.

도 3b를 참조하면, 복수의 카메라는 광각 렌즈를 사용할 수 있다. 그로 인해, 복수의 카메라에서 획득되는 영상에 오버랩(overlap)영역이 발생할 수 있다. 예를 들어, 제1 카메라(110a)에서 획득되는 제1 영상과 제2 카메라(110b)에서 획득되는 제2 영상에는 제1 오버랩영역(112a)이 발생될 수 있다. 또한, 제2 카메라(110b)에서 획득되는 제2 영상과 제3 카메라(110c)에서 획득되는 제3 영상에는 제2 오버랩 영역(112b)이 발생될 수 있다. 또한, 제3 카메라(110c)에서 획득되는 제3 영상과 제4 카메라(110d)에서 획득되는 제4 영상에는 제3 오버랩 영역(112c)이 발생될 수 있다. 또한, 제4 카메라(110d)에서 획득되는 제4 영상과 제1 카메라(110a)에서 획득되는 제1 영상에는 제4 오버랩 영역(112d)이 발생될 수 있다.

한편, 상기 제1 내지 제4 오버랩 영역(112a, 112b, 112c, 112d)에 오브젝트가 위치하는 경우, 어라운드 뷰 영상으로 변환시, 오브젝트가 2개로 보이거나, 사라지는 현상이 발생될 수 있다. 이러한 경우, 오브젝트 검출에 문제가 발생될 수 있고, 탑승자에게 정확한 정보를 전달할 수 없는 문제가 발생될 수 있다.

도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.

도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.

복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.

제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.

한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.

제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.

알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다.

한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 알람을 출력할 수 있다. 한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다.

제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.

한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.

디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.

제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.

제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다.

예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.

한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다.

제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.

제어부(180)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 제어부(180)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.

예를 들면, 제어부(180)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 제어부(180)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 제어부(180)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.

제어부(180)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 제어부(180)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.

제어부(180)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.

제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.

제어부(180)는 검출된 오브젝트를 트래킹한다. 예를 들어, 제어부(180)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.

제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 제어부(180)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 제어부(180)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다.

오버랩 영역에 오브젝트가 위치하는 경우, 제어부(180)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 제어부(180)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.

예를 들어, 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 제어부(180)는 외란이 발생되지 않는 카메라에 100%가중치를 부여할 수 있다. 여기서, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 하나일 수 있다. 외란에 대해서는 도 8을 참조하여 상세하게 설명한다.

예를 들어, 제어부(180)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다.

스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 제어부(180)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.

피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 제어부(180)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.

만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 제어부(180)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.

수학식 1

O=αA + (1-α)B

한편, 가중치는 각각의 경우에 대한 테스트를 통해 설정된 값일 수 있다.

제어부(180)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 제어부(180)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 제어부(180)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 제어부(180)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.

제어부(180)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제어부(180)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 제어부(180)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.

한편, 제어부(180)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.

도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.

도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.

제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.

제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.

디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.

한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.

음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.

제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.

제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다.

예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.

프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.

프로세서(280)는 어라운드 뷰 영상을 표시한다.

도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.

도 6a를 참조하면, 제어부(180)는 전처리부(310), 어라운드 뷰 영상 생성부(320), 차량 이미지 생성부(340), 어플리케이션부(350), 오브젝트 검출부(410), 오브젝트 확인부(420), 오브젝트 트래킹부(430) 및 판단부(440)를 포함할 수 있다.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(310)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.

어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 전처리부(310)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 어라운드 뷰 영상 생성부(320)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 어라운드 뷰 영상 생성부(320)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.

예를 들면, 어라운드 뷰 영상 생성부(320)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.

차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 차량 이미지 생성부(340)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.

오브젝트 검출부(410)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(410)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.

오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.

오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.

판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 판단부(440)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 판단부(440)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다.

오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.

예를 들어, 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 제어부(180)는 외란이 발생되지 않는 카메라에 100%가중치를 부여할 수 있다. 여기서, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 하나일 수 있다. 외란에 대해서는 도 8을 참조하여 상세하게 설명한다.

예를 들어, 판단부(440)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다.

스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 판단부(440)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.

피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 판단부(440)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.

만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 판단부(440)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.

수학식 1

O=αA + (1-α)B

한편, 가중치는 각각의 경우에 대한 테스트를 통해 설정된 값일 수 있다.

어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 어플리케이션부(350)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 어플리케이션부(350)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 어플리케이션부(350)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.

어플리케이션부(350)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 어플리케이션부(350)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 어플리케이션부(350)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 어플리케이션부(350)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.

한편, 어플리케이션부(350)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어플리케이션부(350)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.

한편, 어플리케이션부(350)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 어플리케이션부(350)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.

도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.

도 6b를 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S610).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S620). 다음, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S630), 탑뷰로 전환하여(S640), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.

어라운드 뷰 영상이 생성된 상태에서, 제어부(180)는 어라운드 뷰 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S650).

소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S660). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S670).

이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680).

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S690).

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S670단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.

도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7a를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 이후에, 어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.

한편, 오브젝트 검출부(410)는, 전처리 영상을 기초로, 오브젝트를 검출할 수 있다. 오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다. 오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 검출되고, 확인되며, 트래킹된 오브젝트를 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 가중치가 적용된 오브젝트를 어라운드 뷰에 반영할 수 있다.

도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7b를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S710).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720).

다음, 제어부(180)는 전처리된 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S730).

소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S740). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S750)

이후에, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다.

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.

이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S760). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S790).

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S750단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.

도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.

도 8을 참조하면, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다. 도 8의 (a)에 도시된 바와 같이, 카메라(110a, 110b, 110c, 110d)에 타 차량의 조명 장치에서 발광하는 빛이 조사되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 태양광이 직접적으로 조사되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이외 같이, 카메라(110a, 110b, 110c, 110d)에 직접적인 광유입이 있는 경우, 이러한 광은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도 8의 (b)에 도시된 바와 같이, 배기가스가 후방 카메라(110d)의 시야에 들어오는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 배기가스는 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도 8의 (c)에 도시된 바와 같이, 소정의 물질에 의해 카메라 렌즈가 오엽되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 물질들은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도 8의 (d)에 도시된 바와 같이, 적당량의 조도가 유지되지 않는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도 8의 (e)에 도시된 바와 같이, 영상 포화 상태의 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도시하지는 않았지만, 제1 및 제3 카메라(110a, 110c)가 양측 사이드 미러에 장착된 상태에서, 사이드 미러가 폴딩되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 제2 카메라(110c)가 트렁크에 장착된 상태에서, 트렁크가 오픈되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.

도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.

도 9의 (a)에 도시된 바와 같이, 차량(10)이 정지한 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다.

이경우, 도 9의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(910)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(910)가 검출되지 않을 수 있다. 제3 카메라(110c)의 시야각에 오브젝트(910)가 들어오지 않기 때문이다.

이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다.

도 10의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다.

이경우, 도 10의 (b)에 도시된 바와 같이, 제4 카메라(110d)에 외란이 발생하여, 제4 영상에서는 오브젝트(1010)가 검출되지지 않을 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.

이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 제4 카메라에 외란이 발생한 경우이므로, OR 조건에 의해 가중치를 부여하는 것이 바람직하다.

도 11의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다.

이경우, 도 11의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(1010)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.

이경우, 제어부(180)는 피처 레벨 방식으로 가중치를 설정할 수 있다. 예를 들면, 제어부(180)는 오브젝트의 이동 속도, 이동 방향, 크기를 비교하여 기중치를 설정할 수 있다.

이동 속도를 기초로 가중치를 판단하는 경우, 도 12의 (a)에 도시된 바와 같이, 제어부(180)는, 제4 영상과 제3 영상을 비교하여, 단위 시간당 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1210)의 단위 시간당 픽셀 이동량이 제3 영상의 오브젝트(1220)의 단위 시간당 픽셀 이동량보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.

이동 방향을 기초로 가중치를 판단하는 경우, 도 12의 (b)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 가로 방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량(10)으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 제4 영상의 오브젝트(1230)의 가로 방향 움직임이 제3 영상의 오브젝트(1240)의 가로 방향 움직임보다 더 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.

크기를 비교하여 가중치를 판단하는 경우, 도 12의 (c)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1240)를 둘러싼 가상의 사각형 면적이 제3 영상의 오브젝트(1260)를 둘러싼 가상의 사각형 면적보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.

이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.

10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서

Claims (20)

1. 복수의 카메라;
   상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고,
   상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에 발생하는 외란을 기준으로 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고,
   상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부; 및
   상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하는 차량.
2. 제 1항에 있어서,
   상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량.
3. 제 1항에 있어서,
   상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량.
4. 제 1항에 있어서,
   상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량.
5. 제 4항에 있어서,
   상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량.
6. 제 4항에 있어서,
   상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량.
7. 제 6항에 있어서,
   상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량.
8. 제 6항에 있어서,
   상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량.
9. 제 6항에 있어서,
   상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량.
10. 제 1항에 있어서,
    상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부;를 더 포함하는 차량.
11. 복수의 카메라로부터 수신된 복수의 영상을 합성하는 단계;
    상기 합성된 영상을 탑뷰 영상으로 전환하여 어라운드 뷰 영상을 생성하는 단계;
    상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에서 발생하는 외란을 기준으로 판단하는 단계;
    상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 단계;
    상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 단계; 및
    상기 어라운드 뷰 영상을 표시하는 단계;를 포함하는 차량의 제어 방법.
12. 제 11항에 있어서,
    상기 판단하는 단계는,
    상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량의 제어 방법.
13. 제 11항에 있어서,
    상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량의 제어 방법.
14. 제 11항에 있어서,
    상기 판단하는 단계는,
    스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량의 제어 방법.
15. 제 14항에 있어서,
    상기 판단하는 단계는,
    스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량의 제어 방법.
16. 제 14항에 있어서,
    상기 판단하는 단계는,
    피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량의 제어 방법.
17. 제 16항에 있어서,
    상기 판단하는 단계는,
    상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.
18. 제 16항에 있어서,
    상기 판단하는 단계는,
    상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.
19. 제 16항에 있어서,
    상기 판단하는 단계는,
    상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.
20. 제 11항에 있어서,
    상기 검출된 오브젝트에 기초하여 알람을 출력하는 단계;를 더 포함하는 차량의 제어 방법.
    
    
    
    
    
    
    

Images