KR20160074110A

KR20160074110A - vehicle and control method thereof

Info

Publication number: KR20160074110A
Application number: KR1020140182932A
Authority: KR
Inventors: 장민수; 이성주; 허세영
Original assignee: 현대모비스 주식회사
Priority date: 2014-12-18
Filing date: 2014-12-18
Publication date: 2016-06-28
Also published as: KR102304391B1; KR102288952B1; KR20210097078A

Abstract

The present invention relates to a vehicle which comprises: a plurality of cameras; a control unit composing a plurality of images received from the cameras, converting the composed images to a top view image to generate an around view image, and detecting an object in the images or the around view image by determining a weighted value of images which are individually acquired from two cameras when the object is placed in an overlapped area in view of the two cameras of the cameras; and a display device displaying the around view image.

Description

차량 및 그 제어 방법{vehicle and control method thereof}[0001] VEHICLE AND CONTROL METHOD [0002]

본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다. The present invention relates to a vehicle equipped with an AVM (Around View Monitoring) device for displaying an image around a vehicle.

최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.In recent years, an AVM (Around View Monitoring) system is mounted on a vehicle in accordance with the upgrading and multi-functionalization of a vehicle.

AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.The AVM device acquires images of the surroundings of the vehicle through a camera mounted on all sides of the vehicle, and can display the surroundings of the vehicle through a display device installed in the room without the driver looking back or looking around when the vehicle is parked System. In addition, the surround view monitoring system also synthesizes the surrounding images to provide an around view as if viewed from above the vehicle. Using these surround view monitoring systems, the driver can grasp the situation around the vehicle at a glance, park securely, or go a narrow path.

한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.On the other hand, the AVM apparatus is used as a parking assisting apparatus, but it is also possible to detect an object based on an image obtained through a plurality of cameras. It is necessary to study an operation of detecting an object through a plurality of cameras provided in the AVM apparatus.

AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230Preceding literature on AVM systems: Publication No. 10-2013-0028230

본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a vehicle that performs object detection on an image received from a plurality of cameras.

본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The problems of the present invention are not limited to the above-mentioned problems, and other problems not mentioned can be clearly understood by those skilled in the art from the following description.

상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고, 상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고, 상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함한다.In order to achieve the above object, a vehicle according to an embodiment of the present invention includes a plurality of cameras, a plurality of images received from the plurality of cameras, and converts the synthesized image into a top view image, A method of generating a view image, the method comprising: generating a view image; determining a weight of an image obtained by the two cameras if the object is located in an overlapping area in two camera views of the plurality of cameras, A controller for detecting an object in the surround view image and reflecting the detected object in the surround view image, and a display device for displaying the surround view image.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention can give a 100% weight value to the camera in which the disturbance does not occur when disturbance occurs in one of the two cameras.

한편, 본 발명의 실시예에 따른 상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다.Meanwhile, the disturbance according to the embodiment of the present invention may be at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단할 수 있다.Meanwhile, the controller included in the vehicle according to the embodiment of the present invention can determine the weight through a score level method or a feature level method.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention can determine a weight value by assigning an AND condition or an OR condition to an image obtained from the two cameras when determining a weight through a score level method .

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention may calculate the moving speed, the direction, and the size of the object obtained from the plurality of images or the surround view image, It is possible to judge the weight.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention compares images acquired by the two cameras when the weight is determined on the basis of the moving speed, A larger weight can be given to a larger image.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다.
Meanwhile, in the case where the weight is determined based on the direction, the controller included in the vehicle according to the embodiment of the present invention compares the images acquired by the two cameras to calculate a weight .

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention compares the images obtained from the two cameras when comparing the sizes to determine the weights, so that the virtual square area surrounding the object is larger A weight can be given to the image.

한편, 본 발명의 실시예에 따른 차량은 상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부를 더 포함할 수 있다.Meanwhile, the vehicle according to the embodiment of the present invention may further include an alarm unit for outputting an alarm based on the detected object.

기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.The details of other embodiments are included in the detailed description and drawings.

본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.According to an embodiment of the present invention, there is one or more of the following effects.

본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.The vehicle according to the embodiment of the present invention has an effect of detecting an object in an acquired image and tracking the detected object to prevent an accident in advance.

단계별, 오버랩 영역에 오브젝트가 위치하는 경우에도, 어라운드 뷰 영상에 상기 오브젝트를 자연스럽게 표시할 수 있는 효과가 있다.There is an effect that the object can be displayed naturally on the surround view image even when the object is located in the overlap area in each step.

본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description of the claims.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.
도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
Fig. 2 is a view schematically showing positions of a plurality of cameras attached to the vehicle of Fig. 1. Fig.
Figure 3A illustrates an example of an ambient view image based on images photographed by the plurality of cameras of Figure 2
FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.
4 is a block diagram of a vehicle according to an embodiment of the present invention.
5 is a block diagram of a display device according to an embodiment of the present invention.
6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.
6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.
7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.
7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.
FIG. 8 is a diagram referred to explain disturbance that occurs in a camera according to an embodiment of the present invention.
FIGS. 9 to 12 are diagrams for explaining an operation of assigning weights when an object is located in an overlap region according to an embodiment of the present invention. FIG.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals are used to designate identical or similar elements, and redundant description thereof will be omitted. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role. In the following description of the embodiments of the present invention, a detailed description of related arts will be omitted when it is determined that the gist of the embodiments disclosed herein may be blurred. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are intended to provide further explanation of the invention as claimed. , &Lt; / RTI > equivalents, and alternatives.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expressions include plural expressions unless the context clearly dictates otherwise.

본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present application, the terms "comprises", "having", and the like are used to specify that a feature, a number, a step, an operation, an element, a component, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.

본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다. The vehicle described in the present specification may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.

이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.In the following description, the left side of the vehicle means the left side in the running direction of the vehicle, that is, the driver's seat side, and the right side of the vehicle means the right side in the running direction of the vehicle, that is, the assistant's seat side.

한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.On the other hand, the AVM apparatus described in the present specification may be an apparatus provided with a plurality of cameras and combining a plurality of images photographed by a plurality of cameras to provide an overview image. In particular, it may be a device that provides a top view or a bird eye view based on a vehicle. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an AVM apparatus and a vehicle including the AVM apparatus according to various embodiments of the present invention will be described.

한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.On the other hand, in the present specification, the exchange of data can be performed through the vehicle communication network. Here, the vehicle communication network is preferably CAN. According to an embodiment, the vehicle communication network may be constructed using an Ethernet protocol.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.

도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다. 1, the vehicle 10 includes wheels 20FR, 20FL, 20RL, ... rotated by a power source, a steering wheel 30 for adjusting the traveling direction of the vehicle 10, (110a, 110b, 110c, 110d) mounted on the camera body (not shown). On the other hand, only the left camera 110a and the front camera 110d are shown in FIG.

복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.The plurality of cameras 110a, 110b, 110c, and 110d may be activated when the speed of the vehicle is less than or equal to a predetermined speed, or when the vehicle is propelled, to obtain a shot image, respectively. The image obtained by the plurality of cameras may be signal processed within the control unit (180 in FIG. 4) or the processor (280 in FIG. 5).

도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.Fig. 2 is a view schematically showing the positions of a plurality of cameras attached to the vehicle of Fig. 1, and Fig. 3a illustrates an example of an around view image based on images photographed by the plurality of cameras of Fig.

도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다. 3A illustrates an overview view image based on images photographed by the plurality of cameras of FIG.

먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.2, a plurality of cameras 110a, 110b, 110c, and 110d may be disposed on the left, rear, right, and front of the vehicle, respectively.

특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.In particular, the left camera 110a and the right camera 110c may be disposed in a case surrounding the left side mirror and a case surrounding the right side mirror, respectively.

한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.On the other hand, the rear camera 110b and the front camera 110d can be disposed in the vicinity of the trunk switch and in the vicinity of the ambulance or the ambulance, respectively.

복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.Each of the plurality of images photographed by the plurality of cameras 110a, 110b, 110c and 110d is transmitted to a control section (180 in Fig. 4) or the like in the vehicle 10 and the control section (180 in Fig. 4) To generate an ambient view image.

도 3a는 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.FIG. 3A illustrates an example of an around view image 810. FIG. The surround view image 810 includes a first image area 110ai from the left camera 110a, a second image area 110bi from the rear camera 110b, a third image area 110b from the right camera 110c 110ci, and a fourth image area 110di from the front camera 110d.

한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.On the other hand, when a surround view image is generated from a plurality of cameras, a boundary portion between each image area occurs. Such boundary portions can be blended with the image so that they can be displayed naturally.

한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다. On the other hand, the boundaries 111a, 111b, 111c, and 111d may be displayed at the boundaries of the plurality of images.

도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.

도 3b를 참조하면, 복수의 카메라는 광각 렌즈를 사용할 수 있다. 그로 인해, 복수의 카메라에서 획득되는 영상에 오버랩(overlap)영역이 발생할 수 있다. 예를 들어, 제1 카메라(110a)에서 획득되는 제1 영상과 제2 카메라(110b)에서 획득되는 제2 영상에는 제1 오버랩영역(112a)이 발생될 수 있다. 또한, 제2 카메라(110b)에서 획득되는 제2 영상과 제3 카메라(110c)에서 획득되는 제3 영상에는 제2 오버랩 영역(112b)이 발생될 수 있다. 또한, 제3 카메라(110c)에서 획득되는 제3 영상과 제4 카메라(110d)에서 획득되는 제4 영상에는 제3 오버랩 영역(112c)이 발생될 수 있다. 또한, 제4 카메라(110d)에서 획득되는 제4 영상과 제1 카메라(110a)에서 획득되는 제1 영상에는 제4 오버랩 영역(112d)이 발생될 수 있다.Referring to FIG. 3B, a plurality of cameras can use a wide-angle lens. Thereby, an overlap region may occur in an image obtained from a plurality of cameras. For example, a first overlap region 112a may be generated in a first image obtained by the first camera 110a and a second image obtained by the second camera 110b. In addition, a second overlap region 112b may be generated in the second image obtained by the second camera 110b and the third image obtained by the third camera 110c. In addition, a third overlap region 112c may be generated in the third image obtained by the third camera 110c and the fourth image obtained by the fourth camera 110d. In addition, a fourth overlap region 112d may be generated in the fourth image obtained by the fourth camera 110d and the first image obtained by the first camera 110a.

한편, 상기 제1 내지 제4 오버랩 영역(112a, 112b, 112c, 112d)에 오브젝트가 위치하는 경우, 어라운드 뷰 영상으로 변환시, 오브젝트가 2개로 보이거나, 사라지는 현상이 발생될 수 있다. 이러한 경우, 오브젝트 검출에 문제가 발생될 수 있고, 탑승자에게 정확한 정보를 전달할 수 없는 문제가 발생될 수 있다.On the other hand, when the object is located in the first to fourth overlap regions 112a, 112b, 112c, and 112d, two objects may appear or disappear when converting into the surround view image. In such a case, a problem may arise in object detection and a problem that correct information can not be transmitted to the occupant may arise.

도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.4 is a block diagram of a vehicle according to an embodiment of the present invention.

도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.4, the vehicle 10 includes a plurality of cameras 110a, 110b, 110c and 110d, a first input unit 120, an alarm unit 130, a first communication unit 140, a display device 200, And may include a first memory 160 and a controller 180.

복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.The plurality of cameras may include first to fourth cameras 110a, 110b, 110c, and 110d. The first camera 110a acquires the left surroundings image of the vehicle. And the second camera 110b acquires the vehicle rear periphery image. And the third camera 110c acquires the surroundings of the right side room of the vehicle. And the fourth camera 110d acquires the vehicle front periphery image.

제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.The plurality of images acquired by the first to fourth cameras 110a, 110b, 110c, and 110d are transmitted to the controller 180. [

한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.Meanwhile, the first to fourth cameras 110a, 110b, 110c, and 110d each include a lens and an image sensor (for example, a CCD or a CMOS). Here, the lens is preferably a fisheye lens having a wide angle of 180 DEG or more.

제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The first input unit 120 may receive a user input. The first input unit 120 may include means for accepting input from the outside such as a touch pad, a physical button, a dial, a slider switch, and a click wheel. The user input received through the first input unit 120 is transmitted to the controller 180.

알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다. The alarm unit 130 outputs an alarm in accordance with the information processed by the control unit 180. The alarm unit 130 may include a sound output unit and a display. The audio output unit can output audio data under the control of the control unit 180. [ The sound output unit may include a receiver, a speaker, a buzzer, and the like. The display displays the alarm information on the screen under the control of the control unit 180.

한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 알람을 출력할 수 있다. 한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다. On the other hand, the alarm unit 130 can output an alarm based on the position of the detected object. Meanwhile, the display included in the alarm unit 130 may be a concept including a cluster or a head up display (HUD) on the inside of the vehicle interior.

제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.The first communication unit 140 performs communication with an external electronic device. The first communication unit 140 may exchange data with an external server, a neighboring vehicle, an external base station, or the like. The first communication unit 140 may include a communication module that enables communication with an external electronic device. Here, the communication module may use a known technique.

한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.Meanwhile, the first communication unit 140 may include a short-range communication module, and may exchange data with a portable terminal or the like of the passenger through the short-range communication module. The first communication unit 140 may transmit the overview view screen to the portable terminal of the passenger. Also, the first communication unit 140 may transmit a control command received from the portable terminal to the controller 180. Meanwhile, the first communication unit 140 may transmit information according to object detection to the portable terminal. In this case, the portable terminal can output an alarm notifying the object detection through vibration, sound output, or the like.

디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.The display device 200 releases the compressed image and displays the surround view image. The display device 200 may be an AVN (Audio Video Navigation). The configuration of the display device 200 will be described in detail with reference to FIG.

제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The first memory 160 stores data supporting various functions of the vehicle 10. [ The first memory 160 may store a plurality of application programs driven by the vehicle 10, data for operation of the vehicle 10, and commands.

제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The first memory 160 may include a high speed random access memory. The first memory 160 may also include non-volatile memory such as one or more magnetic disk storage devices, flash memory devices, or other non-volatile solid state memory devices, but may include readable storage media .

예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the first memory 160 may include an EEP-ROM (Electronically Erasable and Programmable Read Only Memory), but is not limited thereto. In the EEP-ROM, information can be written and erased by the control unit 180 during the operation of the control unit 180. [ The EEP-ROM may be a storage device in which information stored in the EEP-ROM is held without being erased even when the power supply of the controller is turned off and the power supply is stopped.

한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. Meanwhile, the first memory 160 may store images obtained from the plurality of cameras 110a, 110b, 110c, and 110d. For example, when a collision of the vehicle 10 is detected, an image obtained from the plurality of cameras 110a, 110b, 110c, and 110d may be stored.

제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The control unit 180 controls the overall operation of each unit in the vehicle 10. [ The control unit 180 may perform various functions for controlling the vehicle 10 and may execute or execute various software programs and / or sets of instructions stored in the first memory 160 for processing data. The control unit 180 may process the signal based on the information stored in the first memory 160.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The control unit 180 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 removes noise of the image using various filters or histogram equalization. On the other hand, the preprocessing of such an image is not necessarily required, and may be omitted depending on the state of the image and the purpose of image processing.

제어부(180)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 제어부(180)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The control unit 180 generates the surround view image based on the plurality of preprocessed images. Here, the surround view image may be a top view image. Synthesizes a plurality of preprocessed images in the control unit 180, and switches them to the surround view image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

예를 들면, 제어부(180)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 제어부(180)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 제어부(180)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the control unit 180 determines whether or not the first image from the left camera 110a, the second image from the rear camera 110b, the third image from the right camera 110c, And generates an ambient view image based on the fourth image. At this time, the control unit 180 determines whether or not the area overlapping between the first image and the second image, the area overlapping between the second image and the third image, the area overlapping between the third image and the fourth image, Each of the regions overlapping the first images can be blended. The control unit 180 controls the first image and the second image so that the boundary between the first image and the second image, the boundary between the second image and the third image, the boundary between the third image and the fourth image, You can create a border.

제어부(180)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 제어부(180)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The control unit 180 overlays the virtual vehicle image on the surround view image. That is, since the surround view image is generated based on the obtained vehicle surroundings image through the plurality of cameras mounted on the vehicle 10, it does not include the image of the vehicle 10. By providing a virtual vehicle image through the control unit 180, the occupant can intuitively recognize the surround view image.

제어부(180)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The control unit 180 can detect the object based on the surrounding view image. Here, the object may be a concept including a pedestrian, an obstacle, a nearby vehicle, and the like. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200. [

제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The control unit 180 compares the detected object with the object stored in the first memory 160, classifies and confirms the object.

제어부(180)는 검출된 오브젝트를 트래킹한다. 예를 들어, 제어부(180)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The control unit 180 tracks the detected object. For example, the control unit 180 sequentially checks the object in the acquired images, calculates the motion or motion vector of the identified object, and calculates the motion vector of the object based on the calculated motion or motion vector. Movement and the like can be tracked.

제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 제어부(180)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 제어부(180)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다. The control unit 180 determines whether the detected object is located in an area where two cameras overlap in the visual field. That is, the controller 180 determines whether the object is located in the first to fourth overlap areas (112a, 112b, 112c, and 112d in FIG. 3b). For example, the control unit 180 can determine whether an object is located in the overlap area, based on whether or not the same object is detected in the images obtained from the two cameras.

오버랩 영역에 오브젝트가 위치하는 경우, 제어부(180)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 제어부(180)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.When the object is located in the overlap region, the control unit 180 can determine the weight of the image obtained by the two cameras. The controller 180 may reflect the weight to the surround view image.

예를 들어, 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 제어부(180)는 외란이 발생되지 않는 카메라에 100%가중치를 부여할 수 있다. 여기서, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 하나일 수 있다. 외란에 대해서는 도 8을 참조하여 상세하게 설명한다.For example, when disturbance occurs in one of the two cameras, the control unit 180 may assign a 100% weight to the camera in which disturbance does not occur. Here, the disturbance may be at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open. Disturbance will be described in detail with reference to FIG.

예를 들어, 제어부(180)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다. For example, the control unit 180 may determine a weight through a score level scheme or a feature level scheme.

스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 제어부(180)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.The score level method is a method of determining whether an object exists in an AND condition or an OR condition with the final result of object detection. Here, the AND condition may refer to a case where an object is detected in all images obtained from two cameras. The OR condition may mean a case where an object is detected by any one of two cameras. For example, when contamination occurs in any one of the two cameras, the control unit 180 can detect the object when the OR condition is used. On the other hand, a user input can be received, and settings for an AND condition or an OR condition can be made. For example, when the user desires to reduce the sensitivity of object detection, it is possible to set the AND condition to lower the sensitivity of object detection. In this case, the user input can be received through the first input unit 120.

피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 제어부(180)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.The feature level method is a method of detecting an object based on a feature of an object. Here, the feature may be the movement speed, direction, and size of the object. For example, in the fourth image acquired by the fourth camera 110d, the first object is estimated to move 2 pixels per second, and in the first image acquired by the first camera 110a, the first object is estimated to be 4 pixels per second The control unit 180 can set a larger weight on the first image and improve the object detection rate.

만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 제어부(180)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.If the possibility that the first object exists in the fourth image is A%, the possibility that the first object exists in the first image is B%, and the weight is?, The controller 180 calculates the following Equation 1 , It can be determined whether the calculated result O is equal to or greater than a reference value (for example, 50%) to determine whether or not the object exists.

수학식 1Equation 1

O=αA + (1-α)BO =? A + (1 -?) B

한편, 가중치는 각각의 경우에 대한 테스트를 통해 설정된 값일 수 있다.On the other hand, the weight value may be a value set through a test for each case.

제어부(180)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 제어부(180)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 제어부(180)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 제어부(180)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The control unit 180 performs various applications based on the surround view image. For example, the control unit 180 can detect the object based on the surrounding view image. Alternatively, the control unit 180 may generate a virtual parking line in the surround view image. Alternatively, the control unit 180 may provide a predicted path of the vehicle based on the surrounding view image. On the other hand, such application execution is not necessarily required, and may be omitted depending on the state of the image or the purpose of image processing.

제어부(180)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제어부(180)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 제어부(180)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The control unit 180 may perform an application operation corresponding to object detection or object tracking. For example, the control unit 180 divides a plurality of images or surround view images received from the plurality of cameras 110a, 110b, 110c, and 110d into a plurality of areas, and determines which area of the plurality of images the object is located It can be judged. For example, in the area corresponding to the first image obtained through the first camera 110a, the control unit 180 determines that the object detected as the area corresponding to the second image obtained through the second camera 110b It is possible to set a region of interest for detecting an object in the second image. Here, the control unit 180 can perform the detection of the object in the region of interest with top priority.

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the control unit 180 can overlay the image corresponding to the detected object on the surround view image. The control unit 180 may overlay the image corresponding to the object to be tracked on the surround view image.

한편, 제어부(180)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.Meanwhile, the controller 180 may reflect the weight determination result on the surround view image. According to the embodiment, when the object does not exist as a result of weighting reflection, the controller 180 may not reflect the object in the surround view image.

도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.5 is a block diagram of a display device according to an embodiment of the present invention.

도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.5, the display device 200 includes a second input unit 220, a second communication unit 240, a display unit 250, an audio output unit 255, a second memory 260, . &Lt; / RTI >

제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The second input unit 220 can receive a user input. The second input unit 220 may include means for accepting input from the outside such as a touch pad, a physical button, a dial, a slider switch, and a click wheel. The user input received through the first input unit 220 is transmitted to the controller 180.

제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.The second communication unit 240 can communicate with an external electronic device to exchange data. For example, the second communication unit 240 may be connected to a broadcasting company server to receive broadcasting contents. For example, the second communication unit 240 may be connected to a traffic information providing server to receive TPEG (Transport Protocol Experts Group) information.

디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.The display unit 250 displays information processed by the processor 270. [ For example, the display unit 250 may display execution screen information of an application program driven by the processor 270 or UI (User Interface) and GUI (Graphic User Interface) information according to the execution screen information.

한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.Meanwhile, when the touch pad has a mutual layer structure with the display unit 250, it can be called a touch screen. The touch screen may function as the second input unit 220.

음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The sound output unit 255 can output audio data. The audio output unit 152 may include a receiver, a speaker, a buzzer, and the like.

제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The second memory 260 stores data supporting various functions of the display device 200. [ The second memory 260 may store a plurality of application programs driven by the display device 200, data for operation of the display device 200, and commands.

제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The second memory 260 may include a high-speed random access memory. The second memory 260 may also include non-volatile memory such as one or more magnetic disk storage devices, flash memory devices, or other non-volatile solid state memory devices, but may include readable storage media .

예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the second memory 260 may include, but is not limited to, Electronically Erasable and Programmable Read Only Memory (EEP-ROM). The EEP-ROM may be written and erased by the processor 280 during the operation of the processor 280. [ The EEP-ROM may be a storage device in which information stored in the EEP-ROM is held without being erased even when the power supply of the controller is turned off and the power supply is stopped.

프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The processor 280 controls the overall operation of each unit in the display device 200. The processor 280 may perform various functions for controlling the display device 20 and may execute or perform various software programs and / or sets of instructions stored in the second memory 260 to process the data. The processor 280 may process the signal based on information stored in the second memory 260.

프로세서(280)는 어라운드 뷰 영상을 표시한다.The processor 280 displays the surround view image.

도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.

도 6a를 참조하면, 제어부(180)는 전처리부(310), 어라운드 뷰 영상 생성부(320), 차량 이미지 생성부(340), 어플리케이션부(350), 오브젝트 검출부(410), 오브젝트 확인부(420), 오브젝트 트래킹부(430) 및 판단부(440)를 포함할 수 있다.6A, the control unit 180 includes a preprocessing unit 310, an overview image generation unit 320, a vehicle image generation unit 340, an application unit 350, an object detection unit 410, an object verification unit 420, an object tracking unit 430, and a determination unit 440.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(310)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The preprocessing unit 310 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. The preprocessing unit 310 removes noise of an image using various filters or histogram equalization. On the other hand, the preprocessing of such an image is not necessarily required, and may be omitted depending on the state of the image and the purpose of image processing.

어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 전처리부(310)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 어라운드 뷰 영상 생성부(320)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 어라운드 뷰 영상 생성부(320)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The surround view image generating unit 320 generates an overview view image based on the plurality of preprocessed images. Here, the surround view image may be a top view image. The preprocessing unit 310 synthesizes a plurality of preprocessed images and converts them into an overview image. According to the embodiment, the surround view image generator 320 may combine a plurality of images that have not undergone the preprocessing process, and convert the combined images into the surround view images. For example, the surround view image generator 320 may combine a plurality of images using a lookup table (LUT) to convert the images into the surround view images. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

예를 들면, 어라운드 뷰 영상 생성부(320)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the surround-view image generating unit 320 generates a first image from the left camera 110a, a second image from the rear camera 110b, a third image from the right camera 110c, And 110d based on the fourth image. At this time, the surround view image generating unit 320 generates an overlapping area between the first image and the second image, a overlapping area between the second image and the third image, a overlapping area between the third image and the fourth image, It is possible to blend the overlapping regions between the fourth image and the first image, respectively. The surround view image generating unit 320 generates a surround view image based on the boundary between the first image and the second image, the boundary between the second image and the third image, the boundary between the third image and the fourth image, It is possible to generate a boundary line at each boundary of the boundary.

차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 차량 이미지 생성부(340)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The vehicle image generating unit 340 overlaid a virtual vehicle image on the surround view image. That is, since the surround view image is generated based on the obtained vehicle surroundings image through the plurality of cameras mounted on the vehicle 10, it does not include the image of the vehicle 10. By providing a virtual vehicle image through the vehicle image generating unit 340, the occupant can intuitively recognize the surround view image.

오브젝트 검출부(410)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(410)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The object detecting unit 410 can detect the object based on the surrounding view image. Here, the object may be a concept including a pedestrian, an obstacle, a nearby vehicle, and the like. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The object detecting unit 410 may perform object detection based on the entire original image including the image displayed on the display device 200. [

오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The object verification unit 420 compares the detected object with the object stored in the first memory 160, classifies the object, and confirms the object.

오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The object tracking unit 430 tracks the detected object. For example, the object tracking unit 430 sequentially identifies an object in the acquired images, calculates a motion or a motion vector of the identified object, Movement of an object, and the like can be tracked.

판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 판단부(440)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 판단부(440)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다. The determination unit 440 determines whether the detected object is located in an area where two cameras overlap in the visual field. That is, the determination unit 440 determines whether the object is located in the first to fourth overlap regions (112a, 112b, 112c, and 112d in FIG. 3b). For example, the determination unit 440 can determine whether the object is located in the overlap region, based on whether the same object is detected in the images obtained from the two cameras.

오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.When the object is located in the overlap area, the determination unit 440 can determine the weights of the images obtained from the two cameras. The determination unit 440 may reflect the weight to the surround view image.

예를 들어, 판단부(440)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다. For example, the determination unit 440 may determine a weight through a score level scheme or a feature level scheme.

스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 판단부(440)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.The score level method is a method of determining whether an object exists in an AND condition or an OR condition with the final result of object detection. Here, the AND condition may refer to a case where an object is detected in all images obtained from two cameras. The OR condition may mean a case where an object is detected by any one of two cameras. For example, when the contamination occurs in any one of the two cameras, the determination unit 440 can detect the object when the OR condition is used. On the other hand, a user input can be received, and settings for an AND condition or an OR condition can be made. For example, when the user desires to reduce the sensitivity of object detection, it is possible to set the AND condition to lower the sensitivity of object detection. In this case, the user input can be received through the first input unit 120.

피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 판단부(440)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.The feature level method is a method of detecting an object based on a feature of an object. Here, the feature may be the movement speed, direction, and size of the object. For example, in the fourth image acquired by the fourth camera 110d, the first object is estimated to move 2 pixels per second, and in the first image acquired by the first camera 110a, the first object is estimated to be 4 pixels per second The determination unit 440 may set a larger weight on the first image and improve the object detection rate.

만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 판단부(440)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.If the possibility that the first object exists in the fourth image is A%, the possibility that the first object exists in the first image is B%, and the weight is?, The determination unit 440 determines the following expression (1) It is possible to determine whether or not the object exists by judging whether the calculated result O is equal to or greater than a reference value (for example, 50%).

수학식 1Equation 1

O=αA + (1-α)BO =? A + (1 -?) B

어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 어플리케이션부(350)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 어플리케이션부(350)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 어플리케이션부(350)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The application unit 350 performs various applications based on the surround view image. For example, the application unit 350 can detect the object based on the surrounding view image. Alternatively, the application unit 350 may generate a virtual parking line in the surround view image. Or the application unit 350 may provide a predicted path of the vehicle based on the surrounding view image. On the other hand, such application execution is not necessarily required, and may be omitted depending on the state of the image or the purpose of image processing.

어플리케이션부(350)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 어플리케이션부(350)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 어플리케이션부(350)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 어플리케이션부(350)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The application unit 350 may perform an application operation corresponding to object detection or object tracking. For example, the application unit 350 divides the plurality of images or the surround view images received from the plurality of cameras 110a, 110b, 110c, and 110d into a plurality of regions, Can be determined. For example, the application unit 350 may detect an area corresponding to the first image obtained through the first camera 110a and an area corresponding to the second image obtained through the second camera 110b When movement of the object is detected, a region of interest for detecting the object in the second image can be set. Here, the application unit 350 can perform object detection in the region of interest with top priority.

한편, 어플리케이션부(350)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어플리케이션부(350)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the application unit 350 can overlay the image corresponding to the detected object on the surround view image. The application unit 350 may display an image corresponding to an object to be tracked over an overview image.

한편, 어플리케이션부(350)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 어플리케이션부(350)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.Meanwhile, the application unit 350 may reflect the weight determination result in the surround view image. According to the embodiment, when the object does not exist as a result of weighting, the application unit 350 may not reflect the object in the surround view image.

도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.

도 6b를 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S610). Referring to FIG. 6B, the controller 180 receives the respective images from the plurality of cameras 110a, 110b, 110c, and 110d (S610).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S620). 다음, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S630), 탑뷰로 전환하여(S640), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The control unit 180 performs preprocessing on each of the plurality of received images (S620). Next, the control unit 180 synthesizes a plurality of preprocessed images (S630), switches to a top view (S640), and creates an overview view image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

어라운드 뷰 영상이 생성된 상태에서, 제어부(180)는 어라운드 뷰 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S650).In a state where the surround view image is generated, the control unit 180 can perform object detection based on the surrounding view image. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200 (S650).

소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S660). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S670).When a predetermined object is detected, the control unit 180 determines whether the detected object is located in an area where two cameras overlap in the visual field (S660). When the object is located in the overlap area, the determination unit 440 can determine the weights of the images obtained from the two cameras. The determination unit 440 may reflect the weight to the surround view image (S670).

이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680).Thereafter, the control unit 180 generates a virtual vehicle image in the surround view image (S680).

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.If a predetermined object is not detected, the control unit 180 generates a virtual vehicle image in the surround view image (S680). If the object is not located in the overlap area, the control unit 180 generates a virtual vehicle image in the surround view image (S680). Specifically, the control unit 180 overlays the virtual vehicle image on the surround view image.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S690).Next, the controller 180 transmits the compressed data to the display device 200 to display the surround view image (S690).

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S670단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.On the other hand, the control unit 180 can overlay the image corresponding to the detected object on the surround view image. The control unit 180 may overlay the image corresponding to the object to be tracked on the surround view image. In this case, the object may be an object whose weight is reflected in step S670. According to the embodiment, when the object does not exist as a result of weighting reflection, the controller 180 may not reflect the object in the surround view image.

도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7a를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7A, description will be given centering on differences from the first embodiment.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 이후에, 어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.The preprocessing unit 310 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. Thereafter, the surround view image generating unit 320 generates an overview view image based on the plurality of preprocessed images. The vehicle image generating unit 340 overlaid a virtual vehicle image on the surround view image.

한편, 오브젝트 검출부(410)는, 전처리 영상을 기초로, 오브젝트를 검출할 수 있다. 오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다. 오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 검출되고, 확인되며, 트래킹된 오브젝트를 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 가중치가 적용된 오브젝트를 어라운드 뷰에 반영할 수 있다.On the other hand, the object detecting unit 410 can detect the object based on the preprocessed image. The object verification unit 420 compares the detected object with the object stored in the first memory 160, classifies the object, and confirms the object. The object tracking unit 430 tracks the detected object. The determination unit 440 determines whether the detected object is located in an area where two cameras overlap in the visual field. When the object is located in the overlap area, the determination unit 440 can determine the weights of the images obtained from the two cameras. The application unit 350 performs various applications based on the surround view image. Also, the application unit 350 detects, verifies, and performs various applications based on the tracked object. In addition, the application unit 350 may reflect the weighted object on the surround view.

도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7b를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7B, a description will be given centering on differences from the first embodiment.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S710). The control unit 180 receives the respective images from the plurality of cameras 110a, 110b, 110c, and 110d (S710).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720). The control unit 180 performs preprocessing on each of the plurality of received images (S720).

다음, 제어부(180)는 전처리된 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S730).Next, the control unit 180 can perform object detection based on the preprocessed image. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200 (S730).

소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S740). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S750)When a predetermined object is detected, the control unit 180 determines whether the detected object is located in an area where two cameras overlap in the visual field (S740). When the object is located in the overlap area, the determination unit 440 can determine the weights of the images obtained from the two cameras. The determination unit 440 may reflect the weight to the surround view image (S750)

이후에, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다.Thereafter, the control unit 180 synthesizes the plurality of preprocessed images (S760), switches to the top view (S770), and generates the surround view image.

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.If a predetermined object is not detected, the control unit 180 synthesizes a plurality of preprocessed images (S760), switches to a top view (S770), and creates an overview view image. If the object is not located in the overlap area, the control unit 180 synthesizes a plurality of preprocessed images (S760), switches to a top view (S770), and generates an overview image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S760). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.Thereafter, the control unit 180 generates a virtual vehicle image in the surround view image (S760). Specifically, the control unit 180 overlays the virtual vehicle image on the surround view image.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S790).Next, the control unit 180 transmits the compressed data to the display device 200 to display the surround view image (S790).

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S750단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.On the other hand, the control unit 180 can overlay the image corresponding to the detected object on the surround view image. The control unit 180 may overlay the image corresponding to the object to be tracked on the surround view image. At this time, the object may be an object whose weight is reflected in step S750. According to the embodiment, when the object does not exist as a result of weighting reflection, the controller 180 may not reflect the object in the surround view image.

도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.FIG. 8 is a diagram referred to explain disturbance that occurs in a camera according to an embodiment of the present invention.

도 8을 참조하면, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다. 도 8의 (a)에 도시된 바와 같이, 카메라(110a, 110b, 110c, 110d)에 타 차량의 조명 장치에서 발광하는 빛이 조사되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 태양광이 직접적으로 조사되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이외 같이, 카메라(110a, 110b, 110c, 110d)에 직접적인 광유입이 있는 경우, 이러한 광은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.Referring to FIG. 8, the disturbance may be at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open. As shown in FIG. 8 (a), if light emitted from the illumination device of another vehicle is irradiated to the cameras 110a, 110b, 110c, and 110d, normal image acquisition may be difficult. In addition, when direct sunlight is irradiated, normal image acquisition may be difficult. Similarly, when there is a direct light input to the cameras 110a, 110b, 110c, and 110d, such light acts as noise in image processing. In this case, the accuracy of the image processing such as object detection may be degraded.

도 8의 (b)에 도시된 바와 같이, 배기가스가 후방 카메라(110d)의 시야에 들어오는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 배기가스는 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in Fig. 8 (b), when the exhaust gas enters the field of view of the rear camera 110d, normal image acquisition may be difficult. Such exhaust gas acts as noise in image processing. In this case, the accuracy of the image processing such as object detection may be degraded.

도 8의 (c)에 도시된 바와 같이, 소정의 물질에 의해 카메라 렌즈가 오엽되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 물질들은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in Fig. 8 (c), when the camera lens is defective due to a predetermined material, normal image acquisition may be difficult. These materials act as noise in image processing. In this case, the accuracy of the image processing such as object detection may be degraded.

도 8의 (d)에 도시된 바와 같이, 적당량의 조도가 유지되지 않는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in (d) of FIG. 8, when an appropriate amount of illumination is not maintained, normal image acquisition may be difficult. In this case, the accuracy of the image processing such as object detection may be degraded.

도 8의 (e)에 도시된 바와 같이, 영상 포화 상태의 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다. As shown in FIG. 8 (e), in the case of the image saturation state, normal image acquisition may be difficult. In this case, the accuracy of the image processing such as object detection may be degraded.

도시하지는 않았지만, 제1 및 제3 카메라(110a, 110c)가 양측 사이드 미러에 장착된 상태에서, 사이드 미러가 폴딩되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 제2 카메라(110c)가 트렁크에 장착된 상태에서, 트렁크가 오픈되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.Although not shown, when the side mirrors are folded with the first and third cameras 110a and 110c mounted on both side mirrors, normal image acquisition may be difficult. Also, if the trunk is opened while the second camera 110c is mounted on the trunk, normal image acquisition may be difficult. In this case, the accuracy of the image processing such as object detection may be degraded.

도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.FIGS. 9 to 12 are diagrams for explaining an operation of assigning weights when an object is located in an overlap region according to an embodiment of the present invention. FIG.

도 9의 (a)에 도시된 바와 같이, 차량(10)이 정지한 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 9 (a), in a state in which the vehicle 10 is stopped, the object 910 can move from the right side to the left side of the vehicle.

이경우, 도 9의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(910)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(910)가 검출되지 않을 수 있다. 제3 카메라(110c)의 시야각에 오브젝트(910)가 들어오지 않기 때문이다. In this case, as shown in FIG. 9B, the object 910 can be detected in the fourth image acquired by the fourth camera 110d. The object 910 may not be detected in the third image acquired by the third camera 110c. This is because the object 910 does not enter the viewing angle of the third camera 110c.

이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다.In this case, the controller 180 may set a weight value in a score level manner. That is, the controller 180 can determine whether or not the fourth image obtained by the fourth camera 110d and the third image obtained by the third camera 110c are detected. Thereafter, the control unit 180 can determine whether or not the object is detected based on the AND condition or the OR condition. For example, when the weight is given according to the AND condition, since the object is not detected in the third image, it is determined that the object is not finally detected and the subsequent operation can be performed. For example, when a weight is given according to the OR condition, since the object is detected in the fourth image, it is determined that the object is finally detected and the subsequent operation can be performed.

도 10의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 10 (a), in a state in which the vehicle 10 advances, the object 910 can move from right to left of the vehicle.

이경우, 도 10의 (b)에 도시된 바와 같이, 제4 카메라(110d)에 외란이 발생하여, 제4 영상에서는 오브젝트(1010)가 검출되지지 않을 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.In this case, as shown in FIG. 10B, disturbance may occur in the fourth camera 110d, and the object 1010 may not be detected in the fourth image. The object 1010 can be detected in the third image acquired by the third camera 110c.

이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 제4 카메라에 외란이 발생한 경우이므로, OR 조건에 의해 가중치를 부여하는 것이 바람직하다.In this case, the controller 180 may set a weight value in a score level manner. That is, the controller 180 can determine whether or not the fourth image obtained by the fourth camera 110d and the third image obtained by the third camera 110c are detected. Thereafter, the control unit 180 can determine whether or not the object is detected based on the AND condition or the OR condition. For example, when a weight is given according to the AND condition, since the object is not detected in the fourth image, it is determined that the object is not finally detected and the subsequent operation can be performed. For example, when a weight is given according to the OR condition, since the object is detected in the third image, it is determined that the object is finally detected and the subsequent operation can be performed. Since disturbance has occurred in the fourth camera, it is preferable to give a weight based on the OR condition.

도 11의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 11 (a), in a state in which the vehicle 10 advances, the object 910 can move from the right side to the left side of the vehicle.

이경우, 도 11의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(1010)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.In this case, as shown in FIG. 11B, the object 1010 can be detected in the fourth image acquired by the fourth camera 110d. The object 1010 can be detected in the third image acquired by the third camera 110c.

이경우, 제어부(180)는 피처 레벨 방식으로 가중치를 설정할 수 있다. 예를 들면, 제어부(180)는 오브젝트의 이동 속도, 이동 방향, 크기를 비교하여 기중치를 설정할 수 있다.In this case, the control unit 180 may set the weights in a feature level manner. For example, the control unit 180 can set the lifting value by comparing the moving speed, the moving direction, and the size of the object.

이동 속도를 기초로 가중치를 판단하는 경우, 도 12의 (a)에 도시된 바와 같이, 제어부(180)는, 제4 영상과 제3 영상을 비교하여, 단위 시간당 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1210)의 단위 시간당 픽셀 이동량이 제3 영상의 오브젝트(1220)의 단위 시간당 픽셀 이동량보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.12 (a), the control unit 180 compares the fourth image with the third image, and outputs the weighted value to the image having the larger pixel shift per unit time as the weighted value, Can be given. If the pixel shift amount per unit time of the object 1210 of the fourth image is larger than the pixel shift amount per unit time of the object 1220 of the third image, the control unit 180 may assign a larger weight to the fourth image.

이동 방향을 기초로 가중치를 판단하는 경우, 도 12의 (b)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 가로 방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량(10)으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 제4 영상의 오브젝트(1230)의 가로 방향 움직임이 제3 영상의 오브젝트(1240)의 가로 방향 움직임보다 더 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.12 (b), the controller 180 compares the fourth image and the third image to determine a weighting value for a larger image in the horizontal direction, as shown in FIG. 12 (b) . In the case of longitudinal movement, the actual object approaches the vehicle 10, which is disadvantageous as compared with the lateral movement when determining object detection and tracking, because the size of the object is increased. If the horizontal motion of the object 1230 of the fourth image is larger than the horizontal motion of the object 1240 of the third image, the controller 180 may assign a larger weight to the fourth image.

크기를 비교하여 가중치를 판단하는 경우, 도 12의 (c)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1240)를 둘러싼 가상의 사각형 면적이 제3 영상의 오브젝트(1260)를 둘러싼 가상의 사각형 면적보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다. 12 (c), the control unit 180 compares the fourth image with the third image, and adds the weighted image to the image having a large virtual rectangular area surrounding the object, Can be given. If the virtual rectangular area surrounding the object 1240 of the fourth image is larger than the virtual rectangular area surrounding the object 1260 of the third image, the control unit 180 may assign a larger weight to the fourth image .

이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It should be understood that various modifications may be made by those skilled in the art without departing from the spirit and scope of the present invention.

10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서10: Vehicle
110: camera
120: first input unit
130:
140: first communication section
160: first memory
180:
200: display device
220: second input section
240: second communication section
250:
255:
260: second memory
280: Processor

Claims

복수의 카메라;
상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고,
상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에 발생하는 외란을 기준으로 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고,
상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부; 및
상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하는 차량.A plurality of cameras;
Synthesizing a plurality of images received from the plurality of cameras, converting the synthesized image into a top view image to generate an overview view image,
Wherein when the object is located in an area overlapping two camera viewpoints of the plurality of cameras, a weight of an image obtained by each of the two cameras is determined based on a disturbance generated in the two cameras, Or an object is detected from the surround view image,
A controller for reflecting the detected object on the surround view image; And
And a display device for displaying the surround view image.

제 1항에 있어서,
상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량.The method according to claim 1,
Wherein when the disturbance occurs in one of the two cameras, the control unit gives a 100% weight to the camera in which the disturbance has not occurred.

제 1항에 있어서,
상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량.The method according to claim 1,
Wherein the disturbance is at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.

제 1항에 있어서,
상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량.The method according to claim 1,
Wherein the control unit determines a weight through a score level method or a feature level method.

제 4항에 있어서,
상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량.5. The method of claim 4,
Wherein the control unit assigns an AND condition or an OR condition to an image obtained from the two cameras to determine a weight when the weight is determined through a score level method.

제 4항에 있어서,
상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량.5. The method of claim 4,
And the controller compares the moving speed, the direction, and the size of the object obtained from the plurality of images or the surround view image to determine a weight when the weight is determined based on the feature level method.

제 6항에 있어서,
상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein the control unit compares the images acquired by the two cameras when the weight is determined based on the moving speed and gives a weight to the image having the larger pixel movement amount of the object at the same time.

제 6항에 있어서,
상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein when the weight is determined based on the direction, the control unit compares the images acquired by the two cameras and gives a weight to the image having a larger horizontal motion.

제 6항에 있어서,
상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein the controller compares the images obtained by the two cameras when the sizes are compared and determines the weights, and further adds weights to the images having a larger virtual rectangular area surrounding the objects.

제 1항에 있어서,
상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부;를 더 포함하는 차량.The method according to claim 1,
And an alarm unit for outputting an alarm based on the detected object.

복수의 카메라로부터 수신된 복수의 영상을 합성하는 단계;
상기 합성된 영상을 탑뷰 영상으로 전환하여 어라운드 뷰 영상을 생성하는 단계;
상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에서 발생하는 외란을 기준으로 판단하는 단계;
상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 단계;
상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 단계; 및
상기 어라운드 뷰 영상을 표시하는 단계;를 포함하는 차량의 제어 방법.Synthesizing a plurality of images received from a plurality of cameras;
Converting the synthesized image into a top view image to generate an overview view image;
Determining a weight of an image obtained by the two cameras based on a disturbance generated in the two cameras when an object is located in an overlapping area of two cameras among the plurality of cameras;
Detecting an object in the plurality of images or the surround view image;
Reflecting the detected object on the surround view image; And
And displaying the surround view image.

제 11항에 있어서,
상기 판단하는 단계는,
상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량의 제어 방법.12. The method of claim 11,
Wherein the determining step comprises:
And when a disturbance occurs in one of the two cameras, a 100% weight value is given to the camera in which the disturbance has not occurred.

제 11항에 있어서,
상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량의 제어 방법.12. The method of claim 11,
Wherein the disturbance is at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.

제 11항에 있어서,
상기 판단하는 단계는,
스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량의 제어 방법.12. The method of claim 11,
Wherein the determining step comprises:
A method of controlling a vehicle in which a weight is determined through a score level method or a feature level method.

제 14항에 있어서,
상기 판단하는 단계는,
스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량의 제어 방법.15. The method of claim 14,
Wherein the determining step comprises:
And a weight value is determined by applying an AND condition or an OR condition to an image obtained from the two cameras when the weight is determined through a score level method.

제 14항에 있어서,
상기 판단하는 단계는,
피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량의 제어 방법.15. The method of claim 14,
Wherein the determining step comprises:
A method of controlling a vehicle, comprising: determining a weight by comparing a moving speed, a direction, and a size of the object obtained from the plurality of images or the surround view image when determining a weight through a feature level method.

제 16항에 있어서,
상기 판단하는 단계는,
상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
Comparing the images obtained by the two cameras when the weight is determined based on the moving speed, and adding a weight to the image having the larger pixel movement amount of the object at the same time.

제 16항에 있어서,
상기 판단하는 단계는,
상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
And comparing the images obtained by the two cameras when the weight is determined based on the direction, thereby giving a weight to the image with a larger horizontal motion.

제 16항에 있어서,
상기 판단하는 단계는,
상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
And comparing the images obtained by the two cameras when the sizes are compared to determine a weight, the weighting is further given to the image having a larger virtual rectangular area surrounding the object.

제 11항에 있어서,
상기 검출된 오브젝트에 기초하여 알람을 출력하는 단계;를 더 포함하는 차량의 제어 방법.

12. The method of claim 11,
And outputting an alarm based on the detected object.