KR20160074107A

KR20160074107A - vehicle and control method thereof

Info

Publication number: KR20160074107A
Application number: KR1020140182929A
Authority: KR
Inventors: 장민수; 이성주; 허세영
Original assignee: 현대모비스 주식회사
Priority date: 2014-12-18
Filing date: 2014-12-18
Publication date: 2016-06-28
Also published as: KR102288950B1

Abstract

The present invention relates to a vehicle which comprises: a plurality of cameras; a control unit composing a plurality of images received from the cameras, converting the composed images to a top view image to provide an around view image, and detecting an object in the images or the around view image; an alarm unit outputting an alarm in each stage based on a position of the detected object; and a display device displaying the around view image.

Description

차량 및 그 제어 방법{vehicle and control method thereof}[0001] VEHICLE AND CONTROL METHOD [0002]

본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다. The present invention relates to a vehicle equipped with an AVM (Around View Monitoring) device for displaying an image around a vehicle.

최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.In recent years, an AVM (Around View Monitoring) system is mounted on a vehicle in accordance with the upgrading and multi-functionalization of a vehicle.

AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.The AVM device acquires images of the surroundings of the vehicle through a camera mounted on all sides of the vehicle, and can display the surroundings of the vehicle through a display device installed in the room without the driver looking back or looking around when the vehicle is parked System. In addition, the surround view monitoring system also synthesizes the surrounding images to provide an around view as if viewed from above the vehicle. Using these surround view monitoring systems, the driver can grasp the situation around the vehicle at a glance, park securely, or go a narrow path.

한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.On the other hand, the AVM apparatus is used as a parking assisting apparatus, but it is also possible to detect an object based on an image obtained through a plurality of cameras. It is necessary to study an operation of detecting an object through a plurality of cameras provided in the AVM apparatus.

AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230Preceding literature on AVM systems: Publication No. 10-2013-0028230

본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a vehicle that performs object detection on an image received from a plurality of cameras.

본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The problems of the present invention are not limited to the above-mentioned problems, and other problems not mentioned can be clearly understood by those skilled in the art from the following description.

상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은, 복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 제공하고, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 제어부 및 상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 알람부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함한다.In order to achieve the above object, a vehicle according to an embodiment of the present invention includes a plurality of cameras, a plurality of images received from the plurality of cameras, and converts the synthesized image into a top view image An alarm unit for outputting a step-by-step alarm based on the position of the detected object and a display unit for displaying the surround view image, .

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 복수의 영상 또는 상기 어라운드 뷰 영상을 복수의 영역으로 나누고, 상기 알람부는, 상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력할 수 있다.On the other hand, the control unit included in the vehicle according to the embodiment of the present invention divides the plurality of images or the surround view image into a plurality of areas, and in the plurality of areas, It is possible to output a step-by-step alarm based on whether or not the alarm is located in the step-by-step manner.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 검출된 오브젝트를 트래킹할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention can track the detected object.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 복수의 카메라는 제1 및 제2 카메라를 포함하고, 상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우, 상기 제어부는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다.Meanwhile, the plurality of cameras included in the vehicle according to the embodiment of the present invention include first and second cameras, and in the area corresponding to the first image acquired through the first camera, The controller may set a region of interest for detecting the object in the second image when the movement of the detected object is detected in the region corresponding to the second image acquired through the second image.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행할 수 있다.Meanwhile, the controller included in the vehicle according to the embodiment of the present invention can perform object detection in the set interest area with top priority.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 검출된 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention may display an image corresponding to the detected object on the display device.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 표시된 오브젝트에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이 장치에 표시할 수 있다.Meanwhile, when receiving a touch input for the displayed object, the control unit included in the vehicle according to an embodiment of the present invention displays an original image acquired from a camera that detects an object among the plurality of cameras on the display device can do.

한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 트래킹되는 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention may display an image corresponding to the object to be tracked on the display device.

기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.The details of other embodiments are included in the detailed description and drawings.

본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.According to an embodiment of the present invention, there is one or more of the following effects.

본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.The vehicle according to the embodiment of the present invention has an effect of detecting an object in an acquired image and tracking the detected object to prevent an accident in advance.

단계별, 알람을 출력하여, 탑승자가 현재 처한 상황이 어느 정도인지 인지할 수 있도록 하는 효과가 있다.There is an effect that it is possible to output an alarm for each step and to know how much the current situation of the occupant is.

본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description of the claims.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3은 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8 은 본 발명의 실시예에 따라, 영상을 복수의 영역으로 구분하고, 복수의 영역에서 검출되는 오브젝트를 설명하는데 참조되는 개념도이다.
도 9는 본 발명의 실시예에 따라, 오브젝트 트래킹에 따른 동작을 설명하는데 참조되는 개념도이다.
도 10은 본 발명의 실시예에 따라 디스플레이 장치에 표시된 어라운드 뷰 이미지를 설명하는데 참조되는 예시도이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
Fig. 2 is a view schematically showing positions of a plurality of cameras attached to the vehicle of Fig. 1. Fig.
3 illustrates an overview view image based on images photographed by the plurality of cameras of FIG.
4 is a block diagram of a vehicle according to an embodiment of the present invention.
5 is a block diagram of a display device according to an embodiment of the present invention.
6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.
6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.
7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.
7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.
8 is a conceptual diagram referred to in explaining an object that is divided into a plurality of regions and is detected in a plurality of regions according to an embodiment of the present invention.
9 is a conceptual diagram referred to in describing an operation according to object tracking according to an embodiment of the present invention.
10 is an exemplary diagram that is referred to explain an overview view image displayed on a display device according to an embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals are used to designate identical or similar elements, and redundant description thereof will be omitted. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role. In the following description of the embodiments of the present invention, a detailed description of related arts will be omitted when it is determined that the gist of the embodiments disclosed herein may be blurred. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are intended to provide further explanation of the invention as claimed. , &Lt; / RTI > equivalents, and alternatives.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expressions include plural expressions unless the context clearly dictates otherwise.

본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present application, the terms "comprises", "having", and the like are used to specify that a feature, a number, a step, an operation, an element, a component, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.

본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다. The vehicle described in the present specification may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.

이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.In the following description, the left side of the vehicle means the left side in the running direction of the vehicle, that is, the driver's seat side, and the right side of the vehicle means the right side in the running direction of the vehicle, that is, the assistant's seat side.

한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.On the other hand, the AVM apparatus described in the present specification may be an apparatus provided with a plurality of cameras and combining a plurality of images photographed by a plurality of cameras to provide an overview image. In particular, it may be a device that provides a top view or a bird eye view based on a vehicle. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an AVM apparatus and a vehicle including the AVM apparatus according to various embodiments of the present invention will be described.

한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.On the other hand, in the present specification, the exchange of data can be performed through the vehicle communication network. Here, the vehicle communication network is preferably CAN. According to an embodiment, the vehicle communication network may be constructed using an Ethernet protocol.

도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.

도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다. 1, the vehicle 10 includes wheels 20FR, 20FL, 20RL, ... rotated by a power source, a steering wheel 30 for adjusting the traveling direction of the vehicle 10, (110a, 110b, 110c, 110d) mounted on the camera body (not shown). On the other hand, only the left camera 110a and the front camera 110d are shown in FIG.

복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.The plurality of cameras 110a, 110b, 110c, and 110d may be activated when the speed of the vehicle is less than or equal to a predetermined speed, or when the vehicle is propelled, to obtain a shot image, respectively. The image obtained by the plurality of cameras may be signal processed within the control unit (180 in FIG. 4) or the processor (280 in FIG. 5).

도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3은 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.Fig. 2 is a view schematically showing the positions of a plurality of cameras attached to the vehicle of Fig. 1, and Fig. 3 illustrates an example of an around view image based on images photographed by the plurality of cameras of Fig.

도 3는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다. Figure 3 illustrates an overview view image based on images photographed by the plurality of cameras of Figure 2;

먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.2, a plurality of cameras 110a, 110b, 110c, and 110d may be disposed on the left, rear, right, and front of the vehicle, respectively.

특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.In particular, the left camera 110a and the right camera 110c may be disposed in a case surrounding the left side mirror and a case surrounding the right side mirror, respectively.

한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.On the other hand, the rear camera 110b and the front camera 110d can be disposed in the vicinity of the trunk switch and in the vicinity of the ambulance or the ambulance, respectively.

복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.Each of the plurality of images photographed by the plurality of cameras 110a, 110b, 110c and 110d is transmitted to a control section (180 in Fig. 4) or the like in the vehicle 10 and the control section (180 in Fig. 4) To generate an ambient view image.

도 3은 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.FIG. 3 illustrates an example of an ambient view image 810. FIG. The surround view image 810 includes a first image area 110ai from the left camera 110a, a second image area 110bi from the rear camera 110b, a third image area 110b from the right camera 110c 110ci, and a fourth image area 110di from the front camera 110d.

한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.On the other hand, when a surround view image is generated from a plurality of cameras, a boundary portion between each image area occurs. Such boundary portions can be blended with the image so that they can be displayed naturally.

한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다. On the other hand, the boundaries 111a, 111b, 111c, and 111d may be displayed at the boundaries of the plurality of images.

도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.4 is a block diagram of a vehicle according to an embodiment of the present invention.

도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.4, the vehicle 10 includes a plurality of cameras 110a, 110b, 110c and 110d, a first input unit 120, an alarm unit 130, a first communication unit 140, a display device 200, And may include a first memory 160 and a controller 180.

복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.The plurality of cameras may include first to fourth cameras 110a, 110b, 110c, and 110d. The first camera 110a acquires the left surroundings image of the vehicle. And the second camera 110b acquires the vehicle rear periphery image. And the third camera 110c acquires the surroundings of the right side room of the vehicle. And the fourth camera 110d acquires the vehicle front periphery image.

제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.The plurality of images acquired by the first to fourth cameras 110a, 110b, 110c, and 110d are transmitted to the controller 180. [

한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.Meanwhile, the first to fourth cameras 110a, 110b, 110c, and 110d each include a lens and an image sensor (for example, a CCD or a CMOS). Here, the lens is preferably a fisheye lens having a wide angle of 180 DEG or more.

제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The first input unit 120 may receive a user input. The first input unit 120 may include means for accepting input from the outside such as a touch pad, a physical button, a dial, a slider switch, and a click wheel. The user input received through the first input unit 120 is transmitted to the controller 180.

알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다. The alarm unit 130 outputs an alarm in accordance with the information processed by the control unit 180. The alarm unit 130 may include a sound output unit and a display. The audio output unit can output audio data under the control of the control unit 180. [ The sound output unit may include a receiver, a speaker, a buzzer, and the like. The display displays the alarm information on the screen under the control of the control unit 180.

한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력할 수 있다. 예를 들면, 제1 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제1 음향을 출력할 수 있다. 또한, 제2 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제2 음향을 출력할 수 있다. 또한, 제3 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제3 음향을 출력할 수 있다.On the other hand, the alarm unit 130 can output a step-by-step alarm based on the position of the detected object. For example, when the object is located in the first area, the alarm unit 130 can output the first sound. Further, when the object is located in the second area, the alarm unit 130 can output the second sound. Further, when the object is located in the third area, the alarm unit 130 can output the third sound.

한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다. Meanwhile, the display included in the alarm unit 130 may be a concept including a cluster or a head up display (HUD) on the inside of the vehicle interior.

제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.The first communication unit 140 performs communication with an external electronic device. The first communication unit 140 may exchange data with an external server, a neighboring vehicle, an external base station, or the like. The first communication unit 140 may include a communication module that enables communication with an external electronic device. Here, the communication module may use a known technique.

한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.Meanwhile, the first communication unit 140 may include a short-range communication module, and may exchange data with a portable terminal or the like of the passenger through the short-range communication module. The first communication unit 140 may transmit the overview view screen to the portable terminal of the passenger. Also, the first communication unit 140 may transmit a control command received from the portable terminal to the controller 180. Meanwhile, the first communication unit 140 may transmit information according to object detection to the portable terminal. In this case, the portable terminal can output an alarm notifying the object detection through vibration, sound output, or the like.

디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.The display device 200 releases the compressed image and displays the surround view image. The display device 200 may be an AVN (Audio Video Navigation). The configuration of the display device 200 will be described in detail with reference to FIG.

제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The first memory 160 stores data supporting various functions of the vehicle 10. [ The first memory 160 may store a plurality of application programs driven by the vehicle 10, data for operation of the vehicle 10, and commands.

제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The first memory 160 may include a high speed random access memory. The first memory 160 may also include non-volatile memory such as one or more magnetic disk storage devices, flash memory devices, or other non-volatile solid state memory devices, but may include readable storage media .

예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the first memory 160 may include an EEP-ROM (Electronically Erasable and Programmable Read Only Memory), but is not limited thereto. In the EEP-ROM, information can be written and erased by the control unit 180 during the operation of the control unit 180. [ The EEP-ROM may be a storage device in which information stored in the EEP-ROM is held without being erased even when the power supply of the controller is turned off and the power supply is stopped.

한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. Meanwhile, the first memory 160 may store images obtained from the plurality of cameras 110a, 110b, 110c, and 110d. For example, when a collision of the vehicle 10 is detected, an image obtained from the plurality of cameras 110a, 110b, 110c, and 110d may be stored.

제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The control unit 180 controls the overall operation of each unit in the vehicle 10. [ The control unit 180 may perform various functions for controlling the vehicle 10 and may execute or execute various software programs and / or sets of instructions stored in the first memory 160 for processing data. The control unit 180 may process the signal based on the information stored in the first memory 160.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The control unit 180 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 removes noise of the image using various filters or histogram equalization. On the other hand, the preprocessing of such an image is not necessarily required, and may be omitted depending on the state of the image and the purpose of image processing.

제어부(180)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 제어부(180)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The control unit 180 generates the surround view image based on the plurality of preprocessed images. Here, the surround view image may be a top view image. Synthesizes a plurality of preprocessed images in the control unit 180, and switches them to the surround view image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

예를 들면, 제어부(180)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 제어부(180)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 제어부(180)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the control unit 180 determines whether or not the first image from the left camera 110a, the second image from the rear camera 110b, the third image from the right camera 110c, And generates an ambient view image based on the fourth image. At this time, the control unit 180 determines whether or not the area overlapping between the first image and the second image, the area overlapping between the second image and the third image, the area overlapping between the third image and the fourth image, Each of the regions overlapping the first images can be blended. The control unit 180 controls the first image and the second image so that the boundary between the first image and the second image, the boundary between the second image and the third image, the boundary between the third image and the fourth image, You can create a border.

제어부(180)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 제어부(180)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The control unit 180 overlays the virtual vehicle image on the surround view image. That is, since the surround view image is generated based on the obtained vehicle surroundings image through the plurality of cameras mounted on the vehicle 10, it does not include the image of the vehicle 10. By providing a virtual vehicle image through the control unit 180, the occupant can intuitively recognize the surround view image.

제어부(180)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The control unit 180 can detect the object based on the surrounding view image. Here, the object may be a concept including a pedestrian, an obstacle, a nearby vehicle, and the like. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200. [

제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The control unit 180 compares the detected object with the object stored in the first memory 160, classifies and confirms the object.

제어부(180)는 검출된 오브젝트를 트래킹한다. 예를 들어, 제어부(180)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The control unit 180 tracks the detected object. For example, the control unit 180 sequentially checks the object in the acquired images, calculates the motion or motion vector of the identified object, and calculates the motion vector of the object based on the calculated motion or motion vector. Movement and the like can be tracked.

제어부(180)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 제어부(180)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 제어부(180)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 제어부(180)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The control unit 180 performs various applications based on the surround view image. For example, the control unit 180 can detect the object based on the surrounding view image. Alternatively, the control unit 180 may generate a virtual parking line in the surround view image. Alternatively, the control unit 180 may provide a predicted path of the vehicle based on the surrounding view image. On the other hand, such application execution is not necessarily required, and may be omitted depending on the state of the image or the purpose of image processing.

제어부(180)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제어부(180)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 제어부(180)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The control unit 180 may perform an application operation corresponding to object detection or object tracking. For example, the control unit 180 divides a plurality of images or surround view images received from the plurality of cameras 110a, 110b, 110c, and 110d into a plurality of areas, and determines which area of the plurality of images the object is located It can be judged. For example, in the area corresponding to the first image obtained through the first camera 110a, the control unit 180 determines that the object detected as the area corresponding to the second image obtained through the second camera 110b It is possible to set a region of interest for detecting an object in the second image. Here, the control unit 180 can perform the detection of the object in the region of interest with top priority.

한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the control unit 180 can overlay the image corresponding to the detected object on the surround view image. The control unit 180 may overlay the image corresponding to the object to be tracked on the surround view image.

도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.5 is a block diagram of a display device according to an embodiment of the present invention.

도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.5, the display device 200 includes a second input unit 220, a second communication unit 240, a display unit 250, an audio output unit 255, a second memory 260, . &Lt; / RTI >

제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The second input unit 220 can receive a user input. The second input unit 220 may include means for accepting input from the outside such as a touch pad, a physical button, a dial, a slider switch, and a click wheel. The user input received through the first input unit 220 is transmitted to the controller 180.

제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.The second communication unit 240 can communicate with an external electronic device to exchange data. For example, the second communication unit 240 may be connected to a broadcasting company server to receive broadcasting contents. For example, the second communication unit 240 may be connected to a traffic information providing server to receive TPEG (Transport Protocol Experts Group) information.

디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.The display unit 250 displays information processed by the processor 270. [ For example, the display unit 250 may display execution screen information of an application program driven by the processor 270 or UI (User Interface) and GUI (Graphic User Interface) information according to the execution screen information.

한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.Meanwhile, when the touch pad has a mutual layer structure with the display unit 250, it can be called a touch screen. The touch screen may function as the second input unit 220.

음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The sound output unit 255 can output audio data. The audio output unit 152 may include a receiver, a speaker, a buzzer, and the like.

제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The second memory 260 stores data supporting various functions of the display device 200. [ The second memory 260 may store a plurality of application programs driven by the display device 200, data for operation of the display device 200, and commands.

제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The second memory 260 may include a high-speed random access memory. The second memory 260 may also include non-volatile memory such as one or more magnetic disk storage devices, flash memory devices, or other non-volatile solid state memory devices, but may include readable storage media .

예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the second memory 260 may include, but is not limited to, Electronically Erasable and Programmable Read Only Memory (EEP-ROM). The EEP-ROM may be written and erased by the processor 280 during the operation of the processor 280. [ The EEP-ROM may be a storage device in which information stored in the EEP-ROM is held without being erased even when the power supply of the controller is turned off and the power supply is stopped.

프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The processor 280 controls the overall operation of each unit in the display device 200. The processor 280 may perform various functions for controlling the display device 20 and may execute or perform various software programs and / or sets of instructions stored in the second memory 260 to process the data. The processor 280 may process the signal based on information stored in the second memory 260.

프로세서(280)는 어라운드 뷰 영상을 표시한다.The processor 280 displays the surround view image.

도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.

도 6a를 참조하면, 제어부(180)는 전처리부(310), 어라운드 뷰 영상 생성부(320), 차량 이미지 생성부(340), 어플리케이션부(350), 오브젝트 검출부(410), 오브젝트 확인부(420) 및 오브젝트 트래킹부(430)를 포함할 수 있다.6A, the control unit 180 includes a preprocessing unit 310, an overview image generation unit 320, a vehicle image generation unit 340, an application unit 350, an object detection unit 410, an object verification unit 420 and an object tracking unit 430.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(310)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The preprocessing unit 310 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. The preprocessing unit 310 removes noise of an image using various filters or histogram equalization. On the other hand, the preprocessing of such an image is not necessarily required, and may be omitted depending on the state of the image and the purpose of image processing.

어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 전처리부(310)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 어라운드 뷰 영상 생성부(320)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 어라운드 뷰 영상 생성부(320)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The surround view image generating unit 320 generates an overview view image based on the plurality of preprocessed images. Here, the surround view image may be a top view image. The preprocessing unit 310 synthesizes a plurality of preprocessed images and converts them into an overview image. According to the embodiment, the surround view image generator 320 may combine a plurality of images that have not undergone the preprocessing process, and convert the combined images into the surround view images. For example, the surround view image generator 320 may combine a plurality of images using a lookup table (LUT) to convert the images into the surround view images. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

예를 들면, 어라운드 뷰 영상 생성부(320)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the surround-view image generating unit 320 generates a first image from the left camera 110a, a second image from the rear camera 110b, a third image from the right camera 110c, And 110d based on the fourth image. At this time, the surround view image generating unit 320 generates an overlapping area between the first image and the second image, a overlapping area between the second image and the third image, a overlapping area between the third image and the fourth image, It is possible to blend the overlapping regions between the fourth image and the first image, respectively. The surround view image generating unit 320 generates a surround view image based on the boundary between the first image and the second image, the boundary between the second image and the third image, the boundary between the third image and the fourth image, It is possible to generate a boundary line at each boundary of the boundary.

차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 차량 이미지 생성부(340)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The vehicle image generating unit 340 overlaid a virtual vehicle image on the surround view image. That is, since the surround view image is generated based on the obtained vehicle surroundings image through the plurality of cameras mounted on the vehicle 10, it does not include the image of the vehicle 10. By providing a virtual vehicle image through the vehicle image generating unit 340, the occupant can intuitively recognize the surround view image.

오브젝트 검출부(410)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(410)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The object detecting unit 410 can detect the object based on the surrounding view image. Here, the object may be a concept including a pedestrian, an obstacle, a nearby vehicle, and the like. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The object detecting unit 410 may perform object detection based on the entire original image including the image displayed on the display device 200. [

오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The object verification unit 420 compares the detected object with the object stored in the first memory 160, classifies the object, and confirms the object.

오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The object tracking unit 430 tracks the detected object. For example, the object tracking unit 430 sequentially identifies an object in the acquired images, calculates a motion or a motion vector of the identified object, Movement of an object, and the like can be tracked.

어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 어플리케이션부(350)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 어플리케이션부(350)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 어플리케이션부(350)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The application unit 350 performs various applications based on the surround view image. For example, the application unit 350 can detect the object based on the surrounding view image. Alternatively, the application unit 350 may generate a virtual parking line in the surround view image. Or the application unit 350 may provide a predicted path of the vehicle based on the surrounding view image. On the other hand, such application execution is not necessarily required, and may be omitted depending on the state of the image or the purpose of image processing.

어플리케이션부(350)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 어플리케이션부(350)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 어플리케이션부(350)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 어플리케이션부(350)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The application unit 350 may perform an application operation corresponding to object detection or object tracking. For example, the application unit 350 divides the plurality of images or the surround view images received from the plurality of cameras 110a, 110b, 110c, and 110d into a plurality of regions, Can be determined. For example, the application unit 350 may detect an area corresponding to the first image obtained through the first camera 110a and an area corresponding to the second image obtained through the second camera 110b When movement of the object is detected, a region of interest for detecting the object in the second image can be set. Here, the application unit 350 can perform object detection in the region of interest with top priority.

한편, 어플리케이션부(350)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어플리케이션부(350)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the application unit 350 can overlay the image corresponding to the detected object on the surround view image. The application unit 350 may display an image corresponding to an object to be tracked over an overview image.

도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.

도 6b를 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S610). Referring to FIG. 6B, the controller 180 receives the respective images from the plurality of cameras 110a, 110b, 110c, and 110d (S610).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S620). 다음, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S630), 탑뷰로 전환하여(S640), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The control unit 180 performs preprocessing on each of the plurality of received images (S620). Next, the control unit 180 synthesizes a plurality of preprocessed images (S630), switches to a top view (S640), and creates an overview view image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

어라운드 뷰 영상이 생성된 상태에서, 제어부(180)는 어라운드 뷰 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S650).In a state where the surround view image is generated, the control unit 180 can perform object detection based on the surrounding view image. Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200 (S650).

소정의 오브젝트가 검출되는 경우, 제어부(180)는 검출된 오브젝트의 위치에 기초하여, 알람부(130)를 통해, 단계별 알람을 출력한다(S670). 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제1 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제1 음향을 출력하도록 제어할 수 있다. 또한, 제2 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제2 음향을 출력하도록 제어할 수 있다. 또한, 제3 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제3 음향을 출력하도록 제어할 수 있다.When a predetermined object is detected, the control unit 180 outputs a step-by-step alarm through the alarm unit 130 based on the detected position of the object (S670). For example, the control unit 180 divides a plurality of images or surround view images received from the plurality of cameras 110a, 110b, 110c, and 110d into a plurality of areas, and determines which area of the plurality of images the object is located It can be judged. For example, when the object is located in the first area, the control unit 180 can control to output the first sound. Further, when the object is located in the second area, the control unit 180 can control to output the second sound. Further, when the object is located in the third area, the control unit 180 can control to output the third sound.

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S660). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.If a predetermined object is not detected, the control unit 180 generates a virtual vehicle image in the surround view image (S660). Specifically, the control unit 180 overlays the virtual vehicle image on the surround view image.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S690).Next, the controller 180 transmits the compressed data to the display device 200 to display the surround view image (S690).

도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7a를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7A, description will be given centering on differences from the first embodiment.

전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 이후에, 어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.The preprocessing unit 310 preprocesses images received from the plurality of cameras 110a, 110b, 110c, and 110d. Thereafter, the surround view image generating unit 320 generates an overview view image based on the plurality of preprocessed images. The vehicle image generating unit 340 overlaid a virtual vehicle image on the surround view image.

한편, 오브젝트 검출부(410)는, 전처리 영상을 기초로, 오브젝트를 검출할 수 있다. 오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다. 오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 검출되고, 확인되며, 트래킹된 오브젝트를 기초로, 각종 어플리케이션을 수행한다.On the other hand, the object detecting unit 410 can detect the object based on the preprocessed image. The object verification unit 420 compares the detected object with the object stored in the first memory 160, classifies the object, and confirms the object. The object tracking unit 430 tracks the detected object. The application unit 350 performs various applications based on the surround view image. Also, the application unit 350 detects, verifies, and performs various applications based on the tracked object.

도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.

제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7b를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7B, a description will be given centering on differences from the first embodiment.

제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S710). The control unit 180 receives the respective images from the plurality of cameras 110a, 110b, 110c, and 110d (S710).

제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720). The control unit 180 performs preprocessing on each of the plurality of received images (S720).

다음, 제어부(180)는 전처리된 영상을 기초로, 오브젝트 검출을 수행할 수 있다(S730). 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.Next, the control unit 180 can perform object detection based on the preprocessed image (S730). Meanwhile, the surrounding view screen displayed through the display device 200 may correspond to a part of the original image obtained through the plurality of cameras 110a, 110b, 110c, and 110d. The control unit 180 may perform object detection based on the entire original image including the image displayed on the display device 200. [

소정의 오브젝트가 검출되는 경우, 제어부(180)는 검출된 오브젝트의 위치에 기초하여, 알람부(130)를 통해, 단계별 알람을 출력한다(S770). 이후에, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S740), 탑뷰로 전환하여(S750), 어라운드 뷰 영상을 생성한다.When a predetermined object is detected, the control unit 180 outputs a step-by-step alarm through the alarm unit 130 based on the detected position of the object (S770). Thereafter, the control unit 180 synthesizes a plurality of preprocessed images (S740), switches to a top view (S750), and generates an overview image.

만약, 소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S740), 탑뷰로 전환하여(S750), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.If a predetermined object is not detected, the control unit 180 synthesizes a plurality of preprocessed images (S740), switches to a top view (S750), and generates an overview image. According to the embodiment, the controller 180 may combine a plurality of images not subjected to the preprocessing process and convert them into an overview image. For example, the control unit 180 can synthesize a plurality of images using a look-up table (LUT), and switch to the surround view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.

소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S760). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.If a predetermined object is not detected, the control unit 180 generates a virtual vehicle image in the surround view image (S760). Specifically, the control unit 180 overlays the virtual vehicle image on the surround view image.

다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S790).Next, the control unit 180 transmits the compressed data to the display device 200 to display the surround view image (S790).

도 8 은 본 발명의 실시예에 따라, 영상을 복수의 영역으로 구분하고, 복수의 영역에서 검출되는 오브젝트를 설명하는데 참조되는 개념도이다.8 is a conceptual diagram referred to in explaining an object that is divided into a plurality of regions and is detected in a plurality of regions according to an embodiment of the present invention.

도 8을 참조하면, 제어부(180)는 제1 카메라(110a)로부터 수신되는 제1 영상, 제2 카메라(110b)로부터 수신되는 제2 영상, 제3 카메라(110c)로부터 수신되는 제3 영상, 제4 카메라(110d)로부터 수신되는 제4 영상을 기초로 오브젝트를 검출한다. 이때, 제어부(180)는 차량(10)을 기준으로 제1 거리(d1)에서 제2 거리(d2) 사이이의 영역을 제1 영역(810)으로 설정할 수 있다. 제어부(180)는 차량(10)을 기준으로 제2 거리(d2)에서 제3 거리(d3) 사이의 영역을 제2 영역(820)으로 설정할 수 있다. 제어부(180)는 차량(10)을 기준으로 제3 거리(d3) 내의 영역을 제3 영역(830)으로 설정할 수 있다.Referring to FIG. 8, the control unit 180 receives a first image received from the first camera 110a, a second image received from the second camera 110b, a third image received from the third camera 110c, And detects the object based on the fourth image received from the fourth camera 110d. At this time, the controller 180 may set the area between the first distance d1 and the second distance d2 as the first area 810 based on the vehicle 10. The control unit 180 can set the area between the second distance d2 and the third distance d3 as the second area 820 with respect to the vehicle 10. [ The control unit 180 can set the area within the third distance d3 as the third area 830 with reference to the vehicle 10. [

만약, 오브젝트(811)가 제1 영역(810)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제1 신호를 알람부(130)로 전송하여, 제1 알람이 출력되도록 제어할 수 있다. 또한, 오브젝트(821)가 제2 영역(820)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제2 신호를 알람부(130)로 전송하여, 제2 알람이 출력되도록 제어할 수 있다. 또한, 제어부(180)는 오브젝트(831)가 제3 영역(820)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제3 신호를 알람부(130)로 전송하여, 제3 알람이 출력되도록 제어할 수 있다. 이와 같이, 제어부(180)는 오브젝트의 위치에 기초하여, 단계별 알람이 출력되도록 제어할 수 있다. If it is determined that the object 811 is located in the first area 810, the control unit 180 may transmit the first signal to the alarm unit 130 to control the first alarm to be output. If it is determined that the object 821 is located in the second area 820, the control unit 180 may transmit the second signal to the alarm unit 130 to control the second alarm to be output. If the control unit 180 determines that the object 831 is located in the third area 820, the controller 180 transmits the third signal to the alarm unit 130 so that the third alarm is output Can be controlled. In this way, the control unit 180 can control the output of the step-by-step alarm based on the position of the object.

한편, 영상을 통해 오브젝트와의 거리를 검출하는 방법은 공지의 기술을 이용할 수 있다.On the other hand, a known technique can be used as a method of detecting the distance to an object through an image.

도 9는 본 발명의 실시예에 따라, 오브젝트 트래킹에 따른 동작을 설명하는데 참조되는 개념도이다.9 is a conceptual diagram referred to in describing an operation according to object tracking according to an embodiment of the present invention.

도 9를 참조하면, 오브젝트(910)가 제1 영역에서, 제2 영역으로 이동할 수 있다. 이때, 제1 영역은 제1 카메라(110a)를 통해 획득되는 제1 영상에 대응되는 영역일 수 있다. 제2 영역은 제2 카메라(110b)를 통해 획득되는 제2 영상에 대응되는 영역일 수 있다. 즉, 오브젝트(910)는 제1 카메라(110a) FOV(field of view)에서 제2 카메라(110b) FOV(field of view)로 이동한다. Referring to Fig. 9, an object 910 may move from a first area to a second area. In this case, the first area may correspond to the first image obtained through the first camera 110a. And the second area may correspond to a second image obtained through the second camera 110b. That is, the object 910 moves from the FOV (field of view) of the first camera 110a to the FOV (field of view) of the second camera 110b.

오브젝트(910)가 차량(10) 좌측방에 위치할 때, 제어부(180)는 제1 영상에서 오브젝트(910)를 검출하고, 확인하며, 트래킹할 수 있다. 오브텍트(910)가 차량(10) 후방으로 이동하는 경우, 제어부(180)는 오브젝트(910)의 이동을 트래킹한다. 제어부(180)는 오브젝트(910) 트래킹을 통해, 오브젝트(910)의 예상 이동 경로를 예측할 수 있다. 제어부(180)는 예측된 이동 경로를 통해, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역(920)을 설정할 수 있다. 제어부(180)는 관심 영역(920)에서 오브젝트의 검출을 최우선으로 수행할 수 있다. 이와 같이, 관심 영역(920)을 설정함으로써, 제2 카메라를 통해 오브젝트(920)를 검출할 때, 검출의 정확도 및 검출 속도의 향상의 효과를 얻을 수 있다.When the object 910 is located in the left room of the vehicle 10, the control unit 180 can detect, confirm, and track the object 910 in the first image. When the object 910 moves to the rear of the vehicle 10, the control unit 180 tracks the movement of the object 910. The control unit 180 can predict an expected movement path of the object 910 through the tracking of the object 910. [ The control unit 180 can set the region of interest 920 for detecting the object in the second image through the predicted movement path. The control unit 180 can perform the detection of the object in the region of interest 920 with the highest priority. By setting the region of interest 920 in this way, the detection accuracy and detection speed can be improved when the object 920 is detected through the second camera.

도 10은 본 발명의 실시예에 따라 디스플레이 장치에 표시된 어라운드 뷰 이미지를 설명하는데 참조되는 예시도이다.10 is an exemplary diagram that is referred to explain an overview view image displayed on a display device according to an embodiment of the present invention.

도 10의 (a)에 도시된 바와 같이, 제어부(180)는 디스플레이 장치(200)에 포함된 디스플레이부(250)를 통해, 어라운드 뷰 영상(1010)을 표시할 수 있다. 제어부(180)는 검출된 오브젝트에 대응하는 이미지(1020)를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지(1020)를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.The control unit 180 may display the surround view image 1010 through the display unit 250 included in the display device 200 as shown in FIG. The control unit 180 can overlay the image 1020 corresponding to the detected object on the surround view image. The control unit 180 can overlay the image 1020 corresponding to the object to be tracked on the surround view image.

오브젝트에 대응하는 이미지(1020)가 표시된 영역에 터치 입력이 수신되는 경우, 도 10의 (b)에 도시된 바와 같이, 제어부(180)는 오브젝트 검출의 기초가 되는 영상을 디스플레이부(250)에 표시할 수 있다. 예를 들어, 제어부(180)는 어라운드 뷰 이미지를 축소하여, 디스플레이부(25) 제1 영역에 표시하고, 오브젝트 검출의 기초가 되는 영상을 디스플레이부(250)의 제2 영역에 표시할 수 있다. 즉, 제어부(180)는 오브젝트가 검출되는 제3 카메라(110c)로부터 수신되는 제3 영상을 수신한 영상 그대로 디스플레이부(250)에 표시할 수 있다. When the touch input is received in the area where the image 1020 corresponding to the object is displayed, as shown in (b) of FIG. 10, the control unit 180 controls the display unit 250 to display Can be displayed. For example, the control unit 180 may reduce the averaged view image, display it on the first area of the display unit 25, and display the image serving as the basis of the object detection on the second area of the display unit 250 . That is, the control unit 180 can display the third image received from the third camera 110c in which the object is detected, on the display unit 250 as it is.

이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It should be understood that various modifications may be made by those skilled in the art without departing from the spirit and scope of the present invention.

10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서10: Vehicle
110: camera
120: first input unit
130:
140: first communication section
160: first memory
180:
200: display device
220: second input section
240: second communication section
250:
255:
260: second memory
280: Processor

Claims

복수의 카메라;
상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 제공하고,
상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 제어부;
상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 알람부; 및
상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하는 차량.A plurality of cameras;
A plurality of images received from the plurality of cameras are synthesized, and the synthesized image is converted into a top view image to provide an overview image,
A controller for detecting an object in the plurality of images or the surround view image;
An alarm unit for outputting a stepwise alarm based on the position of the detected object; And
And a display device for displaying the surround view image.

제 1항에 있어서,
상기 제어부는, 상기 복수의 영상 또는 상기 어라운드 뷰 영상을 복수의 영역으로 나누고,
상기 알람부는, 상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력하는 차량.The method according to claim 1,
Wherein the control unit divides the plurality of images or the surround view image into a plurality of areas,
Wherein the alarm unit outputs a step-by-step alarm based on which area the detected object is located in the plurality of areas.

제 1항에 있어서,
상기 제어부는, 상기 검출된 오브젝트를 트래킹하는 차량.The method according to claim 1,
And the control unit tracks the detected object.

제 3항에 있어서,
상기 복수의 카메라는 제1 및 제2 카메라를 포함하고,
상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우, 상기 제어부는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정하는 차량.The method of claim 3,
Wherein the plurality of cameras include first and second cameras,
When the movement of the detected object is detected in an area corresponding to a first image acquired through the first camera and in an area corresponding to a second image acquired through the second camera, 2 < / RTI > image of interest.

제 4항에 있어서,
상기 제어부는, 상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행하는 차량.5. The method of claim 4,
Wherein the control unit performs object detection first in the set region of interest.

제 1항에 있어서,
상기 제어부는, 상기 검출된 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시하는 차량.The method according to claim 1,
Wherein the control unit displays, on the display device, an image corresponding to the detected object.

제 6항에 있어서,
상기 제어부는, 상기 표시된 오브젝트에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이 장치에 표시하는 차량.The method according to claim 6,
Wherein the control unit displays on the display device an original image acquired by a camera that detects an object among the plurality of cameras when receiving a touch input for the displayed object.

제 3항에 있어서,
상기 제어부는, 상기 트래킹되는 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시하는 차량.The method of claim 3,
Wherein the control unit displays, on the display device, an image corresponding to the object to be tracked.

복수의 카메라로부터 수신되는 복수의 영상을 합성하는 단계;
상기 합성된 영상을 탑뷰 영상으로 전환하여 어라운드 뷰 영상을 제공하는 단계;
상기 복수의 영상 또는 어라운드 뷰 영상을 기초로 오브젝트를 검출하는 단계; 및
상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 단계;를 포함하는 차량의 제어 방법.Synthesizing a plurality of images received from a plurality of cameras;
Converting the synthesized image into a top view image to provide an overview view image;
Detecting an object based on the plurality of images or the surround view image; And
And outputting a step-by-step alarm based on the position of the detected object.

제 9항에 있어서,
상기 검출하는 단계는,
상기 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누는 단계; 및
상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력하는 단계;를 포함하는 차량의 제어 방법.10. The method of claim 9,
Wherein the detecting comprises:
Dividing the plurality of images or the surround view image into a plurality of regions; And
And outputting a step-by-step alarm based on which area the detected object is located in the plurality of areas.

제 9항에 있어서,
상기 검출된 오브젝트를 트래킹하는 단계;를 더 포함하는 차량의 제어 방법.10. The method of claim 9,
And tracking the detected object. &Lt; Desc / Clms Page number 19 >

제 11항에 있어서,
상기 복수의 카메라는 제1 및 제2 카메라를 포함하고,
상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우,
상기 트래킹하는 단계는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정하는 단계;를 포함하는 차량의 제어 방법.12. The method of claim 11,
Wherein the plurality of cameras include first and second cameras,
When movement of the detected object is detected in an area corresponding to a first image obtained through the first camera and in an area corresponding to a second image acquired through the second camera,
Wherein the tracking step comprises setting a region of interest for detecting the object in the second image.

제 12항에 있어서,
상기 트래킹하는 단계는,
상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행하는 차량의 제어 방법.13. The method of claim 12,
Wherein the tracking comprises:
And object detection is performed with the highest priority in the set region of interest.

제 9항에 있어서,
상기 검출된 오브젝트에 대응하는 이미지를 디스플레이 장치에 표시하는 단계;를 더 포함하는 차량의 제어 방법.10. The method of claim 9,
And displaying an image corresponding to the detected object on a display device.

제 14항에 있어서,
상기 표시된 이미지에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이에 표시하는 차량의 제어 방법.15. The method of claim 14,
And displaying an original image obtained by a camera that detects an object among the plurality of cameras on the display when receiving a touch input for the displayed image.

제 11항에 있어서,
상기 트래킹되는 오브젝트에 대응하는 이미지를 디스플레이 장치에 표시하는 단계;를 더 포함하는 차량의 제어 방법.

12. The method of claim 11,
And displaying an image corresponding to the object to be tracked on a display device.