KR101159847B1 - 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법 - Google Patents

졸음운전 감지용 얼굴 검출 정규화 장치 및 방법 Download PDF

Info

Publication number
KR101159847B1
KR101159847B1 KR1020050005555A KR20050005555A KR101159847B1 KR 101159847 B1 KR101159847 B1 KR 101159847B1 KR 1020050005555 A KR1020050005555 A KR 1020050005555A KR 20050005555 A KR20050005555 A KR 20050005555A KR 101159847 B1 KR101159847 B1 KR 101159847B1
Authority
KR
South Korea
Prior art keywords
coordinate value
area
face
region
value
Prior art date
Application number
KR1020050005555A
Other languages
English (en)
Other versions
KR20060084750A (ko
Inventor
박상철
김광수
박경하
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020050005555A priority Critical patent/KR101159847B1/ko
Priority to US11/335,216 priority patent/US8055016B2/en
Publication of KR20060084750A publication Critical patent/KR20060084750A/ko
Application granted granted Critical
Publication of KR101159847B1 publication Critical patent/KR101159847B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R99/00Subject matter not provided for in other groups of this subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • General Health & Medical Sciences (AREA)
  • Geometry (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Emergency Management (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Business, Economics & Management (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

졸음운전 감지에 필요한 운전자 얼굴 검출을 할 때 렌즈를 자동으로 조절하여 얼굴이 영상의 중앙에 일정한 크기로 정규화 되도록 하는 장치 및 방법에 관한 것이다. 본 졸음운전 감지용 얼굴 검출 정규화 장치는 운전자의 얼굴을 촬영하기 위한 렌즈와, 줌 파라미터 조정을 위해 상기 렌즈를 앞 혹은 뒤로 이동시키는 제1모터와, 팬 파라미터 혹은 틸트 파라미터 조정을 위해 상기 렌즈를 수평 혹은 수직 방향으로 이동시키는 제2모터와, 상기 촬영된 입력 영상으로부터 초기 얼굴 영역을 검출하고 그에 따라 상기 제1 및 제2모터의 구동을 제어하는 제어부를 포함함을 특징으로 한다.
팬(pan), 틸트(tilt), 줌(zoom), 졸음운전 감지, 카메라, 얼굴 검출

Description

졸음운전 감지용 얼굴 검출 정규화 장치 및 방법{APPARATUS AND METHOD FOR FORMALIZING THE DETECTION OF A DRIVER'S FACE FOR SENSING SLEEPY DRIVING}
도 1은 종래의 고정식 카메라를 가지는 졸음운전 감지 장치에서 운전자의 모습을 찍은 영상들을 예시한 도면
도 2는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 장치의 구성을 나타내는 도면
도 3은 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 방법을 설명하기 위한 영상 예시도
도 4는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 중 얼굴 요소 계산 과정을 구체적으로 설명하기 위한 영상들을 예시한 도면
도 5는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 방법을 나타내는 흐름도
도 6은 도 5 중 얼굴 요소 계산 과정을 구체적으로 나타낸 흐름도
본 발명은 졸음운전 감지에 필요한 얼굴 검출 장치 및 방법에 관한 것으로, 특히 렌즈를 자동으로 조절하여 운전자의 얼굴이 영상의 중앙에 일정한 크기로 정규화 되도록 하는 장치 및 방법에 관한 것이다.
졸음운전을 검출하기 위해서는 먼저 사용자의 얼굴을 검출하는 과정이 선행되어야 하며 이 과정이 전체 성능의 많은 부분을 차지하게 된다. 하지만 운전자의 운전 자세는 각각 다르다. 다시 말해서, 핸들에 바짝 붙거나 의자를 완전히 뒤로 젖히는 등 다양한 형태를 취하기 때문에 정확한 얼굴 검출이 어렵다. 또한 개인별로 얼굴 크기도 다르다.
도 1은 종래의 고정식 카메라를 가지는 졸음운전 감지 장치에서 운전자의 모습을 찍은 영상들을 예시한 것이다.
(1a)는 정상 영상을 나타내고, (1b) ~ (1d)는 비정상 영상을 나타낸다.
(1b)는 운전자의 얼굴이 너무 작아서 비정상적인 경우이다.
(1c)는 운전자의 얼굴이 너무 커서 비정상적인 경우이다.
(1d)는 운전자의 얼굴이 좌측으로 너무 치우쳐져 비정상적인 경우이다.
이와 같이 비정상적인 영상이 얻어지지 않도록 하려면 처음 장치를 구입하여 설치할 때 각 개인(의 운전 습관)에 따라 카메라의 장착 위치를 잘 결정하여야 한다. 그러나 설사 그렇게 장착했다 하더라도 운전 습관이 약간씩 바뀔 수가 있으며 다른 운전자가 앉아서 운전할 경우도 발생하게 되는데, 그때마다 카메라의 위치나 캘리브레이션을 다시 맞출 수는 없다.
이와 같은 문제들은 종래의 졸음운전 감지 장치가 일반 고정식 카메라를 이용하여 운전자의 얼굴을 검출하기 때문이다.
또한 고정식 카메라를 이용하는 졸음운전 감지 장치는 카메라와 운전자 사이의 거리를 평균적인 값으로 파악하고 있으며, 촬영된 영상으로부터 운전자의 얼굴에 해당하는 영역을 검출하는 것을 소프트웨어적으로 해결하고 있기 때문에 계산량과 속도가 떨어지는 문제점도 가지고 있다.
또한 고정식 카메라로 운전자의 얼굴을 영상에서 찾아내려면 정규화 과정을 반드시 거쳐야 하고 그렇게 하더라도 입력되는 얼굴 영상의 해상도 등과 같은 정보가 항상 달라진다는 문제가 있다. 정규화 과정이 필요한 이유는 운전자의 운전 습관에 따라 렌즈를 향하는 얼굴의 위치나 각도가 다르기 때문에 촬영된 영상 내에서 얼굴 영역의 크기나 위치도 같을 수가 없기 때문이다.
따라서 본 발명은 팬(pan), 틸트(tilt), 줌(zoom) 파라미터의 조정을 통하여 촬영된 영상에서 운전자의 얼굴이 중앙에 일정한 크기로 위치하게 함으로써 얼굴 검출에 대한 성능과 속도를 높이고 더 나아가 졸음운전 감지의 정확도를 높일 수 있는 장치 및 방법을 제공한다.
이를 위해 본 제1발명은 졸음운전 감지용 얼굴 검출 정규화 장치가 운전자의 얼굴을 촬영하기 위한 렌즈와, 줌 파라미터 조정을 위해 상기 렌즈를 앞 혹은 뒤로 이동시키는 제1모터와, 팬 파라미터 혹은 틸트 파라미터 조정을 위해 상기 렌즈를 수평 혹은 수직 방향으로 이동시키는 제2모터와, 상기 촬영된 입력 영상으로부터 초기 얼굴 영역을 검출하고 그에 따라 상기 제1 및 제2모터의 구동을 제어하는 제어부를 포함함을 특징으로 한다.
이를 위해 본 제2발명은 팬/틸트/줌 파라미터 조정이 가능한 렌즈를 구비한 졸음운전 감지용 얼굴 검출 장치에 있어서, 상기 얼굴 검출을 정규화 하는 방법이, 입력 영상으로부터 초기 얼굴 영역을 검출하는 과정과, 상기 검출한 초기 얼굴 영역으로부터 얼굴 요소를 계산하는 과정과, 상기 얼굴 요소 계산 결과를 분석하여 상기 팬 파라미터, 틸트 파라미터, 혹은 줌 파라미터의 조정이 필요한지 체크하는 과정과, 상기 체크 결과에 따라 팬 파라미터, 틸트 파라미터, 혹은 줌 파라미터를 조정하여 정규화된 얼굴 영상을 획득하는 과정을 포함함을 특징으로 한다.
이하 본 발명의 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 하기 설명에서는 구체적인 화소의 수, 입력 영상 등과 같은 특정(特定) 사항들이 나타나고 있는데, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐 이러한 특정 사항들 없이도 본 발명이 실시될 수 있음은 이 기술 분야에서 통상의 지식을 가진 자에게는 자명하다 할 것이다. 그리고 본 발명을 설명함에 있어, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 2는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규 화 장치의 구성을 나타내는 도면이다.
렌즈 220은 피사체(운전자의 얼굴)를 촬영하기 위한 것이다. 제1모터 240은 줌 파라미터 조정을 위해 상기 렌즈 220을 앞 혹은 뒤로 이동시키기 위한 것이다. 제2모터 260은 팬 파라미터 혹은 틸트 파라미터 조정을 위해 상기 렌즈 220을 수평 혹은 수직 방향으로 이동시키기 위한 것이다. 메모리부 280은 졸음운전 감지를 위한 프로그램과 정면 얼굴 형판 및 룩업 테이블들을 저장하기 위한 것이다. 제어부 600은 상기 룩업 테이블들에 의거 상기 제1 및 제2모터 240, 260의 구동을 제어하기 위한 것이다. 참조부호 Z는 줌 파라미터 조정 제어를 나타내고, 참조부호 P/C는 팬 혹은 틸트 파라미터 조정 제어를 나타낸다.
도 3은 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 방법을 설명하기 위한 영상 예시도이다.
(3a)는 입력 영상을 나타내는데, 운전자의 얼굴이 작고 좌측 아래쪽으로 치우쳐 있어 비정상적인 영상이다.
(3b)는 (3a)의 입력 영상에 대하여 팬 파라미터 조정을 실시한 영상인데, 운전자의 얼굴이 여전히 작고 아래쪽으로 치우쳐 있어 비정상적인 영상이다.
(3c)는 (3b)의 영상에 대하여 틸트 파라미터 조정을 실시한 영상인데, 운전자의 얼굴이 여전히 작아서 비정상적인 영상이다.
(3d)는 (3c)의 영상에 대하여 줌 파라미터 조정을 실시한 영상으로서, 정상 영상이다.
도 4는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규 화 중 얼굴 요소 계산 과정을 구체적으로 설명하기 위한 영상들을 예시한 것이다.
(4a)는 입력 영상을 나타낸다.
(4b)는 (4a)의 입력 영상으로부터 수평 에지를 검출한 영상이다.
(4c)는 (4b)의 영상으로부터 눈과 입 영역을 검출한 영상이다.
(4d)는 (4c)의 영상으로부터 주 수평선과 주 수직선을 검출한 영상이다.
(4e)는 (4d)의 영상으로부터 얼굴 주 영역을 검출한 영상이다.
(4c-1)과 (4e-1)은 설명의 편의와 이해를 돕기 위해 도시한 것이다. (4c-1)은 (4d)의 주 수평선과 주 수직선 검출에 필요한 눈 영역과 입 영역의 주요 좌표점들을 표시한 것이고, (4e-1)은 주 영역 검출에 필요한 두 좌표점을 표시한 것이다.
도 5는 본 발명의 바람직한 실시예에 따른 졸음운전 감지용 얼굴 검출 정규화 방법을 나타내는 흐름도이다.
차량 내 운전자의 얼굴을 안정적으로 검출하고 이를 통해 다시 눈 영역을 검출하려면, 얼굴 영역이 정확한 위치에서 적절한 크기로 검출되어야 한다. 만일 얼굴 영역이 너무 작게 검출될 경우에는 눈 영역 검출의 정보가 부정확해지고, 너무 크게 검출되면 운전자가 얼굴을 움직일 때는 그 영역을 놓치게 되어 눈 영역 검출에 실패하게 된다. 또한 얼굴이 영상에서 좌측 혹은 우측으로 너무 치우치게 되는 경우에도 얼굴 영역을 안정적으로 검출해 내지 못하게 된다. 그런데 아래 설명하는 바와 같이 자동으로 렌즈를 이동시켜 팬, 틸트, 혹은 줌 파라미터 조정을 실시하면 운전자의 얼굴을 안정적으로 검출할 수 있다.
510단계에서 장치는 초기 상태에서 영상을 입력한다. 여기서 초기 상태라 함 은 카메라의 줌 파라미터를 이용하여 피사체가 크게 찍히게 하여 운전자의 얼굴이 있는 때 항상 찍힐 수 있게 하는 것이다.
520단계에서 상기 입력 영상에서 초기 얼굴 영역을 검출한다. 계산의 편리를 위해서 정면 얼굴 형판을 이용하여 영상 내 매칭을 통해 얼굴 후보 영역을 찾아낸다.
530단계에서 검출 성공 여부를 체크한다. 즉, 상기 얼굴 후보 영역이 얼굴인지 아닌지를 판단한다. 이때 만일 초기 얼굴 영역을 찾지 못했다면 다시 510단계의 초기 상태로 돌아가게 된다. 반면에, 초기 얼굴 영역을 성공적으로 찾았으면 540단계로 진행하여 초기 얼굴 영역에 대한 특징 요소들을 계산하는 얼굴 요소 계산을 실시한다.
도 6은 도 5 중 얼굴 요소 계산 과정을 구체적으로 나타낸 흐름도이다.
42단계에서 얼굴 영역(도 5의 520단계에서 미리 검출해놓았던 초기 얼굴 영역)으로부터 눈 영역과 입 영역의 검출을 위해서 수평 에지를 검출한다. 이때 검출되는 수평 에지는 예를 들어 전술한 도 4의 (4b)에 나타낸 영상에 표시된 바와 같다. 이러한 수평 에지는 공지의 소벨 에지 계산법을 사용하여 검출할 수 있으며, 형판 정합을 통해서도 검출할 수 있다.
43단계에서 눈 영역 검출을 위해 수평 에지 영상을 분석한다. 눈썹 부분의 에지 밑에 나타나는 여러 라인의 수평 에지는 눈 영역이 된다. 이때 검출된 영역은 최적 사각형으로 구성한다. 히스토그램 분석이나 형판 정합을 통해서도 눈 영역 검출을 할 수 있다.
44단계에서 입 영역 검출을 위해 수평 에지 영상을 분석한다. 영상의 중앙에서 코 영역 에지 아래에 나타나는 수평 에지를 보면 입 영역을 검출 할 수 있다. 이때 검출된 영역은 최적 사각형으로 구성한다. 히스트로그램 분석이나 형판 정합을 통해서도 입 영역을 검출 할 수 있다.
45단계에서 주 수직선을 계산한다. 입력 영상을 2차원 좌표로 보고 제일 왼쪽 위를 기준점 (0,0)으로 보고 계산한다. 도 4의 (4d)에 나타낸 영상을 참조하면, 주 수직선은 왼쪽 수직선(vertical_left)과 오른쪽 수직선(vertical_right) 두 개이다. 또한 (4c-1)을 참조하면, 전자는 왼쪽 눈 영역의 오른쪽 점(P1 혹은 P2)의 좌표값을 이용하여 정의될 수 있고, 후자는 오른쪽 눈 영역의 왼쪽 점(P4 혹은 P5)의 좌표값을 이용하여 정의될 수 있다.
46단계에서 주 수평선을 계산한다. 이 계산은 눈 영역의 좌표와 입 영역의 좌표를 이용한다. 주 수평선은 위쪽 수평선(horizontal_up)과 아래쪽 수평선(horizontal_down) 두 개이다. 또한 (4c-1)을 참조하면, 전자는 눈 영역의 아래 점(P2, P3, P5 혹은 P6)의 좌표값을 이용하여 정의될 수 있고, 후자는 입 영역의 위쪽 점(P7 혹은 P8)의 좌표값을 이용하여 정의될 수 있다.
47단계에서 주 영역을 계산한다. 주 영역은 눈 영역과 입 영역을 포함하는 최소 외곽 사각형으로 만든다. 도 4의 (4e)에 주 영역이 예시되어 있으며, (4e-1)에 도시된 바와 같이 주 영역은 두 개의 점으로 표현될 수 있다. P9는 왼쪽 상단의 점이고, P10은 오른쪽 하단의 점으로 사각형을 표시한다. P9.left는 왼쪽 눈 영역의 x 좌표값과 입의 왼쪽 영역의 x 좌표값 중 더 작은 값을 나타낸다. P9.top은 왼 쪽 눈 영역의 y 좌표값과 오른쪽 눈 영역의 y 좌표값 중 더 작은 값을 나타낸다. P10.right는 오른쪽 눈 영역의 x 좌표값과 입의 오른쪽 영역의 x 좌표값 중 더 큰 값을 나타낸다. P10.bottom은 입 영역의 y 좌표값을 나타낸다.
이렇게 만들어진 주 수평/수직선은 팬/틸트 파라미터를 조정하는 데 사용하며 주 영역 정보는 줌 파라미터를 계산하는 데 사용할 수 있다.
다시 도 5를 참조하면, 550단계에서 팬 파라미터 조정을 실시한다. 예를 들면, 전술한 도 3의 (3a)와 같은 영상을 (3b)와 같은 영상으로 변화시키는 것을 말한다.
팬 파라미터 정보는 영상에서 수평으로 움직이는 정보가 되므로 주 수직 성분을 이용한다. 즉, 320 x 240 화소(pixel)의 QVGA 영상에서는 가로 성분이 320이다. 중앙값은 160이 되고 주 수직 성분이 두 눈 사이 간격이 되므로 두 간격 사이의 중앙값을 160에 맞출 수 있게 팬 파라미터 값을 조정하면 된다.
영상에서 x좌표의 중앙값을 meanx라고 하면, 아래 수학식을 만족하도록 팬 파라미터를 조정한다.
vertical_left < meanx < vertical_right
파라미터 조절을 위해서는 영상에서 일정한 화소 이동에 따라 모터의 조작 각도를 조절하게 되는데, 룩업 테이블을 이용하여 미리 모터값들을 정의하여 둘 수 있다.
560단계에서 틸트 파라미터 조정을 실시한다. 예를 들면, 전술한 도 3의 (3b)와 같은 영상을 (3c)와 같은 영상으로 변화시키는 것을 말한다.
즉, 320 x 240 화소의 QVGA 영상에서는 세로 성분이 240이며 중앙값은 120이 된다. 또한 주 수평선이 상하로 이루어져 있으므로 이 두 상하선의 중앙값이 120이 되게 틸트 파라미터를 조정하면 된다.
영상에서 y좌표의 중앙값을 meany라고 하면, 아래 수학식을 만족하도록 틸트 파라미터를 조정한다.
horizontal_top < meany < horizontal_down
팬 파라미터 조작 방식과 마찬가지로 룩업 테이블을 이용할 수 있다.
틸트 파라미터 조정이 끝나면, 570단계에서 줌 파라미터 조정을 실시한다. 예를 들면, 전술한 도 3의 (3c)와 같은 영상을 (3d)와 같은 영상으로 변화시키는 것을 말한다.
팬/틸트 파라미터 조정을 통해 이미 얼굴 영상이 화면의 중앙에 위치하게 된 다음에는 안정적으로 눈을 검출할 수 있다. 그러나 운전자가 졸거나 약간씩 움직이더라도 안정적으로 얼굴을 검출할 수 있게 하기 위해 줌 파라미터를 조정하게 된다.
영상에서 주 영역의 크기를 계산하여 그 값이 기준값의 범위 내에 들어가도록 정의한다. 이때 기준값은 사용자가 정할 수 있다. 주 영역의 크기를 n x m = nm 화소라고 할 때, 아래 수학식을 만족하도록 줌 파라미터를 조정한다. 여기서 Min과 Max는 주 영역 크기의 범위를 정하는 기준값이다.
Min < nm < Max
카메라 특성에 따라 다르지만, 예를 들어 해당 카메라는 졸음운전 감지용으 로 사용하기 위해 검출한 얼굴 영상이 최소한 64 x 64화소라야 한다고 가정하면, 정확한 주 영역의 크기는 4,096화소가 되어야 한다. 그러나 허용 오차 범위가 100화소라고 가정할 경우 3,996 ~ 4,196화소 사이의 값만 가지면 된다. 그러므로 검출한 주 영역의 크기가 3,996 ~ 4,196화소 사이의 값을 가지지 않을 경우 줌 파라미터를 조정하여 이를 만족시키도록 한다.
본 실시예에서는 도 3 및 도 5에 나타낸 바와 같이 팬, 틸트, 줌 파라미터를 모두 조정하는 경우를 설명하고 있으나 그들 중 얼굴 요소 계산 결과를 분석하여 상기 팬 파라미터, 틸트 파라미터, 혹은 줌 파라미터 중 어느 것의 조정이 필요한지 먼저 체크하여 해당 조정만 하면 된다.
한편 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 안 되며 후술하는 특허청구의 범위뿐 만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.
상술한 바와 같이 본 발명은 운전자의 운전 습관이나 얼굴의 크기 등과는 무관하게 일정한 크기로 일정한 위치에서 얼굴이 검출되게 정규화 해줌으로써 졸음운전 감지용 얼굴 검출의 정확도를 높일 수 있다.

Claims (20)

  1. 운전자의 얼굴을 촬영하기 위한 렌즈와,
    줌 파라미터 조정을 위해 상기 렌즈를 앞 혹은 뒤로 이동시키는 제1모터와,
    팬 파라미터 혹은 틸트 파라미터 조정을 위해 상기 렌즈를 수평 혹은 수직 방향으로 이동시키는 제2모터와,
    상기 촬영된 입력 영상으로부터 초기 얼굴 영역을 검출하고 그에 따라 상기 제1 및 제2모터의 구동을 제어하여 상기 줌, 팬, 틸트 조정을 하는 제어부를 포함하고,
    상기 제어부는,
    얼굴 요소 계산 결과를 기초로 상기 팬, 틸트, 줌 파라미터 조정을 하며,
    상기 입력 영상으로부터 검출한 초기 얼굴 영역에서 수평 에지를 검출하고, 상기 수평 에지 검출 결과로부터 눈 영역과 입 영역을 검출한 후, 주 수직선과 주 수평선을 계산하고 상기 주 수직선과 주 수평선 계산 결과로부터 주 영역을 계산하여 상기 얼굴 요소 계산을 함을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  2. 제1항에 있어서,
    상기 입력 영상 내 매칭을 통해 상기 초기 얼굴 영역을 검출하기 위한 정면 얼굴 형판을 저장하는 메모리를 더 구비함을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  3. 제1항에 있어서,
    상기 제1모터에 의한 줌 파라미터 조정값과 상기 제2모터에 의한 팬 파라미터 조정값 및 틸트 파라미터 조정값을 가지는 룩업 테이블들을 저장하는 메모리를 더 구비함을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  4. 삭제
  5. 제1항에 있어서,
    상기 팬 파라미터 조정은 상기 초기 얼굴 영역에서 x좌표의 중앙값이 두 개의 주 수직선 사이에 있도록 상기 제2모터를 구동하는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  6. 제5항에 있어서,
    상기 주 수직선이 상기 초기 얼굴 영역에서 왼쪽 눈 영역의 오른쪽 점 좌표값과 오른쪽 눈 영역의 왼쪽 점 좌표값에 의해 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  7. 제1항에 있어서,
    상기 틸트 파라미터 조정은 상기 초기 얼굴 영역에서 y좌표의 중앙값이 두 개의 주 수평선 사이에 있도록 상기 제2모터를 구동하는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  8. 제1항에 있어서,
    상기 주 수평선이 상기 초기 얼굴 영역에서 눈 영역의 아래 점 좌표값과 입 영역의 위 점 좌표값에 의해 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  9. 제1항에 있어서,
    상기 팬 파라미터 조정은 상기 초기 얼굴 영역에서 x좌표의 중앙값이 왼쪽 눈 영역의 오른쪽 점 좌표값과 오른쪽 눈 영역의 왼쪽 점 좌표값 사이에 있도록 상기 제2모터를 구동하는 것이며,
    상기 틸트 파라미터 조정은 상기 초기 얼굴 영역에서 y좌표의 중앙값이 눈 영역의 아래 점 좌표값과 입 영역의 위 점 좌표값 사이에 있도록 상기 제2모터를 구동하는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  10. 제1항에 있어서,
    상기 주 영역은 상기 눈 영역과 상기 입 영역을 포함하는 최소 외곽 사각형으로 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  11. 제10항에 있어서,
    상기 주 영역은 두 개의 점으로 정의되며,
    제1점의 x 좌표값은 왼쪽 눈 영역의 x 좌표값과 입의 왼쪽 영역의 x 좌표값 중 더 작은 값을 가지고, y 좌표값은 왼쪽 눈 영역의 y 좌표값과 오른쪽 눈 영역의 y 좌표값 중 더 작은 값을 가지며,
    제2점의 x 좌표값은 오른쪽 눈 영역의 x 좌표값과 입의 오른쪽 영역의 x 좌 표값 중 더 큰 값을 가지고, y 좌표값은 입 영역의 y 좌표값을 가짐을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 장치.
  12. 팬/틸트/줌 파라미터 조정이 가능한 렌즈를 구비한 졸음운전 감지용 얼굴 검출 장치에서, 상기 얼굴 검출을 정규화하는 방법에 있어서,
    입력 영상으로부터 초기 얼굴 영역을 검출하는 과정과,
    상기 검출한 초기 얼굴 영역으로부터 얼굴 요소를 계산하는 과정과,
    상기 얼굴 요소 계산 결과를 분석하여 상기 팬 파라미터, 틸트 파라미터, 혹은 줌 파라미터의 조정이 필요한지 체크하는 과정과,
    상기 체크 결과에 따라 팬 파라미터, 틸트 파라미터, 혹은 줌 파라미터를 조정하여 정규화된 얼굴 영상을 획득하는 과정을 포함하며,
    상기 얼굴 요소를 계산하는 과정은,
    상기 입력 영상으로부터 검출한 초기 얼굴 영역에서 수평 에지를 검출하는 단계와,
    상기 수평 에지 검출 결과로부터 눈 영역과 입 영역을 검출하는 단계와,
    상기 눈 영역과 입 영역 검출 결과로부터 주 수직선과 주 수평선을 계산하는 단계와,
    상기 주 수직선과 주 수평선 계산 결과로부터 주 영역을 계산하는 단계를 포함을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  13. 삭제
  14. 제12항에 있어서,
    상기 팬 파라미터 조정은 상기 초기 얼굴 영역에서 x좌표의 중앙값이 두 개의 주 수직선 사이에 있도록 상기 렌즈를 수평 이동시키는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  15. 제14항에 있어서,
    상기 주 수직선이 상기 초기 얼굴 영역에서 왼쪽 눈 영역의 오른쪽 점 좌표값과 오른쪽 눈 영역의 왼쪽 점 좌표값에 의해 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  16. 제12항에 있어서,
    상기 틸트 파라미터 조정은 상기 초기 얼굴 영역에서 y좌표의 중앙값이 두 개의 주 수평선 사이에 있도록 상기 렌즈를 수직 이동시키는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  17. 제16항에 있어서,
    상기 주 수평선이 상기 초기 얼굴 영역에서 눈 영역의 아래 점 좌표값과 입 영역의 위 점 좌표값에 의해 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  18. 제12항에 있어서,
    상기 팬 파라미터 조정은 상기 초기 얼굴 영역에서 x좌표의 중앙값이 왼쪽 눈 영역의 오른쪽 점 좌표값과 오른쪽 눈 영역의 왼쪽 점 좌표값 사이에 있도록 상기 렌즈를 수평 이동시키는 것이며,
    상기 틸트 파라미터 조정은 상기 초기 얼굴 영역에서 y좌표의 중앙값이 눈 영역의 아래 점 좌표값과 입 영역의 위 점 좌표값 사이에 있도록 상기 렌즈를 수직 이동시키는 것임을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  19. 제12항에 있어서,
    상기 주 영역은 상기 눈 영역과 상기 입 영역을 포함하는 최소 외곽 사각형으로 결정됨을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
  20. 제19항에 있어서,
    상기 주 영역은 두 개의 점으로 정의되며,
    제1점의 x 좌표값은 왼쪽 눈 영역의 x 좌표값과 입의 왼쪽 영역의 x 좌표값 중 더 작은 값을 가지고, y 좌표값은 왼쪽 눈 영역의 y 좌표값과 오른쪽 눈 영역의 y 좌표값 중 더 작은 값을 가지며,
    제2점의 x 좌표값은 오른쪽 눈 영역의 x 좌표값과 입의 오른쪽 영역의 x 좌표값 중 더 큰 값을 가지고, y 좌표값은 입 영역의 y 좌표값을 가짐을 특징으로 하는 졸음운전 감지용 얼굴 검출 정규화 방법.
KR1020050005555A 2005-01-20 2005-01-20 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법 KR101159847B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020050005555A KR101159847B1 (ko) 2005-01-20 2005-01-20 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법
US11/335,216 US8055016B2 (en) 2005-01-20 2006-01-19 Apparatus and method for normalizing face image used for detecting drowsy driving

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020050005555A KR101159847B1 (ko) 2005-01-20 2005-01-20 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20060084750A KR20060084750A (ko) 2006-07-25
KR101159847B1 true KR101159847B1 (ko) 2012-06-25

Family

ID=36912760

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020050005555A KR101159847B1 (ko) 2005-01-20 2005-01-20 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법

Country Status (2)

Country Link
US (1) US8055016B2 (ko)
KR (1) KR101159847B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104083160A (zh) * 2014-06-30 2014-10-08 天津大学 一种基于机器视觉的睡眠状态监测方法及装置
US11823468B2 (en) 2019-11-19 2023-11-21 Hyundai Mobis Co., Ltd. Driver state warning system and method of monitoring driver state

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007020789A1 (ja) * 2005-08-12 2007-02-22 Sony Computer Entertainment Inc. 顔画像表示装置、顔画像表示方法及び顔画像表示プログラム
JP4309926B2 (ja) * 2007-03-13 2009-08-05 アイシン精機株式会社 顔特徴点検出装置、顔特徴点検出方法及びプログラム
CN100463000C (zh) * 2007-09-27 2009-02-18 上海交通大学 基于级联分类和哈夫圆变换的人眼状态检测方法
KR20100081049A (ko) * 2009-01-05 2010-07-14 삼성전자주식회사 휴대용 단말기에서 영상 촬영 방법 및 장치
JP5845464B2 (ja) * 2011-05-31 2016-01-20 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法並びにデジタルカメラ
KR102194711B1 (ko) * 2015-02-04 2020-12-23 삼성전기주식회사 카메라 모듈 손떨림 보정 장치 및 이의 게인 조정 방법
CN105227832B (zh) * 2015-09-09 2018-08-10 厦门美图之家科技有限公司 一种基于关键点检测的自拍方法、自拍***及拍摄终端
US10065651B2 (en) 2016-05-10 2018-09-04 Samsung Electronics Co., Ltd Electronic device and method for determining a state of a driver
US10891502B1 (en) * 2017-01-19 2021-01-12 State Farm Mutual Automobile Insurance Company Apparatuses, systems and methods for alleviating driver distractions
US10121084B2 (en) * 2017-03-07 2018-11-06 Wipro Limited Method and a system for detecting drowsiness state of a vehicle user
CN107862298B (zh) * 2017-11-27 2021-07-06 电子科技大学 一种基于红外摄像装置下眨眼的活体检测方法
CN108960067B (zh) * 2018-06-05 2021-04-13 北京华纵科技有限公司 基于深度学习的实时的列车驾驶员动作识别***和方法
JP7234614B2 (ja) * 2018-12-10 2023-03-08 トヨタ自動車株式会社 異常検出装置、異常検出システム及び異常検出プログラム
KR102501112B1 (ko) * 2021-04-09 2023-02-16 티맵모빌리티 주식회사 졸음운전 감지장치 및 졸음운전 감지장치의 동작 방법
CN113223261B (zh) * 2021-04-30 2022-09-30 重庆天智慧启科技有限公司 居住区域周界的布防***及方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1148820A (ja) * 1997-08-07 1999-02-23 Nissan Diesel Motor Co Ltd 居眠り警報装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5689241A (en) * 1995-04-24 1997-11-18 Clarke, Sr.; James Russell Sleep detection and driver alert apparatus
JP3183161B2 (ja) * 1996-04-12 2001-07-03 三菱自動車工業株式会社 覚醒度推定装置
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
US6661345B1 (en) * 1999-10-22 2003-12-09 The Johns Hopkins University Alertness monitoring system
US6950027B2 (en) * 2000-08-23 2005-09-27 Siemens Vdo Automotive Corporation Method to alert drowsy driver
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
US20020180608A1 (en) * 2001-05-04 2002-12-05 Sphericon Ltd. Driver alertness monitoring system
US6926429B2 (en) * 2002-01-30 2005-08-09 Delphi Technologies, Inc. Eye tracking/HUD system
US7202792B2 (en) * 2002-11-11 2007-04-10 Delphi Technologies, Inc. Drowsiness detection system and method

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1148820A (ja) * 1997-08-07 1999-02-23 Nissan Diesel Motor Co Ltd 居眠り警報装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104083160A (zh) * 2014-06-30 2014-10-08 天津大学 一种基于机器视觉的睡眠状态监测方法及装置
US11823468B2 (en) 2019-11-19 2023-11-21 Hyundai Mobis Co., Ltd. Driver state warning system and method of monitoring driver state

Also Published As

Publication number Publication date
US20060188130A1 (en) 2006-08-24
US8055016B2 (en) 2011-11-08
KR20060084750A (ko) 2006-07-25

Similar Documents

Publication Publication Date Title
KR101159847B1 (ko) 졸음운전 감지용 얼굴 검출 정규화 장치 및 방법
TWI704501B (zh) 可由頭部操控的電子裝置與其操作方法
US9172931B2 (en) Projection display device, information processing device, projection display system, and program
US11238613B2 (en) Dynamical camera calibration
EP2813173B1 (en) Terminal device and line of sight detection method
EP1653279A1 (en) Object decision device and imaging device
US7907752B2 (en) Face center position detecting device, face center position detecting method, and computer-readable medium
JP5661043B2 (ja) 外光映り込み判定装置、視線検出装置及び外光映り込み判定方法
KR101769177B1 (ko) 시선 추적 장치 및 방법
JP3926507B2 (ja) 目位置及び顔位置検出装置
JPH113429A (ja) 観察者トラッキング自動立体表示装置、画像トラッキングシステム、および画像トラッキング方法
CN107960989B (zh) 脉搏波计测装置以及脉搏波计测方法
US11455810B2 (en) Driver attention state estimation
JP2005247224A (ja) 車両用表示装置
JP5289962B2 (ja) 視力矯正支援システム
EP3575926B1 (en) Method and eye tracking system for providing an approximate gaze convergence distance of a user
JP2020048971A (ja) 眼球情報推定装置、眼球情報推定方法および眼球情報推定プログラム
JP2006268248A (ja) 撮影装置、顔の向きの判定方法
US10692230B2 (en) Document imaging using depth sensing camera
US20200202491A1 (en) Method, system and recording medium for building environment map
JP7343237B2 (ja) 追跡方法
JP2009287936A (ja) 運転者眼球位置検出装置
JP7367637B2 (ja) 顔情報取得装置および顔情報取得方法
CN113879321A (zh) 驾驶员监视装置及驾驶员监视方法
US20170161933A1 (en) Mobile virtual reality (vr) operation method, system and storage media

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20150528

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20160530

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20170529

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20180530

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20190530

Year of fee payment: 8