KR20220054743A - 서브시스템 성능 평가를 위한 메트릭 역전파 - Google Patents

서브시스템 성능 평가를 위한 메트릭 역전파 Download PDF

Info

Publication number
KR20220054743A
KR20220054743A KR1020210054349A KR20210054349A KR20220054743A KR 20220054743 A KR20220054743 A KR 20220054743A KR 1020210054349 A KR1020210054349 A KR 1020210054349A KR 20210054349 A KR20210054349 A KR 20210054349A KR 20220054743 A KR20220054743 A KR 20220054743A
Authority
KR
South Korea
Prior art keywords
subsystem
performance metric
data
processor
test fixture
Prior art date
Application number
KR1020210054349A
Other languages
English (en)
Other versions
KR102565573B1 (ko
Inventor
바삼 헬루
오스카 올로프 베지봄
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20220054743A publication Critical patent/KR20220054743A/ko
Application granted granted Critical
Publication of KR102565573B1 publication Critical patent/KR102565573B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/3664—Environments for testing or debugging software
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/04—Monitoring the functioning of the control system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/06—Improving the dynamic response of the control system, e.g. improving the speed of regulation or avoiding hunting or overshoot
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function
    • G06F11/0739—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function in a data processing system embedded in automotive or aircraft systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/26—Functional testing
    • G06F11/27—Built-in tests
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3013—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is an embedded system, i.e. a combination of hardware and software dedicated to perform a certain function in mobile devices, printers, automotive or aircraft systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0019—Control system elements or transfer functions
    • B60W2050/0028—Mathematical models, e.g. for simulation
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2400/00—Special features of vehicle units
    • B60Y2400/30—Sensors
    • G05D2201/0213—

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)

Abstract

서브시스템 성능을 평가하기 위한 시스템, 방법 및 컴퓨터 프로그램 제품이 제공된다. 일부 실시예에서, 방법은 복수의 서브시스템을 포함하는 시스템의 제1 서브시스템의 제1 속성을 교란시키는 단계; 제1 속성을 교란시키는 것에 응답하여 시스템의 제2 서브시스템의 제2 속성의 변화를 결정하는 단계 - 제1 서브시스템의 적어도 하나의 출력은 제2 서브시스템에 전달됨 -; 및 시스템의 성능 메트릭에 대한 값을 성능 메트릭과 제1 및 제2 속성 간의 상관에 기초하여 결정하는 단계를 포함한다. 일부 실시예에서, 이 시스템은 자율 주행 차량(AV)의 소프트웨어 스택이고 성능 메트릭은 AV의 운전 거동의 품질을 나타내는 목적 함수 출력이다.

Description

서브시스템 성능 평가를 위한 메트릭 역전파{METRIC BACK-PROPAGATION FOR SUBSYSTEM PERFORMANCE EVALUATION}
관련 출원의 상호 참조
본 출원은 2020년 10월 25일에 출원된, 발명의 명칭이 "METRIC BACK-PROPAGATION FOR SUBSYSTEM PERFORMANCE EVALUATION"인 미국 가특허 출원 제63/105,329호의 이익을 주장하며, 이 미국 출원의 내용은 참조에 의해 그 전체가 본 명세서에 포함된다.
발명의 분야
본 설명은 시스템 레벨 목적 함수와 관련한 서브시스템 성능 평가에 관한 것이다.
시스템, 예를 들어, 자율 주행 차량(autonomous vehicle, AV)에 포함된 시스템은 일반적으로 데이터를 수신하거나 송신하는 다수의 관련 서브시스템을 포함한다. 이러한 서브시스템에서, 시스템의 성능을 개선시키기 위해 주어진 서브시스템의 파라미터를 어떻게 변경해야 하는지를 식별하기가 어려울 수 있다.
도 1은 환경에서 동작하는 자율 주행 능력(autonomous capability)을 갖는 AV의 예를 도시하는 다이어그램이다.
도 2는 컴퓨터 시스템을 도시하는 다이어그램이다.
도 3은 AV에 대한 예시적인 아키텍처를 도시하는 다이어그램이다.
도 4는 인지 시스템에 의해 사용될 수 있는 입력 및 출력의 예를 도시하는 다이어그램이다.
도 5는 다양한 실시예에 따른, 복수의 서브시스템을 갖는 단순화된 시스템을 도시하는 다이어그램이다.
도 6은 다양한 실시예에 따른, 대안의 예시적인 AV 스택을 도시하는 다이어그램이다.
도 7은 다양한 실시예에 따른, 플래너에 대한 예시적인 입력을 도시하는 다이어그램이다.
도 8은 다양한 실시예에 따른, AV 스택의 모델링에 관련된 예시적인 기술을 도시하는 다이어그램이다.
이하의 기술에서는, 설명을 위해, 본 개시에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항이 기재된다. 그렇지만, 본 개시가 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 개시를 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.
도면에서, 설명을 용이하게 하기 위해, 디바이스, 모듈, 시스템, 명령어 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시하는 것으로 의미되지 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시하는 것으로 의미되지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시하는 것으로 의미되지 않는다.
게다가, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재는 연결, 관계 또는 연관이 존재할 수 없음을 암시하는 것으로 의미되지 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되어 있지 않다. 추가적으로, 예시의 용이성을 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령어의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.
그 예가 첨부 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.
각각이 서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 사용될 수 있는 여러 특징이 이하에서 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 어떤 것도 해결할 수 없거나 또는 위에서 논의된 문제들 중 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부가 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:
1. 일반적 개관
2. 시스템 개관
3. AV 아키텍처
4. AV 입력
5. AV 서브시스템 교란(perturbation) 및 모델링
일반적 개관
시스템 레벨 목적 함수와 관련한 서브시스템 성능 평가를 위한 시스템, 방법 및 컴퓨터 프로그램 제품이 본원에서 개시된다.
일부 실시예에서, 방법은: 적어도 하나의 프로세서를 사용해, 복수의 서브시스템을 포함하는 시스템의 제1 서브시스템의 제1 속성을 교란시키는 단계; 적어도 하나의 프로세서를 사용해, 제1 속성을 교란시키는 것에 응답하여 시스템의 제2 서브시스템의 제2 속성의 변화를 결정하는 단계 - 제1 서브시스템의 적어도 하나의 출력이 제2 서브시스템에 전달됨 -; 및 적어도 하나의 프로세서를 사용해, 시스템의 성능 메트릭에 대한 값을 성능 메트릭과 제1 및 제2 속성 간의 상관에 기초하여 결정하는 단계를 포함한다.
일부 실시예에서, 이 방법은: 제1 테스트 픽스처(test fixture)를 사용해, 제1 속성을 교란시키는 것에 응답하여 제1 서브시스템의 성능을 평가하는 단계; 적어도 하나의 프로세서를 사용해, 제1 서브시스템에 대한 평가에 기초하여 제1 점수를 계산하는 단계; 제2 테스트 픽스처를 사용해, 제1 속성을 교란시키는 것에 응답하여 제2 서브시스템의 성능을 평가하는 단계; 적어도 하나의 프로세서를 사용해, 제2 서브시스템에 대한 평가에 기초하여 제2 점수를 계산하는 단계; 및 제1 점수 및 제2 점수에 기초하여 성능 메트릭의 값을 결정하는 단계를 더 포함한다.
일 실시예에서, 성능 메트릭의 값을 결정하는 단계는 교란된 제1 및 제2 점수의 그레이디언트(gradient)를 사용하여 성능 메트릭의 값을 예측하는 단계를 더 포함한다.
일 실시예에서, 제2 테스트 픽스처는 제1 서브시스템에서 실행될 수 있는 데이터를 포함하지 않으며, 이 방법은 제2 서브시스템이 제2 테스트 픽스처 내의 대한 데이터에 어떻게 영향을 미치는지(예를 들면, 제1 테스트 픽스처에서 사용된 그라운드 트루스(ground truth) 정보를 어떻게 열화시키는지)를 시뮬레이션하는 단계를 더 포함한다.
일 실시예에서, 그레이디언트는 성능 메트릭과 교란된 제1 및 제2 점수 사이의 선형 모델을 사용하여 추정된다.
일 실시예에서, 성능 메트릭의 값은 선형 모델에 선형 최소 제곱 수식화(linear least squares formulation)를 적용하는 것에 의해 예측된다.
일 실시예에서, 제1 서브시스템의 대안적인 구현에 대한 성능 메트릭의 값이 예측된다.
일 실시예에서, 성능 메트릭은 시스템 레벨 목적 함수이다.
일 실시예에서, 이 시스템은 자율 주행 차량(AV)의 소프트웨어 스택이고, 성능 메트릭은 AV의 운전 거동의 품질을 나타내는 목적 함수 출력이다.
일 실시예에서, 이 시스템은 제2 서브시스템의 출력을 수신하는 제3 서브시스템 및 제3 서브시스템의 출력을 수신하는 제4 서브시스템을 포함하며, 제1 서브시스템은 센서 서브시스템이고, 제2 서브시스템은 센서로부터 센서 데이터를 수신하는 인지 서브시스템이며, 제3 서브시스템은 인지 서브시스템으로부터 대상체 검출을 수신하는 추적 서브시스템이고, 제4 서브시스템은 추적 서브시스템으로부터 대상체 트랙을 수신하는 플래너이며, 성능 메트릭은 프로세서 및 플래너의 테스트 픽스처를 사용하여 결정된다.
일 실시예에서, 대상체 트랙은 플래너의 테스트 픽스처 내의 그라운드 트루스 트랙을 열화시키는 것에 의해 시뮬레이션된다.
일 실시예에서, 성능 메트릭은 제1 또는 제2 서브시스템 중 적어도 하나의 고장률(failure rate)을 고려한다.
일 실시예에서, 시스템은: 적어도 하나의 프로세서; 적어도 하나의 프로세서에 의해 실행될 때, 적어도 하나의 프로세서로 하여금 위에서 기술된 방법들 중 임의의 방법을 수행하게 하는 명령어를 저장한 메모리를 포함한다.
본원에서 기술된 시스템, 방법 및 컴퓨터 프로그램 제품의 구현에 의해, 서브시스템 성능 평가를 위한 기술은 서브시스템들 각각이 전체 시스템 및/또는 적어도 하나의 다른 서브시스템에 어떻게 영향을 미치는지에 대한 더 정확한 결정을 결과할 수 있다. 추가적으로 또는 대안적으로, 다른 서브시스템이 본원에서 기술된 방식의 평가 없이 선택되었을 경우보다 시스템 전체가 더 효율적이도록, 서브시스템이 구현에 대해 평가되고 선택될 수 있다. 이는, 차례로, 더 적은 리소스를 사용하여 동작할 수 있는 더 효율적인 시스템을 제공한다.
시스템 개관
도 1은 자율 주행 능력을 갖는 차량의 예를 도시하는 다이어그램이다.
본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 AV, 고도의 AV, 및 조건부 AV를 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작될 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.
본원에서 사용되는 바와 같이, AV는 자율 주행 능력을 갖는 차량이다.
본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 예이다.
본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.
본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그 대 디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM(random-access memory) 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.
본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.
본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물에서의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.
본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 부분이다. 차선은 때때로 차선 마킹에 기초하여 식별된다. 예를 들어, 차선은 차선 마킹들 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹들 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹들을 갖는 도로는, 하나의 차량이 차선 마킹을 횡단하지 않으면서 다른 차량을 추월할 수 있도록, 마킹들 사이에 둘 이상의 차량을 수용할 수 있으며, 따라서 차선 마킹들 사이의 공간보다 좁은 차선을 갖거나 차선 마킹들 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징부, 예를 들면, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무 또는, 예를 들면, 미개발 지역에서의 피할 자연 장애물에 기초하여 규정될 수 있다. 차선은 또한 차선 마킹 또는 물리적 특징부와 무관하게 해석될 수 있다. 예를 들어, 차선은 차선 경계로서 해석될 특징부가 달리 없는 영역에서 장애물이 없는 임의의 경로에 기초하여 해석될 수 있다. 예시적인 시나리오에서, AV는 들판 또는 공터의 장애물 없는 부분을 통해 차선을 해석할 수 있다. 다른 예시적인 시나리오에서, AV는 차선 마킹을 갖지 않는 넓은(예를 들면, 2개 이상의 차선을 위해 충분히 넓은) 도로를 통해 차선을 해석할 수 있다. 이 시나리오에서, AV는 차선에 관한 정보를 다른 AV에 통신할 수 있음으로써, 다른 AV가 동일한 차선 정보를 사용하여 그 자신들 간에 경로 계획을 조정할 수 있다.
"하나 이상"은 하나의 요소에 의해 수행되는 기능, 둘 이상의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.
또한, 제1, 제2 등의 용어가, 일부 예에서, 다양한 요소를 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.
본원에 기술된 다양한 실시예에 대한 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항에 대한 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 나타내지 않는 한, 복수형을 포함하는 것으로 의도된다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 일부 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. "포함한다" 및/또는 "포함하는"이라는 용어가, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명시하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 추가로 이해될 것이다.
본원에서 사용되는 바와 같이, "~ 경우"라는 용어는, 선택적으로, 문맥에 따라 "~할 때", 또는 "~시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "~을 검출하는 것에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는, 선택적으로, 문맥에 따라, "~라고 결정할 시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시에" 또는 "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여"를 의미하는 것으로 해석된다.
본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는 하드웨어, 소프트웨어, 저장된 데이터 및 실시간으로 생성되는 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 클라우드 컴퓨팅 환경과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.
일반적으로, 본 문서는 완전한 AV, 고도의 AV, 및 조건부 AV, 예컨대, 제각기 소위 레벨 5, 레벨 4 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 설명한다(차량의 자율성의 레벨 분류에 대한 추가 세부 사항에 대해서는, 참조에 의해 그 전체가 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본 문서에서 설명되는 기술은 부분적 AV 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 AV로부터 인간 운전 차량에 이르는, 임의의 레벨의 차량에 혜택을 줄 수 있다.
AV는 인간 운전자를 필요로 하는 차량에 비해 장점이 있다. 한 가지 장점은 안전성이다. 예를 들어, 2016년에, 미국은, 9100억 달러 초과의 사회적 비용으로 추정되는, 600만 건의 자동차 사고, 240만 건의 부상, 4만 명의 사망자수, 및 1300만 건의 차량 충돌을 경험하였다. 1억 마일 주행당 미국 교통 사망자수는, 부분적으로 차량에 설치된 추가적인 안전 대책으로 인해, 1965년과 2015년 사이에 약 6명으로부터 약 1명으로 감소되었다. 예를 들어, 충돌이 발생할 것이라는 추가적인 0.5초의 경고는 전후 충돌의 60%를 완화시키는 것으로 여겨진다. 그렇지만, 수동적 안전 특징부(예를 들면, 안전 벨트, 에어백)는 이 수치를 개선시키는 데 한계에 도달했을 것이다. 따라서 차량의 자동 제어와 같은, 능동적 안전 대책이 이러한 통계를 개선시키는 데 유력한 다음 단계이다. 인간 운전자가 충돌의 95%에서 중요한 충돌전 이벤트에 책임있는 것으로 여겨지기 때문에, 자동 운전 시스템은, 예를 들면, 중요한 상황을 인간보다 잘 신뢰성 있게 인식하고 피하는 것에 의해; 더 나은 의사 결정을 하고, 교통 법규를 준수하며, 미래의 이벤트를 인간보다 더 잘 예측하는 것에 의해; 및 차량을 인간보다 더 잘 신뢰성 있게 제어하는 것에 의해 더 나은 안전성 결과를 달성할 수 있다.
도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 타는 사람, 및 다른 장애물)을 피하고 도로 법규(예를 들면, 운영 규칙 또는 운전 선호사항)를 준수하면서, 차량(100)을 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 차량으로 하여금 액션(예를 들면, 운전 기동)을 수행하게 하는 실행 가능 명령어(또는 명령어 세트)을 의미하기 위해 "동작 커맨드"라는 용어를 사용한다. 동작 커맨드는, 제한 없이, 차량이 전진을 시작하고, 전진을 중지하며, 후진을 시작하고, 후진을 중지하며, 가속하고, 감속하며, 좌회전을 수행하고, 우회전을 수행하기 위한 명령어를 포함할 수 있다. 일 실시예에서, 컴퓨터 프로세서(146)는 도 2를 참조하여 아래에서 기술되는 프로세서(204)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.
일 실시예에서, AV 시스템(120)은 AV의 위치, 선속도와 각속도 및 선가속도와 각가속도, 및 헤딩(heading)(예를 들면, 차량(100)의 선단의 배향)과 같은 차량(100)의 상태 또는 조건의 속성을 측정하거나 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정하거나 추정하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.
일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지하거나 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(Light Detection and Ranging)(123), RADAR, 초음파 센서, 비행 시간(time-of-flight, TOF) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강수 센서.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령어 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 2와 관련하여 아래에서 기술되는 ROM(208) 또는 저장 디바이스(210)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(206)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)에 송신된다.
일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건의 측정된 또는 추론된 속성, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 선형 헤딩(linear heading)과 각도 헤딩(angular heading)을 차량(100)에 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, AV와의 통신 및 AV들 간의 통신을 위한 하나 이상의 통신 표준에 따른다.
일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 클라우드 컴퓨팅 환경에 내장된다. 통신 디바이스(140)는 센서(121)로부터 수집된 데이터 또는 차량(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)로 송신한다. 일 실시예에서, 통신 디바이스(140)는 원격 운용(teleoperation)에 관련되는 정보를 차량(100)으로 송신한다. 일부 실시예에서, 차량(100)은 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 차량(100) 상의 메모리(144)에 저장되거나, 또는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)으로 송신된다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 하루 중 시간(time of day)에 궤적(198)을 따라 이전에 주행한 차량의 운전 속성(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 차량(100) 상의 메모리(144)에 저장될 수 있거나, 또는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)으로 송신될 수 있다.
차량(100) 상에 위치된 컴퓨팅 프로세서(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 능력을 실행할 수 있게 한다.
일 실시예에서, AV 시스템(120)은 차량(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 사용자로부터 입력을 수신하기 위해 컴퓨터 프로세서(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 컴퓨터 주변기기(132)는 도 2을 참조하여 아래에서 논의되는 디스플레이(212), 입력 디바이스(214), 및 커서 컨트롤러(216)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.
일 실시예에서, AV 시스템(120)은, 예를 들면, 승객에 의해 명시되거나 승객과 연관된 프로파일에 저장된, 승객의 프라이버시 레벨을 수신하고 시행한다. 승객의 프라이버시 레벨은 승객과 연관된 특정 정보(예를 들면, 승객 편의 데이터, 생체 측정 데이터 등)가 사용되도록, 승객 프로파일에 저장되도록, 그리고/또는 클라우드 서버(136)에 저장되어 승객 프로파일과 연관되도록 할 수 있는 방법을 결정한다. 일 실시예에서, 프라이버시 레벨은 일단 라이드(ride)가 완료되면 삭제되는 승객과 연관된 특정 정보를 명시한다. 일 실시예에서, 프라이버시 레벨은 승객과 연관된 특정 정보를 명시하고 정보에 액세스하도록 인가된 하나 이상의 엔티티를 식별해준다. 정보에 액세스하도록 인가되어 있는 명시된 엔티티의 예는 다른 AV, 서드파티 AV 시스템, 또는 정보에 잠재적으로 액세스할 수 있는 임의의 엔티티를 포함할 수 있다.
승객의 프라이버시 레벨은 하나 이상의 입도(granularity) 레벨로 명시될 수 있다. 일 실시예에서, 프라이버시 레벨은 저장 또는 공유될 특정 정보를 식별해준다. 일 실시예에서, 승객이 자신의 개인 정보가 저장 또는 공유되지 않게 명시할 수 있도록 승객과 연관된 모든 정보에 프라이버시 레벨이 적용된다. 특정 정보에 액세스하도록 허용된 엔티티의 명시는 다양한 입도 레벨로 명시될 수 있다. 특정 정보에 액세스하도록 허용되는 다양한 엔티티 세트는, 예를 들어, 다른 AV, 클라우드 서버(136), 특정 서드파티 AV 시스템 등을 포함할 수 있다.
일 실시예에서, AV 시스템(120) 또는 클라우드 서버(136)는 승객과 연관된 특정 정보가 차량(100) 또는 다른 엔티티에 의해 액세스될 수 있는지를 결정한다. 예를 들어, 특정 시공간적 위치에 관련된 승객 입력에 액세스하려고 시도하는 서드파티 AV 시스템은 승객과 연관된 정보에 액세스하기 위해, 예를 들면, AV 시스템(120) 또는 클라우드 서버(136)로부터 인가를 획득해야 한다. 예를 들어, AV 시스템(120)은 시공간적 위치에 관련된 승객 입력이 서드파티 AV 시스템, 차량(100), 또는 다른 AV에 제공될 수 있는지 여부를 결정하기 위해 승객의 지정된 프라이버시 레벨을 사용한다. 이것은 승객의 프라이버시 레벨이 어느 다른 엔티티가 승객의 액션에 관한 데이터 또는 승객과 연관된 다른 데이터를 수신하도록 허용되는지를 명시할 수 있게 한다.
도 2는 컴퓨터 시스템(200)을 도시하는 다이어그램이다. 일 구현예에서, 컴퓨터 시스템(200)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 또는 기술을 수행하도록 영구적으로 프로그래밍되어 있는 하나 이상의 ASIC 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 또는 펌웨어, 메모리, 다른 스토리지 또는 그 조합 내의 프로그램 명령어에 따라 기술을 수행하도록 프로그래밍되어 있는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스는 또한 커스텀 고정 배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수 목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.
일 실시예에서, 컴퓨터 시스템(200)은 정보를 통신하기 위한 버스(202) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위한, 버스(202)와 결합된 프로세서(204)를 포함한다. 프로세서(204)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(200)은 프로세서(204)에 의해 실행될 명령어 및 정보를 저장하기 위해 버스(202)에 결합된, RAM 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(206)를 또한 포함한다. 일 구현예에서, 메인 메모리(206)는 프로세서(204)에 의해 실행될 명령어의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령어는, 프로세서(204)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(200)을 명령어에 명시된 동작을 수행하도록 커스터마이징된 특수 목적 머신으로 만든다.
일 실시예에서, 컴퓨터 시스템(200)은, 프로세서(204)를 위한 정적 정보 및 명령어를 저장하기 위한, 버스(202)에 결합된 ROM(read only memory)(208) 또는 다른 정적 저장 디바이스를 더 포함한다. 정보 및 명령어를 저장하기 위한, 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(210)가 제공되고 버스(202)에 결합된다.
일 실시예에서, 컴퓨터 시스템(200)은 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(212)에 버스(202)를 통해 결합된다. 정보 및 커맨드 선택을 프로세서(204)에 통신하기 위한 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(214)가 버스(202)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(204)에 통신하고 디스플레이(212) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(216)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 명시할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x 축) 및 제2 축(예를 들면, y 축)에서의 2 자유도를 갖는다.
일 실시예에 따르면, 본원에서의 기술은 프로세서(204)가 메인 메모리(206)에 포함된 하나 이상의 명령어의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(200)에 의해 수행된다. 그러한 명령어는, 저장 디바이스(210)와 같은, 다른 저장 매체로부터 메인 메모리(206) 내로 판독된다. 메인 메모리(206)에 포함된 명령어 시퀀스의 실행은 프로세서(204)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서, 소프트웨어 명령어 대신에 또는 소프트웨어 명령어와 조합하여 고정 배선 회로가 사용된다.
"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신으로 하여금 특정 방식으로 동작하게 하는 데이터 및/또는 명령어를 저장한 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(210)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(206)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.
저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(202)를 구성하는 와이어를 포함한, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 음향파 또는 광파의 형태를 취할 수 있다.
일 실시예에서, 실행을 위해 하나 이상의 명령어의 하나 이상의 시퀀스를 프로세서(204)에 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령어는 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 자신의 동적 메모리에 명령어를 로딩하고 모뎀을 사용하여 전화선을 통해 명령어를 전송한다. 컴퓨터 시스템(200)에 로컬인 모뎀은 전화선을 통해 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(202)에 배치한다. 버스(202)는 데이터를 메인 메모리(206)로 반송하고, 프로세서(204)는 메인 메모리로부터 명령어를 리트리빙 및 실행한다. 메인 메모리(206)에 의해 수신된 명령어는 프로세서(204)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(210)에 저장될 수 있다.
컴퓨터 시스템(200)은 버스(202)에 결합된 통신 인터페이스(218)를 또한 포함한다. 통신 인터페이스(218)는 로컬 네트워크(222)에 연결된 네트워크 링크(220)에 대한 양방향 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(218)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 대한 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(218)는 호환 가능한 LAN(local area network)에 대한 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(218)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.
네트워크 링크(220)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(220)는 로컬 네트워크(222)를 통해 호스트 컴퓨터(224)로의 연결 또는 ISP(Internet Service Provider)(226)에 의해 운용되는 클라우드 데이터 센터 또는 장비로의 연결을 제공한다. ISP(226)는 차례로 지금은 "인터넷(228)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(222) 및 인터넷(228) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(200)으로 및 컴퓨터 시스템(200)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(218)를 통한 네트워크 링크(220) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크 링크(220)는 클라우드 또는 클라우드의 일부를 포함한다.
컴퓨터 시스템(200)은 네트워크(들), 네트워크 링크(220), 및 통신 인터페이스(218)를 통해, 메시지를 전송하고, 프로그램 코드를 포함한, 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(200)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(204)에 의해 실행되고/되거나 추후의 실행을 위해 저장 디바이스(210) 또는 다른 비휘발성 스토리지에 저장된다.
AV 아키텍처
도 3은 AV(예를 들면, 도 1에 도시된 차량(100))에 대한 예시적인 아키텍처(300)를 도시하는 다이어그램이다. 아키텍처(300)는 인지 서브시스템(302)(때때로 인지 회로라고 지칭됨), 계획 서브시스템(304)(때때로 계획 회로라고 지칭됨), 제어 서브시스템(306)(때때로 제어 회로라고 지칭됨), 로컬화 서브시스템(308)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 서브시스템(310)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 서브시스템은 차량(100)의 동작에서 소정의 역할을 한다. 다함께, 서브시스템(302, 304, 306, 308, 및 310)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 서브시스템(302, 304, 306, 308, 및 310) 중 임의의 서브시스템은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다. 서브시스템(302, 304, 306, 308, 및 310) 각각은 때때로 프로세싱 회로(예를 들면, 컴퓨터 하드웨어, 컴퓨터 소프트웨어, 또는 이 둘의 조합)라고 지칭된다. 서브시스템(302, 304, 306, 308, 및 310)의 일부 또는 전부의 조합이 또한 프로세싱 회로의 예이다.
사용 중에, 계획 서브시스템(304)은 목적지(312)를 나타내는 데이터를 수신하고 목적지(312)에 도달(예를 들면, 도착)하기 위해 차량(100)에 의해 주행될 수 있는 궤적(314)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 서브시스템(304)이 궤적(314)을 나타내는 데이터를 결정하기 위해, 계획 서브시스템(304)은 인지 서브시스템(302), 로컬화 서브시스템(308), 및 데이터베이스 서브시스템(310)으로부터 데이터를 수신한다.
인지 서브시스템(302)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(316)를 포함하는 장면 묘사는 계획 서브시스템(304)에 제공된다.
계획 서브시스템(304)은 또한 로컬화 서브시스템(308)으로부터 AV 위치(318)를 나타내는 데이터를 수신한다. 로컬화 서브시스템(308)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 서브시스템(310)으로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 서브시스템(308)은 GNSS(Global Navigation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 서브시스템(308)에 의해 사용되는 데이터는 도로 기하학적 속성의 고정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 교통 차선과 자전거 타는 사람 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다. 일 실시예에서, 고정밀 맵은 자동 또는 수동 주석 달기(annotation)를 통해 저정밀 맵에 데이터를 추가함으로써 구성된다.
제어 서브시스템(306)은 궤적(314)을 나타내는 데이터 및 AV 위치(318)를 나타내는 데이터를 수신하고, 차량(100)으로 하여금 목적지(312)를 향해 궤적(314)을 주행하게 할 방식으로 AV의 제어 기능(320a 내지 320c)(예를 들면, 조향, 스로틀링, 제동, 점화)을 동작시킨다. 예를 들어, 궤적(314)이 좌회전을 포함하는 경우, 제어 서브시스템(306)은, 조향 기능의 조향각이 차량(100)으로 하여금 좌회전하게 하고 스로틀링 및 제동이 차량(100)으로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능(320a 내지 320c)을 동작시킬 것이다.
AV 입력
도 4는 인지 서브시스템(302)(도 3)에 의해 사용되는 입력(402a 내지 402d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(404a 내지 404d)(예를 들면, 센서 데이터)의 예를 도시하는 다이어그램이다. 하나의 입력(402a)은 LiDAR 출력 데이터(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 가시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 서브시스템은 출력(404a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3차원(3D) 또는 2차원(2D) 포인트("포인트 클라우드"라고도 알려져 있음)의 집합체이다.
다른 입력(402b)은 RADAR 데이터이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR의 가시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 서브시스템은 출력(404b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수(RF) 신호이다.
다른 입력(402c)은 카메라 데이터이다. 카메라 서브시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(404c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 서브시스템은, 카메라 서브시스템이 깊이를 인지할 수 있게 하는, 예를 들면, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 서브시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV를 기준으로 한 것이다. 일부 실시예에서, 카메라 서브시스템은 멀리 있는, 예를 들면, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성된다. 따라서, 일부 실시예에서, 카메라 서브시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 갖는다.
다른 입력(402d)은 TLD(traffic light detection) 데이터이다. TLD 서브시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 서브시스템은 출력(404d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 서브시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 서브시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용함으로써, 차량(100)이 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 서브시스템의 시야각은 약 120도 이상이다.
일부 실시예에서, 출력(404a 내지 404d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력(404a 내지 404d) 중 어느 하나가 차량(100)의 다른 서브시스템에 제공되거나(예를 들면, 도 3에 도시된 바와 같은 계획 서브시스템(304)에 제공되거나), 또는 결합된 출력이 동일한 유형(동일한 결합 기술을 사용하는 것 또는 동일한 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 결합 기술을 사용하는 것 또는 상이한 각자의 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 중 어느 하나로 다른 서브시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력들을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력들에 적용된 후에 출력들을 결합하는 것을 특징으로 한다.
AV 서브시스템 교란 및 모델링
이전에 언급된 바와 같이, 다양한 서브시스템을 갖는 시스템에서, 주어진 서브시스템(예를 들면, 더 많거나 적은 파라미터를 갖는 서브시스템의 상이한 모델)에 대해 다양한 상이한 옵션들 중 어느 것을 사용할지 또는 전체 시스템 성능을 개선시키기 위해 주어진 서브시스템의 파라미터를 어떻게 변경할지를 식별하는 것이 어려울 수 있다.
본원에서의 실시예는 시스템 레벨 목적 함수가 존재하고(예를 들면, 아래에서 기술되는 합리적인 대중 메트릭(reasonable crowd metric)), 그러한 함수가 서브시스템의 설계를 안내하거나 해당 서브시스템의 상이한 구현들 중에서 선택하기 위해 사용될 수 있다는 가정에 관한 것이다. 전자의 경우(서브시스템의 설계를 안내하는 것)에, 본원에서 기술된 특정 실시예는 시스템 레벨 성능과 가장 관련이 있는 서브시스템의 적어도 하나의 속성을 찾는 것에 관한 것이다. 후자의 경우(서브시스템의 상이한 구현들 중에서 선택하는 것)에, 본원에서 기술된 실시예는 최고 시스템 레벨 성능을 결과하는 구현을 선택하는 것에 관한 것이다.
다수의 서브시스템을 갖는 AV 스택에서, 특정 서브시스템의 성능이 시스템 레벨 목적 함수에 기초하여 최적화되도록 보장하는 것이 바람직할 수 있다. 따라서, 본원에서 기술된 특정 실시예는 이 목적을 해결하는 절차에 관한 것이다. 추가적으로, 본원에서 기술된 특정 실시예는 상이한 서브시스템을 평가하는 데 테스트 픽스처를 사용하는 것을 포함하는 절차에 관한 것이다.
예를 들어, 본원에서 기술된 실시예는 특정 거리에 있는 다른 차량을 검출하는 이미지 검출기의 능력, 보행자에 대한 평균 정밀도(average precision, AP), 모든 클래스(예를 들면, 보행자, 차량, 도로변 대상체 등)에 걸친 평균 AP에 기초하여 또/또는 다른 메트릭에 의해 이미지 검출기를 평가한다. 이러한 메트릭은 이미지 검출기 특유의 테스트 픽스처(text fixture), 예를 들어, 2차원(2D) 경계 박스 및 세그먼트화 마스크로 주석이 달린 이미지를 포함하는 데이터 세트를 사용하여 계산될 수 있다. 그렇지만, 비전 서브시스템에서 곤란한 상황, 즉 흔치 않은 기상 또는 조명 조건, 어수선한 장면, 이상하게 옷을 입은 보행자 등을 캡처하는 이미지를 이미지 검출기가 수집하는 것이 바람직할 것이다.
다른 예로서, LiDAR 검출기 서브시스템의 테스트 픽스처는 3D 경계 박스로 주석이 달린 LiDAR 포인트 클라우드를 포함한다. 다시 말하지만 데이터가 곤란한 상황에 관련될 것이지만, 이러한 상황은 위에서 기술된 바와 같은 이미지 검출기의 상황과 상이하다. 예를 들어, LiDAR 검출기는 야간에 어려움이 없지만, 일부 시스템은 검은 색 차량에 대해 어려움을 겪을 것인데 그 이유는 차량이 LiDAR의 광 펄스를 반사하기보다는 흡수하는 경향이 있기 때문이다.
LiDAR 검출기 서브시스템의 테스트 픽스처에 포함된 이러한 LiDAR 검출기 및 이미지 검출기 서브시스템은 차례로 계획 서브시스템(304)에 사용되는 테스트 픽스처와 상이하다. 특히, 계획 서브시스템(304)에 사용되는 테스트 픽스처의 실시예는 인지 문제가 추상화되는 "박스 월드(box-world)"에 시나리오들의 뱅크가 인코딩되는 것으로 충분할 것이다. 그러한 박스 월드의 장점은 복잡하고 위험한 시나리오를 생성하는 것이 용이하다는 것이다.
그러한 다양한 서브시스템에 대해, 시스템 레벨 목적 함수를 최적화하기 위한 한 가지 접근법은 전체 시스템에 대해 단일 테스트 픽스처를 사용하는 것이다. 시스템 레벨 목적 함수를 최적화하기 위한 다른 접근법은 복잡한 3D 환경에 액세스할 수 있는 완벽한 기능을 갖춘(fully-featured) 시뮬레이터를 사용하는 것이다. 대조적으로, 본원에서의 특정 실시예는 테스트 픽스처들이 개별적으로 유지되고, 상이한 서브시스템 메트릭들 간의 상관이 개별적인 테스트 픽스처들에 기초하여 모델링되는 접근법에 관한 것이다.
도 5는 다양한 실시예에 따른, 단순화된 예시적인 시스템(500)을 도시하는 다이어그램이다. 시스템(500)은 제1 서브시스템 SS1(505), 제2 서브시스템 SS2(510), 제3 서브시스템 SS3(515) 및 제n 서브시스템 SSn(520)을 포함한다. 이 예에서, 도 5에 묘사된 바와 같이 정보는 시스템(500)을 통해 흐른다. 예를 들어, 정보는 SS1(505)로부터 SS2(510)로 흐르고, 여기서 정보는 SS2(510)에서 프로세싱된다. SS2(510)로부터의 프로세싱된 정보는 이어서 추가 프로세싱을 위해 SS3(515)에 제공되고, 이하 마찬가지이다.
위에서 기술된 바와 같이, 시스템(500)의 전체 성능을 개선시키기 위해, 예를 들어, SS2(510)를 어떻게 최적화할지를 식별하는 것이 바람직하다. 일 실시예에서, 그러한 최적화는 SS2(510)의 설정 또는 구성과 같은 SS2(510)의 속성의 최적화를 포함한다. 다른 실시예에서, 그러한 최적화는 SS2(510)에 대해 복수의 가능한 대안의 서브시스템 중 어느 것을 사용할지를 식별하는 것을 포함한다. 이들은 그러한 최적화의 예일 뿐이며, 다른 실시예에서 시스템(500)의 전체 성능을 개선시키기 위한 서브시스템의 최적화는 해당 서브시스템(들)의 특정 속성의 최적화 외에도 복수의 가능한 대안의 서브시스템 중 어느 것을 사용할지를 식별하는 것과 같은 대안의 최적화 서술문을 포함한다는 것이 이해될 것이다. 아래에서 기술되는 예시적인 시스템은 AV에 대한 AV 소프트웨어 스택이다. 그렇지만, 다른 시스템은 아래에서 기술되는 실시예를 활용하고 그로부터 이익을 얻을 수 있다.
예시적인 AV 스택 실시예
AV의 동작 동안의 시간 인스턴스에서, AV 스택은 AV가 수행할 필요가 있는 즉각적인 액션을 결정한다. 그렇게 하기 위해, 스택은 현재 시간까지 수집된 센서 데이터 및 환경에 대한 사전 정보의 데이터베이스(예를 들면, 맵)를 프로세싱한다.
원시 센서 데이터로부터 결정으로 가는 것은 원시 데이터를 연속적으로 프로세싱하고 시맨틱스(예를 들면, 다른 차량의 위치 및 그의 향후 경로의 예측)를 사용하여 업데이트(예를 들면, 보강(enrich), 정제(refine) 등)하여, 의사 결정 유닛에 전달되는 데이터의 풍부한 표현에 이르게 하는 일련의 서브시스템을 포함한다.
AV 스택에서, 어떤 서브시스템의 출력 데이터도 실제 구현에서 추가 프로세싱을 위해 다시 서브시스템에 제공되지 않을 수 있다. 일 실시예에서, AV 스택은 유향 비순환 그래프(Directed Acyclic Graph, DAG)로서 표현되며, 여기서 정점은 서브시스템이고 유향 에지(directed edge)는 2개의 서브시스템 간의 연결이다. 구체적으로, 정점은 N개의 서브시스템의 집합체일 것이며:
Figure pat00001
여기서 S는 시스템이고, s1, ..., sN-1, sN은 시스템(S)의 서브시스템이며, N은 정수이고, sN은 본원에서 의사 결정 유닛 d라고도 지칭되는 마지막 서브시스템을 지칭한다. DAG에서의 에지는, 수학적으로 다음과 같이 기술되는 바와 같이, 특정 서브시스템 s1, ..., sN-1의 출력이 다른 서브시스템으로 전달되고:
Figure pat00002
여기서 E는 정수이고, (se,1, se,2)는 se,1의 출력이 se,2에 입력으로서 피드된다는 것을 나타낸다.
본원에서 사용되는 표기법의 복잡성을 줄이기 위해, si는, i = 1, ..., N에 대해, 서브시스템을 일반(모델 무관(model-agnostic)) 개념(예를 들면, 대상체 검출기) 또는 그의 구현 중 어느 하나를 표기하는 데 사용된다. 논의의 맥락에 기초하여 본원에서 어느 것이 의도되는지가 본 기술분야의 통상의 기술자에게 명백할 것이다.
서브시스템의 특성화
주어진 시스템의 각각의 서브시스템이 최대 수십억 개의 파라미터를 갖는 복잡한 알고리즘일 수 있지만, 임의의 특정 서브시스템의 분석이 서브시스템의 특정 속성만을 살펴보는 것에 의해 단순화된다.
일부 실시예에서, 서브시스템의 속성은 각각의 서브시스템이 평가되는 바탕이 될 수 있는 기준(예를 들면, 해석 가능한 기준)을 포함한다. 예를 들어, 인지 서브시스템(302)의 요소일 수 있는 것과 같은 3D 대상체 검출기는 (그 중에서도) 대상체의 예측된 배향의 오차를 최소화한다. 다른 실시예에서, 기준은 3D 대상체 검출기의 측정치의 시간적 상관에 기초한다.
본원에서의 논의를 위해, 서브시스템 si의 점수 r i는, i = 1, ..., N개의 서브시스템에 대해, 그러한 기준을 바탕으로 다음과 같이 표기되며:
Figure pat00003
여기서 ni는 정수이다. 일 실시예에서, 의사 결정 유닛 d는 단일 속성, 즉 시스템 성능 메트릭이라고도 지칭되는, AV의 운전 거동의 품질을 나타내는 시스템 레벨 목적 함수를 갖는다. 시스템 레벨 목적 함수는 스케일러(scaler)를 반환하므로, 본원에서의 논의는 다음과 같은 표기법을 사용한다:
Figure pat00004
다른 실시예에서, 의사 결정 유닛이, 예를 들어, 디버깅 또는 어떤 다른 절차에 유용할 수 있는 추가적인 또는 대안적인 속성을 갖거나 이에 기초한다는 점에 유의한다.
일 실시예에서, 각각의 서브시스템의 점수 ri는 본원에서 Ri에 의해 표기되는 평가 절차에 의해 획득된다. 평가 절차 Ri는 서브시스템 si의 출력을 취하고 일단의 평가 함수 및 테스트 픽스처의 데이터베이스에 기초하여 서브시스템 si에 대한 점수 ri를 계산한다. 일 예에서, (예를 들면, AV 스택의 인지 서브시스템(302)에 의해 수행되는) 대상체 검출의 태스크를 위해, 테스트 픽스처는 주석이 달린 센서 데이터를 포함한다. 주석이 달린 센서 데이터에 기초하여, 평가 함수(들) Ri는 재현율(recall), 정밀도(precision), 정확도(accuracy) 등을 계산한다. 일 실시예에서, 계획의 태스크를 위해, 테스트 픽스처는 시나리오 데이터베이스와 시뮬레이터이고, 평가 함수는 미리 식별된 규칙집에 기초하여 도로의 규칙의 위반을 식별한다.
si의 어떤 속성을 r i에 포함시킬지를 주의하여 선택하는 것이 바람직하다. r i가 si의 충분히 풍부한 표현이 아닌 경우, r i에 기초한 어떤 분석도 신뢰할 수 있는 통찰력을 결과하지 않을 것이다. 예를 들어, 3D 대상체 검출기가 생성하는 배향 오차에 의해서만 3D 대상체 검출기를 특성화하는 것은, 일부 실시예에서, 충분한 데이터가 아닌데, 그 이유는 동일한 배향 오차를 갖는 2개의 대상체 검출기가 다른 점에서 서로 크게 상이할 수 있기 때문이다. 예를 들어, 하나의 검출기는 멀리 있는 대상체에 대해서만 배향 오차를 제공하는 반면, 다른 검출기는 가까이 있는 대상체에 대해서만 배향 오차를 제공할 수 있다. 다른 한편으로, r i가 너무 많은 성분을 가지는 경우, r i에 기초한 분석은 엄청난 양의 컴퓨팅 리소스를 필요로 할 것이다. 서브시스템에 대한 점수 r i에 반영할 서브시스템 si의 관련 속성을 결정하는 한 가지 방법은 그의 상이한 구현을 조사하고 가장 달라지는 특성을 추출하는 것이다.
도 6은 다양한 실시예에 따른, 대안의 예시적인 AV 스택(600)을 도시하는 다이어그램이다. 구체적으로, 묘사된 AV 스택(600)은 AV의 AV 스택의 하나의 단순화된 실시예에 따른 특정 서브시스템을 포함한다. AV 스택(600)에 대한 이러한 설명이 일 실시예의 예로서 의도된 것임이 이해될 것이다. 다른 실시예에서, AV 스택(600)은 상이한 서브시스템, 상이한 파라미터를 갖는 서브시스템, 상이한 구성으로 된 또는 상이한 입력 또는 출력을 갖는 서브시스템 등을 포함할 수 있다. 다른 실시예에서, 다른 변형이 추가로 존재할 수 있다.
추가적으로, 본원에서 사용되는 바와 같이, "다운스트림" 서브시스템이라는 용어는 AV 스택에서의 다른 서브시스템으로부터 입력 데이터를 수신하는 서브시스템을 지칭하며, 해당 다른 서브시스템은 "업스트림" 서브시스템이라고 지칭된다. 예를 들어, 계획 서브시스템(640)이 추적 서브시스템(635)으로부터 입력 데이터를 수신하기 때문에, 계획 서브시스템(640)은 추적 서브시스템(635)으로부터 "다운스트림"에 있다. 반대로, 추적 서브시스템(635)이 계획 서브시스템(640)에 입력 데이터를 제공하기 때문에, 추적 서브시스템(635)은 계획 서브시스템(640)으로부터 "업스트림"에 있다.
AV 스택(600)은, s1로서 표기되는, 카메라 서브시스템(605)을 포함한다. 카메라 서브시스템(605)은, 예를 들어, 카메라 서브시스템(402c)과 유사하다. 이 실시예에서, 카메라 서브시스템(605)에 대한 점수 r1은 카메라 서브시스템(605)에 의해 생성되는 손상된 픽셀의 퍼센트로서 정의되는 속성에 기초한다. 카메라 서브시스템(605)에 대한 평가 절차 R1은 교정 타깃 이미지(예를 들면, 체커보드 타깃)를 사용한 교정실(calibration room)에서의 테스트를 포함한다. 카메라 서브시스템(605)의 출력은 이미지와 연관된 이미지 데이터를 포함한다.
AV 스택(600)은, s2로서 표기되는, LiDAR 서브시스템(610)을 더 포함한다. LiDAR 서브시스템(610)은, 예를 들어, LiDAR 서브시스템(402a)과 유사하다. 이 실시예에서, LiDAR 서브시스템(610)의 점수 r2는 LiDAR 서브시스템(610)에 의해 생성된 평균 거리 오차에 기초한다. LiDAR 서브시스템(610)에 대한 평가 절차 R2는 타깃 대상체 거리를 사용한 교정실에서의 테스트를 포함한다. LiDAR 서브시스템(610)의 출력은 포인트 클라우드와 연관된 포인트 클라우드 데이터를 포함한다.
AV 스택(600)은, 서브시스템 s3으로서 표기되는, 데이터베이스 서브시스템(615)을 더 포함한다. 데이터베이스 서브시스템(615)은, 예를 들어, 데이터베이스 서브시스템(310)과 유사하다. 이 실시예에서, 데이터베이스 서브시스템(615)의 점수 r3은 데이터베이스 서브시스템(615)에서의 손상된 위치들의 퍼센트에 기초한다. 데이터베이스 서브시스템(615)에 대한 평가 절차 R3은 데이터베이스 서브시스템(615)에 대한 질의 및 질의에 대한 응답에서 수신된 맵과 목표 맵의 비교가 포함된다. 데이터베이스 서브시스템(615)의 출력은 맵과 연관된 맵 데이터이다.
실시예에서, 카메라 서브시스템(605), LiDAR 서브시스템(610) 및 데이터베이스 서브시스템(615)은 입력으로서 식별된다. 즉, 이들은 추가 프로세싱을 위해 AV 스택(600)의 다른 서브시스템(예를 들면, 다운스트림 서브시스템)에 의해 사용되는 데이터를 입력으로서 제공한다. 다른 실시예에서, AV 스택(600)은 도 6에 묘사된 것보다 많거나 적은 입력 데이터를 포함한다.
AV 스택(600)은, s4로서 표기되는, 시각적 인지 서브시스템(620)을 더 포함한다. 시각적 인지 서브시스템(620)은 인지 시스템(302)과 동일하거나 유사할 수 있다. 더 구체적으로는, 시각적 인지 서브시스템(620)은 인지 서브시스템(302)이거나 그의 요소이다. 시각적 인지 서브시스템(620)은 카메라(605)에 의해 제공된 이미지 데이터를 입력으로서 사용한다. 이 실시예에서, 시각적 인지 서브시스템(620)의 점수 r4는 mAP((mean average precision), 속성의 재현율, 또는 시각적 인지 서브시스템(620)에 관련된 혼동 행렬(confusion matrix) 중 하나 이상에 기초한다. 시각적 인지 서브시스템(620)에 대한 평가 절차 R4는 주석이 달린 이미지의 집합체에 대해 이미지 대상체 검출을 수행하고 그 결과를 목표 또는 미리 식별된 결과와 비교하는 것을 포함한다. 시각적 인지 서브시스템(620)의 출력은 2D 대상체에 관련된(예를 들면, 이를 표현하는) 데이터(예를 들면, 대상체의 개수, 그의 형상, 그의 위치 등)이다.
AV 스택(600)은, s5로서 표기되는, LiDAR 시맨틱 네트워크 서브시스템(625)을 더 포함한다. LiDAR 시맨틱 네트워크 서브시스템(625)은, 예를 들어, 인지 서브시스템(302)과 하나 이상의 기능 또는 프로세스를 공유한다. 더 구체적으로는, LiDAR 시맨틱 네트워크 서브시스템(625)은 인지 서브시스템(302)이거나 그의 요소이다. LiDAR 시맨틱 네트워크 서브시스템(625)은 LiDAR 서브시스템(610)에 의해 제공된 포인트 클라우드 데이터를 입력으로서 사용한다. 이 실시예에서, LiDAR 시맨틱 네트워크 서브시스템(625)의 점수 r5는 mAP, 평균 배향 오차, 또는 LiDAR 시맨틱 네트워크 서브시스템(625)에 관련된 혼동 행렬 중 하나 이상에 기초한다. LiDAR 시맨틱 네트워크 서브시스템(625)에 대한 평가 절차 R5는 주석이 달린 포인트 클라우드의 집합체에 대해 시맨틱 프로세스(예를 들면, 3D 시맨틱 세그먼트화)를 수행하고 결과를 목표 또는 미리 식별된 결과와 비교하는 것이다. LiDAR 시맨틱 네트워크 서브시스템(625)의 출력은 LiDAR 데이터 또는 3D 대상체의 세그먼트화 마스크에 관련된 데이터(예를 들면, 대상체의 개수, 그의 형상, 그의 위치 등)를 포함한다.
AV 스택(600)은, s6으로서 표기되는, 로컬화 서브시스템(630)을 더 포함한다. 로컬화 서브시스템(630)은, 예를 들어, 로컬화 서브시스템(308)과 하나 이상의 기능 또는 프로세스를 공유한다. 로컬화 서브시스템(630)은 데이터베이스 서브시스템(615)에 의해 제공된 맵 데이터 및 LiDAR 시맨틱 네트워크 서브시스템(625)에 의해 제공된 세그먼트화 마스크를 입력으로서 사용한다. 이 실시예에서, 로컬화 서브시스템(630)의 점수 r6은 차량의 식별된 위치의 평균 거리 오차에 기초한다. 로컬화 서브시스템(630)에 대한 평가 절차 R6은 미리 식별된 포인트 클라우드, 세분화 마스크 및 맵에 기초하여 차량의 위치를 추정하고, 결과를 미리 식별된 포인트 클라우드, 세그먼트화 마스크 또는 맵에 대한 알려진 목표 출력과 비교하는 것이다. 로컬화 서브시스템(630)의 출력은 AV의 위치에 관련된 데이터이다.
AV 스택(600)은, s7로서 표기되는, 추적 서브시스템(635)을 더 포함한다. 추적 서브시스템(635)은, 예를 들어, 인지 서브시스템(302)과 하나 이상의 기능 또는 프로세스를 공유한다. 구체적으로, 일부 실시예에서, 추적 서브시스템(635)은 인지 서브시스템(302)이거나 그의 요소이다. 추적 서브시스템(635)은 데이터베이스 서브시스템(615)에 의해 제공된 맵 데이터, 시각적 인지 서브시스템(620)으로부터의 2D 대상체에 관련된 데이터, 및 LiDAR 시맨틱 네트워크 서브시스템(625)으로부터의 3D 대상체에 관련된 데이터를 입력으로서 사용한다. 일부 실시예에서, 예를 들어, 도 6에 도시된 바와 같이, 추적 서브시스템(635)은 로컬화 서브시스템(630)으로부터의 차량 위치에 관련된 데이터를 입력 데이터로서 추가로 수신한다. 이 실시예에서, 추적 서브시스템(635)의 점수 r7은 성공적(successful) 또는 클리어 MOT(clear multiple object tracking) 프로세스 또는 대상체 재현율에 기초한다. 추적 서브시스템(635)에 대한 평가 절차 R7은 주석이 달린 이미지 및 포인트 클라우드의 집합체에 대해 추적 서브시스템(635)을 실행하고 결과를 알려진 목표와 비교하는 것이다. 추적 서브시스템(635)의 출력은 식별된 대상체, 예를 들어, 분류된 대상체(316) 및 그의 트랙을 갖는 맵 데이터이다.
추적 서브시스템(635)이 인지 서브시스템(302)과 유사하거나 그의 요소인 것으로 본원에서 기술되지만, 다른 실시예에서 추적 서브시스템(635)은 추가적으로 또는 대안적으로 계획 서브시스템(304)과 유사하거나 그의 요소이다. 예를 들어, 일 실시예에서 인지 서브시스템(302)은 분류된 대상체(316)와 같은 대상체를 식별할 것인 반면, 계획 서브시스템(304)은 위에서 기술된 바와 같이 대상체의 트랙을 식별할 것이다.
AV 스택(600)은, s8로서 표기되는, 계획 서브시스템(640)을 더 포함한다. 계획 서브시스템(640)은, 예를 들어, 계획 서브시스템(304)과 하나 이상의 기능 또는 프로세스를 공유한다. 계획 서브시스템(640)은 추적 서브시스템(635)에 의해 제공된 식별된 대상체 및 그의 트랙을 갖는 맵 데이터를 입력으로서 사용한다. 이 실시예에서, 계획 서브시스템(640)의 점수 r8은 2020년 9월 1일에 출원된, 대리인 사건 번호 46154-0251001의 "Scoring Autonomous Vehicle Trajectories Using Reasonable Crowd Data"에 대한 공동 계류 중인 미국 특허 출원 제17/009,656호에 기술된 바와 같이, 합리적인 대중 평점(reasonable crowd rating)에 기초하며, 이 미국 특허 출원의 내용은 이로써 참조에 의해 그 전체가 포함된다. 계획 서브시스템(640)에 대한 평가 절차 R8은 교통 시나리오의 집합체에 대해 계획 서브시스템(640)을 실행하고 미리 식별된 규칙에 대한 점수를 획득하는 것이다.
문제 수식화
일부 실시예에서, 문제 수식화는 해결되어야 하는 2개의 문제, 즉 모델 선택 및 속성 우선순위화 중 하나 또는 둘 모두에 기초하거나 이에 관련될 수 있다.
모델 선택은 시스템 레벨 성능을 최대화하기 위해 특정 서브시스템의 다수의 구현 중에서 선택하는 것에 관한 것이다. 예를 들어, 시스템 엔지니어는 시각적 인지 서브시스템(620)의 2개의 버전 중에서 선택하기를 원할 수 있다. 이 예를 위해, 시각적 인지 서브시스템(620)의 양쪽 버전이 동일한 혼동 행렬을 갖지만 시각적 인지 서브시스템(620)의 제1 버전이 시각적 인지 서브시스템의 제2 버전보다 1 퍼센트(%)만큼 더 높은 mAP 및 3%만큼 더 낮은 속성의 재현율을 갖는다고 가정한다. 본원에서의 실시예에 의해 식별되는 시스템 레벨 성능은 mAP와 속성의 재현율 사이의 트레이드오프를 해결하는 데 사용 가능한 하나의 기준이다.
모델 선택 및 속성 우선순위화는 구현이 테스트 픽스처에 포함된 데이터에 대해 임의의 서브시스템을 실행할 수 있는 이상적인 조건 하에서 본원에서 개시된 실시예에 의해 해결 가능하다. 다른 실시예는 (실제로 종종 그러한 바와 같이) 이 가정이 충족되지 않는 상황에 관한 것일 수 있다. 본원에서 사용되는 바와 같이, 속성 우선순위화는 시스템 레벨 성능을 최대화하는 서브시스템의 속성을 결정하는 것에 관한 것이다.
본원에서 기술된 실시예가 AV 스택의 아키텍처에 따라 달라지고 다운스트림 모듈이 변경될 때 재실행될 필요가 있을 것이며, 이것이 종종 발생할 수 있다는 점에 유의해야 한다. 따라서 일 실시예에서, AV 스택에 대한 변경이 있을 때마다 절차가 실행되도록 절차를 구성하는 것이 바람직할 것이다. 유사하게, 데이터가 수집되고 테스트 픽스처가 확장될 때 절차를 재실행하는 것이 바람직할 것이다. 일반적으로, 주석이 달린 데이터가 운영 설계 도메인(operating design domain)(AV가 제대로 동작하도록 설계된 도메인)을 충분히 커버하는 것이 바람직할 것이다.
AV 스택에 대한 서브시스템의 영향을 식별하기 위한 예시적인 절차
AV 스택(예를 들면, AV 스택(600))에 대한 서브시스템(또는 그의 교란)의 영향을 식별하기 위한 시작점은 서브시스템의 현재 구현에 대한 서브시스템의 점수이다. 이러한 동작점 점수는 본원에서 i = 1, ..., N에 대해
Figure pat00005
로서 표기된다. 서브시스템 또는 서브시스템의 하나 이상의 파라미터가 변경될 때, 절차는 의사 결정 유닛 sN의 점수
Figure pat00006
가 어떻게 변하는지를 측정하는 것을 포함한다.
예를 들어, j = 1, ..., N-1에 대해 서브시스템 sj를 고려한다. 구현은 먼저, 본원에서
Figure pat00007
로서 표기되는, 서브시스템 sj의 교란된 버전을 구성한다. 일 실시예에서, 서브시스템의 교란이, 예를 들어, 서브시스템이 연속적인 릴리스 하에서 통상적으로 변하는 정도로, 작은 것이 바람직하다. 교란이 너무 크게 될 때 분석이 실패할 수 있으므로, 교란이 선형인 함수를 사용하여 시스템 레벨 성능의 변화를 근사화할 수 있는 것이 또한 바람직하다. 하나의 특정 예로서, 시각적 인지 서브시스템(620)과 같은 서브시스템의 경우, 교란된 서브시스템은 매 20번째의 검출을 드롭하여, 더 낮은 재현율을 갖는 서브시스템을 결과한다. 교란된 출력에 대해 평가 절차 Rj를 실행하는 것은 교란된 점수
Figure pat00008
를 결과한다.
의사 결정 유닛은 sj의 출력에 의존하며, 따라서 sj가 교란되는 경우, rN이 변할 것이다. 변화된 시스템 레벨 성능은 본원에서
Figure pat00009
에 의해 표기되고, 결과적인 데이터는
Figure pat00010
에 의해 표기된다. 수집된 데이터에 기초하여, 본원에서
Figure pat00011
에 의해 표기되는, 동작 성능
Figure pat00012
주위에서 r j에 대한 rN의 그레이디언트가 이어서 추정된다. 시스템 레벨 성능에 가장 많은 영향을 미치는 속성이 이어서 다음과 같이 식별되고:
Figure pat00013
여기서 "argmax" 함수는 rN의 가장 큰 변화를 생성하는 속성을 식별한다.
다음과 같이 rN과 r j 사이의 선형 모델을 피팅하기 위해 데이터에 기초하여 그레이디언트가 추정되고:
Figure pat00014
여기서 c는 스칼라이고 ω는, rN과 r j 사이의 선형 모델의 피팅을 수행하기 위해 적어도 nj개의 데이터 포인트를 필요로 할 것인, 크기 nj의 벡터이다. ω 및 c는, 예를 들어, 선형 최소 제곱으로 구해진다. 그러면,
Figure pat00015
의 추정치는 ω이다.
j ∈ {1, ..., N-1}에 대해 sj의 Ij개의 대안적인 구현 중에서 선택하는 것이 요망되는 경우, 위에서 기술된 절차는 다음과 같이 수정된다. 구체적으로, 제i 구현에 대한 의사 결정 유닛의 점수는
Figure pat00016
에 의해 표기된다. 이어서, 수학식 5가 다음과 같이 수정된다:
Figure pat00017
테스트 픽스처에 관련된 실제 문제
위에서 기술된 절차는 일단 서브시스템 sj가 교란되면, sj의 다운스트림에 있는 모든 서브시스템에 대해 평가 절차가 재실행될 수 있다. 실제 구현에서, 이 가정은 종종 위반되는데, 그 이유는 각자의 서브시스템이 종종 해당 서브시스템의 특정 양상을 하이라이트하기 위해 개발된 테스트 픽스처와 연관되기 때문이다.
도 7은 다양한 실시예에 따른, 계획 서브시스템(640)에 대한 예시적인 입력을 묘사한다. 구체적으로, 도 7은 타깃 AV(705)(예를 들면, AV 스택(600)이 평가되고 있는 AV)를 묘사한다. 입력은 다수의 다른 차량(710) 및 보행자(715)를 더 포함한다. 입력은 차량(710) 및 보행자(715)와 같은 다양한 대상체의 궤적(720)을 추가로 묘사한다. 일 실시예에서, 궤적(720)은 다양한 차량(710) 및 보행자(715)의 과거 궤적인 반면, 다른 실시예에서 궤적(720)은 추가적으로 또는 대안적으로 다양한 차량(710) 및 보행자(715)의 예측 궤적을 포함한다.
예를 들어, 도 7에서, 계획 서브시스템(640)은 맵에 대한 정보, 및 다른 에이전트의 위치, 과거 궤적(예를 들면, 트랙) 및 예측 궤적을 갖는 교통 장면의 조감도(BEV) 표현에 대해 동작한다. 결과적으로, 계획 서브시스템(640)의 연관된 테스트 픽스처는 BEV로 된 교통 장면의 집합체이며, 출력을 생성하기 위해 센서 데이터(예를 들면, 카메라 서브시스템(605), LiDAR 서브시스템(610) 등으로부터의 데이터)를 필요로 하지 않는다. 그렇지만, 추적 서브시스템(635)을 실행하는 것은 출력을 생성하기 위해 센서 데이터를 필요로 한다. 그 결과, 이 예에서, 계획 서브시스템(640)의 테스트 픽스처만을 사용하여 추적 서브시스템(635)을 실행하는 것이 가능하지 않기 때문에, 특정 추적 서브시스템(635)이 계획 서브시스템(640)의 점수에 어떻게 영향을 미치는지를 직접 결정하는 것이 가능하지 않을 수 있다.
다운스트림 서브시스템의 테스트 픽스처에 대한 서브시스템의 영향의 시뮬레이션
일부 경우에, 의사 결정 유닛의 테스트 픽스처는 모든 서브시스템이 실행될 수 있는 데이터를 포함하지 않는다. 그 결과, 위에서 기술된 이상화된 절차를 수정하는 것이 바람직하다. 수정은 본원에서 시각적 인지 서브시스템(620) → 추적 서브시스템(635) → 계획 서브시스템(640)의 간단한 예시적인 신호 경로의 맥락에서 논의된다. 위에서 논의된 용어를 사용하여, 신호 경로가 또한 다음과 같이 표현된다:
Figure pat00018
먼저, 이 특정 예에 대한 추가 논의를 위해, 추적 서브시스템(635)에 대한 모델 선택 및 속성 우선순위화가 계획 서브시스템(640)에 대한 그러한 교란의 영향을 식별하기 위해 교란되어야 하는 속성이라고 가정한다. 계획 서브시스템(640)의 테스트 픽스처에 대해 추적 서브시스템(635)을 실행하는 것이 가능하지 않기 때문에, 이 분석은 두 가지 방식으로 달성될 수 있다. 제1 방법은 계획 서브시스템(640)의 테스트 픽스처에 대한 추적 서브시스템(635)의 영향을 모델링하는 것이다. 제2 방법은 추적 서브시스템(635)의 시뮬레이션된 데이터로 계획 서브시스템(640)을 증강시키는 것이다. 본원에서의 실시예는 일반적으로 제1 방식에 관한 것이다.
도 7과 관련하여 이전에 기술되고 묘사된 바와 같이, 계획 서브시스템(640)의 테스트 픽스처는 (센서 데이터가 아니라) 그라운드 트루스 트랙을 포함하는 교통 장면의 BEV 표현이다. 그라운드 트루스 트랙을 사용하여, 추적 서브시스템(635)(또는 그의 교란된 버전)이 어떤 트랙을 생성하는지를 추정하는 것이 바람직하다. 그렇게 하기 위해, 본원에서의 실시예는 R7이 그라운드 트루스 트랙 및 열화된 트랙에 대해 실행되는 경우, R7이 원하는 점수 r7을 생성하는 방식으로 (예를 들면, 서브샘플링 또는 노이즈 추가에 의해) 그라운드 트루스를 열화시킨다.
계획 서브시스템(640)의 테스트 픽스처에 대한 추적 서브시스템(635)의 영향을 시뮬레이션하는 이 절차를 반복하고 점수 r8이 어떻게 변하는지를 결정하는 것에 의해, 점수 r7과 점수 r8 사이의 관계에 대한 데이터를 수집하고 따라서 위에서 기술된 바와 같이 추적 서브시스템(635)에 대한 모델 선택 및 속성 우선순위화의 문제를 해결하는 것이 가능하다.
다운스트림 서브시스템의 테스트 픽스처에 대한 서브시스템의 영향의 시뮬레이션
대안적인 예로서, 이 섹션에 대한 논의를 위해, 관심 속성이 시각적 인지 서브시스템(620)에 대한 모델 선택 및 속성 우선순위화라고 가정한다. 이전 섹션에서 기술된 바와 같이, 추적 서브시스템(635)과 계획 서브시스템(640)(예를 들면, s7과 s8) 사이의 관계를 찾는 것이 가능하다. 유사하게, 예를 들어, 수학식 5, 수학식 6 또는 수학식 7을 사용하여, 시각적 인지 서브시스템(620)과 추적 서브시스템(635)(예를 들면, s4와 s7) 사이의 관계를 찾는 것이 가능하다. 그 결과, s4(예를 들면, 시각적 인지 서브시스템(620))의 다수의 버전이 주어진 경우, s4의 상이한 버전이 어떤 시스템 레벨 성능을 결과하는지를 결정하는 것이 가능하며, 이는 모델 선택을 해결한다.
속성 우선순위화를 해결하기 위해, 특정 실시예는 연쇄 법칙(chain rule)을 사용한다. 연쇄 법칙에 따르면 r4와 관련한 r8의 그레이디언트를 다음과 같이 쓰는 것이 가능하다:
Figure pat00019
여기서
Figure pat00020
는 야코비 행렬(Jacobian matrix)을 나타낸다. 연쇄 법칙에 따라, r8과 r4 사이의 관계를 직접 알 필요가 없다는 점에 유의한다. 오히려, r7이 교란될 때 r8이 어떻게 변하는지와 이어서 r4가 교란될 때 r7이 어떻게 변하는지를 알기만 하면 된다.
수학식 6에 기술된 바와 같이 선형 함수를 피팅하는 것에 기초하여 그레이디언트를 추정하는 것에 의해, 실시예는 다음을 구하며:
Figure pat00021
Figure pat00022
여기서 W는 n7 x n4 차원(도 6의 맥락에서, n7은 2와 동일하고, n4는 3과 동일함)의 행렬이고, ω와 c는 크기 n7의 벡터이고, c는 스칼라이다. 그 결과,
Figure pat00023
r4와 관련한 그레이디언트 r8의 추정치는 그러면
Figure pat00024
이다. 일반적으로 확률 변수들의 곱의 기댓값이 각각의 확률 변수의 기댓값의 곱과 동일하지 않기 때문에, 이 추정치는 수학식 9의 대략적인 추정치임에 유의한다. argmax(수학식 7에 나타냄)는 그러면 어느 속성을 우선순위화할지를 나타낸다.
시스템 교란
위의 예는 서브시스템의 교란에 기초한 전체 시스템의 분석을 기술한다. 일반적으로, 서브시스템이 교란될 수 있는 여러 가지 방식이 있다.
서브시스템을 교란시키기 위한 제1 기술은, 예를 들어, 노이즈 또는 다른 열화 기술을 사용하여, 해당 서브시스템의 출력을 열화시키는 것이다. 예를 들어, 3D 대상체 감지 서브시스템(예를 들면, 시각적 인지 서브시스템(620), LiDAR 인지 서브시스템(625))의 경우, 가우스 확률 변수(예를 들면, 폭 2 미터(m)라는 가우스 확률 변수)를 추가하는 것에 의해 모든 그의 예측의 거리를 교란시키는 것이 가능하다.
서브시스템을 교란시키기 위한 다른 기술은 그라운드 트루스 데이터를 사용하여 서브시스템의 출력을 보완하는 것에 의해 서브시스템 성능을 확장시키는 것이다. 예를 들어, 3D 대상체 검출기(예를 들면, 시각적 인지 서브시스템(620)의 일부)의 경우, 서브시스템에 대해 이전에 식별되었던 누락된 예측들 중 일부를 추가하는 것에 의해 서브시스템의 재현율을 개선시키는 것이 가능하다. 일 실시예에서, 서브시스템의 파라미터, 예를 들어, 거리당 재현율 곡선이 유사한 형태로 유지되는 방식으로 이러한 추가가 수행되도록 보장하는 것이 바람직할 것이다(예를 들면, 추가되는 누락된 예측이 모두 서로 동일한 거리 계층(distance stratum) 내에 있어야 하는 것은 아니다).
다른 기술은 서브시스템의 아키텍처를 수정하는 것이다. 예를 들어, 서브시스템이 신경 네트워크이거나 이를 기반으로 하는 경우, 하나의 예시적인 실시예는 신경 네트워크를 더 깊도록 수정한다. 추가적으로 또는 대안적으로, 예시적인 실시예는 신경 네트워크의 입력을 증강시킨다. 예를 들어, 서브시스템이 포인트 클라우드에 대해 동작하는 경우, 하나의 예시적인 실시예는 서브시스템에 의해 사용되는 그라운드 트루스 3D 박스에 포인트를 추가하는 것을 포함한다.
위에서 기술된 실시예가 비배타적인 예로서 의도되어 있음이 이해될 것이다. 예를 들어, 다른 실시예는 위에서 설명된 기술, 추가적인 또는 대안적인 기술 등 중 둘 이상을 포함할 것이다.
예시적인 절차의 요약
도 8은 다양한 실시예에 따른, AV 스택의 모델링에 관련된 예시적인 기술을 도시하는 다이어그램이다. 더 일반적으로, 도 8의 기술은 AV 스택의 전체 성능에 대한 AV 스택의 서브시스템의 교란의 영향을 모델링하는 것에 관련된 위에서 기술된 요소들 중 몇몇에 대한 요약이다.
이 기술은, 805에서, (AV 스택(600)과 같은) 복수의 서브시스템을 포함하는 시스템의 제1 서브시스템의 제1 속성을 교란시키는 단계를 포함한다. 이 기술은, 810에서, 제1 속성을 교란시키는 것에 응답하여 시스템의 제2 서브시스템의 제2 속성의 변화를 결정하는 단계를 더 포함하고, 여기서 제1 서브시스템의 적어도 하나의 출력은 제2 서브시스템에 전달된다.
일부 실시예에서, 본원에서의 설명의 맥락에서, 제1 서브시스템은 추적 서브시스템(635)을 포함하고 제2 서브시스템은 계획 서브시스템(640)을 포함한다. 위에서 기술된 바와 같이, 일부 예에서, 추적 서브시스템(635)의 제1 속성을 교란시키는 것은 추적기의 그라운드 트루스를 열화시켜, 이에 의해 계획 서브시스템(640)의 점수의 변화 r8를 생성하는 것을 포함한다.
이 기술은, 815에서, (예를 들면, 수학식 6과 관련하여 기술된 바와 같이) 제1 속성을 교란시키는 것에 응답하여 제1 속성과 제2 속성 사이의 제1 상관 및 제2 속성과 성능 메트릭 사이의 제2 상관에 기초하여 시스템에 대한 성능 메트릭의 값을 결정하는 단계를 더 포함한다.
전술한 설명에서, 본 발명의 실시예는 구현마다 달라질 수 있는 다수의 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 의미보다는 예시적인 의미로 간주되어야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "더 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (24)

  1. 방법으로서,
    적어도 하나의 프로세서를 사용해, 복수의 서브시스템을 포함하는 시스템의 제1 서브시스템의 제1 속성을 교란시키는 단계;
    상기 적어도 하나의 프로세서를 사용해, 상기 제1 속성을 교란시키는 것에 응답하여 상기 시스템의 제2 서브시스템의 제2 속성의 변화를 결정하는 단계 - 상기 제1 서브시스템의 적어도 하나의 출력은 상기 제2 서브시스템에 전달됨 -; 및
    상기 적어도 하나의 프로세서를 사용해, 상기 시스템의 성능 메트릭에 대한 값을 상기 성능 메트릭과 상기 제1 및 제2 속성 간의 상관에 기초하여 결정하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서,
    제1 테스트 픽스처(test fixture)를 사용해, 상기 제1 속성을 교란시키는 것에 응답하여 상기 제1 서브시스템의 성능을 평가하는 단계;
    상기 적어도 하나의 프로세서를 사용해, 상기 제1 서브시스템에 대한 평가에 기초하여 제1 점수를 계산하는 단계;
    제2 테스트 픽스처를 사용해, 상기 제1 속성을 교란시키는 것에 응답하여 상기 제2 서브시스템의 성능을 평가하는 단계;
    상기 적어도 하나의 프로세서를 사용해, 상기 제2 서브시스템에 대한 평가에 기초하여 제2 점수를 계산하는 단계; 및
    상기 제1 점수 및 상기 제2 점수에 기초하여 상기 성능 메트릭의 값을 결정하는 단계
    를 더 포함하는, 방법.
  3. 제2항에 있어서, 상기 성능 메트릭의 값을 결정하는 단계는:
    교란된 제1 및 제2 점수의 그레이디언트(gradient)를 사용하여 상기 성능 메트릭의 값을 예측하는 단계를 더 포함하는, 방법.
  4. 제3항에 있어서, 상기 제2 테스트 픽스처는 상기 제1 서브시스템에서 실행될 수 있는 데이터를 포함하지 않으며, 상기 방법은 상기 제1 서브시스템이 상기 제2 테스트 픽스처 내의 데이터에 어떻게 영향을 미치는지를 시뮬레이션하는 단계
    를 더 포함하는, 방법.
  5. 제3항에 있어서, 상기 그레이디언트는 상기 성능 메트릭과 상기 교란된 제1 및 제2 점수 사이의 선형 모델을 사용하여 추정되는, 방법.
  6. 제5항에 있어서, 상기 성능 메트릭의 값은 상기 선형 모델에 선형 최소 제곱 수식화(linear least squares formulation)를 적용하는 것에 의해 예측되는, 방법.
  7. 제1항에 있어서, 상기 제1 서브시스템의 대안적인 구현에 대한 상기 성능 메트릭의 값이 예측되는, 방법.
  8. 제1항에 있어서, 상기 성능 메트릭은 시스템 레벨 목적 함수인, 방법.
  9. 제1항에 있어서, 상기 시스템은 자율 주행 차량(AV)의 소프트웨어 스택이고 상기 성능 메트릭은 상기 AV의 운전 거동의 품질을 나타내는 목적 함수 출력인, 방법.
  10. 제9항에 있어서, 상기 시스템은 상기 제2 서브시스템의 출력을 수신하는 제3 서브시스템 및 상기 제3 서브시스템으로부터의 출력을 수신하는 제4 서브시스템을 포함하며, 상기 제1 서브시스템은 센서 서브시스템이고, 상기 제2 서브시스템은 상기 센서 서브시스템으로부터 센서 데이터를 수신하는 인지 서브시스템이며, 상기 제3 서브시스템은 상기 인지 서브시스템으로부터 대상체 검출을 수신하는 추적 서브시스템이고, 상기 제4 서브시스템은 상기 추적 서브시스템으로부터 대상체 트랙을 수신하는 플래너이며, 상기 성능 메트릭은 프로세서 및 상기 플래너의 테스트 픽스처를 사용하여 결정되는, 방법.
  11. 제10항에 있어서, 상기 대상체 트랙은 상기 플래너의 테스트 픽스처 내의 그라운드 트루스 트랙을 열화시키는 것에 의해 시뮬레이션되는, 방법.
  12. 제1항에 있어서, 상기 성능 메트릭은 상기 제1 또는 제2 서브시스템 중 적어도 하나의 고장률(failure rate)을 고려하는, 방법.
  13. 시스템으로서,
    적어도 하나의 프로세서;
    상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금 동작들을 수행하게 하는 명령어를 저장한 메모리
    를 포함하며, 상기 동작들은:
    복수의 서브시스템을 포함하는 시스템의 제1 서브시스템의 제1 속성을 교란시키는 동작;
    상기 제1 속성을 교란시키는 것에 응답하여 상기 시스템의 제2 서브시스템의 제2 속성의 변화를 결정하는 동작 - 상기 제1 서브시스템의 적어도 하나의 출력은 상기 제2 서브시스템에 전달됨 -; 및
    상기 시스템의 성능 메트릭에 대한 값을 상기 성능 메트릭과 상기 제1 및 제2 속성 간의 상관에 기초하여 결정하는 동작을 포함하는, 시스템.
  14. 제13항에 있어서, 상기 동작들은:
    제1 테스트 픽스처를 사용해, 상기 제1 속성을 교란시키는 것에 응답하여 상기 제1 서브시스템의 성능을 평가하는 동작;
    상기 제1 서브시스템에 대한 평가에 기초하여 제1 점수를 계산하는 동작;
    제2 테스트 픽스처를 사용해, 상기 제1 속성을 교란시키는 것에 응답하여 상기 제2 서브시스템의 성능을 평가하는 동작;
    상기 제2 서브시스템에 대한 평가에 기초하여 제2 점수를 계산하는 동작; 및
    상기 제1 점수 및 상기 제2 점수에 기초하여 상기 성능 메트릭의 값을 결정하는 동작을 더 포함하는, 시스템.
  15. 제14항에 있어서, 상기 성능 메트릭의 값을 결정하는 동작은:
    교란된 제1 및 제2 점수의 그레이디언트를 사용하여 상기 성능 메트릭의 값을 예측하는 동작을 더 포함하는, 시스템.
  16. 제15항에 있어서, 상기 제2 테스트 픽스처는 상기 제1 서브시스템에서 실행될 수 있는 데이터를 포함하지 않으며, 상기 동작들은 상기 제1 서브시스템이 상기 제2 테스트 픽스처 내의 데이터에 어떻게 영향을 미치는지를 시뮬레이션하는 동작을 더 포함하는, 시스템.
  17. 제15항에 있어서, 상기 그레이디언트는 상기 성능 메트릭과 상기 교란된 제1 및 제2 점수 사이의 선형 모델을 사용하여 추정되는, 시스템.
  18. 제17항에 있어서, 상기 성능 메트릭의 값은 상기 선형 모델에 선형 최소 제곱 수식화를 적용하는 것에 의해 예측되는, 시스템.
  19. 제13항에 있어서, 상기 제1 서브시스템의 대안적인 구현에 대한 상기 성능 메트릭의 값이 예측되는, 시스템.
  20. 제13항에 있어서, 상기 성능 메트릭은 시스템 레벨 목적 함수인, 시스템.
  21. 제13항에 있어서, 상기 시스템은 자율 주행 차량(AV)의 소프트웨어 스택이고 상기 성능 메트릭은 상기 AV의 운전 거동의 품질을 나타내는 목적 함수 출력인, 시스템.
  22. 제21항에 있어서, 상기 시스템은 상기 제2 서브시스템의 출력을 수신하는 제3 서브시스템 및 상기 제3 서브시스템으로부터의 출력을 수신하는 제4 서브시스템을 포함하며, 상기 제1 서브시스템은 센서 서브시스템이고, 상기 제2 서브시스템은 상기 센서 서브시스템으로부터 센서 데이터를 수신하는 인지 서브시스템이며, 상기 제3 서브시스템은 상기 인지 서브시스템으로부터 대상체 검출을 수신하는 추적 서브시스템이고, 상기 제4 서브시스템은 상기 추적 서브시스템으로부터 대상체 트랙을 수신하는 플래너이며, 상기 성능 메트릭은 프로세서 및 상기 플래너의 테스트 픽스처를 사용하여 결정되는, 시스템.
  23. 제22항에 있어서, 상기 대상체 트랙은 상기 플래너의 테스트 픽스처 내의 그라운드 트루스 트랙을 열화시키는 것에 의해 시뮬레이션되는, 시스템.
  24. 제13항에 있어서, 상기 성능 메트릭은 상기 제1 또는 제2 서브시스템 중 적어도 하나의 고장률을 고려하는, 시스템.
KR1020210054349A 2020-10-25 2021-04-27 서브시스템 성능 평가를 위한 메트릭 역전파 KR102565573B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US202063105329P 2020-10-25 2020-10-25
US63/105,329 2020-10-25
US17/180,649 2021-02-19
US17/180,649 US11321211B1 (en) 2020-10-25 2021-02-19 Metric back-propagation for subsystem performance evaluation

Publications (2)

Publication Number Publication Date
KR20220054743A true KR20220054743A (ko) 2022-05-03
KR102565573B1 KR102565573B1 (ko) 2023-08-09

Family

ID=76193587

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210054349A KR102565573B1 (ko) 2020-10-25 2021-04-27 서브시스템 성능 평가를 위한 메트릭 역전파

Country Status (5)

Country Link
US (1) US11321211B1 (ko)
KR (1) KR102565573B1 (ko)
CN (1) CN114510018B (ko)
DE (1) DE102021124913A1 (ko)
GB (1) GB2600188A (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10521255B2 (en) * 2016-05-19 2019-12-31 International Business Machines Corporation Interface and interruption management
US11858514B2 (en) 2021-03-30 2024-01-02 Zoox, Inc. Top-down scene discrimination
US11810225B2 (en) * 2021-03-30 2023-11-07 Zoox, Inc. Top-down scene generation
CN114493094B (zh) * 2021-12-15 2024-05-07 重庆师范大学 一种中小学劳动教育智慧评价***
US20240069505A1 (en) * 2022-08-31 2024-02-29 Gm Cruise Holdings Llc Simulating autonomous vehicle operations and outcomes for technical changes
CN116402871B (zh) * 2023-03-28 2024-05-10 苏州大学 一种基于场景平行要素的单目测距方法、***及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180033221A1 (en) * 2016-07-27 2018-02-01 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for testing operation of unmanned vehicle
JP2018077827A (ja) * 2016-11-09 2018-05-17 バイドゥ ユーエスエイ エルエルシーＢａｉｄｕ ＵＳＡ ＬＬＣ 自律走行車の決定の評価フレームワーク
JP6609369B2 (ja) * 2016-03-17 2019-11-20 株式会社日立製作所 自動運転支援システム、および、自動運転支援方法
US20200250363A1 (en) * 2019-02-06 2020-08-06 Metamoto, Inc. Simulation and validation of autonomous vehicle system and components
KR102158497B1 (ko) * 2019-04-08 2020-09-22 도로교통공단 자율주행 평가시스템

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8725667B2 (en) * 2008-03-08 2014-05-13 Tokyo Electron Limited Method and system for detection of tool performance degradation and mismatch
US20100030586A1 (en) * 2008-07-31 2010-02-04 Choicepoint Services, Inc Systems & methods of calculating and presenting automobile driving risks
US9527515B2 (en) * 2011-12-23 2016-12-27 Zonar Systems, Inc. Vehicle performance based on analysis of drive data
US10074279B1 (en) * 2017-03-07 2018-09-11 Denso International America, Inc. Inference-aware motion planning
US10855927B2 (en) * 2017-03-08 2020-12-01 Samsung Electronics Co., Ltd. Event detecting device including an event signal generator and an output signal generator
WO2019023628A1 (en) * 2017-07-27 2019-01-31 Waymo Llc NEURAL NETWORKS FOR VEHICLE TRACK PLANNING
US20180024239A1 (en) * 2017-09-25 2018-01-25 GM Global Technology Operations LLC Systems and methods for radar localization in autonomous vehicles
US10739775B2 (en) 2017-10-28 2020-08-11 Tusimple, Inc. System and method for real world autonomous vehicle trajectory simulation
US10885240B2 (en) * 2017-11-02 2021-01-05 Uatc, Llc Deterministic simulation framework for autonomous vehicle testing
US10345811B2 (en) * 2017-11-14 2019-07-09 GM Global Technology Operations LLC Method and apparatus for scenario generation and parametric sweeps for the development and evaluation of autonomous driving systems
US20190146493A1 (en) * 2017-11-14 2019-05-16 GM Global Technology Operations LLC Method And Apparatus For Autonomous System Performance And Benchmarking
US10877476B2 (en) 2017-11-30 2020-12-29 Tusimple, Inc. Autonomous vehicle simulation system for analyzing motion planners
US10726577B2 (en) * 2018-01-12 2020-07-28 Intel Corporation Post-incident management for autonomous vehicles
US20190235521A1 (en) * 2018-02-01 2019-08-01 GM Global Technology Operations LLC System and method for end-to-end autonomous vehicle validation
US10569773B2 (en) * 2018-05-31 2020-02-25 Nissan North America, Inc. Predicting behaviors of oncoming vehicles
US11427211B2 (en) * 2018-06-18 2022-08-30 Baidu Usa Llc Methods for handling sensor failures in autonomous driving vehicles
DE112019005149T5 (de) * 2018-10-15 2021-07-01 Nvidia Corporation Verbesserte in-system-testabdeckung basierend auf detektieren von komponentendegradation
US20210101619A1 (en) * 2020-12-16 2021-04-08 Mobileye Vision Technologies Ltd. Safe and scalable model for culturally sensitive driving by automated vehicles

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6609369B2 (ja) * 2016-03-17 2019-11-20 株式会社日立製作所 自動運転支援システム、および、自動運転支援方法
US20180033221A1 (en) * 2016-07-27 2018-02-01 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for testing operation of unmanned vehicle
JP2018077827A (ja) * 2016-11-09 2018-05-17 バイドゥ ユーエスエイ エルエルシーＢａｉｄｕ ＵＳＡ ＬＬＣ 自律走行車の決定の評価フレームワーク
US20200250363A1 (en) * 2019-02-06 2020-08-06 Metamoto, Inc. Simulation and validation of autonomous vehicle system and components
KR102158497B1 (ko) * 2019-04-08 2020-09-22 도로교통공단 자율주행 평가시스템

Also Published As

Publication number Publication date
GB202105796D0 (en) 2021-06-09
KR102565573B1 (ko) 2023-08-09
US11321211B1 (en) 2022-05-03
CN114510018B (zh) 2023-03-28
CN114510018A (zh) 2022-05-17
DE102021124913A1 (de) 2022-04-28
GB2600188A (en) 2022-04-27
US20220129362A1 (en) 2022-04-28

Similar Documents

Publication Publication Date Title
US11858508B2 (en) Trajectory prediction from precomputed or dynamically generated bank of trajectories
KR102593948B1 (ko) 주석 달기를 위한 데이터 샘플의 자동 선택
KR102565573B1 (ko) 서브시스템 성능 평가를 위한 메트릭 역전파
CN113196011A (zh) 运动图构建和车道级路线规划
US20200257931A1 (en) Field theory based perception for autonomous vehicles
US11568688B2 (en) Simulation of autonomous vehicle to improve safety and reliability of autonomous vehicle
US11887324B2 (en) Cross-modality active learning for object detection
KR102580085B1 (ko) 자율 주행 차량의 성능을 평가하기 위한 테스트 시나리오의 선택
US20220122363A1 (en) IDENTIFYING OBJECTS USING LiDAR
US11970183B2 (en) AV path planning with calibration information
GB2599191A (en) Monocular 3D object detection from image semantics network
KR102518209B1 (ko) 고스트 포인트 필터링
US20210078580A1 (en) Vehicle route modification to improve vehicle location information
US20220357453A1 (en) Lidar point cloud segmentation using box prediction
US20230221128A1 (en) Graph Exploration for Rulebook Trajectory Generation
CN116229407A (zh) 用于运载工具的方法、运载工具和存储介质
CN115220439A (zh) 用于运载工具的***和方法以及存储介质

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant