CN115115707B - 车辆落水检测方法、车辆、计算机可读存储介质及芯片 - Google Patents

车辆落水检测方法、车辆、计算机可读存储介质及芯片 Download PDF

Info

Publication number
CN115115707B
CN115115707B CN202210771180.8A CN202210771180A CN115115707B CN 115115707 B CN115115707 B CN 115115707B CN 202210771180 A CN202210771180 A CN 202210771180A CN 115115707 B CN115115707 B CN 115115707B
Authority
CN
China
Prior art keywords
vehicle
pose
camera
water
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210771180.8A
Other languages
English (en)
Other versions
CN115115707A (zh
Inventor
但强飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiaomi Automobile Technology Co Ltd
Original Assignee
Xiaomi Automobile Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiaomi Automobile Technology Co Ltd filed Critical Xiaomi Automobile Technology Co Ltd
Priority to CN202210771180.8A priority Critical patent/CN115115707B/zh
Publication of CN115115707A publication Critical patent/CN115115707A/zh
Application granted granted Critical
Publication of CN115115707B publication Critical patent/CN115115707B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • G01C21/1652—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with ranging devices, e.g. LIDAR or RADAR
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • G01C21/1656—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/30—Assessment of water resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)

Abstract

本公开涉及自动驾驶领域，具体涉及一种车辆落水检测方法、车辆、计算机可读存储介质及芯片，包括获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像，根据传感器检测信息、相机的内部参数和多帧图像的特征点确定车辆位姿，根据车辆位姿确定车辆与水面的距离，在车辆与水面的距离小于预定阈值的情况下，确定车辆即将落水；能够在车辆落水前预判车辆落水并发出车辆即将落水信号，提升了车辆的安全性，减少安装液位传感器及其维护，降低了车辆成本。

Description

车辆落水检测方法、车辆、计算机可读存储介质及芯片
技术领域
本公开涉及自动驾驶，尤其涉及一种车辆落水检测方法、车辆、计算机可读存储介质及芯片。
背景技术
自动驾驶技术日新月异，自动驾驶车辆也开始普及，驾乘人员在使用自动驾驶车辆时，存在落水危险，目前落水检测主要为液位检测或液位检测融合惯性测量单元。需要等落水后才能检测到，具有一定的滞后性，无法保障驾乘人员的安全。
发明内容
为克服相关技术中存在的问题，本公开提供一种车辆落水检测方法、车辆、计算机可读存储介质及芯片。
根据本公开实施例的第一方面，提供一种车辆落水检测方法，包括获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像；根据所述传感器检测信息、所述相机的内部参数和所述多帧图像的特征点确定车辆位姿；根据所述车辆位姿确定车辆与水面的距离；在所述距离小于预定阈值的情况下，确定所述车辆即将落水。
可选地，所述传感器检测信息包括方向加速度和角加速度；所述根据所述传感器检测信息、所述相机的内部参数和所述多帧图像的特征点确定车辆位姿的步骤包括：根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿；将所述传感器检测信息与所述初始车辆位姿融合，以矫正所述初始车辆位姿，得到矫正后的车辆位姿；通过无损卡尔曼滤波器将所述矫正后的车辆位姿与所述传感器检测信息进行融合滤波，以得到所述车辆位姿。
可选地，所述根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿的步骤包括：提取所述多帧图像中的关键帧；所述关键帧为所述多帧图像中能代表车辆位姿的图像帧；基于所述相机的内部参数，通过数学转换方式对所述关键帧的特征点进行深度恢复，得到所述车辆在三维空间的位置，作为所述初始车辆位姿。
可选地，所述根据所述车辆位姿确定车辆与水面的距离的步骤包括：在所述车辆位姿满足所述车辆坠落条件的情况下，触发所述相机对所述多帧图像进行语义分割，以区分所述多帧图像中每一帧的水面区域及非水面区域，及提高所述惯性检测量单元的检测帧率和所述相机的检测帧率；在任一帧图像中的所述水面区域大于指定阈值的情况下，输出车辆与水面的距离。
可选地，根据所述车辆位姿确定车辆是否满足车辆坠落条件；所述车辆位姿包括所述车辆的姿态角、径向加速度和角加速度；或通过车辆坠落网络确定所述车辆是否满足所述车辆坠落条件。
可选地，所述通过车辆坠落网络确定所述车辆是否满足所述车辆坠落条件的步骤包括：采集车辆坠落场景的第一IMU时序信号和非坠落场景的第二IMU时序信号；根据第一IMU时序信号和第二IMU时序信号训练得到所述车辆坠落网络；获取车辆运行过程中的IMU时序信号，通过所述车辆坠落网络识别所述IMU时序信号，以确定车辆是否满足所述车辆坠落条件。
可选地，在所述距离小于预定阈值的情况下，开启车辆落水监测模式及执行车辆落水保护程序；所述车辆落水监测模式包括实时检测车辆的超声波传感器、毫米波传感器和所述IMU的数据；所述车辆落水保护程序包括车窗的紧急预开启和/或发出求救信号。
根据本公开实施例的第二方面，提供一种车辆落水检测装置，包括：获取模块，被配置为获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像；第一处理模块，被配置为根据所述传感器检测信息、所述相机的内部参数和所述多帧图像的特征点确定车辆位姿；第二处理模块，被配置为根据所述车辆位姿确定车辆与水面的距离；第三处理模块，被配置为在所述距离小于预定阈值的情况下，确定所述车辆即将落水。
根据本公开实施例的第三方面，提供一种车辆，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为执行所述可执行指令实现上述的车辆落水检测方法的步骤。
根据本公开实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，该计算机程序指令被处理器执行时实现本公开第一方面所提供的车辆落水检测方法的步骤。
根据本公开实施例的第五方面，提供一种芯片，包括：处理器和接口；所述处理器用于读取指令以执行前述的车辆落水检测方法。
本公开的实施例提供的技术方案可以包括以下有益效果：获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像，根据传感器检测信息、相机的内部参数和多帧图像的特征点确定车辆位姿，根据车辆位姿确定车辆与水面的距离，在车辆与水面的距离小于预定阈值的情况下，确定车辆即将落水；能够在车辆落水前预判车辆落水并发出车辆即将落水信号，提升了车辆的安全性，减少安装液位传感器及其维护，降低了车辆成本。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种车辆落水检测方法的流程图。
图2是根据一示例性实施例示出的子步骤S12的流程图。
图3是根据一示例性实施例示出的一种车辆落水检测装置框图。
图4是根据一示例性实施例示出的一种车辆的功能框图示意图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是，本申请中所有获取信号、信息或数据的动作都是在遵照所在地国家相应的数据保护法规政策的前提下，并获得由相应装置所有者给予授权的情况下进行的。
可以理解的是，本公开中“多个”是指两个或两个以上，其它量词与之类似。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。
进一步可以理解的是，术语“第一”、“第二”等用于描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开，并不表示特定的顺序或者重要程度。实际上，“第一”、“第二”等表述完全可以互换使用。例如，在不脱离本公开范围的情况下，第一IMU时序信号也可以被称为第二IMU时序信号，类似地，第二IMU时序信号也可以被称为第一IMU时序信号。
进一步可以理解的是，本公开实施例中尽管在附图中以特定的顺序描述操作，但是不应将其理解为要求按照所示的特定顺序或是串行顺序来执行这些操作，或是要求执行全部所示的操作以得到期望的结果。在特定环境中，多任务和并行处理可能是有利的。
图1是根据一示例性实施例示出的一种车辆落水检测方法的流程图，如图1所示，车辆落水检测方法应用于一车辆，如应用于集成在车辆上的一芯片，车辆落水检测方法包括：获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像，惯性测量单元安装在车辆上，用于检测车辆的方向加速度和角加速度，相机用于捕获车辆运动过程中的车辆周围场景的多帧图像；然后根据传感器检测信息、相机的内部参数和多帧图像确定车辆位姿，例如可以根据传感器检测信息和多帧图像确定车辆位姿是否满足坠落条件；在车辆位姿满足坠落条件的情况下，根据车辆位姿确定车辆与水面的距离；最后在车辆与水面距离小于预定阈值的情况下，确定车辆即将落水。能够在车辆落水前预判车辆落水并发出车辆即将落水信号，提升了车辆的安全性，减少安装液位传感器及其维护，降低了车辆成本。
下面将详细阐述图1所示的车辆落水检测方法的步骤：
在步骤S11中，获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像。
惯性测量单元(Inertial Measurement Unit，IMU)是测量物体三轴姿态角(或角速度)以及加速度的装置。IMU包含了三个单轴的加速度计和三个单轴的陀螺，加速度计检测物体在载体坐标***独立三轴的加速度信号，而陀螺检测载体相对于导航坐标系的角速度信号，测量物体在三维空间中的角速度和加速度，并以此解算出物体的姿态。在一种实施方式中，该惯性测量单元可以安装在车辆的几何中心，用于检测车辆的方向加速度和角加速度。
车辆上可以安装一个或多个相机，在一种实施方式中，相机可以是但不限于鱼眼相机、单目相机、双目相机或广角相机等。通常情况下，可以安装多个相机，以提高相机的感知覆盖区域。在一种实施方式中，车辆上安装的相机可以包括内视相机、后视相机、前置相机、侧视相机、环视相机等。在一种实施方式中，还可以单独安装一个前视单目相机，在车内后视镜上或者前挡风玻璃上较高的位置，以实现较远的有效距离，能够自动检测行人、骑行者、摩托车、路边黄线、桥梁桥墩、马路牙子交通标识和信号等，以达到盲区覆盖的效果，或者哪里有覆盖盲区，就在哪里加一个相机，通过不断增加相机的办法，尽可能缩减盲区，进而尽可能捕获车辆运动过程中的车辆周围场景的多帧图像。
在一种实施方式中，可以实时获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像，例如每5ms获取一次，或每10ms获取一次等，本公开对此不做限制。
在步骤S12中，根据传感器检测信息、相机的内部参数和多帧图像的特征点确定车辆位姿。
需要说明的是，步骤S12还包括子步骤S121、子步骤S122及子步骤S123，确定车辆位姿的具体方式将在步骤S12的子步骤中进行详细描述。请参阅图2，图2是本公开示例性实施例示出的子步骤S12的流程图。
在步骤S121中，根据相机的内部参数和多帧图像的特征点确定初始车辆位姿。
示例性的，可以预先获取到相机内部参数和变换矩阵，内部参数和变换矩阵均为相机的出厂参数，内部参数为将特征点在世界坐标系与图像坐标系之间进行转化的一些出厂参数，为已知量；然后提取多帧图像的关键帧，关键帧为多帧图像中能代表车辆位姿的图像帧，提取关键帧的特征点，通过数学转换关系将内部参数、变换矩阵和多帧图像的特征点转化为车辆在三维空间的位置，记为初始车辆位姿。需要说明的是，提取图像的特征点算法为本领域公知的、成熟的技术手段，在此不再赘述。
在步骤S122中，将传感器检测信息与初始车辆位姿融合，以矫正初始车辆位姿，得到矫正后的车辆位姿。
由于传感器检测信息是有噪声的，获取的多帧图像也具有运动延迟，从而得到的初始车辆位姿也具有运动延迟，因此需要融合传感器检测信息与多帧图像，以矫正多帧图像的运动延迟，尽可能的使初始车辆位姿更加精确。示例性的，可以融合传感器检测信息的原始数据与相机的多帧图像，也可以融合传感器检测信息中检测到的物体与多帧图像中检测到的物体，还可以融合传感器检测信息中对象的轨迹与多帧图像中对象的轨迹，或者融合传感器检测信息与初始车辆位姿，以矫正初始车辆位姿，得到矫正后的车辆位姿。通过数据融合提供了更可靠、准确的车辆位姿。
在步骤S123中，通过无损卡尔曼滤波器将矫正后的车辆位姿与传感器检测信息进行融合滤波，以得到车辆位姿。
无损卡尔曼滤波(Unscented Kalman Filter，UKF)是无损变换(UT)和标准卡尔曼滤波体系的结合，通过无损变换使非线性***方程适用于线性假设下的标准卡尔曼滤波体系。通过UKF将矫正后的车辆位姿与传感器检测信息进行融合滤波，以调整矫正后的车辆位姿得到车辆位姿，进一步提升车辆位姿的精度和稳定性。
在步骤S13中，根据车辆位姿确定车辆与水面的距离。
在车辆位姿满足车辆坠落条件的情况下，触发相机对多帧图像进行语义分割，以区分多帧图像中每一帧的水面区域及非水面区域，并提高惯性检测量单元的测帧率和相机的检测帧率。在水面区域大于指定阈值的情况下，输出车辆与水面的距离。
需要说明的是，可以根据车辆位姿确定车辆是否满足车辆坠落条件，车辆位姿包括车辆的姿态角、径向加速度和角加速度。例如根据车辆的姿态角、径向加速度和角加速度确定车辆是否满足车辆坠落条件，当车辆的姿态角、径向加速度和角加速度满足预设条件，即可确定车辆满足坠落条件，预设条件可以是基于人为经验取得，或是其他可行的方式取得，本公开对此不作限制。
或者还可以通过车辆坠落网络确定车辆是否满足车辆坠落条件，通过车辆坠落网络确定车辆是否满足车辆坠落条件的步骤包括：首先采集车辆坠落场景的第一IMU时序信号和非坠落场景的第二IMU时序信号作为样本数据，然后根据第一IMU时序信号和第二IMU时序信号训练得到车辆坠落网络，使得车辆坠落网络具有区分坠落场景和非坠落场景的能力；需要说明的是，样本数据还可以是IMU时序信号和相机时序信号，或者还可以是前述S12步骤中得到的车辆位姿。得到车辆坠落网络之后，获取车辆运行过程中的IMU时序信号，通过车辆坠落网络识别IMU时序信号，以确定车辆是否满足车辆坠落条件，同理车辆坠落网络也可以通过识别IMU时序信号和相机时序信号来确定车辆是否满足车辆坠落条件，或者车辆坠落网络还可以通过识别车辆位姿来确定车辆是否满足车辆坠落条件。车辆坠落网络可以是循环神经网络(Recurrent Neural Network，RNN)的一种。
在步骤S14中，在距离小于预定阈值的情况下，确定车辆即将落水。
车辆与水面的距离小于预定阈值的情况下，确定车辆即将落水，并输出车辆即将落水信号，开启车辆落水监测模式及执行车辆落水保护程序；车辆落水监测模式包括实时检测车辆的超声波传感器、毫米波传感器和IMU的数据，车辆落水保护程序包括车窗的紧急预开启和/或发出求救信号。该预定阈值可以是基于人为经验取得，或是其他可行的方式取得，本公开对此不作限制。
综上所述，本公开提供的车辆落水检测方法，包括获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像，根据传感器检测信息、相机的内部参数和多帧图像的特征点确定车辆位姿，根据车辆位姿确定车辆与水面的距离，在车辆与水面的距离小于预定阈值的情况下，确定车辆即将落水；能够在车辆落水前预判车辆落水并发出车辆即将落水信号，提升了车辆的安全性，减少安装液位传感器及其维护，降低了车辆成本。
图3是根据一示例性实施例示出的一种车辆落水检测装置框图。参照图3，该装置包括获取模块201、第一处理模块202、第二处理模块203和第三处理模块204。
该获取模块201，被配置为获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像；
该第一处理模块202，被配置为根据所述传感器检测信息、所述相机的内部参数和所述多帧图像的特征点确定车辆位姿；
该第二处理模块203，被配置为根据所述车辆位姿确定车辆与水面的距离；
该第三处理模块204，被配置为在所述距离小于预定阈值的情况下，确定所述车辆即将落水。
可选地，该第一处理模块202，还被配置为根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿；
将所述传感器检测信息与所述初始车辆位姿融合，以矫正所述初始车辆位姿，得到矫正后的车辆位姿；
通过无损卡尔曼滤波器将所述矫正后的车辆位姿与所述传感器检测信息进行融合滤波，以得到所述车辆位姿。
可选地，该第一处理模块202，还被配置为提取所述多帧图像中的关键帧；所述关键帧为所述多帧图像中能代表车辆位姿的图像帧；
基于所述相机的内部参数，通过数学转换方式对所述关键帧的特征点进行深度恢复，得到所述车辆在三维空间的位置，作为所述初始车辆位姿。
可选地，该第二处理模块203，被配置为在所述车辆位姿满足所述车辆坠落条件的情况下，触发所述相机对所述多帧图像进行语义分割，以区分所述多帧图像中每一帧的水面区域及非水面区域，及提高所述惯性检测量单元的检测帧率和所述相机的检测帧率；
在任一帧图像中的所述水面区域大于指定阈值的情况下，输出车辆与水面的距离。
可选地，该第三处理模块204，还被配置为根据所述车辆位姿确定车辆是否满足车辆坠落条件；所述车辆位姿包括所述车辆的姿态角、径向加速度和角加速度；
或通过车辆坠落网络确定所述车辆是否满足所述车辆坠落条件。
可选地，该第三处理模块204，还被配置为采集车辆坠落场景的第一IMU时序信号和非坠落场景的第二IMU时序信号；
根据第一IMU时序信号和第二IMU时序信号训练得到所述车辆坠落网络；
获取车辆运行过程中的IMU时序信号，通过所述车辆坠落网络识别所述IMU时序信号，以确定车辆是否满足所述车辆坠落条件。
可选地，该第三处理模块204，还被配置为在所述距离小于预定阈值的情况下，开启车辆落水监测模式及执行车辆落水保护程序；
所述车辆落水监测模式包括实时检测车辆的超声波传感器、毫米波传感器和所述IMU的数据；
所述车辆落水保护程序包括车窗的紧急预开启和/或发出求救信号。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现本公开提供的车辆落水检测方法的步骤。
在一种实施例中，还提供了一种集成电路(Integrated Circuit，IC)或芯片，其中该集成电路可以是一个IC，也可以是多个IC的集合；该芯片可以包括但不限于以下种类：GPU(Graphics Processing Unit，图形处理器)、CPU(Central Processing Unit，中央处理器)、FPGA(Field Programmable Gate Array，可编程逻辑阵列)、DSP(Digital SignalProcessor，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、SOC(System on Chip，SoC，片上***或***级芯片)等。上述的集成电路或芯片中可以用于执行可执行指令(或代码)，以实现上述的车辆落水检测方法。其中该可执行指令可以存储在该集成电路或芯片中，也可以从其他的装置或设备获取，例如该集成电路或芯片中包括处理器、存储器，以及用于与其他的装置通信的接口。该可执行指令可以存储于该处理器中，当该可执行指令被处理器执行时实现上述的车辆落水检测方法；或者，该集成电路或芯片可以通过该接口接收可执行指令并传输给该处理器执行，以实现上述的车辆落水检测方法。
参阅图4，图4是一示例性实施例示出的一种车辆600的功能框图示意图。车辆600可以被配置为完全或部分自动驾驶模式。例如，车辆600可以通过感知***620获取其周围的环境信息，并基于对周边环境信息的分析得到自动驾驶策略以实现完全自动驾驶，或者将分析结果呈现给用户以实现部分自动驾驶。
车辆600可包括各种子***，例如，信息娱乐***610、感知***620、决策控制***630、驱动***640以及计算平台650。可选地，车辆600可包括更多或更少的子***，并且每个子***都可包括多个部件。另外，车辆600的每个子***和部件可以通过有线或者无线的方式实现互连。
在一些实施例中，信息娱乐***610可以包括通信***611，娱乐***612以及导航***613。
通信***611可以包括无线通信***，无线通信***可以直接地或者经由通信网络来与一个或多个设备无线通信。例如，无线通信***可使用3G蜂窝通信，例如CDMA、EVD0、GSM/GPRS，或者4G蜂窝通信，例如LTE。或者5G蜂窝通信。无线通信***可利用WiFi与无线局域网(wireless local area network，WLAN)通信。在一些实施例中，无线通信***可利用红外链路、蓝牙或ZigBee与设备直接通信。其他无线协议，例如各种车辆通信***，例如，无线通信***可包括一个或多个专用短程通信(dedicated short range communications，DSRC)设备，这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
娱乐***612可以包括显示设备，麦克风和音响，用户可以基于娱乐***在车内收听广播，播放音乐；或者将手机和车辆联通，在显示设备上实现手机的投屏，显示设备可以为触控式，用户可以通过触摸屏幕进行操作。
在一些情况下，可以通过麦克风获取用户的语音信号，并依据对用户的语音信号的分析实现用户对车辆600的某些控制，例如调节车内温度等。在另一些情况下，可以通过音响向用户播放音乐。
导航***613可以包括由地图供应商所提供的地图服务，从而为车辆600提供行驶路线的导航，导航***613可以和车辆的全球定位***621、惯性测量单元622配合使用。地图供应商所提供的地图服务可以为二维地图，也可以是高精地图。
感知***620可包括感测关于车辆600周边的环境的信息的若干种传感器。例如，感知***620可包括全球定位***621(全球定位***可以是GPS***，也可以是北斗***或者其他定位***)、惯性测量单元(inertial measurement unit，IMU)622、激光雷达623、毫米波雷达624、超声雷达625以及摄像装置626。感知***620还可包括被监视车辆600的内部***的传感器(例如，车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是车辆600的安全操作的关键功能。
全球定位***621用于估计车辆600的地理位置。
惯性测量单元622用于基于惯性加速度来感测车辆600的位姿变化。在一些实施例中，惯性测量单元622可以是加速度计和陀螺仪的组合。
激光雷达623利用激光来感测车辆600所位于的环境中的物体。在一些实施例中，激光雷达623可包括一个或多个激光源、激光扫描器以及一个或多个检测器，以及其他***组件。
毫米波雷达624利用无线电信号来感测车辆600的周边环境内的物体。在一些实施例中，除了感测物体以外，毫米波雷达624还可用于感测物体的速度和/或前进方向。
超声雷达625可以利用超声波信号来感测车辆600周围的物体。
摄像装置626用于捕捉车辆600的周边环境的图像信息。摄像装置626可以包括单目相机、双目相机、结构光相机以及全景相机等，摄像装置626获取的图像信息可以包括静态图像，也可以包括视频流信息。
决策控制***630包括基于感知***620所获取的信息进行分析决策的计算***631，决策控制***630还包括对车辆600的动力***进行控制的整车控制器632，以及用于控制车辆600的转向***633、油门634和制动***635。
计算***631可以操作来处理和分析由感知***620所获取的各种信息以便识别车辆600周边环境中的目标、物体和/或特征。目标可以包括行人或者动物，物体和/或特征可包括交通信号、道路边界和障碍物。计算***631可使用物体识别算法、运动中恢复结构(Structure from Motion，SFM)算法、视频跟踪等技术。在一些实施例中，计算***631可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。计算***631可以将所获取的各种信息进行分析并得出对车辆的控制策略。
整车控制器632可以用于对车辆的动力电池和引擎641进行协调控制，以提升车辆600的动力性能。
转向***633可操作来调整车辆600的前进方向。例如在一个实施例中可以为方向盘***。
油门634用于控制引擎641的操作速度并进而控制车辆600的速度。
制动***635用于控制车辆600减速。制动***635可使用摩擦力来减慢车轮644。在一些实施例中，制动***635可将车轮644的动能转换为电流。制动***635也可采取其他形式来减慢车轮644转速从而控制车辆600的速度。
驱动***640可包括为车辆600提供动力运动的组件。在一个实施例中，驱动***640可包括引擎641、能量源642、传动***643和车轮644。引擎641可以是内燃机、电动机、空气压缩引擎或其他类型的引擎组合，例如汽油发动机和电动机组成的混动引擎，内燃引擎和空气压缩引擎组成的混动引擎。引擎641将能量源642转换成机械能量。
能量源642的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源642也可以为车辆600的其他***提供能量。
传动***643可以将来自引擎641的机械动力传送到车轮644。传动***643可包括变速箱、差速器和驱动轴。在一个实施例中，传动***643还可以包括其他器件，比如离合器。其中，驱动轴可包括可耦合到一个或多个车轮644的一个或多个轴。
车辆600的部分或所有功能受计算平台650控制。计算平台650可包括至少一个处理器651，处理器651可以执行存储在例如存储器652这样的非暂态计算机可读介质中的指令653。在一些实施例中，计算平台650还可以是采用分布式方式控制车辆600的个体组件或子***的多个计算设备。
处理器651可以是任何常规的处理器，诸如商业可获得的CPU。可替换地，处理器651还可以包括诸如图像处理器(Graphic Process Unit，GPU)，现场可编程门阵列(FieldProgrammable Gate Array，FPGA)、片上***(Sysem on Chip，SOC)、专用集成芯片(Application Specific Integrated Circuit，ASIC)或它们的组合。尽管图4功能性地图示了处理器、存储器、和在相同块中的计算机的其它元件，但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如，存储器可以是硬盘驱动器或位于不同于计算机的外壳内的其它存储介质。因此，对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤，诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器，处理器只执行与特定于组件的功能相关的计算。
在本公开实施方式中，处理器651可以执行上述的车辆落水检测方法。
在此处所描述的各个方面中，处理器651可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中，此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行，包括采取执行单一操纵的必要步骤。
在一些实施例中，存储器652可包含指令653(例如，程序逻辑)，指令653可被处理器651执行来执行车辆600的各种功能。存储器652也可包含额外的指令，包括向信息娱乐***610、感知***620、决策控制***630、驱动***640中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令653以外，存储器652还可存储数据，例如道路地图、路线信息，车辆的位置、方向、速度以及其它这样的车辆数据，以及其他信息。这种信息可在车辆600在自主、半自主和/或手动模式中操作期间被车辆600和计算平台650使用。
计算平台650可基于从各种子***(例如，驱动***640、感知***620和决策控制***630)接收的输入来控制车辆600的功能。例如，计算平台650可利用来自决策控制***630的输入以便控制转向***633来避免由感知***620检测到的障碍物。在一些实施例中，计算平台650可操作来对车辆600及其子***的许多方面提供控制。
可选地，上述这些组件中的一个或多个可与车辆600分开安装或关联。例如，存储器652可以部分或完全地与车辆600分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地，上述组件只是一个示例，实际应用中，上述各个模块中的组件有可能根据实际需要增添或者删除，图4不应理解为对本公开实施例的限制。
在道路行进的自动驾驶汽车，如上面的车辆600，可以识别其周围环境内的物体以确定对当前速度的调整。物体可以是其它车辆、交通控制设备、或者其它类型的物体。在一些示例中，可以独立地考虑每个识别的物体，并且基于物体的各自的特性，诸如它的当前速度、加速度、与车辆的间距等，可以用来确定自动驾驶汽车所要调整的速度。
可选地，车辆600或者与车辆600相关联的感知和计算设备(例如计算***631、计算平台650)可以基于所识别的物体的特性和周围环境的状态(例如，交通、雨、道路上的冰、等等)来预测识别的物体的行为。可选地，每一个所识别的物体都依赖于彼此的行为，因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆600能够基于预测的识别的物体的行为来调整它的速度。换句话说，自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到(例如，加速、减速、或者停止)何种稳定状态。在这个过程中，也可以考虑其它因素来确定车辆600的速度，诸如，车辆600在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外，计算设备还可以提供修改车辆600的转向角的指令，以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如，道路上的相邻车道中的车辆)的安全横向和纵向距离。
上述车辆600可以为各种类型的行驶工具，例如，轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、娱乐车、火车等等，本公开实施例不做特别的限定。
在另一示例性实施例中，还提供一种计算机程序产品，该计算机程序产品包含能够由可编程的装置执行的计算机程序，该计算机程序具有当由该可编程的装置执行时用于执行上述的车辆落水检测方法的代码部分。
本领域技术人员在考虑说明书及实践本公开后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (9)

1.一种车辆落水检测方法，其特征在于，包括：
获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像；
根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿；
将所述传感器检测信息与所述初始车辆位姿融合，以矫正所述初始车辆位姿，得到矫正后的车辆位姿；
通过无损卡尔曼滤波器将所述矫正后的车辆位姿与所述传感器检测信息进行融合滤波，以得到车辆位姿；
在所述车辆位姿满足车辆坠落条件的情况下，触发所述相机对所述多帧图像进行语义分割，以区分所述多帧图像中每一帧的水面区域及非水面区域，及提高所述惯性测量单元IMU的检测帧率和所述相机的检测帧率；
在任一帧图像中的所述水面区域大于指定阈值的情况下，输出车辆与水面的距离；
在所述距离小于预定阈值的情况下，确定所述车辆即将落水。
2.根据权利要求1所述的方法，其特征在于，所述根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿的步骤包括：
提取所述多帧图像中的关键帧；所述关键帧为所述多帧图像中能代表车辆位姿的图像帧；
基于所述相机的内部参数，通过数学转换方式对所述关键帧的特征点进行深度恢复，得到所述车辆在三维空间的位置，作为所述初始车辆位姿。
3.根据权利要求1所述的方法，其特征在于，在所述通过无损卡尔曼滤波器将所述矫正后的车辆位姿与所述传感器检测信息进行融合滤波，以得到车辆位姿的步骤之后，所述方法还包括：
根据所述车辆位姿确定车辆是否满足车辆坠落条件；所述车辆位姿包括所述车辆的姿态角、径向加速度和角加速度；
或通过车辆坠落网络确定所述车辆是否满足所述车辆坠落条件。
4.根据权利要求3所述的方法，其特征在于，所述通过车辆坠落网络确定所述车辆是否满足所述车辆坠落条件的步骤包括：
采集车辆坠落场景的第一IMU时序信号和非坠落场景的第二IMU时序信号；
根据第一IMU时序信号和第二IMU时序信号训练得到所述车辆坠落网络；
获取车辆运行过程中的IMU时序信号，通过所述车辆坠落网络识别所述IMU时序信号，以确定车辆是否满足所述车辆坠落条件。
5.根据权利要求1所述的方法，其特征在于，还包括：
在所述距离小于预定阈值的情况下，开启车辆落水监测模式及执行车辆落水保护程序；
所述车辆落水监测模式包括实时检测车辆的超声波传感器、毫米波传感器和所述IMU的数据；
所述车辆落水保护程序包括车窗的紧急预开启和/或发出求救信号。
6.一种车辆落水检测装置，其特征在于，包括：
获取模块，被配置为获取惯性测量单元IMU输出的传感器检测信息和相机捕获到的多帧图像；
第一处理模块，被配置为根据所述相机的内部参数和所述多帧图像的特征点确定初始车辆位姿；
将所述传感器检测信息与所述初始车辆位姿融合，以矫正所述初始车辆位姿，得到矫正后的车辆位姿；
通过无损卡尔曼滤波器将所述矫正后的车辆位姿与所述传感器检测信息进行融合滤波，以得到车辆位姿；
第二处理模块，被配置为在所述车辆位姿满足车辆坠落条件的情况下，触发所述相机对所述多帧图像进行语义分割，以区分所述多帧图像中每一帧的水面区域及非水面区域，及提高所述惯性测量单元IMU的检测帧率和所述相机的检测帧率；
在任一帧图像中的所述水面区域大于指定阈值的情况下，输出车辆与水面的距离；
第三处理模块，被配置为在所述距离小于预定阈值的情况下，确定所述车辆即将落水。
7.一种车辆，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述可执行指令实现权利要求1~5中任一项所述方法的步骤。
8.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述程序指令被处理器执行时实现权利要求1~5中任一项所述方法的步骤。
9.一种芯片，其特征在于，包括处理器和接口；所述处理器用于读取指令以执行权利要求1~5中任一项所述的方法。
CN202210771180.8A 2022-06-30 2022-06-30 车辆落水检测方法、车辆、计算机可读存储介质及芯片 Active CN115115707B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210771180.8A CN115115707B (zh) 2022-06-30 2022-06-30 车辆落水检测方法、车辆、计算机可读存储介质及芯片

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210771180.8A CN115115707B (zh) 2022-06-30 2022-06-30 车辆落水检测方法、车辆、计算机可读存储介质及芯片

Publications (2)

Publication Number Publication Date
CN115115707A CN115115707A (zh) 2022-09-27
CN115115707B true CN115115707B (zh) 2023-10-10

Family

ID=83329894

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210771180.8A Active CN115115707B (zh) 2022-06-30 2022-06-30 车辆落水检测方法、车辆、计算机可读存储介质及芯片

Country Status (1)

Country Link
CN (1) CN115115707B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105931275A (zh) * 2016-05-23 2016-09-07 北京暴风魔镜科技有限公司 基于移动端单目和imu融合的稳定运动跟踪方法和装置
CN105953796A (zh) * 2016-05-23 2016-09-21 北京暴风魔镜科技有限公司 智能手机单目和imu融合的稳定运动跟踪方法和装置
AU2020101932A4 (en) * 2020-07-16 2020-10-01 Xi'an University Of Science And Technology Binocular vision–based method and system for pose measurement of cantilever tunneling equipment
CN111752307A (zh) * 2019-12-19 2020-10-09 广州极飞科技有限公司 位置标示装置、无人机及位置标示方法
CN112009409A (zh) * 2019-05-28 2020-12-01 北京新能源汽车股份有限公司 一种电动汽车落水保护的控制方法及***
CN113389115A (zh) * 2021-05-19 2021-09-14 哈尔滨工业大学（深圳） 车辆特性和路面平整度检测方法、装置、设备及存储介质
CN214295858U (zh) * 2020-11-23 2021-09-28 上汽通用五菱汽车股份有限公司 车辆落水预警救生***及汽车

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105931275A (zh) * 2016-05-23 2016-09-07 北京暴风魔镜科技有限公司 基于移动端单目和imu融合的稳定运动跟踪方法和装置
CN105953796A (zh) * 2016-05-23 2016-09-21 北京暴风魔镜科技有限公司 智能手机单目和imu融合的稳定运动跟踪方法和装置
CN112009409A (zh) * 2019-05-28 2020-12-01 北京新能源汽车股份有限公司 一种电动汽车落水保护的控制方法及***
CN111752307A (zh) * 2019-12-19 2020-10-09 广州极飞科技有限公司 位置标示装置、无人机及位置标示方法
AU2020101932A4 (en) * 2020-07-16 2020-10-01 Xi'an University Of Science And Technology Binocular vision–based method and system for pose measurement of cantilever tunneling equipment
CN214295858U (zh) * 2020-11-23 2021-09-28 上汽通用五菱汽车股份有限公司 车辆落水预警救生***及汽车
CN113389115A (zh) * 2021-05-19 2021-09-14 哈尔滨工业大学（深圳） 车辆特性和路面平整度检测方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN115115707A (zh) 2022-09-27

Similar Documents

Publication Publication Date Title
WO2021057344A1 (zh) 一种数据呈现的方法及终端设备
CN115100377B (zh) 地图构建方法、装置、车辆、可读存储介质及芯片
CN115042821B (zh) 车辆控制方法、装置、车辆及存储介质
CN115123257B (zh) 路面减速带位置识别方法、装置、车辆、存储介质及芯片
CN115330923B (zh) 点云数据渲染方法、装置、车辆、可读存储介质及芯片
CN115035494A (zh) 图像处理方法、装置、车辆、存储介质及芯片
CN115205365A (zh) 车辆距离检测方法、装置、车辆、可读存储介质及芯片
CN115220449A (zh) 路径规划的方法、装置、存储介质、芯片及车辆
CN115205311B (zh) 图像处理方法、装置、车辆、介质及芯片
CN115056784B (zh) 车辆控制方法、装置、车辆、存储介质及芯片
CN115100630B (zh) 障碍物检测方法、装置、车辆、介质及芯片
CN115202234B (zh) 仿真测试方法、装置、存储介质和车辆
CN114842440B (zh) 自动驾驶环境感知方法、装置、车辆及可读存储介质
CN114782638B (zh) 生成车道线的方法、装置、车辆、存储介质及芯片
CN115205848A (zh) 目标检测方法、装置、车辆、存储介质及芯片
CN115116161A (zh) 车辆数据采集方法、装置、存储介质以及车辆
CN115042814A (zh) 交通灯状态识别方法、装置、车辆及存储介质
CN115115707B (zh) 车辆落水检测方法、车辆、计算机可读存储介质及芯片
CN115221151A (zh) 车辆数据的传输方法、装置、车辆、存储介质及芯片
CN115139946B (zh) 车辆落水检测方法、车辆、计算机可读存储介质及芯片
CN115082886B (zh) 目标检测的方法、装置、存储介质、芯片及车辆
CN114852092B (zh) 方向盘脱手检测方法、装置、可读存储介质及车辆
CN115082772B (zh) 地点识别方法、装置、车辆、存储介质及芯片
CN114822216B (zh) 生成车位地图的方法、装置、车辆、存储介质及芯片
CN115063639B (zh) 生成模型的方法、图像语义分割方法、装置、车辆及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant