CN113227838A - 车辆用灯具及车辆 - Google Patents

车辆用灯具及车辆 Download PDF

Info

Publication number
CN113227838A
CN113227838A CN201980085931.7A CN201980085931A CN113227838A CN 113227838 A CN113227838 A CN 113227838A CN 201980085931 A CN201980085931 A CN 201980085931A CN 113227838 A CN113227838 A CN 113227838A
Authority
CN
China
Prior art keywords
light
image
intensity
vehicle
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201980085931.7A
Other languages
English (en)
Other versions
CN113227838B (zh
Inventor
杉本真太郎
笠羽祐介
中村安男
五味正人
山本修己
新田健人
广田修
春濑祐太
鸟居辉明
荒井健佑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Manufacturing Co Ltd
Original Assignee
Koito Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Manufacturing Co Ltd filed Critical Koito Manufacturing Co Ltd
Publication of CN113227838A publication Critical patent/CN113227838A/zh
Application granted granted Critical
Publication of CN113227838B publication Critical patent/CN113227838B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21SNON-PORTABLE LIGHTING DEVICES; SYSTEMS THEREOF; VEHICLE LIGHTING DEVICES SPECIALLY ADAPTED FOR VEHICLE EXTERIORS
    • F21S41/00Illuminating devices specially adapted for vehicle exteriors, e.g. headlamps
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)

Abstract

车辆用灯具(400)包括前照灯(410)和模拟热光源(420)。模拟热光源(420)一边使参照光(S1)的强度分布按多种(M种)发生变化一边向物体进行照射。模拟热光源(420)与光检测器(120)、运算处理装置(130)一同构成成像装置(100)。前照灯(410)的至少一部分构成要素(430)被与模拟热光源(420)共用。

Description

车辆用灯具及车辆
技术领域
本发明涉及车辆用灯具。
背景技术
为了自动驾驶或前照灯的配光的自动控制,会利用对存在于车辆周围的物体的位置及种类进行感测的物体识别***。物体识别***包含传感器、以及对传感器的输出进行分析的运算处理装置。关于传感器,考虑用途、要求精度及成本,从照相机、LiDAR(LightDetection and Ranging,Laser Imaging Detection and Ranging:光探测和测距、激光成像探测和测距)、毫米波雷达、以及超声波声呐等中选择。
作为成像装置(传感器)之一,已知利用了重影成像原理的成像装置。重影成像中,一边随机切换参照光的强度分布(图案:pattern)一边使其向物体照射,并针对每个图案来测定反射光的光检测强度。光检测强度为某一平面的能量或强度的积分值,而非强度分布。然后,通过取得对应的图案与光检测强度的相关来重构(reconstruct)物体的图像。
[现有技术文献]
[专利文献]
专利文献1:日本特许第6412673号公报
发明内容
[发明要解决的课题]
课题1.为了正确地复原物体的图像,需要高精度地控制参照光的强度分布,并使其向物体照射。在车载有成像装置的情况下,需要对数十米前的物体进行检测,因此,需要保持着强度分布地将参照光照射到数十米前为止。
本发明的第1方案的例示性目的之一在于使参照光高精度地向远方的物体照射。
课题2.相关计算的量会根据复原图像的像素数而爆发性地増加。具体而言,在将随机的参照光的照射次数记为M,将像素数记为(X×Y)时,运算次数为M×(X×Y)2
当假设复原1个像素需要1次图案照射时,针对所有像素(X×Y)的复原,需要M=(X×Y)次照射。此外,每1次照射的相关计算的运算次数为(X×Y)。因此,每1次感测的运算次数O为O=(X×Y)2
在为被设置于实验室的成像装置的情况下,作为运算处理装置,能够利用高速的计算机或工作站,因此运算次数的増加不成什么问题。然而,在车载用途的成像装置中,根据成本或空间的关系,运算处理装置的性能会受到制约。因此,需要减少相关计算的运算量。
本发明的第2方案的例示性目的之一在于提供一种减少了运算量的成像装置或成像方法。
课题3.对于参照光的图案化,使用DMD(Digital Micromirror Device:数字微镜器件)或液晶等图案化设备。DMD及液晶具有被配置为矩阵状的多个像素,能够针对每个像素来控制反射率及透射率。
车载用的成像装置的检测对象有车、人、摩托车或自行车、结构物或动植物,各种各样。此外,使用成像装置的状况也会根据天候、时间段、行驶道路、行驶速度等行驶环境而大大变化。此外,成像装置自身会移动,并且对象物也会移动,它们的相对移动方向也是各种各样的。
如此,在某一特定用途的成像中,随机地对图案化设备的所有像素进行控制未必是最优的。
本发明的第3方案的例示性目的之一在于提供一种适于特定用途的成像的照明装置。
课题4.在观察近场的显微镜中,每个像素的光束的扩散并不是问题。然而,车载用等的成像装置100需要对远场的物体进行检测。在以远方的物体为感测对象的成像装置中,随机地对图案化设备的所有像素进行控制未必是最优的。
本发明的第4方案的例示性目的之一在于提供一种适于远方的成像装置的照明装置。
课题5.以往,重构物体的图像所需的测定次数(照射次数)达到了数千,在数据测定上比较耗时。此外,重构原来的图像所需的运算量、运算时间会伴随照射次数的増加而爆发性地増加。
在物体实质上静止的应用中,较大的照射次数或运算量并不是什么问题,但因为物体会移动的应用要求较高的帧率,所以需要减少照射次数。
本发明的第5方案的例示性目的之一在于提供一种可减少照射次数的成像装置。
[用于解决技术课题的技术方案]
1.本发明的第1方案涉及一种车辆用灯具。车辆用灯具包括前照灯和模拟热光源。模拟热光源能够一边使参照光的强度分布随机变化,一边向物体进行照射。模拟热光源基于对来自物体的反射光进行测定的光检测器、以及光检测器的输出和参照光的强度分布,与重构物体的复原图像的运算处理装置一同构成成像装置。前照灯的至少一部分构成要素被与模拟热光源共用。
关于前照灯,以将光照射到数十米前为目的,设置有光源及光学***。因此,能够通过将成像装置的模拟热光源内置于车辆用灯具,并将前照灯的构成要素的一部分沿用于模拟热光源,从而使参照光高精度地照射到远方的物体。此外,能够降低整体成本。
也可以是,模拟热光源与前照灯共用光学***。也可以是,前照灯的光学***包含控制配光的图案化设备。也可以是,模拟热光源与前照灯共用图案化设备。
也可以是,前照灯的光学***包含反射器,该反射器将光源的出射光向车辆前方反射。也可以是,模拟热光源与前照灯共用反射器。
也可以是,参照光为红外或紫外。
也可以是,模拟热光源与前照灯共用光源。在该情况下,也可以是,参照光为白色光。进而,也可以是,前照灯整体能够作为成像装置的模拟热光源来动作。
2.本发明的第2方案涉及一种车载用成像装置。车载用成像装置包括:照明装置,其将测定范围分割为多个区块,并一边切换区块一边照射强度分布随机的参照光;光检测器,其对来自物体的反射光进行测定;以及运算处理装置,其针对多个区块分别以基于上述光检测器的输出的检测强度和上述参照光的强度分布为基础,对上述物体的该区块所包含的一部分复原图像进行重构。
根据该方案,能够减少运算时间。
也可以是,对多个区块的个数进行确定,使得伴随于分割的运算时间的减少量大于测定时间的増加量。由此,能够进行高速的感测。
3.本发明的第3方案涉及一种基于重影成像的成像装置所使用的照明装置。照明装置具有被矩阵状地配置的多个像素,并被构成为能够基于多个像素的开、关的组合来对光的强度分布进行调制。以至少包含一个像素的像素块为单位来对强度分布进行控制,像素块是可变的。
本发明的另一方案也为一种照明装置。照明装置具有被矩阵状地配置的多个像素,并被构成为能够基于多个像素的开、关的组合来对光的强度分布进行调制。强度分布由包含二个以上的开像素和关像素的预定图案的组合来进行控制。
4.本发明的第4方案为一种照明装置。照明装置具有被矩阵状地配置的多个像素,并被构成为能够基于多个像素的开、关的组合来对光的强度分布进行调制。在预定的制约条件下,对多个像素的开、关进行控制。
5.本发明的第5方案涉及一种成像装置。成像装置包括:照明,其一边使参照光的强度分布在多种(M种)内进行变化一边将其向物体照射;光检测器,其针对多个强度分布I1~IM中的每一个,对来自物体的反射光进行测定;以及运算处理装置,其通过取得多个强度分布I1~IM与基于光检测器的输出的多个检测强度b1~bM的相关来对物体的复原图像进行重构。多个强度分布I1~IM通过如下步骤得到:(i)对从照明起经物体而到达光检测器的路径的传播特性进行建模;(ii)对基准物体及与其对应的基准图像进行定义;(iii)赋予多个强度分布I1~IM初始值;(iv)基于传播特性,对向基准物体照射具有多个强度分布I1~IM中的每一个的参照光时的、检测强度b1~bM的推定值(或计算值)b^1~b^M进行计算;(v)通过取得多个强度分布I1~IM与多个推定值b^1~b^M的相关来对基准物体的复原图像进行重建;(vi)对多个强度分布I1~IM中的每一个进行修正,使得复原图像与基准图像的误差变小;(vii)通过重复步骤(iv)~(vi)来确定多个强度分布I1~IM
[发明效果]
1.根据本发明的第1方案,能够准确地向远方照射参照光。
2.根据本发明的第2方案,能够得到较高的分辨率,并减少运算量。
3.根据本发明的第3方案,能够提供一种适于特定用途的成像的照明装置。
4.根据本发明的第4方案,能够提供一种适于远方物体的成像装置的照明装置。
5.根据本发明的第5方案,能够减少照射次数。
附图说明
图1是表示实施方式1的车辆用灯具的图。
图2是表示图1的成像装置的图。
图3是表示实施例1的车辆用灯具的图。
图4是表示实施例2的车辆用灯具的图。
图5是对实施例2中的第1图案控制进行说明的图。
图6是对实施例2中的第2图案控制进行说明的图。
图7是表示实施例3的车辆用灯具的图。
图8是对实施例3中的第1控制进行说明的图。
图9是对实施例3中的第3控制进行说明的图。
图10是物体识别***的框图。
图11是表示汽车的图。
图12是表示包括物体检测***的车辆用灯具的框图。
图13是表示实施方式2的成像装置的图。
图14是对实施方式2的参照光的强度分布进行说明的图。
图15是对运算时间与测定时间的权衡进行说明的图。
图16的(a)、图16的(b)是表示区块的变形例的图。
图17是表示实施方式3的成像装置的图。
图18的(a)~图18的(c)是对图案化设备即DMD的像素进行说明的图。
图19的(a)~图19的(d)是表示尺寸不同的像素块B的图。
图20的(a)、图20的(b)是表示基于尺寸不同的像素块B的图案信号PTN的例子的图。
图21是表示图案控制的变形例的图。
图22的(a)、图22的(b)是对与行驶场景相应的尺寸不同的像素块B的布局进行说明的图。
图23是对尺寸不同的像素块B的动态布局进行说明的图。
图24的(a)~图24的(c)是表示变形例3.1的像素块B的图。
图25的(a)~图25的(d)是表示变形例3.2的像素块B的图。
图26的(a)~图26的(d)是表示形状不同的像素块B的图。
图27的(a)~图27的(c)是表示基于形状不同的像素块的图案信号PTN的例子的图。
图28的(a)、图28的(b)是对基于具有在形状上有特征的像素块B的图案信号PTN的感测进行说明的图。
图29的(a)~图29的(d)是对实施例3.5的图案块PB进行说明的图。
图30的(a)、图30的(b)是表示基于图案块的组合的图案信号的例子的图。
图31的(a)、图31的(b)是对参照光的空间非相干性的改善进行说明的图。
图32的(a)、图32的(b)是表示可改善空间非相干性的强度分布的例子的图。
图33的(a)~图33的(d)是对以点亮率为制约条件的图案控制进行说明的图。
图34的(a)、图34的(b)是对变形例的点亮率的控制进行说明的图。
图35是表示实施方式4的成像装置的图。
图36是表示多个强度分布I1~IM的组的确定方法的流程图。
图37是对基准物体与基准图像T(x,y)的关系进行说明的图。
图38是表示由与M=100对应得到的100种强度分布I1~I100构成的组I100^的图。
图39是表示使用了被最优化的强度分布的组时的复原图像的图。
图40是表示使用了随机强度分布的组时的复原图像的图。
具体实施方式
(实施方式1)
以下,参照附图,基于优选的实施方式来对本发明进行说明。对于各附图所示的相同或等同的构成要素、构件、以及处理,标注相同的附图标记,并适当省略重复的说明。此外,实施方式并不对发明进行限定,仅为例示,实施方式所记述的一切特征或其组合并非都是发明的实质性内容。
本说明书中的所谓“强度分布随机”,并不意味着完全的随机,只要可在重影成像中重建图像程度地随机即可。因此,关于本说明书中的“随机”,其中能够内含某种程度的规则性。此外,“随机”不要求完全地无法预测,也可以是可预测、可再现的。
图1是表示实施方式1的车辆用灯具400的图。车辆用灯具(或灯具***)400包括前照灯410和模拟热光源420。前照灯410及模拟热光源420被收容于壳体402。壳体402的前表面被以透明的罩404覆盖。前照灯410包含近光、远光中的任意一者或它们两者,并照射用于形成车辆前方的配光的光束Sb。
模拟热光源420与光检测器120及运算处理装置130一同构成成像装置100。光检测器120及运算处理装置130既可以被内置于壳体402,也可以被设置于壳体402的外部。
图2是表示图1的成像装置100的图。成像装置100为使用了重影成像的原理的相关函数图像传感器(也称单像素成像),包括模拟热光源110(图1的模拟热光源420)、光检测器120、以及运算处理装置130。成像装置100也称量子雷达照相机。
模拟热光源110生成具有实质上可视为随机的强度分布I(x,y)的参照光S1,并向物体OBJ进行照射。关于参照光S1向物体OBJ的照射,一边使其强度分布根据多种(M种)图案来发生变化一边进行。模拟热光源110例如可包含:光源112,其生成具有均匀的强度分布的光S0;以及图案化设备114,其能够对该光S0的强度分布I进行空间性的调制。光源112也可以使用激光或发光二极管等。参照光S1的波长及光谱并不被特别地限定,既可以是具有多个或连续光谱的白色光,也可以是包含预定波长的单色光。
作为图案化设备114,能够使用DMD(Digital Micromirror Device:数字微镜器件)或液晶设备。指定强度分布I的图案信号PTN(图像数据)被从运算处理装置130提供给图案化设备114,因此运算处理装置130此时知道被照射到物体OBJ的参照光S1的强度分布Ir
光检测器120对来自物体OBJ的反射光进行测定,并输出检测信号Dr。检测信号Dr为在使具有强度分布Ir的参照光照射到物体OBJ时,入射到光检测器120的光能量(或强度)的空间积分值。因此,光检测器120能够使用单像素的光检测器(光电探测器)。与多种(M种)强度分布I1~IM中分别对应的多个检测信号D1~DM被从光检测器120输出。
运算处理装置130包含图案产生器132及重构处理部134。图案产生器132产生指定参照光S1的强度分布I的图案信号PTNr,并随时间对图案信号PTNr进行切换(r=1,2,…M)。
运算处理装置130能够以CPU(Central Processing Unit:中央处理器)或MPU(Micro Processing Unit:微处理器)、微机等处理器(硬件)与处理器(硬件)所执行的软件程序的组合来实现。运算处理装置130也可以为多个处理器的组合。或者也可以是,运算处理装置130仅由硬件构成。
模拟热光源110所产生的参照光S1的强度分布也可以每次都随机生成。或者也可以是,预先规定了多个强度分布I1~IM的组。在该情况下,也可以是,将规定多个强度分布I1~IM的多个图案信号PTN1~PTNM的组预先保持在图案产生器132的内部的存储器(图案存储器)中。
重构处理部134通过取得多个强度分布I1~IM与多个检测强度b1~bM的相关来重构物体OBJ的复原图像G(x,y)。检测强度b1~bM基于检测信号D1~DM。检测强度与检测信号的关系可以考虑光检测器120的种类或方式等来确定。
将某一强度分布Ir的参照光S1设为在某一照射期间内照射。此外,检测信号Dr表示某一时刻(或微小时间)的受光量,即瞬时值。在该情况下,也可以是,在照射期间内,多次对检测信号Dr进行采样,并将检测强度br设为检测信号Dr的所有采样值的积分值、平均值或最大值。或者也可以是,筛选出全部采样值中的几个,并使用筛选出的采样值的积分值或平均值、最大值。多个采样值的筛选例如既可以从最大值数起,提取第x个~第y个序列,也可以根据任意的阈值来去除较低的采样值,还可以提取信号变动的大小较小的范围的采样值。
作为光检测器120,在像照相机那样,使用可设定曝光时间的设备的情况下,能够将光检测器120的输出Dr直接作为检测强度br
从检测信号Dr向检测强度br的转换既可以由运算处理装置130执行,也可以在运算处理装置130的外部进行。
对于相关,使用式(1)的相关函数。Ir为第r个强度分布,br为第r个检测强度的值。
【算式1】
Figure BDA0003130987230000081
Figure BDA0003130987230000082
以上是成像装置100整体的基本构成。接着,回到图1。
在本实施方式中,模拟热光源420被内置于车辆用灯具400。并且,前照灯410的至少一部分构成要素(共通构件)430被与模拟热光源420共用。
以上是车辆用灯具400的构成。
关于前照灯410,以使光照射到数十米前为止为目的,设计有光源及光学***。因此,能够通过将成像装置的模拟热光源420内置于车辆用灯具400,并将前照灯410的构成要素的一部分沿用到模拟热光源420,从而向远方的物体高精度地照射参照光S1。此外,因为能够减少重复的构件,所以能够降低整体的成本。
本发明可理解为图1的框图,或涉及从上述说明中导出的各种装置、方法,并不被限定于特定的构成。以下,并非为了缩小本发明的范围,而是为了帮助理解发明的实质或动作,并使其明确化,对更具体的构成例或实施例进行说明。
(实施例1)
图3是表示实施例1的车辆用灯具400A的图。模拟热光源420与前照灯410共用光学***。前照灯410包括光源412和反射器414。光源412包含白色的发光二极管(或半导体激光)及其点亮电路。反射器414将光源412的出射光向车辆前方反射。
在实施例1中,前照灯410的反射器414为图1的共通构件430,被与模拟热光源420共用。模拟热光源420包含光源422和图案化设备424。强度分布被图案化设备424随机化的光束被反射器414向车辆前方反射。
光源422所生成的光S0也可以是红外光或紫外光。在该情况下,光检测器120在可视波长区域中不灵敏,可以被构成为仅对光S0(参照光S1)的波长具有灵敏度。由此,成像装置100的感测不会受到前照灯的影响。
光源422所生成的光S0既可以包含可视域的单一波长,也可以为白色光。在该情况下,光检测器120会对前照灯410的光束Sb与参照光S1这两者都具有灵敏度。在该情况下,也可以是,通过运算处理来从光检测器120的输出中减少光束Sb的影响。例如也可以是,在光束Sb被视为直流,而参照光S1被视为交流的情况下,利用高通滤波器来减少光束Sb的影响。或者,也可以是,单纯地进行减去归因于光束Sb的分量的推定值的偏置处理。
(实施例2)
图4是表示实施例2的车辆用灯具400B的图。在实施例2中,模拟热光源420也与前照灯410共用光学***。
在实施例2中,前照灯410为配光可变灯(ADB:Adaptive Driving Beam:自适应远光灯),包括光源412、图案化设备416、以及反射器414。光源412包含白色的LED或LD及其点亮电路。图案化设备416例如为DMD,对光源412的出射光的强度分布进行空间调制,以得到所期望的配光图案。反射器414将图案化设备416的反射光中的、相当于开(ON)像素的光束向车辆前方反射。
在实施例2中,图案化设备416及反射器414为与模拟热光源420共用的共通构件430。光源422的出射光S0入射到图案化设备416,被随机地调制,生成参照光S1。
在实施例2中,因为图案化设备416被共用,所以需要抑制光束Sb的图案(强度分布)与参照光S1的图案的相互影响。为此,可以使光源422与光源412互补地点亮。例如可以使光源412与光源422分时地交替点亮,并在光源412的点亮期间,将与配光图案相应的图像数据(配光图像数据)PTNb提供给图案化设备416,在光源422的点亮期间,将随机的图像数据(随机图像数据)PTN1~PTNM提供给图案化设备416(第1图案控制)。图5是对实施例2中的第1图案控制进行说明的图。
或者,也假设如下情况:只要能够仅在照射光束Sb的范围(照射区域)内进行成像装置100的感测即可。在该情况下,也可以是,使光源412与光源422同时点亮,从而在图案化设备416中,针对每个像素,对配光图像数据PTNb和随机图像数据PTNi(i=1,2,…M)进行运算,并将其提供给图案化设备416(第2图案控制)。图6是对实施例2中的第2图案控制进行说明的图。ON表示配光图案所规定的照射区域,OFF表示配光图案所规定的遮光区域。当将与点亮对应的像素值记为1,与熄灭对应的像素值记为0时,图像数据Sb的像素值在照射区域ON内为1,在遮光区域OFF内为0。关于随机图像数据PTNi,像素值中,1和0随机分布。只要对随机图像数据PTNi与配光图像数据PTNb的逻辑积进行计算,就能够生成图6的图案。
(实施例3)
图7是表示实施例3的车辆用灯具400C的图。在实施例3中,前照灯410的所有构成要素均与模拟热光源420共用。即,前照灯410具有模拟热光源420的功能。在实施例3中,参照光S1自然成为白色光。
对实施例3中的图案化设备416的控制进行说明。
·第1控制
在实施例3中,也可以时分地对通常点亮期间Tb与感测期间Ts进行切换。图8是对实施例3中的第1控制进行说明的图。如图8所示,也可以在1次感测期间Ts期间,将参照光S1的图案切换多次。
·第2控制
也可以是,进行实施例2的第2图案控制。
·第3控制
图9是对实施例3中的第3控制进行说明的图。DMD等图案化设备中,存在可控制灰度的设备。在该情况下,也可以是,针对随机图像数据PTNi和配光图像数据PTNb,将对应的像素值彼此相加,并提供给图案化设备416。在该情况下,车辆用灯具400的出射光束的强度分布以由配光图像数据PTNb确定的基础水平为基准,随时间随机变化。
(实施例4)
在实施例1~实施例3中,以光源422与图案化设备424的组合构成了模拟热光源420,但不限于此。也可以是,模拟热光源420以被矩阵状地配置的多个半导体光源(LED(发光二极管)或LD(激光二极管))的阵列构成,并构成为可控制各半导体光源的开、关(或亮度)。
在实施方式1中,以光源112与图案化设备114的组合构成了照明装置110,但不限于此。也可以是,照明装置110以被矩阵状地配置的多个半导体光源(LED(发光二极管)或LD(激光二极管))的阵列构成,并构成为可控制半导体光源的开、关(或亮度)。
接着,对成像装置100的用途进行说明。
图10是物体识别***10的框图。该物体识别***10被搭载于汽车或摩托车等车辆,并对存在于车辆周围的物体OBJ的种类(类别)进行判定。
物体识别***10包括成像装置100和运算处理装置40。成像装置100如上所述,通过向物体OBJ照射参照光S1,并对反射光S2进行测定来生成物体OBJ的复原图像G。
运算处理装置40对成像装置100的输出图像G进行处理,并对物体OBJ的位置及种类(类别)进行判定。
运算处理装置40的分类器42接受图像G作为输入,并对其所包含的物体OBJ的位置及种类进行判定。分类器42基于通过机械学习生成的模型来实现。分类器42的算法并不被特别地限定,但能够采用YOLO(You Only Look Once:你只看一遍)和SSD(Single ShotMultiBox Detector:单发多边框检测器)、R-CNN(Region-based Convolutional NeuralNetwork:基于区域的卷积神经网络)、SPPnet(Spatial Pyramid Pooling:空间金字塔池化)、Faster R-CNN、DSSD(Deconvolution-SSD:反卷积单发多边框检测器)、以及Mask R-CNN等,或者能够采用将来被开发出来的算法。
也可以是,将运算处理装置40所检测到的与物体OBJ有关的信息利用于车辆用灯具200的配光控制。具体而言,能够基于运算处理装置40所生成的与物体OBJ的种类及其位置有关的信息来生成适当的配光图案。
此外,也可以是,将运算处理装置40所检测到的与物体OBJ有关的信息发送到车辆侧ECU。也可以是,车辆侧ECU基于该信息来进行自动驾驶。
以上是物体识别***10的构成。作为物体识别***10的传感器,通过使用成像装置100,抗噪性会大大提高。例如在降雨时、降雪时或雾中行驶的情况下,以肉眼难以识别出物体OBJ,但即使在这样的状况下,也能够不受雨、雪、雾的影响地得到物体OBJ的复原图像G。
图11是表示汽车的图。汽车300包括车辆用灯具302L和302R。如上所述,模拟热光源420被以与前照灯共用硬件的一部分的样态内置于车辆用灯具302L、302R中至少一者。
图12是表示包括物体检测***210的车辆用灯具200的框图。车辆用灯具200与车辆侧ECU304一同构成灯具***310。车辆用灯具200包括光源202、点亮电路204、以及光学***206。进而,在车辆用灯具200,设置有物体检测***210。物体检测***210与上述物体识别***10对应,包含成像装置100及运算处理装置40。
运算处理装置40所检测到的与物体OBJ有关的信息也可以利用于车辆用灯具200的配光控制。具体而言,灯具侧ECU208基于运算处理装置40所生成的与物体OBJ的种类及其位置有关的信息来生成适当的配光图案。点亮电路204及光学***206以会得到灯具侧ECU208所生成的配光图案的方式进行动作。
此外,也可以是,将运算处理装置40所检测到的与物体OBJ有关的信息发送到车辆侧ECU304。也可以是,车辆侧ECU基于该信息来进行自动驾驶。
(实施方式2)
图13是表示实施方式2的成像装置100的图。成像装置100为使用了重影成像的原理的相关函数图像传感器,包括照明装置110、光检测器120、以及运算处理装置130。也将成像装置100称为量子雷达照相机。
照明装置110为模拟热光源,生成具有实质上可视为随机的强度分布I的参照光S1,并向物体OBJ进行照射。图14是对实施方式2的参照光S1的强度分布进行说明的图。在图中,将强度为零的部分以白色表示,将强度非零的部分以黑色表示。
在本实施方式中,能够将测定范围600分割为多个区块602_1~602_N。在该例中,被沿纵向分割为4个,沿横向分割为4个,N=16。照明装置110一边对照射光的区块(称为照射区块)602_i进行切换,一边照射照射区块内的强度分布I(x,y)实质上随机的参照光S1。照射区块以外的区块(称为非照射区块)内的强度为零。
针对多个区块602_1~602_N分别照射M种随机的强度分布的参照光S1。因此,每1次感测的总照射次数为M×N。将选择了第i个区块(1≤i≤N)时的、第j次的强度分布表示为Ii,j,并将此时的参照光S1表示为S1i,j
回到图13。光检测器120对来自物体OBJ的反射光进行测定,并输出检测信号D。检测信号Di,j为在向物体OBJ照射具有强度分布Ii,j的参照光时,入射到光检测器120的光能量(或强度)的空间积分值。因此,光检测器120能够使用单像素的光检测器(光电探测器)。
当照射具有M×N种强度分布I1,1~I1,M,I2,1~I2,M,IN,1~IN,M的参照光S1i,j(i∈1~N,j∈1~M)时,会从光检测器120输出M×N个检测信号Di,j(i∈1~N,j∈1~M)。另外,照射的顺序并不被特别地限定。
例如,也可以是,针对某一照射区块,在设定完M个强度分布后,选择下一照射区块。选择照射区块的顺序并不被特别地限定,能够以预定的规则来进行选择。例如也可以是,从左到右依次选择第1行的区块,当移动到最右为止时,向下一行移动。或者也可以是,从上到下依次选择第1列的区块,当移动到最下方为止时,向下一列移动。
照明装置110例如可以包含:光源112,其生成具有均匀的强度分布的光S0;以及图案化设备114,其能够对该光S0的强度分布进行空间调制。光源112也可以使用激光或发光二极管等。参照光S1的波长或光谱并不被特别地限定,既可以为具有多个或连续光谱的白色光,也可以为包含预定波长的单色光。
作为图案化设备114,能够使用DMD(Digital Micromirror Device:数字微镜器件)或液晶设备。在本实施方式中,图案化设备114覆盖整个测定范围600,并具有可同时照射整个测定范围600的能力,但能够通过使图案化设备114的非照射区块所对应的像素关闭,从而仅向照射区块提供随机图案。
指定强度分布Ii,j的图案信号PTNi,j(图像数据)被从运算处理装置130提供到图案化设备114。因此,运算处理装置130知道当前的照射区块的位置和参照光S1的强度分布Ii,j
运算处理装置130包含图案产生器132及重构处理部134。
也可以是,图案产生器132每次都随机地生成参照光S1的强度分布Ii,j。在该情况下,图案产生器132能够包含模拟随机信号发生器。
或者,也可以是,预先规定多个强度分布Ii,j的组。例如也可以是,预先规定具有与区块602相同的尺寸的多个(例如M个)强度分布的组I1~IM。在将第i个区块作为照射区块时,可以将I1~IM依次或随机地分配到照射区块。
在该情况下,也可以是,预先将规定多个强度分布I1~IM的多个图案信号的组保持于图案产生器132内部的存储器(图案存储器)。
运算处理装置130能够以CPU(Central Processing Unit:中央处理器)或MPU(Micro Processing Unit:微处理器)、微机等处理器(硬件)与处理器(硬件)所执行的软件程序的组合来实现。运算处理装置130也可以为多个处理器的组合。或者也可以是,运算处理装置130仅由硬件构成。
重构处理部134通过针对多个区块602_1~602_N中的每一个(602_i),取得多个检测强度bi,1~bi,M与参照光S1i,1~S1i,M的强度分布Ii,1~Ii,M的相关,从而对物体OBJ的该区块602_i所包含的部分的复原图像Gi进行重构。
检测强度bi,1~bi,M是基于检测信号Di,1~Di,M的。检测强度bi,j与检测信号Di,j的关系可以考虑光检测器120的种类或方式等来确定。
将某一强度分布Ii,j的参照光S1设为在某一照射期间内照射。此外,检测信号Di,j表示某一时刻(或微小时间)的受光量,即瞬时值。在该情况下,也可以是,在照射期间内,多次对检测信号Di,j进行采样,并将检测强度bi,j设为检测信号Di,j的所有采样值的积分值、平均值或最大值。或者也可以是,筛选出所有采样值中的几个,并使用筛选出的采样值的积分值或平均值、最大值。多个采样值的筛选例如既可以从最大值数起,提取第x个~第y个序列,也可以根据任意的阈值来去除较低的采样值,还可以提取信号变动的大小较小的范围的采样值。
作为光检测器120,在像照相机那样,使用可设定曝光时间的设备的情况下,能够将光检测器120的输出Di,j直接作为检测强度bi,j
从检测信号Di,j向检测强度bi,j的转换既可以由运算处理装置130执行,也可以在运算处理装置130的外部进行。
对于第i个(1≤i≤N)区块602_i的图像Gi的复原,使用式(2)的相关函数。Ii,j为第j个(1≤j≤M)强度分布,bi,j为第j个检测强度的值。
【算式2】
Figure BDA0003130987230000141
Figure BDA0003130987230000142
通过使全部N个区块602_1~602_N各自的复原图像G1~GN结合,从而能够得到整个测定范围的像。
以上是成像装置100的构成。接着,对其优点进行说明。
该成像装置100中的运算次数如下。
将整个测定范围的像素数记为X×Y,将1个区块的水平及垂直方向的像素数记为x,y。其中,X×Y=(x×y)×N。
在假定针对1个像素的复原需要1次图案照射时,x×y个像素的复原所需的照射次数M’为M’=(x×y)。另外,需要注意的是,实际的照射次数有时会多于或少于M’,但大致与(x×y)成比例。因此每1个区块的计算次数为(x×y)2。全部N个区间所对应的总运算次数O’为O’=N×(x×y)2
以往的照射整个测定范围的方法的计算次数O为O=(X×Y)2。因为X×Y=(x×y)×N的关系成立,所以根据本实施方式,与以往相比,能够将计算次数减少到O’/O=1/N倍。
例如,考虑X=Y=1024的情况。在该情况下,当划分为x=y=32个区块时,N=32×32=1024,能够将计算次数减少到1/1024倍。
此外,在将参照光的强度分布存储于存储器的情况下,只要将1个区块(x×y)而非整个照射区域(X×Y)的强度分布保持于图案产生器132即可,因此能够减少存储器的容量。
计算次数的减少意味着能够在使用了相同速度的运算处理装置的情况下,缩短运算时间。或者,为了以相同的时间来结束处理,能够采用更慢的(因而更廉价的)运算处理装置。
另外,在车载用途中,需要以大到某种程度的帧率来进行测定范围的感测。在本实施方式中,以计算次数(乃至运算时间)的减少作为交换,照射次数M增加到了N倍(N为区块的个数),从而带来测定时间的増加。图15是对运算时间与测定时间的权衡进行说明的图。
可以对区块的个数N进行确定,使得伴随于分割的运算时间的减少量δ1大于测定时间的増加量δ2。由此,能够在车载用途中实现所需的帧率。
接着,对与实施方式2相关联的变形例进行说明。
(变形例2.1)
在实施方式中,针对每个区块,将照射次数M设为相同,但也可以是,针对每个区块,照射次数M不同。在将第i个区块的照射次数记为Mi时,运算次数为O=Σi=1:NMi×(x×y)。
照射次数Mi越多,就越是能够复原准确的图像,但根据区块的位置,也会存在不要求那样的准确度的情况。因此,能够通过针对区块,将照射次数最优化,从而针对区块来调整计算次数(运算时间)和测定时间。
(变形例2.2)
区块的划分方法不被限定于上述内容。图16的(a)、图16的(b)是表示区块的变形例的图。如图16的(a)所示,也可以划分为横长的区块。或者也可以是,划分为纵长的区块。
在实施方式中,将多个区块的尺寸(像素数)设为相同,但不限于此。也可以是,如图16的(b)所示,每个区块像素数都不同。
(变形例2.3)
在实施方式中,利用了覆盖整个测定范围600的图案化设备114,但不限于此。也可以是,设置具有1个区块量的照射能力的照明装置110,并用可动镜沿水平方向或水平方向使其出射光扫描。
(变形例2.4)
在实施方式2中,以光源112与图案化设备114的组合构成了照明装置110,但不限于此。也可以是,照明装置110以被矩阵状地配置的多个半导体光源(LED(发光二极管)或LD(激光二极管))的阵列构成,并构成为可控制半导体光源的开、关(或亮度)。
(用途)
接着,对实施方式2的成像装置100的用途进行说明。成像装置100能够利用于图10的物体识别***10。作为物体识别***10的传感器,能够通过使用在实施方式2中说明的成像装置100来得到以下优点。
第1,通过使用成像装置100即量子雷达照相机,抗噪性大大提高。例如,在降雨时、降雪时、或雾中行驶的情况下,难以以肉眼识别出物体OBJ,但能够通过使用成像装置100来不受雨、雪、雾的影响地,得到物体OBJ的复原图像G。
第2,通过将测定范围分割为多个区块,并针对每个区块复原图像,从而能够减少运算量。由此,能够提高帧率,或者将廉价的处理器选择为运算处理装置。
另外,也可以是,在成像装置100中,使区块的个数N根据行驶环境而适应性地变化。
也可以是,在实施方式2中说明的成像装置100能够搭载于图11的汽车,并内置于图12的车辆用灯具。
(实施方式3)
图17是表示实施方式3的成像装置100的图。成像装置100为使用了重影成像的原理的相关函数图像传感器,包括照明装置110、光检测器120、以及运算处理装置130。也将成像装置100称为量子雷达照相机。
照明装置110为模拟热光源,生成具有实质上可视为随机的强度分布I(x,y)的参照光S1,并向物体OBJ进行照射。关于参照光S1向物体OBJ的照射,一边使其强度分布根据多种(M种)图案变化一边进行。
照明装置110包含光源112和图案化设备114。光源112生成具有均匀的强度分布的光S0。光源112也可以使用激光或发光二极管等。参照光S1的波长或光谱并不被特别地限定,既可以为具有多个或连续光谱的白色光,也可以为包含预定的波长的单色光。参照光S1的波长也可以为红外或紫外。
图案化设备114具有被矩阵状地配置的多个像素,并被构成为能够基于多个像素的开、关的组合来对光的强度分布I进行空间调制。在本说明书中,将开状态的像素称为开像素,将关状态的像素称为关像素。另外,在以下的说明中,为了易于理解,各像素仅取开与关这2个值(1,0),但不限于此,也可以取中间的灰阶。
作为图案化设备114,能够使用反射型的DMD(Digital Micromirror Device:数字微镜器件)或透射型的液晶设备。图案产生器116所产生的图案信号PTN(图像数据)被提供到图案化设备114。将图案化设备114设为DMD。
图案产生器116产生指定参照光S1的强度分布Ir的图案信号PTNr,并随时间对图案信号PTNr进行切换(r=1,2,…M)。
光检测器120对来自物体OBJ的反射光进行测定,并输出检测信号Dr。检测信号Dr为在使具有强度分布Ir的参照光照射到物体OBJ时,入射到光检测器120的光能量(或强度)的空间积分值。因此,光检测器120能够使用单像素的光检测器(光电探测器)。与多种(M种)强度分布I1~IM分别对应的多个检测信号D1~DM被从光检测器120输出。
运算处理装置130包含重构处理部134。重构处理部134通过取得多个强度分布I1~IM与多个检测强度b1~bM的相关来重构物体OBJ的复原图像G(x,y)。
检测强度b1~bM基于检测信号D1~DM。检测强度与检测信号的关系可以考虑光检测器120的种类或方式等来确定。
将某一强度分布Ir的参照光S1设为在某一照射期间内照射。此外,检测信号Dr表示某一时刻(或微小时间)的受光量,即瞬时值。在该情况下,也可以是,在照射期间内,多次对检测信号Dr进行采样,并将检测强度br设为检测信号Dr的所有采样值的积分值、平均值或最大值。或者也可以是,筛选出所有采样值中的几个,并使用筛选出的采样值的积分值或平均值、最大值。多个采样值的筛选例如既可以从最大值数起,提取第x个~第y个序列,也可以根据任意的阈值来去除较低的采样值,还可以提取信号变动的大小较小的范围的采样值。
作为光检测器120,在像照相机那样,使用可设定曝光时间的设备的情况下,能够将光检测器120的输出Dr直接作为检测强度br
从检测信号Dr向检测强度br的转换既可以由运算处理装置130执行,也可以在运算处理装置130的外部进行。
对于相关,使用式(3)的相关函数。Ir为第r个强度分布,br为第r个检测强度的值。
【算式3】
Figure BDA0003130987230000181
Figure BDA0003130987230000182
运算处理装置130能够以CPU(Central Processing Unit:中央处理器)或MPU(Micro Processing Unit:微处理器)、微机等处理器(硬件)与处理器(硬件)所执行的软件程序的组合来实现。运算处理装置130也可以为多个处理器的组合。或者也可以是,运算处理装置130仅由硬件构成。也可以是,图案产生器116被安装于运算处理装置130的内部。
以上是成像装置100的整体的基本构成。接着,针对图案化设备114的控制,基于几个实施例进行说明。
(实施例3.1)
图18的(a)~图18的(c)为对图案化设备114即DMD的像素进行说明的图。如图18的(a)所示,DMD是被配置为m行n列的矩阵状的多个像素PIX的阵列。如图18的(b)所示,各像素PIX为正方形的镜子,并能够以被设置于对角的铰链为轴,沿ON方向和OFF方向倾动。图案化设备114被构成为能够独立地对所有像素进行开、关控制。在以下的说明中,将矩阵的形状如图18的(c)那样地简略示出。
图案产生器116以至少由一个像素构成的像素块B为单位,对参照光的强度分布(即图案信号PTN)进行控制,进而像素块B是可变的。像素块B能够视为连续(相邻)的开像素的集合(或关像素的集合,或开像素与关像素的集合)。在实施例3.1中,像素块B的尺寸可变。
图19的(a)~图19的(d)是表示尺寸不同的像素块B的图。尺寸能够视为像素块B所包含的像素数(即面积)。图19的(a)~(d)分别表示纵横1×1像素、2×2像素、3×3像素、4×4像素的像素块B1×1~B4×4。相同的像素块B所包含的像素被设为相同的状态(开、关)。
图20的(a)、图20的(b)是表示基于尺寸不同的像素块B的图案信号(图像数据)PTN的例子的图。以下,设想m=n=16的图案化设备114。
在图20的(a)中,适用了图19的(b)的2×2像素的像素块B2×2,并针对每个像素块B2×2来控制开、关。在每1次感测时,图案信号PTN会在M种中进行变化。另外,带有阴影的像素PIX为开像素,除此以外的像素PIX为关像素。
在图20的(b)中,适用了图19的(d)的4×4像素的像素块B4×4,并针对每个像素块B4×4来控制开、关。图案信号PTN的个数M也可以根据像素块的尺寸而不同,一般能够通过使像素块的尺寸变大,并减少像素块的数量,从而减少每1次感测的图案的个数M。
图21是表示图案控制的变形例的图。4×4像素的像素块B4×4的配置关于横向未完全对齐,且在一些行中沿横向偏移2个像素。
以上是实施例3.1的图案控制。该图案控制可视为使图案化设备114的有效的分辨率动态地变化。重构处理部134中的运算量会根据分辨率而増加,而在没那么需要空间分辨率的状况下,能够通过使像素块B的尺寸变大来减少运算量。
或者,在欲捕捉到高速移动的物体OBJ的情况下,能够通过使像素块B的尺寸变大,并减少图案的个数来减少照射时间,从而复原没有抖动的图像。此外,通过减少运算量、照射次数,从而能够提高帧率,并能够追踪物体OBJ的移动。
(实施例3.2)
在实施例3.1中,在1个图案中,包含相同的像素块B,但不限于此。在实施例3.2中,预先规定了尺寸不同的像素块的布局,并根据行驶场景来进行选择。图22的(a)、图22的(b)是对与行驶场景相应的尺寸不同的像素块B的布局进行说明的图。
参照图22的(a),在下侧的区域,配置有尺寸较小的像素块BS,越是上侧,越是配置有大尺寸的像素块BL。在郊外的行驶场景中,在车辆前方的上方,天空(不存在车辆或行人的空间)广阔,因此通过使像素块B的尺寸变大来降低分辨率。相反,因为下侧与路面对应,存在重要的物体(或路面标识)的可能性较高,所以通过使像素块B的尺寸变小来提高分辨率。
参照图22的(b),越是靠近中央,就越是配置有小尺寸的像素块BS,越是外周侧,就越是配置有大尺寸的像素块BL。在高速道路等行驶场景中,消失点位于画面中央附近,远方的对向车从消失点出现,出现之初尺寸较小,随着接近实际车辆,尺寸会变大。根据图22的(b)的布局,易于对远方的看起来较小的物体OBJ进行检测。
(实施例3.3)
在实施例3.2中,预先规定了多个布局,并从多个布局中适应性地选择出了适于行驶场景的一个,但不限于此,也可以是,使尺寸不同的像素块B的布局动态地变化。
图23是对尺寸不同的像素块B的动态布局进行说明的图。在某个帧1中,使用由均匀的尺寸(2×2像素)的像素块B2×2构成的图案。根据在该帧1中被复原的图像来推定物体OBJ的位置。然后,在接着的帧2中,在存在物体OBJ的区域中,配置尺寸较小的像素块B,也可以是,距其越远,就越使像素块B的尺寸变大。
(与实施例3.1~3.3相关联的变形例)
(变形例1)
在之前的说明中,像素块B的形状为正方形,但不限于此。图24的(a)~图24的(c)是表示变形例1的像素块B的图。像素块B为横长的长方形,其尺寸会动态地变化。
(变形例2)
在实施例3.1~3.3中,使纵向与横向以相同的尺度发生了变化,但也可以仅使纵向的像素数,或仅使横向的像素数发生变化。图25的(a)~图25的(d)是表示变形例2的像素块B的图。在该例中,像素块B的横向的像素数是可变的。
(实施例3.4)
在实施例3.1~3.3中,对使像素块B的尺寸变化的情况进行了说明。在实施例3.4中,使像素块B的形状适应性地发生变化。
图170的(a)~图170的(d)是表示形状不同的像素块B的图。在图170的(a)中,示出了横向(X方向)较长的像素块BX,在图170的(b)中,示出了纵向(Y方向)较长的像素块BY,在图170的(c)中,示出了斜向较长的像素块BXY。在图170的(d)中,示出了基本的正方形的像素块BS。图170的(a)~(d)的像素块B的尺寸全部相等。
图27的(a)~图27的(c)是表示基于形状不同的像素块的图案信号PTN的例子的图。像素块B的长度及位置中的至少一者被随机地确定。图27的(a)表示使用了横长的像素块BX的图案信号PTNX的一例,图27的(b)表示使用了纵长的像素块BY的图案信号PTNY的一例,图27的(c)表示使用了斜向的像素块BXY的图案信号PTNXY的一例。
考虑物体OBJ与成像装置100的相对运动。
在物体OBJ相对于成像装置100而沿相对水平方向移动时,若使用由横长的像素块BX构成的图案信号PTNX,则与使用了正方形的像素块BS的情况相比,横向的有效的分辨率会降低,因此横向的图像的锐度会降低,或横向的位置的检测精度会降低,但因为捕捉时间(换言之,曝光时间)会变长,检测强度D会増加,所以会提高S/N比,从而易于进行检测(即,灵敏度会上升)。
在用相同的图案信号PTNX来对沿纵向移动的物体OBJ进行感测的情况下,与使用了正方形的像素块BS的情况相比,捕捉时间会变短,因此检测强度D会降低,检测灵敏度会下降,但纵向的分辨率会被改善,纵向的位置的检测精度会提高。
针对图案信号PTNY、图案信号PTNZ,也能够适用同样的考虑。当进行一般化时,能够相对于沿像素块B所延伸的方向运动的物体而提高检测灵敏度,针对沿与其垂直的方向移动的物体得到清晰的像,或者提高位置的检测精度。
图28的(a)、图28的(b)是对基于具有在形状上有特征的像素块B的图案信号PTN的感测进行说明的图。首先,如图28的(a)所示,利用包含某一形状(5×5像素的正方形)的像素块BS的图案信号PTNS进行感测。通过该感测,检测到物体OBJ为汽车,且正沿横向移动。在基于图案信号PTNS的感测中,物体OBJ的前端的位置被判定为X’,与实际的物体OBJ的前端的位置X存在误差。
因此,为了准确地对物体OBJ的横向的位置进行检测,切换为包含纵长的像素块BY的图案信号PTNY。由此,因为横向的分辨率会提高,所以物体OBJ的前端的位置会被判定为X”,能够接近实际的物体OBJ的前端的位置X。
关于纵向,因为物体OBJ不会移动,所以可以说使用纵长的像素块BY的缺点几乎不存在。
在图28的(a)、图28的(b)的例子中,为了积极地捕捉某一物体OBJ,对像素块B的形状进行了切换,但不限于此,为了消除特定的物体OBJ,也可以利用像素块B的形状。例如,对车载的感测装置而言,可以说雨或雪为噪声,无需复原图像。并且因为雨或雪的移动方向是一定的,所以当将像素块B的形状最优化时,易于排除雨或雪的影响。
例如,在雨沿铅垂方向降落的情况下,优选纵向(铅垂方向)较短、换言之横向较长的形状的像素块B。在连续地照射多个图案的一系列感测动作中,在特定的像素块的光到达雨的对侧的物体OBJ,并回到雨的近前侧的光检测器120的过程中,特定的像素块的光因雨点而大受影响(被遮挡)的概率会变小。即,由于各像素的雨的影响被均匀化,因而除去雨的影响的处理(噪声消除)会变得容易。
(实施例3.5)
在之前的实施例3.1~3.4中,同一像素块B所包含的像素全部为开(或关)。与此不同,在实施例3.5中,同一像素块B包含开像素与关像素这两者。即,像素块B包含被预定配置的2个以上的开像素和关像素。将这种像素块称为图案块(Patterned Block)。照明装置110通过图案块的组合来规定强度分布。
图29的(a)~图29的(d)是对实施例3.5的图案块PB进行说明的图。在图29的(a)~图29的(d)中,示出了图案块PB内的开像素和关像素的分布(图案)。
在图29的(a)中,沿图案块PB的四边配置有关像素,在图29的(b)中,沿图案块PB的相邻两边配置有关像素。
在图29的(c)中,开像素被配置为沿斜向交叉。在图29的(d)中,开像素被配置为纵横地交叉。
图30的(a)、图30的(b)是表示基于图案块的组合的图案信号的例子的图。图30的(a)是由图29的(a)的图案块形成的图案信号的一例。图30的(b)是由图29的(d)的图案块形成的图案信号的一例。图30的(a)与图30的(b)中,为“开”的图案块的配置是相同的。
通过导入图案块的概念,并使开像素和关像素的分布最优化,从而能够提供一种适于某一特定场景或物体的感测。
进而,预先规定了多个图案块,通过根据物体OBJ的形状或动作、或者行驶场景来对它们进行适应性地选择,从而能够准确地对物体OBJ进行检测,或者能够控制运算量及帧率。
在基于重影成像的感测中,参照光S1的随机性、空间非相干性会对画质造成较大影响。根据图29的(a)及图29的(b)的图案块,如以下说明的那样,能够改善空间非相干性。
图31的(a)、图31的(b)是对参照光的空间非相干性的改善进行说明的图。一般地,从某一光源射出的光束会以具有某一扩散角的方式前进。在观察近场的显微镜中,每个像素的光束的扩散并不是问题。然而,车载用的成像装置100需要对远场的物体进行检测,因此光束的扩散会引起问题。具体而言,如图31的(a)所示,从照明装置110的相邻2个开区域(或像素)A、B射出的2条光束在远离照明装置110的物体OBJ的位置处重叠。这种光束的重叠会降低空间非相干性。
当利用图29的(a)或图29的(b)的图案块时,能够将连续的开像素的个数限制为2个。这意味着在相邻的2个开区域之间***关像素。由此,如图31的(b)所示,能够将相邻的2个开区域A、B在空间上分离,因此关于被照射到物体OBJ的参照光,也能够减少光束的重叠,并改善空间非相干性。在使用了图29的(c)的图案块B的情况下,关于横向、纵向,也能够使连续的开像素的个数为1个或2个。
例如,也可以是,在远方存在物体OBJ的情况下,使用图29的(a)~图29的(c)的图案块B,在物体OBJ较近的情况下,使用通常的图案块(或像素块)。
(实施例3.6)
基于像素块B或图案块PB的强度分布的控制中的一些,可视为对照明装置110的多个像素的开、关控制加以制约条件。
例如,利用了图29的(a)的图案块PB的强度分布控制可视为在相邻的2个开像素之间***2+4×n个(n≥0)关像素这样的制约条件。
或者,利用了图29的(b)的图案块PB的强度分布控制可视为在相邻的3个开像素之间***1+4×n个(n≥0)关像素这样的制约条件。
换言之,关于改善空间非相干性的强度分布,也可以不使用图案块PB地,基于预定的制约条件来生成。
图32的(a)、图32的(b)是表示可改善空间非相干性的强度分布的例子的图。在图32的(a),图32的(b)中,基于相邻的像素不为“开”这样的制约条件,多个像素的开、关被随机地确定。在图32的(a)中,与纵向、横向、斜向有关的开像素的相邻被禁止。在图32的(b)中,斜向的开像素的相邻被允许,与纵向和横向有关的开像素的相邻被禁止。
(实施例3.7)
对基于制约条件的强度分布的控制的另一例进行说明。图33的(a)~图33的(d)是对以点亮率为制约条件的图案控制进行说明的图。在图33的(a)~图33的(d)中,点亮率(开像素的个数相对于所有像素数的比例)不同,点亮率分别为20%、40%、60%、80%。在以模拟随机信号(PRBS:Pseudo Random Bit Sequence)发生器来构成图案产生器的情况下,点亮率与RPBS的标记率相关联。
当提高点亮率时,光量会増加,因此能够感测到更远方的物体。或者,能够对反射率更低的物体或反射面积更小的物体进行检测。因为通过提高点亮率,即使在光的衰减率较高的浓雾环境下,也能够增加反射光的量,所以能够提高检测灵敏度。
相反,在对较近的物体进行感测的情况下,在对高反射率的物体、较大的物体进行检测时,也可以降低点亮率。
此外,在将参照光S1设为白色光的情况下,能够通过根据行驶环境来动态地控制点亮率,从而提高来自驾驶员的可视性,唤起其他交通参与者的注意或对其发出警报,或是减少向前车或对向车、行人的眩光。
例如,因为当降低点亮率时,前方会变暗,所以能够防止向对向车或行人的眩光。相反,因为当提高点亮率时,前方会变亮,所以能够提高来自驾驶员的可视性等。此外,当随时间增减点亮率时,能够模拟地使参照光S1闪烁,从而能够唤起本车的驾驶员或其他交通参与者的注意或对其发出警报。
在图33的(a)~(d)的例子中,规定了与所有像素有关的点亮率,但也可以是,分割为多个区域,并针对每个区域来规定点亮率。图34的(a)、图34的(b)是对变形例的点亮率的控制进行说明的图。例如在将点亮率设为50%的情况下,当将通过所有像素的标记率设为50%而生成PRBS时,开像素会集中在上半部分,关像素会集中在下半部分,且在亮度上会产生不均。因此,如图34的(a)所示,针对上半部分的区域与下半部分的区域中的每一个,当生成标记率为50%的PRBS以规定强度分布时,能够减少亮度的不均。
如图34的(b)所示,也可以分割为多个区域,并使得能够针对每个区域独立地指定点亮率。在该情况下,针对存在对向车或前车的区域,能够进行降低点亮率等的控制。
接着,对与实施方式3相关联的变形例进行说明。
(变形例3.1)
在实施方式中,以光源112与图案化设备114的组合构成了照明装置110,但不限于此。例如也可以是,照明装置110以被矩阵状地配置的多个半导体光源(LED(发光二极管)或LD(激光二极管))的阵列构成,并构成为可控制半导体光源的开、关(或亮度)。
(用途)
接着,对实施方式3的成像装置100的用途进行说明。该成像装置100能够利用于图10的物体识别***10。作为物体识别***10的传感器,能够通过使用在实施方式2中说明的成像装置100来得到以下优点。
通过使用成像装置100即量子雷达照相机,抗噪性大大提高。例如,在降雨时、降雪时、或雾中行驶的情况下,难以以肉眼识别出物体OBJ,但能够通过使用成像装置100来不受雨、雪、雾的影响地,得到物体OBJ的复原图像G。
车载用的成像装置100的检测对象有车、人、摩托车或自行车、结构物或动植物,各种各样。此外,使用成像装置的状况也会根据天候、时间段、行驶道路、行驶速度等行驶环境而大大变化。此外,成像装置自身会移动,并且对象物也会移动,它们的相对移动方向也是各种各样的。通过基于像素块或图案块来动态地控制参照光的强度分布,从而能够进行适于车载用途的感测。
也可以是,在实施方式3中说明的成像装置100能够搭载于图11的汽车,并内置于图12的车辆用灯具。
(实施方式4)
(实施方式4的概要)
以下说明的实施方式4涉及一种使用了重影成像的原理的成像装置。成像装置包括:照明,其一边使参照光的强度分布在多种(M种)内进行变化一边向物体进行照射;光检测器,其针对多个强度分布I1~IM分别对来自物体的反射光进行测定;以及运算处理装置,其通过取得多个强度分布I1~IM与基于光检测器的输出的多个检测强度b1~bM的相关来重构物体的复原图像。
多个强度分布I1~IM能够通过以下的处理来确定。
(i)对从照明经物体到达光检测器的路径的传播特性进行建模。
(ii)对基准物体及与其对应的基准图像进行定义。
(iii)向多个强度分布I1~IM赋予初始值。
(iv)基于建模得到的传播特性,对将具有多个强度分布I1~IM的参照光照射到基准物体时的、检测强度b1~bM的推定值b^1~b^M进行计算。
(v)通过取得多个强度分布I1~IM与多个推定值b^1~b^M的相关来重建基准物体的复原图像。
(vi)对多个强度分布I1~IM分别进行修正,使得复原图像与基准图像的误差变小。通过重复处理(iv)~(vi),从而能够确定多个强度分布I1~IM
根据该实施方式,能够通过根据设想的被摄体等来定义基准图像,以使图案最优化,从而减少照射次数。
基准物体及基准图像也可以被定义复数N组(N≥2)。在该情况下,能够设想多个被摄体,因此能够进一步提高通用性。
误差也可以由式(4)的目的函数F(I)来表示。
【算式4】
Figure BDA0003130987230000261
Figure BDA0003130987230000262
Figure BDA0003130987230000263
Figure BDA0003130987230000264
其中,W表示图像的宽度,H表示图像的高度,Ti(x,y)表示第i个基准图像,Gi(x,y,I)表示第i个复原图像。
也可以是,预先将多个强度分布I1~IM准备多组,并选择性地使用与行驶环境相应的一组。由此,在各种行驶环境中,与始终使用相同的强度分布的组的情况相比,能够改善画质。
(实施方式4的详细说明)
图35是表示实施方式4的成像装置100的图。成像装置100为使用了重影成像的原理的相关函数图像传感器,包括照明110、光检测器120、以及运算处理装置130。也将成像装置100称为量子雷达照相机。
照明110为模拟热光源,生成具有实质上可视为随机的强度分布I(x,y)的参照光S1,并向物体OBJ进行照射。关于参照光S1向物体OBJ的照射,一边使其强度分布根据多种(M种)图案来发生变化一边进行。照明110例如可包含:光源112,其生成具有均匀的强度分布的光S0;以及图案化设备114,其能够对该光S0的强度分布I进行空间调制。光源112也可以使用激光或发光二极管等。参照光S1的波长及光谱并不被特别地限定,既可以是具有多个或连续光谱的白色光,也可以是包含预定波长的单色光。
作为图案化设备114,能够使用DMD(Digital Micromirror Device:数字微镜器件)或液晶设备。指定强度分布I的图案信号PTN(图像数据)被从运算处理装置130提供给图案化设备114,因此运算处理装置130此时知道被照射到物体OBJ的参照光S1的强度分布Ir
光检测器120对来自物体OBJ的反射光进行测定,并输出检测信号Dr。检测信号Dr为在使具有强度分布Ir的参照光照射到物体OBJ时,入射到光检测器120的光能量(或强度)的空间积分值。因此,光检测器120能够使用单像素的设备(光电探测器)。与多种(M种)强度分布I1~IM分别对应的多个检测信号D1~DM被从光检测器120输出。
运算处理装置130包含图案产生器132及重构处理部134。图案产生器132产生指定参照光S1的强度分布I的图案信号PTNr,并随时间对图案信号PTNr进行切换(r=1,2,…M)。以往,照明110所产生的参照光S1的强度分布随机地生成,但在本实施方式中,使用预先被确定的多个强度分布I1~IM的组。因此,规定多个强度分布I1~IM的多个图案信号PTN1~PTNM的组被预先保持于图案产生器132的内部的存储器(图案存储器)。
重构处理部134通过取得多个强度分布I1~IM与多个检测强度b1~bM的相关来对物体OBJ的复原图像G(x,y)进行重构。检测强度b1~bM基于检测信号D1~DM。检测强度b与检测信号D的关系可以考虑光检测器120的种类或方式等来确定。
将某一强度分布Ir的参照光S1设为在某一照射期间内照射。此外,检测信号Dr表示某一时刻(或微小时间)的受光量,即瞬时值。在该情况下,也可以是,在照射期间内,多次对检测信号Dr进行采样,并将检测强度br设为检测信号Dr的所有采样值的积分值、平均值或最大值。或者也可以是,筛选出所有采样值中的几个,并使用筛选出的采样值的积分值或平均值、最大值。多个采样值的筛选例如既可以从最大值数起,提取第x个~第y个序列,也可以根据任意的阈值来去除较低的采样值,还可以提取信号变动的大小较小的范围的采样值。
作为光检测器120,在像照相机那样,使用可设定曝光时间的设备的情况下,能够将光检测器120的输出Dr直接作为检测强度br
从检测信号Dr向检测强度br的转换既可以由运算处理装置130执行,也可以在运算处理装置130的外部进行。
对于相关,使用式(5)的相关函数。Ir为第r个强度分布,br为第r个检测强度的值。
【算式5】
Figure BDA0003130987230000281
Figure BDA0003130987230000282
以上是成像装置100的整体的基本构成。以下,对多个强度分布I1~IM的确定方法进行说明。多个强度I1~IM预先用计算机来确定。
图36是表示多个强度分布I1~IM的组的确定方法的流程图。对从照明110经物体OBJ到达光检测器120的路径的传播特性进行建模(S100)。在该传播特性中,包含从照明110到物体OBJ的光的传播特性、物体OBJ的反射特性、从物体OBJ到光检测器120的光的传播特性、以及光检测器120的转换特性。
对基准物体及与其对应的基准图像T(x,y)进行定义(S102)。基准图像T(x,y)规定基准物体的反射特性。图37是对基准物体与基准图像T(x,y)的关系进行说明的图。
在此,为了简化说明、易于理解,作为灰阶度来考虑。基准图像T(x,y)的像素值被以0~1来归一化。在该情况下,各像素p的像素值表示基准物体所对应的部分的反射率。例如,在某一像素p的像素值为1时,与其对应的基准物体的反射率为1(即100%),在像素值为0时,与其对应的基准物体的反射率为0(即0%),在像素值为0.5时,能够进行关联,使得与其对应的基准物体的反射率为0.5的(即50%)。
回到图36。对多个图案赋予初始值的步骤,并(iv)基于传播特性,对将具有多个强度分布I1~IM的参照光S1照射到基准物体OBJ时的、检测强度b1~bM的推定值b^1~b^M进行计算(S106)。
例如,使得在从照明110到物体OBJ的光路中,光不会衰减,参照光S1被遍及整个包含基准物体OBJ的矩形(图37的右侧的以虚线表示的矩形)地照射。此外,假定在从物体OBJ到光检测器120的光路中,光不会衰减,且来自物体OBJ的反射光会全部入射到光检测器120。在该假定下,将强度分布为Ir(x,y)的参照光照射到基准物体时的检测强度的推定值b^r由(6)式来表示。其中,W表示图像的宽度,H表示图像的高度。
【算式6】
Figure BDA0003130987230000291
将当前的强度分布I1的(x,y)~IM(x,y)的组合(或状态)记为I。基于式(7)的相关函数,用强度分布的组I来重构复原图像G(x,y,I)(S108)。式(7)中,将(5)式的检测强度br置换为了推定值b^r
【算式7】
Figure BDA0003130987230000292
Figure BDA0003130987230000293
基准图像T(x,y)相当于复原图像G(x,y,I)的正解。因此,对复原图像G(x,y,I)与基准图像T(x,y)的误差ε进行计算(S110),并对多个强度分布I1~IM中的每一个进行修正,使得误差ε变小(S114)。
在误差ε大于其允许值εMAX的期间,反复进行该处理(S112中的“是”)。当ε<εMAX时(S112中的“否”),保存此时的多个强度分布I1~IM的组I(S116),最优化处理结束。
根据该实施方式,能够通过根据设想的被摄体等来定义基准图像,以使图案最优化,从而减少照射次数。
优选的是,准备多组即N组基准图像T(x,y)和基准物体,针对它们,可以使多个强度分布I1~IM最优化,使得综合误差ε变小。在该情况下,能够设想多个被摄体,因此能够进一步提高通用性。
该情况下的误差ε也可以由式(8)的目的函数F(I)来表示。
【算式8】
Figure BDA0003130987230000294
Ti(x,y)表示第i个组的基准图像。
使误差ε最小化的算法并不被特别地限定,能够使用公知的算法。例如对于最小化,能够使用随机梯度下降法。该问题能够由以下的式(9)来公式化。
【算式9】
Figure BDA0003130987230000301
I^是最优的强度分布I1~IM的组。另外,因为强度分布I1~IM的像素值不取负值,所以能够设置非负的制约条件。
(验证)
以下,针对具体的强度分布I1~IM的组的确定及验证进行说明。作为基准图像(基准物体),利用了以被称为notMNIST的各种字体表达的字母等的图像数据的组(https://kaggle.com/lubaroli/notmnist/home)。该数据组所包含的图像为529114张。在机械学习中,数据的多样性导致性能提高的可能性较高,因此加入以下的处理来模拟地增加数据数(增量)。使用这些数据,以批量大小(batch size)64来进行了10个世代的学习。
·随机沿上下方向、左右方向移位10%
·随机变焦10%
·随机旋转10%
·随机上下、左右反转
将强度分布I1~IM的数量M设为100、500、1000,并求得了各自最优的强度分布的组I100^、I500^、I1000^。作为最优化算法,使用了Adam(Kingma Diederik、Jimmy Ba,“Adam-:AMethod for Stochastic Optimization;一种随机优化方法”,arXiv:1412.6980,2014)。关于参数,按照文献设为α=0.001,β1=0.9,β2=0.999。
图38是表示由与M=100相应地得到的100种强度分布I1~I100构成的组I100^的图。各像素的值被归一化为0~255的范围。针对M=500,M=1000也会得到同样的组,但因空间的关系,省略图示。
图39是表示使用了被最优化的强度分布的组时的复原图像的图。最左侧为正解图像,从上方起,依次使用了字母“K”、青蛙、电车、货车的照片。在复原图像的下方,示出了表示与正解图像的误差的PSNR的数值。青蛙、电车、货车的图像从CIFAR-10中引用(AlexKrizhevsky,“Learning multiple layers of features from tiny images"2009)。PSNR表示数值越大,误差就越小的情况。
可知:通过使用被最优化的强度分布的组,即使在M=100的情况下,也能够在某种程度上复原原来的物体,在M=500时,能够更准确地进行复原,在M=1000时,能够进一步准确地进行复原。
为了进行比较,对使用了以往的随机的强度分布的组时的复原图像进行了计算。在此,示出针对字母“K”的结果。图40是表示使用了随机的强度分布的组时的复原图像的图。当使用随机的强度分布时,即使在进行10000次照射的情况下,PSNR也为9.578左右。与此不同,根据本实施方式,得到了当照射100次时,PSNR=14.20,当照射500次时,PSNR=18.63,当照射1000次时,PSNR=22.13,可知与以往相比,PSNR被显著改善。
接着,对与实施方式4有关的变形例进行说明。
(变形例4.1)
也可以是,在成像装置100中,预先将强度分布的组准备出多个,并根据行驶环境来对它们进行切换。
在上述说明中,在成像装置100~物体OBJ之间,假定了不存在光的衰减等。这能够与晴天时的视野较好的情况相关联。当然,在假定下得到的强度分布的组即使在降雨、降雪或浓雾中行驶的状况下也是有效的,但当根据降雨、降雪或浓雾等行驶环境来切换强度分布的组时,能够进一步使复原图像G的误差变小。
例如,在设想在成像装置100与物体OBJ之间存在雨、雪、雾的行驶环境的情况下,可以分别考虑影响,对传播特性(光的传播特性)进行建模。在该情况下,检测强度br的推定值b^r的计算式会从式(6)进行修正。并且,可以基于被修正的推定值b^r来使强度分布的组最优化。
也可以是,在设想多个行驶环境,并使适于各行驶环境的强度分布的组最优化时,在各行驶环境(即降雨、降雪、浓雾)中,对基准物体进行拍摄,并将得到的图像作为基准图像来进行上述的机械学习。在该情况下,能够使传播特性(光的传播特性)的建模简化。
或者,也可以是,作为行驶环境,除了雨、雪、雾等的区别以外,或代替它们地,考虑白天的行驶与夜晚的行驶、低速行驶与高速行驶等来准备出适于各行驶环境的强度分布的组。
(变形例4.2)
在实施方式4中,以光源112与图案化设备114的组合构成了照明110,但不限于此。例如也可以是,照明110以被矩阵状地配置的多个半导体光源(LED(发光二极管)或LD(激光二极管))的阵列构成,并构成为可控制半导体光源的开、关(或亮度)。
接着,对实施方式4的成像装置100的用途进行说明。该成像装置100能够利用于图10的物体识别***10。作为物体识别***10的传感器,能够通过使用在实施方式4中说明的成像装置100来得到以下优点。
第1,通过使用成像装置100即量子雷达照相机,抗噪性大大提高。例如,在降雨时、降雪时、或雾中行驶的情况下,难以以肉眼识别出物体OBJ,但能够通过使用成像装置100来不受雨、雪、雾的影响地,得到物体OBJ的复原图像G。
第2,能够通过将预先通过机械学习进行了最优化的强度分布I1~IM的组作为参照光S1来使用,从而以较少的照射次数来复原物体OBJ的像。在上面的对比中,在以往的随机的强度分布中,达到数千次的照射次数是必要的,与此不同,在本实施方式中,能够减少到100~1000次左右的照射次数。由此,能够使得到1张复原图像所需的时间,即帧率比以往增加。由此,能够在成像装置100与物体OBJ相对移动的车载用途中,达成必要的帧率。
也可以是,在实施方式4中说明的成像装置100能够搭载于图11的汽车,并内置于图12的车辆用灯具。
在实施方式1~4中,作为重影成像(或单像素成像)的方法,对使用了相关计算的方法进行了说明,但图像的重建的方法并不被限定于此。在一些实施方式中,也可以代替相关计算地,通过使用了傅里叶变换或哈达玛逆变换的分析方法或解决稀疏建模等最优化问题的方法、以及利用了AI和机械学习的算法来重建图像。
虽然基于实施方式,使用具体的语句来对本发明进行了说明,但实施方式仅表示本发明的原理、应用的一个侧面,在实施方式中,在不脱离权利要求书所规定的本发明的思想的范围内,允许对许多变形例或配置进行变更。
[工业可利用性]
本发明涉及车辆用灯具。
[附图标记说明]
OBJ…物体、10…物体识别***、20…成像装置、40…运算处理装置、42…分类器、100…成像装置、110…照明、120…光检测器、130…运算处理装置、132…图案产生器、134…重构处理部、200…车辆用灯具、202…光源、204…点亮电路、206…光学***、300…汽车、302…前照灯、310…灯具***、304…车辆侧ECU、400…车辆用灯具、402…壳体、404…罩、410…前照灯、412…光源、414…反射器、416…图案化设备、420…模拟热光源、422…光源、424…图案化设备、430…共通构件。

Claims (51)

1.一种车辆用灯具,其特征在于,包括:
前照灯,以及
模拟热光源,其一边随机地对参照光的强度分布进行切换一边向物体进行照射;
上述模拟热光源与对来自上述物体的反射光进行测定的光检测器、以及基于上述检测器的输出和上述参照光的强度分布来重构上述物体的复原图像的运算处理装置一同构成成像装置;
上述前照灯的至少一部分构成要素被与上述模拟热光源共用。
2.如权利要求1所述的车辆用灯具,其特征在于,
上述模拟热光源与上述前照灯共用光学***。
3.如权利要求2所述的车辆用灯具,其特征在于,
上述前照灯的上述光学***包含控制配光的图案化设备,上述模拟热光源与上述前照灯共用上述图案化设备。
4.如权利要求2所述的车辆用灯具,其特征在于,
上述前照灯的上述光学***包含将光源的出射光向车辆前方反射的反射器,上述模拟热光源与上述前照灯共用上述反射器。
5.如权利要求2~4的任何一项所述的车辆用灯具,其特征在于,
上述参照光为红外或紫外。
6.如权利要求1~5的任何一项所述的车辆用灯具,其特征在于,
上述模拟热光源与上述前照灯共用光源。
7.如权利要求6所述的车辆用灯具,其特征在于,
上述参照光为白色光。
8.一种车辆,其特征在于,
包括如权利要求1~7的任何一项所述的车辆用灯具。
9.一种车载用成像装置,其特征在于,包括:
照明装置,其将测定范围分割为多个区块,并一边切换区块一边照射强度分布随机的参照光,
光检测器,其对来自物体的反射光进行测定,以及
运算处理装置,其针对上述多个区块分别以基于上述光检测器的输出的检测强度和上述参照光的强度分布为基础,对上述物体的该区块所包含的一部分复原图像进行重构。
10.如权利要求9所述的车载用成像装置,其特征在于,
上述多个区块的个数被以如下方式确定:伴随于分割的运算时间的减少量大于测定时间的増加量。
11.一种车辆用灯具,其特征在于,
包括如权利要求9或10所述的车载用成像装置。
12.一种车辆,其特征在于,
包括如权利要求9或10所述的车载用成像装置。
13.一种成像方法,其特征在于,包括:
将测定范围分割为多个区块,并一边切换区块一边照射强度分布随机的参照光的步骤,
利用光检测器对来自物体的反射光进行测定的步骤,以及
针对上述多个区块,分别以基于上述光检测器的输出的检测强度和上述参照光的强度分布为基础,对上述物体的该区块所包含的一部分复原图像进行重构的步骤。
14.如权利要求13所述的成像方法,其特征在于,
上述多个区域的个数被以如下方式确定:伴随于分割的运算时间的减少量大于测定时间的増加量。
15.一种照明装置,其被使用于基于重影成像的成像装置;
该照明装置的特征在于,
具有被矩阵状地配置的多个像素,并被构成为能够基于上述多个像素的开、关的组合来对光的强度分布进行调制;
上述强度分布被以至少包含一个像素的像素块为单位进行控制,上述像素块是可变的。
16.如权利要求15所述的照明装置,其特征在于,
上述像素块的尺寸是可变的。
17.如权利要求16所述的照明装置,其特征在于,
在通过过去的感测判定为存在物体的区域中,使上述像素块的尺寸变小。
18.如权利要求15~17的任何一项所述的照明装置,其特征在于,
上述像素块的形状是可变的。
19.如权利要求18所述的照明装置,其特征在于,
上述像素块的形状按横长的图形、纵长的图形、沿斜向延伸的图形中的至少2个种类进行变化。
20.如权利要求18或19所述的照明装置,其特征在于,
上述像素块的形状被基于物体的移动方向来选择。
21.如权利要求15~20的任何一项所述的照明装置,其特征在于,
上述像素块包含按照预定的图案配置的开像素和关像素。
22.如权利要求21所述的照明装置,其特征在于,
沿上述像素块的相邻的至少2边,配置关像素。
23.一种照明装置,其被使用于基于重影成像的成像装置;
该照明装置的特征在于,
具有被矩阵状地配置的多个像素,并被构成为能够基于上述多个像素的开、关的组合来对光的强度分布进行调制;
用包含2个以上的开像素和关像素的预定图案来控制上述强度分布。
24.如权利要求23所述的照明装置,其特征在于,
上述预定图案被规定有多个,上述强度分布基于从多个预定图案中动态地选择的至少一个而被控制。
25.一种成像装置,其特征在于,包括:
向物体照射参照光的如权利要求15~24的任何一项所述的照明装置,
光检测器,其对来自上述物体的反射光进行测定,以及
运算处理装置,其以基于上述光检测器的输出的检测强度和上述参照光的强度分布为基础来重构上述物体的复原图像。
26.一种车辆用灯具,其特征在于,
包括如权利要求25所述的成像装置。
27.一种车辆,其特征在于,
包括如权利要求25所述的成像装置。
28.一种照明装置。其被使用于基于重影成像的成像装置;
该照明装置的特征在于,
具有被矩阵状地配置的多个像素,并被构成为能够基于上述多个像素的开、关的组合来对光的强度分布进行调制;
在预定的制约条件下,控制上述多个像素的开、关。
29.如权利要求28所述的照明装置,其特征在于,
上述预定的制约条件包括相邻的像素不为“开”。
30.如权利要求28或29所述的照明装置,其特征在于,
上述预定的制约条件会动态地变化。
31.如权利要求28~30的任何一项所述的照明装置,其特征在于,
上述预定的制约条件对开像素与关像素的比例即点亮率进行规定。
32.如权利要求28~31的任何一项所述的照明装置,其特征在于,
上述多个像素被分割为多个区域,在各区域中,分别规定开和关的像素的比例。
33.一种成像装置,其特征在于,包括:
向物体照射参照光的如权利要求28~32的任何一项所述的照明装置,
光检测器,其对来自上述物体的反射光进行测定,以及
运算处理装置,其以基于上述光检测器的输出的检测强度和上述参照光的强度分布为基础,来重构上述物体的复原图像。
34.一种车辆用灯具,其特征在于,
包括如权利要求33所述的成像装置。
35.一种车辆,其特征在于,
包括如权利要求33所述的成像装置。
36.一种成像装置,其特征在于,包括:
照明,其一边使参照光的强度分布按多种即M种进行变化一边向物体进行照射,
光检测器,其针对多个强度分布I1~IM,分别对来自上述物体的反射光进行测定,以及
运算处理装置,其通过取得上述多个强度分布I1~IM与基于上述光检测器的输出的多个检测强度b1~bM的相关,来重构上述物体的复原图像;
上述多个强度分布I1~IM被通过机械学习预先生成。
37.如权利要求37所述的成像装置,其特征在于,
与多个行驶环境对应地,准备出多组上述多个强度分布I1~IM,并选择性地使用与行驶环境相应的一个组。
38.一种成像装置,其特征在于,包括:
照明,其一边使参照光的强度分布按多种即M种进行变化一边向物体进行照射,
光检测器,其针对多个强度分布I1~IM,分别对来自上述物体的反射光进行测定,以及
运算处理装置,其通过取得上述多个强度分布I1~IM与基于上述光检测器的输出的多个检测强度b1~bM的相关,来重构上述物体的复原图像;
上述多个强度分布I1~IM通过以下步骤得到:
(i)对从上述照明经上述物体到达上述光检测器的路径的传播特性进行建模,
(ii)对基准物体及与其对应的基准图像进行定义,
(iii)向上述多个强度分布I1~IM赋予初始值,
(iv)基于上述传播特性,对将具有上述多个强度分布I1~IM的参照光照射到上述基准物体时的、上述检测强度b1~bM的推定值b^1~b^M进行计算,
(v)通过取得上述多个强度分布I1~IM与上述多个推定值b^1~b^M的相关来重建上述基准物体的复原图像,
(vi)对上述多个强度分布1~IM分别进行修正,使得上述复原图像与上述基准图像的误差变小,以及
(vii)通过重复步骤(iv)~(vi)来确定上述多个强度分布I1~IM
39.如权利要求38所述的成像装置,其特征在于,
上述基准物体及上述基准图像被定义了多组即N组,其中,N≥2。
40.如权利要求39所述的成像装置,其特征在于,
上述误差由式(1)的目的函数F(I)来表示。
【算式1】
Figure FDA0003130987220000061
Figure FDA0003130987220000062
Figure FDA0003130987220000063
Figure FDA0003130987220000064
其中,W表示图像的宽度,H表示图像的高度,Ti(x,y)表示第i个基准图像,Gi(x,y,I)表示第i个复原图像。
41.如权利要求38~40的任何一项所述的成像装置,其特征在于,
在步骤(vi)中,使用随机梯度下降法。
42.如权利要求39所述的成像装置,其特征在于,
使用字母的图像数据的组作为上述基准物体及上述基准图像。
43.如权利要求39~42的任何一项所述的成像装置,其特征在于,
设想不同的多个环境,并针对上述多个环境分别准备出上述多个强度分布I1~IM
44.一种物体识别***,其特征在于,包括:
如权利要求36~43的任何一项所述的成像装置,以及
运算处理装置,其能够基于利用上述成像装置得到的图像来识别出物体的种类。
45.一种车辆用灯具,其特征在于,
包括如权利要求44所述的物体识别***。
46.一种车辆,其特征在于,
包括如权利要求44所述的物体识别***。
47.一种方法,其对用于成像装置的多个强度分布的组进行确定;
该方法的特征在于,
上述成像装置包括:
照明,其一边使参照光的强度分布在多种即M种内进行变化一边向物体进行照射,
光检测器,其针对上述多个强度分布I1~IM分别对来自上述物体的反射光进行测定,以及
运算处理装置,其通过取得上述多个强度分布I1~IM与基于上述光检测器的输出的多个检测强度b1~bM的相关来重构上述物体的复原图像;
上述方法包括如下步骤:
(i)对从上述照明经上述物体到达上述光检测器的路径的传播特性进行建模,
(ii)对基准物体及与其对应的基准图像进行定义,
(iii)向上述多个强度分布I1~IM赋予初始值,
(iv)基于上述传播特性,对将具有上述多个强度分布I1~IM的参照光照射到上述基准物体时的、上述检测强度b1~bM的推定值b^1~b^M进行计算,
(v)通过取得上述多个强度分布I1~IM与上述多个推定值b^1~b^M的相关来重建上述基准物体的复原图像,以及
(vi)对上述多个强度分布I1~IM分别进行修正,使得上述复原图像与上述基准图像的误差变小;
通过重复步骤(iv)~(vi)来确定上述多个强度分布I1~IM的组。
48.如权利要求47所述的方法,其特征在于,
上述基准物体及上述基准图像被定义了多组即N组,其中,N≥2。
49.如权利要求48所述的方法,其特征在于,
上述误差由式(1)的目的函数F(I)来表示。
【算式2】
Figure FDA0003130987220000081
Figure FDA0003130987220000082
其中,W表示图像的宽度,H表示图像的高度,Ti(x,y)表示第i个基准图像,Gi(x,y,I)表示第i个复原图像。
50.如权利要求47至49的任何一项所述的方法,其特征在于,
在步骤(vi)中,使用随机梯度下降法。
51.如权利要求47~50的任何一项所述的方法,其特征在于,
将字母的图像数据的组作为上述基准物体及上述基准图像来使用。
CN201980085931.7A 2018-12-27 2019-12-20 车辆用灯具及车辆 Active CN113227838B (zh)

Applications Claiming Priority (11)

Application Number Priority Date Filing Date Title
JP2018-245517 2018-12-27
JP2018245517 2018-12-27
JP2018-244951 2018-12-27
JP2018244951 2018-12-27
JP2019-002818 2019-01-10
JP2019-002819 2019-01-10
JP2019002818 2019-01-10
JP2019002819 2019-01-10
JP2019002820 2019-01-10
JP2019-002820 2019-01-10
PCT/JP2019/050170 WO2020137908A1 (ja) 2018-12-27 2019-12-20 車両用灯具および車両

Publications (2)

Publication Number Publication Date
CN113227838A true CN113227838A (zh) 2021-08-06
CN113227838B CN113227838B (zh) 2024-07-12

Family

ID=

Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020043561A1 (en) * 1995-12-18 2002-04-18 Adaptive Optics Associates, Inc. Method of and system for producing digital images of objects with subtantially reduced speckle-noise patterns by illuminating said objects with spatially and/or temporally coherent-reduced planar laser illumination
US20030209893A1 (en) * 1992-05-05 2003-11-13 Breed David S. Occupant sensing system
DE29825026U1 (de) * 1997-04-02 2004-07-01 Gentex Corp., Zeeland Steuerungssystem, um Fahrzeugscheinwerfer automatisch zu dimmen
JP2012146621A (ja) * 2010-12-20 2012-08-02 Stanley Electric Co Ltd 車両用灯具
CN103472456A (zh) * 2013-09-13 2013-12-25 中国科学院空间科学与应用研究中心 一种基于稀疏孔径压缩计算关联的主动成像***及方法
EP3015882A1 (en) * 2013-06-27 2016-05-04 Panasonic Intellectual Property Management Co., Ltd. Distance measuring device
CN106019307A (zh) * 2016-05-18 2016-10-12 北京航空航天大学 一种基于阵列光源的单像素成像***及方法
WO2017073737A1 (ja) * 2015-10-28 2017-05-04 国立大学法人東京大学 分析装置
US20170163971A1 (en) * 2014-09-30 2017-06-08 Washington University Multiple-view compressed-sensing ultrafast photography (mv-cup)
CN107107809A (zh) * 2014-12-25 2017-08-29 株式会社小糸制作所 点亮电路及车辆用灯具
CN108139484A (zh) * 2016-08-30 2018-06-08 索尼半导体解决方案公司 测距装置和测距装置的控制方法
WO2018124285A1 (ja) * 2016-12-29 2018-07-05 国立大学法人東京大学 イメージング装置及び方法
CN108290515A (zh) * 2015-11-23 2018-07-17 黑拉有限责任两合公司 用于运行车辆的至少一个前照灯的方法
US20180260651A1 (en) * 2017-03-10 2018-09-13 TuSimple System and method for vehicle wheel detection
JP2018155658A (ja) * 2017-03-17 2018-10-04 株式会社東芝 物体検出装置、物体検出方法、および物体検出プログラム
CN108626687A (zh) * 2017-03-17 2018-10-09 丰田自动车株式会社 用于车辆的前照灯装置
JP6412673B1 (ja) * 2017-07-21 2018-10-24 学校法人玉川学園 画像処理装置及び方法、並びに、プログラム
CN108710215A (zh) * 2018-06-20 2018-10-26 深圳阜时科技有限公司 一种光源模组、3d成像装置、身份识别装置及电子设备

Patent Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030209893A1 (en) * 1992-05-05 2003-11-13 Breed David S. Occupant sensing system
US20020043561A1 (en) * 1995-12-18 2002-04-18 Adaptive Optics Associates, Inc. Method of and system for producing digital images of objects with subtantially reduced speckle-noise patterns by illuminating said objects with spatially and/or temporally coherent-reduced planar laser illumination
DE29825026U1 (de) * 1997-04-02 2004-07-01 Gentex Corp., Zeeland Steuerungssystem, um Fahrzeugscheinwerfer automatisch zu dimmen
JP2012146621A (ja) * 2010-12-20 2012-08-02 Stanley Electric Co Ltd 車両用灯具
EP3015882A1 (en) * 2013-06-27 2016-05-04 Panasonic Intellectual Property Management Co., Ltd. Distance measuring device
CN103472456A (zh) * 2013-09-13 2013-12-25 中国科学院空间科学与应用研究中心 一种基于稀疏孔径压缩计算关联的主动成像***及方法
US20170163971A1 (en) * 2014-09-30 2017-06-08 Washington University Multiple-view compressed-sensing ultrafast photography (mv-cup)
CN107107809A (zh) * 2014-12-25 2017-08-29 株式会社小糸制作所 点亮电路及车辆用灯具
WO2017073737A1 (ja) * 2015-10-28 2017-05-04 国立大学法人東京大学 分析装置
CN108290515A (zh) * 2015-11-23 2018-07-17 黑拉有限责任两合公司 用于运行车辆的至少一个前照灯的方法
CN106019307A (zh) * 2016-05-18 2016-10-12 北京航空航天大学 一种基于阵列光源的单像素成像***及方法
CN108139484A (zh) * 2016-08-30 2018-06-08 索尼半导体解决方案公司 测距装置和测距装置的控制方法
WO2018124285A1 (ja) * 2016-12-29 2018-07-05 国立大学法人東京大学 イメージング装置及び方法
US20180260651A1 (en) * 2017-03-10 2018-09-13 TuSimple System and method for vehicle wheel detection
JP2018155658A (ja) * 2017-03-17 2018-10-04 株式会社東芝 物体検出装置、物体検出方法、および物体検出プログラム
CN108626687A (zh) * 2017-03-17 2018-10-09 丰田自动车株式会社 用于车辆的前照灯装置
JP6412673B1 (ja) * 2017-07-21 2018-10-24 学校法人玉川学園 画像処理装置及び方法、並びに、プログラム
CN108710215A (zh) * 2018-06-20 2018-10-26 深圳阜时科技有限公司 一种光源模组、3d成像装置、身份识别装置及电子设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
杨硕;赵保军;毛二可;唐林波;: "基于目标与背景相异位移配准的非均匀校正算法", 激光与红外, no. 11 *

Also Published As

Publication number Publication date
WO2020137908A1 (ja) 2020-07-02
JPWO2020137908A1 (ja) 2021-11-11
JP7408572B2 (ja) 2024-01-05

Similar Documents

Publication Publication Date Title
WO2020137908A1 (ja) 車両用灯具および車両
KR102472631B1 (ko) Lidar 시스템 및 방법
KR100682067B1 (ko) 차량 전조등들이나 또는 타의 차량 장비를 제어하기 위한 영상 처리 시스템
US11676394B2 (en) Processing device for conversion of images
CN110709281B (zh) 车辆用灯具及其控制装置、控制方法
KR20050113608A (ko) 자동 차량 외부광 제어 장치
US20220132022A1 (en) Imaging device
CN102835115A (zh) 用于车辆摄像机的图像传感器的颜色掩模
US11367292B2 (en) Road marking detection
CN113383280A (zh) 用于经由雾的图像增强的弹道光调制
JP2004104646A (ja) 車載用画像処理装置
WO2020218282A1 (ja) イメージング装置、車両用灯具、自動車、イメージング方法
JPWO2020080045A1 (ja) 物体認識方法、車両制御方法、情報表示方法、および物体認識装置
US20230009034A1 (en) Imaging apparatus
JP2012117872A (ja) 物体検出装置及びこれを備えた車載機器制御装置
CN113227838B (zh) 车辆用灯具及车辆
WO2021079810A1 (ja) イメージング装置、車両用灯具、車両、イメージング方法
WO2022091972A1 (ja) イメージング装置および車両用灯具、車両
WO2023085329A1 (ja) イメージングシステム、センサユニット、車両用灯具、車両
WO2023074759A1 (ja) イメージング装置、車両用灯具、車両
WO2022044961A1 (ja) イメージング装置、イメージング方法および車両用灯具、車両
WO2022102775A1 (ja) センシング装置、車両用灯具、車両
JP7161337B2 (ja) 車両用灯具
WO2022270476A1 (ja) イメージング装置および車両用灯具、車両
KR20230075847A (ko) 패턴빔 레이저를 이용하여 도로 노면의 차선 상태를 인식하기 위한 방법 및 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant