CN112633284B - 一种深度学习手写数字识别方法 - Google Patents

Abstract

为了解决传统深度学***台、电机驱动器、采集模块、计算机控制软件。本发明结构简单、功耗低，对手写数字识别平均准确率高，在特征检测和图像分类领域具有很好的应用前景。

Description

一种深度学习手写数字识别方法

技术领域

本发明属于人工智能技术领域，特别涉及一种深度学习手写数字识别方法。

背景技术

深度学习是目前发展最快的机器学习方法，它通过构建多层神经网络对数据和图像进行训练和执行，实现医学图像分析、语音识别、语言翻译和图像分类等高级应用。然而深度学习需要大量的矩阵乘法运算，对计算机硬件的GPU和CPU性能有较高要求，速度和功耗一致是深度学习应用的最大问题。

全光深度学习相比于电处理器实现深度学习，具有光速快和功耗低的潜在优势。早在80年代，基于光子本身的干涉和衍射效应，利用光学全息技术和光致折射率变化材料模仿神经元相互连接，构建光学神经网络结构，已经取得了一定的学习功能。近年来，随着深度学习的飞速发展，光学神经网络结构也取得突破性进展。2017年Shen采用微纳波导结构的深度神经网络结构，构建了4个神经元，实现了音素的识别。2018年，Chang利用相位掩膜板和透镜4f***实现了卷积神经网络的部分功能。同年，美国加州大学洛杉矶分校Lin提出了一种基于衍射深度神经网络(Diffractive Deep Neural Networks，D2NN)的全光深度学习***，利用3D打印的5层相位衍射层和太赫兹光源，实现了对手写数字和时尚产品的图像分类实验。实验结果表明采用光子衍射实现密集的矩阵乘法运算可以有效解决人工智能算法中最耗时间和功耗的运算部分，从而在自动驾驶等功率受限场合中有更广泛的应用。

D2NN架构中，相位衍射层需要根据不同神经元的相位值决定光栅高度值，光栅尺寸必须小于入射光波长才能实现衍射。受限于3D打印的百微米最小分辨率，Lin的衍射光栅神经网络尺寸大、集成度低，需要采用波长为750μm的太赫兹光源来提供入射光，通过3D打印镂空遮挡板产生输入图像。太赫兹波长的光源和探测器结构复杂、功耗高、价格贵，且难以产生动态相干图像，限制了该***的应用价值。而红外激光则没有上述缺点。为此，一种更先进的使用红外激光的纯光深度学习***需要研发。

发明内容

本发明的目的在于克服现有技术的缺点，提供一种深度学习手写数字识别方法，具有速度快、功耗低、结构简单的优点，适用于在功耗受限且处理速度要求高的人工智能终端，增加装置的适用性。

为解决上述技术问题，本发明采用的技术方案是：一种深度学***台上，在电机驱动器控制下，所述红外光电探测器在接收平面上移动，测量不同位置的光强信息；步骤d、所述红外光电探测器输出的电信号通过采集模块模数转换后传入计算机控制软件；步骤e、所述计算机控制软件控制所述CO₂激光器的开关和功率调节和所述二维位移平台的运动状态，将采集的所述光强信息数据组成图像，并计算10个识别区域中光强度总值最高的区域，该区域对应的手写数字值即为识别结果，完成识别。

优选的，所述衍射光栅由五片锗片刻蚀衍射光栅构成，所述衍射光栅采用HBr气体对锗片刻蚀的ICP工艺，通过多次套刻制作，有效面积为1mm×1mm，含有200×200个神经元。

优选的，所述激光器驱动模块包括微控制单元和蓝牙芯片，所述计算机控制软件通过所述蓝牙芯片控制所述激光器驱动模块，所述微控制单元输出5V 7mA的脉冲宽度调制信号经过去耦电容后激发所述CO₂激光器的管芯发光，所述调节脉冲信号的脉宽可以改变所述CO₂激光器输出功率。

优选地，所述采集模块包括可编程逻辑阵列芯片、时钟晶振、模数转换器、USB驱动和存储器，所述模数转换器将所述光强信息传入所述可编程逻辑阵列芯片，所述光强信息较多时保存在所述存储器内，所述可编程逻辑阵列芯片通过所述USB驱动实现串口转USB，所述USB驱动串口与所述计算机控制软件串口通信，传输指令和采集数据。

优选的，所述计算机控制软件控制所述二维位移平台包括以下步骤：步骤①、采集开始时，所述计算机控制软件对所述二维位移平台进行初始化，设置步进距离和步进范围；步骤②、所述计算机控制软件发出指令，控制所述二维位移平台运动到指定位置，所述采集模块采集一定时间的所述红外光电探测器并求平均；步骤③、所述计算机控制软件控制所述二维位移平台运动到下一个位置，直到完成全部采集，生成图像。

与现有技术相比，本发明的有益效果在于：

本发明提出的纯光深度学习手写数字识别***，相比于现有的使用电处理器实现深度学习手写数字识别，具有速度快、功耗低、结构简单的优点，适用于在功耗受限且处理速度要求高的人工智能终端。

应当理解，前述大体的描述和后续详尽的描述均为示例性说明和解释，并不应当用作对本发明所要求保护内容的限制。

附图说明

参考随附的附图，本发明更多的目的、功能和优点将通过本发明实施方式的如下描述得以阐明，其中：

图1示意性示出了本发明纯光深度学习手写数字识别方法示意图；

图2示意性示出了本发明驱动模块结构示意图；

图3示意性示出了本发明采集模块结构示意图；

图4示意性示出了本发明计算机控制软件流程示意图；

图5示意性示出了本发明红外探测器探测图像示意图；

图6示意性示出了本发明纯光深度学习手写数字识别***的手写数字识别测试准确率示意图。

图中：

1、电源 2、激光器驱动模块

3、CO₂激光器 4、手写数字掩膜板

5、采集模块 6、衍射光栅

7、标校图像传感器 8、红外光电探测器

9、二维位移平台 10、电机驱动器

11、计算机控制软件 12、标校激光器

21、蓝牙芯片 22、微控制单元

51、可编程逻辑阵列芯片 52、时钟晶振

53、模数转换器 54、USB驱动

55、存储器

具体实施方式

通过参考示范性实施例，本发明的目的和功能以及用于实现这些目的和功能的方法将得以阐明。然而，本发明并不受限于以下所公开的示范性实施例；可以通过不同形式来对其加以实现。说明书的实质仅仅是帮助相关领域技术人员综合理解本发明的具体细节。

在下文中，将参考附图描述本发明的实施例。在附图中，相同的附图标记代表相同或类似的部件，或者相同或类似的步骤。

为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。

如图1所示，本发明的纯光深度学***台9、电机驱动器10、采集模块5、计算机控制软件11。

其中，标校激光器12采用650nm可见光激光器，配合标校图像传感器CCD7，用于辅助5层衍射光栅6中心的1mm²有效面积完成对准。CO2激光器3由激光器驱动模块2控制输出一定功率的10.6μm中红外光，透过手写数字镂空的掩膜板4产生输入光图像。输入光图像穿过5片锗片刻蚀衍射光栅构成的神经网络衍射光栅6，衍射后的输出光图像被中红外点探测器8接收。点探测器8固定在二维位移平台9上，感光区盖子开透光微孔，在电机驱动器10控制下，点探测器8在接收平面移动，测量不同位置的光强度信息。探测器8输出的电信号通过采集模块5模数转换后传入计算机。计算机上使用Labview编写的控制软件11，通过蓝牙控制发射端激光器驱动模块2，进行激光器3的开关和功率调节；通过usb控制二维位移平台9的运动状态；将采集的光强度数据组成图像，并计算10个识别区域中光强度总值最高的区域，该区域对应的手写数字值即为识别结果。

其中衍射光栅6采用HBr气体对锗片刻蚀的ICP工艺，通过多次套刻制作，有效面积为1mm×1mm，含有200×200个神经元。一个神经元是一个5um×5um面积的光栅，不同神经元的光栅高度不同，通过使用全连接深度学习框架训练获得：与传统全连接不同的是，衍射光栅全连接的权值w不是训练目标，而是由光波二次波公式(1)计算而得，其中，代表第l层的空间位置(x_i,y_i,z_i)的神经元i对l+1层的空间位置(x_p,y_p,z_p)的神经元p的权值，λ表示光波长；r表示神经元i与神经元p之间的空间距离。公式(2)中，/>为第l层神经元i对第l+1层神经元p的输出；/>是幅度常数，无传输损失时的理想值为1；相位/>是待训练优化的目标。图3显示了/>是由上一层所有的/>经过神经元i的相位延迟/>后，再经过神经元i到神经元p的传输权值/>后产生的前向传输过程。误差反向传递则采用传统全连接的随机梯度下降算法，使用MNIST手写数据库作为训练集，对光栅相位/>迭代优化。优化后的相位值根据使用的入射光波长值转换为光栅的高度值，然后由这200×200个光栅高度值生成版图，制作掩膜板，完成锗片的刻蚀。锗片刻蚀流程采用等离子体刻蚀(ICP)技术，先对锗片涂负光刻胶，然后使用电子束光刻***(EBL)根据版图掩膜板对光刻胶进行曝光和显影，再使用HBr气体，对无光刻胶保护的锗进行ICP刻蚀，最后洗去光刻胶。一次套刻过程，对所有无光刻胶保护部位产生一个同样的刻蚀深度值；通过多次套刻，获得不同高度的衍射光栅。

图2是激光器驱动模块2结构，包括微控制单元22和蓝牙芯片21。微控制单元22输出的5V 7mA的脉冲宽度调制(PWM)信号经过去耦电容后激发CO2激光器3的管芯发光，调节脉冲信号的脉宽可以改变CO2激光器3输出功率，5V直流时对应最大功率10W。在微控制单元22里设计脉冲频率为1kHz，最小脉冲宽度为1ms，一个周期为100ms，每秒循环10次。根据蓝牙芯片21接收到的控制指令，脉冲宽度在1ms到100ms之间调节，对应100个档位，每档为100mW。

图3是采集模块结构，包括模数转换器53、USB驱动54、可编程逻辑阵列芯片FPGA51、时钟晶振52、存储器DDR3芯片55。图3中，二维位移平台9由2个电动线性平移台垂直连接组成，通过步进电机控制器驱动，每个方向行程范围100mm，步进分辨率1μm，定位精度2μm，满足神经元5μm的测量需求。红外探测器8采用碲镉汞光电探测器，响应波长2.0-10.6μm，内置了0到30dB可调增益跨阻放大器，输出电压最高2V。模数转换器53选用ADI公司的AD7606芯片，16bit分辨率，200ksps采样率，片内集成输入放大器、二阶模拟抗混叠滤波器和数字滤波器，输入动态范围±5V，可以直接和探测器相连。模数转换器53采集的数据传入FPGA 51中，数据量较多时保存在存储器55里。FPGA 51通过USB驱动54实现串口(UART)转USB，与计算机控制软件11串口通信，传输指令和采集数据。图4是计算机控制软件11的工作流程：采集开始时，控制软件11对二维平台9进行初始化，设置步进距离和步进范围；软件发出指令，控制二维平台9运动到指定位置，然后采集一定时间的探测器数据并求平均；继续控制平台9运动到下一个位置，直到完成全部采集，生成图像。

图5是本发明实例中5层衍射光栅6的输入图像和探测器8获得的探测图像。图中看出，手写数字掩膜板4输入的数字“5”的图像，经过5层衍射光栅后，最终被探测器8获得的图像中最亮区对应“0到9”中的“5”的位置

图6是本发明实施例的手写数字识别测试准确率结果，左斜线数字代表输入值和测试值相同，就是正确率。

本实施例的平均正确率为83％。

本发明的有益效果：本发明提出的纯光深度学习手写数字识别***，相比于现有的使用电处理器实现深度学习手写数字识别，具有速度快、功耗低、结构简单的优点，适用于在功耗受限且处理速度要求高的人工智能终端。

结合这里披露的本发明的说明和实践，本发明的其他实施例对于本领域技术人员都是易于想到和理解的。说明和实施例仅被认为是示例性的，本发明的真正范围和主旨均由权利要求所限定。

Claims (5)

1.一种深度学习手写数字识别方法，其特征在于，所述方法包括以下步骤：

步骤a、CO₂激光器在激光器驱动模块作用下输出功率为10.6μm的红外光，所述红外光通过手写数字掩膜板产生输入光图像；

步骤b、所述输入光图像通过衍射光栅，衍射后的所述输入光图像被红外光电探测器接收；

步骤c、所述红外光电探测器固定设置在二维位移平台上，在电机驱动器控制下，所述红外光电探测器在接收平面上移动，测量不同位置的光强信息；

步骤d、所述红外光电探测器输出的电信号通过采集模块模数转换后传入计算机控制软件；

步骤e、所述计算机控制软件控制所述CO₂激光器的开关和功率调节和所述二维位移平台的运动状态，将采集的所述光强信息数据组成图像，并计算10个识别区域中光强度总值最高的区域，该区域对应的手写数字值即为识别结果，完成识别。

2.根据权利要求1所述的识别方法，其特征在于，所述衍射光栅由五片锗片刻蚀衍射光栅构成，所述衍射光栅采用HBr气体对锗片刻蚀的ICP工艺，通过多次套刻制作，有效面积为1mm×1mm，含有200×200个神经元。

3.根据权利要求1所述的识别方法，其特征在于，所述激光器驱动模块包括微控制单元和蓝牙芯片，所述计算机控制软件通过所述蓝牙芯片控制所述激光器驱动模块，所述微控制单元输出5V7mA的脉冲宽度调制信号经过去耦电容后激发所述CO₂激光器的管芯发光，调节脉冲信号的脉宽可以改变所述CO₂激光器输出功率。

4.根据权利要求1所述的识别方法，其特征在于，所述采集模块包括可编程逻辑阵列芯片、时钟晶振、模数转换器、USB驱动和存储器，所述模数转换器将所述光强信息传入所述可编程逻辑阵列芯片，在光强信息量影响到可编程逻辑阵列芯片的运算功能时，将所述光强信息保存在所述存储器内，所述可编程逻辑阵列芯片通过所述USB驱动实现串口转USB，所述USB驱动串口与所述计算机控制软件串口通信，传输指令和采集数据。

5.根据权利要求1所述的识别方法，其特征在于，所述计算机控制软件控制所述二维位移平台包括以下步骤：

步骤①、采集开始时，所述计算机控制软件对所述二维位移平台进行初始化，设置步进距离和步进范围；

步骤②、所述计算机控制软件发出指令，控制所述二维位移平台运动到指定位置，所述采集模块采集设定时间的所述红外光电探测器并求平均；

步骤③、所述计算机控制软件控制所述二维位移平台运动到下一个位置，直到完成全部采集，生成图像。