CN115471216A - 智慧实验室管理平台的数据管理方法 - Google Patents

智慧实验室管理平台的数据管理方法 Download PDF

Info

Publication number
CN115471216A
CN115471216A CN202211366399.6A CN202211366399A CN115471216A CN 115471216 A CN115471216 A CN 115471216A CN 202211366399 A CN202211366399 A CN 202211366399A CN 115471216 A CN115471216 A CN 115471216A
Authority
CN
China
Prior art keywords
learner
feature
interest
equipment
classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211366399.6A
Other languages
English (en)
Other versions
CN115471216B (zh
Inventor
张秀明
蔡钦泉
汪之红
张丽军
翁佳楠
文启林
佘鑫东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Huikang Information Technology Co ltd
Shenzhen Sunyuan Technology Co ltd
Original Assignee
Shenzhen Huikang Information Technology Co ltd
Shenzhen Sunyuan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Huikang Information Technology Co ltd, Shenzhen Sunyuan Technology Co ltd filed Critical Shenzhen Huikang Information Technology Co ltd
Priority to CN202211366399.6A priority Critical patent/CN115471216B/zh
Publication of CN115471216A publication Critical patent/CN115471216A/zh
Application granted granted Critical
Publication of CN115471216B publication Critical patent/CN115471216B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/26—Government or public services
    • G06Q50/265—Personal security, identity or safety
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G06V10/765—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects using rules for classification or partitioning the feature space
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • General Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Educational Administration (AREA)
  • Marketing (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Primary Health Care (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Computer Security & Cryptography (AREA)
  • Game Theory and Decision Science (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

本申请公开了一种智慧实验室管理平台的数据管理方法，其通过以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现对学习者的实验操作进行监测和智能分析，这样，避免因错误操作而带来的实验室事故。

Description

智慧实验室管理平台的数据管理方法
技术领域
本申请涉及实验室管理技术领域，且更为具体地，涉及一种智慧实验室管理平台的数据管理方法。
背景技术
做好实验室安全是保证实验教学和学习正常进行的前提，在传统实验教学中，大多数学习者的错误操作需要人类导师的细心观察才能纠正并进一步阻止安全事故的发生。而现实情况是，人类导师的注意力是有限的，无法关注到每一个学习者的每一个实验操作上，这也是众多实验室安全事故发生的主要原因。
因此，期待一种优化的智慧实验室管理平台的数据管理方案，其能够对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故。
发明内容
为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种智慧实验室管理平台的数据管理方法，其通过以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现对学习者的实验操作进行监测和智能分析，这样，避免因错误操作而带来的实验室事故。
根据本申请的一个方面，提供了一种智慧实验室管理平台的数据管理方法，其包括：
获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；
从所述实验操作监控视频提取多个操作监控关键帧；
将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；
将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；
将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；
对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；
将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；
对所述分类特征图进行特征分布优化以得到优化分类特征图；以及
将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
在上述智慧实验室管理平台的数据管理方法中，所述从所述实验操作监控视频提取多个操作监控关键帧，包括：以预定采样频率从所述实验操作监控视频提取所述多个操作监控关键帧。
在上述智慧实验室管理平台的数据管理方法中，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。
在上述智慧实验室管理平台的数据管理方法中，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、CenterNet、ExtremeNet或RepPoints。
在上述智慧实验室管理平台的数据管理方法中，所述将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量，包括：所述第一线性嵌入层使用可学习嵌入矩阵对所述多个器材感兴趣区域中各个器材感兴趣区域进行全连接编码以得到所述多个器材感兴趣特征向量。
在上述智慧实验室管理平台的数据管理方法中，所述将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量，包括：所述第二线性嵌入层使用可学习嵌入矩阵对所述多个学习者感兴趣区域中各个学习者感兴趣区域进行全连接编码以得到所述多个学习者感兴趣特征向量。
在上述智慧实验室管理平台的数据管理方法中，所述对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵，包括：以如下公式对同一所述操作监控关键帧的所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码以得到所述协同操作特征矩阵；其中，所述公式为：
Figure 51159DEST_PATH_IMAGE001
=
Figure 420829DEST_PATH_IMAGE002
其中
Figure 934987DEST_PATH_IMAGE003
表示所述多个操作监控关键帧中各帧对应的所述学习者感兴趣特征向量的转置向量，
Figure 64617DEST_PATH_IMAGE004
表示所述器材感兴趣特征向量，
Figure 347831DEST_PATH_IMAGE001
表示所述协同操作特征矩阵，
Figure 904714DEST_PATH_IMAGE005
表示向量相乘。
在上述智慧实验室管理平台的数据管理方法中，所述对所述分类特征图进行特征分布优化以得到优化分类特征图，包括：以如下公式对所述分类特征图进行特征分布优化以得到优化分类特征图；其中，所述公式为：
Figure 640589DEST_PATH_IMAGE006
其中，
Figure 823178DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 960898DEST_PATH_IMAGE008
位置的特征值,
Figure 688683DEST_PATH_IMAGE009
是所述优化分类特征图的第
Figure 177433DEST_PATH_IMAGE008
位置的特征值，
Figure 648865DEST_PATH_IMAGE010
是以2为底的对数。
在上述智慧实验室管理平台的数据管理方法中，所述将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范，包括：将所述优化分类特征图的各个优化分类特征矩阵按照行向量或者列向量展开为分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
根据本申请的另一方面，提供了一种智慧实验室管理平台的数据管理***，包括：
监控采集模块，用于获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；
关键帧提取模块，用于从所述实验操作监控视频提取多个操作监控关键帧；
感兴趣区域识别模块，用于将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；
器材感兴趣特征向量构造模块，用于将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；
学习者感兴趣特征向量构造模块，用于将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；
关联模块，用于对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；
分类特征图生成模块，用于将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；
优化模块，用于对所述分类特征图进行特征分布优化以得到优化分类特征图；以及
结果生成模块，用于将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
在上述智慧实验室管理平台的数据管理***中，所述关键帧提取模块，进一步用于：以预定采样频率从所述实验操作监控视频提取所述多个操作监控关键帧。
在上述智慧实验室管理平台的数据管理***中，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。
在上述智慧实验室管理平台的数据管理***中，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、CenterNet、ExtremeNet或RepPoints。
在上述智慧实验室管理平台的数据管理***中，所述器材感兴趣特征向量构造模块，包括：所述第一线性嵌入层使用可学习嵌入矩阵对所述多个器材感兴趣区域中各个器材感兴趣区域进行全连接编码以得到所述多个器材感兴趣特征向量。
在上述智慧实验室管理平台的数据管理***中，所述学习者感兴趣特征向量构造模块，包括：所述第二线性嵌入层使用可学习嵌入矩阵对所述多个学习者感兴趣区域中各个学习者感兴趣区域进行全连接编码以得到所述多个学习者感兴趣特征向量。
在上述智慧实验室管理平台的数据管理***中，所述关联模块，进一步用于：以如下公式对同一所述操作监控关键帧的所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码以得到所述协同操作特征矩阵；其中，所述公式为：
Figure 641092DEST_PATH_IMAGE001
=
Figure 54625DEST_PATH_IMAGE002
其中
Figure 30671DEST_PATH_IMAGE003
表示所述多个操作监控关键帧中各帧对应的所述学习者感兴趣特征向量的转置向量，
Figure 774636DEST_PATH_IMAGE004
表示所述器材感兴趣特征向量，
Figure 152528DEST_PATH_IMAGE001
表示所述协同操作特征矩阵，
Figure 222115DEST_PATH_IMAGE005
表示向量相乘。
在上述智慧实验室管理平台的数据管理***中，所述优化模块，进一步用于：以如下公式对所述分类特征图进行特征分布优化以得到优化分类特征图；其中，所述公式为：
Figure 419878DEST_PATH_IMAGE006
其中，
Figure 482381DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 714779DEST_PATH_IMAGE008
位置的特征值,
Figure 220847DEST_PATH_IMAGE009
是所述优化分类特征图的第
Figure 905906DEST_PATH_IMAGE008
位置的特征值，
Figure 257253DEST_PATH_IMAGE010
是以2为底的对数。
在上述智慧实验室管理平台的数据管理***中，所述结果生成模块，进一步用于：将所述优化分类特征图的各个优化分类特征矩阵按照行向量或者列向量展开为分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
根据本申请的再一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的智慧实验室管理平台的数据管理方法。
根据本申请的又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的智慧实验室管理平台的数据管理方法。
与现有技术相比，本申请提供的智慧实验室管理平台的数据管理方法，其通过以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现对学习者的实验操作进行监测和智能分析，这样，避免因错误操作而带来的实验室事故。
附图说明
通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1为根据本申请实施例的智慧实验室管理平台的数据管理方法的场景示意图。
图2为根据本申请实施例的智慧实验室管理平台的数据管理方法的流程图。
图3为根据本申请实施例的智慧实验室管理平台的数据管理方法的架构示意图。
图4为根据本申请实施例的智慧实验室管理平台的数据管理方法中将所述优化分类特征图通过分类器以得到分类结果的流程图。
图5为根据本申请实施例的智慧实验室管理平台的数据管理***的框图。
图6为根据本申请实施例的电子设备的框图。
具体实施方式
下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。
申请概述
如上所述，期待一种优化的智慧实验室管理平台的数据管理方案，其能够对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故。
近年来，深度学***。
深度学***台的数据管理提供了新的解决思路和方案。具体地，在本申请的技术方案中，对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故，这可以通过：以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现。
更具体地，首先由部署于实验室内的摄像头采集学习者的实验操作监控视频。为了更为全面地捕捉学习者的实验操作过程，优选地将所述摄像头设置于所述学习者的侧部，并且在进行视频采集时，学习者的肢体和实验器材都能够在摄像头的成像视野内。应可以理解，所述实验操作监控视频的整个实验操作序列中许多连续帧是重复的或相似的，造成了信息冗余，增加了后续模型计算量。针对上述问题，在将所述实验操作监控视频输入神经网络模型之前，对所述实验操作监控视频进行采样处理。例如，在本申请一个具体的示例中，以预定采样频率从所述实验操作监控视频提取多个操作监控关键帧，这里，所述预定采样频率并非固定值而是可以基于应用场景自适应调整的设置值。
应可以理解，在进行实验操作监控和分析的过程中，重点关于学习者的操作动作和实验器材的状态特征，因此，为了避免其他背景信息的干扰，将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域。
本领域普通技术人员应知晓，基于深度学***衡以及对内存的高额占用等缺点，是当前的主流发展方向。
相应地，在本申请的技术方案中，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。更具体地，在本申请的技术方案中，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、 CenterNet、ExtremeNet或RepPoints，对此所述基于无锚窗的目标检测网络的类型，并不为本申请所局限。
接着，对所述多个器材感兴趣区域和所述多个学习者感兴趣区域进行关联编码以构建学习者操作动作与实验器材的状态特征之间的联立表示。但是，考虑到所述器材感兴趣区域和所述学习者感兴趣区域的尺度不同，两者无法在数据级直接数学关联。因此，在本申请的技术方案中，将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量，以及，将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量，这样，一方面通过所述线性嵌入层来统一所述器材感兴趣区域和所述学习者感兴趣区域之间的尺度差异，另一方面，所述线性嵌入层适用可学习嵌入矩阵对所述器材感兴趣区域和所述学习者感兴趣区域进行编码以进一步提取所述器材感兴趣区域和所述学习者感兴趣区域中有用的信息。
接着，对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵。具体地，在本申请的技术方案中，计算所述学习者感兴趣特征向量的转置向量与所述器材感兴趣特征向量之间的乘积以对两者进行关联编码以得到所述多个协同操作特征矩阵，这里，所述协同操作特征矩阵表示学习者操作动作与实验器材的状态特征之间的联立表示。
然后，将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图。所述卷积神经网络利用卷积核作为特征因子来捕捉学习者操作动作与实验器材的状态特征之间的联立表示在时序上的关联特征。应注意到，所述三维卷积核具有三个维度：宽度×高度×通道，其中，所述通道维度对应于所述多个协同操作特征矩阵的时间维度，因此，在使用所述三维卷积核进行三维卷积编码时，其能够捕捉学习者操作动作与实验器材的状态特征之间的联立表示在时序上的关联特征。继而，将所述分类特征图通过分类器就可以得到用于表示学习者的实验操作是否规范的分类结果。这样，对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故。
特别地，在本申请的技术方案中，由于在对所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码得到协同操作特征矩阵时进行逐位置的关联编码，而所述器材感兴趣特征向量和所述学习者感兴趣特征向量是分别通过器材目标检测网络和学习者目标检测网络获得的，因此在其分布方向上必然存在分布偏差，这就使得所述协同操作特征矩阵中存在局部的异常特征分布。并且，这种协同操作特征矩阵中存在的局部的异常特征分布会被同时提取矩阵间特征关联和矩阵内特征局部关联的卷积神经网络模型的三维卷积核放大，从而在所述分类特征图中导致更加严重的特征分布的局部异常，使得在通过分类器进行分类时导致分类的归纳偏差。
因此，在将所述分类特征图通过分类器进行分类之前，对所述分类特征图进行分类偏差的可微算子转换优化，表示为：
Figure 344158DEST_PATH_IMAGE006
其中
Figure 21127DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 442750DEST_PATH_IMAGE008
位置的特征值,
Figure 332208DEST_PATH_IMAGE010
是以2为底的对数。
也就是，针对所述分类特征图的高维特征分布在分类问题下的归纳偏差，基于归纳收敛速率的可导约束形式将归纳偏差转换为可微算子的信息化表达组合，以基于分类问题的归纳约束对于类概率限定下的决策域进行收敛，从而提升目标问题下的归纳结果的确定性，这样，就在存在归纳偏差的情况下提高了分类特征图的分类结果的准确性。
基于此，本申请提出了一种智慧实验室管理平台的数据管理方法，其包括：获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；从所述实验操作监控视频提取多个操作监控关键帧；将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；对所述分类特征图进行特征分布优化以得到优化分类特征图；以及，将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
图1为根据本申请实施例的智慧实验室管理平台的数据管理方法的场景示意图。如图1所示，在该应用场景中，首先获取由部署于实验室（例如，如图1中所示意的L）内的摄像头（例如，如图1中所示意的C）采集的学***台的数据管理算法的服务器（例如，如图1中所示意的S）中，其中，所述服务器能够以所述智慧实验室管理平台的数据管理算法对所述实验操作监控视频进行处理以得到用于表示学习者的实验操作是否规范的分类结果。
在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图2为根据本申请实施例的智慧实验室管理平台的数据管理方法的流程图。如图2所示，根据本申请实施例的智慧实验室管理平台的数据管理方法，包括：S110，获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；S120，从所述实验操作监控视频提取多个操作监控关键帧；S130，将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；S140，将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；S150，将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；S160，对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；S170，将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；S180，对所述分类特征图进行特征分布优化以得到优化分类特征图；以及，S190，将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
图3为根据本申请实施例的智慧实验室管理平台的数据管理方法的架构示意图。如图3所示，在该网络架构中，首先获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频，并从所述实验操作监控视频提取多个操作监控关键帧。接着，将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域。然后，将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量，同样地，将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量。进而，对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵。接着，将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图。然后，对所述分类特征图进行特征分布优化以得到优化分类特征图。进而，将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
在步骤S110中，获取由部署于实验室内的摄像头采集的学***台的数据管理方案，其能够对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故。
深度学***台的数据管理提供了新的解决思路和方案。具体地，在本申请的技术方案中，对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故，这可以通过：以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现。
更具体地，首先由部署于实验室内的摄像头采集学习者的实验操作监控视频。为了更为全面地捕捉学习者的实验操作过程，优选地将所述摄像头设置于所述学习者的侧部，并且在进行视频采集时，学习者的肢体和实验器材都能够在摄像头的成像视野内。
在步骤S120中，从所述实验操作监控视频提取多个操作监控关键帧。应可以理解，所述实验操作监控视频的整个实验操作序列中许多连续帧是重复的或相似的，造成了信息冗余，增加了后续模型计算量。针对上述问题，在将所述实验操作监控视频输入神经网络模型之前，对所述实验操作监控视频进行采样处理。例如，在本申请一个具体的示例中，以预定采样频率从所述实验操作监控视频提取多个操作监控关键帧，这里，所述预定采样频率并非固定值而是可以基于应用场景自适应调整的设置值。
在步骤S130中，将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域。应可以理解，在进行实验操作监控和分析的过程中，重点关于学习者的操作动作和实验器材的状态特征，因此，为了避免其他背景信息的干扰，将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域。
本领域普通技术人员应知晓，基于深度学***衡以及对内存的高额占用等缺点，是当前的主流发展方向。
相应地，在本申请的技术方案中，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。更具体地，在本申请的技术方案中，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、 CenterNet、ExtremeNet或RepPoints，对此所述基于无锚窗的目标检测网络的类型，并不为本申请所局限。
在步骤S140中，将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量。因考虑到所述器材感兴趣区域和所述学习者感兴趣区域的尺度不同，两者无法在数据级直接数学关联。因此，在本申请的技术方案中，将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量。
具体地，在本申请实施例中，所述将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量，包括：所述第一线性嵌入层使用可学习嵌入矩阵对所述多个器材感兴趣区域中各个器材感兴趣区域进行全连接编码以得到所述多个器材感兴趣特征向量。
在步骤S150中，将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量。同样地，将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量。这样，一方面通过所述线性嵌入层来统一所述器材感兴趣区域和所述学习者感兴趣区域之间的尺度差异，另一方面，所述线性嵌入层适用可学习嵌入矩阵对所述器材感兴趣区域和所述学习者感兴趣区域进行编码以进一步提取所述器材感兴趣区域和所述学习者感兴趣区域中有用的信息。
具体地，在本申请实施例中，所述将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量，包括：所述第二线性嵌入层使用可学习嵌入矩阵对所述多个学习者感兴趣区域中各个学习者感兴趣区域进行全连接编码以得到所述多个学习者感兴趣特征向量。
在步骤S160中，对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵。也就是，对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以构建学习者操作动作与实验器材的状态特征之间的联立表示。
具体地，在本申请实施例中，所述对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵，包括：以如下公式对同一所述操作监控关键帧的所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码以得到所述协同操作特征矩阵；其中，所述公式为：
Figure 539199DEST_PATH_IMAGE001
=
Figure 121490DEST_PATH_IMAGE002
其中
Figure 781141DEST_PATH_IMAGE003
表示所述多个操作监控关键帧中各帧对应的所述学习者感兴趣特征向量的转置向量，
Figure 739870DEST_PATH_IMAGE004
表示所述器材感兴趣特征向量，
Figure 785055DEST_PATH_IMAGE001
表示所述协同操作特征矩阵，
Figure 538248DEST_PATH_IMAGE005
表示向量相乘。这里，所述协同操作特征矩阵表示学习者操作动作与实验器材的状态特征之间的联立表示。
在步骤S170中，将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图。所述卷积神经网络利用卷积核作为特征因子来捕捉学习者操作动作与实验器材的状态特征之间的联立表示在时序上的关联特征。应注意到，所述三维卷积核具有三个维度：宽度×高度×通道，其中，所述通道维度对应于所述多个协同操作特征矩阵的时间维度，因此，在使用所述三维卷积核进行三维卷积编码时，其能够捕捉学习者操作动作与实验器材的状态特征之间的联立表示在时序上的关联特征。
在步骤S180中，对所述分类特征图进行特征分布优化以得到优化分类特征图。特别地，在本申请的技术方案中，由于在对所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码得到协同操作特征矩阵时进行逐位置的关联编码，而所述器材感兴趣特征向量和所述学习者感兴趣特征向量是分别通过器材目标检测网络和学习者目标检测网络获得的，因此在其分布方向上必然存在分布偏差，这就使得所述协同操作特征矩阵中存在局部的异常特征分布。并且，这种协同操作特征矩阵中存在的局部的异常特征分布会被同时提取矩阵间特征关联和矩阵内特征局部关联的卷积神经网络模型的三维卷积核放大，从而在所述分类特征图中导致更加严重的特征分布的局部异常，使得在通过分类器进行分类时导致分类的归纳偏差。
因此，在将所述分类特征图通过分类器进行分类之前，对所述分类特征图进行分类偏差的可微算子转换优化。
具体地，在本申请实施例中，所述对所述分类特征图进行特征分布优化以得到优化分类特征图，包括：以如下公式对所述分类特征图进行特征分布优化以得到优化分类特征图；其中，所述公式为：
Figure 685195DEST_PATH_IMAGE006
其中，
Figure 447615DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 98039DEST_PATH_IMAGE008
位置的特征值,
Figure 22133DEST_PATH_IMAGE009
是所述优化分类特征图的第
Figure 905644DEST_PATH_IMAGE008
位置的特征值，
Figure 940596DEST_PATH_IMAGE010
是以2为底的对数。
也就是，针对所述分类特征图的高维特征分布在分类问题下的归纳偏差，基于归纳收敛速率的可导约束形式将归纳偏差转换为可微算子的信息化表达组合，以基于分类问题的归纳约束对于类概率限定下的决策域进行收敛，从而提升目标问题下的归纳结果的确定性，这样，就在存在归纳偏差的情况下提高了分类特征图的分类结果的准确性。
在步骤S190中，将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。这样，对学习者的实验操作进行监测和智能分析，以避免因错误操作而带来的实验室事故。
图4为根据本申请实施例的智慧实验室管理平台的数据管理方法中将所述优化分类特征图通过分类器以得到分类结果的流程图。如图4所示，所述将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范，包括：S210，将所述优化分类特征图的各个优化分类特征矩阵按照行向量或者列向量展开为分类特征向量；S220，使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，S230，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
综上，基于本申请实施例的智慧实验室管理平台的数据管理方法被阐明，其通过以基于深度学习的神经网络模型作为特征提取器来提取学习者的实验操作监控视频的实验操作动态特征，并结合分类器对实验操作动态进行分类来实现对学习者的实验操作进行监测和智能分析，这样，避免因错误操作而带来的实验室事故。
示例性***
图5为根据本申请实施例的智慧实验室管理平台的数据管理***的框图。如图5所示，根据本申请实施例的智慧实验室管理平台的数据管理***100，包括：监控采集模块110，用于获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；关键帧提取模块120，用于从所述实验操作监控视频提取多个操作监控关键帧；感兴趣区域识别模块130，用于将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；器材感兴趣特征向量构造模块140，用于将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；学习者感兴趣特征向量构造模块150，用于将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；关联模块160，用于对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；分类特征图生成模块170，用于将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；优化模块180，用于对所述分类特征图进行特征分布优化以得到优化分类特征图；以及，结果生成模块190，用于将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述关键帧提取模块120，进一步用于：以预定采样频率从所述实验操作监控视频提取所述多个操作监控关键帧。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、CenterNet、ExtremeNet或RepPoints。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述器材感兴趣特征向量构造模块140，包括：所述第一线性嵌入层使用可学习嵌入矩阵对所述多个器材感兴趣区域中各个器材感兴趣区域进行全连接编码以得到所述多个器材感兴趣特征向量。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述学习者感兴趣特征向量构造模块150，包括：所述第二线性嵌入层使用可学习嵌入矩阵对所述多个学习者感兴趣区域中各个学习者感兴趣区域进行全连接编码以得到所述多个学习者感兴趣特征向量。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述关联模块160，进一步用于：以如下公式对同一所述操作监控关键帧的所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码以得到所述协同操作特征矩阵；其中，所述公式为：
Figure 976685DEST_PATH_IMAGE001
=
Figure 806101DEST_PATH_IMAGE002
其中
Figure 927641DEST_PATH_IMAGE003
表示所述多个操作监控关键帧中各帧对应的所述学习者感兴趣特征向量的转置向量，
Figure 31863DEST_PATH_IMAGE004
表示所述器材感兴趣特征向量，
Figure 640568DEST_PATH_IMAGE001
表示所述协同操作特征矩阵，
Figure 172043DEST_PATH_IMAGE005
表示向量相乘。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述优化模块180，进一步用于：以如下公式对所述分类特征图进行特征分布优化以得到优化分类特征图；其中，所述公式为：
Figure 515300DEST_PATH_IMAGE006
其中，
Figure 423213DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 902736DEST_PATH_IMAGE008
位置的特征值,
Figure 605113DEST_PATH_IMAGE009
是所述优化分类特征图的第
Figure 684933DEST_PATH_IMAGE008
位置的特征值，
Figure 130958DEST_PATH_IMAGE010
是以2为底的对数。
在一个示例中，在上述智慧实验室管理平台的数据管理***中，所述结果生成模块190，进一步用于：将所述优化分类特征图的各个优化分类特征矩阵按照行向量或者列向量展开为分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
这里，本领域技术人员可以理解，上述智慧实验室管理平台的数据管理***100中的各个单元和模块的具体功能和操作已经在上面参考图1到图4的智慧实验室管理平台的数据管理方法的描述中得到了详细介绍，并因此，将省略其重复描述。
如上所述，根据本申请实施例的智慧实验室管理平台的数据管理*** 100可以实现在各种终端设备中，例如用于智慧实验室管理平台的数据管理的服务器等。在一个示例中，根据本申请实施例的智慧实验室管理平台的数据管理*** 100可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该智慧实验室管理平台的数据管理***100可以是该终端设备的操作***中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该智慧实验室管理平台的数据管理*** 100同样可以是该终端设备的众多硬件模块之一。
替换地，在另一示例中，该智慧实验室管理平台的数据管理*** 100与该终端设备也可以是分立的设备，并且该智慧实验室管理平台的数据管理*** 100可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。
示例性电子设备
下面，参考图6来描述根据本申请实施例的电子设备。图6为根据本申请实施例的电子设备的框图。如图6所示，电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元（CPU）或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器（RAM）和/或高速缓冲存储器（cache）等。所述非易失性存储器例如可以包括只读存储器（ROM）、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的智慧实验室管理平台的数据管理方法中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如学习者的实验操作监控视频等各种内容。
在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线***和/或其他形式的连接机构（未示出）互连。
该输入装置13可以包括例如键盘、鼠标等等。
该输出装置14可以向外部输出各种信息，包括分类结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图6中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的智慧实验室管理平台的数据管理方法中的功能中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的智慧实验室管理平台的数据管理方法中的功能中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (9)

1.一种智慧实验室管理平台的数据管理方法，其特征在于，包括：
获取由部署于实验室内的摄像头采集的学习者的实验操作监控视频；
从所述实验操作监控视频提取多个操作监控关键帧；
将所述多个操作监控关键帧中各个操作监控关键帧分别通过器材目标检测网络和学习者目标检测网络以得到多个器材感兴趣区域和多个学习者感兴趣区域；
将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量；
将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量；
对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵；
将所述多个协同操作特征矩阵排列为三维输入张量后通过使用三维卷积核的卷积神经网络模型以得到分类特征图；
对所述分类特征图进行特征分布优化以得到优化分类特征图；以及
将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范。
2.根据权利要求1所述的智慧实验室管理平台的数据管理方法，其特征在于，所述从所述实验操作监控视频提取多个操作监控关键帧，包括：以预定采样频率从所述实验操作监控视频提取所述多个操作监控关键帧。
3.根据权利要求2所述的智慧实验室管理平台的数据管理方法，其特征在于，所述器材目标检测网络和/或所述学习者目标检测网络为基于无锚窗的目标检测网络。
4.根据权利要求3所述的智慧实验室管理平台的数据管理方法，其特征在于，所述基于无锚窗的目标检测网络为YOLOv1、FCOS、 CenterNet、ExtremeNet或RepPoints。
5.根据权利要求4所述的智慧实验室管理平台的数据管理方法，其特征在于，所述将所述多个器材感兴趣区域中各个器材感兴趣区域分别通过第一线性嵌入层转化为器材感兴趣特征向量以得到多个器材感兴趣特征向量，包括：
所述第一线性嵌入层使用可学习嵌入矩阵对所述多个器材感兴趣区域中各个器材感兴趣区域进行全连接编码以得到所述多个器材感兴趣特征向量。
6.根据权利要求5所述的智慧实验室管理平台的数据管理方法，其特征在于，所述将所述多个学习者感兴趣区域中各个学习者感兴趣区域分别通过第二线性嵌入层转化为学习者感兴趣特征向量以得到多个学习者感兴趣特征向量，包括：
所述第二线性嵌入层使用可学习嵌入矩阵对所述多个学习者感兴趣区域中各个学习者感兴趣区域进行全连接编码以得到所述多个学习者感兴趣特征向量。
7.根据权利要求6所述的智慧实验室管理平台的数据管理方法，其特征在于，所述对所述多个器材感兴趣特征向量和所述多个学习者感兴趣特征向量进行关联编码以得到多个协同操作特征矩阵，包括：
以如下公式对同一所述操作监控关键帧的所述器材感兴趣特征向量和所述学习者感兴趣特征向量进行关联编码以得到所述协同操作特征矩阵；
其中，所述公式为：
Figure 713583DEST_PATH_IMAGE001
=
Figure 383599DEST_PATH_IMAGE002
其中
Figure 232606DEST_PATH_IMAGE003
表示所述多个操作监控关键帧中各帧对应的所述学习者感兴趣特征向量的转置向量，
Figure 13481DEST_PATH_IMAGE004
表示所述器材感兴趣特征向量，
Figure 264333DEST_PATH_IMAGE001
表示所述协同操作特征矩阵，
Figure 354518DEST_PATH_IMAGE005
表示向量相乘。
8.根据权利要求1所述的智慧实验室管理平台的数据管理方法，其特征在于，所述对所述分类特征图进行特征分布优化以得到优化分类特征图，包括：
以如下公式对所述分类特征图进行特征分布优化以得到优化分类特征图；
其中，所述公式为：
Figure 690821DEST_PATH_IMAGE006
其中，
Figure 9807DEST_PATH_IMAGE007
是所述分类特征图的第
Figure 380746DEST_PATH_IMAGE008
位置的特征值,
Figure 126985DEST_PATH_IMAGE009
是所述优化分类特征图的第
Figure 950584DEST_PATH_IMAGE008
位置的特征值，
Figure 823994DEST_PATH_IMAGE010
是以2为底的对数。
9.根据权利要求8所述的智慧实验室管理平台的数据管理方法，其特征在于，所述将所述优化分类特征图通过分类器以得到分类结果，所述分类结果用于表示学习者的实验操作是否规范，包括：
将所述优化分类特征图的各个优化分类特征矩阵按照行向量或者列向量展开为分类特征向量；
使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及
将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
CN202211366399.6A 2022-11-03 2022-11-03 智慧实验室管理平台的数据管理方法 Active CN115471216B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211366399.6A CN115471216B (zh) 2022-11-03 2022-11-03 智慧实验室管理平台的数据管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211366399.6A CN115471216B (zh) 2022-11-03 2022-11-03 智慧实验室管理平台的数据管理方法

Publications (2)

Publication Number Publication Date
CN115471216A true CN115471216A (zh) 2022-12-13
CN115471216B CN115471216B (zh) 2023-03-24

Family

ID=84338189

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211366399.6A Active CN115471216B (zh) 2022-11-03 2022-11-03 智慧实验室管理平台的数据管理方法

Country Status (1)

Country Link
CN (1) CN115471216B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116127019A (zh) * 2023-03-07 2023-05-16 杭州国辰智企科技有限公司 动态参数与可视化模型生成web 2d自动建模引擎***
CN116343134A (zh) * 2023-05-30 2023-06-27 山西双驱电子科技有限公司 驾考车辆信号传输***及方法
CN116794975A (zh) * 2022-12-20 2023-09-22 维都利阀门有限公司 电动蝶阀的智能控制方法及其***

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3352112A1 (en) * 2017-01-20 2018-07-25 Nokia Technologies Oy Architecture adapted for recognising a category of an element from at least one image of said element
CN113989608A (zh) * 2021-12-01 2022-01-28 西安电子科技大学 基于顶部视觉的学生实验课堂行为识别方法
CN115032946A (zh) * 2022-06-21 2022-09-09 浙江同发塑机有限公司 吹塑机的吹塑控制方法及其***
CN115147655A (zh) * 2022-07-12 2022-10-04 温州宁酷科技有限公司 油气集输监控***及其方法
CN115205727A (zh) * 2022-05-31 2022-10-18 上海锡鼎智能科技有限公司 一种基于无监督学习的实验智能评分方法和***

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3352112A1 (en) * 2017-01-20 2018-07-25 Nokia Technologies Oy Architecture adapted for recognising a category of an element from at least one image of said element
CN113989608A (zh) * 2021-12-01 2022-01-28 西安电子科技大学 基于顶部视觉的学生实验课堂行为识别方法
CN115205727A (zh) * 2022-05-31 2022-10-18 上海锡鼎智能科技有限公司 一种基于无监督学习的实验智能评分方法和***
CN115032946A (zh) * 2022-06-21 2022-09-09 浙江同发塑机有限公司 吹塑机的吹塑控制方法及其***
CN115147655A (zh) * 2022-07-12 2022-10-04 温州宁酷科技有限公司 油气集输监控***及其方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116794975A (zh) * 2022-12-20 2023-09-22 维都利阀门有限公司 电动蝶阀的智能控制方法及其***
CN116794975B (zh) * 2022-12-20 2024-02-02 维都利阀门有限公司 电动蝶阀的智能控制方法及其***
CN116127019A (zh) * 2023-03-07 2023-05-16 杭州国辰智企科技有限公司 动态参数与可视化模型生成web 2d自动建模引擎***
CN116127019B (zh) * 2023-03-07 2024-06-11 杭州国辰智企科技有限公司 动态参数与可视化模型生成web 2d自动建模引擎***
CN116343134A (zh) * 2023-05-30 2023-06-27 山西双驱电子科技有限公司 驾考车辆信号传输***及方法

Also Published As

Publication number Publication date
CN115471216B (zh) 2023-03-24

Similar Documents

Publication Publication Date Title
CN115471216B (zh) 智慧实验室管理平台的数据管理方法
RU2703343C2 (ru) Назначение оценки релевантности для искусственных нейронных сетей
CN110929622A (zh) 视频分类方法、模型训练方法、装置、设备及存储介质
CN116168352B (zh) 基于图像处理的电网障碍物识别处理方法及***
CN110580292A (zh) 一种文本标签生成方法、装置和计算机可读存储介质
CN115859437A (zh) 基于分布式光纤传感***的导管架水下应力检测***
CN116247824B (zh) 电力设备的控制方法及其***
WO2024060684A1 (zh) 模型训练方法、图像处理方法、设备及存储介质
CN115783923A (zh) 基于大数据的电梯故障模式识别***
CN116015837A (zh) 用于计算机网络信息安全的入侵检测方法及***
CN116910752B (zh) 一种基于大数据的恶意代码检测方法
CN117077075A (zh) 用于环境保护的水质监测***及其方法
CN116665086A (zh) 一种基于学习行为智能分析的教学方法及***
CN114387567A (zh) 一种视频数据的处理方法、装置、电子设备及存储介质
CN114067286A (zh) 基于序列化可形变注意力机制的高位相机车辆重识别方法
CN116759053A (zh) 基于物联网***的医疗体系防控方法及***
CN112270246A (zh) 视频行为识别方法及装置、存储介质、电子设备
CN111597816A (zh) 一种自注意力命名实体识别方法、装置、设备及存储介质
CN114332574A (zh) 图像处理方法、装置、设备及存储介质
CN112766810A (zh) 用于智能综合性整体质量评价的神经网络的训练方法
CN109145991B (zh) 图像组生成方法、图像组生成装置和电子设备
CN116467485A (zh) 一种视频图像检索构建***及其方法
CN113920497B (zh) 一种铭牌识别模型的训练、铭牌的识别方法及相关装置
CN111768214A (zh) 产品属性的预测方法、***、设备和存储介质
CN114842183A (zh) 一种基于卷积神经网络的开关状态识别方法和***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant