CN113099254A - 分区域变分辨率的在线教学方法、***、设备及存储介质 - Google Patents

分区域变分辨率的在线教学方法、***、设备及存储介质 Download PDF

Info

Publication number
CN113099254A
CN113099254A CN202110348149.9A CN202110348149A CN113099254A CN 113099254 A CN113099254 A CN 113099254A CN 202110348149 A CN202110348149 A CN 202110348149A CN 113099254 A CN113099254 A CN 113099254A
Authority
CN
China
Prior art keywords
image
area
image information
information
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110348149.9A
Other languages
English (en)
Other versions
CN113099254B (zh
Inventor
孙高朝
杨福强
涂序文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Penguin Network Technology Co ltd
Original Assignee
Shanghai Ping An Education Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Ping An Education Technology Co ltd filed Critical Shanghai Ping An Education Technology Co ltd
Priority to CN202110348149.9A priority Critical patent/CN113099254B/zh
Publication of CN113099254A publication Critical patent/CN113099254A/zh
Application granted granted Critical
Publication of CN113099254B publication Critical patent/CN113099254B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00—Electrically-operated educational appliances
    • G09B5/08—Electrically-operated educational appliances providing for individual presentation of information to a plurality of student stations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440245—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

本发明提供了分区域变分辨率的在线教学方法、***、设备及存储介质，其方法包括了：图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；对每个视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域，将第一区域、第二区域重叠后获得区分第三区域，和第三区域以外的第四区域位置的分区信息；根据分区信息将视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。本发明能够降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。

Description

分区域变分辨率的在线教学方法、***、设备及存储介质
技术领域
本发明涉及教育类广告投放领域，具体地说，涉及分区域变分辨率的在线教学方法、***、设备及存储介质。
背景技术
随着信息技术迅速发展，特别是从互联网到移动互联网，创造了跨时空的生活、工作和学习方式，使知识获取的方式发生了根本变化。教与学可以不受时间、空间和地点条件的限制，知识获取渠道灵活与多样化。在线教育即e-Learning，或称远程教育、在线学习，现行概念中一般指的是一种基于网络的学习行为，与网络培训概念相似。
在线教育平台即在线培训***是实施在线培训，在线教育的工具软件，一个运用网络技术与软件技术，可以定制和扩展的远程网上教育学院。它通过简单易用的课件、试题导入和制作功能帮助行业或企业快速组建自己专有的知识库体系，并提供培训需求调查、培训目标设定、课程体系设计、培训计划管理、培训过程监控及考核评估等功能帮助客户高效地实施员工培训和考核任务。
目前的在线教育的主要是通过高分辨率的视频进行，需要很高的带宽和流程，但视频中有很大部分的区域的图像对教学没有贡献，很多情况下画面中教员以及板书内容只占据了50％左右的画面面积，完全使用高分辨率和高码率情况下的流量成本非常高，大大增加了在线教育网站的成本。如果使用低分辨率或是低码率则会导致板书内容和教员的表情、动作等模糊不清，影响学习体验，造成一种两难的困境。
因此，本发明提供了一种分区域变分辨率的在线教学方法、***、设备及存储介质。
发明内容
针对现有技术中的问题，本发明的目的在于提供分区域变分辨率的在线教学方法、***、设备及存储介质，克服了现有技术的困难，降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
本发明的实施例提供一种分区域变分辨率的在线教学方法，应用于在线教育平台，包括以下步骤：
S101、图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；
S102、对每个所述视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域；
S103、将第一区域和第二区域重叠后获得第三区域，所述第三区域以外的第四区域，获得区分所述第三区域和第四区域位置的分区信息；
S104、根据所述分区信息将所述视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；
S105、接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
优选地，所述步骤S102中，对每个所述视频组中的第一帧画面分别进行人像图像识别和图文识别，在所述第一帧画面中建立对应教员所在的局部图像的第一区域和对应板书所在的局部图像的第二区域。
优选地，所述步骤S103中，获得所述第一区域和第二区域重叠后获得在第一帧画面中的第三区域，并获得在第一帧画面中的去除所述第三区域以外的第四区域，建立区分所述第三区域和第四区域位置的分区信息。
优选地，所述步骤S103中，所述第一图像信息中维持所述视频组每一帧的原始分辨率。
优选地，所述步骤S104中，对所述第二图像信息的图像进行压缩，维持第二区域覆盖的像素以及轮廓不变，降低第二区域中画面的分辨率，获得与所述第一图像信息具有相同时间戳的第二图像信息，所述第二图像信息的图像分辨率低于所述第一图像信息的图像分辨率。
优选地，所述图像分辨率按照分辨率自高到低排列的级别为：8K、6K、4K、1080P、720P、480P、360P，所述第一图像信息的图像分辨率的级别高于所述第二图像信息的图像分辨率的级别。
优选地，所述步骤S104中，对所述第二图像信息的图像进行压缩，维持第二区域的覆盖的像素以及轮廓不变，降低第二区域中画面的码率。
优选地，对每个所述视频组中的所述第一帧画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，发送并显示于所述接收端；
对每个所述视频组中排列在所述第一帧画面之后的后续帧画面中仅对第三区域的图像获得第一图像信息，并发送到接收端，所述接收端显示的每一个图像由所述后续帧画面的第一图像信息以及所述第一帧画面的第二图像信息组合得到。
优选地，所述步骤S102中，图像采集设备包括摄像头和红外传感器检测，通过红外传感器与摄像头同轴拍摄，检测获得每个图像像素与图像采集设备的实际距离参数；
通过人像图像识别获得的第一区域覆盖的所有图像像素的实际距离参数以及图文识别获得的第二区域覆盖的所有图像像素的实际距离参数，调整所述第一区域和第二区域的范围，所述第二区域覆盖的所有图像像素的实际距离参数大于所述第一区域覆盖的所有图像像素的实际距离参数。
本发明的实施例还提供一种分区域变分辨率的在线教学***，用于实现上述的分区域变分辨率的在线教学方法，所述分区域变分辨率的在线教学***包括：
图像采集模块，图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；
图像识别模块，对每个所述视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域；
图像分区模块，将第一区域和第二区域重叠后获得第三区域，所述第三区域以外的第四区域，获得区分所述第三区域和第四区域位置的分区信息；
图像压缩模块，根据所述分区信息将所述视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；
图像显示模块，接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
本发明的实施例还提供一种分区域变分辨率的在线教学设备，包括：
处理器；
存储器，其中存储有所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行上述分区域变分辨率的在线教学方法的步骤。
本发明的实施例还提供一种计算机可读存储介质，用于存储程序，所述程序被执行时实现上述分区域变分辨率的在线教学方法的步骤。
本发明的分区域变分辨率的在线教学方法、***、设备及存储介质，能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显。
图1是本发明的分区域变分辨率的在线教学方法的流程图。
图2至16是本发明的分区域变分辨率的在线教学方法的实施过程的示意图。
图17是本发明的分区域变分辨率的在线教学***的架构示意图。
图18是本发明的分区域变分辨率的在线教学设备的结构示意图。以及
图19是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的实施方式。相反，提供这些实施方式使得本发明将全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的结构，因而将省略对它们的重复描述。
图1是本发明的第一种分区域变分辨率的在线教学方法的流程图。如图1所示，本发明的第一种分区域变分辨率的在线教学方法，包括以下步骤：
S101、图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2。
S102、对每个视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域。
S103、将第一区域和第二区域重叠后获得第三区域，第三区域以外的第四区域，获得区分第三区域和第四区域位置的分区信息。
S104、根据分区信息将视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端。
S105、接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
本发明的目的在于能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
在一个优选实施例中，步骤S102中，对每个视频组中的第一帧画面分别进行人像图像识别和图文识别，在第一帧画面中建立对应教员所在的局部图像的第一区域和对应板书所在的局部图像的第二区域，本发明通过对图像同时进行人像图像识别获得第一区域，进行图文识别获得第二区域，通过不同的图形识别数据模型来识别图片中的不同内容，以便加快识别的速度和准确性。人像图像识别可以使用现有的人像图像识别模型，对图形进行卷积等，获得第一帧画面中关于人像的区域。同理，采用现有的图文识别的模式来识别第一帧画面中关于文字的区域，不以此为限。
在一个优选实施例中，步骤S103中，获得第一区域和第二区域重叠后获得在第一帧画面中的第三区域，并获得在第一帧画面中的去除第三区域以外的第四区域，建立区分第三区域和第四区域位置的分区信息。可以将第一图像信息中维持视频组每一帧的原始分辨率。通过对第一区域和第二区域进行重叠，获得第一区域和第二区域覆盖的完整范围，也就是画面中学员最关心，需要高画质的内容(教员以及板书)所在的第三区域，避免重叠情况的影响，然后第三区域以外的第四区域就属于学员不太关心，可以低画质显示的内容，不以此为限。
在一个优选实施例中，步骤S104中，对第二图像信息的图像进行压缩，维持第二区域覆盖的像素以及轮廓不变，降低第二区域中画面的分辨率，获得与第一图像信息具有相同时间戳的第二图像信息，第二图像信息的图像分辨率低于第一图像信息的图像分辨率。图像分辨率按照分辨率自高到低排列的级别为：8K、6K、4K、1080P、720P、480P、360P，第一图像信息的图像分辨率的级别高于第二图像信息的图像分辨率的级别，可以高一级、二级、三级等等，不以此为限。第二区域的原始图像数据的第一数据容量与第二图像信息被压缩后的第二数据容量之间的差值，就是节约下来的数据流，差值越大，节流效果就越明显。
在一个优选实施例中，步骤S104中，对第二图像信息的图像进行压缩，维持第二区域的覆盖的像素以及轮廓不变，降低第二区域中画面的码率。在本实施例中，对每个视频组中的第一帧画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，发送并显示于接收端。对每个视频组中排列在第一帧画面之后的后续帧画面中仅对第三区域的图像获得第一图像信息，并发送到接收端，接收端显示的每一个图像由后续帧画面的第一图像信息以及第一帧画面的第二图像信息组合得到。由于视频组中只将第一帧画面的第一图像信息和第二图像信息传输到接收端，而排列在第一帧画面之后的后续帧画面仅传输第一图像信息到接收端，相当于大大降低了在第二区域的码率，数据流大大降低，并且加快的视频压缩处理的速度，维持视频的流畅性。
在一个优选实施例中，步骤S102中，图像采集设备包括摄像头和红外传感器检测，通过红外传感器与摄像头同轴拍摄，检测获得每个图像像素与图像采集设备的实际距离参数。通过人像图像识别获得的第一区域覆盖的所有图像像素的实际距离参数以及图文识别获得的第二区域覆盖的所有图像像素的实际距离参数，调整第一区域和第二区域的范围，第二区域覆盖的所有图像像素的实际距离参数大于第一区域覆盖的所有图像像素的实际距离参数。为了优化不同识别区域之间的边界，也为了防止教员身着有字符的衣服被误识别的干扰，通过红外传感器的辅助，优化第一区域和第二区域的范围的准确性。
图2至16是本发明的分区域变分辨率的在线教学方法的实施过程的示意图。以下通过图2至16详细介绍本发明的具体实施过程。
如图2所示，通过图像采集设备11以4K格式拍摄教员12以及教员12使用的板书13，生成实时在线教学视频，并通过服务器4分别传送到各位学员的手机3上观看。
如图3所示，将教学视频的视频图像信息中以连续12帧建立一视频组，目前的在线教学视频包括了两个视频组T100，T200。其中，T100包括T1至T12，一共12帧画面。T200包括T13至T24，一共12帧画面。
如图4、5所示，以视频组T100中的第一帧画面T1为例，对每个视频组中的画面分别进行人像图像识别和图文识别，在第一帧画面中建立对应教员12所在的局部图像的第一区域21和对应板书13所在的局部图像的第二区域22，本发明通过对图像同时进行人像图像识别获得第一区域，进行图文识别获得第二区域，通过不同的图形识别数据模型来识别图片中的不同内容，以便加快识别的速度和准确性。
如图6、7、8所示，以将第一区域21和第二区域22重叠后获得第三区域23，以及第一帧画面T1中除去第三区域23以外的第四区域24，获得区分第三区域23和第四区域位置24的分区信息10，并生成一时间戳。由于视频组T100中只有连续的12帧画面，相互之间时间间隔很短，所以只在视频组T100的第一帧进行依次分区获得分区信息10，第一帧之后的后续帧不在进行分区而是引用第一帧获得的分区信息10，来得到每一帧中的第三区域23和第四区域24，分别生成第一图像信息11和第二图像信息12。根据分区信息将视频组中的每一帧的画面中第三区域23的图像获得第一图像信息11，压缩第四区域24的图像获得第二图像信息12，并将第二图像信息12压缩到1080P格式，将分区信息10、第一图像信息11、第二图像信息12发送到接收端3。接收端3显示的每一帧画面由具有相同时间戳的第一图像信息11和第二图像信息12组合得到，以便保证图像组合的准确性。
如图9至13所示，在视频组T200中参照视频组T100的流程，先对视频组T200中的第一帧画面T13建立对应教员12所在的局部图像的第一区域21和对应板书13所在的局部图像的第二区域22，以将第一区域21和第二区域22重叠后获得第三区域23，以及第一帧画面T13中除去第三区域23以外的第四区域24，获得区分第三区域23和第四区域位置24的分区信息10，并生成一时间戳。根据分区信息将视频组中的每一帧的画面中第三区域23的图像获得第一图像信息11，压缩第四区域24的图像获得第二图像信息12，并将第二图像信息12压缩到1080P格式，将分区信息10、第一图像信息11、第二图像信息12发送到接收端3。接收端3显示的每一帧画面由具有相同时间戳的第一图像信息11和第二图像信息12组合得到，以便保证图像组合的准确性，此处不再赘述。
参考图14，在一个优选例中，图像采集设备11包括摄像头和红外传感器检测14，通过红外传感器与摄像头同轴拍摄，检测获得每个图像像素与图像采集设备11的实际距离参数。通过人像图像识别获得的第一区域覆盖的所有图像像素的实际距离参数以及图文识别获得的第二区域覆盖的所有图像像素的实际距离参数，调整第一区域和第二区域的范围，由于教员12肯定站在板书13之前，第二区域覆盖的所有图像像素的实际距离参数大于第一区域覆盖的所有图像像素的实际距离参数。为了优化不同识别区域之间的边界，也为了防止教员12身着有字符的衣服被误识别的干扰，通过红外传感器的辅助，确定教员12身后的处于同一平面且面积最大的第二区域的局部作为优化后的第二区域，以便优化第一区域和第二区域的范围的准确性。
参考图15和16，在一个优选例中，还可以通过改变画面局部区域的码率的方法来降低数据流，对每个视频组中排列在第一帧画面T1获得分区信息10、第一图像信息11和第二图像信息12，过程如前所述，此处不再赘述。然后，对每个视频组中排列在第一帧画面T1之后的后续帧T2至T12中的每一帧画面中仅对第三区域23的图像获得第一图像信息11(不在对第四区域24进行任何处理)，并发送到接收端3，接收端3显示的每一个图像由后续帧T2至T12的每一帧画面的第一图像信息11以及第一帧画面的第二图像信息12组合得到。由于视频组中只将第一帧T1画面的第一图像信息和第二图像信息传输到接收端3，而排列在第一帧T1画面之后的后续帧T2至T12画面仅传输第一图像信息到接收端3，相当于大大降低了在第二区域的码率，数据流大大降低，并且加快的视频压缩处理的速度，维持视频的整体流畅性。
图17是本发明的分区域变分辨率的在线教学***5的架构示意图。如图17所示，本发明的实施例还提供一种分区域变分辨率的在线教学***5，用于实现上述的分区域变分辨率的在线教学方法，分区域变分辨率的在线教学***5包括：
图像采集模块51，图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；
图像识别模块52，对每个视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域；
图像分区模块53，将第一区域和第二区域重叠后获得第三区域，第三区域以外的第四区域，获得区分第三区域和第四区域位置的分区信息；
图像压缩模块54，根据分区信息将视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；
图像显示模块55，接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
在一个优选实施例中，对每个视频组中的第一帧画面分别进行人像图像识别和图文识别，在第一帧画面中建立对应教员所在的局部图像的第一区域和对应板书所在的局部图像的第二区域。
在一个优选实施例中，获得第一区域和第二区域重叠后获得在第一帧画面中的第三区域，并获得在第一帧画面中的去除第三区域以外的第四区域，建立区分第三区域和第四区域位置的分区信息。
在一个优选实施例中，第一图像信息中维持视频组每一帧的原始分辨率。
在一个优选实施例中，对第二图像信息的图像进行压缩，维持第二区域覆盖的像素以及轮廓不变，降低第二区域中画面的分辨率，获得与第一图像信息具有相同时间戳的第二图像信息，第二图像信息的图像分辨率低于第一图像信息的图像分辨率。
在一个优选实施例中，图像分辨率按照分辨率自高到低排列的级别为：8K、6K、4K、1080P、720P、480P、360P，第一图像信息的图像分辨率的级别高于第二图像信息的图像分辨率的级别。
在一个优选实施例中，对第二图像信息的图像进行压缩，维持第二区域的覆盖的像素以及轮廓不变，降低第二区域中画面的码率。
在一个优选实施例中，对每个视频组中的第一帧画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，发送并显示于接收端；
对每个视频组中排列在第一帧画面之后的后续帧画面中仅对第三区域的图像获得第一图像信息，并发送到接收端，接收端显示的每一个图像由后续帧画面的第一图像信息以及第一帧画面的第二图像信息组合得到。
在一个优选实施例中，图像采集设备包括摄像头和红外传感器检测，通过红外传感器与摄像头同轴拍摄，检测获得每个图像像素与图像采集设备的实际距离参数；
通过人像图像识别获得的第一区域覆盖的所有图像像素的实际距离参数以及图文识别获得的第二区域覆盖的所有图像像素的实际距离参数，调整第一区域和第二区域的范围，第二区域覆盖的所有图像像素的实际距离参数大于第一区域覆盖的所有图像像素的实际距离参数。
本发明的分区域变分辨率的在线教学***5，能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
本发明实施例还提供一种分区域变分辨率的在线教学设备，包括处理器。存储器，其中存储有处理器的可执行指令。其中，处理器配置为经由执行可执行指令来执行的分区域变分辨率的在线教学方法的步骤。
如上所示，该实施例能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为***、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“平台”。
图18是本发明的分区域变分辨率的在线教学设备的结构示意图。下面参照图18来描述根据本发明的这种实施方式的电子设备600。图18显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图18所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中，存储单元存储有程序代码，程序代码可以被处理单元610执行，使得处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储平台等。
本发明实施例还提供一种计算机可读存储介质，用于存储程序，程序被执行时实现的分区域变分辨率的在线教学方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示，该实施例能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
图19是本发明的计算机可读存储介质的结构示意图。参考图19所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上，本发明的分区域变分辨率的在线教学方法、***、设备及存储介质能够通过对于画面进行实时的分区识别，基于图像中教员和板书的区域建立原始画质的第一图像信息，对于图像中的其他区域建立经过压缩的低画质的第二图像信息，在用户端展示第一图像信息和第二图像信息共同组成的视频，从而在不降低画面中主要教育内容的前提下，大大降低在线教学的流量成本，有益于在较低成本或是较差网络环境下进行在线教学。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (12)

1.一种分区域变分辨率的在线教学方法，应用于在线教育平台，其特征在于，包括以下步骤：
S101、图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；
S102、对每个所述视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域；
S103、将第一区域和第二区域重叠后获得第三区域，所述第三区域以外的第四区域，获得区分所述第三区域和第四区域位置的分区信息；
S104、根据所述分区信息将所述视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；以及
S105、接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
2.如权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S102中，对每个所述视频组中的第一帧画面分别进行人像图像识别和图文识别，在所述第一帧画面中建立对应教员所在的局部图像的第一区域和对应板书所在的局部图像的第二区域。
3.如权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S103中，获得所述第一区域和第二区域重叠后获得在第一帧画面中的第三区域，并获得在第一帧画面中的去除所述第三区域以外的第四区域，建立区分所述第三区域和第四区域位置的分区信息。
4.如权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S103中，所述第一图像信息中维持所述视频组每一帧的原始分辨率。
5.如权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S104中，对所述第二图像信息的图像进行压缩，维持第二区域覆盖的像素以及轮廓不变，降低第二区域中画面的分辨率，获得与所述第一图像信息具有相同时间戳的第二图像信息，所述第二图像信息的图像分辨率低于所述第一图像信息的图像分辨率。
6.如权利要求5所述的分区域变分辨率的在线教学方法，其特征在于，所述图像分辨率按照分辨率自高到低排列的级别为：8K、6K、4K、1080P、720P、480P、360P，所述第一图像信息的图像分辨率的级别高于所述第二图像信息的图像分辨率的级别。
7.如权利要求2所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S104中，对所述第二图像信息的图像进行压缩，维持第二区域的覆盖的像素以及轮廓不变，降低第二区域中画面的码率。
8.如权利要求7所述的分区域变分辨率的在线教学方法，其特征在于，
对每个所述视频组中的所述第一帧画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，发送并显示于所述接收端；
对每个所述视频组中排列在所述第一帧画面之后的后续帧画面中仅对第三区域的图像获得第一图像信息，并发送到接收端，所述接收端显示的每一个图像由所述后续帧画面的第一图像信息以及所述第一帧画面的第二图像信息组合得到。
9.如权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，所述步骤S102中，图像采集设备包括摄像头和红外传感器检测，通过红外传感器与摄像头同轴拍摄，检测获得每个图像像素与图像采集设备的实际距离参数；
通过人像图像识别获得的第一区域覆盖的所有图像像素的实际距离参数以及图文识别获得的第二区域覆盖的所有图像像素的实际距离参数，调整所述第一区域和第二区域的范围，所述第二区域覆盖的所有图像像素的实际距离参数大于所述第一区域覆盖的所有图像像素的实际距离参数。
10.一种分区域变分辨率的在线教学***，用于实现权利要求1所述的分区域变分辨率的在线教学方法，其特征在于，包括：
图像采集模块，图像采集设备采集教学视频，将教学视频的视频图像信息中以连续n帧建立一视频组，n≥2；
图像识别模块，对每个所述视频组中的画面分别进行人像图像识别获得第一区域，并进行图文识别获得第二区域；
图像分区模块，将第一区域和第二区域重叠后获得第三区域，所述第三区域以外的第四区域，获得区分所述第三区域和第四区域位置的分区信息；
图像压缩模块，根据所述分区信息将所述视频组中的每一帧的画面中第三区域的图像获得第一图像信息，压缩第四区域的图像获得第二图像信息，并发送到接收端；
图像显示模块，接收端显示的每一个图像由第一图像信息和第二图像信息组合得到。
11.一种分区域变分辨率的在线教学设备，其特征在于，包括：
处理器；
存储器，其中存储有所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至9中任意一项所述分区域变分辨率的在线教学方法的步骤。
12.一种计算机可读存储介质，用于存储程序，其特征在于，所述程序被执行时实现权利要求1至9中任意一项所述分区域变分辨率的在线教学方法的步骤。
CN202110348149.9A 2021-03-31 2021-03-31 分区域变分辨率的在线教学方法、***、设备及存储介质 Active CN113099254B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110348149.9A CN113099254B (zh) 2021-03-31 2021-03-31 分区域变分辨率的在线教学方法、***、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110348149.9A CN113099254B (zh) 2021-03-31 2021-03-31 分区域变分辨率的在线教学方法、***、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113099254A true CN113099254A (zh) 2021-07-09
CN113099254B CN113099254B (zh) 2023-10-17

Family

ID=76671772

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110348149.9A Active CN113099254B (zh) 2021-03-31 2021-03-31 分区域变分辨率的在线教学方法、***、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113099254B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114241521A (zh) * 2021-12-13 2022-03-25 北京华夏电通科技股份有限公司 一种识别庭审视频画面中法台区域的方法、装置及设备
CN114915771A (zh) * 2022-04-26 2022-08-16 深圳市企鹅网络科技有限公司 基于图像叠加的在线教学方法、***、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107944351A (zh) * 2017-11-07 2018-04-20 深圳市易成自动驾驶技术有限公司 图像识别方法、装置及计算机可读存储介质
CN110572579A (zh) * 2019-09-30 2019-12-13 联想(北京)有限公司 图像处理方法、装置及电子设备
CN111242962A (zh) * 2020-01-15 2020-06-05 中国平安人寿保险股份有限公司 远程培训视频的生成方法、装置、设备及存储介质
CN111741274A (zh) * 2020-08-25 2020-10-02 北京中联合超高清协同技术中心有限公司 一种支持画面局部放大和漫游的超高清视频监看方法
CN111787398A (zh) * 2020-06-24 2020-10-16 浙江大华技术股份有限公司 视频压缩方法、装置、设备及存储装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107944351A (zh) * 2017-11-07 2018-04-20 深圳市易成自动驾驶技术有限公司 图像识别方法、装置及计算机可读存储介质
CN110572579A (zh) * 2019-09-30 2019-12-13 联想(北京)有限公司 图像处理方法、装置及电子设备
CN111242962A (zh) * 2020-01-15 2020-06-05 中国平安人寿保险股份有限公司 远程培训视频的生成方法、装置、设备及存储介质
CN111787398A (zh) * 2020-06-24 2020-10-16 浙江大华技术股份有限公司 视频压缩方法、装置、设备及存储装置
CN111741274A (zh) * 2020-08-25 2020-10-02 北京中联合超高清协同技术中心有限公司 一种支持画面局部放大和漫游的超高清视频监看方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114241521A (zh) * 2021-12-13 2022-03-25 北京华夏电通科技股份有限公司 一种识别庭审视频画面中法台区域的方法、装置及设备
CN114915771A (zh) * 2022-04-26 2022-08-16 深圳市企鹅网络科技有限公司 基于图像叠加的在线教学方法、***、设备及存储介质

Also Published As

Publication number Publication date
CN113099254B (zh) 2023-10-17

Similar Documents

Publication Publication Date Title
CN109766879B (zh) 字符检测模型的生成、字符检测方法、装置、设备及介质
CN111652189A (zh) 一种智能化教学的学生管理***
CN113099254B (zh) 分区域变分辨率的在线教学方法、***、设备及存储介质
US11528535B2 (en) Video file playing method and apparatus, and storage medium
CN111738041A (zh) 一种视频分割方法、装置、设备及介质
CN112085775B (zh) 图像处理的方法、装置、终端和存储介质
US11812152B2 (en) Method and apparatus for controlling video frame image in live classroom
US11599974B2 (en) Joint rolling shutter correction and image deblurring
CN111726648A (zh) 图像数据检测的方法、装置、设备及计算机可读存储介质
US20230166157A1 (en) Electronic apparatus and control method therefor
CN114007098B (zh) 一种用于智能课堂中3d全息视频的生成方法和装置
CN111161592B (zh) 课堂监督方法和督课终端
CN113490002A (zh) 一种在线教学的交互方法、装置、***及介质
CN115460353B (zh) 教学跟踪摄像设备配置方法、装置、电子设备及介质
CN115086570A (zh) 教学视频处理方法、装置、存储介质及电子设备
CN110378261B (zh) 一种学生识别方法及装置
CN109871465B (zh) 一种时间轴计算方法、装置、电子设备及存储介质
CN114095747B (zh) 直播互动***和方法
CN112291445B (zh) 图像处理的方法、装置、设备和存储介质
CN115410232B (zh) 板书抓拍方法、装置、电子设备及可读存储介质
CN103533384A (zh) 图像处理方法、图像复原方法、装置及***
CN112732381B (zh) 一种在线课堂的桌面数据采集方法及***
CN112528790A (zh) 基于行为识别的教学管理方法、装置及服务器
CN210119873U (zh) 一种基于vr设备的监督装置
CN210694201U (zh) 一种双屏直播采集***和双屏直播播放***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20220317

Address after: 518057 1801, block B, building 1, Shenzhen International Innovation Valley, Dashi 1st Road, Xili community, Xili street, Nanshan District, Shenzhen, Guangdong

Applicant after: SHENZHEN PENGUIN NETWORK TECHNOLOGY Co.,Ltd.

Address before: 200030 unit 01, room 801, 166 Kaibin Road, Xuhui District, Shanghai

Applicant before: Shanghai Ping An Education Technology Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant