CN113436100B - 用于修复视频的方法、装置、设备、介质和产品 - Google Patents

Abstract

本公开提供了用于修复视频的方法、装置、设备、介质和产品，涉及人工智能领域，尤其涉及计算机视觉和深度学习技术，具体可用于图像修复场景下。具体实现方案为：获取待修复视频帧序列；基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列中各个像素对应的目标类别；从待修复视频帧序列中确定目标类别为待修复类别的待修复像素；对待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列。本实现方式可以提高视频修复效率。

Description

用于修复视频的方法、装置、设备、介质和产品

技术领域

本公开涉及人工智能技术领域，尤其涉及计算机视觉和深度学习技术，具体可用于图像修复场景下。

背景技术

目前，老电影通常采用胶片进行拍摄、存档，因此，老电影对于保存环境的要求很高。

然而，现实中的保存环境很难达到理想的保存条件，因此会导致老电影出现划痕、脏斑、噪波等问题。为了保证老电影播放的清晰度，需要对这些问题进行修复。现在的修复方式是基于有经验的技术人员逐帧、逐区域地人工标记问题区域，再对这些问题区域进行修复处理。但是，人工修复存在着效率低的问题。

发明内容

本公开提供了一种用于修复视频的方法、装置、设备、介质和产品。

根据本公开的一方面，提供了一种用于修复视频的方法，包括：获取待修复视频帧序列；基于所述待修复视频帧序列和预设的类别检测模型，确定所述待修复视频帧序列中各个像素对应的目标类别；从所述待修复视频帧序列中确定所述目标类别为待修复类别的待修复像素；对所述待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列。

根据本公开的另一方面，提供了一种用于修复视频的装置，包括：视频获取单元，被配置成获取待修复视频帧序列；类别确定单元，被配置成基于所述待修复视频帧序列和预设的类别检测模型，确定所述待修复视频帧序列中各个像素对应的目标类别；像素确定单元，被配置成从所述待修复视频帧序列中确定所述目标类别为待修复类别的待修复像素；视频修复单元，被配置成对所述待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列。

根据本公开的另一方面，提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上任意一项用于修复视频的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行如上任意一项用于修复视频的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如上任意一项用于修复视频的方法。

根据本公开的技术，提供一种用于修复视频的方法，能够提高视频修复效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是本公开的一个实施例可以应用于其中的示例性***架构图；

图2是根据本公开的用于修复视频的方法的一个实施例的流程图；

图3是根据本公开的用于修复视频的方法的一个应用场景的示意图；

图4是根据本公开的用于修复视频的方法的另一个实施例的流程图；

图5是根据本公开的用于修复视频的装置的一个实施例的结构示意图；

图6是用来实现本公开实施例的用于修复视频的方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

如图1所示，***架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以为手机、电脑以及平板等电子设备，终端设备101、102、103中安装有用于修复视频的软件，用户可以在用于修复视频的软件中输入需要修复的视频，如老电影的视频，该软件可以输出修复后的视频，如修复后的老电影。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于电视、智能手机、平板电脑、电子书阅读器、车载电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如，在终端设备101、102、103获取到用户输入的待修复视频帧序列之后，服务器105可以将待修复视频帧序列输入预设的类别检测模型，得到待修复视频帧序列中各个像素对应的目标类别。再将目标类别为待修复类别的像素确定为待修复像素。基于对待修复像素对应的待修复区域进行修复处理，可以得到目标视频帧序列，即修复后的视频，并将该目标视频帧序列发送给终端设备101、102、103。

需要说明的是，服务器105可以是硬件，也可以是软件。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器105为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开实施例所提供的用于修复视频的方法可以由终端设备101、102、103执行，也可以由服务器105执行。相应地，用于修复视频的装置可以设置于终端设备101、102、103中，也可以设置于服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本公开的用于修复视频的方法的一个实施例的流程200。本实施例的用于修复视频的方法，包括以下步骤：

步骤201，获取待修复视频帧序列。

在本实施例中，执行主体(如图1中的服务器105或者终端设备101、102、103)可以从本地存储数据中获取待修复视频帧序列，也可以从建立连接的其他电子设备中获取待修复视频帧序列，也可以从网络中获取待修复视频帧序列，本实施例对此不做限定。其中，待修复视频帧序列指的是需要进行视频修复的目标视频所包含的各个视频帧组成的序列。可选的，在执行主体获取待修复视频帧序列时，也可以先对需要进行视频修复的目标视频所包含的各个视频帧进行初步筛选，确定得到可能存在需要修复的视频帧，组成上述的待修复视频帧序列。例如，对目标视频所包含的各个视频帧进行图像识别，响应于确定视频帧中存在待修复目标，将该视频帧确定为候选视频帧，基于各个候选视频帧生成待修复视频帧序列。这里的图像识别技术可以采用现有的图像识别技术，目的是识别图像中的划痕、噪点等待修复目标。

步骤202，基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列中各个像素对应的目标类别。

在本实施例中，预设的类别检测模型用于检测待修复视频帧序列中各个待修复视频帧中的各个像素是否属于待修复像素，其中，待修复像素指的是待修复目标在视频帧中的像素，待修复目标可以包括但不限于划痕、噪斑、噪点等，本实施例对此不做限定。为了检测像素是否属于待修复像素，预设的类别检测模型的输出数据可以为像素属于待修复像素的概率、像素不属于待修复像素的概率、像素属于正常像素的概率、像素不属于正常像素的概率等，本实施例对此不做限定。对于输出数据形式的调整，可以在类别检测模型的训练阶段进行相应的配置。执行主体在获取到预设的类别检测模型基于待修复视频帧序列输出的输出数据之后，可以对输出数据进行分析，确定得到待修复视频帧序列中各个像素对应的目标类别。其中，目标类别包括需要进行修复的类别，如待修复类别，还可以包括无需进行修复的类别，如正常类别。可选的，目标类别还可以包括待定类别，即难以基于输出数据准确判别的类别。对于这种待定类别，可以标注后输出相关像素，以使相关人员对这些像素进行人工判定，提高需要修复的区域的确定准确度。

在本实施例的一些可选的实现方式中，目标类别包括待修复类别和正常类别；以及，基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列中各个像素对应的目标类别，包括：将修复视频帧序列输入预设的类别检测模型，得到预设的类别检测模型输出的待修复视频帧序列中各个待修复视频帧的概率值图像；概率值图像用于表示各个待修复视频帧中各个像素属于待修复类别的概率；基于概率值图像和预设的概率阈值，确定待修复视频帧序列中各个像素对应的目标类别。

在本实现方式中，待修复类别指的是需要进行修复的类别，正常类别指的是无需进行修复的类别。执行主体在基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列中各个像素对应的目标类别，具体可以先将待修复视频帧序列输入预设的类别检测模型，得到预设的类别检测模型输出的概率值图像。每个待修复视频帧可以对应一个概率值图像，该概率值图像用于表示相应的待修复视频帧中每个像素属于待修复类别的概率。执行主体可以预先设有预设的概率阈值，基于将每个像素属于待修复类别的概率与预设的概率阈值进行比对，可以确定出每个像素属于待修复类别或者正常类别。例如，对于每个像素属于待修复类别的概率，响应于确定该概率大于预设的概率阈值，确定该像素属于待修复类别，响应于确定该概率小于或者等于预设的概率阈值，确定该像素属于正常类别。

步骤203，从待修复视频帧序列中确定目标类别为待修复类别的待修复像素。

在本实施例中，执行主体可以将各个像素中目标类别为待修复类别的像素，确定为待修复像素。执行主体也可以从所有像素中去除目标类别为正常类别的像素，将剩余的像素确定为待修复像素。

步骤204，对待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列。

在本实施例中，执行主体可以基于各个待修复像素，确定待修复区域，待修复区域由待修复像素组成。基于对待修复区域进行修复处理，可以得到目标视频帧序列。这里的修复处理可以采用现有的修复技术，如基于各类已有的视频修复软件对这些待修复区域进行修复处理，得到目标视频帧序列。

继续参见图3，其示出了根据本公开的用于修复视频的方法的一个应用场景的示意图。在图3的应用场景中，执行主体可以获取待修复的老电影301，将待修复的老电影301输入类别检测模型302，得到类别检测模型302输出的老电影301中每个视频帧的每个像素属于划痕对应的像素的概率信息，基于该概率信息确定各个像素的像素类别303。像素类别303为划痕对应的类别以及非划痕对应的类别。执行主体将像素类别303为划痕对应的类别的所有像素，组成划痕区域304。再将划痕区域304输入指定的修复软件进行修复，得到修复后的老电影305。

本公开上述实施例提供的用于修复视频的方法，能够利用类别检测模型，自动化地确定待修复视频帧序列中各个像素对应的目标类别，基于目标类别，确定需要进行修复的待修复像素，再对待修复像素对应的待修复区域进行修复处理，实现了视频的自动化修复，能够提高视频修复效率。

继续参见图4，其示出了根据本公开的用于修复视频的方法的另一个实施例的流程400。如图4所示，本实施例的用于修复视频的方法可以包括以下步骤：

步骤401，获取待修复视频帧序列。

在本实施例中，对于步骤401的详细描述请参照对于步骤201的详细描述，在此不再赘述。

步骤402，基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列的帧间特征信息和帧内特征信息。

在本实施例中，执行主体可以将待修复视频帧序列输入预设的类别检测模型，以使类别检测模型提取待修复视频帧序列的帧间特征信息和帧内特征信息。其中，帧间特征信息指的是各个相邻视频帧之间的相关联的图像特征，帧内特征信息指的是每个视频帧的图像特征。可选的，类别检测模型中可以包括时序卷积网络模块，在将待修复视频帧序列输入类别检测模型之后，该待修复视频帧序列可以先经过时序卷积网络模块，确定视频帧之间的时序特征，也即是，确定帧间特征信息。再基于待修复视频帧序列中的各个待修复视频帧的图像特征，得到帧内特征信息。其中，时序卷积网络模块可以由三维卷积层等形式组成。

在本实施例的一些可选的实现方式中，预设的类别检测模型基于以下步骤训练得到：获取样本视频帧序列以及样本标注信息；样本标注信息用于标注样本视频帧序列中各个样本像素的类别；基于样本视频帧序列和待训练模型，确定样本视频帧序列帧的样本帧间特征和样本帧内特征；基于样本帧间特征和样本帧内特征，确定样本视频帧序列中各个样本像素的样本初始类别信息；对样本初始类别信息进行加权处理，得到样本视频帧序列中各个样本像素对应的样本目标类别；基于样本目标类别和样本标注信息，调整待训练模型的参数，直至待训练模型收敛，得到训练完成的预设的类别检测模型。

在本实现方式中，执行主体可以将已修复完成的视频的修复前视频帧序列，作为上述的样本视频帧序列，再对于已修复完成的视频，比对修复前视频帧序列和修复后视频帧序列，得到上述的样本标注信息。采用这种方式确定样本视频帧序列以及样本标注信息，无需人工进行标注，模型训练效率更高。其中，样本标注信息可以只标注需要修复的样本像素，其余未标注的样本像素即为不需要修复的样本像素。样本像素也可以只标注不需要修复的样本像素，其余已标注的样本像素即为需要修复的样本像素。进一步的，执行主体将样本视频帧序列输入待训练模型，以使待训练模型确定样本帧间特征和样本帧内特征。其中，确定样本帧间特征和样本帧内特征的方式与确定帧间特征信息和帧内特征信息的方式类似，在此不再赘述。

之后，执行主体可以将样本帧间特征和样本帧内特征作为待训练模型中循环卷积神经模块的输入数据，以使循环卷积神经模块基于对样本帧间特征和样本帧内特征进行特征分析，得到各个样本像素的样本初始类别信息。其中，样本初始类别信息用于表示各个样本像素是否属于待修复类别，其具体表现形式可以为每个样本像素属于待修复类别的概率、每个样本像素不属于待修复类别的概率、每个样本像素属于正常类别的概率、每个样本像素不属于正常类别的概率等，本实施例对此不做限定。以及，循环卷积神经模块可以采用多层convLSTM(一种卷积神经网络和长短期记忆网络的结合体)或者多层convGRU(一种卷积神经网络和门控循环单元的结合体)组成。

之后，执行主体可以将初始类别信息输入待训练模型的注意力模块，以使注意力模块对样本初始类别信息进行加权处理，得到样本视频帧序列中各个样本像素对应的样本目标类别。具体的，执行主体可以采用注意力模块对初始类别信息中各个样本像素对应的概率乘上相应的加权权重，基于加权之后的概率和预设的阈值进行比对，得到各个样本像素对应的样本目标类别。例如，如果样本像素加权之后属于待修复类别的概率大于预设的阈值，则确定该样本像素属于待修复类别。这里的待训练模型的输出数据可以为加权之后的样本像素属于待修复样本像素的概率、加权之后的样本像素不属于待修复样本像素的概率、加权之后的样本像素属于正常样本像素的概率、加权之后的样本像素不属于正常样本像素的概率。基于待训练模型的输出数据判定各个样本像素对应的样本目标类别，再基于样本目标类别和样本标注信息，调整待训练模型的参数，直至模型收敛，实现类别检测模型的训练。可选的，待训练模型的输出数据还可以为经过注意力模块进行加权处理之后的概率数据，再输入上采样卷积模块，得到的概率图。其中，上采样卷积模块用于将概率数据对应的特征图的分辨率还原到样本视频帧的分辨率。

在本实施例的另一些可选的实现方式中，基于样本帧间特征和样本帧内特征，确定样本视频帧序列中各个样本像素的样本初始类别信息，包括：对样本帧间特征和样本帧内特征进行卷积运算，得到样本卷积特征；基于样本卷积特征，确定样本视频帧序列中各个样本像素的样本初始类别信息。

在本实现方式中，执行主体在获取样本帧间特征和样本帧内特征之后，可以对样本帧间特征和样本帧内特征进行卷积运算，如二维卷积运算，得到样本卷积特征，基于样本卷积特征确定上述的样本初始类别信息。这一过程可以采用卷积运算减小特征的分辨率，能够提高模型训练速度。

步骤403，基于帧间特征信息和帧内特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息。

在本实施例中，在类别检测模型的应用阶段，基于和训练阶段同样的原理，执行主体可以将获取到的帧间特征信息和帧内特征信息输入类别检测模型的循环卷积神经模块，以使循环卷积神经模块输出初始类别信息。其中，对于初始类别信息的详细描述请参照对于样本初始类别信息的详细描述，在此不再赘述。对于基于帧间特征信息和帧内特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息的详细描述，请一并参照基于样本帧间特征和样本帧内特征，确定样本视频帧序列中各个样本像素的样本初始类别信息的详细描述，在此不再赘述。

在本实施例的一些可选的实现方式中，基于帧间特征信息和帧内特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息，包括：对帧间特征信息和帧内特征信息进行卷积运算，得到卷积运算后的特征信息；基于卷积运算后的特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息。

在本实现方式中，对于上述步骤的详细描述请一并参照对样本帧间特征和样本帧内特征进行卷积运算，得到样本卷积特征，基于样本卷积特征，确定样本视频帧序列中各个样本像素的样本初始类别信息的详细描述，在此不再赘述。采用卷积运算的方式能够减小帧间特征信息和帧内特征信息的分辨率，能够提高初始类别信息的确定速度。

步骤404，对初始类别信息进行加权处理，得到待修复视频帧序列中各个像素对应的目标类别。

在本实施例中，对于步骤404的详细描述请一并参照对样本初始类别信息进行加权处理，得到样本视频帧序列中各个样本像素对应的样本目标类别的详细描述，在此不再赘述。

步骤405，从待修复视频帧序列中确定目标类别为待修复类别的待修复像素。

在本实施例中，对于步骤405的详细描述，请一并参照对于步骤203的详细描述，在此不再赘述。

步骤406，基于待修复像素的位置信息，确定待修复区域。

在本实施例中，执行主体可以获取待修复像素的位置坐标，基于各个位置坐标所围成的区域，确定待修复区域。

步骤407，基于预设的修复软件，对待修复区域进行修复处理，得到目标视频帧序列。

在本实施例中，预设的修复软件可以为现有的各种用于对待修复区域进行修复的软件，执行主体可以对待修复视频帧序列标注待修复区域，并将标注后的待修复视频帧序列导入预设的修复软件，以使预设的修复软件对待修复区域进行修复处理，得到目标视频帧序列。

本公开的上述实施例提供的用于修复视频的方法，还可以基于待修复视频帧序列的帧间特征信息和帧内特征信息确定像素的类别，提高了像素的类别确定精准度。以及还可以先获取初始类别信息，再对初始类别信息进行加权处理，得到目标类别，能够进一步提高类别信息确定准确度。以及基于待修复像素的位置信息，确定待修复区域，并采用预设的修复软件对待修复区域进行修复处理，能够实现自动化地视频修复，提高了视频修复效率。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种用于修复视频的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种服务器或者终端设备中。

如图5所示，本实施例的用于修复视频的装置500包括：视频获取单元501、类别确定单元502、像素确定单元503、视频修复单元504。

视频获取单元501，被配置成获取待修复视频帧序列。

类别确定单元502，被配置成基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列中各个像素对应的目标类别。

像素确定单元503，被配置成从待修复视频帧序列中确定目标类别为待修复类别的待修复像素。

视频修复单元504，被配置成对待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列。

在本实施例的一些可选的实现方式中，类别确定单元502进一步被配置成：基于待修复视频帧序列和预设的类别检测模型，确定待修复视频帧序列的帧间特征信息和帧内特征信息；基于帧间特征信息和帧内特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息；对初始类别信息进行加权处理，得到待修复视频帧序列中各个像素对应的目标类别。

在本实施例的一些可选的实现方式中，类别确定单元502进一步被配置成：对帧间特征信息和帧内特征信息进行卷积运算，得到卷积运算后的特征信息；基于卷积运算后的特征信息，确定待修复视频帧序列中各个像素对应的初始类别信息。

在本实施例的一些可选的实现方式中，上述装置还包括：模型训练单元，被配置成获取样本视频帧序列以及样本标注信息；样本标注信息用于标注样本视频帧序列中各个样本像素的类别；基于样本视频帧序列和待训练模型，确定样本视频帧序列帧的样本帧间特征和样本帧内特征；基于样本帧间特征和样本帧内特征，确定样本视频帧序列中各个样本像素的样本初始类别信息；对样本初始类别信息进行加权处理，得到样本视频帧序列中各个样本像素对应的样本目标类别；基于样本目标类别和样本标注信息，调整待训练模型的参数，直至待训练模型收敛，得到训练完成的预设的类别检测模型。

在本实施例的一些可选的实现方式中，目标类别包括待修复类别和正常类别；以及，类别确定单元502进一步被配置成：将修复视频帧序列输入预设的类别检测模型，得到预设的类别检测模型输出的待修复视频帧序列中各个待修复视频帧的概率值图像；概率值图像用于表示各个待修复视频帧中各个像素属于待修复类别的概率；基于概率值图像和预设的概率阈值，确定待修复视频帧序列中各个像素对应的目标类别。

在本实施例的一些可选的实现方式中，视频修复单元504进一步被配置成：基于待修复像素的位置信息，确定待修复区域；基于预设的修复软件，对待修复区域进行修复处理，得到目标视频帧序列。

应当理解，用于修复视频的装置500中记载的单元501至单元504分别与参考图2中描述的方法中的各个步骤相对应。由此，上文针对用车载通话的方法描述的操作和特征同样适用于装置500及其中包含的单元，在此不再赘述。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如用于修复视频的方法。例如，在一些实施例中，用于修复视频的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的用于修复视频的方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行用于修复视频的方法。

本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式***的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (12)

1.一种用于修复视频的方法，包括：

获取待修复视频帧序列；

基于所述待修复视频帧序列和预设的类别检测模型，确定所述待修复视频帧序列中各个像素对应的目标类别，包括：基于所述待修复视频帧序列和所述预设的类别检测模型中的时序卷积网络模块，确定所述待修复视频帧序列的帧间特征信息；根据所述待修复视频帧的序列中各个待修复视频帧的图像特征，得到帧内特征信息；基于所述帧间特征信息和所述帧内特征信息，确定所述待修复视频帧序列中各个像素对应的初始类别信息；对所述初始类别信息进行加权处理，得到所述待修复视频帧序列中各个像素对应的所述目标类别；其中，所述预设的类别检测模型用于检测所述待修复视频帧序列中的各个像素是否属于待修复像素，包括所述时序卷积网络模块、循环卷积神经网络模块、注意力模块以及上采样卷积模块，所述帧间特征信息指各个相邻视频帧之间的相关联的图像特征，所述帧内特征信息指每个视频帧的图像信息；

从所述待修复视频帧序列中确定所述目标类别为待修复类别的待修复像素；

对所述待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列；

其中，所述目标类别包括待定类别，所述待定类别表征难以基于输出数据准确判别的类别，以及

所述方法还包括：

响应于所述目标类别为待定类别，标注所述目标类别为待定类别后，输出相关像素；

所述对所述待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列，包括：

获取所述待修复像素的位置坐标，基于各个位置坐标所围成的区域，确定所述待修复区域；

基于预设的修复软件，对所述待修复区域进行修复处理，得到所述目标视频帧序列。

2.根据权利要求1所述的方法，其中，所述基于所述帧间特征信息和所述帧内特征信息，确定所述待修复视频帧序列中各个像素对应的初始类别信息，包括：

对所述帧间特征信息和所述帧内特征信息进行卷积运算，得到卷积运算后的特征信息；

基于所述卷积运算后的特征信息，确定所述待修复视频帧序列中各个像素对应的所述初始类别信息。

3.根据权利要求1所述的方法，其中，所述预设的类别检测模型基于以下步骤训练得到：

获取样本视频帧序列以及样本标注信息；所述样本标注信息用于标注所述样本视频帧序列中各个样本像素的类别；

基于所述样本视频帧序列和待训练模型，确定所述样本视频帧序列帧的样本帧间特征和样本帧内特征；

基于所述样本帧间特征和所述样本帧内特征，确定所述样本视频帧序列中各个样本像素的样本初始类别信息；

对所述样本初始类别信息进行加权处理，得到所述样本视频帧序列中各个样本像素对应的样本目标类别；

基于所述样本目标类别和所述样本标注信息，调整所述待训练模型的参数，直至所述待训练模型收敛，得到训练完成的所述预设的类别检测模型。

4.根据权利要求3所述的方法，其中，所述基于所述样本帧间特征和所述样本帧内特征，确定所述样本视频帧序列中各个样本像素的样本初始类别信息，包括：

对所述样本帧间特征和所述样本帧内特征进行卷积运算，得到样本卷积特征；

基于所述样本卷积特征，确定所述样本视频帧序列中各个样本像素的所述样本初始类别信息。

5.根据权利要求1所述的方法，其中，所述目标类别包括所述待修复类别和正常类别；以及

所述基于所述待修复视频帧序列和预设的类别检测模型，确定所述待修复视频帧序列中各个像素对应的目标类别，包括：

将所述修复视频帧序列输入所述预设的类别检测模型，得到所述预设的类别检测模型输出的所述待修复视频帧序列中各个待修复视频帧的概率值图像；所述概率值图像用于表示各个待修复视频帧中各个像素属于所述待修复类别的概率；

基于所述概率值图像和预设的概率阈值，确定所述待修复视频帧序列中各个像素对应的所述目标类别。

6.一种用于修复视频的装置，包括：

视频获取单元，被配置成获取待修复视频帧序列；

类别确定单元，被配置成基于所述待修复视频帧序列和预设的类别检测模型，确定所述待修复视频帧序列中各个像素对应的目标类别；

像素确定单元，被配置成从所述待修复视频帧序列中确定所述目标类别为待修复类别的待修复像素；

视频修复单元，被配置成对所述待修复像素对应的待修复区域进行修复处理，得到目标视频帧序列；

所述类别确定单元进一步被配置成：基于所述待修复视频帧序列和所述预设的类别检测模型中的时序卷积网络模块，确定所述待修复视频帧序列的帧间特征信息；根据所述待修复视频帧的序列中各个待修复视频帧的图像特征，得到帧内特征信息；基于所述帧间特征信息和所述帧内特征信息，确定所述待修复视频帧序列中各个像素对应的初始类别信息；对所述初始类别信息进行加权处理，得到所述待修复视频帧序列中各个像素对应的所述目标类别；其中，所述预设的类别检测模型用于检测所述待修复视频帧序列中的各个像素是否属于待修复像素，包括所述时序卷积网络模块、循环卷积神经网络模块、注意力模块以及上采样卷积模块，所述帧间特征信息指各个相邻视频帧之间的相关联的图像特征，所述帧内特征信息指每个视频帧的图像信息；

其中，所述目标类别包括待定类别，所述待定类别表征难以基于输出数据准确判别的类别，以及

所述装置还包括执行以下操作的单元：

响应于所述目标类别为待定类别，标注所述目标类别为待定类别后，输出相关像素；

所述视频修复单元进一步被配置成：

获取所述待修复像素的位置坐标，基于各个位置坐标所围成的区域，确定所述待修复区域；

基于预设的修复软件，对所述待修复区域进行修复处理，得到所述目标视频帧序列。

7.根据权利要求6所述的装置，其中，所述类别确定单元进一步被配置成：

对所述帧间特征信息和所述帧内特征信息进行卷积运算，得到卷积运算后的特征信息；

基于所述卷积运算后的特征信息，确定所述待修复视频帧序列中各个像素对应的所述初始类别信息。

8.根据权利要求6所述的装置，其中，所述装置还包括：

模型训练单元，被配置成获取样本视频帧序列以及样本标注信息；所述样本标注信息用于标注所述样本视频帧序列中各个样本像素的类别；基于所述样本视频帧序列和待训练模型，确定所述样本视频帧序列帧的样本帧间特征和样本帧内特征；基于所述样本帧间特征和所述样本帧内特征，确定所述样本视频帧序列中各个样本像素的样本初始类别信息；对所述样本初始类别信息进行加权处理，得到所述样本视频帧序列中各个样本像素对应的样本目标类别；基于所述样本目标类别和所述样本标注信息，调整所述待训练模型的参数，直至所述待训练模型收敛，得到训练完成的所述预设的类别检测模型。

9.根据权利要求8所述的装置，其中，所述模型训练单元进一步被配置成：

对所述样本帧间特征和所述样本帧内特征进行卷积运算，得到样本卷积特征；

基于所述样本卷积特征，确定所述样本视频帧序列中各个样本像素的所述样本初始类别信息。

10.根据权利要求6所述的装置，其中，所述目标类别包括所述待修复类别和正常类别；以及

所述类别确定单元进一步被配置成：

将所述修复视频帧序列输入所述预设的类别检测模型，得到所述预设的类别检测模型输出的所述待修复视频帧序列中各个待修复视频帧的概率值图像；所述概率值图像用于表示各个待修复视频帧中各个像素属于所述待修复类别的概率；

基于所述概率值图像和预设的概率阈值，确定所述待修复视频帧序列中各个像素对应的所述目标类别。

11. 一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。

12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。