CN116703763A - 视频修复方法、装置、设备及存储介质 - Google Patents
视频修复方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116703763A CN116703763A CN202310640151.2A CN202310640151A CN116703763A CN 116703763 A CN116703763 A CN 116703763A CN 202310640151 A CN202310640151 A CN 202310640151A CN 116703763 A CN116703763 A CN 116703763A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- repaired
- complete
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000008439 repair process Effects 0.000 claims description 154
- 230000003287 optical effect Effects 0.000 claims description 82
- 238000001514 detection method Methods 0.000 claims description 43
- 238000012549 training Methods 0.000 claims description 24
- 230000015654 memory Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 238000010586 diagram Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 12
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Image Processing (AREA)
Abstract
本申请公开了视频修复方法、装置、设备及存储介质,属于计算机技术领域。方法包括:获取第一视频对应的图像集合,图像集合包括多个待修复图像和多个完整图像,完整图像为不需要进行修复的图像;基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;基于第一目标顺序对第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,第一目标顺序为按照各个像素块的修复值的大小排列得到的顺序;基于多个待修复图像分别对应的多个第二图像,得到第一视频对应的修复后的第一目标视频。该方法对多个待修复图像中的任一待修复图像均进行了两次修复操作,提升了图像修复结果的准确度,进而提升了视频的修复质量。
Description
技术领域
本申请实施例涉及计算机技术领域,特别涉及一种视频修复方法、装置、设备及存储介质。
背景技术
随着计算机技术的不断发展,视频修复技术也日益成熟。如何对已经损坏的视频进行修复,以及如何提升视频的修复效果是需要解决的技术问题。
发明内容
本申请实施例提供了一种视频修复方法、装置、设备及存储介质,可用于提升视频修复结果的准确度。所述技术方案如下:
一方面,本申请实施例提供了一种视频修复方法,所述方法包括:
获取第一视频对应的图像集合,所述图像集合包括多个待修复图像和多个完整图像,所述完整图像为不需要进行修复的图像;
基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;
基于第一目标顺序对所述第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,所述第一目标顺序为按照所述各个像素块的修复值的大小排列得到的顺序;
基于所述多个待修复图像分别对应的多个第二图像,得到所述第一视频对应的修复后的第一目标视频。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的任一待修复图像,若与所述任一待修复图像相邻的图像为第一完整图像,则基于所述第一完整图像对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第一完整图像属于所述多个完整图像。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的多个连续的待修复图像,基于与所述多个连续的待修复图像中的第一待修复图像相邻的第二完整图像,对所述第一待修复图像进行第一修复操作,得到所述第一待修复图像对应的第一图像;
基于所述第一待修复图像对应的第一图像对与所述第一图像相邻的第二待修复图像进行第一修复操作,所述第二待修复图像属于所述多个连续的待修复图像,以此类推,直至得到所述多个连续的待修复图像分别对应的第一图像。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的任一待修复图像,基于第三完整图像和第四完整图像之间的第一光流确定所述第四完整图像和所述任一待修复图像之间的第二光流;基于所述第二光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像所述第三完整图像在所述第一视频的播放顺序上位于所述第四完整图像之前,所述第四完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前;
或者,基于第五完整图像和第六完整图像之间的第三光流确定所述第五完整图像和所述任一待修复图像之间的第四光流;基于所述第四光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第六完整图像在所述第一视频的播放顺序上位于所述第五完整图像之后,所述第五完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后;
或者,基于第七完整图像和第八完整图像之间的第五光流确定所述第七完整图像和所述任一待修复图像之间的第六光流或确定所述第八完整图像和所述任一待修复图像之间的第七光流;基于所述第六光流或所述第七光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第七完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前,所述第八完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像之后,还包括:
对于所述第一图像包括的各个像素块的修复值中小于第一阈值的修复值对应的第一像素块,基于第二目标顺序对所述第一像素块依次进行第三修复操作,得到第三图像,所述第二目标顺序为按照所述第一像素块的修复值的大小排列得到的顺序;
基于所述多个待修复图像分别对应的多个第三图像,得到所述第一视频对应的修复后的第二目标视频。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像之前,还包括:
获取图像检测模型,所述图像检测模型根据包括待修复的图像和完整图像的视频进行训练得到;
基于所述图像检测模型确定所述第一视频对应的图像集合中的多个待修复图像和多个完整图像。
在一种可能的实现方式中,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
获取图像修复模型;
根据所述图像修复模型基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
另一方面,提供了一种视频修复装置,所述装置包括:
获取模块,用于获取第一视频对应的图像集合,所述图像集合包括多个待修复图像和多个完整图像,所述完整图像为不需要进行修复的图像;
修复模块,用于基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;
所述修复模块,还用于基于第一目标顺序对所述第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,所述第一目标顺序为按照所述各个像素块的修复值的大小排列得到的顺序;
确定模块,用于基于所述多个待修复图像分别对应的多个第二图像,得到所述第一视频对应的修复后的第一目标视频。
在一种可能的实现方式中,所述修复模块,用于对于所述多个待修复图像中的任一待修复图像,若与所述任一待修复图像相邻的图像为第一完整图像,则基于所述第一完整图像对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第一完整图像属于所述多个完整图像。
在一种可能的实现方式中,所述修复模块,用于对于所述多个待修复图像中的多个连续的待修复图像,基于与所述多个连续的待修复图像中的第一待修复图像相邻的第二完整图像,对所述第一待修复图像进行第一修复操作,得到所述第一待修复图像对应的第一图像;基于所述第一待修复图像对应的第一图像对与所述第一图像相邻的第二待修复图像进行第一修复操作,所述第二待修复图像属于所述多个连续的待修复图像,以此类推,直至得到所述多个连续的待修复图像分别对应的第一图像。
在一种可能的实现方式中,所述修复模块,用于对于所述多个待修复图像中的任一待修复图像,基于第三完整图像和第四完整图像之间的第一光流确定所述第四完整图像和所述任一待修复图像之间的第二光流;基于所述第二光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第三完整图像在所述第一视频的播放顺序上位于所述第四完整图像之前,所述第四完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前;
或者,基于第五完整图像和第六完整图像之间的第三光流确定所述第五完整图像和所述任一待修复图像之间的第四光流;基于所述第四光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第六完整图像在所述第一视频的播放顺序上位于所述第五完整图像之后,所述第五完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后;
或者,基于第七完整图像和第八完整图像之间的第五光流确定所述第七完整图像和所述任一待修复图像之间的第六光流或确定所述第八完整图像和所述任一待修复图像之间的第七光流;基于所述第六光流或所述第七光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第七完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前,所述第八完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后。
在一种可能的实现方式中,所述修复模块,还用于对于所述第一图像包括的各个像素块的修复值中小于第一阈值的修复值对应的第一像素块,基于第二目标顺序对所述第一像素块依次进行第三修复操作,得到第三图像,所述第二目标顺序为按照所述第一像素块的修复值的大小排列得到的顺序;
所述确定模块,还用于基于所述多个待修复图像分别对应的多个第三图像,得到所述第一视频对应的修复后的第二目标视频。
在一种可能的实现方式中,所述获取模块,还用于获取图像检测模型,所述图像检测模型根据包括待修复的图像和完整图像的视频进行训练得到;
所述确定模块,还用于基于所述图像检测模型确定所述第一视频对应的图像集合中的多个待修复图像和多个完整图像。
在一种可能的实现方式中,所述获取模块,用于获取图像修复模型;
所述修复模块,用于根据所述图像修复模型基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
另一方面,提供了一种计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以使所述计算机设备实现上述任一所述的视频修复方法。
另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行,以使计算机实现上述任一所述的视频修复方法。
另一方面,还提供了一种计算机程序产品或计算机程序,所述计算机程序产品或计算机程序包括计算机指令,所述计算机指令存储在计算机可读存储介质中。计算机设备的处理器从所述计算机可读存储介质读取所述计算机指令,处理器执行所述计算机指令,使得所述计算机设备执行上述任一所述的视频修复方法。
本申请实施例提供的技术方案至少带来如下有益效果:
在本申请实施例中,首先基于多个完整图像对多个待修复图像进行第一修复操作,得到第一图像;然后根据像素块修复值的顺序依次对第一图像中的各个像素块进行第二修复操作,得到第二图像;基于多个待修复图像分别对应的第二图像得到修复后的视频。该方法中,多个待修复图像中的任一待修复图像均进行了两次修复操作,提升了图像修复结果的准确度,进一步提升了视频的修复质量。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的示意图;
图2是本申请实施例提供的一种视频修复方法的流程图;
图3是本申请实施例提供的一种第一视频对应的多个图像的示意图;
图4是本申请实施例提供的一种待修复图像和完整图像的位置关系的示意图;
图5是本申请实施例提供的另一种待修复图像和完整图像的位置关系的示意图;
图6是本申请实施例提供的另一种待修复图像和完整图像的位置关系的示意图;
图7是本申请实施例提供的一种视频修复装置的结构示意图;
图8是本申请实施例提供的一种服务器的结构示意图;
图9是本申请实施例提供的一种终端的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
本申请实施例提供了一种视频修复方法,请参考图1,其示出了本申请实施例提供的方法实施环境的示意图。该实施环境可以包括:终端11和服务器12。
其中,终端11安装有能够进行视频修复的应用程序或者网页,当该应用程序或者网页需要对视频进行修复时,可应用本申请实施例提供的方法进行修复。此外,服务器12可以对需要修复的视频进行存储,终端11可以从服务器12上获取需要修复的视频。当然,终端11上也可以对需要修复的视频进行存储。
可选地,终端11可以是任何一种可与用户通过键盘、触摸板、触摸屏、遥控器、语音交互或手写设备等一种或多种方式进行人机交互的电子产品,例如PC(PersonalComputer,个人计算机)、手机、智能手机、PDA(Personal Digital Assistant,个人数字助手)、可穿戴设备、PPC(Pocket PC,掌上电脑)、平板电脑、智能车机、智能电视、智能音箱等。服务器12可以是一台服务器,也可以是由多台服务器组成的服务器集群,或者是一个云计算服务中心。终端11与服务器12通过有线或无线网络建立通信连接。
本领域技术人员应能理解上述终端11和服务器12仅为举例,其他现有的或今后可能出现的终端或服务器如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
本申请实施例提供了一种视频修复方法,该方法可应用于上述图1所示的实施环境。如图2所示,以该方法应用于终端为例,该方法包括如下步骤201至步骤204。
在步骤201中,获取第一视频对应的图像集合,图像集合包括多个待修复图像和多个完整图像,完整图像为不需要进行修复的图像。
其中,第一视频为需要进行修复的视频。本申请实施例不对第一视频的类型加以限定,示例性地,第一视频可以是美食类视频、手工类视频、旅游类视频,也可以为行车记录仪所拍摄的视频等。本申请实施例也不对第一视频的时长加以限定,第一视频的时长可以根据经验设定,也可以根据实际的修复需求确定。
在本申请实施例中,终端获取第一视频的方式可以是终端接收用户上传的第一视频,也可以是终端从视频平台上获取第一视频,本申请实施例对此不加以限制。此外,第一视频可以是指包括待修复视频段的完整视频,也可以是经过截取得到的包括待修复视频段的完整视频中的部分视频等。
无论终端获取第一视频的方式为上述哪一种情况,终端获取到第一视频之后,便可以进一步确定第一视频对应的图像集合。通常情况下,一个第一视频包含多个视频帧,一个视频帧对应一个图像,多个图像按照先后顺序进行展示,便可以得到动态的第一视频。因此,一个第一视频对应一个图像集合,一个图像集合中包括多个图像。
在示例性实施例中,图像集合中包括的多个图像可以在图像集合中按照一定顺序排列,例如,多个图像按照视频的播放顺序,由前到后进行排列,也可以按照视频的播放顺序,由后到前进行排列。
在本申请实施例中,图像集合包括多个待修复图像和多个完整图像。其中,完整图像为不需要进行修复的图像,也就是说,完整图像中包括的内容未被损坏或该完整图像为不具备缺陷的图像。在本申请实施例提供的方法中,基于多个完整图像对多个待修复图像进行修复操作,详见后续步骤,此处暂不赘述。
终端根据第一视频得到第一视频对应的图像集合之后,还需要进一步对图像集合中的待修复图像和完整图像进行区分。示例性地,该步骤可以通过调用图像检测模型实现,例如,调用图像检测模型,基于第一视频对应的图像集合确定图像集合中的多个待修复图像和多个完整图像。
在一种可能的实现方式中,确定图像集合中的多个待修复图像和多个完整图像包括:获取图像检测模型,图像检测模型根据包括待修复图像和完整图像的视频进行训练得到;基于图像检测模型确定第一视频对应的图像集合中的多个待修复图像和多个完整图像。
在一种可能的实现方式中,可以通过对初始图像检测模型进行训练,得到图像检测模型,然后利用图像检测模型确定待修复图像和完整图像。在一种可能的实现方式中,可以利用训练集对初始图像检测模型进行训练。其中,训练集中包括多个第一视频分别对应的图像集合,多个第一视频可以为任意类型的视频,且多个第一视频的类型可以相同,也可以不同。
对于多个第一视频分别对应的图像集合中的任一图像集合,将该任一图像集合输入至初始图像检测模型之后,初始图像检测模型通过检测确定检测结果该检测结果用于指示初始图像检测模型检测到的待修复图像和完整图像。然后基于检测结果和真实结果之间的差异,获取结果损失。其中,真实结果为该任一图像集合中准确的待修复图像和完整图像,例如,该真实结果可以通过人工标注得到。此外,本申请实施例不对获取结果损失的方式加以限定,示例性地,可以将检测结果和真实结果之间的交叉熵或者均方误差损失作为结果损失。
得到结果损失之后,基于结果损失对初始图像检测模型中的参数进行更新,得到训练后的初始图像检测模型,然后判断该训练后的初始图像检测模型是否满足训练终止条件。若训练后的初始图像检测模型满足训练终止条件,则将该训练后的初始图像检测模型作为待修复图像检测模型,用于预测第一视频对应的图像集合中的待修复图像和完整图像。
若该训练后的初始图像检测模型不满足训练终止条件,则参考前文所阐述的方式继续对该训练后的初始图像检测模型进行更新,以此类推,直至得到满足训练终止条件的初始图像检测模型,将该满足训练终止条件的初始图像检测模型作为图像检测模型。
其中,上述满足训练的终止条件根据经验设置,或者根据应用场景灵活调整,本申请实施例对此不加以限定。示例性地,训练后的初始图像检测模型满足训练的终止条件包括但不限于获取该训练后的初始图像检测模型时已执行的模型参数更新次数达到次数阈值、结果损失小于损失阈值或结果损失收敛中的任一项。
在步骤202中,基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
其中,待修复图像与完整图像的位置关系不同,第一修复方式也有所区别,因此,基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像的方式包括但不限于以下方式一或方式二。
方式一:对于多个待修复图像中的任一待修复图像,若与任一待修复图像相邻的图像为第一完整图像,则基于第一完整图像对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第一完整图像属于多个完整图像。
本申请实施例不对第一完整图像相对于任一待修复图像的位置加以限定。示例性地,第一完整图像可以是指在视频的播放顺序上位于任一待修复图像之前,且与任一待修复图像相邻的完整图像,也可以指在视频的播放顺序上位于任一待修复图像之后,且与任一待修复图像相邻的完整图像。
因为第一完整图像与第一待修复图像相邻,所以可以直接基于第一完整图像对第一待修复图像进行第一修复操作。
方式二:对于多个待修复图像中的多个连续的待修复图像,基于与多个连续的待修复图像中的第一待修复图像相邻的第二完整图像,对第一待修复图像进行第一修复操作,得到第一待修复图像对应的第一图像;基于第一待修复图像对应的第一图像对与第一图像相邻的第二待修复图像进行第一修复操作,第二待修复图像属于多个连续的待修复图像,以此类推,直至得到多个连续的待修复图像分别对应的第一图像。
图3为一种第一视频对应的多个图像的示意图。图3中,图像A,图像B,图像C,图像D和图像E是在第一视频的播放顺序上连续的五个图像。其中,图像B,图像C以及图像D为三个连续的待修复图像,图像A和图像E为完整图像,在此种情况下,若要对图像C进行修复,则需要先基于图像A(第二完整图像)对图像B(第一待修复图像)进行修复,得到修复后的图像B,然后基于修复后的图像B对图像C(第二待修复图像)进行修复,得到修复后的图像C。此种修复方式也可以为称为正向修复操作。
在一些实施例中,也可以先基于图像E(第二完整图像)对图像D(第一待修复图像)进行修复,得到修复后的图像D,然后基于修复后的图像D对图像C(第二待修复图像)进行修复,得到修复后的图像C。此种修复方式也可以称为反向修复操作。
此外,还可以基于修复后的图像B对图像C的修复结果以及修复后的图像D对图像C的修复结果得到图像C的最终修复结果。例如,基于修复后的图像B对图像C进行修复,得到修复结果C1,基于修复后的图像D对图像C进行修复,得到修复结果C2,通过对修复结果C1和修复结果C2进行加权平均,便可以得到图像C的最终修复结果。此种方式将正向修复操作和反向修复操作进行了结合,可以提高图像C的修复质量。
在一种可能的实现方式中,可以基于光流修复的方式,根据完整图像对待修复图像进行修复。光流是利用图像序列中像素点在时间域上的变化以及相邻帧之间的相关性来找到上一帧跟当前帧之间存在的对应关系,从而计算出相邻帧之间物体的运动信息的一种方法。也就是说,可以根据第一相邻两帧图像之间的光流确定第二相邻两帧图像之间的光流,第一相邻两帧图像在视频的播放顺序上位于第二相邻两帧图像之后。
根据完整图像和待修复图像之间的不同位置关系,基于多个完整图像对多个待修复图像进行第一修复操作的方式包括但不限于以下方式三至方式五中的任一种。
方式三:对于多个待修复图像中的任一待修复图像,基于第三完整图像和第四完整图像之间的第一光流确定第四完整图像和任一待修复图像之间的第二光流;基于第二光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第三完整图像在第一视频的播放顺序上位于第四完整图像之前,第四完整图像在第一视频的播放顺序上位于任一待修复图像之前。
此种情况可如图4所示,图4为一种待修复图像和完整图像的位置关系的示意图。图4中,图像F,图像G,图像H为第一视频的播放顺序上的三个连续的图像,且图像F和图像G为完整图像,图像H为待修复图像。示例性地,可以对图像F(第三完整图像)和图像G(第四完整图像)进行光流的特征提取,得到图像F和图像G之间的第一光流,然后基于第一光流确定图像G(第四完整图像)和图像H(任一待修复图像)之间的第二光流。确定出第二光流之后,便可以确定图像H中的物体的运动信息,进而对图像H进行修复操作,得到图像H对应的第一图像。
方式四:基于第五完整图像和第六完整图像之间的第三光流确定第五完整图像和任一待修复图像之间的第四光流;基于第四光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第六完整图像在第一视频的播放顺序上位于第五完整图像之后,第五完整图像在第一视频的播放顺序上位于任一待修复图像之后。
此种情况可如图5所示,图5为一种待修复图像和完整图像的位置关系的示意图。图5中,图像I,图像J,图像K为第一视频的播放顺序上的三个连续的图像,且图像J和图像K为完整图像,图像I为待修复图像。示例性地,可以对图像J(第五完整图像)和图像K(第六完整图像)进行光流的特征提取,得到图像J和图像K之间的第三光流,然后基于第三光流确定图像J(第五完整图像)和图像I(任一待修复图像)之间的第四光流。确定出第四光流之后,便可以确定图像I中的物体的运动信息,进而对图像I进行修复操作,得到图像I对应的第一图像。
方式五:基于第七完整图像和第八完整图像之间的第五光流确定第七完整图像和任一待修复图像之间的第六光流或确定第八完整图像和任一待修复图像之间的第七光流;基于第六光流或第七光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第七完整图像在第一视频的播放顺序上位于任一待修复图像之前,第八完整图像在第一视频的播放顺序上位于任一待修复图像之后。
此种情况可如图6所示,图6为一种待修复图像和完整图像的位置关系的示意图。图6中,图像L,图像M,图像N为第一视频的播放顺序上的三个连续的图像,且图像L和图像N为完整图像,图像M为待修复图像。示例性地,可以对图像L(第七完整图像)和图像N(第八完整图像)进行光流的特征提取,得到图像L和图像N之间的第五光流,然后基于第五光流确定图像L(第七完整图像)和图像M(任一待修复图像)之间的第六光流。确定出第六光流之后,便可以确定图像M中的物体的运动信息,进而对图像M进行修复操作,得到图像M对应的第一图像。或者,基于第五光流确定图像N(第八完整图像)和图像M(任一待修复图像)之间的第七光流,然后基于第七光流确定图像M中的物体的运动信息,进而对图像M进行修复操作,得到图像M对应的第一图像。
在示例性实施例中,基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像的方式可以为:获取图像修复模型;根据图像修复模型基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
在一种可能的实现方式中,可以通过对初始图像修复模型进行训练,得到图像修复模型,获取到图像修复模型之后,将多个待修复图像输入至图像修复模型,图像修复模型便可以输出经过第一修复操作得到的每个待修复图像对应的第一图像。
示例性地,可以利用训练集对初始图像修复模型进行训练。其中,训练集包括多个待修复图像。除此之外,图像修复模型的训练方式与前文图像检测模型的训练原理基本相同,此处不再赘述。
在步骤203中,基于第一目标顺序对第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,第一目标顺序为按照各个像素块的修复值的大小排列得到的顺序。
通常情况下,一个图像可以划分为多个像素块。在本申请实施例中,对第一图像进行均匀划分,可以得到多个大小相同的像素块,然后第一目标顺序对各个像素块进行第二修复操作。其中,第一目标顺序为按照各个像素块的修复值的大小排列得到的顺序,本申请不对排列的方式加以限定。示例性地,可以将各个像素块的修复值由大到小进行排列,得到第一目标顺序,也可以将各个像素块的修复值由小到大进行排列,得到第一目标顺序。此外,各个像素块的修复值的确定方式可以为:获取修复值确定模型;基于修复值确定模型确定各个像素块的修复值,修复值用于指示各个像素块的修复程度,且修复值和修复程度呈正相关关系。
在一种可能的实现方式中,可以通过对初始修复值确定模型进行训练,得到修复值确定模型,然后将经过划分得到的多个像素块输入至修复值确定模型中,修复值确定模型便可输出各个像素块的修复值。
示例性地,可以利用训练集对初始修复值确定模型进行训练。其中,训练集包括多个像素块和多个像素块分别对应的真实修复值。将多个像素块输入至初始修复值确定模型,初始修复值确定模型输出多个像素块的检测修复值。基于检测修复值和真实修复值之间的差异获取结果损失。获取到结果损失之后,对于修复值确定模型的训练方式与前文图像检测模型和图像修复模型的训练原理基本相同,此处不再赘述。
本申请实施例不对修复值的表现形式加以限定,示例性地,修复值可以以百分数的形式体现,也可以以自然数的形式体现。修复值用于指示像素块的修复程度,且修复值越大,代表像素块的修复程度越高。
基于各个像素块的修复值确定了第一目标顺序之后,需基于第一目标顺序对各个像素块依次进行第二修复操作,也就是说,按照各个像素块修复值的由大到小的顺序对像素块依次进行第二修复操作。像素块的修复值越大,代表像素块的修复效果越好,再次对像素块进行修复的难度较小,且再次修复得到的结果的准确度也较高。此外,对修复值较小的像素块进行第二修复操作时,除了基于相邻图像对该像素块进行修复之外,还可以基于与该像素块位于同一待修复图像的相邻像素块对该像素块进行修复。在此种情况下,若相邻像素块的准确度较高,那么,对该像素块进行第二修复操作得到的结果的准确度也会更高。因此,基于各个像素块修复值由大到小的顺序对各个像素块进行第二修复操作,可以整体提高各个像素块的修复结果的准确度,提升图像的修复质量,进而提升视频的修复质量。
此外,在一些实施例中,除了对任一待修复图像的各个像素块均进行第二修复操作之外,还可以仅对修复值小于阈值的像素块进行第二修复操作,也即,对于修复值大于阈值的像素块不再进行第二修复操作。因此,在一种可能的实现方式中,该步骤包括:对于第一图像包括的各个像素块的修复值中小于第一阈值的修复值对应的第一像素块,基于第二目标顺序对第一像素块依次进行第三修复操作,得到第三图像,第二目标顺序为按照第一像素块的修复值的大小排列得到的顺序。
其中,本申请实施例不对第一阈值的形式加以限定,可以为百分数,也可以为自然数等,只需确保第一阈值的形式与像素块的修复值的形式相同即可。此外,第一阈值的大小可以根据经验设置,也可以根据实际的应用场景灵活调整。示例性地,以第一阈值的形式为百分数为例,第一阈值可以为90%,也可以为80%等。
对于修复值大于第一阈值的像素块,可以认为像素块达到了修复目标,无需进行再次进行修复操作(第三修复操作),便可以只对修复值小于第一阈值的像素块再次进行第三修复操作,以使得修复结果更加准确,提高修复效率。除此之外,第三修复操作的原理与前文第二修复操作的原理相同,此处不再赘述。
在步骤204中,基于多个待修复图像分别对应的多个第二图像,得到第一视频对应的修复后的第一目标视频。
多个第二图像是对多个待修复图像分别进行第一修复操作和第二修复操作得到的图像,利用多个第二图像替换多个待修复图像,便可以生成第一视频对应的修复后的第一目标视频。
对于前文步骤203中叙述的仅对修复值小于阈值的第一像素块进行第三修复操作的方式,多个待修复图像对应多个第三图像。同理,将多个第三图像替换多个待修复图像,便可以生成第一视频对应的修复后的第二目标视频。
在本申请实施例中,首先基于多个完整图像对多个待修复图像进行第一修复操作,得到第一图像;然后根据像素块修复值的顺序依次对第一图像中的各个像素块进行第二修复操作,得到第二图像;基于多个待修复图像分别对应的第二图像得到修复后的视频。该方法中,多个待修复图像中的任一待修复图像均进行了两次修复操作,提升了图像修复结果的准确度,进一步提升了视频的修复质量。
参见图7,本申请实施例提供了一种视频修复装置,该装置包括:
获取模块701,用于获取第一视频对应的图像集合,图像集合包括多个待修复图像和多个完整图像,完整图像为不需要进行修复的图像;
修复模块702,用于基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;
修复模块702,还用于基于第一目标顺序对第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,第一目标顺序为按照各个像素块的修复值的大小排列得到的顺序;
确定模块703,用于基于多个待修复图像分别对应的多个第二图像,得到第一视频对应的修复后的第一目标视频。
在一种可能的实现方式中,修复模块702,用于对于多个待修复图像中的任一待修复图像,若与任一待修复图像相邻的图像为第一完整图像,则基于第一完整图像对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第一完整图像属于多个完整图像。
在一种可能的实现方式中,修复模块702,用于对于多个待修复图像中的多个连续的待修复图像,基于与多个连续的待修复图像中的第一待修复图像相邻的第二完整图像,对第一待修复图像进行第一修复操作,得到第一待修复图像对应的第一图像;基于第一待修复图像对应的第一图像对与第一图像相邻的第二待修复图像进行第一修复操作,第二待修复图像属于多个连续的待修复图像,以此类推,直至得到多个连续的待修复图像分别对应的第一图像。
在一种可能的实现方式中,修复模块702,用于对于多个待修复图像中的任一待修复图像,基于第三完整图像和第四完整图像之间的第一光流确定第四完整图像和任一待修复图像之间的第二光流;基于第二光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第三完整图像在第一视频的播放顺序上位于第四完整图像之前,第四完整图像在第一视频的播放顺序上位于任一待修复图像之前;
或者,基于第五完整图像和第六完整图像之间的第三光流确定第五完整图像和任一待修复图像之间的第四光流;基于第四光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第六完整图像在第一视频的播放顺序上位于第五完整图像之后,第五完整图像在第一视频的播放顺序上位于任一待修复图像之后;
或者,基于第七完整图像和第八完整图像之间的第五光流确定第七完整图像和任一待修复图像之间的第六光流或确定第八完整图像和任一待修复图像之间的第七光流;基于第六光流或第七光流对任一待修复图像进行第一修复操作,得到任一待修复图像对应的第一图像,第七完整图像在第一视频的播放顺序上位于任一待修复图像之前,第八完整图像在第一视频的播放顺序上位于任一待修复图像之后。
在一种可能的实现方式中,修复模块702,还用于对于第一图像包括的各个像素块的修复值中小于第一阈值的修复值对应的第一像素块,基于第二目标顺序对第一像素块依次进行第三修复操作,得到第三图像,第二目标顺序为按照第一像素块的修复值的大小排列得到的顺序;
确定模块703,还用于基于多个待修复图像分别对应的多个第三图像,得到第一视频对应的修复后的第二目标视频。
在一种可能的实现方式中,获取模块701,还用于获取图像检测模型,图像检测模型根据包括待修复的图像和完整图像的视频进行训练得到;
确定模块703,还用于基于图像检测模型确定第一图像对应的图像集合中的多个待修复图像和多个完整图像。
在一种可能的实现方式中,获取模块701,用于获取图像修复模型;
修复模块702,用于根据图像修复模型基于多个完整图像对多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
在本申请实施例中,首先基于多个完整图像对多个待修复图像进行第一修复操作,得到第一图像;然后根据像素块修复值的顺序依次对第一图像中的各个像素块进行第二修复操作,得到第二图像;基于多个待修复图像分别对应的第二图像得到修复后的视频。该方法中,多个待修复图像中的任一待修复图像均进行了两次修复操作,提升了图像修复结果的准确度,进一步提升了视频的修复质量。
需要说明的是,上述实施例提供的装置在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图8是本申请实施例提供的一种服务器的结构示意图,该服务器可因配置或性能不同而产生比较大的差异,可以包括一个或多个处理器801和一个或多个存储器802,其中,处理器801可以是中央处理器(Central Processing Unit,CPU),该一个或多个存储器802中存储有至少一条计算机程序,该至少一条计算机程序由该一个或多个处理器801加载并执行,以使该服务器实现上述各个方法实施例提供的视频修复方法。其中,当然,该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器还可以包括其他用于实现设备功能的部件,在此不做赘述。
图9是本申请实施例提供的一种终端的结构示意图。该终端例如可以是:智能手机、平板电脑、笔记本电脑或台式电脑。终端还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端包括有:处理器1501和存储器1502。
处理器1501可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器1501可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1501也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器1501可以集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器1501还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器1502可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器1502还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器1502中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器1501所执行,以使该终端实现本申请中方法实施例提供的视频修复方法。
在一些实施例中,终端还可选包括有:***设备接口1503和至少一个***设备。处理器1501、存储器1502和***设备接口1503之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口1503相连。具体地,***设备包括:射频电路1504、显示屏1505、摄像头组件1506、音频电路1507、定位组件1508和电源1509中的至少一种。
***设备接口1503可被用于将I/O(Input/Output,输入/输出)相关的至少一个***设备连接到处理器1501和存储器1502。在一些实施例中,处理器1501、存储器1502和***设备接口1503被集成在同一芯片或电路板上;在一些其他实施例中,处理器1501、存储器1502和***设备接口1503中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路1504用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路1504通过电磁信号与通信网络以及其他通信设备进行通信。射频电路1504将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路1504包括:天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路1504可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路1504还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏1505用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏1505是触摸显示屏时,显示屏1505还具有采集在显示屏1505的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1501进行处理。此时,显示屏1505还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏1505可以为一个,设置在终端的前面板;在另一些实施例中,显示屏1505可以为至少两个,分别设置在终端的不同表面或呈折叠设计;在另一些实施例中,显示屏1505可以是柔性显示屏,设置在终端的弯曲表面上或折叠面上。甚至,显示屏1505还可以设置成非矩形的不规则图形,也即异形屏。显示屏1505可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件1506用于采集图像或视频。可选地,摄像头组件1506包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件1506还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路1507可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器1501进行处理,或者输入至射频电路1504以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器1501或射频电路1504的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路1507还可以包括耳机插孔。
定位组件1508用于定位终端的当前地理位置,以实现导航或LBS(Location BasedService,基于位置的服务)。
电源1509用于为终端中的各个组件进行供电。电源1509可以是交流电、直流电、一次性电池或可充电电池。当电源1509包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端还包括有一个或多个传感器1510。该一个或多个传感器1510包括但不限于:加速度传感器1511、陀螺仪传感器1512、压力传感器1513、指纹传感器1514、光学传感器1515以及接近传感器1516。
加速度传感器1511可以检测以终端建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器1511可以用于检测重力加速度在三个坐标轴上的分量。处理器1501可以根据加速度传感器1511采集的重力加速度信号,控制显示屏1505以横向视图或纵向视图进行用户界面的显示。加速度传感器1511还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器1512可以检测终端的机体方向及转动角度,陀螺仪传感器1512可以与加速度传感器1511协同采集用户对终端的3D动作。处理器1501根据陀螺仪传感器1512采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器1513可以设置在终端的侧边框和/或显示屏1505的下层。当压力传感器1513设置在终端的侧边框时,可以检测用户对终端的握持信号,由处理器1501根据压力传感器1513采集的握持信号进行左右手识别或快捷操作。当压力传感器1513设置在显示屏1505的下层时,由处理器1501根据用户对显示屏1505的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器1514用于采集用户的指纹,由处理器1501根据指纹传感器1514采集到的指纹识别用户的身份,或者,由指纹传感器1514根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器1501授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器1514可以被设置在终端的正面、背面或侧面。当终端上设置有物理按键或厂商Logo(商标)时,指纹传感器1514可以与物理按键或厂商Logo集成在一起。
光学传感器1515用于采集环境光强度。在一个实施例中,处理器1501可以根据光学传感器1515采集的环境光强度,控制显示屏1505的显示亮度。具体地,当环境光强度较高时,调高显示屏1505的显示亮度;当环境光强度较低时,调低显示屏1505的显示亮度。在另一个实施例中,处理器1501还可以根据光学传感器1515采集的环境光强度,动态调整摄像头组件1506的拍摄参数。
接近传感器1516,也称距离传感器,通常设置在终端的前面板。接近传感器1516用于采集用户与终端的正面之间的距离。在一个实施例中,当接近传感器1516检测到用户与终端的正面之间的距离逐渐变小时,由处理器1501控制显示屏1505从亮屏状态切换为息屏状态;当接近传感器1516检测到用户与终端的正面之间的距离逐渐变大时,由处理器1501控制显示屏1505从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图9中示出的结构并不构成对终端的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
在示例性实施例中,还提供了一种计算机设备,该计算机设备包括处理器和存储器,该存储器中存储有至少一条计算机程序。该至少一条计算机程序由一个或者一个以上处理器加载并执行,以使该计算机设备实现上述任一种视频修复方法。
在示例性实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条计算机程序,该至少一条计算机程序由计算机设备的处理器加载并执行,以使计算机实现上述任一种视频修复方法。
在一种可能实现方式中,上述计算机可读存储介质可以是只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact DiscRead-Only Memory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述任一种视频修复方法。
需要说明的是,本申请所涉及的信息(包括但不限于用户设备信息、用户个人信息等)、数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)以及信号,均为经用户授权或者经过各方充分授权的,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。例如,本申请中涉及到的第一视频等都是在充分授权的情况下获取的。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
需要说明的是,本申请的说明书和权利要求书中的术语“第一”、“第二”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以上示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
以上所述仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种视频修复方法,其特征在于,所述方法包括:
获取第一视频对应的图像集合,所述图像集合包括多个待修复图像和多个完整图像,所述完整图像为不需要进行修复的图像;
基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;
基于第一目标顺序对所述第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,所述第一目标顺序为按照所述各个像素块的修复值的大小排列得到的顺序;
基于所述多个待修复图像分别对应的多个第二图像,得到所述第一视频对应的修复后的第一目标视频。
2.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的任一待修复图像,若与所述任一待修复图像相邻的图像为第一完整图像,则基于所述第一完整图像对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第一完整图像属于所述多个完整图像。
3.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的多个连续的待修复图像,基于与所述多个连续的待修复图像中的第一待修复图像相邻的第二完整图像,对所述第一待修复图像进行第一修复操作,得到所述第一待修复图像对应的第一图像;
基于所述第一待修复图像对应的第一图像对与所述第一图像相邻的第二待修复图像进行第一修复操作,所述第二待修复图像属于所述多个连续的待修复图像,以此类推,直至得到所述多个连续的待修复图像分别对应的第一图像。
4.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
对于所述多个待修复图像中的任一待修复图像,基于第三完整图像和第四完整图像之间的第一光流确定所述第四完整图像和所述任一待修复图像之间的第二光流;基于所述第二光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第三完整图像在所述第一视频的播放顺序上位于所述第四完整图像之前,所述第四完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前;
或者,基于第五完整图像和第六完整图像之间的第三光流确定所述第五完整图像和所述任一待修复图像之间的第四光流;基于所述第四光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第六完整图像在所述第一视频的播放顺序上位于所述第五完整图像之后,所述第五完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后;
或者,基于第七完整图像和第八完整图像之间的第五光流确定所述第七完整图像和所述任一待修复图像之间的第六光流或确定所述第八完整图像和所述任一待修复图像之间的第七光流;基于所述第六光流或所述第七光流对所述任一待修复图像进行第一修复操作,得到所述任一待修复图像对应的第一图像,所述第七完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之前,所述第八完整图像在所述第一视频的播放顺序上位于所述任一待修复图像之后。
5.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像之后,还包括:
对于所述第一图像包括的各个像素块的修复值中小于第一阈值的修复值对应的第一像素块,基于第二目标顺序对所述第一像素块依次进行第三修复操作,得到第三图像,所述第二目标顺序为按照所述第一像素块的修复值的大小排列得到的顺序;
基于所述多个待修复图像分别对应的多个第三图像,得到所述第一视频对应的修复后的第二目标视频。
6.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像之前,还包括:
获取图像检测模型,所述图像检测模型根据包括待修复图像和完整图像的视频进行训练得到;
基于所述图像检测模型确定所述第一视频对应的图像集合中的多个待修复图像和多个完整图像。
7.根据权利要求1所述的方法,其特征在于,所述基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像,包括:
获取图像修复模型;
根据所述图像修复模型基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像。
8.一种视频修复装置,其特征在于,所述装置包括:
获取模块,用于获取第一视频对应的图像集合,所述图像集合包括多个待修复图像和多个完整图像,所述完整图像为不需要进行修复的图像;
修复模块,用于基于所述多个完整图像对所述多个待修复图像进行第一修复操作,得到每个待修复图像对应的第一图像;
所述修复模块,还用于基于第一目标顺序对所述第一图像包括的各个像素块依次进行第二修复操作,得到第二图像,所述第一目标顺序为按照所述各个像素块的修复值的大小排列得到的顺序;
确定模块,用于基于所述多个待修复图像分别对应的多个第二图像,得到所述第一视频对应的修复后的第一目标视频。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述处理器加载并执行,以使所述计算机设备实现如权利要求1至7任一所述的视频修复方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行,以使计算机实现如权利要求1至7任一所述的视频修复方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310640151.2A CN116703763A (zh) | 2023-06-01 | 2023-06-01 | 视频修复方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310640151.2A CN116703763A (zh) | 2023-06-01 | 2023-06-01 | 视频修复方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116703763A true CN116703763A (zh) | 2023-09-05 |
Family
ID=87844445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310640151.2A Pending CN116703763A (zh) | 2023-06-01 | 2023-06-01 | 视频修复方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116703763A (zh) |
-
2023
- 2023-06-01 CN CN202310640151.2A patent/CN116703763A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110992493B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN109712224B (zh) | 虚拟场景的渲染方法、装置及智能设备 | |
CN111127509B (zh) | 目标跟踪方法、装置和计算机可读存储介质 | |
CN112581358B (zh) | 图像处理模型的训练方法、图像处理方法及装置 | |
CN111027490B (zh) | 人脸属性识别方法及装置、存储介质 | |
US11386586B2 (en) | Method and electronic device for adding virtual item | |
CN110796248A (zh) | 数据增强的方法、装置、设备及存储介质 | |
CN111754386B (zh) | 图像区域屏蔽方法、装置、设备及存储介质 | |
CN110705614A (zh) | 模型训练方法、装置、电子设备及存储介质 | |
JP2023518548A (ja) | 検出結果出力方法、電子機器及び媒体 | |
CN111857793B (zh) | 网络模型的训练方法、装置、设备及存储介质 | |
CN111179628B (zh) | 自动驾驶车辆的定位方法、装置、电子设备及存储介质 | |
CN115798417A (zh) | 背光亮度的确定方法、装置、设备及计算机可读存储介质 | |
CN115798418A (zh) | 图像显示方法、装置、终端及存储介质 | |
CN114594885A (zh) | 应用图标的管理方法、装置、设备及计算机可读存储介质 | |
CN114595019A (zh) | 应用程序的主题设置方法、装置、设备及存储介质 | |
CN111757146B (zh) | 视频拼接的方法、***及存储介质 | |
CN112560903A (zh) | 图像美学信息的确定方法、装置、设备及存储介质 | |
CN112399080A (zh) | 视频处理方法、装置、终端及计算机可读存储介质 | |
CN116703763A (zh) | 视频修复方法、装置、设备及存储介质 | |
CN113129221B (zh) | 图像处理方法、装置、设备及存储介质 | |
CN116681755B (zh) | 位姿预测方法和装置 | |
CN113052408B (zh) | 一种社区聚合的方法及装置 | |
CN110660031B (zh) | 图像锐化方法及装置、存储介质 | |
CN113763486B (zh) | 主色调提取方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |