CN105824856A - 一种向量量化方法及装置 - Google Patents

Abstract

本发明公开了一种向量量化方法及装置，所述方法包括：获取待量化的向量中每个维度的元素；根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。上述方法能够对高维向量进行量化处理，且采用量化后的信息能够提高图像检索中的检索准确率。

Description

一种向量量化方法及装置

技术领域

本发明涉及通信技术，具体涉及一种向量量化方法及装置。

背景技术

当前，高维向量的近邻查询在计算机的图像搜索中提供着关键性的技术支撑。高维向量的近邻查询是指：给定一个高维向量，从一个向量集中找出与其最近的若干个向量。

为此，越来越多的业内人士研究高维向量的近邻查询的相关技术。当前解决近邻查询问题的主要是将高维向量量化处理，得到量化后的紧凑的二值码，由此，降低高维向量的存储占用空间，以及提升图像检索技术中高维向量的检索效率。

当前量化处理较常用的方法是乘积量化方法，例如，通过将高维向量划分多段，针对每一段进行单独量化。以一个维度为8的向量为例Y＝{y₁，y₂，y₃，y₄，y₅，y₆，y₇，y₈}。常用的成绩量化会将这个8维向量划分成两段，分别是{y₁，y₂，y₃，y₄}以及{y₅，y₆，y₇，y₈}。然后每段的维度统一共同量化。该方法会让一些维度强制一起量化，且在向量的维度很高时会破坏向量的空间结构，导致采用量化后的信息在图像检索中检索准确率降低。

现有技术中公开的另一种量化处理的方法是标量量化方法，例如，通过将每个维度的元素单独量化，降低量化误差。然而，该标量量化方法在实现过程中仅单独考虑每个元素，并不能结合原始向量之间的相关性，导致采用量化后的信息在图像检索中检索准确率降低。

发明内容

针对现有技术中的缺陷，本发明提供了一种向量量化方法及装置，能够对高维向量进行量化处理，且采用量化后的信息能够提高图像检索中的检索准确率。

第一方面，本发明提供一种向量量化方法，包括：

获取待量化的向量中每个维度的元素；

根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；

所述每个维度对应的区间是根据预设的训练数据集训练获取的。

可选地，所述根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间之前，所述方法还包括：

获取所述待量化向量的维度，根据所述维度获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

可选地，所述根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间之前，所述方法还包括：

根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度；

每一维度对应的区间均是不重叠的。

可选地，根据预设的训练数据集训练获取每个维度对应的区间，包括：

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

可选地，根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间，包括：

枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值的边界值划分该维度，获得该维度对应的区间。

第二方面，本发明还提供一种向量量化装置，包括：

元素获取单元，用于获取待量化的向量中每个维度的元素；

量化单元，用于根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；

其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。

可选地，所述装置还包括：

维度确定单元，用于获取所述待量化向量的维度，根据所述维度，获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

可选地，所述装置还包括：

维度划分单元，用于根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度；

每一维度对应的区间均是不重叠的。

可选地，维度划分单元，具体用于

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

可选地，维度划分单元，具体用于

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值的边界值划分该维度，获得该维度对应的区间。

由上述技术方案可知，本发明的向量量化方法及装置，通过获取待量化的向量中每个维度的元素，进而将元素量化到该元素所属维度对应的区间，获得待量化的向量的量化信息，由此，可实现对高维向量进行量化处理，且采用量化后的信息能够提高图像检索中的检索准确率。

附图说明

图1为本发明一实施例提供的向量量化方法的流程示意图；

图2为本发明另一实施例提供的向量量化方法的流程示意图；

图3为本发明一实施例提供的向量量化装置的结构示意图。

具体实施方式

下面结合附图，对发明的具体实施方式作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。本发明实施例中所使用的“第一”、“第二”仅为更清楚的说明本申请的内容，不具有特定含义，也不限定任何内容。

图1示出了本发明一实施例提供的向量量化方法的流程示意图，如图1所示，本实施例的向量量化方法如下所述。

101、获取待量化的向量中每个维度的元素。

举例来说，待量化的n维向量为X＝[x₁，x₂，…，x_n]，获取待量化的向量中每个维度的元素x_i，其中，1≤i≤n。

102、根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息。

其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。

对于每个维度的元素集合中的元素x_i，将元素集合中的所有元素量化到该维度对应的u个独立的区间S_i1，S_i2，…，S_iu。其中，该u个区间之间不重叠(即区间是独立的,对于一个维度的任意两个区间，它们的交集是空集)。即，若元素x_i属于区间S_ij，则将元素x_i量化到区间S_ij。

其中，u表示的是每个维度划分的区间数，比如u＝4，那么就是将该维度划分成4个区间。

举例来说，在步骤102之前，图1所示的方法还可包括下述的步骤101a；

101a、获取所述待量化向量的维度，根据所述维度获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

例如，待量化向量的维度为64维，则可根据64维获取与64维度对应的区间信息；或者，待量化向量的维度为128维，则可根据128维获取与128维度对应的区间信息。

本实施例的向量量化方法，通过获取待量化的向量中每个维度的元素，进而将元素量化到该元素所属维度对应的区间，获得待量化的向量的量化信息，由此，可实现对高维向量进行量化处理，且采用量化后的信息能够提高图像检索中的检索准确率。

图2示出了本发明一实施例提供的向量量化方法的流程示意图，如图2所示，本实施例的向量量化方法如下所述。

201、获取待量化的向量中每个维度的元素。

举例来说，待量化的n维向量为X＝[x₁，x₂，…，x_n]，获取待量化的向量中每个维度的元素x_i，其中，1≤i≤n。

202、根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度。

在本实施例中，每一维度对应的区间均是不重叠的。

举例来说，步骤201可包括下述的图中未示出的子步骤：

2021、获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化的向量的维度相同。

例如，选t个n维向量X₁，X₂，…，X_t作为训练数据集。对于第i个维度，统计这t个向量在此维度上所有的取值，不妨设为，A＝{a₁，a₂，…，a_t}。其中，a₁≤a₂≤…≤a_t。

2022、根据预设距离差和量化误差，获取用于划分区间的目标函数。

2023、根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

具体地，枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值(如最小值)的边界值划分该维度，获得该维度对应的区间。

可理解的是，在具体应用中，目标函数还可能是非连续而且不可导的函数，在应用中存在无法直接获取该目标函数的极值，也就是说，无法直接判断该目标函数在某个取值下是否是极大或者极小值。为此，可预先枚举足够多的边界值，从中选择使目标函数相对最大(或者最小)的边界值来划分区间。

当然，可根据实际需要选择使目标函数取得最大值或最小值的方式，本实施例均为举例说明，不对其进行限定。

在一个具体的例子中，对于一个维度的元素集合A的区间划分，用一个目标函数来判定该维度的元素集合A的区间划分的好坏。

具体中，假定将元素集合A划分成3个区间。

对于区间划分如下说明：

A₁＝{a₁，a₂，…，a(l₁)}

A₂＝{a(l₁₊₁)，a(l₁₊₂)，…，a(l₂)}

A₃＝{a(l₂₊₁)，…，a_t}。

本实施例中采用一个目标函数F判定维度中区间划分质量的好坏。

目标函数的信息如下：

当前，

距离差定义成：MSDE＝Σ_iΣ_j(d(Q(a_i)，Q(a_j))-t*d(V(a_i)，V(a_j)))²；

量化误差定义成：MSE＝Σ_i(a_i-Q(a_i))²；

其中，a_i被量化到的区间的均值为Q(a_i)。即，如果a_i对应的区间为A_j，Q(a_i)代表A_j中所有元素的平均值。

t是一个放缩因子，调整d(Q(a_i)，Q(a_j))和d(V(a_i)，V(a_j))的差值的绝对值大小。

V(a_i)代表元素a_i所属的向量。即，如果a_i属于X_j,那么V(a_i)＝X_j。

最后，目标函数由MSDE和MSE的一个组合构成，即：

F＝λ*MSDE+μ*MSE

λ和μ的取值可根据实际需要选择。举例来说，(λ＝1，μ＝0)，(λ＝0，μ＝1)，(λ＝0.5，μ＝0.5)等。

寻找能够使上述定义的目标函数取得极值的区间的边界值。即，寻找一个使F取得极小值的划分方式。

实际中，如果A₁＝{a₁，a₂，…，a(s₁)},A₂＝{a(s₁₊₁)，a(s₁₊₂)，…，a(s₂)}，A3＝{a(s₂₊₁)，…，a_t}对应的F最小，那么选a(s₁)和a(s₂)对应的划分方式。

选用上述使目标函数取得极值的划分方案来确定维度的区间。

使用上述的a(s₁)和a(s₂)将维度划分成3段。

在本实施例中，查找所述元素集合中区间划分的边界值，将所述区间划分的边界值作为所述目标函数的参数值，确定所述目标函数的取值是否为极值；如果所述目标函数的取值为极值，则采用该区间划分的边界值划分该维度的元素集合中的元素，获得该维度对应的区间，举例如下：

可枚举每个划分边界的取值，具体中，假定将A＝{a₁，a₂，…，a_t}划分成3个区间A₁＝{a₁，a₂，…，a_(l1)}

A₂＝{a_(l1+1)，a_(l1+2)，…，a_(l2)}

A₃＝{a_(l2+1)，…，a_t}。

那么，枚举l1和l2的取值。1≤l1≤t，l1<l2≤t。

对于每一组取值，带入目标函数计算函数值。当l1和l2确定后，计算对应F的取值。

枚举过程中，记录下所有l1和l2组合对应的F的取值。

选所有取值中最优的一组来划分维度。假如某组l1＝p，l2＝q使F最小。那么选用p和q将维度划分成三部分，

A₁＝{a₁，a₂，…，a_p}

A₂＝{a_(p+1)，a_(p+2)，…，a_q}

A₃＝{a_(q+1)，a_(q+2)，…，a_t}。

203、根据获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息。

本实施例中的量化可理解为是一种分组，量化后也就是意味着被分到了特定的组，而量化信息就是所属组的编号或者用来表示该组的符号。

例如，假设是量化第i维的元素yi,将第i维的元素分为三组，(-∞,-1]，(-1，1]，(1，∞)，每个组编号分别是1，2，3。对于一个yi＝0.5，它被分到(-1，1]，这个过程是量化。它被编码成2，这就是量化信息。

另外，需要说明的是，原始向量之间的相关性体现在目标函数中的MSDE＝Σ_iΣ_j(d(Q(a_i)，Q(a_j))-t*d(V(a_i)，V(a_j)))²这一部分中。在寻找目标函数的极值时，不仅仅依赖对应维度的元素集合中元素的分布，还会利用维度对应的向量之间的距离关系，为此本实施例中可称之为原始向量之间的相关性。

由此，本实施例中的向量量化方法能够结合原始向量之间的相关性，进而对每一维度的每一元素进行量化，进而在向量的维度很高时也不会破坏向量的空间结构，由此，采用量化后的信息在图像检索中检索准确率提高。

另外，本发明实施例还提供一种使用上述图1或图2所示的向量量化方法在图像检索中使用的方法如下：

M01、获取一幅图像，并提取一个描述图像视觉特性的高维向量。

M02、统计高维向量每个维度的数值分布，基于分布信息给每个维度量化。

M03、将每个维度量化后的信息进行二值编码，从而得到高维向量的量化信息。

M04、选择与二值编码对应的距离度量方法度量量化后的向量之间的相似性。

上述方法在图像检索过程中可提高图像检索中的检索准确率。

图3示出了本发明一实施例提供的向量量化装置的结构示意图，如图3所示，本实施例的向量量化装置包括：元素获取单元31、量化单元32；

元素获取单元31用于获取待量化的向量中每个维度的元素；

量化单元32用于根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；

其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。

在一种具体的例子中，上述向量量化装置还可包括下述的图中未示出的维度确定单元，该维度确定单元用于获取所述待量化向量的维度，根据所述维度，获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

在另一种具体的例子中，向量量化装置还可包括下述的图中未示出的维度划分单元，该维度划分单元可为离线完成过程，用于根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度；

每一维度对应的区间均是不重叠的。

例如，维度划分单元具体用于，获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化的向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

或者，维度划分单元具体用于，获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值的边界值划分该维度，获得该维度对应的区间。

本实施例的向量量化装置，可实现对高维向量进行量化处理，且采用量化后的信息能够提高图像检索中的检索准确率。

本发明的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释呈反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在于该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是互相排斥之处，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。

Claims (10)

1.一种向量量化方法，其特征在于，包括：

获取待量化的向量中每个维度的元素；

根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；

其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。

2.根据权利要求1所述的方法，其特征在于，所述根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间之前，所述方法还包括：

获取所述待量化向量的维度，根据所述维度，获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

3.根据权利要求1或2所述的方法，其特征在于，所述根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间之前，所述方法还包括：

根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度；

每一维度对应的区间均是不重叠的。

4.根据权利要求3所述的方法，其特征在于，根据预设的训练数据集训练获取每个维度对应的区间，包括：

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

5.根据权利要求4所述的方法，其特征在于，根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间，包括：

枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值的边界值划分该维度，获得该维度对应的区间。

6.一种向量量化装置，其特征在于，包括：

元素获取单元，用于获取待量化的向量中每个维度的元素；

量化单元，用于根据预先获取的每个维度对应的区间，将所述元素量化到该元素所属维度对应的区间，获得所述待量化的向量的量化信息；

其中，所述每个维度对应的区间是根据预设的训练数据集训练获取的。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括：

维度确定单元，用于获取所述待量化向量的维度，根据所述维度，获取与所述维度对应的区间信息，所述区间信息包括：预先获取的所述维度中每个维度对应的区间。

8.根据权利要求6或7所述的装置，其特征在于，所述装置还包括：

维度划分单元，用于根据预设的训练数据集训练获取每个维度对应的区间，所述每个维度为所述待量化向量中的每个维度；

每一维度对应的区间均是不重叠的。

9.根据权利要求8所述的装置，其特征在于，维度划分单元，具体用于

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

根据所述目标函数，将每一维度的元素集合进行区间划分，获得该维度对应的区间。

10.根据权利要求8所述的装置，其特征在于，维度划分单元，具体用于

获取训练数据集中所有向量的每一维度的元素集合，所述元素集合包括该维度上所有向量的元素，所述训练数据集中所有向量的维度相同，且与待量化向量的维度相同；

根据预设距离差和量化误差，获取用于划分区间的目标函数；

枚举所述元素集合中区间划分的边界值，将每组所述区间划分的边界值作为所述目标函数的参数值，确定并记录所述目标函数对应的取值；

选择使目标函数取得极值的边界值划分该维度，获得该维度对应的区间。