CN113935489A - 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法 - Google Patents

基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法 Download PDF

Info

Publication number
CN113935489A
CN113935489A CN202111205046.3A CN202111205046A CN113935489A CN 113935489 A CN113935489 A CN 113935489A CN 202111205046 A CN202111205046 A CN 202111205046A CN 113935489 A CN113935489 A CN 113935489A
Authority
CN
China
Prior art keywords
quantum
neural network
model
module
vqa
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111205046.3A
Other languages
English (en)
Inventor
赵博
单征
许瑾晨
杨一航
周蓓
岳峰
孙回回
徐鹏
弋宗江
刘洋笑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Information Engineering University of PLA Strategic Support Force
Original Assignee
Information Engineering University of PLA Strategic Support Force
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Information Engineering University of PLA Strategic Support Force filed Critical Information Engineering University of PLA Strategic Support Force
Priority to CN202111205046.3A priority Critical patent/CN113935489A/zh
Publication of CN113935489A publication Critical patent/CN113935489A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N10/00—Quantum computing, i.e. information processing based on quantum-mechanical phenomena
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开基于量子神经网络的变分量子模型TFQ‑VQA及其两级优化方法，该模型包括：量子神经网络模型QNN模块，根据输入的量子数据集建立参数化量子线路模型，对输入的量子数据集执行量子计算，对存储在量子子空间中的隐藏状态的信息进行查询并提取；期望值测量模块，对量子神经网络模型QNN模块查询时的代价函数期望估计值进行测量；循环神经网络模型RNN模块，接收前一个查询的代价函数期望估计值，还用于接收来自前一时间步长提取的存储在量子子空间中的隐藏状态的信息；代价函数评估模块，评估代价函数，并通过梯度下降按照预期的方向更新参数化量子线路控制参数，并输出最佳控制参数。本发明在对变分量子算法的代价函数的较少查询中找到近似最佳参数。

Description

基于量子神经网络的变分量子模型TFQ-VQA及其两级优化 方法
技术领域
本发明属于量子计算机技术领域，尤其涉及一种基于量子神经网络的变分量子模型TFQ-VQA及其两级优化方法。
背景技术
随着现代社会的快速发展，后摩尔时代迫近，经典计算机的效率逐渐遇到瓶颈。以量子器件和量子计算为核心的新技术不仅是超越现代计算性能的信息技术发展新方向，更是推动下一代信息技术发展的革命性力量，将对全球信息技术和产业发展产生巨大影响。近年来，随着量子计算领域的迅猛发展，量子计算在人工智能、金融理财、应用数学和化学模拟等多个领域有着广泛的应用价值。借助于量子计算的天然优势，针对含噪声中等规模量子计算机，提出了各种量子优化算法来降低求解问题的难度。
传统的量子算法都是用线路模型来表示的，即通过一系列离散运算来完成计算。对量子计算资源的大量需求限制了传统量子算法在实际求解复杂问题时的能力。现有的变分量子算法利用量子力学原理，将求解问题转化为组合优化问题，进一步等价为非线性方程组求解问题，是对经典计算中成功应用的机器学习方法的自然量子模拟。并且由于当前量子计算机面临难以实质上隔离噪声、量子纠错仍未成熟等困难，量子计算将经历从含噪声中等规模量子计算机到通用容错量子计算机的发展过程。含噪声中等规模量子计算机上运行的有效算法之一是变分量子算法。
目前量子计算涉及的领域的越来越广泛，处理问题的难度也逐渐上升，变分量子算法的迭代次数也随之增加，循环迭代的数量是变分量子算法运行时的一个关键因素。与此同时线路深度随迭代次数的增加而增加。更高线路深度的变分量子算法实现具有更好的性能，但对于经典优化器，每增加一个量子线路深度，都会引入两个新的参数，增加了优化循环迭代的次数。更新参数需要估计输出状态的能量期望值，因此需要反复调用量子处理器。这意味着为变分量子算法线路寻找最佳参数的迭代过程会增加计算开销。
发明内容
本发明针对变分量子算法随迭代次数增多线路深度增加的问题，提出一种基于量子神经网络的变分量子模型TFQ-VQA及其两级优化方法。
为了实现上述目的，本发明采用以下技术方案：
本发明一方面提出一种基于量子神经网络的变分量子模型TFQ-VQA，该模型由量子神经网络模型QNN模块、期望值测量模块、循环神经网络模型RNN模块和代价函数评估模块四个模块组成；
所述量子神经网络模型QNN模块用于根据输入的量子数据集建立参数化量子线路模型，对输入的量子数据集执行量子计算，对存储在量子子空间中的隐藏状态的信息进行查询并提取；
所述期望值测量模块用于对量子神经网络模型QNN模块查询时的代价函数期望估计值进行测量；
所述循环神经网络模型RNN模块用于接收前一个查询的代价函数期望估计值，还用于接收来自前一时间步长提取的存储在量子子空间中的隐藏状态的信息；
所述代价函数评估模块用于评估代价函数，并通过梯度下降按照预期的方向更新参数化量子线路控制参数，并输出最佳控制参数。
进一步地，所述参数化量子线路模型为三层量子神经网络模型，第一层包括固定的量子门和参数化的量子门；第二层包括多个单参数门形成的多参数酉矩阵；第三层包括由多个多参数酉矩阵的乘积生成的量子模型。
本发明另一方面提出一种基于量子神经网络的变分量子模型TFQ-VQA的两级优化方法，包括：
在第一阶段，对量子线路深度p＝1的VQA实例用逐层迭代的网格搜索方法，并将输出反馈到经典优化器BFGS全局优化算法中得到最佳控制参数取值；
在第二阶段，利用预先训练的TFQ-VQA模型，以及第一阶段产生的最佳控制参数取值和量子线路目标深度pt来预测pt深度的VQA实例的控制参数初始值；
局部优化器根据控制参数初始值优化控制变量，以找到目标解决方案。
与现有技术相比，本发明具有的有益效果：
针对变分量子算法随迭代次数增多线路深度增加的问题，本发明提出了一种基于量子神经网络的变分量子算法模型TFQ-VQA。该模型将量子神经网络和经典神经网络结合起来，训练经典的循环神经网络来辅助量子学习过程，基于经典神经网络给出的参数值来初始化其他优化器，在对变分量子算法的代价函数的较少查询中找到近似最佳参数。
通过观测不同深度变分量子算法实现时参数之间的相关性，根据本发明提出的量子模型TFQ-VQA设计一个两级优化方法。第一阶段针对深度为1的实例进行优化。第二阶段利用目标深度、预先训练的量子模型和深度为1的最优参数值预测目标深度实例的控制参数初始值，该方法在达到给定精度的结果时所需的优化迭代次数有了显著减少。
附图说明
图1为本发明实施例一种基于量子神经网络的变分量子模型TFQ-VQA的结构示意图；
图2为本发明实施例一种基于量子神经网络的变分量子模型TFQ-VQA的多层量子神经网络模型结构示意图；
图3为本发明实施例一种基于量子神经网络的变分量子模型TFQ-VQA的循环神经网络优化参数过程示意图；
图4为本发明实施例一种基于量子神经网络的变分量子模型TFQ-VQA的两级优化方法的流程图。
具体实施方式
下面结合附图和具体的实施例对本发明做进一步的解释说明：
本发明在量子经典混合变分算法的基础上提出了一种基于量子神经网络的变分量子模型TFQ-VQA，该模型利用训练的经典循环神经网络来学习参数化量子线路控制参数(βt,γt)的方法，确保可以很好拟合最小化测试集误差，以较少的迭代次数更好地拟合给定数据的最小化训练集误差，或执行转移学习使预先训练的神经网络适应新任务。本发明提供的TFQ-VQA模型以量子神经网络模型QNN模块为核心，结合经典循环神经网络模型RNN模块，组成新的混合量子神经网络模型。
如图1所示，一种基于量子神经网络的变分量子模型TFQ-VQA，该模型由量子神经网络模型QNN模块、期望值测量模块、循环神经网络模型RNN模块和代价函数评估模块四个模块组成；
所述量子神经网络模型QNN模块用于对输入的量子数据集执行量子计算，对存储在量子子空间中的隐藏状态的信息进行查询并提取；
具体地，在量子神经网络模型QNN模块中，根据输入的量子数据集建立参数化量子线路模型，参数化量子线路模型为多层量子神经网络模型，具体为三层量子神经网络模型，如图2所示。参数化量子线路模型在第一层的部分既有固定的量子门又有参数化的量子门，任何参数化的操作都被编译为参数化的单量子位操作组合；在第二层有许多单参数门Uj(θj)形成执行特定功能的多参数酉矩阵Up(θp)；最后一层中多个酉矩阵Up(θp)的乘积生成量子模型U(θ)。参数化量子线路模型的目标是执行量子计算，将隐藏在量子子空间中的信息提取出来。换而言之，量子神经网络模型QNN模块分离了输入的量子数据，在经典计算中对留下的隐藏信息进行相关编码，从而使其可用于局部测量和经典后处理。
所述期望值测量模块用于对量子神经网络模型QNN模块查询时的代价函数期望估计值进行测量；
具体地，在期望值测量模块中，量子态的测量以样本的形式从经典随机变量中提取经典信息。这个随机变量的值的分布通常取决于量子态本身和测量的可观测值。许多变分算法的求解取决于测量值的平均值，即期望值。
所述循环神经网络模型RNN模块用于接收前一个查询的代价函数期望估计值，还用于接收来自前一时间步长提取的存储在量子子空间中的隐藏状态的信息；
具体地，在循环神经网络模型RNN模块中，被提取的经典信息的格式可以进行进一步的经典后处理。由于提取的信息仍然可在测量期望值之间的经典关联中编码，所以可以应用经典的循环神经网络来提取这种关联。
TFQ-VQA的目标是针对所需解决的问题训练RNN学***均有效地优化特定分布优化对象的优化器。一种有效的优化器可以在较少的函数查询中找到成本函数的最优近似局部极小值。
如图3所示，在迭代过程中，循环神经网络模型RNN模块接收作为输入的前一个量子神经网络模型QNN模块查询的代价函数期望
Figure BDA0003306505940000051
估计值yt～p(y|θt)，θt＝(βt,γt)是量子神经网络模型QNN模块中被评估的参数化量子线路控制参数。循环神经网络模型RNN模块在该时间步长还接收来自前一时间步长存储在其内部隐藏状态的信息。循环神经网络模型RNN模块本身具有可训练的参数因此应用参数化映射。这为量子神经网络模型QNN模块参数(即参数化量子线路控制参数)产生了新的提议和隐藏状态。一旦这组新的量子神经网络模型QNN模块参数被采纳，循环神经网络模型RNN模块将其发送到QPU进行评估，循环继续。
所述代价函数评估模块用于评估代价函数，并通过梯度下降按照预期的方向更新参数化量子线路控制参数，并输出最佳控制参数。
具体地，在代价函数评估模块中，给定经典后处理的结果，计算代价函数。在评估代价函数之后，通过梯度下降按照预期的方向更新参数(βt,γt)，以降低成本。
通过分析不同深度的变分量子算法发现，门参数之间具有相关性。为了充分利用两个参数(βt,γt)之间的相关性，信息首先通过状态准备程序或特征图被编码为量子状态。特征图的选择通常用于增强量子模型的性能，一般没有优化或者经过训练。一旦数据被编码为量子态，预测模型TFQ-VQA从本质上学习这些相关性，分析趋势，提取特征，并且反复训练，预测模型TFQ-VQA从单级VQA线路的最佳门参数中预测更高深度VQA线路的初始参数。这些调整后的初始参数接近最优参数。当使用这些优化参数智能地初始化优化循环，优化目标可以更快地实现。
在上述实施例的基础上，如图4所示，本发明还提出一种基于量子神经网络的变分量子模型TFQ-VQA的两级优化方法，该方法的优化过程分为两个阶段，在第一阶段，对线路深度p＝1的VQA实例用逐层迭代的网格搜索方法，并将输出反馈到经典优化器BFGS全局优化算法中得到最佳控制参数取值。这是一个简单和快速的优化过程。在第二阶段，利用预先训练的TFQ-VQA模型，以及第一阶段产生的最佳控制参数取值和目标深度pt来预测pt深度的VQA实例的控制参数初始值。局部优化器根据这些初始值优化控制变量，以找到目标解决方案。
针对变分量子算法随迭代次数增多线路深度增加的问题，本发明提出了一种基于量子神经网络的变分量子算法模型TFQ-VQA。该模型将量子神经网络和经典神经网络结合起来，训练经典的循环神经网络来辅助量子学习过程，基于经典神经网络给出的参数值来初始化其他优化器，在对变分量子算法的代价函数的较少查询中找到近似最佳参数。
通过观测不同深度变分量子算法实现时参数之间的相关性，根据本发明提出的量子模型TFQ-VQA设计一个两级优化方法。第一阶段针对深度为1的实例进行优化。第二阶段利用目标深度、预先训练的量子模型和深度为1的最优参数值预测目标深度实例的控制参数初始值，该方法在达到给定精度的结果时所需的优化迭代次数有了显著减少。
以上所示仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (3)

1.一种基于量子神经网络的变分量子模型TFQ-VQA，其特征在于，该模型由量子神经网络模型QNN模块、期望值测量模块、循环神经网络模型RNN模块和代价函数评估模块四个模块组成；
所述量子神经网络模型QNN模块用于根据输入的量子数据集建立参数化量子线路模型，对输入的量子数据集执行量子计算，对存储在量子子空间中的隐藏状态的信息进行查询并提取；
所述期望值测量模块用于对量子神经网络模型QNN模块查询时的代价函数期望估计值进行测量；
所述循环神经网络模型RNN模块用于接收前一个查询的代价函数期望估计值，还用于接收来自前一时间步长提取的存储在量子子空间中的隐藏状态的信息；
所述代价函数评估模块用于评估代价函数，并通过梯度下降按照预期的方向更新参数化量子线路控制参数，并输出最佳控制参数。
2.根据权利要求1所述的基于量子神经网络的变分量子模型TFQ-VQA，其特征在于，所述参数化量子线路模型为三层量子神经网络模型，第一层包括固定的量子门和参数化的量子门；第二层包括多个单参数门形成的多参数酉矩阵；第三层包括由多个多参数酉矩阵的乘积生成的量子模型。
3.一种基于量子神经网络的变分量子模型TFQ-VQA的两级优化方法，其特征在于，包括：
在第一阶段，对量子线路深度p＝1的VQA实例用逐层迭代的网格搜索方法，并将输出反馈到经典优化器BFGS全局优化算法中得到最佳控制参数取值；
在第二阶段，利用预先训练的TFQ-VQA模型，以及第一阶段产生的最佳控制参数取值和量子线路目标深度pt来预测pt深度的VQA实例的控制参数初始值；
局部优化器根据控制参数初始值优化控制变量，以找到目标解决方案。
CN202111205046.3A 2021-10-15 2021-10-15 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法 Pending CN113935489A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111205046.3A CN113935489A (zh) 2021-10-15 2021-10-15 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111205046.3A CN113935489A (zh) 2021-10-15 2021-10-15 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法

Publications (1)

Publication Number Publication Date
CN113935489A true CN113935489A (zh) 2022-01-14

Family

ID=79279547

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111205046.3A Pending CN113935489A (zh) 2021-10-15 2021-10-15 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法

Country Status (1)

Country Link
CN (1) CN113935489A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114446414A (zh) * 2022-01-24 2022-05-06 电子科技大学 基于量子循环神经网络的逆向合成分析方法
CN115907019A (zh) * 2023-01-09 2023-04-04 苏州浪潮智能科技有限公司 一种量子计算机、量子网络及时序数据预测方法
CN117407922A (zh) * 2023-12-11 2024-01-16 成都信息工程大学 一种基于量子噪声的联邦学习隐私保护***及方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114446414A (zh) * 2022-01-24 2022-05-06 电子科技大学 基于量子循环神经网络的逆向合成分析方法
CN115907019A (zh) * 2023-01-09 2023-04-04 苏州浪潮智能科技有限公司 一种量子计算机、量子网络及时序数据预测方法
CN115907019B (zh) * 2023-01-09 2023-11-07 苏州浪潮智能科技有限公司 一种用于气象预测的量子计算机
CN117407922A (zh) * 2023-12-11 2024-01-16 成都信息工程大学 一种基于量子噪声的联邦学习隐私保护***及方法
CN117407922B (zh) * 2023-12-11 2024-03-22 成都信息工程大学 一种基于量子噪声的联邦学习隐私保护***及方法

Similar Documents

Publication Publication Date Title
US10929744B2 (en) Fixed-point training method for deep neural networks based on dynamic fixed-point conversion scheme
JP7462623B2 (ja) 活性スパース化を用いたニューラルネットワーク加速・埋め込み圧縮システム及び方法
US11308392B2 (en) Fixed-point training method for deep neural networks based on static fixed-point conversion scheme
CN109902183B (zh) 一种基于多样图注意力机制的知识图谱嵌入方法
US11803744B2 (en) Neural network learning apparatus for deep learning and method thereof
CN113935489A (zh) 基于量子神经网络的变分量子模型tfq-vqa及其两级优化方法
CN110909926A (zh) 基于tcn-lstm的太阳能光伏发电预测方法
Lin et al. Diffusion models for time-series applications: a survey
CN108876044B (zh) 一种基于知识增强神经网络的线上内容流行度预测方法
CN113641819B (zh) 基于多任务稀疏共享学习的论辩挖掘***及方法
Lin et al. Temporal convolutional attention neural networks for time series forecasting
CN110766060B (zh) 基于深度学习的时间序列相似度的计算方法、***及介质
CN114897144A (zh) 基于复值神经网络的复值时序信号预测方法
CN113821724B (zh) 一种基于时间间隔增强的图神经网络推荐方法
Pandhiani et al. Time series forecasting by using hybrid models for monthly streamflow data
Springer et al. Robust parameter estimation of chaotic systems
CN116821436A (zh) 一种面向模糊查询的字符串谓词准确选择估计方法
He et al. Bd-net: a multiplication-less dnn with binarized depthwise separable convolution
CN115796029A (zh) 基于显式及隐式特征解耦的nl2sql方法
CN115544307A (zh) 基于关联矩阵的有向图数据特征提取与表达方法和***
CN114564568A (zh) 基于知识增强与上下文感知的对话状态追踪方法及***
CN114897274A (zh) 一种提升时间序列预测效果的方法和***
CN114357166A (zh) 一种基于深度学习的文本分类方法
Kobayashi Practical fractional-order neuron dynamics for reservoir computing
Khumprom et al. A hybrid evolutionary CNN-LSTM model for prognostics of C-MAPSS aircraft dataset

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20220114

RJ01 Rejection of invention patent application after publication