CN116527498A - 模型传输方法、装置、电子设备及存储介质 - Google Patents
模型传输方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116527498A CN116527498A CN202210067064.8A CN202210067064A CN116527498A CN 116527498 A CN116527498 A CN 116527498A CN 202210067064 A CN202210067064 A CN 202210067064A CN 116527498 A CN116527498 A CN 116527498A
- Authority
- CN
- China
- Prior art keywords
- node
- model
- transmission
- model information
- receiving end
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 190
- 238000000034 method Methods 0.000 title claims abstract description 37
- 230000002093 peripheral effect Effects 0.000 claims abstract description 32
- 238000004891 communication Methods 0.000 claims abstract description 30
- 238000004364 calculation method Methods 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 9
- 238000005265 energy consumption Methods 0.000 claims description 8
- 238000012546 transfer Methods 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 7
- 238000012549 training Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0813—Configuration setting characterised by the conditions triggering a change of settings
- H04L41/082—Configuration setting characterised by the conditions triggering a change of settings the condition being updates or upgrades of network functionality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/65—Updates
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
- H04L41/0836—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability to enhance reliability, e.g. reduce downtime
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/04—Communication route or path selection, e.g. power-based or shortest path routing based on wireless node resources
- H04W40/10—Communication route or path selection, e.g. power-based or shortest path routing based on wireless node resources based on available power or energy
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/22—Communication route or path selection, e.g. power-based or shortest path routing using selective relaying for reaching a BTS [Base Transceiver Station] or an access point
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及通信技术领域,尤其涉及一种模型传输方法、装置、电子设备及存储介质。具体实现方案为:确定接收端节点所需的模型信息;查询与接收端节点直接连接的周边节点是否存储其所需的模型信息;响应于周边节点存储所需的模型信息,以存储有模型信息的周边节点作为发送端节点直接向接收端节点发送模型信息;响应于周边节点没有存储所需的模型信息,继续查询存储有模型信息的远端节点;将存储有模型信息的远端节点作为发送端节点,并确定远端节点与接收端节点之间的中继节点形成的传输路径;通过传输路径将远端节点的模型信息传输至接收端节点。从而在提升节点的自我进化能力的同时降低了网络负载,实现模型信息的高效传输,提升了通信效率。
Description
技术领域
本发明涉及通信技术领域,尤其涉及模型传输方法、装置、电子设备及存储介质。
背景技术
在未来的万物智联网络中,网络节点趋向于智能化,网络节点智能化导致了信息空间快速扩张、甚至维度灾难,加剧了表征信息承载空间的难度,导致传统的网络服务能力与高维信息空间难以匹配,通信传输的数据量过大,信息业务服务***无法持续满足人们复杂、多样和智能化信息传输的需求。而通过人工智能模型来编码、传播、解码业务信息,可显著降低通信业务中的数据传输量,极大地提升了信息传输效率。这些模型相对稳定,并具有复用性、传播性。模型的传播和复用将有助于增强网络智能,同时降低开销和资源浪费,形成节点极智、网络极简的智简网络。
智简网络的核心在于传输模型,网络具有存储功能,模型存于网络,可能存储在终端用户侧,也可能存储在云端。各个节点可以吸收网路上其它节点的模型实现自我进化,因此,传播模型的效率直接决定了通信的效率。由于智简网络中可能有多个节点存储了目标节点所需的目标模型或目标模型的一个或多个模型切片,如果没有***的计算,可能导致***通信效率低,例如,节点B和节点C都存储有节点A所需的目标模型,但是节点C距离节点A较远,需要通过多个中继节点,传输代价较大,如果***随意选择节点C则可能导致***通信效率低。因此,需要一种可以计算模型的传输路径的方法,尽可能减小模型或模型切片的传输代价,提升模型的传输效率。
发明内容
本发明提供了一种用于智简网络的模型传输方法、装置、设备以及存储介质。
根据本发明的一方面,提供了一种模型传输方法,包括:
确定接收端节点所需的模型信息;
查询与所述接收端节点直接连接的周边节点是否存储其所需的所述模型信息;
响应于所述周边节点存储所需的所述模型信息,以一个或多个存储有所述模型信息的所述周边节点作为发送端节点直接向所述接收端节点发送所述模型信息;
响应于所述周边节点没有存储所需的所述模型信息,继续查询存储有所述模型信息的远端节点;
将存储有所述模型信息的所述远端节点作为所述发送端节点,并确定所述远端节点与所述接收端节点之间的中继节点形成的传输路径;
通过所述传输路径将所述远端节点的所述模型信息传输至所述接收端节点。
可选的,所述查询存储有所述模型信息的所述远端节点包括一个或多个,且每个所述远端节点与所述接收端节点之间形成的所述传输路径为一个或多个。
可选的,响应于所述传输路径为多个,在传输所述模型信息之前,计算多个所述传输路径向所述接收端节点传输所述模型信息的传输代价,并选择所述传输代价最小的所述传输路径传输所述模型信息。
可选的,计算所述传输代价的因素包括传输时延,和/或传输能耗,和/或通信服务需求,和/或所述中继节点的计算量。
可选的,所述模型信息包括模型或模型切片。
根据本发明的另一方面,提供了一种模型传输装置,包括:
模型确定模块,用于确定接收端节点所需的模型信息;
节点查询模块,用于查询与所述接收端节点直接连接的周边节点是否存储其所需的所述模型信息;
模型传输模块,响应于所述周边节点存储所需的所述模型信息,以一个或多个存储有所述模型信息的所述周边节点作为发送端节点直接向所述接收端节点发送所述模型信息;
所述节点查询模块响应于所述周边节点没有存储所需的所述模型信息,继续查询存储有所述模型信息的远端节点;
路径规划模块,用于将存储有所述模型信息的所述远端节点作为所述发送端节点,并确定所述远端节点与所述接收端节点之间的中继节点形成的传输路径;
所述模型传输模块通过所述传输路径将所述远端节点的所述模型信息传输至所述接收端节点。
可选的,所述节点查询模块查询存储有所述模型信息的所述远端节点包括一个或多个,且每个所述远端节点与所述接收端节点之间形成的所述传输路径为一个或多个。
可选的,还包括:
计算模块,用于响应于所述路径规划模块确定的所述传输路径为多个,在所述模型传输模块传输所述模型信息之前,计算多个所述传输路径向所述接收端节点传输所述模型信息的传输代价,并选择所述传输代价最小的所述传输路径传输所述模型信息。
可选的,所述计算模块计算所述传输代价的因素包括传输时延,和/或传输能耗,和/或通信服务需求,和/或所述中继节点的计算量。
可选的,所述模型信息包括模型或模型切片。
本发明还提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述技术方案中任一项所述的模型传输方法。
本发明还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述实施例中任一项所述的模型传输方法。
本发明还提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述实施例中任一项所述的模型传输方法。
本发明通过上述模型传输方法、装置、设备以及存储介质,在提升节点的自我进化能力的同时降低了网络负载,实现模型信息的高效传输,提升了通信效率。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本发明的限定。其中:
图1是本发明实施例中的第一种模型传输方法的步骤流程图;
图2是本发明实施例中的模型传播示意图;
图3是本发明实施例中的第二种模型传输方法的步骤流程图;
图4是本发明实施例中的第一种模型传输装置的原理框图;
图5是本发明实施例中的第二种模型传输装置的原理框图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
发明公开了智简网络中主要通过人工智能模型传播业务信息,通过使用人工智能模型将待传播的第一业务信息压缩为与所述人工智能模型相关的第二业务信息,极大地降低了网络中的数据通信量,压缩效率远超传统的压缩算法。其中,发送端设备利用预先配置的第一模型对所述第一业务信息进行提取并得到待传输的第二业务信息;所述发送端设备向接收端设备传输所述第二业务信息。接收端设备接收所述第二业务信息,并利用预先配置的第二模型对所述第二业务信息进行恢复处理得到第三业务信息;经第二模型恢复的第三业务信息比起原先的第一业务信息会有些许质量上的差异,但两者在内容上是一致的,给用户的体验几乎是无差异的。在所述发送端设备向接收端设备传输所述第二业务信息之前,还包括:更新模块判断所述接收端设备是否需要对所述第二模型进行更新,并在判断需要更新时向所述接收端设备传输预先配置的第三模型,所述接收端设备利用所述第三模型对所述第二模型进行更新。通过预先训练好的人工智能模型对业务信息进行处理,可显著降低通信业务中的数据传输量,极大地提升了信息传输效率。这些模型相对稳定,并具有复用性、传播性。模型的传播和复用将有助于增强网络智能,同时降低开销和资源浪费。所述模型能够根据不同切分规则切分为若干个模型切片,上述模型切片也可以在不同的网络节点之间传输,模型切片可以组装成模型。模型切片可以分散存储在多个网络节点上。当网络节点请发现自己缺少或需要更新某模型或某模型切片时,可以通过请求的方式,向周围可能具有该切片的节点请求。
传输所述业务信息、传输所述模型均发生在通信网络中,基于网络协议进行通信传输。传输所述业务信息、传输所述模型的路径上经过的网络节点包括智简路由器。智简路由器的功能包括但不限于业务信息传输、模型传输,吸收模型自我更新,安全保护等功能。智简路由器的传输功能,涉及将业务信息或模型从信源节点传输到信宿节点,信源节点和信宿节点之间存在多个路径。智简路由器的模型传输功能,可以对模型切片进行传输,通过合理安排模型切片走多个路径,多路传输模型切片,提高模型传输速率。
本发明提供了一种模型传输方法,如图1所示,包括:
步骤S101,确定接收端节点所需的模型信息;
步骤S102,查询与接收端节点直接连接的周边节点是否存储其所需的模型信息;
步骤S103,响应于周边节点存储所需的模型信息,以一个或多个存储有模型信息的周边节点作为发送端节点直接向接收端节点发送模型信息;
步骤S104,响应于周边节点没有存储所需的模型信息,继续查询存储有模型信息的远端节点;
步骤S105,将存储有模型信息的远端节点作为发送端节点,并确定远端节点与接收端节点之间的中继节点形成的传输路径;
步骤S106,通过传输路径将远端节点的模型信息传输至接收端节点。
具体地,在发明本实施例中,接收端节点(指接收模型信息的一方)所需的模型信息可以是预先已经存储在发送端节点(指发送模型信息的一方)中,也可以是在确定接收端节点的所需的模型信息后,由具有模型训练能力的发送端节点根据其需求训练得到的。模型信息可以是整个模型也可以是所需模型的一个或多个模型切片,在确定了接收端节点所需的模型信息后,首先查询接收端节点周边的节点是否存在这些模型信息,优先选择周边的节点直接向接收端节点传输模型信息,这样可以有效地降低网络负载。在周边节点不存在所需模型信息时,***查询远端节点是否存在模型信息,如果远端节点存储有该模型信息,则计算出接收端节点与远端节点之间的至少一条传输路径来传输模型信息。需要说明的是,本实施例中的周边节点是指与接收端节点直接连接的节点,即两者传输信息可以直接传输,无需通过中继节点;远端节点是指没有与接收端节点直接连接的节点,远端节点和接收端节点之间需要通过一个或多个中继节点进行信息传输。
示例性地,网络中的接收端节点寻找所需模型时,优先选择与其直连的节点进行交互。例如图2所示,节点D现存储有模型切片1-7,现需要模型切片8、模型切片9、模型切片10,其中,节点D可以从与其直连的节点C中获得模型切片8,从与其直连的节点E中可以获得模型切片9,但与其直连的节点C和节点E中都不存在模型切片10,而远端节点A和节点F中存在模型切片10,则可以由节点A经由中继节点B、C将模型切片10传输给节点D,也可以由节点F经由中继节点C传输给D节点。需要说明的是,存储有目标模型信息的远端节点可以包括一个或多个,且每个远端节点与接收端节点之间形成的传输路径可以是一个或多个,也就是远端节点可以选择不同的中继节点形成不同的传输路径,并且可以同时利用一个或多个传输路径进行传输。
作为可选的实施方式,如图3所示,在步骤S106中,通过传输路径将远端节点的模型信息传输至接收端节点之前还包括:响应于传输路径为多个,计算多个传输路径向接收端节点传输模型信息的传输代价,并选择传输代价最小的传输路径传输模型信息。
具体地,当***选择远端节点作为发送端节点向接收端节点传输模型信息时,由于可能存在多个远端节点,或者每个远端节点和接收端节点之间存在多个中继节点,可能计算出多个传输路径。因此,***需要进一步计算每个传输路径传输目标模型信息所需的传输代价,尽可能选择代价较小的传输路径来传输模型信息,以提升通信效率。例如图2所示,假设节点D目前需要的模型信息是模型切片10,既可以由节点A经由中继节点B、C将模型切片10传输给节点D,也可以由节点F经由中继节点C传输给D节点,此时计算两个传输路径的传输代价,选择传输代价较小的传输路径进行传输,若计算得到传输路径F-C-D代价函数值较小(图2中虚线所示),则选择该传输路径,并记录此时代价函数值、中继节点个数及模型传播路径。
需要说明的是,上述计算传输代价的因素包括但不限于传输时延,和/或传输能耗,和/或通信服务需求,和/或中继节点的计算量。计算传输代价考虑的因素可以是上述任意一种因素或多种因素的结合。例如,通过计算每个传输路径的传输时延,若传输路径F-C-D的传输时延小于传输路径A-B-C-D,那么选择传输路径F-C-D传输模型信息。此外,也可以根据传输能耗、通信服务需求以及中继节点的计算量等方面考虑,综合选择代价最小的传输路径。传输代价的考量因素不限于上述因素,还可以考量各中继节点的稳定性、当前的工作状态等等。
本发明还提供了一种模型传输装置,如图4所示,包括:
模型确定模块401,用于确定接收端节点所需的模型信息;
节点查询模块402,用于查询与接收端节点直接连接的周边节点是否存储其所需的模型信息;
模型传输模块403,响应于周边节点存储所需的模型信息,以一个或多个存储有模型信息的周边节点作为发送端节点直接向接收端节点发送模型信息;
节点查询模块402响应于周边节点没有存储所需的模型信息,继续查询存储有模型信息的远端节点;
路径规划模块404,用于将存储有模型信息的远端节点作为发送端节点,并确定远端节点与接收端节点之间的中继节点形成的传输路径;
模型传输模块403通过传输路径将远端节点的模型信息传输至接收端节点。
具体地,本实施例中模型确定模块401确定的接收端节点(指接收模型信息的一方)所需的模型信息可以是预先已经存储在发送端节点(指发送模型信息的一方)中,也可以是在确定接收端节点的所需的模型信息后,由具有模型训练能力的发送端节点根据其需求训练得到的。模型信息可以是整个模型也可以是所需模型的一个或多个模型切片,在确定了接收端节点所需的模型信息后,节点查询模块402首先查询接收端节点周边的节点是否存在这些模型信息,模型传输模块403优先选择周边的节点直接向接收端节点传输模型信息,这样可以有效地降低网络负载。在周边节点不存在所需模型信息时,节点查询模块402继续查询远端节点是否存在模型信息,如果远端节点存储有该模型信息,路径规划模块404则计算出接收端节点与远端节点之间的至少一条传输路径,模型传输模块403通过该传输路径来传输模型信息。需要说明的是,本实施例中的周边节点是指与接收端节点直接连接的节点,即两者传输信息可以直接传输,无需通过中继节点;远端节点是指没有与接收端节点直接连接的节点,远端节点和接收端节点之间需要通过一个或多个中继节点进行信息传输。
示例性地,如图2所示,节点D现存储有模型切片1-7,现需要模型切片8、模型切片9、模型切片10,其中,节点D可以从与其直连的节点C中获得模型切片8,从与其直连的节点E中可以获得模型切片9,但与其直连的节点C和节点E中都不存在模型切片10,而远端节点A和节点F中存在模型切片10,则可以由节点A经由中继节点B、C将模型切片10传输给节点D,也可以由节点F经由中继节点C传输给D节点。需要说明的是,存储有目标模型信息的远端节点可以包括一个或多个,且每个远端节点与接收端节点之间形成的传输路径可以是一个或多个,也就是远端节点可以选择不同的中继节点形成不同的传输路径,并且可以同时利用一个或多个传输路径进行传输。
作为可选的实施方式,如图5所示,模型传输装置还包括:计算模块405,通过传输路径将远端节点的模型信息传输至接收端节点之前还包括:响应于传输路径为多个,计算多个传输路径向接收端节点传输模型信息的传输代价,并选择传输代价最小的传输路径传输模型信息。
具体地,当***选择远端节点作为发送端节点向接收端节点传输模型信息时,由于可能存在多个远端节点,或者每个远端节点和接收端节点之间存在多个中继节点,可能计算出多个传输路径。因此,***需要进一步计算每个传输路径传输目标模型信息所需的传输代价,尽可能选择代价较小的传输路径来传输模型信息,以提升通信效率。例如图2所示,假设节点D目前需要的模型信息是模型切片10,既可以由节点A经由中继节点B、C将模型切片10传输给节点D,也可以由节点F经由中继节点C传输给D节点,此时计算两个传输路径的传输代价,选择传输代价较小的传输路径进行传输,若计算得到传输路径F-C-D代价函数值较小(图2中虚线所示),则选择该传输路径,并记录此时代价函数值、中继节点个数及模型传播路径。
需要说明的是,上述计算传输代价的因素包括但不限于传输时延,和/或传输能耗,和/或通信服务需求,和/或中继节点的计算量。计算传输代价考虑的因素可以是上述任意一种因素或多种因素的结合。例如,通过计算每个传输路径的传输时延,若传输路径F-C-D的传输时延小于传输路径A-B-C-D,那么选择传输路径F-C-D传输模型信息。此外,也可以根据传输能耗、通信服务需求以及中继节点的计算量等方面考虑,综合选择代价最小的传输路径。传输代价的考量因素不限于上述因素,还可以考量各中继节点的稳定性、当前的工作状态等等。
根据本发明的实施例,本发明还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
具体地,电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
设备包括计算单元,其可以根据存储在只读存储器(ROM)中的计算机程序或者从存储单元加载到随机访问存储器(RAM)中的计算机程序,来执行各种适当的动作和处理。在RAM中,还可存储设备操作所需的各种程序和数据。计算单元、ROM以及RAM通过总线彼此相连。输入/输出(I/O)接口也连接至总线。
设备中的多个部件连接至I/O接口,包括:输入单元,例如键盘、鼠标等;输出单元,例如各种类型的显示器、扬声器等;存储单元,例如磁盘、光盘等;以及通信单元,例如网卡、调制解调器、无线通信收发机等。通信单元允许设备通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元执行上文所描述的各个方法和处理,例如上述实施例中的模型传输方法。例如,在一些实施例中,模型传输方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元。在一些实施例中,计算机程序的部分或者全部可以经由ROM和/或通信单元而被载入和/或安装到设备上。当计算机程序加载到RAM并由计算单元执行时,可以执行上文描述的模型传输方法的一个或多个步骤。备选地,在其他实施例中,计算单元可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行模型传输方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的模型传输方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (13)
1.一种模型传输方法,其特征在于,包括:
确定接收端节点所需的模型信息;
查询与所述接收端节点直接连接的周边节点是否存储其所需的所述模型信息;
响应于所述周边节点存储所需的所述模型信息,以一个或多个存储有所述模型信息的所述周边节点作为发送端节点直接向所述接收端节点发送所述模型信息;
响应于所述周边节点没有存储所需的所述模型信息,继续查询存储有所述模型信息的远端节点;
将存储有所述模型信息的所述远端节点作为所述发送端节点,并确定所述远端节点与所述接收端节点之间的中继节点形成的传输路径;
通过所述传输路径将所述远端节点的所述模型信息传输至所述接收端节点。
2.根据权利要求1所述的模型传输方法,其特征在于,所述查询存储有所述模型信息的所述远端节点包括一个或多个,且每个所述远端节点与所述接收端节点之间形成的所述传输路径为一个或多个。
3.根据权利要求2所述的模型传输方法,其特征在于,响应于所述传输路径为多个,在传输所述模型信息之前,计算多个所述传输路径向所述接收端节点传输所述模型信息的传输代价,并选择所述传输代价最小的所述传输路径传输所述模型信息。
4.根据权利要求3所述的模型传输方法,其特征在于,计算所述传输代价的因素包括传输时延,和/或传输能耗,和/或通信服务需求,和/或所述中继节点的计算量。
5.根据权利要求1-4中任一所述的模型传输方法,其特征在于,所述模型信息包括模型或模型切片。
6.一种模型传输装置,其特征在于,包括:
模型确定模块,用于确定接收端节点所需的模型信息;
节点查询模块,用于查询与所述接收端节点直接连接的周边节点是否存储其所需的所述模型信息;
模型传输模块,响应于所述周边节点存储所需的所述模型信息,以一个或多个存储有所述模型信息的所述周边节点作为发送端节点直接向所述接收端节点发送所述模型信息;
所述节点查询模块响应于所述周边节点没有存储所需的所述模型信息,继续查询存储有所述模型信息的远端节点;
路径规划模块,用于将存储有所述模型信息的所述远端节点作为所述发送端节点,并确定所述远端节点与所述接收端节点之间的中继节点形成的传输路径;
所述模型传输模块通过所述传输路径将所述远端节点的所述模型信息传输至所述接收端节点。
7.根据权利要求6所述的模型传输装置,其特征在于,所述节点查询模块查询存储有所述模型信息的所述远端节点包括一个或多个,且每个所述远端节点与所述接收端节点之间形成的所述传输路径为一个或多个。
8.根据权利要求7所述的模型传输装置,其特征在于,还包括:
计算模块,用于响应于所述路径规划模块确定的所述传输路径为多个,在所述模型传输模块传输所述模型信息之前,计算多个所述传输路径向所述接收端节点传输所述模型信息的传输代价,并选择所述传输代价最小的所述传输路径传输所述模型信息。
9.根据权利要求8所述的模型传输装置,其特征在于,所述计算模块计算所述传输代价的因素包括传输时延,和/或传输能耗,和/或通信服务需求,和/或所述中继节点的计算量。
10.根据权利要求6-9中任一所述的模型传输装置,其特征在于,所述模型信息包括模型或模型切片。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的模型传输方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的模型传输方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的模型传输方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210067064.8A CN116527498A (zh) | 2022-01-20 | 2022-01-20 | 模型传输方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210067064.8A CN116527498A (zh) | 2022-01-20 | 2022-01-20 | 模型传输方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116527498A true CN116527498A (zh) | 2023-08-01 |
Family
ID=87396352
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210067064.8A Pending CN116527498A (zh) | 2022-01-20 | 2022-01-20 | 模型传输方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116527498A (zh) |
-
2022
- 2022-01-20 CN CN202210067064.8A patent/CN116527498A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111277511B (zh) | 传输速率控制方法、装置、计算机***及可读存储介质 | |
CN112966200A (zh) | 一种服务降级方法和渲染服务器 | |
CN112770358B (zh) | 基于业务数据的多速率模式数据发送控制方法及装置 | |
CN116527498A (zh) | 模型传输方法、装置、电子设备及存储介质 | |
CN115567602A (zh) | Cdn节点回源方法、设备及计算机可读存储介质 | |
CN116827782A (zh) | 模型切换方法、装置、电子设备及存储介质 | |
CN110933122A (zh) | 管理服务器的方法、设备和计算机存储介质 | |
CN115016955A (zh) | 一种多应用间信息共享的方法和装置 | |
CN114612212A (zh) | 一种基于风险控制的业务处理方法、装置和*** | |
CN116614383A (zh) | 模型更新方法、装置、电子设备及存储介质 | |
CN113568706A (zh) | 针对业务的容器调整方法、装置、电子设备和存储介质 | |
CN116996481B (zh) | 直播数据获取方法、装置、电子设备和存储介质 | |
CN113285833B (zh) | 用于获取信息的方法和装置 | |
CN117221127A (zh) | 一种在通信网端侧使用人工智能服务的方法及其装置 | |
CN115086300B (zh) | 一种视频文件调度方法和装置 | |
CN116614402A (zh) | 模型传输方法、装置、电子设备及存储介质 | |
CN116614367A (zh) | 一种终端设备的编组方法和模型更新方法 | |
CN116527497A (zh) | 模型管理方法、装置、组网架构、电子设备及存储介质 | |
CN116527510A (zh) | 模型传输方法、装置、电子设备及可读存储介质 | |
CN116738644A (zh) | 模型分发方法、装置、电子设备及可读存储介质 | |
CN115600671B (zh) | 深度学习框架的数据处理方法、装置、设备和存储介质 | |
CN116781515A (zh) | 模型和模型切片更新的方法、装置以及电子设备 | |
CN116938996A (zh) | 元宇宙环境下用户加载模型的方法、装置以及设备 | |
CN116541836A (zh) | 恶意模型溯源的方法、装置、设备以及存储介质 | |
CN116546586A (zh) | 基于网络物理层安全的数据传输方法、***、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |