CN113162871A - 数据传输方法、数据传输电路和人工智能芯片 - Google Patents

数据传输方法、数据传输电路和人工智能芯片 Download PDF

Info

Publication number
CN113162871A
CN113162871A CN202110437721.9A CN202110437721A CN113162871A CN 113162871 A CN113162871 A CN 113162871A CN 202110437721 A CN202110437721 A CN 202110437721A CN 113162871 A CN113162871 A CN 113162871A
Authority
CN
China
Prior art keywords
priority
message
sending
low
messages
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110437721.9A
Other languages
English (en)
Inventor
李国�
岑远军
胡参
臧文羽
谢休华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Sino Microelectronics Technology Co ltd
Original Assignee
Chengdu Sino Microelectronics Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Sino Microelectronics Technology Co ltd filed Critical Chengdu Sino Microelectronics Technology Co ltd
Priority to CN202110437721.9A priority Critical patent/CN113162871A/zh
Publication of CN113162871A publication Critical patent/CN113162871A/zh
Priority to US17/726,477 priority patent/US20220345433A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/50—Queue scheduling
    • H04L47/62—Queue scheduling characterised by scheduling criteria
    • H04L47/625—Queue scheduling characterised by scheduling criteria for service slots or service orders
    • H04L47/6275—Queue scheduling characterised by scheduling criteria for service slots or service orders based on priority
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/226—Delivery according to priorities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/50—Queue scheduling
    • H04L47/62—Queue scheduling characterised by scheduling criteria
    • H04L47/6215—Individual queue per QOS, rate or priority
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00—Packet switching elements
    • H04L49/90—Buffering arrangements
    • H04L49/9057—Arrangements for supporting packet reassembly or resequencing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Communication Control (AREA)

Abstract

数据传输方法、数据传输电路和人工智能芯片，涉及通信技术和集成电路技术。本发明的数据传输方法包括下述步骤：a、发送方识别待发送报文的优先级，若为高优先级则封装后送入高优先级发送队列并进入步骤c，若为低优先级则进入步骤b；b、对低优先级报文进行切片，然后对切片进行逐一封装，然后送入低优先级发送队列，并进入步骤c；c、优先发送高优先级发送队列中的报文包；d、对接收到的报文，接收方依据其封装信息进行分类，若为高优先级则送入高优先级队列，若为低优先级则送入低优先级队列进行重组。本发明显著减少了低优先级报文对高优先级报文的阻塞，保证了高优先级报文的传输速度。

Description

数据传输方法、数据传输电路和人工智能芯片
技术领域
本发明涉及通信技术和集成电路技术。
背景技术
由于人工智能算法的特点，在人工智能芯片中，需要传输大量的数据，通常 而言，采用NoC(片上网络)是一种较常见的方法。在NoC中，根据传输数据类型 的不同，可以将传输的数据划分为不同的业务，各种业务报文共享传输网络带宽， 在传输网络中，会将业务分为延时敏感和延时非敏感两类，延时敏感业务称为高 优先级业务，延时非敏感业务称为低优先级业务，由于业务多样性，因此报文的 长度也会不同。在共享传输节点，可能存在低优先级长报文阻塞高优先级的短报 文，导致高优先级报文传输延时增加。
发明内容
本发明所要解决的技术问题是，提供一种数据传输方法和数据传输电路，能 够妥善解决高优先级数据延迟的问题。
本发明所要解决的第二个技术问题是，提供一种人工智能芯片，具有更快的 处理速度。
本发明解决所述技术问题采用的技术方案是，数据传输方法，其特征在于， 包括下述步骤：
a、发送方识别待发送报文的优先级，若为高优先级则封装后送入高优先级 发送队列并进入步骤c，若为低优先级则进入步骤b；
b、对低优先级报文进行切片，然后对切片进行逐一封装，然后送入低优先 级发送队列，并进入步骤c；
c、优先发送高优先级发送队列中的报文包；
d、对接收到的报文，接收方依据其封装信息进行分类，若为高优先级则送 入高优先级队列，若为低优先级则送入低优先级队列进行重组。
进一步的，所述步骤b中的切片为按照预设的长度切片。
本发明还提供一种数据传输电路，包括数据发送模块和数据接收模块，其特 征在于，
所述数据发送模块包括下述部分：
报文识别单元，用于依据待发送报文数据的优先级将报文送入对应的封装单 元；
低优先级报文封装单元，用于对低优先级报文进行切片，并分别封装报文切 片，然送入低优先级发送队列；
高优先级报文封装单元，用于封装高优先级报文，然送入高优先级发送队列；
报文发送单元，用于发送高优先级发送队列和低优先级发送队列中的报文， 并且优先处理高优先级发送队列；
所述数据接收模块包括：
报文解析分发单元，用于解封接收到的报文，并依据报文的优先级将报文送 入对应的报文处理单元；
低优先级报文接收单元，用于接收解封后的低优先级报文切片，并对切片进 行重组还原；
高优先级报文接收单元，用于接收解封后的高优先级报文。
本发明还提供带有上述数据传输电路的人工智能芯片。
本发明的有益效果是，显著减少了低优先级报文对高优先级报文的阻塞，保 证了高优先级报文的传输速度，应用于人工智能芯片，提高了芯片的关键处理速 度。
附图说明
图1是高低优先级报文阻赛延时示意图。
图2是本发明的方法示意图。
图3是9600Byte不同速率结果示意图。
图4是50Mbps不同包长结果示意图。
图5是发送侧架构示意图。
图6是接收侧架构示意图。
图7是接收侧枕帧头同步状态机示意图。
具体实施方式
本发明的要点是，将低优先级报文在调度时刻进行切片，减少高优先级报文 的阻塞时间。
本发明的数据传输方法包括下述步骤：
a、发送方识别待发送报文的优先级，若为高优先级则封装后送入高优先级 发送队列并进入步骤c，若为低优先级则进入步骤b；
b、对低优先级报文进行切片，然后对切片进行逐一封装，然后送入低优先 级发送队列，并进入步骤c；
c、优先发送高优先级发送队列中的报文包；
d、对接收到的报文，接收方依据其封装信息进行分类，若为高优先级则送 入高优先级队列，若为低优先级则送入低优先级队列进行重组。
本发明还提供一种数据传输电路，包括数据发送模块和数据接收模块，所述 数据发送模块包括下述部分：
报文识别单元，用于依据待发送报文数据的优先级将报文送入对应的封装单 元；
低优先级报文封装单元，用于对低优先级报文进行切片，并分别封装报文切 片，然送入低优先级发送队列；
高优先级报文封装单元，用于封装高优先级报文，然送入高优先级发送队列；
报文发送单元，用于发送高优先级发送队列和低优先级发送队列中的报文， 并且优先处理高优先级发送队列；
所述数据接收模块包括：
报文解析分发单元，用于解封接收到的报文，并依据报文的优先级将报文送 入对应的报文处理单元；
低优先级报文接收单元，用于接收解封后的低优先级报文切片，并对切片进 行重组还原；
高优先级报文接收单元，用于接收解封后的高优先级报文。
本发明还提供带有上述数据传输电路的人工智能芯片。
图1示出了未作切片的场景，假设网络传送带宽为500Mbps，如果低优先级 报文比高优先级报文提前1ns到达调度器，则会被先调度出来，此时高优先级报 文需要等待被调出选中的低优先级报文传输完成才能被调度传输。一个9600Byte 的低优先级报文在500Mbps的传输带下，需要153.6us才能传输完成，意味着高 优先级报文会被阻塞153.6us。
实施例1
本实施例将长度较长的低优先级报文按照128Byte粒度进行切片，则高优先 级报文在此场景下最多被阻塞128Byte报文的传输时间，即2.048us。因此对低 优先级报文采用切片方式进行传输，可以极大减少低优先级报文对高优先级报文 的阻塞。
采用切片技术后，为保证通信双方能够正确识别切片在原始报文中的位置， 需要在封装头的数据结构中标注相关信息(例如位置、序号等)，以便在接收方 对于切片报文进行重组。
如图2所示，本实施例在发送方对低优先级报文进行切片，封装切片头(数 据包头)后进行调度，其中，对于低优先级报文切片头长度是4Byte，高优先级 报文数据包头长度为2Byte。
在数据接收方，按照报文数据包头的数据格式，对报文进行同步后，解析数 据包头，并根据优先级指示分别分发到高优先级队列和低优先级队列，对于低优 先级队列报文进行重组。
高优先级报文封装头(即数据包头)数据结构如表1所示。
表1
Figure BDA0003033717850000041
低优先级优先级报文切片封装头(数据包头)数据结构如表2所示。
表2
Figure BDA0003033717850000051
对低优先级包长9600包长场景，在14Mbps,28Mbps,50Mbps以及100Mbps 场景下，非切片方案和切片方案的低优先级报文对高优先级报文的阻塞传输延时 差异如图3所示。测试结果显示，在最高100Mbps场景下，切片后仍然由100us 的延时收益。
考虑典型50Mbps传输速率下，在1500Byte,600Byte,300Byte以及64Byte场 景下，非切片方案和切片方案的低优先级报文对高优先级报文的阻塞传输延时差 异如图4所示。在最高64Byte场景下，切片和非切片没有差异，300Byte场景， 仍然有4us的延时收益。
实施例2
本实施例提供了更具体的技术细节。
发送侧整体实施方案如图5所示。报文进入发送方(发送侧)后，根据高低 优先级属性分别进入高低优先级队列，通过高低优先级FIFO实现，在存储数据 同时，将高低优先级报文长度信息分别记录在独立的两个长度信息FIFO队列。 对于高优先级报文，可以直接参与调度，对于低优先级报文，则需要进行切片后 才能参与低度，调度采用SP(绝对优先级)方式，即只要有高优先级报文，则 调度高优先级报文出队。调度完成后，根据调度结果，选择高优先级或者低优先 级报文数据出队，同时，对出队报文进行封装后发送出去。
切片处理通过一个slice_len_cnt累减器进行记录，在从低优先级的包长度信 息FIFO读出一个包的长度信息pkt_len后，将其作为初始值赋值给slice_len_cnt， 后续在每个Cycle减去一个128，直到长度小于128为止，并同时产生对应切片 封装头信息。对应RTL实现如下所示：
Figure BDA0003033717850000061
切片头封装：根据报文属性，对齐进行高优先或者低优先级切片头封装，由 于封装头是在原始报文基础上增加的数据，因此需要对传输数据进行拼接，采用 移位寄存器方式完成。其RTL实现，如下所示：
Figure BDA0003033717850000062
Figure BDA0003033717850000071
接收侧整体实施方案如图6所示。报文进入发送侧模块后，先入队，等待处 理,首先对接收报文进行同步处理，完成3个报文的同步后，才算真正进入同步 状态，完成同步后，对数据包头进行解析，得到切片相关信息。
同步处理通过状态机完成,如图7所示。需要完成3才同步后，才能确定进 入同步状态，同时在同步状态也是在每个切片校验同步头，如果存在失步，则需 要重新进行同步。
同步头正确sync_ok信号和同步头失步sync_nok产生的RTL实现如下所示：
Figure BDA0003033717850000072
Figure BDA0003033717850000081
切片的数据包头解析主要完成切片头域信息pri,seg,sn，len的解析，其RTL 代码实现，如下所示：
Figure BDA0003033717850000082
切片数据包解封装，完成切片头的剥离，数据的重整性，其RTL代码实现， 如下所示：
Figure BDA0003033717850000083
Figure BDA0003033717850000091
说明书已经充分说明本发明的必要技术内容，普通技术人员完全能够据此实 施，对于更详细的技术细节不再赘述。

Claims (4)

1.数据传输方法，其特征在于，包括下述步骤：
a、发送方识别待发送报文的优先级，若为高优先级则封装后送入高优先级发送队列并进入步骤c，若为低优先级则进入步骤b；
b、对低优先级报文进行切片，然后对切片进行逐一封装，然后送入低优先级发送队列，并进入步骤c；
c、优先发送高优先级发送队列中的报文包；
d、对接收到的报文，接收方依据其封装信息进行分类，若为高优先级则送入高优先级队列，若为低优先级则送入低优先级队列进行重组。
2.如权利要求1所述的数据传输方法，其特征在于，所述步骤b中的切片为按照预设的长度切片。
3.数据传输电路，包括数据发送模块和数据接收模块，其特征在于，
所述数据发送模块包括下述部分：
报文识别单元，用于依据待发送报文数据的优先级将报文送入对应的封装单元；
低优先级报文封装单元，用于对低优先级报文进行切片，并分别封装报文切片，然送入低优先级发送队列；
高优先级报文封装单元，用于封装高优先级报文，然送入高优先级发送队列；
报文发送单元，用于发送高优先级发送队列和低优先级发送队列中的报文，并且优先处理高优先级发送队列；
所述数据接收模块包括：
报文解析分发单元，用于解封接收到的报文，并依据报文的优先级将报文送入对应的报文处理单元；
低优先级报文接收单元，用于接收解封后的低优先级报文切片，并对切片进行重组还原；
高优先级报文接收单元，用于接收解封后的高优先级报文。
4.人工智能芯片，具有数据传输电路，其特征在于，所述数据传输电路包括数据发送模块和数据接收模块；
所述数据发送模块包括下述部分：
报文识别单元，用于依据待发送报文数据的优先级将报文送入对应的封装单元；
低优先级报文封装单元，用于对低优先级报文进行切片，并分别封装报文切片，然送入低优先级发送队列；
高优先级报文封装单元，用于封装高优先级报文，然送入高优先级发送队列；
报文发送单元，用于发送高优先级发送队列和低优先级发送队列中的报文，并且优先处理高优先级发送队列；
所述数据接收模块包括：
报文解析分发单元，用于解封接收到的报文，并依据报文的优先级将报文送入对应的报文处理单元；
低优先级报文接收单元，用于接收解封后的低优先级报文切片，并对切片进行重组还原；
高优先级报文接收单元，用于接收解封后的高优先级报文。
CN202110437721.9A 2021-04-22 2021-04-22 数据传输方法、数据传输电路和人工智能芯片 Pending CN113162871A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110437721.9A CN113162871A (zh) 2021-04-22 2021-04-22 数据传输方法、数据传输电路和人工智能芯片
US17/726,477 US20220345433A1 (en) 2021-04-22 2022-04-21 Data transmission circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110437721.9A CN113162871A (zh) 2021-04-22 2021-04-22 数据传输方法、数据传输电路和人工智能芯片

Publications (1)

Publication Number Publication Date
CN113162871A true CN113162871A (zh) 2021-07-23

Family

ID=76869581

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110437721.9A Pending CN113162871A (zh) 2021-04-22 2021-04-22 数据传输方法、数据传输电路和人工智能芯片

Country Status (2)

Country Link
US (1) US20220345433A1 (zh)
CN (1) CN113162871A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113923171A (zh) * 2021-08-26 2022-01-11 江苏智臻能源科技有限公司 一种基于负荷辨识检测平台的通信管理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1536820A (zh) * 2003-04-09 2004-10-13 华为技术有限公司 提高网络拥塞时数据传输性能的方法
CN101369962A (zh) * 2007-08-13 2009-02-18 华为技术有限公司 转发报文的方法和网络设备
CN102025638A (zh) * 2010-12-21 2011-04-20 福建星网锐捷网络有限公司 基于优先级的数据传输方法、装置及网络设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7586918B2 (en) * 2004-09-22 2009-09-08 Cisco Technology, Inc. Link fragment interleaving with fragmentation preceding queuing
US11381404B2 (en) * 2018-11-09 2022-07-05 Microsoft Technology Licensing, Llc Trusted platform module attestation flow over simple authentication and security layer with multiple symmetric key identification

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1536820A (zh) * 2003-04-09 2004-10-13 华为技术有限公司 提高网络拥塞时数据传输性能的方法
CN101369962A (zh) * 2007-08-13 2009-02-18 华为技术有限公司 转发报文的方法和网络设备
CN102025638A (zh) * 2010-12-21 2011-04-20 福建星网锐捷网络有限公司 基于优先级的数据传输方法、装置及网络设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113923171A (zh) * 2021-08-26 2022-01-11 江苏智臻能源科技有限公司 一种基于负荷辨识检测平台的通信管理方法
CN113923171B (zh) * 2021-08-26 2024-02-06 江苏智臻能源科技有限公司 一种基于负荷辨识检测平台的通信管理方法

Also Published As

Publication number Publication date
US20220345433A1 (en) 2022-10-27

Similar Documents

Publication Publication Date Title
CN110798415B (zh) 一种业务传输的方法、设备及计算机存储介质
CN111201748B (zh) 发送和接收时钟同步报文的方法和装置
US20240214323A1 (en) Packet transmission method and apparatus
US7860125B2 (en) Flexible time stamping
CN108521343B (zh) 一种oam报文的处理方法及装置
US20050207436A1 (en) Switching device based on aggregation of packets
US6477168B1 (en) Cell/frame scheduling method and communications cell/frame scheduler
CN110870285B (zh) 在具有部分实时需求的数据网络中高性能数据传输的方法和执行该方法的装置
CN114465961B (zh) 一种兼容性网络高实时数据传输装置及方法
EP1639770A1 (en) Method and system for open-loop congestion control in a system fabric
JP2012533266A (ja) 周期的ギャップを使用したタイムスタンプパケットの確定的配置
EP3968586B1 (en) Packet processing method and related apparatus
CN113366805A (zh) 报文调度方法、调度器、网络设备和网络***
CN109951750B (zh) 基于FlexE一层交叉架构的数据处理方法及***
TWI756666B (zh) 在封包交換網路中藉由通訊實體之電腦手段實施之方法、及其電腦程式及電腦可讀取之非暫時性記錄媒體、以及封包交換網路之通訊實體
CN113162871A (zh) 数据传输方法、数据传输电路和人工智能芯片
US11711304B2 (en) Packet switch and packet period determination method
CN111917458A (zh) 一种基于ccsds规范的空间数据处理节点装置
CN115603843A (zh) 出站分组的准确加时间戳
CN109150350B (zh) 设备延时补偿方法、***及存储介质
WO2024045832A1 (zh) 队列调度方法及装置
US12034653B2 (en) Packet processing method and related devices
Suethanuwong et al. Searching of best-effort messages in TTEthemet switches during the timely blocking intervals
Bux Chapter 5 Performance issues
US20240205309A1 (en) Method and architecture for scalable open radio access network (o-ran) fronthaul traffic processing

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210723

RJ01 Rejection of invention patent application after publication