CN108388532A - 可配置硬件算力的ai运算加速板卡及其处理方法、服务器 - Google Patents

可配置硬件算力的ai运算加速板卡及其处理方法、服务器 Download PDF

Info

Publication number
CN108388532A
CN108388532A CN201810205680.9A CN201810205680A CN108388532A CN 108388532 A CN108388532 A CN 108388532A CN 201810205680 A CN201810205680 A CN 201810205680A CN 108388532 A CN108388532 A CN 108388532A
Authority
CN
China
Prior art keywords
accelerate
board
chip
processing chip
interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810205680.9A
Other languages
English (en)
Inventor
陈鹏飞
桂文明
李超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing suneng Technology Co.,Ltd.
Original Assignee
Feng Feng Technology (beijing) Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Feng Feng Technology (beijing) Co Ltd filed Critical Feng Feng Technology (beijing) Co Ltd
Priority to CN201810205680.9A priority Critical patent/CN108388532A/zh
Publication of CN108388532A publication Critical patent/CN108388532A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/382—Information transfer, e.g. on bus using universal interface adapter
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/40—Bus structure
    • G06F13/4004—Coupling between buses
    • G06F13/4027—Coupling between buses using bus bridges
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/42—Bus transfer protocol, e.g. handshake; Synchronisation
    • G06F13/4282—Bus transfer protocol, e.g. handshake; Synchronisation on a serial bus, e.g. I2C bus, SPI bus

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Multi Processors (AREA)

Abstract

本发明实施例公开了一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器，其包括PCIE接口、接口桥接电路、至少一个AI加速处理芯片和至少一个电源管理芯片，其中，所述AI加速处理芯片的数量是可配置的。本发明实施例通过定制化的AI加速处理芯片的接口设计和AI运算加速板卡的***架构创新，将传统加速板卡上固定的处理芯片数量变为可配置的，使得每个AI运算加速板卡的算力是可配置的，用户可根据实际运算需求选择对应算力的板卡，极大地提升了AI运算加速板卡的使用灵活度，降低了硬件成本，提高了器件利用率。

Description

可配置硬件算力的AI运算加速板卡及其处理方法、服务器
技术领域
本发明涉及计算机集成电路技术领域，特别是涉及一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器。
背景技术
随着互联网和信息行业的快速发展，各种声音、图像、视频数据均呈井喷式的发展，大数据处理已经逐步取代传统的人工数据处理，而人工智能(简称AI)技术的应用使得大数据分析处理能力得到再一次飞跃。
深度学习技术引发了人工智能应用的高速发展，引领人类由信息时代进入智能时代。深度学习本质是一种机器学习技术，需要强大的硬件计算能力，来完成复杂的数据处理和运算。对于如此庞大的数据处理和运算，现有的人工智能解决方案中，采用专用的AI加速处理芯片执行深度学习运算，但是即使单个超高性能的AI加速处理芯片，其处理能力也远远达不到运算需求。为了满足大规模数据的处理需求，技术人员开始使用多个AI加速处理芯片组成计算集群来构建AI运算加速板卡，并通过高速接口(如***组件快速互连PCIE接口)与主机CPU通信连接，从而构成深度学习服务器***，极大地提升了深度学习的运算处理能力。
现有方案中，AI运算加速板卡所搭载的AI加速处理芯片数量是固定的，这导致一块AI运算加速板卡的算力也是固定的。若需要对服务器的算力进行配置，就需要在服务器主板上插接多块板卡，如公开号为CN107329926A的中国发明专利申请。但是，一般用户在配置PC机或服务器时，其主板上的高速接口插槽(PCIE接口)的数量是有限的，导致用户不能根据实际使用场景灵活配置服务器***的算力，从而导致服务器硬件资源浪费或***算力不足，无法满足实际的运算处理需求。
发明内容
为了解决上述问题，根据本发明的一个方面，提出一种可配置硬件算力的AI运算加速板卡，该AI运算加速板卡包括：
PCIE接口，用于连接主机的PCIE插槽；
接口桥接电路，用于将PCIE接口转换为与AI加速处理芯片适配的Serdes接口；
至少一个AI加速处理芯片，用于执行AI运算加速处理，所述AI加速处理芯片包括第一Serdes接口和第二Serdes接口；
至少一个电源管理芯片，用于对所述至少一个AI加速处理芯片分别进行供电；
其中，所述AI加速处理芯片的数量是可配置的，当所述AI加速处理芯片为多个时，多个AI加速处理芯片通过第一Serdes接口和第二Serdes接口依次级联。
在一些实施方式中，当所述AI加速处理芯片为一个时，所述AI加速处理芯片通过第一Serdes接口与接口桥接电路进行通信连接。
在一些实施方式中，当所述AI加速处理芯片为多个时，所述AI加速处理芯片通过第二Serdes接口与下一级AI加速处理芯片进行通信连接。
在一些实施方式中，所述AI运算加速板卡的各部件承载于一PCB载板。
在一些实施方式中，所述PCIE接口还用于接收主机CPU发送的数据，并转发给接口桥接电路。
在一些实施方式中，所述接口桥接电路还用于将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给所述AI加速处理芯片进行处理。
在一些实施方式中，所述AI加速处理芯片对所述待运算数据进行处理包括对所述待运算数据进行深度学习计算。
在一些实施方式中，所述AI加速处理芯片包括ASIC处理芯片。
在一些实施方式中，所述AI加速处理芯片包括张量处理单元TPU。
在一些实施方式中，所述接口桥接电路包括：
PCIE接口模块，用于接收主机CPU发送的数据，并将所述数据转换为并行数据；
AXI总线模块，用于将所述并行数据中的待运算数据分发给芯片链路模块，将所述并行数据中的控制命令分发给控制模块；
芯片链路模块，用于对所述待运算数据进行存取；
转换模块，用于将芯片链路模块存取的并行待运算数据转换为串行数据；
Serdes接口模块，用于将转换后的所述串行数据发送给AI加速处理芯片进行处理；
控制模块，用于接收所述AXI总线模块分发的控制命令，根据所述控制命令对AI加速处理芯片进行控制、调度。
在一些实施方式中，所述接口桥接电路还用于接收所述AI加速处理芯片的运算结果数据，并经由所述PCIE接口发送给主机CPU。
在一些实施方式中，所述至少一个电源管理芯片的数量根据所述至少一个AI加速处理芯片的数量对应配置。
在一些实施方式中，所述至少一个电源管理芯片连接到所述接口桥接电路，所述接口桥接电路还用于控制所述至少一个电源管理芯片对相应的AI加速处理芯片进行供电。
在一些实施方式中，所述接口桥接电路还用于检测所述至少一个电源管理芯片中的故障芯片。
在一些实施方式中，所述至少一个AI加速处理芯片直接焊接在所述PCB载板。
在一些实施方式中，所述至少一个AI加速处理芯片通过专用插座的卡扣固定在所述PCB载板。
根据本发明的另一个方面，提出一种应用于前述任一实施例所述的AI运算加速板卡的运算加速处理方法，包括：
通过PCIE接口接收主机CPU发送的数据；
通过接口桥接电路将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给至少一个AI加速处理芯片进行加速处理；
通过接口桥接电路向主机CPU返回所述至少一个AI加速处理芯片的运算结果数据。
根据本发明的另一个方面，提出一种服务器，包括：
主机，其包括PCIE插槽；以及
连接所述主机的PCIE插槽的前述任一实施例所述的AI运算加速板卡。
本发明实施例通过定制化的AI加速处理芯片的接口设计和AI运算加速板卡的***架构创新，将传统加速板卡上固定的处理芯片数量变为可配置的，使得每个AI运算加速板卡的算力是可配置的，用户可根据实际运算需求选择对应算力的板卡，极大地提升了AI运算加速板卡的使用灵活度，降低了硬件成本，提高了器件利用率。
附图说明
图1是根据本发明一实施例的可配置硬件算力的AI运算加速板卡的结构示意图；
图2是根据本发明一实施例的接口桥接电路的结构示意图；
图3是应用于本发明任一实施例的AI运算加速板卡的运算加速处理方法的流程示意图；
图4是根据本发明一实施例的可配置硬件算力的服务器的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明进一步详细说明。
图1是根据本发明一实施例的可配置硬件算力的AI运算加速板卡100的结构示意图。如图1所示，所述AI运算加速板卡100包括PCIE接口10、接口桥接电路20、N个AI加速处理芯片30以及与所述N个AI加速处理芯片对应的N个电源管理芯片(PMIC)40，N为大于或等于1的整数，其中：
PCIE接口10用于连接主机的PCIE插槽，接收主机CPU发送的数据，并将主机CPU发送的数据发送给接口桥接电路20。同时，PCIE接口10还用于向主机CPU返回AI加速处理芯片30的运算结果数据。
接口桥接电路20用于将PCIE接口转换为与AI加速处理芯片30适配的Serdes接口，将主机发送的数据中的待运算数据转换后经由Serdes接口发送给AI加速处理芯片30进行处理。同时，接口桥接电路20还用于接收AI加速处理芯片30返回的运算结果数据，并经由PCIE接口10传输给主机CPU。
在一些实施方式中，接口桥接电路20还包括对AI运算加速板卡的控制功能，例如对电源管理芯片的上电时序控制、对AI加速处理芯片的控制、调度等。
AI加速处理芯片30用于基于主机CPU发送的待运算数据执行AI运算加速处理，并向接口桥接电路20返回运算结果数据。AI加速处理芯片30分别配置两个Serdes接口，一个Serdes接口用于与上一级AI加速处理芯片或接口桥接电路进行数据通信，另一个Serdes接口用于与下一级AI加速处理芯片进行数据通信。
在一些实施方式中，所述AI加速处理芯片采用ASIC处理芯片实现，所述AI运算包括深度学习计算。
在一些实施方式中，所述AI加速处理芯片还可以采用Google公司的张量处理单元(Tensor Processing Unit，简称TPU)来实现。
电源管理芯片40用于对AI加速处理芯片进行供电，实现电源管理的功能。
在一些实施方式中，电源管理芯片40通过低速串行总线连接到接口桥接电路20，所述接口桥接电路还用于控制所述电源管理芯片对相应的AI加速处理芯片进行供电。
本发明实施例中，一方面，由于AI加速处理芯片和其它AI加速处理芯片之间有大量的数据交换，所以需要采用特殊的数据接口。本发明实施例采用的是串行/解串(Serdes)接口，Serdes接口是一种时分多路复用(TDM)、点对点(P2P)的串行通信技术，即在发送端多路低速并行信号被转换成高速串行信号经传输媒体进行传输，而在接收端高速串行信号重新转换成低速并行信号，这种点对点的串行通信技术充分利用传输媒体的信道容量，能够减少所需的传输信道和器件引脚数目，提升信号的传输速度，大大降低通信成本。具体而言，AI加速处理芯片分别配置两个Serdes接口，一个Serdes接口用于与上一级AI加速处理芯片或接口桥接电路进行数据通信，另一个Serdes接口用于与下一级AI加速处理芯片进行数据通信，AI加速处理芯片将需要传输的大量并行数据通过Serdes接口串行化，再通过AI运算加速板卡的PCB载板上较少的串行走线，将数据进行芯片间的传输。
此外，由于主机(例如PC机或服务器)的CPU通常具备标准PCIE接口，但一般不会配置Serdes接口。为了与AI加速处理芯片的Serdes接口适配，本发明实施例在AI运算加速板卡上配置了一个接口桥接电路，用于把PCIE接口转换成Serdes接口。
通过这样的配置组合，就使得本发明实施例的AI运算加速板卡上承载的AI加速处理芯片的数量是可配置的。图1虚线框中的AI加速处理芯片(30-2，…，30-N)可根据实际运算需求选择全部上件，也可部分上件，亦可全部不上件。这样就实现了对AI运算加速板卡的硬件算力的灵活配置。
另一方面，由于执行AI运算加速处理的AI加速处理芯片对供电要求非常高，通常需要1V以下的低电压、50A以上的大电流，而且电压和电流都需要实时根据负载调整。因此，本发明实施例的AI运算加速板卡没有采用传统PCIE板卡所使用的集中式供电方式，而是采用了分布式的电源布局，即每一颗AI加速处理芯片都配备了独立的电源供电，每一路电源均具有独立的电源管理芯片40(40-1，…，40-N)，所有的电源管理芯片40通过低速串行总线连接到接口桥接电路20，由接口桥接电路20根据PC机或服务器对AI运算算力的需求和工作负载来动态调节每一组AI加速处理芯片的供电。这种架构一是提高了***可靠性，如果某一路电源管理芯片故障，并不影响其他路电源管理芯片的正常运行，并且通过接口桥接电路20的通信，还可以快速定位故障点；二是根据算力配置不同，可以根据配置的AI加速处理芯片数量，来对应地配置电源管理芯片PMIC的数量，降低硬件成本，提高器件利用率。
本发明实施例中，AI运算加速板卡包含的各部件芯片承载于PCB载板。对于AI加速处理芯片的上件，有两种可选的上件方式：
方式一：直接将AI加速处理芯片焊接在PCB载板上。其优点在于接触牢固，缺点是不能实时配置AI运算加速板卡的硬件算力，板卡一旦生产出来，算力就固定了；
方式二：通过专用插座，通过插座的卡扣固定在PCB载板上。其优点是可以随时灵活地按需配置算力，缺点是成本稍高。这两种上件方式可以根据不同的使用场景灵活配置。
图2是根据本发明一实施例的接口桥接电路20的结构示意图。如图2所示，所述接口桥接电路20采用可编程逻辑器件FPGA实现，其包括PCIE接口模块201、AXI总线模块202、芯片链路模块203、转换模块204、Serdes接口模块205和控制模块206。
PCIE接口模块201用于接收主机CPU发送的数据，并将所述数据转换为并行数据。
AXI总线模块202用于对PCIE接口模块201转换后的并行数据进行分发传输，其中待运算数据被分发给芯片链路模块203，控制命令被分发给控制模块206。AXI(AdvancedeXtensible Interface)总线是一种面向高性能、高带宽、低延迟的片内总线。
芯片链路模块203用于对分发的所述待运算数据进行存取。在整个***中芯片链路模块203相当于全局DMA，可以在无需处理器干预的情况下，直接存取数据，其包括异步先入先出队列FIFO。
转换模块204用于将芯片链路模块存取的并行待运算数据转换为串行数据。
Serdes接口模块205用于将所述转换后的串行数据发送给AI加速处理芯片30进行处理。
控制模块206用于接收AXI总线模块202分发的控制命令，根据所述控制命令对AI加速处理芯片进行控制、调度。
在一些实施方式中，Serdes接口模块205还用于接收AI加速处理芯片30返回的运算结果数据；转换模块204还用于将Serdes接口模块205接收的AI加速处理芯片返回的运算结果数据转换为并行数据；芯片链路模块203还用于对AI加速处理芯片返回的运算结果数据进行存取；AXI总线模块202还用于向PCIE接口模块201传输AI加速处理芯片返回的运算结果数据；PCIE接口模块201还用于将AI加速处理芯片返回的运算结果数据传输给主机。
在一些实施方式中，所述控制模块206包括AXI转APB桥接模块和控制端口。其中，主机发送的数据中包含的控制命令被AXI总线模块202分发给AXI转APB桥接模块。AXI转APB桥接模块用于对接收自AXI总线模块202的控制命令进行逻辑转换，转换为APB(AdvancedPeripheral Bus)***总线协议格式，并发送给相应的控制端口。
在一些实施方式中，控制端口可以包括但不限于I2C控制端口和PWM控制端口。
I2C控制端口连接AI加速处理芯片及温度传感器的I2C端口，用于对各AI加速处理芯片进行控制、调度，以及对AI加速处理芯片的温度进行监测。在一些实施方式中，I2C控制端口也用于调节电源管理芯片，实现AI加速处理芯片的上下电时序及动态调频调压功能。
PWM控制端口用于控制AI运算加速板卡的风扇转速，结合I2C端口上连接的温度传感器，实现AI加速处理芯片温度及风扇转速的动态调节功能。
本发明实施例采用可编程逻辑器件FPGA实现PCIE接口到Serdes接口的桥接转换，使得AI运算加速板卡的设计使用更加灵活，并且可以实现对多AI加速处理芯片级联的AI运算加速板卡的外设管理、逻辑控制。
图3是应用于本发明任一实施例的AI运算加速板卡的运算加速处理方法的流程示意图。如图3所示，该方法包括：
步骤S1，通过PCIE接口接收主机CPU发送的数据；
步骤S2，通过接口桥接电路将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给至少一个AI加速处理芯片进行加速处理；
步骤S3，通过接口桥接电路向主机CPU返回所述至少一个AI加速处理芯片的运算结果数据。
图4是根据本发明一实施例的可配置硬件算力的服务器200的结构示意图。如图4所示，本发明实施例的服务器200包括：
主机，其包括PCIE插槽；
以及连接所述主机PCIE插槽的前述任一实施例的可配置硬件算力的AI运算加速板卡100。
本发明实施例通过定制化的AI加速处理芯片的接口设计和AI运算加速板卡的***架构创新，将传统加速板卡上固定的处理芯片数量变为可配置的，使得AI运算加速板卡的算力可配置，极大地提升了AI运算加速板卡的使用灵活度，降低了硬件成本，提高了器件利用率。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (18)

1.一种可配置硬件算力的AI运算加速板卡，其特征在于，包括：
PCIE接口，用于连接主机的PCIE插槽；
接口桥接电路，用于将PCIE接口转换为与AI加速处理芯片适配的Serdes接口；
至少一个AI加速处理芯片，用于执行AI运算加速处理，所述AI加速处理芯片包括第一Serdes接口和第二Serdes接口；
至少一个电源管理芯片，用于对所述至少一个AI加速处理芯片分别进行供电；
其中，所述AI加速处理芯片的数量是可配置的，当所述AI加速处理芯片为多个时，多个AI加速处理芯片通过第一Serdes接口和第二Serdes接口依次级联。
2.根据权利要求1所述的AI运算加速板卡，其特征在于，当所述AI加速处理芯片为一个时，所述AI加速处理芯片通过第一Serdes接口与接口桥接电路进行通信连接。
3.根据权利要求1所述的AI运算加速板卡，其特征在于，当所述AI加速处理芯片为多个时，所述AI加速处理芯片通过第二Serdes接口与下一级AI加速处理芯片进行通信连接。
4.根据权利要求1所述的AI运算加速板卡，其特征在于，所述AI运算加速板卡的各部件承载于一PCB载板。
5.根据权利要求1所述的AI运算加速板卡，其特征在于，所述PCIE接口还用于接收主机CPU发送的数据，并转发给所述接口桥接电路。
6.根据权利要求5所述的AI运算加速板卡，其特征在于，所述接口桥接电路用于将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给所述AI加速处理芯片进行处理。
7.根据权利要求6所述的AI运算加速板卡，其特征在于，所述AI加速处理芯片对所述待运算数据进行处理包括对所述待运算数据进行深度学习计算。
8.根据权利要求7所述的AI运算加速板卡，其特征在于，所述AI加速处理芯片包括ASIC处理芯片。
9.根据权利要求7所述的AI运算加速板卡，其特征在于，所述AI加速处理芯片包括张量处理单元TPU。
10.根据权利要求6所述的AI运算加速板卡，其特征在于，所述接口桥接电路包括：
PCIE接口模块，用于接收主机CPU发送的数据，并将所述数据转换为并行数据；
AXI总线模块，用于将所述并行数据中的待运算数据分发给芯片链路模块，将所述并行数据中的控制命令分发给控制模块；
芯片链路模块，用于对所述待运算数据进行存取；
转换模块，用于将芯片链路模块存取的并行待运算数据转换为串行数据；
Serdes接口模块，用于将转换后的所述串行数据发送给AI加速处理芯片进行处理；
控制模块，用于接收所述AXI总线模块分发的控制命令，根据所述控制命令对AI加速处理芯片进行控制、调度。
11.根据权利要求6所述的AI运算加速板卡，其特征在于，所述接口桥接电路还用于接收所述AI加速处理芯片的运算结果数据，并经由所述PCIE接口发送给主机CPU。
12.根据权利要求1所述的AI运算加速板卡，其特征在于，所述至少一个电源管理芯片的数量根据所述至少一个AI加速处理芯片的数量对应配置。
13.根据权利要求12所述的AI运算加速板卡，其特征在于，所述至少一个电源管理芯片连接到所述接口桥接电路，所述接口桥接电路还用于控制所述至少一个电源管理芯片对相应的AI加速处理芯片进行供电。
14.根据权利要求13所述的AI运算加速板卡，其特征在于，所述接口桥接电路还用于检测所述至少一个电源管理芯片中的故障芯片。
15.根据权利要求4所述的AI运算加速板卡，其特征在于，所述至少一个AI加速处理芯片直接焊接在所述PCB载板。
16.根据权利要求4所述的AI运算加速板卡，其特征在于，所述至少一个AI加速处理芯片通过专用插座的卡扣固定在所述PCB载板。
17.一种应用于权利要求1-16任一项所述的AI运算加速板卡的运算加速处理方法，其特征在于，包括：
通过PCIE接口接收主机CPU发送的数据；
通过接口桥接电路将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给至少一个AI加速处理芯片进行加速处理；
通过接口桥接电路向主机CPU返回所述至少一个AI加速处理芯片的运算结果数据。
18.一种服务器，其特征在于，包括：
主机，其包括PCIE插槽；以及
连接所述主机的PCIE插槽的如权利要求1-16任一项所述的AI运算加速板卡。
CN201810205680.9A 2018-03-13 2018-03-13 可配置硬件算力的ai运算加速板卡及其处理方法、服务器 Pending CN108388532A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810205680.9A CN108388532A (zh) 2018-03-13 2018-03-13 可配置硬件算力的ai运算加速板卡及其处理方法、服务器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810205680.9A CN108388532A (zh) 2018-03-13 2018-03-13 可配置硬件算力的ai运算加速板卡及其处理方法、服务器

Publications (1)

Publication Number Publication Date
CN108388532A true CN108388532A (zh) 2018-08-10

Family

ID=63067548

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810205680.9A Pending CN108388532A (zh) 2018-03-13 2018-03-13 可配置硬件算力的ai运算加速板卡及其处理方法、服务器

Country Status (1)

Country Link
CN (1) CN108388532A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110069111A (zh) * 2019-06-06 2019-07-30 深圳云朵数据科技有限公司 一种ai计算服务器
CN110134206A (zh) * 2019-06-06 2019-08-16 深圳云朵数据科技有限公司 一种计算板卡
CN110413564A (zh) * 2019-08-23 2019-11-05 深圳市创智中科智能科技有限公司 Ai训练推理服务器、***和方法
WO2020140270A1 (en) * 2019-01-04 2020-07-09 Baidu.Com Times Technology (Beijing) Co., Ltd. Method for establishing a secure information exchange channel between a host system and a data processing accelerator
CN112785483A (zh) * 2019-11-07 2021-05-11 深南电路股份有限公司 一种数据处理加速的方法及设备
CN112988636A (zh) * 2019-12-12 2021-06-18 中科寒武纪科技股份有限公司 用于数据加速处理的***、板卡和电子设备
CN113609701A (zh) * 2021-08-18 2021-11-05 安徽江淮汽车集团股份有限公司 Ai芯片数量可裁剪的智能驾驶域控制器架构设计方法
CN113918507A (zh) * 2021-12-09 2022-01-11 之江实验室 一种深度学习框架适配ai加速芯片的方法和装置
WO2022126893A1 (zh) * 2020-12-16 2022-06-23 深圳市紫光同创电子有限公司 用于serdes接口的桥接模块
CN114791890A (zh) * 2022-04-26 2022-07-26 苏州浪潮智能科技有限公司 一种ai加速装置及服务器
CN115658370A (zh) * 2022-11-18 2023-01-31 辉羲智能科技(上海)有限公司 一种基于编译器的机器学习加速芯片故障实时探测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN203759701U (zh) * 2014-03-28 2014-08-06 龙芯中科技术有限公司 桥片和桥片***
US20150100536A1 (en) * 2013-10-04 2015-04-09 Koutin Technology Inc. Ltd Parallel hardware searching system for building artifical intelligent computer
CN105760324A (zh) * 2016-05-11 2016-07-13 北京比特大陆科技有限公司 数据处理装置和服务器
CN205983537U (zh) * 2016-05-11 2017-02-22 北京比特大陆科技有限公司 数据处理装置和***、服务器
CN106776461A (zh) * 2017-01-13 2017-05-31 算丰科技（北京）有限公司 数据处理装置和服务器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150100536A1 (en) * 2013-10-04 2015-04-09 Koutin Technology Inc. Ltd Parallel hardware searching system for building artifical intelligent computer
CN104516939A (zh) * 2013-10-04 2015-04-15 高霆科技股份有限公司 一种用以建构人工智能计算机的平行硬件搜索***
CN203759701U (zh) * 2014-03-28 2014-08-06 龙芯中科技术有限公司 桥片和桥片***
CN105760324A (zh) * 2016-05-11 2016-07-13 北京比特大陆科技有限公司 数据处理装置和服务器
CN205983537U (zh) * 2016-05-11 2017-02-22 北京比特大陆科技有限公司 数据处理装置和***、服务器
CN106776461A (zh) * 2017-01-13 2017-05-31 算丰科技（北京）有限公司 数据处理装置和服务器

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020140270A1 (en) * 2019-01-04 2020-07-09 Baidu.Com Times Technology (Beijing) Co., Ltd. Method for establishing a secure information exchange channel between a host system and a data processing accelerator
CN110134206A (zh) * 2019-06-06 2019-08-16 深圳云朵数据科技有限公司 一种计算板卡
CN110134206B (zh) * 2019-06-06 2024-04-23 深圳云朵数据科技有限公司 一种计算板卡
CN110069111A (zh) * 2019-06-06 2019-07-30 深圳云朵数据科技有限公司 一种ai计算服务器
CN110413564A (zh) * 2019-08-23 2019-11-05 深圳市创智中科智能科技有限公司 Ai训练推理服务器、***和方法
CN112785483B (zh) * 2019-11-07 2024-01-05 深南电路股份有限公司 一种数据处理加速的方法及设备
CN112785483A (zh) * 2019-11-07 2021-05-11 深南电路股份有限公司 一种数据处理加速的方法及设备
CN112988636A (zh) * 2019-12-12 2021-06-18 中科寒武纪科技股份有限公司 用于数据加速处理的***、板卡和电子设备
CN112988636B (zh) * 2019-12-12 2024-01-30 中科寒武纪科技股份有限公司 用于数据加速处理的***、板卡和电子设备
WO2022126893A1 (zh) * 2020-12-16 2022-06-23 深圳市紫光同创电子有限公司 用于serdes接口的桥接模块
CN113609701A (zh) * 2021-08-18 2021-11-05 安徽江淮汽车集团股份有限公司 Ai芯片数量可裁剪的智能驾驶域控制器架构设计方法
CN113918507B (zh) * 2021-12-09 2022-04-08 之江实验室 一种深度学习框架适配ai加速芯片的方法和装置
CN113918507A (zh) * 2021-12-09 2022-01-11 之江实验室 一种深度学习框架适配ai加速芯片的方法和装置
CN114791890B (zh) * 2022-04-26 2023-06-20 苏州浪潮智能科技有限公司 一种ai加速装置及服务器
CN114791890A (zh) * 2022-04-26 2022-07-26 苏州浪潮智能科技有限公司 一种ai加速装置及服务器
CN115658370A (zh) * 2022-11-18 2023-01-31 辉羲智能科技(上海)有限公司 一种基于编译器的机器学习加速芯片故障实时探测方法

Similar Documents

Publication Publication Date Title
CN108388532A (zh) 可配置硬件算力的ai运算加速板卡及其处理方法、服务器
US9100349B2 (en) User selectable multiple protocol network interface device
CN108345555A (zh) 基于高速串行通信的接口桥接电路及其方法
KR101219910B1 (ko) 통합형 다중 전송 매체 커넥터 아키텍쳐 구현 디바이스, 방법 및 시스템
US20220197714A1 (en) Training a neural network using a non-homogenous set of reconfigurable processors
CN116501681B (zh) Cxl数据传输板卡及控制数据传输的方法
CN108304341A (zh) Ai芯片高速传输架构、ai运算板卡及服务器
US20220147395A1 (en) System decoder for training accelerators
CN105049464A (zh) 用于加速网络虚拟化的技术
US9575918B2 (en) Collaboration server
US7797475B2 (en) Flexibly configurable multi central processing unit (CPU) supported hypertransport switching
CN117278890B (zh) 光模块访问方法、装置、***、电子设备及可读存储介质
CN110766600B (zh) 一种分布式架构的图像处理***
CN210466253U (zh) 一种具备高密度gpu扩展能力的服务器
US20090177832A1 (en) Parallel computer system and method for parallel processing of data
US20110090924A1 (en) System to connect a serial scsi array controller to a storage area network
CN110022255A (zh) 基于混合通讯网络数据交换的模块化泛在电力物联网平台
CN114584529B (zh) 一种基于nat和虚拟网桥的推理服务器
CN110737627A (zh) 一种数据处理方法、装置及存储介质
CN111104458B (zh) 基于RK3399Pro的分布式数据交换***及交换方法
CN114281732B (zh) 一种upi到pcie的转换方法、装置及电子设备
CN117041147B (zh) 智能网卡设备、主机设备和方法及***
CN217880296U (zh) 数据分布式处理装置及舞台灯光控制***
CN208271170U (zh) 一种调试串口连接设备
US12038861B2 (en) System decoder for training accelerators

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20190422

Address after: 100192 2nd Floor, Building 25, No. 1 Hospital, Baosheng South Road, Haidian District, Beijing

Applicant after: BEIJING BITMAIN TECHNOLOGY CO., LTD.

Address before: 100192 No.25 Building, No.1 Hospital, Baosheng South Road, Haidian District, Beijing

Applicant before: Feng Feng Technology (Beijing) Co., Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20210817

Address after: 100192 Building No. 25, No. 1 Hospital, Baosheng South Road, Haidian District, Beijing, No. 301

Applicant after: SUANFENG TECHNOLOGY (BEIJING) Co.,Ltd.

Address before: 100192 2nd Floor, Building 25, No. 1 Hospital, Baosheng South Road, Haidian District, Beijing

Applicant before: BITMAIN TECHNOLOGIES Inc.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220303

Address after: 100176 901, floor 9, building 8, courtyard 8, KEGU 1st Street, Beijing Economic and Technological Development Zone, Daxing District, Beijing (Yizhuang group, high-end industrial area of Beijing Pilot Free Trade Zone)

Applicant after: Beijing suneng Technology Co.,Ltd.

Address before: 100192 Building No. 25, No. 1 Hospital, Baosheng South Road, Haidian District, Beijing, No. 301

Applicant before: SUANFENG TECHNOLOGY (BEIJING) CO.,LTD.