CN210466253U - 一种具备高密度gpu扩展能力的服务器 - Google Patents
一种具备高密度gpu扩展能力的服务器 Download PDFInfo
- Publication number
- CN210466253U CN210466253U CN201921654161.7U CN201921654161U CN210466253U CN 210466253 U CN210466253 U CN 210466253U CN 201921654161 U CN201921654161 U CN 201921654161U CN 210466253 U CN210466253 U CN 210466253U
- Authority
- CN
- China
- Prior art keywords
- pcie
- slot
- server
- data transmission
- slots
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Multi Processors (AREA)
Abstract
本实用新型公开了一种具备高密度GPU扩展能力的服务器,涉及服务器技术领域;所述服务器包括机箱主体和带有PCIe转接卡的服务器主板,所述服务器主板安装在所述机箱主体内,所述PCIe转接卡通过数据传输插槽与主板互联的金手指插槽进行固定并进行数据传输;所述PCIe转接卡包括数据传输插槽、PCIe交换芯片和PCIe插槽,所述数据传输插槽与所述PCIe交换芯片相连,且所述PCIe交换芯片与所述PCIe插槽相连。通过创新设计的PCIe转接卡上集成的4个PLX PCIe交换芯片,用于PCIe通道的扩展和整合,具备低延迟、数据校验、失效备援等功能,每个PLX PCIe交换芯片提供96个PCIe lan,提供畅通稳定的数据信道切换能力。
Description
技术领域
本实用新型涉及服务器技术领域,尤其涉及一种具备高密度GPU扩展能力的服务器。
背景技术
随着信息化时代和人工智能的快速发展,来自移动5G、物联网、智能计算等业务场景将产生海量的实时数据,人工智能推理运算占数据中心工作负载的比重越来越大,需要快速响应、高准确性、低功耗的深度学***台来应对低延迟、高吞吐的全新挑战。
传统的GPU服务器中受限于X86平台技术框架,每颗CPU处理器最大仅能支持40个左右的PCIe信号通道,其中芯片组、控制器、外设等部件还需占用一部分。而GPU用于计算的数据量非常大,GPU多卡之间的通信尤为重要,每个GPU卡就需要占用16个PCIe信号通道,所以传统架构的GPU服务器平台很难实现单台服务器中扩展超过4个的GPU。
实用新型内容
本实用新型的目的在于提供一种具备高密度GPU扩展能力的服务器,从而解决现有技术中存在的前述问题。
为了实现上述目的,本实用新型采用的技术方案如下:
一种具备高密度GPU扩展能力的服务器,所述服务器***包括机箱主体和带有PCIe转接卡的服务器主板,所述服务器主板安装在所述机箱主体内,所述PCIe转接卡通过数据传输插槽与主板互联的金手指插槽进行固定并进行数据传输;
所述PCIe转接卡包括数据传输插槽、PCIe交换芯片和PCIe插槽,所述数据传输插槽与所述PCIe交换芯片相连,且所述PCIe交换芯片与所述PCIe插槽相连。
优选地,所述数据传输插槽和所述金手指插槽的数量均为4个且一一对应。
优选地,所述数据传输插槽与所述PCIe交换芯片的数量相同,且每个所述PCIe交换芯片可通过讯号连接扩展提供96个PCIe LANE。
优选地,所述PCIe交换芯片提供1~-6个16速率的PCIe插槽和/或一个8速率的PCIe插槽的标准的外设扩展插槽;
所述PCIe插槽和所述外设插槽并列设置。
优选地,所述PCIe交换芯片采用PLX PCIe交换芯片。
本实用新型的有益效果是:
本实用新型提供一种具备高密度GPU扩展能力的服务器,通过创新设计的PCIe转接卡上集成的4个PLX PCIe交换芯片,用于PCIe通道的扩展和整合,具备低延迟、数据校验、失效备援等功能,每个PLX PCIe交换芯片提供96个PCIe lan,提供畅通稳定的数据信道切换能力,搭配封装在标准单宽、半高、PCIe形态仅70瓦功耗的小型节能NVIDIA图灵架构的Tesla T4 GPU加速卡可提供超高的多精度浮点推理性能,整个单机***可扩展20个TeslaT4 GPU加速卡,极大限度的提高了单机能够承载的GPU扩展数量,这对企业来说,在面对部署大规模推理运算***的应用时,在降本增效的前提下能够解决企业数据中心面临的空间紧缺、电力供应紧张、横向扩展性及计算力不足等多方面的困扰。
附图说明
图1是实施例1中的PCIe转接卡的结构图;
图2是实施例1中的服务器主板的结构图;
图3是实施例1中的服务器整机的结构图;
1-1 数据传输插槽1;
1-2 数据传输插槽2;
1-3 数据传输插槽3;
1-4 数据传输插槽4;
1-5 PCIe交换芯片1;
1-6P CIe交换芯片2;
1-7 PCIe交换芯片3;
1-8 PCIe交换芯片4;
1-9 CPU1 GPU扩展插槽 PCIe Slot12-PCIe Slot21;
1-10 CPU2 GPU扩展插槽 PCIe Slot1-PCIe Slot10;
1-11 CPU1标准扩展插槽PCIe Slot11;
2-1 CPU1;
2-2 CPU2;
2-3 金手指插槽1;
2-4 金手指插槽2;
2-5 金手指插槽3;
2-6 金手指插槽4;
具体实施方式
为了使本实用新型的目的、技术方案及优点更加清楚明白,以下结合附图,对本实用新型进行进一步详细说明。应当理解,此处所描述的具体实施方式仅仅用以解释本实用新型,并不用于限定本实用新型。
实施例
本实施例提供一种具备高密度GPU扩展能力的服务器,整体结构如图3所示,包括机箱主体和服务器主板,所述服务器主板(图2)安装在所述机箱主体内,所述PCIe转接卡(图1)通过数据传输插槽与主板互联的金手指插槽进行固定并进行数据传输;
所述PCIe转接卡包括数据传输插槽、PCIe交换芯片和PCIe插槽,所述数据传输插槽与所述PCIe交换芯片相连,且所述PCIe交换芯片与所述PCIe插槽相连。
本实施例中所述数据传输插槽和所述金手指插槽的数量均为4个且一一对应,如图1和图2所示,所述数据传输插槽分别为数据传输插槽1,数据传输插槽2,数据传输插槽3和数据传输插槽4,所述金手指插槽为金手指插槽1,金手指插槽2,金手指插槽3和金手指插槽4。
所述交换芯片的数量和数据传输插槽数量相同,且一一对应,本实施例中采用了4个PLX PCIe交换芯片。
所述数据传输插槽1和数据传输插槽2分别与所述金手指插槽1和金手指插槽2对应且与CPU1进行讯号互联,具体连接关系如下:
数据传输插槽1与CPU1互联并占用24个PCIe通道,通过讯号连接扩展至提供96个PCIe LANE的PCIe交换芯片1(图1-5),PCIe交换芯片1提供5个16速率的PCIe插槽,分别为SLOT17-SLOT21和1个8速率的PCIe插槽的标准的外设扩展插槽,用于安装网卡,光纤卡等设备。
数据传输插槽2(图1-2)与CPU1互联并占用24个PCIe通道,通过讯号连接扩展至提供96个PCIe LANE的PCIe交换芯片2(图1-6),PCIe交换芯片2提供5个16速率的PCIe插槽,分别为SLOT12-SLOT16。
所述数据传输插槽3和数据传输插槽4分别与所述金手指插槽3和金手指插槽4对应且与CPU2进行讯号互联,具体如下:
数据传输插槽3(图1-3)与CPU2互联并占用24个PCIe通道,通过讯号连接扩展至提供96个PCIe LANE的PCIe交换芯片3(图1-7),PCIe交换芯片3提供3个16速率的PCIe插槽,分别为SLOT1-SLOT5。
数据传输插槽4(图1-4)与CPU2互联并占用24个PCIe通道,通过讯号连接扩展至提供96个PCIe LANE的PCIe交换芯片4(图1-8),PCIe交换芯片3提供6个16速率的PCIe插槽,分别为SLOT6-SLOT10。
值得注意到的是,每个交换芯片最多可引出6个16速率的PCIe插槽,在实际应用中可以根据实际需要修改引出数量,本实施例中由于实际的需要每个芯片只引出了五个。
通过采用本实用新型公开的上述技术方案,得到了如下有益的效果:
本实用新型提供一种具备高密度GPU扩展能力的服务器,通过创新设计的PCIe转接卡上集成的4个PLX PCIe交换芯片,用于PCIe通道的扩展和整合,具备低延迟、数据校验、失效备援等功能,每个PLX PCIe交换芯片提供96个PCIe lan,提供畅通稳定的数据信道切换能力,搭配封装在标准单宽、半高、PCIe形态仅70瓦功耗的小型节能NVIDIA图灵架构的Tesla T4 GPU加速卡可提供超高的多精度浮点推理性能,整个单机***可扩展20个TeslaT4 GPU加速卡,极大限度的提高了单机能够承载的GPU扩展数量,这对企业来说,在面对部署大规模推理运算***的应用时,在降本增效的前提下能够解决企业数据中心面临的空间紧缺、电力供应紧张、横向扩展性及计算力不足等多方面的困扰。
以上所述仅是本实用新型的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本实用新型原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视本实用新型的保护范围。
Claims (5)
1.一种具备高密度GPU扩展能力的服务器,其特征在于,所述服务器***包括机箱主体和带有PCIe转接卡的服务器主板,所述服务器主板安装在所述机箱主体内,所述PCIe转接卡通过数据传输插槽与主板互联的金手指插槽进行固定并进行数据传输;
所述PCIe转接卡包括数据传输插槽、PCIe交换芯片和PCIe插槽,所述数据传输插槽与所述PCIe交换芯片相连,且所述PCIe交换芯片与所述PCIe插槽相连。
2.根据权利要求1所述的服务器,其特征在于,所述数据传输插槽和所述金手指插槽的数量均为4个且一一对应。
3.根据权利要求2所述的服务器,其特征在于,所述数据传输插槽与所述PCIe交换芯片的数量相同,且每个所述PCIe交换芯片可通过讯号连接扩展提供96个PCIe LANE。
4.根据权利要求3所述的服务器,其特征在于,所述PCIe交换芯片提供1~6个16速率的PCIe插槽和/或一个8速率的PCIe插槽的标准的外设扩展插槽;
所述PCIe插槽和所述外设插槽并列设置。
5.根据权利要求1所述的服务器,其特征在于,所述PCIe交换芯片采用PLX PCIe交换芯片。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201921654161.7U CN210466253U (zh) | 2019-09-30 | 2019-09-30 | 一种具备高密度gpu扩展能力的服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201921654161.7U CN210466253U (zh) | 2019-09-30 | 2019-09-30 | 一种具备高密度gpu扩展能力的服务器 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN210466253U true CN210466253U (zh) | 2020-05-05 |
Family
ID=70435612
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201921654161.7U Active CN210466253U (zh) | 2019-09-30 | 2019-09-30 | 一种具备高密度gpu扩展能力的服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN210466253U (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112597094A (zh) * | 2020-12-24 | 2021-04-02 | 联想长风科技(北京)有限公司 | 一种提高rdma传输效率的装置及方法 |
WO2024066456A1 (zh) * | 2022-09-27 | 2024-04-04 | 超聚变数字技术有限公司 | 服务器 |
-
2019
- 2019-09-30 CN CN201921654161.7U patent/CN210466253U/zh active Active
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112597094A (zh) * | 2020-12-24 | 2021-04-02 | 联想长风科技(北京)有限公司 | 一种提高rdma传输效率的装置及方法 |
CN112597094B (zh) * | 2020-12-24 | 2024-05-31 | 联想长风科技(北京)有限公司 | 一种提高rdma传输效率的装置及方法 |
WO2024066456A1 (zh) * | 2022-09-27 | 2024-04-04 | 超聚变数字技术有限公司 | 服务器 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100424668C (zh) | Pci-e总线自动配置*** | |
CN111182239B (zh) | 一种ai视频处理方法与装置 | |
CN210466253U (zh) | 一种具备高密度gpu扩展能力的服务器 | |
CN108388532A (zh) | 可配置硬件算力的ai运算加速板卡及其处理方法、服务器 | |
CN213338710U (zh) | 一种基于多fpga板卡全连接的异构计算服务器 | |
CN211427336U (zh) | 一种嵌入式vpx计算模块 | |
CN106569969A (zh) | 一种服务器 | |
CN107748726B (zh) | 一种gpu箱 | |
CN109669901A (zh) | 一种服务器 | |
US20200143506A1 (en) | Graphics processing system | |
CN107480094A (zh) | 一种融合架构的池化服务器***架构 | |
CN210639614U (zh) | 一种支持多种带宽的nvme硬盘背板*** | |
CN114490023B (zh) | 一种基于arm和fpga的高能物理可计算存储设备 | |
CN108491039A (zh) | 复用型硬盘背板及服务器 | |
CN210776403U (zh) | 一种兼容GPUDirect存储方式的服务器架构 | |
CN112948316A (zh) | 一种基于网络互联的ai边缘计算一体机架构 | |
CN211087065U (zh) | 一种主板及计算机设备 | |
CN216352292U (zh) | 服务器主板及服务器 | |
CN216927600U (zh) | 一种网络数据计算***及内置该***的服务器 | |
CN116501678A (zh) | 一种拓扑板卡和板载*** | |
CN212569635U (zh) | 一种基于飞腾处理器芯片的vpx计算机主板 | |
CN206363303U (zh) | 一种基于vpx结构的cpu模块 | |
RU173335U1 (ru) | Процессорный модуль (МВЕ8С-РС) | |
CN213276462U (zh) | 双路服务器主板及双路服务器 | |
CN113485960A (zh) | 一种基于ft-2000-4的通用平台及计算机 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GR01 | Patent grant | ||
GR01 | Patent grant |