大模型时代对PCIe技术进步的需求
PCIe总线协议(Peripheral Component Interconnect Express)作为计算机和服务器中使用最广泛的高速数据传输技术,其传输性能的提升对于满足这些需求至关重要。传统连接方案主要依赖于铜缆进行电信号传输,用于单机内部计算芯片和设备之间互连。众所周知,铜缆在信号完整性、延迟、传输距离和功耗等方面存在日益突出的局限,无法满足PCIe高性能互连系统的需求。
同时,随着AIGC的发展,千亿参数成为大模型智能涌现的临界点,参数规模越大,意味着计算复杂度越高,因此所需要的算力规模也变得越来越大,万卡成为算力系统设计的起点,单机内部的PCIe连接已经不能满足需求,机柜内互连和跨机柜的互连成为新的发展方向,以实现更高效的数据交换和资源共享。光互连技术在这里开始发挥作用,利用光纤来替代铜缆,进一步提升带宽和传输距离。为解决这些问题,包括PCI-SIG(PCI Special Interest Group)和浪潮信息等在内的众多组织或公司,正在积极研究和推进PCIe光互连技术,该技术将颠覆数据中心的互连方式,为Data Center as a Computer的实现奠定基础。
PCIe总线协议(Peripheral Component Interconnect Express)作为计算机和服务器中使用最广泛的高速数据传输技术,其传输性能的提升对于满足这些需求至关重要。传统连接方案主要依赖于铜缆进行电信号传输,用于单机内部计算芯片和设备之间互连。众所周知,铜缆在信号完整性、延迟、传输距离和功耗等方面存在日益突出的局限,无法满足PCIe高性能互连系统的需求。
同时,随着AIGC的发展,千亿参数成为大模型智能涌现的临界点,参数规模越大,意味着计算复杂度越高,因此所需要的算力规模也变得越来越大,万卡成为算力系统设计的起点,单机内部的PCIe连接已经不能满足需求,机柜内互连和跨机柜的互连成为新的发展方向,以实现更高效的数据交换和资源共享。光互连技术在这里开始发挥作用,利用光纤来替代铜缆,进一步提升带宽和传输距离。为解决这些问题,包括PCI-SIG(PCI Special Interest Group)和浪潮信息等在内的众多组织或公司,正在积极研究和推进PCIe光互连技术,该技术将颠覆数据中心的互连方式,为Data Center as a Computer的实现奠定基础。