作为元脑生态的重要承载平台,浪潮信息AIStation日前迎来了一位新的成员——潞晨科技。期间,潞晨科技Colossal-AI大模型开发工具与浪潮信息AIStation智能业务创新生产平台完成兼容认证,双方表现出高度融合性,为提升大模型开发效率助力。
据了解,基于AIStation平台部署与调度的潞晨科技Colossal-AI系统,用户可实现在本地算力平台一键训练、微调、推理、部署大模型,将大模型开发效率提升10倍以上,并将算力效率提升2-3倍,在最大化提升大模型开发效率的同时,降低大模型开发及应用的门槛和成本。
Colossal-AI系统由元脑生态伙伴潞晨科技开发,是全球最大、最活跃的大模型开发工具与社区之一。Colossal-AI包含高效多维并行、内存管理、低延迟推理系统等模块,可显著提高AI大模型训练、微调和部署效率。以当前被广泛使用的LLaMA大模型为例,Colossal-AI提供开箱即用的650亿参数预训练方案,可将训练速度提升38%,仅需32张GPU卡。Colossal-AI发布后多次登顶GitHub热度榜世界第一,目前已与PyTorch、Hugging Face等全球顶级AI生态深度融合,位列全球TOP400,细分赛道世界第一,并且已与国内外多家500强企业合作,促进AI大模型在自动驾驶、云计算、零售、医药、金融等领域落地。
据了解,基于AIStation平台部署与调度的潞晨科技Colossal-AI系统,用户可实现在本地算力平台一键训练、微调、推理、部署大模型,将大模型开发效率提升10倍以上,并将算力效率提升2-3倍,在最大化提升大模型开发效率的同时,降低大模型开发及应用的门槛和成本。
Colossal-AI系统由元脑生态伙伴潞晨科技开发,是全球最大、最活跃的大模型开发工具与社区之一。Colossal-AI包含高效多维并行、内存管理、低延迟推理系统等模块,可显著提高AI大模型训练、微调和部署效率。以当前被广泛使用的LLaMA大模型为例,Colossal-AI提供开箱即用的650亿参数预训练方案,可将训练速度提升38%,仅需32张GPU卡。Colossal-AI发布后多次登顶GitHub热度榜世界第一,目前已与PyTorch、Hugging Face等全球顶级AI生态深度融合,位列全球TOP400,细分赛道世界第一,并且已与国内外多家500强企业合作,促进AI大模型在自动驾驶、云计算、零售、医药、金融等领域落地。