百川智能大规模AI模型训练优化项目
基流科技服务百川智能（由前搜狗CEO王小川创立的AI公司），在其Baichuan2百亿参数大模型训练过程中提供定制化的GPU-RDMA网络通信框架BASE-RDMA及高速无损网络交换机解决方案。具体实施包括：在千卡GPU集群环境中部署该框架，优化GPU间远程直接内存访问（RDMA）协议，大幅降低通信延迟；结合无损网络技术，解决传统TCP/IP瓶颈问题，提升数据传输吞吐率。通过该方案，百川智能的训练性能提升超过20%，训练时间缩短显著（例如在两个月内完成模型训练），并在硬件资源消耗上节省成本超千万元。实际效果可参考公开报道（如2023年百川智能发布会及行业分析），验证了方案的高效性和成本效益。
融资次数
6
专利数量
1
经营范围
一般项目：技术服务、技术开发、技术咨询、技术交流、技术转让、技术推广；软件开发；计算机系统服务；数据处理服务；信息咨询服务（不含许可类信息咨询服务）；销售代理；计算机软硬件及辅助设备批发；计算机软硬件及辅助设备零售。（除依法须经批准的项目外，凭营业执照依法自主开展经营活动）（不得从事国家和本市产业政策禁止和限制类项目的经营活动。）
主营业务
为大规模AI算力集群和数据中心提供基于GPU-RDMA通信框架和高速无损网络交换机的高性能网络基础设施解决方案，优化分布式计算通信效率，提升集群整体算力输出并降低运营成本。
北京基流科技有限公司
有限责任公司(外商投资企业与内资合资)
￥132万
2023-02-20
胡效赫
北京市海淀区中关村东路8号东升大厦AB座5层505A