壁仞科技致力于研发原创性的通用计算体系,建立高效的软硬件平台,同时在智能计算领域提供一体化的解决方案 

新闻中心

上海临港新片区党工委副书记、临港集团党委书记、董事长袁国华一行参观壁仞科技
上海临港新片区党工委副书记、临港集团党委书记、董事长袁国华一行参观壁仞科技
临港集团将为壁仞科技的下一步发展提供全方位的服务和支持。
查看更多
临港集团将为壁仞科技的下一步发展提供全方位的服务和支持。

研究院

应对大规模训练中的通信挑战:同步与拓扑
应对大规模训练中的通信挑战:同步与拓扑
随着各领域数据的不断积累和规范化,越来越多的研究者提出或使用大模型,如何更好地应对分布式训练系统的通信问题已成为研究热点。本文首先介绍分布式训练中的通信问题,然后从减少用于同步的通信和采用更利于通信的拓扑结构两个方面介绍应对通信问题的方法。
查看更多
随着各领域数据的不断积累和规范化,越来越多的研究者提出或使用大模型,如何更好地应对分布式训练系统的通信问题已成为研究热点。本文首先介绍分布式训练中的通信问题,然后从减少用于同步的通信和采用更利于通信的拓扑结构两个方面介绍应对通信问题的方法。

联系我们

这是描述信息

招贤纳士

公众号二维码
这是描述信息

 版权所有   ©   上海壁仞科技有限公司   |    沪ICP备19047354号