全球首个千卡规模异构芯片混训平台发布!支持NVIDIA、AMD、华为昇腾等
在2024年世界人工智能大会上,无问芯穹发布了全球首个千卡规模异构芯片混训平台。
这一平台的发布,标志着AI算力资源的整合与利用达到了前所未有的高度,为大模型训练提供了强大的支持。
该平台通过Infini-AI云平台集成,实现了大模型异构千卡混训能力,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA等六种异构芯片在内的混合训练。
这一技术的实现,得益于与清华、上交联合研究团队发布的HETHUB系统,该系统首次实现了六种不同品牌芯片间的交叉混合训练。
无问芯穹联合创始人夏立雪强调,这一平台的发布,将打破异构芯片“生态竖井”,将不同硬件生态系统的封闭与互不兼容转化为大算力,有效整合与利用算力资源。
这一进步不仅提高了算力利用率,最高可达97.6%,还为AI开发者提供了更加通用、高效、便捷的研发环境。
随着大模型行业进入规模化产业落地阶段,无问芯穹的这一创新平台将助力推动大模型在各行业的应用创新,实现“让天下没有难用的AI算力”的愿景。
夏立雪比喻说,今天让大模型成本下降到原来的1/10000,就像30年前让家家户户都通电一样,优良的基础设施将使更多人拥抱新技术。