科大讯飞与华为实践证明：基于昇腾算力打造自主可控通用大模型底座是完全可行的

国产通用大模型底座进展如何,基于国产算力的大模型应用落地是否有新进展?华为与科大讯飞的强强联合,一定程度代表了国产通用大模型底座的进展。

9月19日-21日,在华为全联接大会上,华为与科大讯飞进一步深化合作,可谓既有深度,在通用大模型底座的能力边界上持续探索;又有广度,双方加强在医疗、企业智能化等领域合作,共同推进大模型应用落地。

在算力底座上,科大讯飞分享了对昇腾算力从敢用到真用、会用再到用好的历程,如今在双方联合打造的“飞星一号”大模型算力平台上,讯飞星火大模型的训练推理性能普遍达到业界90%以上。在应用落地上,双方联合打造一体化医疗健康私有化解决方案,打造行业大模型应用标杆;联合发布企业智算平台解决方案,大模型推理行业解决方案等,共赢行业智能化。

强强联手 打造国内首个国产通用大模型底座

美国在本轮大模型发展中的领先,不仅来自OpenAI在AI技术上的持续创新,还有英伟达在算力上的深度支持,可以说英伟达+OpenAI才成就了美国在大模型中的世界领先。

而纵观全球,只有中国有希望打造通用大模型的第二极。科大讯飞作为“AI国家队”,基于25年深耕人工智能领域的技术储备,在大模型时代以自主可控通用底座和深耕场景的应用表现,稳居国内大模型第一梯队。而华为作为拥有37年历史的ICT基础设施供应商,早在2018年发布AI战略,并于2023年提出全面智能化战略,通过整合云、存储、算力等先进技术,构筑新型算力基础设施。双方联手打造的自主可控通用大模型底座,可谓是“国产大模型之光”。

在过去一年多的实践中,科大讯飞与华为用实际行动证明,基于国产算力打造自主可控通用大模型底座是完全可行的。去年10月24日,科大讯飞联合华为推出国内首个万卡规模大模型算力平台“飞星一号”,并在此底座上, 实现讯飞星火大模型持续迭代至V4.0,已可以全面对标GPT-4 Turbo。

会上,科大讯飞副总裁、AI工程院院长潘青华分享了星火昇腾原生大模型创新实践,他回顾了星火大模型使用昇腾算力从敢用到真用、会用再到用好的研发历程。他表示,基于昇腾AI基础软硬件打造的“飞星一号”平台,已经常态化高效支撑讯飞星火大模型训练,星火大模型在昇腾算力上的训练推理性能也经过充分优化,普遍达到业界90%以上,完全基于昇腾算力原生开发训练的星火V4.0,在国内外中英文12项主流测试集中有8项超过GPT-4Turbo。

除了星火大模型在昇腾算力的训练推理加速优化成果,他还介绍了双方正在紧密合作开展昇腾原生大模型技术创新的计划,进一步探索自主可控通用大模型的能力边界。

“昇腾”+“星火”加速大模型应用落地

本届华为全联接大会上,华为与科大讯飞进一步深化大模型合作,联合发布医疗、企业智能化等多领域解决方案,打造行业大模型应用标杆,推动大模型应用落地。

在医疗领域,科大讯飞与华为联合打造一体化医疗健康私有化解决方案。据科大讯飞副总裁、讯飞医疗总裁陶晓东介绍,双方联合孵化的方案具备开箱即用、高效精准、安全可信等优势,面向患者,以诊后患者管理为核心,提升患者满意度和黏性;面向医生,以病历内涵质控为核心,提高医疗服务质量。

讯飞医疗也在与华为合作共同打造医疗行业应用标杆。今年4月,讯飞医疗携手华为,与四川大学华西医院达成了三方战略合作伙伴关系,围绕创新医疗服务模式、改善就医体验、医疗大模型技术应用等重点领域展开深入合作。目前,三方正在探索基于医疗大模型的智能随访和医疗质量合规性监测等场景应用,共同打造应用标杆。

陶晓东表示,基于有限的试点,已经看到了医疗大模型的无限可能。四川大学华西医院的探索只是华为与讯飞医疗合作的一个起点,但这将是医疗大模型应用的一个里程碑。下一步,讯飞星火医疗大模型还将面向医院、医生及患者,持续探索“医疗大模型+医疗健康”应用场景。

面向企业智能化需求,会上科大讯飞与华为制造与大企业系统部、华为计算产品线三方联合发布企业智算平台解决方案。企业可以通过这个平台进行AI大模型训练,获得端到端的全栈AI能力。基于双方优势,可以实现商用AI大模型高效推理、稳定训练、智能运维,有效降低企业AI布局门槛,缩短训练时间周期,全面支持AI企业高效生产大模型。同时考虑到中小企业本地训推场景及投资预算,双方还打造了训练、推理融合的一体机形态,助力中小企业AI技术落地。

面向行业场景,华为与科大讯飞还联合推出智能编程解决方案,双方共同打造了开箱即用、性能领先和安全可控的智能编程一体机。据了解,未来科大讯飞和华为还将继续在智能科研、智能招采等AI助手一体机展开合作。

此外,为了加速大模型赋能行业落地,华为联合科大讯飞、交通银行、钉钉等在内的21家伙伴和客户,基于昇腾AI基础软硬件平台共同发布大模型推理行业解决方案。同时,面向金融领域,联合发布《昇腾在金融行业的应用与生态白皮书》,为企业快速实现智能化转型提供路径,也为业内提供了大模型赋能行业的落地标杆。

随着自主可控通用大模型底座持续进化,科大讯飞在大模型应用落地中领跑业界。据了解,科大讯飞已与各头部企业共建20多个行业大模型,率先在能源、金融、教育、医疗、工业等刚需场景实现落地,如近期助力中国石油发布330亿参数昆仑大模型阶段性成果,成为中国能源化工行业首个通过备案的大模型等。

据多家媒体统计,2024年上半年,在已公开的行业大模型中标信息中,科大讯飞的合同数量、合同金额均保持行业领先,行业场景逐步拓宽。