(资料图)
8月15日,讯飞星火认知大模型V2.0升级发布会上,科大讯飞携手华为发布星火一体机。星火一体机是软硬件一体化的私有专属大模型解决方案,开箱即可使用,提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力,帮助企业打造专属大模型。
星火一体机的训练和推理一体化部署,可用于问答系统、对话生成、知识图谱构建、智能推荐等多个领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。
星火一体机内已涵盖办公、代码、运维、客服、营销、采购等10多个场景包,支持对话开发、任务编排、插件执行、知识接入、提示工程等5种定制优化模式,并将持续拓展更多专业场景和模式优化,为客户快速定制企业专属大模型。星火一体机还针对星火认知智能大模型的训练算法和推理应用进行了硬件的量身定制,可大大降低企业的使用成本。
科大讯飞董事长刘庆峰表示,认知大模型的深度赋能时代已经到来,大模型在企业深度应用的三个关键要素是:第一,安全可控:内容安全,要有正确价值观,算力安全,要在完全自主可控的平台上进行;第二,场景驱动:在看得见摸得着的场景产生实实在在的价值,并能够用数据去证明成效;第三,专属定制:内容匹配需求,基于行业和企业的私域数据构建私有化专属大模型,提升应用效果。
在内容安全方面,星火一体机基于讯飞星火认知大模型,形成立体化的“内容安全机制”。在算力安全上,星火一体机基于昇腾AI硬件、昇思AI开源框架,提供业界领先的大模型训练、推理能力,为大模型全流程创新提供坚实的自主创新算力底座。
大模型的研发过程,需要可以支撑千亿参数规模的大模型并行训练的算力和框架,还需要几千张卡同时连续运行。基于此,系统架构以及并行训练的集群能力成为国内大模型研发的关键。
在今年的7月6日,科大讯飞就公布讯飞星火将与昇腾AI强强联合,打造基于中国自主创新的通用智能新底座。此次发布的星火一体机,是科大讯飞与华为在AI算力、大模型的合作落地之一,将面向行业、企业客户,提供基于专用数据的私有化大模型,加速推动重点企业的数智化转型升级。
标签: