baidu沈抖:企业运用大模子跑不出这五种需要
封面往事记者 付文超
10月17日,抖企baidu天下2023在北京首钢园召开。业运用baidu智能云在大会时期宣告 :周全降级“云智一体”策略,模跑面向客户落地大模子的不出五类需要提供全栈效率妄想;面向AI原生运用开拓,重磅宣告“千帆AI原生运用开拓使命台” ,种需减速企业AI原生运用落地 。抖企
baidu总体实施副总裁、业运用baidu智能云事业群总裁沈抖展现 ,模跑家养智能与云合计的不出深度散漫是企业快捷落地AI原生运用的关键,这也是种需baidu智能云不断倡讲以及践行的“云智一体”理念。当初,抖企baidu总体所有运用以及效率全副基于“云智一体”技术架构运行在baidu智能云上 。业运用此外,模跑面向客户落地大模子的不出五类需要,baidu智能云基于千帆大模子平台打造的种需“大模子超级工场”分说给出了效率妄想。
首先 ,针对于惟独算力需要的客户,千帆平台可能提供极致高效以及性价比的异构算力效率 。在客户最体贴的大模子磨炼关键,经由火布式并行磨炼策略以及微秒级互联能耐 ,千帆平台可能实现万卡规模集群磨炼的减速比抵达95%;经由事条件防、事中实时发现、定位 、处置 ,最大限度防止集群因倾向等原因发生的实用运行 ,后退实用磨炼光阴占比,万卡集群实用磨炼光阴占比抵达96%,短缺释放集群实用算力,大幅飞腾客户算力与光阴老本 。
其次 ,在模子层面,对于愿望直接调用已经有大模子的客户 ,千帆平台纳管了42个国内外主流大模子,企业客户可能快捷调用搜罗文心大模子在内的种种大模子的API ,取患上大模子能耐 。对于第三方大模子 ,千帆平台还针对于性地妨碍了中文增强、功能增强、高下文增强等优化。当初千帆平台已经效率了逾越17000个客户 ,大模子API调用量不断高速俯冲。
第三 ,对于愿望基于现有大模子妨碍二次开拓的客户,千帆平台为大模子的再磨炼 、微调 、评估以及部署等关键提供全性命周期工具链 、业界至多的41个高品质行业数据集,辅助客户针对于自己营业场景快捷优化模子下场。当初,搜罗中国邮政蕴藏银行、度小满、金山办公