【{$randkws}】大模型迈入商业化元年,国产大模型谁能脱颖而出? - {$web_name} “百模大战”之后
行业已然达成了充分共识,模型必须透彻落地到具体使用之中才能发挥长处。上一年至今,各式各样的通用及行业模型层出不穷——仅在境内备案经由的模型就达117款之多。
群雄逐鹿之后,吴磊相关春节档引关注模型着手真正进入商业化落地元年,境内几家头部技术企业纷纷着手加快模型落地使用布局,在金融、汽车、管理商、政务等多个领域率先着手实践。
“百模大战”之后,谁将在商业化落地过程中脱颖而出?模型商业化元年,又该如何加速落地?如何才能达成商业化与技术迭代的闭环?
行业场景繁琐,模型需要更灵活的落地方式
过去一年多来,境内技术企业在模型上的追赶提升飞快。模型能力不断提升,参数规模也越来越大。仅在上一年10月,我国10亿参数规模以上的模型商品就已超200家,本年更是不断有千亿乃至万亿规模的模型问世。
但在模型能力不断提升的快速话题讨论专题另外,模型的商业化落地使用却迟迟未能更进一步。比如面向C端行业,模型商品的普遍商业模式是会员制订阅办事,但仅凭单一的订阅办事很难平衡模型的运算成本。此前就有外媒报导称微软的 Github Copilot仍处在亏损之中。
一些面向B端的模型产业则面临着模型能力和算力成本的双重困境。一些模型商品适用性不强,无法解决特定行业的繁琐任务。算力成本也在制约着企业客户转向模型的决心,若干企业着手使用使用开源模型,但却带来了隐私和资料可靠的隐患。
和过去面向C端的通用模型各异,各异行业、各异场景对模型的需求各异,很难以一套固定的准则来将模型简易粗暴地嫁接到各异使用场景之下。模型必须需要具备高度的可定制化和较强的适应性,才能在各类繁琐场景中落地。
但这并不轻松。比如模型能力与成本难题。模型参数越大,精度越高,但与之对应的最新跑分成绩盘点是算力成本高涨。一些声音觉得应该尽或许将模型做小,用更低的成本、更快的管理效率来促开展业落地,但模型的适用性和精确率却会大打折扣。
科大讯飞旗下的讯飞星火模型试图从技术手段上平衡模型能力与算力成本,在保证模型能力表现不变或者损失很小的状况下,可以将模型尽或许做小。模型应该像一根如意金箍棒一样,可大可小,这样才能满足各异使用场景下的需要。
以最近大热的长文本能力为例。为知晓决模型的使用效率和精确率难题,科大讯飞对讯飞星火V3.5开展了重大的模型剪枝和蒸馏,从而启动了业界表现最优的130亿参数的模型,在效果损失仅3%以内的状况下,使得星火在文档上传确认处理、知识问答的首响时间以及文字生成方面都获得了效率提升。
这种灵活性不只体如今模型大小上。针对各异落地场景的繁琐需求,科大讯飞在过去一年的落地实践中形成了一套“云边端”的整体解决计划,以云边端联动的方式加速合作模型在各行业领域的落地。
简易来说,聚焦平板电脑观察就是指讯飞星火在云端、边侧以及端侧等三种各异场景均做到落地部署,但在具体使用中,三个环节另外还能互相打通,灵活使用。
云端指的是科大讯飞“1+N”模型战略,即1个讯飞星火通用模型底座和多个行业模型。讯飞星火V3.5的数学、语言理解、语音交互能力已超过GPT-4 Turbo;长文本方面,讯飞星火的通用长文本能力总体已达到GPT-4 Turbo,且在多个垂直领域的知识问答任务上,星火模型长文本总体水平已超过GPT-4 Turbo。
面向模型使用开发者,讯飞星火还提供一站式模型使用开发、调试和效果闭环完善工具渠道,本年1月以来,讯飞星火开发者团队新增超55万,渠道开发者数量已达超647万。
边侧,科大讯飞联合华为兴办了讯飞星火一体机,可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制完善模式,以及超过10种的即开即用的丰富场景包,另外还提供3种模型尺寸供使用者挑选,让企业使用者可以更便捷自助且可靠可控地部署私有化模型。
端侧指的是讯飞星火在各个设备商品上的落地,含有科大讯飞的自有设备商品以及汽车、家电、管理商等多个行业的落地。在端云合作的模型框架下,使用者可灵活部署模型能力,一些关乎敏感隐私、本地设备算力能满达成的任务可整体在本地模型处理,但更繁琐的任务则可以交由云端处理,以满足各异场景使用在使用者隐私、成本以及交互效率上的请求。
商业化落地元年,云边端合作加速落地使用
灵活的模型使用计划只是基础,在模型赋能千行百业的过程中,更底层的还是模型本身能力的优劣。
资料、算力、算力是衡量模型能力的三个核心要素。以资料为例,在特定行业场景中,训练资料集的丰富程度、语料库的品质高低直接作用模型对行业的理解能力。讯飞星火此前启动多个行业模型时,就使用与行业龙头企业兴办兴办形式,在金融、汽车、管理商、工业、住建等领域展开透彻兴办,力求真正理解、解决行业的需求与痛点。
在算力上,科大讯飞联合华为启动了首个全国产算力的超大规模算力渠道“飞星一号”,讯飞星火V3.5是首个基于全国产算力训练的模型商品。
这些因素共同奠定了讯飞星火V3.5海外领先的模型能力,结合科大讯飞的云边端整体解决计划,讯飞星火在B端、C端落地使用完整开花。
比如在通信领域,科大讯飞与管理商兴办开发了管理商模型,为管理商提供一体化的智能通话解决计划。在此基础上,他们还与中国移动联合开发了5G新通话“商务速记”商品,合作商务人士做到岗位电话的便捷转写和摘要。
端云合作的灵活布局,也让模型在汽车、家电等行业做到高效落地使用。
在家电领域,接入讯飞星火模型能力的家电行业也正焕发出新的活力。如科大讯飞和海尔共同兴办的家电领域模型,在智能控制、食谱定制、智能客服等领域率先落地模型使用场景,让家电变得真正“更懂人心”。三星的电视语音助手同样结合讯飞星火模型能力,做到了AI智能问答和智能检索。
在智能汽车领域,科大讯飞启动了全栈自研“讯飞星火+座舱”整体解决计划,当下已在奇瑞、广汽、长城等众多车企的多个车型中落地。科大讯飞在语音、翻译上的技术长处也延续到汽车领域,讯飞座舱扶持23种各异语言,覆盖多家车企的海外车型项目。中国汽车出海十强企业中,有8家车企都挑选与科大讯飞兴办。
奇瑞汽车新近启动的高端智能SUV星纪元ET上,就搭载了科大讯飞与奇瑞联合兴办的 Lion AI 模型和 Lion Melody 沉浸移动音乐厅。奇瑞控股集团党委书记、董事长尹同跃对传媒强调,“高度智能化是如今中国汽车在全球最鲜明的形象标签,也是攻占中国乃至全球行业的核心‘利器’之一。”
科大讯飞的自有设备商品也在模型的加持下做到显著提升。搭载讯飞星火的讯飞智能办公本、讯飞听见、讯飞智能录音笔以及讯飞AI进修机等出货不断攀升。科大讯飞亮相的2023年年报中,消费者设备GMV同比增长84%,渠道消费者业务已然变成科大讯飞的第一大业务。
讯飞星火APP在C端行业同样广受欢迎。据七麦资料显示,截至本年4月,讯飞星火APP在安卓端的获取量已然超过9600万次,在境内工具类通用模型APP中排名第一,使用者规模稳居行业第一阵营。
民生证券亮相的行业调研报表中称,2024年或是AI使用的真正元年,AI算力国产化、AI终端商品等方向将孕育出重大机遇,AI着手从供给侧官方进入使用侧的拐点。
身为模型商业化的元年,国产模型正以更高效的技术迭代与更灵活的落地使用不断合作生产力的变革。2024年,我们或许将会目睹更多的智能化使用出如今岗位与日常之中,AI变革的序幕正缓缓拉开。
转发免责告示:家电资讯站点对《模型迈入商业化元年,国产模型谁能脱颖而出?》一文中所陈述、观点判断维持中立,不对所包含信息的精确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担整体责任。
本站点有若干信息均转载自其它传媒,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,本站点无法鉴别所上传图片或文字的知识版权,本站所转载图片、文字不关乎任何商业性质,假如侵犯,请及时通知我们,本站点将在第一时间及时删除,不承担任何侵权责任。联系QQ:411954607
本网觉得,一切网民在进入家电资讯站点主页及各层页面时已然认真看过本条款并完全同意。敬请谅解。