“团队具备全管线模型生产能力非常重要。”

“企业级AI的竞争不在模型大小 ,而在三件事——数据出不出设备、成本高不高、使用是否稳定。云端大模型在这三件事上的结构性短板 ,正是端侧AI的产业机会。
公司情报专家《财经涂鸦》获悉,9月3日,元空AI正式发布自研端侧模型Boxer与端侧AI办公平台“元空AI Work”和AI科研平台“元空AI Science”。
元空智能创始人&CEO逄大嵬认为,AI的下一站将在本地,而非云端。
“当前,云端大模型正面临三个现实问题,企业和个人的敏感数据都要上传云端,Token费用随着使用量增加并已经进入企业财务报表,长任务跑到一半中断无法保证持续可预期的输出。”
与此同时,模型尺寸的持续缩小和细分、智能密度的大幅增加,以及存量和新增设备加速接入AI带来的双重机遇,正合力推动端侧模型走向爆发。“未来,所有物理设备接入模型只是时间问题。”逄大嵬判断。
作为元空AI已合作两年的产业伙伴,现场,中国惠普与元空进一步达成深度合作。双方宣布将联合打造惠普Z系列AI一体机 ,覆盖智能制造、智慧金融、智慧医疗与AIfor Science四大场景。
中国惠普有限公司副总裁、大中华区个人信息产品事业部总经理周信宏透露,2025年双方合作的AI一体机已完成试点验证,通过惠普设备,元空的端侧AI能力随之实现规模化交付企业用戶。
此次发布的惠普Z系列AI一体机已构建起完整产品矩阵。周信宏拆解道,ZBook移动工作站面向轻量化智慧办公;Z2 Mini G1a、ZGX Nano G1n搭载35B Boxer模型,可服务知识库与业务决策场景;Z8 Fury G6i工作站搭载27B稠密Boxer Plus模型,面向科研高算力场景,单台最多支持40个并发用戶。
公开资料显示,元空智能源自北京大学科学智能学院,是唯一一所以学科方式探索科研发现的学院,逄大嵬担任北京大学AI联合实验室主任。团队坚持“做模型、模型驱动”,用三年时间完成全芯片、全操作系统、全设备适配。
2023年3月,团队首款产品Chatexcel上线,主打对话式AI处理Excel,成为彼时AI应用领域爆款,日活一度15万+,海外用户自然溢出。
目前,北京大学在读博士姚佳雨与宁鲲鹏均为元空联合创始人。
零销售成本+标准化交付,迎接双重爆发
Q:与云端token收费的模式相比,端侧AI的毛利结构有何差异?
逄大嵬:首先,我们一直强调标准化交付。比如进入惠普的设备后,出一台货我们就赚一台的钱。从利润率的角度讲,我们几乎只需要承担研发成本,销售成本几乎为零。且标准化交付也意味着我们进入其他设备的成本也基本一样。
其次,从收入结构看,一种是本地的授权模式,不同尺寸的模型授权费也不一样,且模型还在快速进化。我们同时也在做Co-Sell,UpSell,给到客户不同的Agent,这些都会产生收入。
目前云端面临的最大挑战是用户越多亏得越多,我们恰好相反,用户越多收入越多。但其中的核心是一定要做好产品的标准化,标准化、规模化才能赚钱。
但我们和SaaS有本质区别。传统的SaaS是Software as a Service(软件即服务),我们则是Software as a Service(服务即软件),都遵循标准化核心逻辑,只不过SaaS是在做软件的标准化,而我们是在做产品的标准化和规模化。
从未来潜力看,市场规模和市场容量都“正在发生”。随着模型适配的尺度范围越来越广,比如今天我们已经缩小到35B、27B,且参数还在逐步下探,未来模型能够覆盖的设备会越来越多。
同时,新增设备和存量设备会迎来双重爆发。今年,仅中国新增的AI PC数量就达几千万台;存量电脑也可以进行AI改造,比如外接一个设备。
新老设备我们均准备了成熟的解决方案进行交付,比如此次针对存量设备发布的HP ZGX Nano。没有配备AI芯片的电脑,接入HP ZGX Nano同样可以流畅地使用模型。
如果从设备的角度看市规模,潜力是不可计量的。因为设备的种类是无限的,除了电脑,还有LED、实验室设备,甚至日常的门、灯等。理论上,所有物理设备都可以接入模型,只是适配多大模型和能否规模化的问题。我个人觉得,未来所有设备都能上模型只是时间问题。
「数据轨迹」正成Agent训练核心要素
Q:为何选择端侧AI而不是只做Agent?
逄大嵬:我们是国内第一批做Agent的创业公司,对Agent的链路非常熟悉。这个过程中,我们发现有很多问题云端解决不了,尤其是智能制造、智慧金融、智慧医疗、科研。此次我们也针对性发布了四大场景的AI一体机。
在实际工作链路中,这些行业的know-how非常宝贵,且数据合规要求相对严格,只能留在本地,永远不能上云。举个例子,今年6月份Anthropic发布过Claude Science,本质也是因为拿不到science的工作流数据,所以只能先单独发一个Agent来跑。
但今天如果创业公司再出来单独做一个Agent跑用户,这个方向已经非常难了。没有数据和行业知识,用户要花很多时间和token去做后训练。
而且如果以执行长任务为目标,那么训练Agent的核心就不再是单纯的数据,而是数据轨迹。这就要求Agent必须要和模型、设备绑在一起。
宁鲲鹏:从模型看,参数带来的差异已经很小。目前100B的模型和1TB的模型实际用起来的差距可能只有1/10。而且堆参数带来的增益正显著变小。
但同时,数据越来越缺了。我们认为所有数据都在端侧,在设备上。设备上的部分数据包含了用户很多轨迹数据,我们回流后可以反哺模型。对于模型的后训练而言,这种轨迹数据非常珍贵。轨迹数据意味着你给Agent一个任务,它用各种harness去干活,干完活再把数据回流,然后能够rework。
截至目前的AI应用已经证明,在后训练过程中,chatbot的数据其实是没有价值的。所以行业越来越强调数据闭环,要有环境。比如我们AI for science的产品,其中也包括摇试管的设备。每摇一次,设备就会产生一些本地数据;模型获得的摇动次数越多,越能知道怎么摇得更好。
预训练阶段,互联网数据已经基本被用光了,未来设备产生的数据会更有实用价值。按照这个逻辑,在预训练阶段不能上桌的小公司,在后训练阶段反而可能有更大空间。
逄大嵬:举个例子,Deepseek V4 Flash的激活参数只有13B,如果把它放到你的电脑里,一年多收1000元,很多人就不需要在云端买token了,我觉得这件事一年之内百分之百会完成。我们35B的模型效果已经和一年多之前的GPT-4o不相上下了。
姚佳雨:真实环境中,只靠模型是无法完成训练的。纯模型就是一个chatbot,但实际场景中,我们要解决任务,而这个任务永远不会终止,再长的上下文都没有用。所以必须依靠Agent和设备的帮助,把它们放在同一个环境中,看反馈、看结果。
要强调的一点是,我们能做出这样的模型,是因为我们具备这样的数据,离端侧更近,所以在端侧上跑得更好,而不是移植了云端的训练方式。
随着计算资源变强、模型的智能密度增高,中间阶层的端侧模型实际上会向外挤压,逐渐吞噬云端。因为大家都会算账。
全管线模型生产能力最重要
Q:是否担心会被大厂吞噬,是否有为此做一些准备?
逄大嵬:从三年前第一个科研项目Chatexcel开始,我们就一直在回答“如果大厂来做怎么办”的问题。作为一个端侧模型公司,我们的核心任务就是做模型,做不同尺寸的模型。现在我们已经储备了更小的模型,也不会停止相关的研发。
我们的一个觉悟是,能卖钱、能商业化很重要。从Chatexcel开始,我们就一直在做线上交付,是经历过用户锤炼的。所以目前为止我们还活得好好的,而且越活越好。
大厂如果入局,带来碾压是客观存在的。但做模型这件事很难,不是钱的问题,更多是团队。我们从2023年开始做小尺寸模型,做视频模型,做Science模型,这些都是我们团队的know-how。而且如果没做过这些模型,我们今天也不敢出来讲对模型的认知。
而端侧AI的核心竞争力之一,是团队是否具备全管线模型的生产能力。然后在合适的时间点,选择发布尺寸合适的模型。
这几年,我们也发现了一个现实的问题,模型的自进化非常重要。作为一个初创公司,我们其实也在回答一个问题,即如何用这样一个小规模的团队去撬动这么巨大的一个市场。
所以我们的策略是有侧重的,目前还是优先选择做生产力交付、需要执行长任务的产品。如果不需要更强的生产力、不需要执行长任务,开源预装就可以了。
这也是为什么现在我们不会花费太多精力考虑进手机,而会关注价值更高、更能形成网络效应的设备。手机连一下WiFi、5G就很好用了。当然,手机的端侧模型技术上肯定成立,但并不意味着商业上也要推进。
宁鲲鹏:更小的模型我们当然可以做出来,但其中有个比较关键的点是,3B以下的模型基本上干不了活。能装进手机的模型大约都在3B左右,意味着只能放一个Chatbot,聊天可以,但做任务是完全不够的。而我们的产品主打24小时干活,所以进手机并不是必须的。
随惠普开启全球化放量征程
Q:海外目前进展如何?
逄大嵬:早在2023年,Chatexcel上线后不久用户便已自然溢出至海外。随后我们又上线了海外英文版。
今年我们会在海外重点发力,与惠普合作便是全球化的一部分。今年12月份,惠普会带我们做一波较大规模的海外推广。
海外对于成本和安全的关注度会更高,支付能力也更强。有惠普作为背书,我们能够解决很大一部分销售通路问题,增长是水到渠成的事情。
但增长是一个过程,其中包括增量市场和存量市场。增量市场大家都站在同一起跑线;存量市场方面,众所周知,惠普的全球业务占到其整体营收的80%,我们跟着设备跑,海外的空间也显而易见。
目前,我们已经进入东南亚、新加坡,正在拓展日韩。不过这个过程不会特别激进,因为惠普在全球的合规要求非常严格。
我还是想强调一点,无论国内还是海外,端侧AI最性感的地方就在于,存量市场巨大,增量市场快速打开,而我们的成本又极其可控。
来源:财经涂鸦
本文版权归原作者及财经涂鸦所有,元空智能经授权转载。文章内容仅代表原媒体观点,未经权利人许可,请勿再次转载。

2290

被折叠的 条评论
为什么被折叠?



