麦肯锡的 Lilli 案例为企业 AI 市场提供了哪些发展思路?
撰文:Haotian
麦肯锡的 Lilli 案例为企业 AI 市场提供了关键发展思路:边缘计算 + 小模型潜在的市场机会。这个整合了 10 万份内部文档的 AI 助手,不仅获得了 70% 员工的采用率,而且平均每周使用 17 次,这种产品粘性在企业工具中实属罕见。以下,谈谈我的思考:
1)企业数据安全是痛点:麦肯锡 100 年积累的核心知识资产以及一些中小企业积累的特定数据都有极强数据敏感性,都不是和在公共云上处理。如何探索一种“数据不出本地,AI 能力不打折”的平衡状态,就是实际市场刚需。边缘计算是个探索方向;
2)专业小模型会取代通用大模型:企业用户需要的不是"百亿参数、全能型"的通用模型,而是能精准解答特定领域问题的专业助手。相比之下,大模型的通用性与专业深度之间存在天然矛盾,企业场景下往往更看重小模型;
3)自建 AI infra 和 API 调用的成本平衡:尽管边缘计算和小模型的组合虽然前期投入较大,但长期运营成本显著降低。试想若 45000 名员工高频使用的 AI 大模型来自于 API 调用,这产生的依赖,使用规模和品论的增加都会使得自建 AI infra 成为大中型企业的理性选择;
4)边缘硬件市场的新机会:大模型训练离不开高端 GPU,但边缘推理对硬件的要求则完全不同。高通、联发科等芯片厂商针对边缘 AI 优化的处理器正迎来市场良机。当每个企业都想打造自己的"Lilli",专为低功耗、高效率设计的边缘 AI 芯片将成为基础设施的必需品;
5)去中心化 web3 AI 市场也同步增强:一旦企业在小模型上的算力、微调、算法等需求被带动起来,如何平衡资源调度就会成为问题,传统的中心化的资源调度会成为难题,这直接会给 web3AI 去中心化小模型微调网络,去中心化算力服务平台等等带来很大的市场需求;
当市场还在讨论 AGI 的通用能力边界时,更喜闻乐见看到很多企业端用户已经在挖掘 AI 的实用价值。显然,相比过去比拼算力、算法的资源垄断式跃进,当市场把重心放到边缘计算 + 小模型方式时,会带来更大的市场活力。
(责任编辑:基金工具)
-
这几年,“人人都是产品经理”,已经进阶成了“人人都是老板”。...[详细]
-
Buidler’s Voice对话Eigen Foundation:AVS重塑以太坊质押格局
所有的故事、所有的概念,都会回到原点。...[详细]
-
对此,夏野刚在接受采访时说:“我们没有与Youtube进行战斗,我们并没有与任何其他平台进行战斗。...[详细]
-
document.writeln('关注创业、电商、站长,扫描A5创业网微信二维码,定期抽大奖。...[详细]
-
永安行成立于2010年,主业是公共自行车服务,这是一个发展多年的传统行业,已经有多家公司登陆资本市场,例如新三板上的金通科技和绿畅科技。...[详细]
-
Frind.tch:超越Uniswap和比特币,百万美元费用创新高!
当脑海中有一点点想法的时候,网站审计可以帮助运营者搞清谁在使用网站和如何优化网站以便更好服务这些人。...[详细]
-
北京、福州、宁波等地也相继出现水货门店关闭的信息。...[详细]
-
北京发表2023年Wb3发展白皮书!赵长鹏称时间点有趣 孙宇晨表示同意
一个公司月采购100万,在你这里花了10万,为什么那90万不在你这里?一个产品,该有20人用,还有10个人没用,还有50%没渗透。...[详细]
-
我建议每个公司要设置这样一个手动、半自动、全自动的客户比例指标,并且观察它的变化。...[详细]
-
加入百度新闻源站点数据将在百度新闻搜索下得到内容展示: 虽然卢松松博客没有资格加入新闻源,但通过软文推广、新闻事件一系列运作,一样可以得到展示效果。...[详细]