苹果(AAPL.US)AI困局有解了?洽谈AI创企PrismML,欲将大模型“瘦身”塞进iPhone

苹果公司(AAPL.US)正与硅谷一家小型初创企业PrismML展开洽谈。后者声称能够将强大的AI模型大幅压缩,使其足以直接在iPhone上运行。

智通财经APP获悉,苹果公司(AAPL.US)正与硅谷一家小型初创企业PrismML展开洽谈。后者声称能够将强大的AI模型大幅压缩,使其足以直接在iPhone上运行。

技术突破:54GB模型缩至不到4GB,270亿参数落地iPhone

PrismML是一家获得Khosla Ventures投资的加州理工学院(Caltech)衍生公司,于周二公开发布了阿里巴巴开源模型Qwen的压缩版本。公司表示,已将原模型从约54GB压缩至不到4GB,使其全部270亿个参数能够在iPhone 15及更新机型上运行。

PrismML首席执行官巴巴克·哈西比(Babak Hassibi)透露,苹果及其他公司正在评估该初创企业的模型,测试其在设备端的运行速度、能效及性能表现。

“他们目前确实在评估我们的技术,”哈西比谈及苹果时表示。他形容相关讨论仍处于“极为早期”的阶段,最终走向尚不明朗,但“事情正在稳步推进”。

苹果AI困局:端侧智能的取舍与平衡术

PrismML模型发布的时间点,恰逢苹果于前一日正式开放iOS 27公测版,iPhone用户得以首次大规模体验经过漫长延迟的Siri全面升级。苹果正试图让Siri在与OpenAI和Anthropic的竞争中更具竞争力,同时坚持将更多个人信息和AI处理留在设备端。

然而,最强大的AI模型通常需要极大的内存和算力才能在智能手机上运行,这构成了苹果AI战略的核心矛盾。苹果目前的做法是:将复杂请求发送至云端模型处理,但将更多AI能力直接放在iPhone上运行,能够减少数据传输延迟、降低云计算成本、强化隐私保护承诺,同时使部分功能在无网络连接时仍可正常工作。

Creative Strategies总裁兼首席分析师卡罗莱娜·米拉内西(Carolina Milanesi)指出,更小的模型将允许苹果将计算摄影、视频生成以及依赖敏感个人数据的健康或健身工具等更具挑战性的功能移至iPhone本地运行。“能在设备端完成越多,效果越好,”她以健康和用药数据为例指出,用户希望这类信息保持私密。

16位精简至“1或3个值”,速度飙升6至8倍

PrismML表示,其压缩技术通过大幅简化模型内部信息的存储方式实现——将每个数值从16位精简至仅1个或3个可能取值,从而显著削减模型存储和运行所需的内存。

哈西比将这一突破类比于芯片行业从8位向4位计算的演进,但更进一步。据称,压缩后模型的内存使用量仅为传统版本的十分之一至十五分之一,响应速度提升6至8倍,能耗降低3至6倍。

不过,哈西比坦承存在性能折损。PrismML的模型通常在整体性能上损失几个百分点,其中事实回忆能力的削弱程度高于推理、数学和编码等能力。

PrismML发布两个压缩版模型,剑指机器人与自动驾驶

PrismML此次免费发布两个压缩版模型,设计目标是在日常设备上运行,涵盖iPhone、MacBook以及搭载NVIDIA芯片的PC。

该技术脱胎于哈西比在加州理工学院(Caltech)的研究团队。校方持有底层专利,并独家授权给PrismML使用。今年3月,该公司完成了由Khosla Ventures领投、多家机构跟投的1625万美元种子轮融资。

哈西比透露,谷歌开源模型Gemma将是下一个压缩目标,此后将挑战更大规模的模型——包括目前通常需要数据中心硬件才能运行的头部实验室前沿模型。

据PrismML称,该技术的应用场景最终将远不止手机和笔记本电脑,还可延伸至机器人、自动驾驶系统及其他需要在不依赖云端连接的情况下快速决策的产品。

“智能必须本地化,并且必须运行迅速,这一点至关重要,”哈西比表示。

苹果具备端侧优势,规模测试与续航考验待解

苹果已在其设备本地运行部分AI功能,包括翻译、部分摘要以及与个人信息紧密相关的特性。更复杂的请求则被路由至苹果的私有云基础设施或外部第三方模型。

Asymco创始人霍勒斯·德迪乌(Horace Dediu)表示,苹果很可能试图将绝大多数常见的Siri交互保留在设备端,仅将最繁重的任务交由云端处理。

他指出,其中的优势不仅仅在于减少内存占用,而是在相同的物理限制内容纳一个能力更强的模型。

“他们正在摸索,究竟能在设备上塞进多大、多聪明的模型,”德迪乌表示。将常见请求留在本地处理,可为苹果带来更低延迟、更强隐私保护,以及潜在的授权费和云服务成本下降。

因其自主设计iPhone芯片与软件,软硬一体化使其对AI在设备端的运行拥有更精细的控制力,苹果在将这些模型落地应用方面可能具备独特优势。

分析师普遍对PrismML的技术持审慎乐观态度,但强调仍需在受控演示之外接受检验。

Counterpoint Research研究总监塔伦·帕塔克(Tarun Pathak)指出,模型在处理长提示词时的表现、多任务场景下的电池消耗,以及应对数百万次查询的可靠性将是关键。“终极考验将是数百万次查询、数千种设备组合以及大规模稳健测试,”帕塔克表示。

IDC客户端处理器研究主管菲尔·索利斯(Phil Solis)则认为,功耗可能是最大的未知数。即便模型所需内存减少,若其能力足以被频繁使用或持续在后台运行(如代理式任务),仍可能严重消耗手机电量。

芯片需求之争:效率提升≠需求下降

PrismML发布压缩模型之际,市场正围绕AI效率提升是否最终会减少对存储芯片和昂贵数据中心基础设施的需求展开激烈辩论。

存储已成为消费电子和AI服务器领域最大的瓶颈和成本项之一。摩根士丹利预计,苹果2027财年平均每bit DRAM成本可能同比上升约190%,NAND成本上升约180%。该机构预计苹果将把iPhone 18系列同配置机型起售价提高约200美元以保护利润率。

PrismML表示,其技术可使原本需要8块GPU的云端模型仅用1块即可运行,同时也使原本必须依赖服务器的模型能够迁移至手机和笔记本电脑上。

但D.A. Davidson分析师吉尔·卢里亚(Gil Luria)指出,模型压缩不会消除对处理器或存储的需求,只是将更多芯片从数据中心转移到手机和其他设备。“不是说不需要芯片了,你仍然需要GPU,仍然需要内存,”卢里亚表示。他还补充称,在个人设备上运行AI实际上可能不如共享数据中心基础设施高效,因为手机中的芯片大部分时间可能处于闲置状态。

此外,效率突破往往带来更多使用而非更低支出——更便宜、更快速的AI将催生新产品,并促使用户更频繁地运行模型。

PrismML的公开版本发布,为普通用户和投资者提供了在实验室之外验证其性能提升的机会。而对于苹果而言,在iPhone上运行能力更强的AI模型,将有助于在不放弃隐私保护和软硬一体化优势的前提下,实现Siri的实质性升级。

Counterpoint的帕塔克总结道:“云端与端侧AI的结合,能够提供更完整、更高效、更注重隐私的AI体验。复杂任务将卸载至云端,而敏感、延迟敏感及涉及隐私的任务则在设备端执行。”

智通声明:本内容为作者独立观点,不代表智通财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。更多最新最全港美股资讯,请点击下载智通财经App
分享
微信
分享
QQ
分享
微博
收藏