苹果携手初创公司,将巨型AI模型塞进iPhone

苹果携手初创公司,将巨型AI模型塞进iPhone

苹果一直在寻找各种办法,让先进的人工智能直接在你的设备上运行,而不是依赖远程服务器。核心难题始终是这些现代功能正常运作所需的海量数据。现在,一家名叫PrismML的新初创公司找到了一种实用的压缩方式,能把庞大的模型缩小到能装进手机里,这家科技巨头正密切关注他们的进展。

PrismML将54GB的巨型语言模型压缩至仅4GB

这家初创公司最近展示,他们能把54GB的Qwen 3.6模型压缩到只有4GB。这是个巨大的突破,因为这么大的模型通常包含270亿个参数。拥有这么多参数让它能处理复杂的聊天推理,甚至运行完全自主的智能体。大多数为iPhone打造的模型参数量只有几十亿,这严重限制了它们的能力。

PrismML真正出彩的地方在于,它基于数学的压缩技术不会损害模型的性能。这家初创公司成功地把这个高性能系统塞进了智能手机,同时保持了用户期待的快速响应速度。

苹果召开会议,准备把这项压缩技术带到智能手机上

由于苹果出于隐私考虑,非常倾向于在设备本地处理数据,因此找到可靠的大模型压缩方法成了重中之重。《The Information》最近的一篇报道透露,这家硬件制造商的代表已经与PrismML举行了会谈,讨论潜在的合作事宜。

目前双方还没有达成正式协议。即使两家公司决定合作,也还不清楚设备用户或Siri用户何时能用上这些升级。不过,这些讨论的进行,清楚表明苹果正大力推动移动设备变得更智能,而无需过度依赖云端。

把繁重的计算从远程数据中心转移到手机硬件上,能给用户带来更好的隐私保护和更快的响应。如果PrismML能大规模兑现承诺,下一代移动软件或许终于能与当下最聪明的云端工具一较高下。

全部评论0

没有了

到底了

查看更多

发表评论

评分:
显示验证码 验证码