一家新创公司最近引起了苹果的注意,因为苹果正在寻找各种新途径,把更先进的技术直接带到用户口袋里。就在网上爆出早期报道几天后,PrismML就确认,他们正在与这家手机制造商就其新型软件压缩工具进行积极沟通。
这家初创公司开发了一种巧妙的方法,能把庞大的人工智能模型压缩到原来大小的一小部分。这项突破或许能让高端程序直接在普通手机上本地运行,而不会过度消耗电池。
别错过《The Mac Observer》的精彩内容
把我们设为首选来源,我们的苹果报道就能在你的Google搜索结果和Discover信息流中获得更高排名——只需一点,无需更改账号。
这家初创公司把庞大模型压缩进手机
PrismML首席执行官Babak Hassibi在最近一次采访中透露,苹果目前正在评估他们的这项新技术。他表示,双方对话还处于早期阶段,但进展顺利。现代AI面临的最大难题是,最优秀的模型需要海量内存和计算能力。通常这些模型只能放在大型云服务器上,因为普通电脑和手机根本无法独立承载。
PrismML称,他们能把一个54GB的模型压缩到不到4GB。通过大幅降低底层代码使用的内存数值实现这一目标。体积大幅缩小后,像iPhone 15 Pro这样的设备就能完全依靠自身内置内存运行这些软件。
不过这家初创公司也承认,压缩后的版本在处理复杂数学或编程问题时,性能会比完整模型略有下降。
本地运行任务,大幅提升用户数据隐私
把计算任务留在本地,而不是依赖云服务器,目前是业界一大重点。苹果与这家初创公司会面讨论压缩AI模型到iPhone上的消息,与其长期硬件战略高度契合。在设备上直接运行任务,能让苹果更好地保护用户隐私,因为数据始终不会离开手机。同时,用户也不需要一直保持网络连接,就能使用各种智能功能。
如果这项技术能大规模应用,可能会改变当前的硬件竞赛格局。现在各大公司正投入巨资建设大型数据中心来处理用户请求。如果手机自己就能完成重度计算,对昂贵服务器芯片和云基础设施的需求就会大大降低。
苹果和PrismML可能会达成授权协议,或者苹果直接收购这家初创公司。能在本地运行完整规模模型的能力,将大幅提升Siri的智能水平,同时不会牺牲用户隐私,也无需承担高昂的云处理费用。

Anonymous
全部评论0