端侧模型向开发者开放，AI或在iPhone上无处不在
端侧模型向开发者开放，AI或在iPhone上无处不在
6月10日凌晨，苹果一年一度的WWDC开发者大会如期而至。 “ Glass（液态玻璃）” 代表的颠覆性设计革命，证明了苹果还是那个在产品美学上独树一帜的苹果，可毫无惊喜的Apple 让不少期待苹果能在AI上弯道超车的用户有些失望了。
尽管个性化版的Siri短期内没戏，但并不代表未来的iOS 26会缺少AI元素，因为苹果此次推出的 框架，可能会让变成真正的AI手机。
在 框架中，苹果向开发者开放了Apple 端侧大模型的访问权限，允许任何App调用苹果的端侧模型来为用户带来智能、离线可用，且保护隐私的AI体验。
根据苹果方面的介绍，框架原生就支持Swift端侧模型向开发者开放，AI或在iPhone上无处不在，开发者只需三行代码就能轻松访问Apple 的端侧模型。同时工具调用功能同样也内置于这一框架中，使得开发者能够更轻松地将AIGC能力直接集成到自己的App中。
不得不说ai模式怎么改，如今在Apple 本身还缺乏亮点，万众瞩目的个性化版Siri难产的情况下，苹果已然找到了将一手烂牌打成王炸的方法。允许开发者调用Apple 端侧大模型，事实上是为iOS生态内AI应用的爆发奠定了现实基础。
随着“AI手机”这一概念在2024年伊始被提出，想必已经有不少朋友入手了各大厂商的相关产品。可如今的现实，却是许多消费者对AI手机并不感冒，在美国以旧换新网站发布的调查报告中就显示，有超过7成的受访者认为，AI功能“不是很有价值”或“几乎没有增加任何价值”，在提升使用体验上毫无实质性的帮助。
其实AI手机现在叫好不叫座的原因很简单，因为现阶段AI原生应用的供给过于缺乏，目前手机上的AI通常来源于第一方应用或是系统级功能。而手机厂商提供的AI功能又往往集中在文档总结、内容生成、通话摘要等生产力相关领域，缺乏普通用户更需要的娱乐向体验。
要知道当年的智能手机之所以“智能”，丰富多彩的App才是关键。如果此时此刻要让屏幕前的你列举几款AI应用，无外乎就是、豆包、腾讯元宝、、Kimi、可灵。其实现阶段手机上的AI已经出现了极强的马太效应，由于豆包、的AI浓度爆表，可抛开这些，手机上的AI又乏善可陈。
那么问题就来了，AI应用究竟去哪了呢？如果关注AI产品榜等追踪AI市场变化的机构就会发现一个很有趣的现象，那就是出现在相关榜单上的App，几乎都是来自互联网大厂以及AI七小龙，其他团队的产品则芳踪难觅。
难道是因为AI应用开发者的水平退化了，不如当年的iOS/开发者？其实这个问题的答案，是当下AI应用的开发还完全无法平衡成本与体验。
“调一次的大模型就花掉几分钱，累积起来很容易就能吞掉所有利润”，有国内开发者在接受媒体采访时这样说到。由于AI大模型的核心商业模式就是基于API向希望使用AI能力的开发者兜售，因此调用大模型带来的不可控成本，就成为了开发者为App添加AI能力时最为头疼的一个问题。
在苹果此次宣布提供 框架之前，无论是传统应用嵌入AI能力，还是开发新的AI应用，开发者除了自研大模型之外ai模式怎么改，就只有通过API调用云端大模型这一条路。显而易见ai模式怎么改，自研大模型、乃至微调开源模型都不是普通开发者都能玩转的事情，所以接入大模型厂商的API才几乎是唯一的选项。
但AI大模型与传统的互联网产品不太一样，它并没有网络效应，成本也不会随着用户规模的提升摊薄，而是只有永无止境的线性增长。即便当下大模型的API价格进入“厘时代”，也依然无法让小团队迈过损益分歧点。尽管先亏后赚是互联网创业的常态，可做AI应用却是前期巨亏，但盈利前景却并不明朗。
框架则解决了API成本这个问题，iOS开发者可以直接使用Apple 提供的30亿参数规模端侧模型，来为自家的App提供AI能力。由于模型是由苹果提供、算力则由负责，所以开发者就只需要想好自家App能借助AI实现哪些功能就行。
如此一来，AI应用供给不足的问题在iOS端算得上是迎刃而解，苹果这招称得上是实打实地为开发者省钱了。当然端侧模型向开发者开放，AI或在iPhone上无处不在，现在也不用对 框架抱有过高的期待，毕竟如今苹果的端侧模型还没有那么完善。
目前，开发者的主要疑虑集中在模型性能表现和微调优化上。毕竟苹果的端侧模型能否达到云端大模型的性能水平，满足复杂AI任务的需求，以及开发者是否能像云端大模型那样，利用自己的数据集对苹果的模型进行精细化微调，现阶段还是未知数。
此前，苹果部署在端侧的Apple On-模型其实是“翻过车”的，由这一模型支持的（通知摘要）在去年年末曾出现扭曲媒体报道、生成虚假信息的问题，甚至导致苹果方面被迫在iOS 18.3中暂时禁用了通知摘要功能。
由于端侧模型在预训练阶段输入的参数规模小，所以通常在训练时学习到的知识也相对有限。由于知识范围相对较窄，这类模型在生成内容时，往往更倾向于使用已掌握的、相对确定的信息。然而对于一些非常复杂的任务，端侧模型可能会由于能力有限、而无法准确完成，进而产生幻觉。因此如何让开发者知晓端侧模型的能力边界，这是接下来苹果方面需要解决的一个问题。
至于说开发者能否利用自己的专有数据集来微调苹果的端侧模型，答案大概率会是否定的。在解读Apple 运行机制的博客文章中，苹果就强调了负责任的AI原则的应用，由于确保用户隐私和数据安全是苹果的首要目标，所以他们很难允许开发者对模型进行“魔改”。
因此“带着镣铐跳舞”或将会是未来开发者调用苹果端侧模型的基调，但有总比没有强，毕竟隔壁的开发者现在想要利用手机的端侧算力还无从下手。
