Apple 的 Foundation Models API 隐藏着三种不同的信任边界
Apple 的通用 Swift 会话 API 可以访问端侧模型、Private Cloud Compute 或其他提供商，但这些路径在隐私、容量和可用性上各不相同。
标签
#model-routing
3篇文章使用此标签.
跨模型 KV 缓存传输很快，却出人意料地依赖模型对
NVIDIA 研究人员报告，一种 KV 缓存映射带来 25 倍的组件级加速，而其他几个模型对却损失了目标模型的大部分任务准确率。
Stripe 正在收购 OpenRouter，让“中立路由”成为可测试的主张
Stripe 已同意收购 OpenRouter。提供商选择、路由元数据、定价、隐私、回退行为和可移植性，说明了中立性意味着什么，也说明了它不能意味着什么。