La API de sesión Swift común de Apple puede acceder a modelos en el dispositivo, Private Cloud Compute u otro proveedor, pero esas rutas difieren en privacidad, capacidad y disponibilidad.
Investigadores de NVIDIA informan de una aceleración de 25× a nivel de componente para una asignación de caché KV, mientras que otras parejas de modelos perdieron gran parte de la exactitud de tarea del modelo objetivo.
Stripe ha acordado adquirir OpenRouter. La elección de proveedores, los metadatos de ruta, los precios, la privacidad, el comportamiento de las alternativas y la portabilidad muestran qué puede significar la neutralidad y qué no.