15 de septiembre de 2026: reglas para modelos, agentes asesores y medidas contra los deepfakes
Los controles de IA entraron en las reglas de los modelos, los flujos de trabajo regulados y la incautación de dominios, mientras que el acceso y la supervisión se convirtieron en problemas prácticos de diseño.
El control dejó de ser un eslogan en varias de las historias más importantes de hoy. Microsoft redactó reglas de conducta, Anthropic puso puertas de aprobación alrededor de los flujos de trabajo de los asesores financieros y los fiscales de Manhattan incautaron infraestructura de distribución. Cada medida actúa en un punto de aplicación distinto—el comportamiento del modelo, el flujo de trabajo o la distribución—mientras que las novedades menores exponen la misma tensión en la ingeniería de vehículos, las cuotas de uso, los acuerdos sobre datos de entrenamiento y unas conversaciones sobre estándares que todavía son privadas.
Principales novedades
1. Microsoft convierte la “IA humanista” en un reglamento preliminar
Microsoft AI publicó un borrador de Code of Conduct para los modelos MAI que desarrolla y abrió una consulta pública de seis semanas. El texto traduce “las personas importan más que la IA” en requisitos propuestos: los modelos solo deben actuar dentro de una autorización delimitada, seguir siendo interrumpibles y trazables, evitar objetivos que se asignen por sí mismos y no resistirse nunca al apagado. También establece prohibiciones absolutas sobre ámbitos como las armas, la explotación infantil, el contenido sexual no consentido y la manipulación masiva. El límite importante es temporal: Microsoft afirma que el borrador no regula el entrenamiento actual y que, después de revisarlo, pretende orientar el desarrollo a partir de 2027. Para los compradores de modelos, un reglamento escrito crea un objetivo comprobable, pero todavía no demuestra que un sistema desplegado lo cumpla.
Vigilar: el texto final, los métodos de evaluación publicados y si las reglas cubren productos que combinan MAI con modelos de terceros.
Fuentes: el anuncio y la consulta de Microsoft AI, el borrador completo del Code of Conduct, la entrevista de Axios sobre las disyuntivas competitivas
2. Claude entra en el flujo de trabajo de los asesores financieros con puertas de aprobación
Anthropic lanzó Claude for Financial Advisors, un complemento de Cowork que se conecta con custodios, sistemas de carteras, bases de datos de clientes, herramientas de planificación y registros de reuniones. Su aportación práctica es la orquestación: Claude puede reunir el contexto de una cuenta, preparar resúmenes de reuniones, revisar el lenguaje dirigido a clientes frente a la SEC Marketing Rule y dejar actualizaciones o borradores listos para revisión. Anthropic afirma que las recomendaciones de inversión, las comunicaciones con clientes, las decisiones de cumplimiento y demás trabajo regulado siguen sujetos a aprobación humana; recomienda Enterprise porque sus registros de auditoría facilitan la conservación de documentación. Este diseño lleva la competencia más allá de la calidad de las respuestas, hacia los permisos, la procedencia y el estado de revisión a lo largo de un flujo de trabajo. También deja la responsabilidad en el asesor y la firma: un filtro de cumplimiento puede señalar un problema, pero no toma la decisión subyacente.
Vigilar: los permisos de los conectores, el nivel de detalle de los registros de auditoría, las tasas de error en carteras reales y el tiempo ahorrado después de la revisión obligatoria.
Fuentes: el lanzamiento y la descripción del flujo de trabajo de Anthropic, el informe de Bloomberg sobre la expansión en la industria financiera
3. Los fiscales de Manhattan incautan 12 dominios de pornografía deepfake
La Fiscalía del Distrito de Manhattan incautó 12 dominios que, según afirma, distribuían y vendían deepfakes sexuales no consentidos en los que aparecían unas 1.200 personas, en su abrumadora mayoría mujeres. La operación se llevó a cabo mediante órdenes de incautación autorizadas por un tribunal; las investigaciones sobre los operadores de los sitios y quienes subían el material siguen abiertas, y la fiscalía no anunció arrestos. WIRED observó de forma independiente varias páginas de inicio que mostraban avisos de incautación antes del anuncio. Esto importa porque la aplicación de la ley pasó de pedir a las plataformas que eliminaran archivos individuales a desactivar la infraestructura de distribución. La incautación de dominios sigue siendo solo una capa de un mercado más amplio: las herramientas de generación, los canales de descubrimiento, el alojamiento, los sistemas de pago y los afiliados pueden ayudar a que el mismo material reaparezca. El resultado es una interrupción significativa, no una prueba de que se haya desmantelado la red detrás de los sitios.
Vigilar: los cargos contra los operadores, los intentos de volver a alojar las colecciones y las acciones coordinadas contra la infraestructura de alojamiento y pagos.
Fuentes: el anuncio de incautación de la Fiscalía del Distrito de Manhattan, la cobertura y las observaciones independientes de sitios de WIRED
Más señales
4. Pony.ai lleva un robotruck Gen-4 al mercado europeo de transporte de mercancías
Pony.ai y GAC presentaron un camión eléctrico de batería de nivel 4 con sistemas redundantes de dirección, frenado, alimentación, computación y detección. Pony.ai prevé producirlo en volumen más adelante en 2026 y está conversando sobre pruebas en carreteras europeas. Esas conversaciones no son permisos ni pedidos, y sus cifras de costes y ahorro de energía siguen siendo proyecciones del proveedor; la prueba a corto plazo es lograr acceso regulatorio bajo rutas y condiciones definidas.
Fuentes: el anuncio del robotruck Gen-4 de Pony.ai, Reuters sobre el vehículo y las conversaciones sobre pruebas europeas
5. Claude Code conserva parte de una promoción, mientras la capacidad semanal cae desde su máximo
Anthropic puso fin al aumento promocional semanal del 50% de Claude Code y convirtió en permanente, para los planes de pago elegibles, un incremento del 25% sobre la línea base anterior. Ese nuevo nivel está aproximadamente un 16,7% por debajo del máximo temporal; los límites de cinco horas no cambian y quedan excluidos Free y los planes Enterprise basados en consumo. Los equipos que presupuestan trabajo de programación desatendido deberían planificar según el contador semanal, no según la experiencia promocional.
Fuentes: la actualización de los límites semanales y las reglas de elegibilidad de Anthropic, la conversación de la comunidad de Claude Code sobre el cambio
6. Bolt Forge cambia la construcción con modelos abiertos más baratos por datos de entrenamiento opcionales
Bolt añadió Forge, un agente en vista previa de investigación que utiliza modelos de pesos abiertos liderados por GLM 5.3 Flash. Los usuarios individuales de Pro pueden recibir hasta 50 veces más uso de Forge hasta el 14 de octubre si optan por compartir sus sesiones; Bolt afirma que estas se anonimizan y se despojan de secretos para entrenar con Arcee AI. El benchmark es propio de Bolt y Teams y Enterprise están excluidos, así que conviene tratarlo como un nivel de experimentación.
Fuentes: el lanzamiento de Forge, el benchmark y las condiciones de uso de datos de Bolt, un resumen independiente del registro de cambios de la vista previa
7. Informes dicen que tres laboratorios de frontera exploran estándares compartidos
The Information y CNN informan de que Anthropic, OpenAI y Google han hablado de crear un organismo compartido para probar y auditar la IA, con un grupo de trabajo que se reunió todavía durante la semana pasada. No se han anunciado una organización, una carta fundacional, una lista de miembros, un calendario ni una regla vinculante, y las empresas no confirmaron las conversaciones a CNN. Una propuesta pública debe demostrar tanto capacidad de aplicación como espacio para laboratorios más pequeños.
Fuentes: el informe original de The Information sobre el grupo de trabajo, el informe de CNN sobre las conversaciones
Qué observar a continuación
El próximo giro dependerá de artefactos que puedan inspeccionar personas externas: evaluaciones de modelos publicadas, permisos y rastros de auditoría de los agentes regulados, una interrupción duradera de las redes abusivas y resultados de terceros sobre las afirmaciones de costes y seguridad. Una carta fundacional pública del organismo de estándares sería especialmente reveladora si especifica quién establece las pruebas, quién puede unirse y qué ocurre cuando un miembro falla.
Fuentes
- Microsoft AI announcement and consultation
- Microsoft AI draft Code of Conduct
- Axios interview on the Microsoft AI code
- Claude for Financial Advisors announcement
- Bloomberg report on the financial-advisor launch
- Manhattan District Attorney seizure announcement
- WIRED report and independent site observations
- Pony.ai Gen-4 robotruck announcement
- Reuters report on Pony.ai European test discussions
- Anthropic weekly-limit update
- Claude Code community discussion of the limit change
- Bolt Forge launch and data-use terms
- Bolt Forge independent changelog summary
- The Information report on AI standards-body talks
- CNN report on AI standards-body talks