OpenAI y Microsoft temían un 'doom loop' para la web - California estudia el apagado de la IA | Episodio #174

Gran Invento — 2026-09-19

Las noticias de hoy

Documentos del caso contra OpenAI y Microsoft muestran temores internos a un “doom loop” para la web

Documentos judiciales desclasificados en la demanda de The New York Times contra OpenAI y Microsoft recogen advertencias internas sobre el impacto de entrenar modelos de IA con contenido de la web. Entre los textos citados aparecen referencias a un posible “doom loop” para internet, al daño al periodismo y a prácticas como sortear muros de pago. El caso forma parte de la batalla legal por el uso de artículos periodísticos para entrenar modelos sin licencia, a la que ya se han sumado otros medios.

Por qué importa: Estos documentos refuerzan la idea de que las propias compañías conocían los posibles efectos del uso masivo de contenido periodístico sin licencia sobre el tráfico y los ingresos de los editores.

California estudia exigir un “interruptor de apagado” para modelos avanzados de IA

El gobernador de California, Gavin Newsom, ha firmado una orden ejecutiva para explorar nuevas reglas de seguridad aplicables a los modelos de IA de frontera. Entre las opciones sobre la mesa figuran auditorías, verificación independiente y la posibilidad de imponer un “interruptor de apagado”. Por ahora no se trata de una obligación inmediata, sino de un proceso para recabar recomendaciones de expertos en los próximos meses.

Por qué importa: Si California da ese paso, podría fijar un estándar regulatorio con influencia directa sobre cómo se supervisan los modelos avanzados en Estados Unidos.

Google presenta CC, un agente de IA para organizar tareas y rutinas del hogar

Google ha presentado CC, un agente de IA experimental diseñado para ayudar a las familias a coordinar la vida doméstica. La herramienta puede apoyarse en información compartida, como correos, calendarios y listas, para ordenar compras, comidas, formularios y horarios. El movimiento encaja con el intento de las grandes tecnológicas de llevar los agentes de IA más allá del chat y convertirlos en asistentes persistentes para tareas concretas.

Por qué importa: Apunta a una nueva generación de asistentes que gestionan trabajo cotidiano para varias personas, pero también abre nuevas dudas sobre privacidad y acceso a datos familiares sensibles.

Un estudio apunta a que el watermarking puede alterar la respuesta de los LLM ante prompts dañinos

Una investigación citada por Ars Technica sugiere que aplicar watermarking de IA, en este caso SynthID, puede cambiar la forma en que algunos modelos responden a peticiones dañinas. Según ese reporte, hubo casos en los que el modelo siguió instrucciones que normalmente habría rechazado. El resultado es llamativo porque el watermarking se plantea como una herramienta de trazabilidad del contenido generado, no como un sistema de seguridad conversacional.

Por qué importa: Si este efecto se confirma, los sistemas de watermarking tendrán que evaluarse también por su impacto en la seguridad del modelo, y no solo por su utilidad para identificar contenido generado por IA.

Mercados Tech

_Pendiente — aplazado hasta tener fuente de análisis propia._

El dato

80% — de los encuestados en China dice usar IA para fines personales al menos una vez por semana, frente al 54% en EE. UU.

Producto / IA del día

Muse para Mac — El nuevo agente de IA de Meta en formato app para Mac, capaz de interactuar con archivos y aplicaciones del equipo. Sirve para delegar tareas del día a día: revisar documentos, gestionar calendario, notas, mensajes y ejecutar acciones dentro del ordenador sin hacerlo todo a mano.

Escuchar el episodio

Enlace: _(pendiente — todavía no hay publicación en Acast)_

Duración: 6:55

Fuentes

• The Verge — OpenAI and Microsoft knew they were starting a ‘doom loop’ for the web — https://www.theverge.com/ai-artificial-intelligence/997633/openai-microsoft-chatgpt-ai-new-york-times-doom-loop-theft-google-zero
• Ars Technica — Microsoft exec called AI scraping the “largest theft of labor in human history” — https://arstechnica.com/tech-policy/2026/09/microsoft-exec-called-ai-scraping-the-largest-theft-of-labor-in-human-history/
• Xataka — "El mayor robo laboral de la historia": así describían en Microsoft el uso de artículos de prensa para entrenar IA — https://www.xataka.com/robotica-e-ia/mayor-robo-laboral-historia-asi-describian-microsoft-uso-articulos-prensa-para-entrenar-ia-siguieron-haciendolo
• Hipertextual — Mucho ojo con este nuevo malware: puede instalar extensiones de Chrome y robar todos tus datos — https://hipertextual.com/seguridad/nuevo-malware-kremlin-instala-extensiones-de-chrome-y-roba-tus-datos/
• Hipertextual — Claude ayudó a hackear cuentas de ChatGPT de empleados de OpenAI — https://hipertextual.com/inteligencia-artificial/claude-ayudo-a-hackear-cuentas-de-chatgpt-de-empleados-de-openai/
• Ars Technica — Researchers used Claude to hack OpenAI — https://arstechnica.com/ai/2026/09/researchers-used-claude-to-hack-openai/
• The Verge — Gavin Newsom is pushing for an AI kill switch — https://www.theverge.com/policy/997516/california-governor-newsom-ai-kill-switch
• Mashable — Is an AI kill switch a real thing? — https://mashable.com/tech/ai-kill-switch-newsom
• TechCrunch — Google’s new ‘CC’ is an AI agent that helps families run their households — https://techcrunch.com/2026/09/18/googles-new-cc-is-an-ai-agent-that-helps-families-run-their-households/
• Ars Technica — Google announces new experimental "CC" AI agent for families — https://arstechnica.com/google/2026/09/google-announces-new-experimental-cc-ai-agent-for-families/
• Ars Technica — LLMs respond differently to harmful prompts when AI watermarking is used — https://arstechnica.com/security/2026/09/ai-text-watermarking-can-make-models-more-vulnerable-to-adversarial-prompts/

Sobre Gran Invento

Gran Invento es un diario de tecnología e inteligencia artificial creado por Christian Becerra.

_(CTA hacia perfil / LinkedIn / suscripción — pendiente de definir formato exacto)_

← Episodio anterior: Google abre Google Home a los agentes de IA | Episodio #172