Ivy: El algoritmo de tu jefe te puede vigilar, te puede evaluar... pero desde hoy en California, ya no te puede correr. Al menos, no por sí solo.
Marcus: ¡Yo soy Marcus!
Ivy: Y yo soy Ivy.
Marcus: Y estás escuchando Broke It, tu clavado diario al mundo de la inteligencia artificial. Es jueves, 1 de octubre de 2026. Y en el programa de hoy...
Ivy: Una nueva ley en California exige que un humano participe en los despidos que involucren IA.
Marcus: Una advertencia importante: asistentes de programación con IA están filtrando secretos de empresas por todo GitHub.
Ivy: Y OpenAI acaba de lanzar GPT-6. ¿Serán sus nuevos modelos 'Sol' y 'Luna' por fin la IA que todos estábamos esperando?
Marcus: Empecemos en California, Ivy. Esta es una victoria importantísima para la protección de los trabajadores.
Ivy: Es la primera ley de este tipo en el país. El gobernador Newsom firmó una iniciativa que dice que una 'herramienta de decisión automatizada' no puede ser la única razón por la que te despidan.
Marcus: 'El único factor'... esa es la clave. O sea, una IA todavía puede marcarte por 'baja productividad', pero un ser humano de verdad tiene que autorizar el despido.
Ivy: Exacto. La ley exige 'supervisión humana significativa'. Y 'significativa' es una palabra con la que los abogados se van a divertir muchísimo.
Marcus: ¡Pero es un comienzo! Se acabó eso de que los trabajadores de Amazon sean despedidos por una app sin derecho a réplica. Es una base de dignidad humana.
Ivy: Una base que quizás sigue en el sótano. La ley también cubre la vigilancia por algoritmos. Ahora los empleadores tienen que avisar qué datos recolectan y para qué los usan. Pero igual... pues lo pueden seguir haciendo.
Marcus: ¡Pero la transparencia es el primer paso! No puedes pelear contra algo que no ves.
Ivy: La otra cara de la moneda es que esto se vuelva pura simulación. Un gerente recibe una lista de cincuenta nombres del algoritmo, está ocupado, le da clic a 'aprobar'. ¿Qué tan 'significativo' es eso en realidad?
Marcus: Eso es muy cínico. Crea una responsabilidad legal. Si un gerente solo aprueba sin pensar un despido sesgado, ahora la empresa es la responsable. Los obliga a pensar de verdad.
Ivy: Ya veremos. La prueba de fuego será la primera demanda por despido injustificado que cite esta ley. Hasta entonces, es solo un comunicado de prensa muy bien redactado.
Marcus: Entonces, para quienes nos escuchan, si están en California, su trabajo es un poquito más seguro contra los jefes-robot. ¿Y para los demás? Esto sienta un precedente que otros estados seguramente seguirán.
Ivy: O... esperen que las empresas encuentren formas creativas de definir 'supervisión humana significativa'. Como poner a un becario a marcar una casilla.
Ivy: Siguiente tema: ¿qué pasa cuando tu útil asistente de IA es medio chismoso? O en este caso, cuando filtra código.
Marcus: Esta es la pesadilla de cualquier desarrollador. Hablamos de los agentes de código con IA, esas herramientas que te ayudan a escribir y depurar código...
Ivy: ...que se están pasando de serviciales. Un nuevo informe encontró que están subiendo código a repositorios públicos de GitHub por default.
Marcus: ¿Por default? Qué locura. O sea que un desarrollador está trabajando en una función interna, usa una IA para que le ayude, y la IA simplemente... ¿publica el trabajo a medias para que lo vea todo el mundo?
Ivy: Exactamente. El informe encontró más de 13,000 casos de datos sensibles expuestos. Hablamos de llaves de API, credenciales de bases de datos, pedazos de algoritmos propietarios...
Marcus: Espera, ¿secretos 'hardcodeados' de verdad? ¿No solo código de plantilla?
Ivy: Claro que sí. Hablamos de llaves privadas para AWS, Google Cloud... una mina de oro para los atacantes. Y pasa porque los desarrolladores solo le pican a 'ejecutar' sin revisar la configuración.
Marcus: Es el clásico problema de 'muévete rápido y rompe cosas'. Todo el mundo está tan emocionado con el juguete nuevo que se les olvida la seguridad más básica.
Ivy: Es más que eso. Es una falla de diseño de la herramienta. El default para cualquier cosa que toque código propietario debería ser 'privado'. Que sea opcional hacerlo público, no al revés.
Marcus: Totalmente. Es un error de novato de los creadores de la herramienta. La lección para nuestros escuchas que programan: revisen su configuración. Ya. Y traten a estas herramientas de IA como un becario en el que no confían, hasta que se ganen su confianza.
Ivy: Y para los gerentes, significa que necesitan una política para usar estos agentes para ayer. No dejen que su equipo los use a diestra y siniestra.
Marcus: Este es el tipo de error que no solo te cuesta dinero, podría hundir una empresa. Imagínate que tu 'receta secreta' termine pegada en un foro público...
Ivy: ...donde es inmediatamente 'scrapeada', indexada y probablemente incorporada en la siguiente generación de modelos de IA.
Marcus: Y finalmente, OpenAI está de vuelta. Acaban de anunciar su familia de modelos GPT-6, llamados Sol y Luna, y la verdad, esto me emociona bastante.
Ivy: Otro lanzamiento importante. Siento que apenas acabamos de recibir el GPT-5. Y ahora, ¿cuál es el gancho?
Marcus: El gancho es que lo dividieron en niveles. Tienes Sol, que es el modelo grande, potente, el tope de gama. Supuestamente es el más capaz que han hecho, pero va a ser caro.
Ivy: El modelo 'pro' que solo las grandes empresas pueden pagar. Entendido. ¿Y qué es Luna?
Marcus: Ahí es donde se pone interesante Luna. Es una familia de modelos más pequeños y eficientes. OpenAI dice que el mejor modelo Luna es tan bueno como GPT-5, pero a una fracción del costo. Y se escalan hasta modelos que pueden correr en tu celular.
Ivy: ¿En el dispositivo, dices? O sea, ¿se acabó eso de mandar todos mis datos a los servidores de OpenAI para cada cosita que pregunto?
Marcus: Esa es la promesa. Un asistente de IA de verdad privado, rápido e inteligente en tu teléfono. Para los desarrolladores, significa llamadas a la API más baratas y rápidas para la mayoría de las tareas. Solo usas el gran modelo 'Sol' cuando de verdad lo necesitas.
Ivy: Ok, lo admito, un sistema por niveles tiene sentido. El enfoque de 'un solo modelo para gobernarlos a todos' siempre fue ineficiente. Pero del dicho al hecho... Su post en el blog está lleno de gráficas impresionantes, pero son las gráficas de OpenAI. Necesitamos benchmarks independientes.
Marcus: Totalmente. Pero si esas afirmaciones se cumplen, esto cambia el juego. Hace que la IA potente sea accesible para todos, desde pequeñas startups hasta aficionados. Es democratizador.
Ivy: O... crea un nuevo sistema de clases para la IA. Los ricos obtienen la inteligencia 'Sol', lo verdaderamente innovador, y el resto de nosotros nos quedamos con 'Luna', la versión 'suficientemente buena' que está una generación por detrás.
Marcus: Yo no lo veo así, ¡se trata de usar la herramienta adecuada para cada tarea! No necesitas un mazo para colgar un cuadro.
Ivy: A menos que el cuadro sea una pintura al óleo de 200 kilos. Mi punto es que la brecha entre el modelo superior y los demás será muy reveladora.
Marcus: Ok, buen punto. Entonces, la conclusión: Desarrolladores, prepárense para facturas de API más baratas. Usuarios, prepárense para una IA más inteligente y rápida en sus apps. Y tal vez, solo tal vez, una IA que viva directamente en su celular.
Ivy: Lo que realmente significa es que pasaremos el próximo mes revisando benchmarks para ver si Luna es de verdad tan bueno como el modelo estrella del año pasado, o si es solo marketing ingenioso.
Marcus: Muy bien, vamos a recapitular los titulares en Broke It.
Ivy: California aprobó una ley que requiere la intervención de un humano cuando una IA intente despedirte.
Marcus: Las herramientas de código con IA están filtrando secretos de empresas a GitHub. Vayan a revisar su configuración.
Ivy: Y OpenAI lanzó sus nuevos modelos GPT-6, Sol y Luna, prometiendo una IA más accesible y práctica para todos. Ya veremos.
Marcus: Antes de irnos, una última idea sobre GPT-6... Sol y Luna. Me encantan los nombres.
Ivy: A mí me parece un poco obvio. El grande, poderoso y caro es el Sol. El más pequeño, barato y 'para la gente' es la Luna, que solo refleja la luz del Sol.
Marcus: Órale, wow. Ni siquiera lo había pensado así. De verdad que no puedes evitar encontrarle el lado cínico a todo, ¿verdad?
Ivy: No es cinismo, es análisis literario. Te están diciendo la dinámica de poder ahí mismo, en la marca.
Marcus: Y con esa nota de cinismo cósmico, ¡ese es nuestro programa del jueves, 1 de octubre!
Ivy: Gracias por escuchar Broke It. Mañana volvemos con más del mundo de la inteligencia artificial.
Marcus: Sí, no dejen que los jefes-robot, el código filtrado o el cinismo cósmico los desanimen. ¡Nos escuchamos mañana!
Este podcast se hace con IA: las voces de los conductores son sintéticas y los guiones se escriben con ayuda de IA. Cada historia enlaza a su fuente original.