Ivy: Oye, un senador de Estados Unidos ya está llamando 'alarmista' a uno de los laboratorios de IA más grandes por hablar de seguridad.
Marcus: Sí, bienvenido a la nueva normalidad en Washington.
Ivy: Soy Ivy.
Marcus: Y yo soy Marcus. Esto es Broke It, tu guía de lo nuevo en inteligencia artificial.
Ivy: Es martes 6 de octubre y les traemos tres noticias importantes.
Marcus: La grilla política sobre la seguridad en IA le está pegando a los desarrolladores donde más duele: en sus presupuestos.
Ivy: Una marca de autos eléctricos de lujo está frenando a propósito. Resulta que hacer coches caros es fácil... lo difícil es venderlos.
Marcus: Y OpenAI va a empezar a usar marcas de agua para ChatGPT para cumplir con la ley en la Unión Europea, pero hay un gran 'pero'.
Marcus: Ok, empecemos con esa pelea de lodo política sobre la IA.
Ivy: Exacto. Axios reporta que un senador republicano acaba de llamar 'alarmista' a la investigación de seguridad de Anthropic. Y no es solo un tuit, es parte de una bronca política enorme sobre qué tan rápido debe avanzar la IA.
Marcus: Y para los desarrolladores, esto es una pesadilla. Crea una incertidumbre regulatoria total. ¿Para quién desarrollo? ¿Para los que dicen 'muévete rápido' o para los que dicen 've más lento'? Las reglas cambian cada semana.
Ivy: O, Marcus, es un debate público necesario. ¿De verdad vamos a dejar que un puñado de empresas decidan el futuro de la humanidad sin supervisión política?
Marcus: Claro que no, pero la realidad es que solo significa más costos de cumplimiento. Más abogados, más papeleo y menos tiempo para de verdad programar.
Ivy: ¿Y eso qué? El costo de no tener este debate podría ser infinitamente mayor. Los 'alarmistas' de Anthropic y los 'aceleracionistas' del capital de riesgo se están peleando, y una audiencia en el Senado parece el lugar correcto para eso.
Marcus: Pero toda esa pelea solo crea una barrera regulatoria. Favorece a los gigantes como Google y Microsoft que pueden pagar equipos de abogados millonarios para navegar el relajo. A las startups las aplastan.
Ivy: No estoy en desacuerdo, pero la alternativa es que cada quien haga lo que quiera. Esto es simplemente el proceso desordenado de la democracia poniéndose al día con la tecnología.
Marcus: Entonces, ¿qué significa esto para los desarrolladores? ¿Que le sumen un veinte por ciento a su presupuesto para un 'seguro contra el caos político'?
Ivy: Significa que tu estrategia de riesgo y cumplimiento ahora es tan importante como tu tech stack. Y más te vale estar listo para que cambie con los vientos políticos. Lo siento.
Ivy: [audio tags] Ahora pasamos del software a hardware muy, muy caro. El fabricante de autos eléctricos Lucid Motors está pisando el freno.
Marcus: Está bastante claro. TechCrunch reporta que su producción de vehículos ha caído a su nivel más bajo en casi dos años. Y a propósito.
Ivy: No es que tengan problemas con la cadena de suministro, tienen problemas con la demanda. Produjeron más de 8,400 de sus sedanes de lujo Lucid Air el año pasado, pero solo vendieron unos 6,000.
Marcus: Esos son muchos coches carísimos nomás parados en un lote. Es la clásica trampa de Silicon Valley: diseñaron una pieza de tecnología increíble, pero se les olvidó encontrar un mercado para un coche de ochenta mil dólares.
Ivy: Estaban tratando de seguir la estrategia de Tesla: empezar con la gama alta y luego bajar de mercado. Pero se les olvidó que Tesla tuvo una década casi sin competencia y un culto a la personalidad enorme que impulsaba las ventas.
Marcus: Exacto. Ahora el mercado de autos eléctricos está inundado de coches increíbles y más accesibles de Hyundai, Kia, Ford... de todo. Ya no puedes asumir que ser 'premium' es una estrategia ganadora.
Ivy: Están poniendo sus esperanzas en su próximo modelo, la SUV Gravity, pero también es un vehículo de gama alta. Se siente como que están apostando doble a una premisa que no es segura.
Marcus: Es un golpe de realidad enorme para cualquiera que desarrolle hardware complejo. Un producto con una ingeniería hermosa no vale nada sin una estrategia de mercado que de verdad funcione.
Ivy: La gran lección aquí es que la era del dinero fácil para tecnología 'cool' pero poco práctica ya se acabó. El product-market fit es el rey, sobre todo cuando tu producto cuesta más de lo que la mayoría gana en un año.
Marcus: Una lección dura, aprendida en aluminio cepillado y piel vegana.
Marcus: [audio tags] Bueno, para nuestra última historia: OpenAI está tratando de adelantarse a los reguladores en la Unión Europea.
Ivy: Así es. Para cumplir con la Ley de IA de la UE, TechCrunch reporta que van a empezar a poner marcas de agua en el texto generado por ChatGPT y Codex.
Marcus: La tecnología está bastante cool. Es una marca de agua criptográfica invisible al ojo humano. Es un patrón estadístico en cómo la IA elige las palabras y la puntuación.
Ivy: En teoría. O sea, no la puedes ver, pero un detector especial puede escanear el texto y decir, 'sí, esto salió de ChatGPT'.
Marcus: ¡Problema resuelto! Por fin podemos acabar con el spam generado por IA y los ensayos plagiados.
Ivy: No tan rápido... El propio anuncio de OpenAI dice, y estoy citando, que la marca de agua puede 'hacerse más difícil de detectar mediante ediciones'.
Marcus: Espera... ¿qué? ¿O sea que simplemente puedes... borrarla editando?
Ivy: Puedes borrarla editando. Una simple paráfrasis, cambiar algunas frases, incluso pasarlo por otra IA... puede ocultar o eliminar la marca de agua por completo. Están admitiendo abiertamente que no es infalible.
Marcus: Eso es increíble. Entonces, ¿cuál es el punto? Es puro teatro. Están cumpliendo con la letra de la ley, pero ignorando por completo el espíritu.
Ivy: Con esto cumplen el requisito para los reguladores de la UE. ¿Pero para todos los demás? No confíen en esto como una solución. Si eres maestro, editor o gerente, tienes que asumir que cualquier texto podría ser de IA.
Marcus: O sea que construyeron una cerradura y luego publicaron los planos de la llave.
Ivy: Construyeron una cerradura de queso.
Marcus: Muy bien, hagamos un resumen.
Ivy: La guerra política sobre la seguridad en IA ahora es un gasto más en el presupuesto de todo desarrollador.
Marcus: Lucid Motors aprendió que un producto brillante no sirve de nada si nadie puede pagarlo.
Ivy: Y la nueva marca de agua de OpenAI para texto de IA puede ser derrotada con... la tecla de borrar.
Marcus: Antes de irnos, una rapidita. Una startup en Japón dice que construyó una IA que puede traducir los maullidos de tu gato.
Ivy: A ver, déjame adivinar qué traduce. 'Tengo hambre'. 'Acaríciame'. Y 'Sigo teniendo hambre'.
Marcus: ¡Probablemente! Pero dicen que puede detectar emociones como miedo o satisfacción. Chance lo pruebo con el gato de mi vecino, que parece que nomás se la pasa gritando todo el día.
Ivy: No necesitas una IA para eso, Marcus. Está gritando: 'Soy un gato'.
Marcus: ¡Y con eso terminamos! Gracias por escuchar Broke It.
Ivy: Regresamos mañana con más. Hasta entonces, no editen mucho su tarea, no vaya a ser que borren la marca de agua.
Este podcast se hace con IA: las voces de los conductores son sintéticas y los guiones se escriben con ayuda de IA. Cada historia enlaza a su fuente original.