Mi sistema de IA falló semanas sin avisar
· 7 min de lectura
Un sistema automatizado con IA no falla con un error rojo: falla degradándose en silencio. Cuando un paso se cae, el pipeline usa el plan B y sigue entregando algo peor sin decírtelo. La solución no es un modelo mejor, es que cada regla de calidad viva en el código como un bloqueo, no en un documento que el agente interpreta.
El síntoma: dos calidades distintas
Mi fábrica de contenido produce miniaturas de YouTube todos los días. Durante semanas noté que salían de dos tipos: unas buenas, con la escena completa y el texto integrado en la imagen, y otras pobres, con las letras planas pegadas encima de mi cara. Lo raro es que nadie había cambiado nada. El mismo sistema, el mismo día, resultados distintos.
La causa real: el nombre de una variable
El motor bueno es un modelo de imagen al que le paso una foto real mía y le pido que construya la escena entera. Ese motor llevaba semanas devolviendo el mismo error: 429 — prepayment credits are depleted. Mi diagnóstico durante todo ese tiempo fue el equivocado: se acabaron los créditos. Escribí eso hasta en mis propias notas del sistema. No era eso. El servicio leía una variable de entorno con un nombre concreto, y esa variable apuntaba a una cuenta agotada. La cuenta con saldo existía, estaba en el mismo archivo, dos líneas más abajo — pero guardada bajo otro nombre. Dos nombres para lo mismo, uno apuntando a la cuenta muerta. Semanas de miniaturas mediocres por eso.
Este sistema es el que enseño dentro de la comunidad MÁQUINA IA: las estaciones, los gates y el código que lo sostiene.
Lo que de verdad falló: la degradación silenciosa
El error de créditos no fue el problema grave. El problema grave es lo que hizo el sistema con ese error. Estaba diseñado con una escalera: si el motor bueno falla, usa el segundo; si falla, el tercero. Suena sensato. En la práctica significa que el sistema entregaba todos los días una versión peor y nadie se enteraba, porque desde fuera seguía entregando. Un fallo ruidoso se arregla el mismo día. Uno silencioso se arregla cuando alguien mira el resultado con calma semanas después.
La regla que no estaba en el código
Había una regla clara sobre esto: el texto lo integra el modelo de imagen, nunca se pega encima. Estaba escrita en tres documentos distintos del sistema. Y en un cuarto documento, escrito antes, decía exactamente lo contrario. Un agente lee lo que encuentra. Si dos documentos se contradicen, elige uno — y a las cuatro de la mañana, sin nadie mirando, eligió el equivocado. De ahí sale la regla que hoy gobierna todo mi sistema: si la regla no está en el código, no existe. Ahora cada miniatura viaja con un sello de qué motor la generó, y hay una verificación que rechaza la entrega si el sello dice que salió del motor prohibido. Ya no depende de que nadie se acuerde.
Lo mismo, otra vez, en otro sitio
Ese mismo día encontré el patrón repetido en la publicación. Mis cinco publicaciones diarias, pensadas para repartirse a lo largo del día, salieron todas seguidas en tres minutos. La razón era idéntica en estructura: el sistema publicaba en el momento de aprobar, no a la hora planeada. Nadie lo había programado mal — simplemente nunca se había construido la parte de programar. El plan existía en un documento; el código solo sabía publicar ya.
Qué hago distinto ahora
- Cada plan B se delata. Si el sistema usa un camino alternativo, deja constancia y la entrega se bloquea.
- Las reglas viven en el código. Los documentos explican el porqué; el bloqueo lo hace un programa.
- Un error repetido es un diagnóstico pendiente, no una constante. Ese 429 llevaba semanas apareciendo y yo lo había aceptado como parte del paisaje.
El dato honesto: nada de esto lo arregló un modelo mejor. Lo arregló leer un mensaje de error que llevaba semanas delante de mí.
Preguntas frecuentes
- ¿Por qué un sistema de IA falla sin dar error?
- Porque casi todos los pipelines se diseñan con alternativas: si un paso falla, se usa el siguiente en la lista y el proceso continúa. Desde fuera el sistema sigue entregando, así que no hay alarma. La única forma de detectarlo es que cada paso deje constancia de qué camino usó y que la entrega se bloquee cuando ese camino no es el previsto.
- ¿Sirve escribir las reglas de calidad en un documento para que las siga la IA?
- Sirve para explicar el porqué, no para garantizar el cumplimiento. Un agente lee documentos y los interpreta, y si dos se contradicen elige uno sin avisar. Las reglas que no se pueden romper tienen que estar implementadas como una verificación en el código que bloquee el resultado, no como una instrucción escrita.
- ¿Qué significa el error 429 de una API de IA?
- El código 429 indica que se han agotado los recursos disponibles: puede ser límite de peticiones por minuto o saldo agotado en la cuenta. El mensaje suele decir cuál de los dos es. Conviene verificar también qué credencial está usando el programa, porque un 429 persistente puede significar que se está consultando una cuenta distinta de la que tiene saldo.
- ¿Cómo se detecta que un sistema automatizado está entregando peor calidad?
- Comparando la salida contra el plan, no contra la ausencia de errores. Un sistema que entrega todos los días parece sano aunque esté usando su peor camino. La señal fiable es registrar en cada entrega qué herramienta produjo cada pieza y revisar ese registro, no el resultado final.