Descifrando el desafío oculto de la IA: La deuda técnica – Una entrevista con Tony Lee
La deuda técnica se refiere al concepto en el desarrollo de software en el que tomar atajos, optar por soluciones fáciles o rápidas, o emplear prácticas de desarrollo subóptimas a corto plazo puede llevar a trabajo adicional, complicaciones y costos en el largo plazo. Esta "deuda" metafórica se acumula cuando un proyecto prioriza la entrega rápida sobre un código perfecto.
Según una encuesta reciente realizada por CompTIA a cientos de profesionales de TI, la deuda técnica representa un desafío para el 74% de las organizaciones. Cabe destacar que el 42% de estas organizaciones la considera un obstáculo sustancial.
El CTO de Hyperscience, Tony Lee, afirma que la deuda técnica no solo es un subproducto; es una fuerza crucial que puede definir el éxito o el fracaso del futuro de las innovaciones en IA. Ignorarla es como construir sobre cimientos de arena: precario e insostenible.
Want more from The CTO Club?
Create a free account to finish this piece and join a community of CTOs and engineering leaders sharing real-world frameworks, tools, and insights for designing, deploying, and scaling AI-driven technology.
Have an account? Log In
¿Qué otras ideas tiene Tony sobre la deuda técnica y su impacto en la inteligencia artificial? En una entrevista reciente, compartió consejos sobre cómo gestionar la deuda técnica y garantizar que las soluciones de IA sigan siendo escalables y sostenibles a largo plazo.
1. En el contexto de la rápida adopción de la IA, ¿qué es la "deuda técnica" y por qué es una preocupación importante para las organizaciones que incursionan en IA?
En software, la deuda técnica generalmente se refiere a una deuda que se va acumulando a medida que el software envejece, esencialmente desde el momento en que se escribe. Esto resulta de no anticipar necesidades futuras o de tomar decisiones deliberadas a corto plazo para lanzar más rápido.
Aunque no es inherentemente negativa, ya que el código implementado suele ser más valioso que el código perfecto que nunca ve la luz, la deuda técnica requiere una gestión cuidadosa. Si se descuida, puede ralentizar los esfuerzos de desarrollo futuro y resultar en un código inmanejable, lo que potencialmente puede causar interrupciones o defectos que afectan negativamente a los clientes.
En el contexto de la IA, una manifestación clave de la deuda técnica es el desfase del modelo. Este fenómeno ocurre cuando el entorno actual se desvía significativamente del entorno en el que originalmente se entrenó el modelo de IA.
Si bien existen diversos tipos de desfase de modelos, un ejemplo reciente y sencillo es el impacto de la pandemia de COVID-19 en los patrones de tráfico global. Los modelos desarrollados para prever el flujo de tráfico antes de la pandemia producirían predicciones muy inexactas durante los confinamientos. Otras formas de desfase de modelo son mucho más sutiles. Pueden producir una degradación lenta de los resultados con el tiempo, erosionando gradualmente la precisión del modelo de maneras que pueden no ser inmediatamente evidentes para los usuarios.
Otro aspecto de la deuda técnica en los sistemas de aprendizaje automático (ML) surge de pasar por alto la integración de capacidades de monitoreo continuo de calidad y de reentrenamiento. Es tentador realizar pruebas de precisión iniciales al implementar un sistema ML y luego celebrar estos resultados. Sin embargo, este enfoque puede resultar problemático si el sistema se deja funcionar sin una supervisión continua, lo que lleva a un declive gradual y desapercibido del rendimiento debido a la falta de mecanismos de observabilidad y mantenimiento incorporados.
Dado el auge en el interés y la inversión en IA generativa, existe el riesgo de que algunas organizaciones inviertan precipitadamente en soluciones costosas sin una evaluación exhaustiva, lo que podría conducir a un desfase imprevisto de modelos.
2. Por el contrario, ¿cómo puede la IA ayudar a identificar o gestionar la deuda técnica existente?
Los modelos de IA generativa pueden combatir la deuda técnica en el software monitoreando y señalando dónde el código puede necesitar actualizaciones, e incluso realizando estas actualizaciones de manera autónoma. Aunque la supervisión humana sigue siendo indispensable, la utilización de IA generativa reducirá el tiempo necesario para abordar la deuda técnica al hacerse cargo de tareas simples pero cruciales, como la gestión de datos.
3. ¿Cómo evalúan y gestionan la deuda técnica dentro de sus proyectos de IA?
Hemos integrado capacidades de aseguramiento de calidad de aprendizaje automático (ML QA) y de reentrenamiento directamente en nuestra plataforma para gestionar eficazmente la deuda técnica de la IA. Es importante proporcionar transparencia sobre la precisión del sistema y la eficiencia de la automatización con el tiempo.
Este enfoque permite que mi equipo lleve a cabo de manera continua el control de calidad de ML y reprograme el entrenamiento del modelo dentro de la plataforma cuando sea necesario.
Implemente procesos de monitoreo y aseguramiento de calidad continuos para detectar y mitigar proactivamente cualquier deuda técnica emergente.
Para la QA de ML, tomamos muestras de las salidas del modelo y creamos tareas de control de calidad, lo que permite a los usuarios validar los resultados a través de un mecanismo de consenso. Si se identifican errores, estos hallazgos se retroalimentan al conjunto de entrenamiento, mejorando así la precisión y confiabilidad del modelo.
4. ¿Cómo pueden las organizaciones equilibrar la urgencia de las estrategias de lanzamiento al mercado con los riesgos potenciales de incurrir en deuda técnica en soluciones de IA?
Las organizaciones deben adoptar con confianza los nuevos avances en IA en sus soluciones, logrando un equilibrio entre un enfoque oportuno de lanzamiento al mercado y una gestión eficaz de riesgos. Incorporar mantenimiento de datos y monitoreo regular a lo largo de todo el ciclo de vida del producto puede reducir de manera significativa el riesgo de acumular deuda técnica y afrontar desvíos del modelo. Invertir en IA, aunque a veces arriesgado, debe ser acogido en los stacks tecnológicos y puede resultar en innovación y aumentos de productividad. Sin embargo, tales inversiones deben realizarse con una deliberación cuidadosa y un enfoque responsable para garantizar resultados óptimos.
5. ¿Cómo garantiza que sus soluciones de IA sigan siendo escalables y mantenibles a largo plazo, considerando el potencial de deuda técnica?
Garantizar que una solución siga siendo escalable y mantenible requiere un mantenimiento continuo del equipo. Para evitar recurrir a una costosa revisión completa, las organizaciones deben crear un proceso con una cadencia continua para el mantenimiento de los datos de entrenamiento y así supervisar la precisión del modelo. Mantener la supervisión humana como una parte crucial de cualquier estrategia de IA y de negocio será vital para evitar desvíos del modelo y, a su vez, más deuda técnica.
6. ¿Cómo incorpora los costos de abordar la deuda técnica al presupuestar proyectos de IA?
La clave es comenzar comprendiendo a fondo las necesidades y limitaciones específicas de su caso de uso, junto con el impacto potencial de la deuda técnica en ML.
- En aplicaciones como la transcripción de texto impreso basada en ML, puede determinar que la probabilidad de desvío del modelo es relativamente baja. En esos casos, podría bastar con depender de revisiones ocasionales de calidad manual sin un control continuo ni retraining frecuente de ML.
- El uso de modelos de ML para tomar decisiones críticas, como la lectura de radiografías para tratamientos médicos, requiere un proceso riguroso de control de calidad de ML con revisiones de calidad humanas y retraining según sea necesario.
Recomendaría empezar con las necesidades de su caso de uso, definir los requisitos y luego elegir la solución de software que se ajuste a estos requisitos para asegurar el equilibrio adecuado entre eficiencia, precisión y seguridad.
7. ¿En qué se diferencia la deuda técnica en IA de la del desarrollo de software tradicional, y cómo se adapta a estas diferencias?
Continuando con lo planteado previamente, la deuda técnica en los sistemas de IA se manifiesta principalmente como desvío de modelo. Esto ocurre cuando los conjuntos de datos de entrenamiento a partir de los cuales aprenden los modelos contienen información sesgada o inexacta, generando salidas no deseadas.
A diferencia de la deuda técnica tradicional, que afecta principalmente la velocidad y confiabilidad del sistema, el desvío de modelo puede tener consecuencias mucho más graves, especialmente si no se abordan los sesgos extremos en los datos de entrenamiento. Esto exige un enfoque distinto al de la deuda técnica tradicional, ya que requiere una atención más estricta a las normativas más recientes y un escrutinio riguroso de la calidad de los datos.
Adoptar estrategias para contrarrestar el desvío del modelo implica una mentalidad similar a la que se tiene para la deuda técnica tradicional.
Una medida práctica es asignar una parte del horario semanal del equipo — tal vez un 20% — para centrarse en la higiene de los datos y reducir sustancialmente el riesgo de desvío del modelo.
Al priorizar el mantenimiento de los datos y dedicar tiempo a estos esfuerzos, se minimiza significativamente la probabilidad de que los modelos de IA generen resultados erróneos.
8. ¿Cómo ve la evolución de la relación entre el despliegue de IA y la deuda técnica en el futuro?
Los desarrollos recientes de soluciones de IA generativa son solo el comienzo de nuestra relación con esta tecnología. Se prevé que el rápido avance continúe y la industria tecnológica podrá trabajar con mejores conjuntos de datos para entrenar sus modelos.
A medida que los sistemas se vuelvan más complejos y haya más datos disponibles para el entrenamiento, el riesgo de deuda técnica disminuirá a medida que las máquinas produzcan resultados precisos y escalables.
Además, a medida que las herramientas y plataformas de IA generativas continúan perfeccionando sus capacidades de codificación, es probable que se produzca una transición hacia una mayor autorregulación por parte de las máquinas, siempre bajo cierto grado de supervisión humana. La intervención humana seguirá siendo necesaria para verificar los datos de entrenamiento y el código. Sin embargo, se espera que la dependencia de la autonomía de las máquinas para las comprobaciones rutinarias se convierta en algo más habitual.
Esta evolución conducirá a una reducción de costes a medida que las organizaciones dependan cada vez más de la IA de vanguardia para mitigar la deuda técnica. Lograr esto depende de la disponibilidad de una amplia variedad de datos, muchos de los cuales aún no son ampliamente accesibles.
Equilibrando beneficios a corto plazo con costes a largo plazo
Al igual que la deuda financiera, la deuda técnica genera "intereses" con el tiempo: si no se aborda, puede conducir a mayores desafíos de mantenimiento, reducción de la calidad del código y actualizaciones o correcciones más complejas en el futuro. El concepto resalta la compensación entre los beneficios a corto plazo y los costes a largo plazo en el desarrollo y mantenimiento de software.
¿Quieres más?
Si te interesa aprender más sobre la deuda técnica y el futuro de la inteligencia artificial, suscríbete a nuestro boletín y recibe las últimas novedades tecnológicas.
¡Te ayudaremos a escalar con inteligencia y liderar con fortaleza mediante guías, recursos de IA y estrategias de los mejores expertos!