Démêler le défi caché de l’IA : la dette technique – Entretien avec Tony Lee
La dette technique fait référence au concept en développement logiciel selon lequel prendre des raccourcis, opter pour des solutions faciles ou rapides, ou adopter des pratiques de développement sous-optimales à court terme peut entraîner davantage de travail, de complications et de coûts à long terme. Cette « dette » métaphorique s'accumule lorsqu’un projet privilégie une livraison rapide au détriment d’un code parfait.
Selon une enquête récente de CompTIA menée auprès de centaines de professionnels de l'informatique, la dette technique représente un défi pour 74 % des organisations. Fait notable, 42 % de ces organisations la considèrent comme un obstacle substantiel.
Le directeur technique de Hyperscience, Tony Lee, affirme que la dette technique n'est pas seulement un sous-produit ; c’est une force déterminante qui peut assurer ou compromettre l’avenir des innovations en intelligence artificielle. L’ignorer revient à bâtir sur des fondations de sable – précaire et insoutenable.
Want more from The CTO Club?
Create a free account to finish this piece and join a community of CTOs and engineering leaders sharing real-world frameworks, tools, and insights for designing, deploying, and scaling AI-driven technology.
Have an account? Log In
Quelles autres réflexions Tony partage-t-il à propos de la dette technique et de son impact sur l’intelligence artificielle ? Lors d’une récente interview, il a livré ses conseils pour gérer la dette technique et garantir que les solutions d’IA restent évolutives et maintenables sur le long terme.
1. Dans le contexte de l’adoption rapide de l’IA, qu’est-ce que la « dette technique » et pourquoi est-ce un enjeu majeur pour les organisations s’engageant dans l’IA ?
En informatique, la dette technique désigne généralement une dette cumulative que l’on contracte à mesure que le logiciel vieillit, en réalité dès le moment où il est écrit. Cela résulte soit d’un manque d’anticipation des besoins futurs, soit de choix délibérés à court terme pour livrer plus rapidement.
Bien qu’elle ne soit pas intrinsèquement négative, puisque du code déployé est souvent plus précieux qu’un code parfait qui ne sera jamais utilisé, la dette technique doit être gérée avec soin. Si elle est négligée, elle peut ralentir les développements futurs et donner lieu à un code difficile à maintenir, avec un risque de pannes ou d’anomalies qui impactent négativement les clients.
Dans le contexte de l’IA, une manifestation majeure de la dette technique est la dérive du modèle. Ce phénomène survient lorsque l’environnement actuel diverge significativement de celui dans lequel le modèle d’IA a initialement été entraîné.
Il existe diverses formes de dérive de modèle, mais un exemple récent et simple est l’impact de la pandémie de COVID-19 sur les flux de circulation mondiaux. Les modèles conçus pour prévoir la circulation avant la pandémie donnaient des prédictions extrêmement inexactes durant les confinements. D’autres formes de dérive sont bien plus subtiles. Elles entraînent une dégradation lente des performances, érodant progressivement l’exactitude du modèle de manière parfois imperceptible pour les utilisateurs.
Un autre aspect de la dette technique dans les systèmes d’apprentissage automatique (ML) provient de la négligence de l’intégration de la surveillance continue de la qualité et de la capacité à réentraîner les modèles. Il est tentant de réaliser des tests d’exactitude initiaux lors du déploiement d’un système ML puis de s’en satisfaire. Cependant, cette approche peut s’avérer problématique si le système fonctionne ensuite sans vérification régulière, entraînant un déclin progressif et discret de ses performances à cause de l’absence de mécanismes d’observabilité et de maintenance intégrées.
Compte tenu de l’explosion de l’intérêt et des investissements autour de l’IA générative, il existe un risque que certaines organisations investissent dans des solutions coûteuses sans évaluation approfondie, ce qui peut conduire à des dérives de modèle imprévues.
2. À l’inverse, comment l’IA peut-elle aider à identifier ou gérer la dette technique existante ?
Les modèles d’IA générative peuvent combattre la dette technique logicielle en surveillant et signalant les endroits où le code mérite d’être mis à jour – voire réaliser ces mises à jour de manière autonome. Bien que la supervision humaine reste indispensable, l’utilisation de l’IA générative permettra de réduire le temps consacré au traitement de la dette technique en prenant en charge des tâches simples mais cruciales, comme la gestion des données.
3. Comment évaluez-vous et gérez-vous la dette technique dans vos projets d’IA ?
Nous avons intégré directement dans notre plateforme des outils d’Assurance Qualité pour l’apprentissage automatique (ML QA) et des capacités de ré-entraînement afin de gérer efficacement la dette technique liée à l’IA. Il est important d’apporter de la transparence concernant l’exactitude du système et son efficacité d’automatisation au fil du temps.
Cette approche permet à mon équipe de réaliser en continu l’assurance qualité pour le machine learning (ML QA) et de réentraîner le modèle sur la plateforme au besoin.
Mettez en place des processus de surveillance continue et d’assurance qualité afin de détecter et d’atténuer de manière proactive toute dette technique émergente.
Pour l’assurance qualité des modèles de machine learning, nous échantillonnons les résultats produits par le modèle et créons des tâches de QA, permettant aux utilisateurs de valider les résultats via un mécanisme de consensus. Si des erreurs sont identifiées, ces informations sont réintégrées dans l’ensemble d’entraînement, améliorant ainsi la précision et la fiabilité du modèle.
4. Comment les organisations peuvent-elles équilibrer l’urgence des stratégies de mise sur le marché et les risques potentiels d’accumulation d’une dette technique dans les solutions d’IA ?
Les organisations doivent adopter avec confiance les nouvelles avancées de l’IA dans leurs solutions, en trouvant un équilibre entre une approche rapide de mise sur le marché et une gestion des risques efficace. L’intégration de la maintenance des données et d’une surveillance régulière tout au long du cycle de vie du produit permet de réduire considérablement le risque d’accumulation de dette technique et de dérive du modèle. Investir dans l’IA, bien que cela comporte parfois des risques, doit être encouragé dans les piles technologiques et peut se traduire par des gains d’innovation et de productivité. Cependant, ces investissements doivent être réalisés avec une réflexion approfondie et une approche responsable pour garantir les meilleurs résultats.
5. Comment vous assurez-vous que vos solutions d’IA restent évolutives et maintenables à long terme, en tenant compte du risque de dette technique ?
Pour garantir qu’une solution reste évolutive et maintenable, il est nécessaire d’en assurer une maintenance constante par l’équipe. Afin d’éviter des révisions coûteuses, les organisations doivent mettre en place un processus de maintenance régulière de l’ensemble de données d’entraînement pour surveiller la précision du modèle. Maintenir une supervision humaine comme composante essentielle de toute stratégie d’IA et d’entreprise sera crucial pour éviter la dérive des modèles et, par ricochet, une dette technique supplémentaire.
6. Comment prenez-vous en compte les coûts liés à la gestion de la dette technique lors de la budgétisation de vos projets d’IA ?
L’essentiel est de commencer par bien comprendre les besoins et les contraintes spécifiques de votre cas d’utilisation, ainsi que l’impact potentiel de la dette technique liée au machine learning.
- Pour les applications comme la transcription de texte imprimé basée sur le ML, on peut estimer que le risque de dérive du modèle est relativement faible. Dans ce cas, des contrôles de qualité manuels ponctuels, sans assurance qualité (QA) ou réentraînement fréquent du modèle, peuvent suffire.
- L’utilisation de modèles ML pour des décisions critiques, telles que l’interprétation de radiographies à des fins médicales, nécessite en revanche un processus de QA très poussé avec des contrôles de qualité humains et un réentraînement si nécessaire.
Je recommande de partir des besoins de votre cas d’usage, de définir les exigences, puis de choisir la solution logicielle qui correspond à ces exigences afin d’assurer le meilleur équilibre entre efficacité, précision et sécurité.
7. En quoi la dette technique en IA diffère-t-elle de celle du développement logiciel traditionnel, et comment vous adaptez-vous à ces différences ?
Comme évoqué précédemment, la dette technique dans les systèmes d’IA se manifeste principalement par la dérive du modèle. Cela se produit lorsque les jeux de données d’entraînement utilisés présentent des biais ou des informations inexactes, générant alors des résultats non désirés.
Contrairement à la dette technique traditionnelle, qui impacte surtout la rapidité et la fiabilité du système, la dérive du modèle peut avoir des conséquences beaucoup plus graves, notamment lorsque des biais importants dans les données d’entraînement ne sont pas corrigés. Cela implique que les organisations adoptent une approche différente de celle appliquée à la dette technique classique, en prêtant une attention accrue aux réglementations récentes et au contrôle qualité des données.
Adopter des stratégies pour contrer la dérive du modèle nécessite une démarche similaire à celle de la gestion de la dette technique traditionnelle.
Une mesure concrète consiste à réserver une partie du temps hebdomadaire de l’équipe — par exemple 20 % — afin de se consacrer à l’hygiène des données et de réduire significativement le risque de dérive du modèle.
En donnant la priorité à la maintenance des données et en y consacrant du temps, la probabilité que les modèles d’IA produisent des résultats erronés est considérablement réduite.
8. Comment imaginez-vous l’évolution de la relation entre le déploiement de l’IA et la dette technique à l’avenir ?
Les récents développements des solutions d’IA générative ne sont que le début de notre relation avec cette technologie. Avec la rapidité attendue de ces avancées, l’industrie technologique devrait pouvoir compter sur de meilleurs ensembles de données pour entraîner ses modèles.
À mesure que les systèmes deviendront plus complexes et que de plus grandes quantités de données seront disponibles pour l’entraînement, le risque de dette technique diminuera, car les machines produiront des résultats fiables et évolutifs.
De plus, à mesure que les outils et plateformes d’IA générative affinent leurs capacités de codage, il est probable que l’on observe une évolution vers une plus grande autorégulation par les machines, sous un certain niveau de supervision humaine. L’intervention humaine restera nécessaire pour vérifier les données d’entraînement et le code. Toutefois, le recours à l’autonomie machine pour les vérifications de routine devrait devenir la norme.
Cette évolution entraînera une réduction des coûts, les organisations s’appuyant de plus en plus sur des IA de pointe pour limiter la dette technique. Cette réussite dépendra de la disponibilité d’un large éventail de données, dont une partie reste encore largement inaccessible.
Équilibrer les gains à court terme et les coûts à long terme
Tout comme la dette financière, la dette technique génère des « intérêts » au fil du temps : si elle n’est pas traitée, elle peut entraîner une augmentation des défis de maintenance, une qualité de code réduite, ainsi que des mises à niveau ou des corrections plus complexes à l’avenir. Ce concept met en évidence le compromis entre les avantages à court terme et les coûts à long terme dans le développement et la maintenance logicielle.
Envie d’en savoir plus ?
Si vous souhaitez en apprendre davantage sur la dette technique et l’avenir de l’intelligence artificielle, abonnez-vous à notre newsletter pour recevoir les dernières informations technologiques.
Nous vous aiderons à développer plus intelligemment et à renforcer votre leadership grâce à des guides, des ressources IA et des stratégies proposées par des experts de haut niveau !
