La surestimation de l’IA générative : Questions-réponses avec le Dr Eric Siegel

Nous sommes bombardés par des visions d’une intelligence artificielle super-intelligente prenant le contrôle du monde, mais est-ce réaliste ?

Dans cette interview, le Dr Eric Siegel, ancien professeur à Columbia, consultant principal en apprentissage automatique et auteur de The AI Playbook : maîtriser le rare art du déploiement de l’apprentissage automatique, soutient que l’IA prédictive—c’est-à-dire l’apprentissage automatique en entreprise—offre une valeur concrète que l’IA générative doit encore démontrer.

Nous allons explorer pourquoi tant de projets d’apprentissage automatique échouent et comment combler le fossé entre les équipes métiers et les équipes données. Découvrez comment les entreprises exploitent l’apprentissage automatique pour relever des défis concrets et obtenir un avantage concurrentiel.

Pourquoi les gens croient-ils à tort que l’IA atteindra un niveau de capacité égal à celui des humains – ou pourrait même constituer un risque mortel pour l’espèce humaine ?

La promesse de satisfaction des désirs offerte par l’intelligence artificielle générale (AGI) – un logiciel capable de toute tâche intellectuelle qu’un humain peut accomplir – est si séduisante qu’elle en devient presque irrésistible. En créant le pouvoir ultime, nous atteignons la satisfaction d’ego ultime en tant que scientifiques et futuristes.

En concevant un système qui définit ses propres buts et les poursuit de façon autonome aussi efficacement qu’une personne, nous extériorisons notre volonté proactive, la transplantant dans un nouveau meilleur ami de l’humanité que nous tenons en très haute estime et auquel nous pouvons potentiellement nous identifier. En créant une nouvelle forme de vie, nous concrétisons tout le potentiel encore inexploité de nos machines polyvalentes que sont les ordinateurs. En nous recréant nous-mêmes, nous accédons à l’immortalité.

En créant une solution unique à tous les problèmes, nous transcendons toute notion de récompense financière pour atteindre une richesse infinie. Richard Heimann, leader de pensée et dirigeant en apprentissage automatique, appelle cela l’illusion de la solution unique. Plutôt que de résoudre les multiples problèmes du monde un par un, nous les réglons tous d’un coup grâce à la panacée ultime.

Nous n’avons plus à nous inquiéter des problèmes mondiaux comme le changement climatique, l’instabilité politique, la pauvreté ou les crises sanitaires. Une fois qu’un humain artificiel voit le jour, il continuera à se perfectionner jusqu’à devenir aussi performant pour résoudre des problèmes que l’humanité tout entière ne pourra jamais l’être.

Quelle est une bonne stratégie pour combler le fossé entre professionnels du métier et professionnels de la donnée, qui empêche si souvent la réussite des projets d’apprentissage automatique ?

Voici le problème. L’apprentissage automatique est la technologie la plus puissante et la plus universelle au monde. Cependant, il ne peut améliorer les opérations à grande échelle qu’en les modifiant. Par conséquent, un projet d’apprentissage automatique ne doit pas être considéré comme « un projet technologique ». Pour avoir de l’impact, il doit être redéfini comme un projet métier visant à améliorer la performance opérationnelle, l’apprentissage automatique n’étant qu’un composant nécessaire mais pas suffisant.

Comme l’attention porte massivement sur la partie technique et son exécution, le secteur n’a pas réussi à instaurer une pratique métier largement adoptée pour exécuter l’autre moitié d’un projet d’apprentissage automatique réussi. Résultat : les nouvelles initiatives d’IA peinent régulièrement à être déployées.

Ma solution à cela est le bizML, une discipline en six étapes pour mener un projet d’apprentissage automatique afin qu’il soit effectivement déployé. Vous pouvez lire davantage à ce sujet dans mon dernier ouvrage.

Quelle est votre explication au fait que la plupart des projets d’apprentissage automatique en entreprise n’aboutissent pas, tandis qu’une minorité rencontre un succès retentissant ?

La cause profonde de la plupart des échecs de projets d’apprentissage automatique est le manque de planification rigoureuse du déploiement – c’est-à-dire une planification du changement opérationnel que l’intégration d’un modèle prédictif impliquerait. Puisque l’on considère les projets d’apprentissage automatique comme des projets techniques impliquant des calculs avancés, il est supposé que le projet technique délivrera de la valeur. C’est une grave erreur.

La valeur n’est capturée qu’en *changeant* – et donc en améliorant – les opérations à grande échelle, en se laissant guider par les prédictions fournies par un modèle d’apprentissage automatique.

Avez-vous une vision à contre-courant de l’engouement démesuré autour de l’intelligence artificielle et pourquoi si peu de gens demandent – ou mesurent – le véritable niveau de performance de la technologie IA ?

Ce sont deux choses différentes. Concernant l’engouement, le discours populaire veut que nous nous dirigions vers l’AGI. C’est un mythe. C’est le roman que Mary Shelley aurait écrit si elle avait connu les algorithmes.

Quant à la question de savoir pourquoi nous ne mesurons pas à quel point l’IA est *bonne* – c’est-à-dire ses performances quantitatives et la valeur business qu’elle peut apporter selon la manière dont elle est déployée – l’attention n’est pas portée au bon endroit.

Author's Tip

“Lors de l’évaluation des modèles ML, les data scientists se concentrent presque exclusivement sur des mesures techniques comme la précision, le rappel et le lift, une sorte de multiplicateur prédictif (en d’autres termes, combien de fois le modèle prédit-il mieux que le hasard ?). Mais ces métriques sont cruellement insuffisantes. Elles nous donnent la performance relative d’un modèle prédictif — en comparaison à une base de référence telle que le hasard — mais ne fournissent aucune indication directe sur la valeur métier absolue d’un modèle. Même la métrique la plus courante, la précision, appartient à cette catégorie. (De plus, elle est généralement impertinente et souvent trompeuse.)

 

À la place, l’accent devrait être mis sur les indicateurs métier — tels que le chiffre d’affaires, le bénéfice, les économies réalisées, et le nombre de clients gagnés. Ces mesures concrètes et pertinentes évaluent les notions fondamentales du succès. Elles sont directement liées aux objectifs de l’entreprise et révèlent la véritable valeur des prédictions imparfaites fournies par le ML. Elles sont essentielles pour construire un pont indispensable entre les équipes métiers et data science.

 

Malheureusement, les data scientists omettent systématiquement les métriques métier dans les rapports et discussions, malgré leur importance. Les indicateurs techniques dominent donc la pratique du ML — aussi bien dans l’exécution technique que dans la communication des résultats aux parties prenantes.”

MIT Sloan Management Review

Comment les organisations utilisent-elles activement le ML pour dynamiser leurs opérations et créer un avantage concurrentiel dans de nombreux secteurs ?

Le ML innove de manière simple, bien que profondément perturbatrice. Ne laissez pas l’éclat de cette technologie clinquante vous faire oublier la simplicité de sa mission fondamentale : pour la plupart des applications professionnelles, l’objectif du ML est de fournir des prédictions exploitables — c’est pourquoi on l’appelle aussi parfois analytique prédictive ou IA prédictive.

Bien qu’apprendre à partir des données pour générer un modèle prédictif mérite autant d’émerveillement que n’importe quel exploit scientifique ou technique, cette capacité se traduit par une valeur tangible de manière simple : le modèle produit des scores de prédiction, qui à leur tour alimentent des millions de décisions opérationnelles.

De cette manière, le ML lutte contre nos risques les plus importants — qu’il s’agisse des incendies de forêt, du changement climatique, des pandémies ou de la maltraitance infantile. Il stimule les ventes, réduit les coûts, prévient la fraude, rationalise la production industrielle et renforce la santé publique.

Pour d’autres entretiens éclairants, abonnez-vous à la newsletter du CTO Club.