De l’eau pour tous ou des algorithmes pour quelques-uns ?
Alors que l’IA bouleverse nos sociétés, Maurice N’Diaye livre une réflexion essentielle dans son ouvrage « Diriger l’IA : Comment donner un sens à l’intelligence artificielle ». Entre responsabilité sociétale et défis technologiques, il invite à repenser nos priorités pour un avenir durable.
Bonjour Maurice N’Diaye, pourquoi avoir écrit ce livre maintenant ?
Maurice N’Diaye : Pour une raison simple : l’emballement total autour de l’IA, qui continue d’attirer des volumes considérables de ressources (capital, talent, ressources naturelles), alors qu’en parallèle nous vivons des crises majeures sans précédents aux quatre coins du globe : sanitaires, environnementales, géopolitiques, sociales, financières.
En tant qu’acteur moi-même de cette révolution en mouvement, j’ai ressenti le besoin, sinon le devoir, de prendre le temps de la réflexion pour tâcher d’y donner un sens, une raison d’être. Pour moi, pour mes enfants, mais aussi pour tous ceux que je rencontre au quotidien, et qui se sentent dépassés, parfois délaissés, souvent effrayés, par un phénomène qui peut être difficile à appréhender dans toute sa complexité lorsqu’on n’est pas expert ou initié.
Un chiffre qui fait réfléchir : l’institut IDC estime à 337 milliards de dollars le montant total investi dans l’IA en 2025. Face à ce chiffre, l’UNICEF estime à 114 milliards le montant total à investir d’ici 2030 pour garantir l’accès à l’eau potable à l’ensemble de la population mondiale. Évidemment ces chiffres ne sont pas directement comparables, puisque l’on parle d’un côté de ressources essentiellement d’investissement, de recherche et d’expérimentation, de l’autre de projets d’infrastructure bien définis et identifiés.
Mais la simple mise en regard des ordres de grandeur force l’interrogation : lorsque l’on sait l’urgence humaine, climatique, sociale auxquels des milliards de personnes font face, faire le choix de l’investissement sans garantie de résultat, avec une part importante de spéculation, nous met face à une responsabilité sociétale majeure. Que considère-t-on comme « utile », ou comme « valant le coup » ? Que considère-t-on comme suffisamment urgent pour s’y atteler dès maintenant, et quels sont les paris que nous sommes prêts à faire sur nos ressources que l’on sait de plus en plus rares et précieuses ?
Une page de votre livre qui vous représente le mieux
Il est essentiel de questionner la place et le rôle de l’innovation dans les sociétés contemporaines. Face à une course technologique qui ressemble parfois à une fuite en avant ou qui s’égare dans les mirages de l’optimisation, nous avons besoin de redonner du sens à des dispositifs numériques qui sont devenus incontournables dans nos existences, et qui le seront encore davantage dans les années à venir. Trouver une utilité à l’IA exige de s’affranchir de vieux réflexes qui réduisent la technologie à une fin en soi ou qui cantonnent ses usages à une approche uniquement performative.
[…]
L’optimisation est une démarche qui cherche à maximiser ou minimiser une valeur pour trouver la « meilleure » réponse ou solution à une situation donnée : comment augmenter les revenus ? Comment réduire les délais de livraison ? Comment améliorer le niveau de satisfaction des clients ? Comment limiter le nombre d’accidents ? Dans un certain nombre de cas simples et d’environnements resserrés ou fermés, cela fonctionne très bien. Mais il existe aussi un éventail de situations où il n’y a pas une seule et unique bonne réponse. Des décisions de justice à la vie politique, en passant par le recrutement d’un collaborateur ou le choix d’un partenaire amoureux, les individus, les entreprises et les gouvernements sont confrontés à des choix qui ne sont ni bons ni mauvais en soi, et où interviennent des paramètres moraux et facteurs humains. […] tout n’est donc pas optimisable. Il n’y a aucun doute sur le fait que les algorithmes vont nous permettre de limiter les erreurs, mais il sera nécessaire de mettre de la conscience et du sens derrière ces dispositifs.
[…]
Plus encore, nous avons besoin d’une réflexion commune sur l’utilisation de l’IA, à l’aune des défis d’envergure mondiale qui nous attendent. L’IA est une technologie tellement puissante que nous raterions une chance historique en cantonnant son usage à des fins d’optimisation et d’automatisation des tâches. Outre une approche « soutenable » de l’IA sur le plan écologique, il est essentiel de promouvoir des innovations qui concourent à réduire le gâchis de ressources, à accélérer la transition environnementale et à la faciliter la prise de décision dans des environnements ultra-complexes. En tant que General Purpose Technology (GPT), l’IA ne répondra jamais à un objectif unique. Mais ses concepteurs comme ses utilisateurs ont la responsabilité d’en tirer le meilleur en mettant l’accent sur des solutions en rupture avec les précédentes Révolutions industrielles et certains travers du capitalisme contemporain : course effrénée à la performance, recherche du profit à tout prix, culte de la consommation, pillage de la planète. Pour conjuguer au futur cette révolution qui s’écrit déjà au présent, tâchons de ne pas reproduire les erreurs du passé.
Les tendances qui émergent à peine et auxquelles vous croyez le plus?
Maurice N’Diaye : L’année 2025 sera résolument celle des agents. Ce concept est apparu il y a quelques mois seulement, mais suscite un engouement considérable, et conduira probablement à une nouvelle vague massive d’investissements et d’innovations dans les années à venir. Le concept est simple : faire réaliser à une machine non pas une tâche prédéfinie, mais la résolution d’un problème complexe, qui est souvent une succession de tâches. Par exemple organiser vos vacances : relativement simple pour un humain, mais complexe pour une machine car si les tâches sont similaires d’un cas à l’autre (réserver un billet, choisir un hôtel etc.), elles demandent en réalité une grande capacité d’adaptation (sites web avec interfaces différentes à chaque fois, contraintes sur les dates, la météo, les options spéciales, les temps de trajet, les régimes alimentaires etc.).
Pour l’instant, le marché s’attaque à des cas d’usages relativement simples : postuler à des emplois, réserver un voyage, construire une campagne d’emailing. Mais les choses évoluent à grande vitesse, et l’on peut s’attendre à voir émerger des agents de plus en plus sophistiqués. Certains prédisent l’arrivée prochaine d’une licorne (société valorisée plus d’1md), qui serait le fait d’un seul individu ayant assemblé une armée d’agents chacun responsable d’un département de sont entreprise unipersonnelle. Une équipe d’agents développeurs, une d’agent marketing, une sur la partie finance, supply chain…essentiellement tout sauf ressources humaines!
D’ici là la route est longue, car les générations d’algorithmes actuels se heurtent à des limites difficiles à franchir lorsqu’il s’agit d’appréhender le monde physique – ce qu’un humain sait bien faire très rapidement dans son évolution. Les LLMs qui sont au coeur de ces innovations fonctionnent par une approche statistique, qui prédit la meilleure réponse probable à un problème. Mais sans réellement comprendre la réalité physique du monde : encore aujourd’hui, un chatbot peine à résoudre des charades de primaire (s’il ne les a pas déjà rencontrées), ou à répondre à des questions très simples faisant intervenir des notions physiques. En revenant à l’exemple de la réservation, des règles de bon sens comme anticiper le traffic routier, la queue à l’aéroport en départ de week-end en vacances, la barrière de la langue, le besoin de payer en cash plutôt que par CB, la taille des bagages etc. devront probablement être codées spécifiquement pour éviter les recommandations farfelues ou irréalistes. Aujourd’hui si l’on demande un trajet optimal à un chatbot LLM standard, il est encore capable de préconiser de prendre une valise entre ses genoux sur un vélo pour aller jusqu’à la gare, car c’est le plus rapide et écologique.
On est donc encore loin de l’agent qui va résoudre le casse-tête de Parcours Sup !
Si vous deviez donner un seul conseil à un lecteur de cet article, quel serait-il?
Maurice N’Diaye : Eduquez-vous. Il est fondamental que vous ayez une compréhension, même simplifiée, de ce qu’il est en train de se passer. Les enjeux sont trop importants, pour vous-mêmes, dans votre vie personnelle et professionnelle, mais également pour vos employées, vos proches, vos enfants…
Je pense que ce qui nous dessert le plus, c’est l’absence de conversation sur ce sujet. Il reste un débat d’expert, ou un objet de curiosité voire un épouvantail que l’on agite à la une des magazines, sans véritablement savoir de quoi l’on parle.
L’IA est déjà présente partout dans nos vies, et ce phénomène ne va faire que s’amplifier. L’usage que nous faisons, consciemment ou non, de ces technologies, est en train de redéfinir en profondeur notre rapport à de nombreux aspects de nos vies : relations sociales, alimentation, divertissement, finances, santé…
Et je pense qu’il est important, au niveau de la société, que collectivement nous puissions faire un choix conscient de la façon dont nous voulons (ou pas) repenser nos valeurs, nos principes, nos habitudes, à l’aune de ce nouvel éventail de possibilités.
Le potentiel est énorme, les perspectives peuvent être radieuses, mais aussi dévastatrices : il ne tient qu’à nous de décider le chemin collectif que nous voulons emprunter.
En un mot, quels sont les prochains sujets qui vous passionneront?
Maurice N’Diaye : Appliquer mes travaux sur la simulation des dynamiques sectorielles dans le privé à l’action publique, l’éducation, l’environnement, et l’investissement. Au sein de la société que j’ai fondée, Descartes&Mauss, nous développons des modèles qui s’emploient à reproduire la façon dont un secteur d’activité se comporte, et est susceptible d’évoluer. C’est un peu comme Flight Simulator ou le bulletin météo : on identifie les paramètres qui vont définir les évolutions d’un secteur, comme la réglementation, la technologie, le contexte financier, la consommation des ménages, la concurrence etc., et on établit entre ces informations des relations de corrélation ou de causalité.
Ensuite cela permet de simuler la façon dont les différents acteurs du marché sont susceptibles de se comporter dans un futur plus ou moins proche.
On peut avec cette logique de « jumeau numérique » d’un secteur et/ou de ses parties prenantes, prévoir la capacité d’une entreprise, un gouvernement, ou un investisseur, à être capable de bien se positionner dans un état du monde à venir. Ensuite par rétrospection, il est possible de définir une série d’actions préventives à engager dès maintenant de manière à se préparer au futur le plus probable, le plus risqué, ou au contraire à faire le pari d’un scenario moins évident mais à fort potentiel.
Ces technologies de simulation reposent sur l’assemblage entre des représentations formelles du monde (qu’on appelle ontologies, par exemple comme on le retrouve avec les modèles de classification des brevets scientifiques), et des approches plus ouvertes qui s’appuient sur de l’IA générative, le tout à grand renfort d’agents (encore eux!).
Cela ressemble à une boule de cristal, mais c’est bien une approche scientifique, qui s’appuie d’ailleurs sur des fondements relativement anciens pour certains. Il s’agit d’une évolution des approches traditionnelles de prédiction, qui reposent sur l’analyse de données historiques, mais atteignent leur limite dans un monde aussi volatile que le nôtre. Ce type d’application, très puissant donc pour gouverner les ressources d’une entreprise dans un monde très incertain et imprévisible, pourrait aussi avoir un impact incroyable si on pouvait l’appliquer aux politiques publiques, à la transformation durable, comme support d’éducation ou d’accélérateur de la recherche scientifique, et évidemment dans la sphère de l’investissement, grande habituée des bulles spéculatives qui lorsqu’elles éclatent consument tant de ressources précieuses.
Si nous parvenons à élargir notre champ d’action au-delà du seul monde de l’entreprise, j’espère que nous pourrons aligner encore plus les forces vives de nos sociétés dans la construction d’un futur désirable.
Il y a un peu de boulot mais c’est passionnant!
Merci Maurice N’Diaye
Merci Bertrand Jouvenot
Le livre : Diriger l’IA: Comment donner un sens à l intelligence artificielle, Maurice N’Diaye, Hermann, 2024