Mi-septembre, le premier ministre albanais a annoncé la nomination de Diella, une ministre IA en charge des marchés publics.
Le but affiché est de lutter contre la corruption et de rendre transparent et impartial l’attribution des appels d’offres.
Contactés par 20 Minutes, plusieurs experts en IA y voient un effet d’annonce tant les biais sont nombreux pour contourner l’illusion d’une IA infaillible et objective.
Le premier ministre albanais, Edi Rama, a sorti de son chapeau une arme plutôt inattendue pour lutter contre la corruption endémique qui gangrène le pays. Désormais, le contrôle et l’attribution des marchés publics dépendront de Diella, une ministre spécialement nommée pour scruter ça. Sauf que Diella est une ministre virtuelle, une intelligence artificielle (IA), gage selon le gouvernement de transparence et d’impartialité. Dans l’idée, pourquoi pas, mais dans les faits ça laisse dubitatifs les spécialistes, du moins les trois que 20 Minutes a sollicités.
L’IA est partout, surtout depuis l’apparition de ChatGPT en 2022, et l’évolution des modèles est si rapide qu’on a du mal à suivre. Et si certains grands modèles de langage (LLM) sont déjà capables de poser des diagnostics précis dans le domaine médical, on ne va pas confier sa santé à une IA. Du coup, est-il judicieux de confier les rênes d’un ministère à une IA pour décider seule de l’attribution des marchés publics d’un pays ? « Déjà, il faudrait savoir de quel modèle d’IA on parle, parce que le moins que l’on puisse dire, c’est que c’est assez flou », estime Milo Parigi, fondateur de Bot Resources, une start-up spécialisée dans le conseil et l’ingénierie autour de l’intelligence artificielle.
« On ne sait pas vraiment qui est derrière »
Flou, parce que le gouvernement albanais ne s’est pas vraiment étendu sur ce qu’était Diella. « On ne sait pas vraiment qui est derrière même si l’on a entendu parler de Microsoft et d’OpenAI, on ne sait pas non plus s’il s’agit d’un LLM classique, d’une IA générative ou d’un autre modèle », explique Milo Parigi. « Est-ce une continuité du chatbot qui avait été lancé quelques mois plus tôt par le gouvernement albanais ? Comment cette IA a-t-elle été entraînée ? », s’interroge pour sa part Isabelle Ryl, directrice de l’Institut PRAIRIE (Paris artificial intelligence research institute) à l’Université PSL.
Quoi qu’il en soit, il serait absurde de vouer une confiance totale et aveugle à une intelligence artificielle. Pour Chloé Duteil, fondatrice de Stlar, un cabinet de conseil spécialisé dans l’IA pour les entreprises, « une IA n’est fiable à 100 %, pas davantage qu’un humain », assure-t-elle. « Parce que si une IA n’est pas corruptible comme peut l’être un humain, elle est toutefois attaquable », renchérit Isabelle Ryl. « La réponse d’une IA peut être influencée par des biais dans les questions qui lui sont posées d’un côté, ou par une attaque par prompt injection de l’autre », assure Milo Parigi. En gros, dans son dossier de réponse à un appel d’offres public qui sera soumis à Diella, un entrepreneur véreux peut « injecter » des commandes subliminales qui influenceront l’IA dans son sens.
Ce que ne conçoivent pas non plus les trois experts, c’est que l’humain soit complètement exclu du processus décisionnel. « Le vrai décideur, c’est celui qui alimente l’agent IA, et celui qui alimente l’agent est forcément un humain », estime Milo Parigi. « L’efficacité de l’IA dépend de son entraînement et des données avec lesquelles elle a été entraînée », poursuit Isabelle Ryl. En effet, quels seront les critères retenus par Diella pour attribuer un marché public si elle a été éduquée sur la base de 20 ans d’appels d’offres corrompus ? « Il y a des garde-fous à mettre en place, comme rendre le process auditable pour en assurer la transparence », insiste le patron de Bot Resources. Sauf que, là encore, « c’est un point assez flou autour de Diella », reconnaît-il.
Tous sont d’accord pour y voir une sorte d’effet d’annonce plutôt qu’un véritable ministre IA autonome. « L’effet de com a bien fonctionné, certes, mais cela montre aussi que l’Albanie porte désormais un intérêt très fort dans la lutte contre la corruption », note la directrice de l’Institut PRAIRIE. « C’est une réponse, mais pas la réponse », enchaîne Chloé Duteil. Milo Parigi, lui, imagine plutôt Diella comme « un outil IA qui faciliterait le travail de l’humain et assurerait plus de transparence ». D’autant qu’un jour, se posera forcément la question de la responsabilité, « et ce n’est pas quelque chose qui incombe à une IA mais à un être humain », insiste-t-il.
Le but affiché est de lutter contre la corruption et de rendre transparent et impartial l’attribution des appels d’offres.
Contactés par 20 Minutes, plusieurs experts en IA y voient un effet d’annonce tant les biais sont nombreux pour contourner l’illusion d’une IA infaillible et objective.
Le premier ministre albanais, Edi Rama, a sorti de son chapeau une arme plutôt inattendue pour lutter contre la corruption endémique qui gangrène le pays. Désormais, le contrôle et l’attribution des marchés publics dépendront de Diella, une ministre spécialement nommée pour scruter ça. Sauf que Diella est une ministre virtuelle, une intelligence artificielle (IA), gage selon le gouvernement de transparence et d’impartialité. Dans l’idée, pourquoi pas, mais dans les faits ça laisse dubitatifs les spécialistes, du moins les trois que 20 Minutes a sollicités.
L’IA est partout, surtout depuis l’apparition de ChatGPT en 2022, et l’évolution des modèles est si rapide qu’on a du mal à suivre. Et si certains grands modèles de langage (LLM) sont déjà capables de poser des diagnostics précis dans le domaine médical, on ne va pas confier sa santé à une IA. Du coup, est-il judicieux de confier les rênes d’un ministère à une IA pour décider seule de l’attribution des marchés publics d’un pays ? « Déjà, il faudrait savoir de quel modèle d’IA on parle, parce que le moins que l’on puisse dire, c’est que c’est assez flou », estime Milo Parigi, fondateur de Bot Resources, une start-up spécialisée dans le conseil et l’ingénierie autour de l’intelligence artificielle.
« On ne sait pas vraiment qui est derrière »
Flou, parce que le gouvernement albanais ne s’est pas vraiment étendu sur ce qu’était Diella. « On ne sait pas vraiment qui est derrière même si l’on a entendu parler de Microsoft et d’OpenAI, on ne sait pas non plus s’il s’agit d’un LLM classique, d’une IA générative ou d’un autre modèle », explique Milo Parigi. « Est-ce une continuité du chatbot qui avait été lancé quelques mois plus tôt par le gouvernement albanais ? Comment cette IA a-t-elle été entraînée ? », s’interroge pour sa part Isabelle Ryl, directrice de l’Institut PRAIRIE (Paris artificial intelligence research institute) à l’Université PSL.
Quoi qu’il en soit, il serait absurde de vouer une confiance totale et aveugle à une intelligence artificielle. Pour Chloé Duteil, fondatrice de Stlar, un cabinet de conseil spécialisé dans l’IA pour les entreprises, « une IA n’est fiable à 100 %, pas davantage qu’un humain », assure-t-elle. « Parce que si une IA n’est pas corruptible comme peut l’être un humain, elle est toutefois attaquable », renchérit Isabelle Ryl. « La réponse d’une IA peut être influencée par des biais dans les questions qui lui sont posées d’un côté, ou par une attaque par prompt injection de l’autre », assure Milo Parigi. En gros, dans son dossier de réponse à un appel d’offres public qui sera soumis à Diella, un entrepreneur véreux peut « injecter » des commandes subliminales qui influenceront l’IA dans son sens.
Ce que ne conçoivent pas non plus les trois experts, c’est que l’humain soit complètement exclu du processus décisionnel. « Le vrai décideur, c’est celui qui alimente l’agent IA, et celui qui alimente l’agent est forcément un humain », estime Milo Parigi. « L’efficacité de l’IA dépend de son entraînement et des données avec lesquelles elle a été entraînée », poursuit Isabelle Ryl. En effet, quels seront les critères retenus par Diella pour attribuer un marché public si elle a été éduquée sur la base de 20 ans d’appels d’offres corrompus ? « Il y a des garde-fous à mettre en place, comme rendre le process auditable pour en assurer la transparence », insiste le patron de Bot Resources. Sauf que, là encore, « c’est un point assez flou autour de Diella », reconnaît-il.
Tous sont d’accord pour y voir une sorte d’effet d’annonce plutôt qu’un véritable ministre IA autonome. « L’effet de com a bien fonctionné, certes, mais cela montre aussi que l’Albanie porte désormais un intérêt très fort dans la lutte contre la corruption », note la directrice de l’Institut PRAIRIE. « C’est une réponse, mais pas la réponse », enchaîne Chloé Duteil. Milo Parigi, lui, imagine plutôt Diella comme « un outil IA qui faciliterait le travail de l’humain et assurerait plus de transparence ». D’autant qu’un jour, se posera forcément la question de la responsabilité, « et ce n’est pas quelque chose qui incombe à une IA mais à un être humain », insiste-t-il.
