On estime que 118 milliards de dollars américains ont été dépensés dans le monde en 2022 pour acheter du matériel, des logiciels et des services de données d’intelligence artificielle. IDC prévoit que ce chiffre triplera presque, pour atteindre 300 milliards de dollars, d’ici 2026. Mais les marchés publics ne sont pas prêts à relever les défis liés à l’acquisition de systèmes d’IA, ce qui entraîne de nouveaux risques pour les citoyens.

Pour aider à relever ce défi Association de normalisation IEEE a introduit une norme pionnière pour l’approvisionnement en IA. La norme, en cours d’élaboration, peut aider les agences gouvernementales à être plus responsables dans la manière dont elles acquièrent une IA qui sert l’intérêt public.

Les gouvernements utilisent aujourd’hui l’IA et prise de décision automatisée des systèmes pour aider ou remplacer les décisions prises par l’homme. Les jugements des systèmes ADM peuvent avoir un impact sur l’accès des citoyens à l’éducation, à l’emploi, aux soins de santé, aux services sociaux, etc.

Le multicouche complexité des systèmes d’IA et des ensembles de données sur lesquels ils sont construits, mettent au défi les personnes responsables des achats, qui rarement comprendre les systèmes qu’ils achètent et déploient. La grande majorité des modèles de marchés publics dans le monde n’ont pas encore adapté leurs processus et leurs lois en matière d’acquisition à la complexité des systèmes.

Pour aider les agences gouvernementales à mieux gérer les technologies à usage public, l’IEEE Standards Association a approuvé en 2021 le développement d’un nouveau type de norme socio-technique, l’IEEE. Norme P3119 pour l’approvisionnement en systèmes d’IA et de décisions automatisées.

La nouvelle norme est conçue pour contribuer à renforcer les approches d’achat d’IA avec des processus de diligence raisonnable afin de garantir que les agences évaluent de manière critique les types de services et d’outils d’IA qu’elles acquièrent. La norme peut fournir aux agences une méthode pour exiger de la transparence de la part des fournisseurs d’IA sur les risques associés.

IEEE P3119 peut également aider les gouvernements à utiliser leur pouvoir d’achat pour façonner le marché ce qui pourrait accroître la demande de solutions d’IA plus responsables.

Un guide pratique

La norme vise à aider les agences gouvernementales à renforcer leurs exigences en matière d’achat d’IA. Ajouté aux réglementations existantes, il offre des conseils pratiques complémentaires qui peuvent être appliqués à une variété de processus, y compris la pré-sollicitation et le suivi des contrats.

La norme IEEE P3119 va plus loin en fournissant des conseils, par exemple, pour déterminer si un problème nécessite une solution d’IA. Cela peut également aider à identifier la tolérance au risque d’une agence, à évaluer les réponses d’un fournisseur aux questions sur l’IA, et évaluez une solution d’IA selon plusieurs critères.

L’IEEE développe actuellement un tel guide d’achat d’IA, qui va au-delà des principes et des meilleures pratiques pour aboutir à des recommandations de processus détaillées. IEEE P3119 aborde explicitement la complexité technique de la plupart des modèles d’IA et les risques potentiels pour la société, tout en considérant également la capacité des systèmes à évoluer pour un déploiement dans des populations beaucoup plus larges.

Les discussions au sein du groupe de travail sur les normes ont porté sur les moyens d’identifier et d’évaluer les risques liés à l’IA, sur la manière d’atténuer les risques liés aux besoins d’approvisionnement et sur la manière de provoquer la transparence sur la gouvernance de l’IA de la part des fournisseurs, avec les meilleures pratiques spécifiques à l’IA pour les sollicitations et les contrats.

Les processus IEEE P3119 visent à compléter et à optimiser les exigences d’approvisionnement existantes. L’objectif principal de la norme est d’offrir aux agences gouvernementales et aux fournisseurs d’IA des moyens d’adapter leurs pratiques d’approvisionnement et leurs propositions sollicitées afin de maximiser les avantages de l’IA tout en minimisant les risques.

La norme est censée faire partie de l’étape de « demande de propositions », intégrée aux sollicitations afin de relever la barre en matière d’achat d’IA afin que l’intérêt public et les droits civils des citoyens soient protégés de manière proactive.

La mise en pratique de la norme pourrait toutefois s’avérer difficile pour certains gouvernements confrontés à des régimes réglementaires historiques et à des capacités institutionnelles limitées.