L’entraînement des systèmes d’intelligence artificielle (IA) sur des données biaisées peut conduire à des jugements partiaux aux conséquences réelles, telles que des décisions d’embauche discriminatoires ou des allocations sociales inéquitables. Pour garantir que les humains entraînent les IA de manière éthique, aux USA une équipe de chercheurs du National Institute of Standards and Technology (NIST) propose d’appliquer les principes éthiques fondamentaux de respect des personnes, bienfaisance et justice, inspirés du projet Belmont de 1979 sur la recherche humaine (en savoir +). Ces principes sont essentiels pour assurer la transparence et la protection des participants à la recherche, dont les données alimentent les systèmes d’IA.

Les chercheurs du NIST soulignent l’importance d’appliquer ces principes éthiques non seulement à la recherche gouvernementale, mais également à l’industrie privée, notamment dans le domaine de l’IA. Les données utilisées pour former les IA peuvent provenir de sources sans consentement des individus, ce qui va à l’encontre du respect des personnes. Il est crucial que les entreprises adoptent des pratiques d’évaluation éthique pour éviter les biais et les discriminations dans leurs systèmes d’IA, conformément aux principes éthiques établis.

En s’inspirant du rapport Belmont, les chercheurs du NIST mettent en lumière les risques d’exclusion inappropriée dans la recherche sur l’IA, pouvant entraîner des biais dans les données et les algorithmes. Appliquer les principes de respect des personnes, bienfaisance et justice à la recherche sur l’IA peut contribuer à minimiser ces risques en garantissant le consentement éclairé des participants, la conception d’études éthiques et une sélection équitable des sujets.

Kristen Greene du NIST souligne que ce document doit servir de point de départ pour une discussion approfondie sur l’éthique de l’IA et de nos données. Plutôt que de prôner davantage de réglementations gouvernementales, les chercheurs encouragent une réflexion collective sur la manière dont nous formons et utilisons les IA, dans le but de promouvoir des pratiques responsables et éthiques.

En fin de compte, il s’agit de faire ce qui est juste pour garantir que l’IA bénéficie à la société de manière équitable et transparente.