Le projet de loi californien sur l’intelligence artificielle

Les législateurs californiens ont adopté un projet de loi visant à prévenir les dommages catastrophiques causés par les logiciels d’intelligence artificielle. La législation, connue sous le nom de Loi sur l’innovation sûre et sécurisée pour les modèles d’intelligence artificielle de pointe, exige que certaines entreprises d’IA limitent les pertes de vies humaines massives ou les dommages dépassant 500 millions de dollars américains avec des évaluations de sécurité et d’autres mesures.

Les conséquences de l’intelligence artificielle

L’intelligence artificielle présente un potentiel révolutionnaire, mais également des risques importants. Les possibilités inhérentes à l’IA signifient que les gouvernements devraient adopter une « mentalité de tir lunaire » pour soutenir le développement de la technologie. Les craintes suscitées par l’intelligence artificielle incluent des scénarios apocalyptiques comme la création d’une arme biologique, ainsi que l’amplification d’horreurs plus banales comme le vol d’identité.

La réglementation de l’intelligence artificielle en Californie

La Californie est dans une position unique pour mettre en place des garde-fous en matière d’IA. Ses lois ont une longue histoire d’influence sur la réglementation à travers les États-Unis. Le projet de loi californien sur l’intelligence artificielle vise à limiter les conséquences les plus catastrophiques des modèles d’IA dotés d’un niveau de puissance de calcul supérieur à celui des modèles actuels et dont la formation coûte plus de 100 millions de dollars.

Les exigences du projet de loi

Le projet de loi exige que les entreprises d’IA :

* Effectuent des évaluations de sécurité pour leurs modèles d’IA
* Permettent au procureur général de Californie de demander une injonction judiciaire contre les entreprises proposant des logiciels qui ne répondent pas à ses exigences de sécurité
* Permettent au bureau d’engager des poursuites si l’IA entraîne un grand nombre de décès ou de cyberattaques sur les infrastructures causant 500 millions de dollars de dommages supplémentaires

L’impact du projet de loi sur l’ensemble du secteur de l’IA

Le projet de loi californien sur l’intelligence artificielle aura des effets considérables, peut-être même mondiaux, si le gouverneur Gavin Newsom le signe dans les semaines à venir. Les entreprises d’IA qui ne sont pas basées en Californie mais qui font des affaires dans l’État devront également se conformer aux exigences du projet de loi.

Les inquiétudes liées à l’open source

Certains défenseurs de la communauté open source estiment que le projet de loi risque de décourager les programmeurs de publier ouvertement des logiciels d’IA. Ben Brooks, un nouveau membre du Berkman Klein Center for Internet & Society, s’inquiète du fait que le projet de loi mis à jour exige toujours que les programmeurs originaux suivent ce que font leurs modèles une fois entre les mains d’autres utilisateurs.

Article proposé par:

Franck Ribiere

Basé en France entre Aix-en-Provence et Marseille, Franck est un informaticien passionné par l'intelligence artificielle, avec une expertise en développement logiciel web. Toujours à l'affût des dernières avancées, il s'efforce de proposer les infos les + pertinentes.