La récente poursuite du New York Times contre OpenAI, le fabricant de ChatGPT, soulève une question cruciale : lorsque les systèmes d’intelligence artificielle générative produisent des résultats étrangement similaires aux données sur lesquelles ils ont été formés, s’agit-il d’une violation du droit d’auteur ou d’un défaut du système ? Le New York Times affirme qu’OpenAI a utilisé une quantité significative de contenu provenant de son site Web pour entraîner ses modèles d’IA, en faisant de ce contenu l’une des sources propriétaires les plus utilisées, juste derrière Wikipédia et les ensembles de données contenant des documents de brevet américains.

OpenAI affirme que la formation sur les données protégées par le droit d’auteur est une « utilisation équitable » et que le procès du New York Times est « sans fondement ».

Nous construisons l’IA pour responsabiliser les gens, y compris les journalistes.

Voici le message de Twitter traduit:

////////////////////////////////////////////////////////////////////////////

Notre position sur le @NY Times procès:
• La formation est un usage équitable, mais nous proposons une option de non-participation.
• La « régurgitation » est un bug rare que nous ramenons à zéro.
• Le New York Times ne raconte pas toute l’histoire

-OpenAI (@OpenAI) 8 janvier 2024

//////////////////////////////////////////////////////////////////////////////

Les enjeux

Le procès pourrait être réglé à l’amiable, cela pourrait se terminer par des dommages-intérêts, un licenciement ou une myriade d’autres conséquences. Mais au-delà des allègements financiers ou des injonctions (qui pourraient être considérées comme temporaires, en attente d’appel ou déclenchées en cas d’appel infructueux), les ramifications pourraient avoir un impact sur la société américaine dans son ensemble, avec un impact potentiel mondial au-delà.

Premièrement, si les tribunaux concluaient en faveur d’OpenAI que la formation des systèmes d’IA sur du matériel protégé par le droit d’auteur constitue un usage loyal, cela pourrait avoir un impact substantiel sur le système juridique américain.

Comme Mike Cook, maître de conférences au King’s College, a récemment a écrit :

« Si vous avez utilisé l’IA pour répondre à des e-mails ou résumer votre travail, vous pourriez considérer ChatGPT comme une fin justifiant les moyens. Cependant, cela devrait peut-être nous inquiéter si le seul moyen d’y parvenir est d’exempter certaines sociétés des lois qui s’appliquent à tous les autres.»

Le New York Times affirme qu’une telle exemption constituerait une menace évidente pour son modèle économique.

OpenAI a admis que ChatGPT a un « bug » dans lequel il produit occasionnellement des passages de texte présentant des similitudes frappantes avec des œuvres existantes protégées par le droit d’auteur. Selon le New York Times, cela pourrait servir à contourner les paywalls, à priver l’entreprise de revenus publicitaires et à affecter sa capacité à remplir ses fonctions principales.

Si OpenAI était autorisé à poursuivre sa formation sur du matériel protégé par le droit d’auteur sans restriction, les impacts à long terme pour le New York Times et tout autre média journalistique dont le travail pourrait être utilisé pour former des systèmes d’IA pourraient être catastrophiques, selon le procès.

On pourrait sans doute en dire autant d’autres domaines dans lesquels le matériel protégé par le droit d’auteur génère des profits, notamment le cinéma, la télévision, la musique, la littérature et d’autres formes de médias imprimés.

En revanche, dans les documents soumis au comité des communications et du numérique de la Chambre des Lords du Royaume-Uni, OpenAI a déclaré : « Il serait impossible de former les principaux modèles d’IA d’aujourd’hui sans utiliser des matériaux protégés par le droit d’auteur. Limiter les données de formation aux livres et dessins du domaine public créés il y a plus d’un siècle pourrait donner lieu à une expérience intéressante, mais ne fournirait pas de systèmes d’IA répondant aux besoins des citoyens d’aujourd’hui. »

La boîte noire

Ce qui complique encore les choses est le fait qu’un compromis pourrait être difficile à trouver. OpenAI a pris des mesures pour empêcher ChatGPT et d’autres produits de produire du matériel protégé par le droit d’auteur, mais il n’y a aucune garantie technologique qu’il ne continuera pas à le faire.

Les modèles d’IA tels que ChatGPT sont appelés systèmes de « boîte noire ». En effet, les développeurs qui les créent n’ont aucun moyen de savoir exactement pourquoi le système génère ces sorties.

En raison de cette boîte noire et de la méthode par laquelle les grands modèles de langage tels que ChatGPT sont formés, il n’y a aucun moyen d’exclure les données du New York Times ou de tout autre détenteur de droits d’auteur une fois qu’un modèle a été formé.

Sur la base de la technologie et des méthodes actuelles, il y a de fortes chances qu’OpenAI doive supprimer ChatGPT et recommencer à zéro s’il était totalement interdit d’utiliser du matériel protégé par le droit d’auteur. En fin de compte, cela pourrait s’avérer trop coûteux et inefficace pour en valoir la peine.

OpenAI espère résoudre ce problème en proposant des partenariats aux agences de presse et de médias, ainsi qu’en promettant de poursuivre les travaux visant à éliminer le « bug » de la régurgitation.

Le pire des cas

Le pire des cas pour le domaine de l’intelligence artificielle serait de perdre la capacité de monétiser les modèles formés à partir de matériels protégés par le droit d’auteur. Même si cela n’affecterait pas nécessairement, par exemple, les efforts liés aux voitures autonomes ou aux systèmes d’IA utilisés pour effectuer des simulations sur superordinateur, cela pourrait rendre illégale la commercialisation de produits génératifs tels que ChatGPT.

Et, en ce qui concerne les détenteurs de droits d’auteur, le pire des cas serait une déclaration judiciaire selon laquelle le matériel protégé par le droit d’auteur peut être librement utilisé pour entraîner des systèmes d’IA.

En théorie, cela pourrait donner aux sociétés d’IA toute latitude pour redistribuer du matériel protégé par le droit d’auteur légèrement modifié, tout en tenant les utilisateurs finaux légalement responsables de tout cas où les modifications ne répondent pas aux exigences légales visant à éviter la violation du droit d’auteur.