La Révélation Divine du Vatican (suite)

Victor Ginsburgh et Pierre Pestieau

Notre blog de la semaine dernière, La Révélation Divine du Vatican, a surpris plusieurs d’entre vous. En réalité, il a été écrit par le fameux logiciel ChatGPT auquel nous avons posé la question : « Que se passerait-il si un cardinal transgenre venait à être élu pape ? » Nous espérons que certains d’entre vous au moins, nous auront presque cru. 

Ce blog gag nous amène à réfléchir à une question qui nous tient à cœur, à savoir comment réagir si l’Intelligence Artificielle (AI) réussit à nous tromper en créant des œuvre d’art (ou de science) qui semblent venir d’une personne réelle. Aujourd’hui déjà, on sait que certains romans et articles de journaux sont créés par l’AI sans toujours le signaler. Imaginons l’embarras d’un critique ou d’un amateur d’art qui s’extasie devant un tableau, un roman, un poème et découvre que cette œuvre a pour auteur l’AI. A ce propos, quel est le genre de l’AI ? Nous lui avons posé la question et voici sa réponse :

« ChatGPT n'a pas de sexe. Il s'agit d'un modèle linguistique d'intelligence artificielle créé par OpenAI, conçu pour aider les utilisateurs, indépendamment de leur sexe, de leur âge ou d'autres attributs personnels. Il ne possède pas de caractéristiques personnelles ni d'identité ; il fournit simplement des réponses basées sur les données qu'il reçoit. »

Plus sérieusement et de façon plus dangereuse, l’AI fait des ravages dans le monde de l’édition. Au Japon plus qu’ailleurs. Plusieurs écrivains avouent s’être aidés de l’AI pour écrire leurs ouvrages tout en ajoutant qu’ils gardent la maîtrise du processus de production littéraire. Vive les “vrais” auteurs. Nous devrons nous remettre aux grands (mais vieux) auteurs, tels que Balzac, Hugo, Shakespeare, sans doute Sartre, Cocteau, Jules César et bien d’autres, s’il le fallait, mais nous connaissons bien leurs noms et les avons lus en partie. A propos, une idée : pourquoi ne prendrions-nous pas deux ou trois vers de Shakespeare que nous pouvons envoyer à ChatGPT, pour voir ce que cela peut donner ?

Il y a pire. La science est aussi attaquée, mais d’une façon peut être plus grave, parce que ce ne sont pas uniquement des chaînes de mots qui peuvent être belles ou odieuses. Le roman est un roman, mais la science ne devrait pas être un roman. Voici un exemple de ce qui pourrait se multiplier : Un article à propos « d’une équipe d’enquêteurs scientifiques vient de mettre à jour une fraude dans le milieu de la publication scientifique. Plus un article est cité dans d’autres articles, plus le premier a de la valeur. C’est donc l’un des indicateurs pris en compte au moment de financer tel ou tel projet. Certains éditeurs peu scrupuleux ont donc mis au point le système des “références furtives” qui permet de booster (1) artificiellement l’impact d’une publication. (2).

Voici ce qu’on lit dans un article récent (3) : « La recherche est fondée sur un échange permanent, tout d’abord et avant tout pour comprendre les travaux des autres et ensuite, pour faire connaître ses propres résultats. La lecture et l’écriture d’articles publiés dans des revues ou des conférences scientifiques sont donc au cœur de l’activité des chercheurs. Quand on écrit un article, il est fondamental de citer les travaux de ses pairs que ce soit pour décrire un contexte, détailler ses propres sources d’inspiration ou encore expliquer les différences d’approches et de résultats. Être cité par d’autres chercheurs, quand c’est pour de bonnes raisons, est donc une des mesures de l’importance de ses propres résultats. Mais que se passe-t-il lorsque ce système de citations est manipulé ? Notre récente étude révèle une méthode insidieuse pour gonfler artificiellement les comptes de citations : les « références furtives ».

Les auteurs scientifiques se doivent de mentionner dans le texte de leur article, le titre de l’article cité, et d’autres indicateurs tels que le nom des auteurs, l’année de publication, le nom de la revue, les pages dans ladite revue. Ces informations apparaissent dans la bibliographe de l’article et sont enregistrées sous forme de “bibliographie”, un identifiant unique pour chaque publication scientifique.

On le voit l’IA est comme la langue d’Ésope : la meilleure et la pire des choses.

(1). Comme s’il n’y avait pas de mot que “booster.” “Amplifier” ou “augmenter” ne sont plus des mots français et ont manifestement disparu de notre vocabulaire. 

(2). Benoît Tonson, The conversation, 17 juin 2024. https://theconversationfrance.cmail20.com/t/r-e-tdsdtht-ntutjijikt-r/

(3). Lonni Besançon et Guillaume Cabanac, Découverte d’une fraude scientifique pour booster artificiellemt l’impact des recherches, La Conversation, 14 juin 2024. https://theconversation.com/decouverte-dune-fraude-scientifique-pour-booster-artificiellement-limpact-des-recherches-232313?utm_medium=email&utm_campaign=La%20lettre%20de%20The%20Conversation%20France%20du%2016%20juin%202024%20-%203002130571&utm_content=La%20lettre%20de%20The%20Conversation%20France%20du%2016%20juin%202024%20-%203002130571+CID_b8eb07a0b022ae5746b5d6665e49e6bc&utm_source=campaign_monitor_fr&utm_term=Dcouvrez%20ce%20travail%20denqute%20difiant