Un article expose l'émergence alarmante de la fraude scientifique, illustrée par des cas récents mettant en cause des chercheurs renommés. Un neurologue a alerté sur des allégations concernant un médicament expérimental potentiellement mortel pour les patients, soulevant des inquiétudes sur la manipulation des données. Ces incidents ne sont que la partie émergée de l'iceberg, avec des chercheurs peu scrupuleux achetant la paternité de faux articles pour des revues à comité de lecture. Face à cette épidémie, l'article plaide pour une approche professionnalisée de la détection des fraudes, suggérant la création d'une force de police scientifique formée pour protéger l'intégrité de la recherche. Il souligne également le rôle croissant de l'intelligence artificielle dans ce problème, mettant en garde contre ses conséquences sur la validité des travaux scientifiques futurs. Enfin, l'article souligne la nécessité d'une diligence raisonnable pour inverser la tendance où les gains obtenus par la fraude semblent l'emporter sur les incitations à respecter les règles scientifiques.
Le dossier, constitué par des dénonciateurs et obtenu par un journaliste d'investigation, a récemment été présenté à l'Institut national américain de la santé, qui finalise un essai clinique de 30 millions de dollars sur le médicament en question. Les informateurs soutiennent que le neuroscientifique renommé, Berislav Zlokovic de l'université de Californie du Sud, aurait exercé des pressions sur ses collègues pour altérer les carnets de laboratoire, et qu'ils ont conjointement signé des articles comprenant des données falsifiées. L'université a lancé une enquête, et l'avocat de Zlokovic indique que ce dernier collabore à l'enquête tout en contestant au moins certaines des allégations.
Les faits de ce cas particulier, exposés dans la revue Science la semaine dernière, doivent encore être établis, mais la recherche devient rapidement un catalogue de mésaventures, de malversations et de fautes professionnelles. L'élimination des erreurs et des manipulations ne devrait pas dépendre de dénonciateurs ou d'amateurs dévoués qui prennent des risques juridiques personnels pour le bien de tous. La science devrait plutôt appliquer une partie de sa célèbre rigueur à la professionnalisation de la détection des fraudes.
Zlokovic n'est pas le seul scientifique de renom à avoir fait les gros titres pour de mauvaises raisons. En juin, Francesca Gino, spécialiste des sciences du comportement à l'université de Harvard, a été accusée d'irrégularités dans ses données par trois universitaires américains qui animent le blog Data Colada. Gino, en congé administratif, poursuit Harvard et ses accusateurs pour diffamation. Le trio Data Colada a jusqu'à présent rassemblé plus de 376 000 dollars pour financer un fonds de défense juridique.
Dorothy Bishop, psychologue à l'université d'Oxford, exprime ses inquiétudes croissantes concernant la fraude scientifique. Elle souligne que la fraude est plus répandue que ce que la plupart des scientifiques reconnaissent, mettant en lumière le problème de l'« usine à papier académique ». Cette fraude à grande échelle produit des articles frauduleux vendus à des revues évaluées par des pairs, compromettant la base de résultats fiables.
Bishop critique l'approche passive de l'establishment scientifique face à la fraude, laissant la détection aux amateurs, et plaide pour une transformation culturelle et des réformes éditoriales plus rapides. Elle propose la création d'une génération de chercheurs formés spécifiquement pour détecter la fraude, afin d'assurer l'intégrité de la recherche scientifique face à cette menace croissante.
Comme l'a écrit Dorothy Bishop, psychologue à l'université d'Oxford, nous ne connaissons que ceux qui se font prendre. Selon elle, notre « attitude détendue » face à l'épidémie de fraude scientifique est un « désastre en devenir ».
Envoyé par Dorothy Bishop
Si vous interrogez un scientifique typique sur la fraude, il vous dira généralement qu'elle est extrêmement rare et qu'il serait erroné d'entamer la confiance dans la science à cause des activités de quelques individus sans scrupules. Lorsqu'on leur demande de citer des fraudeurs, ils peuvent, selon leur âge et leur discipline, mentionner Paolo Macchiarini, John Darsee, Elizabeth Holmes ou Diederik Stapel, tous des individus célèbres et prospères qui ont été démis de leurs fonctions lorsque des preuves irréfutables de fraude ont été mises au jour.
La fraude existe depuis des années, comme le montre l'excellent livre d'Horace Judson (2004), et pourtant, nous dit-on, la science se corrige d'elle-même et a prospéré malgré les activités d'une "pomme pourrie" occasionnelle. Le problème de cet argument est que, d'une part, nous ne connaissons que les fraudeurs qui se font prendre et que, d'autre part, la science ne prospère pas particulièrement bien - de nombreux articles publiés produisent des résultats qui ne parviennent pas à être reproduits et les découvertes majeures sont rares et espacées (Harris, 2017).
Nous sommes submergés de publications scientifiques, mais il est de plus en plus difficile de distinguer le signal du bruit. À mon avis, on en arrive au point où, dans de nombreux domaines, il est impossible de construire une science cumulative, car nous ne disposons pas d'une base solide de résultats dignes de confiance. Et la situation ne cesse de s'aggraver.
La fraude existe depuis des années, comme le montre l'excellent livre d'Horace Judson (2004), et pourtant, nous dit-on, la science se corrige d'elle-même et a prospéré malgré les activités d'une "pomme pourrie" occasionnelle. Le problème de cet argument est que, d'une part, nous ne connaissons que les fraudeurs qui se font prendre et que, d'autre part, la science ne prospère pas particulièrement bien - de nombreux articles publiés produisent des résultats qui ne parviennent pas à être reproduits et les découvertes majeures sont rares et espacées (Harris, 2017).
Nous sommes submergés de publications scientifiques, mais il est de plus en plus difficile de distinguer le signal du bruit. À mon avis, on en arrive au point où, dans de nombreux domaines, il est impossible de construire une science cumulative, car nous ne disposons pas d'une base solide de résultats dignes de confiance. Et la situation ne cesse de s'aggraver.
Ils ont développé une expertise dans la détection de diverses fraudes, notamment la manipulation d'images et l'utilisation de modèles improbables dans les données. En outre, ils ont identifié des réseaux de malfaiteurs qui ont infiltré de multiples domaines scientifiques. On pourrait s'attendre à ce que l'establishment scientifique apprécie ces efforts, mais la réponse habituelle à ceux qui mettent en lumière des preuves de méfaits est de les ignorer, de minimiser les preuves, voire de les accuser de comportement déplacé. Les éditeurs et les institutions universitaires sont tous deux responsables de cette attitude.
Les examinateurs par les pairs, majoritairement non rémunérés, ne parviennent pas toujours à détecter les fraudes. Avec l'accumulation croissante du volume de travaux scientifiques, estimé à 3,7 millions d'articles provenant uniquement de la Chine en 2021, les chances de repérer les malversations s'amenuisent. Certains chercheurs ont été surpris sur les médias sociaux en sollicitant l'ajout opportuniste de leur nom à des articles existants, présumément en échange d'une rétribution financière.
L'intelligence artificielle représente une opportunité pour cette fraude moderne. En 2021, une équipe de chercheurs a suivi l'augmentation des "phrases torturées" générées par l'IA dans la littérature, telles que "conscience contrefaite" au lieu d'"intelligence artificielle". Avec l'amélioration des modèles de langage, les textes générés par les machines ne seront plus aussi évidemment abscons. Lorsque des résultats erronés et des ensembles de données douteux prolifèrent dans la littérature, ils deviennent des éléments défectueux de base pour d'autres analyses, compromettant ainsi la crédibilité de la science à venir.
Les irrégularités ne se limitent pas à une tromperie flagrante. Elles peuvent résulter d'une analyse superficielle ou de données sélectionnées de manière biaisée. Il peut s'agir de la conviction bien intentionnée d'un universitaire qui, en recrutant judicieusement les bons patients et en adaptant ses essais de manière adéquate, espère résoudre le redoutable problème de la démence. Ajoutons à cela la volonté apparente des autorités de réglementation médicale de reconsidérer le rapport coût-bénéfice dans le traitement des maladies difficiles, et l'on obtient un environnement où la présentation habile des résultats d'essais peut potentiellement faire ou défaire un médicament d'une valeur d'un milliard de dollars.
Un neurologue a tiré la sonnette d'alarme concernant des allégations sur un médicament expérimental potentiellement mortel, soulevant des préoccupations sérieuses quant à la manipulation des données. Ces incidents, bien que représentant la pointe de l'iceberg, dévoilent une tendance où des chercheurs peu scrupuleux achètent la paternité de faux articles pour les publier dans des revues à comité de lecture.
Face à cette épidémie, certains experts plaident en faveur d'une approche professionnalisée de la détection des fraudes, proposant la création d'une force de police scientifique formée pour sauvegarder l'intégrité de la recherche. Ils mettent en évidence le rôle croissant de l'intelligence artificielle dans ce problème et alerte sur ses conséquences potentielles pour la validité des travaux scientifiques à venir.
Comment lutter contre la fraude scientifique : vers une police de la science ?
Le sujet de la fraude scientifique suscite des inquiétudes légitimes quant à l'intégrité de la recherche et à ses implications potentiellement graves. L'émergence de cas impliquant des chercheurs renommés, notamment dans le domaine médical, soulève des questions cruciales sur la fiabilité des données et des résultats qui sous-tendent des décisions médicales importantes.
Le constat de Dorothy Bishop concernant la fraude scientifique et l'inadéquation des réponses de l...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.