ArXiv bannira les auteurs pendant un an s'ils soumettent des articles générés par l'IA sans Révision manuelle

BitcoinWorld

ArXiv va bannir les auteurs pendant un an s'ils soumettent des articles générés par l'IA sans révision humaine

ArXiv, le dépôt en libre accès largement utilisé pour les prépublications de recherche, a annoncé une nouvelle politique pouvant entraîner une interdiction d'un an pour les auteurs qui soumettent des articles contenant des preuves manifestes de contenu généré par l'IA sans vérification. Cette mesure, présentée jeudi par Thomas Dietterich, président de la section informatique d'ArXiv, cible le problème croissant des recherches de faible qualité produites par l'IA, qui nuisent à la confiance dans la publication scientifique.

Ce que la nouvelle règle signifie pour les chercheurs

Selon les nouvelles directives, si les modérateurs trouvent des « preuves irréfutables » que les auteurs n'ont pas vérifié le contenu généré par de grands modèles de langage (LLM) avant la soumission, l'article sera rejeté et les auteurs feront face à une suspension d'un an de publication sur ArXiv. Après la levée de l'interdiction, les auteurs devront faire accepter leurs soumissions ultérieures par une revue à comité de lecture réputée avant de pouvoir revenir sur la plateforme.

Dietterich a précisé que ces preuves comprennent des références fabriquées, des citations absurdes ou des erreurs de copier-coller directes provenant d'un LLM. La politique n'interdit pas entièrement l'utilisation des outils d'IA ; elle tient plutôt les auteurs « entièrement responsables » de tout le contenu, quelle que soit la manière dont il a été généré. Cela inclut le plagiat, les déclarations biaisées et les inexactitudes factuelles introduites par l'IA.

Pourquoi cela est important pour l'intégrité scientifique

ArXiv est depuis longtemps un pilier de la diffusion rapide de la recherche, notamment en informatique, en mathématiques et en physique. Cependant, l'essor de l'IA générative a conduit à une augmentation des soumissions qui semblent avoir été produites avec une supervision humaine minimale. Des études récentes à comité de lecture ont documenté une augmentation des citations fabriquées dans la littérature biomédicale, probablement liée à l'utilisation des LLM.

En appliquant cette règle du « premier manquement », ArXiv vise à préserver la crédibilité de son dépôt. La politique comprend également un processus d'appel, permettant aux auteurs de contester les décisions. Les modérateurs doivent d'abord signaler les problèmes, et les présidents de section doivent confirmer les preuves avant que les sanctions soient appliquées.

Implications plus larges pour la communauté de recherche

Cette politique reflète un consensus croissant au sein du monde académique selon lequel les outils d'IA doivent assister, et non remplacer, la supervision humaine dans la recherche. La transition d'ArXiv vers une organisation à but non lucratif indépendante, après avoir été hébergée par l'Université Cornell pendant plus de deux décennies, lui offre plus de flexibilité pour appliquer de telles mesures. Le dépôt a déjà pris des mesures pour limiter les soumissions générées par l'IA, notamment en exigeant des recommandations pour les nouveaux utilisateurs.

Pour les chercheurs, le message est clair : utiliser l'IA pour rédiger ou peaufiner le langage est acceptable, mais soumettre un travail sans vérification rigoureuse des faits et des citations ne l'est pas. Cela s'aligne avec les normes éditoriales plus larges de la publication scientifique, où la responsabilité reste primordiale.

Conclusion

La nouvelle politique d'interdiction d'ArXiv représente une étape importante dans le maintien de l'intégrité de la recherche en prépublication à l'ère de l'utilisation généralisée de l'IA. En sanctionnant les auteurs qui ne vérifient pas le contenu généré par l'IA, le dépôt renforce le principe selon lequel les chercheurs humains portent la responsabilité ultime de leur travail. À mesure que les outils d'IA s'intègrent davantage dans le processus de recherche, de telles protections deviendront probablement la norme dans l'édition académique.

FAQs

Q1 : La nouvelle politique d'ArXiv interdit-elle l'utilisation de l'IA pour la rédaction d'articles ?
Non, elle n'interdit pas l'utilisation de l'IA. Elle interdit la soumission d'articles présentant des preuves claires que les auteurs n'ont pas vérifié le contenu généré par l'IA pour détecter des erreurs, telles que des références fabriquées ou du texte absurde.

Q2 : Qu'est-ce qui constitue une « preuve irréfutable » d'utilisation abusive de l'IA ?
Les exemples incluent des citations hallucinées, des références à des sources inexistantes et des erreurs de copier-coller directes provenant d'un LLM indiquant qu'aucune révision humaine n'a eu lieu.

Q3 : Les auteurs peuvent-ils faire appel d'une interdiction ?
Oui, la politique comprend un processus d'appel. Les modérateurs doivent signaler le problème, les présidents de section confirment les preuves, et les auteurs peuvent contester la décision.

Cet article ArXiv va bannir les auteurs pendant un an s'ils soumettent des articles générés par l'IA sans révision humaine est apparu en premier sur BitcoinWorld.