ArXiv宣布：若作者完全依赖AI生成论文，将面临一年禁令
预印本平台加强AI使用规范，违规作者将受处罚
ArXiv作为广泛使用的开放预印本研究存储库，正进一步强化对大型语言模型在科学论文中不当使用的监管措施。尽管论文在投稿时未经同行评审，但该平台已成为计算机科学和数学等领域研究传播的主要渠道，同时也是观察科研趋势的重要数据来源。
已有举措与独立进程
为应对日益增多的低质量AI生成论文，ArXiv已采取多项行动。例如，要求首次投稿者获得资深作者的背书，以筛选潜在问题稿件。此外，该组织在康奈尔大学托管超过20年后，正转型为独立非营利机构，这将有助于筹集更多资金应对AI带来的挑战。
最新禁令细则
ArXiv计算机科学分部主席Thomas Dietterich近日宣布，若投稿中存在“确凿证据表明作者未核查大型语言模型生成结果”，则“无法信任论文中的任何内容”。此类证据可能包括“幻觉引用”或与AI的对话记录等。一旦发现此类情况，作者将面临“一年内禁止投稿ArXiv，且后续投稿需先通过权威同行评审期刊”的处罚。
责任界定与申诉机制
值得注意的是，这并非完全禁止使用AI，而是要求作者对内容“负全责”，无论内容如何生成。若研究人员直接复制粘贴AI生成的“不当语言、抄袭内容、偏见内容、错误、错误引用或误导性内容”，仍需承担责任。Dietterich强调这是“一次违规即处罚”的规则，但需经版主标记问题并由分部主席确认证据后方可执行，作者也可对决定提出申诉。
科研界AI使用乱象
近期研究表明，生物医学研究中编造引文的现象正在上升，这可能与AI的使用有关。不过，科学家并非唯一受影响者，例如Anthropic的律师就曾因Claude生成虚构法律引文而公开道歉。
关注微信号：智享开源 ，可及时获取信息
关注微信
还没有任何评论，你来说两句吧！