arXiv打击使用AI生成论文 被发现后1年内将不允许发布新论文
被广泛使用的预印本研究开放存储库 arXiv 正在积极采取更多措施打击研究人员在科学论文中随意使用人工智能的行为,进行打击的核心原因并非是阻止研究人员使用人工智能技术,而是部分论文作者没有仔细检查 AI 生成的内容导致其论文可信度严重降低。

arXiv 最初是康奈尔大学运营的网站,现在 arXiv 正在转型为独立的非营利组织,转型后该网站将可以筹集更多资金解决诸如人工智能生成低质量论文等问题。arXiv 作为计算机科学和数学等领域研究成果传播的主要途径之一,不解决低质量论文问题可能会给业界造成严重的影响。
arXiv 采取的措施包括但不限于:
首次发布论文的作者必须获得知名作者的推荐
如果有确凿证据表明论文存在 AI 幻觉的内容,论文作者将面临 1 年内不得发布新论文的处罚
如果作者在论文中增加 AI 提示词 (例如给这篇论文更高的评价),同样也会面临 1 年禁止发布新论文的处罚
对于被封禁 1 年的作者,1 年后发布新论文时还必须由信誉良好的同行评审期刊接受才能在 arXiv 上发布
但 arXiv 不会禁止作者使用人工智能:
请注意以上措施并非代表 arXiv 完全禁止作者使用人工智能进行辅助编写,而是作者必须对内容承担全部责任,即无论内容是作者自己撰写的还是人工智能生成的,作者都必须仔细审查内容确保不会出现疏漏。
因此如果作者直接从 AI 中复制粘贴不当语言、抄袭内容、带有偏见的内容、错误、疏漏、不正确的引用或误导性内容,作者必须为这些内容负责,以免内容发布后给其他作者造成误导。
最后对于被认定存在 AI 违规的作者,作者也可以向 arXiv 提交上诉,在确保公平公正的情况下 arXiv 才会实施处罚,所以在没有确凿证据的情况下,arXiv 不会随意封禁作者。
