红了
上个月发表在《物理脚本》(physics scripta)杂志上的一篇论文引起了争议，原因是计算机科学家兼诚信调查员纪尧姆·卡巴纳克(Guillaume Cabanac)注意到，ChatGPT查询“再生响应”(Regenerate Response)似乎是偶然被复制到了文章中。
现在，作者们已经承认使用聊天机器人来帮助起草这篇文章，这成为生成人工智能进入学术界令人担忧的最新证明。
“这违反了我们的道德政策，”出版《物理学》手稿的IOP出版公司同行评审和研究诚信负责人Kim Eggleton告诉《自然》杂志。
这篇论文现在已经被撤回，因为它没有宣布使用了聊天机器人——这取决于你的观点，这要么是小题大做，要么是学术界未来的标志。
同行评审圣骑士
自2015年以来，卡巴纳克一直在进行一场运动，以揭露其他未公开使用人工智能技术的已发表论文，这在当时只不过是一种好奇。随着计算机从发出真正的胡言乱语到发出令人信服的、类似人类的作品，这场战斗变得更加艰难。但这只是坚定了卡巴纳克的决心，他帮助发现了数百份人工智能生成的手稿。
“他对假论文感到沮丧，”计算机科学家、卡巴纳克在打击犯罪方面的合作伙伴西里尔·拉伯勒(Cyril labb
那些小心掩盖自己踪迹的人不会留下明显的线索，比如“作为一种人工智能语言模型”，不过谢天谢地，像卡巴纳克这样的侦探仍然会留下明显的线索。他最近发现了另一篇发表在《资源政策》(Resources Policy)杂志上的论文，其中包含了一些“脑死亡”赠品。出版商本周告诉《自然》杂志，他们“意识到了这个问题”，正在调查这一事件。
除此之外，人工智能模型往往会混淆事实，而且可能只是太笨了，无法准确地背诵科学论文中涉及的数学和技术语言——就像这项研究一样，它包含了荒谬的方程，卡巴纳克发现。
ChatGPT还可以无中生有地产生虚假声明，这种现象可能被过于慷慨地描述为“幻觉”。举个例子，上周的一篇预印本论文也被曝出部分是人工智能生成的，因为一位丹麦教授注意到，这篇论文引用了以他的名义发表的不存在的论文。
压倒性的数量
考虑到同行评议过程是多么的严格——或者至少应该如此——人工智能制造的假币正在从漏洞中溜走，这是令人担忧的。
也许不是每个人都明白。毕竟，这项技术的普及还是最近才开始的。研究员兼假论文侦探大卫·比姆勒(David Bimler)说，或者，同行评审根本没有时间去寻找这样的东西。
“整个科学生态系统要么发表，要么灭亡，”Bimler告诉《自然》杂志。“看门人的数量跟不上。”
这可能是令人痛苦的事实。审查论文需要大量的时间和专业知识，但人工智能只需要几分钟就能写出一篇论文，不管它有多糟糕。
本文来自作者[寻桃]投稿，不代表79哈立场，如若转载，请注明出处：https://79ha.com/wiki/202508-4327.html
评论列表（4条）
我是79哈的签约作者“寻桃”！
希望本篇文章《当作者被揭露使用ChatGPT撰写论文，学术诚信面临挑战》能对你有所帮助！
本站[79哈]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：红了 上个月发表在《物理脚本》(physics scripta)杂志上的一篇论文引起了争议，原因是计算机科学家兼诚信调查员纪尧姆·卡巴纳克(G...