聊天机器人GPT-4和数据分析工具ADA创建虚假临床试验数据集

近日，《自然》杂志报道了一起令人关注的事件。据相关报道显示，一位作者在一篇发表在该杂志上的论文中，利用了聊天机器人 GPT-4 和高级数据分析工具 ADA 虚构了一个临床试验数据集，以此来支持一个未得到证实的科学观点。这一行为引发了广泛的讨论和质疑。

IT之家注：ADA 是一种结合了 Python 的模型，可用来执行统计分析、创建可视化数据。

报道称，论文作者要求 GPT-4 和 ADA 生成一个有关角膜炎患者的数据集，并让它支持“深层前部角膜移植（DALK）在视力和眼睛成像测试方面比穿透性角膜移植（PK）效果更好”的结论。

由 AI 生成的数据包括 160 名男性参与者和 140 名女性参与者的实验结果，并支持了上述结论，然而这个结果与真正临床试验显示的结果不符。

专家对该虚假数据集进行了详细检查，并发现其中存在明显捏造迹象。英国曼彻斯特大学生物统计学家杰克・威尔金森表示，“要创建至少表面上看似可信的数据集似乎很容易，在未经训练的人看来，这‘肯定是’一个真实的数据集。”

在本研究中，作者们积极参与并认可了所使用的数据集。他们在仔细审查之后，发现了其中的不足之处。然而，如果读者在浏览这些数据集时过于草率，就可能难以察觉其中的人造痕迹。

由 AI 编造的“可信数据”增加了研究人员和期刊编辑对学术研究诚信的担忧。《EMBO Reports》杂志主编 Bernd Pulverer 表示，“现实中的同行评审往往不会对数据进行全面的重新分析，因此不太可能发现利用人工智能精心设计的完整性漏洞。”他补充说，期刊需要更新质量检查，以识别 AI 生成的合成数据。