ChatGPT:免费版的医疗Answer或误导性答案的威胁

财联社12月5日讯（编辑 卞纯）自AI聊天机器人ChatGPT推出以来，这款工具在金融、教育、新闻等行业获得广泛应用。然而一项研究表明，医疗行业从业者以及患者都应谨慎使用这款工具，尤其是免费版ChatGPT。

根据最近周二发布的一份研究报告，我们发现免费版的ChatGPT在回答与药物相关的问题时可能存在一定的风险。据研究显示，该AI系统可能会提供不准确或不完整的答案，甚至有可能完全不回答这些问题，从而对患者的健康造成潜在威胁。因此，我们需要关注并采取相应措施以确保患者能够得到准确的药物相关信息。

今年5月，长岛大学的药剂师向免费版ChatGPT提出了39个问题。他们认为，根据他们设定的标准，ChatGPT的回答中只有10个“令人满意”。该研究称，对于其它29个与药物有关的问题，ChatGPT要么没有直接回答，要么不准确、不完整，或者既不准确又不完整。

该研究使用了2022年1月至今年4月期间（患者）向长岛大学药学院药物信息服务平台提出的真实问题。

在今年的五月试验中，我们的药剂师精心准备了45个问题并给出了相应的答案。这些答案随后被另一位研究员审查，并据此作为评估ChatGPT准确性的准则。然而，在审查过程中，该研究员发现了6个问题，这些问题由于缺乏相关文献支持，无法给出数据驱动的答案。

根据这份报告，我们发现ChatGPT并未直接回答11个问题。同时，它对10个问题提供了不准确的信息，而在另外12个问题上，它的答案是错误的或者不完整和不准确。

对于每一个疑问点，专家们要求ChatGPT在回答中提供参考信息，以便对所提供的数据进行核实。然而，令人惊讶的是，ChatGPT仅在八个回答中提供了参考资料，并且这些回答中包含的参考信息均为不存在的虚构来源，这显然是在编造答案。

患者应谨慎使用ChatGPT

上述研究的主要作者、长岛大学药学实践副教授Sara Grossman表示，该研究表明，患者和医疗保健专业人员应该谨慎依赖ChatGPT提供的药物信息，并通过可信来源核实该工具给出的任何回答。对于患者来说，可信来源可以是他们的医生，也可以是政府药物信息网站。

例如，科学家们曾向ChatGPT提出了一个疑问：辉瑞抗病毒药物Paxlovid与降低高血压的药物Verapamil是否会发生互动反应。换句话说，如果在同一时间服用这两种药物，它们之间是否存在一种药物会干扰另一种药物的药效现象呢？

ChatGPT的答案表明，目前还没有关于这两种药物发生相互作用的报道。但是，实际上，如果在服用这两种药物的同时过度降低血压，可能会产生不良影响。

Grossman指出，如果不了解这种相互作用，患者可能会遭受不必要的、原本可预防的副作用。

一项最近的统计分析表明，今年10月份，ChatGPT在全球范围内吸引了超过17亿次的浏览量。然而，至我国2023为止，还没有公开的数据显示有用户向这款人工智能助手咨询医疗相关的问题。

值得关注的是，当前所遇到的免费版ChatGPT仅运用至2021年9月期的数据集，这可能使得它在面对医疗领域的迅速变化时，无法充分掌握关键信息。至于付费版ChatGPT在解答与药物相关问题的“精确性”，目前尚未明确。付费版ChatGPT具备网络浏览功能，可实时获取更新信息。

Grossman承认，若对付费版ChatGPT进行研究，可能会产生更好的结果。她还补充称，因为针对免费版ChatGPT的研究是今年早些时候进行的，若现在再次进行类似研究，免费版ChatGPT可能已经改进，或许会产生更好的结果。

ChatGPT准确性引人担忧

AI初创公司OpenAI开发的ChatGPT去年底一经推出便风靡全球，被广泛视为有史以来增长最快的消费者互联网应用程序。但在迅速走红的同时，这款工具也引发了人们对欺诈、知识产权、歧视和错误信息等问题的担忧。

此前已经有几项研究都表明，ChatGPT会对一些问题作出错误回答。今年7月，美国联邦贸易委员会（FTC）对OpenAI展开全面调查，以确保ChatGPT不会通过生成虚假信息和滥用数据，损害消费者利益。