ChatGPT生成的癌症治疗方案漏洞百出，毫无参考意义

据快科技8月27日报道，最近，《美国医学院肿瘤学杂志》发表的一项研究结果显示，由ChatGPT生成的癌症治疗方案存在诸多问题，缺乏可信度。

据相关报道，一项研究结果由哈佛医学院附属的布里格姆妇女医院的研究人员得出，他们发现 ChatGPT 在回答有关癌症病例及其治疗方案的问题时，有三分之一的回答包含了不准确的信息。这一发现引发了广泛的关注，因为 ChatGPT 是目前最先进的自然语言处理技术之一，其应用范围广泛，包括智能客服、语音助手等领域。

更为严重的问题是，这些错误信息与正确信息混合在一起，使得用户对于哪些信息是真正准确的和可靠的根本无法判断。

据参与研究的Danielle Bitterman博士指出，ChatGPT所提供的答案中，错误信息与正确信息的混合程度极高，甚至达到了专家也难以识别的水平。

事实上，先前有许多报道都提到，当前的ChatGPT以及其他生成性人工智能技术，仍然存在着提供具有强烈误导性或完全错误信息的可能。

关于此问题，以OpenAI为代表的人工智能研发团队已明确表示，将会在未来的开发过程中不断提升AI回答的可信度，从而有效防止类似“幻觉”等不准确现象的发生。

另外，OpenAI已经在其使用条款中对用户发出警告，明确指出其开发的人工智能模型并非专为此目的而设计，亦不适合用于对严重疾病提供诊断或治疗建议。