ChatGPT争议不断，国家监管风暴来袭，首例诽谤诉讼或引发蝴蝶效应？
本文围绕ChatGPT AI大模型在全球引发争议及监管风暴展开，意大利和德国已禁止或限制其使用，澳大利亚市长则计划起诉ChatGPT诽谤。OpenAI在面临监管压力下承诺提高透明度并加强保护措施。同时，A股相关概念股大幅下跌，私募大佬对这一现象有不同看法，但普遍认为存在回调风险。ChatGPT及相关科技概念的未来走势引发市场关注和讨论。
ChatGPT编织谎言，媒体真假难辨，AI冲击下的真相何在？
过去24小时，ChatGPT被发现提供虚假信息，包括错误列出现实中无依据的法学院教授性骚扰指控，误导用户信以为真。这导致媒体误报甚至删除文章，显示其准确性和信息来源难以分辨。微软和谷歌正准备推出相关AI功能，引发了关于AI假新闻生成和真实标注挑战的新讨论，同时也凸显出AI技术重塑工作流程的潜力和对传媒行业的影响深远。《卫报》将采取措施应对这一挑战，确保内容质量并维持新闻标准。
80%Nature读者都在用ChatGPT，科研方向最多的竟是头脑风暴！
编辑：桃子 【新智元导读】近日，Nature对其读者做了一项在线问卷调查，以调研ChatGPT的使用频率。结果显示，80%的受访者称使用过AI聊天机器人。 ChatGPT在学术界的争议一直不断。 究竟该不该使用ChatGPT写论文，创作？ 一些高校、出版社已经明确表态禁止，但同样有人支持使用ChatGPT。 亚马逊统计，截至2月中旬，Kindle商店里已经有200多本电子书将ChatGPT列为作者。 有人担心，如果不提高透明度，这项技术可能会让大量低质量的图书涌入市场，导致许多作家失业。 用ChatGPT头脑风暴 近日，Nature便对自家读者开展了一项调查，研究其对生成式AI工具的使用频率。 研究显示，研究人员热衷于尝试使用生成式人工智能工具，如先进的聊天机器人ChatGPT，来帮助他们完成工作。 与此同时，他们也在担心AI可能会出现潜在的错误和虚假信息。 具体怎么讲？ Nature通过在线问卷的方式对627名读者进行了调查。 结果显示，约80%的人至少使用过一次ChatGPT或类似的AI工具。 其中，超过1/5的人经常使用此类工具：8%的人每天都在使用，14%的人每周使用几次。 还有大约38%的受访者知道其他研究人员使用这些工具进行研究或教学。 那这些读者使用ChatGPT等AI工具都在做什么？ 相当一部分受访者（57%）表示，他们使用ChatGPT或生成式AI工具仅是创意乐趣，与自己的研究无关。 在与科学相关的应用中，27%的受访者表示用其对研究idea进行头脑风暴。 近24%的人表示他们使用生成式AI工具写代码；大约16%的人表示，他们使用这些工具来帮助撰写研究手稿、制作演示文稿或写文献综述。 只有10%的人使用它们来帮助编写资助申请，10%的人用这些应用来生成图片。 问卷中，参与者通过开放式问答分享了他们对生成式人工智能潜力的看法，以及对其使用的担忧。 一些人表示，这些工具将帮助完成枯燥、繁琐或重复的任务，例如处理数字或分析大型数据集、编写和调试代码、文献检索，能够对研究产生有益的重大影响。 意大利教育部教育研究与创新研究所INDIRE的研究员Jessica Niewint-Gori称，这是一个很好的基础工具，因此你可以专注于更高层次的思考，或定制AI创建的内容。 一些人希望，人工智能可以提供一个快速的初始框架，可以编辑成更详细的最终版本，从而加快和简化写作任务。 印度金奈中央皮革研究所的生物学家Dhiliphan Madhav称， 生成式语言模型对于像我这样英语不是第一语言的人来说非常有用。它能够让我比以往任何时候都更流畅、更快地完成写作。这就像在撰写论文时有一位专业的语言编辑在我身边。 不过，人们对这些工具的可靠性以及滥用的可能性感到担忧。 其中就不乏有人担心AI提供的结果可能存在错误或偏见。 德国慕尼黑大学的分子生物学家Sanas Mir-Bashiri称，ChatGPT曾经为我创建了一个完全虚构的文献列表。这些出版物实际上都不存在，我认为这是非常具有误导性的。 还有人担心，这些工具可能被用来作弊，或者产生貌似合理的科学假信息。 人们经常提到人工智能可以被「论文工厂」用来制作虚假的科学出版物，而过度依赖AI完成写作任务可能会阻碍研究人员的创造力并阻碍学习进程。 许多人一致认为，问题的关键在于你是否将AI视为帮助完成工作，而不是完全取代工作的工具。 ChatGPT上岗写稿 同样，近日，一个著名的科幻杂志《克拉克世界》关闭了其投稿窗口。 原因不难猜测，AI投稿太多了。 《克拉克世界》创办于2006年，曾出版了许多著名科幻作家的作品，并多次获得雨果奖。 据统计，自ChatGPT发布后，今年2月份就有500份垃圾邮件如洪水猛兽般涌来。 在1月份的时候仅有100份，去年10月有25篇。可以看出，投稿数量猛增和ChatGPT发布大致相同。 杂志社推测，很多人就是想用AI赚快钱。 在其博客中，列举了一个典型的例子。 原文是来自雷蒙德 ·...
ChatGPT会让编辑、翻译、设计师们失业吗？
一个多月前，ChatGPT 全网刷屏，我们也在第一时间试着把它训练成小红书读书博主，并探讨了它在辅助创作、提高阅读效率方面的巨大潜力。不仅如此，我们还预言AI创作的流行，将会把更多“水文”“注水书”赶出市场。随着GPT 4.0版本发布并全面接入微软Office全家桶，全球打工人不约而同感觉到一阵寒意，从一个多月前的置身事外，到如今面临“饭碗不保”，AI席卷一切的速度比我们想象中更快。编辑可能是最先感受到这一轮冲击波的群体。早在2月份，不少国外杂志的投稿邮箱就已经被AI创作的文章挤爆了，科幻名刊《克拉克世界》在20天的时间里收到了超过500份垃圾投稿，占到投稿总量的38%，即便有检测软件的辅助，杂志编辑依然感觉耗时耗力，难以招架。最终，《克拉克世界》不得不暂停接受投稿。随后，国内科幻杂志《科幻世界》也宣布拒收AI投稿，只是随着AI创作能力的日新月异，过滤AI辅助创作内容的难度也将直线上升。近日，AI图像生成服务 Midjourney创作的一对情侣在全球社交媒体刷屏，升级到第五版之后， Midjourney已经打破了“AI不会画手”的瓶颈，作品几可乱真。很快，就有国内用户通过GPT4 + Midjourney 的强强联合，画出了《三体》的主要角色。我们暂且不去考虑画师、CG美术设计师们未来何去何从，更关注作为内容把关者的编辑，如何应对“道高一尺，魔高一丈”的AI浪潮。近日，美国版权局已经针对AI生成作品出台了新规，规定版权申请者必须披露 AI 的使用情况，否则注册可能会受到影响。通过ChatGPT、Midjourney等平台自动生成的作品，训练数据是基于人类创作的作品，因此不受版权法保护。这样的规定虽然会让创作者松一口气，但问题在于，判定AI作品的重担就落在了内容审核者身上，比如媒体编辑、版权代理人、图书编辑等，他们不仅要练就一双看穿AI套路的火眼金睛，更要承担“看走眼”之后的法律风险，毕竟总不能像《克拉克世界》一样一拒了之。在国内，首当其冲的当属高校导师及学术期刊编辑，因为一些AI创作平台正在成为“论文降重神器”，通过复制粘贴+全文改写，全网搜罗的内容就摇身一变成了“自己的语言”，原来的查重工具就此失效。从此以后，只看内容“原创性”已经很难用来判断文章质量，而是需要花费更多功夫考察其内在逻辑及论证过程。当然，ChatGPT等AI创作工具，带给编辑们的并不只是更多的工作量，更棘手的工作难度，更高的法律风险，也可以反过来把他们从繁重的文字劳动中解放出来，辅助他们进行审稿、改稿、修订译文，创作小红书、短视频等营销文案。过去，Word仅能提供错别字校对等服务，国内一直没有Grammarly这样可以纠正语法错误，调整语气以及给出风格建议的辅助工具。直到最近两年，国内才陆续出现了一批文本校阅、润色工具，不再仅限于检测错别字，而是可以帮助编辑做更多脏活、累活。我用DeepL翻译了Johann Hari 的《Lost Connections》的开头部分，然后让某国内AI创作平台来帮我校阅译文。它不仅可以发现其中明显的语法错误，标点误用，甚至还能检测出“敏感词”。对于语法错误，你可以通过一键改写，来使其更符合中文的表达习惯。当审稿的效率直线提升，编辑或许就不用再沦为无情的“看稿机器”了。虽然ChatGPT的翻译水平相比DeepL并没有质的飞跃，但只要输入润色指令，进行专业领域的调教，便能够产出更为流畅的译文。DeepL+ChatGPT配合使用，虽然无法替代人工翻译，但至少可以用来比对判断译文质量，对于外版书编辑来说不失为一个工作助手。一个多月前，我们曾尝试让ChatGPT为我们创作小红书推书文案，发现它已经掌握了“车轱辘话来回说”这一废话文学的要领。如今，我们在给出了关键词提示的情况下，尝试让文心一言为东野圭吾的新书《白鸟与蝙蝠》写一篇小红书推文，虽然它并未如ChatGPT一样掌握小红书文案的精髓，对书的理解也停留在“望文生义”的水平，但写出的文案已经足以像模像样。即便文心一言相比ChatGPT在语义理解上仍有不小差距，但对于文案创作来说已经可以胜任。今后，编辑只要精准掌握了一本书的核心卖点，各个平台重复性的营销文案工作可以指导AI来完成。当然，封面设计这件事目前还无法交给AI来完成，从ChatGPT和文心一言分别为《白鸟与蝙蝠》创作的封面来看，AI作画仍然停留在字面理解的层面，很难像设计师一样深入考虑书名的深层意涵，整本书的风格基调，进行恰如其分的视觉表达，更不用说字体设计与视觉元素布局了。尽管Midjourney作品的真实程度已经可以媲美照片，但仍然缺少打动人心的情感力量。图书编辑可能是最不用担心被AI抢走工作的一群人，不仅仅是因为他们收入微薄，也不仅因为这是一项看似简单，实则门槛很高的职业，更因为他们是人类创造力的鉴定者与评判者，是抵御AI创作浪潮的最后一道防线。有了ChatGPT等工具的辅助，编辑就可以有更多时间从事更有创造性的工作，也可以和写作者、绘画者们一起创作出AI难以企及的作品。