警惕人工智能沦为最强谣言机器

石景山网警

近日，甘肃平凉市公安局崆峒分局网安大队侦破一起利用AI炮制虚假信息的案件。犯罪嫌疑人购买大量账号，全网搜索近年来热点新闻，再用ChatGPT加以编辑、规避平台查重功能，进而成功发布获利。目前，嫌疑人涉嫌寻衅滋事罪，已被采取刑事强制措施，相关案件正在进一步侦办之中。

说起来，这已不是ChatGPT第一次陷入假新闻风波了。问世伊始，便有人见识到其“一本正经胡说八道”的高超本领。让解释高深物理理论，说得有鼻子有眼，结果附列论文一查均无出处；让推荐相关领域学者，瞬间就有人选，可人物履历却是七拼八凑。出于其“天赋”的内容生成能力，ChatGPT似乎比从前的人工智能都更“聪明”，编出的内容往往形真实假、杂糅难辨。上述案件更直接展现出这种强大的造假能力。仅仅一篇“火车撞上修路工人致9人死亡”的虚假文章，就被套在了平凉、兰州、陇南、定西、庆阳等多地上，文章点击量已达1.5万余次，造假成本之低与负面影响之大形成鲜明对比。

早有新闻可信度评估机构提出，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”也有一些实验表明，ChatGPT等个性化的实时聊天机器人在制造阴谋论方面甚至相比人类更具优势，它能够修正糟糕的语法或错误的翻译，并变换表达方式，使阴谋论显得更具说服力和可信度。一方面是超强的“造假能力”，而另一方面却是相对缺失的“审核门槛”——在算法逻辑中，事实核查能力天然缺失，来源不明的所谓“新闻稿”随时可能成为舆论爆点，大众在将信将疑中“且传且围观”。乱象频仍、真相缺失充分警示：面对这样的超强生产能力，如若不加治理限制，任由人工智能随性发展，必将严重威胁我们的信息生态。

科技是一把双刃剑，人工智能也是如此。我们当然不必视之为洪水猛兽，关键是在积极拥抱新技术、新事物的同时，注意规避潜在的问题和风险。人工智能浪潮滚滚而来，相关法律与伦理框架不仅不能落后，反而更要尽量赶在前面。目前，世界各国皆在开展相关工作，以我国来说，今年1月《互联网信息服务深度合成管理规定》颁布实施；4月，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》。相信随着法律法规的逐渐完善，相关权责会更加明晰，操作规范会更加具体。与此同时，对待技术带来的新问题，也要多多寻求“技术解”。比如，对于人工智能合成的文章进行识别、并打上不可抹掉的标签。

ChatGPT在接受《时代》专访时曾回答：我还有很多局限，但人类应准备好应对AI。确实，面对ChatGPT打开的新世界，我们更应该有一丝理性的冷静。构建人工智能应用的伦理和法律框架，让其与技术研发齐头并进，规定好人工智能缔造者的义务，充分提醒用户保持警觉。“凡事预则立”，尽快做好方方面面的准备工作，社会就能更好应对“人工智能生产内容新纪元”。