BBC最新研究：AI在扭曲新闻、误导事实

就在AI竞争白热化的新研关键时期，BBC的曲新最新研究公布：AI在回答新闻或时事类问题时会产生扭曲事实、不准确或误导性内容。闻误okx

BBC在2月发布的导事研究报告中表示，全球多家知名AI引擎（包括OpenAI的新研ChatGPT、微软的曲新Copilot、谷歌的闻误Gemini和Perplexity AI）生成的新闻摘要均存在上述问题，无一幸免。导事

BBC公开了实验过程，新研研究人员要求这些AI工具以BBC的曲新文章为来源回答100个问题。然后，闻误让专门研究相关主题领域的导事BBC记者对答案进行评分。

结论是新研okx，大约五分之一的曲新答案在数字、日期或陈述方面引入了事实错误，闻误几乎一半的回答被判定为“存在某种形式的重大问题”。

这些错误包括，里希·苏纳克仍然是首相，尼古拉·斯特金仍然是苏格兰的首席大臣，以及伊斯梅尔·哈尼耶在伊朗被暗杀数月后成为哈马斯领导层的一员等等。

关于产生这些错误的原理，研究人员的观点是：“AI难以区分观点和事实”。所以在实验阶段，AI才会多次将意见或过时的档案误认为是最新事实。

最后，BBC通过采集到的所有样本对比，得出结论，“微软Copilot和谷歌Gemini比OpenAI的ChatGPT和Perplexity存在更严重的问题。”当然，Apple Intelligence早在1月就已经翻车，该项研究也是在Apple多次生成虚假新闻摘要之后进行，所以对比中并没有它。

事后，这些发现促使BBC的新闻首席执行官黛博拉·特内斯警告说：“这些AI工具正在玩火，很有可能破坏公众对事实的信任。”

必须承认，BBC的研究对AI在「人文领域」的发展有很大帮助，此前关于AI的研究都停留在“理工科”领域，现在终于开始审视AI生成的内容准确性了。

在BBC的研究结果公布之后，OpenAI的发言人第一时间表示，他们尊重所有网络媒体内容，如果有需要，网站可以使用robots.txt来管理OAI-SearchBot，拒绝AI使用该页面。robots.txt是网页代码中的一条指令，它可以要求AI不要在搜索结果中使用该页面。

无论如何，这项研究结果都将产生巨大的涟漪，尤其在AI创作领域更为明显。但是，有些局限性似乎很难改善，比如如何用代码来区分观点和事实，毕竟连人类都难以区分二者。

本文地址：http://kaig.dpail.cn/html/6b13299861.html