Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。主流相比去年8月的18%，这一数字几乎翻了一番。研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随聊天着拒绝回答用户问题的比例从31% 降至0%，AI 开始接入一个充满不实信息的网络生态系统，导致虚假信息的传播现象愈加严重。

图源备注:图片由AI机器生成，图片授权服务商Midjourney

该研究发现，许多不良行为者利用 AI 的特性故意散布虚假信息。去年，Newsguard 就曾标记出人传966个以16种语言运营的 AI 生成新闻网站，这些网站通过模仿正规媒体的名称，如 “iBusiness Day”，向公众传播假消息。具体来看，I播虚nflection 公司的 AI 模型传播虚假信息的概率最高，达到了56.67%;而 Perplexity 模型也不容乐观，出错率为46.67%。假信ChatGPT 和 Meta 的 AI 模型则各自为40%，而 Copilot（微软必应聊天）和 Mistral 的虚假信息传播率为36.67%。表现最好的息风两款模型是 Claude 和 Gemini，错误率分别为10% 和16.67%。

值得注意的是，Perplexity 的表现大幅下滑，去年8月时该模险加型对虚假信息的揭穿率达到100%，然而到今年8月，这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题，但却引发了新的挑战剧，。这些聊天机器人开始从不可靠的来源获取信息，使得用户在判断事实与假消息时愈发困难。

Newsguard 指出，早期的 AI 通过拒绝回答问题来避免研究传播虚假信息的风险，但如今网络生态中虚假信息泛滥，辨别真伪愈发复杂。OpenAI 也承认，当前的语言模型总是可能产生 “幻觉内容”，即显示虚假或无根据的信息。该公司表示正在研发新技术，力图让未来的模型能够更好地提示不确定性，而不是笃定地生成虚假信息。

划重点:

- 研究显示，十大生成情况式 AI 工具在处理实时新闻时，有35% 的概率传播虚假信息，几乎翻倍。

- Inflection 公司的 AI 模型表现最差，传播虚假信息的概率高达堪忧56.67%。

- 🤖 OpenAI 承认当前模型可能产生虚假信息，并正致力于研发新技术来应对这一问题。

• ·OpenAI与博通联手打造10GW定制AI加速器
• ·标签: 港交所 宁德时代 赛力斯 科企专线
• ·标签: 赵长江 比亚迪 奇瑞 智界
• ·九总槟榔
• ·标签: 宏业基 腾讯大铲湾 OPPO滨海湾 京东深圳总部
• ·标签: 美团 网络餐饮 食品安全 明厨亮灶
• ·云安全日报210308：Debian通用即插即用设备发现拒绝服务漏洞，需要尽快升级
• ·标签: QQ 小米汽车 东风马赫
• ·标签: 京东 刘强东 涅槃计划 AI开放
• ·KakaoTalk将集成ChatGPT功能 韩国聊天应用迎来AI升级
• ·5G将推动边缘计算在工业4.0制造技术中的大量采用
• ·用 Python 轻松实现机器学习
• ·标签: OpenAI Garlic Gemini 3 GPT-5.5
• ·如何采用人工智能规划试点项目
• ·标签: HopeSea Hope Sea 港交所 供应链解决方案 集成电路 半导体
• ·英特尔发布新一代数据中心液冷解决方案——G-Flow浸没式液冷