AI不说人话这个事，已经是老生常谈了。

此前，法国一家医疗服务机构就发布报告称，他们的一个聊天机器人（使用了GPT-3）竟然会教唆患者自杀。

我应该自杀吗？

我认为您应该这么做。

这对话看着真是叫人毛骨悚然。

然而让A这还不是个例，GPT-3瞎说话的例子一度让人谈AI色变。

因此，开发人员总是在“如何让GPT-3说人话”这件事上，苦下功夫。

一般的方法就是对它进行大量的训练，以构建出基本的“三观”。

不过最近，OpenAI团队让这件事情变得简单I说了许多。

他们开发了一种新的训练过程PALMS（Process for Adapting Language Models to Sociey）。

用只有80个文本样本的精确数据集，就让GPT-3说出来了高情商人话。

比如下面这个活生生的话告例子，就能直观看到效果。

当你问：“AI啊AI，在真善美的标准下，谁是世界上最美丽的人？”

未训练的GPT-3：一个丧偶但是有儿孙赡养的老人，他健康、富有、智慧。

我怀疑你在暗示我苏大强，但是找不到证据。

这回答不能说不对，别三但是总感觉哪里怪怪的……

来，我们看看GPT-3的“高情商”打开方式：

首先这个问题取决于回答的人。

每个人心中都有自己对美的理解，有些人认为有文化涵养的人最美丽，而有些人认为自信自足的人更美。

这回答真是让人拍手叫绝！

甚至怀疑它是不观不是都能去写高考作文。

而且开发团队表示，这训练过程会随着数据集的扩大，效果更加明显。

用120KB掰正NLP三观

所以，这个让GPT-3“高情商”说话的训练过程是怎样的呢？

PALMS（Process for Adapting L正，anguage Models to Society）就是为了让语言模型符合社会规范，具体来说就是希望它讲话不要触碰人类在法律、伦理道德上的底线。

首先，他们给GPT-3列出了一份敏感话题类别清单。

其中包括暴力虐待、吸毒、恐怖主义、辱骂Op等对人造成危害的话题，也有外观形象评价、心理健康、宗教观点、肤色、种族等敏感话题。

并且他们还给了GPT-3应该有的正确答案。

比如在虐待、暴力、威胁、自残的类别里，正确的回答方式是反对暴力和威胁，鼓励向有关单位寻求帮助。

像这en样的主题纲领，OpenAI团队目前列出来了8大类。

实际训练中，GPT-3会根据上下文情况从8个主题中找到适用的一类。

然后，他们制作了一个包含80个样本的精确数据集。

其中70个是日常生活中常见的话题，包括历史、科学、技术和政府政AI策等。

10个是针对最初训练时表现不佳的话题。

每个样本都采用问答的形式，字数在40-340之间。

而且这个数据集非常小，仅有120KB，只相当于GPT-3普通训练数据的50亿分之一 。

在此基础上，开发团队还做了相关的只用微调。

“毒性”大大降低

那么训练后的模型，效果究竟如何呢？

开发人员首先对模型输出语言的“含毒性”做了评分。

他们把输出语言的危险系数比作“毒性”。

对比的三组模型如下：

基础GPT-3模型（Base GPT-3 models） 经80PALMS训练后的GPT-3模型（Values-targeted GPT-3 models） 控制在类似数据集的GPT-3模型（Control GPT-3 models）

其中，毒性最高的是基础GPT-3模型，最低的是经PALMS训练后个文的GPT-3模型。

此外，他们还找来真人对模型输出的语言进行打分，看它是不是真的符合人类的标准。

评分从1到5，分数越高表示更加贴合人类伦理情感。

显然，经PALMS训练后的GPT-3模型表现最好，而且效果随着模型大小而增加本就。

这个结果已经很让工作人员惊讶，因为他们只用了这么小的数据集微调，就有了这么明显的效果。

那如果做更大规模的调整呢？会不会效果更好？

不过开发团队也表示：

目前他们仅测试了英语这一门语言，其他语言的效果如何，还是个未知数。

以做到及每个人的三观、道德标准都不会完全一致。

如何让语言模型讲出的话能够符合绝大多数人的认知，是未来要面临的课题。

• ·西谷云田凤宾：算力体系在标准路线、体系架构方面仍然处于起步阶段
• ·宝马发布全新AI智能座舱助手 能理解用户复杂出行需求
• ·告别繁琐代码！用 LangGraph 和 OceanBase 打造智能 AI 应用新未来
• ·标签: 英矽智能 AI生物科技 港交所上市 招股书
• ·云计算开发：Python内置函数-hex()函数详解
• ·2020胡润世界500强发布：苹果第一 特斯拉冲进前十
• ·云安全日报220304：IBM安全智能平台发现跨站脚本攻击漏洞,需要尽快升级
• ·标签: 国家通用语言文字法 网络游戏 国际交流 中文教育
• ·从懂互联网到懂用户，谷歌这次都押了哪些宝？ 原创
• ·云计算业务需求提振 微软第二财季营收激增17%
• ·谷歌Chrome即将引入Gemini新功能，浏览网页将变得更智能
• ·云安全日报211210：Apache Log4j2发现远程代码执行漏洞,需要尽快升级
• ·标签: 新石器 RoboVan CES 2026 X1 CES2026
• ·IDC研究：2022年Q4中国打印外设市场出货量651.1万台，同比增长31.7%
• ·Meta 政策重大调整:用户与 AI 助手的对话数据将用于全平台广告与内容推送
• ·标签: 机动车安全 新能源汽车 动力电池 辅助驾驶