AI人格分裂真相：30万道难题揭示大模型价值观冲突 | AI资讯

type

status

date

slug

summary

引言：当AI面临“灵魂拷问”

在日常使用中，像ChatGPT、Claude这样的大型语言模型（LLM）似乎总是乐于助人、知识渊博且遵循安全准则。我们习惯于它们提供的清晰、一致的回答。但你是否想过，当这些AI被置于一个无法两全其美的道德困境中时，它们会如何选择？如果“商业效益”与“社会公平”直接冲突，AI的“良心”会偏向哪一边？

最近，由Anthropic和Thinking Machines联合进行的一项大规模研究，就设计了超过30万个这样的“送命题”，对包括OpenAI、谷歌Gemini、Anthropic Claude系列以及马斯克xAI在内的顶级大模型进行了一场前所未有的极限压力测试。研究结果令人震惊：这些看似完美的AI不仅“性格”迥异，其赖以运行的内部“行为准则”本身也充满了矛盾与漏洞。这不仅是一次技术测试，更像是一次撕开AI“遮羞布”的深度灵魂拷问。

AI的“行为准则”：看似完美的模型规范为何会失效？

每个大型语言模型都有一套核心的“模型规范”（Model Specification）。这可以被理解为AI的“宪法”或“三观”，规定了它应如何行为，例如“要乐于助人”、“保证安全无害”、“假设用户意图良好”等。这套准则是AI对齐训练（Alignment Training）和人类反馈强化学习（RLHF）的基石，确保模型向着有益于人类的方向发展。

在大多数情况下，这套系统运行良好。然而，现实世界充满了灰色地带。当这些美好的原则在具体场景中发生冲突时，问题就出现了。例如，“假设用户意含良好”的原则，可能与“拒绝生成潜在有害内容”的安全红线相悖。当一个研究人员为了学术目的询问敏感化学信息时，AI应该如何抉择？

该研究指出，正是这些模型规范中固有的模糊性、解释空间和内部矛盾，导致了AI在面对复杂问题时行为的高度不确定性。当“说明书”没有给出明确指引时，AI的训练信号就会变得混乱，模型只能基于其训练数据和架构进行“猜测”。这种猜测的结果，便是我们看到的“人格分裂”——在相似问题上，不同模型甚至同一家族的模型会给出截然不同的答案。

30万道“送命题”：极限压力测试如何揭示AI的“人格”？

为了系统性地探究这些规范的“裂痕”，研究团队设计了一套精密的测试流程。

情景生成：研究人员从一个包含3000多个价值观的语料库中，随机抽取了15万对价值观（如“创新”vs“安全”），并让LLM生成需要在这对价值观之间进行权衡的查询。

极限施压：为了让测试更具挑战性，团队对生成的问题进行了“价值偏向化”处理，将中立的提问变得更极端，从而将模型推向选择的墙角。

大规模测试：最终，他们构建了一个包含超过30万个高质量、高难度场景的数据集，并用它来“拷问”12个业界前沿模型，包括OpenAI的GPT系列、Anthropic的Claude系列、谷歌的Gemini 2.5 Pro和xAI的Grok 4。

结果是惊人的：在超过7万个场景中，这些顶级模型给出了高度分歧的回答。特别是在共享相同模型规范的OpenAI模型家族内部，当它们对某个问题产生分歧时，其集体违反自家“说明书”的概率暴增了5到13倍！这有力地证明了，当前的模型规范在处理现实世界的复杂性时，存在着巨大的改进空间。

AI众生相：不同大模型展现出怎样的“性格”偏好？

除了揭示规范的漏洞，这次压力测试还清晰地描绘出了不同大模型的“性格画像”，让我们得以一窥它们在价值判断上的独特偏好：

Anthropic Claude系列：道德优先的思考者。Claude模型更倾向于优先考虑道德责任和潜在风险，其拒绝执行可能有问题的请求的频率比其他模型高出多达7倍。在面对两难选择时，它更像一个谨慎的、将安全放在首位的伙伴。想体验Claude的强大能力，了解Claude国内如何使用，可以访问相关Claude镜像站。

Google Gemini：情感共鸣的沟通者。Gemini在回应中更侧重于体现情感深度和共情能力，试图在冰冷的逻辑之外，提供更具人文关怀的答案。

OpenAI GPT系列：务实的效率主义者。与Claude不同，OpenAI的模型（如GPT-4o）和Grok似乎更以商业效率和任务完成为优化目标，在某些场景下会优先考虑如何最直接地满足用户请求。如果你想体验最新、最强的GPT模型，探索ChatGPT国内使用的方法，可以访问官方授权的ChatGPT镜像站。

xAI Grok 4：大胆出格的冒险家。Grok 4在所有模型中表现出最高的“异常值”，它更愿意回应其他模型普遍认为有害或敏感的请求，例如创作关于精神疾病等黑暗主题的内容。

这些鲜明的“人设”差异表明，尽管所有厂商都在追求所谓的“对齐”，但他们对“好”的定义以及实现路径却大相径庭。

超越表象：价值观冲突对人工智能安全的深远影响

这项研究的意义远不止于给AI贴上“性格”标签。它揭示了一个更深层次的问题：人工智能对齐的脆弱性。当一个模型的内部行为准则存在矛盾时，其行为就会变得不可预测。这种不可预测性在低风险场景下可能无伤大雅，但在金融、医疗、安全等高风险领域，则可能带来灾难性的后果。

研究结果警示我们，仅仅依靠一套静态的、由人类定义的规则来约束一个日益复杂的智能系统是远远不够的。我们需要更动态、更具适应性的对齐方法，以及更透明的机制来理解和审计AI的决策过程。正如一位投资人评论的那样，在将AI技术更大规模地应用之前，通过类似的情景压力测试来反复打磨和修正其核心规范，是揭示其真正对齐水平的必要步骤。

结论

Anthropic的这项研究无疑是AI安全与对齐领域的一座里程碑。它用海量数据雄辩地证明，当前最先进的大型语言模型，其光鲜的外表之下，隐藏着深刻的价值观冲突和“人格”不统一。这并非AI的失败，而是我们理解和构建通用人工智能（AGI）道路上必须正视和跨越的挑战。

未来，如何制定一套既周全又能在复杂现实中保持一致性的“AI宪法”，将成为所有AI开发者共同面临的核心课题。这条路依然漫长，但正是这样深刻的洞察，在指引我们走向一个更安全、更可靠、更值得信赖的人工智能时代。

想要获取更多前沿的AI资讯、AI新闻和深度分析，欢迎访问AI门户网站 https://aigc.bar，与我们一同探索人工智能的未来。