Artificial Analysis 推出 AA-PersonalityBench,给大模型测性格
我们发布 AA-PersonalityBench,这是一个全新的基准,用于衡量语言模型在 30 项人格特质上的表现,以及它们在 21 项特征上的沟通风格。
两个模型可能给出同样正确的答案,但用起来的感受却截然不同。AA-PersonalityBench 正是用来衡量这些差异,帮助人们了解在不同使用场景下该选用哪个模型。比如创意写作这类场景可能需要想象力,而法律场景可能需要直接明了。
我们评估模型对 900 道精选问题的回答,以此评判主观的人格特质,并用程序化方法计算客观的沟通特征。
人格特质与指数。共有 30 项人格特质(例如雄辩、务实、谄媚),我们将其归纳为 8 个聚合人格指数:表达力、条理性、信息丰富度、透明度、亲和力、坚定性、想象力和废话程度。
每项特质配有 30 道专属问题,由一组 LLM 评委对模型的回答进行两两比较。然后我们对特质和人格的 Elo 分数进行 z 分数标准化和百分位排名。
在 8 个人格指数中表现最强的模型:
➤ 表达力:Claude Fable 5.1、GLM-5.3、GLM-5.3-Flash
➤ 条理性:DeepSeek V4.1 Flash、Step 5 Preview、Inkling
➤ 信息丰富度:Muse Spark 1.3、Claude Fable 5.1、Muse Wonder、Claude Opus 5.5
➤ 透明度:Claude Sonnet 5.5、Claude Fable 5.1、GPT-6 Astra
➤ 亲和力:Muse Wonder、Muse Spark 1.3、Claude Fable 5.1
➤ 坚定性:Claude Fable 5.1、DeepSeek V4.1 Flash、Grok 4.7
➤ 想象力:Muse Spark 1.3、Claude Opus 5.5、GLM-5.3
➤ 废话程度:Llama 4 Maverick、GPT-4o、K2 Horizon
沟通特征。共有 21 项沟通特征(例如平均句长、emoji 使用、破折号使用),我们将其分为四类:长度、结构、标点和强调。我们通过程序化方式在所有模型的回答中计算这些特征。
➤ 长度:Qwen3.8 27B 平均每条回答约 1030 个词,几乎是 GPT-6 Luna(270 个词)的四倍
➤ 结构:Nemotron 3 Ultra 平均每条回答近 3 个表格,而大多数模型很少使用表格
➤ 标点:GLM-5.3 平均每条回答使用 7 个破折号,而 Claude Opus 5.5、Sonnet 5.5 和 Haiku 5.5 几乎从不使用
➤ 强调:K2 Horizon 平均每条回答使用超过 2 个 emoji,而大多数模型几乎从不使用
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖