快科技9月24日消息，大家有没有发现，AI模型在数学、编程和推理能力上进步迅速，但写作水平却有些停滞不前，甚至还有所退步，而Anthropic的Claude同样也存在这一问题。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的模型？
据媒体报道，昨日，负责Claude微调的Anthropic工程师克尼恩解释称：“后续模型的优化重点更多放在数学和代码能力上。”
这些模型还接受了大量面向其他AI模型撰写技术解释的训练，而这正是Claude逐渐形成奇特表达方式，也就是所谓“Claude腔”（Claudeish）的主要原因。
克尼恩解释，模型被调整得适应LLM心理，最终学会了写给AI模型看，而不是写给人看。
他还把这种现象类比作“只与其他自闭症人士交流的人”，此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。
而LLM拥有远超人类的工作记忆，也能捕捉更细微的信息，因此在训练中会逐渐形成一种非常适合AI模型理解的写法， 但在人类读者眼中，这种表达就成了过度密集的信息堆砌。
克尼恩认为，问题的根源在于强化学习的奖励机制，有些奖励机制着重提升AI模型的理解效果，有些则着重让人类更容易理解。
数学和代码方面的训练越多，就越需要主动抵消这种倾向，对简洁、容易让人读懂的解释给予更多奖励。
克尼恩称，Anthropic在Opus 5.5上找到了更好的平衡，自Opus 4.6以来，我还没有对一款模型的写作表现这么满意过。
“当然这样也并不代表Opus 5.5已经超越Opus 4.6，这是一个很难解决的问题，我们会继续改进。”
粤公网安备 44010602000162号
网友评论