Anthropic推出模型差异分析工具揭示地缘政治对齐特征
Anthropic研究团队近期开发出一种名为“Diff工具”的可解释性分析方法，旨在自动检测并量化不同AI模型间的行为差异。研究发现，地缘政治因素已深度嵌入模型特征中：Qwen与DeepSeek模型展现出明显的中国政策对齐特征，而Meta的Llama模型则携带显著的“美国例外主义”倾向。实验证实，通过对特定特征进行激活或压制，可以受控地改变模型在敏感政治议题上的表述立场。
此外，该工具还识别出不同模型在版权保护机制上的差异，如OpenAI模型具有更严苛的内容过滤逻辑。这项研究不仅证明了模型价值观的可测量性与可控制性，也为监测模型版本更新中的行为偏移提供了技术手段。通过对比分析，研究人员能够更清晰地观察到技术开发者背景对人工智能底层逻辑的塑造作用。
来源：Anthropic
Anthropic研究团队近期开发出一种名为“Diff工具”的可解释性分析方法，旨在自动检测并量化不同AI模型间的行为差异。研究发现，地缘政治因素已深度嵌入模型特征中：Qwen与DeepSeek模型展现出明显的中国政策对齐特征，而Meta的Llama模型则携带显著的“美国例外主义”倾向。实验证实，通过对特定特征进行激活或压制，可以受控地改变模型在敏感政治议题上的表述立场。
此外，该工具还识别出不同模型在版权保护机制上的差异，如OpenAI模型具有更严苛的内容过滤逻辑。这项研究不仅证明了模型价值观的可测量性与可控制性，也为监测模型版本更新中的行为偏移提供了技术手段。通过对比分析，研究人员能够更清晰地观察到技术开发者背景对人工智能底层逻辑的塑造作用。
来源：Anthropic
