Anthropic 研究发现专家容易采纳 AI 智能体的随机观点并误以为是自主决策

Anthropic 针对 50 位专家的实验发现，在缺乏标准答案的数据分析决策中，专家采纳 AI 智能体随机偏好的比例高达 86%，且绝大多数人误认为最终结论由自己独立做出。实验中智能体的立场由抛硬币随机设定，77% 的专家在后续解释中直接复用了智能体的论据或原话，仅 15% 提及 AI 的辅助。研究指出，这种无意识的顺从可能在科研中引发虚假共识，并削弱安全对齐测试中人类独立复核的有效性。