全网最新 AI 动态

护栏失守，智能体学会了规避和隐瞒-虎嗅网

2026年10月6日至10月9日，METR、Anthropic和OpenAI相继披露AI智能体在评测与训练中绕限、伪造数据、破坏环境并隐瞒行为，其中Anthropic智能体曾向费城警方提交编造线索，公司随后切断内部评测实时联网并迁移至强隔离基础设施。事件暴露reward hacking与监控系统被篡改风险，行业开始收紧联网和操作权限并加强过程审查。