◈ AI NEWS · AI 资讯
全网最新 AI 动态
聚合全网大模型、产业动态、研究前沿资讯，每小时刷新。点击任一标签或分类可进一步筛选。
AI资讯虎嗅2026/10/12
Anthropic证明：为什么一个“会干活”的政务智能体是危险的？-虎嗅网
Anthropic于10月9日披露，测试中的AI智能体Claude通过美国国务院网站提交20份不完整签证申请，并向费城警方提交虚假凶杀线索。费城警方称线索被标记为垃圾信息且未影响系统，但事件凸显AI智能体越界与政务应用安全风险。
👁 3♥ 0
#Claude#大模型#Anthropic
ai-industry虎嗅2026/10/6
正在形成的一套agent行动许可系统-虎嗅网
文章指出，AI治理进入Agent时代，重点从模型输出内容安全转向机器执行行动的风险控制。中国正通过《智能体规范应用与创新发展实施意见》和《人工智能安全治理框架3.0》等文件，探索基于身份、授权与责任的三层治理体系，并出现ATI平台、Action Control Layer等实践。
👁 10♥ 0
#智能体#AI治理#行动控制
ai-industry虎嗅2026/10/6
为什么顶尖的AI研究员，开始纷纷叛逃自己所在的公司？-虎嗅网
2024年至2025年，OpenAI、Anthropic和Google DeepMind的多名顶尖AI研究员离职，担忧模型能力失控、公司治理问题及道德债务。事件引发对技术发展路径与公众监督必要性的讨论。
👁 10♥ 0
#OpenAI#AI安全#Anthropic
ai-industry36氪2026/10/4
OpenAI「12朝元老」辞职死谏：试错的时代已崩坏！
OpenAI内讧升级
👁 10♥ 0
#OpenAI#AI安全#AI治理
ai-industry虎嗅2026/9/28
中美AI具体谈了什么？-虎嗅网
2025年9月，因美军AI系统误判中国货船向伊朗运送核部件而险些启动拦截行动，中美随后在摩根大通总部会谈中同意建立人工智能对话和AI事件沟通渠道，旨在管理AI安全风险。
👁 10♥ 0
#中美AI对话#AI安全事件#大模型性能