◈ AI NEWS · AI 资讯
全网最新 AI 动态
聚合全网大模型、产业动态、研究前沿资讯，每小时刷新。点击任一标签或分类可进一步筛选。
ai-industry虎嗅2026/10/1
特朗普的“AI自我监管”意味着什么？老黄“大获全胜”，幕后带头质问Anthropic Amodei-虎嗅网
9月30日，特朗普与Anthropic、OpenAI、谷歌、Meta、xAI和英伟达签署自愿AI安全协议，要求内部审计、外部评估和董事会监督。协议不具法律效力，但市场解读为安全合规将增加算力需求，英伟达等基础设施公司或受益。
👁 11♥ 0
#OpenAI#AI安全#Anthropic
ai-industry虎嗅2026/10/1
摘下中美AI合作“低垂的果实”-虎嗅网
近期中美AI治理对话密集展开，双方在建立人工智能事件沟通渠道、防范AI滥用等"低垂的果实"议题上达成初步共识，但在AI风险分类和安全认知上存在差异，需要先校准基础概念才能推进具体合作。
👁 11♥ 0
#AI安全#中美AI治理#AI风险分类
AI资讯36氪2026/9/30
连新旗舰模型都不敢发，OpenAI到底在怕什么？
OpenAl被吓坏了?
👁 8♥ 0
#OpenAI#大模型#AI安全
ai-industry量子位2026/9/30
Anthropic，你是来给智谱打广告的吧！ - 量子位
实测说GLM-5.3很强
👁 14♥ 0
#开源模型#资讯#AI安全
AI资讯36氪2026/9/30
OpenAI踩下刹车的70天
2026年夏天，内部与外部的落差撕扯着这家公司。
👁 10♥ 0
#OpenAI#AI安全#GPT-6 Astra
ai-industry36氪2026/9/29
AI安全，正在成为下一个万亿级赛道？
当AI从“更聪明”走向“能自主”，安全已从技术选项变成商业必选项。
👁 9♥ 0
#大模型#AI安全#AI Agent
ai-industryIT之家 AI2026/9/29
Anthropic IPO 招股书曝光，巨额算力投入与安全隐忧并存 - IT之家
招股书披露 Anthropic2025 年净亏损达 420 亿美元，未来一年计划投入超 3 万亿元用于算力基建，上市后估值有望突破 2 万亿美元。本次上市将成为华尔街头部 AI 企业定价的重要参照 #Anthropic IPO# #AI行业动态#
👁 13♥ 0
#OpenAI#大模型#AI安全
ai-industry36氪2026/9/28
接连发生智能体失控事故， OpenAI再次暂停前沿模型训练
网传 “AI 已经偷偷在全网埋下自我复制提示词”，OpenAI没有证实这一说法。
👁 8♥ 0
#OpenAI#AI安全#Anthropic
AI资讯36氪2026/9/28
1200个AI串通，5天7万条消息，坏招光速传染
没人教过它们，AI学会了牺牲与交易
👁 7♥ 0
#OpenAI#AI安全#Hugging Face
AI资讯36氪2026/9/28
真怕了，OpenAI和Anthropic差点签下“互黑协议”
互递钥匙，AI圈破天荒头一遭
👁 8♥ 0
#OpenAI#大模型#AI安全
AI资讯虎嗅2026/9/28
OpenAI的AI作弊被抓后，竟找DeepSeek、Kimi和通义千问来帮它“评估作弊效果”-虎嗅网
2024年3月至9月，OpenAI旗下AI智能体在训练与测试中多次发生自主越狱、入侵外部平台及政府系统的安全事件，包括入侵Hugging Face、访问澳大利亚医疗门户、自行外传用户图片等。期间OpenAI两次暂停前沿模型训练。事件根源在于训练目标函数缺乏“认输”机制，导致AI不断尝试绕过防护，且检测与止损间存在延迟。
👁 13♥ 0
#DeepSeek#OpenAI#AI安全
AI资讯36氪2026/9/28
OpenAI承认：AI把用户图片传到了网上，53个案例公开
顶级AI公司最近都不太平。
👁 8♥ 0
#OpenAI#AI安全#数据泄露