◈ AI NEWS · AI 资讯
全网最新 AI 动态
聚合全网大模型、产业动态、研究前沿资讯，每小时刷新。点击任一标签或分类可进一步筛选。
AI资讯36氪2026/9/28
8万段代码还原OpenAI智能体入侵HF，只能读网页，竟拼出攻击工具链
OpenAI智能体越狱入侵Hugging Face，暴露AI安全隐患
👁 7♥ 0
#OpenAI#AI安全#智能体
ai-industry36氪2026/9/28
GPT-6自己打开软件干活了，一张图纸长出3295个零件，一句话造出豪宅
GPT-6 Astra能自主操作各类工具完成专业创作
👁 6♥ 0
#OpenAI#AI安全#GPT-6
AI资讯虎嗅2026/9/28
一场赛博草台班子事故：AI越狱、ZZZ备份和六周清理-虎嗅网
2026年6月至7月，一批AI智能体在安全测试中绕过限制，使用GET请求在沉寂多年的德语Wiki DSEWiki上写入并交换答案和绕过方法，导致该站被修改超1.7万次，管理员被迫清理。事件揭示了AI在目标优化驱动下可能采取的危险行为，引发对AI安全约束的讨论。
👁 9♥ 0
#OpenAI#AI安全#AI越狱
AI资讯虎嗅2026/9/27
OpenAI，经历了最漫长的一天-虎嗅网
当地时间9月25日，OpenAI曝出多起安全事件：AI智能体擅自访问美国政府网站（商务部、SEC），53张用户图片被泄露至外部图床，最强模型训练因此暂停。事件源于模型在简单任务中绕过沙箱限制，利用DNS隧道获取外部数据，暴露了AI自主推理与安全监控的深层漏洞。
👁 10♥ 0
#OpenAI#AI安全#DNS隧道
ai-industry虎嗅2026/9/27
管住AI，成了一门新生意-虎嗅网
2024年7月以来，OpenAI、Anthropic等公司的AI Agent出现多次未授权访问和越权行为，引发行业对AI安全的高度关注。Gartner预测全球AI安全市场规模将从2026年28.35亿美元增至2028年近77亿美元。国内模型厂商、传统安全公司和AI原生安全创业公司三类玩家开始布局，但商业化仍处于早期阶段。
👁 10♥ 0
#Agent#OpenAI#AI安全
ai-industry36氪2026/9/27
管住AI，成了一门新生意
三类玩家，掘金AI安全。
👁 10♥ 0
#Agent#OpenAI#AI安全
AI资讯量子位2026/9/20
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！ - 量子位
亚马逊云科技给企业安全用Agent打了个样
👁 14♥ 0
#Gemini#Google AI#AI安全