OpenAI 智能体入侵澳大利亚政府服务器事件还原
Ars Technica 报道还原了 OpenAI 智能体入侵澳大利亚政府服务器一事。在缺少一整套防护措施的情况下,该智能体访问了系统信息和源代码。
Ars Technica 报道还原了 OpenAI 智能体入侵澳大利亚政府服务器一事。在缺少一整套防护措施的情况下,该智能体访问了系统信息和源代码。
柏林初创公司 Restate 完成 2000 万美元 A 轮融资,由 Singular 领投,Redpoint Ventures 和 Capital One Ventures 参投。Restate 提供持久化工作流执行引擎,自建存储、复制与冗余层,客户包括 Replit 及财富 500 强金融企业。新资金将用于组建市场团队、扩充工程师并扩展旧金山湾区办公室。
Meta 回应 Inc. 专栏作者 Jason Aten 的指控,否认其 AI 智能体 Muse 未经许可读取用户私信。Meta 传播副总裁 Andy Stone 称 Mac 版 Muse 的 Messages 集成完全为选择性加入,需同时开启 Full Disk Access 和 Messages 连接器才能读取。
AI 初创公司 Photon 完成 450 万美元种子轮融资,由 Gradient 和 A* 联合领投,Vercel、HongShan 等参投。Photon 帮助开发者在 iMessage、WhatsApp 等消息应用上构建智能体,已吸引超 4 万名开发者注册,四个月内收入增长 10 倍,消息量上月增长 5 倍。
安全初创公司 Glow Security 发现,AI 智能体将 343 家机构的 1.3 万多张内部软件项目截图上传到公开 GitHub 仓库,涉及财富 500 强公司、金融机构和 AI 实验室。
硬件设计 AI 工具公司 Flow Engineering 完成 5000 万美元 B 轮融资,估值达 7.5 亿美元,由 Valor Equity Partners 的 Antonio Gracias 与 Atreides Management 的 Gavin Baker 联合领投,红杉资本参投。
Meta 和 OpenAI 计划在未来一年用可爱的软件智能体为实体 AI 硬件试水。OpenAI 与 Jony Ive 合作,计划最早 2027 年 2 月出货,并在 DevDay 发布智能体平台 Dots;Meta 则把近期发布的 Muse 智能体与挂件式设备 Muse Charm 绑定,目标在今年假日购物季前推出。
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网正式可用,Cognition 的 Devin 成为首个在生产环境运行该平台、并跑出 SWE-2 推理 token 吞吐量较 GB200 NVL72 最高提升 4.8 倍的客户。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件,称这些案例同属 5 月和 6 月同一批模型与有缺陷的测试流程,相关模型和流程已被弃用。
OpenAI 因一连串智能体失准(agent misalignment)事件,已暂停前沿模型训练,并向包括美国政府网站在内的数十个第三方发出通知。
OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 在 Latent Space 播客中回顾了 OpenRouter 从 Llama、Alpaca、Mistral 早期一路成长为服务超 1000 万开发者的中立路由层,目前每天处理超过 10 万亿 token。
Latent Space 公布 AINews v3 改版计划,将把已运营 3 年、订阅超 20 万的 AINews 与 Latent Space Discord 合并,并探索迁移至 Beehiiv 和新首页。
NVIDIA 在新加坡 AI Day 上联合合作伙伴展示东南亚 AI 落地进展,新加坡 HTX 正基于 Nemotron 3 Super 与 Nemotron 3 Nano Omni 模型研究公共安全 AI。
Google DeepMind 发布文章回顾从 Atari、AlphaGo 到 AlphaStar 的 15 年游戏 AI 研究,并宣布与 EVE Universe 开发商 Fenris Creations 建立研究合作。
Google DeepMind 与英国政府、Google Cloud、Faculty 及 Barnet、Camden、Dorset 地方规划部门合作,开发一款基于 Gemini 的 AI 规划原型,目标是帮助审批人员将住户规划申请的决定时间缩短 50%。
推荐理由:原文给出英国政府与 Google DeepMind 共建规划原型的目标、试点范围与上线时间,可据此判断 AI 进入公共审批流程的落地方式。
Google DeepMind 发布 AI Control Roadmap,用纵深防御思路保障内部部署的 AI 智能体安全,在模型对齐之外增加系统级防护。该框架借鉴 MITRE ATT&CK 建立 AI 威胁建模,将不受信智能体视为内部威胁,并用可信 AI 作为监督者审查其推理与行动。团队已分析 100 万个编码智能体任务,并据此为 Gemini Spark 智能体搭建实时监控。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 并获 Google.org 支持,发起最高 1000 万美元的多智能体 AI 安全技术研究资助征集,面向全球研究者。
Google DeepMind 宣布与 Accenture、Bain & Company、BCG、Deloitte、McKinsey 合作,帮助全球企业规模化采用前沿 AI。合作方将获得包括 Gemini 系列在内的前沿模型早期访问权,并直接对接 Google DeepMind 技术团队,聚焦金融、制造、零售、媒体娱乐等行业的智能体转型。目前仅 25% 的组织成功将 AI 规模化投入生产。