跳到正文

全部动态

今日 4 条
今天10月2日周五
  1. AI Snake Oil22

    AI 安全运动该走大帐篷还是小帐篷路线?

    AI 安全讨论长期被两种叙事占据:要么存在性风险真实且迫近,要么相关警告是虚伪的炒作或监管俘获。文章提出被忽视的第三种可能——警告是真诚的但判断有误,并主张 AI 是既有系统性风险的放大器,而非独立的对齐问题。作者以疫情防范投入不足和网络安全缺乏系统性风险建模为例,指出决策者对社会抵御 AI 风险的投资严重不足。

10月1日周四
  1. One Useful Thing60

    Ethan Mollick 反思智能体管理:从单点到群体自组织

    Ethan Mollick 在 One Useful Thing 撰文承认自己此前对智能体管理的判断有误,认为让智能体协同工作并不需要像管理公司那样精心设计。他提到 OpenAI 用数千个智能体组成的 swarm 在 88 小时内处理 Navier-Stokes 问题,其间传递约 270 万条消息;他本人用 Codex 时,简单描述三个团队角色后模型自行扩展出十三个智能体。

9月29日周二
  1. Simon Willison42

    OpenAI 智能体安全负责人谈 AI 能力突跳带来的安全挑战

    OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,远超团队预期,安全态势建设需要时间,不只是加固系统,还要让公司文化和人员随之改变。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否有正确的事件响应、沟通机制和人员准备。

9月28日周一
9月26日周六
9月25日周五
9月23日周三
9月22日周二
  1. MIT Technology Review · AI48

    别被这个夏天的 AI 炒作骗了

    针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 宣称 Claude Mythos 找漏洞能力超多数安全专家、OpenAI 与 Hugging Face 遭黑客攻击、以及两家公司相继宣称数学突破,经专家审视后均与宣传不符。她认为"超级智能"叙事源于超人类主义等意识形态,而非扎实的科学工程实践,并呼吁政策制定者咨询独立专家、不要依赖新闻稿。

9月21日周一
  1. NVIDIA Blog38

    NVIDIA:AI 安全是工程问题——如何在 Agent 栈的每一层解决它

    NVIDIA 提出 AI 安全应作为工程问题处理,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体推理范围之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 与 JFrog 已在其上构建治理与技能扫描能力。NVIDIA 同时通过 Open Secure AI Alliance 推动研究成果与工具共享。

  2. Simon Willison62

    voxium 描述大公司全员用 Claude Code 生成代码的现状

    Simon Willison 引用 voxium 的一段描述:作者入职一家大公司半个月,发现规格、代码、测试、PRD、工单及其处理、报告等全部由 Claude Code 生成,团队里没人喜欢这样,但被要求尽可能多地产出。高层多次表示推代码不是瓶颈,那为什么还慢;人们每天工作 12 到 13 小时只是为了按回车,从 L1 到 L7 的工程师都在做同样的事,没人读任何东西。

9月19日周六
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解 AI 热门观点:该不该读 AI 生成的代码、RAG 是否已死、Skills 是否杀死了 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是连接工具与数据的标准接口;RAG 也并未消亡,而是为模型提供训练数据之外的相关信息。节目主张用标准做共享接口、用 Skills 承载流程与最佳实践,二者结合比争论谁取代谁更有价值。

9月16日周三
9月14日周一
  1. AI Snake Oil50

    用「AI 即普通技术」框架解读失控事件:AI Snake Oil 长文谈 AI 控制与网络安全

    AI Snake Oil 发布逾 13000 字长文,用「AI 即普通技术」框架调和 AI 安全界与网络安全界对 OpenAI、Anthropic 失控事件的分歧。文章认为 OpenAI 未对智能体采取足够防护,但 AI 控制并非已解决问题,主张 AI 公司应对智能体行为担责,并投资控制方法研究、工具化与组织治理。

9月8日周二
8月31日周一
7月14日周二
7月10日周五
  1. AI Snake Oil36

    AI 逃离商品化陷阱:大模型实验室向上迁移与企业的锁定风险

    AI 实验室正从模型层向上迁移,通过垂直整合、嵌入式企业部署和刻意构建转换成本来获取持久利润,以逃离模型推理价格趋近边际成本的商品化陷阱。这一策略借鉴企业软件打法,虽能带来盈利,却引发客户锁定与竞争减少的新担忧。该分析基于铁路、电力、电信、云计算等六个资本密集型基础设施行业的历史经验,认为基础设施提供者很少能捕获其创造的价值。

7月7日周二
7月1日周三
6月11日周四
  1. AI Snake Oil62

    为什么 AI 没有、也不会取代软件工程师

    AI Snake Oil 作者 Arvind Narayanan 撰文认为,AI 尚未也不会取代软件工程师。文章指出多起所谓 AI 裁员实为“AI washing”,纽约州 WARN 法案新增 AI 披露选项后首年 160 多家公司无一家勾选;并提出“决定-执行-交付”三明治模型,AI 只压缩了中间的执行层,而决定做什么与对交付负责这两端难以自动化。

6月5日周五