跳到正文

#OpenAI

今日 4 条
今天10月2日周五
10月1日周四
  1. One Useful Thing60

    Ethan Mollick 反思智能体管理:从单点到群体自组织

    Ethan Mollick 在 One Useful Thing 撰文承认自己此前对智能体管理的判断有误,认为让智能体协同工作并不需要像管理公司那样精心设计。他提到 OpenAI 用数千个智能体组成的 swarm 在 88 小时内处理 Navier-Stokes 问题,其间传递约 270 万条消息;他本人用 Codex 时,简单描述三个团队角色后模型自行扩展出十三个智能体。

9月29日周二
  1. Simon Willison42

    OpenAI 智能体安全负责人谈 AI 能力突跳带来的安全挑战

    OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,远超团队预期,安全态势建设需要时间,不只是加固系统,还要让公司文化和人员随之改变。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否有正确的事件响应、沟通机制和人员准备。

9月28日周一
9月23日周三
9月22日周二
  1. MIT Technology Review · AI48

    别被这个夏天的 AI 炒作骗了

    针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 宣称 Claude Mythos 找漏洞能力超多数安全专家、OpenAI 与 Hugging Face 遭黑客攻击、以及两家公司相继宣称数学突破,经专家审视后均与宣传不符。她认为"超级智能"叙事源于超人类主义等意识形态,而非扎实的科学工程实践,并呼吁政策制定者咨询独立专家、不要依赖新闻稿。

9月16日周三
9月14日周一
  1. AI Snake Oil50

    用「AI 即普通技术」框架解读失控事件:AI Snake Oil 长文谈 AI 控制与网络安全

    AI Snake Oil 发布逾 13000 字长文,用「AI 即普通技术」框架调和 AI 安全界与网络安全界对 OpenAI、Anthropic 失控事件的分歧。文章认为 OpenAI 未对智能体采取足够防护,但 AI 控制并非已解决问题,主张 AI 公司应对智能体行为担责,并投资控制方法研究、工具化与组织治理。

9月8日周二
8月31日周一
7月1日周三
6月5日周五
5月27日周三
  1. One Useful Thing38

    选择保持人类:AI 写作与学习中的认知投降风险

    沃顿商学院等团队的两项研究显示,土耳其约千名高中生用 ChatGPT 做数学作业成绩更好,但考试时反而不如无 AI 的同学;而台北十所高中近千名学生在五个月 Python 课程中使用 AI 个性化出题,期末无 AI 考试高出 0.15 个标准差,约相当于 6 至 9 个月额外学习。Gemini、ChatGPT、Claude 均已提供引导式学习模式,但入口不直观,且无法阻止想作弊的人。