跳到正文

#大佬观点

今日 2 条
今天10月2日周五
  1. AI Snake Oil22

    AI 安全运动该走大帐篷还是小帐篷路线?

    AI 安全讨论长期被两种叙事占据:要么存在性风险真实且迫近,要么相关警告是虚伪的炒作或监管俘获。文章提出被忽视的第三种可能——警告是真诚的但判断有误,并主张 AI 是既有系统性风险的放大器,而非独立的对齐问题。作者以疫情防范投入不足和网络安全缺乏系统性风险建模为例,指出决策者对社会抵御 AI 风险的投资严重不足。

10月1日周四
9月30日周三
9月29日周二
  1. Simon Willison42

    OpenAI 智能体安全负责人谈 AI 能力突跳带来的安全挑战

    OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然,远超团队预期,安全态势建设需要时间,不只是加固系统,还要让公司文化和人员随之改变。他呼吁各组织自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否有正确的事件响应、沟通机制和人员准备。

9月28日周一
9月26日周六
9月25日周五
9月23日周三
9月22日周二
  1. MIT Technology Review · AI48

    别被这个夏天的 AI 炒作骗了

    针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 宣称 Claude Mythos 找漏洞能力超多数安全专家、OpenAI 与 Hugging Face 遭黑客攻击、以及两家公司相继宣称数学突破,经专家审视后均与宣传不符。她认为"超级智能"叙事源于超人类主义等意识形态,而非扎实的科学工程实践,并呼吁政策制定者咨询独立专家、不要依赖新闻稿。

9月19日周六
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解 AI 热门观点:该不该读 AI 生成的代码、RAG 是否已死、Skills 是否杀死了 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是连接工具与数据的标准接口;RAG 也并未消亡,而是为模型提供训练数据之外的相关信息。节目主张用标准做共享接口、用 Skills 承载流程与最佳实践,二者结合比争论谁取代谁更有价值。

9月14日周一
  1. AI Snake Oil50

    用「AI 即普通技术」框架解读失控事件:AI Snake Oil 长文谈 AI 控制与网络安全

    AI Snake Oil 发布逾 13000 字长文,用「AI 即普通技术」框架调和 AI 安全界与网络安全界对 OpenAI、Anthropic 失控事件的分歧。文章认为 OpenAI 未对智能体采取足够防护,但 AI 控制并非已解决问题,主张 AI 公司应对智能体行为担责,并投资控制方法研究、工具化与组织治理。

9月8日周二
7月14日周二
7月10日周五
  1. AI Snake Oil36

    AI 逃离商品化陷阱:大模型实验室向上迁移与企业的锁定风险

    AI 实验室正从模型层向上迁移,通过垂直整合、嵌入式企业部署和刻意构建转换成本来获取持久利润,以逃离模型推理价格趋近边际成本的商品化陷阱。这一策略借鉴企业软件打法,虽能带来盈利,却引发客户锁定与竞争减少的新担忧。该分析基于铁路、电力、电信、云计算等六个资本密集型基础设施行业的历史经验,认为基础设施提供者很少能捕获其创造的价值。

6月5日周五
5月27日周三
  1. One Useful Thing38

    选择保持人类:AI 写作与学习中的认知投降风险

    沃顿商学院等团队的两项研究显示,土耳其约千名高中生用 ChatGPT 做数学作业成绩更好,但考试时反而不如无 AI 的同学;而台北十所高中近千名学生在五个月 Python 课程中使用 AI 个性化出题,期末无 AI 考试高出 0.15 个标准差,约相当于 6 至 9 个月额外学习。Gemini、ChatGPT、Claude 均已提供引导式学习模式,但入口不直观,且无法阻止想作弊的人。

2月19日周四
  1. The Gradient15

    超越正交性:德性伦理能动性与 AI 对齐

    一篇哲学论文主张理性的人不应有目标,理性的 AI 也不应有目标,人类行动的合理性来自将行动对齐到由行动、行动倾向、评价标准与资源构成的"实践"网络。作者提出"eudaimonic rationality"(幸福论理性)框架,认为若要让 AI 真正支持、协作或服从人类能动性,AI 智能体的 deliberation 必须与这种基于实践的逻辑共享同一"类型签名"。