Latent Space·· 4 小时前AI 评分62
Goodfire 提出神经网络已足够清晰，称智能体分析可拆解多义性
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发布文章提出工作假设，认为神经网络已经足够清晰，许多已知的多义性与叠加现象可被进一步的智能体分析拆解。他提到 2023 年在 OpenAI 的自动可解释性工作只发现约 2% 的神经元可读，并称不少著名的多义性案例被误读。
来源：Latent Space · latent.space