hiw3c 日报精选
雷峰网·AI 科技评论 中文 网页快照

推翻一切!Nick Cammarata 万字长文宣告,AI 不是黑箱,99% 神经元清晰可见

亲手推翻自己十年前的结论,可解释性大佬 Nick Cammarata 这次读懂 AI 脑回路。 作者丨高允毅 编辑丨岑 峰 “大模型把猫和汽车分为一类,不是弱智。” 在 AI 可解释性领域,有一个十年的经典案例,是 InceptionV1 模型里编号 4e:55 的神经元 。这个神经元在看到“猫脸”和“汽车车头”时,都会被强烈激活。这意味着, 整个神经网络的底层逻辑是不可解释的 。 于是整整十年,

来源:雷峰网·AI 科技评论 · www.leiphone.com

推翻一切!Nick Cammarata 万字长文宣告,AI 不是黑箱,99% 神经元清晰可见

十年共识的诞生与反转

两个经典案例的 “翻案”

神经元的真相是递归泛化?

网友质疑没有新花样

做可解释性的团队 :别再执着于用 SAE 去给网络做解缠手术了。直接抬头看原生神经元和电路,开展快速的常规观测。

做安全对齐的团队 :这绝对是个好消息。如果原生网络天然可读,意味着对齐超级智能的门槛比想象中要低——虽然对齐依然困难,但至少“理解 AI 的门槛”暴跌了。

做架构设计的团队 :残差流和 LayerNorm 这些为了让模型“学得更好”的改进,竟然意外地让网络变得更易读。未来的架构搜索完全可以把“可解释性”光明正大地加进指标里,因为它和性能完全兼容!

做应用层的工程团队 :未来调控 AI 行为不需要再重新微调了。通过行为干预工程,“调节一个神经元,就直接改变模型在特定法律/医疗场景下的行为”,将从论文概念直接变成生产线上的产品功能!

TUM 黎子玥:模型这么大这么强,为什么还是「上不了 ...

太魔幻了!DALL·E 2 居然能用自创的语言来生成图像 ...

DeepSeek 开源算子工具大礼包,联手华为昇腾,手撕 CUDA 绑定!

GPT-6 Sol 降价 50% 的秘密:消失的 Terra,一场模型梯队平移

字节发现 DeepSeek 隐藏 Bug,加点空格,模型翻车

5 年前的机密文档被泄露:Anthropic 的所有胜利,早在 2021 年就写好了

字节发现 DeepSeek 隐藏 Bug,加点空格,模型翻车

当年「字节投毒实习生」田柯宇,估值 2 亿美元,要挑战李飞飞做世界模型

DeepSeek 开源算子工具大礼包,联手华为昇腾,手撕 CUDA 绑定!

Muse爆火,dots入场:Personal Agent开始和互联网平台抢入口

实测 Qwen-3.8 与 GLM-5.3 的 Flash 版:谁能让我提前下班半小时?