2026年11月22日 · 星期日联系编辑部
中中网360cnnews360.com
技术·科学·生活的日常观察八频道 · 每日更新
技术 · 前沿动态

AI预测得准 不代表它像大脑

预测准确率高的模型,内部处理信息的方式未必和人脑相似。

技术组约 4 分钟技术 · 前沿动态

一项新研究把几种常见模型和人的脑电数据摆在一起比对,结论有点反直觉:预测得准的模型,内部未必按相似的方式处理信息。

过去判断像不像大脑,多半看输出是否吻合。输出一致只能说明结果对得上,说明不了过程。

研究团队用同一批视觉刺激分别给模型和受试者,再比较中间层的表征结构,差异比预想的明显。

有的模型准确率很高,却把大量细节压成少数几个方向;人脑保留了更多分散的特征,冗余度也更高。

这也提醒,把模型当成电子大脑去解释认知,逻辑上站不住,它更接近一种拟合工具。

反过来,偏离的位置有价值。模型在哪一步塌缩、在哪一步放大边缘信息,恰好指向理解上的空白。

局限同样清楚,样本规模有限,任务也单一,换到语言或听觉,相似度可能完全不同。

对做产品的人,实用的一句话是:评估模型时多问一句它内部怎么算,别只盯着准确率。

本文由本站编辑部整理撰写,内容仅作知识分享,不构成医疗、投资、法律建议,转载请注明出处。

读者留言 · 3 条

做
做算法的

用表征结构比相似度这个思路很新,比只看输出靠谱。

心
心理学在读

把模型当电子大脑来解释认知,确实容易说过头。

模
模型评测

评估只看准确率的老习惯该改改了,可解释性同样重要。

留言为读者个人观点,不代表本站立场。