AI预测得准 不代表它像大脑
预测准确率高的模型,内部处理信息的方式未必和人脑相似。
一项新研究把几种常见模型和人的脑电数据摆在一起比对,结论有点反直觉:预测得准的模型,内部未必按相似的方式处理信息。
过去判断像不像大脑,多半看输出是否吻合。输出一致只能说明结果对得上,说明不了过程。
研究团队用同一批视觉刺激分别给模型和受试者,再比较中间层的表征结构,差异比预想的明显。
有的模型准确率很高,却把大量细节压成少数几个方向;人脑保留了更多分散的特征,冗余度也更高。
这也提醒,把模型当成电子大脑去解释认知,逻辑上站不住,它更接近一种拟合工具。
反过来,偏离的位置有价值。模型在哪一步塌缩、在哪一步放大边缘信息,恰好指向理解上的空白。
局限同样清楚,样本规模有限,任务也单一,换到语言或听觉,相似度可能完全不同。
对做产品的人,实用的一句话是:评估模型时多问一句它内部怎么算,别只盯着准确率。
本文由本站编辑部整理撰写,内容仅作知识分享,不构成医疗、投资、法律建议,转载请注明出处。
读者留言 · 3 条
做
做算法的
用表征结构比相似度这个思路很新,比只看输出靠谱。
心
心理学在读
把模型当电子大脑来解释认知,确实容易说过头。
模
模型评测
评估只看准确率的老习惯该改改了,可解释性同样重要。
留言为读者个人观点,不代表本站立场。