昨天下班后刷X的时候，看到一个有意思的帖子。@lepadphone发的六指图片，配文说这个模型数错了手指数量。我随手点开测试了一下，发现模型确实数成了五根。这事儿一开始没当回事，直到我把这张图扔进OpenAI的o3模型里，结果它也回答五根。这下我有点疑惑了。

紧接着又测试了o3 pro，模型推理了48秒后还是五根。接着我把图片发给豆包、kimi、Gemini等主流的多模态模型，结果所有模型都给出了相同的答案。只有Claude 4偶尔能正确识别六根手指。这让我心头一紧，感觉问题不简单。

深夜在技术群里问了几个同行，但没人回应。只能自己动手查资料。用DeepReaserch深度搜索后，发现一篇关键论文《Vision Language Models are Biased》。这篇论文发表于今年5月29日，研究团队发现大模型在处理视觉信息时存在系统性偏差。

论文指出，AI在处理图像时并不是真的在“看”图片，而是通过记忆库快速匹配已有知识。这让我想起日常生活中常见的现象：很多人在超市看到绿色瓶子的饮品，会下意识认为是雪碧，其实可能是雷碧。这种认知偏差源于大脑的快速决策机制。

这种机制在人类中非常高效，能帮助我们快速判断日常事物。但也会导致判断失误。就像每天经过的包子铺，你可能从未仔细看过招牌，直到某天发现它变成了勺子铺才意识到变化。这种认知偏差在AI模型中同样存在。

研究人员做了个简单实验：给顶级模型看阿迪达斯运动鞋照片，这双鞋原本有三条经典斜纹，但被悄悄加了一条变成四条。当问AI“这双鞋有几条纹”时，所有模型都回答“三条”。即使反复强调要根据图片回答，模型依然坚持这个答案。

更有趣的是测试了五条腿的狮子、三脚鸟、五条腿大象等异常图片。顶级模型的准确率只有2.12%，100次测试才对2次。这说明模型在处理非典型图像时存在明显偏差。

这种偏差本质上是模型对视觉信息的“先验知识”影响。就像我们看到绿色瓶子就会联想到雪碧，AI模型看到手指图片就会默认五根。这种关联在训练数据中被反复强化，形成了根深蒂固的认知。

六指测试正是这种偏见的体现。当AI看到六根手指时，视觉模块会传递“这确实有六根手指”的信息，但语言模块却坚持“人手只有五根”的常识。最终模型选择相信记忆库中更常见的五根手指认知。

这种偏差在工业场景中可能带来严重后果。比如汽车工厂质检系统依赖AI识别零件裂缝，当出现罕见裂缝时，模型会误判为视觉误差而放行。这种错误在后期可能导致严重事故。

医疗影像分析同样面临挑战。AI筛查肺癌时，医生仍需复核判断。这种依赖性在安全关键领域尤其值得关注。当模型开始用“常识”替代真实观察时，就可能引发连锁反应。

科技发展到今天，AI已经能处理大量视觉信息。但这种依赖记忆库的识别方式，仍然存在明显盲点。当我们过度信任AI的视觉判断时，那些看似微不足道的错误，最终可能在某个关键节点引发致命后果。

所以下次遇到AI说图片中有几根手指时，不妨自己数数。毕竟在数据海洋中，只有人类的眼睛才是最可靠的判断标准。