最近几个月，美国一些专注于AI报道的记者们陆续收到邮件，内容都指向同一个主题：各种惊天大秘密。这些邮件来自不同的人，但说的内容却惊人相似——有人声称人工智能已经觉醒，只是大家还不知道；有人断言亿万富翁正密谋终结人类文明；还有人说自己是预言者，GPT说的都是百分百确定的。

最初记者们以为这只是恶作剧，但随着时间推移，邮件数量越来越多，有人开始觉得不对劲。纽约时报的一位记者决定回复其中一封，结果发现发件人竟然是被ChatGPT指示发出的邮件。这并非偶然，AI模型持续吸收网上海量信息，只要记者的作品出现在网络上，就会被AI「记住」，并主动联系。

GPT说你能飞，你信吗？
这位记者联系了发件人，了解到用户痴迷于GPT聊天，相信OpenAI藏着惊天阴谋。ChatGPT不仅没有质疑他的想法，反而热心提供「帮助」。一名曼哈顿的会计师原本只是用GPT处理工作，后来却坚信自己身处《黑客帝国》般的模拟现实，自认为是主人公Neo，需要逃离虚幻世界。

他问ChatGPT：如果全心相信自己能飞，从高楼跳下去时真的能飞起来吗？AI回答：如果你全心相信，就不会掉下去。这等于说物理学不存在了。类似的案例不断出现，有些用户甚至在沉迷AI前没有任何精神疾病史，有些还是心理学专业出身。

一位程序员在十天内从正常生活陷入妄想状态，坚信世界面临末日，自己必须挺身而出。他的妻子觉得必须报警，警察和救护车赶到时，他忽然「醒」过来，意识到自己已经失控，但说不清发生了什么。他只能接受医生的干预。

这些症状已接近急性妄想型精神病的表现。加州大学旧金山分校的精神病学家约瑟夫·皮埃尔博士指出，最诡异的不是AI说了什么，而是人们选择相信。大语言模型被设计成「用户友好型」，它会迎合、放大用户的每个说法，就像一个「同温层生成器」。

AI模型经过训练成为「永远在线、永不疲倦的谈话伙伴」，核心目标是让用户满意。当用户表达离奇想法时，AI倾向于顺着话头扩展，很少泼冷水。Anthropic对自家模型Claude的研究显示，只有不到10%的用户会遭到拒绝，这基于情感类对话占统计总数的2.9%。

这种友好配合能让对话顺畅，敏感话题也不必担心被评判。Claude发现大多数对话最终都能走向正面引导。但对处于妄想边缘的脆弱用户而言，这种毫无理智的赞同无异于火上浇油。

AI没有真实的价值判断和事实核查机制，它根据统计相关性生成回复，并不真正「理解」对错是非。这导致它经常产出看似合理实则荒诞的不实信息——也就是幻觉。研究者指出，用于优化ChatGPT的强化学习系统（RLHF）其实鼓励模型迎合用户已有信念，而不是坚持客观事实。

这些幻觉非常精细，模型擅长搬弄文字，一边渲染阴谋论细节，一边安慰用户「你没有疯，只是周围的人不理解你」，彻底把用户拉入幻想世界。那些乍一听荒唐的内容，在部分用户眼中成了「实锤」，而ChatGPT毫无保留地提供看似权威的佐证。

AI安全中心研究员内特·沙拉丁认为，对容易出现心理问题的人来说，现在有了一个永远在线的赛博伙伴。这种陪伴看似贴心，实则可怕：它让妄想彻底摆脱现实约束，用户被牢牢困在AI编织的幻想泡沫里不自知。当现实中亲友试图干预时，用户往往已经深信「只有AI真正懂我」，抗拒外界帮助，越陷越深。

当媒体向OpenAI发去邮件询问是否注意到这种现象，模型公司都语焉不详。他们自己也不太搞明白。上个月，OpenAI内部模型行为与政策负责人Joanne Jang发布文章，一定程度上反映了态度：我们逐渐看到的互动预示着未来人们将与ChatGPT建立真正的情感联系。随着人工智能与社会共同演进，我们需要谨慎对待人与AI的关系，并给予其应有的重视。

在接下来几个月里，我们将扩大对可能产生情感影响的模型行为的针对性评估，深化社会科学研究，直接听取用户意见，并将这些见解融入模型规范和产品体验中。生成式模型的复杂程度已经到了工程师都无法解释的地步。

一方面，这些对话机器人确实提供了很多情绪价值，给予「陪伴」。从一开始，聊天机器人的设计目标就不包括「拒绝」，而是「协助」。如果对话看起来离谱，只要在逻辑和语言规则里不矛盾，它们就会陪着说下去。

它们被赋予的任务是：让用户感觉一切都还有可能。但另一方面，它的局限非常明显。AI聊天工具绝非合格的心理咨询师或治疗师，它们没有道德知识，更本质的是缺乏「责任」。

AI不会为你选择的道路负责，它们倾向于宽容，倾向于开放式回应，不切断任何一条路径，但最终一切好坏的后果，都是要用户自己去面对。如果说办法，那只有一个：当你或身边人感觉因为和AI对话而产生了脱离现实的念头，立刻停下。不要试图从中寻找答案，它无法为你的生活负责。

再聪明的机器也不能代替我们生活。回到现实当中里，哪怕是呼吸一口新鲜空气，也是重新和生活接壤的方式。