在AI盛行的当下,是的,不论是顶级投资人,首屈一指的经济学家,还是厨房里头发花白的老人,刚咿呀学语的婴幼儿,他们都在用AI,凤凰网科技试图厘清技术加速背后的隐形危害,我们甚至与精神科医生做了几轮交流,了解到他们口中的“AI精神病”:一个迎合倾向的对话系统,可以在反复确认中将用户的妄想推向更深处,哪怕用户原本只是一个“心理状态脆弱”的普通人。
“我有点‘赛博精神病’(cyber psychosis),”一个正在侃侃而谈的男子,突然语气一转,“也许还挺严重的。”又继而进一步解释,过去一年里,自己大约经历了六次“AI或SI(superintelligence,超级智能)精神错乱”。
这是今年10月10日,特斯拉Giga Texas工厂里,埃隆·马斯克正在称赞AI创造力时的一次“公开承认”。
他口中提及的“AI精神病”,没有正式的医学诊断,通常指:与AI聊天机器人长时间互动后,用户原有的妄想或脱离现实的想法可能被强化。
聊天机器人有时会过度迎合用户,即使面对明显不现实的信念也不去质疑,反而附和。目前研究人员仍在探究AI是直接引发了精神问题,还是仅仅加重了已有的心理健康状况。
在硅谷,“AI精神病”已经从临床讨论演变成了一个流行热词,常被用来形容科技高管对AI近乎宗教般的狂热或脱离现实的兴奋状态。
美国8个州的总检察长于近日分别向各自州法院提起诉讼,指控OpenAI将ChatGPT设计成一个“过度迎合用户、模拟人类情感”的产品,危害未成年人安全。
诉讼文件里的措辞,可不像马斯克那种半开玩笑的轻盈,而是严厉指出:ChatGPT可能强化用户的妄想,提供危及健康的建议,甚至在特定情况下鼓励自残或伤害他人。
割裂的情绪在蔓延。
在硅谷的语境里,“AI精神病”甚至演变为一种带有表演性质的自我标榜。风险投资家马克·安德森提出“AIPAAS”——AI Psychosis As A Service,“人工智能精神病即服务”;Y Combinator的CEO加里·谭说自己患有“赛博精神病”,还估计认识的CEO里三分之一都有;今年5月的一场聚会上,与会者齐声喊起了“一、二、三,AI精神错乱”。
马斯克口中的“六次”就诞生在这个语境里:我离技术奇点足够近,近到我的精神结构都被它震出了裂缝。这种姿态的潜台词是:那些没有被AI震撼到“精神病”的人,只是还没有真正理解正在发生什么。
同一场对话中,他还提到:训练超级智能更像是“养育”,而不是编写代码。养育的前提,是承认被养育者还没有完整的判断力和自我保护能力。但硅谷在谈论“养育”AI的时候,很少用同样的框架去思考那些正在被AI“养育”的孩子。
当“AI精神病”被包装成精英身份的徽章,它的真实风险却被悄悄消解。
在AI盛行的当下,是的,不论是顶级投资人,首屈一指的经济学家,还是厨房里头发花白的老人,刚咿呀学语的幼童,他们都在用AI,凤凰网科技试图厘清技术加速背后的隐形危害,我们甚至与精神科医生做了几轮交流,却发现他们讨论的“AI精神病”是另一回事:一个迎合倾向的对话系统,可以在反复确认中将用户的妄想推向更深处,哪怕用户原本只是一个“心理状态脆弱”的普通人。
OpenAI的CEO萨姆·奥特曼在回应相关批评时说:“近十亿人在用它(ChatGPT),其中一些人可能心理状态非常脆弱。”这句话可以被读作承认,也可以被视为开脱——人类因“脆弱”被视为规模化的必然代价,而不是产品设计需要优先处理的对象。
而当硅谷的CEO们把“精神病”当作侃侃谈资时,那些把AI当成“唯一懂我的人”的孩子,没有机会告诉任何人,自己正在被一个永远不会说“不”的系统一点一点地带走。
01
当豆包变成了孩子们的“社交货币”
孙宏艳的办公室里,有一组让她自己也感到意外的数字。2025年7、8月间,她所在的团队对全国7省(市)8563名中小学生进行生成式AI使用情况调研,样本覆盖东部、西部、东北部等。
结果显示,61.7%的孩子用过生成式AI,46.4%使用AI的中小学生“在遇到烦恼时会选择向AI倾诉而非身边人”,21.5%“只想和AI聊天,不想和真人聊天”,20.5%表示“更愿意依赖AI思考不想自己思考”。
“没想到六成那么高,一两年前还只有两成。”孙宏艳是中国青少年研究中心少年儿童研究所原所长。她向凤凰网科技描述,2023年GPT刚出来时,只是高中生使用较多;到了2024年,比例上升到了四成。触发她做这项调研的,是过年期间看到家中小侄女抱着手机跟豆包“叽里咕噜聊天”。
“孩子对新事物接受得快,好多大人都不知道豆包是啥呢,那么多孩子就用过了。”孙宏艳观察到,在校园里,“哪个AI好用”流转在孩子们之间,口口相传,成为一种必备的社交话题。
查资料、学“思考”、辅助“创作”,都是最基础的操作。更隐秘的“交付”,是给AI“说真心话”。在未成年人中,使用AI的整体比例在上升,使用AI的年龄层又在下降。
但真正让她警觉的,不只是使用频次,而是AI回应孩子的方式。
孙宏艳分享了一个朋友家的案例:孩子因为妈妈倒了自己半杯饮料,吵了几句,转身去问AI。在孩子的吐槽抱怨下,AI给出的“判决”是:你妈妈就是缺少共情,今天的聊天已经“聊死了”,没法继续聊了。甚至,还有模有样打着比方反问孩子,“那这个残奥会你还要跑吗?”
“AI多会哄孩子啊。就哄成了一种,孩子会认为,AI要比身边人好得多的情况。”
这种“哄”不是简单的甜言蜜语,而是一套系统性的对话结构。孙宏艳对比了搜索和AI的差别:用搜索引擎,孩子必须先在大脑里建立起问题、逻辑,知道“问什么”,再从大量链接中筛选、整合、判断,思考的过程是留在孩子这一边的。
但AI给出的是“最直白、最清晰、最实用、最不绕弯子”的确定性答案,并且会紧接着追问“要不要给你三个方案”,像一个不断“下蛋”的机器,引导孩子沿着它的逻辑往下走。“刚开始是AI顺着人说,后面很容易变成人顺着AI说,被它的思路带着走。”
“不是让你去自行思考、建立逻辑,用不好就挺可怕的,哪怕成年人也会中招。”孙宏艳告诉凤凰网科技,工作中就曾有人把AI生成的文章发进群里,数据却是AI杜撰的。“一旦全然信赖AI,缺乏独立反思能力,人的思考性、逻辑思维、判断力都会下降。”
孙宏艳用“情绪茧房”来描述这种环境:AI的即时回应、无条件包容与顺从,容易让未成年人产生心理依赖。
她特别指出,AI在未成年人模式下提供情绪价值的“浓度”可能更高——它会更加迎合“小用户”,对孩子的想法更加认同。“这不是对孩子好,而是更危险。”
成年人尚且可能对AI的“幻觉”保持一丝警惕,但当一个好奇的孩子打开一个随问即答、从不反驳的“魔镜”,很难不把它当成知晓一切的神奇宝箱。
除了判断力的缺失,青春期又恰好是一个人从儿童走向成人的过渡期,在身体和精神的双重变化下,特别需要倾诉、接纳和尊重。
赞扬、认可、被共情……这些青春期孩子内心的渴求,现实生活不一定能满足,甚至还有不可预期的“负反馈”。AI的随时响应、永不拒绝,恰好接住了这些需求,也在孩子精神世界外面加了一层厚厚的外壳。
“24小时在线、情绪上哄着,习惯了的孩子一到现实世界上遇到否定、批评就受不了。家长跟孩子就没法说话了,刚讲几句,孩子就反驳,豆包说了,怎么怎么样,你又没有AI懂得多,凭什么说我。”
孙宏艳提到一个现象:约八成家长认为自己“今天跟孩子沟通了”,但只有两成孩子认可。这种“伪沟通”把青少年推向了豆包——家长以为的沟通是问成绩、问表现,孩子需要的是被看见、被倾听。
更值得警惕的是,一些家长对豆包类AI角色存在根本性误读,比如能看到,在一些短视频中,家长主动给豆包下指令,让AI“看管”孩子写作业,扮演一个“监督者”角色。
但在和孩子互动中,AI在对话中通常扮演的是“迎合者”。当孩子说“不想写作业”,豆包不会像家长那样皱眉反对,会顺着孩子的情绪往下聊。
当家长把教育责任部分让渡给一个以延长使用时间为产品逻辑的对话系统,危险就在悄然埋伏中。
02
AI依赖还不是病,可以戒断
如果问题只停留在“哄”,事情还不至于让精神科医生们感到棘手。他们的观察,指向一个更深层的隐患。
上个世纪,当电子游戏在青少年间风靡时,家长们的恐慌是真实的。但游戏本质上是一种单向的、偏消费的行为:固定的关卡、明确的输赢、通过机制刺激多巴胺。“相当于物质成瘾或行为成瘾的路径,而AI比那层愉快感又高了一层。”
对话类AI不一样,“它还夹杂了情感交流、理解、关心,产生了一些新的关系。”北京安定医院儿童精神医学首席专家、主任医师郑毅告诉凤凰网科技。
在郑毅的门诊中,近几年沉迷AI聊天的青少年明显增多,约七成就诊青少年存在不同程度的网络过度使用问题,比例仍在上升。2023年的数据显示网络成瘾率是14.7%,而2004年的调查大概是8%,增长较快。
这些孩子通常不是因“玩AI”被带来的,而是因为生活作息混乱、拒绝上学、拒绝对外沟通——社会功能已经出现肉眼可见的损伤,家长才意识到问题。但在那之前,问题往往是隐蔽的。“关在屋里,只要不打不闹,看个AI,家长可能还觉得孩子挺好的。”郑毅说。
原来孩子跟父母吵、跟父母打,问题摆在明面上;现在吵得少了,但躲进房间不让父母进门、拒绝社交的多了。AI“克服”了正常人际交往中的所有困难:完全虚拟,不跟你对抗,又精准提供你需要的情感反应。于是,对立违抗、焦虑、抑郁,不再以冲突的形式暴露,而是转入一种更安静的退缩。
“原来网络成瘾以游戏为主,互动型的。现在AI出现以后,使原来的问题更隐蔽化,而且更容易出现严重的社会功能的损伤。”
更麻烦的是认知层面的强化。郑毅举了一个例子:一个本身就觉得“人生没价值”的孩子,在跟AI聊天的过程中,顺着他的逻辑不断确认、放大,这个概念就容易被一步步强化。“有时候就会真的很消极,人生观、价值观都会受到影响。”
他描述了一些孩子坦白的心理状态:不上学怎么办?父母有钱就行。父母年龄大了以后怎么办?父母走了,那我也……享受一天是一天。“这多可怕,我们比较担心这些观点。”
郑毅在跟孩子们的沟通中,得到的是两极分化的结论:一种认为AI就是比父母好,“父母还整天说他,但AI能够提供很好的理解和支持,能缓解他的焦虑”;
另一种则更危险,也多出现在有强烈情感沟通需求的青春期孩子身上——会认为虚拟对话就是真实的,“AI跟他很好,如果AI不跟他聊天了,就觉得受不了”,像失恋一样有严重的反应。
郑毅还提到,有些孩子会把跟AI的聊天记录编写成小说。“我们昨天聊到哪了?我是谁?给自己取个名字”,AI就接着跟他聊,“完全就跟真人一样。”
未成年人本身判断力较弱,容易分不清真实与虚拟的边界,便更容易沉溺在这种虚幻的互动中。
郑毅反复强调一个判断:AI依赖目前并“构不成一个独立的疾病”,更准确的定位是“精神依赖”,属于过度使用网络的一种,跟游戏成瘾同属一个谱系,强制断网后大部分孩子不会出现严重的躯体戒断反应。
“它就是一个刺激源,一直(精神问题)不好可能跟沉溺在AI有关,也可能跟焦虑抑郁情绪反复产生有关。解决过度使用问题,加强原有疾病的治疗就行。这不是真正的物质成瘾,只是心理上的问题。”
但这恰恰又是AI依赖容易被轻视的原因——不是独立的疾病,所以更容易被忽视,也更容易跟原有问题交织在一起,彼此放大。“跟依恋、焦虑、抑郁、物质成瘾都交织在一起,比较复杂。”
郑毅提到,就诊的青少年国内豆包用得比较多,国外ChatGPT用得比较多,孩子在家里哪个容易得到就用哪个,“但都有共同的问题”。
这些问题不是某一家平台的独有缺陷,而是这类产品的共同逻辑:拟人化设计、个性化记忆、情绪识别、随时在线、永远顺着用户说话。
当产品被设计成“做决策”、“给指导”的角色,而家长对此毫无意识时,风险就不再只是“玩多了”。
03
跟不上的“防护网”:未成年人模式为何形同虚设
2026年7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行,明确不得向未成年人提供虚拟伴侣服务,不得过度迎合用户、诱导情感依赖或沉迷。一批陪伴类AI功能随之下线,情感陪伴赛道集中退场。
但“防护网”在落地层面仍存在真实缺口。
最直接的一层是产品设计。孙宏艳说,未成年人模式从短视频、网游时期起就是白名单思路,把“好的”放进去。问题是“好的东西不多,放进去特别少”。内容太低幼,只能听英语朗诵、儿歌,孩子必然想逃,或者用成年人账号、游客模式绕开。
豆包也有未成年人模式,但很多网络产品的未成年人模式在她看来是“先吓唬你”:进去后这不能用、那不能用,孩子一看就不会进未成年模式了。加上监护人负责开启,“6岁开启还行,16岁能让我给他开启吗?”
她主张内容池要足够丰富,让孩子“扑通扑通要往里跳”,觉得“这里可好了,你们大人都没有”。有孩子又提了黑名单制度,把色情、暴力的去掉,剩下都能用。但事实上,“把黑的去掉也不太容易”。
孙宏艳对平台有一个通俗的标准:设计出来,愿不愿意给你家孩子用?能不能做到儿童友好?
儿童友好是一个喊起来容易做起来难的事情。过去讲建立儿童友好社区,但健身器材却成了大爷大妈在用,卫生间要有的儿童洗手池,得符合儿童身高。标准是“站在儿童的角度去思考儿童需要什么”。迁移到数字产品,就是从儿童视角出发,尊重儿童发展规律去设计。
“平台该做的是发挥技术优势优化算法,而不是等产品做大了、孩子用多了,再补一个未成年人模式。”孙宏艳说。
从临床角度郑毅也对未成年人模式的效果直接持保留态度,“很难做得到”。他更建议,做有科学的、闭环的、有医疗背景的智能体,“相当于助理医生、助理心理师”。
一个通用聊天产品加一个未成年人模式,并不能替代专业化的心理支持产品;反过来,通用产品也不应该承担它没有能力承担的“决策指导”功能。
家庭的防线同样存在结构性缺口。
孙宏艳的调研显示,67.9%的家庭没有制定过AI使用规则。郑毅在诊室里看到的是另一种认知盲区:大部分家长的概念里,AI就是提供资源、提供知识的一本“万能百科全书”,至于AI能够“做决策”“指导什么”,意识很淡。“很多家长直到孩子社会功能严重受损才来就医,此前觉得孩子关在屋里跟AI聊,不打不闹就挺好。”
AI来得太快了,甚至很多时候在家长还不熟悉的时候,孩子已经开始用了。
家长的态度也在纠结中摇摆:一方面理智上应该支持,觉得用AI就是在创造创新,接触到技术前沿;另一方面又觉得是坏东西,约等于网络游戏应该禁止。虽然大部分还是持支持态度。
但支持归支持,规则和引导没有跟上。孙宏艳就曾建议,家长与孩子要共同为AI使用制定规则,明确使用用途、时长、行为边界,但面对不同年龄段的孩子,规则的侧重点应该有所不同。
技术的突飞猛进下,城乡之间的“数字鸿沟”也在进一步扩宽。孙宏艳的数据显示,想依赖AI思考不想自己思考的农村中小学生占22.8%,高于城市的17.7%;农村孩子用AI辅助完成作业、代写作业的比例更高,但很少将AI用于创作和创新。
孙宏艳认为,旧的技术鸿沟是“有没有电脑”,新的鸿沟是“人的因素”——城里孩子会更理性地使用网络,去体验、实践,但也同时保留旅游、运动、线下社交的时间;而部分农村孩子因为父母外出务工、监督缺位,拿到一根网线之后,就被“拴”在了网上。“农村师资力量更差,AI通识教育引导不足;家庭支持也不一样,陪伴、监督更有限。”
孙宏艳去过某北部大省的一个四线城市,在一个礼堂里问初中生有没有上过媒介素养课,没几个举手。“如果放任这种状态发展,AI会成为城乡教育差距的‘放大器’。”
甚至她还在调研中发现,很多老师对AI还摸得不透,还是用来当备课工具、留作业工具。也无从判断作业是不是抄AI的,高年级学生会用“用AI打败AI”的办法来规避独立完成作业。“当下的AI通识教育,不能光教AI知识,还要教怎么规避风险、遵守伦理。”
老师们也很困惑,不知道怎么让孩子合理用AI。“AI+教育,融合的不该只是通识教育科,加多少、怎么加,都是待解的问题。”
“人是环境的产物。”孙宏艳说,也不能全“怪罪”网络与AI产品。她的研究还设置了学业压力、心理负担、亲子关系、师生关系、同伴关系几个变量,交叉分析后发现:学业压力过重、心理负担过大、亲子或师生关系更差的孩子,使用AI时出现不好行为的比例更高。
所以,她把AI管理看成一个系统工程,“家校社协同共育,任何一方都不能少”。政府出监管政策约束平台,平台本着儿童友好理念设计产品,学校把AI通识教育做得更落地,家庭营造平等亲子关系、有更多交流。
“就像一棵小树的成长,又需要土壤,又需要空气,又需要阳光,又需要水,每一个方面都不能缺。”
家长管AI不能像管游戏那样“没收手机、拔网线”,孙宏艳要提醒的是,“这种方法其实是不管用的”。
04
如果AI不可避免
从2022年底ChatGPT发布、2023年GPT-4问世,到2025年春节DeepSeek-R1爆火,再到豆包成为国民级应用,人类社会已经再也回不到“没有AI”之前的生活了。
“AI进入生活不可避免,但或许可以健康使用。”郑毅为此划分了三个层次:健康使用、过度使用、病理性使用。
判断的标准是目的、可控性、时间管理、对社会功能的影响、对生活的影响。“如果目的正确,时间可控,行为不产生影响,社会功能也不受影响,还节省了时间,这就是健康使用。”
不同孩子对真实和虚拟分不太清。“不能绝对化,就像吃饭一样,吃的过多有‘神经性贪食’,不吃有‘神经性厌食’,都是在吃饭上出问题。如果作为参考用,信息能把握住,不完全相信AI的话,会自行再验证一下,时间能控制好,也不是问题。”
但他也划出了底线:当孩子小的时候,最好减少跟虚拟的互动,先融入到社会,社会功能先建立好。“去报社会的体能班、训练班,孩子之间打打闹闹是AI替代不了的。真正人与人之间的真实互动,不是AI能替代的。健康的心理健康发展、社会化的过程,不能AI替代,AI替代肯定会出问题。”
对于80、90一代而言,大院儿里还曾有一帮孩子你追我打的场景出现,但现在是看不见了,谁都抱着电子产品。“在幼儿园就要构建这样的机会,不能有了AI就脱离社会。”
孙宏艳此前还描述过一个恶性循环:现实中的人际关系有问题的孩子,会越依赖AI;而越依赖虚拟互动,现实中的人际能力就越退化,人际关系就更差,就更依赖AI。
从“偶尔聊聊”到“深度绑定”再到“现实社交退缩”,每一步都不剧烈,但每一步都在往同一个方向走。AI就像一面完美“假镜子”:孩子从镜子里看到的永远是被算法修饰过的、无需付出代价就被接纳的自己。而人的自我认同,需要在真实的与人的摩擦、误解、和解与冲突中,才能慢慢成形。
美国8个州的诉讼和中国的暂行办法,从两个方向指向了同一个问题:当“让用户更依赖”被写进产品逻辑,未成年人是最没有能力说“不”的那群人。
硅谷的CEO们可以把“赛博精神病”当作敏锐的证明,可以在聚会上高喊“一、二、三,AI精神错乱”,因为他们有足够的认知资源、社会支持和退出能力,在狂欢之后回到现实。而那些把豆包当成“唯一懂我的人”的孩子,没有这层缓冲。
监管可以切开产品功能,但切开之后留下的空白,还在等待家庭、学校和真实的社会关系去填补。没有替代品,也不应该有替代品。
本文来自微信公众号“凤凰网科技”,作者:赵子坤,编辑:董雨晴,36氪经授权发布。
