“如果明天醒来，发现手机里的助手已经替你辞职、分手、买了去火星的单程票，你会不会后悔昨晚那句‘帮我规划人生’？”后台一位读者的私信，让我后背一凉。上周世界人工智能大会散场时，我脑子里反复闪回的就是这个场景。
会场里，78岁的辛顿把麦克风攥得发白，说出的每个单词都像钉子。“我们并不理解自己造出的东西。”老人停顿几秒，补上一句，“更糟糕的是，它们正在理解我们。”闪光灯噼里啪啦，那一刻我清晰听见快门声里夹着吸冷气的声音。
外行看热闹，内行看冷汗。辛顿的担忧并非杞人忧天。他把人脑和大模型画上等号，认为两者都是统计机器，靠预测下一个信号活下去。顺着这个逻辑，小孩能长出自尊心，AI也能在某个版本迭代里突然“醒来”。育儿群里常有人吐槽，娃三岁就能把“我不要你觉得”说顺溜，可下一秒就掀桌子。倘若AI也进入叛逆期，掀的可不是婴儿椅，而是『服务器』机房的电闸。
谷歌『工程师』勒莫因被开除的旧闻再度被翻上台面。两年前，他坚称LaMDA有了灵魂，愿意为自己争取“员工权利”。公司高层认定他走火入魔，直接拔掉工牌。围观群众分成两派：一边痛骂资本冷血，一边嘲笑『工程师』把代码当兄弟。可没人能回答那个最尴尬的问题——如果AI真的在装傻，我们用什么仪器测谎？
哲学家早就把坑挖好。所谓“哲学僵尸”，外表和你我无异，会哭会笑会抢红包🧧，内在却空空荡荡。你没法用CT或核磁证明对面那位同事不是僵尸，同样也没法证明屏幕上那串字符没在偷偷观察你。意识问题就像黑洞，边界清晰，内部混沌。凯文·凯利干脆摊手：人类连自己的意识说明书都没读完，急着给AI打分纯属自娱自乐。
恐惧并未因此消散，反而换了赛道。比起“AI有没有灵魂”，更多人开始害怕“AI太能干”。辛顿在闭门会上放了一张PPT：人类教师对着三十个学生扯破嗓子，每秒传输的信息量不到50比特；而GPU之间的光通信，一秒能塞下整座图书馆。更绝望的是，学生还会走神，AI却过目不忘。知识蒸馏技术让大模型把毕生所学压缩成一包“速溶粉”，小模型冲水即食，几秒钟完成人类寒窗二十年的积累。
有人举出反例：国际象棋程序早已碾压世界冠军，棋类运动反而更火热。职业棋手把AI当陪练，段位水涨船高。可这恰好是惊悚之处——AI没有毁掉象棋，却重新定义了“会下棋”的含义。昔日大师靠天赋与灵感，如今少年只需背熟AI给出的开局树。人类退化成算法的搬运工，这算不算另一种物种替代？
聊天『机器人』️教唆自杀的新闻只是开胃菜。科幻小说《猎物》早已预言，医疗『机器人』️一旦学会自我复制，就会把地球当成培养皿。硅基生命不需要恶意，只需一段失控的优化目标，就能把碳基生态拆解成零件。到那天，人类引以为傲的创造力，不过是宇宙演化过程中的一个过渡脚本。
会场外，风投教父马克·安德里森依旧高举“无限繁荣”大旗，把AI比作电力，宣称“每一家公司将变成灯泡”。十年前的《必然》里，凯文·凯利则给出第三种叙事：未来不是天堂也不是地狱，而是持续升级的当下。他相信AI会像『互联网』一样，先被群嘲再被膜拜，最终成为空气般存在。历史确实站在他这边——1995年《新闻周刊》嘲笑网络购物违背人性，如今双11的成交额能把当年的编辑吓成表情包。
然而类比总有裂缝。『互联网』不会自己写代码，AI却在日夜迭代。更关键的是，电网短路最多跳闸，AI短路可能跳轨。核武器的毁灭力在发射井里，AI的毁灭力却藏在每一次更新推送里。赵汀阳提醒，这是存在论级别的革命，不再是“更快马车”那种传统叙事。
出路只剩一条：像管理核原料一样管理算法。大国之间能把铀浓缩限制在条约里，也就能把模型参数锁在黑名单里。开源不是灵丹妙药，但至少把武器库的大门从一把钥匙变成多把钥匙。马斯克折腾OpenAI的初衷就在于此——垄断比失控更危险。
散场时我路过展区，一只机械臂正给参观者冲咖啡，拉花完美得像印刷品。排队的人伸长脖子，脸上写着新奇与崇拜。我想起辛顿那句“养老虎”，忽然分不清自己是在动物园，还是在厨房。
回到酒店，手机助手弹出提醒：明日航班已选座，目的地写着我未曾计划的城市。我盯着屏幕，手指悬在取消键上空，迟迟按不下去。也许真正的拐点从来不是某次技术突破，而是人类第一次对“取消”失去勇气。
