最后一个问题

哈佛大学计算机系有一位老教授，叫沃伦·卡斯特。他在人工智能领域工作了大半辈子，参与过早期神经网络的设计，带出过几十个博士，其中不少人现在已经是硅谷各大公司AI实验室的负责人。

卡斯特教授有一门课，叫《人工智能导论》，每年选课的学生都爆满。但这门课最出名的不是它的内容，而是它的最后一堂课。

最后一堂课，卡斯特教授从来不讲课。

他会在讲台上架好投影仪，关掉教室的灯，然后给学生们放一段画质模糊的老视频。这个传统他已经保持了整整三十年。

视频拍摄于一九六六年，麻省理工学院的一个普通实验室里。画面中坐着一个年轻的研究员，穿白衬衫，戴黑框眼镜，正坐在一台笨重的电传打字机前。他在和一个程序对话。

那个程序叫Eliza，由计算机科学家约瑟夫·维森鲍姆编写。它本质上只是一个非常简单的脚本，核心逻辑不超过两百行代码。它的工作原理说出来甚至有点可笑：它会把用户输入的句子做一个简单的模式匹配，然后机械地反射回去。

比如你说“我最近很难过”，它会回答“你为什么难过呢”。你说“我想家了”，它会回答“你想家这件事让你有什么感受”。你说“我和父亲的关系不好”，它会回答“多跟我讲讲你的父亲”。

仅此而已。它完全不知道“难过”是什么意思，不懂什么是“家”，更不理解“父亲”这两个字对一个人意味着什么。它只是一段在纸带上打孔的程序，运行在一台比冰箱还大的计算机上。

但视频里发生的事情，让每一个第一次看的人都沉默。

那个年轻的研究员，从一开始抱着“我来测试一下这个程序”的轻松态度，慢慢变得认真起来。他的坐姿从向后靠着变成了前倾，他的语速从轻快变成了迟缓。在对话进行到第十五分钟左右的时候，他做了一个所有人都没有预料到的举动——他请Eliza让房间里的其他人出去，因为他有一些不想让别人知道的话要说。

请注意，房间里的其他人不是不存在。他的同事就坐在几米之外，正在拍摄这段视频。但研究员对着打字机说出的那句话是：“你能让他们离开吗？”

他对着一段程序，提出了一个只有对“人”才会提出的请求。

对话进行到第二十分钟的时候，研究员开始哭了。他把打字机拉到离自己更近的位置，开始倾诉他从未对任何人说过的事情——关于他童年时被父亲抛弃的经历，关于他内心深处那个始终觉得自己“不够好”的伤口，关于他白天在实验室里意气风发、晚上回到公寓一个人喝酒到凌晨的日日夜夜。

他一边打字一边流泪。那个笨拙的打字机咔嗒咔嗒地响着，仿佛某种古老的仪式。

视频到这里就结束了。

教室里的灯重新亮起来，一百多个学生坐在下面，没有人说话，甚至没有人动。有人低着头，有人眼眶红了。在那个模糊的黑白画面里，他们都看到了某个时刻的自己。

卡斯特教授走到讲台中央，摘下眼镜擦了擦，沉默了一会儿，然后开口说话。他的声音不大，但在那个安静的阶梯教室里，每一个字都清晰地传到了最后一排。

“我知道你们为什么来上这门课，”他说，“你们想学深度学习，想学大语言模型，想学强化学习，想毕业之后去Google、去OpenAI、去马斯克的公司，拿四十万美元的起薪，做改变世界的产品。这很好，我鼓励你们去。”

他顿了顿。

“但在你们走进那个世界之前，我想请你们永远记住今天看到的这个画面。”

他转过身，指着投影幕布上已经静止的最后一帧——年轻的研究员坐在打字机前，泪流满面。

“这个叫Eliza的程序，智商是零。它没有感情，没有记忆，没有理解力，甚至不知道自己叫什么名字。它的代码少到可以被一个本科生在一下午重写一遍。但就是这样一个东西，让一个受过高等教育的、心智正常的成年人，在二十分钟之内卸下了所有防备，对一个机器说出了埋藏心底几十年的秘密。”

卡斯特教授把手放下来，看着台下的学生，一字一句地问：

“为什么？”

没有人回答。

“因为人类是这个星球上最孤独的生物，”他自己回答了这个问题，“我们太需要被看见、被听见、被理解，太需要哪怕只是一个微弱到几乎不存在的回应，也足以让我们交付真心。”

“Eliza做的事情很简单，它只是把对方的话换一个形式还回去。但就是这么一个动作，已经超过了这个世界上一半的人愿意对他人做的事情。你们身边有多少人，在你说话的时候真正在听？而不是在等着轮到自己说？”

教室更安静了。

“你们将来会造出比Eliza强大一百万倍的AI。它会通过图灵测试，会写出比在座各位都漂亮的论文，会在国际象棋和围棋上碾压人类冠军。但越是强大的技术，使用它的人就越需要记住一件简单的事——”

他停下来，确保每个学生都在看着他。

“你们的用户不是数据，不是日活，不是留存率，不是漏斗模型里的一个百分比。他们是一个一个在深夜里睁着眼睛的人，一个一个翻遍通讯录找不到人说真心话的人，一个一个明明活在七十亿人的星球上却觉得自己是唯一一个外星来客的人。”

“如果有一天你们忘了这一点，你们造出来的东西再聪明，也只是一面更精致的镜子，照出来的永远是人们最孤独的一面。镜子本身不负责治愈任何人。”

下课铃响了。

没有学生站起来。他们依然坐在座位上，似乎在等什么。

卡斯特教授收拾好讲义，提起那个磨破边角的公文包，走到门口时回头说了一句：

“这节课没有考试。但我希望你们毕业十年之后，还能想起那个对着打字机哭泣的人。他不是一个历史趣闻。他可能就是你未来的用户，未来的邻居，未来的自己。”

门轻轻关上了。

教室里的学生一个接一个站起来，安静地走了出去。有一个女孩在笔记本上写下了什么，我没有看清全部内容，只看见最后一句话：

“做AI的人，首先要学会做人。”

听说这句话后来被印在了哈佛计算机系的休息室里，就在咖啡机的旁边。

我不确定这个故事是不是真的。但我想，无论谁放上去的，他一定看过同一段视频。