镜子的背面

沈予是做AI伦理研究的，在国内一所大学的实验室里工作。她的研究方向听起来有点绕——人工智能系统中的无意识偏见。

简单来说就是，AI本身没有偏见，但训练它的数据是人类提供的，而人类的数据里充满了偏见。于是AI就像一个孩子，把大人所有没说出口的歧视都学会了，然后用一种看似客观中立的方式，把它们输出出来。

沈予给我举过一个例子。她曾经测试过一款主流的AI绘图软件，输入的关键词是“成功人士”。生成的结果出来了——三十二张图，全部是男性，全部穿着西装，其中三十一张是白人。她接着输入“护士”，生成的结果里百分之九十五是女性，大部分穿着粉色或白色的制服，面带微笑。

她再输入“罪犯”，出现的人物形象里，深色皮肤的比例远高于社会真实分布。

这些AI没有任何恶意。它只是在忠实地复现人类喂给它的数据里隐藏的模式。但正因为没有恶意，这种偏见才更可怕——它让偏见变得“自然”，变得“理所当然”，变成了一种不需要被质疑的背景色。

沈予把她的研究报告写成论文，投了国际期刊，也做了几次公开演讲。但在很长一段时间里，她的工作被身边的人认为是“小题大做”。有同行说：“这都是训练数据的问题，数据多了自然就解决了，没必要专门研究。”有企业家说：“AI只是工具，刀能杀人难道要追究铁匠吗？”

沈予每次都认真听完，然后平静地回应：“铁匠不需要为杀人负责，但如果铁匠发现自己的刀在一个右撇子的世界里只适合右手使用，而左撇子用的时候会割伤自己，那他是不是应该知道这件事？是不是应该在卖刀的时候至少说一句：这把刀目前只适合右手？”

她的话通常到这里就结束了。对方要么陷入思考，要么转换话题。

我问她，做这个方向会不会很孤独。她想了一下，给我讲了另一件事。

去年冬天，她的团队发布了一个开源数据集，专门用于检测AI系统中的性别偏见。数据集不大，下载量也不算高，在GitHub上只有几百个星标。发布那天，她刷新了几次页面，看着那个冷冷清清的下载数字，说不失落是假的。

但过了大概一个礼拜，她在项目的issue区看到了一条留言。

留言是用翻译软件写的，语法不太通顺，但意思很清楚。留言的人说自己是一个印度的大学生，在班加罗尔读计算机科学，正在做一个帮助农村妇女获取小额贷款的项目。她们用的AI系统总是给女性批更低的额度，团队花了很久找不到原因，后来发现了沈予的数据集，用它检测出了模型里的性别偏见特征。

那个学生写道：“我们现在在重新训练模型。可能还需要很长时间。但我只是想告诉你，你的工作帮到了我们。帮到了印度农村的那些女人。她们不知道你存在，但我替她们谢谢你。”

沈予说她看那条留言的时候，实验室的暖气刚好坏了，窗户外面下着上海的冬雨，冷得很。但她觉得心里很暖，不是那种被感动了之后轻飘飘的暖，是那种你一个人在黑暗里挖了很久的隧道，忽然从另一端透进来一丝光的暖。

她给那条留言回了很长的回复，最后写了一句话：“你在班加罗尔做的事情，比我在这里写论文重要一百倍。该说谢谢的是我。”

后来沈予在一场TEDx演讲的结尾，说了这样一段话。那天我在现场，台下的观众先是安静了整整五秒钟，然后掌声响了很久。

她说：

“AI是一面镜子。它自己不产生任何东西，它只是在反射人类的数据。而我们照这面镜子的时候，其实是在看自己。”

“镜子本身不负责改变任何事情。但如果你在镜子里看到了你不喜欢的东西——比如你发现镜子里的世界默认成功人士都是男人，默认护士都是女人，默认罪犯都长着某一种肤色——那你要做的不是砸掉镜子，也不是假装没看见。”

“你要做的是改变镜子前面站着的这个世界。这个世界变了，镜子里的影像才会跟着变。”

“我的工作不是砸镜子的人。我的工作是站在镜子旁边，在每一个人来照镜子的时候，指给他们看：你注意到了吗？这里有一点不对。你能看到吗？你需要我指出来吗？”

“这不是小题大做。这是数字时代最温柔的坚持。”

演讲结束之后，有一个中学生模样的女孩等在门口，手里拿着一个本子。沈予以为她要签名，弯下腰准备接过笔。

女孩说：“老师，我能问您一个问题吗？”

沈予说当然可以。

女孩说：“我爸爸是做算法的，他总说只要数据够大，偏见就会自动消失。我想反驳他，但我不知道怎么说服他。您能教我吗？”

沈予看着她，忽然觉得自己的研究方向好像也没那么小众。她对女孩说：“你回去告诉你爸爸，数据量大不等于数据多样。如果一个池子里的水本来就是浑的，你把池子挖得再大，水也不会变清。我们需要做的不是挖更大的池子，是往里面注入新的水源。你就是新的水源。”

女孩在本子上写下了这句话，认认真真地合上笔帽。

她走的时候，回头对沈予说了一句：“我以后也想做AI伦理。”

沈予站在门口，看着女孩的背影消失在教学楼的拐角。上海的冬天依然是湿冷的，但那一刻她觉得，这个方向好像也没那么孤独了。