模型审判者我训练的识别系统，学会了人类的偏见

我是某头部科技公司人工智能伦理部门负责人——或者说，曾经是。三个月前，

我被公司"优化"了。理由是"价值观与公司不符"。

翻译成人话：我坚持要公开我们内容审核模型的偏见问题，而公司觉得这会"影响股价"。

走的那天，我的直属领导祥瑞拍着我肩膀说："镇钱，你太理想主义了。这行里，

谁不知道模型有偏见？但只要没人捅破，大家都能赚钱。你非要当那个捅破窗户纸的人，

怪谁？"我怪我自己。怪我没早点认清，这家估值千亿的公司，

本质上只是个卖广告的中间商。什么"科技向善"，什么"用人工智能让世界更美好"，

都是给投资人看的PPT。失业第一周，我投了二十份简历。全部石沉大海。

后来我才从圈内朋友那里听说，祥瑞在行业群里放话了：镇钱"缺乏职业素养"，

"不适合从事人工智能相关工作"。翻译一下：我被封杀了。第二个月，我存款见底，

房租欠了两个月。房东李思文——一个退休的中学语文老师——每天敲门，不是催租，

是给我送饺子。"小钱啊，我教书三十年，看得出来，你不是坏人。"她把饺子放在桌上，

"但坏人往往觉得自己是对的。你想想，你是不是也有问题？"我问题大了。我最大的问题，

就是以为技术能改变世界。实际上，技术只是放大器，放大的是人性本身的好与坏。

第三个月，我接到了一个电话。对方自称覃琴，某公益基金会的技术总监。

她说他们在做一个项目：帮助弱势群体识别和对抗算法歧视，

需要一个有经验的人工智能伦理专家。"为什么找我？"我问，"我现在是行业黑名单。

""因为我们找的就是黑名单上的人。"覃琴笑了，"只有被踢出游戏的人，才敢说真话。

"我们约在一家咖啡馆见面。覃琴比我想象的年轻，三十五岁左右，

穿着普通的牛仔裤和卫衣，但眼神很锐利——那种见过太多真相后的锐利。

"我们的项目叫'镜鉴'，"她说，"目标是开发一套工具，

让普通人能检测出各种内容审核模型的偏见。比如，同样的内容，

系统对男性账号和女性账号的判定是否一致？对城市用户和农村用户是否公平？

""这技术上不难，"我说，"但你们想过后果吗？一旦发布，所有平台都会恨你们。

""我们已经被恨了。"覃琴摊开手，"问题是，你想不想做？""钱呢？""月薪一万五，

比你以前少很多。但我们有股权，如果项目成功，基金会转型为社会企业，你有百分之五。

"一万五。在北京，这 barely 够付房租。但我答应了。不是因为股权，

是因为我想知道：我当年没敢做的事，现在敢不敢做完。---入职第一周，我见到了团队。

加上我，五个人：覃琴是项目负责人，魏旭是前端工程师，

一个刚从某大厂辞职的九五年男生；刘雅丽是数据分析师，

前某社交平台员工；还有两个实习生，宝儿和付宁，都是某大学人工智能专业的研究生。

"我们的第一个目标，"覃琴在白板上写，"是某短视频平台的审核模型。

这是市面上最严格的系统，日处理内容超过十亿条。如果我们能证明它有偏见，

就能引起公众关注。""怎么证明？"魏旭问，"我们又没有它的模型代码。

""不需要代码。"我打开笔记本，"我们可以用'对抗测试'。准备大量内容对，

每一对只在敏感特征上不同——比如，同样的文案，一个用男性名字发布，

一个用女性名字；同样的图片，标注为城市背景或农村背景。然后观察系统的判定结果。

""这能行吗？"刘雅丽皱眉，"平台不会配合我们。""不需要配合。"我说，

"我们用众包。招募志愿者，让他们在平台上发布测试内容，记录结果。

平台不可能识别出这是测试，因为内容看起来和普通用户发布的一模一样。"覃琴看着我，

眼神里有惊讶："你以前在某公司，用过这种方法吗？""想过，没敢做。"我老实承认，

"当时怕被发现，怕丢工作。现在不怕了，反正已经丢了。"她笑了："欢迎加入'镜鉴'。

这里欢迎怕过的人。"---第一个月的测试，结果让我们所有人沉默。

我们准备了五百对测试内容，涵盖性别、地域、年龄、职业四个维度。

结果显示：某短视频平台的审核模型，

二十三；对三四线城市用户的误判率是一线城市的两倍；对五十岁以上用户的"违规"判定，

有百分之四十经人工复核后被推翻。"这……这太离谱了。"魏旭盯着屏幕，

"他们知道自己模型这么烂吗？""知道。"我说，"但修复成本太高。现在的逻辑是，

宁可错杀，不可放过。误伤了普通用户，用户只能申诉；但如果漏过了真违规内容，

平台要被约谈、罚款、下架。""所以弱势群体就成了牺牲品？""一直都是。

"我指着数据，"你看这个案例。同样的穿搭视频，标注为'农村小妹日常'的，

被判定为'低俗'；标注为'城市白领周末'的，正常通过。模型学到的，是人类的偏见。

""那我们怎么办？"宝儿问，"直接发报告？""不，"覃琴说，"我们先找平台沟通。

给他们机会整改。"我看着她，像看一个外星人："覃总，您做过商业公司吗？""做过，

"她平静地说，"十年前，我在某电商平台负责推荐算法。

我们发现系统对女性用户的商品推荐，

永远比男性贵百分之十五——因为模型学到了'女性更愿意为品质付费'。

我提了三次要修复，被拒绝了。第四次，我在年会上公开了数据，第二天就被开除了。

""后来呢？""后来那家平台被集体诉讼，赔了三个亿。我的前领导，

现在在某大学教商业伦理。"她笑了笑，"所以我知道怎么跟平台沟通。他们不听，

我们就让他们不得不听。"---覃琴约了某短视频平台的"人工智能伦理负责人"见面。

对方叫冯杰，四十岁出头，穿着得体的西装，说话滴水不漏。"覃总，镇老师，

"他微笑着递名片，"我们非常重视算法公平。实际上，

我们内部已经有专门的团队在做偏见检测。""那你们检测出我刚才说的那些问题了吗？

"我问。冯杰的笑容僵了一下："镇老师，任何大型系统都有误差。

我们的误判率在业界已经是最低的……""最低不代表公平。"我打断他，"你们的误判，

集中在特定人群。这不是技术问题，是伦理问题。""伦理问题需要伦理解决，

"冯杰恢复微笑，"但我们首先是商业公司。您当年在某公司的时候，应该也理解这一点？

"他在挑衅。他知道我被开除的事。"我理解，"我说，"所以我被开除了。冯总，

您想步我后尘吗？"会议室气氛凝固。覃琴适时插话："冯总，我们不是来吵架的。

我们愿意分享测试方法和数据，帮助贵公司改进。条件是，

贵公司需要在三个月内公布整改计划，并接受第三方审计。""这不可能，"冯杰直接拒绝，

"公开整改计划等于承认错误，股价会跌。第三方审计？我们连投资人的全面审计都不接受。

""那如果我们公开数据呢？""你们没有证据，"冯杰站起来，"那些测试数据，

你们怎么证明不是伪造的？平台不会承认，志愿者可以收买，整个过程没有公证。覃总，

镇老师，我很尊重你们的工作，但现实世界不是实验室。你们想改变世界，先学会生存。

"他走出去，门"砰"地关上。魏旭气得脸通红："这混蛋！""他说得对，"我说，

"我们确实没有'铁证'。平台不会承认，志愿者身份敏感不能公开，

我们的测试方法在法庭上站不住脚。""那怎么办？"刘雅丽问。我看着窗外的北京夜景，

想起三年前，我第一次发现公司模型的偏见时，也是这样的夜晚。那时候我选择了沉默，

因为我觉得"时机不成熟"，"需要更多证据"，"要先保住位置才能做更多事"。三年后，

我没了位置，偏见还在。"我们需要一个平台无法否认的证据，"我说，"而且，

我们要让它主动想要修复。""什么意思？""冯杰说，他们首先是商业公司。"我转过身，

"那我们就用商业逻辑打败他们。如果偏见问题会导致他们损失真金白银，他们就会改了。

"---第二个月，我们换了策略。不再找平台，找用户。

我们在社交媒体上发布"算法偏见自测工具"——一个简单的小程序，

用户可以输入自己的内容，系统会预测在某平台的审核结果，并给出"风险评分"。技术上，

这是用公开的机器学习模型基于平台公布的审核规则训练做的模拟，不算破解，

也不违法。但效果惊人：上线一周，用户突破十万。评论区炸了。

有人发现自己的内容被"误判"，有人发现同样的内容换个性别就能通过，

更多人开始质疑：为什么平台能决定什么该看、什么不该看？

某短视频平台的公关部门坐不住了。他们发声明，说我们的工具"不准确"，"误导用户"，

威胁要起诉我们"诽谤"。我们等的就是这个。覃琴召开了新闻发布会。

她没有反驳平台的指控，而是做了一件更狠的事：她公开了邀请平台"共同验证"的信件，

以及冯杰的拒绝回复。"我们欢迎任何第三方机构验证我们的工具，"她对着镜头说，

"包括平台自己。但如果平台拒绝验证，又声称我们的数据不准确，请问，公众应该相信谁？

"更狠的是，她宣布了一个新功能："偏见保险"。"从今天开始，

'镜鉴'与某保险公司合作，推出'算法公正险'。

算法偏见遭受损失——比如内容被误判导致收益减少、账号被误封——可以向我们申请鉴定。

鉴定费用保险赔付，如果鉴定确认存在偏见，用户可以向平台索赔，我们提供法律支持。

"这是釜底抽薪。平台最怕的不是舆论，是诉讼。

一旦有大量用户拿着"镜鉴"的鉴定报告去索赔，平台的法务成本会飙升，更重要的是，

这会成为集体诉讼的导火索。某短视频平台的股价第二天跌了百分之五。冯杰打来电话，

声音不再从容："覃总，镇老师，我们愿意谈。""现在想谈了？"我冷笑。"你们开条件。

""三个条件，"覃琴说，"第一，三个月内公布偏见检测报告；第二，

建立用户申诉的快速通道，引入第三方仲裁；第三，出资五千万，成立'算法公正基金'，

资助独立研究。""这不可能……""那我们就继续推广'偏见保险'。"覃琴打断他，

"冯总，你们日活六亿，哪怕只有万分之一用户索赔，也是六万人。每人索赔一千块，

就是六千万。

这还没算股价损失、品牌 damage、监管介入……"电话那头沉默了很久。

"我需要请示。""请便。"挂了电话，魏旭兴奋地跳起来："赢了！我们赢了！

""还没赢，"我说，"这只是开始。平台会答应条件，但会拖延、会打折、会阳奉阴违。

我们要准备好打持久战。"覃琴看着我，眼神复杂："镇钱，你变了。""哪里变了？

""以前你只想证明自己对，"她说，"现在你想赢。"我想了想，她说得对。三年前，

我被开除时，满脑子都是"他们不懂技术伦理"。现在，

我满脑子都是"怎么让他们付出代价"。这不是堕落，是成长。理想主义需要实力支撑，

否则只是幼稚。---第三个月，某短视频平台答应了我们的条件，

但打了折扣：检测报告推迟到六个月后公布，第三方仲裁"正在研究"，

算法公正基金出资两千万，分三年到位。"他们在拖，"刘雅丽愤愤地说，

"等我们热度过去，就赖账。""我知道，"我说，"所以我们需要更大的压力。

"我提出了一个疯狂的计划：我们要训练自己的"公正模型"，开源给所有人。"什么意思？

"宝儿问。"现在的内容审核，都是黑箱。平台说什么是违规，什么就是违规，

用户没有发言权。"我在白板上画了一个圈，

"我们要做一个白箱模型——所有规则公开透明，所有判定可解释，所有偏见可检测。然后，

我们推动立法，要求大型平台必须提供'算法可解释性'，接受用户选择的第三方审核。

""这技术上能做到吗？"付宁问。"能，但很难。"我说，"我们需要大量标注数据，

需要顶尖的模型架构，需要持续的维护。更重要的是，