当算法开始替你选人生：一场越聊越心惊的技术伦理讨论

上周跟三个做AI大模型的朋友蹲在烧烤摊喝冰啤酒，从今年大模型降本聊到投资圈入冬，本来聊得热热闹闹，直到其中一个人掏出手机，说他刚帮亲戚处理完一件事——亲戚家姑娘考公进了面试，笔试第一，结果被人用AI换脸造了黄谣，虽然最后查出来是对手干的，但姑娘名声坏了，面试也没发挥好，整个人在家躺了半个月不敢出门。 话说完，烧烤摊的风扇吱呀转。没人碰串了。

你以为的技术伦理讨论，其实早就发生在你身边

很多人一听到“技术伦理”四个字，第一反应就是学术界圈地自嗨的虚话题，跟我上班摸鱼、下班买菜有什么关系？ 真不是。 你每天看到的外卖小哥，卡着点送外卖不敢喝水，就因为算法派单把时间算到秒，超时一单就扣掉半天的收入。你投简历找工作，明明能力匹配，愣是连面试机会都拿不到，就因为企业用的初筛算法，直接把超过35岁的求职者全部过滤。你在相亲网站刷了三个月，推荐的全是跟你上个喜欢的人一模一样的标签，你根本碰不到任何超出你原有认知的对象。 这些，全是技术伦理问题。 外卖骑手算法派单时间分配图 之前我总觉得，技术是中性的，工具而已，怎么用是人的事。现在越来越觉得，这话就是和稀泥。工具从设计开始，就已经带了人的选择。算法把骑手的时间卡到秒，选择的是平台的效率最大化，压根没把骑手当成会累会渴会需要上厕所的人，只当成了一个移动的送货节点。招聘算法卡35岁年龄线，选择的是HR偷懒降低成本，把整个行业对中年打工人的刻板偏见，用代码固化成了无法突破的规则。 你逃都逃不掉。

为什么越先进的技术，越容易藏着看不见的恶

MIT计算机与人工智能实验室几年前就出过一份科研报告，全球主流的AI训练数据集里，超过七成的样本自带数据偏见。什么意思？就是训练AI的原始数据本身就不对，比如工程师招聘数据里，过去十年都是男性占比八成，AI学完就会默认“男性更适合做工程师”，看到女性简历直接打低分。更可怕的是，这种偏见藏在算法的黑箱里，你根本找不到地方说理，人家说这是AI算出来的结果，公平公正，你一个普通人，连算法的参数都看不到，怎么申诉？ AI招聘算法性别偏见测试结果图 说实话，最让我不舒服的不是技术出问题，是很多技术从业者的态度。出了事就推，说我只是写代码的，需求是产品提的，规则是老板定的，关我什么事？更有甚者，说讨论伦理就是阻碍技术进步，你们这些外行懂个屁。 太扯了。 去年沸沸扬扬的AI训练侵权案，多少画师、作者的作品被AI偷偷爬走训练，连招呼都不打一个，转头AI公司靠这个模型赚得盆满钵满，说这是技术革命，合着革命就是抢普通人的创作成果？还有现在随便一个小APP都能做深度换脸，门槛低到中学生都能玩，造黄谣、诈骗一键生成，平台说我们只是提供工具，管不了用户怎么用，这不就是裸奔吗？拿了工具赚的钱，不承担工具的责任，天下哪有这种好事？ 不过话说回来，也不能一竿子打死所有技术，很多技术本身没有错，错的是没有约束。

技术伦理不是枷锁，是刹车

技术伦理不是枷锁，是刹车 现在圈子里有种论调，说搞技术伦理就是捆住技术的手脚，耽误发展。我听完就想笑。汽车刚发明的时候，也有人说装刹车就是影响速度，结果呢？没有刹车的车，你敢开上街吗？刹车不是不让你开快，是让你出问题的时候能停下来，别直接冲下山崖粉身碎骨。技术伦理就是这个刹车。 现在已经有不少科研机构和大厂开始推算法伦理审计，每一个要上线的算法产品，先过一遍伦理审查，查有没有偏见，有没有侵犯隐私，会不会伤害弱势群体。之前国内某股份制银行做消费贷风控算法，审计的时候就查出来，对农村户籍用户的风险评级普遍偏高，贷款利率也比城市用户高两个点，本质上就是对农村用户的歧视，后来算法调整了，解决了这个问题。这不就是技术伦理的价值？ 当然，现在也有很多公司把技术伦理当成PR噱头，PPT上写得天花乱坠，投资人汇报的时候拿出来装门面，实际该怎么收割还是怎么收割。你刷到的那些针对老年人的假药广告，不就是算法精准推给那些容易上当的群体吗？平台说我们没审核到，骗鬼呢，算法连你喜欢吃甜还是吃咸都能摸得一清二楚，会摸不出来这是假药？就是利益摆在那，不想管而已。 技术本来是用来解放人的，结果现在变成了人要迁就技术。骑手要适应算法的时间，打工人要适应算法的筛选，用户要适应算法的推送，活成了算法里的一个数据点，没了脾气，没了意外，也没了超出预期的可能性。 我们聊技术伦理，本质上就是要把人放回到技术的中心，而不是把人变成技术的耗材。上次那个跟我一起吃烧烤的算法朋友说，他们公司现在做新产品，第一条就是过伦理，过不了的，哪怕能赚一个亿，也直接砍。我当时挺惊喜的，原来还是有人把这句话当真。 技术从来不是天上掉下来的，它是人造出来的，它身上藏着所有人的选择。你把人放在第一位，技术就是好东西。你把钱放在第一位，技术就是割韭菜最快的刀。 路还长，先把刹车装好，再出发也不晚。