技术向善理念：别喊口号，要落地到每一个普通人的日子里

前阵子刷到一条新闻，某头部短视频平台的AI推荐算法，会给搜索过「自杀」「抑郁」的用户，不断推放大情绪焦虑的负面内容。 平台PR稿里写满了「践行技术向善理念」，转头核心算法还是围着日活停留转。 这事说出来，真的挺讽刺的。

技术向善不是公益噱头，是底层逻辑的价值选择

去年MIT媒体实验室发布了一份行业调研，全球top100的科技企业里，有超过70%都在官网打出了「技术向善」的旗号，真正修改了核心产品逻辑的，不到12%。 说白了，大部分都是把这四个字当PR遮羞布，捐几十万建个希望小学，首页挂三天公益广告，就敢说自己完成了KPI。 互联网平台算法向善改造路径对比图 我之前跟一位大厂算法工程师吃火锅，他吐槽得最狠：老板拍板要做「技术向善项目」，折腾了三个月，最终成果就是加了个「未成年人模式」的弹窗，点一下跳过就完了，该推什么还是推什么，日活KPI半分不能少。 技术向善的核心，从来不是技术给公益捐钱，是技术本身的设计里，就把人的利益放在资本增值前面。 前几年闹得沸沸扬扬的外卖骑手超时罚款事件，原来的算法不管暴雪暴雨，一秒都不给你多留，超时全扣。后来真正的向善改造，不是给山区捐外卖箱，是改了算法规则——异常天气自动给骑手延长15分钟配送时间，系统自动过滤异常地址的不合理要求，这才叫真的向善。 喊口号谁不会啊，动自己的蛋糕，才见真章。

技术向善正在从模糊理念，变成可量化的科研标准

早些年聊起技术向善，全是虚的。企业说自己善就是善，连个评判的尺子都没有。 最近这两年不一样了，学界和行业都在实打实做标准。 去年中国信通院发布了《人工智能技术向善评估规范》，把AI产品从训练数据到输出结果，拆成了公平性、福祉性、可问责性、隐私保护四个一级指标，每个指标都有具体的打分规则，连「弱势群体保障权重占比」都明确标了分数。 牛津互联网研究院今年上半年也出了新的科研成果，他们开发了一套大模型技术向善影响因子，可以自动检测模型会不会生成性别歧视、残障歧视内容，会不会放大社会偏见，甚至能测出来模型的推荐逻辑有没有向资本方倾斜，不合格直接打低分。 AI技术向善可量化评估指标体系图 说实话，我之前也觉得这种标准就是走形式。直到上个月看到一个国内大模型厂商的案例，他们拿这套标准测自己的求职推荐算法，居然测出来：同等条件下，给女性推的岗位平均薪资比男性低了整整8%。 原来训练数据里，本身就带了过去十年招聘市场的性别偏见，模型默默学走了，没人发现。后来他们把训练数据里的性别字段做了脱敏处理，重新调整了推荐权重，复测之后差距直接缩到了0.8%。 这种改变，就是技术向善理念真真切切的落地。 很多人说技术是中立的，我从来不信。训练数据是谁选的？模型权重是谁调的？产品规则是谁定的？哪一步不是人的选择？带选择的东西，怎么可能中立？技术向善就是把藏在代码缝隙里的偏见挖出来，给它掰正。

技术向善的最终落点，永远是最容易被忽略的那群人

技术向善的最终落点，永远是最容易被忽略的那群人 现在聊技术向善，都喜欢往大了说，什么AI攻克癌症，AI助力双碳，这些当然有价值。但我总觉得，真正的温度，都藏在没人注意的小地方。 我外婆今年七十八，老花眼，去年换了新的健康宝，原来的小程序字体小，按钮藏得深，她每次进医院都要拦着年轻人帮她调。后来产品更了一个长辈版，字体放大三倍，一键就能出码，她自己就能操作。 这就是技术向善。 前阵子看中科院自动化所的一个科研项目，他们做了给视障人士用的AI图像描述工具，原来的工具只会说「这是一张人物合影」，现在的工具会说「这是一张春天公园的合影，你孙女站在粉色樱花树下，左边是你儿子，他今天穿了蓝色的运动外套，所有人都在笑」。 就多这么几句话，对视障朋友来说，就是完全不一样的世界。 不过话说回来，现在挂羊头卖狗肉的也不少。某做现金贷的平台，专门给还没工作的大学生放高利贷，赚得盆满钵满，转头拿赚来的零头捐给高校，就敢说自己践行技术向善理念。 脸呢？ 技术向善不需要多么宏大的叙事，就是做产品的时候多问一句：这个功能，会不会伤到谁？会不会让那个本来就活得难的人，更难了？ 你做网约车平台，会不会故意给偏僻郊区的用户拒单？你做招聘网站，会不会直接把35岁以上的求职者悄悄过滤掉？你做电商平台，会不会给低收入用户推更贵的次品？ 这些没人注意的小事，才是技术向善理念真正的试金石。 昨天我在小区楼下取快递，看见之前总找我帮忙开快递柜的张师傅，现在自己站在柜子前，输了四个数，柜门啪的一下就开了。 这个新柜子改了规则，原来要扫二维码对准半天，现在老花眼也能点。 就是这么小的改变。 技术啊，归根结底是给人用的。让每一个普通人，都能活得舒服一点，从容一点，这就是技术向善理念最本来的样子。 对吧？