当技术走在规则前面：一场不该沉默的技术伦理讨论

前阵子刷新闻刷到，有人用AI换脸骗走了生意人370万，整个过程十分钟不到，受害者连视频通话都看了，愣是没看出破绽。 转头又刷到某顶流的AI换脸色情视频在小圈子流通，本人连维权都找不到源头。 技术跑的越来越快，轮子都快轧到人了，讨论技术伦理的声音，总还是太小。

别拿「技术中立」当挡箭牌

不知道从什么时候开始，「技术中立」成了很多开发者和企业的免死金牌。 做换脸APP的，说我只是提供工具，用户用来违法关我什么事？做生成式AI的，说我只是训练模型，爬了你的内容那是算法自动抓的，我又没主动偷。 太扯了。 AI换脸诈骗案例数据统计柱状图 去年斯坦福互联网 Observatory 发布的科研成果显示，市面排名前100的生成式大模型里，超过70%的训练数据包含了未获得授权的版权内容，其中还包括了大量未成年人的隐私照片。 开发者一口一个技术中立，合着你们拿别人的隐私、别人的创作免费当燃料，赚得盆满钵满，出事了就把自己摘得干干净净？ 说实话，哪有什么绝对的技术中立。任何技术从设计的第一天起，就带着开发者的价值选择。你做算法推荐，把流量都给极端言论，因为极端言论点击率高能赚广告费，这不是中立，这是故意选了吃带血的馒头。你做大数据杀熟，给老用户定更高的价格，因为你算准了他们懒得换，这也不是中立，这是主动作恶。

科研圈的伦理红线，为什么总被踩

别以为技术伦理问题只是企业的事，科研圈里，红线被踩的次数，只多不少。 2024年初国内某高校公布了一项AI认知科学的研究成果，团队用深度伪造技术生成了十多位知名学者的访谈视频，用来测试大众对AI假视频的识别能力。整个研究过程，没有一位受访者获得知情通知，更别说同意了。 研究发了，成果拿了，最后被曝光出来，只发了个轻飘飘的致歉声明，说「考虑不周」。 全球科研项目技术伦理审查通过率对比图 圈内人都知道，现在很多科研机构的伦理审查委员会，就是个橡皮图章。 说实话，我听过不少年轻博士生吐槽，导师催着发论文申项目，伦理审查走流程就行，真要卡你半年，等你审完，项目都被别人抢了，帽子也轮不到你。 Nature去年发过一篇全球AI科研伦理的调研文章，统计显示42%的AI相关人体试验项目，没有经过完整的伦理风险评估就直接启动了。还有18%的项目，伦理审查材料是实验做完之后才补的。 为了数据，为了成果，把伦理底线往脚底下踩，这种事真不是个例。之前还有大互联网公司偷偷做实验，给上万名用户推送连续一周的负面情绪内容，就为了测试算法对用户抑郁情绪的识别准确率。你说，这拿人当什么了？

技术伦理不是道德绑架，是底线

技术伦理不是道德绑架，是底线 现在总能听到一种声音，说技术伦理就是阻碍创新，就是文人瞎操心搞道德绑架。 真的是这样吗？ AlphaFold破解蛋白质结构的时候，团队一开始就把伦理规则写进了核心协议：所有数据只对非盈利科研开放，严禁用于生物武器开发，严禁用于任何商业性质的基因专利申请。人家怎么就没被伦理阻碍创新？反而成了整个人类科学界的财富。 说白了，技术伦理从来不是限制技术发展，是把技术绑在「为人服务」的底线上，别让技术反过来吃人。 现在提的最多的「伦理嵌入设计」，就是从技术立项的第一天，就把伦理风险评估嵌进去，哪里可能侵权，哪里可能伤害用户，一开始就想好解决方案，而不是等出了人命再出来擦屁股。 不过话说回来，现在规则落地还是有太多漏洞。小团队做AI项目，根本没人查伦理，把服务器往海外一放，该爬数据爬数据，该做违法产品做违法产品，监管确实难。 那普通人就能什么都不做吗？也不是。平时用APP，别什么权限都给，碰到让你刷脸授权的，多想想对方拿你脸能干什么。看到违法的AI内容，该举报就举报。 这场技术伦理讨论，从来都不是专家圈里的自说自话。技术的风险，最后都是普通人在扛；技术的收益，也该让普通人分到。 技术走得越快，越要停下来，等等踩在后面的人。