别拿创新当挡箭牌:聊聊什么才是真的负责任创新
前阵子刷到一条新闻,某创业团队搞了个AI换脸算命APP,三天狂揽上千万用户付费,转头就因为违规采集个人信息、宣扬迷信被下架。
底下一堆评论骂街,说这也叫创新?这不就是抢钱吗。
说实话,我挺认同这句话。现在太多牛鬼蛇神,都拿着“创新”当挡箭牌,干着不负责任的买卖。
欧盟科研框架计划负责任创新评估流程图
它不是道德绑架,也不是喊口号,是一套可落地的约束机制。
举个例子,现在做CRISPR基因编辑研究,不能说科学家闷头做完胚胎编辑,再拉出来讨论伦理合不合法。负责任创新要求你立项的时候,就得把伦理学家、社会学家、甚至普通民众代表拉进课题组,一起讨论边界在哪里,哪些能碰,哪些绝对不能碰。
很多创业者说,这不就是拖慢创新速度吗?我先做出来再改不行吗?
呵。你做出来了,用户信息泄露了,基因编辑出问题了,恶果已经种下了,改得了吗?
之前那批爆雷的校园贷,当初不也说自己是“普惠金融创新”吗?最后害了多少学生,谁来买单?还不是社会和普通家庭。
AI大模型训练创作者内容授权平台操作界面
不过话说回来,这两年也能看到好的变化。比如国内几个大模型平台,陆续推出了原创作者授权通道,让内容创作者自己选择,要不要把自己的作品开放给大模型训练,拿多少分成。这个就是往负责任创新走的第一步。
我之前接触过一个合成生物创业团队,做可降解包装材料的,他们拿到融资第一天,不是先开干建厂,而是先找了二十多个来自不同行业的普通人开了三天座谈会,问大家对“微生物合成”的包装有没有顾虑,最担心什么安全问题,然后把所有人担心的点,全部列进了研发优先级里,每一步的安全性数据都挂在官网公开。
他们说,创新不能只想着怎么赚快钱,得想着怎么让大家敢用,对环境真的好。这句话我记到现在。
多少人喊着“先发展后规范”,说白了就是先抢钱,出事了再让政府帮自己擦屁股。这种创新,不要也罢。
负责任创新,最终受益的是每一个普通人
很多人看到这个词,第一反应是这是专家和老板要关心的事,和我一个打工的有什么关系?
大错特错。
你刷短视频,算法天天给你推对立的、极端的内容,把你困在信息茧房里,让你越刷越生气,越刷越焦虑——这就是算法创新没把责任放进去。它只追求留存率和广告收入,才不管你心理健康好不好。
你去平台订酒店,老用户永远比新用户贵,大数据给你杀熟,这就是大数据创新没加责任约束。
负责任创新,本质就是要求创新者,不能只站在资本和投资人的角度想问题,得站在普通人,甚至弱势群体的角度想问题。
做互联网医疗,不能只做给年轻人用的线上挂号,得留够线下窗口,给不会用智能手机的老人留条路。
做共享出行,不能光想着铺车抢市场,得想清楚乱停乱放会不会堵了盲道,会不会影响行人走路。
说白了,创新的终极目的是让人活得更好,不是让少数人捞快钱。
现在越来越多的科研项目,把负责任创新写进了要求,这绝对是好事。就怕最后又变成了走流程填表格,专家签字完事,根本没落到实处。
创新可以试错,但不能拿普通人的权益当试错的祭品。
真的要做创新,就把责任扛在肩上再出发。别等出事了,才拿“创新本就有代价”这种鬼话来搪塞人。
负责任创新不是事后补公益,是把责任焊进创新的全流程
很多人对这个词有误解,觉得负责任创新就是企业家做完项目,捐点钱盖个希望小学,给自己攒名声洗白。 错得离谱。 负责任创新从立项那一刻起,就要把“会不会伤害普通人”“会不会给社会埋雷”这个问题拍在桌面上。早在上世纪九十年代,学术界就提出了相关概念,后来欧盟把它纳入旗舰科研框架,现在国内的国家自然科学基金重大项目,也已经要求把负责任创新评估纳入立项考核了。
欧盟科研框架计划负责任创新评估流程图
它不是道德绑架,也不是喊口号,是一套可落地的约束机制。
举个例子,现在做CRISPR基因编辑研究,不能说科学家闷头做完胚胎编辑,再拉出来讨论伦理合不合法。负责任创新要求你立项的时候,就得把伦理学家、社会学家、甚至普通民众代表拉进课题组,一起讨论边界在哪里,哪些能碰,哪些绝对不能碰。
很多创业者说,这不就是拖慢创新速度吗?我先做出来再改不行吗?
呵。你做出来了,用户信息泄露了,基因编辑出问题了,恶果已经种下了,改得了吗?
之前那批爆雷的校园贷,当初不也说自己是“普惠金融创新”吗?最后害了多少学生,谁来买单?还不是社会和普通家庭。
当下的科技圈,最缺的就是刻进骨子里的责任意识
这两年AI大模型火得一塌糊涂,大大小小的公司都出来发大模型产品。我翻了一圈,十家有八家,训练数据都是从互联网上爬来的,原创作者的授权没要,稿费没给,直接拿来训模型,转头就收企业客户的服务费。 这不叫创新。这就是换了AI壳子的偷窃! 还有自动驾驶路测,跑遍了一二线城市的大街小巷,采集了几百万路人的人脸和行车数据,隐私协议写得跟蚂蚁一样小,翻三页都找不到关键信息,普通用户根本不知道自己的信息被拿去干嘛了。
AI大模型训练创作者内容授权平台操作界面
不过话说回来,这两年也能看到好的变化。比如国内几个大模型平台,陆续推出了原创作者授权通道,让内容创作者自己选择,要不要把自己的作品开放给大模型训练,拿多少分成。这个就是往负责任创新走的第一步。
我之前接触过一个合成生物创业团队,做可降解包装材料的,他们拿到融资第一天,不是先开干建厂,而是先找了二十多个来自不同行业的普通人开了三天座谈会,问大家对“微生物合成”的包装有没有顾虑,最担心什么安全问题,然后把所有人担心的点,全部列进了研发优先级里,每一步的安全性数据都挂在官网公开。
他们说,创新不能只想着怎么赚快钱,得想着怎么让大家敢用,对环境真的好。这句话我记到现在。
多少人喊着“先发展后规范”,说白了就是先抢钱,出事了再让政府帮自己擦屁股。这种创新,不要也罢。
负责任创新,最终受益的是每一个普通人
负责任创新,最终受益的是每一个普通人
很多人看到这个词,第一反应是这是专家和老板要关心的事,和我一个打工的有什么关系?
大错特错。
你刷短视频,算法天天给你推对立的、极端的内容,把你困在信息茧房里,让你越刷越生气,越刷越焦虑——这就是算法创新没把责任放进去。它只追求留存率和广告收入,才不管你心理健康好不好。
你去平台订酒店,老用户永远比新用户贵,大数据给你杀熟,这就是大数据创新没加责任约束。
负责任创新,本质就是要求创新者,不能只站在资本和投资人的角度想问题,得站在普通人,甚至弱势群体的角度想问题。
做互联网医疗,不能只做给年轻人用的线上挂号,得留够线下窗口,给不会用智能手机的老人留条路。
做共享出行,不能光想着铺车抢市场,得想清楚乱停乱放会不会堵了盲道,会不会影响行人走路。
说白了,创新的终极目的是让人活得更好,不是让少数人捞快钱。
现在越来越多的科研项目,把负责任创新写进了要求,这绝对是好事。就怕最后又变成了走流程填表格,专家签字完事,根本没落到实处。
创新可以试错,但不能拿普通人的权益当试错的祭品。
真的要做创新,就把责任扛在肩上再出发。别等出事了,才拿“创新本就有代价”这种鬼话来搪塞人。