【科学的温度】AI换脸火爆的背后：如何防止人工智能技术被“恶用”？
中新网12月22日电 (记者 李金磊)数字化3.0时代，人类生活越来越离不开人工智能。如何防止人工智能技术被“恶用”？越来越多的虚拟人是否会取代部分真人职业？如何克服算法歧视，让人工智能实现可知、可信、可控、可用？
围绕上述热点问题，清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正接受了中新网专访，进行解读。
清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正。受访者供图防止人工智能技术被“恶用”
(资料图片仅供参考)
AI换脸、AI换声、三维重建、智能对话……深度合成技术应用日益广泛，催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等应用服务，但也存在着被恶意利用的现象，一些不法人员用来制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等。
怎样抵御这些可能的“恶用”？梁正表示，对于深度合成，AI换脸是一个典型的应用。最近三部门出台了《互联网信息服务深度合成管理规定》，对于规范深度合成服务提出了明确要求。
根据规定，提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认。
梁正指出，使用个人肖像如果没有征得同意，就去公共互联网上采集使用的话，这属于违法行为。平台上如果有类似应用，平台就有责任去监督。即使是合法的使用，也要打上标签，让大家知道这不是真的，一定程度上可以减少深度合成内容产生的认知偏差和社会误导。如果平台自己去提供这一类服务，还要求用相应的工具去识别它不是真实的，这就对平台提出了更高的要求。
“不仅要合法合规，而且还要合意。” 梁正表示，要进一步完善法律法规，严格落实相关规定，建立健全惩罚制度，个人要有维权意识，通过救济渠道维护自身合法权益，从而减少AI被恶意利用的现象。
资料图：2022世界人工智能大会上，人机互动吸引观众。 汤彦俊 摄虚拟人已经开始取代部分真人职业
近年来，虚拟代言人、虚拟主播、虚拟演员歌手，越来越多虚拟人在被推向市场。人们担心，虚拟人在未来或将取代部分真人职业。
“在娱乐、新闻领域，虚拟人的应用越来越多，因为它是一个低成本、高效率的方式。”在梁正看来，虚拟人越来越多也是一种必然的趋势，而且已经在替代部分真人职业了。比如，现在很多虚拟新闻主播，还有电话客服越来越多使用智能语音服务。“这个替代它一定是会部分发生的。”
新生事物发展背后也存在一些隐患。梁正提醒，大家不要把真假弄混了，虚拟人的形象、内容、对话都是基于训练的结果，或者是事先编好的，如果把它当成真人的话，就会产生误导。
“比如说，跟对话机器人去对话要非常小心。对于有些敏感话题，因为它背后没有意识，是顺着你说的，如果没有干预就可能产生误导，但它没有办法承担责任。所以要对虚拟形象的深度合成打上标签，并限定它的使用场景。特别是在教育医疗这样一些敏感的高风险场景，人工干预是必须的。”梁正说。
梁正认为，虚拟人的应用总体要分场景，在游戏、天气预报、新闻播报等一些低风险场景问题不大，但如果是高风险场景，就要非常小心，虚拟形象能够做什么，什么不能做，要把界限划清楚，比如心理陪伴机器人，要评估它说的话带来的长期心理影响是什么样的。
下一代人工智能应该是可解释的
人工智能不离开算法，算法公平和算法歧视话题也备受关注。国外一些研究和媒体报道提到，算法开发者或算法本身根据大数据积累存在种族、性别、文化等歧视的可能性。
对此，梁正表示，算法是依据数据训练出来的，数据的有偏性是导致算法本身有偏性的一个主要原因。所以，算法歧视不是算法造成的，是社会本身造成的，是算法本身的技术特点所导致的，使用大量已经带有倾向性的数据，算法也就会作出一种倾向性的判断。
梁正指出，要想改变这种偏见，首先要纠正社会偏见。所以在使用数据的时候，要进行人工干预，在统计学上可以通过一些模拟数据来做一个平衡，但根本上是要赋予人工智能以常识，要把一些因果的因素考虑进去，而不是单纯只依赖于这种数据。
“绝对的算法公平并不存在。” 梁正认为，算法公平具有多维性，常常面临“不可能三角”式的挑战。在公共管理领域中，起点公平、过程公平、结果公平三者同时实现基本是不可能的。绝对的公平实际上在算法的设计中其实也是做不到的，关键取决于你要什么样的目标。
梁正表示，要实现人工智能可知、可信、可控、可用。可知也就是可解释，这是最基础也是最复杂的层面，下一代人工智能应该是可解释的，如果说它不能够被解释的话，就会限制它很多方面的应用和大家对它的信任。算法可解释，这种条件下才能够放心去使用它。
“现在最大的问题就是黑箱，现有的人工智能是基于数据训练出来，你不知道中间发生的事，而新一代的人工智能就是要在数据的基础加上知识，甚至要加上我们的逻辑，让它能够按照我们可理解的方式运行。”梁正说。(完)
标签：
相关文章
标榜股份（301181）12月21日主力资金净卖出371.10万元
截至2022年12月21日收盘，标榜股份(301181)报收于35 66元，下跌3 2%，换手率6 39%，成交量1 44万手，成交额5136 43万元。12月
挂牌价24万/平重现，一线城市首现二手房参考价“隐退”:当前动态
12月21日，有市场消息称广州取消二手房参考价，不过《每日经济新闻》记者从贝壳、链家等平台获悉，原本清一色标有二手房参考价的小区，目前已
H5开屏从龟速到闪电，企微是如何做到的
导读｜H5开屏龟速常是令开发者头疼的问题。腾讯企业微信团队对该现象进行分析优化，最终H5开屏耗时130ms，达到秒开效果！企微前端开发工程师陈
【手慢无】23.8英寸144Hz电竞显示器到手666元
创维F24G3显示器目前在京东的售价699元，本身已经是同类产品中较低的价格了，但还参加满699减33元的优惠，因此最终到手价666元，数字相当吉利
当前信息：一拖股份: 一拖股份关于与采埃孚一拖（洛阳）车桥有限公司2023年日常关联交易的公告
证券代码：601038 证券简称：一拖股份 公告编号：临 2022-57 第一拖拉机股份有限公
严为民：破位趋势，注意减仓！
说回盘面，今天这个突如其来的大阴线太匪夷所思了，本来预计是一根大阳线，因为上周四的地量以及上周五的地价以后的转折，全市场对于重要会议
今头条！建立学习分享平台 灯塔工厂激励中小企业数字化转型
编者按：党的二十大报告明确提出，“加快建设制造强国”“推动制造业高端化、智能化、绿色化发展”，为中国制造业高质量发展指明了方向。灯...
压垮庞麦郎的最后一根稻草究竟是啥？多维度解析精神病人庞麦郎
3月11日晚，庞麦郎经纪人白晓发布视频称庞麦郎因患有严重的精神分裂症，被强制送进精神病院，还称庞麦郎犯病时一度想要杀了他。对于经纪人小白
承德露露董秘回复：公司充分调动员工积极性，激发全体员工活力，强化绩效考核管理，增强执行力及团队凝聚力:环球热资讯
承德露露(000848)12月19日在投资者关系平台上答复了投资者关心的问题。
热推荐：《萌探》第四期来袭，预告却“惹怒”观众，粉丝怒斥导演太不走心
《萌探探探案》是当下比较热门的综艺，节目邀请到了孙红雷、那英、杨紫、黄子韬的助阵，还没开播就备受粉丝期待，不过这样的期待并没有持续太
马思纯的妈妈看起来好有气质，怪不得是蒋雯丽的亲姐姐！ 环球快看
马思纯的妈妈看起来好有气质啊，怪不得是蒋雯丽的亲姐姐，这姐俩长的还挺像，一看就是很有文化的人！近日，马思纯妈妈参加了亲友的婚礼，现场
北京双奥背包频繁出镜，塞尔维亚老记：“14年前曾背着它见证梅西夺冠”
大河报·豫视频特派卡塔尔记者王玮皓在卡塔尔采访世界杯，各国记者们每天带着笔记本电脑穿梭于赛场之间，第一时间发布赛事消息。一个背包，...
纽约金价小幅上涨
证券时报e公司讯，纽约商品交易所黄金期货市场交投最活跃的2023年2月黄金期价16日收于每盎司1800 2美元，涨幅为0 69%。市场分析人士认为，当天
热门-通源环境(688679):独立董事关于第三届董事会第十一次会议相关事项的独立意见
安徽省通源环境节能股份有限公司独立董事关于第三届董事会第十一次会议相关事项的独立意见根据《上海证券交易所科创板股票上市规则》《关于在
世界单站容量最大柔性交流输电设备群投运
世界单站容量最大柔性交流输电设备群投运,7月19日，750千伏沙州变电站2组180兆乏静止无功补偿装置（SVC）完成各项试验验证及试运行，与
12月15日基金净值：东方红创新趋势混合最新净值0.7132，跌0.1%:焦点短讯
12月15日，东方红创新趋势混合最新单位净值为0 7132元，累计净值为0 7132元，较前一交易日下跌0 1%。历史数据显示该基金近1个月上涨0 15%，近3
*ST尤夫: 关于公司股票可能被终止上市的风险提示公告-今热点
证券代码：002427 证券简称：*ST 尤夫 公告编号：2022-118 浙江尤夫高新纤维股份有限公司
涨停雷达：物流个股异动 音飞储存触及涨停
（原标题：涨停雷达：物流个股异动音飞储存触及涨停）今日走势：音飞储存（603066）今日触及涨停板，该股近一年涨停6次。异动原因揭秘：1、近
怎样处理民事纠纷啊?有什么具体的法律规定?-世界实时
你问的调解根据主持调解的第三人身份的不同，可分为民间调解、人民调解、行政调解等。民间调解一般不要求主持调解的第三人具有特殊的身份。比
淅川县公共资源交易中心：强化信息公开 提高交易透明度
今年以来，淅川县公共资源交易中心以信息化建设为抓手，通过推行招标计划提前发布制度、招标文件全面公开、交易流程“一屏统揽”等措施，持...
《釜山行2》：不折不扣的“烂片”，到底“烂”在哪里？
不知道各位有没有看过前几年由韩国拍摄的《釜山行》。这一部电影刚上映的时候就可谓是掀起一波关于人性的讨论热潮。在东南亚地区可谓是火的一
环球要闻：网贷逾期104万还不起产生什么后果
1、产生罚息这是金钱上的损失。如果信用贷款出现逾期，贷款机构会先电话催收贷款，提醒借款人还款，同时利率还会上浮，作为每天的罚息。虽然每
环球今日报丨斛珠夫人：方诸解毒成功，与帝旭解除柏溪，与方海市隐居海边
方海市醒来去见方诸，问找她何事？方诸说有话说，随后将方卓英寄来的信给她看，方卓英打败夺洛，瀚洲再无战争，昶王伏法，方海市以为师父又想
即时：第一星运 2022年金牛座12月运势
金牛座2022年12月运势心情阳光指数：★★★★健康状况指数：★★★爱情状况指数：★★★★金牛座2022年12月整体运势：8分2022年12月，金牛座的
宝新金融(01282.HK)盘初显著拉升，涨约15%:世界简讯
宝新金融(01282 HK)盘初显著拉升，涨约15%。今日起，公司合并股份进行正式买卖。截至11月25日，公司南下资金持仓占比达到57 42%。截至发稿，宝新金
当前快报:三木集团（000632）12月9日主力资金净卖出1420.34万元
12月9日的资金流向数据方面，主力资金净流出1420 34万元，占总成交额3 46%，游资资金净流出33 73万元，占总成交额0 08%，散户资金净流入1454 0
*ST华电B（900937）12月8日主力资金净卖出20.58万元:当前视点
截至2022年12月8日收盘，*ST华电B(900937)报收于0 18元，下跌4 23%，换手率0 63%，成交量2 74万手，成交额50 12万元。12月8
涨停雷达：PET铜箔个股异动 沃格光电触及涨停
（原标题：涨停雷达：PET铜箔个股异动沃格光电触及涨停）今日走势：沃格光电（603773）今日触及涨停板，该股近一年涨停4次。异动原因揭秘：1、
