深度合成科技是进步还是危害？
发布时间：2022-03-05 15:53:38 所属栏目：大数据 来源：互联网
导读：近年来，视频换脸、合成语音、修复影像、虚拟数字人等越来越频繁地出现在社交娱乐、影视制作、教育、广告营销等领域，发展出多元化的商业应用。这些应用的背后，是深度合成技术的广泛应用。据统计，2021年新发布的深度合成视频的数量较2017年已增长10倍以上
 近年来，视频换脸、合成语音、修复影像、虚拟数字人等越来越频繁地出现在社交娱乐、影视制作、教育、广告营销等领域，发展出多元化的商业应用。这些应用的背后，是深度合成技术的广泛应用。据统计，2021年新发布的深度合成视频的数量较2017年已增长10倍以上。而“元宇宙”等新商业思维的提出，也为深度合成提供了更广阔的应用场景。 在此环境下，国内相关技术领域公司是否迎来了一个全新的发展机遇？然而在技术和应用发展的同时，从深度合成技术产生之初就如影随形的负面新闻与争议却从未停止。在深度合成激发创新内容的同时，也带来了新的威胁。早在2017年，就是一位名叫“deepfakes”的用户在美国reddit网站上分享了篡改人脸的色情视频，将深度合成技术带到了大众面前。近日，美国联邦调查局警告企业小心不法人士利用虚拟会议工具，发动俗称变脸诈骗的商业电邮诈骗。行业内应如何治理“深度伪造”问题？AI反“深度伪造”检测技术的发展前景如何？ 近年来由于深度学习等人工智能技术的迅猛发展，催生了类似deepfake的一系列技术，能够以假乱真地制造各种视频，正面的效应毋庸多说，负面的影响更是剧烈，除了为不法分子的诈骗带来新的手段，更难处理的是伦理冲击。例如话题中提到的换脸色情视频，满足了一部分人的需求，又似乎对当事人形成说不清道不明的负面形象。人们普遍认为需要对此类技术进行应对，不管是基于技术层面进行反向检测还是基于法律法规以及社会道德。尴尬的是，相比之下AI反“深度伪造”检测技术则呈现“魔高一丈道高一尺”的局面。目前的深度伪造问题并不在于无法在技术上完美检测。因此问题的实质，是社会如何形成对此类生成物的规制。 可是有一个不好的消息，目前相当比例的学者普遍形成技术宿命论的共识，其大致意思是技术其实是有自己独立生命和繁衍机制的“类生命”。表面上技术都是源自人类的需求，由人类研究开发而成，属于人类文明的附属品。但事实上一项技术的诞生、采纳、普及、落后到灭亡 ，反过来对人类社会进行着深刻的塑造——仅举一例，我们现在日常说的话、行为模式、作息、价值观点等等与现代互联网、手机等技术早就脱不开干系。在这个意义上，技术和人类其实是共生关系。 所以对于“行业内应如何治理‘深度伪造’”这个问题，它其实是无解的。近几十年来，互联网、手机乃至很多社交平台不可避免地介入人们的生活，少数早期抵制的人除了自己坚决不采纳而成为离群点之外，人类社会作为整体，对于新技术并没有抵抗能力。放到“深度伪造”技术也是一样，它会和“声音合成”、“人脸识别”、“基因检测”问题一样，一起构成新人类的生活模式。 当然，悲观的远景并不意味着我们不可以主动出击做一些事情。例如，在社交媒体上出现的类似内容，要求做标注，与现在的盗版内容在网络上的治理类似。另外，内容伪造本身基于技术创新，对等地引入区块链等技术手段进行群体验证也有机会一定程度上对伪造内容进行制衡。当然我说的是在承认新技术的“类生命”基础上，塑造新的人类生存生活模式，而不是“消灭”，或者“治理”。 对于相关技术公司是否迎来机遇，这个答案是肯定的，因为有应用需求驱动因素的存在。现在元宇宙当中肯定有很多人对人脸等内容合成有着很大的需求。如今也有人也在做相关技术研究，因为需求大，那么就会有更多人去投入这一块的研究，所以这肯定是个机会。 从技术本身来说，这个是没有问题的。包括自己也在做一些人脸合成的研究，因为这个研究是很有意义的。首先从技术的进步来说，我们主要是研究如何让合成的东西更高分辨率、更逼真，毕竟真实的人脸反应变化是很难分析的。在技术本身来说是没有任何问题，但关键在于，有人把这些技术应用在欺骗上和去篡改色情视频。所以，我认为问题不是出在技术身上，而是如何去使用。未来可能需要通过制定相关的法律去解决这个问题，明确规定哪些使用是违法的。当然，行业内也是可以有一些准则。比如基因编辑，单纯技术上来讲是没有任何问题的，但是如果利用在人类身上，那就是违反了伦理。因此，我觉得还是需要相应的行业规范甚至法律的规范去约束这些技术的应用，这个是比较重要的。 有人研究如何合成篡改，相应地，也会有人研究如何去检测这个篡改。他们两者的关系如矛和盾一般，所谓道高一尺，魔高一丈。但总体而言，检测深度合成技术可能相对滞后于深度合成技术的发展。毕竟一个处在被动地位，一个处在主动地位。如同黑客攻击与反攻击一样，总是先出现了某种新的深度合成技术，然后我们才会去思考如何去检测这种新的篡改技术。但是这两种技术总是相辅相成、互相促进的，合成技术的繁荣发展肯定也会促进检测技术的发展。 和任何金融创新一样，新技术的监管是一场永恒的攻防对抗博弈，往往是道高一尺魔高一丈，如这个深度合成技术在提供服务的同时，也会产生多方面的风险。除了深度伪造的风险外，还包括自动生成内容文本、图像或者视频带来的版权和著作权的侵权风险，信息安全和隐私泄漏风险以及敏感内容的风险。 简单提一下，对于技术提供方而言，应从底层技术开始推进相关标准的建立，在算法上保证计算模型的公平性；并建议在未来出台的相关法规中，则应强制要求服务提供方对那些深度合成的内容进行标注。 “弹科技”是广东省人工智能产业协会与广东卫视《财经郎眼》围绕科技热点、行业趋势，邀请各领域的意见领袖进行点评的互动栏目。本栏目致力于为推动科技创新、科技向善提出真知灼见。 （编辑：核心网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
