互联网金融

您的位置:主页 > 互联网金融 >

AI造假 vs AI打假 终结“猫鼠游戏”不能只靠技术

发布日期:2020-07-24 08:31浏览次数:
人脸识别作为生物识别中的最重要手段,沦为了近年身份辨识中最热门的领域。但与人脸识别技术联合发展的,还有利用机器学习系统、图像视频和音频内容,变更人脸、物体或环境呈现出方式的深度假造技术。随着这一技术的日益成熟期,其引起的诸多社会问题也开始突显。在对付欺诈视频方面,目前各方在谋求技术突破的同时,也致力于在制度建设方面作出转变。俗话说眼见为实,人们往往对看见的图像、视频深信不疑,而随着Photoshop、美图秀秀等图像编辑软件的蓬勃发展,人工智能不实技术的更替,图像伪造显得更加更容易,假图片、假新闻等在网上泛滥成灾,人们也越发不敢相信自己的眼睛。为了应付美国议会选举季期间高发的欺诈信息,近日,谷歌要求使出,以AI清领AI。有专家认为,深度假造技术(Deepfake)是AI发展到一定阶段的产物,随着这种技术的发展,适当的检测技术也不会更加先进设备如同猫捉老鼠的游戏,将是一场永无休止的竞赛。

AI造假 vs AI打假 终结“猫鼠游戏”不能只靠技术

假视频更加细致2019年11月,在北美公映的电影《爱尔兰人》反响冷淡,其中令人咋舌的是电影特效制作公司运用虚拟世界影像修复技术,将片中主角们集体减龄,沾平年近80岁演员们容颜上的岁月痕迹,使之新的绽放青春。这种让耄耋之年的演员重返年长模样的换回脸技术无非让观众心头一如雷。Deepfake专指基于人工智能的人体图像制备技术,主要应用于换回脸,其在很多领域有大力的商业价值,但是一旦被黑产识破用于谋利工具,则不会给个人和社会带给风险和挑战。远眺智库人工智能事业部部长、图灵机器人首席战略官谭茗洲讲解说道。这其中最备受争议的是换回脸技术被一些情色网车站利用。不久前,网络上窜红的一键偷窥软件DeepNude,只要输出一张原始的女性图片就可自动分解适当陈冠希,并且分解照片不存在着广泛传播的风险,最后在各方压力下这款APP被下架。不仅如此,不久前还经常出现了语音版的Deepfake。加拿大一家创业公司研发出有的语音合成系统RealTalk,仅有基于一定的文本输出才可分解和真人声音十分相似的声音。展示中,系统仿效了美国一位知名脱口秀喜剧演员、主持人的声音,以至于本人听得后高喊知道可怕。而未来这种技术还可能会发展到只需几秒钟的音频素材,即能造出他人声音的程度。让人更加困惑的是,Deepfake技术让欺诈信息如虎添翼,特别是在在社会重大事件中需要起着强大加热起到,以至于可能会影响到人们决策以及社会平稳。据涉及文献,2016年美国总统大选前的一个月内,每个美国网民平均值不会认识13篇假新闻。2020年初,新冠肺炎病毒席卷全国,就有造假者运用上述技术假造钟南山院士讲话,而针对辟谣的百度搜寻指数(1月19日1月25日)与去年春节期间比起,快速增长了5.4倍。以AI清领AI追查假视频自Deepfake2017年年底首次经常出现以来,随着其技术的开源,制备剪辑视频的数量大大快速增长。要对付假视频,就要在网络海量信息中,较慢寻找欺诈图片,并对图像识别后精准萃取其中语义,这也是目前人工智能算法上的核心研究发力点。谭茗洲回应。要辨识欺诈视频,首先,我们来分析一下Deepfake都有哪些招数。目前图像伪造类型主要分成复制粘贴、拼凑、图像修复/局部区域除去和人脸PS四大类。行业专家曹娟博士近日在拒绝接受科技日报记者专访时认为,既有的检测方法主要基于手工特征方法和深度自学的方法,前者还包括基于图像的物理属性(光照不倒数、阴影不倒数、色差等)、照相机属性(颜色滤波阵列、传感器噪声、EXIF数据分析等)、传输痕迹(DCT系数、块状效应等)、像素级属性(复制粘贴、轻取样等);后者还包括Encoder-Decoder模型、约束卷积模型和Multi-domain模型等。魔高一尺,道可高一丈吗?近日,谷歌母公司Alphabet旗下的Jigsaw合力Google Research、美国马里兰大学等多家研究机构,研发了取名为Assembler的实验平台,目的协助应用于者通过非常简单操作者,较慢辨识Deepfake,增加AI技术欺诈所带给的损害。谭茗洲讲解:实质上,这个平台是把多个图像检测器集沦为一个工具,每个检测器都针对特定类型的图像展开处置。比如,有的检测器能辨别图像否有复制粘贴痕迹,检测主要注目图像颜色、噪点等。明确而言,其机器学习模型既能利用图像的颜色值来查询出现异常,也能检查图像的噪点模式否不存在不完全一致。算法上,需要查询被编辑过的JPEG传输图像区域外观相近的区块,以辨别其中一个图像否被复制粘贴到另一个区域上。

AI造假 vs AI打假 终结“猫鼠游戏”不能只靠技术

然而,现实场景中,媒体常常面临的是经过简单处置后编辑的低分辨率的图像,这就给检测技术带给新的挑战。光用底层算法无法精确逃跑图像上损失丢弃的伪造痕迹,还必须融合高层语义算法来辨识。曹娟说道。曹娟更进一步认为,现有检测假视频的方法仅存在三个主要局限性。第一,通用性过于,大部分检测只针对特定类型的伪造,如何找寻伪造的联合属性,让模型能应付多种伪造类型是未来的研究重点之一。第二,对付能力过于,目前伪造手段大大隐密,经过简单的处置,伪造痕迹往往不会消失,造成检测性能大大上升。如何提升模型的鲁棒性,应付各种现实的应用于场景,是未来的核心任务。第三,目前的方法基本都是对图像区分出小块,再行逐块处置,十分耗时乏资源。资源共享确保信息现实的生态体系国际咨询公司Gartner曾预测:到2020年,互联网欺诈信息或产生更大危害,基于人工智能技术的不实能力或将近超强欺诈检测的能力。2018年3月,《科学》杂志刊出的一篇论文认为:近年来欺诈新闻的蓬勃发展,突显出互联网时代现有的对付错误信息制度和技术的严重不足,目前迫切需要修复一个确保信息真实性的信息生态系统。如今更加最重要的是提高针对性的检测技术、完备涉及法律及证书机制。谭茗洲特别强调。2019年9月5日,脸书(Facebook)涉及负责人宣告,脸书于是以与微软公司牵头还包括美国麻省理工学院、英国牛津大学、美国康奈尔大学等在内的多所大学研究检测Deepfake的方法,同时非营利性研究的组织Partnership on AI也参予其中,该的组织的成员还包括谷歌、苹果、亚马逊、IBM等大型科技公司。曹娟讲解说道,在研究方面,除Assembler平台之外,目前国内做到的较为好的有中科院计算所、中科院自动化所、北京交通大学、中山大学、深圳大学等,国外的美国加州大学伯克利分校、美国宾汉姆顿大学、美国马里兰大学等。同时,很多企业和研究机构也在大力研发简单的图像伪造检测工具和平台,如美国Amped Software公司研发的Amped Authenticate工具。2019年11月29日,国家互联网信息办公室公布《网络音视频信息服务管理规定》,拒绝网络音视频信息服务提供者应该具备与新技术新的应用于发展相适应的安全性高效率的技术确保,部署违法违规音视频和非现实音视频辨别技术。专家建议,预防欺诈视频,有关部门要创建涉及管理制度,尤其是新闻视频、新闻内容管理方面;在传播渠道上,要创建过滤器机制,在技术上构建高效过滤器,并且还要对所有不实视频音频构建本源,同时,减少对检测技术研发资金的投放,唤起技术创新。

微信扫码 关注我们

  • 24小时咨询热线

    24小时咨询热线022-80369015

  • 移动电话11364381722

Copyright © 2002-2020 球探体育比分 版权所有 地址:上海市上海市上海区攀视大楼3794号 备案号:备案中 网站地图 xml地图