线上太阳城网址:“AI换脸”引发信任危机 人工智能如何才能走得更远

文章正文
2020-01-14 17:34

因为手艺逐渐成熟,线上太阳城网址:通俗人被计算机病毒熬煎得苦不堪言的日子,彷佛已经逐渐远去。然而,另一场愈加荫蔽、杀伤力更大的“病毒危机”,正在向人类悄然逼近。

新兴的人工智妙手艺,为人类增添便当的同时,也带来了隐患。有立功团伙使用AI手艺制作虚伪视频骗取财帛,非法分子将女明星的脸换到色情视频上发售……一条条使用AI手艺作恶的黑色产业链正在悄然造成,让不少人蒙受财帛、光彩损失。

换脸手艺翻开的“潘多拉魔盒”

有“换脸神器”之称的Deepfake,诞生之初,它只是一项有趣的手艺。因为其传神的效果、开源获取的便捷,被不少手艺人士拿来制作各种好玩的视频。好比“AI换脸”刚流传到国内的时候就曾在社交媒体上掀起了一波热潮,有人将杨幂的脸换到了朱茵饰演的黄蓉身上,视频中顾盼神飞的全新“蓉儿”取得了不少网友的青睐。

但在让人哈哈一乐的同时,因为小我信息能够被随意“把持”,AI换脸被滥用的负面影响也在全面发作。有人收到伴侣发来的“借钱视频”而大方解囊,结果随意上当;被伪造视频而处于谣言中心的当事人,眼睁睁看着自身名誉受损而合家莫辩;在波及到巨额金钱往来时,若是遭遇对方信息材料造假,有可能会倾家荡产……这些种种“AI造假”信息不但会给小我带来不成挽回的损失,还可能引发庞大的社会风险。乃至有人以为,AI换脸视频足以误导民意,威力堪比“核兵器”,好比美国就曾流出国家向导人被恶搞的视频,怂恿政治暴力、粉碎推选、侵扰外交。

目前,“人人都怕换脸术”的恐慌,已引起国家有关部门的高度关注。本年1月1日起实施的《搜集音视频信息办事办理规定》中就对此作出规定:AI造假音视频不得随便发布,要“依据国家有关规定发展安适评估”,并“以显著体例予以标识”。

人工智能作为一种新兴手艺,除会被滥用之外,其手艺本人的安适风险也足以引发忧虑。在去年10月举行的国际安适极客大赛中,参赛职员通过在胸前上放一张打印有“图像噪音”的纸片,就可以逃脱智能监控体系的识别,实现“隐身”。

“这并不是无中生有,而是模拟了真实的人工智能攻击场景。”来自北京瑞莱智慧科技有限公司(简称RealAI)的算法科学家萧子豪如是说道。在去年的国际安适极客大赛中,RealAI与清华结合战队包揽了“CAAD CTF图像匹敌样本挑战赛”及“CAAD隐身挑战赛”两项冠军,萧子豪就是该战队成员之一。人工智能有时候会犯一些在人类看来“很傻的谬误”,是由于目前以深度学习为代表的人工智能存在一大安适盲点——匹敌样本,即在原始图片上增多肉眼无法察觉的噪声就能够歹意误导AI识别算法输出非预期的结果。

此外,基于深度学习的人工智能实质上相当于一个“黑箱”,是“不成解释”的。“也就是说,我们输入一个数据,人工智能会反响一个结果,但是这个结论是若何得出的,我们完全无法得知,所以乃至有时候人工智能犯错了,我们也无法解释背后的起因。”萧子豪说。

人工智能亟待打破“天花板”

关于人工智能安适性的担心,一方面必要寄托法律律例和政府监管来约束,另一方面,必要从泉源增强安适评估,提拔辨别手艺等才能,借助手艺伎俩提早规划。

2018年6月,清华大学人工智能钻研院揭牌成立,以“一个核心、两个交融”作为开展战略,即以人工智能根底实践和根本方法钻研为核心,积极推进大跨度的学科穿插交融,积极推进大范围的手艺与产业、学校与企业交融。

在多年钻研的根底上,中科院院士、清华大学人工智能钻研院院长张钹教授提出了“第三代人工智能”的概念。张钹院士以为,人工智妙手艺开展至今,已经履历了两代模型。第一代是知识驱动的符号模型,好比专家体系;第二代是数据驱动的机器学习模型,如深度学习、概率统计模型,目前正处于前所未有的郁勃期间。

“然而这两代手艺都存在天然的局限性。” 张钹院士说,目前的人工智能尽管开展十分快,但是也只在图像识别、语音识别等方面获得了比较明显的打破。若是碰到数据知识缺乏、非完全信息、不确定性等场景,这两代人工智能根本上就变得“机关用尽”了。

“现在的人工智能体系是十分懦弱的,容易受攻击或者坑骗。”张钹院士说,基于深度学习的人工智能体系不但必要寄托大数据“喂养”,并且不成解释,存在十分紧张的缺陷,“这个缺陷是实质的,由其根本实践方法本人引起的。”

也正因而,在一些真正重要的关键领域,好比自动驾驶、金融营业决策和医疗诊断等现实应用场景中,人工智能的进一步开展和应用还面临着很大的问题。

在他看来,以深度学习为代表的第二代人工智妙手艺正在逐渐触及“天花板”,亟需开展下一代人工智妙手艺,也就是安适、牢靠、可信的人工智能。尤其,安适性将成为下一阶段人工智能开展必需的根底。一旦轻忽人工智能的安适问题,未来将难以持续安康的鞭策AI手艺在更多场景的落地。

“AI安适”市场前景可期

作为“第三代人工智能”概念的提出者,张钹院士所率领的清华钻研团队早已规划了相干领域的钻研,好比将第一代和第二代人工智能的手艺上风相连系,构建了基于贝叶斯深度学习的第三代人工智能根底算法,从而翻开了通向“真正人工智能”的一扇门。

在手艺开展的同时,张钹院士也倡导将其产业化。张钹说,作为钻研型机构,清华大学AI钻研院的本分是要搞勤学术钻研,“但是AI又与应用连系相当慎密,因而我们的钻研必然要产生出算法,钻研院要孵化出AI新产业,乃至成为人工智能界的BAT。”RealAI就在此配景下应运而生。

作为清华大学人工智能钻研院的核心孵化企业,RealAI由清华大学人工智能钻研院院长张钹院士、清华大学人工智能钻研院根底实践钻研中心主任朱军教授联席担任首席科学家。正如其名,RealAI希望不停打破AI手艺界限,探究“真正”的人工智能,以引领第三代人工智妙手艺的产业化开展。

针对目前在社交媒体平台上引发“虚伪信息洪流”的Deepfake换脸视频,萧子豪体现,“除了波及隐私泄露、身份危机、光彩风险等小我安适问题,这背后的潜在效应还可能伸张到群众的信息获取和社会信托层面,引导公众言论、引发社会信托危机。”对此,RealAI麻利研发出了一款检测工具,可一键实现对伪造视频停止自动精准识别,识别精确率高达90%以上。

RealAI高级产品司理张旭东告诉记者,该检测工具基于第三代AI手艺,利用无标注数据和无监视的深度天生模型来天生高传神度、可控的假数据作为数据储备,然后使用这些高质量数据引导模型自动学习出具有强判别性的识别特性,提拔对伪造痕迹的识别才能,进而分辨出造假视频。据悉,这款产品可以在虚伪内容甄别、线上材料审核以及影像物证真实性检验等现实应用场景中发挥作用。

“AI安适切实是个很大的话题,未来将可能开展成与搜集安适同等规模的市场。” RealAI首席执行官田天体现,真正做到保障AI安适始终不是一小局部人的事,必要联动社会各界气力,从监管机构、AI科技企业到通俗公众配合器重、配合发力能力真正从基本上使其良性开展。

在人工智能开展的过程中,安适问题将会是一个攻防两端不停匹敌演化的动态过程,“攻击”和“防御”的两边博弈将会不断存在。“RealAI未来会继续践行安适可控的手艺理念,深耕人工智能安适领域,为人工智能行业的安康开展保驾护航。”田天说。

(责编:赵竹青、吕骞)

文章评论