“深度造假正成为全球稳定的最大威胁之一, 在假新闻和严重的网络风险方面.——约瑟夫·卡森，Thycotic公司首席安全科学家
他们是假装的，而且一天比一天好
即使你以前没听过这个词, 你可能在网上看到过几十个深度造假视频，但你可能不知道. Deepfakes—derived from “deep learning” (a subset of AI) and “fake”—are media that have been forged or manipulated with the help of 人工智能; most often, 使用机器学习技术将现有的图像或视频组合或叠加到原始材料上. They’ve been around for a while; back in 1997, the Video Rewrite Program 是第一个修改现有录像的人吗 描绘一个人说话的腔调和他们原来说的不一样. 从那时起, 深度造假的发展在学术机构内部点燃了火焰, 在线澳门赌场官方下载, 在媒体和娱乐行业也是如此.
制作这些伪造视频的技术只会越来越好. 而制片人曾经需要数百张图片来覆盖一张脸, FaceApp和Zao等现代应用 展示它是多么容易 用一张图像制作一个非常有说服力的深度假视频——所有这些都在几秒钟内完成.
几乎所有类型的技术都是如此, 工具的性质取决于它的使用者的野心和性格. 深度造假既可以用于无害的娱乐目的，也可以用于误导、欺骗和伤害. 深度造假提供了一些有趣的内容，包括 YouTube视频 《澳门赌场官方下载》的比尔·哈德尔变成了阿诺德·施瓦辛格和阿尔·帕西诺, 或者那些插入的 到处都是尼古拉斯·凯奇的脸. 机构GS&P在佛罗里达州的达利博物馆制作了一些互动镜头，以“复活”萨尔瓦多·达利, 用他们的标语 “大理生活” “艺术遇上人工智能”.”
“对于那些想要影响从股价到选举等一切事情的假新闻发布者来说，一台旨在制造逼真的假新闻的机器是一个完美的武器……人工智能工具已经被用来把别人的脸的照片放在色情明星的身上，或者把话放进政客的嘴里。.——martin Giles，麻省理工科技评论旧金山分社社长
深入到深海的黑暗深处
然而，硬币也有另一面，它一点也不漂亮. 深度造假在名人色情视频中的使用引起了越来越多的关注, 复仇的色情, 恶作剧, 金融欺诈和假新闻. 使用Facebook的应用程序分享自己的兔耳朵照片可能很可爱, 伪造视频，真实地描绘出侮辱或误导知名人物的形象——巴拉克·奥巴马, 比如马克·扎克伯格和南希·佩洛西——会引发争议, 在已经岌岌可危的social中散布虚假信息，影响政治观点.
危险是双重的:制作这种捏造的视频变得越来越容易(而且非常容易)。, 数字表现形式本身也变得越来越复杂，越来越难以辨别. 顶级深度假艺术家郝丽(他的作品包括《澳门赌场官方软件》和iPhone x)认为，在未来六个月内, deepfake视频 会完全无法察觉吗.
毫不奇怪，世界出现了信任问题. 欺诈者使用深度伪造音频来冒充CEO的声音，并欺骗了他的公司 汇了24.3万美元给他们以为是在德国的母公司. 一段疑似失踪已久的加蓬总统新年致辞的可疑视频加速了这个本已不稳定的国家不成功的军事政变. 而随后的法医分析并没有发现视频中有任何篡改, 人工智能合成媒体的想法 足以加剧加蓬的紧张、恐惧和流血吗. 模拟某人的形象或声音可以帮助垃圾邮件发送者获取个人信息，并获得进入高度安全区域的许可.
复杂的技术, 伴随着危险的意图, 它模糊了真假之间的界限，带来了前所未有的网络安全风险. 正如Deeptrace Labs的记者亨利·艾德尔(Henry Ajder)所解释的那样:“就虚假媒体看起来是真实的而言，深度造假确实对政治构成了风险, 但目前更切实的威胁是，如何利用深度造假的想法，让真实的东西看起来是假的. 关于深度造假的政治影响的炒作和相当耸人听闻的报道掩盖了深度造假产生影响的真实案例.”
除了深埋材料本身造成的危险和损害——经济损失之外, 受损的声誉, 信誉问题, 诸如此类——错误信息如何改变人们对现实的看法也越来越受到关注. “(深度造假)越来越善于让公众误以为它们是真的。” 凯瑟琳·哈里森说DeepTrust Alliance的创始人. “公众的欺骗削弱了social自我管理的能力. 不正确的信息会改变我们的客观性,这将“对一个开放和民主的social造成严重后果……特别是当我们看到这些威胁从媒体和政治蔓延到银行业时。, 保险, 和电信.——山姆·格雷戈里, 他是人道主义非营利组织Witness的项目主管, 认为破坏对媒体的信任会产生深远的影响, 特别是在政治脆弱的环境中:“它给当权者提供了另一种武器，可以对任何事情说‘这是深度造假’，而那些没有权力的人试图用它来显示腐败。.”
“reality-warping, 真正难以区分的深度造假还没有大规模出现, 但是他们来了，而目前我们还没有准备好.——henry Ajder, Deeptrace实验室通信与研究主管
防深度造假
尽管财政上, social, 政治, 道德风险, 希望就在眼前——但在我们这个数字化的世界里，保持或重新获得信任和透明度并非易事. 研究人员和科技巨头正专注于开发揭露假货的工具, 但恶意攻击者正变得越来越精明. 美国一些州已经立法将用于欺骗的虚假媒体定为犯罪, 欺骗, 或者破坏公众的稳定, 国会也在试图这么做.
Ian Goodfellow, gan(机器学习领域的突破性创新)的发明者， 希望我们能在安全方面取得重大进展，赶上坏人, 但他强调需要social解决方案, 比如教孩子们磨练他们的批判性思维能力. 他描述了辩论课如何教会他们“如何编造误导性的说法，或者如何编造正确的、非常有说服力的说法.“还有凯瑟琳·哈里森 警告说，纯粹的学术或商业方法无法解决深度造假带来的威胁. 她说:“没有解决错误信息的灵丹妙药。. “唯一成功的方法是将技术和social解决方案结合起来，解决技术的来源, 它是如何制作的, 以及它如何被人类接受和分配.”
专家们一致认为，我们都需要提高媒体素养. 考虑到深度造假, 像制作, 都将留在这里, 我们需要意识到危险，以便加以防范. 虚假信息专家、周到技术项目负责人阿维夫·奥瓦迪亚， 警告不要灌输全面的怀疑主义, 指出我们需要一个“social, 教育, “接种基础设施”，以抵消深度造假的影响.
编者按: 了解更多关于 人工智能 基本面 作为ISACA的一部分 通过了新兴技术(CET)证书.
