今天，Ai 在网上改头换面玩得很开心。"哪个明星喜欢，所有的电视剧主角都被他的脸所取代，如果只是简单的娱乐，似乎没有什么不对的地方。但可怕的是，你的脸很可能会被" 嵌入 " 在色情视频中，打包和销售，甚至使用面部识别技术的设备，比如你的手机、电脑、智能门锁等等，也很容易被人工智能打破。有些人用人工智能视频伪造，或犯罪，这似乎没有多大的乐趣。

面部扫描支付、人脸识别……不可否认的是，人工智能技术给人们的生活带来了极大的便利。但我们也应该正视人工智能技术还处于发展初期，还面临着一些挑战的事实。" 清华大学教授、清华大学人工智能研究所基础理论研究中心主任朱军说。

任何技术都是一把双刃剑。当人工智能技术应用到越来越多的场景中时，人工智能算法本身的脆弱性所带来的安全问题必须得到足够的重视。与此同时，人工智能技术的滥用也会带来安全风险，如隐私和道德问题。当人工智能开始触及边界问题时，安全问题已成为人工智能发展过程中必须考虑的问题。张旭东，北京瑞莱智慧科技有限公司高级产品经理。有限公司（以下简称 RealAI)，在接受 "科技日报" 采访时说。

技术漏洞导致人工智能安全问题

回家，走到单位大楼的门口，刷一下脸，门就打开了。面部解锁已经成为生活中最常见的人工智能应用场景之一。然而，很少有人会认为当前的人工智能算法存在明显的 "安全盲点"。

RealAI 团队已经做了相关的研究：针对识别算法的脆弱性，它可以产生一种叫做反样本的 "噪声"，恶意误导人工智能算法输出意想不到的结果，并导致识别系统产生错误。团队成员通过打印一张纸来对抗样本的 "噪音"，成功地在识别系统下使主题 "不可见"，如果他们将纸张贴在其他物体上，如汽车模型，他们还可以使对象 "消失" 完全在识别系统之下。此外，他们还开发了一种带有噪音的 "眼镜"，只要戴上眼镜，如果不是我自己，就能成功破解商业智能手机的面部扫描解锁，甚至还能破解门锁等其他面部识别设备。

Ai 算法的脆弱性本质上是一大类安全问题，解决安全问题往往是攻击和防御两端不断对抗和进化的过程。张旭东说。目前，主流攻击手段有更强大的防御手段，如通过训练模型去除对抗的 "噪声"，或者在检测到对抗样本后从数据中去除对抗样本，并利用攻击算法生成大量的对抗样本来训练模型以解决这些问题。

由于人工智能人脸变换技术的发展，早期人脸变化技术生成的视频中的字符往往不眨眼，肉眼可以根据一些明显的特征直接判断。然而，随着深伪造技术的不断发展，这些识别方法已不再有效。

面对这种情况，我们将根据市场上流行的人脸变化算法生成大量的训练样本，然后结合贝叶斯学习来处理尚未出现的新的虚假视频。简单的理解，就是基于主流甚至更领先的一代技术来产生大量真实的假视频，然后利用这些假视频来训练新的模式。假视频越真实，模型的分辨率就越强。张旭东说。

必须遵守技术和法规的两个层次。

张旭东说："人工智能技术被滥用的最明显的问题是，个人信息很容易被‘操纵’，这可能导致隐私披露、身份危机和更隐秘、更难以察觉的新的地下产业，比如色情地下产业、金融欺诈等等。

此外，人工智能技术滥用的潜在影响将蔓延到公众获取信息和社会信任的程度，引导公众舆论，引发社会信任危机。例如，美国已经从国家领导人被欺骗的视频中流出，制片者利用视频煽动政治暴力、破坏选举和破坏外交。从长远来看，难以说实话的公众无法选择是否相信。如果他们选择相信，他们可能会继续为违法者带来机会，如果他们选择不相信，他们可能导致长期的社会冷漠。

张旭东说，人工智能安全问题层出不穷，迫切需要遵守技术法规的两个"层次"，同时要把社会各方面的力量，从监管机构、人工智能技术企业到广大公众的力量联系起来，才能真正从根本上使其良性发展。

令人高兴的是，人工智能安全问题已引起相关国内监管机构的注意。此前，网络信息办公室正式发布了"网络音视频信息服务管理条例"，指出从2020年1月1日起，人工智能伪造的音视频不得随意发布。新条例对人工智能伪造音视频有四项主要规定：按照国家有关规定进行安全评估；对不真实的音像信息进行重大标识；不使用人工智能伪造技术发布虚假新闻；部署人工智能虚假音视频识别技术；完善排除谣言的机制等。

张旭东说："当然，最有效、最可行的解决办法仍然是依靠技术制衡。"张旭东说，这主要包括两个方面：一是开发高精度人工智能检测算法和检测产品，阻止虚假内容从源头传播；二是开发相应的"防火墙"技术，从防御端投射高墙，确保配备人脸识别系统的公共安全设备牢不可破。