脸不雅视频的事件。随后，有越人被爆出。 根据社交媒体流传的受Deepfake影响名单，有超过百所韩国中小学以及国际学校出现相关问题。有韩国官员表示，受害者可能达到22万人。 这里大家可能会有这样一个疑问：为什么多年来人人喊打的Deepfake反而愈演愈烈？ 要知道，早在2017年刚刚出现的时候，仅仅几天就遭到了全球范围的合力封杀，包括但不限于主流社交媒体的严格封禁。此后，多个国家与地区采用了立法的形式，严禁利用Deepfake以及其他AI换脸技术侵犯他人肖像权与隐私权。 做交互设计10年，我为何转岗到产品经理？ 真正转岗之后，了自己的想象。产品经理的工作确实比较杂。理论上，产品经理的
工作包括了产品的方方面面，从市场研究、用户调研、
情 > 危害难以杜绝，是因 ，让人防 手机号码数据 不胜防吗？ 答案刚好相反，Deepfake难以禁止的原因，恰恰在于其过分简单，只需要简单的技术资源就能造成巨大的破坏性影响。 而这些资源，在今天的互联网环境下能够轻而易举地获取。 01 人类最邪恶的AI技术 我想，我们没有必要从人性和动机上讨论为什么有人制作和传播AI换脸视频。只要违法成本够低，这种行为就必然无法杜绝。作为普通人，我们也难以从立法和执法的角度探讨如何打击Deepfake。我们能做的，是审视进行Deepfake的真实情况，进而考虑如何增大违法难度，压缩这种行为的生存空间。 Deepfake被很
多媒体称作“人类最邪恶的AI技术”。这种描述有其合理性，但也客观上对Deepfake进行了妖魔化、神秘化的修饰，让不了解的人将其与黑客、勒索病毒、暗网等关键词联系起来，认为其非常隐秘而高深。 事实恰恰相反，Deepfake的危害性与破坏性，恰恰在于其操作简单。近乎没有任何技术学习门槛，同时其所需要的每一步帮助，都可以在公开的互联网环境中堂而皇之地获取。 试想一下，韩国的22万名受害者，不可能都是某几个技术大牛进行的施暴。当普通人可以随时随地，没有成本地作恶，恶意才真正难以被遏制。 之所以这样说，是我们必须先了解Deepfake的具体流程。一般来说，使用Deepfake进行AI换脸，需要经历以下几个步骤： 1.准备Deepfake相关软件，或者找到具有类
似功能的在线AI开发平台。 2.准备要进行人脸替换的视
频，对视频进行照片化切图。 3.挑选出若干照 没有客户知识就没有忠诚度 要替换的人脸并进行操作。俗称切脸，提脸。 4.将准备好的照片进行覆盖，进而进行模型训练。这一步对于缺乏技术功底的人来说，大概率需要预训练模型来辅助训练。 5.训练完成，生成视频。 从这个流程中我们可以总结出，想要进行一次有危害性的Deepfake最多只需要四件东西：AI换脸软件、预训练模型、被换脸的视频、受害人照片。 获取这些东西过分容易，就是Deepfake百禁不绝，反而流毒更广的核心原因。 02 寻觅受害者信息，现成的社交网络摆在那里 我们可以来分步骤看看，Deepfake的“作案工具”究竟来自哪里
讨论这些的原因绝不是希望普及相关知识，而是希望
指出互联网环境下，留给Deepfake作恶者的机会与 银行电子邮件列表 漏洞究竟在哪里。这些漏洞不被斩断，仅凭道德层面的号召倡议，或者对AI换脸视频的技术识别，是断然无法组织别有用心者的。 首先，AI换脸必然需要受害人的照片。根据相关技术社区的分享，最初版本的Deepfake大概需要50张、多角度、高清晰度的照片，才能实现较为自然的视频合成。但经过几年的迭代，目前只需要20张左右的照片就可以实现。 试想一下，对于稍微有社交媒体分享习惯的朋友来说，20张照片被盗用简直是轻而易举。 加上一段很容易找到的不雅视频，一场无妄之灾可能就此开启。 03 得到换脸软件，成本基本为0 得到了受害人的照片信息之后，不法分子就要找到可以进行Deepfake的软件。Deepfake的创始人最早是将软件与教程分享到了Reddit上，此后很快被官方禁止。一气之下，作者就将这款软件的代码全
