腾龙公司客服近来，不少网友发文称，短视频渠道上，疑似知名医师张文宏正在售卖一种蛋白棒，家中老人信以为真而很多下单。但仔细辨认能够发现，带货视频为AI组成。张文宏本人回应称，这些假的AI组成信息就像蝗灾一样，一次又一次产生，像漫天飞过来的蝗虫一样害人。
不只是张文宏，网络上的“AI名人”已成泛滥趋势：“假靳东”迷倒一众大妈、“假雷军”辣评世间百态、“假拜登”宣布第三次世界大战开始、“假马克龙”直播答复“政府聘用灭霸”……
而更早之前的韩国Deepfake(深度假造)性违法工作，不只让韩国整体女人陷入“换脸恐慌”，更是引发全球关注，大众担心一种更广泛的、充溢敌意的网络环境开始进入实在世界。
人工智能方兴未艾，大众该怎么面临新一代的“施虐者”？
女孩相片被盗成色情视频
群组内容不堪入目
河北保定女孩欣欣(化名)从未想过Deepfake会产生在自己身上。
本年7月9日，正在刷抖音的欣欣突然收到了一条私信，被网友告知有自称其男友的人在外网盗用她的相片后进行AI换脸并传达。
腾龙公司官网“我听到这个音讯之后有些震动且不敢相信，但真的看到这些相片后，我感到无比愤恨。”欣欣告知记者，对方不只制作很多AI换脸的不良相片与视频，还随意走漏了自己的个人信息，包含网名、真名、年纪、学校、专业等等。
欣欣随后通过多个途径进行了查验，这些相片和视频均是对方从自己的小红书转移，经加工处理，制作出不堪入目的色情印象。欣欣第一时间选择报警并咨询律师，开始固定更多依据。
“当天晚上8点多，我报警存案，当时我没有扫除熟人或者陌生人的各种可能性。后续我通过各种账号套话，得知对方了解我的家属关系等更隐私的信息，我就逐步缩小了嫌疑人范围，心中也有了怀疑的目标。”欣欣随后发布了一条仅对方可见的朋友圈，且把内容做了特别符号，很快这条内容出现在外网。
欣欣把这条直接依据交给了警方，不久后警方给出处理结果：对方因传达淫秽物品，被处以行政拘留十日。
“没想到Deepfake离自己如此之近，更没想到施害者便是身边的熟人。”欣欣说，在处理这件工作的过程中，她了解到身边有许多女孩子在遭受类似的工作，甚至更严重。她们被走漏个人隐私、被诽谤、被AI换脸、被性骚扰等等。
欣欣告知记者，由于这段阅历，短暂接触过几个软件，上面有成百上千的群组，群组里多的有上万人，里面内容不堪入目，充满着各种女生的AI换脸相片与视频，以及诬蔑、诽谤、诽谤的话，恶心程度超出幻想。
“由于诽谤成本低，他们甚至不需要完好图片，只需要一张脸部图片就能完成一切，而且很难被抓到，这使得他们愈加肆意妄为。”欣欣说。
普通人难辨认深度假造内容
专家：请勇敢举报
正如欣欣所言，产生在身边的Deepfake违法工作并非个案。
由英文“deep machine learning”(深度机器学习)和“fake photo”(假相片)组合而成的Deepfake(深度假造)，能基于人类行为特征如面部、声响等组成图像、视频、音频。当时这一技能，正被滥用成为针对妇女暴力、诈骗违法的新前沿。
据新华社报导，韩国教育部9月9日说，韩国本年已产生400多起触及中小学生的相关案子，受害者累计超越600人。
与此同时，韩国用户运用的交际媒体Telegram上，被发现存在多个传达和分享该类型色情内容的群聊，其间已知最大的一个聊天室成员超越22万人。这类性违法工作的受害者人数尚难以计算。已知的被涉及群体，包含女学生、女教师等，其间包含很多未成年人。
近段时间，在一些国内的短视频渠道上，除了“AI名人”，“AI接吻视频”也非常流行。有博主宣称只需要下载一个软件，花费9.9元就能够完成。看着两个毫无关系的相片人物“活生生”亲吻拥抱在一起，不少网友直呼可怕。
腾龙公司网址融力天闻律师事务所高档合伙人刘赤军律师告知记者，Deepfake之于视频，就像Photoshop之于图片，两者都直观冲击了实在和虚拟之间的边界。但Deepfake能够实现以极低的成本，制作出完全虚拟又极其传神的视频。
奇安信行业安全研究中心主任裴智勇表明，深度假造，一般是指利用人工智能技能，生成高度传神的视频、音频、图片、文案等内容。这些内容多被用于网络欺诈、制诽谤言、扰乱公共秩序和生成各类色情内容。这些假造内容大多运用了人工智能技能中的深度计算技能，辨认难度很大。
“让普通人用肉眼或耳朵来辨认深度假造的视频、音频内容是不现实的，由于深度假造自身就意味着难以辨认，没有通过专业训练的普通人很难从技能视点识破深度假造内容。”裴智勇说。
在他看来，虽然想要阻挠人们运用AI生成假造视频或图片不现实，但这并不意味着对歹意造假者无计可施：“国内关于网络色情视频和图片都有非常老练的治理方法，即便不能用技能辨别真伪，也能够从渠道一侧阻挠色情内容的传达，定位色情内容的传达源头并施行冲击。”
腾龙公司官网裴智勇提示，在自拍、短视频盛行的年代，当大众遇到有人运用假造视频、音频等内容对财产损害、名誉损害时，最好的方法仍是及时报警或向渠道进行举报，减少深度假造内容带来的影响。
