AI换脸检测标准+首个

今日，杭州警方纰漏 ai 大模型换脸窃取个人隐私全国首案，令人细思极恐。犯罪分子将受害人静态照片输入到模型中，再通过文字、语音提出需求，生成一段活体视频。这段活体视频可以模仿人脸进行点头、眨眼、侧脸，突破平台人脸认证，强制登录他人账号， 获取大量受害人隐私数据，出售获利。这只是 ai 技术应用乱象的冰山一角。近年来，人工智能技术迅猛发展，带来更多新机遇和更便捷服务，但新技术也往往被一些不法分子利用，成为违法犯罪的帮凶。 ai 换脸实施诈骗， ai 伪造图片、传播谣言、 ai 推销电话，让人不堪其扰。种种乱象不仅侵犯消费者合法权益，威胁人身财产安全，也阻碍了 ai 行业的健康有序发展。毋庸置疑， ai 是科技发展的重要 方向，是各国竞争的科技高地。但发展 ai 的同时，绝不能忽视其风险隐患，为狂飙的 ai 系好安全带，让其成为帮手而不是帮凶，重在加强智力和规范。在近期举行的二零二四年国家网络安全宣传周上， ai 的安全应用问题成为热门话题。 期间，相关部门发布人工智能安全治理框架一点零版，提出人工智能安全治理原则等方向性的破解思路。一些应对 ai 安全风险的黑科技也亮相网络安全博览会，比如 ai 实时建委系统针对 ai 换脸、 ai 拟声等诈骗套路进行有效识别反制。 科技从来都是双刃剑，是好是坏、是意是害，关键看握剑的人准备怎么用。在大力发展 ai 的时候，务必增强安全意识，加强相关安全技术推广应用，推动社会各方形成治理共识，让 ai 更好造福人类。

体验一下如何用 ai 打败 ai。 首先我们要采集用户的实时人脸。第二步，我们会生成假的或视频或图片，一张肯定是你刚才实时拍摄的，其他三张都是可以利用一些市面上开源的 ai 工具来生成的假的视频或图片， 然后检测和判断这些图片是实际拍摄的，还是说用 ai 工具来生成的。 其实最近也有一些 ai 欺诈，比如说韩国女性被 ai 画面造成许多负面的 ai 欺诈现象，因为我们的能力来检测出这些 ai 欺诈，然后保护用户的身份安全和他的资金安全。这边已经深层的检测结果真的很像 吃饭。 i can't imagine what the consequences would be if my deep fake phase were taken for illegal purpose in today's fast paced tech world some are using tech for malicious deeds where others are using it to safeguard on a security。 那其实第一 fake 现在是四五年前，这个技术已经有了。近年来随着 ai gc， 特别是生成深爱模型的发展，它的效果是越来越逼真，越来越难以分辨，所以我们才过来研究如何进行防御，必须要依靠魔法来打败魔法， 那现在都是在说防御，你有没有可能预判他们的预判造假的手段肯定是层出不穷的，我们在未来不一定一定要判断你是不是假的，我们可以判断他是不是真的， 相对来说真实的数据类范围小一点，我们从硬件的角度给他嵌入一些编码，就是说如果没有相应的编码的话，很有可能也就不是真实的。人脑的检测是基于我们自己的一种逻辑判断和我们的一种 直觉，但是很多时候这种直觉是不是正确的，是不是稳定的，取决于不同人的受教育程度，不同的人的直觉。而且我们人类的眼睛会偷懒，这样的情况下我们就更需要用 ai 的技术。他是一个非常勤勤恳恳的 最称职的工具人，他二十四小时可以工作，他不会偷懒，而且可以帮助我们人类去捕捉那些看不到的一些细节来最终给出一个比较好的一个答案。 in a world， where technology and humanity converge there is always a guiding light to show us the way despite the advancements in technology， the pursuit of truth and integrity will always remain fundamental to humanity。

同样可以提供 ai 万元检测的心情，可以实现观测的 ai 产量，后端的宽测的 ai 会进行相应的信息。

这里有六张人脸图，猜猜里面哪张是 ai 伪造的？但是全都是 ai， 你猜对了吗？刚才展示的只是深度伪造技术的小儿科，早在六七年前， ai 就已经可以让奥巴马说出特朗普总统是个彻头彻尾的笨蛋。尽管奥巴马从未说过这些，也不一定可能私下里说过， 从生成是对抗网络到扩散模型， ai 生成的人脸是越来越真假的变了。今年年初，香港一家跨度公司就上了当，骗子用 ai 伪造了公司首席财务官等， 通过视频会议成功骗财务给指定账户转账了两亿港币。想想看，要是哪天你好不容易给币岛的视频点赞收藏，结果赞的是个假币岛，那不是亏麻了？ 真的？还是说这个人就是假必倒呢？刚刚说话的是由中科大团队帮我制作的 ai 换脸必倒，还是很逼真的哦。但是呢，在刚刚结束的 外滩大会 ai 创新赛、全球 dfic 攻防挑战赛现场，选手们用 ai 模型居然轻而易举就识破了他，看来只有 ai 才能打败 ai 啊！但他们到底是咋做到的呢？简单来说，就是先把图片拆分成无数个像素点， 把这些像素用数字表示，原来无趣的图片就变成了一个美丽的矩阵。接下来，我们只用操纵这些数字，就能实现对图片的处理。比如把这样一张九宫格卡片叠在图上，把对应位置的数字相乘再相加，这就是我们在小学二年级学过的卷机。 如果这个九宫格里全是九分之一，当他一路扫过整张图片，就相当于对每个格子都取了他自己和周围八格的平均数，我们就能得到原图的模糊效果。更换卡片里的数字，我们还能干点别的。比如，我们可以用这张卡片提取人像的边缘特征，我这刀铲斧削般的轮廓是不是一下子就 非常清晰了呢？我的脸还是太帅太复杂了，我们换着简单的底图来看看。先来画着。丁老头，我们用这张卡扫一遍， amazing 啊！丁老头竖着的鼻梁清晰可见，横着的眉毛却若隐若现。 我们把卡片横过来再扫一遍，抬头纹在他脑门浮现，挺拔的鼻梁却消失不见。很容易注意到这些不起眼的小卡片，以一种精妙的方式获得了提取图像特征的能力。 在深度学习领域，这些卡片被叫做卷机盒。把卷机盒提取特征的能力与神经网络结合，连一大堆卷机盒，我们就得到了计算机视觉领域的神兵利器， 掘机神经网络。接下来，只要给他足够多明确标注的 ai 图片和真实图片，让他拿着一堆卡片自己慢慢卷，他就能逐渐学会用什么卡片能逮住 ai 会 锻炼的伪造特征。当然呢，我说的只是简化后的情况。想要达成理想的识别效果，程序员们需要做大量的参数调优，要考虑的就很多了。 在前些天蚂蚁集团主办、蚂蚁树科承办的外滩大会 ai 创新赛、全球低配攻防挑战赛上，就来自二十多个国家和地区的上千位技术大佬们， 在比赛上比拼自己的模型，分辨 ai 伪造人脸的能力。在他们刚刚结束的表演赛，我也去到了现场，和我的数字人互动了一把，我的数字人呢，也成了比赛题，挑战正式比赛里优胜选手们的 ai 模型。 现场嘉宾呢，也分享一些有趣的知识，比如蚂蚁输车佐罗的技术负责人姚伟斌老师告诉我们，在实际产业中，识别算法还会与其他的检测算法结合起来，综合判断风险，保障信息安全。最后，感谢外滩大会的邀请，也感谢中科大团队和蚂蚁临近数字人平台制作我的数字人。总的来说呢， ai 换领技术很厉害，但好在选手们 分辨 ai 换点的 ai 模型更厉害，真是魔高一尺道高一丈啊！比赛的主办方还告诉我们，未来深度伪造会越来越逼真，面对这样的全球性技术挑战，办攻防比赛就是面向研究者们提供一个实战演练的平台， 希望大家可以更关注生成是 ai 浪潮中的逆行者，大家共同应对深度伪造技术带来的欺诈风险。下次你打开手机丝滑的刷脸，解锁刷脸支付之后，别忘了背后的技术人员正在为了守护你的脸而默默付出呢！

就在前不久，韩国那边就爆出一个震碎三观的大臭味，说是在一个公共的网络聊天室，居然有二十二万七千多个韩国男性一起在那大肆的制造和传播各种色情内容， 把身边的女性利用 ai 换脸技术合成各种不堪入目的视频，其中就包括他们的朋友、同事、老师、姐妹，甚至是自己的亲生母亲，更有甚者以此向女性受害者恐吓并勒索钱财。好家伙呀， 二十二万七千人，那韩国拢共才有多少男的呀？这就相当于每五十名韩国男性就一人参与到了其中， 就这个比例似乎也有点太高了吧。而列位要知道，其实类似这种恶性事件在韩国可不是头一次发生了，想当初在二零二零年的三月份，就有人通过多个秘密网络聊天室传播并互相分享非法拍摄的虐待女性的视频和女性的各种裸露 图片，其中涉及七十六位本国女性，很多还都是未成年人。而这场所谓的秀全程竟然也有近二十六万韩国男性全程目睹，这便是当时震惊全世界的 n 号房事件。 另外根据韩国媒体的数据显示，说在这个韩国呀，有大约超过三分之一的女性都曾不同程度的遭受到过网络色情和网络暴力带来的侵害， 其中因此患上严重的心理疾病或精神疾病的女性不在少数，各类自杀案件也是时有发生。哎，那么问题不就来了吗？为什么如今在韩国针对女性的网络犯罪会如此的猖獗呢？而韩国这帮男的又是为什么如此的热衷于做这种事， 一个个的怎么就这么变态呢？今天咱们就来好好的捋一捋这背后的原因。哎，其实按理说呀，当初二零二一年的时候，韩国就通过联合国一百九 五十五个成员国的集体认证，成功跻身了发达国家之力。二零二三年呢，他们的人均 g n i 更是超过了三点六万美元，成为了全球第六。可但是韩国女生的地位却和所谓的发达国家没有太大的关， 男尊女卑的观念根深蒂固，使得韩国女性不光得不到公平公正的对待，甚至连自身的基本权也无法得到保障。 根据二零二四年韩国统计厅发布的数据说，在韩国呀，男女之间的工资差距达到了惊人的百分之三十一点二，在三十六个精合组织成员国中排名第一。也就是说，虽然大家都是同样的学历条件， 干着同样的活，但女人挣的却比男人少的多，他们付出了与男性等值的劳动力，却换不来等价的薪资待遇，而且还要经受各种各样的性别歧视，忍受各种各样的骚扰。而韩国政府呢，不光不为本国女性说一句公道话， 甚至自打那位尹旭月上台之后，反而是鼓励将性别平等这个词从教科书上彻底的删除，还琢磨着要撤销维护女性权益的韩国女性家族部。那您就琢磨吧，连政府都不给韩国女性们撑腰，那他们的社会地位可不就只剩下每况愈下了吗？ 再加上这韩国人啊，还有个所谓尊卑有虚的臭毛病，跟前辈说话客客气气的，还都得用敬语，这从表面上看好像是尊老爱幼讲礼貌的行为， 但实际上呢，却是一层压着一层，一级压着一级的霸凌。这种霸凌啊，在韩国的职场校园乃支军队中是 大行其道，上位者可以肆无忌惮的践踏别人的尊严，并以此来彰显自己的权威。而被霸凌的人呢，就只能继续的向下霸凌，寻找出口，释放压力。但问题是，很多生活在社会底层的韩国男性根本就找不到能够霸凌的对象， 于是韩国的女性们也就顺势成为了他们肆意凌辱的目标。这些个男的在日常生活中越是压抑，在网络世界中就会越变态，当他们在观看类似 n 号房的受害者视频，或者拿着 ai 换脸的女性裸照灶皇摇的时候，这帮人的内心啊，就会获得极 极大的满足。而这么一来呢，就会对女性们造成巨大的伤害，可政府对此又是视而不见。这就导致部分的女性思想也开始变得极端了，他们高喊着杀死男婴，谋害父亲这种 惊世骇俗的口号，并希望要建立一个只有女性的国度，想以这种方式来对抗当下这个男权社会。不过这也很好理解啊，因为就在这种男尊女卑的环境之下，那可不就是逼着人家造反吗？ 但这种近乎畸形的观念也同时进一步的加剧了韩国男女之间的对立，让整个社会舆论都彻底变了味。如今 在韩国，尤其是青少年里的男性群体，压根就无法从理智的角度去思考问题，他们反而是走向了更为极端的丑女之路，说白了就是我欺负你可以，但你要反抗，尤其是要反过来欺负我，那我就弄死你。 哎，所以啊，说到这大伙就明白了吧，韩国接二连三的爆发出 n 号房这类针对本国女性的恶性事件也就不足为奇了。 男尊女卑的落后观念，从上而下的霸凌文化，男女对立的娱乐环境，再加上国家层面的默许和不作为，就如此这般一步步的把韩国推向了网络犯罪大国的深渊。 虽然从名义上讲，现在的韩国属于发达国家之列，但咱不得不说呀，他们距离文明两个字却恐怕还有很长的一段路要走啊。

我是张馨予，目前在中科院自动化组担任算法工程师，二三年毕业回国之后，我就一直在中科院从事 dfac 减速算法研究的工作。我最近有关注到一则触目惊心的新闻，在韩国， dfa 技术被不法分子用来换脸，给无数女性造成了难以不料的伤害。 经过团队的同意，我们已经把近期参加全球 d fake 攻防挑战赛的 ai 模型向全球开源，让所有有需要的人都可以免费使用这些模型来对抗 d fake。

随着人工智能技术的快速发展，相关的应用正在进入我们生活的方方面面，然而，这也给个人信息保护带来了新的挑战。 在日前开幕的二零二四年国家网络安全宣传周上，关于 ai 换脸、换声等对个人隐私侵害的话题成为大家关注的焦点。一张人像照片、一段近距离的人物视频，都有可能成为不法分子犯罪的新手段和新工具。 在今年的网络安全博览会上，各达安全企业纷纷展示了安全领域新产品和新技术， 尤其是针对人工智能的安全防护，更是成为各大安全企业着力的重点领域。画面中，技术人员正在演示的就是 ai 换脸技术，仅需 一张目标人物的静态照片，就能让照片中的人物动起来，本身最右边是一张不会动的静态图片，那么通过我们的视频啊，这个人人脸呢，他做一些动作之后，那么他采集到了这个面部动起来的这个特征，把这个特征融合到 这个几个静态图片当中，就让这个图片照着我们的动作动了起来啊，也可以形成一个视频。张博介绍，尽管现在 ai 换脸、换声等有一定的技术门槛和操作成本， 但如果被不法分子获取的情况下，就有可能被用来假冒他人实施相关的犯罪活动。当前的 ai 换脸技术还是比较成熟 呃，也能支持这个视频通话的实时换脸啊，可以达到以假乱真的程度呃，而且呢，除了换脸之外，呃，如果再结合着换背景环境、换声音等等，那样逼真度就会更高啊，更加难以分辨。

目前因为大部分的呃应用，呃为了便捷他不用输入密码，所以都开启了这人脸认证的功能。那么人脸认证的功能的弊端就是有可能发现团伙会通过这个照片 通过 ai 大模型的技术将这个照片活体化，那通过这个活体的视频突破这个人脸认证功能的限制。

这种 ai 换脸技术视频我想大家都是看过的哎，但以后可能就不太好看到了啊，因为 intent 推出了一个叫做 refribe 的软件啊，专门用于检测和封杀 ai 换脸视频啊，准确度宣传说是可以达到百分之九十六啊， 虽然我很想劝婴儿你不要多管闲事啊，但自从那天也看到了我的心上人的这个画脸视频课啊， 我只爽了那么一下啊，之后就内心久久的啊不能平静。当然话说回来啊，其实 ai 检测其他互联网科技巨头 其实也在研究了啊，像国外的骨骼和微软，那么国内的我们这个的把南山必胜客啊，因为如果这种换脸的视频啊，微信何时就发，可能出在法律风险 肖像权呢，还有可能谁设计什么什么赢什么那个，对吧啊，是不是啊，搞不好就要被插出表甚至查封公司啊，那只能说以后这种啊，学习的味道就是啊， 看一步少一步了，那科技的进步也伴随着我们啊，宅男的牺牲，虽然说啊很痛心啊，是吧，那我们也算是做出了贡献是吧啊，还是很伟大的，啥也不是，散会。

这张图片呢，是我事先准备好的啊，我的一张脸啊，这是我要替换的一个视频，他就会生成我的脸。我是广西大学的一名学生，目前是在信息与统计学院就学，研究生。嗯，祝大家身体健康，万事如意。 另外，市民朋友在接受到可疑的视频的时候呢，可以尝试与视频中的人进行一些实时通话， 通话过程中要求对方做一些挥手等动作，通过观察动作周围那些遮挡区是否出现不自然的图像抖动啊、闪现等情况，来判别这是否是一个 ai 换脸视频。