2022年9月的一个早上，家住南京的杜先生莫名收到一条陌生的短信，信息中还附赠了一张照片。 照片上，自己正和一名陌生的妙龄女子赤身裸体躺在床上，举止亲昵。 短信里，对方让杜先生尽快和一个手机号取得联络，过时不候！ 收到要挟之后，杜先生心里倒没有那么慌张。
固然照片上的脸是自己的，但是杜先生十分确信自己没有做过对不起妻子的事情，更不可能把这种事情拍下来。所以杜先生并没有把这件事放在心上。 但是事情还没终了，第二天中午，杜先生再次收到了一封要挟短信。 这次骗子愈加猖狂，直言假如不在规则时间内联络，就要把照片曝光出来，让他声名狼藉！ 最后骗子还强调：“不要心存侥幸！” 杜先生这次有点慌了：固然自知清白，但是骗子把假艳照随意乱发，多少也会给自己的生活带来不好的影响。 思来想去，杜先生将收到假艳照的事情通知给了妻子。妻子听到后，并没有怒不可遏，反倒和杜先生一同研讨起假艳照。 经过认真研讨，杜先生发现了假艳照显露的马脚： 固然脸看起来的确是自己，但是假艳照中男主的发量太多了，和自己的发量不符！ 没想到发量稀少这个令人头秃的理由，居然成为了审定假艳照的关键。肯定艳照为假的杜先生决议报警。 警方经调查判别这是一同偷盗公民基本信息后应用AI换脸中止的“精准诈骗”。 往常像这种应用AI换脸技术实施诈骗的案件，并不在少数，以至曾经搬上荧幕。 立功题材电视剧《猎罪图鉴》中，主角沈翊的教员许意多就遭遇了AI诈骗，为AI合成的儿子陆续打款，最终被骗得倾家荡产，最终老人选择投江自尽。 在引发全球关注的俄乌抵触中，也呈现了一同可谓历史性的“AI诈骗”事情。
在2022年3月的一则视频中，伪造的乌克兰总统泽连斯基呼吁国内人民放下武器。固然视频分辨率很低，效果不佳，但曾经能以假乱真。 而关于宅男们来说，最知名的“AI诈骗”事情，发作在2017年。 这年的12月，Reddit的成人交流社区忽然爆红了一个视频，并且在短短数天内传遍了全球成人视频网站。 这倒并不是由于视频的内容有多夸大，而是这位主角长得十分像当年出演《神奇女侠》的演员盖尔·加朵。 很明显，盖尔·加朵自己是不可能去拍摄这样的影片的，那只需一种可能，这个脸是合成上去的。 不外，这部影片传了没几天，Reddit迫于庞大的压力，就将上传这部影片的匿名账户以侵犯他人隐私的理由给封停了。 全球宅男，被AI换脸技术“诈骗”了。 国内也曾呈现过AI换脸的风潮。不外，很多时分，看起来人畜无害，以至有些滑稽搞笑。 好比既能够是雷神，又能够是海王的徐锦江。
世界知名人物齐唱“吗咿呀嘿”的照片“活化”，特朗普唱“洗海带哟”。
这些，都是AI换脸技术的成果。 这项既构成悲剧，又构成喜剧的技术，究竟从何而来？ 更重要的是，我们能否约束住这股权力？ 提到AI换脸，就不得不提一个技术：“生成对立网络”(Generative Adversarial Network, 简称GAN）技术。 2014年，在一间酒吧里，美国AI范畴专家Ian Goodfellow， 与朋友觥筹交错畅谈生成模型之际，生成对立网络GAN就降生了。 正是GAN的呈现，才一步步催生出我们往常所熟知的AI换脸技术。 那GAN网络又是如何运作的呢？ 这类网络通常由两个AI代理组成：其一担任生成样本数据，叫生成器网络；另一个则担任检测样本能否真实，叫判别器网络。这两个网络，会轮番考验对方。 浅显点了解，能够将生成器网络视为一个想造假币的人，把判别器网络视为警察。 刚开端，是警察考验造假币的人。想造假币的人技术不成熟，随机制造假币，那些明显不像是真货币的样本，被直接判定为假币。而看起来比较像真币的，就保存了下来。 然后就进入造假币的人考验警察的阶段，警察需求不时增加颜色、质地、图案等等多个维度，来鉴别真货币和假货币。等警察轻松鉴别出假币，又进入考验造假币的人环节。如此，循环往复。 二者对立的次数越多，假币就越接近真币。
以花卉数据为例。 GAN中止100次生成的对立PK之后，会呈现这样的结果：
500次，会这样： 2000次之后，就能以假乱真了。 经过数千次迭代后，假如一切顺利，生成器网络能够圆满生成真切的虚假图像，并且判别器网络能够很好地判别的图像是真实的还是虚假的。 AI换脸就是应用了这一技术。生成对立的次数越多，就越像是真人。
这种“道高一尺，魔高一丈”的AI深度学习方式很快就遭到了很多从业者的关注，GAN最凶猛的中央在于，它的深度学习是无监视的。GAN不需求标记数据和记载数据。GAN只需生成，判别，再生成，再判别，不时优化数据。 从GAN降生之初，他的对立网络技术就不时不时改造。2015年，研讨人员开端将 GAN 与经过图像辨认优化的多层卷积神经网络（CNN）相分离。 和普通神经网络相比，卷积神经网络能够激活样本的第三个维度：深度。 能够简单了解为，卷积神经网络能够模仿人眼平面视觉机制对图像中止感知，有平面感。 GAN与CNN这一组合取代了以往较为简单的 GAN 代理驱动网络，也让生成结果的可信度迈上新的台阶。 2016年，有人将GAN与CNN两个网络技术打通，不同网络的代理之间能够相互共享信息。经过这种方式，双方就能展开并行学习。 这时分，生成的人脸曾经愈加可信，但生成的图片“一眼假”的状况依旧没有消逝。 主要缘由是，由于图像分辨率越低、鉴别器就越难判别内容的真伪，所以生成代理常常倾向于产出含糊不清的图像——究竟越明晰、越容易出错。 能够了解为AI在摸鱼。 到了2017年，全球可编程图形处置技术头部企业英伟达表示：那我们分阶段锻炼网络。先由生成AI 学习创建低分辨率图像。之后，将分辨率逐步提升。 这种方式逐步培育出的 GAN 开端产出质量绝后的伪造人像。固然图像仍有缺陷，但不认真察看曾经很难快速分辨。 这边英伟达还在继续改进自己的 GAN技术，在另一边，一个Reddit 用户“deepfakes”以一种意想不到的方式，开端将这项技术推向大众视野。 2017年12月，AI换脸的“神奇女侠”在成人交流社区Reddit忽然爆红之后。
Reddit迫于庞大的压力，就将上传这部影片的匿名账户“DeepFakes”以侵犯他人隐私的理由给封停了。 但是“DeepFakes”关于封禁极为不满，结果“DeepFakes”将制造这部片子的软件源代码，以免费公开的方式发布在了GitHub上，企图十分明显： “你封我能够，我把技术公开出来，之后换脸视频遍地开花，看你们怎样封？！” 这就像是潘多拉的魔盒被翻开了一样，尔后，deepfake一词就成了AI生成图像和视频的代名词。这里的“deep”是指深度学习的方式中止图像生成。 固然Deepfake 色情视频同样存在严重的“一眼假”问题，但由于制造成本极低，于是成千上万用户疾速涌向 Reddit等在线平台，观看这些露骨又略显诡异的视频。 美国著名女演员斯嘉丽·约翰逊就成为 AI 色情片中的常客，后来人们将这股互联网风潮称为“黑暗虫洞”。 但是deepfake 色情片的好日子也并不耐久。2018 年第一季度，Pornhub、Twitter、Gfycat 和 Reddit 等平台纷繁对这类视频下达合成视频封杀令。 同样是在2018年，Deep Video Portrait 软件则尝试应用GAN改进视频处置才干，于是首个研讨 deepfakes 的 YouTube 频道正式上线： 这次的影片就不是伪造色情片了，而是一些恶搞影片，包含政治名人或好莱坞大牌的“魔改”版本逐一亮相，包含美国总统。 时间来到了2019年，三星发布了一种能够深度伪造人类和艺术品的 GAN。例如，研讨人员胜利将蒙娜丽莎的笑容修正成了“大笑版”、“不笑版”。
就在几个月之后，以色列研讨人员又推出了换脸 GAN（FSGAN）。这套 AI 模型能够对即时视频中的人脸中止实时交流。无需任何预先锻炼，这款新 AI 曾经能够直接交流人脸，不外在质量上依旧无法与精心锻炼而成的 deepfakes 模型相比肩。 时间到了2020年，微软推出的 FaceShifter 以至能够应用含糊的原始图片，生成高度可信的 deepfake 图像。 FaceShifter 同样依赖于两套网络，其一担任创建伪造人脸，并将原始照片内的头部姿势、面部表情、照明条件、颜色、背景及其他属性引入假图像。另一套网络 HEAR-Net 则将前面生成的照片与原始照片中止比对。 假如 HEAR-Net 发现图像中存在头发、太阳镜或文字被脸部遮挡的部分，就会出手修正这些错误。完成后，面部就会正确位于头发、太阳镜或文字内容之后，确保各个元素之间具有正确的位置关系。 2021年，英伟达和斯坦福大学分离推出的了一个生成图像GAN，刷新了3D GAN的新高度。而且生成画质也更高，视角随意摇晃，面部都没有变形。
这个3D GAN最凶猛的中央，莫过于还可给出3D几何数据，这些石像效果，就是依据提取的位置信息再渲染而得到的。 事实上，只用一张单视角2D照片生成3D效果，此前曾经有许多模型框架能够完成。但是它们要么需求计算量十分大，要么给出的近似值与真正的3D效果不分歧。这就招致生成的效果会呈现画质低、变形等问题。 为理处置以上的问题，研讨人员提出了一种显隐混合神经网络架构（hybrid explicit-implicit network architecture）。这种措施能够绕过计算上的限制，还能不外火依赖对图像的上采样。 与典型的多层感知机制相比，该措施在速度上可快出7倍，而占用的内存却不到其十六分之一。 该措施运用中等分辨率（128 x 128）中止渲染，再用2D图像空间卷积来进步最终输出的分辨率和图像质量，效果就能够以假乱真了。
就在最近，AI深度学习技术也不只局限于面部生成了。近日，斯坦福大学等团队提出生成人体可编辑辐射场3D感知GAN框架。 首先，他们演示了在包含单视图图像的数据集上以无监视方式锻炼的GAN生成高质量3D人体。为此，团队采用了基于2D CNN的生成器兼容的3D平面特征表示。 其次，作为GAN锻炼过程的一环，团队经过引入显式辐射场变形，确保生成器以规范身体姿势合成人的辐射场，然后依据锻炼数据的身体姿势散布扭曲辐射场，生成的人体就能动了。 实验表明，这种新措施能够生成高质量、可编辑、多视图分歧的人体，也就是说，往常能够应用AI除了能生成脸，还能凭空生成完好的、能够像正常人一样灵活运动的身体！ 前面提到的，乌克兰总统泽连斯基呼吁国内人民放下武器的视频，除了AI生成面部，还包含部分躯体动作。 在GAN（生成对立网络）的发明者 Goodfellow 在 2014 年初次展示自己的成果时，肯定想不到自己的成果会推进 AI 伪造图像的快速展开。往常他亲口正告称：在未来，人们将无法再理所当然地置信互联网上传播的图像和视频。 最终，或许再精密的反 deepfake 算法也曾经无法辨认最新的深度伪造结果，而这必定会给社交、文娱等各个范畴带来推翻性的改动。 Deepfake 专家 Hao Li 以为这种猜测绝非庸人自扰，究竟图像的实质不外是辅以恰当颜色的像素——AI找到圆满的图片措施将只是时间问题。 序幕 往常GAN对立网络正在被开发出各种各样的应用，其中也有很多对世界正向的积极影响，好比医疗诊断、内容过滤以及保险监控等等，当然，人们往常关注的大多是一些负面的效果，好比侵犯隐私、造假诈骗等等。 并且，近几年，随着AI深度合成技术的不时展开，应用其立功的数量也是大幅增加。2021年，山东省公安厅网络保险总队就发布了几个应用深度合成技术实施诈骗的真实案例。 还有的骗子经过盗用了他人社交媒体账号，获取他人面部信息，经过与账号原一切人亲属中止视频电话的方式请求亲友向其指定账号转账，胜利地取得了受害人的信任，骗取了大量钱财。 从事情层面来看，应用深度合成技术实施违法立功活动是其风险的表象，而从实质上去探求的话，深度合成技术真正风险的是其对社会信任关系的严重破坏。 德国哲学家康德在《理论理性批判》中就曾论证了“无信任社会”的可怕。依照康德的理论，假定谎言是社会的通行规律，那么人人能够说谎。 在“无信任社会”中，信息的真假判别都难以中止，那只能默许一切都为“假”。俗话说，眼见为实，但当眼见、耳闻都不再是真实，谎言和诈骗甚嚣尘上时，社会信任将会荡然无存。 在这种状况等下，作为一个具有正常明智的人，我们不会再去置信说谎的人，也就不会再置信这世界上的每一个人。 最后，不被置信的谎言也就不再有意义。由于只需在社会信任中，说谎者才干以谎言获利。 在Deepfake这个“潘多拉魔盒”被翻开之后，AI的领军人物Yann LeCun也在Twitter上深深反省： “说真的，要是当初知道卷积神经网络(CNN)会催生Deepfake，我们还要不要发表它？” 酷玩实验室整理编辑 首发于微信公众号：酷玩实验室（ID：coollabs） 如需转载，请后台留言。 分享给朋友或朋友圈请随意 |
名表回收网手机版
