产品分类

产品展示

您的位置:4399老虎机主页 > 产品展示 >

浊产品视频被曝合成用GAN造出4个工程师10天众筹3万

时间:2020-05-20 19:55

  创业公司吹嘘技术骗取信任和融资的例子屡见不鲜,但近日,一家西班牙技术公司被曝惊天造假,不仅技术和产品demo视频被怀疑是造假合成,连团队里的工程师,都是GAN合成的“AI造人”。

  六人的工程师团队介绍中,只有Delgado和Balcells两人确有其人。

  上周,众筹网站Kickstarter上的一项自动棋盘的项目被迫暂停了,多个知名的在线国际象棋社区联合发表声明,称该产品是个骗局。

  被举报的这家初创公司名叫REGIUM,主要开发用于在线比赛的全自动国际象棋棋盘,该公司设计的棋盘通过将内置的电磁铁移入其中,从而自动操作棋盘上的棋子。

  根据REGIUM的介绍,这个棋盘可以和可以进行网络对战的国际象棋应用同步,原本在PC画面上进行的国际象棋操作可以在物理上进行,自称是“划时代的项目”。

  REGIUM称,他们的自动棋盘是高科技棋盘,用到了AI、自动跟踪技术等,用户移动棋子是快速、无声的,可以将棋盘状态与各种在线象棋APP 同步,与人远程“云”下棋,还能实时载入更多棋类游戏。

  REGIUM于2019年12月公开了demo视频,随后在Kickstarter上发起众筹,以商品化为目标募集资金。

  这一项目迅速获得了不少围棋爱好者和平台的关注,视频迅速在YouTube上获得了超过4万的点击量。在Kickstarter上,从上线美元的筹款。

  但是,随着在Kickstarter上的信息公开,用户针对REGIUM提出了各种各样的问题,其中最为严重的是,有人发现,“作为开发团队介绍的成员脸部照片是假的”。

  知名在线国际象棋社区和撰稿人相继发文表示,REGIUM官网上介绍的6名工程师中有4人是不存在的,是在网站thispersondoesnotexist上利用AI生成不存在的人类面部照片。这也导致人们进一步怀疑,“该产品本身可能就不存在”。

  personpersondoesnotexist.com的创建人Phil Wang告诉Chess.com,这四个疑似不存在的人的脸部照片存在部分失真,和机器学习算法生成的照片具有相同的特征。这些图像也没有托管在互联网上的其他任何地方。

  随后,Wang使用AI技术生成了不存在的人的面孔,将有关与REGIUM的相关页面链接的肖像的信息转发给Chess.com,并表示,“根据我的经验,它的确来自英伟达的生成模型”。

  在使用公开可用的信息与同事进行协调之后,Chess.com还能够在公开在线论坛中验证了与该公司有关联的个人虚假陈述。

  不过,在一封发送给科技媒体Motherboard的回应邮件中,REGIUM否认了这些说法,但也没有提供进一步的证据来证明其开发团队是真实存在的。

  REGIUM在邮件写道,这个事根本不值得一提,一些人总是会乱说些事情,比如首席技术官不是工程师,他不是门萨的人,这个团队没有成员等等。甚至有人猜测,这些照片的标准尺寸是1024x1024,以及关于董事会和团队成员的说法……

  他们知道互联网上的阴谋论是如何进行发酵的,有些人就是喜欢胡言乱语。这些团队成员有家人,有些也在正经公司工作,但在这些疯狂的攻击之后,有人担心这将影响到他们正常的职业生涯,于是他们决定从网上撤除他们的数据。

  除了被举报伪造工程师,视频国际象棋网站还认为,在Kickstarter上的demo视频中,录像有被明显篡改的证据。在线象棋平台Lichess的开发者在博客中表示,棋子在棋盘上自动移动的画面很可能是使用定格动画(stop motion)做出来的。

  REGIUM对此进行了回应,称自己根本不擅长制作宣传视频,在拍摄被编辑掩盖的视频时还有出错。

  一些怀疑者“要求用手机录制一段视频,以证明这不是定格动画或CGI”。REGIUM在一封电子邮件中表示,“我们照做了,也把视频发送过去了。任何人都可以看到,在视频中定格动画或CGI是绝对不可能存在的”。

  Wang所提到伪造人脸的StyleGAN来自英伟达,可以说是近年火遍全网的“造假”神器了。与其他生成器不同,StyleGAN可以根据需要更改生成图像的结果,绘制出的图片更加逼真,不仅可以创造假的人类肖像,也被疯狂应用于其他机器学习应用项目,例如汽车、房间、甚至是动漫人头等。

  REGIUM疑似使用的就是这个利用GAN来生成不存在的人脸图像的网站,点开网站之后,每次刷新页面,算法都会从头开始生成新的人脸图像。

  据论文介绍,StyleGAN是一步一步地生成人工图像的,从非常低的分辨率开始,一直到高分辨率(1024×1024)。通过分别地修改网络中每个级别的输入,它可以控制在该级别中所表示的视觉特征,从粗糙的特征(姿势、面部形状)到精细的细节(头发颜色),而不会影响其它的级别。

  这种技术不仅可以更好地理解所生成的输出,而且还可以产生最高水平的结果,即比以前生成的图像看起来更加真实的高分辨率图像。

  Philip Wang还在一封电子邮件中表示,绝大多数人都不知道,将来AI在合成图像方面会有多么出色。

  不过,尽管非常逼真,但是StyleGAN生成的图片中还是存在一些技术缺陷,文摘菌之前也曾报道过,如何区分真假图片的几个方法,比如,有时候在生成的照片中,乍一看似乎与真实照片没有什么区别,但仔细一看,会发现图像中有一些奇怪的光线会漂浮在人物周围,或者是局部出现奇怪的变形。这也是Wang能够一眼看出照片伪造的关键所在。

  GAN于2014年由计算机科学家Ian Goodfellow及其同事首次引入,从那之后,GAN变得越来越强大,现在已经可以以惊人的高分辨率生成高度逼真的图像。

  不仅如此,这些程序还可以用于生成人们跳舞的视频,甚至是“将夏天的场景变成冬天的仙境”。不过也有令人苦恼的地方,就是这项技术也有随时被用于以“deepfakes”为核心的的假色情影片制作中。

  Wang的网站在租用的服务器上运行,该服务器配有运行Nvidia软件的强大GPU,Wang透露道,每两秒钟生成一张随机的脸,随后以可扩展的方式展示给全世界,这其中没什么花哨。

  REGIUM这次事件,不管真假,都足以再次让我们反思技术带来的双面性,的确,大规模的虚假复制将对于平台、个人都将造成不同程度的伤害。

  显然,看似作为罪魁祸首的GAN技术,仍然是一种通用的东西,而真正将此滥用的,正是我们人。或许正是出于对现在以及未来GAN的逐渐“疯魔化”趋势,Wang曾表示,他想要在以后坚持真实的脸部图像,“人的脸对我们的认知最重要,因此我决定提出该特定的预训练模型”。

4399老虎机