摩尔芯闻 > 行业新闻 > 半导体 > AI“换脸”成人片网上流窜,那些关于开源软件的黑暗面

AI“换脸”成人片网上流窜,那些关于开源软件的黑暗面

数码时代 ·2018-02-10 09:30·TechNews
阅读:3094
img-1518063409-58752-624x366

科技的进展,或许将让真实变得越来越珍贵。近期有网友在网络论坛 Reddit 发布一款 AI 工具,可让所有人轻易将影片中的人物“换脸”制作假影片,许多网友纷纷用这款工具将女明星的脸移花接木到色情片演员身上,包括 Pornhub、Twitter 等各大平台纷纷出手禁止这类影片,同时此现象也引起不少伦理道德的讨论。

色情换脸影片泛滥,各大平台出手打击

最近网络上流传一批“名人色情影片”,不过这可不是被偷拍或外泄,而是 2017 年 12 月,有一位在网络论坛 Reddit 代号叫“deepfake”(深伪)的用户利用 AI 软件,将《神奇女侠》(Wonder Woman)主角盖儿·加朵(Gal Gadot)的脸 移花接木 到色情片主角身上。

后来,另一位代号叫“deepfakeapp”的用户,将“deepfake”的算法加以改造推出软件“FakeApp”,目标是要让所有没有技术背景的人,都可以利用深度学习轻易做出 假影片 。根据实测,有网友仅花 5 小时,就用 FakeApp 成功将洁西卡·艾芭(Jessica Alba)的脸换到 AV 女优身上,甚至将希特勒与阿根廷总统 Mauricio Macri 接在一起,丝毫看不出怪异之处。

不过,为了遏止“换脸色情片”歪风,从上星期开始,GIF 平台 Gfycat 已开始移除相关内容,交流平台 Discord 也出手封锁讨论制作换脸色情影片的服务器。全球最大色情影片平台 Pornhub 表示:“本站不容忍任何非自愿的内容,非自愿内容直接违反我们的使用条款。该条款禁止复仇色情报复(revenge porn)、深伪,以及任何未经同意或允许上传的内容。”Twitter 也表示会阻止这类移花接木内容在平台传播。

各大平台纷纷出手打击,但科技始终来自人性,而人性正毫不掩饰代表最赤裸的欲望,移除影片并不能阻挡技术的演进,而未来真实是否也将变得珍贵?

方便却被滥用,开源软件的黑暗面

Google 在 2015 年推出开源软件库“TensorFlow”,使资源不仅免费更变得开放易得,自此让机器学习研究的门槛从实验室带进大众的笔记本电脑。

不过 TensorFlow 的威力现在 Google 也难易控制,在“FakeApp”出现后,不仅名人可能变色情片主角,身边好友、同学等一般民众都更容易受害。最初“deepfake”制作影片用到的工具,是基于 TensorFlow 和 Keras 等开源软件,素材则是透过 Google图片搜索、公开图库取得,共同的特点就是公开开放且免费。

TensorFlow 是开源软件,而 FakeApp 则是代表开源软件的黑暗面,因此 Google 无法追踪软件下载后的用途,任何人都可以下载开源软件,用来制作搞笑影片或色情片没人管得着,概念就很像枪械公司卖出手枪后,消费者要用来自卫或杀人都是枪械公司无法控制及负责的。

软件开源对科技大公司有许多好处,可以驱使更多人使用 AI 创作,内部员工可以做为新产品的灵感来源,外部使用者则可以协助找出产品 bug。AT&T 实验技术副总裁 Mazin Gilbert 曾说:“机器学习的突破不是算法,而是开源,开源可以降低大众进入的门槛。”

假影片将成社交平台最头痛的事

开源软件也使 AI 开发的道德问题复杂化,各家科技公司也都试图找出解方。微软 AI 副总裁 Harry Shum 曾说:“这其实不容易,我不认为我们现在有简单的解决方法,但我们在过程中学到的是,当我们在设计机器学习算法时,会试图找出盲点。”

将 AI 从开源中移除看似可以解决眼下问题,但做法太过消极,目前许多原始代码都可在 Github 这类平台找到,学者、伦理学家、研究人员可从这些资源找到问题、提出不同观点看法,一般人也可以运用这些资源操作简单的应用。

fake-1903823_640

▲ 假新闻、假影片,未来的世界将会更加真假难辨,而这将只是刚开始而已。(Source: pixabay )

既然科技始终来自最赤裸的人性,因此不难想像未来这些移花接木的色情片,会流窜到 Facebook、Twitter 这类主流平台,甚至更多不同目的、企图的假影片产生也不是不可能,许多人就担心换脸色情片可能成为“复仇式色情”的性报复工具,甚至助长假新闻散播。

该如何运用开源资源完全取决个人心中那把尺,因此核心技术的开发者很难为此负责,而大部分责任可能都将落在散布影片、图片的社交平台。YouTube 2017 年才宣布要启动万人大军人工审查影片内容,换脸色情片的泛滥是否会加重平台营运负担,是值得观察的重点。

这起事件也让人想起先前 Facebook 假新闻事件,都是有心人士制作虚假内容在平台传播,Facebook 打击假新闻、Pornhub 打压假影片,两相对照之下可以想见的是,未来的世界将会更真假难辨,而这只是刚开始而已。

  • Google gave the world powerful AI tools, and the world made porn with them
  • Twitter, PornHub and other platforms ban AI-generated celebrity porn
  • Reddit bans ‘deepfakes’ AI porn communities

(本文由 数码时代 授权转载;首图来源: Motherboard )

文章来源:http://technews.cn/2018/02/09/reddit-bans-deepfakes-ai-porn-communities/

分享到:
微信 新浪微博 QQ空间 LinkedIn

上一篇:玻璃减薄领军企业沃格光电闯关IPO成功!

下一篇:【闯关】2017年全球手机显示屏面板总出货量达到20.1亿台

打开摩尔直播,更多新闻内容
半导体大咖直播分享高清观看
立即下载