“深度伪造”（Deepfake）行恶也曾引起了韩国女性张皇。

几日前，有多名韩国女性通过应酬媒体发声，称她们在一些应酬媒体上，极度是“电报”（Telegram）群组中，发现又一个“N号房”案件，韩国男性疑似多数分享传播伪造的周围女性的淫秽影像。

群组中传播的淫秽影像经“深度伪造”换脸而制成。在付费的“深度伪造”“电报”频说念中，男性订阅用户提供女性相片，交钱后由频说念通过“深度伪造”本事制成色情传播材料。

8月27日，韩国总统尹锡悦发表语言时号令警方伸开绝对造访，以肃除此类AI行恶。

上游新闻明慧到，比年来跟着应酬媒体和AI本事的聚首，“深度伪造”本事生成的虚伪色情视频在韩国初高中生等未成年东说念主、大学生、考验和士兵等群体中彭胀，在社会上形成相配恶劣的影响。什么是“深度伪造”？这项本事对受害者产生了怎样的影响？韩国政府部门如何布置？对这些问题，上游新闻进行明晰解。

“深度伪造”促成新通盘“N号房”？

据了解“深度伪造”是一种AI换脸本事，不错将图片或视频中A的脸换到B的头上，其名字由深度“机器学习”(deep machine learning)和“假相片”(fake photo)组合而成，这项本事不需要操作家有何等深厚的专科常识，只消集合到实足素材AI就不错完成。

“深度伪造”换脸成果传神让东说念主难以分歧真假，这也激发宽广伦理和逃匿问题。天津大学智能与策画学部培育翁仲铭此前曾在吸收采访时透露：“当前Deepfake本事也曾很锻练了，主要本事分为两个部分，自动编码器和生成招架集合。”据报说念，诈欺“深度伪造”本事，一个对视频裁剪一窍欠亨的生手只需一个庞杂的GPU(图形处理器)和上百张东说念主物样图，输入至少一个算法就能完成东说念主脸交换况且不错制作出相配传神的视频成果。“平时东说念主在经过一段时候的学习以后全王人概况掌捏这项本事。”翁仲铭惊叹。

“深度伪造”AI换脸暗示图。光明网

经过韩国警方和记者造访，“深度伪造”行恶和“N号房事件”相通将特定干事女性性对象化，女兵、女考验、女照管成为罪人合成色情图频的指标，出现了“女考验房”“照管房”“女兵”等群组。最近，以女性家东说念主为对象的“家庭房”“嫡亲房”等也接踵被发现。

在付费的“深度伪造”“电报”频说念中，男性订阅用户提供女性相片，交钱后由频说念通过“深度伪造”本事制成色情传播材料。某些群组致使条件参与者进行现役军东说念主身份考证，并通过向受害者发送伪造相片，以及分享受害者的响应，来交流群组的入场格。触及的群组参与东说念主数不等，少的几百上千东说念主，多的进步十万东说念主。

当前，不休有受害学校及被害者信息流出。在应酬网站流传的受“深度伪造”事件影响的学校名单也曾进步百所，况且还在加多。该名单由又名匿名用户发布，其中不仅包括韩国的中小学，还触及国际的韩国国际学校。

在此历程中，加害者还绝不耽搁地公布受害女性的身份，要挟受害东说念主，提取财帛。

青少年是受害者亦然加害者

其实早在本年5月份宝贝开心网，“深度伪造”事件就遭到曝光。据报说念，首尔大学毕业生朴某和姜某，从2021年7月至2024年4月，涉嫌诈欺“深度伪造”本事换脸合成色情相片和视频，并在“电报”上微妙传播，受害女性多达61东说念主，包括12名首尔大学学生。

本年7月10日，“首尔大学版N号房”案进行第二次庭审。朴某承认我方传播虚伪色情视频，但否定惯犯和提示行恶的指控，姜某则对通盘指控供认不讳，另有两名合谋也被告状。但当今，更令东说念主担忧的是，这种新式性行恶正在韩国初高中校园等未成年东说念主群体中快速传播。

据媒体报说念，因为“仅仅觉欢欣义”“仅仅在开打趣”“用熟东说念主的相片P图更简直”等原因，“深度伪造”在韩国10代群体之间像“游戏”相通盲目彭胀。加之“电报”等应酬媒体的匿名性，行恶者愈加狗仗人势，致使出现了“只消傻瓜才会被警员逮住”的言论。

8月28日，韩国女性家庭部所属韩国女性东说念主权振兴院透露，自2018年4月拓荒数字性行恶受害者营救中心以来，法例本年8月25日，共向2154名“深度伪造”案件受害者提供匡助。本年（法例25日）已有781东说念主乞助，照此趋势，本年全年受害者恐超1000东说念主。

韩国女性东说念主权振兴院称，本年算计781名受害者中，36.9%（288东说念主）为20岁以下青少年和儿童。

此外，在最近4年被立案造访的嫌疑东说念主中，进步一半的325东说念主（70.5%）是10代东说念主群。与此同期，韩国考验工会指出，在最近的一系列事件中，有200多所学校受到了影响。

警方称青少年枯竭有关法律意志

有报说念指出，部分巨匠以为问题简直情况比官方数据更为严重，在一个应酬媒体频说念中，就有进步22万名会员制作并分享伪造的图像和视频，而且特地一部分受害者和加害者是未成年东说念主。

韩国警员厅称，本年前七个月共诠释了297起色情有关的“深度伪造”行恶案件，高于旧年的180起，险些是2021年数据初次整理时的两倍。在178名被指控的东说念主中，青少年涉案者超六成（113东说念主）。

另据媒体报说念，本年1至7月，首尔警方因“深度伪造”案件对10名14岁以上的青少年立案。他们涉嫌将同校女生的社媒平台相片与色情执行相聚首，制作和传播“深度伪造”的性行恶材料。全罗南说念、忠清北说念、仁川市等多地警梗直对嫌疑东说念主进行立案造访。

首尔警员厅官员透露，很多青少年因过度依赖信息本事，枯竭有关法律意志，参与制作和传播“深度伪造”执行，导致校园内此类行恶步履泛滥。警方筹画与培育部门配合，强化学校的数字性行恶谨防培育，包括见知学陌生发罪人合成材料是严重行恶，以加深学生对数字性行恶的相识。

受害女性吸收采访。湖南日报

另据报说念，韩国警方透露，“电报”就业器设在境外，且涉案东说念主可唾手删除淫秽影像和我方发布过的信息，考核难度较大。韩国警方筹画以市、说念警员厅集合性暴力造访组为中心积极伸开整治动作。

各方号令政府经受更矍铄方法

有关事件激发国际社会柔和的同期，韩国警方也在加速造访。首尔警员厅集合行恶造访组26日起对自动生成“深度伪造”瞻念视频的应酬频说念设施（机器东说念主）进行立案前造访，当日造访了一台机器东说念主，意料有22.7万多东说念主使用；两天后，警方造访的机器东说念主数目增至8台。

据了解，韩国警方已设置极度职责组，稀奇布置“深度伪造”性行恶等虚伪视频案件，该职责组将运转到来岁3月31日。

此外，濒临“深度伪造”性行恶的彭胀，韩国社会各界号令政府经受更矍铄方法。

据当地媒体报说念，韩国性暴力转圜中心主任透露，在学校、家庭等日常生活阵势，罪人拍摄、传播、合成、性侮辱等阵势时有发生，女性似乎到了无法生涯的境地，“当今是通过培育和平台监管等组织配合来料理问题的时候了。”

考验团体也号令政府推崇作用，称“学生们因无法指望惹事者受到处分或获得符合的回话，只得自行撤下在应酬平台上上传的相片”，但愿政府概况有国度层面的举报受理系统和稀奇造访小组。

8月27日，尹锡悦就“深度伪造”行恶步履发表语言称：“最近，在应酬媒体上，针对不解东说念主数的深度伪造视频飞速传播。受害者无间是未成年东说念主，而施暴者大多是青少年。”

尹锡悦指出：“诚然深度伪造行恶的饰辞是单纯的开顽笑，但这是在匿名的遮羞布之下坏心诈欺本事的明确的行恶步履……任何东说念主王人可能成为受害者。”他号令警方通过绝对的造访，肃除此类行恶。

韩国最大在朝党共同民主党代表李在明则号令政府制定国会层面的对策，以肃除“深度伪造”行恶。李在明说：“要讨论受害者保护决策和对‘深度伪造’制作、分发者的严厉处罚章程。”

韩国政府还筹画加强对诈欺“深度伪造”进行性行恶步履的处罚力度，激动与通信软件“电报”的运营公司构建配合热线。

韩国执政党国民力量党计策委员会主席金相勋也在新闻发布会上称，党政在国会开会经营“深度伪造”性行恶的谨防对策。两边筹画激动立法，将漫衍虚伪视频等行恶步履的最高刑罚从5年进步至7年。党政还盘考了在培育部网站拓荒举报中心，以及为受害者提供样式顾问和法律缓助的决策。

新闻多小数：

新本事下，“N号房”案件重现

熟女控

在“深度伪造”有关案件曝光前，韩国曾爆出震恐全国的数字性行恶案件——“N号房”事件。

2019年，韩国应酬媒体音问称，韩国男性诈欺“电报”聊天室敲诈数十名年青女性进行性步履，这起丑闻被称为“N号房”事件。据报说念，该案件被害女性至少有74东说念主，其中16东说念主为未成年，最小年事受害者为年仅11岁的小学生，曾加入过房间分享罪人传播物的用户多达26万东说念主。2021年，“N号房”主犯赵主彬被判处有期徒刑42年。

“N号房”事件的发生推动了韩国《Telegram“N号房”事件防治法》的出台，包括《对于性暴力行恶处罚的特例法矫正案》《刑法修正案》《对于法例行恶收益隐退的章程及处罚的法律矫正案》等执行。比年来，韩国修改法律，加大对数字性行恶的打击力度。

可是集合上的性行恶仍然自便。据报说念，韩国警方称，集合上“深度伪造”性行恶激增。2024年前7个月共诠释了297例案例，高于旧年全年的180例和2021年的160例。在畴昔三年中，青少年犯下了进步三分之二的罪恶。

上游新闻轮廓自 环球时报、科技日报、九派新闻、知悉者网、红星新闻、封面新闻等

编著：徐远哲    责编：邹渝宝贝开心网，官毅     审核：冯飞

【免责声明】上游新闻客户端未标有“开始：上游新闻”或“上游新闻LOGO、水印的翰墨、图片、音频、视频”等稿件均为转载稿。如转载稿触及版权等问题，请 关连上游 。