近日，韩国曝出“深度伪造”（Deepfake）事件，被认为是采用新犯罪手段的“N号房”案件重现。有多名韩国女性在中文社交平台发帖求助，称韩国网民在即时通讯应用“电报”（Telegram）上发现大量聊天群，其中有成员创建和分享露骨的色情“深度伪造”图像，对象涉及未成年女孩。这些韩国女性希望在广泛传播此事之余，也能促使韩国当局尽快将加害者绳之以法。目前，韩国总统尹锡悦严正指示相关部门必须对近期在社交媒体上迅速传播的Deepfake视频进行彻底调查，并采取有效措施以彻底根除这类数字性犯罪。韩国的媒体监管机构已经召开紧急会议，以应对全国范围内的紧张局势。全国范围的色情问题再次笼罩在半岛的上空。

△示意图，作者使用AIGC工具自绘。

新版“N号房”事件

2019年，在一桩名为“N号房”的丑闻中，有男子化名“博士”利用Telegram聊天室勒索数十名年轻女性进行性行为。该团伙的头目赵周彬（Cho Ju-bin）在被捕之后被判处42年监禁。但这并不意味着韩国网络性犯罪就此停止。据韩国警方称，网络空间的性犯罪依旧处于激增态势。今年前七个月共报告了297起案件，高于去年全年的180起和2021年的160起。

近期，韩媒和社交平台用户在“电报”（Telegram）群组平台发现了大量创建并分享深伪色情图像的聊天群组，群成员会在群组内上传他们认识的人的照片——包括同学、老师甚至未成年女孩，并将这些照片制作成露骨的深伪图像或视频。韩国教师联盟的数据显示，已有超过200所学校受到影响，这一数据凸显了问题的广泛性和紧迫性，同时也指出了在教育系统中采取行动的必要性。韩国深度伪造色情内容问题中最令人担忧的方面是青少年的高度参与，无论是作为受害者还是犯罪者。这一现象引发了社会各界对青少年网络安全和道德教育的深度反思：根据《大公报》和《Koreatimes》的报道，约60%的深度伪造色情内容受害者是青少年。这一惊人比例揭示了问题的严重性，同时也反映了青少年群体在网络空间中的脆弱性。

△示意图，作者使用AIGC工具自绘。

在2024年前七个月报告的297起案件中，178名被指控的人中有113人是未成年人。这一数据不仅反映了青少年参与制作和传播深度伪造内容的高比例，也暴露了现有法律和教育体系在预防此类行为方面的不足。韩国女性家庭部下属女性人权振兴院的数据显示，今年以来超过780人寻求帮助，其中288名（36.9%）是未成年人。这一数据突显了该问题对青少年心理健康和社会发展的潜在危害。

据韩国教育部称，在过去几年中，针对教师的深度伪造事件数量激增。妇女权利活动家、主要反对党民主党前临时领导人朴智贤（Park Ji-hyun）说，政府需要宣布“国家紧急状态”，以应对韩国的深度伪造（Deepfake）色情问题。朴女士在海外社交媒体上写道：“伪造的性虐待材料只需一分钟即可创建，任何人都可以进入聊天室，无需任何验证程序。”“此类事件在全国的初中、高中和大学都有发生。”韩国在全球深度伪造色情内容中的突出地位令人震惊。根据美国网络安全公司Security Hero的最新研究报告，在深度伪造（Deepfake）色情内容中出现的人物中，53%是韩国女星。这一比例远远超过排名第二的美国（20%）和第三的日本（10%）。这种现象反映了韩国在这一问题上面临的独特挑战，也引发了国际社会对韩国数字安全环境的关注。

深度伪造到底是什么？

和此前“N号房”事件不同的是，这次让韩国女性恐惧的是一种新型AI技术深度伪造（Deepfake）。它通过深度学习算法，尤其是生成对抗网络（GANs），来创建或操纵音视频内容，使得生成的图像、视频和音频看起来极其逼真。这项技术可以用于面部替换、表情迁移、动作迁移等多种应用，但同时也带来了一系列法律和伦理问题，尤其是在未经个人同意的情况下制作色情内容、进行政治抹黑或制造虚假新闻等方面。

△示意图，作者使用AIGC工具自绘。

在娱乐领域，Deepfake技术有潜力被用于创新的影视制作和虚拟现实体验，但同时也存在被滥用的风险。法律专家和社会各界正在探讨如何在保护个人隐私和利用技术潜力之间找到平衡点。Telegram创始人帕维尔·杜罗夫的被捕事件也与Deepfake技术的发展有关。Telegram作为一个加密通讯平台，因其隐私保护特性而受到用户青睐，但也被指控为虚假信息和非法活动的温床。杜罗夫的被捕引发了对言论自由和法律监管的讨论，同时也反映了全球对科技平台监管的紧张态势。究竟如何在监管和言论自由之间做出平衡的政策抉择成为全球立法者共同面对的问题。

韩国面临的深度伪造色情内容问题不仅规模巨大，而且涉及面广，从名人到普通学生都可能成为受害者。深度伪造技术的滥用不仅对个人隐私权构成威胁，还可能激发社会矛盾，挑战公共安全，甚至威胁国家安全，破坏国际秩序。例如，通过制作虚假视频煽动暴力、进行政治抹黑或经济犯罪。个人和企业也可能因深度伪造技术而遭受财产损失和名誉损害。

目前，韩国相关事件引发国际社会关注的同时，警方也在加快调查。首尔警察厅网络犯罪调查组26日起对自动生成深度伪造不雅视频的社交频道程序（机器人）进行立案前调查，当日调查了一台机器人，估计有22.7万多人使用；两天后，警方调查的机器人数量增至8台。据了解，韩国警方已成立特别工作组，专门应对深度伪造性犯罪等虚假视频案件，该工作组将运行到明年3月31日。

为什么总是韩国？

从“N号房”到Deepfake事件，韩国为何频频爆发网络性犯罪？这和韩国发达的互联网基础设施和高度数字化的社会环境有关。韩国的互联网速度位居世界前列，智能手机普及率极高，这为深度伪造技术的传播和使用提供了便利条件。

同时，韩国的娱乐产业，如K-Pop的全球影响力，使韩国名人更容易成为目标。韩国流行文化的全球化使得韩国艺人的图像和视频更容易获取，这为制作深度伪造内容提供了大量素材。根据《Koreatimes》的报道，韩国的名人，尤其是歌手和女演员，成为深度伪造色情内容的主要受害者。这一现象突显了此问题的严重性和广泛性：排名第一的某韩国女团歌手出现在1595个深度伪造视频中，总观看次数超过561万。这一数字不仅反映了该问题的规模，也说明了这类内容的传播速度和影响范围。在全球深度伪造色情内容中最常被描绘的前10人中，有8人是韩国女团或者女性明星。这一数据凸显了韩国艺人在全球深度伪造色情内容中所占的不成比例的高比重。这种现象不仅侵犯了名人的隐私权和肖像权，还可能对其职业生涯和心理健康造成严重影响。同时也反映了韩国娱乐产业在全球的影响力，以及由此带来的负面后果。韩国女性家庭部下属女性人权振兴院的专家们警告，这种趋势可能会对韩国文化输出产生长期负面影响，损害国家形象和软实力。

同时《Koreatimes》也认为韩国社会中存在的性别不平等问题，可能助长了这种针对女性的犯罪行为。尽管韩国在经济发展方面取得了巨大成就，但在性别平等方面仍面临挑战，这可能为此类犯罪提供了社会心理基础。严格的审查制度可能导致一些人转向地下渠道寻求色情内容，间接推动了深度伪造色情的需求。