2024年8月初，韩国各大社交媒体平台上突然出现了大量使用AI深度伪造技术制作的色情图片和视频。这些内容不是随意合成的，而是以现实中的普通人为目标，将他们的脸部嫁接到色情内容中。这种犯罪行为竟然只需要上传一张普通照片，再支付一些费用就能在短短5秒内生成一张逼真的裸体合成图。

这种令人发指的行为很快在韩国蔓延开来，大学校园、中小学甚至军队都成了高发地，一时间整个韩国社会陷入了恐慌之中。许多女性发现自己的照片被人恶意利用，制作成了令人作呕的色情内容。一些不法分子还将这些内容上传到社交媒体平台，如Telegram的群组中进行传播。8月底时情况已经完全失控。

据韩国女性民友会的一份报告显示，在Telegram的一个群组中参与这种非法行为的人数竟然高达22.7万，这个数字简直让人膛目结舌。要知道这可不是什么小打小闹，而是一场针对女性的大规模数字犯罪。这场犯罪的受害者中未成年人占了将近六成。

根据韩国警方的统计，从2021年到2023年共有527名深度伪造淫秽影像的受害者报案，其中未成年人占比高达59.8%。这个数字比20-29岁年龄段的32.1%和30-39岁年龄段的5.3%都要高得多。

面对如此猖獗的犯罪行为，韩国政府也不得不出面干预。韩国总统尹锡悦公开表示，这种依靠匿名恶意利用深度伪造技术的行为就是犯罪，必须彻底根除。但光靠政府的表态显然是不够的。

就在还在为受害者的遭遇唏嘘不已时，更令人震惊的消息传来，原来这种犯罪行为的背后竟然还有组织有预谋的黑色产业链。警方在调查中发现，有人专门开设并运营Telegram上的熟人侮辱室。这些人不仅制作和传播非法内容，还从中牟取暴利。

最终首尔警察厅深度伪造等虚假视频集中应对工作组采取行动，逮捕了两名主要嫌疑人。一个是20多岁的男子A，另一个是30多岁的男子B。其中B男子经营一家成人网站长达四年之久，警方在他那里找到了多达2万多张非法性图片，其中还包括儿童和青少年的性剥削材料。面对如此严峻的形势，韩国社会各界纷纷呼吁政府采取更强硬的措施。韩国国会女性家庭委员会表示，将于9月召开紧急对策会议，商讨相关解决方案。同时在国会相关网站上还出现了一份征求公众同意的请愿书，要求严厉惩罚电报平台性犯罪的肇事者。

这场AI深度伪造犯罪风波，暴露出了技术发展带来的新型犯罪问题，更折射出了整个社会在道德和法律层面上的巨大漏洞。

文章TAG: