随着人工智能软件普及，“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里，“AI”造假花样越来越多，一些不法分子将新技术用于非法的目的，让犯罪手段又有了新方式。
“一键去衣”！深度伪造近七千张淫秽图片
在北京警方侦破的一起案件中，警方接到报案，有人在境外的网站上发广告，只需一张日常生活照片，就可以完成一键“去衣”的效果。
一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员，他因为使用AI去衣技术，制作、贩卖淫秽物品而涉嫌犯罪。
北京市海淀区人民检察院检察官助理 郭树正：白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片。他在QQ上向351个人贩卖过相关图片，图片数量将近7000张。
那么，这些经过去衣的照片的受害者都是什么人？白某某为什么要制作这些照片呢？他又是如何进行牟利的呢？
2023年6月，家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术，于是他动起了歪心思，打算利用这项技术来赚钱。
白某某发布的广告帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”。他的广告发布后，有不少人联系白某某，给他发送照片并购买这项“去衣”服务。
那么，“AI去衣”究竟是怎样的一种技术呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术。
郭树正：其实我们可以把它理解为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘。
而且，这项技术操作起来十分简单，去衣只需要一键就能完成，因此白某某定价不高，一张照片只需要1.5元，却可以利用低价吸引更多的订单。
检察机关认为，被告人白某某以牟利为目的，制作、贩卖淫秽物品，情节严重，其行为触犯了《中华人民共和国刑法》的相关规定，应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
公诉人：人工智能技术兴起之后，已经成为当今科技领域备受瞩目的技术之一，正在深刻改变我们社会、经济以及生活方式，为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行为必将受到严惩。
“换脸”伪造不雅照实施敲诈勒索
一键去衣、AI换脸技术，还会被不法分子利用，成为敲诈勒索的工具。近期，这类案件又有抬头趋势。前不久，深圳警方打掉一个团伙，这个团伙从网上等各种渠道收集被害人图片信息，然后进行合成处理，用来敲诈勒索。
前不久，深圳市民吴先生突然收到一个陌生手机号码发来的彩信，点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人 吴先生：当时我收到一条彩信，里面是我的一张裸照，他当时威胁我，在几点之前要跟他联系给他转钱，我当时一想不对劲，就报警了。
深圳警方接到报案后，立即对吴先生提供的线索进行侦查。通过梳理报案记录，警方发现全市有同样遭遇的不止吴先生一人，犯罪嫌疑人的敲诈勒索方式都如出一辙。
于是警方立即对相似的案件进行串并处理。调查后，一个通过换脸技术合成不雅照，实施敲诈勒索的犯罪团伙逐渐浮出水面。
随着侦查工作的深入，警方发现这是一个以王某为首的犯罪团伙，团伙内分工明确，有人负责修图，有人负责寻找作案目标，有人负责发短信打电话联系收款。深圳坪山警方兵分多路，展开统一收网行动，在多地警方协助下成功抓获以王某为首的十多名犯罪嫌疑人。
在犯罪嫌疑人的电脑里，警方发现了大量经过合成换脸后的不雅照片。
目前，王某等人已被检察机关提起公诉。案件正在进一步审理当中。
以合成照威胁受害人并准确说出个人信息
在山东威海，也有当事人遭遇到骗局，在收到伪造的不雅照后，没有多加核实，就向敲诈团伙转账20万元。
前不久，威海警方接到了反诈中心的一条资金预警信息，有市民正在向涉诈账户进行转账，民警立即与当事人取得联系，核实情况。
威海市公安局经济技术开发区分局皇冠派出所民警 刘羿：我们看到他的手机收到了一条短信，短信上的内容大概就是一张图片，上面有一男一女的裸照，还附了留言，说“我有你全部的影像资料，赶紧跟我联系”，并附上了一个电话。
王先生说自己当时看到这张照片，当时就有点蒙。没有来得及多想，他拨打了信息上面的电话。由于对方准确地说出了自己的姓名以及工作单位，并且告诉王先生只要向他们转账68万元就可以买断这些视频，如果王先生不给钱就把视频公开。在对方的恐吓下，王先生信以为真。
然而，先后转账的20万元，根本满足不了对方的胃口。正当王先生惊慌失措时，民警联系到了王先生。
刘羿：当我们跟王先生一同看这张照片的时候，我们发现虽然脸部有相似的地方，但是他的脸型以及身形完全不是他本人。
之后，民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作。
经过研判分析，警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日，威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案，为王先生挽回了损失。
警方提示：遇到此类情况要及时留存证据，拨打110报警。
用AI伪造近7000张裸照要承担什么法律责任
使用新技术伪造淫秽图片并出售，将承担怎样的责任？对买方以及相关平台是否也应追责？
河南泽槿律师事务所主任付建指出，根据《刑法》第三百六十三条的规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
“这是严重的刑事犯罪，白某某使用一键换衣技术生成大量淫秽图片并售卖，其行为已涉嫌制作贩卖传播淫秽物品牟利罪，其生成淫秽图片近7000张，情节严重，将面临三年以上七年以下有期徒刑。可能还需要承担民事赔偿责任，赔偿受害人的经济损失和精神损害。”付建说。
那么该案件中，买方是否也应承担法律责任？付建表示，若买方明知或应知所购买的图片为非法或侵权的淫秽图片，则可能需要承担相应的法律责任，包括刑事责任和民事责任。“购买淫秽物品并不犯法，但若参与到淫秽物品的制作、复制和传播等环节将涉嫌违法犯罪。”
此外，付建认为，平台如果对淫秽物品传播交易知情却不制止，或是监管不到位，需要承担行政责任或民事责任，若涉嫌帮助制作传播和贩卖，则面临刑事责任。
“受害者在看到自己的照片被非法使用时，首先应该保存相关证据，包括图片来源、传播渠道等。”付建建议，受害人应当及时向公安机关报案，要求追究犯罪嫌疑人的法律责任，也可以向法院提起民事诉讼，要求赔偿经济损失和精神损害。“在维权过程中，受害者可以寻求法律援助，还可以联系相关的网络平台，要求平台删除相关图片，防止图片进一步传播。”
来源：央视新闻、央视网
相关文章
