随着人工智能软件普及,“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。
然而这项新技术
却让一些人产生了不良想法
今日(6月18日),话题#男子用AI伪造近7000张裸照#冲上热搜。
据央视新闻客户端,在北京警方近日侦破的一起案件中,警方接到报案,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成一键“去衣”的效果。
据报道,犯罪嫌疑人白某某,原本是一家互联网公司的技术员。他用AI“一键去衣”技术,深度伪造淫秽图片近7000张,再每张1.5元卖出。图片涉及女性人数多,包括学生、教师、同事。目前白某某已被提起公诉。
北京市海淀区人民检察院检察官李鹏表示,白某某在境外的社交媒体上发布了广告,内容就是“去衣”,1.5元一张。他的广告发布后,有不少人联系白某某,给他发送照片并购买这项“去衣”服务。经过统计,浏览过这则广告的有3万人左右。
AI去衣”究竟是怎样的一种技术呢?
据白某某供述
这项技术并不是真的“去衣”
而是一种伪造、重绘的技术
北京市海淀区人民检察院检察官助理郭树正介绍,其实我们可以把它理解为深度的图片伪造,它并不是真的去掉别人照片上的衣服,其实都是针对已有的模型和已有的模组进行图片重绘,而且操作起来十分简单。
短短几个月的时间,白某某就制作了几千张去衣的图片,赚了将近一万元钱。然而,他却没有意识到这一行为可能产生的严重后果。
检察机关认为,被告人白某某以牟利为目的,制作、贩卖淫秽物品,情节严重,其行为触犯了《中华人民共和国刑法》的相关规定,应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
警方指出
一键去衣、AI换脸技术
还会被不法分子利用
成为敲诈勒索的工具
近期这类案件又有抬头趋势
小坊此前就提到过
多起类似案件
专家建议
尽量不要把个人的隐私数据
随意发到公共互联网上
以免被不法分子利用
一旦遇到可疑情况
要及时留存证据
拨打110报警