P图机器人具有多种功能。受访者提供照片
犯罪 分子在网络上出售AI图册。受访者提供
许多受害者被犯罪分子拍到。照片由受访者提供
6月27日，国家网信办发布《关于开展“清浪2023暑期未 成年 人网络环境整治”专项行动的通知》，开展为期两个月的“清浪2023暑期未成年人网络环境整治”专项行动整治”专项行动（以下简称“专项行动”）。特别指出，要关注新技术新 应用 风险，如“AI换脸”等技术产生的风险。涉及未成年人的低俗色情图片、 视频 等，必须予以纠正。
如今，“AI脱衣”技术已经 生成 了一条黑色产业链。 上游不法分子利用AI技术生成图片，将这些图片整合，打包成图册，打包卖给下游买家。 未成年人陷入“黄色谣言”漩涡。 中青报、中青网记者就此进行了调查采访。
“AI脱衣”图被公开出售
“照片里确实是我的脸，但是我在这里……为什么不穿衣服？”
今年5月，还在上大学的李毅（化名）收到了网友发来的一张照片。 她看到后，又气又怕。
李毅是一位（）博主，经常在社交媒体上分享自己扮演各种动漫角色的照片。 随后，她和网友找到了拍裸照的罗帆（网名）。 罗帆承认，他将照片放入AI（人工智能）软件中，几分钟之内他就可以“脱掉”李毅的衣服。 在网络上，罗粉丝公然以每张5元的价格出售图片，声称60元可以购买60多名博主的“裸照”，其中包括未成年人的照片。
“我从来没有拍过这样的照片！” 一气之下，李怡开始收集对方利用AI进行违法行为的证据，打算追究其法律责任，于是她加了罗帆好友作为买家。
罗粉丝并没有直接用“AI脱衣”这个词来招揽生意，而是含蓄地表达了自己在“换图”，“小姐姐，这里是‘换图’，5元一张。” 当李毅进一步询问如何“改变图片”时，罗帆含糊其辞地表示，他是用AI技术生成各种图片的。
李逸还从罗粉丝组成的群聊中找到了线索。 在这里，罗帆不仅继续提供“修图”服务，还发布了大量暗示性、挑衅性的图片，并以图集的形式公开出售，称60元可以买65张图片，“估计总共有300张图片。” 会通过群聊慢慢更新。”
“这是谁？” 李易从中找到了自己的“裸照”，去找罗帆询问清楚。“这是没穿衣服的Croto（角色名），博主让我这样拍。” 罗帆回复道，并暗暗暗示，“别乱了，因为这组图涉及六十多人，博主本人不同意”。
“他说得就像我们博主自己拍大尺度照片一样！” 李易非常生气，亮出了自己的身份，与罗粉丝对峙。
“对不起，姐姐！” 罗帆承认，李毅的照片是她第二次“创作”的。 李还表示，这不属于正常的“二次创作”范围，而是对她人格权的侵犯。
罗帆辩称这一系列图片不是他做的，“是别人做的”，罗帆没有意识到事情的严重性，与李毅商量，“我的卡余额只有1200元，我可以吗？”我不能补偿你六百五十块钱吗？”
“这不是钱的问题，你已经触犯了法律。” 李毅等博主选择报警。
黑色产业链危害未成年人
李毅的经历也不例外。 人工智能技术被滥用，黑色产业链正在形成。
在互联网上，只要输入关键词，就可以轻松找到提供“人工智能脱衣”相关技术或服务的商家。 他们打着“AI画画”、“AI重映射”的旗号，在社交媒体上招揽生意，引导顾客添加联系方式，经过一对一沟通或加入私人群聊后，拿出有暗示性的图片。 诱导网友购买。
“AI脱衣”的受害者很多，甚至包括未成年人。 一位卖家声称自己“资源很多”，发来了一整套价目表，图册上分为“明星”、“网红”、“模特”、“漫画”等类别。 甚至还有穿着校服的高中生。 他声称，如果没有喜欢的类型，顾客可以发照片“单图定制”，每张两块钱，“网上的图片可以作为素材”。
“事实上，只要人们掌握了相关技术，人们就可以利用人工智能来制作这些图片。” 高级算法工程师蓝天告诉中青报、中青报记者，“AI脱衣”算法之所以被称为“”，是因为伦理问题。 它被下架了，但也不排除有人通过其他AI算法训练机器来达到同样的效果。
在某通讯软件上，一款AI机器人已经获得了不少用户。 它不需要用户掌握复杂的算法知识，只需按照其提示即可完成拍照“换脸”、“脱衣服”等操作。 这款机器人还拥有细致精细的设置，可以像美颜相机一样调节画面的各种参数。
该机器人需要付费使用。 用户点击“充值”按钮后，将被引导至点卡充值网站进行在线支付。 但用户支付的并不是商家，而是个人，因此很难追踪机器人的运营实体。 根据它的价格表，只要两块钱就可以生成一张脱光照片。
“机器是中性的生活网报道，只要‘喂’了足够的人体结构图，机器在后期输入图片时，可以通过识别人脸、身体等特征，重新绘制整张图片，生成‘脱衣照片’。” 蓝天表示，机器“只关心照片的生成”，不会考虑照片中人的意愿，以及是否成人等伦理和法律问题。
“按照技术工具论的视角，技术是中性、无害的，但这种认识忽视了技术应具有的道德关联性。” 西南政法大学刑事侦查学院副教授、硕士生导师谢凌认为，技术之间存在差异。 一些新技术，如深度造假技术，被滥用后果难以预测，其道德、伦理和法律问题也更加复杂。
从“对未成年人最有利”的原则构建网络安全规则
北京京师律师事务所合伙人姚志斗律师被曝光过多起因滥用新技术而侵害未成年人权益的案件。 其中，不法分子利用“AI换脸”软件替换从互联网渠道收集的大量未成年学生的面部信息，制作虚假换脸淫秽视频，然后将视频收费出售。“这不仅侵犯了未成年学生的肖像权和心理健康，而且还涉及传播淫秽物品牟利罪。”
“应对新技术、新应用的风险，需要从‘对未成年人最有利’的原则和‘儿童权利’的角度构建安全规则。” 中国青少年研究中心未成年人法研究专家郭开元认为，对于新技术、新应用带来的未来风险，必须把握好未成年人特殊保护与新技术应用之间的动态平衡。 有关部门应尽快制定保护儿童、尊重隐私、设立特殊保护的规定。 特别是要建立按年龄标准分级管理的制度和监护人知情同意的制度。
谢凌呼吁对新技术应用风险进行分类评估，建立新技术监管的制度壁垒，明确技术合理使用的边界。 如果没有技术滥用的屏障，这类高风险新技术的网络应用应该受到严格监管，因为“新技术很可能导致未来新的非法活动的出现”。
姚志斗表示，网络犯罪监管存在一定难度。 网络犯罪的证据主要存储在网络服务器中，面对复杂多样的电子数据，取证存在一定的困难。 此外，犯罪人身份认定难度较大，且部分犯罪人身在国外，给案件管辖带来挑战。
事实上，针对互联网新技术、新应用带来的风险，有关部门已加大整治力度。
中央网信办专项行动七个重点之一就是指出新技术新应用的风险，包括“AI换脸”“AI画图”“AI一号”等技术的使用-点击“脱衣”，生成未成年人信息。 低俗色情图片、视频； 利用所谓“阅后即焚”秘密聊天软件引诱未成年人提供个人信息，诱导实施违法行为； 利用生成式人工智能技术制作、发布涉及未成年人的有害信息。
“这释放了国家加大网络环境整治力度、切实加强对网络未成年人保护的信号。” 谢凌指出，此次专项行动针对未成年人身心脆弱的特点，旨在防止未成年人受到伤害。 利用网络防止其成为网络新型违法犯罪活动“工具人”的行为，也是落实未成年人保护法和未成年人保护法相关保护措施的具体体现。预防未成年人犯罪法。
现在，李怡已经从心理阴影中走了出来，她说：“我无法因为这些事情而停止对生活的热爱。”
版本 10，2023 年 7 月 13 日
