紫牛涉黄AI换脸案的罪与罚 对新技术的应用要心怀敬畏
评论员：陈迪晨
近日，杭州互联网法院审理了一起涉黄“AI换脸”案件，被告人虞某社交软件上建群传播“AI换脸”的淫秽视频，还进行有偿“私人定制”，声称“只要能看到脸的都能换”，有人甚至要定制暗恋女生的换脸视频。
令人关注的是，这起案件中，检察机关不仅依法追究嫌疑人虞某的刑事责任，还提起了民事公益诉讼。最终，虞某因犯制作、传播淫秽物品牟利罪，获刑有期徒刑7年3个月，并处罚金6万元。民事公益诉讼中，法院判令虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。近两年，ChatGPT横空出世,拉开了生成式人工智能(AIGC)的序幕，引起公众对AI技术的广泛关注和热情。一时间，人工智能不仅成为前沿科技的研究对象，广泛应用于各高精尖行业，还以异乎寻常的速度介入了人们的生活、工作和学习，人脸识别、 AI换脸、文生视频、数字分身……人类科技树点亮了一颗不得了的新星。扬子晚报紫牛头条曾报道过，南京有5个年轻人组建了工作室，用AI技术帮助顾客“复活”已故亲人，半年多时间帮助600多个家庭实现了不一样的团圆。“复活”亲人，给了那些思念亡故亲人的人们极大的精神慰藉，但同时，也有一些人为了流量或其他利益，未经授权，“复活”名人却伤害了其健在的亲人。AI产品和服务呈爆发式增长的同时，利用“AI换脸”虚假视频，进行诈骗、侮辱、诽谤的违法行为屡见不鲜。
不管是出于“好玩”，还是获取关注博流量，抑或取得不正当收益，人工智能技术的滥用，不仅违背了社会的公序良俗，还侵害了个人的人格权、肖像权、名誉权、隐私权，对受害者及其家属造成了极大的精神伤害，对清朗的网络环境造成污染，甚者，利用人工智能实施的犯罪行为，更具有欺骗性和危害性，让人防不胜防。以前网络上流行一句话“无图无真相”，后来“进化”成“开局一张图，内容全靠编”，到现在有了“真实的”视频，也让人无法相信了。人类的科技树本应成为人们的福祉，而不应是违法犯罪的工具。有人说，人类科技树是不是“点歪了”，其实科技本无善恶，但却有可能被“用歪”，对新技术的运用我们要心怀敬畏，要在法律与伦理道德范围内进行。杭州互联网法院的这起判例，对犯罪者处以较重的刑罚，支持检察机关的民事公益诉讼，对人工智能不当运用的治理更有深远的积极意义。随着人类科技的进步，社会治理的难度也在加大，需要我们不断完善立法，用伦理审查规范AI技术的使用边界，同时需要我们的司法机关发挥能动司法的作用，主动作为，严厉打击。
校对 王菲