近日，浙江金华婺城网警雷霆出击，成功侦破一起利用AI工具制作并传播淫秽内容的案件，抓获犯罪嫌疑人8名。目前，属地公安机关依法对8名犯罪嫌疑人采取刑事强制措施，案件正在进一步侦办中。

神秘群组暗藏淫秽定制黑产

某资深国漫爱好者在上网时，发现某互联网群组内的部分账号打着“私人定制”和“众筹更新”的旗号招揽生意，其发布的所谓热门国漫角色“美图”，内容不堪入目。意识到这种行为严重亵渎国漫形象，更已触碰法律红线，该爱好者向警方报了案。

新型技术成犯罪工具

接警后，婺城警方迅速成立专案组展开侦查，很快锁定了犯罪嫌疑人陈某，并组织警力展开抓捕。

在对其住所进行搜查时，民警在其电脑和硬盘中查获大量专门用于生成淫秽内容的AI模型文件、训练数据，以及已经制作完成的成品图片和视频，在民警出示的一系列证据面前，他的如实交代了犯罪事实。

8人团伙全员落网

据陈某供述，为牟取非法利益，以“角色投票、私人定制、众筹更新、终身会员”等噱头，接收客户指定的国漫角色，按照对方要求利用AI技术生成淫秽内容，从中赚取非法利益。随着调查的深入，警方顺藤摸瓜，将该团伙其余7名犯罪嫌疑人一网打尽。

“新兴技术的使用切勿用错地方。”办案民警指出，犯罪嫌疑人利用AI技术打破虚拟与现实的边界，将深受大众喜爱的国漫角色恶俗化，严重污染了网络环境，挑战了社会公序良俗。

1. 平台要履行主体责任，严审内容，健全机制，杜绝“流量至上”，落实管理责任。

2. 技术与从业者应明确AI等技术应用边界，严禁用于违法用途非法牟利及传播违法犯罪信息。

3. 网民需提升法治与网络素养，抵制违法内容，违法必追责，共建清朗网络空间。

综合：公安部网安局、浙江金华网警

来源：越牛新闻