近日，湖北省大冶市人民法院宣判了国内首例利用AI撰写色情小说并牟利的案件，被告人柯某因制作、贩卖、传播淫秽物品牟利罪被判处有期徒刑十个月，并处罚金5000元、退缴违法所得
与许多人想象中不同，柯某非常有法律意识地把色情小说在海外发布，甚至是要“翻墙”才能访问的网站，但依旧遭到了国内法律的制裁
原因是什么？
如果是用AI做色情游戏，也会遭受铁拳吗？
*本文仅为笔者个人观点，不视为任何法律建议或法律意见。
一、天网恢恢，“翻墙”也不漏
随着AI技术的普及，越来越多人享受到了AI的便利
当然，也让许多人的“小心思”不断涌动
被告人柯某，一名具有大专学历的网文作者，在2022年11月至2023年3月期间，以牟利为目的，“巧妙”地将AI文本生成工具转化为创作色情小说的工具
他通过“翻墙”软件将这些内容发布在境外黄色网站，并在另一网站上进行售卖。在短短五个月内，柯某共发布了数十篇色情小说，非法获利超过2万元，经鉴定，送检的7篇小说均为淫秽物品。
法院审理认为，柯某利用AI工具制作、贩卖、传播淫秽物品的行为严重违反了我国法律法规，对社会风气造成了不良影响。考虑到被告人柯某到案后能如实供述其犯罪事实、自愿认罪认罚、退缴违法所得，可依法从轻处罚、从宽处理，因此最终做出了有期徒刑十个月，并处罚金5000元的判罚
大冶市法院承办法官与人民检察院均表示，AI技术应用必须遵守法律和公序良俗，利用AI创作违法内容与传统手段无异，均需承担法律责任
二、属人属地，双重管辖
柯某选择在境外发布小说，甚至是“翻墙”才能访问的网站，足可以预估柯某的“小心思”
在境外发布，还Ban了国内IP，国内应该不会处罚吧？
但正如已经在以前的文章中讨论过
在这里再次强调一下：
我国刑法是属人+属地双重管辖
意思是：
我国公民无论在境内还是境外实施犯罪行为，均受中国法律约束；
同时在我国领土及网络空间内实施的犯罪行为，无论行为人国籍如何，均适用中国法律
在本案中，尽管柯某选择把小说内容发布在“翻墙”才能访问的境外网站，但因为他是我国公民，同时他的犯罪行为（“制作淫秽小说”）实际发生在境内，因此他会被依法追究刑事责任
三、AI做色情游戏，“刑途”无量
眼下，AI技术早已渗透进游戏开发的每个角落：从自动生成对话剧情、设计关卡布局，到角色原画勾勒、3D建模渲染，甚至接入NPC智能互动、实时生成配音对白，AI不仅让开发效率飞升，还能极大丰富玩家的游戏体验
尤其随着AI在编程方向上的准确率不断提升，大量以前没接触过代码的普通人，也开始跃跃欲试，借助AI一头扎进游戏开发的红海
正如那句老话“最容易赚钱的办法都写在了《刑法》上了”
想要做最快来钱的游戏，不少人脑子里蹦出的第一个念头就是“黄赌”类项目
用AI批量生成色情游戏，再打包丢到海外平台上卖，人在国内坐，“刀乐”睡一觉就到账，稳赚不赔
不过，睡醒看到的，也可能是“玫瑰金手镯”
只要人是中国国籍，人的肉身还在国内
无论游戏用什么工具做，无论游戏发布到哪个平台发售，无论这个平台在国内是否可以访问
通通都可以抓
另外还有一点要注意的是
目前许多独立游戏开始自行接入了AI NPC，为NPC设定了身份，然后通过调用API的方式，让玩家与NPC进行对话
但基于国内目前的规定，对于通过API接口或其他方式直接调用已备案模型能力的生成式人工智能应用或功能，需要在地方网信办完成登记
虽然目前违规接入AI还没能构成刑事责任，但如果接入的是海外AI、没做风控的AI，甚至是AI服务提供商违规收集、使用、泄露个人信息，游戏开发者仍可能面临法律风险，甚至触及刑事责任
因此，无论是用AI开发游戏，还是在游戏中引入AI，都需要十分注意且做好风控工作
四、总结
出海赚钱也要合规，AI技术虽便利，但应用必须恪守法律底线
《刑法》是EXE，就算不小心误触了，一旦违法，便会启动程序
AI可不能替大家坐牢
北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心高级顾问。具有近十年互联网法律实务经验，曾先后为创业板上市互联网企业、全国互联网综合实力 50 强企业、互联网快时尚零售独角兽等互联网企业提供法律服务，擅长办理互联网类企业诉讼与合规业务，擅于通过计算机技术手段深度挖掘证据。
您可以通过以下方式联系我： 电子邮箱：liboyang@lslby.com 微信号：legal-lby