中国首例 以人工智能AI写色情小说触犯传播淫秽物品牟利罪(或传播淫秽物品罪)被判刑入狱
近日，湖北省大冶市人民法院对首例利用人工智能（AI）技术撰写色情小说并牟利案件作出宣判。
被告人柯某在2022年11月到2023年3月期间，以牟利为目的，使用翻墙软件在境外网站借助人工智能工具批量生成淫秽小说发布并售卖，因犯制作、贩卖、传播淫秽物品牟利罪被判处有期徒刑十个月，并处罚金人民币五千元、退缴违法所得。
公诉机关指控，2022年11月至2023年3月期间，被告人柯某（大专文化，网文作者）以牟利为目的，利用AI程序撰写色情小说，并使用翻墙软件在境外黄色网站发布，同时在另一网站售卖。短短五个月时间，柯某共计发布色情小说数十篇，共计获利2万余元。经鉴定，送检的7篇小说均为淫秽物品。案发后，柯某家属代为退赃2万余元。
法院经审理认为，被告人柯某以牟利为目的，利用某AI文本生成工具，制作、贩卖、传播淫秽物品，非法获利2万余元，其行为严重违反了我国相关法律法规，对社会风气造成不良影响，已构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。被告人柯某到案后能如实供述其犯罪事实、自愿认罪认罚、退缴违法所得，可依法从轻处罚、从宽处理。根据本案犯罪事实、量刑情节、公诉机关量刑建议，法院遂作出上述判决。
AI技术在文学创作、艺术设计等领域的应用日益广泛，但技术应用必须遵守法律法规和公序良俗。依据《中华人民共和国刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，可处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，可处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，可处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
【延伸解读】
---利用AI创作和传播黄色小说违法，牟利与否均可能犯罪
利用AI创作和传播黄色小说是违法行为，无论是否牟利，均可能构成犯罪。涉嫌触犯传播淫秽物品罪及制作、复制、出版、贩卖、传播淫秽物品牟利罪，分别规定在《中华人民共和国刑法》第三百六十四条及第三百六十三条。
传播淫秽物品牟利罪的主体是一般主体，客体是国家对文化娱乐制品的管理，其犯罪对象是淫秽物品；客观方面表现为行为人实施了制作、复制、出版、贩卖、传播淫秽物品的行为；主观方面则表现为直接故意，即行为人知道或应当知道是淫秽物品而进行制作、复制、出版、贩卖、传播，同时行为人在实施本罪时还必须具有以牟利为目的。若没有以牟利为目的，则构成传播淫秽物品罪。
工具无罪错，但利用工具实施犯罪行为的主体却有。AI仅是一个工具，但利用工具进行新型犯罪却是严重罪错。
---AI若使犯罪行为更高效、危害更大，可能成为加重情节
AI技术一般不会直接成为加重或减轻刑罚的情节。但如果AI被用于实施犯罪，AI作为犯罪工具，其在犯罪过程中的作用可能影响刑罚。AI使犯罪行为更高效、传播范围更广、危害更大，可能成为加重情节，从而影响到量刑。
从平台方来说，平台明知或应知用户利用AI生成并传播违法内容，却未采取必要措施制止、删除等，应承担相应的法律责任，并且依据《互联网信息服务管理办法》可能面临责令改正罚款 吊销营业执照等行政处罚。
平台方要建立健全内容审核制度，加强对用户上传内容的审查，对违法内容及时处理；建立健全投诉举报机制，对于举报内容及时处理和对用户进行奖励；同时明确用户使用规则，告知用户不得利用平台传播违法内容，并对违规行为进行处罚；积极配合监管部门的工作，主动接受监督，发现违法行为及时向监督部门报告。
监管部门应当明确制定专门的监管法规，制定具体实施细则，细化平台的监管责任。
---AI目前并无独立法律主体身份，在个案中应评价使用人的行为
“AI虽然有自主的决策和行为，但目前在我国并无独立的法律主体身份。”无论刑事、民事案件中对于AI技术的介入，在个案中应该评价使用人的主观过错、行为、与AI自发行为、危害结果这几者之间的关系，准确适用法律进行处罚。
“例如，在这起案件中，如果柯某某并未给予AI生成淫秽物品的指令，对AI生成内容也做了常情常理下一般人应注意的审核，仍无法判断出这是淫秽物品的话，就应该考虑行为人没有主观过错，是否要免除或减轻处罚。”
仅就内容管理而言，人工智能作为互联网运行程序，其开发、运行、维护当然要符合目前已经有《网络安全法》《互联网信息服务管理办法》《网络信息内容生态治理规定》《移动互联网应用程序信息服务管理规定》等等较为全面的规定。因此，开发者也好、平台也好、用户也好都应该按照这些规定来规范自己的行为，承担法律责任。
那么，普通人在使用AI工具创作内容时，如何避免触碰法律红线？ 首先主动学法，了解哪些行为是法律不允许实施的行为；其次是要心存敬畏，一切技术或工具的利用背后都是人意志的体现，在利用AI创作时要时刻反思自己的使用目的、用途、方法是否存在损害他人或社会的情况，再次就是要谨慎利用，对于AI创作的内容自己使用、对外提供均需要进行必要的检验和复核。