国家网信办发布了《生成式人工智能服务管理办法(征求意见稿)》，旨在规范生成式人工智能技术的发展和应用。管理办法共有21条规定，包括内容监管、算法监管、数据监管等多个方面，其中内容安全条款最为重要。
本文整理自数美科技副总裁陈太锋在下沙龙上的演讲《如何做好AIGC产品合规》。
4月11日，《生成式人工智能服务管理办法(征求意见稿)》出台，这为行业带来了一些定心丸。国家对生成式人工智能的态度是支持和鼓励，也就是鼓励自主创新、推广应用、国际合作等。同时，国家还鼓励优先采用安全可信的软件、工具、计算和数据资源。
01
风险四大类事前-事中-事后管理
生成式人工智能包括三种核心技术：数据、算法和生成。数据采集、清洗和分类、算法生成是整个业务的关键点，因此，从这三点出发，生成式人工智能风险可以分为四大类。
第一，备案和安全评估。对于深度合成服务和算法推荐管理等，需要遵循相关法规的要求，如金融领域，还需要符合该领域的监管规定。此外，向公众提供服务前，必须根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第二，内容安全。这包括意识形态安全、社会公序良俗、不正当竞争、虚假信息管理、尊重他人合法利益等五个方面，AI生成内容需要遵守《互联网信息服务管理办法》和《网络信息内容生态治理规定》。
第三，用户权益。关键点包括保障用户信息安全、知情同意权、举报投诉权利，以及建立未成年人保护、老年人权益保护机制。
第四，知识产权。包括数据版权和肖像权等。
具体而言，生成式人工智能合规可以分为事前、事中、事后三个阶段。其中，事前主要是做好算法备案和安全评估；事中主要是发布信息管理；事后则包括突发事件处置、事故处置和应急保障措施。全面的合规措施需要对每个阶段进行规范。
02
事前做好备案、评估和监督
事前，最重要的是对算法进行备案和安全评估；在算法备案的同时，利用生成式服务产品向公众提供服务前，必须按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家相关部门申请安全评估，这是产品进入市场的两个必要条件。备案的依据可以参考《互联网信息服务深度合成管理规定》。
有一些常见的概念需要剖析清楚，如算法备案、算法安全评估和算法监督检查
本文网址：
