人工智能新规发布 为AI发展设置安全网

随着ChatGPT、Sora等大模型的开放和应用，AI生成技术使用的门槛持续降低，也进一步增加了各界对人工智能安全与合规的担忧。全国信息安全标准化技术委员会于日前发布的《生成式人工智能服务安全基本要求》（以下简称《安全基本要求》）规定了生成式人工智能服务中的语料安全要求、模型安全要求、安全措施要求及安全评估要求的具体细则，是国内首个面向AIGC服务安全领域的技术文件。

数创科技有限公司知识产权中心负责人郑成智在接受《中国贸易报》记者采访时表示，无论人工智能服务的提供者位于我国境内还是境外，只要相关服务面向我国境内的公众，那么就适用于该文件。这给全世界范围内的人工智能服务提供者都提出了较高的要求，AI生成技术平台想要争取中国市场，务必紧密注意生成式人工智能可能带来的长期风险。

根据《安全基本要求》，面向特定语料来源进行采集前，应对该来源语料进行安全评估，语料内容中含违法不良信息超过5%的，不应采集该来源语料；面向特定语料来源进行采集后，应对所采集的该来源语料进行核验，含违法不良信息情况超过5%的，不应使用该来源语料进行训练。

“这一规定要服务提供者对语料内容进行过滤，采取分类模型、关键词、人工抽检等方法，充分过滤全部语料中的违法信息。”郑成智表示，同时需要注意数据隐私安全问题，在使用个人信息、敏感信息的语料前，应取得对应个人同意或者符合法律、行政法规规定。

《安全基本要求》还就如何避免侵犯知识产权制定了详细的指导方针，包括：应设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略；语料用于训练前，应对语料中的主要知识产权侵权风险进行识别，发现存在知识产权侵权等问题的，服务提供者不应使用相关语料进行训练；例如，语料中包含文学、艺术、科学作品的，应重点识别语料以及生成内容中的著作权侵权问题；应建立知识产权问题的投诉举报渠道；应在用户服务协议中，向使用者告知使用生成内容时的知识产权相关风险，并与使用者约定关于知识产权问题识别的责任与义务；应及时根据国家政策以及第三方投诉情况更新知识产权相关策略。

郑成智表示，《安全基本要求》体现了对知识产权的重视，提醒人工智能服务提供者规避侵权风险，在实际应用过程中将有效降低生成式人工智能服务自动生成虚假图片、音频、视频等给企业带来的商业危害。此外，《安全基本要求》还强调，禁止违反商业道德，泄露他人商业秘密，利用算法、数据、平台等优势，实施垄断和不正当竞争行为，更全面地促进生成式人工智能健康发展。

中国社会科学院大学数字中国研究院执行院长吕鹏对此表示，人工智能作为最具颠覆性和战略性的核心关键技术，能够帮助各行各业在数字化的基础上进一步实现智能化，成为未来的发动机。而《安全基本要求》将作为方向盘，始终将各种新兴科技控制在向善的道路上。

“《安全基本要求》为人工智能服务提供者提供了更为明晰的注意义务边界和法律责任指引，方便从业者在合规制度下开展相关工作，降低法律风险。未来，AI生成技术将兼顾市场与用户等各方的利益，有更大更安全的创新舞台。”郑成智说。