随着人工智能技术的快速发展,大型语言模型等生成式人工智能服务已深度融入社会经济各领域。为促进生成式人工智能健康发展和规范应用,国家互联网信息办公室联合相关部门于2023年正式发布《生成式人工智能服务管理暂行办法》,明确规定了面向公众提供服务的生成式人工智能产品的备案要求。这一制度设计既体现了鼓励技术创新的政策导向,又建立了必要的安全护栏,标志着我国人工智能治理进入制度化、规范化新阶段。

备案适用范围与主体
根据现行政策规定,满足以下条件的主体需要履行备案程序:
- 面向中华人民共和国境内公众提供服务的生成式人工智能产品
- 利用生成式人工智能技术提供聊天、文本、图像、音频、视频等生成服务
- 包括提供具有舆论属性或社会动员能力的服务
备案责任主体包括生成式人工智能服务的提供者,即自行或通过第三方提供生成式人工智能服务的组织或个人。值得注意的是,若仅将生成式人工智能服务用于内部办公、科研实验等非商业化场景,且不向公众开放,通常无需备案。
备案流程详解
备案流程主要包括四个关键阶段:
- 材料准备阶段:需准备《生成式人工智能服务备案信息表》、服务提供者身份证明、技术安全评估报告、内容安全管理制度等核心材料
- 技术安全评估:由具备资质的第三方评估机构对算法的安全性、透明度、可解释性等进行全面评估
- 备案提交:通过国家互联网信息办公室的备案系统在线提交全套材料
- 备案审核与公示:网信部门在收到备案材料后20个工作日内完成审核,通过后予以公示
核心材料要求
备案所需的核心材料包括但不限于以下内容:
| 材料类别 | 具体内容 | 备注 |
|---|---|---|
| 基本信息材料 | 服务提供者营业执照、法定代表人身份证明 | 需加盖公章 |
| 技术安全材料 | 算法机制机理审核报告、数据安全风险评估报告 | 需第三方机构出具 |
| 内容管理材料 | 内容安全管理制度、应急处置预案、用户协议 | 需体现全流程管理 |
合规要点与注意事项
在备案及后续运营过程中,服务提供者需重点关注以下合规要求:
- 训练数据合规:训练数据来源应合法合规,不得包含侵犯知识产权、个人隐私的内容
- 内容安全底线:建立健全内容审核机制,防止生成违法违规信息
- 标识要求:在生成内容的合理位置、区域进行显著标识
- 用户权益保护:明示服务用途,保障用户的知情权和选择权
特别提示:备案并非一劳永逸,服务提供者应在服务功能、技术路径有重大变更时,及时履行变更备案手续。
监管动态与发展趋势
随着技术迭代加速,大模型备案监管体系也在不断完善。2024年以来,监管部门已逐步建立起“备案-巡查-执法”的全链条监管机制,并通过“算法的算法”即监管科技手段提升治理效能。展望未来,备案要求将更加精细化,针对不同风险等级的服务实施分级分类管理,同时与国际治理规则接轨,为人工智能技术创新营造更加规范的制度环境。
内容均以整理官方公开资料,价格可能随活动调整,请以购买页面显示为准,如涉侵权,请联系客服处理。
本文由星速云发布。发布者:星速云。禁止采集与转载行为,违者必究。出处:https://www.67wa.com/129354.html