AI创业者指南：大模型与算法备案实操解析｜顺为系

来源：顺为资本

｜图片来自：DALL·E

随着人工智能技术的快速发展，大模型与算法成为推动各行各业创新的重要引擎。然而，数据安全与隐私保护问题也日益凸显。为了确保 AI 技术的安全应用，国家相关部门对大模型与算法的备案提出了具体的要求。大模型和算法备案作为 AI 产品推向市场的首要门槛，已成为每个创业者必须面对的重要环节。

作为一家致力于发掘与扶持创新型企业的投资机构，顺为团队始终关注大模型领域的创新机会，并通过全面的投后服务，陪伴创业者在这条充满机遇与挑战的道路上顺势而为。在本次投后服务活动中，顺为团队邀请到了行业专家，详细为创业者们梳理了大模型与算法备案的相关内容，旨在为被投企业和行业内的创业者提供参考和帮助。

｜图片来自：DALL·E

一、大模型与算法备案的要求介绍

1. 整体介绍

大模型和算法备案是企业产品和服务合法合规进入市场的关键步骤。

依据现行法规，中央网信办是大模型和算法备案法律框架的主要制定部门，负责维护意识形态安全和内容安全。现行法规要求企业在提供涉及大模型和算法的服务前，必须进行备案。

按照《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等法律法规的要求，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当：

·开展安全评估，在实操中安全评估被监管部门简化为生成式人工智能服务备案，即大模型备案。

·履行算法备案和变更、注销备案手续，即深度合成服务算法备案。

未进行备案的企业，可能面临下架、暂停服务甚至罚款的风险。

2. 大模型备案介绍

大模型备案的范围主要包括面向公众的 To C 服务和部分 To B 服务。备案周期按批次审核通过，一般一个半月至两个月左右一批。

备案的具体要求如下：

·备案范围：主要针对具有舆论属性和社会动员能力的 To C 服务。To B 服务如果仅提供 API 或私有化部署，当前则无需备案。

·材料提交：企业需要提交备案表、安全评估报告、服务协议、标注规则、关键词库等。

·安全测试：监管部门会对提交的模型进行安全测试，测试内容包括敏感词检测、涉政内容的生成等。只有通过安全测试，模型才能最终通过备案。

3. 算法备案介绍

算法备案则相对简单，主要包括形式上的材料审查，无需实质的安全测试。备案周期按批次公布，一般两个月左右公布一批。

具体流程如下：

·系统使用：企业通过互联网信息服务算法备案系统在线提交主体信息、算法信息以及产品功能应用的信息。

·材料撰写：企业需撰写算法安全自评估报告，内容包括算法数据、滥用风险、标识机制等。

二、企业的备案实践情况

1. 大模型厂商的备案要求

大模型厂商根据其提供的服务类型（To C 或 To B）需遵循不同的备案要求：

·To C 服务（具有舆论属性和社会动员能力）：需进行大模型备案，提交完整的材料并通过安全测试。

·To B 服务：如果仅提供 API 或私有化部署，当前无需进行大模型备案，但在商业合作中，通过备案可以提高竞争力。

2. AI应用厂商的备案要求

AI 应用厂商根据其应用领域和服务类型有不同的备案要求：

·通用领域应用厂商：需要进行大模型备案或算法备案，具体取决于其是否使用自研模型或调用已备案的 API。

·垂类领域应用厂商：如果使用第三方已备案的 API，只需进行登记即可，流程相对简化。

3. 开源模型的特殊要求

使用开源模型的企业需特别注意以下几点：

·开源模型选择：建议使用国内开源模型，海外模型可能会面临安全性审核的挑战。

·安全性验证：企业需通过优化训练和安全策略确保开源模型的安全性，并在备案过程中向监管部门详细解释。

三、应对备案的具体要点

1. 大模型备案要点

企业在进行大模型备案时需注意以下几点：

·材料撰写：详实填写备案表、安全评估报告等材料，确保内容详尽、字数充足。

·安全检测：包括模型本身的安全策略和系统层的安全建设，如关键词表的制定和管理。

·测试题类型：监管部门会测试模型的涉政内容生成、假扮身份的回复等，企业需做好相应准备。

2. 算法备案要点

算法备案主要集中在系统使用和材料撰写上：

·系统使用：通过线上系统填报主体信息和算法信息，确保信息准确、全面。

·材料撰写：撰写详细的算法安全自评估报告，包括算法选择、归类以及风险防范措施。

四、备案后的常态化治理

1. 内容监控、管理策略

备案后，企业需建立健全的内容监控和管理策略：

·关键词分级：制定和更新关键词列表，确保对敏感内容的及时拦截。

·内容撤回策略：设立内容撤回机制，对违规内容进行快速处理。

2. 账号运营策略

为了维持平台的健康运行，企业应制定详细的账号运营策略：

·账号监控：定期检查用户账号的活动，防止违规行为。

·处置策略：制定账号处置方案，对违规账号进行警告、限制或封禁。

3. 重要节点应对

企业需提前准备好应对重要节点的策略，如节假日、重大事件期间的内容安全保障措施。

五、其他可能遇到的问题以及答疑

1. 备案流程不明确

如果企业对备案流程不明确，建议通过属地网信办或行业协会获取指导。备案流程各地可能略有不同，但大致流程相似，企业可以通过网络和电话联系当地网信办，获取具体指导。

2. 安全测试不通过

如果企业在安全测试中未通过，需及时调整模型安全策略，并重新提交备案。企业应密切关注安全测试的具体要求，并在首次提交材料前尽可能完善相关安全措施。

3. 商业合作要求备案

在商业合作中，某些合作方可能会要求企业完成备案，以确保其服务和产品的合法合规性。提前与合作方沟通备案事宜，确保合作顺利进行。

4. 开源模型的备案难题

对于使用开源模型的企业，尤其是采用海外开源模型的企业，备案时可能会面临更高的安全性审核要求。建议企业在选择开源模型时，优先考虑国内模型，并在使用开源模型时，实施严格的安全策略，以确保合规。

5. 备案后的合规维护

通过备案并不意味着一劳永逸。企业需在日常运营中保持合规，定期更新安全措施和监控策略，以应对不断变化的监管要求和技术环境。

大模型与算法备案是中国 AI 创业者必须跨越的重要门槛。通过了解和遵循相关法规和要求，企业不仅能确保其产品和服务的合法合规性，还能在激烈的市场竞争中脱颖而出。合规不仅是对法律的遵守，更是对用户和合作伙伴的承诺，能够为企业带来长远的信任和发展机遇。

希望本文能为 AI 创业者提供清晰的指引，助力企业在快速发展的 AI 行业中取得成功。