生成式 AI 安全标准发布：如何确保训练数据和生成内容的安全性？

中国网络安全标准化技术委员会发布“网络安全技术 生成式人工智能服务安全基本要求”

随着生成式人工智能应用场景的不断拓展和应用数量的增长，相关领域的安全问题也越来越引人关注。为了保障人工智能应用场景的安全和健康发展，中国网络安全标准化技术委员会官网发布了《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿，旨在规范生成式人工智能服务的安全要求和标准。

数据来源安全

对于生成式人工智能服务的安全要求，其中一个重要方面就是数据来源的安全。这一要求要求采集数据前对数据来源进行安全评估，以及对所采集的数据进行核验。如果数据内容中含违法不良信息超过5%，则不应采集该来源数据或使用该来源数据进行训练。

同时标准也要求提高数据来源的多样性和可追溯性。训练数据来源的多样性可以保证训练模型的鲁棒性，使得模型可以更好地适应各种数据来源。而数据来源的可追溯性则可以帮助识别和防范风险，提高训练数据的信任度和可靠性。

数据内容安全

除了数据来源的安全要求外，对于训练数据的过滤和知识产权管理也是非常重要的。这一要求可以保证生成的内容不包含违法不良信息，并且对包含个人信息的数据要求取得对应个人同意或符合法律和行政法规规定的其他情形。

此外，对于知识产权的管理也非常重要，需要建立对知识产权问题的投诉举报渠道，对主要的知识产权侵权风险进行识别，以及在用户服务协议中约定相关责任和义务等。这样可以有效保护知识产权，促进人工智能应用场景的健康发展。

模型安全要求

除了数据的安全要求外，模型安全也是非常重要的。在模型训练、输出、监测、更新、升级以及软硬件环境方面都需要有相应的安全措施和管理要求。

例如在模型训练方面，需要将生成内容安全性作为评价生成结果优劣的主要考虑指标之一，以保证生成的内容准确性和可靠性。而在模型输出方面，需要采取技术措施提高生成内容响应使用者输入意图的能力，提高生成内容中数据及表述与科学常识及主流认知的符合程度，减少其中的错误内容等，以提高生成的内容质量和用户体验。在模型监测方面，需要建立常态化监测测评手段以及模型应急管理措施，对监测测评发现的问题及时处置并优化模型，以保证生成式人工智能服务的安全和稳定性。

结尾与推荐

生成式人工智能服务的安全问题一直备受关注，发布《网络安全技术 生成式人工智能服务安全基本要求》标准也是为了规范人工智能应用场景的安全要求和标准，促进其健康发展。通过对数据来源安全、数据内容安全和模型安全要求的详细规定和管理，可以有效保障生成式人工智能服务的安全性和稳定性，使其更好地服务于用户需求。

如果您对人工智能的安全问题也感兴趣，欢迎通过评论区留言分享您的想法和看法，一起探讨人工智能布重要的执行问题，感谢您的观看！

关注我们，获得更多有用的资讯和知识。

点赞、分享、评论、感谢观看！

本文链接：https://www.24zzc.com/news/171729705177700.html