中国发布《生成式AI安全基本要求》：如何保障训练数据的准确性与隐私？生成式AI受到哪些安全挑战？_SEO优化

近日，全国网络安全标准化技术委员会在其官网发布了国家标准《网络安全技术生成式人工智能服务安全基本要求》征求意见稿。

该标准主要针对生成式人工智能进行安全管理，涵盖训练数据安全要求、模型安全要求等，目的是加强生成式人工智能的开发、应用落地的安全性。

对于此标准，如果你有任何意见，可以在2024年7月22日前反馈给国家网安标委秘书处，让自己的声音被听到。

标准文本分析

征求意见稿的标准文本分为训练数据方面、数据内容安全、模型安全要求三个方面进行了详细阐述。

这一部分主要规定了对生成式人工智能的训练数据方面的要求，其中具体包括采集来源管理、不同来源训练数据搭配、训练数据来源可追溯等内容。

在数据内容方面，需要对训练数据内容进行过滤、知识产权方面进行管理、个人信息方面进行保护，以及在生成内容中保证图片、视频等内容符合国家标准等。

对于模型安全要求，则主要分成了模型训练方面、模型输出方面、模型监测方面、模型更新与升级方面、软硬件环境方面几个方面进行规定。

去年，国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》，从政策法规层面为我国生成式人工智能健康发展保驾护航，为有序开展相关管理工作明确了方向。而本次发布的标准要求则是在《办法》中的安全要求基础上进行细化。

我国成为全球为数不多在生成式人工智能领域连续出台安全管理条例的国家之一，一方面展示了国家对创新变革技术的重视程度，另外也保证了生成式人工智能的场景化落地和应用安全。同时，我们也应该关注生成式人工智能的安全管理，共同推进人工智能的健康、安全、稳定发展。

对于大家而言，如果对该标准有任何问题、意见和建议，一定要积极提交给相关管理部门，为人工智能建设和发展贡献力量。

为了更好地交流和了解人工智能的相关技术和法律法规，欢迎大家在评论区留言，或者关注我们的公众号，积极参与讨论。

感谢大家的阅读，希望大家都能够关注到人工智能的发展安全问题，共同推进人工智能的可持续发展。

同时，也感谢大家的关注和支持，如果喜欢本篇文章，请给我们点赞、评论和转发，以便更多人了解并参与到本话题的讨论中。