今日应用
今日话题
中国发布《生成式AI安全基本要求》，涵盖训练数据、生成内容等
重点标签 生成式人工智能、数据安全、模型安全、国家标准、AIGC开放社区
文章摘要
全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿，旨在加强生成式人工智能（AI）的安全性。意见稿分为三部分，包括标准文本、意见汇总处理表和编制说明。标准文本特别关注训练数据和模型的安全要求，确保AI服务在网络安全、数据安全、个人信息保护等方面的安全性。
数据来源安全方面，服务提供者需进行数据来源的安全评估，确保采集的数据中违法不良信息不超过5%。训练数据应来源多样，包括不同语言和类型，并合理搭配境内外数据源。使用开源、自采或商业数据时，都应有相应的授权或合同，并确保数据可追溯。
数据内容安全上，所有训练数据在用于训练前都应进行过滤，去除违法不良信息。服务提供者应有知识产权管理策略，建立投诉举报渠道，并在用户服务协议中明确知识产权相关风险和责任。对于包含个人信息的数据，必须获得个人同意或符合法律规定。
模型安全要求包括模型训练、输出、监测和软硬件环境等方面。模型训练时，生成内容的安全性是评价指标之一，需定期进行安全审计。模型输出应提高准确性和可靠性，对不当问题应拒绝回答，并按要求标识生成内容。模型监测要防范恶意输入攻击，并建立常态化监测和应急管理措施。软硬件环境方面，要评估供应链安全，隔离训练和推理环境，确保数据安全。
此标准是对2023年7月发布的《生成式人工智能服务管理暂行办法》的细化，展示了国家对创新技术的重视和对应用安全的保障。AIGC开放社区将关注此标准的进一步发展和实施情况。
文章来源
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
暂无评论...
晒应用是一个专注于软件和资源网站分享的导航类网站。我们致力于为用户提供最新、最热门的应用推荐和AI资源，涵盖各种AI绘画、AI制图、AI工具、AI剪辑、AI文本、AI创作、实用工具、免费软件、在线服务和在线影视导航。无论您是寻找最佳的数字工具还是想要了解最新的黑科技应用，晒应用都能满足您的需求。