科技 > 生成式AI文件确认31种风险 语料来源建立黑名单
生成式AI文件确认31种风险 语料来源建立黑名单
2023-10-13 15:37阅读(157)
北京时间的10月11日，全国信息安全标准化技术委员会在官方平台发布了一份关于人工智能服务的基本要求规定，作为我国首套专门为生成式AI而制定的规定，代表着生成
北京时间的10月11日，全国信息安全标准化技术委员会在官方平台发布了一份关于人工智能服务的基本要求规定，作为我国首套专门为生成式AI而制定的规定，代表着生成式AI在去进行使用时将会受到法律法规的限制，在这份安全指导性文件里面，对生成式AI明确了的风险总共有31种，这31种风险分为5大类，这五大类型的安全风险，涉及到了模型安全安全评估语料安全安全措施。
根据相关规定显示所有的生成式AI在投入到使用时，提供者必须先针对这些生成式AI向相关部门去进行备案申请，在去备案申请之前，还必须仔细阅读相关的文件，对生成式AI的安全去进行评估，生成式AI经过评估后，所得出的评估结果和证明材料在去申请备案时，需一并向相关部门进行提交。
根据征求意见稿提出的意见显示，生成式AI在投入到市场使用时，需要根据语料的来源去建立黑名单，所有的生成式AI再去进行使用时，所有的语料来源都禁止去使用黑名单里面的数据，对于生成式AI所使用的各种语料的来源，也需要对其进行安全评估测试，才发现生成式AI，所使用的语料来源中内容含有违法或者是不良的信息且信息已经超过了5%，也必须将这一语料来源加入到黑名单之中。
在征求意见稿中还明确表明，有些阻断气虚，由于是根据我国网络安全相关法律法规要求去进行阻断的，因此这些被阻断的信息是不能够成为生成式AI的训练语料，本次所下发的安全倡议书里面，针对个人信息这一方面也作出了极其明确的规定，从事AI，在使用他人的个人信息当做训练语料时，必须得到个人信息主体的同意，或者是符合其他法律法规，才能够使用公民的个人信息当做语料。
相关问答推荐
热点关注
无视欧盟野心 东盟对AI放手的做 生成式AI文件确认31种风险 语料 科技布技术产业规划责任编制重新 阿里罗汉堂也入世了 阿里罗汉堂 OpenAI拟进行重大更新 成本可削 全球首个 华为重磅发布 事关5G 再度刷新世界纪录“九章三号”光 巴以冲突威胁以色列科技业：AI峰 通用人工智能时代 企业最应抢先 如何折纸天鹅的步骤图 简单手工 高达走进现实 日本推出300万美元 未来产业的发展是一场马拉松 比 三星和SK海力士获准无限期向中国 将进化压缩到闪电般速度：数秒钟 未来产业之星大赛决赛明天在沪举 科技部等十部门印发《科技伦理审 解读2023年诺贝尔化学奖的纳米世 新型量子计算平台问世 量子计算 中国首个量子教学系统发布 戴VR 2023年诺贝尔自然科学奖：人类在 iPhone15系列对比华Mate60系列拥 OpenAI考虑自研AI芯片：想解决芯 中国科学院合成新型纳米颗粒能高 确诊肺癌基因出现突变先选择化疗 2023年诺贝尔3大奖都用于肿瘤治 2023年诺贝尔化学奖揭晓 到底什 马斯克发布人形机器人最新进展 有了量子点 未来世界真的有可能 特斯拉展示人形机器人新进展 控 个性化聊天机器人出现 AI会改
