首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

中国信通院:人工智能风险划分为5个等级

新京报贝壳财经讯(见习记者韦英姿)12月24日,在2024中国信通院ICT深度观察报告会人工智能伙伴分论坛上,中国信息通信研究院(简称中国信通院)发布2023年人工智能风险管理体系。该体系将人工智能带来的风险分为两类,即自身技术系统造成的风险和应用产生的风险,并参考我国现行网络安全等级保护要求将人工智能风险划分为5个等级。

据中国信通院人工智能研究中心安全与元宇宙部主任石霖介绍,最低层风险是指不构成有意义的灾难性风险,不会对个人、企业、组织造成权益伤害,“例如AlphaGo专门用于下棋领域,可能不会对现实社会造成风险”。他表示,最高的第5级风险是指对人类社会有一定颠覆性影响,“比如不受人控制的强人工智能,由于具有极强自主性,可能会属于极高风险类别”。

该体系还将人工智能风险管理分为三方:技术提供方、技术应用提供方和真正应用方。据石霖介绍,技术提供方是指提供数据算力和原始模型的技术研发企业和团队;技术应用提供方是指集成原始模型算法、算力,直接向用户提供服务的一方;真正应用方主要是指个人和组织。

“针对技术提供方和应用方,我们基于智能化程度和所在场景来确定相应的风险等级,再根据风险等级把相应的风险管理和治理理念,贯彻到研发或应用中。”石霖说。

编辑 陈莉

校对 卢茜

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OXody_oW9uKpdQPsugmmFP5Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券