论坛专区
在线教育
 

多位学者建言AI的“安全规范”

放大字体  缩小字体 发布日期:2022-08-05  来源:中国机器人网  浏览次数:79
 近日在北京举行的一场论坛上,新加坡管理大学教授RobertH.Deng、美国加州大学伯克利分校电子工程和计算科学系教授宋晓东等学者纷纷聚焦于人工智能技术的演进方向,并在演讲中提出,当前“存在输入攻击、投毒攻击等安全隐患”,人工智能安全规范和标准的制定及落实是当务之急。
 
  2022全球数字经济大会人工智能驱动未来产业论坛举办期间,围绕人工智能安全与健康可持续发展的话题广受关注。RobertH.Deng与宋晓东分别就“基于人工智能安全的发展战略研究”“有责可信可控的AI安全体系”等主题发表演讲。
 
  北京市经济和信息化局局长张劲松在致辞时表示,北京市正在探索建立人工智能融合应用安全风险治理体系,指导开展安全风险评估,提升风险管理能力,同时加快推进人工智能数据治理工作,强化人工智能数据资源的高质量建设、高水平开放与高水平利用,助力构筑北京人工智能安全生态。
微信图片_20220623114021
  在瑞莱智慧合伙人、高级副总裁朱萌看来,构建人工智能安全发展规范已迎来关键窗口期,“安全可控”成为亟待补全的基础能力。她进一步提出,包括解决数据强依赖带来的隐私泄露等隐患,提升算法的可靠性,保证系统有意攻击情况下依然稳定运行,以及深度合成技术应用的合规可控等方面。
 
  论坛举办期间,北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”,集中展示了北京国家人工智能创新应用先导区建设成果。这其中有瑞莱智慧人工智能安全平台RealSafe,也被称为“针对AI系统的‘杀毒软件’”。
 
  朱萌介绍说,RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测,提供被测AI模型的安全评分、风险报告,以及多种纵深防御方案。她还透露,针对人工智能领域新的安全问题和行业需求,作为清华大学人工智能研究院发起设立的AI企业,他们凭借自身的科研成果和行业落地经验,正在隐私计算、AI数字人、“AI换脸”检测等方面展开新的探索。
 
关键词: AI 安全规范
本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
 
 
[ 资讯搜索 ]  [ 加入收藏 ]  [ 告诉好友 ]  [ 打印本文 ]  [ 关闭窗口 ]

 
0条 [查看全部]  相关评论

 
展会
微信公众号
qq群
 
工控网 | 工控文库 | 工控视频 | 工控软件 | 在线教育 | 用户使用指南 | 关于我们 | 联系方式 | 使用协议 | 版权隐私 | 网站地图 |手机版 | 广告服务

本网站所有文档及文件资料,除特别标明本站原创外,均来自互联网及网友上传,如有涉及版权问题,请联系我们,我们将第一时间处理。
我们保留版权,任何涉嫌侵犯本站版权的行为,本站保留追究其法律责任的权利。

Copyright © 2018-2020 www.gkwo.net  滨州新大新机电科技有限公司 版权所有 鲁ICP备11011731号-4